一种CTR预估模型推荐方法与流程

本发明涉及深度学习，具体涉及一种ctr预估模型推荐方法。

背景技术：

1、随着互联网的日益普及，人们在网上购物或浏览信息时有了更多的选择，然而互联网海量的信息使得人们不可能选择到符合自己需求或喜好的产品，只能通过精确的搜索来购物，这降低了购物的效率和用户的购物体验。推荐系统作为一种信息过滤系统，通过学习用户的个人偏好和历史行为来预测用户的偏好，这不仅为卖家节省了广告成本，也改善了用户的购物体验。

2、点击率(click-through rate,ctr)预估模型是推荐系统的重要组成部分，通过分析用户的历史点击行为和已知的上下文特征，分析推荐目标的点击概率。常见的ctr预估模型包括因子分解机(factorization machine,fm)和逻辑回归(logistic regression,lr)作为基本模型，这些基本模型主要是通过手动或自动交叉构建特征向量来获得点击率预测，但是基本模型只能预测特征表面上的关系，无法对高阶特征之间的深层隐藏关系和规律特征做出有效判断。

3、因此，本发明提供了一种ctr预估模型推荐方法，以至少解决上述部分技术问题。

技术实现思路

1、针对现有技术问题，本发明了提供一种ctr预估模型推荐方法，将深度学习与推荐系统相结合，在用户行为建模中利用基于滤波器的注意力机制完成权重分配，同时基于门控机制特征交互方法，利用门控交叉网络和深度神经网络来学习显式高阶特征交互。

2、为实现上述目的，本发明采用的技术方案如下：

3、一种ctr预估模型推荐方法，包括：

4、步骤1、获取ctr预估模型训练所需的数据集样本；

5、步骤2、对数据集样本中的数据进行预处理，得到用户特征向量、物品特征向量、上下文特征向量和用户行为特征向量；

6、步骤3、构建一个以预设的目标物品特征为带通的滤波器，利用滤波器对用户行为特征向量进行过滤，对过滤后的用户行为特征向量进行池化聚合，得到用户行为过滤特征向量；

7、步骤4、利用门控机制对用户特征向量、物品特征向量和上下文特征向量进行处理，得到用户-物品高阶交叉特征、用户-上下文高阶交叉特征和物品-上下文高阶交叉特征；

8、步骤5、利用多层感知器，通过用户行为过滤特征向量、用户-物品高阶交叉特征、用户-上下文高阶交叉特征和物品-上下文高阶交叉特征得到点击预测结果；

9、步骤6、通过点击预测结果和数据集样本中点击真实结果构建损失函数，采用损失函数对ctr预估模型进行训练。

10、进一步地，步骤2中，采用ctr预估模型的输入层对数据集样本中的数据进行向量嵌入，得到用户特征向量、物品特征向量、上下文特征向量和用户行为特征向量。

11、进一步地，步骤3中，利用滤波器对用户行为特征向量进行过滤包括：假设用户行为特征向量 c=[ c 1, c 2,..., c i,..., c n]，预设的目标物品特征为 c y，通过目标物品特征 c y过滤得到过滤后的用户行为特征向量；

12、。

13、进一步地，步骤3中，对过滤后的用户行为特征向量进行池化聚合，得到用户行为过滤特征向量包括：通过聚合池化层将过滤后的用户行为特征向量转化为用户行为过滤特征向量，。

14、进一步地，步骤4中，通过堆叠若干层网络得到用户-物品高阶交叉特征，用户-上下文高阶交叉特征和物品-上下文高阶交叉特征；

15、；

16、；

17、；

18、euser、eitem、econtext分别是用户特征向量、物品特征向量和上下文特征向量，、和分别是、、的上一层门控交叉输出的上一阶特征，和是门控交叉的两个可学习的参数矩阵，、和是门控网络的三个可学习参数矩阵，是 sigmoid激活函数。

19、进一步地，步骤5包括：将用户行为过滤特征向量、用户-物品高阶交叉特征，用户-上下文高阶交叉特征和物品-上下文高阶交叉特征进行拼接，将拼接结果输入多层感知器mlp，选择relu作为激活函数，再使用softmax函数完成归一化操作，输出点击预测结果；

20、。

21、进一步地，步骤6中，通过点击预测结果和数据集样本的点击真实结果构建二分类交叉熵损失函数 loss ctr，采用二分类交叉熵损失函数 loss ctr对ctr预估模型进行训练。

22、进一步地，二分类交叉熵损失函数 loss ctr ，和分别为点击预测结果和对应数据集样本中的点击真实结果， n表示对应数据集样本中的点击真实结果的数目。

23、与现有技术相比，本发明具有以下有益效果：

24、本发明将深度学习与推荐系统相结合，在用户行为建模中利用基于滤波器的注意力机制完成权重分配，过滤与用户当前兴趣偏差的行为；同时基于门控机制特征交互方法，利用门控交叉网络和深度神经网络来学习显式高阶特征交互，能够对高阶特征之间的深层隐藏关系和规律特征做出有效判断，从而实现精准推荐。

技术特征：

1.一种ctr预估模型推荐方法，其特征在于，包括：

2.根据权利要求1所述的一种ctr预估模型推荐方法，其特征在于，步骤2中，采用ctr预估模型的输入层对数据集样本中的数据进行向量嵌入，得到用户特征向量、物品特征向量、上下文特征向量和用户行为特征向量。

3.根据权利要求1所述的一种ctr预估模型推荐方法，其特征在于，步骤3中，利用滤波器对用户行为特征向量进行过滤包括：假设用户行为特征向量c=[c1,c2,...,ci,...,cn]，预设的目标物品特征为cy，通过目标物品特征cy过滤得到过滤后的用户行为特征向量；

4.根据权利要求3所述的一种ctr预估模型推荐方法，其特征在于，步骤3中，对过滤后的用户行为特征向量进行池化聚合，得到用户行为过滤特征向量包括：通过聚合池化层将过滤后的用户行为特征向量转化为用户行为过滤特征向量，。

5.根据权利要求4所述的一种ctr预估模型推荐方法，其特征在于，步骤4中，通过堆叠若干层网络得到用户-物品高阶交叉特征，用户-上下文高阶交叉特征和物品-上下文高阶交叉特征；

6.根据权利要求5所述的一种ctr预估模型推荐方法，其特征在于，步骤5包括：将用户行为过滤特征向量、用户-物品高阶交叉特征，用户-上下文高阶交叉特征和物品-上下文高阶交叉特征进行拼接，将拼接结果输入多层感知器mlp，选择relu作为激活函数，再使用softmax函数完成归一化操作，输出点击预测结果：

7.根据权利要求6所述的一种ctr预估模型推荐方法，其特征在于，步骤6中，通过点击预测结果和数据集样本的点击真实结果构建二分类交叉熵损失函数lossctr，采用二分类交叉熵损失函数lossctr对ctr预估模型进行训练。

8.根据权利要求7所述的一种ctr预估模型推荐方法，其特征在于，二分类交叉熵损失函数lossctr，和分别为点击预测结果和对应数据集样本中的点击真实结果，n表示对应数据集样本中的点击真实结果的数目。

技术总结
本发明公开了一种CTR预估模型推荐方法，包括获取并处理数据集样本，得到用户特征向量、物品特征向量、上下文特征向量和用户行为特征向量；构建滤波器，对用户行为特征向量过滤和池化，得到用户行为过滤特征向量；利用门控机制对用户特征向量、物品特征向量和上下文特征向量处理，得到用户‑物品高阶交叉特征、用户‑上下文高阶交叉特征和物品‑上下文高阶交叉特征；利用多层感知器，由用户行为过滤特征向量、用户‑物品高阶交叉特征、用户‑上下文高阶交叉特征和物品‑上下文高阶交叉特征得到点击预测结果；构建损失函数、对CTR预估模型进行训练。本发明过滤与用户当前兴趣偏差的行为，对高阶特征之间的深层隐藏关系和规律特征做出判断。

技术研发人员：谷满昌,张琪浩
受保护的技术使用者：云筑信息科技（成都）有限公司
技术研发日：
技术公布日：2024/4/17