一种基于双社交视图对比学习的推荐方法及系统

文档序号:37310205发布日期:2024-03-13 20:58阅读:14来源:国知局
一种基于双社交视图对比学习的推荐方法及系统

本发明涉及推荐系统,尤其涉及一种基于双社交视图对比学习的推荐方法及系统。


背景技术:

1、目前,对于社交推荐系统的研究,主要集中在基于协同过滤的方法、图神经网络、轻量级图卷积网络、图自监督学习框架以及社交关系建模和整合交互社交信息等方面。这些技术通过分析用户行为和社交关系,提供个性化的推荐内容,为用户提供更好的使用体验。

2、协同过滤方法通过分析用户的历史行为来推测其兴趣,然后向其推荐与兴趣相似的物品,这种方法的核心思想是用户群体中的人具有类似的兴趣。最初,人们通过矩阵分解(matrix factorization,mf)技术来对用户-物品交互进行建模,从而提高推荐的准确性。

3、图神经网络作为一类专门用于处理图结构数据的神经网络模型,在推荐系统中得到广泛应用,其中,图卷积神经网络(graph convolutional network,gcn)是最为常见的模型之一。gcn通过多跳邻居聚合的方式来对图的拓扑结构进行编码,从而捕捉到用户之间的社交关系和影响力。另外,图注意力网络(gat)采用注意力机制来加权目标节点的邻居,以缓解邻居信息中的噪声问题。

4、轻量级图卷积网络(light graph convolutional network,lightgcn)模型在推荐系统中取得显著的性能提升。lightgcn保留了gcn中重要的聚合和归一化项,并舍弃了对推荐性能没有帮助的特征变换和非线性激活模块。这种简化的模型结构使得训练和推理的效率大大提高,同时在保持推荐准确性方面也取得了不错的结果。

5、图自监督学习框架(self-supervised graph learning for recommendation,sgl)也是近期的研究热点之一。由于推荐系统中存在长尾问题和噪声,sgl引入了对比学习方法,通过随机丢弃生成多个增强图的形式进行对比损失的计算,从而加强节点的表示学习。这种自监督学习的方式有助于提高推荐系统的鲁棒性和泛化能力。

6、针对社交关系建模和整合交互社交信息的方法,一方面,在有效刻画不同朋友的影响力的方向上,graphrec模型和danser模型采用图注意力网络,考虑不同朋友的影响力,取得了较好的性能;为了解决社交信息中的噪声问题,esrf模型利用自动编码器过滤不相关的社交关系,并构建新的邻居来对抗噪声。另一方面,在整合交互和社交信息的方向上,sept模型采用三元自监督训练的方式来捕捉更多的监督信号;mhcn模型则采用超图的形式改善复杂的社交关系,利用高阶用户关系来增强社交推荐;除此之外,design模型首次将知识蒸馏(knowledge distillation,kd)与社交网络结合,以主辅模型联合社交图的形式取得了显著的性能提升。

7、虽然上述几种方法对复杂的用户-物品交互模式进行了建模,但对于尚未与大量的物品交互过或者交互物品并不属于真实偏好的用户来说,大多数基于协同过滤的推荐方法仍然存在数据稀缺、对推荐准确度有负面影响的数据等问题,因此,并不能很好地解决监督信号稀疏和噪声问题。并且,虽然现实中用户和物品的体量很庞大,但由于人们爱好不广泛,对互联网平台的使用程度不同等因素,导致每个用户平均交互过的物品数量通常较少,而且,经常会存在一些不符合偏好的交互,这一系列现象导致来自真实世界的用户-物品交互数据通常是稀疏、长尾且带有噪声的。此外,社交网络中同样存在对用户相关特征信息贡献不大,甚至会影响对目标用户偏好判断的噪声,如果单纯地对社交网络结构进行直接编码,会因为引入嘈杂的信息而妨碍主推荐模块对交互信息的判断,从而导致推荐性能的下降。

8、因此,如何生成更精准、更个性化的推荐,是本领域技术人员亟需解决的问题。


技术实现思路

1、有鉴于此,本发明提供了一种基于双社交视图对比学习的推荐方法及系统,用以生成更精准、更个性化的推荐。

2、因此,本发明提供了一种基于双社交视图对比学习的推荐方法,包括如下步骤:

3、s1:对原始社交视图进行随机边丢弃处理,生成两个增强社交视图;利用矩阵乘法的形式,在一个增强社交视图上构建表示相对稳定社交关系的三元社交视图,在另一个增强社交视图上构建表示共同偏好的共享视图;利用lightgcn作为社交编码器,将用户的初始嵌入分别经由原始社交视图、三元社交视图和共享视图后,输出用户的嵌入表示;

4、s2:计算三元社交视图与原始社交视图之间的结构一致性因子i,以及共享视图与原始社交视图之间的结构一致性因子ii;对两个结构一致性因子分别进行可用性扩充处理,生成两个概率向量;基于伯努利分布生成两个掩蔽向量,将两个掩蔽向量分别应用于用户-物品交互二部图的增强,每一个用户节点根据掩蔽向量中该节点对应的掩蔽值进行与该节点相连所有边的丢弃,生成两个用户-物品交互增强视图;

5、s3:将原始用户-物品交互二部图以及两个用户-物品交互增强视图各自对应的嵌入表示分别输入基于lightgcn的用户-物品交互编码器中,其中,用户的嵌入表示为社交编码器输出的嵌入表示,物品的嵌入表示为最初定义的嵌入表示,经用户-物品交互编码器输出原始用户-物品交互二部图以及两个用户-物品交互增强视图各自对应的用户-物品嵌入表示对;对原始用户-物品交互二部图对应的用户-物品嵌入表示对进行点积预测,生成用于推荐的预测评分,并计算bpr损失函数;对两个用户-物品交互增强视图各自对应的用户-物品嵌入表示对分别进行对比学习,计算基于infonce的对比损失函数;根据计算得到的bpr损失函数和两个对比损失函数,对模型进行优化。

6、在一种可能的实现方式中,在本发明提供的上述基于双社交视图对比学习的推荐方法中,步骤s1,具体包括:

7、s11:对原始社交视图进行随机边丢弃处理,生成两个增强社交视图和公式表达如下:

8、

9、

10、其中,表示原始社交视图的用户节点;表示节点之间的边,代表用户之间的社交关系;表示随机生成的两个用于边丢弃的掩蔽向量,生成概率由超参数ρsn控制;⊙表示哈达玛积;

11、s12:利用矩阵乘法的形式构建三元社交视图和共享视图令表示对应增强社交视图生成的用户邻接矩阵,令表示对应增强社交视图生成的用户邻接矩阵,公式表达如下:

12、

13、

14、其中,表示用户-物品交互二部图矩阵,m表示用户数量;

15、s13:利用lightgcn作为社交编码器,公式表示如下:

16、

17、其中,表示在视图中与用户u有联结关系的其他用户集合;表示第l层的用户嵌入表示,表示第l-1层的用户嵌入表示;

18、将用户的初始嵌入经由原始社交视图后输出用户的嵌入表示eu,将用户的初始嵌入经由三元社交视图后输出用户的嵌入表示将用户的初始嵌入经由共享视图后输出用户的嵌入表示

19、在一种可能的实现方式中,在本发明提供的上述基于双社交视图对比学习的推荐方法中,步骤s2,具体包括如下步骤:

20、s21:计算三元社交视图与原始社交视图之间的结构一致性因子i,以及共享视图与原始社交视图之间的结构一致性因子ii,公式表达如下:

21、

22、

23、其中,表示结构一致性因子i,表示结构一致性因子ii;φ(·)为式(5)表示的社交视图编码器;s(·)表示余弦相似度函数;

24、s22:考虑交互物品变化对用户u的影响程度和公式表达如下:

25、

26、

27、其中,与结构一致性因子i成正比,与结构一致性因子ii成正比;

28、利用截断概率pτ对和进行最小-最大归一化处理,公式表达如下:

29、

30、

31、其中,wmax表示数值最大的wmin表示数值最小的

32、将得到的中间变量的均值以及超参数ρa进行乘积,得到概率向量i,将得到的中间变量的均值以及超参数ρa进行乘积,得到概率向量ii,公式表达如下:

33、

34、

35、其中,表示概率向量i,表示概率向量ii;超参数ρa控制均值对概率向量i的影响程度以及均值对概率向量ii的影响程度;

36、s23:基于伯努利分布生成两个掩蔽向量将两个掩蔽向量分别应用于用户-物品交互二部图的增强,中的每一个用户节点根据掩蔽向量中该节点对应的掩蔽值进行与该节点相连所有边的丢弃,生成用户-物品交互增强视图i和用户-物品交互增强视图ii,公式表达如下:

37、

38、

39、其中,表示由概率向量i生成的掩蔽向量,表示由概率向量ii生成的掩蔽向量,表示训练集中的用户节点集合,表示训练集中的物品节点集合,ε表示用户-物品交互边,表示用户-物品交互增强视图i,表示用户-物品交互增强视图ii,表示原始用户-物品交互二部图中的用户节点。

40、在一种可能的实现方式中,在本发明提供的上述基于双社交视图对比学习的推荐方法中,步骤s3,具体包括如下步骤:

41、s31:假设一初始输入对为则用户-物品交互编码器的公式表达如下:

42、

43、

44、其中,表示用户u在第l层图传播层上的编码表示,表示物品i在第l层图传播层上的编码表示,表示用户u在第l+1层图传播层上的编码表示,表示物品i在第l+1层图传播层上的编码表示;表示与用户u交互的物品集合,表示物品i的连接用户的集合;将每一层嵌入进行组合,形成最终的用户嵌入xu和物品嵌入xi;

45、s32:将原始用户-物品交互二部图对应的嵌入表示用户-物品交互增强视图i对应的嵌入表示用户-物品交互增强视图ii对应的嵌入表示分别输入用户-物品交互编码器中,输出原始用户-物品交互二部图对应的用户-物品嵌入表示对(xu,xi)、用户-物品交互增强视图i对应的用户-物品嵌入表示对用户-物品交互增强视图ii对应的用户-物品嵌入表示对

46、s33:对原始用户-物品交互二部图对应的用户-物品嵌入表示对(xu,xi)进行点积预测,生成用于推荐的预测评分公式表达如下:

47、

48、其中,表示xu的转置;

49、并计算bpr损失函数公式表达如下:

50、

51、其中,u表示训练集中的用户集合;表示用户u未交互过的任一物品,通过随机采样取得;σ(·)表示sigmoid激活函数;表示模型对物品的预测评分;表示模型对用户u未交互过的任一物品的预测评分;

52、s34:对用户-物品交互增强视图i对应的用户-物品嵌入表示对用户-物品交互增强视图ii对应的用户-物品嵌入表示对分别进行对比学习,计算基于infonce的对比损失函数,公式表达如下:

53、

54、

55、其中,u′作为负样本,表示训练集中除u外的其他任一用户;i′作为负样本,表示训练集中用户u未交互过的任一物品;i表示训练集中的物品集合;τ表示温度参数;

56、s35:根据计算得到的bpr损失函数和两个对比损失函数模型的综合优化损失函数为;

57、

58、其中,β为超参数,用于调整来自两个对比损失函数分别在综合优化损失函数中的视图;θ表示模型参数的集合;λ表示l2正则化参数,用于调整正则化后模型参数的权重值以防止过拟合。

59、本发明还提供了一种基于双社交视图对比学习的推荐系统,包括:社交视图生成模块、概率引导交互视图增强模块和模型优化模块;其中,

60、所述社交视图生成模块,用于对原始社交视图进行随机边丢弃处理,生成两个增强社交视图;利用矩阵乘法的形式,在一个增强社交视图上构建表示相对稳定社交关系的三元社交视图,在另一个增强社交视图上构建表示共同偏好的共享视图;利用lightgcn作为社交编码器,将用户的初始嵌入分别经由原始社交视图、三元社交视图和共享视图后,输出用户的嵌入表示;

61、所述概率引导交互视图增强模块,用于计算三元社交视图与原始社交视图之间的结构一致性因子i,以及共享视图与原始社交视图之间的结构一致性因子ii;对两个结构一致性因子分别进行可用性扩充处理,生成两个概率向量;基于伯努利分布生成两个掩蔽向量,将两个掩蔽向量分别应用于用户-物品交互二部图的增强,每一个用户节点根据掩蔽向量中该节点对应的掩蔽值进行与该节点相连所有边的丢弃,生成两个用户-物品交互增强视图;

62、所述模型优化模块,用于将原始用户-物品交互二部图以及两个用户-物品交互增强视图各自对应的嵌入表示分别输入基于lightgcn的用户-物品交互编码器中,其中,用户的嵌入表示为社交编码器输出的嵌入表示,物品的嵌入表示为最初定义的嵌入表示,经用户-物品交互编码器输出原始用户-物品交互二部图以及两个用户-物品交互增强视图各自对应的用户-物品嵌入表示对;对原始用户-物品交互二部图对应的用户-物品嵌入表示对进行点积预测,生成用于推荐的预测评分,并计算bpr损失函数;对两个用户-物品交互增强视图各自对应的用户-物品嵌入表示对分别进行对比学习,计算基于infonce的对比损失函数;根据计算得到的bpr损失函数和两个对比损失函数,对模型进行优化。

63、本发明提供的上述基于双社交视图对比学习的推荐方法及系统,针对社交视图,实现两种基于三元社交视图增强方法的数据增强操作,在挖掘其中隐含的社交关系的同时,减弱社交网络所带来的噪声,并引入结构一致性因子以衡量用户对扰动的抵抗能力,从而达到结合用户的社交辅助信息指导交互图增强过程的作用;针对用户-物品交互二部图,采用概率引导增强方式,生成应用于对比任务的增强视图。相比于现有的推荐方法仅在社交视图上进行对比,本发明引入概率引导方法,直接指导用户-物品交互二部图的增强及对比学习过程,有利于生成更精准、更个性化的推荐;相比于现有的基于对比学习的推荐方法中仅使用用户-物品交互二部图进行随机增强的策略,本发明引入社交视图,并对社交视图中的结构信息进行挖掘,可以在有效补充更多的用户侧信息的同时,进一步缓解用户-物品交互二部图本身存在的监督信号稀疏的问题。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1