基于图节点特征增强的多层迁移学习跨域推荐方法及系统

文档序号:37436670发布日期:2024-03-25 19:34阅读:18来源:国知局
基于图节点特征增强的多层迁移学习跨域推荐方法及系统

本发明属于跨域推荐,特别涉及基于图节点特征增强的多层迁移学习跨域推荐方法及系统。


背景技术:

1、基于迁移学习机制的跨域推荐是解决推荐领域数据稀疏性和冷启动问题的有效方法。跨域推荐通过利用辅助域中足够丰富的用户和物品的购买历史和交互信息来提高交互信息相对稀疏的目标域的推荐性能。目前先进的跨域推荐方法基于图神经网络,利用用户和物品的购买历史构建交互图结构,其优势在于可实现对用户和物品联合建模,在用户和物品特征学习过程中加入多层级结构化信息,通过提取多层级嵌入特征来提高用户或物品的特征表示质量。

2、但是,现有的基于图神经网络的跨域推荐方法存在以下问题:第一,仅利用单一的成对交互关系构建交互图来挖掘用户偏好,忽略了多维社交媒体信息的通用语义对用户偏好的影响,导致图节点表征不能显著体现用户偏好。例如,不同视角的辅助信息之间,不同领域的媒体信息之间,都会存在体现用户偏好的通用语义表示,即用户偏好的多维一致性。第二,未利用高阶图结构的层次特点,分层对齐特征分布差异进行域适应。基于图卷积网络的跨域推荐方法通常采用传播聚合的学习方式提取用户嵌入特征,不够精准的聚合权重会导致信息误差累积而引起负迁移问题。


技术实现思路

1、针对现有技术存在的不足,本发明提供基于图节点特征增强的多层迁移学习跨域推荐方法及系统,充分挖掘推荐系统中辅助信息的价值以提取用户固有偏好聚合特征,获得更高质量的用户特征表示,提高跨域推荐质量。

2、为了解决上述技术问题,本发明采用的技术方案是:

3、基于图节点特征增强的多层迁移学习跨域推荐方法,包括以下步骤:

4、步骤s1、获取数据及数据预处理:

5、收集用户和物品在源域和目标域的交互历史,包括用户和物品的id信息、评分信息、以及多个维度的社交媒体信息;

6、步骤s2、提取初始图节点嵌入特征:

7、利用用户和物品的索引id,基于高阶图结构生成用户和物品在源域和目标域的初始嵌入特征;

8、步骤s3、提取多维一致性用户偏好特征:

9、通过语义对齐多个维度的社交媒体信息与全局语义单元,得到用户在单域内的多维一致性偏好特征;

10、步骤s4、图节点特征增强:

11、基于transformer模型架构深度融合步骤s2生成的用户初始图节点嵌入特征和步骤s3提取的多维一致性用户偏好特征,增强图节点嵌入特征的质量,更新图节点嵌入特征;

12、步骤s5、分层对齐源域和目标域的用户特征分布;

13、对于步骤s4增强后的图节点嵌入特征,利用基于度量学习的分层域适应方法,通过学习层迁移权重将源域和目标域的用户特征分布进行分层域适应对齐;

14、步骤s6、聚合源域和目标域的各层用户和物品特征:

15、将步骤s4得到的增强后的用户在每一层的图节点嵌入特征进行聚合生成该用户在源域最终用于评分预测的用户嵌入特征;将步骤s4得到的增强后的用户在每一层的图节点嵌入特征与步骤s5得到的层迁移权重相乘之后进行聚合,生成该用户在目标域最终用于评分预测的用户嵌入特征;将步骤s2得到的物品在每一层的图节点嵌入特征进行聚合得到最终用于评分预测的物品嵌入特征;

16、步骤s7、评分预测:

17、将步骤s6得到的用户嵌入特征与物品嵌入特征的转秩做向量相乘运算,得到该用户对物品的预测打分值;选取该用户对目标物品的预测打分的高者为对该用户推荐的物品。

18、 进一步的,步骤s2中,将源域和目标域中每个用户和物品的索引id 作为特征信息进行初始图节点嵌入特征的提取,具体步骤是:设表示通过对用户索引 id 信息进行编码得到的初始用户图节点嵌入特征,为对物品索引id 信息进行编码得到的初始物品图节点嵌入特征;随后,根据图卷积的规则进行信息传递与标准化聚合,获得带有不同层次结构化信息的用户嵌入特征和物品嵌入特征,为高阶图中的层数。

19、进一步的,步骤s3中,提取用户在单域内多维一致性偏好特征,具体是:通过定义一个全局语义单元,将经过词嵌入预处理过程得到的多维社交媒体信息文档与全局语义单元g分两步进行不同粒度的语义对齐,从而提取多维一致性用户偏好特征,减少不同维度的社交媒体信息之间的语义差异,其中两步具体如下:第一步,粗粒度的语义对齐:将每个维度的社交媒体文档作为整体与全局语义单元之间的相似度;第二步,细粒度的语义对齐:建立每个维度社交媒体信息文档中的每个单词与全局语义单元之间的相关性,从而得到具有丰富语义的多维一致性用户偏好,最后将提取出的分维度表示的多维一致性用户偏好多个维度特征通过拼接方式组成一个整体的多维一致性用户偏好特征,其中表示全局语义单元的第m个维度,m为全局语义单元的总维度数,, ,… ,分别是第1,2,...,k个维度的社交媒体信息文档,, , … , 分别是第1,2,...,k个维度的一致性用户偏好特征。

20、进一步的,步骤s4中,具体步骤是,首先,将步骤s3提取出的多维一致性用户偏好特征,进入基于自注意力的transformer模型的编码器进行特征融合编码;然后,编码后的多维一致性用户偏好特征与步骤s2生成的用户嵌入特征一起作为解码器的输入,基于交叉注意力机制进行特征融合;最后,通过融合多维一致性用户偏好特征对高阶图结构的初始节点特征表示进行增强,得到更新后的图节点嵌入特征。

21、进一步的,步骤s5具体是,先将用户在源域和目标域两个域中的特征分布分层进行对齐,利用高阶图结构的层次特征来对齐源域和目标域中的特征分布差异,首先,通过定义权重向量,基于最大均值差异来学习每个样本的权重,通过最小化目标函数来减小源域和目标域的边缘分布差异同时得到权重向量,将其加和求平均值计算得到层迁移权重,该层迁移权重用于将用户特征从源域迁移到目标域;步骤s6中,将步骤s4得到的增强后的用户在每一层的图节点嵌入特征进行聚合生成该用户在源域最终用于评分预测的用户嵌入特征;将步骤s4得到的增强后的用户在每一层的图节点嵌入特征与步骤s5得到的层迁移权重相乘之后进行聚合,生成该用户在目标域最终用于评分预测的用户嵌入特征;将步骤s2得到的物品在每一层的图节点嵌入特征进行聚合得到最终用于评分预测的物品嵌入特征。

22、其次本发明还提供一种基于图节点特征增强的多层迁移学习跨域推荐系统,用于实现如前面所述的基于图节点特征增强的多层迁移学习跨域推荐方法,所述系统包括数据获取模块、基于高阶图结构的嵌入特征生成模块、多维一致性用户偏好提取模块、基于transformer的图节点特征增强模块、基于度量学习的分层域适应模块、评分预测模块,

23、所述数据获取模块用于获取用户和物品的id信息、评分信息、以及多个维度的社交媒体信息;

24、所述基于高阶图结构的嵌入特征生成模块,将源域和目标域中每个用户和物品的索引id 作为特征信息进行初始图节点嵌入特征的提取;

25、所述多维一致性用户偏好提取模块,通过对齐多个维度的社交媒体信息的通用语义提取用户在单域内的多维一致性偏好特征;

26、所述基于transformer的图节点特征增强模块用于融合基于高阶图结构的嵌入特征生成模块生成的用户初始图节点嵌入特征和多维一致性用户偏好提取模块提取的多维一致性用户偏好特征,增强图节点嵌入特征,输出更新的图节点嵌入特征;

27、所述基于度量学习的分层域适应模块,用于分层对齐源域和目标域的用户特征分布,并聚合各层用户和物品特征;

28、所述评分预测模块利用已知的目标域的物品向量,在目标域做向量相乘运算,得到该用户对目标域物品的预测打分值;选取该用户对目标物品的预测打分的高者为对该用户推荐的物品,并输出推荐结果。

29、与现有技术相比,本发明优点在于:

30、(1)充分挖掘推荐系统中媒体信息的价值,通过定义全局语义单元,对不同维度的社交媒体信息进行不同粒度的语义对齐,以提取高质量的多维一致性用户偏好。然后,基于transformer架构,将多维一致性用户偏好特征与初始的高阶图结构嵌入特征深度融合,增强图节点的特征表示。

31、(2)考虑到图结构特征表示的分层特性,本发明创新性的建模了一个基于度量学习的分层域适应模块,以利用高阶图结构的层次特征来对齐源域和目标域中的特征分布差异。同时,通过学习层迁移权重来计算源域和目标域的层相似度获得层迁移权重进行特征迁移。与将用户特征整体迁移的传统方法不同,本发明可以基于不同层进行更细致的特征传递以减少由于不准确的特征聚合导致的信息错误累积。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1