基于位置编码的软注意力机制学习方法

文档序号:35634653发布日期:2023-10-06 04:30阅读:18来源:国知局
基于位置编码的软注意力机制学习方法

本发明涉及图神经网络会话推荐领域,具体讲是设计一种基于位置编码的软注意力机制学习方法。


背景技术:

1、基于gnn的会话推荐是一种使用图神经网络(gnn)技术进行个性化会话推荐的方法;传统的个性化推荐系统通常基于用户的历史行为和兴趣来生成推荐结果,但对于会话数据这种包含时间顺序和交互关系的数据,传统方法往往难以捕捉到其特点;gnn作为一种专门用于处理图结构数据的机器学习模型,能够捕捉节点之间的关系和依赖;在基于gnn的会话推荐中,用户的会话可以被建模为一个图,其中节点表示不同的项目或行为,边表示不同的交互关系,如点击、购买等;通过gnn的学习和推断,可以从会话图中提取有关用户兴趣和行为模式的特征,从而进行个性化的会话推荐;然而,目前现有的大部分会话推荐方案没有考虑位置编码对全局特征的重要性,如果没有引入位置编码,可能会带来时序信息丢失、节点关系混淆以及上下文建模能力减弱等坏处,影响模型对会话数据的准确理解和推荐结果的质量。

2、软注意力机制是一种常用的技术,用于加强模型对输入数据的关注和权重分配;通过计算每个输入元素的注意力权重,软注意力机制使模型能够有选择地关注与任务相关的信息;与传统的硬注意力机制不同,软注意力机制可以对多个输入元素分配不同的权重,并且这些权重是连续的、可微分的,从而可以与梯度下降等优化算法一起进行端到端的训练;软注意力机制的核心思想是通过学习到的注意力权重来调整输入元素的表示或加权求和,以便模型可以更加准确地关注对当前任务有用的信息;它通过灵活地调整注意力权重,软注意力机制可以帮助模型更好地理解和利用输入数据的相关性,并提高模型的性能和效果。


技术实现思路

1、为了提高基于图神经网络的会话推荐的推荐效果,本发明提供了一种基于位置编码的软注意力机制学习方法。

2、本发明解决其技术问题所采用的技术方案是:一种基于位置编码的软注意力机制学习方法,包括以下步骤:

3、1)生成位置编码:

4、1.1)生成一个学习的位置矩阵;

5、1.2)根据与最后一项的距离计算位置编码;

6、2)嵌入软注意力机制:

7、2.1)计算平均特征;

8、2.2)将位置编码嵌入至软注意力机制的计算;

9、2.3)将得到的系数与全局特征线性结合,得到组间会话特征;

10、与现有的技术相比,本发明的有益效果是在图神经网络会话推荐的软注意力机制中引入位置编码,位置编码可以帮助模型更好地理解会话数据中节点的上下文关系和顺序信息;通过为节点分配独特的位置向量,模型能够准确捕捉节点在会话中的位置和角色;这样,软注意力机制可以更准确地计算节点之间的注意力权重;引入位置编码能够提升模型的上下文建模能力,并增强推荐结果的准确性和个性化程度。



技术特征:

1.一种基于位置编码的软注意力机制学习方法,其特征在于:


技术总结
本发明涉及图神经网络会话推荐领域,具体讲是设计一种基于位置编码的软注意力机制学习方法。基于GNN的会话推荐是一种使用图神经网络(GNN)技术进行个性化会话推荐的方法。在基于GNN的会话推荐中,用户的会话可以被建模为一个图,其中节点表示不同的项目或行为,可以从会话图中提取有关用户兴趣和行为模式的特征,从而进行个性化的会话推荐。为了提高基于图神经网络的会话推荐的推荐效果,本发明提供了一种基于位置编码的软注意力机制学习方法,位置编码可以帮助模型更好地理解会话数据中节点的上下文关系和顺序信息,本发明在图神经网络会话推荐的软注意力机制中引入位置编码,通过为项分配独特的位置编码,模型能够准确捕捉项在会话中的位置和角色;这样,软注意力机制可以更准确地计算节点之间的注意力权重;本发明通过引入位置编码有效地提升模型的上下文建模能力,并增强推荐结果的准确性和个性化程度。

技术研发人员:李凤银,刘洪哲,于喜龙,李国萍,周挥宇
受保护的技术使用者:曲阜师范大学
技术研发日:
技术公布日:2024/1/15
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1