一种基于多方面增强的图神经网络推荐方法

文档序号:26589204发布日期:2021-09-10 20:19阅读:来源:国知局

技术特征:
1.一种基于多方面增强的图神经网络推荐方法,其特征在于,包括以下步骤:步骤1,对评论信息进行预处理,从输入的文本评论中提取共享的方面集合以分析用户购买行为的共性特征;步骤2,根据提取到的方面集合为数据集中的每条评论构建“评论

方面”对,基于bert模型来提取针对特定方面的情感特征;利用嵌入层将评分信息映射为低维稠密的用户交互特征和项目交互特征;步骤3,并行地构建多个异构方面感知图捕捉用户多方面的购买偏好,引入方面情感特征进行方面感知的邻居聚合;步骤4,增加自适应的路由融合模块为不同方面的偏好动态分配权重,实现细粒度偏好的动态融合,得到融合后的用户特征和项目特征;步骤5,将上述过程构建的用户特征和项目特征作为最终的用户特征和项目特征的初始化参数,并利用贝叶斯个性化排序进行训练得到最终的用户

项目评分的预测值。2.根据权利要求1所述的基于多方面增强的图神经网络推荐方法,其特征在于:所述步骤1具体为,对评论信息进行预处理包括过滤占位符和无效的评论,随后利用sentires工具从所有的用户评论中提取出用户关心的方面,包括单词或短语,并根据方面出现的次数降序排列选择排名靠前的n个方面组成方面集合。3.根据权利要求1所述的基于多方面增强的图神经网络推荐方法,其特征在于:所述步骤2具体为,步骤2.1,对于数据集中的每条评论,针对方面集合中的每一个方面构建“评论

方面”对作为后续步骤的输入,随后使用预训练的bert模型提取构建句子的特征作为方面情感特征;方面情感特征提取的过程简记为:h
u,i,a
=bert(c
ui

a)∈r
d
其中c
ui
表示用户对项目的评论,h
u,i,a
表示用户u对项目i在方面a上提取的评论特征,d表示方面特征的维度;步骤2.2,对于评分信息,采用一个嵌入函数来得到用户和项目的稠密向量表示,具体表示如下:其中u,i分别为用户和项目的ids,p
a
∈r
m
×
d
和q
a
∈r
n
×
d
分别代表针对方面a的用户嵌入矩阵和项目嵌入矩阵,通过随机初始化得到,m,n分别为用户数量和项目数量,e
u,a
,e
i,a
∈r
d
分别表示映射得到用户交互特征和项目交互特征;d表示交互特征的维度。4.根据权利要求3所述的基于多方面增强的图神经网络推荐方法,其特征在于:所述步骤3具体为,步骤3.1,在学习到评论体现的方面情感特征和评分特征,并行地构建多个异构地方面感知图其中表示方面集合,表示方面的个数;目的是利用方面情感特征优化信息聚合捕捉细粒度的用户偏好;其中,任一异构的无向图被定义为g
a
=(v,
h
a
),表示由用户和项目构成的节点集合,h
a
为边的集合,h
u,i,a
∈h
a
不仅表示u和i之间有边,而且代表了用户对项目在方面a上的情感特征,即赋予了边实际的含义;步骤3.2,在给定方面感知的交互图g
a
后,利用图神经网络捕捉用户交互图的结构特征并优化节点嵌入,因此设计一个方面感知的邻居聚合方法,在捕捉细粒度的用户偏好的同时减少噪声项目对偏好学习的影响,将一个节点的特征表示为其邻居节点的特征聚合:其中e

n,a
为更新后的节点特征,n
n
为节点n的邻居集合,π
n,t,a
为n

t上信息传播的衰减因子,控制有多少信息可以从节点t传递到节点n;w
a
为一个可训练的权重矩阵;另外设计了方面感知的注意力,其中加入了节点的细粒度的方面特征来控制信息流动,能够根据用户偏好和项目属性在该方面的契合度来计算注意力权重π
n,t,a
,形式化为如下的形式:其中e
n,a
,e
t,a
和h
n,t,a
分别为方面级的节点特征、邻居特征和方面情感特征;||表示连接操作(concatenate),为每个方面特定的权重向量;leakyrelu是非线性的激活函数,最后应用softmax函数计算π
n,t,a
的值;为了构建评论特征和评分特征的双向交互,在每一次卷积操作后,根据信息聚合的结果反过来对评论特征进行更新,并将调整后的边特征加入下一次的卷积操作中:h

n,t,a
=h
n,t,a
+e

n,a
tanh(e
t,a
)其中h

n,t,a
为更新后的边特征,tanh表示非线性函数;步骤3.3,采用多层的图卷积来实现信息在图结构上的高阶传播,将多层的图卷积定义如下:其中,和分别表示当前节点和邻居节点的特征,上角标(l+1)和(l)表示卷积的层数,为了简便,将上述方面感知的邻居聚合算法,即整个步骤3.2的计算过程简记为agg(
·
);在计算时,将初始化的节点特征作为在多层卷积的节点特征表示之后,通过求平均得到优化后的节点方面级向量表示l为限定卷积层数的超参数:最终经过多个并行的方面感知图,得到节点的嵌入表示其中上角标a1,a2,

,a
k
用来区分不同方面的特征并且5.根据权利要求4所述的基于多方面增强的图神经网络推荐方法,其特征在于:所述步骤4具体为,步骤4.1,在自适应路由融合模块,将每个方面感知的节点嵌入作为一个胶囊,并将方
面融合的过程形式化为一个双层胶囊网络;对于任意的采用动态路由算法来计算每个胶囊激活第二层胶囊的可能性,具体地,将融合后的偏好特征s
n
表示为不同方面嵌入地加权连接:其中c
a
=softmax(b
a
)为耦合系数,用来评估不同方面对用户整体偏好的贡献大小,通过以下两个步骤来计算b
a
:首先针对加权连接得到s
n
∈r
d
,应用一个非线性的squashing函数得到向量v
n
,squashing函数可以在保持输入方向不变的情况下将长度压缩为[0,1],即:随后根据v
n
和胶囊中原始向量的一致性来计算得到b
a
,即首先将v
n
分割为个特征向量然后根据公式计算得到b
a
;通过这样迭代的方式,自适应地调整不同方面特征对最终用户偏好和项目属性的建模,实现多方面特征的自适应融合,得到最终的用户特征表示和项目特征表示6.根据权利要求5所述的基于多方面增强的图神经网络推荐方法,其特征在于:所述步骤5具体为,选择贝叶斯个性化排序损失进行回归,bpr是一个成对的损失函数,它假设用户交互的项目相比未观察到的项应该有更高的分数,表达式如下:其中表示预测评分,表示三元组的训练数据,对于所有的用户,i,j分别为集合和的随机采样;σ(
·
)为sigmoid函数;表示训练参数的l2正则化,λ是超参数。

技术总结
本发明公开了一种基于多方面增强的图神经网络推荐方法。本发明定义了一个方面增强的图神经网络框架,该框架主要包括三个模块:特征学习模块、方面感知图模块和基于路由的融合模块。特征学习模块分别利用BERT和嵌入层学习方面情感特征和交互特征。方面感知图模块,通过并行地构建多个方面感知图来捕捉细粒度的用户偏好和项目属性。基于路由的融合模块,通过学习用户偏好在不同方面的分布实现方面偏好的动态融合。本发明借助多个方面感知图学习细粒度的用户偏好,并借助路由机制动态融合多方面的偏好特征得到统一的偏好表示,从而提高推荐的性能和可解释性。推荐的性能和可解释性。推荐的性能和可解释性。


技术研发人员:李晶 张晨燕 何发智 刘东华 王明锋 常军
受保护的技术使用者:武汉大学
技术研发日:2021.06.10
技术公布日:2021/9/9
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1