一种基于自注意力机制和动态图的信息级联预测方法与流程

文档序号:28272230发布日期:2021-12-31 20:00阅读:来源:国知局

技术特征:
1.一种基于自注意力机制和动态图的信息级联预测方法,其特征在于,包括以下步骤:s1:将每条消息转发记录对应一张级联图,并采样得到该级联图在观测时间内的演变子图;对采样得到的演变子图分别进行编码,得到节点的向量表示矩阵;s2:通过向量表示矩阵计算节点及其邻居节点的注意力权重,并将该节点的邻居节点的特征聚合到该节点,得到该节点新的向量表示;s3:将s3得到的向量表示和该节点的位置嵌入求后,对每个节点的历史状态进行学习,得到每个节点的表示;s4:将得到的每个节点的表示输入到多层感知器中,得到级联增量的预测结果。2.根据权利要求1所述的一种基于自注意力机制和动态图的信息级联预测方法,其特征在于,所述步骤s1中在观测时间内以相同的间隔时间进行采样。3.根据权利要求1所述的一种基于自注意力机制和动态图的信息级联预测方法,其特征在于,所述步骤s1中的编码具体为:将演变子图中的节点嵌入多维向量空间。4.根据权利要求3所述的一种基于自注意力机制和动态图的信息级联预测方法,其特征在于,所述节点嵌入的维度可以调整。5.根据权利要求1所述的一种基于自注意力机制和动态图的信息级联预测方法,其特征在于,建立融合自注意力机制和动态图的级联预测模型,所述融合自注意力机制和动态图的级联预测模型包括节点嵌入层、结构自注意力层、时序自注意力层和级联增量预测层,分别实现步骤s1、s2、s3和s4。6.根据权利要求5所述的一种基于自注意力机制和动态图的信息级联预测方法,其特征在于,所述结构自注意力层通过多层堆叠的自注意力机制实现,最后输出的是节点的空间结构特征的表示。7.根据权利要求5所述的一种基于自注意力机制和动态图的信息级联预测方法,其特征在于,所述时序自注意力层采用多个堆叠的时序自注意力模块,充分考虑级联图的动态演化过程,捕捉多个时间段的节点的时序变化。8.根据权利要求5所述的一种基于自注意力机制和动态图的信息级联预测方法,其特征在于,所述融合自注意力机制和动态图的级联预测模型的训练过程中,采用交叉熵作为损失函数对模型进行优化,并在迭代中损失连续10次不再减小时,结束训练。

技术总结
本发明公开了一种基于自注意力机制和动态图的信息级联预测方法,包括:S1:将每条消息转发记录对应一张级联图,并采样得到该级联图在观测时间内的演变子图;对采样得到的演变子图分别进行编码,得到节点的向量表示矩阵;S2:通过向量表示矩阵计算节点及其邻居节点的注意力权重,并将该节点的邻居节点的特征聚合到该节点,得到该节点新的向量表示;S3:向量表示和该节点的位置嵌入求后,对每个节点的历史状态进行学习,得到每个节点的表示;S4:将得到的每个节点的表示输入到多层感知器中,得到级联增量的预测结果。本发明避免了人工标记特征所造成级联图表示的困难问题,减少了信息的损失,提升了预测性能。提升了预测性能。提升了预测性能。


技术研发人员:李志 王瑞锦 张凤荔 张志扬 高强 李志刚 张文博 李志勇 伍琦
受保护的技术使用者:子亥科技(成都)有限公司
技术研发日:2021.09.02
技术公布日:2021/12/30
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1