一种基于图注意力机制的电力领域知识推荐方法及系统与流程

本发明属于电力领域知识图谱，具体地，涉及一种基于图注意力机制的电力领域知识推荐方法及系统。

背景技术：

1、随着电力领域数字化的不断发展，以及电力领域知识图谱的不断推进，数据规模，特别是知识规模不断扩大，每个人既是知识的消费者也是知识的生产者。作为知识内容的消费者，在海量信息中找到自己需求的难度日益提升；为了解决目前信息技术发展所带来的信息过载问题，面向领域知识推荐方法得到广泛关注。

2、现有技术中，由于电力领域知识结构复杂，传统的推荐方法难以有效利用电力知识图谱中的信息，从而达到准确推荐的目的。注意力机制已成功用于许多基于序列的任务，例如机器翻译、机器阅读理解等相关任务，将图注意力机制与图卷积升级网络进行融入，提出采用图注意力机制(graph attention network，gat)进行实体的拓扑表征。现有技术1“一种基于知识图谱与注意力机制的推荐方法”(cn115374288a)将推荐系统中的项目与知识图谱的实体对齐，形成训练样本集；然后构建包括输入层、编码层、特征融合层及输出层的推荐模型，将训练样本集作为推荐模型的输入，采用选取的损失函数作为优化目标，对推荐模型进行训练；最后，基于训练好的推荐模型计算用户采纳待推荐项目的概率，根据概率的大小进行排序，生成用户的推荐候选集，现有技术1虽然解决了传统推荐方法存在的数据稀疏和解释性差，但并未考虑知识图谱的多级拓扑结构对推荐程度带来的影响。现有技术2“基于知识图谱的文本分类方法、系统及电子设备”(cn114218358a)，利用文本数据里的实体信息以及该实体在现有知识图谱中对应的一跳实体的信息对文本数据进行分类预测，包括：利用已初始化的知识图谱确定实体向量对应的一跳实体向量；再根据已确定的一跳实体向量对实体向量进行更新，并利用已完成更新的实体向量对句子向量进行更新，现有技术2中仅基于知识图谱对实体进行向量表征，仅包含部分语义特征，从而影响知识推荐的准确性和效率。

技术实现思路

1、为解决现有技术中存在的不足，本发明提供一种基于图注意力机制的电力领域知识推荐方法及系统，基于图注意力机制，将电力领域知识图谱中的支撑实体知识与拓扑结构进行融合得到高维向量表征，同时获取用户与支撑实体知识高维向量表征与再与用户表征进行推荐概率打分，优化电力领域中的知识推荐，提高推荐的准确性和效率。

2、本发明采用如下的技术方案。

3、一种基于图注意力机制的电力领域知识推荐方法，包括：

4、步骤1，根据用户与电力知识图谱的交互记录，基于图谱查询方法，从电力知识图谱中抽取一个支撑实体知识以及与支撑实体知识之间存在一跳关系的多个关联实体知识；

5、步骤2，利用bert预训练语言模型，获取支撑实体知识对应的向量表征和各关联实体知识对应的向量表征；

6、步骤3，基于图注意力机制训练得到支撑实体与各关联实体的注意力权重，利用各关联实体知识对应的向量表征、注意力权重以及bert预训练语言模型的训练权重，对支撑实体知识进行高维向量表征；

7、步骤4，根据用户与电力知识图谱的交互记录，基于one-hot编码建立用户与支撑实体知识的交互编码；

8、步骤5，将高维向量表征与交互编码的逻辑运算结果作为用户对支撑实体知识的注意力得分；

9、步骤6，利用注意力得分及高维向量表征，基于激活函数计算每个支撑实体知识推荐给用户的概率得分；

10、步骤7，重复步骤1至6获得多个支撑实体知识推荐给用户的概率得分，对各概率得分进行从高至低排序，将排序在前面k位的支撑实体知识推荐给用户。

11、用户与电力知识图谱的交互记录包括用户在电力知识图谱中的点击、浏览记录。

12、步骤1中一跳关系包括：包含关系。

13、en表示与支撑实体知识ei有一跳关系的关联实体知识，多个关联实体知识en构成了关联实体集合eij，rn表示单个关联实体知识en与支撑实体知识ei之间的关联关系，多个关联关系rn构成了关联关系集合rij；

14、关联实体集合eij和关联关系集合rij构成的实体连接图gi满足如下关系式：

15、gi＝<eij，rij>    (1)

16、式中，

17、eij表示关联实体集合，en∈eij，

18、rij表示关联关系集合，rn∈rij，

19、n为关联实体知识的序号，n∈nj，

20、nj表示与支撑实体知识ei有一跳关系的关联实体知识的数量。

21、支撑实体知识ei的高维向量表征如下式所示：

22、

23、式中，

24、σ(·)为softmax激活函数，

25、wn为第n个关联实体知识对应的bert预训练语言模型训练权重，

26、为第n个关联实体知识en对应的向量表征，

27、为支撑实体知识ei与第n个关联实体知识en的注意力权重，

28、n为关联实体知识的序号，n∈nj，

29、nj表示与支撑实体知识ei有一跳关系的关联实体知识的数量。

30、注意力权重如下式所示：

31、

32、式中，为支撑实体知识ei对应的向量表征。

33、多个支撑实体知识ei构成支撑实体集合，利用one-hot编码获取用户与支撑实体集合的交互编码。

34、注意力得分如下式所示：

35、

36、式中，

37、⊙为同或运算，

38、为基于one-hot编码建立用户与支撑实体知识的交互编码，

39、w、b分别为机器学习的第一参数、第二参数。

40、k设置为不小于3且不大于20的整数，通常设置为10。

41、本发明还提出了一种基于图注意力机制的电力领域知识推荐系统，包括：知识抽取模块，向量表征模块，编码模块，评分模块，推荐模块；

42、知识抽取模块，用于根据用户与电力知识图谱的交互记录，基于图谱查询方法，从电力知识图谱中抽取一个支撑实体知识以及与支撑实体知识之间存在一跳关系的多个关联实体知识；

43、向量表征模块，用于基于bert预训练语言模型，获取支撑实体知识对应的向量表征和各关联实体知识对应的向量表征；基于图注意力机制训练得到支撑实体与各关联实体的注意力权重，利用各关联实体知识对应的向量表征、注意力权重以及bert预训练语言模型的训练权重，对支撑实体知识进行高维向量表征；

44、编码模块，用于根据用户与电力知识图谱的交互记录，基于one-hot编码建立用户与支撑实体知识的交互编码；

45、评分模块，用于将高维向量表征与交互编码的逻辑运算结果作为用户对支撑实体知识的注意力得分；利用注意力得分及高维向量表征，基于激活函数计算每个支撑实体知识推荐给用户的概率得分；

46、推荐模块，用于将获得的多个支撑实体知识推荐给用户的概率得分进行从高至低排序，将排序在前面k位的支撑实体知识推荐给用户；k设置为不小于3且不大于20的整数，通常设置为10。

47、本发明的有益效果在于，与现有技术相比，本发明提出的方法，结合了电力知识图谱和图注意力机制，将图谱中的实体进行高维向量表征，可以更好地挖掘电力知识图谱中的关联信息和特征，从而使得推荐更加精准和个性化，同时也具有推广到其他领域的可能性。

48、本发明通过将图注意力机制运用于电力知识图谱的推荐方法中，能够更好地结合电力知识图谱中的图结构信息，能够自适应地学习节点之间的关系，从而更好地表征节点的特征。并且相较于传统结合知识图谱进行推挤的方法，图注意力机制只需要对每个节点和其邻居节点进行计算，而不需要计算整个图，因此在处理大规模图时具有高效性。

49、本发明利用高维向量表征与用户表征进行推荐概率打分，从而提高推荐效果。

50、利用图注意力机制对图谱中的实体进行融合拓扑结构的高维向量表征，再与用户表征进行推荐概率打分，提升推荐效果。