一种面向图模型表征学习的结构知识探测方法

文档序号:36178224发布日期:2023-11-29 07:55阅读:50来源:国知局
一种面向图模型表征学习的结构知识探测方法

本发明涉及图神经网络,更具体地,涉及一种面向图模型表征学习的结构知识探测方法。


背景技术:

1、图神经网络在社会的各个领域都有应用。目前,存在多种图学习方法,而不同的方法性能各有优劣。例如,图表示学习方法在节点分类、链路预测和图分类等经典下游任务上表现出不同的性能。然而,目前还没有研究分析和解释通过不同的图表示学习方法在学习嵌入中实际编码了什么样的图属性。

2、图的应用范围广泛,如文献引用情况、蛋白质分类预测等。在现有技术中,研究者开发了许多图表示学习方法,例如gnn(图神经网络)、lightgcn(轻量级图卷积网络)等。这些方法在不同的任务中表现出不同的性能。然而,还没有进行更深一层的研究,即无法揭示针对不同的图表示学习方法嵌入编码了不同图属性的原因。

3、综上,目前还没有研究调查和解释通过不同的图表示学习方法在学习嵌入中实际编码了什么样的图属性。而主流方法缺乏对图的固有属性(如图的结构信息)是否被编码到学习节点和图的表示中进行系统的评估。


技术实现思路

1、本发明的目的是克服上述现有技术的缺陷,提供一种面向图模型表征学习的结构知识探测方法。该方法包括以下步骤:

2、针对不同的数据集,获取基于多种类型的图神经网络的图嵌入模型,以提取图结构信息,所述图结构信息包括节点信息和图嵌入表示;

3、对于不同的下游任务,基于设定的损失目标预训练所述图嵌入模型,并在训练过程中,利用图结构探针来探测所述图嵌入模型捕获图结构的能力,获得探测结果;

4、针对目标下游任务,基于所述探测结果,选择图嵌入模型的类型。

5、与现有技术相比,本发明的优点在于,提出了一个基于知识探针的图探针(graphprobe),用于研究和解释基于图神经网络的众多方法中,每种方法是否正确编码了结构层次的图知识。本发明根据图的内在属性,在图的结构层次上设计了结构类型的探针,在结构性方面对gnn模型方法的知识表示学习进行系统评估,用于研究在基于gnn的不同方法的图表示学习中编码了什么样的图知识,提升了图表示学习的可解释性。

6、通过以下参照附图对本发明的示例性实施例的详细描述,本发明的其它特征及其优点将会变得清楚。



技术特征:

1.一种面向图模型表征学习的结构知识探测方法,包括以下步骤:

2.根据权利要求1所述的方法,其特征在于,根据以下步骤获得所述图嵌入模型捕获图结构的能力:

3.根据权利要求1所述的方法,其特征在于,所述读出操作包括求和操作、求平均操作和最大池化操作。

4.根据权利要求1所述的方法,其特征在于,所述图嵌入模型包括gat、gcn、lightgcn、gsage、rwsgcn、ssgcn、chebyshev、gin。

5.根据权利要求1所述的方法,其特征在于,根据以下步骤提取所述图结构信息:

6.根据权利要求5所述的方法,其特征在于,所述对节点初始化采用随机初始化方式或采用带有元信息的节点初始化方式。

7.根据权利要求1所述的方法,其特征在于,所述不同的数据集包括mutag和enzymes。

8.根据权利要求1所述的方法,其特征在于,还包括:通过将所述探测结果与多层感知器mlp的预测结果进行对比来评估所述图嵌入模型捕获图结构的能力。

9.一种计算机可读存储介质,其上存储有计算机程序,其中,该计算机程序被处理器执行时实现根据权利要求1至8中任一项所述方法的步骤。

10.一种计算机设备,包括存储器和处理器,在所述存储器上存储有能够在处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至8中任一项所述的方法的步骤。


技术总结
本发明公开了一种面向图模型表征学习的结构知识探测方法。该方法包括:针对不同的数据集,获取基于多种类型的图神经网络的图嵌入模型,以提取图结构信息,所述图结构信息包括节点信息和图嵌入表示;对于不同的下游任务,基于设定的损失目标预训练所述图嵌入模型,并在训练过程中,利用图结构探针来探测所述图嵌入模型捕获图结构的能力,获得探测结果;针对目标下游任务,基于所述探测结果,选择图嵌入模型的类型。本发明在图的结构层次上设计了结构类型的探针,可用于研究图表示学习中所编码的图知识,提升了图表示学习的可解释性。

技术研发人员:吕子钰,黄兴宇,赵明宇
受保护的技术使用者:中国科学院深圳先进技术研究院
技术研发日:
技术公布日:2024/1/16
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1