图神经网络GNN的解释方法及装置与流程

本申请涉及深度学习领域，具体而言，涉及一种图神经网络gnn的解释方法。

背景技术：

1、在很多领域中，例如社会、信息、化学和生物等，数据可以自然地建模为图。图是一种功能强大的数据表示，但使用它具有挑战性，因为它需要对丰富的关系信息以及节点特征信息进行建模。为了解决这一挑战，图神经网络(graph neural network，gnn)已经成为图上机器学习的最先进技术，因为它们能够递归地合并来自图中相邻节点的信息，自然地捕获图结构和节点特征。尽管gnn有优势，但它们缺乏透明度，因为它们不容易对其预测做出人类可理解的解释。

2、实例级方法和模型级方法从不同的角度解释了深度图模型。对于实例级方法，需要更多的人工监督，因为专家需要探索不同输入图的解释。对于模型级方法，由于解释是高层次的，因此涉及较少的人工监督。此外，实例级方法的解释基于真实的输入实例，因此它们更容易理解。然而，对于模型级方法的解释可能是人类无法理解的，因为所获得的图形模式甚至可能不存在于现实世界中。

技术实现思路

1、本申请实施例提供了一种图神经网络gnn的解释方法及装置，以至少解决由于gnn的不可解释性，gnn在图基础上生成的预测数据不可靠的问题。

2、根据本申请的一个实施例，提供了一种图神经网络gnn的解释方法，包括：获取图神经网络gnn处理生成的图数据和预测数据；通过对所述图数据中节点的第一特征进行扰动确定所述节点的第二特征，其中，所述第二特征对所述预测数据的影响力大于第一预设阈值；基于所述第二特征的重要性分数对所述预测数据进行解释。

3、在一个示例性实施例中，所述通过对所述图数据中节点的第一特征进行扰动确定所述节点的第二特征，包括：通过gnn解释程序获取节点邻接矩阵掩盖矩阵、特征掩盖矩阵和掩盖后的邻接矩阵变化情况，确定所述第二特征。

4、在一个示例性实施例中，所述通过gnn解释程序获取节点邻接矩阵掩盖矩阵、特征掩盖矩阵和掩盖后的邻接矩阵变化情况之前，还包括：根据业务含义和事后性，删除所述节点的缺失率大于第二预设阈值的特征。

5、在一个示例性实施例中，所述图数据包括所述节点、连接所述节点的边、节点特征和节点标签。

6、在一个示例性实施例中，所述基于所述第二特征的重要性分数对所述预测数据进行解释，包括：对所述第二特征的重要性分数进行统计，判断统计结果与实际值的一致性是否大于第三预设阈值；在所述统计结果与所述实际值的一致性大于所述第三预设阈值的情况下，发布所述gnn处理生成的所述图数据和所述预测数据。

7、根据本申请的另一个实施例，提供了一种图神经网络gnn的解释装置，包括：获取模块，用于获取图神经网络gnn处理生成的图数据和预测数据；第一确定模块，用于通过对所述图数据中节点的第一特征进行扰动确定所述节点的第二特征，其中，所述第二特征对所述预测数据的影响力大于第一预设阈值；第二确定模块，用于基于所述第二特征的重要性分数对所述预测数据进行解释。

8、在一个示例性实施例中，述装置还包括：处理模块，用于根据业务含义和事后性，删除所述节点的缺失率大于第二预设阈值的特征。

9、根据本申请的又一个实施例，还提供了一种计算机可读存储介质，所述计算机可读存储介质中存储有计算机程序，其中，所述计算机程序被设置为运行时执行上述任一项方法实施例中的步骤。

10、根据本申请的又一个实施例，还提供了一种电子装置，包括存储器和处理器，所述存储器中存储有计算机程序，所述处理器被设置为运行所述计算机程序以执行上述任一项方法实施例中的步骤。

11、通过本申请实施例，由于获取了图神经网络gnn处理生成的图数据和预测数据，进而通过对所述图数据中节点的第一特征进行扰动确定所述节点的第二特征，得到的第二特征对预测数据的影响力较大，相当于重要特征，基于所述第二特征的重要性分数可以对所述预测数据进行解释。解决了由于gnn的不可解释性，gnn在图基础上生成的预测数据不可靠的问题。

技术特征：

1.一种图神经网络gnn的解释方法，其特征在于，包括：

2.根据权利要求1所述的方法，其特征在于，所述通过对所述图数据中节点的第一特征进行扰动确定所述节点的第二特征，包括：

3.根据权利要求2所述的方法，其特征在于，所述通过gnn解释程序获取节点邻接矩阵掩盖矩阵、特征掩盖矩阵和掩盖后的邻接矩阵变化情况之前，还包括：

4.根据权利要求1所述的方法，其特征在于，所述图数据包括所述节点、连接所述节点的边、节点特征和节点标签。

5.根据权利要求1所述的方法，其特征在于，所述基于所述第二特征的重要性分数对所述预测数据进行解释，包括：

6.一种图神经网络gnn的解释装置，其特征在于，包括：

7.根据权利要求6所述的装置，其特征在于，所述第一确定模块还包括：

8.根据权利要求7所述的装置，其特征在于，所述装置还包括：

9.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质中存储有计算机程序，其中，所述计算机程序被处理器执行时实现所述权利要求1至5任一项中所述的方法的步骤。

10.一种电子装置，包括存储器、处理器以及存储在所述存储器上并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现所述权利要求1至5任一项中所述的方法的步骤。

技术总结
本申请实施例提供了一种图神经网络GNN的解释方法，该方法包括：获取图神经网络GNN处理生成的图数据和预测数据；通过对所述图数据中节点的第一特征进行扰动确定所述节点的第二特征，其中，所述第二特征对所述预测数据的影响力大于第一预设阈值；基于所述第二特征的重要性分数对所述预测数据进行解释。解决了由于GNN的不可解释性，GNN在图基础上生成的预测数据不可靠的问题。

技术研发人员：孙圣姿,苗森
受保护的技术使用者：中国光大银行股份有限公司
技术研发日：
技术公布日：2024/2/25