基于自动编码器和注意力机制的图异常检测方法及系统与流程

本发明属于电力自动化，尤其涉及一种基于自动编码器和注意力机制的图异常检测方法及系统。

背景技术：

1、电力系统中存在各种类型的异常，例如电压异常、电流异常、功率异常等。这些异常可能是由于设备故障、外界干扰、恶意攻击等原因引起的。异常的发生会影响电力系统的稳定性和可靠性，甚至可能导致设备损坏、停电甚至事故。因此，及时准确地检测和诊断异常情况对于电力系统的运行和安全至关重要。

2、图异常检测是一种基于图论和机器学习的方法，可以帮助识别和分析数据中的异常模式。在电力物联网中，可以利用图异常检测方法对电力数据进行建模和分析。通过构建电力系统中各个设备之间的连接关系，可以将电力数据表示为图数据，并利用图异常检测方法来发现异常模式。

3、目前已有的基于深度学习的无监督异常检测方法大都采用基于残差分析的思想，在基于残差分析的异常检测方法中，原始数据与估计数据的差距（即重构误差）是显示数据集中实例异常的有力指标。具体来说，具有较大重构误差的数据实例更有可能被认为是异常，因为它们的模式明显偏离大多数情况。在各种基于残差分析的异常检测方法中，深度自编码器实现了最先进的性能。深度自编码器是所有无监督的深度学习异常检测模型的核心，其思想是 假定正常的实例数目比异常实例数目多，深度自编码器可以记住正常的模式，但不能有效地从低维投影重建这些异常点，因此这些具有较少出现次数的异常点在通过自编码器后往往具有较大的残差，从而被判别为异常点。该类模型的框架是针对输入数据通过一个编码器（encoder）得到数据的隐层表示，然后该表示通过一个解码器（decoder）重构输入数据，最后用输入和重构的输出之间的残差损失（residual loss）大小作为衡量数据异常的指标。

4、缺陷：一些基于深度学习的异常检测方法往往将节点的结构和属性信息分开考虑，忽略了两者之间的某些交互信息。

5、注意力机制在越来越多的领域取得成功，图注意力网络也得到了广泛的研究和关注。通过注意力机制定义聚合函数，邻接矩阵仅被用来定义相关节点。具体来说，为了获得节点更好的特征表示，首先针对节点特征做一个线性变换，再针对中心节点ｉ，计算邻居节点ｊ对节点ｉ的重要性程度，然后通过softmax函数归一化获得节点的重要性程度，最后通过加权求和的聚集函数来获得节点的表示，在获得高质量的嵌入 表示后将重构损失当作异常的可能性大小。

6、缺陷：无法捕捉数据非线性关系的能力来获得节点更好的表示。

7、因此，上述现有图异常检测技术的缺点可以总结归纳为：无法应用于复杂的交互模式，并且无法提取非线性特征。

技术实现思路

1、本发明提供一种基于自动编码器和注意力机制的图异常检测方法及系统，用于解决无法应用于复杂的交互模式，并且无法提取非线性特征的技术问题。

2、第一方面，本发明提供一种基于自动编码器和注意力机制的图异常检测方法，包括：

3、以各个设备为节点和不同节点之间的关联关系为边构建图结构网络s，以及以各个设备为节点、每个节点的流量数据、业务数据作为相对应节点的初始特征和不同节点之间的关联关系为边构建图属性网络，其中 是邻接矩阵，是属性矩阵，为矩阵维度，n为节点总数，d为属性特征个数；

4、获取不同设备的流量业务数据以及不同设备之间的关联关系数据，再将所述流量业务数据和所述关联关系数据分别输入至所述图属性网络g和所述图结构网络s中；

5、通过预设的多头跳跃连接注意力机制分别为所述图属性网络g和所述图结构网络s中的每个节点分配不同的权重计算隐向量，得到与所述图属性网络g相对应的第一隐向量以及与所述图结构网络s相对应的第二隐向量；

6、以最小化网络结构和节点属性为目标的第一损失函数对所述第一隐向量和所述第二隐向量进行解码重构，得到与所述第一隐向量对应的第一特征向量和与所述第二隐向量对应的第二特征向量；

7、通过下采样的方式分别将第一重构损失误差的维度与第一隐向量的维度对齐、第二重构损失误差的维度与第二隐向量的维度对齐，若第一隐向量的维度和/或第二隐向量的维度为1*k，第一重构损失误差的维度和/或第二重构损失误差的维度为1*d，则在第一重构损失误差和/或第二重构损失误差的d个特征中，对每个特征以k/d的概率被选中组成新的重构误差，得到降维后的第一目标重构损失误差和/或第二目标重构损失误差，其中，所述第一重构损失误差由所述第一特征向量与所述第一隐向量作差得到，所述第二重构损失误差由所述第二特征向量与所述第二隐向量作差得到，

8、将所述第一目标重构损失误差和/或所述第二目标重构损失误差分别与所述第一隐向量和/或所述第二隐向量进行向量相加，并对相加后的第一隐向量和所述第二隐向量做外积进行升维处理，得到输入向量；

9、将输入向量输入至预设的估计网络中，通过所述估计网络中第二损失函数计算各个节点的分布概率，并根据所述各个节点的分布概率计算每个节点的异常分数值。

10、第二方面，本发明提供一种基于自动编码器和注意力机制的图异常检测系统，包括：

11、构建模块，配置为以各个设备为节点和不同节点之间的关联关系为边构建图结构网络s，以及以各个设备为节点、每个节点的流量数据、业务数据作为相对应节点的初始特征和不同节点之间的关联关系为边构建图属性网络，其中 是邻接矩阵，是属性矩阵，为矩阵维度，n为节点总数，d为属性特征个数；

12、获取模块，配置为获取不同设备的流量业务数据以及不同设备之间的关联关系数据，再将所述流量业务数据和所述关联关系数据分别输入至所述图属性网络g和所述图结构网络s中；

13、第一计算模块，配置为通过预设的多头跳跃连接注意力机制分别为所述图属性网络g和所述图结构网络s中的每个节点分配不同的权重计算隐向量，得到与所述图属性网络g相对应的第一隐向量以及与所述图结构网络s相对应的第二隐向量；

14、重构模块，配置为以最小化网络结构和节点属性为目标的第一损失函数对所述第一隐向量和所述第二隐向量进行解码重构，得到与所述第一隐向量对应的第一特征向量和与所述第二隐向量对应的第二特征向量；

15、降维模块，配置为通过下采样的方式分别将第一重构损失误差的维度与第一隐向量的维度对齐、第二重构损失误差的维度与第二隐向量的维度对齐，若第一隐向量的维度和/或第二隐向量的维度为1*k，第一重构损失误差的维度和/或第二重构损失误差的维度为1*d，则在第一重构损失误差和/或第二重构损失误差的d个特征中，对每个特征以k/d的概率被选中组成新的重构误差，得到降维后的第一目标重构损失误差和/或第二目标重构损失误差，其中，所述第一重构损失误差由所述第一特征向量与所述第一隐向量作差得到，所述第二重构损失误差由所述第二特征向量与所述第二隐向量作差得到，

16、处理模块，配置为将所述第一目标重构损失误差和/或所述第二目标重构损失误差分别与所述第一隐向量和/或所述第二隐向量进行向量相加，并对相加后的第一隐向量和所述第二隐向量做外积进行升维处理，得到输入向量；

17、第二计算模块，配置为将输入向量输入至预设的估计网络中，通过所述估计网络中第二损失函数计算各个节点的分布概率，并根据所述各个节点的分布概率计算每个节点的异常分数值。

18、第三方面，提供一种电子设备，其包括：至少一个处理器，以及与所述至少一个处理器通信连接的存储器，其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行本发明任一实施例的基于自动编码器和注意力机制的图异常检测方法的步骤。

19、第四方面，本发明还提供一种计算机可读存储介质，其上存储有计算机程序，所述程序指令被处理器执行时，使所述处理器执行本发明任一实施例的基于自动编码器和注意力机制的图异常检测方法的步骤。

20、本技术的基于自动编码器和注意力机制的图异常检测方法及系统，具有以下有益效果：

21、1、在特征提取后将属性与结构信息通过融合可以更好的捕捉节点的信息，解决了属性信息与结构信息单独训练缺少交互的缺点；在提取节点属性特征的基础上，也保留了节点之间的结构特征，充分利用电力物联网设备的空间和连接关系，打破了现有技术未能有效利用电力物联网设备自身与结构之间的交互信息；

22、2、通过引入图注意力机制来汇总节点之间的特征，可以根据不同设备节点之间的关联性为它们分配不同的权重系数，这一方法可以提高设备节点之间的空间关系建模的合理性，每头注意力机制可以学习到一个潜在空间下的节点表征，利用多个注意力机制即可学习到节点在多个不同潜在空间下的表征，电力物联网设备之间存在着各种复杂的空间联系，但这些联系的强度并不相同，换言之，一些节点之间的联系很强，而与其他节点的联系则相对较弱，通过使用图注意力机制，可以更准确地捕捉各节点之间的连接强度，从而能够有效地调整电力物联网设备节点之间的联系权重，这有助于模型更关注那些具有强连接的设备，从而提高异常检测的性能。