基于三维交叉注意力机制的变压器声纹故障辨识方法及系统与流程

本发明属于深度学习，涉及一种基于三维交叉注意力机制的变压器声纹故障辨识方法及系统。

背景技术：

1、变压器是电力系统的核心枢纽设备，其稳定运行对电力系统至关重要。变压器在复杂多样电力运行场景的影响下，可能会出现材料劣化、部件磨损、绝缘性能下降等现象，进而引起异常振动、局部放电等一系列机械故障问题，严重时甚至会导致电网大规模停电事故。因此，变压器机械故障辨识的研究尤为迫切。由于磁致伸缩、电磁力等因素的作用，当变压器存在机械结构相关的潜在缺陷时常伴随异常声纹的产生。因此，基于变压器声纹数据信息进行变压器机械故障辨识，成为一种可行的解决方案。然而，目前研究辨识方法仍存在辨识模型较为简单，模型准确率较低，鲁棒性较差，性能极易受到外界环境噪声的干扰等问题。此外，对于不同型号和规模的变压器，如何进行模型的泛化和适应性调整也需要进行深入研究。

技术实现思路

1、本发明的目的在于解决现有技术中辨识模型简单，模型准确率较低，鲁棒性较差，性能极易受到外界环境噪声的干扰等问题，同时对于不同型号和规模的变压器，如何进行模型的泛化和适应性调整也需要进行深入研究的问题，提供一种基于三维交叉注意力机制的变压器声纹故障辨识方法及系统。

2、为达到上述目的，本发明采用以下技术方案予以实现：

3、基于三维交叉注意力机制的变压器声纹故障辨识方法，包括：

4、对采集的变压器声纹信号数据进行预处理，获取帧信号；

5、对帧信号进行特征向量的提取，获取若干分支特征向量，并对不同分支特征向量进行正则化和归一化，获取正则规范后化的不同分支特征向量；

6、对正则规范后化的不同分支特征向量之间的横向跨分支交叉注意力权重进行计算，获取多分支特征向量的横向注意力输出；

7、对正则规范后化的不同分支特征向量以不同分支特征性向量同一特征点为粒度向量，计算单元向量间的纵向跨粒度交叉注意力权重，得到多分支特征向量纵向跨粒度注意力输出；

8、基于多分支特征向量的横向注意力输出和纵向跨粒度注意力输出，获取变压器机械故障辨识结果。

9、本发明的进一步改进在于：

10、进一步的，对采集变压器声纹信号数据进行预处理，获取帧信号，具体为：预处理包括预加重、分帧和加窗；所述预加重用于抑制声纹信号的频谱倾斜现象，实现平衡频谱；所述分帧用于抑制变压器声纹信号数据的时变特性；所述加窗用于减少帧边缘处信号突变和频谱泄露。

11、进一步的，对帧信号进行特征向量的提取，获取若干分支特征向量，具体为：所述帧信号的多分支特征向量包含mfcc系数、lpc系数、振动熵、频谱中心和频谱展宽特征；设帧信号为x(n),n＝1,2,…,n；

12、对mfcc系数进行特征提取，具体为：

13、step 1.1:对帧信号进行快速傅里叶变换

14、

15、step1.2:计算傅里叶变换后的频域信号的能量谱

16、step1.3:将频率f转换为梅尔刻度

17、step1.4:将梅尔刻度轴分为k+1段，设每一点的梅尔刻度频率为f(m)；

18、step1.5:每两段之间配置一个梅尔三角滤波器hm(k)，共配置k个:

19、

20、step1.6:计算每个滤波器hm(k)的对数能量s(m)：

21、

22、step1.7:进行离散余弦变换得到mfcc系数：

23、

24、lpc系数进行提取，具体为：计算帧信号自相关函数：

25、

26、基于levinson-durbin递推算法迭代算出分帧信号的p阶lpc系数；

27、振动熵反映声音振动的复杂性，计算分帧信号的傅里叶变换后，由频域信号得到振动熵，如公式(6)所示：

28、

29、频谱中心用以描述声纹信号的能量集中区间，如公式(7)所示：

30、

31、频谱展宽用以描述音频信号频谱能量的分布宽度，如公式(8)所示：

32、

33、其中，ak为频域信号的幅值。

34、进一步的，对不同分支特征向量进行正则化和归一化，获取正则规范后化的不同分支特征向量，具体为：基于得到的mfcc系数、lpc系数、振动熵、频谱中心和频谱展宽，设mfcc系数、lpc系数、振动熵、频谱中心和频谱展宽的向量长度分别为d1,d2,d3,d4,d5，设分帧数为n；对长度不同分支向量进行规范，统一长度为d：

35、d＝max{d1,d2,d3,d4,d5}  (9)

36、长度不足的向量进行补0处理；规范化后上述五个分支向量分别记为：

37、f1,f2,f3,f4,f5∈rn×d  (10)。

38、进一步的，对正则规范后化的不同分支特征向量之间的横向跨分支交叉注意力权重进行计算，获取多分支特征向量的横向注意力输出，具体为：设不同多分支特征向量为fn,n＝1,2,...,5，

39、step2.1：分别计算不同多分支特征向量的注意力值查询向量qn、键向量kn和值向量vn；

40、

41、其中,wq,wk,wv∈r512×n为网络中需学习的特征参数；

42、step2.2：计算横向跨分支交叉注意力权重an,n′∈r512×512,an,n′是分支向量fn和fn'之间的交叉注意力权重；

43、

44、step2.3：计算跨分支交叉注意力值向量：

45、

46、step2.4：跨分支交叉注意力分支输出经过一层线性输出层转化为和多分支特征向量fn相同的维度，然后经过残差层和fn进行直连计算，最后通过平均池化层得到跨分支交叉注意力输出；

47、step2.4.1：将跨分支交叉注意力分支输出转化为和fn相同的维度：

48、

49、step2.4.2：通过残差层和池化层后得到最终的横向跨分支交叉注意力输出

50、

51、其中，的维度和fn保持一致。

52、进一步的，对正则规范后化的不同分支特征向量以不同分支特征性向量同一特征点为粒度向量，计算单元向量间的纵向跨粒度交叉注意力权重，得到多分支特征向量纵向跨粒度注意力输出，具体为：

53、step3.1：针对不同分支特征向量fn同一像素坐标点(i,j)特征点分别记为：

54、fn(i,j) i＝1,2,…,n,j＝1,2,…,d  (16)

55、将同一像素坐标点(i,j)的特征点组成该像素点的粒度向量fi,j：

56、fi,j＝[f1(i,j),f2(i,j),…,f5(i,j)],fi,j∈r5  (17)

57、step3.2：对粒度向量fi,j进行特征激活；设激活后的特征粒度向量为ei,j∈r512,激活特征权重向量为wi,j∈r5×512:

58、ei,j＝fi,j·wi,j  (18)

59、其中，激活特征权重向量wi,j是后续由反向传播算法更新的参数向量；

60、step3.3：计算纵向跨粒度交叉注意力权重bi,j,i′,j′∈r512×512；bi,j,i′,j′是像素坐标(i,j)处的特征粒度向量ei,j和像素坐标(i′,j′)处的特征粒度向量ei′,j′之间的交叉注意力权重，如公式(19)所示:

61、bi,j,i′,j′＝softmax(relu(ei,j,ei′,j′))  (19)

62、step3.4：计算纵向跨粒度交叉注意力输出：

63、

64、step3.5：将激活后的特征粒度向量进行恢复，保持和输入的粒度向量尺度一致；和横向跨分支交叉注意力输出一样，同样经过残差计算和池化处理，得到

65、

66、其中si,j∈r512×5为特征恢复向量，与wi,j一样，均为需要学习的参数向量；最后的与特征维度保持一致；将粒度向量的数据重新整合，以多分支向量的形式呈现，新的多分支特征向量记为

67、进一步的，基于多分支特征向量的横向注意力输出和纵向跨粒度注意力输出，获取变压器机械故障辨识结果，具体为：

68、将横向跨分支交叉注意力输出和纵向跨粒度交叉注意力输出线性相加，共同组成三维交叉注意力输出mn：

69、

70、将三维交叉注意力输出mn进行整合，并通过多层感知器层得到最后的辨识结果，设多层感知器层函数为mlp(·)，拼接函数为concat(·)，输出表达式如下所示：

71、output＝mlp(concat(mn)),n＝1,2,…,5  (23)。

72、基于三维交叉注意力机制的变压器声纹故障辨识系统，包括：

73、预处理模块，所述预处理模块对采集的变压器声纹信号数据进行预处理，获取帧信号；

74、正则化模块，所述正则化模块对帧信号进行特征向量的提取，获取若干分支特征向量，并对不同分支特征向量进行正则化和归一化，获取正则规范后化的不同分支特征向量；

75、第一获取模块，所述第一获取模块对正则规范后化的不同分支特征向量之间的横向跨分支交叉注意力权重进行计算，获取多分支特征向量的横向注意力输出；

76、第二获取模块，所述第二获取模块对正则规范后化的不同分支特征向量以不同分支特征性向量同一特征点为粒度向量，计算单元向量间的纵向跨粒度交叉注意力权重，得到多分支特征向量纵向跨粒度注意力输出；

77、第三获取模块，所述第三获取模块基于多分支特征向量的横向注意力输出和纵向跨粒度注意力输出，获取变压器机械故障辨识结果。

78、一种终端设备，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现如上述方法的步骤。

79、一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行时实现如上述方法的步骤。

80、与现有技术相比，本发明具有以下有益效果：

81、本发明通过声纹传感器采集变压器的声纹信号，在将声纹信号进行预处理操作后，提取声纹信号的多分支特征向量，并将其正则化处理，然后分别计算不同分支特征向量之间的横向跨分支交叉注意力权重，从而得到多分支特征向量的横向注意力输出。然后，以不同分支特征性向量同一特征点为粒度向量，计算单元向量间的纵向跨粒度交叉注意力权重，得到纵向跨粒度注意力输出。将横纵向注意力输出进行线性相加得到三维交叉注意力输出结果。本发明通过引入三维交叉注意力机制，提高辨识模型的抗噪声性能，同时具有良好的泛化性和适应性，可有效支撑变压器的声纹故障辨识需求。