基于具有注意力机制的深度聚类变分自编码器的电信号聚类分析方法

本发明涉及一种基于具有注意力机制的深度聚类变分自编码器的电信号聚类分析方法。

背景技术：

1、在飞行器的运行测试过程中，各传感器所采集的连续时序信号是数据集的主要来源。然而，传感器采集到的数据集多为无标签样本，这给进一步分析和信号分类带来了挑战。为了实现对信号的识别与监测，我们需要对数据进行截取和分析，并构建带标签的数据集，以便进行分类器模型的有监督训练和信号识别系统的构建。传统方法是通过领域专家进行手动标注，但对于大规模和复杂的数据集来说，人工分类的时间和人力成本是巨大的。

2、在机器学习领域中，聚类分析算法被广泛应用于处理无标签的数据。对于含有大量数据的数据库和数据集来说，快速有效地进行数据标签化是一项艰巨而费时费力的任务。聚类分析算法通过自动归类和整理数据，为大数据集的标签化提供了可行性。由于同类别信号数据具有一定的相似性，聚类分析算法可以将多类别信号进行归类整理，同时辅以人工识别，构建专家知识库。

3、因此，聚类分析算法在这种情况下具有重要的应用价值。它可以快速对大量复杂数据进行初步分类和整理，减少人工标注的工作量，提高效率。通过聚类分析算法和人工识别的结合，可以构建专家数据库，为后续的分类器模型训练和信号识别系统的构建奠定基础。

4、传统的聚类分析算法包括k均值算法、密度聚类算法、模糊聚类算法等，但这些算法对数据的特征代表属性依赖性强，虽然在低维度特征的数据集上表现良好，但在高维数据上的聚类性能差。对于高维数据，为了进行聚类分析，通常采用无监督特征提取算法，将高维数据映射到低维特征空间中，再根据低维空间下的特征向量进行聚类分析，但电信号数据噪声多、数据量极大，使用这种传统方法提取的特征不具有代表性，且该类方法算法割裂，聚类和特征提取算法间缺乏数据反馈，从而导致聚类效果不佳。

技术实现思路

1、针对现有技术的上述问题，本发明人利用基于注意力机制的深度神经网络的特征提取能力，对基于变分自编码器的一体化的深度聚类算法进行了改进设计，构建了基于具有注意力机制的深度聚类变分自编码器的电信号聚类分析方法，从而能够对复杂的电信号数据进行自主聚类分析。

2、目前在飞行器电信号测试分类模型的构建过程当中，需要带标签的电信号数据对分类模型实现监督式训练，从而优化分类器性能。然而，大部分的原始数据都是处于无标签状态，需要对数据进行标注等预处理手段，才能应用于实际的分类任务当中。而传统的数据标注手段往往依靠专家人工完成，该过程费时费力，大大影响了模型构建的效率。

3、为此，本发明对基于深度卷积变分自编码器网络的聚类方法进行了重要实质性改进，使得本发明的基于具有注意力机制的深度聚类变分自编码器的电信号聚类分析方法能够在不采用先验的数据标签的情况下，对原始电信号数据实现无监督的初步聚类，且该聚类结果可以用于电信号的辅助标注，能够有效提升专家数据的标注效率。

4、根据一个更具体的方面，本发明对变分自编码器特征提取模型进行了改进，融合了卷积神经网络结构以及自主设计的聚类结构，提出了根据本发明的基于具有注意力机制的深度聚类变分自编码器的电信号聚类分析方法具有更强的特征提取能力和泛化能力，对高维或低维信号都具有更好的适用性，并体现出了良好的算法性能。

5、同时，本发明在自编码器的编码器和解码器中加入了对多尺度特征信号进行融合的注意力机制层。注意力机制层的加入可以充分利用飞行器不同电信号的尺度差异性，更好的对电信号不同尺度的信号特征分配权重，帮助整个网络对于不同种类电信号的区分，进一步提升电信号聚类分析的准确率。

6、根据本发明的一个方面，提供了一种针对飞行器电信号聚类任务的基于注意力机制的深度变分自编码器，其特征在于包括：

7、变分自编码器模块；

8、多尺度残差卷积网络模块；

9、注意力机制模块；

10、信号聚类模块。

11、本发明中的基于注意力机制的深度变分自编码器的飞行器电信号聚类分析克服了现有飞行器信号聚类分析中存在的高维信号深受噪声困扰，难以完成特征有效提取的问题，有效解决了高维信号数据量大、噪声强等问题，显著提升了飞行器电信号聚类分析的准确率。

技术特征：

1.一种基于具有注意力机制的深度聚类变分自编码器的电信号聚类分析方法，其特征在于包括：

2.根据权利要求1所述的电信号聚类分析方法，其特征在于：

3.根据权利要求1所述的电信号聚类分析方法，其特征在于所述第一和第二多尺度残差膨胀卷积模块各包括：

4.根据权利要求1-3之一所述的电信号聚类分析方法，其特征在于进一步包括采用两阶段训练进行训练，包括：

技术总结
本发明涉及一种飞行器电信号聚类分析的深度变分自编码器算法。包括：变分自编码器模块，多尺度残差卷积网络模块和信号聚类模块。飞行器电信号进行聚类分析时(101)，首先进行信号采集与传输(102)，送入多尺度残差卷积模块(103)和注意力机制层(104)，将加权多尺度特征输入最大池化层(104)完成特征提取，将特征映射分别通过两个并列的全连接层(105)和(106)得到特征均值(107)与特征方差(108)，之后通过解码器网络，采用与编码器完全对称的结构，最终输出重构信号(113)，旨在与输入信号完全匹配。通过构建损失函数与两阶段训练方式对网络进行训练，最终通过重构特征向量(109)完成聚类分析(115)。

技术研发人员：李可,王少凡,李鹏蛟,武昊鹏,阚艳,庞丽萍,杨顺昆
受保护的技术使用者：北京航空航天大学
技术研发日：
技术公布日：2024/1/15