基于增强对抗学习的自编码器算法

本发明涉及神经网络领域，特别是涉及改进的增强自编码器和对抗的解码器结构在异常检测中的应用。

背景技术：

1、在异常检测任务中，传统的编码器-解码器模型在检测接近正常数值的异常类型时，容易由于重建效果过于接近正常值而导致异常得分无法超过阈值，从而降低检测精度。另外，简单的编码器在多维数据集的表达能力较弱，且使用平均输出会丢失部分表现优异编码器的重要贡献。

技术实现思路

1、本发明的目标是提供一种改进的神经网络模型，用于改善异常检测的性能。该模型包括两个训练阶段：改进的增强自编码器和对抗的解码器。

2、在第一个阶段的改进的增强自编码器中，本发明通过使用多个集成编码器逐个学习数据，并根据输入和解码器输出之间的均方误差来更新数据点的分布函数的权重，进一步提高模型提取有效特征的能力。同时，本发明的改进方法还能够解决初始阶段假性异常点以及输出时采用平均数函数会丢失部分表现优异编码器的特征表示问题。

3、在第二个阶段的对抗的解码器中，本发明提出在解码器阶段增加对抗学习训练，增强解码器鉴别真实数据的能力，以达到更好的检测效果。这样可以在检测阶段识别接近正常数值的异常类型，避免由于重建效果太接近正常值而导致异常得分无法超过阈值的问题，提高检测精度。

4、为了解决模型在训练初期欠拟合以及使用平均输出丢失部分表现优异编码器的问题，本发明还提出了改进的增强编码器。针对模型欠拟合问题，本发明采用同时关注异常样本和正常样本的加权采样方法，使模型能够更好地学习所有样本的特征表达。针对使用平均输出丢失表现优异编码器的问题，本发明提出了一种基于集成编码器的加权平均输出方法。具体来说，本发明通过计算每个编码器的异常得分，并根据其性能对异常得分进行加权平均，以获得最终的异常得分。这样可以确保在输出阶段充分利用所有编码器的优异特征表示，从而提高模型的性能。

5、为使本发明的上述目的、特征和优点能更明显易懂，下文特举较佳实施例，并配合所附附图，作详细说明如下。

技术特征：

1.一种用于神经网络训练的改进增强自编码器，其特征在于，包括：

2.一种对抗的解码器结构，用于神经网络训练，包括：

3.一种集成学习方法，用于减少分类器中的偏差和方差，包括：

4.如权利要求3所述的一种改进的增强编码器，用于神经网络训练，包括：

5.如权利要求2所述的一种深层和浅层结合的训练方法，用于提高模型的检测精度，包括：

6.一种合并训练的方法，用于同时进行增强编码器和对抗训练，包括：

7.如权利要求3所述的一种集成学习方法，一种根据误差值计算编码器重要性的方法，包括：

8.如权利要求3所述的一种基于分布函数的样本选择方法，用于增强编码器的训练，包括：

技术总结
本发明提供一种基于增强对抗学习的自编码器算法，该方法通过引入改进的增强自编码器和对抗的解码器结构，以提高模型对有效特征的提取能力和异常检测性能。在训练过程中，使用集成学习的思想，通过多个编码器的组合和自适应权重分配，实现对异常样本和正常样本的同时关注。此外，通过引入噪声层和深层生成器，增强模型对真实数据和重构生成数据的区分能力。通过合并增强编码器和对抗训练的训练步骤，减少迭代次数，提高训练效率和模型稳定性。

技术研发人员：陈良银,刘静雯,吴迪智,陈彦如,赵万槟,冯康慧,李春江,钟旺
受保护的技术使用者：四川大学
技术研发日：
技术公布日：2024/2/29