一种面向多源异构工业传感器数据的异常检测方法与流程

1.本发明属于工业传感器检测技术领域，特别是涉及一种面向多源异构工业传感器数据的异常检测方法。


背景技术：

2.随着信息技术飞速发展，以传感器为基础的监测网络被广泛应用于各种工业监测和控制当中。
3.目前在多源异构工业传感器数据的异常检测方法主要分为三种：第一种是基于深度学习算法的异常检测方法，结合工业传感器自身的时序特性，其中最为常用的是无监督学习的非线性时间序列“arima+garch”混合模型；第二种方法是基于多层网络流量的异常检测方法，其结合工业控制系统的工业过程进行分层，并基于有效负载的分析和基于报文头数据的分析；第三种是耦合深度学习算法的多层网络流量的异常检测方法。
4.但这些方法只能在传感器异常时才能检测到，而不能对传感器故障进行预测，而且不能很好的确定其检测的准确性。


技术实现要素：

5.为了解决上述问题，本发明提出了一种面向多源异构工业传感器数据的异常检测方法，不仅能够对传感数据进行异常检测，并且采用多种方法来提高检测的准确性，而且能够对传感器故障进行预测，对预测结果采取一定的措施，大大减少了传感器数据异常的情况。
6.为达到上述目的，本发明采用的技术方案是：一种面向多源异构工业传感器数据的异常检测方法，包括步骤：
7.s10,数据采集，从传感器中获取到初始信号数据；
8.s20,初始信号数据分别进入堆叠自编码器模型进行训练获得第一异常检测结果，和采取用于无监督异常检测的元学习方法进行异常检测获得第二异常检测结果；将两种检测结果相结合，最后得出最终异常结果；
9.s30,将堆叠自编码器模型输出的检测结果输入时间transformer模型对传感器异常进行预测。
10.进一步的是，初始信号数据进行预处理对数据进行提取后，用于堆叠自动编码器训练；
11.对初始信号数据进行预处理采用基于生成对抗网络的数据增强的方法，基于对抗学习和合作学习，生成器生成具有两种特性的异常状态样本，即真实和可区分样本，生成的样本被添加到实际样本当中，并作为一个平衡的训练数据，完成数据提取并设置窗口大小。
12.进一步的是，所述生成对抗网络包括生成器g和鉴别器d，生成器将从初始信号数据中生成制造的样本g(z)，鉴别器将区分输入样本的来源是来自实际数据xr还是生成制造的样本g(z)，通过对抗性学习导致新生成样本的分布，接近采集过程中实际样本的潜在分
布p(xr)；
13.将过程状态标签附加到生成器和鉴别器的输入，它使用户能够确定采集过程异常状态下生成的样品数量，以生成平衡样本。
14.进一步的是，所述鉴别器中目标是通过与生成器的对抗性学习来最大化生成对抗网络目标函数；鉴别器通过梯度惩罚来正则化鉴别器的梯度；并向鉴别器提供由实际样本xr和错误标记的过程状态ym组成的附加输入，鉴别器通过最小化来学习区分输入(xr,ym)不是实际的而是生成的样本。
15.进一步的是，所述生成器中目标是通过最小化生成对抗网络目标函数，通过学习采集过程的实际样本分布p(xr)来生成样本；生成器在与分类器相关的目标函数中具有附加项，与鉴别器的对抗关系相反，生成器和分类器之间建立合作关系，以在采集过程中的过程状态之间生成容易区分的样本，将生成样本的标签的分类损失提供给生成器的目标函数，最后通过最小化其目标函数来训练生成器；
16.分类器的目标函数由采集过程的真实样本和生成样本的分类损失组成，生成器的样本补充了采集过程中的真实样本，以在分类器中生成平衡的训练数据；通过最小化等式，分类器被优化以最小化来自实际和生成样本的分类损失。
17.进一步的是，通过堆叠自编码器模型进行训练，包括单独训练自动编码器模型，使用堆叠式自动编码器组合每个单独训练自动编码器模型的输出；
18.自动编码器的中间层用于表示后方模型的输入的特征向量，对每个模型重复此过程，直到最后一层，该层使用前一层构建的特征作为最后一层的输入，以再现输入层；在最后一层使用最精简的特征形式来重新创建初始输入，异常由最终模型的输入和输出的特征向量识别，然后对其进行误差分析。
19.进一步的是，采取用于无监督异常检测的元学习方法进行异常检测，引用一个用于异常检测的元学习器和一个用于收集自动监督异常检测的元数据的工具，来进行异常检测。
20.进一步的是，根据提供的现有数据集作为元数据集，利用元数据集建立异常检测的自动监督学习对用于异常检测的元学习器进行优化，并通过用于异常检测的元学习器对新数据集进行检测。
21.进一步的是，由堆叠式自动编码器的输出作为时间transformer模型的输入，通过qos位置编码描述输入序列中位置信息的每个时间步长生成的维度向量，然后将其传递给时间transformer的编码器模块，编码器模块首先获取qos注意力得分，最终馈送到前馈网络中对qos进行预测,完成对传感器的故障预测以提高异常检测的准确性。
22.采用本技术方案的有益效果：
23.本发明引用了一种机器学习方法来建模正常工作操作并检测异常。该方法从已知正常操作的信号中通过自编码器提取关键特征，以模拟机器行为并自动识别异常，并结合用于无监督异常检测的元学习方法来提高异常检测的准确性。并通过自编码器的输出数据作为输入，采用时间transformer模型对传感器故障进行预测，在一定程度上能够提高异常检测的准确度。
24.本发明为了能够更好的实现多源异构传感器数据的异常检测，本采用一种基于生成对抗网络的数据增强的方法平衡训练数据，并且采用两种方法，堆叠式自编码器和用于
无监督异常检测的元学习方法，来对多源异构传感器数据进行异常检测，将两种方法的检测结果相结合，提高异常检测的准确性。同时采用时间transformer模型对qos进行预测，也是对传感器故障进行预测，在某种程度上提高了异常检测的准确性和效率。
25.本发明为了能够突出异常行为的发生，利用堆叠式自动编码器从采集到的原始信号中提取特征，并使用这些特征来识别异常。堆叠式自动编码器允许通过叠加自编码器来创建更复杂的模型，因为模型迫使数据维度降低，进而确定数据中更复杂的特征。这种多层次模型通过仅对正常数据建模来学习和预测异常的数据，可以提供更准确的结果。同时运用用于无监督异常检测的元学习方法，与堆叠式自动编码结合使用，提高异常检测的准确性。
26.本发明为了能够更好的对传感器数据进行异常检测，在异常检测完成后，将堆叠式自动编码器最后输出的数据作为输入数据送入到时间transformer模型对传感器的qos进行预测，这也是对传感器故障进行预测，从而在一定程度上能够提高异常检测的准确度。
27.本发明由于从正常状态收集的传感器数据样本的数量远远超过了从异常状态收集的数据样本，同时传感器通常处于正常状态，因此很少出现异常状态。它导致正常和异常过程状态之间的数据集不平衡，用不平衡数据集训练的异常检测方法提供了不准确的预测结果。为了解决数据不平衡的问题，利用基于生成对抗网络的数据增强的方法，以此提高异常检测的有效性和准确性。
附图说明
28.图1为本发明的一种面向多源异构工业传感器数据的异常检测方法的原理示意图；
29.图2为本发明实施例中堆叠自编码器的原理示意图；
30.图3为本发明实施例中时间transformer模型的原理示意图。
具体实施方式
31.为了使本发明的目的、技术方案和优点更加清楚，下面结合附图对本发明作进一步阐述。
32.在本实施例中，参见图1所示，本发明提出了一种面向多源异构工业传感器数据的异常检测方法，包括步骤：
33.s10,数据采集，从传感器中获取到初始信号数据；
34.s20,初始信号数据分别进入堆叠自编码器模型进行训练获得第一异常检测结果，和采取用于无监督异常检测的元学习方法进行异常检测获得第二异常检测结果；将两种检测结果相结合，最后得出最终异常结果；
35.s30,将堆叠自编码器模型输出的检测结果输入时间transformer模型对传感器异常进行预测。
36.作为上述实施例的优化方案，初始信号数据进行预处理对数据进行提取后，用于堆叠自动编码器训练；
37.对初始信号数据进行预处理采用基于生成对抗网络的数据增强的方法，基于对抗学习和合作学习，生成器生成具有两种特性的异常状态样本，即真实和可区分样本，生成的
样本被添加到实际样本当中，并作为一个平衡的训练数据，完成数据提取并设置窗口大小。解决数据不平衡的问题。
38.信号被分割成不同的窗口大小，并用于模拟正常行为和检测异常。隐藏节点参数的数量根据初始窗口大小呈指数增长。较大的窗口将允许处理更多的数据，但是可伸缩性将因此受到影响。因此，通过对数据应用多个大小不同窗口，进行异常检测。
39.通过机器学习模型输入每个窗口，并自动提取特征，通过使用窗口模型应用的堆叠式自动编码器可以有效地检测异常行为。
40.所述生成对抗网络包括生成器g和鉴别器d，生成器将从初始信号数据中生成制造的样本g(z)，鉴别器将区分输入样本的来源是来自实际数据xr还是生成制造的样本g(z)，通过对抗性学习导致新生成样本的分布，接近采集过程中实际样本的潜在分布p(xr)；
41.将过程状态标签附加到生成器和鉴别器的输入，它使用户能够确定采集过程异常状态下生成的样品数量，以生成平衡样本。
42.所述鉴别器中目标是通过与生成器的对抗性学习来最大化生成对抗网络目标函数；鉴别器通过梯度惩罚来正则化鉴别器的梯度；并向鉴别器提供由实际样本xr和错误标记的过程状态ym组成的附加输入，鉴别器通过最小化来学习区分输入(xr,ym)不是实际的而是生成的样本。由于输入为鉴别器提供了一个额外的学习任务，因此在生成器逼近制造过程的实际样本分布之前，它防止鉴别器很好地区分实际样本和生成样本；否则，鉴别器不会提供信息梯度供生成器学习。为稳定学习过程提供了两个额外的条件，以克服训练gan不稳定的问题，以及难以优化对抗性学习而难以收敛的问题。
43.所述生成器中目标是通过最小化生成对抗网络目标函数，通过学习采集过程的实际样本分布p(xr)来生成样本；生成器在与分类器相关的目标函数中具有附加项，与鉴别器的对抗关系相反，生成器和分类器之间建立合作关系，以在采集过程中的过程状态之间生成容易区分的样本，将生成样本的标签的分类损失提供给生成器的目标函数，最后通过最小化其目标函数来训练生成器；
44.分类器的目标函数由采集过程的真实样本和生成样本的分类损失组成，生成器的样本补充了采集过程中的真实样本，以在分类器中生成平衡的训练数据；通过最小化等式，分类器被优化以最小化来自实际和生成样本的分类损失。
45.作为上述实施例的优化方案，通过堆叠自编码器模型进行训练，包括单独训练自动编码器模型，使用堆叠式自动编码器组合每个单独训练自动编码器模型的输出；
46.如图2所示。自动编码器的中间层用于表示后方模型的输入的特征向量，对每个模型重复此过程，直到最后一层，该层使用前一层构建的特征作为最后一层的输入，以再现输入层；在最后一层使用最精简的特征形式来重新创建初始输入，异常由最终模型的输入和输出的特征向量识别，然后对其进行误差分析。
47.使用不同大小的窗口训练自编码器模型。第一个模型使用大小为500的观察窗口。在这个模型中，隐藏层包含300个神经元，这确保了从初始数据中保留足够的结构，并且可以提取足够的特征。隐藏层的输出连接到包含500个神经元的输出层。该模型被训练为近似输出层上的输入。直到达到最佳重建误差结束训练。当该模型中的训练完成时，隐藏层(特征)被用作第二个自编码器的输入，第二个自编码器再次被训练以近似输出层上的输入。在第二个模型中，隐藏层减少到200个神经元。这种配置一直持续到最终模型包含70个隐藏的
神经元，这些神经元在训练后构成我们的最终特征集(70个特征)。
48.作为上述实施例的优化方案，采取用于无监督异常检测的元学习方法进行异常检测，引用一个用于异常检测的元学习器和一个用于收集自动监督异常检测的元数据的工具，来进行异常检测。
49.根据提供的现有数据集作为元数据集，利用元数据集建立异常检测的自动监督学习对用于异常检测的元学习器进行优化，并通过用于异常检测的元学习器对新数据集进行检测。
50.元学习方法有两个部分：首先，有一个应用于数据集的转换函数，并调用这个函数，它应用于给定的数据集；在第二阶段，基于距离度量ψ计算数据集相似度。通过捕获数据集之间的相似性度来进行异常检测任务。
51.作为上述实施例的优化方案，如图3所示，由堆叠式自动编码器的输出作为时间transformer模型的输入，通过qos位置编码描述输入序列中位置信息的每个时间步长生成的维度向量，然后将其传递给时间transformer的编码器模块，编码器模块首先获取qos注意力得分，最终馈送到前馈网络中对qos进行预测,完成对传感器的故障预测以提高异常检测的准确性。
52.位置编码是为描述输入序列中位置信息的每个时间步长生成的维度向量。在此步骤中，采用了正弦位置编码，因为该方法提供的位置编码对于每个时间步长都是固定的，并且不需要训练额外的权重。每个输入序列的位置编码与输入层的输出按位置相加，然后将其传递给时间变换器的编码器模块。
53.编码器模块由一堆编码器组成，所有编码器的结构都相同。编码器的输入首先传递给多头注意力模块，该模块查看输入序列中的qos值。然后，它提供这两个qos数值之间的注意力分数，并以相同的方式继续处理所有其他输入序列中的其他qos。这些注意力得分被转发到归一化层。这些层用于稳定网络的隐藏状态并减少训练时间。最后，归一化层的输出被馈送到前馈网络。
54.本发明不仅能够对传感数据进行异常检测，并且采用两种方法来多源异构传感器数据进行异常检测，并将两种方法的检测结果相结合，提高异常检测的准确性。同时对传感器故障进行预测，在某种程度上提高了异常检测的准确性和效率。本发明利用堆叠式自编码器方法来进行异常检测。利用基于生成对抗网络的数据增强的方法生成的训练数据中通过自编码器提取关键特征，以模拟机器行为并自动识别异常，并结合用于无监督异常检测的元学习方法来提高异常检测的准确性。并将堆叠自编码器的输出数据作为输入，采用时间transformer模型对传感器故障进行预测，在一定程度上能够提高异常检测的准确度和效率。
55.以上显示和描述了本发明的基本原理和主要特征和本发明的优点。本行业的技术人员应该了解，本发明不受上述实施例的限制，上述实施例和说明书中描述的只是说明本发明的原理，在不脱离本发明精神和范围的前提下，本发明还会有各种变化和改进，这些变化和改进都落入要求保护的本发明范围内。本发明要求保护范围由所附的权利要求书及其等效物界定。