一种基于Attention-LSTM的滚动轴承性能衰退预测方法与流程

本发明属于旋转机械性能监测领域，具体涉及到特征指标筛选，并提出阶跃稳态的概念，定量直观地反映轴承性能衰退程度。然后引入注意力机制，将注意力机制与lstm相结合构造出一种滚动轴承性能衰退预测的方法。
背景技术：
：当今世界竞争日益激烈，工业发展水平与国家综合国力息息相关。轴承作为旋转机械中关键零部件之一，对于保证设备的高效、稳定、安全运行具有重要作用。在实际工程应用中，大型机械设备一旦出现故障，轻则影响生产，导致经济损失，重则出现人员伤亡，造成不良的社会影响。1979年美国三哩岛核电厂发生重大安全责任事故，导致核电反应堆控制元件大面积损毁，放射性原料泄露，经济损失巨大，人员伤亡惨重。前苏联切尔诺贝利核电站第四号反应堆发生严重爆炸，污染了欧洲的大部分地区，造成了世界级生态破坏。我国《国家中长期科学和技术发展规划纲要》中将重大机械设备运行可靠性和可维护性等关键技术作为重点研究方向。设备运行状态监测评估与预测是预知维修技术的关键部分，它对提高设备利用率，保证设备可靠、安全运行意义重大。轴承等关键零部件的轻微故障都有可能间接影响到系统运行，引发一系列连锁反应，出现设备性能衰减，进而引发系统级故障。以往对于轴承的维修策略主要是定期维修和事后维修，定期维修依据大量的历史经验判断轴承的性能衰退周期来安排维护工作，使得机械设备的维护成本和使用风险大大升高；事后维修通常在轴承发生故障之后进行维修，使设备的使用风险极大升高，易造成较大的人员伤亡和财产损失。围绕设备劣化状态评估这一主线，开展设备状态监测评估和性能衰退预测，改变传统维修策略，变被动为主动，降低设备维护成本，提高设备使用水平，避免重大事故发生。因此，开展基于状态监测和性能衰退预测的预知维修研究，对于提高企业综合效益，促进国家经济繁荣具有重要的意义。在预知维修中，设备性能衰退评估是其关键内容之一，性能衰退评估可以掌握机械设备从装机运行到当前性能衰退状态的变化过程。然而，机械设备的性能衰退状态往往不能直接获得。因此，在实际的性能衰退评估中往往通过构建机械设备健康因子(healthindicator,hi)曲线，来表征设备健康水平。滚动轴承从正常状态到发生故障是一个缓慢的、不断变化的过程，在这个过程中，轴承的性能不断下降。机械设备衰退状态建模是将设备运行过程中不同的特征参量映射到健康因子中，以评估设备当前健康状态的过程。根据hi曲线构建方式的不同，目前的机械设备hi值可以分为具备实际物理含义的hi值以及不具备物理含义的虚拟hi值两类。前者往往是借助传统的数理统计理论或信号处理方法对设备监测数据进行处理得到，如均方根值、能量熵等；后者是在前者的基础上对数据进行进一步的融合，借助多种信号处理方法及机器学习方法，从而获得不具备实际物理含义的hi曲线，作为机械设备的性能衰退状态表征。在具备实际物理含义的hi曲线构建中，主要包括提取时域特征参数和频域特征参数两大类。时域特征参数包括均方根值、相关系数、熵值等。如lin对轮齿裂缝的退化状态进行hi曲线构建，将残差信号的百分比作为健康因子，并且在对设备监测信号提取多个时域及频域特征的基础上进行融合，从而反映设备的性能衰退状态。潘玉娜在对设备监测信号进行小波包分解后，将衰退状态下的特征向量与健康状态的向量之间的距离作为健康因子；在虚拟hi曲线的构建研究中，通常是对设备监测信号提取多个时域及频域特征的基础上进行融合，从而反映设备的将抗衰退状态。jin等人首先计算监测信号小波分解系数的能量值，之后根据能量值之间的马氏距离进行融合构建hi曲线。基于概率统计和力学的性能衰退预测理论着重对轴承性能衰退趋势变化的一般分布规律进行研究且需要大量历史数据，建模较为困难，侧重理论研究，不适用于对重大设备的预测，基于信息新技术的性能衰退预测理论包含基于人工智能技术和基于设备状态监测的性能衰退预测理论。随着测试技术的不断提高，通过传感器可以获得机械设备的各项特征指标，进而预测设备的性能衰退趋势，因此基于状态监测的性能衰退预测理论成为国内外研究的热点。其中由d.r.cox提出的比例故障率模型(proportionalhazardsmodel，phm)，又称cox模型，是一种具有适用性非常高的数据统计分析模型。它可以将基于人工智能的神经网络方法与设备实时监测方法相结合，是一种根据设备运行状态和历史数据建立失效模型的方法，然而应用比例风险模型进行设备状态监测的本质是应用时序数据分析方法进行衰退变化趋势预测。陈旭涛等基于设备振动信号，利用一阶灰色模型对协变量的变化趋势进行预测，从而实现设备的性能衰退预测。但灰色模型适用于数据少，信息缺乏的条件下的事物变化规律不适用于大数据下的性能衰退预测。李洪儒等在特征提取的基础上,为准确拟合滚动轴承性能衰退过程的整体趋势与随机波动规律，将灰色马尔科夫模型应用到滚动轴承性能衰退预测中，该方法能够较好地预测性能衰退的主趋势，但不能反映出性能衰退过程中的微小波动。lotfisaidi等为了预测风力发电机高速轴轴承的性能衰退变化过程，使用卡尔曼平滑器来改善趋势。但卡尔曼滤波存在固有相位延迟等缺陷，不能进行精准的性能衰退预测。上述趋势预测方法根据时序数据直接建模，模型较为简单，很难建立理想的模型进行预测，并且数据中噪声的存在又会使得判断条件难以满足导致估计出的参数可信度较低。基于深度学习的趋势预测方法可用于多种复杂的数据类型、自适应的学习深层数据特征，在大数据处理方面优势明显。其中循环神经网络(recurrentneuralnetwork，ｒnn)将时间概念引入到神经网络中，使其能够对时间累积效应进行分析，处理时间序列数据。但rnn网络在训练时采用传统的反向传播算法和梯度下降法，易出现梯度消失和梯度爆炸的现象，最终导致网络长期记忆能力不足，得到的结果很难达到测试的要求。hochreiter和schmidhuber提出了长短期记忆(longshort-termmemory，lstm)网络模型，该模型首次引入了门的概念来更好地实现输入、输出及状态的转化，将时序数据中的高价值信息和低价值信息区别对待，使得rnn网络具备较长跨度时序信息的处理利用能力。malhotra等针对设备的多维监测信息，将循环神经网络的流行变体——长短时记忆网络作为编码和解码器进行性能衰退预测。国内外学者越来越多的将循环神经网络应用于rul预测领域的研究中。yuan在航空发动机的rul预测领域研究了三种rnn的变体模型，并对预测结果进行对比，得出了lstm模型性能更好的结论。张建付等使用lstm网络处理小波包变换提取的特征参量，实现风力发电设备的滚动轴承的故障状态分类；赵建鹏等使用经验模态分解处理采样数据提取特征参量，输入至单层lstm模型来预测旋转机械健康状态。lstm中的数据流是受三个“门限”结构控制的，轴承转动过程中微弱的故障信息往往隐藏在庞大的数据信息中，因此，如何控制数据中与故障信息相关的数据流尤为重要。注意力机制来源于人类视觉系统的工作原理，在人体的认知系统中，大脑会存在信息处理局限，视觉系统首先对全局信息进行概览，之后会选择性地处理所有信息中的关键细节部分，同时忽略其他低价值的可见信息。也就是说，将注意力机制运用于神经网络，可以使得神经网络具备专注于其输入(或特征)子集的能力，即选择特定的输入能力。注意力机制是解决系统中信息超载问题的一种资源分配方案，将计算资源分配给更重要的任务。注意力机制起初用于机器视觉领域，而后在自然语言处理领域发挥重要作用。而基于注意力机制的编解码器框架已经在机器翻译、文本摘要、图像描述、视频描述，等任务中有突出的表现。如bahdanau等在完成将英语翻译为法语的任务时，编码器采用双向lstm对英语单词序列进行编码和解码，以不同的注意力权重关注编码序列中不同位置的编码向量，从而提升了翻译的准确性。wu等人在能源价格预测模型中加入注意力机制框架，有效提高了模型的预测精度。在许多时序数据研究领域都有突出的表现。因此，注意力机制可以为当下滚动轴承时间序列数据预测算法提供新的思路，提高旋转机械时序数据预测模型的预测性能。多数情况下提取设备性能衰退特征仍需依赖大量专家经验，为了获得综合性能较强的单调hi曲线，通常需针对时序数据采用多种特征融合方法或人工经验提取特征系数，泛化能力较差，缺乏通用性。lstm网络的在语言建模、语音识别、机器翻译等时序数据预测研究领域取得了重大突破。lstm网络可以为滚动轴承时间序列数据预测算法提供新的思路，提高旋转机械性能衰退预测模型的性能。综上，通过时域与频域分析生成多个备选指标，采用相关性、单调性和鲁棒性三个指标对信号的候选特征进行评价筛选，将特征值曲线通过固定窗均值化处理得到hi曲线和残差曲线，提出基于阶跃稳态的性能衰退评估方法，利用hi曲线和残差曲线，进而通过两曲线对滚动轴承全生命周期各衰退阶段划分，综合判断各阶段性能。最后，提出基于attention-lstm的性能衰退预测方法，建立了滚动轴承性能衰退预测模型，采用注意力机制提高对性能阶跃点前后数据的学习能力，加强了预测模型对衰退特征的反应敏感度。技术实现要素：本发明的目的在于提供一种基于attention-lstm的滚动轴承性能衰退预测方法。首先，提出基于阶跃稳态的性能衰退评估方法，采用相关性、单调性和鲁棒性三个指标对信号时域和频域分析生成多个的候选特征进行评价筛选，将筛选出特征值曲线进行固定窗均值化处理得到hi曲线和残差曲线，定量直观地反映轴承性能衰退程度，可以为接下来的轴承性能衰退预测奠定良好基础。最后，提出基于attention-lstm的滚动轴承性能衰退预测，采用注意力机制提高对性能阶跃点前后数据的学习能力，加强了预测模型对衰退特征的反应敏感度，相比bp神经网络和多层感知器，其数据拟合度更高，预测效果更好。实现上述目的，本发明的技术方案是：基于attention-lstm的滚动轴承性能衰退预测方法，所述的方法包括如下步骤：步骤一；基于阶跃稳态的性能衰退评估方法；通过时域与频域分析生成多个备选指标，采用相关性、单调性和鲁棒性三个指标对信号的候选特征进行评价筛选，将筛选出的特征值曲线通过固定窗均值化处理得到hi曲线和对应的残差曲线，提出基于阶跃稳态的性能衰退评估方法，利用hi曲线和残差曲线，评估滚动轴承全生命周期各个阶段性能；步骤二；基于attention-lstm的滚动轴承性能衰退预测；针对滚动轴承全生命周期数据特点，研究振动信号数据的输入、输出形式与时序数据预测之间的关系，搭建基于lstm网络的滚动轴承故障预测模型框架；研究注意力机制原理，结合滚动轴承性能衰退特点构建attention层结构，加强预测模型对性能衰退特征的响应敏感度，提高模型预测精度；研究部分关键参数对模型预测精度的影响，选取合理的激活函数、损失函数、优化器算法等重要参数，不断提高模型预测精度。本发明相对于现有技术的有益效果是：本发明的基于attention-lstm的滚动轴承性能衰退预测方法，首先，通过时域与频域分析生成多个备选特征指标，采用相关性、单调性和鲁棒性三个指标对信号的时频域分析生成多个的候选特征进行评价筛选，将筛选出特征值曲线进行固定窗均值化处理得到hi曲线和对应的残差曲线，定量直观地反映轴承性能衰退程度。最后，提出attention-lstm的预测模型用以滚动轴承性能衰退预测，采用注意力机制提高对性能阶跃点前后数据的学习能力，相比bp神经网络和多层感知器，其数据拟合度更高，预测效果更好。附图说明图1基于阶跃稳态的性能衰退评估流程图。图21号实验滚动轴承全生命周期hi曲线及残差曲线图32号实验滚动轴承全生命周期hi曲线及残差曲线图4lstm预测模型结构图5attention-lstm模型对第一组轴承数据预测的效果图图6attention-lstm模型对第二组轴承数据预测的效果图图7多层感知器模型对第一组轴承数据预测的效果图图8多层感知器模型对第二组轴承数据预测的效果图图9bp神经网络模型对第一组轴承数据预测的效果图图10bp神经网络模型对第二组轴承数据预测的效果图图11全生命周期性能衰退试验台图12为轴承全生命周期均方根值图13轴承全生命周期hi曲线图14轴承全生命周期残差曲线图15attention-lstm模型预测效果图。具体实施方式具体实施方式一：本实施方式基于attention-lstm的滚动轴承性能衰退预测方法，所述的方法包括如下步骤：步骤一；基于阶跃稳态的性能衰退评估方法；采用相关性、单调性和鲁棒性三个指标对信号的候选特征进行评价筛选，将特征值曲线通过固定窗均值化处理得到hi曲线和对应的残差曲线，提出基于阶跃稳态的性能衰退评估方法，利用hi曲线和残差曲线，评估滚动轴承全生命周期各个阶段性能。步骤二；基于attention-lstm的滚动轴承性能衰退预测；针对滚动轴承全生命周期数据特点，研究振动信号数据的输入、输出形式与时序数据预测之间的关系，搭建基于lstm网络的滚动轴承故障预测模型框架；研究注意力机制原理，结合滚动轴承性能衰退特点构建attention层结构，加强预测模型对性能衰退特征的响应敏感度，提高模型预测精度；研究部分关键参数对模型预测精度的影响，选取合理的激活函数、损失函数和优化器算法等重要参数，不断提高模型预测精度。具体实施方式二：本实施方式是对具体实施方式一做出的进一步说明；步骤一（针对设备性能衰退评估过程中缺乏性能衰退指标以及监测信号难以直观表征轴承性能衰退特性的问题，提出基于阶跃稳态的性能衰退评估方法。利用全生命周期监测数据通过固定窗均值化处理构建轴承hi曲线及相应残差曲线，针对其曲线变化分析并对轴承全生命周期状态进行评估）具体的步骤如下：步骤一一；通过时域与频域分析生成多个备选指标，再分别利用信号的单调性、鲁棒性和相关性建立评价指标，通过线性加权组合的方式对待测指标进行评价选择；步骤一二；研究均值化处理的相关理论，利用固定窗均值化处理的方式将指标曲线进行特征分离，获得单调性较好的hi曲线和对应的残差曲线；步骤一三；提出的阶跃稳态性能衰退评估的方法，对步骤一二求出的hi曲线和残差曲线来评价滚动轴承的性能衰退情况。具体实施方式三：本实施方式是对具体实施方式一做出的进一步说明；步骤二（在循环神经网络的基础上，提出了基于attention-lstm的滚动轴承性能衰退预测。研究注意力机制原理，结合滚动轴承性能衰退特点构建attention层结构，加强预测模型对性能衰退特征的响应敏感度，提高模型预测精度；研究部分关键参数对模型预测精度的影响，选取合理的激活函数、损失函数和优化器算法等重要参数，不断提高模型预测精度）的具体步骤如下：步骤二一；将注意力机制应用于神经网络中，在lstm网络输入层前增加attention门限结构，利用该门限结构判断是否发生性能退化情况；步骤二二；选取适合模型的激活函数、损失函数和优化算法，使得神经网络可以更好的解决具有复杂数据特征的非线性问题以及最大程度的减少神经网络的损失；步骤二三；利用步骤二二选择好的模型参数，使用训练集数据对模型进行训练，最后利用测试集样本对训练好的模型进行测试，得到预测结果。具体实施方式四：本实施方式是对具体实施方式三做出的进一步说明；步骤二一一；在lstm网络输入层前增加attention门限结构，该门限结构通过判断与的差值是否大于阈值来判断时刻到时刻之间是否发生性能退化情况。attention门限功能具体实现步骤如下：（1）数据输入：输入该时刻性能状态值；（2）计算差值：计算该时刻性能状态值与上一时刻性能状态值之间的差值；（3）判断是否为性能退化点：判断与该时刻退化阈值之间的大小关系。当时，判定滚动轴承在时刻发生性能退化。当时，判定滚动轴承在时刻未发生性能退化。（4）改变系数：当时刻为性能退化点时，通过将时刻性能特征值乘以影响因子来提高时刻状态值对模型训练的影响，影响因子初始值为1，后期通过模型训练调整值大小。当时刻未发生性能退化时，保持不变；（5）将性能状态值输入网络进行训练。为了更清楚地说明本实施例，基于attention-lstm的滚动轴承性能衰退预测方法，包括如下步骤：步骤一、滚动轴承基于阶跃稳态的性能衰退评估方法研究；步骤二、滚动轴承基于attention-lstm的性能衰退预测方法研究。本发明采用辛辛那提大学滚动轴承可靠性实验数据集进行方法验证。该数据集包括3个子数据集，每个子数据集包括4个轴承的振动信号数据，除第一组实验使用8个加速度传感器进行数据采集外，其余两组均使用4个加速度传感器进行数据采集。轴承型号为rexfordza-2115轴承，每个滚道上有16个滚动体，滚子直径3.31mm，节圆直径28.15mm，接触角15.17°，转速2000r/min，该实验为滚动轴承加速退化实验，所施加径向载荷为26.66kn，超过轴承正常载荷，加速度传感器型号为pcb353b33压电式传感器。实验历时33天完成，每隔5分钟进行一次数据采样，采样时间为1s，三组实验分别收集数据2156组、984组、4448组。首先，滚动轴承基于阶跃稳态的性能衰退评估方法研究；在全生命周期实验后期，1号实验第四个轴承出现内圈损伤，2号实验第一个轴承出现外圈损伤圈损伤，因此，本文使用前两个子数据集进行数据验证。按照图1流程对前两个子数据集进行数据处理，两组实验数据验证结果分别如图2、图3所示。如图2所示，结合该轴承全生命周期hi曲线及残差曲线，明显可以将其全生命周期性能衰退阶段划分为4个。轴承装配使用后，在第一阶段，轴承正常运转，系统稳定性良好；在第二阶段，轴承出现损伤，hi值从0上升至0.5左右，从残差曲线看，该阶段系统稳定性较差，残差值出现阶跃，在该阶段后期，轴承性能趋于平稳；第三阶段，该阶段达到动态平衡，形成新阶段稳态，轴承平稳运行，直至轴承再次出现损伤；第四阶段，轴承再次发生损伤，由于损伤较为严重，无法达到新的动态平衡，轴承失效。如图3所示，结合该轴承全生命周期hi曲线及残差曲线，明显可以将其全生命周期性能衰退阶段划分为5个。与1号实验不同，该轴承在在第一阶段正常运行，在第二阶段发生轻微损伤，hi值从0逐渐上升至0.3左右，该阶段系统稳定性较好，系统发生较严重紊乱，其他阶段与1号轴承类似。最后，滚动轴承基于attention-lstm的性能衰退预测；在pycharm2019.3.2软件环境下，基于目前流行的深度学习框架keras（该框架以tensorflow为引擎进行计算），来搭建本次滚动轴承性能衰退预测模型，并进行训练和测试。其模型结构如图4所示。基于attention-lstm的滚动轴承性能衰退预测模型在不同轴承数据集下的预测效果分别如图5和图6所示；基于多层感知器模型的滚动轴承性能衰退预测模型在两组轴承数据集的预测效果分别如图7和图8所示；基于bp神经网络的滚动轴承性能衰退预测模型在不同轴承数据集下的预测效果分别如图9和图10所示。图中，蓝色线为滚动轴承全生命周期特征值；橙色线为模型训练集数据，数据长度为滚动轴承全生命周期的67%；红色线为模型测试集数据，数据长度为滚动轴承全生命周期的33%。从预测结果可以得出，基于attention-lstm的滚动轴承性能衰退预测模型在不同轴承数据集的预测效果相差较小。该模型泛化能力较强。从图7和图8预测结果可以明显得出，基于多层感知器的滚动轴承性能衰退预测模型在不同轴承数据集的预测效果相差较大，该模型在全生命周期的后期预测效果与实际数据差别较大。因此，该模型不适用于长时间跨度数据预测。从图9和图10预测结果可以得出，bp神经网络的预测效果较基于多层感知器的滚动轴承性能衰退预测模型更为稳定，模型泛化能力较优。但与基于attention-lstm的滚动轴承性能衰退预测模型相比预测效果较差。如表1所示，通过三种预测模型具体数据对比可以得出，基于attention-lstm预测模型的预测误差最小，均低于0.1，预测效果最好，其次bp神经网络，介于其余两者之间，多层感知器预测模型预测效果最差，在全生命周期后期的数据预测中与实际数据差别较大，未能达到滚动轴承性能衰退预测要求。表1不同预测模型的误差本发明最后采用自己实验室搭建全生命周试验台如图11，采用该实验台来验证本文提出的基于阶跃稳态的性能衰退评估方法以及基于attention-lstm的性能衰退预测模型，轴承种类为圆柱滚子轴承。本实验台电机需要长时间连续运转，因此使用直流电机并配备具有过载保护的电机控制器，通过保护电路来防止轴承抱死时电机烧毁的情况发生。在实验过程中，设定电机的转速为1500r/min，数据采集设备是coco-80数据采集仪。滚动轴承全生命周期性能衰退实验数据采集：实验对象为n1004m圆柱滚子轴承，具体参数如表2所示。该实验共采集两个轴承振动信号，其中电机端轴承损坏严重，自由端轴承出现轻微磨损，因此使用电机端轴承全生命周期数据集进行数据验证。该数据集包括待测轴承从装机正常运转到发生严重损坏的全部数据。采样频率设置为20khz，采样时间间隔为5分钟，每次采集生成一个数据文件，共计22040个数据文件，采集总时长为76.53天。表2n1004m圆柱滚子轴承参数内圈外圈厚度b极限转速动负荷静负荷20mm42mm12mm19000r/min15.10kn14.10kn首先，滚动轴承基于阶跃稳态的性能衰退评估方法研究；基于阶跃稳态的性能衰退评估方法流程图如图1所示。首先，将轴承振动信号进行时域和频域分析，产生多个候选特征指标。其次，利用单调性、相关性以及鲁棒性对多个特征指标进行综合评估，选择最佳特征指标进行后续处理。最后，通过固定窗均值化处理方法对选出的特征指标进行特征分离，得到hi曲线和残差曲线。进而通过两曲线对滚动轴承全生命周期各衰退阶段划分，综合判断各阶段性能。从图12和图14的对比可以看出，全生命周期性能衰退各阶段划清晰可分。最后，滚动轴承基于attention-lstm的性能衰退预测；基于attention-lstm的性能衰退预测，目的是从海量的数据中深度挖掘与目标相关的高价值数据特征。在lstm网络中，可以通过使用不同的激活函数来调整优化循环体门限结构的功能。能够确保细胞状态和模型训练过程中的稳定性，选择了激活函数为elu函数；损失函数有助于优化神经网络的参数；通过优化神经网络的参数(权重)来最大程度地减少神经网络的损失，所以选择的损失函数为mape;神经网络的学习的目的就是寻找合适的参数，使得损失函数的值尽可能小选择的优化器是adam。通过以上所选择的模型和建立的神经网络机构，在试验验证下从图15可知，基于attention-lstm预测模型在全生命周期各个阶段预测效果良好，尤其在轴承全生命末期，预测数据与实际数据拟合良好，未出现末期发散现象，模型较为稳定。当前第1页12