一种零寿命标签下退化设备剩余寿命预测方法及系统

1.本发明涉及可靠性工程领域，特别是涉及一种零寿命标签下退化设备剩余寿命预测方法及系统。


背景技术：

2.随着传感器技术和数据存储技术的不断发展，当前健康管理领域可用的退化数据越来越多，由于退化数据本身包含着丰富的系统退化信息，因此如何根据监测得到的退化数据，建立能够准确描述系统退化规律的退化模型，成为当前数据驱动剩余寿命预测方法的研究重点。要准确描述包含大量物理化学过程的复杂系统退化，通常需要构建多自由度退化模型，当使用统计数据方法建模时，模型参数估计算法的实现难度会随着参数数量的增加而呈指数性地增长，因此通常仅能通过数值仿真方法得剩余寿命预测结果。在此情况下，采用神经网络方法预测复杂系统剩余寿命将占据较大优势：一是神经网络方法预测剩余寿命时解决了模型选择错误的问题；二是神经网络方法仅需通过网络层数的堆叠即可实现模型自由度和拟合能力的增加。因此，神经网络方法在复杂退化系统剩余寿命预测中受到了越来越多的关注。
3.尽管神经网络方法在系统剩余寿命预测中取得了较为突出成果，但是神经网络训练中超参数的选择设置一直是神经网络方法的关键难题。在给定训练数据集情况下，由于训练迭代次数、学习率和样本批量大小等超参数的不同，训练得到的神经网络权重参数会略有差异。对于寿命标签网络，由于训练算法能够保证神经网络在训练数据集上的最优性，因此不同超参数设置下得到的寿命标签网络能够保证剩余寿命预测结果具有相似的最优性。但是，对于训练标签为退化值的零寿命标签网络，训练算法在保证退化轨迹整体预测精度的同时难以确保局部退化预测的一致性。因此在局部退化预测误差相对较大情形下，通过退化预测结果迭代计算得到的系统剩余寿命将出现较大偏差，故训练条件不同造成的零寿命标签神经网络权重不确定性将引发剩余寿命预测的不确定性。


技术实现要素：

4.本发明的目的是提供一种零寿命标签下退化设备剩余寿命预测方法及系统，以解决退化设备剩余寿命预测误差大的问题。
5.为实现上述目的，本发明提供了如下方案：
6.一种零寿命标签下退化设备剩余寿命预测方法，包括：
7.设置不同的网络参数，获得不同的零寿命标签下的双向lstm网络模型；所述网络参数包括网络结构、样本批量大小、学习率与训练迭代期次数；
8.根据所述零寿命标签下的时间序列，通过滑动窗方法构建训练数据集，训练不同的双向lstm网络模型，得到多个训练后的双向lstm网络模型；所述训练数据集包括退化设备不同时刻下的历史退化数据以及不同时刻下所述历史退化数据对应的退化设备的历史剩余寿命；
9.获取待测退化设备的当前退化数据，输入至所述训练后的双向lstm网络模型，输出多个当前剩余寿命；
10.根据所述训练数据集以及当前数据集，利用贝叶斯模型确定不同的所述训练后的双向lstm网络模型的网络后验概率；所述当前数据集包括所述当前退化数据以及所述当前剩余寿命；
11.根据所述网络后验概率融合多个所述当前剩余寿命，预测零寿命标签下所述待测退化设备的最终剩余寿命。
12.可选的，所述双向lstm网络模型的前向网络层中t时刻第l层的lstm神经元为：
[0013][0014]
其中，为前向第l层遗忘门；σ为sigmoid激活函数；为前向第l层遗忘门与状态h之间的权重；为前向网络第l层t-1时刻记忆单元递归层状态的输出；为前向第l层遗忘门与输入x之间的权重；为前向网络第l-1层t时刻记忆单元递归层状态的输出；为前向第l层遗忘门的偏置；为前向第l层输入门；为前向第l层输入门与h之间的权重；为前向第l层输入门与x之间的权重；为前向第l层输入门的偏置；为前向第l层输出门；为前向第l层输出门与h之间的权重；为前向第l层输出门与x之间的权重；为前向第l层输出门的偏置；为前向第l层筛选前t时刻输入信息，这里的双曲正切能够实现输入信息的缩放，可视为一种短期记忆；为前向第l层短期记忆与状态h之间的权重；为前向第l层短期记忆与输入x之间的权重；为前向第l层短期记忆中的偏置；为前向第l层t时刻记忆单元的状态；为前向第l层t-1时刻记
忆单元的状态；为前向第l层t时刻记忆单元递归层状态的输出。
[0015]
所述双向lstm网络模型的后向网络层中t时刻第l层的lstm神经元为：
[0016][0017]
其中，为后向第l层遗忘门；为后向网络第l层t-1时刻记忆单元递归层状态的输出；为后向第l层遗忘门与状态h之间的权重；为后向第l层遗忘门与输入x之间的权重；为后向网络第l-1层t时刻记忆单元递归层状态的输出；为后向第l层遗忘门的偏置；为后向第l层输入门；为后向第l层输入门与h之间的权重；为后向网络第l层t-1时刻记忆单元递归层状态的输出；为后向第l层输入门与x之间的权重；为后向输入门的偏置；为后向输出门；为后向输出门与h之间的权重；为后向第l层输出门与x之间的权重；为后向第l层输出门的偏置；为后向网络第l层筛选前t时刻输入信息，可视为一种短期记忆；为后向第l层短期记忆与状态h之间的权重；为后向第l层短期记忆与输入x之间的权重；为后向第l层短期记忆中的偏置；为后向第l层t时刻记忆单元的状态；为后向第l层t-1时刻记忆单元的状态；为后向网络第l层t时刻记忆单元递归层状态的输出；
[0018]
所述双向lstm网络模型的输出为：
[0019][0020]
其中，y
t
为双向lstm网络模型的输出；为前向隐藏层最后一层网络与模型输
出之间的权重；为前向隐藏层最后一层网络的输出；为后向隐藏层最后一层网络与模型输出之间的权重；为向后隐藏层最后一层网络的输出；by为双向lstm网络模型的输出偏置。
[0021]
可选的，所述根据所述训练数据集以及当前数据集，利用贝叶斯模型确定不同的所述训练后的双向lstm网络模型的网络后验概率，具体包括：
[0022]
根据所述训练数据集确定所述训练后的双向lstm网络模型的训练测试精度；
[0023]
根据所述训练测试精度确定所述训练后的双向lstm网络模型的网络先验概率；所述网络先验概率作为贝叶斯模型的先验概率；
[0024]
根据所述当前数据集确定所述训练后的双向lstm网络模型的总体预测精度；
[0025]
根据所述总体预测精度确定预测退化概率；
[0026]
基于所述贝叶斯模型，根据所述网络先验概率以及所述预测退化概率确定所述训练后的双向lstm网络模型的网络后验概率。
[0027]
可选的，所述网络先验概率为：
[0028][0029]
其中，p
ta
(mc)为网络先验概率；mc为所述训练后的双向lstm网络模型；为mc的训练测试精度；s为候选模型数目；i为样本标号的索引；j为候选模型的索引；n为测试样本个数；为所述历史退化数据；代表mc预测的历史剩余寿命。
[0030]
可选的，所述预测退化概率为：
[0031][0032]
其中，p
pa
(xm|mc)为网络后验概率；xm为所述当前剩余寿命的序列；为第c个网络模型的总体预测精度；为第i个网络模型的总体预测精度；m为任一时刻；w为输入序列长度；k为预测步数；xj为第j个样本退化标签；y
c，j
为第j个样本输入至第c个网络模型得到的预测值。
[0033]
可选的，所述网络后验概率为：
[0034][0035]
其中，pa(mc|xm)为所述网络后验概率。
[0036]
一种零寿命标签下退化设备剩余寿命预测系统，包括：
[0037]
双向lstm网络模型确定模块，用于设置不同的网络参数，获得不同的零寿命标签下的双向lstm网络模型；所述网络参数包括网络结构、样本批量大小、学习率与训练迭代期次数。；
[0038]
训练模块，用于根据零寿命标签下的时间序列，通过滑动窗方法构建训练数据集，训练不同的双向lstm网络模型，得到多个训练后的双向lstm网络模型；所述训练数据集包括退化设备不同时刻下的历史退化数据以及不同时刻下所述历史退化数据对应的退化设备的历史剩余寿命；
[0039]
当前剩余寿命输出模块，用于获取待测退化设备的当前退化数据，输入至所述训练后的双向lstm网络模型，输出多个当前剩余寿命；
[0040]
网络后验概率确定模块，用于根据所述训练数据集以及当前数据集，利用贝叶斯模型确定不同的所述训练后的双向lstm网络模型的网络后验概率；所述当前数据集包括所述当前退化数据以及所述当前剩余寿命；
[0041]
最终剩余寿命预测模块，用于根据所述网络后验概率融合多个所述当前剩余寿命，预测零寿命标签下所述待测退化设备的最终剩余寿命。
[0042]
可选的，所述双向lstm网络模型的前向网络层中t时刻第l层的lstm神经元为：
[0043][0044]
其中，为前向第l层遗忘门；σ为sigmoid激活函数；为前向第l层遗忘门与状态h之间的权重；为前向网络第l层t-1时刻记忆单元递归层状态的输出；为前向第l层遗忘门与输入x之间的权重；为前向网络第l-1层t时刻记忆单元递归层状态的输出；为前向第l层遗忘门的偏置；为前向第l层输入门；为前向第l层输入门与h之间的权重；为前向第l层输入门与x之间的权重；为前向第l层输入门的偏置；为前向第l层输出门；为前向第l层输出门与h之间的权重；为前向第l层输出门与x之间的权重；为前向第l层输出门的偏置；为前向第l层筛选前t时刻输入信息，
这里的双曲正切能够实现输入信息的缩放，可视为一种短期记忆；为前向第l层短期记忆与状态h之间的权重；为前向第l层短期记忆与输入x之间的权重；为前向第l层短期记忆中的偏置；为前向第l层t时刻记忆单元的状态；为前向第l层t-1时刻记忆单元的状态；为前向第l层t时刻记忆单元递归层状态的输出。
[0045]
所述双向lstm网络模型的后向网络层中t时刻第l层的lstm神经元为：
[0046][0047]
其中，为后向第l层遗忘门；为后向网络第l层t-1时刻记忆单元递归层状态的输出；为后向第l层遗忘门与状态h之间的权重；为后向第l层遗忘门与输入x之间的权重；为后向网络第l-1层t时刻记忆单元递归层状态的输出；为后向第l层遗忘门的偏置；为后向第l层输入门；为后向第l层输入门与h之间的权重；为后向网络第l层t-1时刻记忆单元递归层状态的输出；为后向第l层输入门与x之间的权重；为后向输入门的偏置；为后向输出门；为后向输出门与h之间的权重；为后向第l层输出门与x之间的权重；为后向第l层输出门的偏置；为后向网络第l层筛选前t时刻输入信息，可视为一种短期记忆；为后向第l层短期记忆与状态h之间的权重；为后向第l层短期记忆与输入x之间的权重；为后向第l层短期记忆中的偏置；为后向第l层t时刻记忆单元的状态；为后向第l层t-1时刻记忆单元的状
态；为后向网络第l层t时刻记忆单元递归层状态的输出；
[0048]
所述双向lstm网络模型的输出为：
[0049][0050]
其中，y
t
为双向lstm网络模型的输出；为前向隐藏层最后一层网络与模型输出之间的权重；为前向隐藏层最后一层网络的输出；为后向隐藏层最后一层网络与模型输出之间的权重；为向后隐藏层最后一层网络的输出；by为双向lstm网络模型的输出偏置。
[0051]
可选的，所述网络后验概率确定模块，具体包括：
[0052]
训练测试精度确定单元，用于根据所述训练数据集确定所述训练后的双向lstm网络模型的训练测试精度；
[0053]
网络先验概率确定单元，用于根据所述训练测试精度确定所述训练后的双向lstm网络模型的网络先验概率；所述网络先验概率作为贝叶斯模型的先验概率；
[0054]
总体预测精度确定单元，用于根据所述当前数据集确定所述训练后的双向lstm网络模型的总体预测精度；
[0055]
预测退化概率确定单元，用于根据所述总体预测精度确定预测退化概率；
[0056]
网络后验概率确定单元，用于基于所述贝叶斯模型，根据所述网络先验概率以及所述预测退化概率确定所述训练后的双向lstm网络模型的网络后验概率。
[0057]
可选的，所述网络先验概率为：
[0058][0059]
其中，p
ta
(mc)为网络先验概率；mc为所述训练后的双向lstm网络模型；为mc的训练测试精度；s为候选模型数目；i为样本标号的索引；j为候选模型的索引；n为测试样本个数；为所述历史退化数据；代表mc预测的退化数据。
[0060]
根据本发明提供的具体实施例，本发明公开了以下技术效果：本发明提供了一种零寿命标签下退化设备剩余寿命预测方法及系统，克服网络训练数据集中训练标签间隔步数设置的影响，实现任意监测点处设备剩余寿命预测，借助将预测的当前退化数据以及历史退化数据重新构造为零寿命标签网络的输入，考虑了零寿命标签下网络训练测试精度和历史预测精度对当前剩余寿命预测精度的影响，能够有效减少网络模型不确定性造成的系统剩余寿命预测误差，为设备的维修安排提供参考，具有广阔的应用空间。
附图说明
[0061]
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
[0062]
图1为本发明所提供的零寿命标签下退化设备剩余寿命预测方法流程图；
[0063]
图2为本发明所提供的零寿命标签下退化设备剩余寿命预测系统结构图；
[0064]
图3为本发明所提供的电池放电电容退化轨迹图。
具体实施方式
[0065]
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
[0066]
本发明的目的是提供一种零寿命标签下退化设备剩余寿命预测方法及系统，能够降低剩余寿命预测误差。
[0067]
为使本发明的上述目的、特征和优点能够更加明显易懂，下面结合附图和具体实施方式对本发明作进一步详细的说明。
[0068]
图1为本发明所提供的零寿命标签下退化设备剩余寿命预测方法流程图，如图1所示，一种零寿命标签下退化设备剩余寿命预测方法，包括：
[0069]
步骤101：设置不同的网络参数，获得不同的零寿命标签下的双向长短期记忆(long-short term memory，lstm)网络模型；所述网络参数包括网络结构、样本批量大小、学习率与训练迭代期次数。
[0070]
步骤102：根据所述零寿命标签下的时间序列，通过滑动窗方法构建训练数据集，训练不同的双向lstm网络模型，得到多个训练后的双向lstm网络模型；所述训练数据集包括退化设备不同时刻下的历史退化数据以及不同时刻下所述历史退化数据对应的退化设备的历史剩余寿命。其中，当退化设备为电池时，历史退化数据可以是充放电容量；当退化设备为轴承时，历史退化数据可以是振动幅值；当退化设备为惯性器件时，历史退化数据可以是漂移数据等等；不同的退化设备对应不同的历史退化数据。
[0071]
所述双向lstm网络模型的前向网络层中t时刻第l层的lstm神经元为：
[0072][0073]
其中，为前向第l层遗忘门；σ为sigmoid激活函数；为前向第l层遗忘门与状态h之间的权重；为前向网络第l层t-1时刻记忆单元递归层状态的输出；为前向第l层遗忘门与输入x之间的权重；为前向网络第l-1层t时刻记忆单元递归层状态的输出；为前向第l层遗忘门的偏置；为前向第l层输入门；为前向第l层输入门与h之间的权重；为前向第l层输入门与x之间的权重；为前向第l层输入门的偏置；为前向第l层输出门；为前向第l层输出门与h之间的权重；为前向第l层输出门与x之间的权重；为前向第l层输出门的偏置；为前向第l层筛选前t时刻输入信息，这里的双曲正切能够实现输入信息的缩放，可视为一种短期记忆；为前向第l层短期记忆与状态h之间的权重；为前向第l层短期记忆与输入x之间的权重；为前向第l层短期记忆中的偏置；为前向第l层t时刻记忆单元的状态；为前向第l层t-1时刻记忆单元的状态；为前向第l层t时刻记忆单元递归层状态的输出。
[0074]
所述双向lstm网络模型的后向网络层中t时刻第l层的lstm神经元为：
[0075][0076]
其中，为后向第l层遗忘门；为后向网络第l层t-1时刻记忆单元递归层状态的输出；为后向第l层遗忘门与状态h之间的权重；为后向第l层遗忘门与输入x之间的权重；为后向网络第l-1层t时刻记忆单元递归层状态的输出；为后向第l层遗忘门的偏置；为后向第l层输入门；为后向第l层输入门与h之间的权重；为后向网络第l层t-1时刻记忆单元递归层状态的输出；为后向第l层输入门与x之间的权重；为后向输入门的偏置；为后向输出门；为后向输出门与h之间的权重；为后向第l层输出门与x之间的权重；为后向第l层输出门的偏置；为后向网络第l层筛选前t时刻输入信息，可视为一种短期记忆；为后向第l层短期记忆与状态h之间的权重；为后向第l层短期记忆与输入x之间的权重；为后向第l层短期记忆中的偏置；为后向第l层t时刻记忆单元的状态；为后向第l层t-1时刻记忆单元的状态；为后向网络第l层t时刻记忆单元递归层状态的输出；
[0077]
所述双向lstm网络模型的输出为：
[0078][0079]
其中，y
t
为双向lstm网络模型的输出；为前向隐藏层最后一层网络与模型输出之间的权重；为前向隐藏层最后一层网络的输出；为后向隐藏层最后一层网
络与模型输出之间的权重；为向后隐藏层最后一层网络的输出；by为双向lstm网络模型的输出偏置。
[0080]
步骤103：获取待测退化设备的当前退化数据，输入至所述训练后的双向lstm网络模型，输出多个当前剩余寿命。
[0081]
步骤104：根据所述训练数据集以及当前数据集，利用贝叶斯模型确定不同的所述训练后的双向lstm网络模型的网络后验概率；所述当前数据集包括所述当前退化数据以及所述当前剩余寿命。
[0082]
所述步骤104具体包括：根据所述训练数据集确定所述训练后的双向lstm网络模型的训练测试精度；根据所述训练测试精度确定所述训练后的双向lstm网络模型的网络先验概率；所述网络先验概率作为贝叶斯模型的先验概率；根据所述当前数据集确定所述训练后的双向lstm网络模型的总体预测精度；根据所述总体预测精度确定预测退化概率；基于所述贝叶斯模型，根据所述网络先验概率以及所述预测退化概率确定所述训练后的双向lstm网络模型的网络后验概率。
[0083]
其中，所述网络先验概率为：
[0084][0085]
其中，p
ta
(mc)为网络先验概率；mc为所述训练后的双向lstm网络模型；为mc的训练测试精度；s为候选模型数目；i为样本标号的索引；j为候选模型的索引；n为测试样本个数；为所述退化标签；代表mc预测的退化数据。
[0086]
所述预测退化概率为：
[0087][0088]
其中，p
pa
(xm|mc)为网络后验概率；xm为所述当前剩余寿命的序列；为第c个网络模型的总体预测精度；为第i个网络模型的总体预测精度；m为任一时刻；w为输入序列长度；k为预测步数；xj为第j个样本退化标签；y
c，j
，为第j个样本输入至第c个网络模型得到的预测值。
[0089]
所述网络后验概率为：
[0090][0091]
其中，pa(mc|xm)为所述网络后验概率。
[0092]
步骤105：根据所述网络后验概率融合多个所述当前剩余寿命，预测零寿命标签下所述待测退化设备的最终剩余寿命。
[0093]
图2为本发明所提供的零寿命标签下退化设备剩余寿命预测系统结构图，如图2所示，一种零寿命标签下退化设备剩余寿命预测系统，包括：
[0094]
双向lstm网络模型确定模块201，用于设置不同的网络参数，获得不同的零寿命标签下的双向lstm网络模型；所述网络参数包括网络结构、样本批量大小、学习率与训练迭代期次数。
[0095]
训练模块202，用于根据零寿命标签下的时间序列，通过滑动窗方法构建训练数据集，训练不同的双向lstm网络模型，得到多个训练后的双向lstm网络模型；所述训练数据集包括退化设备不同时刻下的历史退化数据以及不同时刻下所述历史退化数据对应的退化设备的历史剩余寿命。
[0096]
当前剩余寿命输出模块203，用于获取待测退化设备的当前退化数据，输入至所述训练后的双向lstm网络模型，输出多个当前剩余寿命。
[0097]
网络后验概率确定模块204，用于根据所述训练数据集以及当前数据集，利用贝叶斯模型确定不同的所述训练后的双向lstm网络模型的网络后验概率；所述当前数据集包括所述当前退化数据以及所述当前剩余寿命。
[0098]
最终剩余寿命预测模块205，用于根据所述网络后验概率融合多个所述当前剩余寿命，预测零寿命标签下所述待测退化设备的最终剩余寿命。
[0099]
所述双向lstm网络模型的前向网络层中t时刻第l层的lstm神经元为：
[0100][0101]
其中，为前向第l层遗忘门；σ为sigmoid激活函数；为前向第l层遗忘门与状态h之间的权重；为前向网络第l层t-1时刻记忆单元递归层状态的输出；为前向第l层遗忘门与输入x之间的权重；为前向网络第l-1层t时刻记忆单元递归层状态的输出；为前向第l层遗忘门的偏置；为前向第l层输入门；为前向第l层输入门与h之间的权重；为前向第l层输入门与x之间的权重；为前向第l层输入门的偏置；
为前向第l层输出门；为前向第l层输出门与h之间的权重；为前向第l层输出门与x之间的权重；为前向第l层输出门的偏置；为前向第l层筛选前t时刻输入信息，这里的双曲正切能够实现输入信息的缩放，可视为一种短期记忆；为前向第l层短期记忆与状态h之间的权重；为前向第l层短期记忆与输入x之间的权重；为前向第l层短期记忆中的偏置；为前向第l层t时刻记忆单元的状态；为前向第l层t-1时刻记忆单元的状态；为前向第l层t时刻记忆单元递归层状态的输出。
[0102]
所述双向lstm网络模型的后向网络层中t时刻第l层的lstm神经元为：
[0103][0104]
其中，为后向第l层遗忘门；为后向网络第l层t-1时刻记忆单元递归层状态的输出；为后向第l层遗忘门与状态h之间的权重；为后向第l层遗忘门与输入x之间的权重；为后向网络第l-1层t时刻记忆单元递归层状态的输出；为后向第l层遗忘门的偏置；为后向第l层输入门；为后向第l层输入门与h之间的权重；为后向网络第l层t-1时刻记忆单元递归层状态的输出；为后向第l层输入门与x之间的权重；为后向输入门的偏置；为后向输出门；为后向输出门与h之间的权重；为后向第l层输出门与x之间的权重；为后向第l层输出门的偏置；为后向网络第l层筛选前t时刻输入信息，可视为一种短期记忆；为后向第l层短期记忆与状态h之
间的权重；为后向第l层短期记忆与输入x之间的权重；为后向第l层短期记忆中的偏置；为后向第l层t时刻记忆单元的状态；为后向第l层t-1时刻记忆单元的状态；为后向网络第l层t时刻记忆单元递归层状态的输出；
[0105]
所述双向lstm网络模型的输出为：
[0106][0107]
其中，y
t
为双向lstm网络模型的输出；为前向隐藏层最后一层网络与模型输出之间的权重；为前向隐藏层最后一层网络的输出；为后向隐藏层最后一层网络与模型输出之间的权重；为向后隐藏层最后一层网络的输出；by为双向lstm网络模型的输出偏置。
[0108]
所述网络后验概率确定模块204，具体包括：训练测试精度确定单元，用于根据所述训练数据集确定所述训练后的双向lstm网络模型的训练测试精度；网络先验概率确定单元，用于根据所述训练测试精度确定所述训练后的双向lstm网络模型的网络先验概率；所述网络先验概率作为贝叶斯模型的先验概率；总体预测精度确定单元，用于根据所述当前数据集确定所述训练后的双向lstm网络模型的总体预测精度；预测退化概率确定单元，用于根据所述总体预测精度确定预测退化概率；网络后验概率确定单元，用于基于所述贝叶斯模型，根据所述网络先验概率以及所述预测退化概率确定所述训练后的双向lstm网络模型的网络后验概率。
[0109]
所述网络先验概率为：
[0110][0111]
其中，p
ta
(mc)为网络先验概率；mc为所述训练后的双向lstm网络模型；为mc的训练测试精度；s为候选模型数目；i为样本标号的索引；j为候选模型的索引；n为测试样本个数；为所述历史退化标签；代表mc预测的历史退化数据。
[0112]
在实际应用中，本发明利用传统rnn中的sigma或tanh神经元替换为lstm神经元进行构造lstm神经网络。构造的双向lstm神经网络递归层内部在深维度方向，第l-1层在t时刻的输出为并且该输出将赋值给t时刻在第l层的神经元输入因此双向lstm网络在深度维上仅有最基本输入-输出连接关系；在时间维方向，递归连接关系只发生于同一层神经元之间。双向lstm网络中的前向网络层的构造同堆栈lstm网络完全一致，时序信息
的计算是从t＝1开始计算至t＝t时刻，但是后向网络层的计算时序则相反，时序信息是从t＝t开始计算至t＝1时刻。综上分析，可得在双向lstm网络模型的前向网络层中t时刻第l层的lstm神经元数学表达式为
[0113][0114]
其中，为前向第l层遗忘门；σ为sigmoid激活函数；为前向第l层遗忘门与状态h之间的权重；为前向网络第l层t-1时刻记忆单元递归层状态的输出；为前向第l层遗忘门与输入x之间的权重；为前向网络第l-1层t时刻记忆单元递归层状态的输出；为前向第l层遗忘门的偏置；为前向第l层输入门；为前向第l层输入门与h之间的权重；为前向第l层输入门与x之间的权重；为前向第l层输入门的偏置；为前向第l层输出门；为前向第l层输出门与h之间的权重；为前向第l层输出门与x之间的权重；为前向第l层输出门的偏置；为前向第l层筛选前t时刻输入信息，这里的双曲正切能够实现输入信息的缩放，可视为一种短期记忆；为前向第l层短期记忆与状态h之间的权重；为前向第l层短期记忆与输入x之间的权重；为前向第l层短期记忆中的偏置；为前向第l层t时刻记忆单元的状态；为前向第l层t-1时刻记忆单元的状态；为前向第l层t时刻记忆单元递归层状态的输出。
[0115]
t时刻，在后向网络中第l层的lstm神经元数学表达式为
[0116][0117]
其中，为后向第l层遗忘门；为后向网络第l层t-1时刻记忆单元递归层状态的输出；为后向第l层遗忘门与状态h之间的权重；为后向第l层遗忘门与输入x之间的权重；为后向网络第l-1层t时刻记忆单元递归层状态的输出；为后向第l层遗忘门的偏置；为后向第l层输入门；为后向第l层输入门与h之间的权重；为后向网络第l层t-1时刻记忆单元递归层状态的输出；为后向第l层输入门与x之间的权重；为后向输入门的偏置；为后向输出门；为后向输出门与h之间的权重；为后向第l层输出门与x之间的权重；为后向第l层输出门的偏置；为后向网络第l层筛选前t时刻输入信息，可视为一种短期记忆；为后向第l层短期记忆与状态h之间的权重；为后向第l层短期记忆与输入x之间的权重；为后向第l层短期记忆中的偏置；为后向第l层t时刻记忆单元的状态；为后向第l层t-1时刻记忆单元的状态；为后向网络第l层t时刻记忆单元递归层状态的输出；
[0118]
则双向lstm网络模型的输出计算如下
[0119][0120]
其中，和分别为前向隐藏层和后向隐藏层最后一层网络的输出。双向lstm网络内部权重系数的确定需要通过科学合理的网络训练过程来实现，通常情况下为了保证神经网络能够充分学习训练数据集包含的退化规律，需充分保证构造的双向lstm网络具有足够的自由度，同时使用规范化技术dropout方法避免网络过拟合。
[0121]
本发明使用零寿命标签网络的剩余寿命预测算法，表示训练完成后的rnn模型为
[0122]yc，t+k
＝fc(x
t-w+1
，x
t-w+2
，...，x
t-1
，x
t
)
ꢀꢀꢀ
(4)
[0123]
式中，w和k分别代表输入序列的长度和预测步数，x
t
为真实退化值是模型t时刻输入，y
c,t+k
为模型mc在t时刻的预测值。由于模型输入长度的限制，该模型仅能从t＝w时刻开始预测系统退化轨迹，此时对应的输入和输出分别为[x1，x2，...，xw]和y
c，w+k
。令rul
c，m
表示在t＝m时刻通过系统退化预测得到的剩余寿命，xm＝[x1，x2，
…
，xm]表示从t＝1到m时刻的真实退化值。
[0124]
在零寿命标签网络的剩余寿命预测算法中，当失效时刻点与预测起始点之间的间隔超过预测步数k时，零寿命标签网络将采用预测的退化值继续迭代预测系统退化。因此，t＝m处的剩余寿命预测结果rul
c，m
直接受到t＝m处及其后续退化预测结果影响，t＝m处及其后续退化预测结果的精度越高，对应的剩余寿命预测结果也更准确。一般情况下，当网络训练参数设置不同时，训练得到的零寿命标签网络全局预测精度是基本近似相等的，但是由于训练算法通常仅关注全局精度，而非局部精度，故不同训练条件下得到的退化预测值在某些局部预测点可能有相对较大的误差。这表明，由训练条件不同造成的零寿命标签网络的不确定会引起局部退化预测的不确定，从而进一步造成剩余寿命预测结果的不确定。这意味着当采用退化值标签训练的网络预测系统剩余寿命时，一个较小的退化差异可引起较大寿命预测误差，为得到较为准确的剩余寿命预测结果，充分考虑了零寿命标签网络不确定性。
[0125]
本发明将零寿命标签网络模型平均方法并将其应用于剩余寿命预测算法以处理网络模型不确定性。由于网络模型数学表达式的复杂性，通常难以得到其似然函数解析形式，造成bayesian模型平均方法难以直接应用于零寿命标签网络模型不确定性的处理。因此在排除网络过拟合情况下，于训练数据集上表现出更高测试精度的网络通常具备更好的预测能力，进而将bayesian模型平均中的模型先验概率采用网络模型训练测试精度替代。令代表候选网络模型mc训练测试精度，并表示为
[0126][0127]
式中，n是测试样本个数，表示真实观测退化，代表网络mc的退化预测。公式(5)中观测的退化数据为正，则恒定满足。考虑到模型先验概率应与测试精度正相关，故给出如下所示模型先验概率计算公式
[0128][0129]
令表示候选网络模型mc在t＝m时刻的总体预测精度，则该精度可表示为
[0130][0131]
同训练测试精度相似，预测精度始终满足当预测精度更高时表明模
型mc在时间t＝1到t＝m上的预测表现更好，则应对应更高的预测退化概率，故给出如下表达
[0132][0133]
基于公式(6)和公式(8)中根据训练测试精度和预测精度得到的概率函数，可根据bayesian模型平均理论构造如下所示网络后验概率公式
[0134][0135]
由于预测精度将根据新观测的真实退化xm不断更新，故定义的网络模型后验概率pa(mc|xm)也可实时更新。因此，可通过下式处理零寿命标签网络在剩余寿命预测中的模型不确定性
[0136][0137]
以锂电池为例，本发明主要采用马里兰大学公开的锂电池实验数据对所提方法的有效性与优越性进行验证。选择电池退化数据集中编号为cs2-35，cs2-36，cs2-37和cs2-38的电池放电电容量作为退化特征，表2中为退化数据集中的电池参数。cs2电池额定电容为1.10ah，可以认为所有cs2系列电池初始电容量都应不超过1.21ah(110％额定电容)。
[0138]
表1退化电池样本及其参数表
[0139][0140]
上述cs2电池在经过一系列的充放电测试循环后，可得到如图3所示的电池放电电容量变化轨迹，图3为本发明所提供的电池放电电容退化轨迹图。
[0141]
为提高网络训练精度，在制作数据集时将图3中电池退化特征先做归一化处理。根据表1中电池额定电容为1.10ah，可以认为所有cs2系列电池初始电容量都应不超过1.21ah(110％额定电容)，否则该电池应为不合格产品，因此采用如下归一化方法是合理有效的
[0142][0143]
式中，是第j个退化电池的第i次测试退化量，为对应归一化后的退化量。进一步，根据表2将归一化后的电池退化数据构造出4组不同数据集。
[0144]
表2训练数据集表
[0145][0146][0147]
表2中训练样本cs2-35(0～ω％)代表cs2-35号电池在测试循环0＞t≤t
cs2-35
·
ω/100中的监测退化量，其中t
cs2-35
为电池cs2-35总测试次数；对应的预测样本cs2-35(w％～100％)为测试循环t
cs2-35
·
ω/100＜t≤t
cs2-35
中的监测退化量。同时，按照各电池样本数据量在测试数据集中所占比例，随机选择训练数据集中200个样本作为训练测试数据集。
[0148]
为验证双向lstm递归网络预测复杂系统退化的性能，构造表3中不同类型递归神经网络，其中设置网络训练超参数为：学习率lr＝0.001，样本批量大小bs＝200，训练迭代期次数et＝1000，深度维dropout方法弃权率为50％，可得如表3所示的网络训练测试精度与退化预测精度。
[0149]
表3不同类型递归网络的训练测试精度与退化预测精度表
[0150]
[0151][0152]
为检验网络模型平均方法的有效性，进一步分析双向lstm网络预测的锂电池放电电容退化轨迹结果和剩余寿命结果。考虑到零寿命标签网络模型的不确定性主要由样本批量大小、学习率、训练迭代期次数和网络结构引起，表4设置了九种不同超参数组合，即九种候选双向lstm网络。
[0153]
表4候选网络训练参数设置表
[0154][0155]
根据以上参数设置，采用50％弃权率的深度维权dropout方法，得到不同数据集下的训练结果，如表5所示。
[0156]
表5不同数据集下各候选网络的训练测试mse和对应的网络模型平均先验概率表
[0157]
[0158][0159]
由于零寿命标签网络的特殊性，锂电池剩余寿命预测需在放电电容退化轨迹预测基础上进行，因此首先给出如表6所示关于锂电池放电电容退化轨迹的预测结果。同时，在表6中将算术平均方法作为本章网络模型平均方法的对比算法。
[0160]
表6锂电池放电电容退化轨迹预测的总体mse表
[0161][0162]
令sp
i，j
表示数据集i对应的第j个退化观测点，根据电池cs2-35的退化数据总长，选择sp
i，1
＝100，sp
i，2
＝300，sp
i，3
＝500和sp
i，4
＝700，4个监测点处对应的剩余寿命预测结果来验证本章算法的有效性。设置失效阈值为0.5，则电池cs2-35失效时间为t＝802。表7为不同数据集下的剩余寿命预测结果括号内数值为对应预测误差，每个数据集下各预测点中单个网络最优预测结果由加粗字体标出。
[0163]
表7不同数据集下各监测点的剩余寿命预测结果以及平均预测精度表
[0164][0165][0166]
表7中预测精度计算公式如下
[0167][0168]
式中，rul
prediction
为预测的剩余寿命，rul
real
代表真实剩余寿命，同时由于不同数据集下各监测点处得到的剩余寿命预测结果均满足|rul
prediction-rul
real
|＜rul
real
，故剩余寿命预测精度满足0≤rul
accuracy
≤1，因此预测精度越高意味着预测结果越准确。
[0169]
本说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似部分互相参见即可。对于实施例公开的系统而言，由于其与实施例公开的方法相对应，所以描述的比较简单，相关之处参见方法部分说
明即可。
[0170]
本文中应用了具体个例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想；同时，对于本领域的一般技术人员，依据本发明的思想，在具体实施方式及应用范围上均会有改变之处。综上所述，本说明书内容不应理解为对本发明的限制。