一种基于长短时记忆网络的列车状态在线预测方法与流程

本发明属于轨道交通运行安全技术领域，具体涉及一种基于长短时记忆网络的列车状态在线预测方法。

背景技术：

随着我国列车的快速发展，列车的安全问题越来越受到重视。为了促进我国轨道交通的健康可持续发展，开展适应于列车状态的实时在线预测显得十分重要。

准确的列车状态预测是保证列车高速安全运行的基础。通过对列车状态的在线实时预测，可以掌握列车各部分的实时性能，为列车实时精准控制打下基础。因此，以列车监测数据为研究对象，基于长短时记忆网络(longshorttermmemorynetwork,lstm)，开展适应于列车状态预测的基础研究意义重大。

技术实现要素：

本发明的目的是提供一种基于长短时记忆网络的列车状态在线预测方法，解决了现有技术中存在的列车状态预测不准确，故障误报率高，传统估计算法运算复杂，可移植性差，离线状态预测不能掌握与控制列车实时状态，预测精度不高的问题。

本发明所采用的技术方案是，一种基于长短时记忆网络的列车状态在线预测方法，具体按照以下步骤实施：

步骤1、列车状态监测数据预处理与归一化；

步骤2、列车状态监测数据选取与划分；

步骤3、lstm网络门结构设计；

步骤4、lstm网络梯度反向计算误差；

步骤5、调节网络循环次数，进行状态预测。

本发明的特点还在于，

步骤1具体如下：

数据预处理包括对列车状态监测数据进行缺失数据补全、突变点剔除操作；

数据归一化采用线性函数归一化，去掉状态监测数据的量纲，将数据限制到一定区间，使运算更为便捷，如下式：

其中，x为列车状态不同时刻的监测数据，xmin和xmax分别为状态监测数据中的最小值和最大值，xnorm为归一化处理后的状态数据。

步骤2具体如下：

选取列车状态历史监测数据为研究对象，对监测数据进行划分，设定前70％和后30％的历史监测数据为lstm网络训练数据集和测试数据集，用于之后的lstm网络模型的训练与测试。

步骤3具体如下：

步骤3.1、以t时刻的网络细胞为研究对象，t时刻的细胞输入由t-1时刻的隐藏层单元ht-1、t-1时刻的细胞状态ct-1和当前时刻的列车状态数据xt共同组成，t时刻的细胞输出为隐藏层单元ht和细胞状态ct；

步骤3.2：遗忘门决定上一时刻细胞状态ct-1中的信息传递到当前时刻ct中的信息量，由ft控制，值域为(0,1)，其计算公式如下：

ft＝σ(wxfxt+uhfht-1+bf)

式中，ft为遗忘门状态，wxf和uhf分别为输入列车状态特征向量和隐藏层单元与遗忘门之间的权重，bf为遗忘门的偏差值，σ表示sigmod函数，如下所示：

式中，x为输入数据，通过sigmod函数将数据映射到[0,1]之间，便于后续的分析与处理；

步骤3.3：细胞输入门用来控制当前输入新生成的信息中加入到细胞状态ct中的信息量，由it控制，值域为(0,1)，设tanh层产生当前时刻新的信息，sigmoid层控制新信息传递到细胞状态的信息量，计算公式如下：

it＝σ(wxixt+uhiht-1+bi)

式中，it为输入门状态，为当前输入新信息，wxi和uhi分别为输入列车状态特征向量和隐藏层单元与输入门之间的权重，bi为输入门的偏差值，tanh表示激活函数，tanh函数如下所示：

式中，x为输入数据，通过tanh函数将数据映射到[-1,1]之间，便于后续的分析与处理；

步骤3.4：基于遗忘门和输入门的输出，更新细胞状态，具体计算公式如下：

式中，ct为t时刻细胞状态；

步骤3.5：基于更新的细胞状态，输出门ot采用sigmoid层控制细胞状态信息作为隐藏状态的输出ht。

步骤4具体如下：

步骤4.1：定义反向传播计算误差δ为模型目标函数e对加权输入nett＝(uhr*ht-1+wx*xt+b)的偏导，δ的传播沿两个方向，分别为从输出层传递至输入层，以及沿时间t的反向传播；

步骤4.2：定义：由ht＝ot*tanh(ct)得

式中，ct记忆了所有时刻的细胞状态，故每个时间点迭代时，累加；

步骤4.3：由得到：

根据

it＝f(netit)＝sigmoid(uhi*ht-1+wxi*xt+bi)

ft＝f(netft)＝sigmoid(uhf*ht-1+wxf*xt+bf)

ot＝f(netot)＝sigmoid(uho*ht-1+wxo*xt+bo)

得

步骤4.4：计算各个权重矩阵的偏导数：

步骤4.5：以t时刻网络细胞为研究对象，δ从输出层传递至输入层，对于输出层l，由于yt＝g(wy*ht+by)＝g(nett)，则

权重wy,by的偏导数：

同理

步骤4.6：对于其它层，由于

nett＝(uh*ht-1+wx*xt+b)

又因为

得到

步骤5具体如下：

选取步骤4得到的全部数据的前70％和后30％分别作为网络的训练数据和测试数据，调节网络循环次数与网络参数，进行列车状态的预测。

本发明的有益效果是，一种基于长短时记忆网络的列车状态在线预测方法，针对列车运行过程中列车状态的实际变化规律，对lstm网络链式结构和门结构进行设计，采用梯度下降得到网络反向计算误差，建立lstm网络模型，对列车状态监测数据进行了状态预测，预测结果精度高、可参考性强、实时性能好，具有较强的实用性和可行性。

附图说明

图1是本发明一种基于长短时记忆网络的列车状态在线预测方法的流程图；

图2是经本发明一种基于长短时记忆网络的列车状态在线预测方法得到的某列车运行速度预测结果整体效果图；

图3是经本发明一种基于长短时记忆网络的列车状态在线预测方法得到的某列车运行速度预测结果局部放大图。

具体实施方式

下面结合附图和具体实施方式对本发明进行详细说明。

本发明一种基于长短时记忆网络的列车状态在线预测方法，如图1所示，具体按照以下步骤实施：

步骤1、列车状态监测数据预处理与归一化，具体如下：

数据预处理包括对列车状态监测数据进行缺失数据补全、突变点剔除操作；

数据归一化采用线性函数归一化，去掉状态监测数据的量纲，将数据限制到一定区间，使运算更为便捷，如下式：

其中，x为列车状态不同时刻的监测数据，xmin和xmax分别为状态监测数据中的最小值和最大值，xnorm为归一化处理后的状态数据；

步骤2、列车状态监测数据选取与划分，具体如下：

选取列车状态历史监测数据为研究对象，对监测数据进行划分，设定前70％和后30％的历史监测数据为lstm网络训练数据集和测试数据集，用于之后的lstm网络模型的训练与测试；

步骤3、lstm网络门结构设计，具体如下：

步骤3.1、以t时刻的网络细胞为研究对象，t时刻的细胞输入由t-1时刻的隐藏层单元ht-1、t-1时刻的细胞状态ct-1和当前时刻的列车状态数据xt共同组成，t时刻的细胞输出为隐藏层单元ht和细胞状态ct；

步骤3.2：遗忘门决定上一时刻细胞状态ct-1中的信息传递到当前时刻ct中的信息量，由ft控制，值域为(0,1)，其计算公式如下：

ft＝σ(wxfxt+uhfht-1+bf)

式中，ft为遗忘门状态，wxf和uhf分别为输入列车状态特征向量和隐藏层单元与遗忘门之间的权重，bf为遗忘门的偏差值，σ表示sigmod函数，如下所示：

式中，x为输入数据，通过sigmod函数将数据映射到[0,1]之间，便于后续的分析与处理；

步骤3.3：细胞输入门用来控制当前输入新生成的信息中加入到细胞状态ct中的信息量，由it控制，值域为(0,1)，设tanh层产生当前时刻新的信息，sigmoid层控制新信息传递到细胞状态的信息量，计算公式如下：

it＝σ(wxixt+uhiht-1+bi)

式中，it为输入门状态，为当前输入新信息，wxi和uhi分别为输入列车状态特征向量和隐藏层单元与输入门之间的权重，bi为输入门的偏差值，tanh表示激活函数，tanh函数如下所示：

式中，x为输入数据，通过tanh函数将数据映射到[-1,1]之间，便于后续的分析与处理；

步骤3.4：基于遗忘门和输入门的输出，更新细胞状态，具体计算公式如下：

式中，ct为t时刻细胞状态；

步骤3.5：基于更新的细胞状态，输出门ot采用sigmoid层控制细胞状态信息作为隐藏状态的输出ht；

步骤4、lstm网络梯度反向计算误差，具体如下：

步骤4.1：定义反向传播计算误差δ为模型目标函数e对加权输入nett＝(uh*ht-1+wx*xt+b)的偏导，δ的传播沿两个方向，分别为从输出层传递至输入层，以及沿时间t的反向传播；

步骤4.2：定义：由ht＝ot*tanh(ct)得

式中，ct记忆了所有时刻的细胞状态，故每个时间点迭代时，累加；

步骤4.3：由得到：

根据

it＝f(netit)＝sigmoid(uhi*ht-1+wxi*xt+bi)

ft＝f(netft)＝sigmoid(uhf*ht-1+wxf*xt+bf)

ot＝f(netot)＝sigmoid(uho*ht-1+wxo*xt+bo)

得

步骤4.4：计算各个权重矩阵的偏导数：

步骤4.5：以t时刻网络细胞为研究对象，δ从输出层传递至输入层，对于输出层l，由于yt＝g(wy*ht+by)＝g(nett)，则

权重wy,by的偏导数：

同理

步骤4.6：对于其它层，由于

nett＝(uh*ht-1+wx*xt+b)

又因为

得到

步骤5、调节网络循环次数，进行状态预测，具体如下：

选取步骤4得到的全部数据的前70％和后30％分别作为网络的训练数据和测试数据，调节网络循环次数与网络参数，进行列车状态的预测。

以下以实验说明本发明一种基于长短时记忆网络的列车状态在线预测方法是有效可行的：

图2给出了经本方法得到的某列车速度预测结果整体效果图；图3给出某列车速度预测结果局部放大图。通过对图2和图3的观察可以清楚的看出，本发明一种基于长短时记忆网络的列车状态在线预测方法可以对列车的速度进行有效的、准确的预测。

本发明一种基于长短时记忆网络的列车状态在线预测方法，针对列车运行过程中列车状态的实际变化规律，对lstm网络链式结构和门结构进行设计，采用梯度下降得到网络反向计算误差，建立lstm网络模型，以列车速度监测数据为研究对象，对列车速度监测数据进行了速度预测，预测结果精度高、可参考性强、实时性能好，具有较强的实用性和可行性。