1.一种基于lstm和mlp结合的化工过程故障诊断方法,其特征在于该方法包括以下步骤:
a.将原始一维数据通过降维,去掉部分冗余数据点;
b.将得到的一维数据输入堆叠的lstm,提取得到具有时间特性的特征信息;
c.通过flatten层将lstm的输出数据展开,输入到由全连接层堆叠而成的mlp中,进行下一阶段的特征提取;
d.由最后一层全连接层中的softmax分类器进行故障类别的分类。
2.根据权利要求1所述的一种基于lstm和mlp结合的化工过程故障诊断方法,其特征在于:所述步骤b中,在lstm中提取得到具有时间记忆特性的特征信息具体过程如下:
lstm包括记忆细胞ct和三个门限:输入门it、遗忘门ft和输出门ot;当输入序列为xt时,三个门限和记忆细胞的输出如下:
其中whf、whi、who、whc分别表示遗忘门、输入门、输出门、记忆细胞与上一隐含层之间的权重矩阵,ht-1为前一时刻单元的输出,wxf、wxi、wxo、wxc分别表示输入与遗忘门、输入门、输出门、记忆细胞之间的权重矩阵,bf、bi、bo、bc分别表示遗忘门、输入门、输出门、记忆细胞的偏置,σ为sigmoid函数,其中lstm的网络模型由两层lstm堆叠而成,在每层lstm中加入了随机丢弃机制以及l2正则化。
3.根据权利要求1所述的一种基于lstm和mlp结合的化工过程故障诊断方法,其特征在于:所述步骤c中,在mlp中提取特征信息具体如下:
在mlp输入层将之前lstm的输出展开为x1,x2,x3...化为向量x[1],mlp输入层到下一层之间权重为w1,w2,w3...化为向量w[1],其中1表示mlp第一层,偏置b[1]同理,则第一层的计算为z[1]=w[1]x+b[1],之后a[1]=sigmoid(z[1]),其中z[1]为输入的线性组合,a[1]为z[1]通过激活函数sigmoid的得到的值,对于mlp第一层的输入为x[1],输出为a[1],也就是下一层的输入值,即x[2]=a[1],依次类推到下一层,所述mlp由五层全连接网络堆叠而成;在每两层全连接层之间加入随机丢弃层,同时在每一个全连接层中加入l2正则化,并且采用he_normal作为权重的初始化方法。
4.根据权利要求1所述的一种基于lstm和mlp结合的化工过程故障诊断方法,其特征在于:所述步骤d中,通过softmax分类器进行故障类别的分类具体如下:
选择softmax作为最后一层全连接层的激活函数,用于计算样本属于不同类别的概率,对于给定的输入x,针对于每一类别j估算出概率值p,并输出诊断结果;随后softmax的输出向量[y1,y2,y3...]和样本的实际标签做交叉熵计算,公式如下: