基于贝叶斯网络和极限学习机的区间型指标预报方法
【技术领域】
[0001] 本发明属于自动控制、信息技术和先进制造领域，具体涉及针对难以建立机理模 型且已有大量历史生产数据的复杂工业生产过程的一种基于贝叶斯网络和极限学习机 (ELM)的区间型指标预报方法。
【背景技术】
[0002] 生产指标预报是生产过程操作优化和动态调度中所涉及的关键技术之一，但在钢 铁、微电子等行业实际复杂生产过程中，生产数据往往含有各种不确定性，基于神经网络、 支撑向量机等常规预测模型给出的指标预报值与指标的实际测量值往往存在较大偏差，从 而影响了操作优化和动态调度效果，采用区间型指标预报方法是解决上述指标预报难题的 有效途径之一。
【发明内容】
[0003] 本发明针对难以建立机理模型且已有大量历史生产数据的复杂生产过程，提出一 种基于贝叶斯网络和极限学习机（ELM)的区间型指标预报方法。本发明针对复杂生产过程 不确定性特点，采用区间数来描述生产指标，利用复杂生产过程中的实际运行数据，采用非 对称高斯分布贝叶斯和ELM方法对区间型指标进行建模，并通过对一对互为倒数的权值进 行自适应调整获得上边界模型和下边界模型，作为生产指标的预报区间。上述区间型指标 预报方法可对实际生产过程中的生产指标进行预报，并用于指导生产过程的操作优化与动 态调度。
[0004] 一种基于贝叶斯网络和极限学习机（ELM)的区间型指标预报方法，其特征在于， 所述方法是依次按如下步骤实现的：
[0005]步骤（1):数据采集与预处理
[0006] 利用数据采集系统从实际工业生产过程进行数据采集，并将上述数据处理成如下 训练数据：
【主权项】
1.基于贝叶斯网络和极限学习机的区间型指标建模方法，其特征在于，所述方法是依 次按如下步骤实现的： 步骤（1):数据采集与预处理 利用数据采集系统从实际工业生产过程进行数据采集，并将上述数据处理成如下训练 数据：
Xi - (x Jj Xijn) 其中，xjP t汾别为第i个训练样本的输入和输出，N为训练数据样本的个数，η为输 入变量的维数； 步骤⑵：构造基于非对称高斯分布贝叶斯的双ELM模型 步骤（2. 1):将ELM模型可表示成如下形式： t = h (X) β + ε 其中，h(x)为ELM的隐层节点函数，β为输出层权重，ε为模型误差； 步骤（2.2) :ELM模型的输出可假设为如下非对称高斯分布：
其中，b为非对称高斯分布的方差参数，w为非对称高斯分布的权重； 步骤（2. 3):训练数据的似然函数可写成：
其中，氏和t i分别为满足t < h β的样本集的隐层输出矩阵和输出向量，H 2和12分别 为满足的样本集的隐层输出矩阵和输出向量； 步骤（2.4):对输出权值β使用高斯先验分布，即
其中，M是隐层节点数，a和β k是高斯分布的参数； 步骤（2.5):使用一对互为倒数权值（w，l/w)，记为（Wl，w2)，并对其进行适当的调整，能 得到基于非对称高斯分布贝叶斯的双ELM :
p (t I a2, b2) =I p (t I β 2, b2, w2)p ( β 21 a2) (1β 2 步骤（3):基于非对称高斯分布贝叶斯的双ELM模型的初始化 步骤（3. I) :ELM模型的初始化 选定输入层神经节点个数与训练样本维数η相同，输出神经节点个数为1，单隐层极限 学习机的隐层节点数M ; 隐层节点的激励函数h(x，〇1，Γι)可采用高斯函数/Sigmoid函数/正弦函数/三角基 函数/Hard Limit函数； 根据最初的N个样本练极限学习机，随机确定每个隐层节点激励函数的参 数〇1和^，1 = 1，2，L M，运用普通的极限学习机计算初始的隐层输出矩阵H和输出层连接 矩阵的初始值.￠,其中，
步骤（3.2):权重（WpW2)的自适应调整算法的初始化 初始化权重w = W1= w 2= 1，设定预测区间Cl tMine;d= 0,设定权重调整单位值为δ w =0. 05,设定权重的最小值Wmin= 0. 001，设定权重的学习率为rw= 1，设定权重的停止准 则 ε w= 〇· 00001 ; 步骤（4):权重^的贝叶斯ELM模型的参数学习： 步骤（4.1):使用贝叶斯公式，后验分布P(P1It)能用如下表示：
其中，Hui和t u分别为ε < 0的训练样本对应的隐层输出矩阵和输出值，H 1>2和t 2分别为ε > 0的训练样本对应的隐层输出矩阵和输出值，H1= [Hui5H1J, t = [Lyt1, 2]； 步骤（4.2):使用贝叶斯公式，边缘似然函数p Ulapb1)可表示如下： 其中，
步骤（4. 5):重复步骤（4. I)、步骤（4. 2)和步骤（4. 3)，直到&1和b i收敛； 步骤（5):权重《2的贝叶斯ELM模型的参数学习： 本步骤与步骤（4)类似，这里直接给出结论； 步骤（5. 1):使用如下公式计算ELM模型的输出权值，
其中，UP 12>1分别为ε < O的训练样本对应的隐层输出矩阵和输出值，UP 12, 2分别为ε > O的训练样本对应的隐层输出矩阵和输出值，H2= [H2,1;H2,2]，t = [t2,1;t2, 2]； 步骤（5. 2):分别使用如下公式计算&2和b 2 其中，
步骤（5. 3):重复步骤（5. 1)和步骤（5. 2)，直到&2和b 2收敛； 步骤（6):权重（Wl，W2)的自适应调整 步骤￠. 1):计算上界模型和下界模型的预测区间平均值：
步骤（6. 2):计算预测区间平均值与区间目标值的差： CIerr Cl expected ^^trained 步骤（6.3):根据区间模型的预测区间平均值与区间目标值的差，使用如下方式进行 权重调整 Wnew= w-CI errX (w-wmin) X δ w W1-W , w2- 1/w 步骤（7):重复步骤（4)、步骤（5)和步骤（6)，直到CU满足停止条件； 步骤（8):在上述模型参数学习完成的基础上，使用如下方式进行区间型指标预测，假 设输入变量为X，
其中，tjP 12分别为区间型指标预测值的下界和上界。
2.本发明根据前面的基于贝叶斯网络和极限学习机的区间型指标预报方法，并根据精 炼炉钢水温度预报实际问题，进一步提出了基于贝叶斯网络和极限学习机的精炼炉钢水温 度区间预报方法；该方法将实际精炼炉钢水温度在每两次温度测量之间的前一次钢水测量 温度、钢包状况、加热档位、加热时间、处理间隔时间、吹氩流量、包壁温度、烟气温度、烟气 流量和环境温度等作为模型输入训练数据，将后一次测量温度值作为模型输出训练数据， 并对基于贝叶斯网络和极限学习机的区间型指标预报模型进行训练，所得训练好的模型即 可用于钢水温度的预报；所述方法是在计算机上依次按以下步骤实现： 步骤（1):采集每炉钢水每两次温度测量之间的数据，在每组数据中，将前一次钢水测 量温度、钢包状况、加热档位、加热时间、处理间隔时间、吹氩流量、包壁温度、烟气温度、烟 气流量和环境温度等作为模型输入训练数据，将后一次钢水测量温度作为模型输出数据； 步骤（2):选定输入层神经节点个数，输出神经节点个数，单隐层极限学习机的隐层节 点数，隐层节点的激励函数，非对称权重，区间目标值； 步骤（3):采用权利要求1中的基于贝叶斯网络和极限学习机的区间型指标预报方法， 用步骤（2)采集的数据进行训练，从而得到精炼炉钢水温度预报模型。
3.本发明根据前面的基于贝叶斯网络和极限学习机的区间型指标预报方法，并根据 微电子化学机械研磨工序晶圆片研磨厚度预报实际问题，进一步提出了基于贝叶斯网络和 极限学习机的化学机械研磨厚度区间预报方法；该方法将实际微电子化学机械研磨工序对 每个晶圆片的研磨时间以及研磨设备检验标准值为模型输入训练数据，将晶圆片研磨厚度 作为模型输出训练数据，并对基于贝叶斯网络和极限学习机的区间型指标预报模型进行训 练，所得训练好的模型即可用于研磨厚度的区间预报。所述方法是在计算机上依次按以下 步骤实现： 步骤（1):采集每个晶圆片的研磨时间、研磨厚度、所属产品品种，以及研磨设备检验 标准值信息，并按所属产品品种信息将数据进行分组，在每组数据中，将研磨时间、研磨设 备检验标准值作为模型输入数据，将研磨厚度作为模型输出数据； 步骤（2):选定输入层神经节点个数，输出神经节点个数，单隐层极限学习机的隐层节 点数，隐层节点的激励函数，非对称权重，区间目标值； 步骤（3):采用权利要求1中的基于贝叶斯网络和极限学习机的区间型指标预报方法， 用步骤（2)采集的数据进行训练，从而得到微电子化学机械研磨厚度预报模型。
【专利摘要】基于贝叶斯网络和极限学习机的区间型指标预报方法，属于自动控制、信息技术和先进制造领域，具体涉及非对称高斯分布贝叶斯ELM模型参数的学习及非对称权重的自适应调整。其特征在于包括以下步骤：针对复杂生产过程不确定性特点，采用区间数来描述生产指标，将非对称高斯分布作为ELM模型中的输出分布，获得带权重贝叶斯ELM模型，并利用复杂生产过程中的实际运行数据，在经验贝叶斯框架下对上述贝叶斯ELM模型的参数进行学习。在此基础上，采用自适应调整方法学习一对互为倒数的权重，最终获得区间型指标的预报值。上述区间型指标预报方法可对实际生产过程中的生产指标进行预报，并用于指导生产过程的操作优化与动态调度。
【IPC分类】G06Q10-04, G06F17-30
【公开号】CN104537033
【申请号】CN201410805036
【发明人】刘民, 宁克锋, 董明宇, 吴澄
【申请人】清华大学
【公开日】2015年4月22日
【申请日】2014年12月23日