一种神经网络的系统控制器结构及系统辨识结构的制作方法

专利名称：一种神经网络的系统控制器结构及系统辨识结构的制作方法
技术领域：
本发明涉及自动控制系统，尤其涉及一种神经网络系统的控制器结构及其自动辨识与自动提高系统控制精度的结构。

背景技术：
现实中时变性是控制产品及系统的基本特征，例如控制系统的使用环境变化，系统硬件的温度漂移，控制系统部件或元件随时间的老化，都会造成系统输入与输出之间描述函数的变化。这种变化的程度，无法在系统设计或产品生产时准确预计到，而且电子元器件本身的误差更加剧了系统的设计误差，造成系统或产品在具体使用时无法达到很高的设计控制精度。如增加反馈环节在控制上有时却无法满足控制相应速度的要求。
对于具体的一个产品或一个控制系统，当前针对于时变模型参数漂移的解决方法通常有两种，一是阶段性考虑问题，针对应用现场实际情况将时变系统阶段性视为时不变系统对系统参数进行辨识；二是利用模糊建模的思想，利用人工神经网络及遗传算法等手段，辨识出针对模糊控制系统名义模型参数的规则时间函数。通常第二种思想所耗费的成本代价很高，而且计算量较为复杂。
针对温度漂移、老化、使用环境变化造成的控制系统参数变化，很多情况下需要自动调节控制参数以提高控制精度。
目前尚未见到对控制系统根据使用现场及具体使用环境进行自动参数调节的合适方案，当前针对时不变系统的模型集辨识建立的自适应算法等，都只能在建模误差平方无穷可积的条件下，才能保证系统模型辨识误差渐近收敛。尤其对于时变性引起的对象名义模型的模型参数甚至是模型结构漂移，经典的自适应辨识算法有时甚至不能保证名义模型误差及辨识参数的有界性。
神经网络是智能控制的一种，神经网络的优点是可以在无法确知系统传递描述函数的情况下利用训练数据或经验知识库来实现自适应控制，相关理论论述较多，但对于神经网络训练简化算法手段较少。对于具体的产品应用，需要解决下述两个问题 一、神经网络算法收敛的适用性，避免训练算法进入局部极小值； 二、需要考虑神经算法简化问题，以节约计算资源适应产品现场控制要求。
因此需要找到一种简单的人工神经网络计算方法以实现不同环境、不同硬件误差下的自适应控制。


发明内容
针对当前人工神经网络控制器的缺点，本发明旨在提供一种结构简便、经济实用神经网络结构及其系统辨识和系统控制计算方法，其可以提高神经网络控制器的输出或系统辨识、数据采集的精度，对抗使用环境变化，系统硬件的温度漂移，控制系统部件或元件随时间的老化，电子元器件本身的误差造成的系统描述函数与设计要求间的误差，抵消中间环节过多造成的累计误差。
本技术所针对的控制系统至少包含下述四个方面1、智能计算处理器，如单片机、嵌入式微处理器、DSP、计算机等。2、系统优化控制的明确期望目标，如在确定输入值下的输出值期望确定，或是得到系统输入与输出的描述函数。3、反馈控制信号。4、在一定范围内输入与输出稳定且一一对应。
本发明的一种神经网络系统控制器结构，其特征在于包含神经网络控制结构、系统控制中线性无关的基函数结构、相应权与权值的分析迭代训练结构；该神经网络控制结构根据可覆盖控制范围的样本，调节神经网络基函数的权值，在实际控制中对期望输出值进行神经网络修正处理，以提高输出控制精度。
本发明的技术方案结合了三种技术概念Adaline神经网络结构，线性无关辨识基函数的应用，LMS最小均方算法的高斯-赛德尔或SOR超松弛迭代或雅可比迭代数值分析。Adaline神经网络结构可以通过减少类神经元的真实输出与期望输出间的均方误差来提高系统控制精度或辨识精度；使用线性无关控制(辨识)基函数的取代输入延迟序列，可以有效地减少硬件资源耗费并用软件实现计算，同时使用正交控制(辨识)基函数使神经网络权值具有累加特性；LMS最小均方算法的高斯-赛德尔或SOR超松弛迭代数值分析简化了网络权值运算迭代，使得动态正交神经网络计算方法可以在单片机这样计算资源有限的硬件上运行。本发明结合这三种技术的技术方案，提出了一种新的系统控制与系统辨识方法。
如图1，本发明解决其技术问题的技术方案包括两个可独立使用或共同使用的部分 一种神经网络系统控制器结构，包含神经网络控制结构、系统控制中的线性无关基函数结构、相应权与权值的高斯-赛德尔迭代训练结构。
一种神经网络系统辨识结构，包含神经网络辨识结构、系统辨识中的线性无关基函数结构、相应权与权值的分析迭代训练结构 对于该结构算法的解释及推导如下 在图1的神经网络中，对于一个网络输入值x，其形式为

其中ωi为网络权值，

为神经网络基函数。
神经网络在理论上能以任意精度逼近L2
中，线性无关的函数系1，x，x2，x3，Λ经过标准正交化也可以得到Legendre正交多项式。
对于图1一组实际输入值xi与反馈信号yi，对于函数族

及权函数Γ(x)，用于辨识实际控制系统的描述函数y＝f(x)，依据线性空间最小二乘法曲线拟合定义所谓“最好”的拟合辨识标准通常是要求

与yi的偏差

的平方和

为最小。
由此寻求系统辨识正交神经网络权值训练的任务变为对于给定的N个数据(xi，yi)，(i＝1，2...n)，选取线性无关的函数族

及权函数Γ(x)，要求在函数类

中寻找一个系统描述函数y＝f(x)的辨识函数

(m＜N)，使得

达到极小。显然该式是m+1个变量a0，a1，Λam的二次函数，令
由多元函数极值的必要条件，有

(j＝0，1，Λm) 引入内积的定义 多元函数极值方程组可表示为
由于正交基函数

线性无关，可以证明方程存在唯一解使I(a0，a1，Λam)取最小值，且最小平方误差为 对于多元函数极值方程组简记为Aa＝B。讨论如下，令矩阵
对于任意m+1维非零列向量aH＝[a0 a1 Λ am]，有


可以看出，对于正交神经网络，总可以取得权函数Γ(xi)＞0，N＞＞m，在线性无关的正交辨识基

上，对于任意非零aH＝[a0 a1 Λ am]，有aHAa
在此条件下矩阵A对称正定，因此对于矩阵A的超松弛迭代(0＜超松弛因子＜2)及高斯-赛德尔迭代收敛，即可以使用超松弛迭代法或高斯-赛德尔迭代法在单片机中解出正交神经网络权向量值。在矩阵A对称正定条件下，雅可比迭代不一定收敛，但在某些具体应用场合，雅可比迭代也可以收敛。
对于矩阵

其中L、R分别是A的上、下三角部分元素构成的严格上、下三角阵，D是A的对角线元素构成的对角阵。
a＝-(L+D)-1Ra+(L+D)-1b 这样可以得到两种很简单的简化迭代计算方法 一、引入高斯-赛德尔迭代，当k为迭代次数，i＝0，1，Λ，m时
其矩阵表达式为a(k+1)＝-(L+D)-1Ra(k)+(L+D)-1b。
二、引入SOR超松弛迭代，当k为迭代次数，i＝0，1，Λ，m时
其中0＜φ＜2为迭代因子。
其矩阵表达式为a(k+1)＝(D+φL)-1[(1-φ)D-φR]a(k)+φ(D+φL)-1b。
上述两种迭代方程在实际应用中，权函数Γ(xi)经常可以取为常数，例如Γ(xi)≡1，计算量非常小，适合单片机使用，使得神经网络在单片机等现场智能控制中的参数修正成为可能。
对于正交神经网络的控制输出权向量ω0，ω1，Λωn的调节，同上所述之原理，实际是希望控制实际输出值与期望输出值见误差最小，即辨识出x＝f-1(y)，则在控制期望为X时，对应控制系统的实际输入值为x＝f-1(X)，此时理想状况下实际输出y＝X。因此将实际输入值xi与采样反馈信号yi调转，即可使用相同的方法寻求出输出权向量ω0，ω1，Λωn。问题描述如下对于图1一组实际输入值xi与反馈信号yi，寻求满足控制期望的最佳控制输出权向量ω0，ω1，Λωn，对于给定的N个数据(xi，yi)，(i＝1，2...n)，选取正交线性无关的函数族

及权函数Γ(y)，要求在函数类

中寻找一个系统描述函数的辨识函数

(m＜N)，使得

达到极小，显然该式是n+1个变量ω0，ω1，Λωn的二次函数，其迭代运算可参考辨识结构算法中的超松弛迭代及高斯-赛德尔迭代。其中超松弛迭代中0＜超松弛因子＜2。对于高斯-赛德尔迭代，当k为迭代次数，i＝0，1，Λ，m
其矩阵表达式为ω(k+1)＝-(L+D)-1Rω(k)+(L+D)-1b。
对于SOR超松弛迭代，当k为迭代次数，i＝0，1，Λ，m时
，其中0＜φ＜2为迭代因子。
其矩阵表达式为ω(k+1)＝(D+φL)-1[(1-φ)D-φR]ω(k)+φ(D+φL)-1b。



图1为本发明的神经网络控制器结构与系统辨识结构示意图； 图2为本发明应用实例的模拟输出控制结构示意图； 图3为本发明应用实例的0～20mA电流输出硬件结构示意图； 图4为本发明应用实例的硬件系统描述函数辨识程序流程示意图； 图5为本发明应用实例的神经网络控制器模拟输出量控制程序结构示意图； 图6为本发明应用实例的神经网络控制器输出期望值的控制处理示意图； 图7为本发明应用实例的离心泵恒压力控制系统结构示意图； 图8为本发明应用实例的离心泵恒压力控制系统压力期望值处理示意图。

具体实施例方式 实例一 如图2，例如有某现场级模拟量输出单元，其功能是按接收到控制输出指令执行模拟量输出，该指令通常为上层控制总线发来输出值，例如发出0-20mA、4-20mA、0-5V这样的常规模拟输出值。
由于具体的元件误差，性能老化，温度漂移等问题，硬件电气参数发生了改变，输出信号与控制期望值误差超出要求。要求设计一个软件辨识结构，在需要的时候，通过一个按钮或按键，启动神经网络校验程序，使用软件方式来优化更改控制参数并提高控制精度。
举例若某一电流模拟输出通道的硬件，根据输入指令码0000～1111输出0～20mA电流，其结构如图3。
不同温度环境下，由CPU数字输出到实际输出的硬件描述函数会改变，例如某个模拟量硬件通道在环境试验中的评估为1、温度19.60℃，湿度95.5％条件下，误差精度为5.69％(4mA)，3.82％(10mA)，-0.41％(15mA)，2.32％(20mA)；2、温度55.0℃，湿度91.9％条件下，误差精度为6.12％(4mA)，3.78％(10mA)，-0.40％(15mA)，2.43％(20mA)；3、温度-25.0。C，湿度41.0％条件下，误差精度为8.98％(4mA)，6.92％(10mA)，2.55％(15mA)，5.40％(20mA)。
结论为该模拟量硬件通道在环境试验中，温度-21.0℃，湿度42.5％条件下，输出4mA时有最大误差9.15％。在不同环境条件下，同一输出条件下的最大误差迁移为4mA为3.54％，10mA为3.17％，15mA为2.95％，20mA为3.18％。显然温度变化对硬件误差影响较大，同时如果为硬件加装恒温系统则成本很高。在此条件下，上边提到的神经网络结构可在软件中自动调节温度对误差的影响。
依据本发明神经网络迭代计算的方法，取在实空间L2[-1.1]中Legendre正交多项式，或可以得到Legendre正交多项式的线性无关的函数系1，x，x2，x3，Λ为辨识基，定义函数Γ≡1，采用图1的神经网络结构。根据模拟输出硬件通道的测试经验，取x2为最高阶次，其辨识结构已满足辨识精度要求ε。
一、对于辨识出硬件描述函数的过程是1、在某种具体应用环境条件下，启动神经网络模拟量模块，通过某些方式，例如a、硬件外部按键、开关等；b、远程控制指令c、程序启动自检等，启动辨识子程序；2、记录一组能覆盖到控制量程样本值(xi，yi)，其中，xi为实际输出给DAC转换的数据，yi为输出反馈检验值；3、根据样本值计算

其中由于该过程取样本输入xi固定值不变，故此实际软件简化，只需计算

在CPU存储中建立迭代向量组；4、设置初始权向量与迭代循环次数n，例如
或上次已有的辨识权值

使用已有辨识权值可提高迭代精度，进入迭代循环。根据神经网络高斯-赛德尔迭代法有 5、最后存储权向量迭代结果[a0n a1n a2n]，硬件描述函数辨识结果为可对控制上层上报权向量。整个辨识程序流程如图4。
动态神经网络系统辨识软件流程也可以在控制上层实现，而无需在本CPU结构内部完成，其迭代方法一致。
二、对于使用动态神经网络提高输出精度的验证 1、在具体应用环境改变的条件下，启动神经网络模拟量控制校验模块，通过某些方式例如a、硬件外部按键、开关等；b、远程控制指令；c、程序启动自检，启动控制校验子程序；2、记录一组样本值能覆盖到控制量程的(xi，yi)；其中xi为实际输出给DAC转换的数据，yi为输出反馈检验值。3、根据样本值计算

在CPU存储中建立迭代向量组；4、设置初始权向量与迭代循环次数n，例如
或上次已有的控制权值[ω0* ω1* ω2*]，使用已有控制权值可提高迭代精度或减少迭代次数，进入迭代循环；根据神经网络高斯-赛德尔迭代法有 5、最后存储控制权向量迭代结果

存储存储控制权向量结果为以后输出控制值调节使用。神经网络迭代子程序如图5。
6、在接到输出指令值X时，使用运算式计算x，以x为实际送给硬件通道的控制值，即可实现控制误差ε最小。控制输出的程序过程如图6。
对于实例一，在程序中若随时采集输入值，对辨识或控制迭代的样本值进行局部更新，在CPU系统空闲时迭代并修正权值，则该系统即为动态神经网络；若基函数又取了正交函数，则系统视为动态正交神经网络。
实例一的控制器校验计算，也可以在产品的外部进行。例如由一台测试仪器采集硬件的校验样本(xi，yi)，在外部完成使用动态神经网络提高输出精度的校验计算，将结果[ω0n ω1n ω2n]做为产品修正值输入进产品中，在具体使用时，产品内部仅需要完成第6步修正计算即可。
实例二 很多控制系统，由于所涉及到的中间环节较多，误差难以控制，在系统完成后需要进行整个系统的精度调试，采用图1的人工神经网络结构，可以实现系统精度的自动调节，节约大量人力物力及时间。
例如假定有如图7的离心泵恒压力控制系统，其为单回路简单控制系统。安装在离心泵出口管路上压力传感器PT将离心泵出口压力转换成电压信号，经放大器放大后输出至PC工业控制计算机，PC将压力信号与压力给定值比较后，需要按照设定网络权值，依据调节规律输出变频调速的激励信号，驱动变频调速器控制电机的转速，达到恒定离心泵出口压力的目的。
整个控制系统参数如下1、被控变量Y离心泵出口稳定后压力P；2、给定值(设定值)X对应于被控变量所需保持的工艺参数值。3、测量值y由传感器检测到的被控变量的实际值，在本实验中为离心泵出口压力值P。4、操纵变量实现控制作用的变量在变频调速中使用了PID比例积分控制规律方式消除干扰。
在系统构架搭配完成时，由于控制系统中间环节较多，误差人为控制可能性较小；而且在不同液体介质条件下、不同输出量大小或不同粗细的输送管道条件下，在离心泵同转速条件下产生的压力也不尽相同。因此使用神经网络可以在整个控制系统调试时进行自动修正调节，无需考虑中间环节误差及介质密度等因素。
假定在图1结构中使用线性无关的函数族

为辨识基函数，由于使用工业控制计算机，因此[ω0 ω1 Λ ωm]权向量可以取较高阶数以提高精度。与实例一中的方法类似，应用SOR超松弛迭代的本方法步骤如下 1、在具体应用环境的条件下，启动神经网络权值控制校验模块，通过某些方式，启动控制校验程序；2、记录一组能覆盖到控制量程的样本值(xi，yi)；其中xi为控制输出到变频调速的控制信号，yi为输出压力传感器反馈值。3、根据样本计算内积定义，在CPU存储中建立所需内积迭代向量组；4、设置初始权向量与迭代循环次数n，例如
或上次已有的控制权值[ω0* ω1* Λ ωm*]，进入迭代循环；k为迭代次数，i＝0，1，Λ，m，根据SOR超松弛迭代有
其中0＜φ＜2为迭代因子。
5、最后存储控制权向量迭代结果[ω0n ω1n Λ ωmn]；以便下一步输出控制使用。
6、在接到系统压力输出指令值X时，使用运算式

计算x，以x做为实际送给电机变频调速的控制值，即可实现控制误差最小。并以图8所示的控制程序过程输出。
权利要求
1.一种神经网络系统控制器结构，其特征在于包含神经网络控制结构、系统控制中线性无关的基函数结构、相应权与权值的分析迭代训练结构；根据可覆盖控制范围的样本，调节神经网络基函数的权值，在实际控制中对期望输出值进行神经网络修正处理，以提高输出控制精度。
2.一种神经网络系统辨识结构，其特征在于包含神经网络辨识结构、系统辨识中线性无关的基函数结构、相应权与权值的分析迭代训练结构；根据可覆盖控制范围的样本，调节神经网络基函数的权值，使用神经网络的基函数与权值重构控制系统的描述函数。
3.根据权利要求1所所述的神经网络系统控制器结构或权利要求2所述的神经网络系统辨识结构，其特征在于在神经网络中使用了包括正交基函数在内的线性无关基函数，对神经网络输入值进行处理；对于网络输入值x的神经网络输出使用形式为
的神经网络基函数，其中ωi为网络权值；其中线性无关的函数有Laguerre函数、Kautz函数、Z(Λ)变换、1，x，x2，x3，Λ。
4.根据权利要求1所所述的神经网络系统控制器结构或权利要求2所述的神经网络系统辨识结构，其特征在于在神经网络权值简化迭代训练中使用了高斯-赛德尔迭代、SOR超松弛迭代方法或者雅可比迭代方法，对于高斯-赛德尔迭代、SOR超松弛迭代方法包含下述四个方程式；
一、对于一组训练样本(xi，yi)，在神经网络系统辨识结构中使用高斯-赛德尔迭代有公式
其矩阵表达式为a(k+1)＝-(L+D)-1Ra(k)+(L+D)-1b。其中k为迭代次数，i＝0，1，Λ，m，内积定义为Γ(xi)为内积权函数，可取为常数；
二、对于一组训练样本(xi，yi)，在神经网络系统辨识结构中使用SOR超松弛迭代有
其矩阵表达式为a(k+1)＝(D+φL)-1[(1-φ)D-φR]a(k)+φ(D+φL)-1b。其中k为迭代次数，i＝0，1，Λ，m，内积定义为Γ(xi)为内积权函数，可取为常数，0＜φ＜2为迭代因子；
三、对于一组训练样本(xi，yi)，在神经网络控制器结构中使用高斯-赛德尔迭代有公式
其矩阵表达式为ω(k+1)＝-(L+D)-1Rω(k)+(L+D)-1b。其中k为迭代次数，i＝0，1，Λ，m，内积定义为Γ(xi)为内积权函数，可取为常数；
四、对于一组训练样本(xi，yi)，在神经网络系统控制器结构中使用SOR超松弛迭代有
其矩阵表达式为ω(k+1)＝(D+φL)-1[(1-φ)D-φR]ω(k)+φ(D+φL)-1b。其中k为迭代次数，i＝0，1，Λ，m，内积定义为Γ(xi)为内积权函数，可取为常数，0＜φ＜2为迭代因子。
5.根据权利要求1所所述的神经网络系统控制器结构，其特征在于在期望输入值为X时，实际送往硬件系统的人工神经网络输出值为
其中ωi为网络权值，
为神经网络基函数。
6.根据权利要求1所所述的神经网络系统控制器结构或权利要求2所述的神经网络系统辨识结构，其特征在于将神经网络应用于某种体应用环境条件下，可用于自动修正由于具体的元件误差，性能老化，温度漂移等问题带来产品的控制误差；针对不同应用环境场合，神经网络将自动调节有不同的控制权值。
7.根据权利要求1所所述的神经网络系统控制器结构或权利要求2所述的神经网络系统辨识结构，其特征在于神经网络在整体系统校验调整过程中，由样本值迭代计算并调节神经网络权值，以提高控制或辨识精度。
8.根据权利要求1所述的神经网络系统控制器结构或权利要求2所述的神经网络系统辨识结构，其特征在于在具体应用环境条件下，可启动神经网络模拟量模块进行神经网络参数自动调节；通过包含硬件外部按键、开关、远程控制指令触发或程序启动自检命令的方式，来启动控制器参数调整子程序或辨识子程序，自动调节神经网络权值。
全文摘要
本发明涉及一种神经网络系统的控制器结构及其自动辨识与自动提高系统控制精度的结构。其中神经网络系统控制器结构包含神经网络控制结构、系统控制中线性无关的基函数结构、相应权与权值的分析迭代训练结构；根据可覆盖控制范围的样本，调节神经网络基函数的权值，在实际控制中对期望输出值进行神经网络修正处理，以提高输出控制精度。一种神经网络系统辨识结构，其特征在于包含神经网络辨识结构、系统辨识中线性无关的基函数结构、相应权与权值的分析迭代训练结构；根据可覆盖控制范围的样本，调节神经网络基函数的权值，使用神经网络的基函数与权值重构控制系统的描述函数。
文档编号G05B13/02GK101493677SQ200810029119
公开日2009年7月29日 申请日期2008年6月30日 优先权日2008年6月30日
发明者李华嵩 申请人:李华嵩