一种求解含噪声时变问题的神经动力学方法与流程

本发明属于时变问题的神经动力学方法，尤其涉及一种求解含噪声时变问题的神经动力学方法。

背景技术：

实际工程应用中，被控系统的时变现象普遍存在，例如复杂系统过程控制、机器人运动控制以及航空航天等领域，都或多或少地需要解决系统的时变问题。因此，近年来，针对这些时变系统控制问题的研究越来越被控制界所关注，成为被广泛讨论的热点问题之一。时变系统的稳定性是指系统的状态、输入、输出和参数等变量，在时变因素或干扰的影响下，总是有界的，它是对控制系统的最基本要求。但是，时变系统结构复杂，不确定因素众多，常会导致系统的不稳定。因此，为了在追求控制效果的同时保证稳定性，在设计控制器时需要附加很强的假设条件，同时对时变特性的先验信息也要尽可能全面的了解。可以这样说，时变系统的稳定性分析往往是伴随着对系统及环境的种种假设和限制进行的。为了更好地处理和解决各种各样复杂的时变问题，近年来随着人工智能的不断发展，人工神经网络逐渐成为一种解决时变问题的强有力的方法。人工神经网络是近代以来人工智能领域兴起的研究热点。它从信息处理角度对人脑神经元网络进行抽象，建立某种简单模型，按不同的连接方式组成不同的网络。在工程与学术界也常直接简称为神经网络或类神经网络。神经网络是一种运算模型，由大量的节点之间相互联接构成。每个节点代表一种特定的输出函数，称为激活函数。每两个节点间的连接都代表一个对于通过该连接信号的加权值，称之为权重，这相当于人工神经网络的记忆。网络的输出则依网络的连接方式，权重值和激励函数的不同而不同。而网络自身通常都是对自然界某种算法或者函数的逼近，也是对一种逻辑策略的表达。

二次规划是非线性规划中的一类特殊数学规划问题，在很多方面都有应用，如投资组合、约束最小二乘问题的求解、序列二次规划在非线性优化问题中应用等。在过去的几十年里，二次规划已经成为运筹学、经济数学、管理科学、系统分析和组合优化学科的基本方法。而用新兴的神经网络动力学方法求解时变二次规划问题，已经成为时下研究的热点问题之一。

在现有技术中，最接近于解决二次规划问题的方法是离散法。但在面对庞大且复杂的数据时，这样一种方法显然是效率不足且不稳定的。于是，一种基于梯度下降的神经网络模型被提出，并用于求解二次规划问题。然而，这样一种基于梯度下降的神经网络并不能很好地解决二次规划问题，因为实际情况往往与时间相关。这样必然会导致实验产生一些无法估计的剩余误差，且这些误差无法收敛到零。这就意味着，在出力二次规划问题时，需要更快的收敛速度和更高的收敛精度。在这样一个背景下，张神经网络被提出并得到了很好的发展。张神经网络是解决二次规划问题的传统神经网络方法，张神经网络模型能够解决时变条件下的二次规划问题，通过利用衍生出来的时间系数，张神经网络可以得到二次规划问题的最优化解。然而，在考虑到外界噪声干扰的情况下，计算数据会变得异常庞大，往往需要更多的时间去计算结果。这对于实践操作是不利的。

由于传统的梯度法神经网络和张神经网络等固定参数递归神经网络方法要求收敛参数，也即实际电路系统中为电感参数值或电容参数的倒数值需要被设定得尽可能的大，以得到更快的收敛性能。当神经网络应用在实际的系统中时，这样一种要求是不实用且难以满足的。除此之外，在实际系统中，电感参数值和电容参数值的倒数通常是时变的，特别是大型的电力电子系统，交流电机控制系统，电力网络系统等，系统参数设定为固定值是不合理的。因此，现有技术对与含噪声的时变系统的二次规划问题所求解的结果，都一定程度上缺乏稳定性。

技术实现要素：

本发明的目的在于克服现有技术的不足，提出一种求解含噪声时变问题的神经动力学方法，本方法在运用各种单调递增奇激活函数求解含噪声时变问题时具有全局收敛特性，且误差能以超指数的速度收敛到零。

本发明的另一目的在于提出一种基于求解含噪声时变问题的神经动力学方法的系统。

本发明的目的可以采取下述技术方案实现：

一种求解含噪声时变问题的神经动力学方法，具体包括以下步骤：

1)将实际物理系统公式化，并建立该系统的时变二次规划问题标准模型；

2)根据拉格朗日乘数法，对步骤1)中的时变二次规划问题标准型进行最优值优化，分别获取关于最优解以及关于拉格朗日乘数的偏导数信息；

3)将步骤2)中的偏导数信息转化为标准时变矩阵形式；

4)基于步骤3)中的标准时变矩阵，设计偏差函数；

5)基于步骤4)中的偏差函数，运用幂型变参递归神经动力学方法，并利用单调递增奇激活函数，设计实数域上的含噪声时变问题的神经动力学方法，含噪声时变问题的神经动力学方法所求得的网络状态解即为所求实际物理系统或原时变二次规划问题的最优解。

进一步的，所述将实际物理系统公式化，并建立该系统的时变二次规划问题标准模型，具体包括：

subjecttoa(t)x(t)＝b(t)(2)

其中t表示时间。在实数域中，定义为正定的海赛矩阵，为系数向量，为满秩系数矩阵，为系数向量，h(t),p(t),a(t),b(t)以及它们各自的时间导数被认为是已知、时变且光滑的；假设未知的矩阵存在，通过本专利中所述的神经动力学方法，寻找满足时变二次规划问题(1)(2)的最优解

进一步的，所述对时变二次规划问题标准型进行最优值优化，分别获取关于最优解以及关于拉格朗日乘数的偏导数信息，具体包括：

对二次规划问题(1)(2)使用拉格朗日乘数法得到下式

其中为拉格朗日乘子。由拉格朗日定理可知，如果和存在且连续，那么下式两式成立，即

时变二次规划问题(1)(2)中的时变参数矩阵及向量h(t),p(t),a(t),b(t)由实际物理模型系统传感器获取信号及系统预期运行状态信号等所构成；时变参数矩阵及向量h(t),p(t),a(t),b(t)，以及它们的时间导数是已知的或者能够在一定精确度要求范围内被估计出来；存在含噪声二次规划问题(1)(2)关于最优解及拉格朗日乘数的偏导数信息，且可以使用拉格朗日乘数法将上述信息表示为优化公式(4)(5)。

进一步的，所述将偏导数信息转换为标准时变矩阵形式，具体包括：

根据优化公式(4)(5)，设计出一个如下的关于时变二次规划问题(1)(2)的标准矩阵形式

w(t)y(t)＝g(t)(6)

其中

时变系数矩阵和向量w(t),y(t),g(t)在实数域上均连续且光滑。

进一步的，所述根据标准时变矩阵设计偏差函数，具体包括：

w(t)y(t)＝g(t)(6)

根据得到的实际物理模型系统或数值求解系统的光滑时变二次规划问题的矩阵形式(6)，设计系统的偏差函数；

定义一个矩阵形式的偏差函数方程如下

当偏差函数方程e(t)达到零时，得到时变二次规划问题(1)(2)的最优解x^*(t)。

进一步的，所述根据偏差函数，运用幂型变参递归神经动力学方法，并利用单调递增奇激活函数，设计实数域上的含噪声时变问题的神经动力学方法，具体包括：

偏差函数方程为

时变参数矩阵中的数据能够输入到处理单元中，偏差函数e(t)的时间导数需为负定；不同于固定参数递归神经动力学方法，决定新型神经动力学方法收敛性能的设计参数是随时间t变化的；一种幂型的时变参数的设计公式如下

其中γ＞0为人为设计的常系数参数，为单调递增奇激活阵列；

将偏差函数方程e(t)及其导数信息代入设计公式(8)，并考虑如上幂型变参递归神经动力学模型如果存在噪声干扰和硬件运行误差干扰，则含噪声神经动力学模型能够用如下的隐式动力学方程表达：

其中为偏导数信息，δd(t)为系数矩阵的噪声项，δk(t)为硬件运行时的误差项；

根据对的定义，可知

其中y(t)具有初始值

根据隐式动力学方程(9)，得到实数域含噪声幂型变参递归神经动力学的系统模型及网络实现；网络的输出结果即为实数域原时变二次规划问题(1)(2)的最优解。

本发明的另一目的可以通过如下技术方案实现：

一种求解含噪声时变问题的神经动力学方法所搭建的系统，具体包括：

外界环境输入模块，包括数据采集部分，用于通过外部传感器对外界环境进行传感数据获取以及设定预期实现的目标准台数据；

输入接口模块，用于作为外部设定数据以及处理器间的接口通道，而根据传感器的不同可由不同接口的电路与协议实现；

处理器模块，分为时变参数矩阵以及含噪声时变问题的幂型神经动力学方法两个部分；时变参数矩阵部分用于对外部输入数据的矩阵化或矢量化；含噪声时变问题的幂型神经动力学方法部分用于数学建模、设计偏差函数方程并最终利用基于幂型变参递归神经动力学方法构造求解含噪声时变问题的神经动力学方法；

输出接口模块，用于作为处理器模块所求解的数据与系统最优理论请求端的接口；其中接口可以为电路接口也可以为程序的返回值，根据设计系统的不同而不同；

最优解请求端模块，用于在端口需要得到求解参数时向求解系统发出指令请求，并接收求解结果。

本发明具有如下有益效果：

1、本发明所述的求解含噪声时变问题的神经动力学方法在运用各种单调递增奇激活函数求解含噪声时变问题时具有全局收敛性，且误差能以超指数的速度收敛到零，大大提高了计算速度，具有超指数收敛性能；

2、与传统定参递归神经网络智能收敛到剩余误差上界不同，在使用本发明所述神经动力学方法进行求解计算时，无论噪声扰动多大，剩余误差仍能收敛到零，具有极强的鲁棒性能；

3、本发明所述的方法采用普遍存在的隐动力学模型进行描述，可分别从方法和系统两个层面上充分利用各时变参数的导数信息，对问题求解具有一定预测能力，可快速、准确、实时地逼近问题的最优解，可以很好地解决矩阵、向量、代数以及优化等多种时变问题。

附图说明

图1是实施例1方法的流程图；

图2是实施例1方法的实际系统求解器的框架图；

图3是四种用于激励幂型变参递归神经动力学方法的单调递增奇激活函数图像；

图4是在单调递增奇激活函数激励的情况下，基于幂型变参递归神经动力学方法解决含噪声时变问题时的状态解与理论解的实例仿真效果曲线图；

图5是在单调递增奇激活函数激励的情况下，基于幂型变参递归神经动力学方法求解含噪声时变二次规划问题的剩余误差的实例仿真效果曲线图；

图6是在指数‐双曲型激活函数激励的情况下，基于幂型变参递归神经动力学方法解决含噪声时变问题在高维度情况下的状态解与误差的实例仿真效果曲线图。

具体实施方式

实施例1：

如图1所示，本实施例提供了一种求解含噪声时变问题的神经动力学方法，该方法包括如下步骤：

s1：获取实际问题的预期实现目标状态及外部传感器数据，通过数学建模方法将具有含噪声时变问题形式的具体实际物理系统或数值求解进行标准化，并建立该系统的标准二次规划问题模型；

先针对具有实数域光滑含噪声时变问题形式的实际物理系统或数值求解系统，利用数学建模方法，对模型进行公式化，可以得到如下的实数域光滑时变二次规划问题的标准形式：

subjecttoa(t)x(t)＝b(t)(2)

其中t表示时间。在实数域中，可以定义为正定的海赛矩阵，为系数向量，为满秩系数矩阵，为系数向量。此外，h(t),p(t),a(t),b(t)以及它们各自的时间导数被认为是已知的，或者能够在一定精确度要求范围内被估计出来。假设未知的矩阵存在，可以寻找满足时变二次规划问题(1)‐(2)的最优解

s2：根据拉格朗日乘数法，分别获取s1中标准时变二次规划问题的关于最优解及关于拉格朗日乘子的偏导数信息，求取拉格朗日优化公式：

为了获取关于时变二次规划问题的最优解及拉格朗日乘子的偏导数信息，对时变二次规划问题(1)(2)使用拉格朗日乘数法可得到下式

其中为拉格朗日乘子。由拉格朗日定理可知，如果和存在且连续，那么下式两式成立，即

s3；将s2中的关于最优解及拉格朗日乘子的偏导数信息转化为标准时变矩阵形式，列写时变矩阵方程：

w(t)y(t)＝g(t)(6)

其中

时变系数矩阵和向量w(t),y(t),g(t)在实数域上均连续且光滑。

s4：基于s3中的时变矩阵方程，设计偏差函数方程，并列写偏差函数方程表达式：

为得到时变二次规划问题(1)‐(2)的最优解，定义一个矩阵形式的偏差函数方程如下

当偏差函数方程e(t)达到零时，时变二次规划问题(1)‐(2)的最优解x^*(t)能够被获得。

s5：基于s4中的偏差函数方程，运用幂型变参递归神经动力学方法，结合单调递增奇激活函数，设计实数域上的含噪声时变问题的神经动力学方法：

时变参数矩阵中的数据能够输入到处理单元中；根据幂型变参递归神经动力学方法，偏差函数e(t)的时间导数需要为负定；不同于固定参数递归神经动力学方法，决定新型神经动力学方法收敛性能的设计参数是随时间t变化的；一种幂型的时变参数在本发明中被设计并使用，其设计公式如下

其中γ＞0为人为设计的常系数参数，为单调递增奇激活阵列；根据不同的映射函数关系具有不同的形式，如线性型激活函数、指数‐双曲型激活函数、双曲正弦型激活函数、可调型激活函数。上述四种单调递增奇激活函数的图线示意图如图3所示。矩阵形式的实数值激活函数阵列有m×n个单调递增奇激活函数f(·)组成；可使用的实数值激活函数如下所示：

1)线性型激活函数:f1(u)＝u,其中标量参数

2)指数‐双曲型激活函数:其中标量参数ξ≥2,ω≥3,且

3)双曲正弦型激活函数:其中标量参数

4)可调型激活函数:其中标量参数r＞0且r≠1；方程sig^r(u)定义如下

其中|u|表示标量参数的绝对值。

基于幂型变参递归神经动力学方法的实数域光滑含噪声时变问题的神经动力学方法在图3所示的四种单调递增奇激活函数激励下的状态解与理论解的实例仿真效果曲线图如图4所示。其中图(a)所示为在线性型激活函数激励下神经动力学方法状态解与理论解的拟合效果图；图(b)所示为在指数‐双曲型激活函数激励下神经动力学方法状态解与理论解的拟合效果图；图(c)所示为双曲正弦型激活函数激励下神经动力学方法状态解与理论解的拟合效果图；图(d)所示为在可调型激活函数激励下神经动力学方法状态解与理论解的拟合效果图。

s6：通过s5中含噪声时变问题的神经动力学方法所求得的网络状态解即为所求实际物理系统或数值求解含噪声时变问题的最优解，具体包括：

将偏差函数方程e(t)及其导数信息代入设计公式(8),则实数域幂型变参递归神经动力学模型能够用如下的隐式动力学方程式表达

其中为偏导数信息。

考虑如上幂型变参递归神经动力学模型如果存在噪声干扰和硬件运行误差干扰，则可以得到如下的含噪声神经动力学模型：

其中δd(t)为系数矩阵的噪声项；δk(t)为硬件运行时的误差项。

根据对的定义，可知：

其中y(t)具有初始值

根据隐式动力学方程(10)，可以得到实数域求解含噪声时变问题的神经动力学方法的系统模型及网络实现；网络的输出结果即为实数域含噪声二次规划问题(1)‐(2)的最优解。

此处，为了展示实际的系统设计过程，利用一个实例对所述问题进行说明：假设系统的时变参数矩阵已得到，并考虑一个具有如下时变矩阵的实数域时变二次规划问题：

subjecttoa(t)x(t)＝b(t)(13)

其中

a(t)：＝[sin3tcos3t],b(t)：＝cos2t,x(t)：＝[x1(t)x2(t)]^t,

根据式(6)，上述二次规划问题(12)‐(13)可以写为如下的矩阵等式形式

w(t)y(t)＝g(t)(14)

其中

y(t)：＝[x1(t)x2(t)a1(t)]^t,g(t)：＝[-sint-costcos3t]^t

根据如下的隐式动力学方程式表达

其中，为偏导数信息；δd(t)为系数矩阵的噪声项；δk(t)为硬件运行时的误差项；

设计参数θd＝θk＝0.6。

根据对的定义，即

y(t)：＝[x^t(t),λ^t(t)]^t

＝[x1(t),x2(t),…,xn(t),a11(t),a12(t),…,a1m(t)]^t(16)

可以得到实数域求解含噪声时变问题的神经动力学方法的系统模型及网络实现；网络的输出结果即为实数域时变二次规划问题(12)‐(13)的最优解。除此之外，假设在随机重复仿真实验中，所有的剩余误差||y(t)-w^-1(t)g(t)||2达到0.05的时间记为收敛时间t,也即认为剩余误差收敛至0.05时，时变二次规划问题的求解过程已完成。具体求解图线如图4和图5所示。对于线性型激活函数，在运用本发明所述的一种求解含噪声时变问题的神经动力学方法的条件下，其收敛时间为t＝9.362s；对于指数‐双曲型激活函数，在运用本发明所述的一种求解含噪声时变问题的神经动力学方法的条件下，其收敛时间为t＝6.670s；对于双曲正弦型激活函数，在运用本发明所述的一种求解含噪声时变问题的神经动力学方法的条件下，其收敛时间为t＝5.007s；对于可调型激活函数，在运用本发明所述的一种求解含噪声时变问题的神经动力学方法的条件下，其收敛时间为t＝2.075s。更进一步的，考虑在维度提升时，本发明所述的求解含噪声时变问题的神经动力学方法的应用效果。两种不同维度情况(即维度n＝5和维度n＝15)下，求解含噪声时变问题的状态解曲线和误差曲线如图6所示。可以看到，在所求解问题的维度的提高的同时，本发明所述的求解含噪声时变问题的神经动力学方法依然具有很好的应用效果。即使在面对高维度的实际问题的情况下，其误差也总能以很快的速度收敛到零，从而满足更广泛的应用范围和更精确的计算要求。

实施例2：

一种基于幂型变参递归神经动力学方法的实数域光滑含噪声时变问题的神经动力学系统的实现框架图如图2所示，该系统具体包括：

外界环境输入模块，即数据采集部分，用于通过外部传感器对外界环境进行传感数据获取以及设定预期实现的目标准台数据；

输入接口模块，用于作为外部设定数据以及处理器间的接口通道，而根据传感器的不同可由不同接口的电路与协议实现；

处理器模块，分为时变参数矩阵以及含噪声时变问题的幂型神经动力学方法两个部分；时变参数矩阵部分用于对外部输入数据的矩阵化或矢量化；含噪声时变问题的幂型神经动力学方法部分用于数学建模、设计偏差函数方程并最终利用基于幂型变参递归神经动力学方法构造求解含噪声时变问题的神经动力学方法；

输出接口模块，用于作为处理器模块所求解的数据与系统最优理论请求端的接口；其中接口可以为电路接口也可以为程序的返回值，根据设计系统的不同而不同；

最优解请求端模块，用于在端口需要得到求解参数时向求解系统发出指令请求，并接收求解结果。

以上所述仅为本发明优选的实施例，但本发明专利的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明专利所公开的范围内，根据本发明专利的发明构思或者技术方案加以等同替换或改变，都属于本发明专利的保护范围。