基于混合径向基神经网络的黑箱系统设计优化方法与流程

本发明涉及一种基于混合径向基神经网络的黑箱系统设计优化方法，属于工程设计中的优化技术领域。

背景技术：

随着计算机技术的发展和工业产品设计要求的不断提高，高精度仿真分析模型在工程系统设计中得到了广泛的应用。其中，大多数工程系统往往属于黑箱系统。飞行器作为一类典型的黑箱系统，其设计过程中往往包括计算流体力学cfd模型、有限元分析fea模型、隐身计算电磁学cem模型等。尽管高精度分析模型提高了分析精度和设计可行度，但计算成本的增加令人难以接受，比如cfd模型需数小时完成单次气动仿真分析。传统黑箱系统设计往往直接调用高精度分析模型实现对设计空间的探索，面临高耗时、低效率、长周期的技术瓶颈。为了降低计算成本，基于代理模型的设计优化策略(mbdo)在工程设计领域中得到了广泛应用。该方法旨在通过调用少量计算耗时的高精度仿真分析模型获得训练样本点，利用数学手段对数值仿真模型构造精度满足要求的近似模型，并代替高精度仿真分析模型进行设计优化。常用的代理模型技术包括径向基函数rbf、kriging函数krg、多项式响应面prsm和移动最小二乘mls等。其中，rbf较好地权衡了构造效率和近似精度，因此在mbdo技术中得到广泛应用。考虑到不同的代理模型技术对不同的黑箱问题具有不同的表现能力，为充分利用各代理模型的优势，混合代理模型技术得到广泛的关注。以混合径向基函数erbf为例，通过合理安排每个rbf模型的形状系数c以及相应的权重系数w，可以弥补单个rbf模型的近似能力不足的问题。然而，参数决定的过程往往涉及庞大复杂的优化计算，导致构造成本随着黑箱系统维度呈几何倍数的增长，限制了混合代理模型技术在黑箱系统设计中的应用。因此，针对单个代理模型精度不足、混合代理模型技术构造成本高的问题，有必要发展一种高精度、高效率的混合径向基神经网络模型，实现黑箱系统的快速设计优化。

为了更好地说明本发明的技术方案，下面对所涉及到的径向基神经网络和erbf方法进行简要介绍：

(1)径向基神经网络

径向基神经网络rbfnn是一种高效的单隐层前馈神经网络，具有拓扑结构接单、可以逼近任意非线性函数等优点。rbfnn采用径向基函数作为隐层神经元的激活函数，以隐层输出的线性组合作为输出层，具体的结果如图2所示。rbfnn的输出层第n个输出层神经元对应的回归预测模型如(1)所示

其中，p是隐层神经元的个数，为径向基函数，wni为第i个隐层神经元与第n个输出层神经元的链接权重，xi为对应隐层神经元的中心，c为径向基的形状参数。通常rbfnn的训练过程包含两步：第一步，确定神经元中心xi；第二步，确定权重wni和形状参数c。

其中，rbf是一种插值型代理模型，其基本形式如式(2)所示

其中ns为样本点数量，φ(||x-xi||)，i＝1，2..ns为基函数，β为rbf系数向量。常用的基函数类型如表1所示。

表1常用径向基函数类型

rbf的系数向量β可以通过求解式(3)所示的插值条件得到

其中为样本点处的真实模型响应。

(2)erbf方法

erbf方法旨在将不同的rbf模型结合在一起，以提高对黑箱系统的近似精度。该方法的基本形式如式(4)所示

式中，n表示不同rbf模型的个数，表示第i个rbf模型，wi表示第i个rbf模型的权重系数。目前，当前主流的求解方式包含三种：标准混合径向基函数erbf-c、同时优化的混合径向基函数erbf-so以及基于协方差矩阵的混合径向基函数erbf-m。

其中，erbf-c主要包含两个步骤，分别如下:

a)优化得到所有rbf模型的形状参数c＝{c1,…,cn}，使每个rbf模型对相同黑箱系统的近似性能达到最优；

b)通过最小化均方差计算得到所有rbf模型的权重系数w＝{w1,…,wn}，优化模型如式(5)所示

式中，ns表示样本点的个数，xk表示第k个样本点。

不同于erbf-c，erbf-so通过最小化交叉验证的误差同时对形状参数ci和权重系数wi进行优化，如式(6)所示

erbf-m通过构造协方差矩阵，将预测误差的优化过程转化为一个二次规划问题。具体建模过程如下：

定义每个代理模型的误差εi

均方差mse可表示为

定义协方差矩阵c

式(8)可改写为

然而，协方差矩阵一般很难得到。因此，常用近似协方差矩阵替代c用于求解计算，具体形式如下：

式中，y(xj)表示第j个样本的真实响应值，表示第i个rbf模型对第j个样本的预测值，ei(x)表示第i个rbf模型的交叉验证误差向量。因此，可以通过求解如下二次规划问题得到相应的参数

技术实现要素：

现有的单个代理模型对黑箱系统的近似能力不足，且混合代理模型技术的计算成本随着黑箱模型的维度呈指数级增长。针对上述缺陷，本发明公开的基于混合径向基神经网络的黑箱系统设计优化方法(ensembleofradialbasisfunctionneuralnetworkbasedonquadraticprogramming，erbfnn-qp)要解决的技术问题为：实现对黑箱系统的高效率、高精度建模，缓解单个代理模型近似精度不足、混合代理模型技术计算成本昂贵的问题，进而提高黑箱系统设计优化质量。本发明适合应用于包含高精度分析模型或存在黑箱系统的工程设计优化领域，能够解决相应相关工程问题。

本发明的目的是通过下述技术方案实现的。

本发明公开的基于混合径向基神经网络的黑箱系统设计优化方法，采用混合径向基神经网络对黑箱系统进行近似建模，并代替原始系统模型进行设计优化；通过求解单个径向基神经网络rbfnn中的参数，使得单个rbfnn的近似性能最优；构建求解权重系数的二次规划问题，对目标函数中的每个权重系数增加惩罚项，以提高混合径向基神经网络erbfnn的近似精度。在黑箱系统设计过程中，本发明通过挖掘和利用不同rbfnn的优势，并利用拉格朗日乘子法求解单个代理模型的权重系数，能够避免繁琐优化过程，对于黑箱系统的高精度、高效率近似建模以及提高黑箱系统设计优化质量具有重要意义。

本发明公开的一种基于混合径向基神经网络的黑箱系统设计优化方法，包括如下步骤：

步骤a：确定基于混合径向基神经网络的黑箱系统设计优化方法的基本参数，所述基本参数包括设计空间大小、构造样本点个数、径向基神经网络输入层神经元的个数、隐层神经元的个数、输出层神经元的个数、不同径向基函数的类型。

步骤b：采用拉丁超方试验设计lhd在设计空间内生成构造样本点，调用高精度分析模型计算构造样本点处对应的响应值，并计算得到黑箱系统响应值。

步骤c：利用步骤b中得到的构造样本点和对应的黑箱系统响应值构造混合径向基神经网络模型，实现黑箱系统的近似建模并用于后续步骤设计优化。

步骤c中构造混合径向基神经网络模型包含两个步骤，分别是单个径向基神经网络rbfnn的训练和混合径向基神经网络erbfnn中权重系数的确定，具体实现步骤如下：

步骤c-1：单个径向基神经网络rbfnn的训练。将构造样本和对应的黑箱系统响应值分别作为神经网络训练集的输入和输出，利用序列二次规划sqp训练rbfnn中的网络权值和径向基函数的形状系数，使得单个rbfnn的近似能力达到最优。

步骤c-2：混合径向基神经网络erbfnn中权重系数的确定。首先按照式(13)计算每个rbfnn的交叉校验误差向量ei(x)和对应的近似相关系数矩阵

式中，为第i个rbfnn对第j个样本的预测值，f(xj)为第j个样本的真实响应值。根据式(14)求解系数η

式中，表示矩阵的迹。构建如式(15)的二次规划问题求解得到系数向量w：

因此，黑箱系统的近似模型erbfnn-qp表达为如下形式

为进一步提高求解效率，步骤c-2所述的求解得到对应的系数向量w，优选利用朗格朗日乘子法求解得到对应的系数向量w。

步骤d：利用序列二次规划sqp对黑箱系统近似模型进行优化，得到最优解，并调用高精度分析模型计算得到最优解处黑箱系统的响应值。将最优解和对应的响应值作为黑箱系统的最终设计优化结果输出。

步骤e：将步骤a至步骤d所述的设计优化方法应用于包含高精度分析模型或存在黑箱系统的工程设计优化领域，解决相应相关工程问题。

步骤e所述的工程设计优化领域包括含有大规模有限元分析的结构优化设计、含有高精度流体力学分析的气动优化设计、复杂工程系统的多学科设计优化，能够有效提高工程设计优化效率、缩短设计周期。

所述的复杂工程系统的多学科设计优化领域包括飞行器、汽车、船舶领域。

有益效果：

1、本发明公开的基于混合径向基神经网络的黑箱系统设计优化方法，在erbf的框架的基础上，充分挖掘不同径向基神经网络近似性能的优势并加以利用，能够缓解单个代理模型对黑箱系统近似精度不足的缺陷，对于提高工程系统的设计优化质量具有重要意义。

2、本发明公开的基于混合径向基神经网络的黑箱系统设计优化方法，通过拉格朗日乘子法以及kkt条件直接求解混合径向基神经网络中的权重系数，能够避免传统混合代理模型方法中复杂的优化计算，提高黑箱系统的近似建模效率，适合应用于包含高精度分析模型或存在黑箱系统的工程设计优化领域，如含有大规模有限元分析的结构优化设计、含有高精度流体力学分析的气动优化设计、以及飞行器、汽车、船舶等复杂工程系统的多学科设计优化等，能够有效提高工程设计优化效率、缩短设计周期。

附图说明

图1为基于混合径向基神经网络的黑箱系统设计优化方法的流程图；

图2为径向基神经网络结构图；

图3为实施例中使用的径向基神经网络结构图；

图4为卫星模型示意图，其中pc表示有效载荷舱，sc表示服务舱；

图5为卫星多学科设计结构矩阵图；

图6为卫星结构有限元示意图和一阶频率示意图；

具体实施方式

为了更好地说明本发明的目的和优点，下面将参考附图并结合实施例来详细说明本发明，并通过与国际同类算法erbf-c、erbf-so和erbf-m进行对比。

本实施例公开的基于混合径向基神经网络的黑箱系统设计优化方法，适用于计算耗时的工程设计优化问题，具体实施方式如下：

步骤a：确定设计优化方法的基本参数，包括设计空间大小[xlb,xub]、构造样本点个数ns、径向基神经网络rbfnn输入层神经元的个数nin、隐层神经元的个数p、输出层神经元的个数nout、不同径向基函数的类型。部分参数设置如下所示：

式中，nv表示黑箱系统设计优化问题的维度。在本实施例中，构建三个rbfnn模型，分别选用如下三种径向基函数作为隐层的激活函数：

表2实施例选用的径向基函数类型

步骤b：根据确定的构造样本点数量ns，采用拉丁超方试验设计lhd在设计空间[xlb,xub]内生成构造样本点xc。调用高精度分析模型获取构造样本xc处对应的高精度分析模型的响应值，并计算得到黑箱系统响应值yc。

步骤c：利用步骤b中得到的构造样本点xc以及对应的黑箱系统响应值yc构造混合径向基神经网络模型，实现对黑箱系统的近似建模，并替代黑箱系统用于设计优化过程。

在步骤c中，混合径向基神经网络erbfnn模型包含两个步骤，分别为单个径向基神经网络rbfnn的训练和erbfnn中每个神经网络的权重系数的确定，具体实现步骤如下：

步骤c-1：单个rbfnn模型训练。根据步骤a中确定的神经网络模型参数，本实施例中所使用的单个rbfnn的结构框架如图3所示，即退化为径向基函数rbf。其中，为加速rbfnn的构建速度，将隐层到输出层的网络权值设为常数1。对于每一个rbfnn，以最小化均方差msecv为目标构建优化问题，求解径向基函数的最优形状系数。为了降低交叉验证的计算成本，msecv的计算方式如式(18)所示。

式中，βk是径向基函数系数向量β的第k个元素，是a^-1的对角线元素。上述优化问题使用sqp进行求解，其初始搜索点cini均为

根据步骤c-1，可求得三个rbfnn各自的最优形状系数c1、c2和c3，即完成rbfnn的训练，使得单个rbfnn对于黑箱系统的近似能力达到最优。

步骤c-2：erbfnn中权重系数的确定。根据步骤c-1中得到的三个最优rbfnn模型和构建erbfnn的模型如下：

为求解最优w＝[w1,w2,w3]，首先计算单个rbfnn的交叉验证误差向量ei(x)如式(21)所示。

式中，为第i个rbfnn对第j个样本的预测值，f(xj)为第j个样本的真实响应值。计算近似相关系数矩阵如下所示

计算系数η为：

式中，表示矩阵的迹。为了使erbfnn对黑箱系统的近似能力达到最优，权重系数w＝[w1,w2,w3]可以根据如下二次规划问题进行求解

利用朗格朗日乘子法和kkt条件，可以计算得到式(24)的解为

步骤d：利用序列二次规划sqp求二级步骤c中建立的黑箱系统近似模型进行优化，并得到最优解xopt，调用高精度分析模型计算得到最优解处黑箱系统的响应值yopt。将最优解xopt和对应的黑箱系统响应值yopt作为黑箱系统的最终设计优化结果输出。

为了更好地说明本发明的有益效果，下面通过测试算例和卫星多学科设计优化实例，结合附图与表格对本发明的目的和优势做进一步说明。

实施例1：测试实例

选用如(26)和(27)所示的数值算例对实施例公开的基于混合径向基神经网络的黑箱系统设计优化方法(erbfnn-qp)进行测试，并与已有的三种混合径向基函数进行对比，包括erbf-c、erbf-so和erbf-m。

peaks测试问题(pk)

x1,2∈[-5,5]

extendedrosenbrock测试问题(er)

xi∈[-5,10]

采用erbfnn-qp和erbf方法分别对pk和er函数进行100次建模，统计得到的平均交叉验证归一化误差nrmse和各自的平均建模耗时t(单位：秒)，统计结果如表3所示。其中，在每一次建模建模过程中，均利用拉丁超方设计lhd生成pk和er的构造样本点，个数分别为30和275。

表3标准数值算例测试结果统计

表3结果显示，本发明公开的erbfnn-qp对于黑箱系统的近似精度与erbf方法相当，但是建模效率比大多数erbf方法存有优势。对于pk(er)函数，erbfnn-qp的建模效率与erbf-m方法相当，但建模耗时分别是erbf-c和erbf-so的8.6％(76.1％)和0.04％(0.3％)，验证本发明能够实现对黑箱系统高精度、高效率建模的目的。

实施例2：卫星多学科设计优化实例

本实施例中使用的卫星模型如图4所示。该卫星设计优化问题涉及5个学科，包括轨道、载荷、动力、结构和质量，是一类典型的多学科设计优化问题，其设计结果矩阵如图5所示。从图5可以看出，载荷学科需要轨道学科的轨道高度h作为输入，动力学科依赖于轨道学科的轨道参数、载荷学科的动力，其中载荷学科、结构学科和动力学科的重量共同影响卫星的固有频率，并将卫星的总质量作为输出结果。

该卫星多学科设计优化问题以总质量最小为目标，其优化模型表示如下：

minmsatellite＝mpayload+mbat+msolar+mstr+mothers

wehrex＝[d1,d2,f1,f2,th,asa,cs]^t(28)

其中，总质量msatellite包含载荷质量mpayload、电池质量mbat、太阳能板质量msolar、结构学科质量mstr和其他固有mothers＝198kg。d1表示辐射仪孔径，d2为电荷耦合ccd相机的孔径，f1为辐射仪的焦距，f2为ccd相机的焦距，th为结构板中蜂窝芯的厚度，单位均为mm。asa为太阳能板的面积，单位为m²。cs为电池容量，单位为ah。g01表示辐射仪的覆盖边界，g02表示ccd相机的覆盖边界，单位均为km。r1为辐射仪的分辨率，r2为ccd相机的分辨率，单位均为m。snr1为辐射仪的信噪比，snr2为ccd相机的信噪比，为无量纲数据。ne△t为辐射仪的噪声等效温差，单位为k。f1为一阶频率，单位为hz。gw为卫星的过剩功率，单位为w。dod为电池的放电深度，为无量纲数据。

在本实施例中，轨道学科、载荷学科、动力学科和质量学科均用matlab实现，卫星的固有频率需调用有限元模型进行计算获得，其中有限元和一阶频率如图6所示。

利用lhd方法在设计空间中生成180个构造样本点，并调用高精度分析模型计算得到式(28)中目标函数和约束条件的响应值。其中，对总质量msatellite和一阶频率f1进行近似建模以减少优化耗时。使用本文公开的基于混合径向基神经网络的黑箱系统设计优化方法和erbf-so对该问题进行求解，并对比两者的建模精度评估指标负相关系数r²、建模耗时t(单位：s)以及优化结果，统计结果分别如表4、表5和表6所示。

表4负相关系数r²对比

表5建模耗时t对比

表6优化结果对比

从表3和表4中可以看出，本发明公开的erbfnn-qp方法与erbf-so方法对于该卫星设计优化问题具有相同的近似精度，但erbfnn-qp的建模耗时具有明显的优势。在总质量msatellite和一阶频率f1上，erbfnn-qp的建模耗时分别为erbf-so方法的0.5％和1.1％，凸显本发明的建模高效性。从表5中可以发现，两种方法得到的最优解基本一致，即最优设计方案基本一致。计算最优设计方案处的约束条件和最终质量，分别如表6和表7所示。

表7最优解处的约束条件

表8优化前后总质量对比

从表6中可以看出，优化后得到设计结果均符合约束，即符合预设的性能指标。表7中的结果表明优化后的卫星总质量较初始总质量下降9.7％左右，且erbfnn-qp预测的最优质量与真实质量只有0.95％的误差，能够验证本发明公布的ernfnn-qp方法达成高精度建模的目的。

通过上述两类优化测试问题比较，相比于现有的mbdo策略，本发明公布的基于混合径向基神经网络的黑箱系统设计优化方法(erbfnn-qp)能够有效缓解单个代理模型技术对黑箱系统近似能力不足的问题，以及混合代理模型方法中建模高耗时的弊端，可以在确保近似精度的前提条件下，显著降低建模所用的计算成本，提高建模效率，能够实现本发明预期的发明目的，并能够验证本发明的合理性、有效性和工程实用性。

以上所述的具体描述，对发明的目的、技术方案和有益效果进行了进一步详细说明，所应理解的是，以上所述仅为本发明的具体实施例，用于解释本发明，并不用于限定本发明的保护范围，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。