SVM模型。该LSSVM模型是基于优化 多核的。具体来说，根据式（11)、（12)分别推导RBF+Lin和Poly+Lin多核核函数核矩阵， 建立20维AR自回归模型，生成20个模拟空间风速点2500s (2500个采样时间点）的脉动 风速时程曲线。取30m风速作为样本。将前2000个采样时间点的脉动风速作为训练集，后 500个采样时间点的脉动风速作为测试集标签，用于建立多核的LSSVM预测模型，嵌入维数 k = 10,延迟t = 1，流程图见图2。
[0042]第二步中，给定n个训练样本{xp x2,…xj，核函数RBF_kernel、Poly_kernel、 Lin_kernel分别表不为式（4)、式（5)、式（6):
[0044] K(xi；Xj)P0LY=((xi； Xj)+l)q............... (5)
[0045]K(xi； Xj)Lin= xi? Xj............... (6)
[0046] 式中，Xp Xj为训练样本空间第i、j个元素；y为RBF核函数参数。
[0047] 根据Mercer核定义，任意核函数矩阵对称且半正定，满足一定的包闭性质，即允 许通过简单的运算组合新的核函数。设1和1( 2是乂\乂上的核函数，则下面核 函数的组合仍为核函数，如式（7)、式（8)、式（9)、式（10):
[0048] K(x,y) = K1(x,y)+K2(x,y)............... (7)
[0049] K(x, y) = aK^x, y)............... (8)
[0050] K(x,y) = K^x.y) ? K2 (x, y)............... (9)
[0052] 式（8)a彡0 ;式（10)的任意正实数。
[0053] 所述第二步中，给定n个训练样本{Xi,x2，…xn}，采用线性组合的方式，对核函数 Lin_kernel 与 Poly_kernel、RBF_kernel 与 Lin_kernel 分别组合，即如式（11)和式（12):
[0054] K1= a ? KLin+(l_a) ? KPoly........................ (11)
[0055] K2=a?KLin+(l_a) ?Kkbf........................ (12)
[0056]式中：a为线性组合权重；1(此为Lin_kernel;K响为Poly_kernel;KKBF为RBF_kernel 为通过线性组合后的组合核函数。
[0057] 针对SVM中的不等式约束，Suykens根据正则化理论改变标准SVM的约束条件和 风险函数：将不敏感损失函数被误差的二次平方项代替作为损失函数，不等式约束条件转 变成等式约束条件。因此LSSVM将求解二次规划问题转化成求解线性方程组，即式（13):
[0059] 式中，C为惩罚因子，实现经验风险和置信范围的折中；|i为松弛因子；b为偏置 项；《为权向量。
[0060] 引入Lagrange函数，转化其对偶问题，并根据最优化理论中的 KKT(Karush-Kuhn-Tucher)条件，得到如下等式（14)和约束条件：
[0062] 最后得到决策函数，即式（15):
[0064] 式中，K(Xi，是利用已有核函数组合的多核核函数对输入的脉动风速训练样本 所建立的核函数；a Lagrange因子。
[0065] 第三步，引入PS0优化方法，对不同多核核函数的参数优化：核函数参数Y、 惩罚参数c、权重系数a进行寻优，确定最优模型参数，最优模型参数包括：RBF+Lin和 Poly+Lin，利用此模型对脉动风速测试样本进行预测；利用PS0优化后的多核核函数将脉 动风速训练样本变换成为核函数矩阵，映射到高维特征空间，得到脉动风速训练样本的非 线性模型，利用此模型对脉动风速测试样本进行预测。所述第三步中，设置粒子群规模m = 30,随机产生核参数的初始位置，确定待优化参数的范围，并设置最大迭代速度；通过迭代 优化不断更新粒子的速度和位置，最终根据终止迭代次数或适应度条件确定最优参数，建 立多核LSSVM模型。具体来说，计算每次迭代粒子适应度F (Xi)，并将其与自身最优适应度 F(Pbesti)和全局最优适应度F(Gbesti)比较，调整粒子个体最优位置PjP全局最优位置 P g，更新粒子的速度和位置，获得新的LSSVM参数，确定最优模型参数，建立多核的LSSVM模 型。利用该模型对训练集进行学习训练，获得训练回归预测模型（trainlssvm-model)。
[0066] 第四步：将测试样本和预测的脉动风速结果对比，计算预测风速与实际风速 的平均误差（AE)、均方根误差（RMSE)以及相关系数（R)，评价本方法的有效性。将 后500个采样时间点脉动风速作为测试集标签输入，利用训练集输出的回归预测模型 (trainlssvm-model)对500个采样时间点脉动风速进行预测，即将测试样本和利用多核 LSSVM预测的脉动风速结果对比，图3、图4、图5分别为Lin+Poly优化核函数LSSVM对30 米高度处脉动风速与实际风速幅值比较、自相关函数比较、功率谱函数比较，通过比较可以 看出该组合核函数的预测结果与实际风速吻合较好；图6、图7、图8分别为Lin+RBF优化核 函数LSSVM对30米高度处脉动风速与实际风速幅值比较、自相关函数比较、功率谱函数比 较，结果显示该多核核函数仍然具有较好的吻合效果。
[0067] 上面的步骤是基于Matlab平台编制的基于优化多核的LSSVM脉动风速预测方法 的计算程序进行分析和验证的，预测结果见表2。
[0068] 表2两种多核预测结果指标对比表
[0070] 分析结果显示，优化多核的LSSVM预测结果相关系数均大于0. 8 (相关系数大于 〇. 8说明有较强相关性）；均方误差显示两种多核的LSSVM预测结果更好的收敛于实际风 速。本发明组合现有的核函数构造出新的核函数，改进单一核函数的缺陷，在应用多核学习 过程中，即使核函数的参数没有达到最优，也不会太多的影响学习效果。因为通过优化各核 的权值可以获得最合适的参数，确保学习、泛化的稳定性，同时对参数进行优化，使预测结 果的准确度有进一步的提高，为脉动风速预测提供一种精度更高的方法。本发明确保脉动 风速预测的精确性，为LSSVM机器学习提供了两种新的具有较高精度和稳定性的核函数选 择。
【主权项】
1. 一种基于优化多核的LSSVM脉动风速预测方法，其特征在于，其包括W下步骤： 第一步：利用AR模型模拟生成垂直空间点的脉动风速样本，将每个空间点的脉动风速 样本分为训练集、测试集两部分，采用Matl油对空间点的脉动风速样本归一化处理； 第二步；根据Mercer定理，将已有核函数Lin_kernel、RBF_ke;rnel、化ly_kernel线性 组合构造多核核函数，建立基于多核核函数的LSSVM模型； 第=步：引入PSO优化方法，对不同多核核函数的参数优化：核函数参数r、惩罚参数C、权重系数a进行寻优，确定最优模型参数，最优模型参数包括；RBF+Lin和 Poly+Lin，利用此模型对脉动风速测试样本进行预测；利用PSO优化后的多核核函数将脉 动风速训练样本变换成为核函数矩阵，映射到高维特征空间，得到脉动风速训练样本的非 线性模型，利用此模型对脉动风速测试样本进行预测； 第四步；将测试样本和预测的脉动风速结果对比，计算预测风速与实际风速的平均误 差、均方根误差W及相关系数。2. 根据权利要求1所述的基于优化多核的LSSVM脉动风速预测方法，其特征在于，所述 第一步中，AR模型模拟m维脉动风速表示为下式：式中，UC0为脉动风速；為分别是mXm阶AR模型的系数矩阵；W(〇为零均值、方差 给定的随机向量；P为自回归阶数。3. 根据权利要求1所述的基于优化多核的LSSVM脉动风速预测方法，其特征在于，所述 第二步中，给定n个训练样本…，采用线性组合的方式，对Lin_kernel与化ly_ kernel和RBF_kernel与Lin_kernel分别组合，即如下两式；4. 根据权利要求1所述的基于优化多核的LSSVM脉动风速预测方法，其特征在于，所述 第S步中，设置粒子群规模m=30和随机产生核参数的初始位置，确定待优化参数的范围， 并设置最大迭代速度；通过迭代优化不断更新粒子的速度和位置，最终根据终止迭代次数 或适应度条件确定最优参数，建立多核LSSVM模型。
【专利摘要】本发明提供一种基于优化多核的LSSVM脉动风速预测方法，其包括以下步骤：利用AR模型模拟生成垂直空间点脉动风速样本，将每个空间点的脉动风速样本分为训练集、测试集两部分，对其分别进行归一化处理；建立多核LSSVM模型；利用PSO优化后的多核核函数将脉动风速训练样本变换成为核函数矩阵，映射到高维特征空间；得到脉动风速训练样本的非线性模型，利用此模型对脉动风速测试样本进行预测；将测试样本和预测的脉动风速结果对比，计算预测风速与实际风速的平均误差、均方根误差以及相关系数。本发明确保脉动风速预测的精确性，为LSSVM机器学习提供了两种新的具有较高精度和稳定性的核函数选择。
【IPC分类】G06F19/00
【公开号】CN104933303
【申请号】CN201510315665
【发明人】李春祥, 迟恩楠, 曹黎媛
【申请人】上海大学
【公开日】2015年9月23日
【申请日】2015年6月10日