泄漏积分型回声状态网络在线学习光伏功率预测方法与流程

本发明涉及光伏功率预测，具体讲,涉及泄漏积分型回声状态网络在线学习光伏功率预测方法。

背景技术：

太阳能是一种天然的清洁能源，随着近年来光伏发电技术的快速发展和大规模的商业化应用，光伏发电将成为未来人类最主要的发电方式之一。但是，光伏发电具有不确定性与间歇性，易受天气与季节状况的影响；光伏发电并网还会对电力系统造成冲击，不利于其稳定运行。因此，对于光伏发电的准确预测有利于电力系统的调度，降低运行成本，使整个系统实现效益最大化。每日的光伏发电量都呈现一定的规律性，但同时也易受气象因素的影响，存在随机性。在预测光伏发电量时，要考虑到时间序列的连续性以及气象因素对其产生的影响。光伏发电短期预测的主要方法有神经网络算法、支持向量回归算法、时间序列算法等。与其他算法相比，神经网络具有很强的容错性与自适应性，可通过自学习构建一个复杂的网络模型，改进神经网络模型或混合神经网络模型常用于预测问题。

技术实现要素：

为克服现有技术的不足，本发明旨在提出分析泄漏积分型回声状态网络(liesn)的参数对其光伏功率预测性能的影响，并得到优化后光伏功率的预测模型；利用最小二乘在线学习算法对模型实施训练，得到在线学习泄漏积分型回声状态网络预测模型，最终实现基于泄漏积分型回声状态网络的在线学习光伏功率预测。本发明采用的技术方案是，泄漏积分型回声状态网络在线学习光伏功率预测方法，步骤如下：

步骤1引入泄漏积分神经元：

采用泄漏积分神经元实现具有时序特征的光伏功率输出预测；

步骤2参数的设定：

根据liesn的结构，选择输入层、储备池、输出层的维数；设定网络的参数，包括储备池规模n、谱半径sr、储备池连接度sd、输入尺度is、泄漏积分率、遗忘因子；

步骤3利用在线学习算法训练：

将权值的动态调整思想引入liesn的训练过程，实现liesn的在线学习，使光伏功率预测模型建立以后依然可以根据新获取的样本调整权值，在已有的训练结果的基础上继续新样本的学习，增强模型对样本的识别能力；

步骤4光伏输出功率预测：

利用在线学习算法与训练样本完成训练之后，得到光伏输出功率预测模型，利用该模型对测试样本进行预测，并对比预测功率与实际功率，评价预测精准程度。

步骤1中具体地，泄漏积分回声状态网络liesn的连续状态更新方程为：

式中，u(n)、x(n)、y(n)分别为网络在n时刻的输入、n时刻的状态以及n时刻的输出，为n时刻的状态对时间的导数；c为时间常数且c>0；α为泄漏衰减率且α>0，它表示神经元对之前状态的保持度，wⁱⁿ、w与w^back分别为输入权值矩阵、储备池状态权值矩阵与反馈权值矩阵；f()为神经元的激活函数；

引入步长参数δ，将公式(1)改写为：

x(n+1)＝(1-δcα)x(n)+δc(f(wⁱⁿu(n)+wx(n)+w^backy(n)))(2)

(1-δcα)x(n)项的加入使liesn的状态更新参考前一时刻的状态，相当于增加了神经元的记忆性，若令δ＝1，c＝1，α＝1，则该式即为经典esn的状态更新方程。

步骤2参数的设定：

探究模型参数对预测精度与训练时间的影响，选择出适用于特定数据的储备池参数，实现对光伏功率预测模型的优化，预测精度采用归一化均方误差nrmse评判，具体步骤如下：

(1)储备池规模n与谱半径sr的选择

设置固定的输入尺度is(0.1)与连接度sd(0.1)，储备池规模n取值范围为[25,500]，步长25；谱半径sr取值范围[0.1,1)，步长0.1，当n处于区间[100,300]时其预测性能优于其它区间，设定储备池规模为200，谱半径sr处于区间[0.5,0.8]时测试误差较小，选择谱半径为0.7。

(2)储备池连接度sd与输入尺度is的选择

选择连接度sd为0.05。

(3)泄漏衰减率α的选择

选择测试误差最小时对应的α值。

步骤3利用在线学习算法训练：

liesn输出权值矩阵w^out的更新采用了rls算法，其目标是使指数折衷平方和即下式最小化：

μ为遗忘因子，这个参数相当于为数据加了权重，按时间顺序越靠前的数据参考价值越小，p为时间序列长度，为n时刻网络的期望输出，w^out为输出权值矩阵。

在线学习算法的具体步骤如下：

(1)与liesn离线学习算法相同，liesn的在线学习算法在开始阶段也要初始化：

1)选择输入层、储备池、输出层的维数以及模型参数；

2)设定网络的参数，包括储备池规模n、谱半径sr、储备池连接度sd与输入尺度is；

3)预先设定wⁱⁿ、w与w^back，输出权值矩阵w^out为零矩阵，当输出为1维时，w^out变为输出权值向量w^out；

4)取遗忘因子0<μ<1；

(2)根据公式(2)更新储备池状态，设采样向量d(n)＝[x(n-1)；u(n)]，计算y(n)，则

y(n)＝f^out(w^out(n-1)d(n))(4)

式中，f^out(·)为输出函数

增益矢量k(n)的表达式如下：

式中，x^h(n)为x(n)的共轭矩阵，p(n-1)为n-1时刻的辅助向量；

其中，n时刻的辅助向量p(n)的递推公式如下：

p(n)＝μ^-1[p(n-1)-k(n)x(n)^tp(n-1)](6)

误差量e(n)的表达式如下：

为n时刻网络的期望输出；

输出权值向量根据式(8)更新，即：

w^out(n)＝w^out(n-1)+e(n)k^t(n)(8)

式中，k^t(n)为k(n)的转置。

从t＝1开始执行(4)，并不断循环重复，直到时间序列结束。

本发明的特点及有益效果是：

经典esn的预测输出图像波动较大，有多处尖峰，这是由于其神经元不具有记忆性，后一时刻的预测值与前一时刻预测值无直接关系；本发明离线liesn的预测曲线较为平滑，预测精度比经典esn有所提高；在线liesn的预测精度有进一步的提升，这是由于rls在线学习算法，使输出权值矩阵实现了动态调整，同时按照时间顺序增加较临近样本对输出权值的影响，提高了模型的预测精度。在线liesn改善了经典esn与在线liesn在功率较大处与功率变化较剧烈处的预测效果，提高了模型的预测能力。

附图说明：

图1回声状态网络的结构。

图中，u(n)、x(n)、y(n)分别为n时刻网络输入、储备池状态以及输出；wⁱⁿ、w与w^back分别为输入权值矩阵、储备池状态权值矩阵与反馈权值矩阵；w^out为输出权值矩阵。

图2储备池规模与谱半径对liesn性能的影响。

图3储备池连接度与输入尺度对liesn性能的影响。

图4泄漏衰减率对liesn性能影响。

图5预测输出与实际输出的对比。

具体实施方式

在回声状态网络(esn)中引入泄漏积分型神经元，分析泄漏积分型回声状态网络(liesn)的参数对其光伏功率预测性能的影响，并得到优化后光伏功率的预测模型；利用最小二乘在线学习算法对模型实施训练，得到在线学习泄漏积分型回声状态网络预测模型，最终实现基于泄漏积分型回声状态网络的在线学习光伏功率预测。

基于liesn的在线学习光伏功率预测主要包括以下步骤。

步骤1引入泄漏积分神经元：

回声状态网络中应用的sigmoid神经元没有记忆性，其n+1时刻的状态值与n时刻的状态值无直接关系。因此，回声状态网络更适合应用于离散的系统建模过程，而不是时续变化的动态系统，如光伏系统的功率输出。因此采用泄漏积分神经元，使之更适合实现具有时序特征的光伏功率输出预测。

步骤2参数的设定：

根据liesn的结构，选择输入层、储备池、输出层的维数；设定网络的参数，如储备池规模n、谱半径sr、储备池连接度sd、输入尺度is、泄漏积分率、遗忘因子等；

步骤3利用在线学习算法训练：

将权值的动态调整思想引入liesn的训练过程，实现liesn的在线学习，使光伏功率预测模型建立以后依然可以根据新获取的样本调整权值，在已有的训练结果的基础上继续新样本的学习，增强模型对样本的识别能力；

步骤4光伏输出功率预测：

利用在线学习算法与训练样本完成训练之后，可以得到光伏输出功率预测模型，利用该模型对测试样本进行预测，并对比预测功率与实际功率，评价预测精准程度。

2015年9月中共5天有代表性的光伏功率输出曲线(其中的天气类型包括晴、阴雨、多云)，将这5天的数据作为测试样本，共685组数据，预测结果的归一化均方误差为0.0986。部分测试结果如图5所示。

步骤1引入泄漏积分神经元：

liesn在经典esn的神经元模型基础上，引入泄漏积分神经元，使网络能够记忆其前一时刻的状态，同时逐渐失去所收集的信息，显著提高esn的短期记忆能力，因此，泄漏积分回声状态网络更适合描述连续变化的动态系统。liesn的连续状态更新方程为：

式中，u(n)、x(n)、y(n)分别为网络在n时刻的输入、n时刻的状态以及n时刻的输出，为n时刻的状态对时间的导数；c为时间常数且c>0；α为泄漏衰减率且α>0，它表示神经元对之前状态的保持度，wⁱⁿ、w与w^back分别为输入权值矩阵、储备池状态权值矩阵与反馈权值矩阵；f(·)为神经元的激活函数；，一般为sigmoid函数。

引入步长参数δ，可将公式(1)改写为：

x(n+1)＝(1-δcα)x(n)+δc(f(wⁱⁿu(n)+wx(n)+w^backy(n)))(2)

(1-δcα)x(n)项的加入使liesn的状态更新参考前一时刻的状态，相当于增加了神经元的记忆性。若令δ＝1，c＝1，α＝1，则该式即为经典esn的状态更新方程。liesn的状态变化更多地参考了前一时刻的状态，因此处理连续变化的序列效果优于经典esn。

步骤2参数的设定：

以澳大利亚dkasc光伏电站2015年9月中五天光伏功率输出的预测为例，优化选择liesn的参数，探究模型参数对预测精度与训练时间的影响，选择出适用于特定数据的储备池参数，实现对光伏功率预测模型的优化。预测精度采用归一化均方误差(nrmse)评判。

(1)储备池规模n与谱半径sr的选择

设置固定的输入尺度is(0.1)与连接度sd(0.1)，储备池规模n取值范围为[25,500]，步长25；谱半径sr取值范围[0.1,1)，步长0.1。如图2所示，当n处于区间[100,300]时其预测性能优于其它区间，设定储备池规模为200。谱半径sr处于区间[0.5,0.8]时测试误差较小，选择谱半径为0.7。

(2)储备池连接度sd与输入尺度is的选择

输入尺度is与储备池连接度sd对光伏功率预测性能的影响的实验结果如图3所示。在储备池规模n与谱半径sr确定的条件下，输入尺度is与储备池连接度sd对于liesn的测试误差无显著影响。输入尺度is为0.3时测试误差略低于其他区间，而随着连接度sd的增加运行时间呈现略微增加的趋势，因此选择连接度sd为0.05。

(3)泄漏衰减率α的选择

泄漏衰减率α对liesn性能的影响如图4所示，选择测试误差最小时对应的α值，即α为0.8。

步骤3利用在线学习算法训练：

liesn输出权值矩阵w^out的更新采用了rls算法，其目标是使指数折衷平方和即下式最小化：

μ为遗忘因子，这个参数相当于为数据加了权重，按时间顺序越靠前的数据参考价值越小。遗忘因子用来衡量算法的记忆能力，它的加入使数据的重要性随时序呈指数变化，增加临近时间样本对权值的影响，从而提高算法精度。p为时间序列长度，为n时刻网络的期望输出，w^out为输出权值矩阵。

该算法的步骤如下：

(1)与liesn离线学习算法相同，liesn的在线学习算法在开始阶段也要初始化：

1)选择输入层、储备池、输出层的维数以及模型参数；

2)设定网络的参数，如储备池规模n、谱半径sr、储备池连接度sd与输入尺度is等；

3)预先设定wⁱⁿ、w与w^back，输出权值矩阵w^out为零矩阵，当输出为1维时，w^out变为输出权值向量w^out；

4)取遗忘因子0＜μ＜1，一般情况下为一个接近1的数。

(2)根据公式(2)更新储备池状态，设采样向量d(n)＝[x(n-1)；u(n)]，计算y(n)，则

y(n)＝f^out(w^out(n-1)d(n))(4)

式中，f^out(·)为输出函数，w^out(n-1)为n-1时刻的输出权值向量；

增益矢量k(n)的表达式如下：

式中，x^h(n)为x(n)的共轭矩阵，p(n-1)为n-1时刻的辅助向量；

其中，n时刻的辅助向量p(n)的递推公式如下：

p(n)＝μ^-1[p(n-1)-k(n)x(n)^tp(n-1)](6)

误差量e(n)的表达式如下：

e(n)＝y(n)-f^out(w^out(n-1)d(n))(7)

为n时刻网络的期望输出；

输出权值根据式(8)更新，即：

w^out(n)＝w^out(n-1)+e(n)k^t(n)(8)

式中，k^t(n)为k(n)的转置。

从t＝1开始执行(4)，并不断循环重复，直到时间序列结束。

步骤4光伏输出功率预测：

采用2014年9月的气象数据与光伏阵列输出功率数据，该数据每五分钟采样一次，除去夜晚无功率输出的数据及坏点后作为训练样本，共4305组数据；选取2015年9月中共5天有代表性的光伏功率输出曲线(其中的天气类型包括晴、阴雨、多云)，将这5天的数据作为测试样本，共685组数据。根据步骤2中选择的网络参数以及步骤3中确定的在线学习算法，对光伏输出功率进行预测。

步骤5结果分析

图5为esn、liesn与在线学习liesn的预测输出与实际输出的对比图。经典esn的预测输出图像波动较大，有多处尖峰，这是由于其神经元不具有记忆性，后一时刻的预测值与前一时刻预测值无直接关系；离线liesn的预测曲线较为平滑，预测精度比经典esn有所提高；在线liesn的预测精度有进一步的提升，这是由于rls在线学习算法，使输出权值矩阵实现了动态调整，同时按照时间顺序增加较临近样本对输出权值的影响，提高了模型的预测精度。在线liesn改善了经典esn与在线liesn在功率较大处与功率变化较剧烈处的预测效果，提高了模型的预测能力。