一种基于长短期神经网络模型的微电网负荷预测方法

1.本发明涉及微电网负荷预测技术领域，具体涉及一种基于长短期神经网络模型的微电网负荷预测方法。


背景技术：

2.随着世界科技和经济的高速发展，传统发电方式所带来的环境污染问题日益严重。以风力发电、光伏发电为核心的新能源技术已成为国内外研究的重点。然而可再生能源自身具有相当的随机性和波动性，当大规模接入电力系统时，会对电网稳定性和可靠性造成不良影响。微电网作为一种小规模、分散的独立系统，具有能够自我控制、保护与管理的优点。其相关技术的高速发展给促进新能源的大规模接入，多能源形式的可靠供给提供了可能。对微电网负荷功率进行精确预测，并将其纳入调度计划是提高新型电力系统安全性和经济性的重要保障。
3.目前，负荷预测主要可以从预测时间尺度、空间尺度、输出形式和概率预测方法四个方面进行划分。其中，按时间尺度可以分为超短期预测、短期预测和中长期预测。按空间尺度可以分为用户级负荷预测、微电网及负荷预测和区域电网级负荷预测。按输出形式可以分为分位点预测、区间预测和概率密度预测。按建模方法可以分为统计类方法和人工智能方法。人工智能具有非常突出的数据挖掘能力和复杂函数逼近能力，在实际工程中受到了广泛应用。其可以自主挖掘负荷及其影响因素隐含特征的能力，使得其已经成为负荷概率预测的主流方法。
4.然而现有负荷预测方法虽然具有各自的优点，但研究对象都是传统电力系统，缺乏对新能源大量接入下的新型微电网的针对性研究。此外，如何进一步挖掘数据特征，提高预测精度和收敛速度也是一个亟待解决的问题。


技术实现要素：

5.为了更好的研究微电网在复杂衍生环境下的负荷变化情况，本发明提出了一种基于长短期神经网络模型的微电网负荷预测方法，包括步骤：
6.s1：采集微电网运行过程中预设组别数量的负荷数据及其对应影响因素的数据；
7.s2：通过聚类分析将各影响因素进行聚类，并基于聚类结果获取聚类间隔最大时各影响因素的权重；
8.s3：基于权重信息通过双层卷积神经网络提取当前组别中各影响因素中的特征向量；
9.s4：通过优化器优化长短期神经网络，并通过优化后的长短期网络进行特征向量筛选；
10.s5：通过注意力优化对筛选出的特征向量进行加权处理，并获得优化后的特征向量；
11.s6：通过全连接层将优化后的特征向量连接并获取当前组别的预测负荷；
12.s7：根据预测结果与实际负荷数据的离散度调节长短期神经网络的参数，并在训练结束前调取下一组别数据并返回s3步骤；
13.s8：根据训练好后的模型进行微电网负荷预测。
14.进一步地，所述s1步骤之后，还包括步骤，
15.s11：通过归一化处理负荷数据和影响因素数据。
16.进一步地，所述s2步骤中各影响因素的权重通过如下公式获取：
[0017][0018]
d(ω)＝‖x-n0(x)
t
ω‖-‖x-n1(x)
t
ω‖
[0019]
式中，d
mn
为影响因素xm和影响因素xn的聚类距离，n为预设组别数量，i为常数，x
mi
为第i个组别中影响因素xm在归一化处理后的数据，x
ni
为第i个组别中影响因素xn在归一化处理后的数据；d(ω)为标准差，ω为所要求解的权重，n0(x)
t
为时间t时采集的影响因素x的同类最近邻，n1(x)
t
为时间t时采集的影响因素x的非同类最近邻。
[0020]
进一步地，所述s3步骤中，双层卷积神经网络包含两个卷积通道，同一卷积通道内，卷积层按卷积深度逐层向下传递卷积数据；同时，不同卷积通道内，卷积层向另一卷积通道下一卷积深度下的卷积层传递卷积数据。
[0021]
进一步地，所述s4步骤中，优化器选用lookahead优化器。
[0022]
进一步地，所述s5步骤中，优化后的特征向量通过如下公式获取：
[0023]
α＝σ(w
α
f+b)
[0024][0025]
式中，f为筛选后的特征向量，w
α
为根据筛选后特征向量的数量随机生成并训练获得的权重矩阵，b为偏执量，σ为sigmoid非线性函数，α为加权后的权重，n为筛选后特征向量的总数，fi为筛选后的第i个特征向量，αi为筛选后第i个特征向量加权后的权重，f
i*
为筛选后第i个特征向量优化后的特征向量。
[0026]
进一步地，所述s1步骤之后，还包括步骤，
[0027]
s12：通过加权处理进行缺失数据补足。
[0028]
进一步地，所述缺失数据补足表示为如下公式：
[0029]
x
t
＝λ1x
t-1
+λ2x
t+1
+λ3x
t*
[0030]
式中，x
t
为待补足的t时刻的缺失数据，x
t-1
和x
t+1
为缺失数据相邻时刻的数据，x
t*
为相似数据，λ1、λ2和λ3为预设设置的权重。
[0031]
进一步地，预测得到的微电网符合需经过反归一化处理。
[0032]
进一步地，所述影响因素包括气候因素、温度因素、经济因素、时间因素。
[0033]
与现有技术相比，本发明至少含有以下有益效果：
[0034]
(1)本发明所述的一种基于长短期神经网络模型的微电网负荷预测方法，通过双层卷积神经网络对复杂衍生环境下影响微电网负荷的各类影响因素进行了关联式的特征
提取，从而提高了模型预测精度；
[0035]
(2)采用长短期神经网络进行特征向量回归分析并筛选，更加符合微电网数据采集过程中数据量大、时间久的训练环境，以此解决训练过程中的长时依赖问题；
[0036]
(3)通过lookahead优化器的加入，提高了模型的收敛速度和稳定性。
附图说明
[0037]
图1为一种基于长短期神经网络模型的微电网负荷预测方法的方法步骤图；
[0038]
图2为双通道卷积神经网络协同预测的结构示意图；
[0039]
图3为lstm神经网络的内部结构图；
[0040]
图4为改进的lstm单元结构图。
具体实施方式
[0041]
以下是本发明的具体实施例并结合附图，对本发明的技术方案作进一步的描述，但本发明并不限于这些实施例。
[0042]
实施例一
[0043]
研究表明，微电网负荷出力不仅会受到系统自身的结构和特征影响，还受到系统外的因素影响。从经济性看，区域生产总值(gdp)与负荷出力息息相关。从工业角度看，区域工厂用电占比对负荷影响较大。从气象因素看，尤其是极端天气对负荷出力的影响较大。从时序角度看，时刻、月份、季节、节假日都会影响负荷。从市场角度看，峰谷电价值也会影响负荷。从微电网结构看，新能源占比也会影响负荷。为进一步揭示不同类型影响因素对微电网发电负荷的影响大小，本发明对所有影响因素进行了特性分析，并针对研究过程中发现的问题，如图1所示，提出了一种基于长短期神经网络模型的微电网负荷预测方法，包括步骤：
[0044]
s1：采集微电网运行过程中预设组别数量的负荷数据及其对应影响因素的数据；
[0045]
s2：通过聚类分析将各影响因素进行聚类，并基于聚类结果获取聚类间隔最大时各影响因素的权重；
[0046]
s3：基于权重信息通过双层卷积神经网络提取当前组别中各影响因素中的特征向量；
[0047]
s4：通过优化器优化长短期神经网络，并通过优化后的长短期网络进行特征向量筛选；
[0048]
s5：通过注意力优化对筛选出的特征向量进行加权处理，并获得优化后的特征向量；
[0049]
s6：通过全连接层将优化后的特征向量连接并获取当前组别的预测负荷；
[0050]
s7：根据预测结果与实际负荷数据的离散度调节长短期神经网络的参数，并在训练结束前调取下一组别数据并返回s3步骤；
[0051]
s8：根据训练好后的模型进行微电网负荷预测。
[0052]
由于微电网的发电功率受发电场源环境、市场需求等多发面的影响，因此负荷的影响因素众多，数据量庞大。为方便选取关键性的影响因素，提高负荷预测效率，需要分别计算不同因素的影响权重(帮助进行信息选择，比如挑选权重量高的数据作为数据库，对于
权重低的进行舍弃)。在这里，本发明选用k-means聚类算法，对采集到的影响因素数据进行聚类，添加相应标签。聚类算法的距离计算采用欧式距离，公式如下：
[0053][0054]
式中，d
mn
为影响因素xm和影响因素xn的聚类距离，n为预设组别数量，i为常数，x
mi
为第i个组别中影响因素xm在标准化处理后的数据，x
ni
为第i个组别中影响因素xn在标准化处理后的数据。
[0055]
完成聚类后，将样本数据映射到权重空间w中，并计算间隔来反映数据结构。当间隔越大，则说明数据结构越好。以此为目标，对影响因素的数据样本进行训练，寻求最佳特征权重。公式如下：
[0056]
d(ω)＝‖x-n0(x)
t
ω‖-‖x-n1(x)
t
ω‖
[0057]
式中，d(ω)为标准差，ω为所要求解的权重，n0(x)
t
为时间t时采集的影响因素x的同类最近邻，n1(x)
t
为时间t时采集的影响因素x的非同类最近邻。
[0058]
在完成聚类分析和特征权重计算后，得到结果如表1所示。长期来看，电力价格是影响负荷的主要因素，其中工业用电最为频繁。该地区新能源比例较高，新能源电价也对负荷有一定影响。短期来看，负荷出力受时间的影响较大。其中特殊事件的发生也影响微电网负荷值。
[0059]
表1：影响因素及权重
[0060][0061]
从表1可以看出，影响微电网的负荷预测结果的因素众多。而不同类型的采集数据之间数值差异性较大，不可能直接进行比较和训练，容易导致神经元饱和等现象。因此，在s1步骤之后，还包括对所有数据进行归一化处理的s11步骤，以保证所有数据均在同一区间内，方便统计与计算。归一化公式如下：
[0062][0063]
式中，xi为处理前采集获得的影响因素x第i个数据，为影响因素x第i个数据归一化处理后的数据，为求取所有xi中最小的值，max(xi)为求取所有xi中最大的值。
[0064]
同时，考虑到微电网负荷预测中数据采集量庞大，因设备故障或通讯错误而造成的数据丢失现象频发。数据缺失会对负荷预测训练质量造成不良影响。为保证负荷数据的连续性和平稳性，需要对缺失数据进行补全。因此，s11步骤之后还包括s12步骤，通过加权处理的方式对数据进行补全，公式如下：
[0065]
x
t
＝λ1x
t-1
+λ2x
t+1
+λ3x
t*
[0066]
式中，x
t
为待补足的t时刻的缺失数据，x
t-1
和x
t+1
为缺失数据相邻时刻的数据，x
t*
为相似数据，λ1、λ2和λ3为预设设置的权重。
[0067]
当然，除缺失数据外，由于干扰信号等原因，数据采集会出现数据异常等情况。为保证预测质量，还需要对异常数据进行剔除和平滑处理。
[0068]
在对采集到的数据进行处理后，即可输入到本发明的模型中进行训练。而为了为进一步提高负荷预测算法的精度和收敛速度，本发明在现有功率预测技术的基础上对长短期神经网络(lstm)算法进行了改进。
[0069]
首先，传统的负荷预测算法采用单通道卷积神经网络对数据进行卷积计算。其中，卷积神经网络可以通过相邻层之间的特殊连接方式来减少网络内部参数数量。后一层卷积层可以提取前一层卷积层数据特征，将特征信息从低级转换为高级。其主要包括卷积层、池化层、激活层、全连接层。
[0070]
卷积层是使用滤波器来获取前一层数据特征信息，是卷积神经网络中最重要的一环。池化层一般在卷积层之后，利用输入数据的相关性特征，重新采样并得到新的特征信息。其主要作用是对输入数据进行将维处理，提高信息处理效率。激活层是通过激活函数提高收敛速度，避免梯度消失的问题。全连接层通常位于网络末端，对数据进行整合输出，得到反应数据特征的特征向量。
[0071]
但是由于单一通道的预测模型容易受到外界噪声影响，对采集数据可靠性要求过高。特别是负荷预测模型输入类型差异较大，单一通道已无法满足微电网高预测精度的要求。因此，本发明构建多卷积通道(本实施例以双卷积通道为例，包括卷积通道a和卷积通道b)结构，采用协同式的神经网络预测模型。在进行数据训练和负荷预测的同时，进行数据交流和共享(包括同一卷积通道内，卷积层(c
n-1
、cn、c
n+1
)按卷积深度逐层向下传递卷积数据,以及不同卷积通道内，卷积层向另一卷积通道下一卷积深度下的卷积层传递卷积数据)，建立稳定的重建损失。通过交叉训练、协同训练等方法，提高模型预测精度。协同预测的结构如图2所示。
[0072]
同时，在训练过程中还发现，关键性数据特征集合中的特征信号容易淹没在大量无意义的冗余数据中，从而导致负荷预测难度和工作量大大提高。因此，在将经过多卷积通道提取的特征向量输入长短期神经网络进行特征筛选后。本发明还提出通过注意力机制对模型进行优化，通过对lstm输出进行加权处理，突出重要特征，以保证预测效率。
[0073]
其中，lstm神经网络是一种特殊的循环神经网络，其通过神经单元内部门控机制，解决了传统神经网络无法解决长时依赖(long term dependency)的问题。其基本内部结构如图3所示，各个单元循环连接形成了传统的rnn结构，单元内部则采用了具有lstm核心的门控机制(包括遗忘门、输入门、输出门以及相应的激活函数)，其中xi为第i轮循环输出的信息，hi为第i轮循环的传输状态。
[0074]
而注意力机制本质是一种加权函数，是通过对n个多维特征向量进行信息整合，得到新的特征向量。该特征向量能够反应多个特征的关键性信息。加权公式如下：
[0075][0076]
式中，n为筛选后特征向量的总数，fi为筛选后的第i个特征向量，αi为筛选后第i个特征向量加权后的权重，f
i*
为筛选后第i个特征向量优化后的特征向量。
[0077]
注意力权重主要是通过打分函数g，对每一个特征值进行评分，分数越高说明该特
征越重要。完成打分后，使用softmax函数计算最终权重。本文在lstm层和全连接层中间加入注意力优化层，即：
[0078]
α＝σ(w
α
f+b)
[0079]
式中，f为筛选后的特征向量，w
α
为根据筛选后特征向量的数量随机生成并训练获得的权重矩阵(以预测负荷结果靠近实际负荷为目标通过神经网络进行训练获得)，b为偏执量，σ为sigmoid非线性函数，α为加权后的权重。
[0080]
本发明通过注意力优化机制的加入，能够将预测模型数据处理聚焦到关键性特征，从而降低无关特征的影响，保证预测效率和精度。
[0081]
进一步地，负荷预测中长短期网络的权重优化也一直是神经学习的重点，优质的优化措施能够使得模型的收敛速度和稳定性得到保障。本发明采用了一种具有前瞻性的lookahead优化器，通过预先查看另一个优化器生成的快速权重序列来确定搜索方向。该优化器与常规adam优化器相结合，能够提高拟合速度和泛化能力，还能保证自身学习的鲁棒性。
[0082]
最终，通关全连接层将各优化后的特征向量进行连接，即可得到当前组别数据下的负荷预测训练结果，将其与本组别实际负荷数据进行比较，基于他们之间的离散度调节长短期神经网络各预测网络层的权重并进行下一组别数据的训练，直至训练完成，最终即可根据训练好的模型，通过采集到的影响因素数据进行相应的微电网符合预测。
[0083]
实施例二
[0084]
为了更好的对本发明的技术内容进行理解，本实施例通过一系统结构图来对本发明进行简要概述，如图4所示，本发明提出的改进后的lstm神经网络。通过聚类算法和特征选择获取对微电网发电负荷影响最大的关键性因素数据集作为网络的输入。经过双层卷积神经网络通道进行特征提取。两个卷积层之间通过交叉训练等方式进行数据交流，进一步挖掘数据中蕴藏的高价值信息。然后通过卷积神经网络的输出特征作为lstm的输入。其特有的3个门和记忆单元能够对特征进行进一步筛选。同时，利用lookahead优化器对卷积神经网络进行反向优化。最后使用注意力优化(am)对lstm的输出进行加权处理，在通过全连接层连接后子在输出层输出负荷功率的预测结果。
[0085]
综上所述，本发明所述的一种基于长短期神经网络模型的微电网负荷预测方法，通过双层卷积神经网络对复杂衍生环境下影响微电网负荷的各类影响因素进行了关联式的特征提取，从而提高了模型预测精度。
[0086]
采用长短期神经网络进行特征向量回归分析并筛选，更加符合微电网数据采集过程中数据量大、时间久的训练环境，以此解决训练过程中的长时依赖问题。而通过lookahead优化器的加入，提高了模型的收敛速度和稳定性。
[0087]
需要说明，本发明实施例中所有方向性指示(诸如上、下、左、右、前、后
……
)仅用于解释在某一特定姿态(如附图所示)下各部件之间的相对位置关系、运动情况等，如果该特定姿态发生改变时，则该方向性指示也相应地随之改变。
[0088]
另外，在本发明中如涉及“第一”、“第二”、“一”等的描述仅用于描述目的，而不能理解为指示或暗示其相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本发明的描述中，“多个”的含义是至少两个，例如两个，三个等，除非另有明确具体的限定。
[0089]
在本发明中，除非另有明确的规定和限定，术语“连接”、“固定”等应做广义理解，例如，“固定”可以是固定连接，也可以是可拆卸连接，或成一体；可以是机械连接，也可以是电连接；可以是直接相连，也可以通过中间媒介间接相连，可以是两个元件内部的连通或两个元件的相互作用关系，除非另有明确的限定。对于本领域的普通技术人员而言，可以根据具体情况理解上述术语在本发明中的具体含义。
[0090]
另外，本发明各个实施例之间的技术方案可以相互结合，但是必须是以本领域普通技术人员能够实现为基础，当技术方案的结合出现相互矛盾或无法实现时应当认为这种技术方案的结合不存在，也不在本发明要求的保护范围之内。