中长期电力负荷预测装置的制作方法

本发明涉及电力负荷预测技术领域，尤其涉及一种中长期电力负荷预测装置。

背景技术：

准确的中长期电力负荷预测有利于电网安全、经济运行，为电网规划提供基础数据依据，对现代电力系统发展起着重要作用，对电网规划的质量有决定性影响。如何提高中长期负荷预测的准确率一直以来是热点问题。

目前，中长期负荷预测装置主要分为只考虑负荷自身时序规律的方法和考虑相关因素的预测装置。前者有指数平滑法、增长速度法、生长曲线法、动平均法等，但这些方法仅从时间的角度看待负荷预测问题；后者有单耗法、弹性系数法、回归分析法等，但这些方法仅简单考虑若干因素。

然而，电力负荷不仅受电力系统内部因素，还受到政策宏观调控、经济、气象等多方面因素的影响，由于这些因素随机多变，使得电力负荷与影响因素之间非线性关系复杂，难以用精确的关系式表达两者之间的关系。同时，伴随着智能电网的发展，电网数据变得丰富，越来越多的影响因素得到考虑，影响因素的数据出现越来越多的时间尺度，数据颗粒度更细，以及非等时间间隔采集的特征。因此，需探索多时间尺度数据的处理方法来实现将上述影响因素的数据融入一个模型中。

为此，相关技术中提出采用独立预测得到短期、长期、中期时间尺度的预测值，再使用rnn(recurrentneuralnetwork，循环神经网络)综合三种情况得到总的预测值的方法处理不同时间尺度问题，但其存在如下问题：需找寻负荷与等间隔、单一时间尺度数据间关系；还有技术采用特征树的方法由小到大层次分析各时间尺度间的关系，但其存在如下问题：需分别独立考虑不同时间尺度的情况，而后再使用一系列方法综合起来，很少考虑多尺度下数据间依赖关系。

技术实现要素：

本发明旨在至少在一定程度上解决相关技术中的技术问题之一。为此，本发明的一个目的在于提出一种中长期电力负荷预测装置，以解决不同时间尺度数据依赖问题，提高中长期电力负荷的预测精度。

为实现上述目的，本发明提出了一种中长期电力负荷预测装置，包括：输入模块，用于输入多个第一时间尺度数据和多个第二时间尺度数据，并将所述多个第一时间尺度数据和所述多个第二时间尺度数据传递至长短期记忆神经网络的输入层，其中，所述多个第一时间尺度数据为预设时间段内的电力负荷数据及其影响因子，所述多个第二时间尺度数据为所述预设时间段内的电力负荷数据的影响因子，所述第一时间尺度小于所述第二时间尺度；建模模块，用于通过所述长短期记忆神经网络对所述多个第一时间尺度数据和所述多个第二时间尺度数据进行训练，以得到堆叠长短期记忆网络模型，其中，所述堆叠长短期记忆网络模型包括多个长短期记忆单元，所述多个长短期记忆单元分为两层，第一层用于处理第一时间尺度数据，第二层用于处理第二时间尺度数据；预测模块，用于利用所述堆叠长短期记忆网络模型对电力负荷进行预测，以得到电力负荷预测数据；输出模块，用于输出所述电力负荷预测数据。

本发明实施例的中长期电力负荷预测装置，基于多时间尺度数据和长短期记忆神经网络进行建模，能够解决不同时间尺度数据依赖问题，提高中长期电力负荷的预测精度。

另外，根据本发明上述实施例的中长期电力负荷预测装置还可以具有如下附加的技术特征：

根据本发明的一个实施例，所述中长期电力负荷预测装置还包括：采集模块，用于采集所述预设时间段内的电力负荷数据及其影响因子；分析模块，用于根据所述第一时间尺度对所述电力负荷数据进行划分，以得到第一时间尺度的电力负荷数据，并对所述影响因子进行分析，以得到第一时间尺度的关键影响因子和第二时间尺度的关键影响因子，以及将所述第一时间尺度的电力负荷数据和所述第一时间尺度的关键影响因子作为所述第一时间尺度数据，将所述第二时间尺度的关键影响因子作为所述第二时间尺度数据。

根据本发明的一个实施例，所述第一时间尺度数据包括电力负荷数据和气候数据，所述第二时间尺度数据包括经济数据和气候数据。

根据本发明的一个实施例，所述预设时间段为数年，所述第一时间尺度为月，所述第二时间尺度为年。

根据本发明的一个实施例，所述堆叠长短期记忆网络模型通过如下公式表示：

f＝f(nt(i),βt,γt,t,i)，

其中，t＝1,2,…,τ，表示所述预设时间段的第t年度，τ表示所述预设时间段的年度数，nt(i)表示第t年度的第i个月的电力负荷数据和气候数据，i＝1,2,…,12，βt表示第t年度的经济数据，γt表示第t年度的气象数据。

根据本发明的一个实施例，所述第一层对第t年度的12个月的第一时间尺度数据进行处理后，输出αt＝(mt(1),mt(2),…,mt(i),…,mt(12))，其中，mt(0)＝mt(12)，mt(i)＝flstm(nt(i),mt-1(i))，mt(i)为所述第一层对nt(i)处理后的输出数据，flstm函数为所述长短期记忆单元映射函数；所述第二层对第t年度的第二时间尺度数据进行处理后，输出ηt＝flstm(αt,βt,γt,ηt-1)，其中，βt＝tanh(yt,βt-1)，γt＝tanh(zt,γt-1)，yt、zt分别表示βt、γt经各自稠密连接的简单循环网络relu全连接层处理后的数据，tanh表示双曲正切函数。

根据本发明的一个实施例，所述堆叠长短期记忆网络模型在第t年度的输出数据gt＝wlt+b，其中，lt＝tanh(ηt,lt-1)，表示ηt经稠密连接的简单循环网络relu全连接层处理后的数据，w和b为预设参数。

根据本发明的一个实施例，所述长短期记忆单元包括输入门it、输出门ot、遗忘门ft和待学习单元pt，所述待学习单元pt记录到当前时刻t为止的所有历史信息并受到所述输入门it、所述输出门ot和所述遗忘门ft控制，所述输入门it、所述输出门ot和所述遗忘门ft的输出值均在0和1之间。

根据本发明的一个实施例，所述长短期记忆单元的参数通过如下公式迭代更新：

其中，wxo和who表示输出门待学习网络参数，x1,x2,…,xτ为输入序列数据，xt表示第t时刻的输入数据，wxi和whi表示输入门待学习网络参数，wxf和whf为为遗忘门待学习网络参数，wxp和whp为细胞状态待学习网络参数，×表示逐点相乘运算，st表示所述长短期记忆单元的细胞状态。

根据本发明的一个实施例，所述建模模块在训练得到所述堆叠长短期记忆网络模型时，通过下式表示损失函数：

其中，为m1,m2,…,mt,…,mτ对1,2,…,t,…,τ的回归值，mt为第t年的最大电力负荷的真实值，wj(j＝1,2,…,n)为第j个网络待学习参数，n为网络待学习参数的总数，ε1和ε2分别是控制正则化强度的超参数。

附图说明

图1是本发明一个实施例的中长期电力负荷预测装置的结构框图；

图2是本发明另一个实施例的中长期电力负荷预测装置的结构框图；

图3是本发明一个示例的堆叠长短期记忆网络模型的结构图；

图4是本发明一个示例第二层输出数据的处理流程图；

图5是本发明一个示例的长短期记忆单元的输出隐藏单元计算流程图；

图6是本发明一个示例的月度数据的处理流程图；

图7是本发明一个示例的年度数据的处理流程图。

具体实施方式

下面详细描述本发明的实施例，所述实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，旨在用于解释本发明，而不能理解为对本发明的限制。

下面参考附图1-7描述本发明实施例的中长期电力负荷预测装置。

图1是本发明实施例的中长期电力负荷预测装置的结构框图。

如图1所示，中长期电力负荷预测装置100包括：输入模块110、建模模块120、预测模块130和输出模块140。

具体地，输入模块110，用于输入多个第一时间尺度数据和多个第二时间尺度数据，并将多个第一时间尺度数据和多个第二时间尺度数据输入长短期记忆神经网络，其中，多个第一时间尺度数据为预设时间段内的电力负荷数据及其影响因子，多个第二时间尺度数据为预设时间段内的电力负荷数据的影响因子，第一时间尺度小于第二时间尺度。

其中，影响因子可包括经济数据和气候数据，此时第一时间尺度数据可包括电力负荷数据和气候数据，第二时间尺度数据包括经济数据和气候数据。

可选地，预设时间段为数年，第一时间尺度为月，第二时间尺度为年。

建模模块120，用于通过长短期记忆神经网络对多个第一时间尺度数据和多个第二时间尺度数据进行训练，以得到堆叠长短期记忆网络模型，其中，堆叠长短期记忆网络模型包括多个长短期记忆单元，多个长短期记忆单元分为两层，第一层用于处理第一时间尺度数据，第二层用于处理第二时间尺度数据。

具体地，堆叠长短期记忆网络模型可通过公式f＝f(nt(i),βt,γt,t,i)表示，其中，t＝1,2,…,τ，表示预设时间段的第t年度，τ表示预设时间段的年度数，nt(i)表示第t年度的第i个月的电力负荷数据和气候数据，i＝1,2,…,12，βt表示第t年度的经济数据，γt表示第t年度的气象数据。

具体而言，第一层可通过如下公式(1)处理第t年度的第一时间尺度数据：

其中，mt(i)为第一层对nt(i)进行处理后的输出数据，flstm函数为长短期记忆单元映射函数，αt表示第一层在第t年度的输出数据。

第二层可通过如下公式(2)处理第t年度的第二时间尺度数据：

ηt＝flstm(αt,βt,γt,ηt-1)(2)

其中，ηt表示第二层在第t年度的输出数据，βt＝tanh(yt,βt-1)，γt＝tanh(zt,γt-1)，yt、zt分别表示βt、γt经各自稠密连接的简单循环网络relu全连接层处理后的数据，tanh表示双曲正切函数。

进一步地，可通过如下公式(3)计算堆叠长短期记忆网络模型在第t年度的输出数据gt：

其中，lt表示ηt经稠密连接的简单循环网络relu全连接层处理后的数据，gt表示堆叠长短期记忆网络模型在第t年度的输出数据，w和b为预设参数。

预测模块130，用于利用堆叠长短期记忆网络模型对电力负荷进行预测，以得到电力负荷预测数据。

在该实施例中，t＝τ时，通过上式(3)计算得到的gτ即为预测模块130利用堆叠长短期记忆网络模型对电力负荷进行预测，得到的电力负荷预测数据。

输出模块140，用于输出通过堆叠长短期记忆网络模型预测得到的电力负荷预测数据。

在本发明的实施例中，长短期记忆单元包括输入门it、输出门ot、遗忘门ft和待学习单元pt，待学习单元pt记录到当前时刻t为止的所有历史信息并受到输入门it、输出门ot和遗忘门ft控制，输入门it、输出门ot和遗忘门ft的输出值均在0和1之间。

其中，遗忘门ft控制长短期记忆单元的信息擦除，输入门it控制长短期记忆单元的信息更新，输出门ot控制长短期记忆单元内部状态的信息输出。

具体地，长短期记忆单元的参数可通过如下公式(4)迭代更新：

其中，wxo和who表示输出门待学习网络参数，x1,x2,…,xτ为输入序列数据，xt表示第t时刻的输入数据，wxi和whi表示输入门待学习网络参数，wxf和whf为为遗忘门待学习网络参数，wxp和whp为细胞状态待学习网络参数，×表示逐点相乘运算，st表示长短期记忆单元的细胞状态，ht表示隐藏单元。

在本发明的实施例中，为了解决欠约束和过拟合问题，以及为了保证本发明装置的稳健性，训练堆叠长短期记忆网络模型时，损失函数可通过下式(5)表示：

其中，为m1,m2,…,mt,…,mτ对1,2,…,t,…,τ的回归值，mt为第t年的最大电力负荷的真实值，wj(j＝1,2,…,n)为第j个网络待学习参数，n为网络待学习参数的总数，ε1和ε2分别是控制正则化强度的超参数。

可选地，如图2所示，中长期电力负荷预测装置100还可以包括采集模块150和分析模块160。

其中，采集模块150，用于采集预设时间段内的电力负荷数据及其影响因子。

具体地，在对某区域的电力负荷进行预测时，采集模块150可实时采集某一区域的电力负荷数据及其影响因子(如气象数据、经济数据)，并持续采集预设时间段。

分析模块160，用于根据第一时间尺度对电力负荷数据进行划分，以得到第一时间尺度的电力负荷数据，并对影响因子进行分析，以得到第一时间尺度的关键影响因子和第二时间尺度的关键影响因子，以及将第一时间尺度的电力负荷数据和第一时间尺度的关键影响因子作为第一时间尺度数据，将第二时间尺度的关键影响因子作为第二时间尺度数据。

具体地，采集模块150在采集数据时，还可对数据进行分析，并以数据表、曲线图等方式展示(如通过显示屏)该区域的的数据(如最大负荷、电量、平均负荷、经济指标、人口指标、气象指标等)，展示出的数据可根据年、月、日等时间尺度进行划分，由此，可得到第一时间尺度的电力负荷数据。当完成预设时间段的数据采集时，分析模块160可根据第一时间尺度对电力负荷数据进行划分，以得到第一时间尺度的电力负荷数据，并对影响因子进行分析，以得到第一时间尺度的关键影响因子和第二时间尺度的关键影响因子，并将第一时间尺度的电力负荷数据和第一时间尺度的关键影响因子作为第一时间尺度数据，将第二时间尺度的关键影响因子作为第二时间尺度数据。

进一步地，当需要预测电力负荷时，分析模块160可将第一时间尺度数据和第二时间尺度数据传递至输入模块110。

为便于理解，下面结合图3-图7对本发明实施例的中长期电力负荷预测装置中的建模模块130进行描述：

首先，对训练得到的堆叠长短期记忆网络模型进行说明。第一，该模型以长短期记忆单元为网络基本组成单元，由此能够有效提升模型在从时间序列数据中学习时处理长期依赖问题的能力，从而帮助提高模型最终的预测准确率；第二，该模型具有合理的堆叠结构，考虑了不同时间尺度数据的相互依赖关系且能够将不同时间尺度数据进行整合，从而达到最大限度充分利用信息的效果。

本发明的模型利用具有长短期记忆细胞的两层堆叠神经网络处理多时间尺度数据，以下层输出结果作为上层输入的一部分，上层神经网络结构综合处理下层传输进来的数据与本层其他输入数据之间的关系，最后输出预测结果。模型整体结构如图3所示。

整体结构的各层功能及实现过程如下：

第一层：处理最细时间尺度数据，底层输入的月度数据，通过一个长短期记忆循环神经网络层整合，并输出与第二层网络输入具有相同时间尺度的综合结果。

第二层：处理较粗时间尺度数据，第一层网络的输出数据与第二层输入的数据一起通过第二层的长短期记忆循环神经网络层，经过神经网络处理后输出ηt。

第二层输出数据后的处理如图4所示，将第二层长短期记忆循环网络层的输出ηt通过最后一层稠密连接层处理后的输为lt，最后将lt通过线性变换得到第t年的输出为gt，其中，lt、gt通过上式(3)计算得到。

其次，对上述模型的损失函数设置进行说明。适当的损失函数可以使以损失函数为目标函数的问题容易优化，且能够充分利用网络的表示能力而又不易过拟合。

在循环神经网络中，每个时刻t的输入都对应一个该时刻的输出gt，若神经网络的输入或输出序列个数为τ，则每个时刻的输出组成的序列为g1,g2,…,gτ。在预测时只有最后一个时刻的输出gτ为目标预测值，但是为了模型能够更好地学到最大负荷在一定长度的年份间的变化规律，将所有时刻的输出g1,g2,…,gτ均纳入损失函数的计算中。本发明设置的损失函数由以下两部分组成：

(1)误差度量

年度电力负荷数据存在以下三个特点：一是粒度较粗，保留的信息较少；二是年度数据的数据规模不大，当数据波动大时回归运算的稳健性降低；三是在某些年份会出现特异性强的离群点。考虑到以上三个年度数据的特点，本发明不直接采用年度最大负荷真实值作为输出。通过对最大负荷的增长规律的先验分析和数值实验，发现对历史年度最大负荷的一般最小二乘线性拟合结果能够在一定程度上揭示年最大负荷的发展规律，各年度的回归残量相对最大负荷值的比例始终能控制在10％以内。因此本发明使用一个地区的年度最大负荷的预测残量作为神经网络预测的学习目标，均方误差作为损失函数。

以线性回归的残量而不是各年最大电力负荷作为输出，能够明显加快网络的学习过程，有利于降低网络训练难度。

(2)正则化

当神经网络模型输入数据量太大时，神经网络为了很好的训练数据集将会出现过拟合现象，从而导致预测效果不好，因此为了避免过拟合现象，本发明对循环神经网络中除偏置参数以外的全部参数施加惩罚，即正则化。选择弹性网络(elasticnet)中的罚函数：l¹范数+l²范数。该正则化效果介于l¹范数和l²范数之间而更加灵活，均方误差为

由此，得到式(5)所示的损失函数。

进一步地，对长短期记忆单元进行说明。长短期记忆单元是本发明所提出的网络结构能够成功工作的重要原因之一。

用x1,x2,…,xτ表示输入序列数据，其中每个xt为d维向量，是第t时刻的输入数据。每个长短期记忆细胞通过一系列数学运算得到对应于该细胞的隐藏单元ht，除待学习的参数外，ht的计算只依赖于当前时刻输入xt和上一时间步的单元隐藏单元ht-1，其可通过上式(4)计算得到。

具体地，第一步通过下式计算当前细胞状态st：

pt视为当前长短期记忆单元被激活函数tanh激活后的输入，it是控制输入中可以通过的输入门，st为单元的细胞状态，是保留细胞信息的主体部分，遗忘门ft用来控制上一个细胞状态st-1中哪些信息被丢弃和保留；当前细胞状态st由通过输入门的输入和通过遗忘门的上一细胞状态求和得到。

第二步计算长短期记忆单元的输出隐藏单元ht。细胞状态st被激活后得到单元的输出，该输出通过输出门ot的筛选，最终形成当前时间步长短期记忆单元的输出隐藏单元ht。其中，ot＝σ(wxoxt+whoht-1)，ht＝ot×tanh(st)。

综上所述，一个长短期记忆单元最终输出结果与输入之间的映射关系为：ht＝σ(wxoxt+whoht-1)×tanh[σ(wxfxt+whfht-1)×st-1+σ(wxixt+whiht-1)×tanh(σ(wxpxt+whpht-1)]

整个长短期记忆单元的输出隐藏单元计算过程如图5所示。

最后，对堆叠长短期记忆网络模型的分层结构进行描述。堆叠长短期记忆网络模型的输入数据时间尺度为年尺度和月尺度，具体输入数据类型如表1所示。

表1

不同时间尺度数据的处理方法分为以下两部分：

(1)月尺度数据的处理

如图6所示，以每年月度电力负荷数据和气候数据时间序列数据nt(i)为输入，构成第一层。nt(i)为第t年度的第i个月的电力负荷数据和气候数据。在第t年度，第一层对应的12个月电力负荷数据和气候数据的输出mt(i)(即式(1)中的αt)作为第二层的输入的一部分。

(2)年尺度数据的处理

如图7所示，对于两类年尺度数据，分别通过各自稠密连接的简单循环网络relu全连接层处理，其中βt和γt分别为第t年度的经济数据与气候数据，yt和zt分别为处理后的中间变量，由于经济数据和气候数据在年尺度上也具有时间序列关系，将对应这两部分的全连接层也各自按照时间方向连接，成为子循环网络：βt＝tanh(yt,βt-1)，γt＝tanh(zt,γt-1)。

第一层的输出数据和年尺度数据经过relu全连接层处理后的数据整体作为第二层的输入，第二层的输出为ηt，且第t时刻的输出与t-1时刻有关，ηt＝flstm(αt,βt,γt,ηt-1)。

为了验证堆叠长短期记忆网络模型的有效性，以广东全省和广州市为例，输入数据类型如表1所示。广东省用2008年至2016年的数据对网络进行训练，预测2017年广东全省最大负荷；广州市用2008年至2014年的数据(对网络进行训练，预测2015年广州市最大负荷。

利用训练后的堆叠长短期记忆循环神经网络模型分别对2017年广东全省年最大负荷和2015年广州市年最大负荷进行预测。选取单时间尺度长短期记忆循环神经网络和多时间尺度数据全连接神经网络模型预测结果做比较。对照模型中，单尺度数据长短期记忆循环神经网络模型输入数据类型均为年尺度，其中月最大负荷数据用年最大负荷数据替代。全连接神经网络将每年数据作为一个向量输入到神经网络中，数据时间尺度和表1相同。三种模型预测结果如表2所示。

表2

从表2中可以看出无论是对于广州省级还是市级，考虑数据间依赖性的多尺度数据长短期记忆循环神经网络模型准确率都高于只考虑单时间尺度数据的模型或考虑多时间尺度数据但是不考虑数据间依赖性的模型。

综上所述，本发明实施例的中长期电力负荷预测装置，训练得到的堆叠长短期记忆网络模型为最大负荷预测模型，其采用多层网络结构，解决了不同时间尺度数据依赖问题，融入了不同时间尺度数据，增加神经网络数据输入量，提高了神经网络模型预测精度，并对循环神经网络中除偏置参数以外的全部参数施加惩罚，解决欠约束和过拟合问题，保证算法的稳健性。

尽管上面已经示出和描述了本发明的实施例，可以理解的是，上述实施例是示例性的，不能理解为对本发明的限制，本领域的普通技术人员在本发明的范围内可以对上述实施例进行变化、修改、替换和变型。