一种电力负荷概率预测方法

1.本发明涉及时间序列预测领域，涉及时间序列预测在电力负荷预测的应用，尤其是一种电力负荷概率预测方法。


背景技术：

2.随着社会的快速发展，各行各业对于电能的需求不断提高，电能已经成为人类发展过程中不可或缺的重要能源。为了保证稳定的电力供应以及供电质量，对电网的安全高效运行提出了更高的要求。由于电能本身很难实现大量存储，所以最好的办法就是保持发电量和用电量处于一个动态平衡的状态，否则将导致发电量和用电量供需失衡，非常容易引发安全事故，给电力系统和用户造成极大的经济损失。
3.目前，解决这一问题最有效的方法就是做好电力负荷的预测，使得发电量和用电量达到一定的动态平衡，还可以帮助电力部门及时做出科学决策，降低成本，保证电网长期安全稳定运行。现有的技术主要有两类：一是基于传统的时间序列预测法，在历史的数据上进行统计和分析，构建未来数据和历史数据之间存在的映射关系，但对于非线性数据处理能力较弱，并且当电力负荷受到不确定因素影响时，往往预测效果欠佳。二是基于机器学习的预测方法，它解决了传统时间序列预测方法对非线性数据处理弱的问题，具有强大的非线性数据处理能力。近年来，随着数据量的增加，数据维度的增多，深度学习在电力负荷预测问题上有了更好的应用，深度学习通过对底层特征组合形成更加高层抽象的特征，更加具有优势。但是，基于机器学习的预测方法，着重学习数据特征(包括预测目标历史数据)和预测目标值之间的非线性关系，忽略了预测目标序列所隐藏的丰富信息,导致了预测效果无法进一步提升。因此，基于机器学习的预测方法预测效果不佳是一个亟待解决的问题。


技术实现要素：

4.本发明的目的是提供一种电力负荷概率预测方法，该方法通过一个由两个编码器组成的神经网络，目标序列编码器通过分解数据集的目标序列历史数据，分解它的趋势性和周期性，进而得到目标序列编码器的预测值。协变量编码器提取特征信息中的时间信息，学习到协变量对预测值的误差影响。再对目标序列编码器的预测值进行修正，进行分位数预测，实现了更加精确的电力负荷预测值。
5.实现本发明目的的具体技术方案是：
6.一种电力负荷概率预测方法，其特征在于，包括：
7.将电力负荷值、影响负荷值的历史变量和影响负荷值的未来已知变量构成数据集，进行数据预处理，并划分成训练集和测试集；
8.将训练集的变量输入到由目标序列编码器、协变量编码器和分位数输出层构成的电力负荷预测模型中，具体包括：
9.将训练集中的电力负荷序列值输入到目标序列编码器，分解目标序列的趋势性和周期性，得到第一隐藏变量；
10.将训练集中的影响负荷值的历史变量和影响负荷值的未来已知变量输入到协变量编码器，学习协变量对于预测值的误差影响因子，得到第二隐藏变量；
11.将第一隐藏变量和第二隐藏变量输入到分位数输出层，融合第一隐藏变量和第二隐藏变量，进行线性层输出，线性层函数为：
[0012][0013]
其中，w为权重参数，b为偏置参数；为预测电力负荷值，u为第一隐藏变量和第二隐藏变量之和；
[0014]
利用训练集对电力负荷预测模型进行第一训练，训练电力负荷预测模型使用的第一损失函数为：
[0015][0016][0017]
其中，ql(
·
)为分位数损失函数，ω为训练集，ω为电力负荷预测模型权重参数，是分位数集合，q是里的元素，为预测电力负荷序列值，y为实际电力负荷序列值，h为预测长度，m是ω的样本数量；t为当前时刻；
[0018]
将测试集的变量输入到训练好的电力负荷预测模型中进行电力负荷概率预测，得到电力负荷概率预测值。
[0019]
可选地，所述目标序列编码器由数个趋势性堆和数个周期性堆组成，趋势性堆和周期性堆又由对应的数个块组成；目标序列编码器的输入序列值为目标序列值，第一隐藏变量为所有堆的输出和：
[0020][0021]
每个堆的输入序列值为：
[0022][0023]
其中，x
s-1
为第s-1个堆的输入序列值，为上一个堆的输出的过去序列值，s为堆的数量，x1为目标序列编码器的输入序列值；
[0024]
每个堆的输出序列值为组成该堆的所有块的输出和：
[0025][0026]
每个块的输入值为：
[0027][0028]
其中，x
s,l-1
为第s个堆的第l-1个块的输入序列值，为第s个堆的第l-1个块的过去序列值，l为第s个堆里块的数量，x
s,1
为第s个堆的输入序列值；
[0029]
每个块对输入序列值x
s,l
进行4层全连接层处理：
[0030]hs,l,1
＝fc
s,l,1
(x
s,l
),h
s,l,2
＝fc
s,l,2
(h
s,l,1
),h
s,l,3
＝fc
s,l,3
(h
s,l,2
),h
s,l,4
＝fc
s,l,4
(h
s,l,3
)
ꢀꢀ
(8)
[0031]
fc(x)＝relu(wx+b)
ꢀꢀ
(9)
[0032]
其中，s为第s个堆，l为第l个块，h
s,l,i
为第s个堆的第l个块的第i个中间变量，relu(
·
)为relu激活函数，fc(
·
)为全连接层函数；
[0033]
分别对h
s,l,4
进行线性层的处理，确定过去和未来的扩展系数和
[0034][0035]
对扩展系数进行基础函数的计算，得到未来和过去的序列值；趋势性基础函数为：
[0036][0037]
其中，v＝[0,1,2,
…
,h-2,h-1]
t
/h，h为预测步长，p为多项式最高次数幂；
[0038]
周期性基础函数为：
[0039][0040][0041]
可选地，所述协变量编码器由静态变量选择器、数个历史变量选择器、数个未来已知变量选择器、数个静态变量编码器和基于gru的编码器-解码器组成，将影响负荷值的历史变量和影响负荷值的未来已知变量输入到所述协变量编码器中：
[0042]
将影响负荷值的历史静态变量输入到静态变量选择器，得到静态变量编码值；
[0043]
将静态变量编码值分别输入到2个静态变量编码器，对静态变量编码值进行编码，得到2个不同的上下文向量，作为历史变量选择器与未来已知变量选择器和基于gru的编码器-解码器的可选上下文向量输入值。
[0044]
可选地，所述静态变量选择器、数个历史变量选择器、数个未来已知变量选择器均由数个grn组件构成：
[0045][0046][0047]
其中，ξ
t
为各变量组成的矩阵，cs为可选的上下文向量，为变量个数，为第j个变量，为权重。
[0048]
可选地，所述grn组件处理影响负荷值的历史变量与影响负荷值的未来已知变量和负荷值之间的非线性关系，结构如下：
[0049]
grn
ω
(x,c)＝layernorm(x,glu
ω
(η1))
ꢀꢀ
(16)
[0050]
η1＝ψ
1,ω
η2+e
1,ω
ꢀꢀ
(17)
[0051]
η2＝elu(ψ
2,ω
x+ψ
3,ω
c+e
2,ω
)
ꢀꢀ
(18)
[0052]
glu
ω
(η)＝σ(ψ
4,ω
η+e
4,ω
)
⊙
(ψ
5,ω
η+e
5,ω
)
ꢀꢀ
(19)
[0053]
其中，ψ
i,ω
为各层权重参数，e
i,ω
为各层偏置参数，
⊙
为哈达玛积，σ为sigmoid激活函数，layernorm为标准化函数。
[0054]
本发明的有益效果包括：
[0055]
1)与单变量时间序列预测方法相比，本发明在整个训练过程中考虑了协变量对目标预测值的影响，并对不同类型的变量采取了适合的特征工程提取信息的方式，使得本发明的预测准确性更高。
[0056]
2)与多变量时间序列预测方法相比，本发明充分利用了目标序列自身所包含的时间序列信息，通过分解其趋势性、周期性，得到了预测序列值，再考虑到外部因素对预测的影响，使得本发明的预测更加精准。
附图说明
[0057]
图1为本发明的一种电力负荷概率预测方法流程示意图；
[0058]
图2为本发明的目标序列编码器框架示意图；
[0059]
图3为本发明的协变量编码器框架示意图；
[0060]
图4为本发明的变量选择器框架示意图；
[0061]
图5为本发明的grn组件框架示意图。
具体实施方式
[0062]
结合以下具体实施例和附图，对本发明作进一步的详细说明。实施本发明的过程、条件、实验方法等，除以下专门提及的内容之外，均为本领域的普遍知识和公知常识，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图，并获得其他的实施方式。
[0063]
参阅图1，为本发明具体实施方式提供的一种电力负荷概率预测方法流程示意图。该方法具体包括：
[0064]
步骤101：将电力负荷值、影响负荷值的历史变量和影响负荷值的未来已知变量构成数据集，进行数据预处理，并划分成训练集和测试集；
[0065]
步骤102：将训练集中的电力负荷序列输入到目标序列编码器，分解目标序列的趋势性和周期性，得到第一隐藏变量；
[0066]
将训练集中的影响负荷值的历史变量和影响负荷值的未来已知变量输入到协变量编码器，学习协变量对于预测值的误差影响因子，得到第二隐藏变量；
[0067]
将第一隐藏变量和第二隐藏变量输入到分位数输出层，融合第一隐藏变量和第二隐藏变量，进行线性层输出，线性层函数为：
[0068][0069]
其中，w为权重参数，b为偏置参数；为预测电力负荷值，u为第一隐藏变量和第二隐藏变量之和；
[0070]
利用训练集对电力负荷预测模型进行第一训练，训练电力负荷预测模型使用的第一损失函数为：
[0071][0072][0073]
其中，ql(
·
)为分位数损失函数，ω为训练集，ω为电力负荷预测模型权重参数，是分位数集合，q是里的元素，为预测电力负荷序列值，y为实际电力负荷序列值，h为预测长度，m是ω的样本数量；t为当前时刻；
[0074]
步骤103：将测试集的电力负荷时间序列输入到训练好的电力负荷预测模型中进行电力负荷概率预测，得到电力负荷概率预测值。
[0075]
为了更清楚地介绍上述目标序列编码器，下面结合图2，对本发明实施例中所涉及到的目标序列编码器网络架构进行整体性说明。如图2所示，目标序列编码器网络架构可以包括：
[0076]
目标序列编码器由数个趋势性堆和数个周期性堆组成，趋势性堆和周期性堆又由对应的数个块组成；目标序列编码器的输入序列值为目标序列值，第一隐藏变量为所有堆的输出和：
[0077][0078]
每个堆的输入序列值为：
[0079][0080]
其中，x
s-1
为第s-1个堆的输入序列值，为上一个堆的输出的过去序列值，s为堆的数量，x1为目标序列编码器的输入序列值；
[0081]
每个堆的输出序列值为组成该堆的所有块的输出和：
[0082][0083]
每个块的输入值为：
[0084][0085]
其中，x
s,l-1
为第s个堆的第l-1个块的输入序列值，为第s个堆的第l-1个块的过去序列值，l为第s个堆里块的数量，x
s,1
为第s个堆的输入序列值；
[0086]
每个块对输入序列值x
s,l
进行4层全连接层处理：
[0087]hs,l,1
＝fc
s,l,1
(x
s,l
),h
s,l,2
＝fc
s,l,2
(h
s,l,1
),h
s,l,3
＝fc
s,l,3
(h
s,l,2
),h
s,l,4
＝fc
s,l,4
(h
s,l,3
)
ꢀꢀ
(8)
[0088]
fc(x)＝relu(wx+b)
ꢀꢀ
(9)
[0089]
其中，s为第s个堆，l为第l个块，h
s,l,i
为第s个堆的第l个块的第i个中间变量，relu(
·
)为relu激活函数，fc(
·
)为全连接层函数；
[0090]
分别对h
s,l,4
进行线性层的处理，确定过去和未来的扩展系数和
[0091]
[0092]
对扩展系数进行基础函数的计算，得到未来和过去的序列值；趋势性基础函数为：
[0093][0094]
其中，v＝[0,1,2,
…
,h-2,h-1]
t
/h，h为预测步长，p为多项式最高次数幂；
[0095]
周期性基础函数为：
[0096][0097][0098]
为了更清楚地介绍上述协变量编码器，下面结合图3，对本发明实施例中所涉及到的协变量编码器网络架构进行整体性说明。如图3所示，协变量编码器网络架构可以包括：
[0099]
假设是静态变量，例如城市、地区、位置等信息，是历史协变量，例如历史的气候、时间等数据，是历史协变量，例如历史的气候、时间等数据，为未来可知的变量，例如节假日、周末等数据。将影响负荷值的历史变量和影响负荷值的未来已知变量输入到所述协变量编码器中：将影响负荷值的历史静态变量输入到静态变量选择器，得到静态变量编码值；将静态变量编码值分别输入到2个静态变量编码器，对静态变量编码值进行编码，得到2个不同的上下文向量，作为历史变量选择器与未来已知变量选择器和基于gru的编码器-解码器的可选上下文向量输入值；将影响负荷值的历史变量与影响负荷值的未来已知变量和上下文向量分别输入到历史变量选择器和未来已知变量选择器，对各类变量进行特征的选择后，得到特征编码值；将特征编码值和上下文向量输入到编码器-解码器，解码器输出的值即为第二隐藏向量。
[0100]
为了更清楚地介绍上述变量选择器，下面结合图4，对本发明实施例中所涉及到的变量选择器网络架构进行整体性说明。如图4所示，变量选择器网络架构可以包括：
[0101]
所述变量选择器，对各类变量和可选的上下文向量进行特征的选择后，得到特征编码值，它主要由多个grn组件构成：
[0102][0103][0104]
其中，ξ
t
为各变量组成的矩阵，cs为可选的上下文向量，为变量个数，为第j个变量，为权重。
[0105]
为了更清楚地介绍上述grn组件，下面结合图5，对本发明实施例中所涉及到的grn组件网络架构进行整体性说明。如图5所示，grn组件网络架构可以包括：
[0106]
所述grn组件处理影响负荷值的历史变量与影响负荷值的未来已知变量和负荷值之间的非线性关系，结构如下：
[0107]
grn
ω
(x,c)＝layernorm(x,glu
ω
(η1))
ꢀꢀ
(16)
[0108]
η1＝ψ
1,ω
η2+e
1,ω
ꢀꢀ
(17)
[0109]
η2＝elu(ψ
2,ω
x+ψ
3,ω
c+e
2,ω
)
ꢀꢀ
(18)
[0110]
glu
ω
(η)＝σ(ψ
4,ω
η+e
4,ω
)
⊙
(ψ
5,ω
η+e
5,ω
)
ꢀꢀ
(19)
[0111]
其中，ψ
i,ω
为各层权重参数，e
i,ω
为各层偏置参数，
⊙
为哈达玛积，σ为sigmoid激活函数，layernorm为标准化函数。
[0112]
实施例
[0113]
考虑一个公开的电力负荷数据集uci电力负荷图数据集，该数据集在2014年1月1日至2014年9月1日期间采集了500k样本，包含370个客户的用电量。本发明提供的一种基于协变量误差修正的电力负荷概率预测方法包括：
[0114]
根据多维度的用户电力负荷数据，构成数据集，该数据集以小时为单位，用过去168小时的历史数据来预测未来24小时的电力负荷，将the electricity usage、day-of-week、hour-of-day、time index作为特征指标。
[0115]
对数据集进行z分数标准化处理，并划分成训练集、验证集和测试集，前90％的数据为训练集，后10％的数据为验证集，测试集的数据为验证集之后的7天的数据。z分数标准化公式为：
[0116][0117]
根据数据集和一个目标序列编码器，该编码器分解目标序列的趋势性和周期性，得到第一隐藏变量，具体地：
[0118]
是电力负荷数据集的目标序列历史数据，通过目标序列编码器，对y
past
序列中隐藏的时间序列信息进行提取，最终得到编码值。该编码器由2个趋势性与周期性的堆组成，每个堆由3个结构相同块构成。每个块对输入数据进行一次4层的全连接层处理：
[0119]hs,l,1
＝fc
s,l,1
(x
s,l
),h
s,l,2
＝fc
s,l,2
(h
s,l,1
),h
s,l,3
＝fc
s,l,3
(h
s,l,2
),h
s,l,4
＝fc
s,l,4
(h
s,l,3
)
ꢀꢀ
(8)
[0120]
fc(x)＝relu(wx+b)
ꢀꢀ
(9)
[0121]
其中，s为第s个堆，l为第l个块，h
s,l,i
为第s个堆的第l个块的第i个中间变量，relu(
·
)为relu激活函数，fc(
·
)为全连接层函数；
[0122]
分别对h
s,l,4
进行线性层的处理，确定过去和未来的扩展系数和
[0123][0124]
对扩展系数进行基础函数的计算，得到未来和过去的序列值；趋势性基础函数为：
[0125][0126]
其中，v＝[0,1,2,
…
,h-2,h-1]
t
/h，h为预测步长，p为多项式最高次数幂；
[0127]
周期性基础函数为：
[0128][0129][0130]
根据数据集和一个协变量编码器，该编码器学习协变量对于预测值的误差影响因子，得到第二隐藏变量；本发明对协变量进行进一步的细分：是静态变量，本实施例中静态变量为用户，是历史协变量，例如历史的电力负荷、时间等数据，为未来可知的变量，例如星期、天数等数据。将影响负荷值的历史变量和影响负荷值的未来已知变量输入到所述协变量编码器中：将影响负荷值的历史静态变量输入到静态变量选择器，得到静态变量编码值；将静态变量编码值分别输入到2个静态变量编码器，对静态变量编码值进行编码，得到2个不同的上下文向量，作为历史变量选择器与未来已知变量选择器和基于gru的编码器-解码器的可选上下文向量输入值；将影响负荷值的历史变量与影响负荷值的未来已知变量和上下文向量分别输入到历史变量选择器和未来已知变量选择器，对各类变量进行特征的选择后，得到特征编码值；将特征编码值和上下文向量输入到编码器-解码器，解码器输出的值即为第二隐藏向量。
[0131]
grn组件来处理外生输入和目标之间的非线性关系，grn接收主输入x和可选的外部上下文向量c：
[0132]
grn
ω
(x,c)＝layernorm(x,glu
ω
(η1))
ꢀꢀ
(16)
[0133]
η1＝ψ
1,ω
η2+e
1,
ω
ꢀꢀ
(17)
[0134]
η2＝elu(ψ
2,ω
x+ψ
3,ω
c+e
2,ω
)
ꢀꢀ
(18)
[0135]
其中，glu为门控线性单元，具体公式如下：
[0136]
glu
ω
(η)＝σ(ψ
4,ω
η+e
4,ω
)
⊙
(ψ
5,ω
η+e
5,ω
)
ꢀꢀ
(19)
[0137]
变量选择器是通过选择重要的特征，减少不必要的噪声输入，以提高建模性能，它主要由多个grn组件构成：
[0138][0139][0140]
其中，ξ
t
为各变量组成的矩阵，cs为可选的上下文向量，为变量个数，为第j个变量，为权重。
[0141]
根据目标序列编码器和协变量编码器的输出序列值之和，输入到分位数预测层，得到最终的分位数预测值。分位数预测层为一线性层：
[0142][0143]
其中，w为权重参数，b为偏置参数；为预测电力负荷值，u为第一隐藏变量和第二隐藏变量之和；
[0144]
所述模型的损失函数为：
[0145][0146][0147]
其中，ql(
·
)为分位数损失函数，ω为训练集，ω为电力负荷预测模型权重参数，是分位数集合，q是里的元素，为预测电力负荷序列值，y为实际电力负荷序列值，h为预测长度，m是ω的样本数量；t为当前时刻。
[0148]
使用模型评价指标，使用测试集对模型的预测效果进行测试。
[0149][0150]
其中，为测试集合。
[0151]
以上所述仅是对本发明的优选实施例及原理进行了详细说明，对本领域的普通技术人员而言，依据本发明提供的思想，在具体实施方式上会有改变之处，而这些改变也应视为本发明的保护范围。