一种基于多源信息时间融合的电力负荷预测方法与流程

本发明属于电力负荷预测，具体涉及基于多源时间融合transformer(temporal fusion transformer，tft)模型的电力负荷预测方法。

背景技术：

1、2015年，中发9号文下发，我国多个省份重新开始建立电力现货市场。截至目前，多个省份的电力现货市场已经正式开始试运行。电力市场特别是现货市场开始运行后，发、输、配、售、用等各个环节将产生海量数据/大数据。大数据技术的发展已对我们的工作与生活产生了深远的影响。电力商品与普通商品不同，电力储存成本很高，因此电力系统的安全稳定运行需要生产和消费之间的持续平衡。同时，电力需求取决于天气(温度、风速、降水等)以及商业和日常活动的强度(高峰期与非高峰期，工作日、周末和法定节假日等)。这些独特的特征使得电力负荷预测与传统负荷预测有着明显区别。

2、负荷预测是电力市场运行的核心环节之一，在电力市场中由于电力现货的交易频率高，各市场主体需要比较准确的电力负荷的走势，从而辅助其制定交易策略以进行风险规避，最大化自身利益。传统的负荷预测模型虽然有仍然具有一定的实用性，但使用传统模型进行负荷预测具有工作量大、参数多、数据规模小、实时性不高等劣势，越来越难以适应当前的电力负荷预测的数据多源，数据规模庞大、实时性高的情形，促使设计更加合理、优化的模型来提高预测电力负荷的准确性。

3、如授权公告号为cn115099448 a所公开的一种基于vmd-prophet的短期负荷预测方法，vmd-prophet预测模型，将输入的原始负荷序列分解为规律性更好的子序列，而且相对于经验模态分解和小波分解，vmd能够更好的还原原始信号，具有更好的噪声鲁棒性。时间序列预测框架prophet，与传统的时间序列预测方法相比，其具有较好的灵活性，轻松适应多个季节的季节性，并通过分析对趋势做出不同的假设。测量值不必呈等间距分布，也不需要插值缺失值，拟合速度较快，但是该方法较为复杂，不适合工程人员简化操作，并且存在考虑负荷影响因素较少的问题，为此，本发明提出了一种以大数据为基础的考虑供给、需求、天气、温度等各类负荷影响因素，基于多源时间融合transformer(temporal fusiontransformer，tft)模型的电力负荷预测方法。并设计了一套基于tft模型的电力负荷预测流程，以做到简化输入和输出的电力负荷预测。为简化数据的处理部分，预测流程尽量减少了对于数据手动的观察、筛选、评估工作以及调整各种参数，而是由模型本身自动计算并生成。整体流程可以做到输入原始数据、输出预测结果，极大的方便了电力负荷预测的应用。并分析了多特征与单特征对于负荷预测的影响，得到不同特征对预测结果的重要性。为了充分利用与分析电力负荷的不同特征，应用tft模型对不同特征下的电力负荷进行预测，并获得不同类型的额外数据(温度、风力等级等28种其他相关数据)对于电力负荷的影响程度。本发明提出的负荷预测方法可以提高电力负荷预测的准确度，同时也可以辅助政府相关机构把握电力市场的整体走势，为保障电力市场稳定健康运行提供支撑。

技术实现思路

1、本发明的目的在于提供一种基于多源信息时间融合的电力负荷预测方法，以解决上述背景技术中提出的问题。

2、为实现上述目的，本发明提供如下技术方案：一种基于多源信息时间融合的电力负荷预测方法，包括有以下步骤：

3、本发明提出的基于多源时间融合transformer(temporal fusion transformer，tft)模型的电力负荷预测方法流程如图2所示，具体包括以下六个步骤。

4、s1、数据选择

5、从系统运营商、电力调度机构或者监管机构等获取于电力负荷相关的影响因素的数据，作为实验数据测试不同的模型的预测效果。包括电力消费、发电和天气数据等各种类型的详细数据。

6、s2、数据预处理

7、(1)选择数据特征

8、为了获取有意义的数据特征，将上述所有涉及的特征进行可视化，并观察期数据分布。所有数据特征中可分为连续变量特征和离散变量特征，根据实际情况选取相应的数据特征作为输入模型的主要特征。

9、(2)数据归一化与正则化

10、并对选择的电力负荷预测所涉及的数据进行预处理，预处理方法为归一化。

11、归一化变换公式为

12、

13、式中：xi′与xi分别为归一化前后的第i个值，xmax与xmin分别为序列的最大值与最小值。这样的归一化方式能够把所有值规范到0～1的范围内。

14、s3、模型构建

15、多源信息时间融合transformer模型的计算流程如图3所示。对于一个给定的时间段t，一个回溯窗口k和一个超前窗口τmax，其中t∈[t-k，…，t+τmax]，则该模型的输入是：在[t-k，…，t]时间段内观察到的过去输入x，在[t+1，…，t+τmax]时间段内的未来已知输入x和一组可选的输入静态变量s。目标变量y也跨越时间窗口[t+1，…，t+τmax]。

16、s301门控残差网络(grn)

17、图4显示了tft中门控残差网络(grn)，它在整个tft中被多次用作基本模块。grn有两个密集层和两种激活函数，称为指数线性单元(elu)和门控线性单元(glu)。glu用于门控卷积网络架构，用于选择预测下一个单词的最重要特征。两个激活函数帮助网络了解哪些输入是简单的，哪些需要更复杂的建模。最后的输出通过标准层归一化。grn还包含一个残差连接，这能够帮助信息迅速流通而不会因为网络层数增加无法训练。

18、

19、其中a为输入向量，c为可选输入的相邻，glu、elu为激活函数，η1、η2为中间变量，wi、bi为第i个线性层的系数与偏置，layernorm为层正则化。

20、s302变量选择网络(vsn)

21、图5显示了tft中变量选择网络(vsn)。正如它的名字所表示的，它的功能是特征选择机制。由于有3种输入，tft使用了3个变量选择网络实例。因此，每个实例有不同的权重。vsn利用grn的过滤能力。它是这样工作的：在时间t，所有过去的输入的向量ξt被送入一个grn单元和softmax函数，产生一个标准化的权重向量ui。同时，每个特征ξt都通过自己的grn，从而产生特征向量最后将ξt与ut共同放进线性层，得到输出值得注意的是，每个特征都有自己的grn，但每个特征的grn在同一回溯期的所有时间步骤中是相同的。整个过程可以被表示为

22、

23、s303 lstm编码器解码器层

24、lstm编码器解码器模块的第一个目标是产生上下文感知的嵌入，这被称为这类似于经典的transformer中使用的位置编码，在其中添加正弦和余弦信号来区分不同位置。该模型应该考虑到所有类型的输入，已知的输入被送入编码器，而未知的未来输入被送入解码器。关于静态信息，并不可以将lstm编码器解码器产生的上下文感知的嵌入与静态变量的语境向量合并，因为这将混合时间序列和静态信息。正确的方法是根据外生数据调节输入。具体来说，将lstm的初始隐藏状态单元h0以及单元状态c0设置为ch和cc向量进行初始化，ch与cc由tft的静态协方差编码器产生。因此，最终的上下文感知嵌入将适当地受制于外生信息，而不改变时间动态。

25、s304可解释的多头注意力机制

26、tft采用了自注意机制来学习不同时间步骤之间的长期关系，将基于transformer的架构中的多头注意机制进行了修改，以增强可解释性。一般来说，注意力机制根据键和查询之间的关系，对值进行扩展，如下所示：

27、attention(q，k，v)＝a(q，k)v    (3)

28、其中a( )是正则化函数，通常来讲会选择规范化的点乘注意力机制，如下所示：

29、

30、为了提高注意力机制的学习能力，采用多头注意力对不同的表示子空间采用不同的头：

31、multihead(q，k，v)＝[h1，…，hmh]wh    (5)

32、hh＝attention(qwq(h)，kwk(h)，vwv(h))    (6)

33、其中是查询、键和值特定的注意力头权重；将hh线性组合后进行输出。

34、鉴于每个注意力头都使用不同的值，单一注意权重并不能说明某个特定特征的重要性。因此，tft中修改了多头注意力，在每个头中共享数值，并采用所有头的加法汇总。

35、

36、其中是所有注意力头的共享权重，用于最后的线性映射。可以看到，每个注意力头可以挖掘不同的时间层面的模式，同时关注一组共同的输入特征。这可以解释为对注意力权重的简单整合，即与a(q，k)相比，以一种有效的方式更准确的表示了该关系。

37、305分位数损失函数

38、机器学习模型通过最小化(或最大化)目标函数来工作，目标函数将我们要解决的问题转化为模型要最小化的数学公式。正如名字所示，分位数损失函数被应用于预测不同分位数条件下的损失值。它可以表示为

39、

40、式中：y和分别代表真实值和预测值，q代表分位数。

41、在式(8)中，由于q的值在0和1之间，在预测值过大时，第一项将是正的并占主导地位；在预测值过小时，第二项将是正的并占主导地位；对于q等于0.5的情况，过度预测和预测不足的惩罚系数相同，因此可以得到中位数。

42、s401超参数选择

43、对步骤3的bp、lstm、gru、transformer、autoformer、tft模型的参数进行设定，使上述6个模型在同一数据集，并选择最优参数使得上述模型在最优超参数。

44、s402模型训练与预测

45、为检验和分析tft模型增加除负荷数据外其他特征后的模型负荷预测性能情况，选用数据规模和数据特征比较丰富的负荷数据，为了验证不同模型对于较长时间的电力负荷的预测性能情况，例如选择1年的电力现货相关数据集，将前11个月的数据作为训练集，让模型学习规律参数；最后一个月的数据作为测试集，对模型进行评估。同时，为了验证数据融合的方法与原有方法的区别，首先仅用电力负荷、电力负荷量输入模型；然后筛选原始特征，将选择的特征输入到模型中进行训练与预测。

46、与现有技术相比，本发明的有益效果是：

47、本发明在使用的时候通过选取电力系统负荷相关数据数据处理；对电力系统负荷相关数据数据特征提取；构建构建多源时间融合transformer(temporal fusiontransformer，tft)模型；通过tft模型的预测流程减少了对于数据手动的观察、筛选、评估工作以及调整各种参数，而是由模型本身自动计算并生成；充分利用与分析电力负荷的不同特征，应用tft模型对不同特征下的电力负荷进行预测，并获得不同类型的额外数据(温度、风力等级等28种其他相关数据)对于电力负荷的影响程度。可以提高电力负荷预测的准确度，同时也可以辅助政府相关机构把握电力市场的整体走势，为保障电力市场稳定健康运行提供支撑。