基于多模态时序学习的负荷预测模型、方法和系统

本发明涉及人工智能和电力负荷预测，尤其是一种基于多模态时序学习的负荷预测模型、方法和系统。

背景技术：

1、负荷预测是电网调度中的关键一环，它指的是根据历史负荷数据、天气、市场因素等多种信息，预测未来一段时间内的电网需求侧的负荷需求。新能源储能站通过储存多余的电能并在需要时释放，可以帮助平衡电网负荷，缓解电力系统调度压力，提高供电的可靠性和稳定性。在储能端进行负荷预测是新能源储能站的重要组成部分，因而负荷预测对于新能源储能站的规划、运行、控制以及调度具有十分重大的意义。

2、在新能源储能站参与的情况下，单一历史负荷数据已经不再能够满足准确预测的需求，电力负荷数据还会受到气象因素、节假日、季节性等多种因素的复杂影响。现有技术中针对负荷预测问题提出了很多解决方案，但主要还存在以下问题：现有方法中大多数仅仅利用了某一个监测源的数据，并未考虑到多种监测源对电力系统负荷的共同影响，也没有考虑到哪个监测源对负荷的影响比较大，可能会导致所用监测源数据与用电负荷情况相关度不高等问题。同时，多种数据源的时间依赖性较强，采集频率也不同，并且不同数据之间也可能存在耦合关系，现有技术中无法深度挖掘这种时序数据之间的联系。

技术实现思路

1、为了克服上述现有技术中局限于静态的模型和有限的数据源，无法刻画现代电力系统中多模态、多源、时序复杂的数据特点的缺陷，本发明提出了一种基于多模态时序学习的负荷预测模型的训练方法，训练的负荷预测模型，可更好地将与负荷结果相关的数据利用起来，有效应对载荷数据序列的多变性和动态特性，大大提高了负荷预测的精确性。

2、本发明提出的一种基于多模态时序学习的负荷预测方法，包括以下步骤：

3、st1、获取负荷预测模型，负荷预测模型用于根据监测时间段上的电网历史数据预测监测时间段之后的目标时间段上的负荷值；负荷预测模型包括顺序连接的数据预处理模块、模态权重计算模块、模态融合模块、时间特征融合模块和负荷预测模块；时间特征融合模块的输入还连接负荷预测模块的输出，数据预处理模块的输入作为负荷预测模型的输入，负荷预测模块的输出作为负荷预测模型的输出；

4、st2、获取监测时间段上的电网历史数据并输入负荷预测模型；数据预处理模块结合电网历史数据中不同模态数据的采样周期，将监测时间段划分为q个时隙，时隙的长度为各模态数据采样周期的公倍数；数据预处理模块用于将电网历史数据预处理为多模态时序特征数据x={xmt|1≤m≤m,1≤t≤q}，xmt表示第t个时隙中模态m上的采样数据的均值，m为模态总数；

5、st3、模态权重计算模块用于对多模态时序特征数据x进行处理，并输出各模态的注意力权重α={αmt|1≤m≤m,1≤t≤q}；αmt表示第t个时隙上模态m的权重；模态融合模块用于结合注意力权重α对x中各个时隙上不同模态的数据进行融合，以生成并输出模态融合序列{zt|1≤t≤q}，zt表示第t个时隙上的模态融合特征；

6、st4、将目标时间段划分为n个预测时间步，预测时间步的时长与时隙相同；时间特征融合模块用于结合第i-1个预测时间步上的隐藏状态di-1和模态融合序列{zt|1≤t≤q}生成第i个预测时间步上的时间特征融合数据tfi；1≤i≤n；负荷预测模块用于根据时间特征融合数据tfi和隐藏状态di-1生成第i个预测时间步上的隐藏状态di，负荷预测模块基于di生成第i个预测时间步上的负荷预测值y'i；

7、时间特征融合模块的计算过程公式表示如下：

8、eit=vttanh(wzt+udi-1)

9、βit=exp(eit)/∑qt=1exp(eit)

10、tfi=∑qt=1(βitzt)

11、其中，eit表示第i个预测时间步上第t个时隙上的数据特征，v、w和u均为待学习参数，di-1表示第i-1个预测时间步上的隐藏状态，di-1的初始值为0；βit表示第i个预测时间步上第t个时隙的时间注意力权重；tanh表示激活函数，上标t表示转置；

12、st5、汇总各预测时间步上的负荷预测值y'i形成目标时间段上的负荷值预测序列{y'i|1≤i≤n}。

13、优选的，模态权重计算模块包括隐藏状态提取网络和第一注意力计算网络，隐藏状态提取网络用于提取多模态时序特征数据x的隐藏状态{ht}qt=1，ht表示x在第t个时隙上的隐藏特征；第一注意力计算网络结合x在第t-1个时隙上的隐藏特征生成各时隙上各模态的注意力特征；模态权重计算模块结合注意力特征计算注意力权重α={αmt|1≤m≤m,1≤t≤q}；

14、αmt=exp(emt)/∑mm=1exp(emt)；

15、其中，emt表示第t个时隙上m模态上的注意力特征。

16、优选的，隐藏状态提取网络采用bilstm，emt的生成过程公式表示如下：

17、{ht}qt=1=bilstm(x,θh)

18、emt=vettanh(weht-1+uexmt)

19、其中，θh为bilstm的参数，ve、we和ue为第一注意力计算网络的参数，θh、ve、we和ue均为待学习参数，tanh表示激活函数，上标t表示转置。

20、优选的，模态融合模块包括多模态融合门和与模态一一对应的门控单元，模态融合模块的计算过程可公式表示如下：

21、rt,h't=σ[∑mm=1gru(αmtxmt)]

22、zt=(1-rt)⊙h't-1+rt⊙h't

23、其中，gru表示门控单元；σ表示激活函数；rt表示第t个时隙上门控单元中更新门的输出，h't表示第t个时隙上门控单元的隐藏状态；h't-1表示第t-1个时隙上门控单元的隐藏状态，h't-1的初始值为0；⊙表示矩阵元素点积。

24、优选的，负荷预测模块包括lstm网络和多层感知器，lstm网络基于时间特征融合数据tfi、隐藏状态di-1和第i-1个预测时间步上的负荷预测值y'i-1生成第i个预测时间步上的隐藏状态di，多层感知器基于隐藏状态di生成第i个预测时间步上的负荷预测值y'i；y'i-1的初始值为监测时间段上最后一个时间点上的负荷值。

25、本发明还提出了一种负荷预测模型的训练方法，包括以下步骤：

26、s1、构建负荷预测模型，并在模态融合模块的输出端设置模态重构模块以形成基础模型；模态重构模块用于根据模态融合模块输出的模态融合序列{zt|1≤t≤q}生成多模态时序特征数据x的重构数据x'={x'mt|1≤t≤q,1≤m≤m}，x'mt表示第t个时隙上模态m的重构数据；

27、结合采集的电网历史数据构建学习样本{x,y}，x={xmt|1≤m≤m,1≤t≤q}，y={yi|1≤i≤n}，y为负荷值预测序列，yi表示多模态时序特征数据x对应时间段之后的第i个预测时间步上的负荷值，n为预测时间步的数量；并将学习样本划分为训练集和验证集；

28、s2、从训练集中随机选择多个训练样本，令基础模型对训练样本进行学习，以更新模态权重计算模块、模态融合模块、模态重构模块、时间特征融合模块和负荷预测模块的参数；

29、s3、从验证集中选择多个验证样本代入基础模型，以计算模型损失l，模型损失l包含预测损失和重构损失；

30、s4、判断模型损失l是否收敛；否，则返回步骤s2；是，则从基础模型中提取负荷预测模型并固定。

31、优选的，损失函数为：

32、l=∑x,ylx,y

33、lx,y=[∑ni=1(yi-y'i)]/n+∑mm=1[||x'm-xm||2/dm]

34、其中，l表示损失函数，lx,y表示验证样本{x,y}对应的损失函数，n表示待预测的目标时间段划分的预测时间步数量，预测时间步的时长等于时隙的时长；yi为目标时间段上第i个预测时间步的负荷值，y'i为目标时间段上第i个预测时间步的负荷预测值，x'm为模态重构模块输出的模态m上的重构数据；x'm={x'mt|1≤t≤q}，xm={xmt|1≤t≤q}，xm为x中模态m上的数据。

35、本发明还提出了一种多模态时序学习的负荷预测系统，承载有计算机程序，所述计算机程序被执行时用于实现所述的负荷预测模型的训练方法。

36、本发明还提出了另一种多模态时序学习的负荷预测系统，包括存储器和处理器，存储器中存储有第一段计算机程序和第二段计算机程序，处理器连接存储器；处理器用于执行所述第一段计算机程序，以实现所述的负荷预测模型的训练方法，获取负荷预测模型；处理器还用于执行第二段计算机程序，以实现所述的基于多模态时序学习的负荷预测方法。

37、本发明还提出了另一种多模态时序学习的负荷预测系统，包括存储器和处理器，存储器中存储有计算机程序和负荷预测模型，处理器连接存储器，处理器用于执行所述计算机程序，以实现所述的基于多模态时序学习的负荷预测方法。

38、本发明的优点在于：

39、（1）本发明提出的基于多模态时序学习的负荷预测模型，引入多模态时序学习的方法，从多源时序数据中提取关键特征，建立计及储能的负荷预测模型，更好地利用储能站所采集的各种数据，提高预测的精准度。

40、（2）本发明针对储能站不同传感器采集不同模态信息时的采集频率不同，提出了基于时隙划分的模态对齐的预处理方式，通过整合一个时隙内的数据，在保证数据分布情况不变的情况下实现了多种数据可以在相同时隙上对齐，使得后续对多模态数据进行处理更加方便精准。

41、（3）本发明充分利用和负荷数据有关的多个传感器的信息，全面提取这些模态信息的特征并根据不同数据对负荷的影响程度，计算了模态权重的信息，在提取各种模态特征之后根据其影响因子进行模态特征融合，提高了融合特征表示的全面性和多种模态数据之间的互补性。

42、（4）针对传感器数据在采集过程中的时间连续性，本发明设计了基于注意力的时间特征融合模块，通过提取模态融合后的数据的时序特征以及利用预测时间步的隐藏状态，使得提取到的数据的时序相关性更加精准，提高了时序特征融合的稳定性；

43、（5）本发明在训练过程中采用预测损失和模态重构损失结合，提高了模型的泛化能力，增强模型预测的准确率。