一种电力负载预测模型及其构建方法、装置及应用与流程

本技术涉及人工智能领域，特别是涉及一种电力负载预测模型及其构建方法、装置及应用。

背景技术：

1、电力负载预测是电力系统管理和运营中的重要任务之一，它涉及预测未来一段时间内电力系统中的负荷需求，以便宜有效地规划和管理电力供应，这对于电力公司、能源市场、电网规划以及可再生能源集成等领域都具有重要意义。

2、目前现有技术总体使用两类预测方法进行电力负载预测，一类是通过时序信息进行时间序列的预测，另一种是通过机器学习的回归预测方法，时间序列分析是一种基于历史负载数据的方法，用于识别和建模负载的周期性和趋势性变化。常见的时间序列模型包括自回归移动平均模型(arma)、自回归积分移动平均模型(arima)以及季节性自回归积分移动平均模型(sarima)等。这些模型主要采用的是线性的预测方法，通过提取出时间序列数据中的长期趋势和季节趋势后进行随机游程模拟，且该系列方法仅可完成单变量的时间序列预测任务，无法进行多变量的时间序列预测，这也使更多的特征信息被遗漏。循环神经网络(rnn)和长短时记忆网络(lstm)等深度学习也适用于时间序列数据，但由于这类神经网络的记忆细胞结构过于简单而无法记忆长期信息。基于transformer的时间序列预测方法被广泛应用，其中包含informer，autoformer等，这些模型通过自注意力机制和编码器和解码器的架构取得了不错的效果。但是普通的transformer解码器以自回归的方式输出序列，导致推理速度过慢和误差累计，并不适用于长期预测。

3、而回归分析则是通过建立与其他变量(如天气、假日等)之间的关系来预测负载。多元线性回归、岭回归、lasso回归等是常用的回归方法。机器学习技术可以从历史数据中学习负载与其他变量之间的复杂关系，以预测未来负载。常用的机器学习算法包括决策树、随机森林、支持向量机等。尽管回归分析在许多情况下都可以用于时间序列预测，但在某些情况下，它可能存在一些弊端，特别是在处理具有强烈季节性、趋势性和周期性变化的时间序列数据时，回归分析通常假设自变量之间是独立的，然而时间序列数据中的观测值之间往往存在时间相关性，回归分析未能捕捉时间依赖性可能导致模型对于趋势、季节性和周期性等变化的预测能力不足。

技术实现思路

1、本技术实施例提供了一种电力负载预测模型及其构建方法、装置及应用，本方案通过对历史观测数据进行自身的交叉特征计算，从而准确的得到电力负载的预测结果。

2、第一方面，本技术实施例提供了一种电力负载预测模型的构建方法，所述方法包括：

3、构建电力负载预测模型，获取表示电力负载情况的历史观测数据，将所述历史观测数据输入到所述电力负载预测模型中；

4、所述电力负载预测模型包括特征学习层、交叉特征投影层以及时间投影层组成，将所述历史观测数据输入到特征学习层得到特征学习结果；

5、将所述特征学习结果输入到所述交叉特征投影层，所述交叉特征投影层由线性投影层、协相关映射层以及混合层顺序串联，将所述特征学习结果输入到所述线性投影层，所述线性投影层对所述特征学习结果进行映射得到映射特征集合，根据所述映射特征集合构建对比集合和查询集合，将所述对比集合和查询集合送入协相关映射层中进行交叉注意力的学习得到对比协相关特征和查询协相关特征，将所述对比协相关特征和查询协相关特征在混合层进行交叉混合得到对比交叉注意力特征和查询交叉注意力特征，计算所述对比集合的对比特征均值，计算查询集合的查询特征均值，使用所述对比交叉注意力特征与所述对比特征均值进行残差连接得到残差对比结果，会用所述查询交叉注意力特征与所述查询特征均值进行残差连接得到残差查询结果，所述残差对比结果与所述残差查询结果为交叉特征投影层的输出结果；

6、将残差对比结果与残差查询结果进行合并拼接后送入时间投影层进行输出得到电力负载预测结果，基于所述电力负载预测结果构建损失函数对所述电力负载预测模型的参数进行调整得到训练好的电力负载预测模型。

7、第二方面，本技术实施例提供了一种电力负载预测方法，所述方法包括：

8、获取表示电力负载情况的历史观测数据并将其输入到第一方面训练好的电力负载预测模型中得到电力负载预测结果。

9、第三方面，本技术实施例提供了一种电力负载预测模型的构建装置，包括：

10、构建模块：构建电力负载预测模型，获取表示电力负载情况的历史观测数据，将所述历史观测数据输入到所述电力负载预测模型中；

11、特征学习模块：所述电力负载预测模型包括特征学习层、交叉特征投影层以及时间投影层组成，将所述历史观测数据输入到特征学习层得到特征学习结果；

12、交叉特征投影模块：将所述特征学习结果输入到所述交叉特征投影层，所述交叉特征投影层由线性投影层、协相关映射层以及混合层顺序串联，将所述特征学习结果输入到所述线性投影层，所述线性投影层对所述特征学习结果进行映射得到映射特征集合，根据所述映射特征集合构建对比集合和查询集合，将所述对比集合和查询集合送入协相关映射层中进行交叉注意力的学习得到对比协相关特征和查询协相关特征，将所述对比协相关特征和查询协相关特征在混合层进行交叉混合得到对比交叉注意力特征和查询交叉注意力特征，计算所述对比集合的对比特征均值，计算查询集合的查询特征均值，使用所述对比交叉注意力特征与所述对比特征均值进行残差连接得到残差对比结果，会用所述查询交叉注意力特征与所述查询特征均值进行残差连接得到残差查询结果，所述残差对比结果与所述残差查询结果为交叉特征投影层的输出结果；

13、时间投影模块：将残差对比结果与残差查询结果进行合并拼接后送入时间投影层进行输出得到电力负载预测结果，基于所述电力负载预测结果构建损失函数对所述电力负载预测模型的参数进行调整得到训练好的电力负载预测模型。

14、第四方面，本技术实施例提供了一种电子装置，包括存储器和处理器，所述存储器中存储有计算机程序，所述处理器被设置为运行所述计算机程序以执行一种电力负载预测模型的构建方法或一种电力负载预测方法。

15、第五方面，本技术实施例提供了一种可读存储介质，所述可读存储介质中存储有计算机程序，所述计算机程序包括用于控制过程以执行过程的程序代码，所述过程包括一种电力负载预测模型的构建方法或一种电力负载预测方法。

16、本发明的主要贡献和创新点如下：

17、本技术实施例通过全连接层作为电力负载模型的预测层来捕获更多的时间依赖性，本方案通过在进行特征学习时使用时间混频器和特征混频器进行特征学习来更好的提取不同维度的信息；本方案在通过构造对比集合和查询集合并通过交叉特征投影层进行混频交叉注意力机制的计算，通过对对比集合和查询集合中错位的时间节点中进行学习从而学习到更多有用的特征；本方案中的电力负载模型为一个端到端的模型，所以复用性高，通过简单的训练即可投入使用且需要的算力开销小。

18、本技术的一个或多个实施例的细节在以下附图和描述中提出，以使本技术的其他特征、目的和优点更加简明易懂。