考虑误差自相关与局部性增强的热负荷预测方法

1.本发明属于机器学习处理技术领域，具体涉及一种考虑误差自相关与局部性增强的热负荷预测方法。


背景技术：

2.集中供热是一种通过预先安装的管道将集中设施产生的热量分配到偏远建筑的方法，可为城市提供稳定、可靠的优质热源。集中供热可提升能源利用效率，降低城市污染，是城市能源建设的重要内容。有效的热负荷预测对优化集中供热具有重要意义，准确的热负荷预测信息是热负荷系统科学调控的依据，可提升系统运行的经济性与可行性。
3.现有技术中，深度学习是当前热门的热负荷预测解决方案，深度学习使用神经网络的端到端可微分模型能够发现热负荷数据中潜在的时序模式，实现热负荷历史变化规律的有效总结。其中，基于transformer神经网络的热负荷预测方法通过细粒度考量热负荷及其环境因素变化特点，有效提升热负荷预测准确度；然而，transformer神经网络以围绕逐点相似度计算操作的自注意力机制为核心，对热负荷环境因素变化的局部规律性不敏感，例如室外温度的日变化以及工作日和周末用户热使用的差异，限制热负荷预测性能进一步提升；此外，基于深度学习的热负荷预测方法通常假设相邻观测点的预测误差不相关，这在多数热负荷预测场景中并不成立，使得热负荷预测存在性能瓶颈。
4.因此，亟需改善现有技术中的缺陷，以提高对热负荷高效的预测。


技术实现要素：

5.为了解决现有技术中存在的上述问题，本发明提供了一种考虑误差自相关与局部性增强的热负荷预测方法。本发明要解决的技术问题通过以下技术方案实现：
6.第一方面，本技术提供一种考虑误差自相关与局部性增强的热负荷预测方法，包括：
7.获取历史热负荷数据和环境数据；其中，环境数据包括室内温度、室外温度和室外风速；历史热负荷数据和环境数据根据观测点时间正序排布；
8.预处理历史热负荷数据和环境数据，得到数据样本；其中，预处理包括数据标准化操作和滑窗操作；
9.构建考虑误差自相关与局部性增强的热负荷预测模型；预测模型包括误差自相关性建模模块、局部性增强模块和特征提取模块；
10.将数据样本划分为训练集样本和测试集样本，基于训练集样本优化预测模型，得到优化好的预测模型；基于测试样本即评估优化好的预测模型，并不断再调整预测模型的训练超参数；
11.基于优化好的预测模型，对未来热负荷进行预测。
12.本发明的有益效果：
13.本发明提供的一种考虑误差自相关与局部性增强的热负荷预测方法，通过获取历
史热负荷数据、室内温度、室外温度和室外风速；并对该数据进行标准化操作和滑窗操作得到适用于后续预测模型训练的数据样本，将预处理后的数据样本划分为训练样本集和测试样本集，使用训练集优化考虑误差自相关与局部性增强的热负荷预测模型，该预测模型包括误差自相关性建模模块、局部性增强模块和特征提取模块，基于考虑误差自相关与局部性增强的热负荷预测模型，以多个连续观测点的热负荷数据与环境数据组成的观测片段为输入，对下一个观测点的热负荷进行预测。本实施例基于考虑自相关误差的局部性增强的热负荷预测方法，通过减轻预测误差自相关性对模型性能的影响，并增强模型对局部变化的敏感性，实现了对热负荷较为高效的预测。
14.以下将结合附图及实施例对本发明做进一步详细说明。
附图说明
15.图1是本发明实施例提供的考虑误差自相关与局部性增强的热负荷预测方法的一种流程图。
具体实施方式
16.下面结合具体实施例对本发明做进一步详细的描述，但本发明的实施方式不限于此。
17.请参见图1，图1是本发明实施例提供的考虑误差自相关与局部性增强的热负荷预测方法的一种流程图，本技术所提供的一种考虑误差自相关与局部性增强的热负荷预测方法，包括：
18.s101、获取历史热负荷数据和环境数据；其中，环境数据包括室内温度、室外温度和室外风速；历史热负荷数据和环境数据根据观测点时间正序排布；
19.s102、预处理历史热负荷数据和环境数据，得到数据样本；其中，预处理包括数据标准化操作和滑窗操作；数据标准化操作用于消除数据量纲对特征重要性的影响，滑窗操作用于获得适用于后续预测模型训练的数据样本；
20.s103、构建考虑误差自相关与局部性增强的热负荷预测模型；预测模型包括误差自相关性建模模块、局部性增强模块和特征提取模块；该预测模型的输入是由多个连续观测点的热负荷与环境数据组成的观测片段，预测模型的输出是对下一观测点的数据的预测；
21.s104、将数据样本划分为训练集样本和测试集样本，基于训练集样本优化预测模型，得到优化好的预测模型，优化过程依据设定的训练超参数更新预测模型参数以降低预测模型热负荷预测误差；基于测试样本即评估优化好的预测模型，并不断再调整预测模型的训练超参数；
22.s105、基于优化好的预测模型，对未来热负荷进行预测。
23.具体而言，请继续参见图1所示，本实施例中提供的一种考虑误差自相关与局部性增强的热负荷预测方法，获取历史热负荷数据、室内温度、室外温度和室外风速；并对该数据进行标准化操作和滑窗操作得到适用于后续预测模型训练的数据样本，将预处理后的数据样本划分为训练样本集和测试样本集，使用训练集优化考虑误差自相关与局部性增强的热负荷预测模型，该预测模型包括误差自相关性建模模块、局部性增强模块和特征提取模
块，基于考虑误差自相关与局部性增强的热负荷预测模型，以多个连续观测点的热负荷数据与环境数据组成的观测片段为输入，对下一个观测点的热负荷进行预测。本实施例基于考虑自相关误差的局部性增强的热负荷预测方法，通过减轻预测误差自相关性对模型性能的影响，并增强模型对局部变化的敏感性，实现了对热负荷较为高效的预测。
24.在本技术的一种可选地实施例中，数据标准化操作的过程包括：
25.采用数据标准化公式获取数据集的标准化值；其中，数据集为包括历史热负荷和环境数据的n维连续向量t为观测点，rn为n维空间向量，的每个维度分别表示观测到的热负荷、室内温度、室外温度和室外风速状态；数据标准化公式为：
[0026][0027]
其中，μ为观测点t的数据的期望值，σ为观测点t的数据的方差。
[0028]
在本技术的一种可选地实施例中，滑窗操作的过程包括：
[0029]
使用固定大小的窗口划分经数据标准化操作后的数据使用固定大小的窗口划分经数据标准化操作后的数据t0为总的观测点，x
t0
为数据；
[0030]
将本次观测点落入窗口内的数据的片段x
i-w+1：i
作为数据样本的特征；其中， w为窗口的长度，i为本次观测点；
[0031]
将下次观测点的数据x
i+1
作为数据样本的标签；
[0032]
窗口以固定步长在数据上滑动，直至数据被完全划分。
[0033]
在本技术的一种可选地实施例中，预测模型用于拟合函数，表达式为：
[0034]
x
i-ρx
i-1
＝f(x
i-w-1-ρx
i-w
,
…
,x
i-1-ρx
i-2
；θ,ρ)；
[0035]
其中，f为预测模型，θ为预测模型的权重参数，ρ为相邻观测点的预测误差的相关性系数，i为本次观测点，w为窗口的长度。
[0036]
在本技术的一种可选地实施例中，还包括：
[0037]
误差自相关性建模模块将相邻观测点的预测误差的相关性建模为一阶线性函数，即ei＝ρe
i-1
+εi，其中，ei为本次观测点i的预测误差，满足 ei＝x
i-f(x
i-w：i-1
；θ,ρ)，ρ为相邻观测点的预测误差的相关性系数，εi为相邻观测点的预测误差之间的无关部分；预测误差相关性系数ρ在训练过程中与预测模型权重参数联合优化以拟合相邻观测点的预测误差的线性相关性，从而缓解预测误差对预测模型预测准确度的影响。
[0038]
在本技术的一种可选地实施例中，还包括：
[0039]
基于数据集中的数据的片段，局部性增强模块沿时间正序方向对数据的片段进行逐点的1维卷积操作；局部性增强模块使用因果卷积操作增强输入数据携带的局部信息。
[0040]
需要说明的是，上述卷积操作用于将历史观测点的数据信息引入当前所访问观测点的数据，同时回避对未来观测点的数据信息的使用，遵循热负荷数据延时间变化的因果过程。局部性增强模块的输出数据与输入数据保持相同的形状，区别在于输出数据对应的每个观测点携带历史观测点的数据信息，后续 transformer神经网络逐点的相似度计算操作将充分利用这些信息提升热负荷预测的准确度。
[0041]
在本技术的一种可选地实施例中，特征提取模块基于transformer神经网络发现历史观测数据与未来观测数据之间的变化关系，并使用全连接网络将 transformer网络学
习到的潜在特征表示转换为对未来观测数据的预测。 transformer神经网络以基于多头自注意力机制的逐点相似度计算操作为核心，将经过局部信息增强的观测数据片段作为输入，输出反映观测数据内在变化规律的潜在特征表示，而全连接网络将transformer神经网络输出的潜在特征表示作为输入，输出下一观测点的数据预测。
[0042]
具体而言，基于构建的考虑自相关误差与局部性增强的热负荷预测模型，对于输入的观测数据片段x
t-w:t-1
＝[x
t-w
,x
t-w+1
,
…
,x
t-1
]，将其修改形式为 [x
t-w-ρx
t-w-1
,
…
,x
t-1-ρx
t-2
]，其中,x
t-w-1
使用观测数据的期望值代替；形式修改后的观测数据片段首先被输入局部性增强模块，以在每个观测点引入历史数据信息；局部信息增强的观测数据片段则被输入特征提取模块，先后通过 transformer神经网络与全连接神经网络转换为对数据x
t-ρx
t-1
的预测。
[0043]
在本技术的一种可选地实施例中，基于训练集样本优化预测模型，得到优化好的预测模型的过程包括：
[0044]
随机初始化预测模型的权重参数θ，并将相邻观测点的预测误差的相关性系数ρ置零；
[0045]
分别设置针对预测模型的权重参数θ和相邻观测点的预测误差的相关性系数ρ的参数优化器；
[0046]
以(batch)为单位将训练样本集输入预测模型，以轮(epoch)为单位更新预测模型的权重参数θ和相邻观测点的预测误差的相关性系数ρ；需要说明的是，更新后的ρ值依据公式ρ＝tanh(ρ)被严格限制在[-1，1]之间。
[0047]
需要说明的是，将数据样本依据8:2划分数据样本为训练样本集和测试样本集。
[0048]
在本技术的一种可选地实施例中，通过以下过程进行详细说明。
[0049]
s101、观测并采集历史热负荷数据与环境数据，环境数据包括室内温度、室外温度与室外风速数据，数据依据观测时间正序排序，具体为：
[0050]
每小时观测并采集一次热负荷数据、室内温度、室外温度与室外风速数据，持续时间为十个月，形成正序排序的观测时间序列数据。
[0051]
s102、预处理历史热负荷数据和环境数据，预处理过程包括使用数据标准化操作消除数据量纲对特征重要性的影响，通过滑窗操作制作适用于后续预测模型训练的数据样本，具体为：
[0052]
依据数据标准化公式计算每个观测点处所采集到数据的标准化值，数据标准化公式为：
[0053][0054]
其中，x
t
表示标准化后观测点t的数据值，μ为观测点t的数据的期望值，σ为观测点t的数据的方差；
[0055]
基于滑动窗口算法制作适用于预测模型训练的数据样本，使用固定大小的窗口划分观测数据将落入窗口内的观测数据片段x
i-w+1：i
作为数据样本的特征，即模型输入部分，将下一观测点处的观测数据x
i+1
作为数据样本的标签，其中，w表示窗口的长度，窗口以固定步长在观测数据上滑动，直至观测数据被完全划分。
[0056]
s103、构建考虑误差自相关与局部性增强的热负荷预测模型，模型核心组成部分包括误差自相关性建模模块、局部性增强模块和特征提取模块，预测模型的输入是由多个连续观测点的热负荷与环境数据组成的观测片段，预测模型的输出是对下一观测点数据的预测，具体为：
[0057]
对于输入的观测数据片段x
t-w:t-1
＝[x
t-w
,x
t-w+1
,
…
,x
t-1
]，将构建的考虑自相关误差与局部性增强的热负荷预测模型首先将其修改形式为 [x
t-w-ρx
t-w-1
,
…
,x
t-1-ρx
t-2
]，其中，x
t-w-1
使用观测数据的期望值代替；形式修改后的观测数据片段被输入局部性增强模块，局部性增强模块沿时间正序方向对输入数据进行逐点的1维卷积操作，该卷积操作将历史观测点的数据信息引入当前所访问观测点处数据，同时回避对未来观测点的数据信息的使用，遵循热负荷数据沿时间变化的因果过程。局部性增强模块的输出数据与输入数据保持相同的形状，区别在于输出数据对应的每个观测点携带历史观测点处的数据信息，后续transformer神经网络逐点的相似度计算操作将充分利用这些信息提升热负荷预测的准确度。
[0058]
局部信息增强的观测数据片段被输入特征提取模块，特征提取模块首先使用transformer神经网络发现历史观测数据与未来观测数据之间的变化关系。 transformer神经网络基于多头自注意力机制使用细粒度的逐点相似度计算操作将输入的观测数据转换为其内在变化规律的潜在特征表示，具体计算过程如示：
[0059]
qi,ki,vi＝xw
iq
,xw
ik
,xw
iv i＝1,
…
,h；
[0060][0061]
multihead(x)＝concat(h1,
…
,hn)wo；
[0062]
其中，x∈rw×n表示输入的局部信息增强的观测数据片段，w表示序列的长度，n表示观测数据的维度；多头自注意力机制通过线性映射观测数据的维度；多头自注意力机制通过线性映射与将输入转换为h个由矩阵qi,ki,vi组成的组，i与h分别表示组的索引与数量。每个组分别基于注意力机制attention(qi,ki,vi)计算潜在表示 hi，其中，最后拼接所有的潜在表示hi并通过线性映射得到输出。在此基础上，对于transformer神经网络输出的反映观测数据内在变化规律的潜在特征表示，特征提取模块使用全连接层与relu激活函数将transformer 的输出转换为对下一观测点处数据对数据x
t-ρx
t-1
的预测。
[0063]
此外，误差自相关性建模模块基于相邻观测点处预测误差的一阶线性相关性假设e
t
＝ρe
t-1
+ε
t
，其中，e
t
表示观测点t的预测误差，满足e
t
＝x
t-f(x
t-w:t-1
；θ,ρ)，ρ表示相邻观测点处预测误差的相关性系数，ε
t
表示相邻观测点处预测误差之间的无关部分。预测误差相关性系数ρ在训练过程中与模型权重参数联合优化以拟合相邻观测点处预测误差的线性相关关系，从而缓解预测误差对模型预测准确度的影响。
[0064]
s104、划分数据集为训练集与测试集，使用训练集优化预测模型，优化过程依据设定的训练超参数更新模型参数以降低模型热负荷预测误差，具体地：
[0065]
首先设定训练超参数，包括批大小(batch_size)、学习率(learning rate) 与训练轮数(epochs)，其中批大小为64，学习率为0.0005，训练轮数为2000。其次使用均方误差
(mean-square error，mse)度量模型的预测误差，均方误差的计算公式为：
[0066][0067]
其中，yi表示训练样本i记录的下一观测点数据的真实值，表示训练样本 i对应的下一观测点处数据的模型预测值，n表示批大小。此外，基于adam优化算法分别设置针对模型权重参数θ与预测误差相关性系数ρ的参数优化器。在此基础上，依据比例8：2划分数据集为训练集与测试集，模型优化过程包括：
[0068]
随机初始化模型权重参数θ，并置零预测误差相关性系数ρ；
[0069]
分别设置针对模型权重参数θ与预测误差相关性系数ρ的参数优化器；
[0070]
以批(batch)为单位将训练样本输入模型，以轮(epoch)为单位分别更新模型权重参数θ与预测误差相关性系数ρ。特别地，更新后的预测误差相关性系数ρ值依据公式ρ＝tanh(ρ)被严格限制在[-1，1]之间。
[0071]
s105、使用测试集评估模型性能，若模型预测准确度满足要求执行s106，否则返回s103调整模型局部结构而后重新设定训练超参数，具体为：
[0072]
使用均方误差度量优化后模型在训练集上的预测性能，其中，yi表示测试样本i记录的下一观测点处数据的真实值，表示测试样本i对应的下一观测点处数据的模型预测值，n表示测试集大小。若模型预测误差大于设定阈值，则返回s103调整模型局部结构而后调整训练超参数，重新训练模型直至模型预测误差小于等于设定阈值。
[0073]
s106、使用优化后的模型预测未来热负荷情况，下一观测点处数据预测值为：
[0074][0075]
其中，下一观测点处热负荷预测值由对应维度取值表示。
[0076]
本实施例的预测方法通过引入因果卷积过程提升预测模型对热负荷及其环境因素局部变化规律的敏感性，可快速、准确地发现短期热负荷波动，以进一步提升热负荷预测准确度。此外，本实施例的预测方法结合自相关误差调整机制，巧妙地利用相邻观测点处误差的相关性消除预测误差自相关部分的模型准确度的影响，突破传统热负荷预测性能瓶颈。
[0077]
以上内容是结合具体的优选实施方式对本发明所作的进一步详细说明，不能认定本发明的具体实施只局限于这些说明。对于本发明所属技术领域的普通技术人员来说，在不脱离本发明构思的前提下，还可以做出若干简单推演或替换，都应当视为属于本发明的保护范围。