一种综合能源系统运行工况识别与运行性能预测方法与流程

1.本发明所属的技术领域为综合能源系统领域，具体为一种基于迁移学习(transfer learning,tl)、深度学习(deep learning,dl)和多任务学习(multi task learning,mtl)的综合能源系统(integrated energy system,ies)运行工况识别与运行性能预测方法。


背景技术：

2.近年来，综合能源系统(integrated energy system,ies)逐渐成为能源领域的研究及应用热点。ies的发展在提高能源效率、减少碳排放和增加可再生能源的渗透三方面起到了巨大推动作用。但是，由于ies易受到新能源以及综合需求响应的不确定性的影响，其工况变化频繁。当ies不能随工况变化及时准确地调整控制系统的设定值时，常常会造成单个/互联ies控制性能下降，影响ies运行安全。因此，目前需要对ies进行运行工况识别和控制性能预测，进一步提高ies运行控制性能，实现能源的高效利用。
3.随着大数据技术和人工智能的日益发展，基于深度学习的数据驱动建模方法备受国内外学者的青睐，并被广泛应用到模式识别、预测等方面。当利用数据驱动方法研究运行工况识别及运行性能预测时，关键是需要具备完整的、高质量的数据。然而，在现实情况中常常出现由于传感器失效、网络通信中断等造成数据缺失的问题，因此在进行ies运行工况识别及运行性能预测时需要使用特征提取、迁移学习或者小样本学习等方法，来提高ies运行工况识别和运行性能预测的准确性。
4.迁移学习从相关领域中迁移标注数据或者知识结构，完成或改进目标领域中的任务，一方面提高了模型的初始性能，另一方面使得模型收敛得更好、更快；同样的，多任务学习通过使用来自其它相关学习任务的有用信息来缓解数据不足的问题，在数据稀缺的情况下，不仅可以获得更好的泛化性能，还能同时完成多个任务。门控循环单元(gated recurrent unit,gru)神经网络具有较强的提取时间特征的能力，可以提高ies运行工况识别及运行性能预测的精度和速度。
5.本发明针对综合能源系统运行工况识别与运行性能预测问题，提出了一种基于迁移学习、深度学习和多任务学习的综合能源系统运行工况识别与运行性能预测方法。在分别采集了ies及其仿真系统的数据，并进行数据预处理和特征提取后，通过基于jda的迁移学习共同适配源域与目标域的边缘和条件分布，获得大量可用于在线训练的数据，提高了后续多任务学习阶段中模型的精度和收敛速度。利用多任务学习改善模型的泛化能力。随后，引入有监督的多任务联合训练以最优化联合性能指标为目标，高效地同时完成了ies运行工况识别和运行性能预测两项任务。


技术实现要素：

6.本发明的目的是针对精度和效率要求日益增长的ies运行工况与运行性能预测问题，提出了一种基于迁移学习、深度学习和多任务学习的ies运行工况识别与运行性能预测
方法；利用相关性分析对数据进行特征提取后，再通过基于jda的迁移学习将源域和目标域的数据都利用了起来，解决了高质量数据不足的问题；利用包含运行工况识别模型和运行性能预测模型的多任务学习从输入数据中学习共享知识，防止两个模型过拟合，提高两个模型的泛化能力；最后，加入有监督的多任务联合训练环节，进一步提高了运行工况识别模型和运行性能预测模型的识别和预测精度。
7.本发明实现上述目的的技术方案是：通过数据预处理、基于相关性分析的特征提取以及基于jda的迁移学习获取大量的高质量数据，在分别建立基于gru神经网络组的运行工况识别模型和运行性能预测模型基础上，引入有监督的多任务联合训练环节，其主要步骤如下：
8.步骤(1)：分别采集ies及其仿真系统的数据，并进行数据预处理；
9.步骤(2)：将处理后的有关ies及其仿真系统的多源异构信息进行数据集成，并通过相关性分析的特征提取方法，分别获得与ies及其仿真系统运行工况密切相关的目标域数据集和源域数据集；
10.步骤(3)：利用基于jda的迁移学习在降维过程中共同适配源域与目标域的边缘和条件分布；
11.步骤(4)：将适配后的数据和目标域数据一起共享至多任务学习中，同时进行ies运行工况识别和运行性能预测两个任务模型的训练，并计算相应的分类性能指标和预测性能指标；
12.步骤(5)：由步骤4)中的分类性能指标和预测性能指标组成联合性能指标，并通过有监督的多任务联合训练，最优化联合性能指标，从而同时实现ies运行工况识别和运行性能的预测。
13.进一步的，所述步骤(1)中，采集到的数据为ies及其仿真系统的知识、数据及图像等多源异构信息，对采集到的数据进行预处理，包括：补缺失值、平滑或删除离群点、纠正数据的不一致，实现数据清洗。
14.进一步的，所述步骤(2)中，利用相关性分析分别从集成后的ies及其仿真系统相关数据中提取与ies及其仿真系统运行工况密切相关的深层特征。
15.进一步的，所述步骤(3)中，联合分布适配(joint distribution adaptation,jda)通过经验最大均值差异(empirical maximum mean discrepancy,emmd)来评价源域和目标域数据的分布差异，在降维过程中共同适配源域与目标域的边缘和条件分布，并利用主成分分析算法(principal component analysis,pca)进行数据重构。
16.进一步的，所述步骤(4)中，适配后的数据是通过步骤3)中的迁移学习补充的与ies运行工况密切相关的源域数据，多任务模型分别是：一种基于gru神经网络组的运行工况识别模型和一种基于gru神经网络组的运行性能预测模型，多个任务共同从输入数据中学习共享知识，共同优化运行工况识别模型和预测模型的性能，防止模型过拟合，提高运行工况识别模型和预测模型两个模型的泛化能力。
17.进一步的，所述步骤(5)中，提出的有监督的多任务联合训练算法采用了改进的反向传播bptt(back-propagation through time，bptt)算法，以最优化联合性能指标为目标，反向更新两组gru神经网络的网络参数，从而实现更高精度的ies运行工况智能识别与运行性能预测。
18.进一步的，基于迁移学习、深度学习和多任务学习的ies运行工况识别与性能预测方法中的联合性能指标为各个任务性能指标的线性加权，其中分类性能指标和预测性能指标均由单个样本在所有时刻的损失表示。
19.本发明的有益效果：提出一种针对ies运行工况识别与性能预测问题的新模型，通过相关性分析特征提取与ies及其仿真系统运行工况密切相关的深层特征，然后采用了一种基于jda的迁移学习提高了后续多任务学习阶段中模型的精度和收敛速度，通过多任务学习提升了两个模型的泛化能力。最后，通过有监督的多任务联合训练进一步提高了运行工况识别和性能预测的精度和效率。
附图说明
20.图1是本发明所提出的一种基于迁移学习、深度学习和多任务学习的ies运行工况识别与运行性能预测方法的实施方案图；
21.图2是本发明所提出的gru神经网络的内部结构图。
具体实施方式
22.下面结合附图对本发明的实施进行详细的说明，并给出具体的操作方式以及实施步骤：
23.一种基于迁移学习、深度学习和多任务学习的ies运行工况识别与性能预测方法，主要包括以下步骤：
24.步骤(1)：分别采集ies及其仿真系统的知识、数据及图像等多源异构信息，并对采集到的数据进行数据预处理，包括：补缺失值、平滑或删除离群点、纠正数据的不一致，实现数据清洗。
25.步骤(2)：通过相关性分析分别从ies及其仿真系统的数据中提取与ies及其仿真系统运行工况密切相关的深层特征，并分别获得目标域数据集和源域数据集的具体步骤如下：
26.步骤(2.1)：对数据预处理后的有关ies及其仿真系统的知识、数据及图像等多源异构信息进行数据集成，然后作为特征提取环节的输入数据，并通过相关性分析对数据进行特征提取。
27.步骤(2.2)：将从ies及其仿真系统中提取到的与运行工况密切相关的深层特征，分别划分为目标域数据集和源域数据集。
28.以上为基于相关性分析实现特征提取的主要步骤。进一步的，
29.步骤(3)：通过基于jda的迁移学习共同适配源域与目标域的边缘和条件分布，获取大量高质量数据的具体步骤如下：
30.步骤(3.1)：分别构建边缘和条件分布适配的emmd矩阵
‑‑
m0和mc，如下两式所示。
[0031][0032]
式中，ds为源域，ns为源域样本的个数，d
t
为目标域，n
t
为目标域样本个数。
[0033][0034]
式中，为源域数据中属于类别c的样本集，y(xi)为xi的真实标签，且为目标域数据中属于类别c的样本集，为xj的伪标签，并且分别为源域和目标域中来自类别c的样本个数，每个类别c∈(1,...,c)。
[0035]
步骤(3.2)：通过构建下面的两个式子，来实现边缘分布ps(xs)和p
t
(x
t
)与条件分布qs(xs|ys＝c)和q
t
(x
t
|y
t
＝c)之间差异的缩小。
[0036][0037][0038]
其中，x＝[x1,...,xn]∈rm×n为输入矩阵，即源域和目标域合并起来的数据，有n＝n
t
+ns，a∈rm×k为内嵌数据方差最大的正交变化矩阵，tr(
·
)为矩阵的迹。
[0039]
步骤(3.3)：同时优化步骤(3.2)中的两个式子，以满足如下式所示的要求。
[0040][0041]
式中，h＝i-1/n 1为pca求解过程中的中心矩阵。
[0042]
步骤(3.4)：最后，将步骤(3.2)中的两个式子引入步骤(3.3)的式子中，并通过拉格朗日乘子法进行优化，从而将求解最优适应矩阵a的问题简化为求下面所述式子的k个最小特征向量。
[0043]
[0044]
式中，φ＝diag(φ1,...,φk)为拉格朗日乘子，λ是正则化参数。
[0045]
补充了用于后续多任务学习的源域数据z＝a
t
x。
[0046]
步骤(4)：将目标域数据和补充的源域数据同时输入到两组gru神经网络，分别训练运行工况识别模型和运行性能预测模型，两个模型共同从输入的数据中学习共享知识，gru神经网络结构图如图2所示。具体实施步骤如下：
[0047]
步骤(4.1)：初始化两组gru神经网络的网络权重和偏置。
[0048]
步骤(4.2)：输入的数据同时对两组不同功能的gru神经网络进行训练，两组神经网络共同从输入的数据中学习共享知识。
[0049]
进一步的，gru神经网络的前向传播公式为：
[0050]zt
＝σ(w
zx,t
x
t
+w
zh,tht-1
)
[0051]rt
＝σ(w
rx,t
x
t
+w
rh,tht-1
)
[0052][0053][0054]yt
＝σ(w
o,t
·ht
)
[0055]
式中，t时刻的更新门和重置门分别为z
t
和r
t
，x
t
为t时刻的输入，h
t
为t时刻隐藏层的输出，y
t
为t时刻输出层的输出，w
rx,t
，w
rh,t
，w
zx,t
，w
zh,t
，w
o,t
为可训练参数矩阵，是t时刻的隐藏单元新信息的激活值，σ是sigmoid函数，tanh是tanh函数。
[0056]
步骤(4.3)：得到训练结果，计算出分类性能指标和预测性能指标。
[0057]
进一步的，运行工况识别任务的分类性能指标和运行性能预测任务的预测性能指标都用单个样本在所有时刻的损失表示，其表达式为：
[0058][0059][0060]
式中，为实际的运行工况输出结果，表示第t时刻的识别结果，为实际的运行性能输出结果，表示第t时刻的预测结果。
[0061]
步骤(5)：组成联合性能指标，然后通过有监督的多任务联合训练，完成ies运行工况识别和运行性能预测任务的具体实现步骤如下：
[0062]
步骤(5.1)：计算联合性能指标，计算公式如下所示：
[0063]
l＝λclc+λrlr[0064]
式中，λc是分类性能指标的权重，λr是预测性能指标的权重。
[0065]
步骤(5.2)：为了达到联合性能指标最优化的目的，通过bptt算法分别反向更新用于分类和预测的两组gru神经网络的参数，依次迭代直到联合性能指标收敛。
[0066]
步骤(5.3)：获得高精度、高效率的ies运行工况识别和运行性能预测模型。
[0067]
进一步的，及时识别出ies的运行工况，保障了ies的安全稳定运行，并为后续优化ies运行方式提供了基础；预测出的ies运行性能指标，能为之后动态调整控制回路被控参数的设定值，以提升ies运行优化水平提供了十分可靠的依据。
[0068]
本发明申请人结合说明书附图对本发明的具体实施方式进行了描述，本行业的技术人员应当明白，上述具体实施和说明书中描述的只是说明本发明的原理，在不脱离本发明精神和范围的前提下，本发明还会有各种变化和改进，这些变化和改进都落入要求保护的本发明范围内。本发明要求保护范围由所附的权利要求书及其等效物界定。