本发明涉及配电网故障预测,特别涉及一种大规模配电网故障预测的快速神经网络训练方法。
背景技术:
1、配电网是电力系统的重要组成部分,其运行状态直接影响着电力供应的可靠性和安全性。配电网故障预测是指根据历史数据和实时数据,利用机器学习等方法,对未来一段时间内可能发生的故障类型、位置、时间等进行预测,从而提前采取措施,减少故障对电力系统的影响。目前采用神经网络开展小规模配电网故障预测,具有能够处理非线性、高维、复杂的数据,具有较高的预测精度的优势,当配电网规模超过10000个节点后,采用反向传播算法训练神经网络计算会容易出现梯度消失或者梯度爆炸,导致训练时间延长,且容易陷入局部最优值,导致训练时间增加。
技术实现思路
1、本发明实施例提供了一种大规模配电网故障预测的快速神经网络训练方法,以至少解决相关技术中大规模配电网故障预测传统训练神经网络反向传播算法的梯度消失,容易陷入局部最优,并且无法并行训练,导致训练时间长的技术问题。
2、根据本发明实施例的一方面,提供了一种大规模配电网故障预测的快速神经网络训练方法,包括:
3、获取配电网的运行数据;
4、对所述配电网的运行数据进行预处理;
5、对神经网络的目标函数的约束函数进行松弛,得到新的目标函数;
6、根据配电网的拓扑结构和故障类型、新的目标函数构建神经网络模型,将预处理后的数据输入神经网络模型进行训练,所述训练包括并行训练,使训练完后的神经网络模型输出配电网故障预测结果。
7、可选地,新的目标函数为:
8、
9、上式中,βl、γl、λ为拉格朗日算子,l(zl,y)为神经网络的损失函数,zl、zl分别为神经网络第l层和第l层的输入矩阵,wl、wl分别为第l层和第l层的权重,l为神经网络模型的总层数;al-1、al-1分别为第l层和第l层的神经元上的激活函数,hl为非线性激活函数,y为训练目标。
10、可选地,所述预处理包括:
11、将配电网的运行数据分为训练数据集和样本标签;
12、并对训练数据集的数据进行归一化、去噪、特征选择处理。
13、可选地,所述神经网络模型包括多个子神经网络,每个子神经网络负责预测一个区域或一个故障类别,将训练数据集分为n个子集,设置在n个工作节点上进行执行训练算法,包括对每个子神经网络的每一层都将输出变量、临时变量、拉格朗日算子分解为n个子集进行并列计算,即表示第l层输出在第i节点上的数值。
14、可选地,将预处理后的数据输入神经网络模型进行训练包括:判断子神经网络的层数l与神经网络模型的总层数l的关系,当l≥l-1时,则进行并行训练,输出训练结果,反之进行串行训练。
15、可选地,所述并行训练包括:
16、权重wl更新:
17、
18、输出变量al更新:
19、
20、临时变量zl更新:
21、
22、上式中,βl+1、γl为拉格朗日算子,wl+1为第l+1层的权重,i为偏置函数,为第l层输出在第i节点上的输入矩阵,hl为非线性激活函数,为第l层和第l-1层输出在第i节点上的神经元上的激活函数,为第l+1层输出在第i节点上的输入矩阵。
23、可选地,所述训练结果包括:权重、临时变量及拉格朗日算子。
24、根据本发明实施例的另一方面,还提供了一种大规模配电网故障预测的快速神经网络训练装置,包括:
25、数据获取模块,用于获取配电网的运行数据;
26、预处理模块,用于对所述配电网的运行数据进行预处理;
27、目标函数设置模块,用于对神经网络的目标函数的约束函数进行松弛,得到新的目标函数;
28、构建神经网络模块,用于根据配电网的拓扑结构和故障类型、新的目标函数构建神经网络模型,将预处理后的数据输入神经网络模型进行训练,所述训练包括并行训练,使训练完后的神经网络模型输出配电网故障预测结果。
29、根据本发明实施例的另一方面,还提供了一种大规模配电网故障预测的快速神经网络训练系统,所述大规模配电网故障预测的快速神经网络训练系统包括:一个或多个处理器;存储装置,用于存储一个或多个程序;当所述一个或多个程序被一个或多个处理器执行时,使得一个或多个处理器实现上述任意一项所述的大规模配电网故障预测的快速神经网络训练方法。
30、根据本发明实施例的另一方面,还提供了一种计算机可读存储介质,所述计算机可读存储介质包括存储的程序,其中,在所述程序运行时控制所述计算机可读存储介质所在设备执行上述任意一项所述的大规模配电网故障预测的快速神经网络训练方法。
31、与现有的技术相比,本发明具有如下有益效果:
32、1.大规模配电网故障预测的快速神经网络训练构建采用松弛约束目标函数,避免训练过程中陷入局部最优,提高训练速度。
33、2.训练过程中采用基于拉格朗日算子的逐步迭代逼近法,避免了传统反向传播算法激活函数的梯度消失问题。
34、3.基于拉格朗日算子的逐步迭代逼近法可以将一个大规模的神经网络分解为多个子神经网络,并采用并行计算的方式进行训练,可以显著提高训练速度和效率,节省计算资源和时间,同时扩展性强。
1.一种大规模配电网故障预测的快速神经网络训练方法,其特征在于,包括:
2.根据权利要求1所述的大规模配电网故障预测的快速神经网络训练方法,其特征在于,新的目标函数为:
3.根据权利要求1所述的大规模配电网故障预测的快速神经网络训练方法,其特征在于,所述预处理包括:
4.根据权利要求1所述的大规模配电网故障预测的快速神经网络训练方法,其特征在于,所述神经网络模型包括多个子神经网络,每个子神经网络负责预测一个区域或一个故障类别,将训练数据集分为n个子集,设置在n个工作节点上进行执行训练算法,包括对每个子神经网络的每一层都将输出变量、临时变量、拉格朗日算子分解为n个子集进行并列计算,即表示第l层输出在第i节点上的数值。
5.根据权利要求4所述的大规模配电网故障预测的快速神经网络训练方法,其特征在于,将预处理后的数据输入神经网络模型进行训练包括:判断子神经网络的层数l与神经网络模型的总层数l的关系,当l≥l-1时,则进行并行训练,输出训练结果,反之进行串行训练。
6.根据权利要求5所述的大规模配电网故障预测的快速神经网络训练方法,其特征在于,所述并行训练包括:
7.根据权利要求4所述的大规模配电网故障预测的快速神经网络训练方法,其特征在于,所述训练结果包括:权重、临时变量及拉格朗日算子。
8.一种大规模配电网故障预测的快速神经网络训练装置,其特征在于,包括:
9.一种大规模配电网故障预测的快速神经网络训练系统,其特征在于,所述大规模配电网故障预测的快速神经网络训练系统包括:
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质包括存储的程序,其中,在所述程序运行时控制所述计算机可读存储介质所在设备执行权利要求1至7中任意一项所述的大规模配电网故障预测的快速神经网络训练方法。