基于帝王蝶算法优化BP神经网络模型的能源预测方法

基于帝王蝶算法优化bp神经网络模型的能源预测方法
技术领域
1.本发明属于能源预测技术领域，具体涉及一种基于帝王蝶算法优化bp神经网络模型的能源预测方法。


背景技术：

2.为了应对全球严峻的环境污染和气候变化问题，要有效地控制能源消费带来的碳排放，制定高污染、高排放行业绿色、低碳转型路线。
3.bp神经网络是一种按误差逆传播算法训练的多层前馈网络，是应用最广泛的神经网络模型之一。它由信息的正向传播和误差的反向传播两个过程组成。神经网络的核心成分是人工神经元，每个神经元接收来自其他几个神经元的输入，将它们乘以各自分配的权重，然后再相加，最后把相加的总和传递给一个或多个神经元。当把很多神经元多层放置并堆叠在一起时，就形成了神经网络。通过给定训练集的输入数据，它会根据输出值与实际值的误差不断调整权重，直到能将每个输入映射到正确的输出。因其非线性映射能力很强，所以被广泛应用于受复杂因素影响的预测问题中。但是bp神经网络的初始权重和阈值为随机赋值，这会导致其预测结果的误差波动较大，因此提出了一种帝王蝶算法优化bp神经网络的初始权重和阈值来缩小其预测结果的误差范围，提高预测精度。
4.帝王蝶算法(monarch butterfly optimization,mbo)是一种受帝王蝶迁徙行为启发的智能优化算法。帝王蝶优化算法有两个算子：具有局部搜索能力的迁移算子和具有全局搜索能力的调整算子，可同时确定帝王蝶的搜索方向，适合并行处理。通过迁移操作和适应性操作，可以更新帝王蝶中的个体位置。在解决全局数值优化等问题时，帝王蝶优化算法的性能比较优越。其收敛速度快，局部精细搜索能力强，但是其全局搜索能力一般，易陷入局部最优。因此，如何将改进的帝王蝶算法应用于能源消费预测，解决神经网络预测过于随机的问题是目前迫切需要解决的。


技术实现要素：

5.本发明的目的在于克服现有技术的不足，提供一种设计合理、准确可靠且易于工程实现的基于帝王蝶算法优化bp神经网络模型的能源预测方法，本发明引入柯西变异因子进一步改进帝王蝶算法，来增强算法的抗扰动能力，提高算法全局的搜索能力，防止陷入局部最优解，利用改进的帝王蝶算法解决了单一bp神经网络模型的随机性导致的预测结果误差区间较大的问题。
6.本发明解决现有的技术问题是采取以下技术方案实现的：一种基于帝王蝶算法优化bp神经网络模型的能源预测方法，包括以下步骤：步骤1、将能源消费总量及其影响因素的历史数据划分为训练集和测试集；对于由能源消费总量以及它的五个影响因素组成的第k组数据列γk=[γk(1), γk(2), γk(3),γk(4), γk(5), γk(6)], γk(i) 》0,k=1,2,
…
,n；i=1,2,
…
,6，取n组数据列的部分划分为训练集，剩下的数据列划分为测试集；
式中，γk(1)代表第k组数据的年末常住人口数、γk(2)代表第k组数据的地区生产总值、γk(3)代表第k组数据的地区生产总值指数、γk(4)代表第k组数据的人均年收入、γk(5)代表第k组数据的年平均气温、γk(6)代表第k组数据的能源消费总量；步骤2、使用归一化函数将训练集和测试集的所有数据归一化；归一化函数为：，(γk(i)》0,k=1,2,
…
,n;i=1,2,
…
,6)式中，min γk(i)为数据列γk中的最小值，max γk(i)为数据列γk中的最大值，f(γk(i))为归一化处理后的数据列各元素的值；即经过归一化处理后的第k组数据列为=[f(γk(1)), f(γk(2)), f(γk(3)), f(γk(4)), f(γk(5)), f(γk(6))]；步骤3、设置bp神经网络基本参数；步骤4、针对bp神经网络模型的初始权重ω、初始阈值θ，建立平均绝对误差目标函数；式中，f(ω,θ)为平均绝对误差目标函数；步骤5、通过帝王蝶算法对平均绝对误差目标函数进行求解，确定bp神经网络模型的初始权重ω、初始阈值θ；步骤6、将初始权重ω、初始阈值θ代回bp神经网络模型进行训练，将能源消费总量的影响因素输入训练好的bp神经网络模型对能源消费总量进行预测。
[0007]
进一步优选，所述步骤3的具体实现方法包括以下步骤：步骤3.1、在归一化后的训练集数据列中取能源消费总量的五个影响因素f(γk(1)), f(γk(2)), f(γk(3)), f(γk(4)), f(γk(5))作为bp神经网络模型的输入值，能源消费总量f(γk(6))作为bp神经网络模型的输出值；步骤3.2、设置bp神经网络模型基本参数：输入层节点数、隐含层节点数、输出层节点数、训练次数、学习速率、最大误差、激活函数。
[0008]
进一步优选，步骤5的具体过程如下：步骤5.1、初始化帝王蝶个体的位置状态为向量σ=（ω，θ），向量ω，θ分别对应bp神经网络模型的初始权重ω、初始阈值θ，每只帝王蝶的位置组合了初始权重ω、初始阈值θ参数的信息，并且每只帝王蝶代表平均绝对误差目标函数的一个解，设置帝王蝶算法的初始参数：帝王蝶个体总数n、最大迭代次数t
max
、帝王蝶种群分为第一种群和第二种群，第一种群和第二种群的种群数量分别为p1和p2、帝王蝶迁移率p、迁移周期peri、调整率bar、帝王蝶步长s、最大步长s
max
，随机生成共n个帝王蝶个体，每个帝王蝶个体都是满足平均绝对误差目标函数的潜在解；步骤5.2、根据平均绝对误差目标函数，在迭代初始阶段对种群进行适应度值计算并按照从优到劣排序，平均绝对误差越小，表明个体适应度越高，选取出本次迭代适应度值高的帝王蝶个体，作为精英个体保留下来；步骤5.3、将帝王蝶个体总数n根据帝王蝶迁移率p划分为第一种群和第二种群两部分，即第一种群数量p1=n
×
p，第二种群数量p2=n
×
(1-p)，执行迁移算子更新第一种群的
帝王蝶，执行调整算子更新第二种群的帝王蝶，将迭代后的新种群整合，重新计算适应度值；步骤5.4、将适应度最低的五个帝王蝶个体进行柯西函数变异操作，用适应度高的帝王蝶个体取代适应度低的帝王蝶个体，将替换后的种群作为下一次迭代的初始种群；步骤5.5、记录每次迭代中适应度值最优的帝王蝶个体，重复迭代过程直到达到最大迭代次数t
max
，从每次迭代的最优帝王蝶个体中选择适应度最高的帝王蝶作为优化后的最终输出。
[0009]
进一步优选，迁移算子和调整算子的具体执行方式如下：第一种群中的帝王蝶行为为迁徙，对第一种群中的帝王蝶个体，迁移算子表示为，式中，为第t+1次迭代产生的帝王蝶个体w的第μ维，维度μ代表一个权重或阈值，r1为第一种群中的随机帝王蝶个体，r2为第二种群中的随机帝王蝶个体，为第t次迭代产生的第一种群中的随机帝王蝶个体r1的第μ维，为第t次迭代产生的第二种群中的随机帝王蝶个体r2的第μ维，rand为[0,1]之间均匀分布的随机实数；迁移算子的含义为根据产生的随机数τ=rand
×
prei与帝王蝶迁移率p的大小关系，分别来自第t次迭代中第一种群和第二种群中的随机帝王蝶个体；维度μ的取值范围为[-3,3]；当随机数τ≤帝王蝶迁移率p时，用替换，当随机数τ》帝王蝶迁移率p时，用替换；第二种群中的帝王蝶行为为适应环境，对第二种群中的帝王蝶个体，调整算子为：当随机实数rand≤帝王蝶迁移率p时，根据来调整位置，即来自第t次迭代第一种群和第二种群中最优帝王蝶个体的第μ维，当随机实数rand》帝王蝶迁移率p时，帝王蝶个体按更新当前的位置；在此基础上，如果进一步满足随机数rand》调整率bar，则该帝王蝶个体的位置则进一步更新为，在帝王蝶算法中调整率bar与帝王蝶迁移率p相等，帝王蝶最大步长s
max
与当前迭代次数t平方的比值称为权重因子， 通过莱维飞行公式计算而来，为第t次迭代中帝王蝶个体w的行走步长，为第t次迭代产生的帝王蝶个体w。
[0010]
进一步优选，柯西变异方式为：
其中，为第t次迭代产生的帝王蝶个体w的第μ维，cauchy（0,1）为柯西随机变量生成函数，，ε为[0,1]之间均匀分布的随机实数。
[0011]
进一步优选，bp神经网络模型的训练方法为：对于输入层的n组5元素输入数据列f(γk(i))=f(γk(i)),γk(i)》0,k=1,2,
…
,n;i=1,2,
ꢀ…
,5（即输入层神经元节点数为5）以及n组1元素输出数据列f(γk(6)),k=1,2,
…
,n（即输出层神经元节点数为1），隐含层神经元节点数为d，隐含层神经元节点的输入为v
k,j
,k=1,2,
…
,n;j=1,2,
ꢀ…
,d,第k组输入数据列的第i个元素f(γk(i))对应第j个隐含层神经元节点的权重为ω
ij
，第k组输入数据列对应第j个隐含层神经元节点的输出阈值为θ
k,j
，输入层的输入数据与隐含层神经元节点输入的关系为：当第j个隐含层神经元节点的输入大于0时才会继续输出i
k,j
,k=1,2,
…
,n;j=1,2,
ꢀ…
,d，其关系为：式中，为激活函数，输出层神经元节点的输入为ok,k=1,2,
…
,n，第j个隐含层神经元节点的输出i
k,j
对应输出层神经元节点的权重为ωj，隐含层神经元节点的输出对应输出层神经元节点的输出阈值为θk，输出层的输入ok与隐含层输出i
k,j
的关系为：输出层神经元节点再次判断其输入是否大于0，若大于0，则最后通过激活函数输出预测数据列yk(6)，其关系为：然后开始计算神经网络输出的误差ek：ek=，若误差没有达到设定的值，则开始误差反向传播，使用梯度下降法调整bp神经网络的参数，权重更新公式为：的值，则开始误差反向传播，使用梯度下降法调整bp神经网络的参数，权重更新公式为：阈值更新公式为：阈值更新公式为：式中为更新后的第j个隐含层神经元节点的输出i
k,j
对应输出层神经元节点的权重；为更新后的输入数据列的第i个元素f(γk(i))对应第j个隐含层神经元节点的权重；为更新后的第k组输入数据列对应第j个隐含层神经元节点的输出阈值；为更新后
的隐含层神经元节点的输出对应输出层神经元节点的输出阈值；α为学习速率，表示每次参数更新的幅度大小；权重和阈值调整完毕后进行下一轮训练，重复权重和阈值更新过程，直到误差ek符合要求或者达到规定的最大迭代次数后完成bp神经网络模型的训练。
[0012]
本发明的优点和积极效果是：本发明将在解决全局数值优化等问题时，性能优越的帝王蝶算法(monarch butterfly optimization，mbo)引入到bp神经网络模型关键参数初始权重和初始阈值的寻优过程，提出基于帝王蝶算法优化bp神经网络模型，将平均绝对误差函数作为帝王蝶算法的目标函数，通过帝王蝶算法对目标函数进行求最优解，同时通过引入柯西变异来增加扰动，提高算法全局的搜索能力，防止陷入局部最优解，确保能源消费预测结果的精确性。本发明将改进的帝王蝶算法应用到bp神经网络模型中，解决了单一bp神经网络模型的随机性导致的预测结果误差区间较大的问题，也提高了bp神经网络的拟合度和预测精度，其方法相对简单，预测效果更优。
附图说明
[0013]
图1为本发明的基于帝王蝶算法优化bp神经网络模型的能源预测方法流程框图。
[0014]
图2为均权gm(1，1)模型预测的某省能源消费总量预测曲线图。
[0015]
图3为黄金分割优化权值的gm(1，1)模型预测的某省能源消费总量预测曲线图。
[0016]
图4为bp神经网络模型预测的某省能源消费总量预测曲线图。
[0017]
图5为帝王蝶算法优化bp神经网络模型预测的某省能源消费总量预测曲线图。
[0018]
图6为采用帝王蝶算法对bp神经网络模型参数优化的平均绝对误差收敛图。
具体实施方式
[0019]
以下结合附图对本发明实施例做进一步详述。
[0020]
本发明的设计思想为：采用帝王蝶算法mbo与bp神经网络模型融合对模型的初始权重ω、初始阈值θ两个参数进行优化，采用平均绝对误差函数为帝王蝶算法mbo的目标函数，将帝王蝶算法应用到bp神经网络模型中，解决了单一bp神经网络模型的随机性导致的预测结果误差区间较大的问题，也提高了bp神经网络模型的拟合度和预测精度，迭代方法简单，收敛速度快，易于工程实现。并且在帝王蝶算法中，每只帝王蝶都是满足目标函数的一个潜在解，通过迁移算子和调整算子来更新种群中帝王蝶的搜索方向，通过柯西变异来增加扰动，跳出局部最优。个体的适应度与目标函数相关联，每次迭代中适应度高的精英个体直接进入下一代，以避免帝王蝶种群的质量随着迭代次数的增加而下降。循环迭代直到达到最大迭代次数，最终从每次迭代的最优个体中选出适应度最优的个体，以此达到优化目的。
[0021]
基于上述设计思想，本发明提出一种基于帝王蝶算法优化bp神经网络模型的能源预测方法，如图1所示，包括以下步骤：步骤1、将能源消费总量及其影响因素的历史数据划分为训练集和测试集；对于由能源消费总量以及它的五个影响因素组成的第k组数据列γk=[γk(1), γk(2), γk(3), γk(4), γk(5), γk(6)], γk(i)》0,k=1,2,
…
,n；i=1,2,
…
,6，取n组数据列的部分划分为训练集，剩下的数据列划分为测试集；
式中，γk(1)代表第k组数据的年末常住人口数、γk(2)代表第k组数据的地区生产总值、γk(3)代表第k组数据的地区生产总值指数、γk(4)代表第k组数据的人均年收入、γk(5)代表第k组数据的年平均气温、γk(6)代表第k组数据的能源消费总量。
[0022]
步骤2、使用归一化函数将训练集和测试集的所有数据归一化。
[0023]
在本步骤中，根据步骤1所得数据列，建立如下归一化函数为：，(γk(i)》0,k=1,2,
…
,n;i=1,2,
…
,6)。
[0024]
式中，minγk(i)为数据列γk中的最小值，maxγk(i)为数据列γk中的最大值，f(γk(i))为归一化处理后的数据列各元素的值。即经过归一化处理后的第k组数据列为=[f(γk(1)), f(γk(2)), f(γk(3)), f(γk(4)), f(γk(5)), f(γk(6))]。
[0025]
步骤3、设置bp神经网络模型基本参数。本步骤的具体实现方法包括以下步骤：步骤3.1、在归一化后的训练集数据列中取能源消费总量的五个影响因素f(γk(1)), f(γk(2)), f(γk(3)), f(γk(4)), f(γk(5))作为bp神经网络模型的输入值，能源消费总量f(γk(6))作为bp神经网络模型的输出值；步骤3.2、设置bp神经网络模型基本参数：输入层节点数、隐含层节点数、输出层节点数、训练次数、学习速率、最大误差、激活函数。
[0026]
步骤4、针对bp神经网络模型的初始权重ω、初始阈值θ，建立平均绝对误差目标函数。
[0027]
在本步骤中，针对、两个参数，根据预测值与输出值构造出平均绝对误差目标函数：式中，f(ω,θ)为平均绝对误差目标函数。
[0028]
步骤5、通过帝王蝶算法对目标函数进行求解，确定bp神经网络模型的初始权重ω、初始阈值θ。本步骤的具体实现方法包括以下步骤：步骤5.1、初始化帝王蝶个体的位置状态为向量σ=（ω，θ），向量的两个参数分别对应bp神经网络模型的初始权重ω、初始阈值θ，每只帝王蝶的位置组合了初始权重ω、初始阈值θ参数的信息，并且每只帝王蝶代表平均绝对误差目标函数的一个解，设置帝王蝶算法的初始参数：帝王蝶个体总数n、最大迭代次数t
max
、帝王蝶种群分为第一种群和第二种群，第一种群和第二种群的种群数量分别为p1和p2、帝王蝶迁移率p、迁移周期peri、调整率bar、帝王蝶步长s、最大步长s
max
，随机生成共n个帝王蝶个体，每个帝王蝶个体都是满足平均绝对误差目标函数的潜在解；步骤5.2、根据平均绝对误差目标函数，在迭代初始阶段对种群进行适应度值计算并按照从优到劣排序，平均绝对误差越小，表明个体适应度越高，选取出本次迭代适应度值高的帝王蝶个体，作为精英个体保留下来；步骤5.3、将帝王蝶个体总数n根据帝王蝶迁移率p划分为第一种群和第二种群两部分，即第一种群数量p1=n
×
p，第二种群数量p2=n
×
(1-p)，执行迁移算子更新第一种群的帝王蝶，执行调整算子更新第二种群的帝王蝶，将迭代后的新种群整合，重新计算适应度
值；两个算子的具体执行方式如下：第一种群中的帝王蝶行为为迁徙，对第一种群中的帝王蝶个体，迁移算子表示为，式中，为第t+1次迭代产生的帝王蝶个体w的第μ维，维度μ代表一个权重或阈值，r1为第一种群中的随机帝王蝶个体，r2为第二种群中的随机帝王蝶个体，为第t次迭代产生的第一种群中的随机帝王蝶个体r1的第μ维，为第t次迭代产生的第二种群中的随机帝王蝶个体r2的第μ维，rand为[0,1]之间均匀分布的随机实数；迁移算子的含义为根据产生的随机数τ=rand
×
prei与帝王蝶迁移率p的大小关系，分别来自第t次迭代中第一种群和第二种群中的随机帝王蝶个体；维度μ的取值范围为[-3,3]；当随机数τ≤帝王蝶迁移率p时，用替换，当随机数τ》帝王蝶迁移率p时，用替换；第二种群中的帝王蝶行为为适应环境，对第二种群中的帝王蝶个体，调整算子为：当随机实数rand≤帝王蝶迁移率p时，根据来调整位置，即来自第t次迭代第一种群和第二种群中最优帝王蝶个体的第μ维，当随机实数rand》帝王蝶迁移率p时，帝王蝶个体按更新当前的位置；在此基础上，如果进一步满足随机数rand》调整率bar，则该帝王蝶个体的位置则进一步更新为，在帝王蝶算法中调整率bar与帝王蝶迁移率p相等，帝王蝶最大步长s
max
与当前迭代次数t平方的比值称为权重因子， 通过莱维飞行公式计算而来，为第t次迭代中帝王蝶个体w的行走步长，为第t次迭代产生的帝王蝶个体w；步骤5.4、将适应度最低的五个帝王蝶个体进行柯西函数变异操作，用适应度高的帝王蝶个体取代适应度低的帝王蝶个体，将替换后的种群作为下一次迭代的初始种群；对种群中适应度最差的五个帝王蝶个体进行柯西变异，其变异方式为：步骤5.5、记录每次迭代中适应度值最优的帝王蝶个体，重复迭代过程直到达到最大迭代次数，从每次迭代的最优帝王蝶个体中选择适应度最高的帝王蝶作为优化后的
最终输出。
[0029]
步骤6、将初始权重ω、初始阈值θ代回bp神经网络模型进行训练，将能源消费总量的影响因素输入训练好的bp神经网络模型对能源消费总量进行预测。本步骤的具体实现方法包括以下步骤：步骤6.1、根据帝王蝶算法优化后的bp神经网络模型的初始权重ω、初始阈值θ，开始bp神经网络模型的训练；bp神经网络的具体训练方法为：对于输入层的n组5元素输入数据列f(γk(i))=f(γk(i)),γk(i)》0,k=1,2,
…
,n;i=1,2,
ꢀ…
,5（即输入层神经元节点数为5）以及n组1元素输出数据列f(γk(6)),k=1,2,
…
,n（即输出层神经元节点数为1），隐含层神经元节点数为d，隐含层神经元节点的输入为v
k,j
,k=1,2,
…
,n;j=1,2,
ꢀ…
,d，第k组输入数据列的第i个元素f(γk(i))对应第j个隐含层神经元节点的权重为ω
ij
，第k组输入数据列对应第j个隐含层神经元节点的输出阈值为θ
k,j
，输入层的输入数据与隐含层神经元节点输入的关系为：当第j个隐含层神经元节点的输入大于0时才会继续输出i
k,j
,k=1,2,
…
,n;j=1,2,
ꢀ…
,d，其关系为：式中，为激活函数，输出层神经元节点的输入为ok,k=1,2,
…
,n，第j个隐含层神经元节点的输出i
k,j
对应输出层神经元节点的权重为ωj，隐含层神经元节点的输出对应输出层神经元节点的输出阈值为θk，输出层的输入ok与隐含层输出i
k,j
的关系为：输出层神经元节点再次判断其输入是否大于0，若大于0，则最后通过激活函数输出预测数据列yk(6)，其关系为：然后开始计算神经网络输出的误差ek：ek=，若误差没有达到设定的值，则开始误差反向传播，使用梯度下降法调整bp神经网络的参数，权重更新公式为：的值，则开始误差反向传播，使用梯度下降法调整bp神经网络的参数，权重更新公式为：阈值更新公式为：阈值更新公式为：
式中为更新后的第j个隐含层神经元节点的输出i
k,j
对应输出层神经元节点的权重；为更新后的输入数据列的第i个元素f(γk(i))对应第j个隐含层神经元节点的权重；为更新后的第k组输入数据列对应第j个隐含层神经元节点的输出阈值；为更新后的隐含层神经元节点的输出对应输出层神经元节点的输出阈值；α为学习速率，表示每次参数更新的幅度大小；权重和阈值调整完毕后进行下一轮训练，重复权重和阈值更新过程，直到误差ek符合要求或者达到规定的最大迭代次数后完成bp神经网络模型的训练。
[0030]
步骤6.2、训练完毕后，取测试集数据列中能源消费总量的五个影响因素f(γk(1)), f(γk(2)), f(γk(3)), f(γk(4)), f(γk(5))作为训练完成的bp神经网络模型的输入值，即可输出bp神经网络模型的预测值，然后将预测值反归一化后即可得到实际预测值。
[0031]
下面以一个具体实例对本发明预测结果进行验证。
[0032]
在本实例中，选取1999年至2020年某省年末常住人口数、地区生产总值（地区gdp）、地区生产总值指数、人均年收入、年平均气温、能源消费总量22组6维的数据列作为bp神经网络模型的原始序列，年末常住人口数、地区生产总值（地区gdp）、地区生产总值指数、人均年收入、年平均气温作为神经网络的输入，能源消费总量作为bp神经网络模型的输出。在此基础上，我们用本发明提出的帝王蝶算法优化bp神经网络模型对该段数据序列进行预测，结果如表1所示：表1描述了三种预测模型与本发明所提帝王蝶算法优化bp神经网络模型对某省1999年至2020年能源消费总量预测值与实际值对比，可以看出帝王蝶算法优化bp神经网络模型的预测值更接近实际值，说明了本发明所提方法的正确性。
[0033]
图2-图5为对表1中的历史数据和各预测算法的预测数据进行图形化，图2为均权gm(1，1)模型预测的某省能源消费总量预测曲线图，图3为黄金分割优化权值的gm(1，1)模型预测的某省能源消费总量预测曲线图，图4为bp神经网络模型预测的某省能源消费总量预测曲线图，图5为帝王蝶算法优化bp神经网络模型预测的某省能源消费总量预测曲线图。从图中也可清晰看出四种算法对实际值的拟合度以及平均相对误差大小，说明了本发明所提算法误差更小，能更好地预测能源消费总量。
[0034]
图6表示帝王蝶算法对bp神经网络模型参数优化的平均绝对误差收敛图，由图6可以看出经过10次迭代后平均绝对误差即可收敛到0.0166左右，收敛速度较快，表明了本发
明所提方法的迭代方法简单，收敛速度快，易于工程实现。
[0035]
四种模型的平均绝对误差mae、平均相对误差mape两种精度指标的比对结果如表2所示：从数据结果可以看出，帝王蝶算法优化bp神经网络模型的预测精度要高于均权gm(1，1)模型、黄金分割优化权值的gm(1，1)模型和bp神经网络模型。验证了本算法的准确性和优越性。需要强调的是，本发明所述的实施例是说明性的，而不是限定性的，因此本发明包括并不限于具体实施方式中所述的实施例，凡是由本领域技术人员根据本发明的技术方案得出的其他实施方式，同样属于本发明保护的范围。