一种基于改进联邦学习的径流预测方法及预测系统

文档序号:30950745发布日期:2022-07-30 07:26阅读:来源:国知局

技术特征:
1.一种基于改进联邦学习的径流预测方法,其特征在于:包括以下步骤:步骤1:参数服务器将模型初始参数学习器的第t轮值下发给随机选取的参与本轮联邦训练的k个本地计算节点;t∈(0,s),其中,s为指定通信轮次;k=rn,r∈(0,1),n为参与的流域总数,n个流域对应n个本地计算节点;步骤2:在每个接收到模型初始参数学习器的第t轮值的本地计算节点上并行执行以下训练步骤:将模型初始参数学习器的第t轮值作为本地计算节点的本地径流预测模型的初始模型参数,记为w
i
,表示第i个本地计算节点的本地径流预测模型的第t轮的初始模型参数;基于初始模型参数w
i
和从支撑集中随机抽取的n
s
个样本组成的支撑子集对本地计算节点的本地径流预测模型进行训练优化,得到优化后的初始模型参数基于优化后的初始模型参数和从查询集中随机抽取的n
q
个样本组成的查询子集计算测试损失,并根据测试损失计算对应的梯度g
i
;步骤3:参数服务器聚合所有参与本轮联邦训练的k个本地计算节点的梯度,得到梯度集合{g1;g2;...;g
k
};基于梯度集合{g1;g2;...;g
k
}对模型初始参数学习器的第t轮值采用梯度下降算法进行更新,得到第t+1轮值步骤4:判断模型是否收敛或者迭代次数是否达到指定通信轮次,若满足某一条件,则执行步骤5,否则继续执行步骤1至步骤4;步骤5:将模型初始参数学习器的第t轮值作为值下发给所有n个本地计算节点;步骤6:对于每个本地计算节点,基于值再进一步执行微调,包括以下步骤:将值作为本地径流预测模型的初始模型参数,并采用本地计算节点上的支撑集对该本地径流预测模型进行训练,并利用查询集进行测试,最终得到适应本地数据分布的模型参数;基于该模型参数,对本地径流进行预测,得到预测结果。2.根据权利要求1所述的一种基于改进联邦学习的径流预测方法,其特征在于:所述的支撑集查询集和支撑集查询集均通过以下步骤构建得到:选取降雨、短波向下辐射、日最高温度、日最低温度、大气压强作为数据特征,以流域的日径流量作为标签;对数据特征及标签转换为无量纲的纯数值;基于时间步长t,将转换后的数值转换为适应监督学习问题形式的数据,以此构建得到数据集;将数据集划分为训练集和测试集,以及将训练集细分为支撑集和查询集将测试集亦细分为支撑集和查询集
3.根据权利要求1所述的一种基于改进联邦学习的径流预测方法,其特征在于:步骤2中,所述的基于初始模型参数w
i
和从支撑集中抽样得到的支撑子集对本地计算节点的本地径流预测模型f(w
i
)进行训练优化,得到优化后的初始模型参数具体计算公式为:为:其中,表示所抽样支撑子集的样本数量,l
i
(w
i
)为损失值,x和y分别表示支撑集中单个样本的特征和对应标签,表示模型输出结果f(w
i
;x)与真实值y之间的损失,α表示本地径流预测模型设置的学习率,表示l
i
(w
i
)对于w
i
的梯度。4.根据权利要求1所述的一种基于改进联邦学习的径流预测方法,其特征在于:步骤2中,所述的基于优化后的初始模型参数和从抽样得到的查询子集计算测试损失,并根据测试损失计算对应的梯度g
i
,具体过程为:得到更新的后,基于训练集中的查询子集执行前向传播计算过程,得到测试损失并根据测试损失计算对应的梯度g
i
::其中,表示所抽样的查询子集样本数量,和分别表示查询集中单个样本的特征和对应标签,表示模型输出结果与真实值之间的损失,表示梯度计算,g
i
表示对于w
i
的梯度。5.根据权利要求1所述的一种基于改进联邦学习的径流预测方法,其特征在于:步骤3中,所述的基于梯度集合{g1;g2;...;g
k
}对模型初始参数学习器的第t轮值采用梯度下降算法进行更新,得到第t+1轮值具体计算公式为:其中,β表示模型初始参数学习器设置的学习率,k表示参与本轮联邦训练的流域个数。6.一种基于改进联邦学习的径流预测系统,其特征在于:包括:n个本地计算节点,分别部署在对应的流域内,内置本地径流预测模型,用于执行联邦学习步骤和本地径流预测模型调整步骤;其中,联邦学习步骤包括:将参数服务器下发的模型初始参数学习器的第t轮值作为本地计算节点的本地径流预测模型的初始模型参数,记为w
i
,表示第i个本地计算节点的本地径流预测模型的第
t轮的初始模型参数;基于初始模型参数w
i
和从支撑集中抽样得到的支撑子集对本地计算节点的本地径流预测模型进行训练优化,得到优化后的初始模型参数基于优化后的初始模型参数和从查询集中抽样得到的查询子集计算测试损失,并根据测试损失计算对应的梯度g
i
;将梯度g
i
上传至参数服务器;其中,本地径流预测模型调整步骤包括:将参数服务器下发的值作为本地径流预测模型的初始模型参数;采用本地计算节点上的支撑集对该本地径流预测模型进行训练,得到适应本地数据分布的模型参数;基于该模型参数,对本地径流进行预测;参数服务器,内置模型初始参数学习器用于执行以下步骤:将模型初始参数学习器的值下发给随机选取的k个本地计算节点;对参与本轮联邦训练的k个本地计算节点的梯度进行聚合,得到梯度集合{g1;g2;...;g
k
};基于梯度集合{g1;g2;...;g
k
}对模型初始参数学习器的第t轮值采用梯度下降算法进行更新,得到第t+1轮值判断联邦学习步骤中模型是否收敛或者迭代次数是否达到指定通信轮次,若满足某一条件,则将模型初始参数学习器的第t轮值作为值下发给所有n个本地计算节点;若都不满足则继续执行上述联邦学习步骤。7.根据权利要求6所述的一种基于改进联邦学习的径流预测系统,其特征在于:所述的基于初始模型参数w
i
和从查询集中所抽样得到的支撑子集对本地计算节点的本地径流预测模型f(w
i
)进行训练优化,得到优化后的初始模型参数具体计算公式为:具体计算公式为:其中,表示所抽样支撑子集的样本数量,l
i
(w
i
)为训练损失值,,x和y分别表示支撑集中单个样本的特征和对应标签,表示模型输出结果f(w
i
;x)与真实值y之间的损失,α表示本地径流预测模型设置的学习率,表示l
i
(w
i
)对于w
i
的梯度。8.根据权利要求6所述的一种基于改进联邦学习的径流预测系统,其特征在于:所述的基于优化后的初始模型参数和从查询集中所抽样得到的查询子集计算测试损失,并根据测试损失计算对应的梯度g
i
,具体过程为:得到更新的后,基于抽样查询子集执行前向传播计算过程,得到测试损失并根据测试损失计算对应的梯度g
i

其中,表示所抽样查询子集样本数量,和分别表示查询集中单个样本的特征和对应标签,表示模型输出结果与真实值之间的损失,表示梯度计算,g
i
表示对于w
i
的梯度。9.根据权利要求6所述的一种基于改进联邦学习的径流预测系统,其特征在于:所述的基于梯度集合{g1;g2;...;g
k
}对模型初始参数学习器的第t轮值采用梯度下降算法进行更新,得到第t+1轮值具体计算公式为:其中,β表示模型初始参数学习器设置的学习率,k为参与本轮联邦训练的流域个数。

技术总结
本发明公开了一种基于改进联邦学习的径流预测方法及预测系统,通过联邦学习的方法将包含径流和气象数据的多个流域一起联合训练,从而可以捕获到多个流域的水文信息特征,并通过改进传统联邦学习的学习过程,一定程度上解决了水文信息孤岛问题,提高了预测精度,并且为少资料或者无资料地区实现水文水资源信息分析提供了参考。分析提供了参考。分析提供了参考。


技术研发人员:谢在鹏 蔡艳平 蒋峻辰 卢津
受保护的技术使用者:河海大学
技术研发日:2022.03.08
技术公布日:2022/7/29
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1