一种移动边缘计算辅助多层联邦学习方法与流程

文档序号:30756998发布日期:2022-07-13 11:54阅读:来源:国知局

技术特征:
1.一种移动边缘计算辅助的多层联邦学习方法,其特征在于多层学习架构和低延时资源分配方案,包括步骤一:车联网设备将需要移动边缘服务器和云服务器辅助计算的数据集卸载到可接入的边缘计算服务器上,同时进行剩余数据集的训练,训练结束后,将训练结果参数发送给云服务器;步骤二:边缘计算服务器接收到来自各个接入的设备训练数据集后,将需要云计算服务器辅助的数据集发送到云服务器,同时训练边缘服务器需要辅助的数据集;训练结束后,将训练结果参数发送给云服务器;步骤三:云服务器接收到需要辅助训练的数据集后,开始训练;训练结束后,等待所有分布式节点的结果都上传到云服务器后进行合并聚合,并将全局训练结果参数返回给各个分布式计算节点;步骤四:根据各层数据发送计算的通信参数以及计算参数,建立系统数学模型,计算产生优化目标;优化目标为最小化各层计算结果到达云服务器的最大时延;优化变量包括卸载数据集大小选择,以及卸载到边缘计算服务器的带宽分配以及边缘计算服务器的计算资源分配;根据环境参数确定约束条件;步骤五:将优化问题转化为二次约束二次规划(qcqp)问题形式;引入辅助变量,将目标函数简化为求解辅助变量最小值;步骤六:将目标函数以及优化变量转换为矩阵表达式,并将约束条件逐一转换成线性矩阵表达式;由于得到的表达式仍然为非凸问题,我们引入新的矩阵变量并放松秩为1的条件,将优化问题转化为半正定规划问题;步骤七:利用yalmip求解器,将目标函数以及约束条件作为输入条件,输出包含优化变量的矩阵结果;将卸载比例分配、带宽分配以及计算资源分配等优化参数从输出的矩阵结果中恢复;步骤八:将计算出的卸载比例分配、带宽分配以及计算资源分配参数结果导入总时延计算模型,产生边缘计算辅助的多层联邦学习资源分配方案。2.根据权利要求1所述的一种移动边缘计算辅助的多层联邦学习方法,其特征在于,步骤一中,车联网设备利用随机梯度下降方法进行本地模型参数训练,具体迭代过程可描述为其中n为本地迭代次序,l
j
为本地损失函数;根据通信参数以及服务器计算参数设备层训练结果到达云服务器的最终时间,包含在设备本地训练的时间和训练结果上传到云端的时间。3.根据权利要求1所述的一种移动边缘计算辅助的多层联邦学习方法,其特征在于,步骤二中,边缘计算服务器同样利用随机梯度下降方法训练收到的来自接入设备卸载的数据集,得到局部模型参数,计算最终边缘服务器层训练结果到达云服务器最终时间,包含卸载到边缘计算服务器和云服务器的数据样本在无线网络中的传输时间和数据样本在边缘服务器的计算时间以及训练结果上传到云服务器的时间。4.根据权利要求1所述的一种移动边缘计算辅助的多层联邦学习方法,其特征在于,步骤三中,云服务器收到需要卸载的数据样本后进行训练,得到最后的训练结果所需要的时延,其中还包含数据样本传输到边缘计算服务器的时间,数据样本从边缘计算服务器到云
服务器的时间以及数据样本在云服务器训练的时间;最终云服务器进行各层训练结果的合并与聚合得到聚合结果向所有分布式车联网设备广播本轮训练结果。5.根据权利要求1所述的一种移动边缘计算辅助的多层联邦学习方法,其特征在于,步骤四中,多层边缘计算服务器辅助联邦学习的总时延取决于各层中最后到达云服务器的时间,优化目标为最小化各层中最后到达云服务器的时间,需要计算的优化变量分别为卸载比例变量,计算资源分配变量,通信带宽分配变量。6.根据权利要求1所述的一种移动边缘计算辅助的多层联邦学习方法,其特征在于,步骤五中,引入辅助变量t来代替各层训练结果到达云服务器的时延最大值,进一步求解优化函数。7.根据权利要求1所述的一种移动边缘计算辅助的多层联邦学习方法,其特征在于,步骤六中,将优化变量转换为矩阵表达式w
j
,并将所有约束条件转化为矩阵表达式;为了将优化问题转换为qcqp形式,引入新的变量z
j
=[w
j
,1]
t
;目标函数变换为为求解变换后的非凸问题,定义通过去掉z
j
的秩为1的约束,进而得到优化目标函数变换为8.根据权利要求1所述的一种移动边缘计算辅助的多层联邦学习方法,其特征在于,步骤七中,利用求解器yalmip计算得到变量z
j
后,因为并且z
j
(9)=1,那么可以从z
j
(9,i)=z
j
(i)恢复出原始优化变量。9.根据权利要求1所述的一种移动边缘计算辅助的多层联邦学习方法,其特征在于,步骤八中,将计算出的卸载比例变量、计算资源分配变量和带宽资源分配变量结果导入总时延计算模型,得到多层联邦学习的最小时延。

技术总结
本发明提供了一种移动边缘计算辅助多层联邦学习方法,通过把设计多层联邦学习转化成为利用求解器求解函数最优解的过程,来获得高效的联邦学习方案。通过将车联网设备的联邦学习任务分发到边缘服务器及云服务器,进一步对通信资源与计算资源的合理分配获得多层学习过程的最小时延。利用该方法,可以让分布式的车联网设备参与到联邦学习中,通过移动边缘计算服务器的强大计算能力来弥补车联网设备计算资源有限的不足,从而获得更加精确的机器学习模型以及合理的通信资源、计算资源的分配方案,大大减小了传统联邦学习方法的时延。大大减小了传统联邦学习方法的时延。大大减小了传统联邦学习方法的时延。


技术研发人员:李慧博 王江舟 陈方园 陈小忠 李文博
受保护的技术使用者:浙江金乙昌科技股份有限公司
技术研发日:2022.04.08
技术公布日:2022/7/12
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1