联邦学习方法、装置以及设备与流程

文档序号:25617783发布日期:2021-06-25 16:19阅读:来源:国知局

技术特征:
1.一种联邦学习方法,包括:确定根据客户端之间的相似度进行聚类得到的多个客户端组,以及所述客户端组中的代表客户端;通过所述代表客户端,向所述客户端组发送训练请求;接收所述代表客户端反馈的所述客户端组中部分客户端的训练数据,所述部分客户端由预先训练的弹性上传预测模型根据客户端状态确定;通过所述训练数据确定梯度数据,并向所述代表客户端发送所述梯度数据,以使所述客户端组中的客户端进行梯度更新。2.如权利要求1所述的方法,所述通过所述代表客户端,向所述客户端组发送训练请求之后,所述方法还包括:接收所述多个中至少一个客户端组中的代表客户端的拒绝训练响应;其中,所述拒绝训练响应表示对应的代表客户端由于不符合条件本次不反馈训练数据,所述条件包括根据弹性上传预测模型确定对应的客户端组有足够数量的客户端处于可训练状态。3.如权利要求1所述的方法,根据客户端之间的相似度进行聚类得到多个客户端组,具体包括:获取客户端的位置特征和交易特征;根据所述位置特征和所述交易特征,在指定空间中确定反映所述客户端之间相似度的空间距离;根据所述空间距离进行聚类得到多个客户端组。4.如权利要求3所述的方法,所述根据所述位置特征和所述交易特征,在指定空间中确定反映所述客户端之间相似度的空间距离,具体包括:根据所述位置特征,确定所述客户端之间的地理距离;确定所述交易特征至少包含的商店类型;根据所述地理距离、所述交易特征,以及预先为不同商店类型定义的相似度参数,在指定空间中确定所述客户端之间的空间距离。5.如权利要求3所述的方法,所述根据所述位置特征和所述交易特征,在指定空间中确定反映所述客户端之间相似度的空间距离,具体包括:根据图卷积神经网络,确定指定空间中包含多个客户端的局部拓扑与单个客户端之间的对应关系;根据所述对应关系,以及所述多个客户端的所述位置特征和所述交易特征,确定反映所述单个客户端与其他客户端之间相似度的空间距离。6.一种联邦学习方法,包括:代表客户端接收云端发送的训练请求,所述代表客户端属于客户端组,所述客户端组为预先根据客户端之间的相似度进行聚类得到的;接收所述客户端组中部分客户端的训练数据,所述部分客户端由预先训练的弹性上传预测模型根据客户端状态确定;将所述训练数据发送至所述云端,以使所述云端通过所述训练数据确定梯度数据;接收所述云端返回的所述梯度数据;
将所述梯度数据发送至所述部分客户端,以使所述部分客户端进行梯度更新。7.如权利要求6所述的方法,所述代表客户端接收云端发送的训练请求之后,所述方法还包括:向所述客户端组中的其他客户端发送所述训练请求,以使所述其他客户端通过预先训练的弹性上传预测模型根据客户端状态确定第一预测结果;接收所述其他客户端反馈的所述第一预测结果,并根据所述第一预测结果若确定所述客户端组中没有足够数量的客户端处于可训练状态,则向所述云端发送拒绝训练响应,以表示本次不反馈训练数据。8.如权利要求6所述的方法,所述客户端搭载于物联网设备上,所述弹性上传预测模型的训练过程包括:采集训练样本,所述训练样本包括客户端状态,所述客户端状态与客户端处理的业务、所在的物联网设备状态、需要提供的训练数据中的至少一种相关;根据所述训练样本,以及所述训练样本对应的标签,训练得到弹性上传预测模型。9.如权利要求6所述的方法,所述将所述梯度数据发送至所述部分客户端,以使所述部分客户端进行梯度更新,具体包括:将更新请求发送至所述部分客户端,以使所述部分客户端通过预先训练的弹性更新预测模型根据客户端状态确定第二预测结果;接收所述部分客户端反馈的所述第二预测结果,并根据所述第二预测结果确定所述客户端组中有足够数量的客户端处于可更新状态;向处于所述可更新状态的客户端发送所述更新指令,以使处于所述可更新状态的客户端根据所述梯度数据进行梯度更新。10.一种联邦学习装置,包括:确定模块,确定根据客户端之间的相似度进行聚类得到的多个客户端组,以及所述客户端组中的代表客户端;训练请求发送模块,通过所述代表客户端,向所述客户端组发送训练请求;第一训练数据接收模块,接收所述代表客户端反馈的所述客户端组中部分客户端的训练数据,所述部分客户端由预先训练的弹性上传预测模型根据客户端状态确定;第一梯度数据发送模块,通过所述训练数据确定梯度数据,并向所述代表客户端发送所述梯度数据,以使所述客户端组中的客户端进行梯度更新。11.如权利要求10所述的装置,还包括:第一拒绝训练响应模块,接收所述多个中至少一个客户端组中的代表客户端的拒绝训练响应;其中,所述拒绝训练响应表示对应的代表客户端由于不符合条件本次不反馈训练数据,所述条件包括根据弹性上传预测模型确定对应的客户端组有足够数量的客户端处于可训练状态。12.如权利要求10所述的装置,所述确定模块包括特征获取模块、空间距离确定模块、聚类模块;所述特征获取模块,获取客户端的位置特征和交易特征;所述空间距离确定模块,根据所述位置特征和所述交易特征,在指定空间中确定反映
所述客户端之间相似度的空间距离;所述聚类模块,根据所述空间距离进行聚类得到多个客户端组。13.如权利要求12所述的装置,所述空间距离确定模块,根据所述位置特征,确定所述客户端之间的地理距离;确定所述交易特征至少包含的商店类型;根据所述地理距离、所述交易特征,以及预先为不同商店类型定义的相似度参数,在指定空间中确定所述客户端之间的空间距离。14.如权利要求12所述的装置,所述空间距离确定模块,根据图卷积神经网络,确定指定空间中包含多个客户端的局部拓扑与单个客户端之间的对应关系;根据所述对应关系,以及所述多个客户端的所述位置特征和所述交易特征,确定反映所述单个客户端与其他客户端之间相似度的空间距离。15.一种联邦学习装置,包括:训练请求接收模块,代表客户端接收云端发送的训练请求,所述代表客户端属于客户端组,所述客户端组为预先根据客户端之间的相似度进行聚类得到的;第二训练数据接收模块,接收所述客户端组中部分客户端的训练数据,所述部分客户端由预先训练的弹性上传预测模型根据客户端状态确定;训练数据发送模块,将所述训练数据发送至所述云端,以使所述云端通过所述训练数据确定梯度数据;梯度数据接收模块,接收所述云端返回的所述梯度数据;第二梯度数据发送模块,将所述梯度数据发送至所述部分客户端,以使所述部分客户端进行梯度更新。16.如权利要求15所述的装置,还包括:第二拒绝训练响应模块,向所述客户端组中的其他客户端发送所述训练请求,以使所述其他客户端通过预先训练的弹性上传预测模型根据客户端状态确定第一预测结果;接收所述其他客户端反馈的所述第一预测结果,并根据所述第一预测结果若确定所述客户端组中没有足够数量的客户端处于可训练状态,则向所述云端发送拒绝训练响应,以表示本次不反馈训练数据。17.如权利要求15所述的装置,所述客户端搭载于物联网设备上,所述弹性上传预测模型的训练过程包括:采集训练样本,所述训练样本包括客户端状态,所述客户端状态与客户端处理的业务、所在的物联网设备状态、需要提供的训练数据中的至少一种相关;根据所述训练样本,以及所述训练样本对应的标签,训练得到弹性上传预测模型。18.如权利要求15所述的装置,所述第二梯度数据发送模块,将更新请求发送至所述部分客户端,以使所述部分客户端通过预先训练的弹性更新预测模型根据客户端状态确定第二预测结果;接收所述部分客户端反馈的所述第二预测结果,并根据所述第二预测结果确定所述客户端组中有足够数量的客户端处于可更新状态;向处于所述可更新状态的客户端发送所述更新指令,以使处于所述可更新状态的客户端根据所述梯度数据进行梯度更新。
19.一种联邦学习设备,包括:至少一个处理器;以及,与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够:确定根据客户端之间的相似度进行聚类得到的多个客户端组,以及所述客户端组中的代表客户端;通过所述代表客户端,向所述客户端组发送训练请求;接收所述代表客户端反馈的所述客户端组中部分客户端的训练数据,所述部分客户端由预先训练的弹性上传预测模型根据客户端状态确定;通过所述训练数据确定梯度数据,并向所述代表客户端发送所述梯度数据,以使所述客户端组中的客户端进行梯度更新。20.一种联邦学习设备,包括:至少一个处理器;以及,与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够:代表客户端接收云端发送的训练请求,所述代表客户端属于客户端组,所述客户端组为预先根据客户端之间的相似度进行聚类得到的;接收所述客户端组中部分客户端的训练数据,所述部分客户端由预先训练的弹性上传预测模型根据客户端状态确定;将所述训练数据发送至所述云端,以使所述云端通过所述训练数据确定梯度数据;接收所述云端返回的所述梯度数据;将所述梯度数据发送至所述部分客户端,以使所述部分客户端进行梯度更新。
当前第2页1 2 3 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1