联邦学习方法、装置、设备及存储介质与流程

文档序号:35816798发布日期:2023-10-22 07:38阅读:36来源:国知局
联邦学习方法、装置、设备及存储介质与流程

本发明涉及计算机,尤其涉及一种联邦学习方法、装置、设备及存储介质。


背景技术:

1、随着智能设备和互联网的发展,推动了人工智能等技术在数据处理方面的应用。然而,各企业大都不愿意泄露自身数据,并且因各地的数据隐私保护,导致出现数据孤岛现象。联邦学习规定以分布式协同训练方式完成模型训练,各客户端在本地训练模型,将训练参数传到中心服务器而不泄露自身数据,在很大程度上解决了数据隐私问题。

2、但是,目前联邦学习系统的可信度缺乏保障,导致恶意终端的非法行为无法追溯,无法保证训练过程的公平性和可靠性。

3、上述内容仅用于辅助理解本发明的技术方案,并不代表承认上述内容是现有技术。


技术实现思路

1、本发明的主要目的在于提供一种联邦学习方法、装置、设备及存储介质,旨在解决现有技术联邦学习的安全性及可靠性无法保障的技术问题。

2、为实现上述目的,本发明提供了一种联邦学习方法,所述方法包括以下步骤:

3、初始化联邦模型,并构建所述联邦模型对应的模型训练任务;

4、将所述模型训练任务分发至目标客户端,以使所述目标客户端对所述模型训练任务中携带的所述联邦模型进行训练;

5、接收所述目标客户端反馈的本地模型参数,并基于预设区块链对所述本地模型参数进行安全校验;

6、在安全校验通过时,根据所述本地模型参数对所述联邦模型进行更新。

7、可选的,所述将所述模型训练任务分发至目标客户端,以使所述目标客户端对所述模型训练任务中携带的模型进行训练的步骤,包括:

8、将所述模型训练任务分发至目标客户端,以使所述目标客户端从模型训练任务中提取所述联邦模型,根据本地数据集对所述联邦模型进行训练,并在训练结束后,反馈本地模型参数。

9、可选的,所述将所述模型训练任务分发至目标客户端,以使所述目标客户端从模型训练任务中提取所述联邦模型,根据本地数据集对所述联邦模型进行训练,并在训练结束后,反馈本地模型参数的步骤,包括:

10、将所述模型训练任务分发至目标客户端,以使所述目标客户端根据本地数据集对所述模型训练任务中所述联邦模型进行训练,并在训练结束后,获取训练后的所述联邦模型的模型参数,将所述模型参数存储至预设区块链,并将所述模型参数作为本地模型参数进行反馈。

11、可选的,所述接收所述目标客户端反馈的本地模型参数,并基于预设区块链对所述本地模型参数进行安全校验的步骤,包括:

12、接收所述目标客户端反馈的本地模型参数,从所述本地模型参数中提取模型标识信息;

13、根据所述模型标识信息在预设区块链中查找参数校验数据;

14、若所述本地模型参数与所述参数校验数据一致,则判定安全校验通过。

15、可选的,所述若所述本地模型参数与所述参数校验数据一致,则判定安全校验通过的步骤,包括:

16、对所述本地模型参数进行哈希运算,获得参数哈希值;

17、若所述参数哈希值与所述参数校验数据一致,则判定安全校验通过。

18、可选的,所述在安全校验通过时,根据所述本地模型参数对所述联邦模型进行更新的步骤之后,包括:

19、将更新后的联邦模型作为待检测模型;

20、检测所述待检测模型是否满足预设全局收敛条件;

21、若不满足,则根据所述待检测模型构建新的模型训练任务,并返回所述将所述模型训练任务分发至目标客户端的步骤。

22、可选的,所述检测更新后的联邦模型是否满足预设全局收敛条件的步骤,包括:

23、若满足,则将所述待检测模型发送至所述目标客户端,以使所述目标客户端依据预设轮次根据本地数据集对所述待检测模型进行多轮训练,并在训练后的待检测模型满足本地收敛条件时,停止对所述待检测模型的训练。

24、此外,为实现上述目的,本发明还提出一种联邦学习装置,所述联邦学习装置包括以下模块:

25、任务构建模块,用于初始化联邦模型,并构建所述联邦模型对应的模型训练任务;

26、任务分发模块,用于将所述模型训练任务分发至目标客户端,以使所述目标客户端对所述模型训练任务中携带的所述联邦模型进行训练;

27、参数校验模块,用于接收所述目标客户端反馈的本地模型参数,并基于预设区块链对所述本地模型参数进行安全校验;

28、模型更新模块,用于在安全校验通过时,根据所述本地模型参数对所述联邦模型进行更新。

29、此外,为实现上述目的,本发明还提出一种联邦学习设备,所述联邦学习设备包括:处理器、存储器及存储在所述存储器上并可在所述处理器上运行的联邦学习程序,所述联邦学习程序被处理器执行时实现如上所述的联邦学习方法的步骤。

30、此外,为实现上述目的,本发明还提出一种计算机可读存储介质,所述计算机可读存储介质上存储有联邦学习程序,所述联邦学习程序执行时实现如上所述的联邦学习方法的步骤。

31、本发明通过初始化联邦模型,并构建联邦模型对应的模型训练任务;将模型训练任务分发至目标客户端,以使目标客户端对模型训练任务中携带的联邦模型进行训练;接收目标客户端反馈的本地模型参数,并基于预设区块链对本地模型参数进行安全校验;在安全校验通过时,根据本地模型参数对联邦模型进行更新。由于是在联邦学习过程中引入区块链,可以通过区块链存储的数据对各目标客户端反馈的本地模型参数进行安全校验,并在安全校验通过之后,才会对联邦模型进行更新,提高了本发明联邦学习方法的可信度及安全性。



技术特征:

1.一种联邦学习方法,其特征在于,所述联邦学习方法包括以下步骤:

2.如权利要求1所述的联邦学习方法,其特征在于,所述将所述模型训练任务分发至目标客户端,以使所述目标客户端对所述模型训练任务中携带的模型进行训练的步骤,包括:

3.如权利要求2所述的联邦学习方法,其特征在于,所述将所述模型训练任务分发至目标客户端,以使所述目标客户端从模型训练任务中提取所述联邦模型,根据本地数据集对所述联邦模型进行训练,并在训练结束后,反馈本地模型参数的步骤,包括:

4.如权利要求3所述的联邦学习方法,其特征在于,所述接收所述目标客户端反馈的本地模型参数,并基于预设区块链对所述本地模型参数进行安全校验的步骤,包括:

5.如权利要求4所述的联邦学习方法,其特征在于,所述若所述本地模型参数与所述参数校验数据一致,则判定安全校验通过的步骤,包括:

6.如权利要求1所述的联邦学习方法,其特征在于,所述在安全校验通过时,根据所述本地模型参数对所述联邦模型进行更新的步骤之后,包括:

7.如权利要求6所述的联邦学习方法,其特征在于,所述检测更新后的联邦模型是否满足预设全局收敛条件的步骤,包括:

8.一种联邦学习装置,其特征在于,所述联邦学习装置包括以下模块:

9.一种联邦学习设备,其特征在于,所述联邦学习设备包括:处理器、存储器及存储在所述存储器上并可在所述处理器上运行的联邦学习程序,所述联邦学习程序被处理器执行时实现如权利要求1-7中任一项所述的联邦学习方法的步骤。

10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有联邦学习程序,所述联邦学习程序执行时实现如权利要求1-7中任一项所述的联邦学习方法的步骤。


技术总结
本发明属于计算机技术领域,公开了一种联邦学习方法、装置、设备及存储介质。本申请通过初始化联邦模型,并构建联邦模型对应的模型训练任务;将模型训练任务分发至目标客户端,以使目标客户端对模型训练任务中携带的联邦模型进行训练;接收目标客户端反馈的本地模型参数,并基于预设区块链对本地模型参数进行安全校验;在安全校验通过时,根据本地模型参数对联邦模型进行更新。由于是在联邦学习过程中引入区块链,可以通过区块链存储的数据对各目标客户端反馈的本地模型参数进行安全校验,并在安全校验通过之后,才会对联邦模型进行更新,提高了本发明联邦学习方法的可信度及安全性。

技术研发人员:张高山,杜雪涛,常嘉岳,洪东,尹子轩,詹义,巴特尔,朱华,王雪,倪宁宁,刘仲思,方明星
受保护的技术使用者:中国移动通信集团设计院有限公司
技术研发日:
技术公布日:2024/1/15
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1