本技术涉及联邦学习,尤其涉及一种模型共享激励方法、装置、设备及存储介质。
背景技术:
1、联邦学习是一种特殊的机器学习技术,其基本思想是在保证数据隐私安全的前提下,实现数据共享和模型更新。
2、现有技术方案大多将区块链和联邦学习系统进行融合,并提出相应的激励方法,通过区块链来对联邦学习节点的信誉进行评分,并根据信用度来对联邦学习节点发放奖励包,以此来解决联邦学习系统中的奖励分配问题,提高联邦学习模型的精确度和泛化能力。
3、但现有的技术方案对客户端数据分析不完善,训练效率低下。
技术实现思路
1、本技术提供一种模型共享激励方法、装置、设备及存储介质,用以解决现有的技术方案对客户端数据分析不完善,训练效率低下问题。
2、第一方面,本技术提供一种模型共享激励方法,包括:
3、确定参与方的参与方模型、参与方模型的损失、以及参与方的参与方模型参数;
4、根据参与方模型的损失,确定发起方模型的目标损失;
5、根据参与方的参与方模型参数、以及发起方的发起方模型输出结果,确定参与方的权重分散代价;
6、根据参与方的权重分散代价、以及发起方模型的目标损失,确定参与方中的初始目标参与方;
7、确定目标信息,目标信息至少包括发起方的边际贡献信息、发起方从参与方获得的利润信息、以及初始目标参与方的效用信息中的一种信息;
8、根据目标信息,从初始目标参与方中确定目标参与方。
9、在本技术中,在确定参与方的参与方模型、参与方模型的损失、以及参与方的参与方模型参数之前,方法还包括:
10、确定参与方的参与方数据、发起方的发起方模型;
11、根据发起方的发起方模型,对参与方的参与方数据进行联邦学习处理,得到联邦训练结果,联邦训练结果包括发起方的发起方模型数据、参与方的参与方模型参数、模型流向信息。
12、在本技术中,在根据发起方的发起方模型,对参与方的参与方数据进行联邦学习处理,得到联邦训练结果后,方法还包括:
13、将联邦训练结果发送至区块链进行模型交易记录。
14、在本技术中,根据参与方的参与方模型参数、以及发起方的发起方模型输出结果,确定参与方的权重分散代价,包括:
15、确定联邦训练结果;
16、根据联邦训练结果,确定参与方的参与方模型参数、以及发起方的发起方模型输出结果;
17、根据参与方的参与方模型参数,确定参与方模型数据的概率分布;
18、根据发起方的发起方模型输出结果,确定发起方模型数据的概率分布;
19、根据参与方模型数据的概率分布、以及发起方模型数据的概率分布,确定参与方的权重分散代价。
20、在本技术中,当目标信息为发起方的边际贡献信息时,确定目标信息,包括:
21、确定初始目标参与方对发起方的联邦服务贡献、以及发起方模型的协作成本;
22、根据初始目标参与方对发起方的联邦服务贡献、以及发起方模型的协作成本,确定联盟利润,其中,联盟利润表征为发起方的利润和;
23、根据联盟利润,确定发起方未加入联盟时的联盟初始利润;
24、根据联盟利润、以及发起方未加入联盟时的联盟初始利润,确定表征初始目标参与方的边际贡献的目标信息。
25、在本技术中,确定初始目标参与方对发起方的联邦服务贡献,包括:
26、确定初始目标参与方的参与方资格值、样本容量、以及权重分散代价;
27、根据初始目标参与方的参与方资格值、样本容量、以及权重分散代价,确定初始目标参与方对发起方的联邦服务贡献。
28、在本技术中,当目标信息为发起方从参与方获得的利润信息时,确定目标信息,包括:
29、确定发起方对初始目标参与方的奖励成本和满意度;
30、根据发起方对初始目标参与方的奖励成本和满意度,确定表征发起方从参与方获得的利润的目标信息。
31、在本技术中,当目标信息为初始目标参与方的效用信息时,确定目标信息,包括:
32、确定初始目标参与方收益、以及初始目标参与方的总能耗;
33、根据初始目标参与方收益、以及初始目标参与方的总能耗,确定表征初始目标参与方的效用的目标信息。
34、在本技术中,确定初始目标参与方的总能耗,包括:
35、确定初始目标参与方的传输功率、以及初始目标参与方与服务器的通信时间;
36、根据初始目标参与方的传输功率、以及初始目标参与方与服务器的通信时间,确定初始目标参与方的传输能耗;
37、确定初始目标参与方的cpu周期频率、初始目标参与方的参与方模型的cpu周期数、以及初始目标参与方的样本容量;
38、根据初始目标参与方的cpu周期频率、初始目标参与方的参与方模型的cpu周期数、以及初始目标参与方的样本容量,确定训练能耗;
39、根据初始目标参与方的传输能耗、以及训练能耗,确定初始目标参与方的总能耗。
40、在本技术中,在根据目标信息,从初始目标参与方中确定目标参与方之后,方法还包括:
41、确定目标参与方的参与方模型参数;
42、根据目标参与方的参与方模型参数,得到聚合结果;
43、根据聚合结果,将聚合结果发送到目标参与方,以使目标参与方更新目标参与方的参与方模型。
44、在本技术中,在根据目标参与方的参与方模型参数,得到聚合结果之后,方法还包括:
45、确定用户的获取请求和聚合结果;
46、将用户的获取请求发送到支付系统,以使支付系统将用户的获取请求发送到运营机构;
47、根据用户的获取请求,将聚合结果发送至目标参与方,并在聚合结果中,确定目标数据,以使运营机构将目标数据发送至虚拟机与用户进行交互。
48、第二方面,本技术提供一种模型共享激励装置,包括:
49、确定模块,用于确定参与方的参与方模型、参与方模型的损失、以及参与方的参与方模型参数;
50、第一计算模块,用于根据参与方模型的损失,确定发起方模型的目标损失;
51、第二计算模块,用于根据参与方的参与方模型参数、以及发起方的发起方模型输出结果,确定参与方的权重分散代价;
52、筛选模块,用于根据参与方的权重分散代价、以及发起方模型的目标损失,确定参与方中的初始目标参与方;
53、第三计算模块,用于确定目标信息,目标信息至少包括发起方的边际贡献信息、发起方从参与方获得的利润信息、以及初始目标参与方的效用信息中的一种信息;
54、得到模块,用于根据目标信息,从初始目标参与方中确定目标参与方。
55、第三方面,本技术提供一种电子设备,包括:处理器、以及与处理器通信连接的存储器;
56、存储器存储计算机执行指令;
57、处理器执行存储器存储的计算机执行指令,以实现本技术的方法。
58、第四方面,本技术提供一种计算机可读存储介质,包括:计算机可读存储介质中存储有计算机执行指令,计算机执行指令被处理器执行时用于实现本技术的方法。
59、本技术提供的一种模型共享激励方法、装置、设备及存储介质,通过确定参与方的参与方模型、参与方模型的损失、以及参与方的参与方模型参数;根据参与方模型的损失,确定发起方模型的目标损失;根据参与方的参与方模型参数、以及发起方的发起方模型输出结果,确定参与方的权重分散代价;根据参与方的权重分散代价、以及发起方模型的目标损失,确定参与方中的初始目标参与方;确定目标信息,目标信息至少包括发起方的边际贡献信息、发起方从参与方获得的利润信息、以及初始目标参与方的效用信息中的一种信息;根据目标信息,从初始目标参与方中确定目标参与方的手段,通过确定参与方的权重分散代价,从数据质量方面筛选客户端,通过计算发起方的边际贡献、参与方效用、发起方从参与方获得的利润,提供公平的激励机制,量化客户端对联邦任务的贡献,以联邦学习系统的利润最大化为目标,从数据处理能力方面筛选出目标客户端,解决了参与方之间数据资源和算力不平衡的问题,通过使用区块链记录模型交易信息,消除客户端与参数服务器之间的信息不对称,解决了模型共享过程中模型交易不可信问题,通过引入虚拟机打通联邦学习系统与支付系统,提高了联邦学习任务的训练效率与反馈效率。