一种面向群智服务的区块链节点贡献度证明共识方法

文档序号:26533808发布日期:2021-09-04 14:44阅读:81来源:国知局
一种面向群智服务的区块链节点贡献度证明共识方法

1.本发明涉及区块链技术领域,更具体的说是涉及一种面向群智服务的区块链节点贡献度证明共识方法。


背景技术:

2.群智服务是由群体性的智能边缘节点协作提供服务,联邦学习是典型的应用框架之一。联邦学习是一种协作式的机器学习框架,参与协作的节点利用本地数据训练本地模型,通过参数服务器进行模型聚合,实现多来源数据的预测效果。在联邦学习模型聚合过程中需要区块链节点的多方共识验证,然而现有的共识算法并不完全适用于此场景。工作量证明(proof of work,pow)不仅会消耗大量节点算力,也不利于轻量级边缘节点的参与。用户权益证明(proof of stake,pos)中不在线节点也可以积累币龄,可能导致参与节点搭便车的行为。
3.因此,如何提供一种能够有效节省计算开销并提高公平性的面向群智服务的区块链节点贡献度证明共识方法是本领域技术人员亟需解决的问题。


技术实现要素:

4.有鉴于此,本发明提供了一种面向群智服务的区块链节点贡献度证明共识方法,解决了现有技术在群智服务模型共识验证过程中造成的资源开销与不公平问题。
5.为了实现上述目的,本发明采用如下技术方案:
6.一种面向群智服务的区块链节点贡献度证明共识方法,包括以下步骤:
7.s1.获取现有区块链的最后一个区块的时间戳、节点第一次加入区块链的网络时间戳与下线时间戳,计算节点在线贡献度;
8.s2.本地模型进行训练,计算本地模型质量评估结果交叉熵,确定本地模型贡献度,广播梯度数据进行共享;
9.s3.计算数据信息熵,统计样本数据量,通过数据信息熵和数据量确定数据贡献度;
10.s4.通过差分隐私生成对抗网络dpgan为群智服务参数验证节点提供用于验证模型质量的对抗样本数据集,触发模型参数质量验证智能合约,通过对抗样本数据集对共享得到的梯度数据和本地模型质量评估结果进行验证,若满足验证条件,则执行步骤s5,否则舍弃当前的梯度数据;
11.s5.参与节点利用本地数据训练,并结合共享得到的梯度数据,聚合得到联合训练模型,完成群智服务协作过程;将节点在线贡献度、本地模型贡献度和数据贡献度相加获取评估节点贡献度,其中节点贡献度评估参与节点对联合训练模型的贡献度,并为参与节点分配与节点贡献度成反比例的挖矿难度系数,动态调整挖矿难度,并通过挖矿达成账本共识。
12.需要说明的是:
13.节点下线时间戳指的是区块链网络中的节点退出网络的时间戳。
14.本发明通过节点在线时间判断节点在线资源开销贡献度;通过模型质量评估结果的交叉熵数据判断节点本地模型质量贡献度;最后计算节点本地数据信息熵与数据量占比判断节点数据贡献度;基于上述三个维度判断群智服务参与节点对整个协作式群智服务模型的贡献度;另一方面,本地模型与模型质量验证结果需要经过共识机制验证后记录在区块链上以便数据共享。首先将本地模型参数与模型质量验证结果以交易形式打包上链,基于节点贡献度动态调整挖矿难度系数,避免过度的计算开销,保证共识过程的公平性。此外,当接收到区块链记账请求req时,根据区块链网络中节点的贡献值从交易区块链中选择一个主节点负责接收交易请求。在一段时间内,选择贡献度最大的节点作为主节点,负责响应请求并推动整体的共识流程。
15.上述基于群智服务参与者包括:群智服务任务发布者和执行本地随机梯度下降算法的智能边缘设备。其中任务发布者提出模型训练需求,负责将可进行联合训练的参与节点构建联合训练组,并可对参与节点进行信誉评估,以避免参与节点作恶与搭便车行为。本地随机梯度下降算法需要接收到初始训练模型之后,利用本地数据不断优化迭代此模型,并将训练的中间梯度参数广播后与区块链上共享的本地模型参数进行聚合,各节点不断优化聚合模型以达到模型收敛条件。
16.优选的,s1的具体内容包括:
17.通过下线时间戳减去节点第一次加入区块链的网络时间戳获取节点的下线时间间隔,通过最后一个区块的时间戳减去节点第一次加入区块链的网络时间戳获取节点在线时间段,将节点在线时间段与下线时间间隔相减获取在线时间贡献度;
18.通过提前预设的在线时间贡献度调节系数控制在线时间贡献度的比例。
19.需要说明的是:
20.通过由用户提前预设的在线时间贡献度调节系数(大于0小于1)控制,用该调节系数乘以在线时间贡献度得出节点在线贡献度数值。
21.优选的,s2中的内容具体包括:
22.本地模型进行训练的过程为:群智服务任务发布者向各参与节点分发初始模型;
23.各参与节点基于初始模型,利用本地数据执行多轮随机梯度下降算法,优化本地模型,迭代固定轮数之后将训练梯度与训练损失进行广播上链;
24.通过标签数据测试本地模型训练效果,交叉熵是衡量模型质量的损失函数值,通过计算标签数据期望输出与预测结果间的偏差表征模型预测结果与真实结果的逼近程度;
25.交叉熵越小,则代表模型预测的概率分布越接近真实结果,即模型质量越高。
26.需要说明的是:
27.交叉熵是衡量训练后的本地模型在标签数据集进行测试后的损失值,用于衡量模型训练的质量。
28.标签数据是用于测试模型训练效果的数据集,由测试集和验证集组成,测试集用于模型训练,验证集提前打好标签用于测试模型训练的准确率。
29.优选的,s3中的数据信息熵表征数据价值,数据量为节点本地训练样本数据量在整体数据样本中的占比。
30.优选的,s4中模型参数质量验证智能合约验证的具体内容包括:
31.参与节点基于本地训练样本进行差分隐私后采用dpgan产生对抗样本数据集并进行广播;
32.其他节点收到广播的梯度数据与训练损失,训练损失为本地模型质量评估结果即交叉熵,自动触发模型参数质量验证智能合约,通过对抗样本数据集对共享得到的梯度数据和本地模型质量评估结果进行验证;
33.如果差值小于预设范围则验证通过,否则验证失败,验证失败后则将所接收到的梯度数据舍弃,以免影响聚合模型准确性。
34.需要说明的是:
35.验证节点训练损失与被验证节点训练损失之差,用于评估被验证节点提交参数的准确性,从而降低了节点搭便车提供虚假损失值的风险。
36.优选的,s5的账本共识具体内容包括:共识过程开始之后,联合训练模型中节点贡献度最高的节点被选为主节点接受交易请求;各节点进行本地训练,将本地训练损失广播给联合训练模型中的其他节点,并以交易形式打包发送;节点本地模型梯度数据与当前轮模型质量评估结果交叉熵打包为区块,竞争后记录在区块链上;为保证记账竞争的公平性,基于工作量证明机制,动态调整挖矿难度,对节点贡献度大的节点,降低其挖矿难度,以便质量较高的模型快速上链。
37.需要说明的是:
38.节点本地模型梯度数据与当前轮模型质量评估结果交叉熵打包为区块,竞争后记录在区块链上的具体内容包括:
39.节点训练本地模型后,为了避免原始数据隐私泄露,仅将模型训练的中间梯度参数以及该轮模型训练质量评估结果(交叉熵)打包为区块,区块链网络中的矿工通过贡献度证明共识算法挖矿,争夺记账权,挖矿成功的矿工将区块信息追加在当前区块链结尾,完成记账。
40.一种面向群智服务的区块链节点贡献度证明共识装置,包括区块链矿工模块、模型训练模块、模型聚合模块和模型验证模块;
41.其中,区块链矿工模块用于实现数据交易;
42.模型训练模块用于实现模型的训练过程;
43.模型聚合模块用于实现联合训练模型的聚合;
44.模型验证模块用于对训练后的模型进行验证。
45.一种计算机设备,所述设备包括:存储器和一个或一个以上的处理器;
46.存储器,用于存储一个或一个以上的程序;
47.当一个或一个以上的程序被处理器执行时,使得处理器执行上述方法。
48.一种计算机可读存储介质,存储有计算机可执行指令,指令被处理器执行时实现上述方法。
49.经由上述的技术方案可知,与现有技术相比,本发明公开提供了一种面向群智服务的区块链节点贡献度证明共识方法,可以基于参与节点对协作训练过程中的贡献度进行量化评估,并基于参与节点贡献度动态调整共识过程挖矿难度系数,提升群智服务过程与共识机制的公平性。由于全量高维梯度数据可能推理攻击而存在隐私泄露问题,因此本发明考虑将梯度压缩之后进行广播,从而避免因完整梯度数据而造成参与节点本地数据隐私
泄露。为了保证本地模型参数质量的可验证性,采用智能合约进行本地模型参数自动化验证操作。通过基于差分隐私保护的生成对抗网络(dpgan),将原始数据经过差分隐私加噪后训练生成可以公开的对抗样本数据进行广播,以免原始样本数据的隐私泄露。智能合约通过验证对抗样本与模型参数从而对本地模型质量进行评估,舍弃低质量的模型参数。
附图说明
50.为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。
51.图1附图为本发明提供的一种面向群智服务的区块链节点贡献度证明共识方法的概要示意图;
52.图2附图为本发明提供的一种面向群智服务的区块链节点贡献度证明共识方法的整体流程示意图;
53.图3附图为本发明提供的一种面向群智服务的区块链节点贡献度证明共识方法的中间梯度参数压缩与共享流程示意图。
具体实施方式
54.下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
55.本发明实施例公开了一种面向群智服务的区块链节点贡献度证明共识方法,如图1所示,计算群智服务参与节点的贡献度,基于节点贡献度动态调整共识过程的挖矿难度达成本地模型参数分布式账本记账共识。如图2所示,基于区块链的群智服务参与者贡献度证明共识的过程如下:
56.1)获取第一个与最后一个区块时间戳以及节点下线时间,计算节点在线贡献度;
57.2)参与节点提供本地数据信息熵与数据量结果(以mb为单位);
58.3)节点本地训练模型,广播经过梯度压缩后的高维梯度数据以及本地模型质量评估结果,并行执行步骤4);
59.4)触发模型参数质量验证智能合约,通过dpgan生成的对抗样本对输入的梯度数据与模型质量评估结果进行验证,如果满足验证条件执行5),否则执行6);
60.5)将1)2)3)步骤计算得到节点贡献度进行加和,并为节点分配与贡献度成反比例的挖矿难度系数,开始挖矿直至挖矿成功,本地模型参数记录上链;
61.6)对未通过本地模型参数验证的节点进行惩罚,并舍弃其提供的本地模型参数,不进行上链操作。
62.本地模型参数智能合约验证过程包括:参与节点将本地模型训练的中间梯度数据进行压缩,并将本地训练的交叉熵损失函数广播,其中中间梯度参数压缩与共享流程示意图如图3所示。参与节点基于本地训练样本进行差分隐私后采用dpgan产生对抗样本并进行
广播。接收到广播参数的节点通过本地参与与对抗样本对交叉熵损失函数进行验证,如果差值小于一定范围则验证通过,可以进行上链共识,否则将参数舍弃,以免影响聚合模型准确性。
63.使用此方案通过参与者贡献度证明共识节省了参与节点共识过程的资源开销,并提升了节点参与的公平性。采用区块链技术实现了群智服务本地模型的参数共享,并且降低了低质量模型对聚合模型准确率的影响。通过梯度压缩,降低了中间梯度数据隐私泄露的风险,通过执行智能合约将本地模型参数的验证自动化,节省了参数管理维护和管理的成本,提高了效率。验证数据集通过差分隐私生成对抗网络(dpgan)产生对抗样本,通过对抗样本验证本地模型参数质量,不仅保证本地训练参数不被暴露,还可提供可验证模型参数的数据集。通过此方案可以实现群智服务参与节点协作式训练的公平性,减轻节点共识过程的计算与存储负担。本方案精准解决群智服务中参数共识的节点公平性问题与中间参数隐私泄露。
64.群智服务由多种类型的智能边缘设备协作提供智能服务。随着移动通讯技术和智能边缘设备的兴起,群智服务将在智慧城市、电子医疗、无线通讯、移动边缘网络等领域有着广泛的应用前景。然而群智服务中涉及多节点的协作训练,如何保证多节点参与的公平性是推动群智服务进一步落地的关键问题。特别是协作训练过程中可能涉及到一些恶意节点参与和节点搭便车行为造成的聚合模型质量不高,影响了群智服务的进一步发展。此外,由于高维梯度数据可能造成本地训练数据的隐私泄露,从而将群智服务特有的优势掩盖。为了上述问题,本公开将区块链引入群智服务多节点协作训练场景,科学量化参与节点的贡献度,并根据贡献度动态调整区块链共识过程中的挖矿难度,改进了工作量证明共识机制,降低了节点的资源浪费,提升了参与节点的公平性。
65.为了避免恶意节点提供虚假的模型参数,本公开采用基于差分隐私保护的生成对抗网络(differential privacy with generative adversarial network,dpgan)提供对抗样本验本地模型参数。dpgan是一种融合了差分隐私和生成对抗网络(gan)的深度学习网络模型,提供了一种保护中间梯度隐私的生成对抗网络模型。由于深度学习网络模型的高度复杂性,完整的中间梯度数据很容易暴露训练样本,因此对梯度加噪是目前常用的梯度隐私保护方法。dpgan不仅利用差分隐私对数据样本隐私保护,并基于加躁的数据样本训练得到对抗样本,对抗样本不会暴露节点本地数据隐私,并且还可用于模型质量验证。通过智能合约自动化验证模型参数质量,从而避免虚假的本地模型参数,提升了聚合模型的可靠性。本公开提出的基于区块链的群智服务参与者贡献度证明方式实现了群智服务参与节点的分布式自治训练,并且通过改进的参与者贡献度证明算法降低了节点共识过程的资源浪费,提升了节点参与的公平性。通过区块链保存经过压缩的中间梯度参数与模型质量验证结果,不仅实现了共享数据透明,还具备了参数不可篡改和可追溯的特性。
66.本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可。对于实施例公开的装置而言,由于其与实施例公开的方法相对应,所以描述的比较简单,相关之处参见方法部分说明即可。
67.对所公开的实施例的上述说明,使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的
一般原理可以在不脱离本发明的精神或范围的情况下,在其它实施例中实现。因此,本发明将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1