基于联邦边缘学习的图像分类方法以及相关设备与流程

1.本技术涉及计算机技术领域，尤其涉及一种基于联邦边缘学习的图像分类方法以及相关设备。


背景技术：

2.在无线网络边缘融入人工智能，进行实时的分布式智能训练，是实现通信网络全面智能化升级的一个关键技术挑战。联邦学习凭借用户隐私和数据安全方面具有独特的优势，也获得了非常广泛的关注。在联邦学习中，各个边缘设备在边缘服务器的协调下，利用本地数据联合训练共享的机器学习模型。
3.对于计算机视觉领域中的图像分类技术，其在实际应用中对数据隐私的保护需求使得原始数据无法共享，多个数据源之间形成“数据孤岛”。基于联邦边缘学习的图像分类因此被提出，通过联邦学习方式训练分类模型，使得每个联邦学习的参与者能够从其他参与者的图像数据中获益，同时能够确保每个参与者的图像数据不离开本地，在保证了各方数据隐私的前提下成功解决了数据孤岛的问题。
4.然而，基于传统联邦边缘学习的图像分类方法，当存在过多边缘设备或需要较多迭代训练时，则存在通信开销大、模型训练效率慢等问题，另一方面，边缘设备上传的模型参数仍然存在有用信息，边缘服务器(或环境中的窃听者)可以从接收信息中恶意推断出边缘设备的私有信息。


技术实现要素：

5.本技术实施例的主要目的在于提出一种基于联邦边缘学习的图像分类方法以及相关设备，通过无线信道的叠加特性对所有边缘设备上传的模型参数进行汇总平均，提高图像分类方法中模型学习的收敛速度，同时注入噪声，加强隐私保护。
6.为实现上述目的，本技术实施例的第一方面提出了一种基于联邦边缘学习的图像分类方法，所述方法应用于联邦边缘学习系统，所述联邦边缘学习系统包括边缘服务器以及多个边缘设备，多个所述边缘设备与所述边缘服务器通过无线信道通信连接，所述方法包括：
7.通过多个所述边缘设备分别获取本地图像样本数据，并对所述本地图像样本数据进行随机采样得到批量图像样本数据；
8.通过多个所述边缘设备分别基于所述批量图像样本数据对所述图像分类模型的模型参数进行更新，直至满足预设条件，将更新后的模型参数作为本轮迭代训练的本地模型参数；
9.通过多个所述边缘设备分别经过所述无线信道同时向所述边缘服务器发送第一传输信号，所述第一传输信号携带有以第一传输功率发送的所述本地模型参数和以第二传输功率注入的第一随机噪声；
10.通过所述边缘服务器接收由多个所述边缘设备同时发送的第一传输信号聚合而
成的第一接收信号，并根据所述第一接收信号确定下一轮迭代训练的全局模型参数；
11.通过多个所述边缘设备分别接收所述边缘服务器广播发送的所述全局模型参数，并根据所述全局模型参数对所述图像分类模型的模型参数进行更新处理，得到目标图像分类模型；
12.通过多个所述边缘设备分别获取待分类图像，将所述待分类图像输入所述目标图像分类模型，以通过所述目标图像分类模型得到所述待分类图像的分类结果。
13.根据本技术一些实施例提供的基于联邦边缘学习的图像分类方法，所述第一传输信号通过以下公式确定：
[0014][0015]
其中，所述s
k,t
表示第k个所述边缘设备在第t轮迭代训练时向所述边缘服务器的第一传输信号，所述表示第k个所述边缘设备在第t轮迭代训练时获得的本地模型参数，所述n
k,t
表示第k个所述边缘设备在第t轮迭代训练使用的第一随机噪声，所述p
k,t
表示用于发送本地模型参数的第一传输功率，所述表示用于注入第一随机噪声n
k,t
的第二传输功率；
[0016]
所述第一接收信号通过以下公式确定：
[0017][0018]
其中，所述y
t
表示第t轮迭代训练的全局模型参数，所述h
k,t
表示第k个所述边缘设备与所述边缘服务器在第t轮迭代训练时的复数信道系数，所述z
t
为第二随机噪声，服从为第二随机噪声，服从为所述第二随机噪声的噪声功率，i为单位矩阵；
[0019]
所述根据所述第一接收信号确定下一轮迭代训练的全局模型参数，所述方法还包括：
[0020]
根据所述第一接收信号、所述边缘设备的数量以及预设的降噪因子，确定下一轮迭代训练的全局模型参数。
[0021]
根据本技术一些实施例提供的基于联邦边缘学习的图像分类方法，所述方法还包括：
[0022]
通过所述边缘设备以及所述边缘服务器分别获取预设的传输功率优化模型以及约束条件，所述约束条件包括所述边缘设备的最大发送功率约束以及平均发送功率约束；
[0023]
在所述根据所述第一接收信号、所述边缘设备的数量以及预设的降噪因子，确定下一轮迭代训练的全局模型参数之前，所述方法还包括：
[0024]
对所述传输功率优化模型进行求解处理，得到在所述约束条件下所述传输功率优化模型取得最优解时的降噪因子；
[0025]
在所述通过多个所述边缘设备分别经过所述无线信道同时向所述边缘服务器发送第一传输信号之前，所述方法还包括：
[0026]
对所述传输功率优化模型进行求解处理，分别得到在所述约束条件下所述传输功率优化模型取得最优解时用于发送所述本地模型参数的第一传输功率以及第一随机噪声的第二传输功率；
[0027]
所述传输功率优化模型通过以下公式确定：
[0028]
其中，
[0029][0030][0031][0032][0033]ct
＝1-(ω-1)μγ
t
；
[0034]
所述t表示迭代训练总次数，所述k表示参与联邦学习的边缘设备总数，所述η
t
表示第t次迭代训练的降噪因子，所述表示第k个所述边缘设备在第t次迭代训练时使用的第一随机噪声的噪声功率，所述l表示smoothness系数，所述γ
t-1
为第t-1次迭代训练时的学习率，所述ω表示所述边缘设备的本地迭代训练次数，所述表示预设的模型上界，所述μ为pl系数；
[0035]
所述最大发送功率约束为：
[0036][0037]
所述平均发送功率约束为：
[0038][0039]
其中，所述表示第k个所述边缘设备对应的最大发送功率，所述表示第k个所述边缘设备对应的平均发送功率，所述t表示迭代训练的总次数，所述q表示所述边缘设备向所述边缘服务器传输数据时使用的符号数量。
[0040]
根据本技术一些实施例提供的基于联邦边缘学习的图像分类方法，所述对所述传输功率优化模型进行求解处理，得到在所述约束条件下所述传输功率优化模型取得最优解时的降噪因子，包括：
[0041]
获取上一轮迭代训练中的第一传输功率以及第二传输功率；
[0042]
基于上一轮迭代训练中的第一传输功率以及第二传输功率，对所述传输功率优化模型进行求解处理，得到在所述约束条件下所述传输功率优化模型取得最优解时本轮迭代训练中的降噪因子；
[0043]
所述对所述传输功率优化模型进行求解处理，得到在所述约束条件下所述传输功率优化模型取得最优解时用于发送所述本地模型参数的第一传输功率以及第一随机噪声的第二传输功率，包括：
[0044]
获取上一轮迭代训练中的第二传输功率以及本轮迭代训练中的降噪因子；
[0045]
基于上一轮迭代训练中的第二传输功率以及本轮迭代训练中的降噪因子，对所述
传输功率优化模型进行求解处理，得到在所述约束条件下所述传输功率优化模型取得最优解时本轮迭代训练中用于发送所述本地模型参数的第一传输功率；
[0046]
基于本轮迭代训练中的第一传输功率以及降噪因子，对所述传输功率优化模型进行求解处理，得到在所述约束条件下所述传输功率优化模型取得最优解时本轮迭代训练中用于发送第一随机噪声的第二传输功率。
[0047]
根据本技术一些实施例提供的基于联邦边缘学习的图像分类方法，在所述对所述传输功率优化模型进行求解处理之前，所述方法还包括：
[0048]
获取预设的隐私水平约束，所述隐私水平约束由所述边缘设备向所述边缘服务器传输数据的过程中有效噪声的标准偏差以及注入所述第一随机噪声的敏感度上界确定；
[0049]
所述对所述传输功率优化模型进行求解处理，包括：
[0050]
基于所述隐私水平约束对所述传输功率优化模型进行求解处理。
[0051]
根据本技术一些实施例提供的基于联邦边缘学习的图像分类方法，所述有效噪声的标准偏差为：
[0052][0053]
根据本技术一些实施例提供的基于联邦边缘学习的图像分类方法，所述隐私水平约束为：
[0054][0055]
其中，c-1
(
·
)为的逆函数。
[0056]
为实现上述目的，本技术实施例的第二方面提出了一种联邦边缘学习系统，所述系统包括：
[0057]
所述联邦边缘学习系统包括边缘服务器以及多个边缘设备，多个所述边缘设备与所述边缘服务器通过无线信道通信连接；其中，
[0058]
所述边缘设备包括：
[0059]
样本获取模块，用于获取本地图像样本数据，并对所述本地图像样本数据进行随机采样得到批量图像样本数据；
[0060]
模型训练模块，用于基于所述批量图像样本数据对所述图像分类模型的模型参数进行更新，直至满足预设条件，将更新后的模型参数作为本轮迭代训练的本地模型参数；
[0061]
参数上传模块，用于经过所述无线信道同时向所述边缘服务器发送第一传输信号，所述第一传输信号携带有以第一传输功率发送的所述本地模型参数和以第二传输功率注入的第一随机噪声；
[0062]
接收和更新模型，用于接收所述边缘服务器广播发送的所述全局模型参数，并根据所述全局模型参数对所述图像分类模型的模型参数进行更新处理，得到目标图像分类模型；
[0063]
图像分类模块，用于获取待分类图像，将所述待分类图像输入所述目标图像分类
模型，以通过所述目标图像分类模型得到所述待分类图像的分类结果；
[0064]
所述边缘服务器包括：
[0065]
接收和处理模块，用于接收由多个所述边缘设备同时发送的第一传输信号聚合而成的第一接收信号，并根据所述第一接收信号确定下一轮迭代训练的全局模型参数。
[0066]
为实现上述目的，本技术实施例的第三方面提出了一种电子设备，所述电子设备包括存储器、处理器、存储在所述存储器上并可在所述处理器上运行的计算机程序，所述计算机程序被所述处理器执行时实现上述第一方面所述的方法。
[0067]
为实现上述目的，本技术实施例的第四方面提出了一种存储介质，所述存储介质为计算机可读存储介质，用于计算机可读存储，所述存储介质存储有一个或者多个计算机程序，所述一个或者多个计算机程序可被一个或者多个处理器执行，以实现上述第一方面所述的方法。
[0068]
本技术提出一种基于联邦边缘学习的图像分类方法以及相关设备，该方法应用于联邦边缘学习系统，该联邦边缘学习系统包括边缘服务器以及多个边缘设备，多个边缘设备与边缘服务器通过无线信道通信连接，该方法通过多个边缘设备分别获取本地图像样本数据，并对本地图像样本数据进行随机采样得到批量图像样本数据，通过多个边缘设备分别基于批量图像样本数据对图像分类模型的模型参数进行更新，直至满足预设条件，将更新后的模型参数作为本轮迭代训练的本地模型参数，通过多个边缘设备分别经过无线信道同时向边缘服务器发送第一传输信号，第一传输信号携带有以第一传输功率发送的本地模型参数和以第二传输功率注入的第一随机噪声，通过边缘服务器接收由多个边缘设备同时发送的第一传输信号聚合而成的第一接收信号，并根据第一接收信号确定下一轮迭代训练的全局模型参数，通过多个边缘设备分别接收边缘服务器广播发送的全局模型参数，并根据全局模型参数对图像分类模型的模型参数进行更新处理，得到目标图像分类模型，通过多个边缘设备分别获取待分类图像，将待分类图像输入目标图像分类模型，以通过目标图像分类模型得到待分类图像的分类结果。本技术实施例通过无线信道的叠加特性对所有边缘设备上传的模型参数进行汇总平均，提高图像分类方法中模型学习的收敛速度，同时注入噪声，加强隐私保护。
附图说明
[0069]
图1是本技术实施例提供的一种基于联邦边缘学习的图像分类方法的流程示意图；
[0070]
图2是本技术另一实施例提供的一种基于联邦边缘学习的图像分类方法的流程示意图；
[0071]
图3是本技术另一实施例提供的一种基于联邦边缘学习的图像分类方法的流程示意图；
[0072]
图4是本技术实施例提供的一种联邦边缘学习系统的结构示意图；
[0073]
图5是本技术另一实施例提供的一种联邦边缘学习系统的结构示意图；
[0074]
图6是本技术实施例提供的一种电子设备的结构示意图。
具体实施方式
[0075]
为了使本技术的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本技术进行进一步详细说明。应当理解，此处所描述的具体实施例仅用以解释本技术，并不用于限定本技术。
[0076]
应了解，在本技术实施例的描述中，如果有描述到“第一”、“第二”等只是用于区分技术特征为目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量或者隐含指明所指示的技术特征的先后关系。“至少一个”是指一个或者多个，“多个”是指两个或两个以上。“和/或”，描述关联对象的关联关系，表示可以存在三种关系，例如，a和/或b，可以表示单独存在a、同时存在a和b、单独存在b的情况。其中a，b可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。“以下至少一项”及其类似表达，是指的这些项中的任意组，包括单项或复数项的任意组。例如，a、b和c中的至少一项可以表示：a，b，c，a和b，a和c，b和c，或者，a和b和c，其中a，b，c可以是单个，也可以是多个。
[0077]
在无线网络边缘融入人工智能，进行实时的分布式智能训练，是实现通信网络全面智能化升级的一个关键技术挑战。联邦学习凭借用户隐私和数据安全方面具有独特的优势，也获得了非常广泛的关注。在联邦学习中，各个边缘设备在边缘服务器的协调下，利用本地数据联合训练共享的机器学习模型。
[0078]
对于计算机视觉领域中的图像分类技术，其在实际应用中对数据隐私的保护需求使得原始数据无法共享，多个数据源之间形成“数据孤岛”。基于联邦边缘学习的图像分类因此被提出，通过联邦学习方式训练分类模型，使得每个联邦学习的参与者能够从其他参与者的图像数据中获益，同时能够确保每个参与者的图像数据不离开本地，在保证了各方数据隐私的前提下成功解决了数据孤岛的问题。
[0079]
然而，基于传统联邦边缘学习的图像分类方法，当存在过多边缘设备或需要较多迭代训练时，则存在通信开销大、模型训练效率慢等问题，另一方面，边缘设备上传的模型参数仍然存在有用信息，边缘服务器(或环境中的窃听者)可以从接收信息中恶意推断出边缘设备的私有信息。
[0080]
基于此，本技术实施例提出一种基于联邦边缘学习的图像分类方法以及相关设备，通过无线信道的叠加特性对所有边缘设备上传的模型参数进行汇总平均，提高图像分类方法中模型学习的收敛速度，同时注入噪声，加强隐私保护。
[0081]
本技术实施例提供的一种基于联邦边缘学习的图像分类方法以及相关设备，具体通过如下实施例进行说明，首先描述本技术实施例中的基于联邦边缘学习的图像分类方法。
[0082]
本技术实施例提供了一种基于联邦边缘学习的图像分类方法，请参见图4，图4示出了本技术实施例提供的联邦边缘学习系统的结构示意图，如图4所示，所述方法应用于联邦边缘学习系统，所述联邦边缘学习系统包括边缘服务器以及多个边缘设备，多个所述边缘设备与所述边缘服务器通过无线信道通信连接。
[0083]
请参见图1，图1示出了本技术实施例提供的一种基于联邦边缘学习的图像分类方法的流程示意图，如图1所示，该基于联邦边缘学习的图像分类方法，包括：
[0084]
步骤s110，通过多个所述边缘设备分别获取本地图像样本数据，并对所述本地图像样本数据进行随机采样得到批量图像样本数据；
[0085]
步骤s120，通过多个所述边缘设备分别基于所述批量图像样本数据对所述图像分类模型的模型参数进行更新，直至满足预设条件，将更新后的模型参数作为本轮迭代训练的本地模型参数；
[0086]
步骤s130，通过多个所述边缘设备分别经过所述无线信道同时向所述边缘服务器发送第一传输信号，所述第一传输信号携带有以第一传输功率发送的所述本地模型参数和以第二传输功率注入的第一随机噪声；
[0087]
步骤s140，通过所述边缘服务器接收由多个所述边缘设备同时发送的第一传输信号聚合而成的第一接收信号，并根据所述第一接收信号确定下一轮迭代训练的全局模型参数；
[0088]
步骤s150，通过多个所述边缘设备分别接收所述边缘服务器广播发送的所述全局模型参数，并根据所述全局模型参数对所述图像分类模型的模型参数进行更新处理，得到目标图像分类模型；
[0089]
步骤s160，通过多个所述边缘设备分别获取待分类图像，将所述待分类图像输入所述目标图像分类模型，以通过所述目标图像分类模型得到所述待分类图像的分类结果。
[0090]
可以理解的是，本技术实施例提供的图像分类方法中，通过联邦边缘学习系统，利用无线信道的叠加特性对所有边缘设备上传的模型参数进行汇总平均，一方面，可以避免传统联邦学习中边缘服务器由于需要汇总处理多个边缘设备上传的模型参数,当存在较多边缘设备或者需要较多迭代训练时，存在的无线通信资源开销过多、模型训练效率较低的问题；另一方面，终端设备将模型参数发送到空中，边缘服务器接收到的是模型参数的叠加信号，无法从中推断出某一个具体边缘设备的信息，从而避免边缘设备的隐私信息被恶意推测。此外，边缘设备在第一传输信号以第二传输功率注入第一随机噪声，进一步加强了隐私保护。
[0091]
在一些实施例中，所述第一传输信号通过以下公式确定：
[0092][0093]
其中，所述s
k,t
表示第k个所述边缘设备在第t轮迭代训练时向所述边缘服务器的第一传输信号，所述表示第k个所述边缘设备在第t轮迭代训练时获得的本地模型参数，所述n
k,t
表示第k个所述边缘设备在第t轮迭代训练使用的第一随机噪声，所述p
k,t
表示用于发送本地模型参数的第一传输功率，所述表示用于注入第一随机噪声n
k,t
的第二传输功率；
[0094]
所述第一接收信号通过以下公式确定：
[0095][0096]
其中，所述y
t
表示第t轮迭代训练的全局模型参数，所述h
k,t
表示第k个所述边缘设备与所述边缘服务器在第t轮迭代训练时的复数信道系数，所述z
t
为第二随机噪声，服从为第二随机噪声，服从为所述第二随机噪声的噪声功率，i为单位矩阵。
[0097]
所述根据所述第一接收信号确定下一轮迭代训练的全局模型参数，所述方法还包括：
[0098]
根据所述第一接收信号、所述边缘设备的数量以及预设的降噪因子，确定下一轮
迭代训练的全局模型参数。
[0099]
在一个具体实施例中，所述全局模型参数通过以下公式确定：
[0100][0101]
其中，所述为第t次迭代训练的降噪因子，所述k为边缘设备的总数量。
[0102]
在一些实施例中，所述方法还包括：
[0103]
通过所述边缘设备以及所述边缘服务器分别获取预设的传输功率优化模型以及约束条件，所述约束条件包括所述边缘设备的最大发送功率约束以及平均发送功率约束；
[0104]
在所述根据所述第一接收信号、所述边缘设备的数量以及预设的降噪因子，确定下一轮迭代训练的全局模型参数之前，所述方法还包括：
[0105]
对所述传输功率优化模型进行求解处理，得到在所述约束条件下所述传输功率优化模型取得最优解时的降噪因子；
[0106]
在所述通过多个所述边缘设备分别经过所述无线信道同时向所述边缘服务器发送第一传输信号之前，所述方法还包括：
[0107]
对所述传输功率优化模型进行求解处理，分别得到在所述约束条件下所述传输功率优化模型取得最优解时用于发送所述本地模型参数的第一传输功率以及第一随机噪声的第二传输功率；
[0108]
所述传输功率优化模型通过以下公式确定：
[0109]
其中，
[0110][0111][0112][0113][0114]ct
＝1-(ω-1)μγ
t
；
[0115]
所述t表示迭代训练总次数，所述k表示参与联邦学习的边缘设备总数，所述η
t
表示第t次迭代训练的降噪因子，所述表示第k个所述边缘设备在第t次迭代训练时使用的第一随机噪声的噪声功率，所述l表示smoothness系数，所述γ
t-1
为第t-1次迭代训练时的学习率，所述ω表示所述边缘设备的本地迭代训练次数，所述表示预设的模型上界，所述μ为pl系数；
[0116]
所述最大发送功率约束为：
[0117][0118]
所述平均发送功率约束为：
[0119][0120]
其中，所述表示第k个所述边缘设备对应的最大发送功率，所述表示第k个所述边缘设备对应的平均发送功率，所述t表示迭代训练的总次数，所述q表示所述边缘设备向所述边缘服务器传输数据时使用的符号数量。
[0121]
可以理解的是，由于信道衰落和噪声的破坏，模型聚合过程中不可避免地遇到随机扰动，此时，较大的扰动将降低模型的准确性，但提高了隐私性。本技术实施例提供的基于联邦边缘学习的图像分类方法中，通过获取预设的传输功率优化模型，在边缘设备和边缘服务器之间的迭代训练中，对边缘设备向边缘服务器发送本地模型参数的第一传输功率和注入第一随机噪声的第二传输功率进行迭代优化，直到传输功率优化模型中目标函数趋于最小值或达到规定的迭代次数，实现联邦边缘学习中传输功率控制，能够更好地权衡模型聚合过程中的隐私性和准确性。
[0122]
具体的，假设在边缘服务器的协调下，边缘设备通过无线更新，聚合协作训练共享的机器学习模型，同时信道在每个时间块内保持不变，且所有边缘设备能准确地得到所有的信道状态信息和与计算相关的信息，以便完成功率控制。考虑一个频率非选择性块衰落(frequency non-selective block fading)信道模型，其中无线信道在每次外部迭代训练中保持不变，但在不同的迭代中可能发生改变。此外，假设每个边缘设备都完全知道各自的信道状态信息，从而可以补偿无线信道引入的相位偏移，并假设边缘服务器知道全局信道状态信息，以方便实现功率控制。
[0123]
在上述情况下，结合全局模型参数模型参数其中k为边缘设备的总数量，为第k个边缘设备在t+1次迭代训练的本地模型参数，确定由于空中计算导致的通信聚合误差：
[0124][0125]
根据引入的通信误差，建议最优间隙的函数表示时，对于每次外部迭代训练t，全部模型参数为v
t+1
，对应的最优间隙为f(v
t+1
)-f
*
，其中f(
·
)为全局损失函数，f
*
为全局损失函数的最优解，之后设置一个衰减学习率，得到下述关于最优间隙和通信聚合误差之间的关系：
[0126][0127]
其中，与模型梯度方差和值相关，即表示梯度上界，e(
·
)表示取期望。
[0128]
最后基于边缘设备的最大功率约束和平均功率约束，最小化最优间隙，以提高基于联邦边缘学习的图像分类方法中图像分类模型的收敛速度，因此将该问题建模为：
[0129][0130]
在一些实施例中，请参见图2，图2示出了本技术另一实施例提供的一种基于联邦
边缘学习的图像分类方法的流程示意图，如图2所示，所述对所述传输功率优化模型进行求解处理，得到在所述约束条件下所述传输功率优化模型取得最优解时的降噪因子，包括：
[0131]
步骤s210，获取上一轮迭代训练中的第一传输功率以及第二传输功率；
[0132]
步骤s220，基于上一轮迭代训练中的第一传输功率以及第二传输功率，对所述传输功率优化模型进行求解处理，得到在所述约束条件下所述传输功率优化模型取得最优解时本轮迭代训练中的降噪因子；
[0133]
请参见图3，图3示出了本技术另一实施例提供的一种基于联邦边缘学习的图像分类方法的流程示意图，如图3所示，所述对所述传输功率优化模型进行求解处理，得到在所述约束条件下所述传输功率优化模型取得最优解时用于发送所述本地模型参数的第一传输功率以及第一随机噪声的第二传输功率，包括：
[0134]
步骤s310，获取上一轮迭代训练中的第二传输功率以及本轮迭代训练中的降噪因子；
[0135]
步骤s320，基于上一轮迭代训练中的第二传输功率以及本轮迭代训练中的降噪因子，对所述传输功率优化模型进行求解处理，得到在所述约束条件下所述传输功率优化模型取得最优解时本轮迭代训练中用于发送所述本地模型参数的第一传输功率；
[0136]
步骤s330，基于本轮迭代训练中的第一传输功率以及降噪因子，对所述传输功率优化模型进行求解处理，得到在所述约束条件下所述传输功率优化模型取得最优解时本轮迭代训练中用于发送第一随机噪声的第二传输功率。
[0137]
具体的，在迭代训练中对传输功率的优化过程中：
[0138]
在第一轮迭代训练，对于边缘设备则基于预设的第一传输功率和第二传输功率进行模型参数上传，对于边缘服务器，则基于该第一传输功率和第二传输功率，优化降噪因子。利用变量替换将原优化问题转换了凸优化问题，通过检测一阶导数，得到降噪因子的最优解：
[0139][0140][0141]
在后续的迭代训练中，边缘设备则是通过获取上一轮迭代训练中的第二传输功率以及本轮迭代训练中的降噪因子，优化第一传输功率，将优化问题简化为：
[0142][0143]
通过变量替换，将原优化问题转化为凸优化问题，利用拉格朗日对偶方法，求得第一传输功率的最优解：
[0144][0145]
其中，和分别隐私水平约束和平均传输功率约束的最优对偶变量。
[0146]
之后，边缘设备基于本轮迭代训练中求得的第一传输功率以及降噪因子，优化用于注入人为噪声的第二传输功率，将原优化问题简化为：
[0147][0148]
求解得到：
[0149][0150][0151]
其中，和分别隐私水平约束和最大传输功率约束的最优对偶变量。
[0152]
也就是说，在第一轮迭代训练中初始化传输功率值，之后每一轮迭代训练的优化过程都是根据优化得到的最优解带入到原优化问题，求得其他最优解。三个问题都求解完则表示这一轮迭代结束，进行下一轮，直到目标函数趋于最小值或达到规定的迭代次数。
[0153]
在一些实施例中，在所述对所述传输功率优化模型进行求解处理之前，所述方法还包括：
[0154]
获取预设的隐私水平约束，所述隐私水平约束由所述边缘设备向所述边缘服务器传输数据的过程中有效噪声的标准偏差以及注入所述第一随机噪声的敏感度上界确定；
[0155]
所述对所述传输功率优化模型进行求解处理，包括：
[0156]
基于所述隐私水平约束对所述传输功率优化模型进行求解处理。
[0157]
应能理解的是，根据边缘服务器接收到的第一接收信号，确定有效噪声为信道噪声和注入噪声之和，从而确定有效噪声的标准偏差(standard deviation)。
[0158]
在一些实施例中，所述有效噪声的标准偏差为：
[0159][0160]
进一步的，隐私水平(ε,δ)取决于在没有噪声的影响下所公开的数据特性对输入数据集的敏感度。具体而言，该敏感度即为在最坏情况下，单个数据可以改变所公开数据特性的程度。因此，基于第一接收信号以及三角不等式，可以确定敏感度上界为最后根据该标准偏差和敏感度上界确定传输功率控制的隐私水平约束。
[0161]
在一些实施例中，所述隐私水平约束为：
[0162][0163]
其中，c-1
(
·
)为的逆函数；εk表示隐私损失，δ表示注入噪声。
[0164]
本技术提出一种基于联邦边缘学习的图像分类方法，方法应用于联邦边缘学习系统，该联邦边缘学习系统包括边缘服务器以及多个边缘设备，多个边缘设备与边缘服务器通过无线信道通信连接，该方法通过多个边缘设备分别获取本地图像样本数据，并对本地图像样本数据进行随机采样得到批量图像样本数据，通过多个边缘设备分别基于批量图像样本数据对图像分类模型的模型参数进行更新，直至满足预设条件，将更新后的模型参数作为本轮迭代训练的本地模型参数，通过多个边缘设备分别经过无线信道同时向边缘服务器发送第一传输信号，第一传输信号携带有以第一传输功率发送的本地模型参数和以第二传输功率注入的第一随机噪声，通过边缘服务器接收由多个边缘设备同时发送的第一传输信号聚合而成的第一接收信号，并根据第一接收信号确定下一轮迭代训练的全局模型参数，通过多个边缘设备分别接收边缘服务器广播发送的全局模型参数，并根据全局模型参数对图像分类模型的模型参数进行更新处理，得到目标图像分类模型，通过多个边缘设备分别获取待分类图像，将待分类图像输入目标图像分类模型，以通过目标图像分类模型得到待分类图像的分类结果。本技术实施例通过无线信道的叠加特性对所有边缘设备上传的模型参数进行汇总平均，提高图像分类方法中模型学习的收敛速度，同时注入噪声，加强隐私保护。
[0165]
请参见图5，本技术实施例还提供了一种联邦边缘学习系统100，所述联邦边缘学习系统100包括边缘服务器以及多个边缘设备，多个边缘设备与所述边缘服务器通过无线信道通信连接；其中，
[0166]
所述边缘设备110包括：
[0167]
样本获取模块111，用于获取本地图像样本数据，并对所述本地图像样本数据进行随机采样得到批量图像样本数据；
[0168]
模型训练模块112，用于基于所述批量图像样本数据对所述图像分类模型的模型参数进行更新，直至满足预设条件，将更新后的模型参数作为本轮迭代训练的本地模型参数；
[0169]
参数上传模块113，用于经过所述无线信道同时向所述边缘服务器发送第一传输信号，所述第一传输信号携带有以第一传输功率发送的所述本地模型参数和以第二传输功率注入的第一随机噪声；
[0170]
接收和更新模型114，用于接收所述边缘服务器广播发送的所述全局模型参数，并根据所述全局模型参数对所述图像分类模型的模型参数进行更新处理，得到目标图像分类模型；
[0171]
图像分类模块115，用于获取待分类图像，将所述待分类图像输入所述目标图像分类模型，以通过所述目标图像分类模型得到所述待分类图像的分类结果；
[0172]
所述边缘服务器120包括：
[0173]
接收和处理模块121，用于接收所述边缘服务器广播发送的所述全局模型参数，并根据所述全局模型参数对所述图像分类模型的模型参数进行更新处理，得到目标图像分类模型。
[0174]
本技术提出一种联邦边缘学习系统，该联邦边缘学习系统包括边缘服务器以及多个边缘设备，多个边缘设备与边缘服务器通过无线信道通信连接，通过多个边缘设备分别获取本地图像样本数据，并对本地图像样本数据进行随机采样得到批量图像样本数据，通过多个边缘设备分别基于批量图像样本数据对图像分类模型的模型参数进行更新，直至满足预设条件，将更新后的模型参数作为本轮迭代训练的本地模型参数，通过多个边缘设备分别经过无线信道同时向边缘服务器发送第一传输信号，第一传输信号携带有以第一传输功率发送的本地模型参数和以第二传输功率注入的第一随机噪声，通过边缘服务器接收由多个边缘设备同时发送的第一传输信号聚合而成的第一接收信号，并根据第一接收信号确定下一轮迭代训练的全局模型参数，通过多个边缘设备分别接收边缘服务器广播发送的全局模型参数，并根据全局模型参数对图像分类模型的模型参数进行更新处理，得到目标图像分类模型，通过多个边缘设备分别获取待分类图像，将待分类图像输入目标图像分类模型，以通过目标图像分类模型得到待分类图像的分类结果。本技术实施例通过无线信道的叠加特性对所有边缘设备上传的模型参数进行汇总平均，提高图像分类方法中模型学习的收敛速度，同时注入噪声，加强隐私保护。
[0175]
需要说明的是，上述装置的模块之间的信息交互、执行过程等内容，由于与本技术方法实施例基于同一构思，其具体功能及带来的技术效果，具体可参见方法实施例部分，此处不再赘述。
[0176]
请参见图6，图6示出本技术实施例提供的一种电子设备的硬件结构，电子设备包括：
[0177]
处理器210，可以采用通用的cpu(central processing unit，中央处理器)、微处理器、应用专用集合成电路(application specific integrated circuit，asic)、或者一个或多个集合成电路等方式实现，用于执行相关计算机程序，以实现本技术实施例所提供的技术方案；
[0178]
存储器220，可以采用只读存储器(read only memory，rom)、静态存储设备、动态存储设备或者随机存取存储器(random access memory，ram)等形式实现。存储器220可以存储操作系统和其他应用程序，在通过软件或者固件来实现本说明书实施例所提供的技术方案时，相关的程序代码保存在存储器220中，并由处理器210来调用执行本技术实施例的种基于联邦边缘学习的图像分类方法；
[0179]
输入/输出接口230，用于实现信息输入及输出；
[0180]
通信接口240，用于实现本设备与其他设备的通信交互，可以通过有线方式(例如usb、网线等)实现通信，也可以通过无线方式(例如移动网络、wifi、蓝牙等)实现通信；和总线250，在设备的每个组件(例如处理器210、存储器220、输入/输出接口230和通信接口240)之间传输信息；
[0181]
其中处理器210、存储器220、输入/输出接口230和通信接口240通过总线250实现彼此之间在设备内部的通信连接。
[0182]
本技术实施例还提供了一种存储介质，存储介质为计算机可读存储介质，用于计
算机可读存储，存储介质存储有一个或者多个计算机程序，一个或者多个计算机程序可被一个或者多个处理器执行，以实现上述种基于联邦边缘学习的图像分类方法。
[0183]
存储器作为一种计算机可读存储介质，可用于存储软件程序以及计算机可执行程序。此外，存储器可以包括高速随机存取存储器，还可以包括非暂态存储器，例如至少一个磁盘存储器件、闪存器件、或其他非暂态固态存储器件。在一些实施方式中，存储器可选包括相对于处理器远程设置的存储器，这些远程存储器可以通过网络连接至该处理器。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
[0184]
本技术实施例描述的实施例是为了更加清楚的说明本技术实施例的技术方案，并不构成对于本技术实施例提供的技术方案的限定，本领域技术人员可知，随着技术的演变和新应用场景的出现，本技术实施例提供的技术方案对于类似的技术问题，同样适用。
[0185]
以上所描述的装置实施例仅仅是示意性的，其中作为分离部件说明的单元可以是或者也可以不是物理上分开的，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
[0186]
本领域普通技术人员可以理解，上文中所公开方法中的全部或某些步骤、系统、设备中的功能模块/单元可以被实施为软件、固件、硬件及其适当的组合。
[0187]
在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述或记载的部分，可以参见其它实施例的相关描述。
[0188]
本技术的说明书及上述附图中的术语“第一”、“第二”、“第三”、“第四”等(如果存在)是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本技术的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
[0189]
应当理解，在本技术中，“至少一个(项)”是指一个或者多个，“多个”是指两个或两个以上。“和/或”，用于描述关联对象的关联关系，表示可以存在三种关系，例如，“a和/或b”可以表示：只存在a，只存在b以及同时存在a和b三种情况，其中a，b可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。“以下至少一项(个)”或其类似表达，是指这些项中的任意组合，包括单项(个)或复数项(个)的任意组合。例如，a，b或c中的至少一项(个)，可以表示：a，b，c，“a和b”，“a和c”，“b和c”，或“a和b和c”，其中a，b，c可以是单个，也可以是多个。
[0190]
在本技术所提供的几个实施例中，应该理解到，所揭露的装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，上述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集合成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。
[0191]
上述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个
网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
[0192]
另外，在本技术每个实施例中的各功能单元可以集合成在一个处理单元中，也可以是每个单元单独物理存在，也可以两个或两个以上单元集合成在一个单元中。上述集合成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。
[0193]
集合成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本技术的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括多指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本技术每个实施例的方法的全部或部分步骤。而前述的存储介质包括：u盘、移动硬盘、只读存储器(read-only memory，简称rom)、随机存取存储器(random access memory，简称ram)、磁碟或者光盘等各种可以存储程序的介质。
[0194]
以上参照附图说明了本技术实施例的优选实施例，并非因此局限本技术实施例的权利范围。本领域技术人员不脱离本技术实施例的范围和实质内所作的任何修改、等同替换和改进，均应在本技术实施例的权利范围之内。