一种基于信干噪比门限动态调整的随机用户调度方法与流程

1.本发明属于无线通信技术领域，具体涉及一种基于信干噪比门限动态调整的随机用户调度方法。


背景技术：

2.随着物联网应用的快速发展，智能化设备的计算和存储能力不断提升，现代分布式网络系统中每分钟都会产生海量数据。因此，基于大数据驱动的机器学习技术在最近几年受到广泛关注。然而，由于人们对隐私问题的重视和网络的局限性，完全基于云的中心化数据存储和分析方式不再适用。尤其是对于延迟比较敏感的紧急应用，由长距离通信引起的数据收集分发的延迟成为一个亟待解决的问题。在此背景下，mcmahand等人提出了一种新的联邦学习范式，主张在边缘节点上进行局部和分布式学习。其核心思想是组织分布式设备训练存储在本地的数据，然后将训练得到的模型发送给协调服务器进行聚合，聚合后得到更新的模型。最后将更新的模型共享给参与的所有用户，以帮助他们在未来的迭代中进行更好的局部训练。
3.但是，与基于服务器的环境不同的是，在移动设备上完成分布式机器学习面临很多新的挑战。比如，无线网络本身的不可靠性和有限的连接能力，各设备的计算能力不同，以及局部数据可能非独立同分布(non-iid)等。由于上述原因，让所有设备同时参加机器学习并更新模型是不可行的。为了避免长时间等待因网络、计算能力等原因造成的离群设备，更实用的方法是在每一轮模型训练中仅选择一小部分设备参与。对于无线设备而言，信干噪比(sinr)是影响通信可靠性的重要指标，它直接决定了每一次模型上传至服务器的成功概率。对于大规模蜂窝网络，不仅要考虑模型由用户上传至服务器时来自其他用户的干扰，还要考虑到聚合后的模型分发到用户时来自其他基站的干扰，空域收敛性分析成为一个有趣的问题。
4.现有技术中，h.h.yang,z.liu,t.q.s.quek和h.v.poor发表的《scheduling policies for federated learning in wireless networks》中，同时考虑了用户调度策略和蜂窝间干扰的影响，研究了随机调度，轮询调度和比例公平调度三种策略下的联邦学习性能。作者利用随机几何工具分析了收敛速率，结果表明信息解码的sinr阈值对三种策略的性能有较大影响。
5.m.salehi和e.hossain发表的《federated learning in unreliable and resource-constrained cellular wireless networks》中提出了一种适用于不可靠和资源受限无线系统的联邦学习算法，基站随机选择部分用户参与学习并根据用户调度策略和传输成功概率对用户上传参数进行加权，以提高公平性。
6.z.lin,x.li,v.k.n.lau,y.gong和k.huang发表的《deploying federated learning in large-scale cellular networks:spatial convergence analysis》中则同时研究了蜂窝网络中数字聚合和模拟聚合的收敛性能。针对大规模网络，他们提出一种新的学习性能指标，空域收敛率来描述某时刻达到收敛的服务器比例。研究结果表明模拟聚
合比数字聚合的学习延迟更小。上述三种方法对蜂窝网络中的用户调度进行了不同尝试，但主要问题在于：没有建立通信性能和学习性能之间的密切关联，尤其是通信时间和用户调度策略之间的关系。其次，没有考虑到不同轮次模型更新的重要性差异。在开始的几轮减少用户参与并不会显著影响收敛速度，但会明显降低通信资源占用和延迟。
7.同时，j.xu和h.wang发表的《client selection and bandwidth allocation in wireless federated learning networks:a long-term perspective》充分认识到这一问题，但并没有将这一因素直接纳入到学习性能的优化中。而m.chen,z.yang,w.saad,c.yin,h.v.poor和s.cui发表的《a joint learning and communications framework for federated learning over wireless networks》虽然提出将节能作为一个约束条件，但网络模型过于简单，不适应于大规模网络场景。
8.联邦边缘学习在延迟敏感的大数据机器学习中有广泛应用。大规模蜂窝网络用户可以承担联邦学习范式下的分布式学习任务，但是在通信资源受限的蜂窝中如何高效率调度用户成为一个亟待解决的关键问题。尤其在5g环境下，数以万计的设备可以同时连接基站共享模型参数，这给通信资源的分配带来极大的挑战。然而，在联邦学习的模型聚合中，初始阶段的训练并不需要太多用户参与，越往后越需要大量用户的训练数据来修正全局参数，有限的无线网络资源难以满足大量的模型数据上传需求。


技术实现要素：

9.为了克服上述现有技术存在的不足，本发明提供了一种基于信干噪比门限动态调整的随机用户调度方法。
10.为了实现上述目的，本发明提供如下技术方案：
11.一种基于信干噪比门(sinr)限动态调整的随机用户调度方法，包括以下步骤：
12.测量用户的瞬时信干噪比
13.基站的通信轮次为t，求解得到第t轮通信时的sinr门限γ
t
；
14.基站启动联邦学习，设初始伦次t＝0，将随机的初始化参数w0发送给所有n个用户；
15.基站接收用户n发送的更新后的参数并将参数与瞬时信干噪比进行比较；当大于时，将参数纳入全局参数更新，并使用传输层协议向未被选中的用户发送“nack”信号；
16.所述全局参数更新的更新方程为：
[0017][0018]
其中，时，时，为用户n的模型上传成功概率；
[0019]
当通信轮次达到t次，基站输出最优的全局模型参数w
t
，实现用户调度。
[0020]
优选地，所述瞬时信干噪比的计算公式为：
[0021]
[0022]
其中，σ2是awgn噪声功率，hn是信道衰落系数，服从均值为1/μ的指数分布；∈为功率补偿因子，rn为用户与关联基站的距离；α为路径损耗因子，且α》2；
[0023]in
表示用户n上传数据时所受到的干扰信号总功率，如下式所示：
[0024][0025]
其中，d
x
为位置x处的用户到目标基站的距离；r
x
为某个干扰用户到其对应的关联基站的距离，所在位置x∈φ
i,n
，φ
i,n
表示与第n个用户使用相同资源块的所有干扰用户的集合；h
x
为位置x处的用户到基站的信道增益。
[0026]
优选地，基站通过求解问题p，得到最优的门限调整间隔m
*
，以及对应的t/m
*
个优化的门限值
[0027][0028]
其中，t为通信轮次，m为门限调整间隔，τ为等间隔选取的门限的序号，γ
t
为第t轮通信时的sinr门限。
[0029]
优选地，基站采用遗传算法求解问题p，具体为：
[0030]
p：
[0031][0032]
γ
min
≤γ
τ+1
≤γ
τ
≤γ
max
[0033][0034]
其中，t为通信轮次，θ为学习性能，n为用户数量；[γ
min
，γ
max
]为基站能接收信号的信干噪比范围；q为信号发送成功概率，s为参数量化比特数，γ
t
为τ时刻的信干噪比门限；为τ时刻用户n的信号发送成功概率，m为门限调整间隔；z为正整数。
[0035]
优选地，所述的计算公式为：
[0036]
(1)对于边缘用户：
[0037][0038]
其中，rn为第n个用户到基站的距离，是第n个用户的边际pdf分布；
[0039]
下式所示：
[0040][0041]
且
[0042]
[0043]
式中，λ为用户密度，代表第n个用户在距离为rn时受到干扰功率的拉普拉斯变换；
[0044]
由下式计算得到：
[0045][0046]
其中，e、q、v均为临时变量；
[0047]
(2)对于非边缘用户：
[0048][0049]
其中，是用户距离的联合分布，如下式所示：
[0050][0051]
而积分式第一项为：
[0052][0053][0054]
优选地，所述基站将随机的初始化参数w0发送给所有n个用户后，n个用户并行执行e次本地迭代，更新学习模型参数，最终得到用户n的本地参数用户n将更新后的参数发送到基站。
[0055]
优选地，更新学习模型参数的更新方程为
[0056]
其中，为局部模型参数，为局部损失函数的梯度，e为通信轮次，为学习率。
[0057]
优选地，所述学习模型采用三层全连接神经网络，包括200个神经元，隐藏层和输出层的激活函数分别为双曲正切函数和softmax函数，损失函数为交叉熵损失。
[0058]
本发明提供的基于信干噪比门限动态调整的随机用户调度方法具有以下有益效果：
[0059]
(1)该方法中，基站在初始通信轮次选择较高的sinr门限以限制低速用户参与学习，缩短通信时间。然后基站逐渐降低sinr门限让更多用户参与学习从而提高收敛性能。
[0060]
(2)本发明考虑每个通信轮参与用户的数量和群体是随机变化的，这更符合实际网络情形。
[0061]
(3)归纳了优化通信时间的最优用户调度问题，采用逐步降低sinr门限的策略，在不明显降低收敛性能的约束下，大幅度缩短通信时间。
附图说明
[0062]
为了更清楚地说明本发明实施例及其设计方案，下面将对本实施例所需的附图作
简单地介绍。下面描述中的附图仅仅是本发明的部分实施例，对于本领域普通技术人员来说，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
[0063]
图1为本发明实施例1的基于信干噪比门限动态调整的随机用户调度方法的流程图；
[0064]
图2为iid数据分布实验结果；
[0065]
图3为non-iid数据分布实验结果。
具体实施方式
[0066]
为了使本领域技术人员更好的理解本发明的技术方案并能予以实施，下面结合附图和具体实施例对本发明进行详细说明。以下实施例仅用于更加清楚地说明本发明的技术方案，而不能以此来限制本发明的保护范围。
[0067]
实施例1
[0068]
本发明针对大规模蜂窝网络联邦学习，提供了一种基于信干噪比(sinr)门限动态调整的随机用户调度方法，称为stuart，其中信号与干扰加噪声比sinr(signal to interference plus noise ratio)是指接收到的有用信号的强度与接收到的干扰信号(噪声和干扰)的强度的比值；可以简单的理解为“信噪比”。
[0069]
该方法的具体实现过程如图1所示，包括以下步骤：
[0070]
步骤1、测量用户的瞬时信干噪比步骤1、测量用户的瞬时信干噪比的计算公式为：
[0071][0072]
其中，σ2是awgn噪声功率，hn是信道衰落系数，服从均值为1/μ的指数分布；∈为功率补偿因子，rn为用户与关联基站的距离；α为路径损耗因子，且α》2；
[0073]in
表示用户n上传数据时所受到的干扰信号总功率，如下式所示：
[0074][0075]
其中，d
x
为位置x处的用户到目标基站的距离；r
x
为某个干扰用户到其对应的关联基站的距离，所在位置x∈φ
i,n
，φ
i,n
表示与第n个用户使用相同资源块的所有干扰用户的集合；h
x
为位置x处的用户到基站的信道增益。
[0076]
步骤2、基站通过求解问题p，利用遗传算法得到最优的门限调整间隔m
*
，以及对应的t/m
*
个优化的门限值并根据门限值求解得到第t轮通信时的sinr门限γ
t
。
[0077][0078]
式中，t为通信轮次，m为门限调整间隔，τ为等间隔选取的门限的序号，γ
t
为第t轮通信时的sinr门限。
[0079]
具体地，本实施例中基站采用遗传算法求解问题p，具体为：
[0080]
p：
[0081][0082]
γ
min
≤γ
τ+1
≤γ
τ
≤γ
max
[0083][0084]
其中，t为通信轮次，θ为学习性能，n为用户数量；[γ
min
，γ
max
]为基站能接收信号的信干噪比范围；q为信号发送成功概率，s为参数量化比特数，γ
t
为τ时刻的信干噪比门限；为τ时刻用户n的信号发送成功概率，m为门限调整间隔；z为正整数。
[0085]
的计算公式为：
[0086]
(1)对于边缘用户：
[0087][0088]
其中，rn为第n个用户到基站的距离，是第n个用户的边际pdf分布；
[0089]
下式所示：
[0090][0091]
且
[0092][0093]
式中，λ为用户密度，代表第n个用户在距离为rn时受到干扰功率的拉普拉斯变换；
[0094]
由下式计算得到：
[0095][0096]
其中，e、q、v均为临时变量。
[0097]
(2)对于非边缘用户：
[0098][0099]
其中，是用户距离的联合分布，如下式所示：
[0100][0101]
而积分式第一项为：
[0102]
[0103][0104]
步骤3、基站启动联邦学习，设初始伦次t＝0，将随机的初始化参数w0发送给所有n个用户。
[0105]
步骤4、n个用户并行执行e次本地迭代，更新学习模型参数，更新方程为最终得到用户n的本地参数
[0106]
其中，为局部模型参数，为局部损失函数的梯度，e为通信轮次，η为学习率。
[0107]
本实施例中学习模型采用三层全连接神经网络，包括200个神经元。隐藏层和输出层的激活函数分别为双曲正切函数和softmax函数，损失函数为交叉熵损失。在本地训练过程中，本发明设学习率η＝0.001，每个通信轮通信轮次为e＝5，小批量大小为100。所有实验在linux服务器上完成，使用两块nvidia geforce rtx 2080ti gpu，软件为matlab r2021a。
[0108]
步骤5、用户n将更新后的参数发送到基站。
[0109]
步骤6、基站根据接收到的瞬时信干噪比判断是否将该用户上传的参数纳入全局参数更新，具体为：
[0110]
基站接收用户n发送的更新后的参数并将参数与瞬时信干噪比进行比较；当大于时，将参数纳入全局参数更新，并使用传输层协议向未被选中的用户发送“nack”信号。nack(negative acknowledgement)是一种负向反馈，接收方只有在没有收到数据的时候才通知发送方。
[0111]
全局参数更新的更新方程为：为指示函数。
[0112]
其中，时，γ
t
为第t轮通信时的sinr门限；为用户n的模型上传成功概率。
[0113]
步骤7、判断通信轮次是否满足t＜t，若是则继续执行步骤4，若否则结束流程，基站输出最优的全局模型参数w
t
，实现用户调度。
[0114]
本发明提供的基于信干噪比门限动态调整的随机用户调度方法和传统fedavg的主要区别在于：
[0115]
(1)用户调度策略。基站在接受用户上传的参数时，首先测量用户的瞬时信干噪比:然后选择:的用户作为参与用户。此外，本方法假设基站可使用传输层协议发送“nack”信号给未被选中的用户，从而阻止未选中用户继续传输参数，减少不必要的能耗和干扰。
[0116]
(2)模型参数聚合。因为上传用户被选择的概率并不平衡，所以按照上传成功概
率:的倒数进行加权，以避免模型参数向成功概率高的用户偏移。
[0117]
本发明以大规模蜂窝网络中的用户调度策略为研究对象，以加速收敛为主要目标，在保证一定学习性能的前提下，得到最优的时域用户调度算法。本发明假设基站能够准确获得每个移动用户的信干噪比(sinr)，通过在每一轮次设计不同的sinr阈值来选择用户，以减少通信开销和加速收敛。具体来说，在开始轮次设置较高sinr阈值，让较少用户参与学习。然后逐步降低sinr阈值，使得参与的用户数量变多，不断提高学习性能，最终到达目标准确率。这样达到训练时间和训练性能之间的均衡。该方法考虑每个通信轮参与用户的数量和群体是随机变化的，这更符合实际网络情形，归纳了优化通信时间的最优用户调度问题，采用逐步降低sinr门限的策略，在不明显降低收敛性能的约束下，大幅度缩短通信时间。
[0118]
本发明采用mnist数据集来测试提出的算法。该数据集包括60000张28
×
28手写数字0-9的图片。将这些图片分布到所有用户上，每个用户2400张图片。分布方式有两种，一种是独立同分布方式(iid)，所有用户拥有的数据都是均匀随机分布的。另一种是非独立同分布(non-iid)，每个用户只包括两种数字的数据。每个用户将其中的70％作为训练集，30％作为校验集，测试集则来自于全部数据的50％，以确保训练模型被充分测试。
[0119]
本发明通过实验验证了mnist数据集上suart算法对iid(图2)和no-iid(图3)数据的有效性，并与基准调度策略进行了比较。实验结果表明相对传统固定门限策略，本发明提出的算法能将通信时间缩短1/3以上，且收敛性能并无明显劣化。
[0120]
以上所述实施例仅为本发明较佳的具体实施方式，本发明的保护范围不限于此，任何熟悉本领域的技术人员在本发明披露的技术范围内，可显而易见地得到的技术方案的简单变化或等效替换，均属于本发明的保护范围。