一种车联网环境下基于联邦学习的无线资源分配和通信优化方法

1.本发明涉及通信技术领域，特别是涉及一种车联网环境下基于联邦学习(federated learning,fl)的无线资源分配和通信优化方法。


背景技术：

2.随着移动通信技术的快速发展，物联网成为新一代信息技术的研究热点。车联网(internet of vehicles,iov)作为物联网的一个重要分支，有望成为智能交通系统中的重要组成部分，用以改善道路交通安全问题和驾驶员的驾乘环境。由于车辆设备本身计算和通信资源的有限性，因此如何快捷且高效地分配资源愈发迫切，另外加之人们隐私保护意识的增强，联邦学习(federated learning,fl)成为解决上述问题的有效技术之一。
3.fl是一种分布式机器学习方法，用于建立车辆用户设备与服务器之间的共享模型，即各个车辆用户对本地模型数据进行训练，然后将获得的模型训练参数上传至基站(base station,bs)，再由bs进行聚合更新，然后不断迭代直至达到给定迭代次数的学习方法。与传统的机器学习相比，fl能够提高学习效率，并且保护数据隐私。
4.将fl引入车联网场景中，可以在节省车辆用户用于传输数据所消耗的通信资源，同时保护车辆用户的隐私。


技术实现要素：

5.针对现有技术的不足，本发明提供了车联网环境下基于fl的无线资源分配和通信优化方法的设计。
6.一种车联网环境下基于联邦学习的无线资源分配和通信优化方法，包括以下步骤：
7.s1、基站与车辆用户设备交互时，基站收集车辆用户设备工作的基本信息，同时进行初始化过程；
8.s2、基站判断步骤s1收集车辆用户信息用于训练本地模型参数、传输本地模型训练参数至基站和接收全局模型参数的延迟及用于训练和传输参数至基站的能耗是否满足预设门限值，若是则执行步骤s3，否则返回s1；
9.s3、基站根据车辆用户通信的信道状态和数据集大小，对满足s2预设门限值条件的车辆用户利用jonker volgenant算法对当前满足要求的车辆用户设备分配无线资源块；
10.s4、基站采用遍历算法判断车辆用户设备用于训练和传输本地模型训练参数的延迟以及能耗是否满足预设门限值，若是则参与联邦学习的迭代过程，否则返回s1；
11.s5、参与迭代过程的车辆用户设备采用随机梯度量化算法对本地模型训练参数进行elias编码压缩，然后将其传输至基站；
12.s6、基站对接收的模型参数进行elias解码并加权聚合，将聚合更新后的全局模型参数广播至各个车辆用户设备；
13.s7、车辆用户设备根据基站传输的全局模型参数更新本地模型训练参数，返回所述步骤s1。
14.iov场景下车辆用户基于fl的通信模型如图1所示。假设半径为r＝500m的车辆路段，其有一个bs(base station,bs)与n个车辆用户，bs位于该区域的中心位置，车辆用户随机地分布在该区域，车辆用户由集合u＝{1，2，...，n}表示。在工作过程中，bs与车辆用户设备相互配合，每个车辆用户设备根据本地数据训练模型，训练完成后将本地模型训练参数上传至bs进行聚合更新得到全局模型参数，然后bs将全局模型参数再广播至各个参与的车辆用户设备，就这样循环上述过程直至达到给定的迭代次数。
15.本发明所考虑的模型有两个通信阶段，分别为本地设备的局部模型训练参数上传至bs(上行链路通信)和bs将全局模型参数广播至各个车辆用户(下行链路通信)。对于上行链路通信，我们考虑采用时分多址协议进行参数传输。
16.bs收集车辆用户工作的基本信息指车辆用户设备工作的基本参数，包括车辆用户设备n的有效电容系数σn，用户设备n的cpu工作频率fn和用户设备n处理一个参数所需要的cpu周期数cn等，同时进行初始化过程，包括车辆用户设备的数据集、本地模型训练参数等，可得出车辆用户设备n和bs的参数传输速率，分别表示为：
[0017][0018]
其中bu和bd分别表示上行链路和下行链路的传输带宽，n0表示噪声功率谱密度，pn和pb分别表示车辆用户设备n和bs传输模型参数的功率，hn表示车辆用户n和bs之间的信道增益，i'n和i'b表示不参与fl算法的车辆用户和bs对参与fl算法的车辆用户和bs的干扰；
[0019]
车辆用户用于训练本地模型、传输本地模型训练参数至基站和接收全局模型参数的延迟表示为：
[0020][0021]
其中和分别表示车辆用户在每一次迭代过程中的本地模型训练延迟、上行链路的参数传输延迟、下行链路接收参数的延迟，所以总延迟表示为w表示车辆用户的本地模型训练参数，h(w)表示车辆用户传输至基站的本地模型训练参数大小，g表示全局模型参数，h(g)表示基站广播至各个车辆用户全局模型参数的大小，kn表示车辆用户n本地训练数据集的大小；
[0022]
车辆用户在每一次迭代过程中用于训练本地模型和传输本地模型训练参数至基站的能耗分别表示为：
[0023][0024]
因为基站是连续供电的，所以本发明未考虑基站的能量消耗，故每一次迭代过程的总能耗表示为
[0025]
车辆用户设备通信的信道状态和数据集大小联合表示为：
[0026]
z＝kn(q
n,d-1)
[0027]
其中表示无线信道中的分组错误率；
[0028]
本发明采用jonkervolgenant算法根据车辆用户设备传输参数的信道状态和数据
集大小寻找车辆用户与无线资源块之间的最优匹配，使总成本最小。首先给定三组对象：a＝[u1,u2,
…
,un]，b＝[r1,r2,
…
,rn]及c＝c[a，b]∈rn×n，分别表示满足s2要求的车辆用户、无线资源块向量及寻找最优匹配时的成本矩阵。车联网环境下车辆用户与无线资源块向量的最优匹配问题可以表示为：
[0029]
minimize∑
ab
c[a,b]
·
x[a,b]
[0030]
s.t.
[0031]
∑bx[a,b]＝1(a＝1
…
n)
[0032]
∑ax[a,b]＝1(b＝1...n)
[0033]
x[a,b]≥0(a,b＝1...n)
[0034]
其中，c[a,b]为将无线资源块分配给车辆用户时的成本矩阵，x[a,b]为二进制矩阵，x[a,b]＝1，表示ua对应于rb，否则为0。
[0035]
将无线资源分配问题视为最小化成本的求解问题表述如下：
[0036]
maximumσau[a]+σbv[b]
[0037]
s.t.
[0038]
c[a,b]-u[a]-v[b]≥0(a,b＝1
…
n)
[0039]
上述最小化成本问题的求解，是无线资源分配的关键步骤，即构建辅助网络，寻找增广路径，进行车辆用户设备与无线资源块的最优匹配。构建辅助网络后，更新最小化成本问题中u[a]和v[b]的值：
[0040]
c[a,k]-u[a]-v[k]＝0ifx[a]＝k(a＝1...n)
ꢀꢀ
(1)
[0041]
c[a,b]-u[a]-v[b]≥0(a,b＝1
…
n)
ꢀꢀ
(2)
[0042]
将(1)和(2)结合可得：
[0043]
c[a,k]-v[k]≤c[a,b]-v[b]
[0044]
本发明将车辆用户在本地训练模型参数、传输本地模型参数至bs的延迟和能耗作为车辆用户能否加入fl迭代过程的标准，利用遍历算法来选择训练性能高的车辆用户设备参与fl的迭代过程，以加速fl聚合和更新全局模型参数的进程。
[0045]
车辆用户设备用于本地训练和传输本地模型训练参数的总延迟表示为：
[0046][0047]
在每一迭代过程中，车辆用户设备用于本地模型训练和传输本地模型训练参数至基站的能耗表示为：
[0048][0049]
本发明提出采用随机梯度量化算法来减少车辆用户传输至bs的参数比特大小，以节省车辆用户的通信资源。量化作为模型压缩的一个重要分支，对于减少参数传输的比特大小是高效的，d维模型参数向量w的量化函数表示为：
[0050]qs
(wi)＝||w||2·
sgn(wi)
·
ξi(w,s)w≠0
[0051]
其中ξi(w,s)'s是独立的随机变量，表示为：
[0052][0053]
其中，s对应于量化级别的数量，l∈[0,s)是使|wi|/||w||2∈[l/s，(l+1)/s)的整
数；
[0054]
量化后，本地模型参数更新表示为：
[0055][0056]
其中t表示当前迭代过程，η表示学习速率，表示车辆用户n在第t次迭代过程中使用本地数据执行模型训练时的梯度；
[0057]
基站将接收到的车辆用户n的本地模型训练参数采用elias解码，然后将其加权聚合，表示为：
[0058][0059]
其中n”表示满足步骤s4预设延迟和能耗阈值的车辆用户，
←
表示赋值关系即将右边的值赋给左边，左边的式子是右边的简单表示；
[0060]
基站使用加权聚合后的参数更新全局模型参数，再将更新后的全局模型参数w”t+1
广播至参与迭代过程的车辆用户以进行下一迭代轮次的更新表示为：
[0061][0062]
基于上述分析，模型训练的全局损失函数在整个学习过程表示为：
[0063][0064]
其中k表示车辆用户数据样本的总数，
[0065]
本发明的优化目标是在提高收敛精度的同时，最大化损失函数的衰减，也即降低训练损失，该优化问题可以表述为：
[0066]
minimize f(w)
[0067]
s.t.
[0068][0069][0070]
0≤pn≤p
max
ꢀꢀ
(5)
[0071][0072]
∑
n∈n
un≤rnꢀꢀ
(7)
[0073]
其中(6)表示每个资源块向量只能分配给一个用户，(7)表示车辆用户设备的数量要小于资源块向量的数量。
[0074]
为了实现上述目标，我们将在迭代过程中进一步分析并用学习效率来表示模型的训练效果：
[0075][0076]
s.t.
[0077]
(3)-(7)
[0078][0079]
结合本发明的iov场景，改进的基于fl的无线资源分配和通信过程优化算法的流程表如表1所示。
[0080]
表1车联网环境下基于fl的无线资源分配和通信优化方法
附图说明
[0081]
图1车联网环境下基于fl的车辆用户与基站之间的通信模型
[0082]
图2基站与每个车辆用户之间的距离
[0083]
图3不同量化比特下fl的全局收敛精度
[0084]
图4不同无线资源分配算法影响下fl的全局收敛精度
[0085]
图5不同车辆密度下的损失衰减
具体实施方式
[0086]
本发明在matlab2018a中进行设计仿真。假设有一个半径为r＝500m的车辆路段，该路段中心有一个bs和15个随机分布的车辆用户。
[0087]
仿真参数设置如表2所示
[0088]
表2仿真参数设置
[0089]
为了验证本发明所述方法，本发明选取参数未量化的训练精度与参数量化为2bit、4bit和8bit作为对比基线，以证明本发明所述利用随机梯度量化算法优化上行链路通信的有效性。
[0090]
图3是未量化局部模型参数的无线资源分配方法与量化局部模型参数之后的无线资源分配方法对比，将局部模型参数量化为2bit、4bit和8bit与未量化相比，精度分别降低了38.83％、7.62％和0.3％。可以看到在图中训练精度有明显的锯齿形状，致使在某些迭代轮次中参数未量化的训练精度低于参数量化为8bit的训练精度，这是因为局部模型参数上传至bs时容易受到数据包错误率的影响，而参数量化的训练精度相较于参数未量化较为平缓是因为随机梯度量化算法的编码功能，参数量化后再传输受数据包错误率的影响较小。此外考虑到与未量化的参数相比，量化一方面可以节省车辆用户设备传输本地模型训练参数至基站的通信资源消耗，另一方面参数量化可以增加恶意用户推断出局部参数的难度，提升保护车辆用隐私的能力。
[0091]
图4是不同资源分配方法影响下(jonker volgenant算法、匈牙利算法和未优化用户选择的jonker volgenant算法)fl全局模型的收敛曲线。jonker volgenant算法进行迭代求解时相较于匈牙利算法优化了行和列的初始化及最短路径的实现方法减少了计算时间，而第二个对比基线没有采用遍历算法优化用户选择，所以本发明所采用的jonker volgenant算法优于两种对比基线。
[0092]
图5是不同车辆密度下的损失衰减。随着车辆密度的增加，本发明所提出的方法可以使用更多的数据样本进行训练，训练损失逐渐减小，效果仍优于对比基线。