基于毫米波MIMO系统深度学习的混合预编码设计方法与流程

本发明属于通信技术领域，涉及基于毫米波mimo系统深度学习的混合预编码设计方法。

背景技术：

随着无线设备的快速发展，人工智能、虚拟现实、大数据分析、增强现实等诸多新兴应用进入我们的生活，同时，无线网络中相应的数据流量也呈指数级增长。为了满足未来的流量需求，学术界和工业界致力于开发下一代无线局域网(wlan)和移动蜂窝通信。而毫米波(mmwave)其频谱从30ghz到300ghz，可以解决当前移动系统带宽不足的问题。但是由于大气吸收、降雨衰减和低穿透率，使得mmwave频段的传输损耗远高于常规频段，有趣的是，由于mmwave的波长较短，所以在相同的物理尺寸中封装大量的天线。大型天线阵列可以提供波束形成增益，克服传输损耗，合成高定向波束。它还可以同时传输多个数据流，从而显著提高频谱效率。然而传统的全数字预编码要求每个天线连接一个射频链，使得系统的成本和能耗显著增大，针对这一问题，混合预编码技术在减少系统能耗，提高系统性能方面得到了广泛的关注。

与传统的全数字预编码设计相比，在混合预编码问题中，除了四个波束形成变量的联合优化困难外，移相器对模拟波束形成器的恒模约束也使得该问题具有非凸性，难以求解。现有的大多数工作都是先将原问题解耦为混合预编码和组合子问题，然后重点解决子问题的常模约束，从而克服了这一困难。目前一种有效且广泛使用的方法是将混合预编码设计视为矩阵分解问题，并最小化混合预编码与全数字预编码之间的欧氏距离。为了解决这一矩阵分解问题，omarelayach等人利用了毫米波传播信道的空间结构，提出了基于正交匹配追踪(omp)的空间稀疏预编码和组合算法。yu等人提出了一种基于流形优化(mo)的混合预编码算法，以及一些低复杂度的算法。除了矩阵分解方法外，混合预编码设计的另一个思路是直接处理原始问题，首先根据原始目标推导出数字波束形成器的封闭形式解，然后对具有定模约束的模拟波束形成器进行迭代求解。

另一方面，近年来在智能通信领域的研究表明，基于数据的深度学习(dl)方法在解决传统的挑战性问题方面具有巨大的潜力。它是一种处理爆炸性数据和处理复杂非线性问题的非凡技术。实践证明，深度学习是解决复杂非凸问题和高计算量问题的一种优秀工具。一些学者研究了以往将深度学习引入通信的工作，包括波束选择、异构网络、非正交多址访问(noma)、大规模mimo和异构网络等。此外，基于深度学习的通信方案取得了很大的进展。综上所述，为了降低系统复杂度及提高系统性能，本发明提出了毫米波大规模mimo系统中基于深度学习的混合预编码设计方案。

技术实现要素：

有鉴于此，本发明的目的在于提供一种基于毫米波mimo系统深度学习的混合预编码设计方法。

为达到上述目的，本发明提供如下技术方案：

基于毫米波mimo系统深度学习的混合预编码设计方法，该方法包括以下步骤：

步骤一：首先将发射端与接收端分离设计，对于从码本中任意选择的模拟预编码frf，为模拟预编码的码本集，通过最大化毫米波信道上的高斯信号实现的互信息，得到其对应的数字预编码fbb，选择使得互信息最大的模拟预编码与数字预编码作为最优混合预编码，其中*表示最优，rf表示模拟，bb表示基带数字，分别表示模拟预编码与数字预编码的最优值；

步骤二：由步骤一得和对于从码本中任意选择的模拟组合器wrf，为模拟组合器的码本集，通过最大化系统频谱效率得到其对应的数字组合器wbb，选择使得系统频谱效率最大的wrf作为最优模拟组合器表示模拟组合器的最优值；

步骤三：构建神经网络框架，分别训练模拟预编码神经网络和模拟组合神经网络；两个网络的输入分别为h^m表示m次信道实现，和分别代表步骤一、步骤二中m次信道实现从模拟预编码的码本集和模拟组合器的码本集中选择的的索引值集合；

步骤四：根据不同的输入信道条件，输出得到最优的模拟预编码和模拟组合器通过步骤一和步骤二计算得到基带数字预编码与组合器

可选的，所述步骤一中，将发射端与接收端分离并设计模拟预编码frf和数字预编码fbb的原理如下：

假设接收器基于接收信号执行最佳解码，通过最大化毫米波信道上的高斯信号实现的互信息来设计frf，fbb：

其中为frobenius范数的平方，对于任何从码本中选择的模拟预编码frf，其最优基带数字预编码fbb为：

其中上角标表示求次幂，v表示的右奇异值矢量的前ns列，ns为数据流数量，p为对角矩阵，对角元素值为注水功率控制解；当fbb已知时，优化目标写为：

frf的设计为从码本中选择使得上式取得最大时的模拟预编码器

可选的，所述步骤二中，模拟组合器wrf和数字组合器wbb的设计原理如下：

由步骤一设计确定了所以只需要设计wrfwbb以最大化系统的频谱效率，因此优化目标写为：

其中h1＝hfrffbb，为组合后噪声的协方差矩阵，为噪声功率，对大规模天线阵列，当天线数量很多时，满足符号∝表示与i成正比，i为单位阵，假设符号≈表示约等于，得到所以优化目标改写为：

对于任何从码本中选择的模拟预编码wrf，其最优基带数字预编码wbb为：v1为奇异值分解的右奇异值矩阵；因此，wrf的设计问题转化为：

wrf的设计为从码本中选择使得上式取得最大时的模拟组合器

可选的，所述步骤三中，深度学习神经网络框架如图2所示，网络框架包含3个卷积(convolutions)层，3个全连接(fullyconnected)层，3个最大池化(maxpooling)层，1个逻辑回归(softmax)层，每个卷积层后面都有激活函数(relu)层，网络的输入为将信道矩阵h分为实数部分re{[h]i,j}和虚数部分im{[h]i,j}，re{·}、im{·}分别表示对信道矩阵h取实部和虚部；网络的输出为模拟预编码矩阵frf或模拟组合器矩阵wrf，因为frf、wrf是从预定义的码本中选择，因此将frf、wrf的选择表述为从码本中选择最优索引值的多标签分类问题，对每个样本h，使用获得最大频谱效率的模拟预编码矩阵作为标准，然后选择模拟预编码的索引值作为每个样本的标签值；使用交叉熵作为多标签分类问题的损失函数，训练神经网络。

可选的，所述步骤四中，对于新的信道h，用训练好的网络预测输出得到最优的模拟预编码和模拟组合器其最优数字预编码与数字组合器由步骤二和步骤三的计算公式得到。

本发明的有益效果在于：

本发明的其他优点、目标和特征在某种程度上将在随后的说明书中进行阐述，并且在某种程度上，基于对下文的考察研究对本领域技术人员而言将是显而易见的，或者可以从本发明的实践中得到教导。本发明的目标和其他优点可以通过下面的说明书来实现和获得。

附图说明

为了使本发明的目的、技术方案和优点更加清楚，下面将结合附图对本发明作优选的详细描述，其中：

图1为毫米波大规模mimo系统模型示意图；

图2为提出的基于深度学习的神经网络具体结构框图；

图3为本发明提供的基于深度学习的混合预编码总体流程图。

具体实施方式

以下通过特定的具体实例说明本发明的实施方式，本领域技术人员可由本说明书所揭露的内容轻易地了解本发明的其他优点与功效。本发明还可以通过另外不同的具体实施方式加以实施或应用，本说明书中的各项细节也可以基于不同观点与应用，在没有背离本发明的精神下进行各种修饰或改变。需要说明的是，以下实施例中所提供的图示仅以示意方式说明本发明的基本构想，在不冲突的情况下，以下实施例及实施例中的特征可以相互组合。

其中，附图仅用于示例性说明，表示的仅是示意图，而非实物图，不能理解为对本发明的限制；为了更好地说明本发明的实施例，附图某些部件会有省略、放大或缩小，并不代表实际产品的尺寸；对本领域技术人员来说，附图中某些公知结构及其说明可能省略是可以理解的。

本发明实施例的附图中相同或相似的标号对应相同或相似的部件；在本发明的描述中，需要理解的是，若有术语“上”、“下”、“左”、“右”、“前”、“后”等指示的方位或位置关系为基于附图所示的方位或位置关系，仅是为了便于描述本发明和简化描述，而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作，因此附图中描述位置关系的用语仅用于示例性说明，不能理解为对本发明的限制，对于本领域的普通技术人员而言，可以根据具体情况理解上述术语的具体含义。

本发明的系统环境为单用户毫米波大规模mimo系统模型，如图1所示，基站端有nt根发射天线，根rf链，用户端有nr根接收天线，根rf链，传输ns数据流，且满足传输的符号由数字预编码器fbb处理，并通过根rf链上变频到rf域。然后，通过模拟预编码器frf对信号进行预编码。则传输信号为x＝frffbbs，其中s为ns×1符号向量，且满足表示求期望，frf由模拟移相器实现，满足且满足总功率约束接收端运用射频链和模拟移相器来获取处理后的接收信号

其中wrf为模拟组合矩阵，wbb为基带组合矩阵。wrf是使用移相器实现的，因此也满足所以系统频谱效率为

为组合后的噪声协方差矩阵。

对于单用户mmwavemimo系统，我们的目标是联合设计混合预编码器和组合器，以最大限度地提高频谱效率。

对于四变量求解，相应的问题可以写成

在mmwave系统中，由于mmwave波段的高路径损耗和密集的天线阵列，导致了有限的散射和较高的天线相关系数。因此采用基于扩展的saleh-valenzuela模型对毫米波大规模mimo信道进行建模，使其能够准确的描述毫米波信道存在的数学结构。

其中αi,l表示第i个散射簇中，第l条路径的复增益，服从复高斯分布代表第i个簇的平均功率，且满足为归一化因子，和分别表示方位角的到达角和离开角，矢量和分别表示在方位角和处的接收和发射阵列响应矢量。当天线阵列采用均匀线性阵时，阵列响应矢量和可写成如下形式：

其中k＝2π/λ，λ是波长，为天线间间距。

基于以上系统并结合图1，对本发明提供的基于深度学习的混合预编码步骤进行一一说明。

(1).发射端混合预编码的设计

假设接收器可以基于接收信号执行最佳解码，通过最大化毫米波信道上的高斯信号实现的互信息来设计frf，fbb：

其中为frobenius范数的平方，对于任何从码本中选择的模拟预编码frf，其最优基带数字预编码fbb为：

其中上角标表示求次幂，v表示的右奇异值矢量的前ns列，ns为数据流数量，p为对角矩阵，对角元素值为注水功率控制解。当fbb已知时，优化目标可以写为：

frf的设计为从码本中选择使得上式取得最大时的模拟预编码器

(2).接收端混合组合器的设计

由步骤一设计确定了所以只需要设计wrfwbb以最大化系统的频谱效率，因此优化目标可以写为：

其中h1＝hfrffbb，为组合后噪声的协方差矩阵，为噪声功率，对大规模天线阵列，当天线数量很多时，满足符号∝表示与i成正比，i为单位阵，假设符号≈表示约等于，可以得到所以优化目标改写为：

对于任何从码本中选择的模拟预编码wrf，其最优基带数字预编码wbb为：v1为奇异值分解的右奇异值矩阵。因此，wrf的设计问题转化为：

wrf的设计为从码本中选择使得上式取得最大时的模拟组合器

(3).预编码与组合器神经网络的搭建

构建如图2所示深度学习神经网络框架，网络框架包含3个卷积(convolutions)层，3个全连接(fullyconnected)层，3个最大池化(maxpooling)层，1个逻辑回归(softmax)层，每个卷积层后面都有激活函数(relu)层，网络的输入为将信道矩阵h分为实数部分re{[h]i,j}和虚数部分im{[h]i,j}，re{·}、im{·}分别表示对信道矩阵h取实部和虚部；网络的输出为模拟预编码矩阵frf或模拟组合器矩阵wrf，因为frf、wrf是从预定义的码本中选择，因此将frf、wrf的选择表述为从码本中选择最优索引值的多标签分类问题，对每个样本h，使用获得最大频谱效率的模拟预编码矩阵作为标准，然后选择模拟预编码的索引值作为每个样本的标签值。使用交叉熵作为多标签分类问题的损失函数，训练神经网络。对于新的信道h，用训练好的网络预测输出得到最优的模拟预编码和模拟组合器其最优数字预编码与数字组合器由步骤二和步骤三的计算公式得到。

图3为本发明提供的基于深度学习的混合预编码总体流程图。

最后说明的是，以上实施例仅用以说明本发明的技术方案而非限制，尽管参照较佳实施例对本发明进行了详细说明，本领域的普通技术人员应当理解，可以对本发明的技术方案进行修改或者等同替换，而不脱离本技术方案的宗旨和范围，其均应涵盖在本发明的权利要求范围当中。