一种隐式三元组神经网络及光纤非线性损伤均衡方法与流程

本发明涉及一种隐式三元组神经网络及光纤非线性损伤均衡方法，属于光纤通信及均衡技术领域。

背景技术：

光纤通信系统的容量会受到光纤线性损伤和非线性损伤的限制。随着光纤通信技术的发展，光纤通信系统的通信容量已接近线性区的香农极限。进一步提升光纤通信系统的通信容量需要突破光纤非线性损伤的限制。典型的光纤非线性补偿方法除了链路光补偿类方法，还包括数字信号处理类的补偿方法。数字信号处理类的补偿方法包括数字反向传播(dbp，digitalback-propagation)，基于volterra级数传递函数的方法(vstf，volterratransferfunction)，基于微扰理论的方法和基于机器学习的方法。

dbp和vstf能有效缓解信号中的光纤非线性损伤。但是，由于其递归性，dbp和vstf需要的难以接受的计算复杂度。基于微扰理论的方法虽然不需要递归，但是在信号累积了较大色散的情况下需要计算一个大规模的系数矩阵，同样需要难以接受的计算复杂度。基于机器学习的方法中，神经网络是一种有潜力的光纤非线性均衡方法。神经网络通过拟合训练数据来估计一个光纤的逆传输系统来达到均衡光纤非线性损伤的目的。使用神经网络进行光纤非线性均衡不需要递归，需要更低的计算复杂度。并且，由于其自适应特性，神经网络有可能比非机器学习类的方法性能更佳。但是神经网络的设计并未考虑任何专家知识，这使神经网络的训练需要大量的训练数据，加重了均衡的代价。作为引入专家知识的尝试，使用信号构成三元组作为输入能够提升神经网络的均衡效果。但是，计算三元组同样需要较大的计算量。

技术实现要素：

本发明的目的在于针对现有光纤非线性损伤均衡方法存在需要训练数据多以及复杂度较高的技术缺陷，提出了一种隐式三元组神经网络及光纤非线性损伤均衡方法。

本发明是通过以下技术方案实现的：

所述隐式三元组神经网络及光纤非线性损伤均衡方法，包括用于光纤非线性损伤均衡的隐式三元组神经网络以及基于该隐式三元组神经网络的光纤非线性损伤均衡方法。

所述隐式三元组神经网络由下式定义：

其中，下标x/y代表x偏振态或y偏振态；为x或y偏振态的第k个符号的均衡结果；rx/y,k为x或y偏振态第k个接收到的符号；^*代表取共轭操作；βs为第s个锚权重；gs为第s个隐式三元组核函数；m称为锚点数，且锚点数m均大于或等于1；(rx/y,k,ry/x,k)中，当前者rx/y,k为x偏振态即rx,k，则后者ry/x,k为y偏振态ry,k；rx/y,k或ry/x,k为由第k个接收到的符号相邻若干个符号构成的信息向量，具体为：

其中，d为时间窗口，且为奇数；时间窗口d均大于或等于1，上标t代表转置；

第s个隐式三元组核函数定义为：

gs(rx/y,k,ry/x,k)＝px/y,s,k(|px/y,s,k|²+|py/x,s,k|²)(2)

其中，即：

其中，h为共轭转置操作；αs称为第s个隐式三元组核函数的参数矢量；所有隐式三元组核函数的参数矢量和锚权重称为可调参数；

所述基于该隐式三元组神经网络的光纤非线性损伤均衡方法，包括以下步骤：

步骤一，生成数据集；

其中，数据集包括训练集、验证集以及测试集；

步骤一，具体包括如下子步骤：

步骤1.1生成二进制比特流，即随机生成在x偏振态传输的二进制比特流bx和在y偏振态传输的二进制比特流by；

其中，二进制比特流bx和by中只包含比特0和比特1；

其中，比特0和比特1的出现概率均为50％；

步骤1.2生成标签符号流，具体为：将步骤1.1生成的bx和by经映射表f分别映射到星座图上，得到在x偏振态传输的标签符号流sx和在y偏振态传输的标签符号流sy；

其中，映射表f由调制格式确定；

步骤1.3获取待处理符号流，生成样本，具体为：步骤1.2生成的标签符号流sx和sy经过光纤通信系统的传输，并经过前置均衡后，得到对应的x偏振态的待处理符号流rx和y偏振态的待处理符号流ry；

其中，前置均衡包括线性均衡或非自适应的光纤非线性损伤均衡；一个待处理符号及其对应的标签符号的组合称为样本；

步骤1.4数据集划分，具体为：

按照一定比例随机将样本划分为三份，分别作为训练集、验证集以及测试集；

步骤二，优化隐式三元组神经网络，得到最优隐式三元组神经网络；具体包括如下子步骤：

步骤2.1初始化超参数搜索流程，即设置超参数候选集、最大迭代次数、最小优化量、最大忍耐步数、损失函数、梯度优化函数、批处理大小以及分配缓存；

其中，缓存包括损失缓存、超参数缓存、可调参数缓存以及验证结果缓存；

其中，损失缓存初始值为0；

其中，超参数包括时间窗口d、锚点数m以及学习率η；

其中，一组超参数配置，包括时间窗口、锚点数和学习率，记为(d,m,η)，所有待选的超参数配置组成超参数候选集；

其中，损失函数j由下式(4)定义：

其中，n为批处理大小，大于或等于1；ai为本网络的第i个输出符号；si为标签符号流中与ai对应的标签符号；

其中，梯度优化函数为以损失函数关于可调参数的梯度为自变量的函数，记为u(gradθ)；

其中，gradθ为损失函数关于可调参数θ的梯度，θ为锚权重或隐式三元组核函数的权重矢量的某一分量，梯度优化函数为有记忆的或无记忆的有界函数；

其中，可调参数，包括所有隐式三元组核函数的参数矢量和锚权重；

其中，最大迭代次数记为itermax，最小优化量记为imin，迭代次数记为iter；

其中，最小优化量imin大于0；

步骤2.2初始化可调参数迭代流程，具体为：初始化迭代次数iter为0，忍耐步数为0，损失缓存为0；从超参数候选集中选取一组超参数配置并应用，并从超参数候选集中剔除所选超参数配置；

步骤2.3计算损失函数，具体为：从训练集中随机抽取与批处理大小n相同数量的样本送入本网络，得到n个均衡符号，通过式(4)计算损失，并计算优化量i，最后将本次计算出的损失存入损失缓存；其中，优化量i为损失缓存减去损失；

步骤2.4计算步骤2.3中损失函数关于所有可调参数的梯度；

其中，梯度为沃廷格梯度；

步骤2.5更新可调参数θ并将iter加1，具体通过更新公式(5)实现：

θ←θ-ηu(gradθ)(5)

其中，θ为需更新的可调参数；

步骤2.6判断可调参数迭代是否终止,具体为：

2.6a若iter等于itermax，则跳到步骤2.7；

2.6b若iter小于itermax，则进一步判断，具体为：

2.6ba若imin小于或等于i，则跳到步骤2.3；

2.6bb若imin大于i，则忍耐步数加1，并跳到步骤2.6c；

步骤2.6c由忍耐步数判断是否终止可调参数迭代,具体为：

步骤2.6ca若忍耐步数等于最大忍耐步数，则跳到步骤2.7；

步骤2.6cb若忍耐步数小于最大忍耐步数，则跳到步骤2.3；

步骤2.7评估优化结果，具体为：将验证集中所有样本送入本网络，得到均衡后的信号，计算该信号的误码率，作为验证结果存入验证结果缓存并附上编号；将超参数配置存入超参数缓存，并附上与本次验证结果相同的编号；将可调参数存入可调参数缓存，并附上与本次验证结果相同的编号；

步骤2.8依据超参数候选集中元素个数决定是否结束超参数搜索流程,具体为：若超参数候选集中元素个数大于0，则跳到步骤2.2；否则若超参数候选集中元素个数等于0，则结束超参数搜索流程，跳到步骤2.9；

步骤2.9选取最优隐式三元组神经网络，具体为：搜索验证结果缓存中数值最小的验证结果，从超参数缓存和可调参数缓存中分别读取与数值最小的验证结果编号相同的超参数配置和可调参数，得到最优超参数配置和最优可调参数；将最优超参数配置和最优可调参数应用，得到最优隐式三元组神经网络；

步骤三，测试隐式三元组神经网络，具体为：将测试集中的所有样本送入最优隐式三元组神经网络，得到光纤非线性损伤均衡后的信号。

有益效果

本发明一种基于隐式三元组神经网络的光纤非线性损伤均衡方法，具有如下有益效果：

1.所述方法与dbp等递归的光纤非线性损伤均衡方法相比，摆脱了递归行为，需要的计算代价更低；

2.所述隐式三元组神经网络相比于人工神经网络，需要更少的训练数据；

3.所述方法可以以较小的计算代价提升非自适应光纤非线性损伤均衡方法的均衡效果。

附图说明

图1为本发明一种隐式三元组神经网络及光纤非线性损伤均衡方法实施例1中比特流到星座图的映射示意图；

图2为本发明一种隐式三元组神经网络及光纤非线性损伤均衡方法实施例1中相干光通信仿真系统的系统示意图；

图3为本发明一种隐式三元组神经网络的结构示意图及光纤非线性损伤均衡方法流程图；

图4为本发明一种隐式三元组神经网络及光纤非线性损伤均衡方法实施例1中的均衡结果图；

图5为本发明所述基于隐式三元组神经网络的光纤非线性损伤均衡方法实施例1中的计算复杂度示意图。

具体实施方式

下面结合附图和具体实施例对本发明一种隐式三元组神经网络及光纤非线性损伤均衡方法进行说明。以下实施例仅用于对本发明进行更详细的说明，但并不用来限制本发明的使用范围。

实施例1

每通道生成两串伪随机比特序列(prbs)分别用于两个偏振态传输，以附图1的映射关系将两串prbs映射到星座图上得到双偏振16qam符号，作为标签符号流。根据附图2的系统示意图搭建仿真系统，并改变入纤功率和传输距离(入纤功率从每通道-4dbm到2dbm，步进为1；传输距离从2400km到4000km，步进为80km)，按照步骤一生成不同条件下的数据集。训练集的大小范围为3000个符号到32768个符号，验证集和测试集的大小均为32768个符号。

根据附图3a的结构图构建隐式三元组神经网络以待优化。针对不同条件下的数据集，以附图3b中所示流程得到不同条件下的最优隐式三元组神经网络。对不同条件下的最优隐式三元组神经网络执行步骤三，得到如附图4所示的光纤非线性损伤均衡的结果。

附图4a为双偏振16qam信号经过2400km传输后，不同的光纤非线性损伤均衡方法得到的q因子随着每通道入纤功率变化的曲线。附图4a显示，在使用了步骤二得到的最优隐式三元组神经网络进行光纤非线性损伤均衡后，信号的q因子在最优入纤功率，即每通道-1dbm的情况下得到了大约0.6db的提升，

附图4b为双偏振16qam信号以每通道入纤功率-1dbm传输的情况下，不同的光纤非线性损伤均衡方式得到的q因子随着光纤链路的长度变化的曲线。20％软判决前向纠错(20％sd-fec)的最低q因子以横虚线表现在图中。附图4b显示，在以20％sd-fec所需的最低q因子为目标的情况下，所述方法和每跨段1步的dbp(dbp1)相比于线性均衡提升了相同的传输距离，大约为10.3％。当所述方法级联于dbp1之后时，相比于线性均衡提升了大约28.2％的传输距离，与步长为1km的dbp(理想dbp)的均衡效果相同。

附图4c为所述隐式三元组神经网络和人工神经网络在双偏振16qam信号每通道入纤功率-1dbm经过2400km传输后，对其进行光纤非线性损伤的均衡结果随着训练集大小变化的曲线。dbp1在相同条件下的均衡结果以横虚线的形式表现在图中。附图4c显示，在以dbp1的均衡效果为目标的情况下，所述隐式三元组神经网络所需的训练集大小大约为7200个符号，人工神经网络所需的训练集大小大约为13000个符号。

附图5为不同传输距离的情况下不同光纤非线性均衡算法的算法复杂度情况。附图5显示，所述隐式三元组神经网络的均衡一个符号所需的实数乘法数大约为1100，而dbp1均衡方法均衡一个符号所需的实数乘法数大于或等于3000。dbp1与所述方法级联所需复杂度大约仅为理想dbp的1.5％。

诸如dbp的递归类方法，其计算成本主要来源于递归特性。所述基于隐式三元组神经网络的光纤非线性损伤均衡方法，无需递归，只需一步计算就可得到均衡结果，因此相比于如dbp等递归的均衡方法复杂度更低，体现了本发明的第1个有益效果。

人工神经网络能在参数足够，即假设空间足够大的情况下拟合任何函数，代价就是需要大量的训练数据。所述隐式三元组神经网络，是以光纤非线性损伤的先验知识设计的，相比于人工神经网络具有更小但更精准的假设空间，因此需要更少的训练数据。所述隐式三元组神经网络所需的训练数据相比人工神经网络减少了40％，体现了本发明的第2个有益效果。

诸如dbp等非自适应的光纤非线性损伤均衡方法，难以均衡放大器噪声累计和带外信道等引入的随机光纤非线性损伤。所述基于隐式三元组神经网络的光纤非线性损伤均衡方法是一种自适应的方法，能够抑制非自适应的光纤非线性损伤均衡方法后的残余随机光纤非线性损伤。在dbp1之后级联所述网络增加的传输距离与理想dbp相同，且级联方法相比理想dbp复杂度更低，体现了本发明第3个有益效果。

步骤二中，待选锚点数范围为5到30，步进为5；时间窗口的待选范围为15到70，步进为5；学习率的待选范围为0.1，0.01，0.001，0.0001。超参数候选集由上述三个超参数在待选范围内所有的可能组合构成。步骤二中得到的最优隐式三元组神经网络选用的超参数配置在所有仿真条件下均为锚点数10，时间窗口31，学习率0.001。步骤2.1中，最大迭代次数取30倍的数据集大小，最小优化量取0.001，最大忍耐步数为300，批处理大小取64，梯度优化函数u(gradθ)＝gradθ。

综上所述，以上仅为本发明的较佳实施例而已，并非用于限定本发明的保护范围。凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。