干扰条件下基于注意力机制的HRRP增强预处理方法

干扰条件下基于注意力机制的hrrp增强预处理方法
技术领域
1.本发明属于雷达技术领域，具体涉及一种干扰条件下基于注意力机制的hrrp增强预处理方法。


背景技术：

2.高分辨距离像是用宽带雷达获取的目标散射点子回波在雷达射线上投影的向量和，它提供了目标散射点沿距离方向的分布情况，是目标重要的结构特征，对于目标识别很有价值。但当环境中存在窄带干扰时，会导致宽带雷达成像、识别性能严重下降甚至失效。考虑到窄带干扰具有能量强、易检测的特点，可在频域剔除干扰分量并对频谱进行插补重构后完成成像、识别任务，其关键在于如何对频谱的缺失值进行插补。
3.目前常用的方法是使用循环神经网络对缺失值进行插补。
4.然而，基于循环神经网络不能并行计算，运行时间较长，另外循环神经网络中前序数据信息会随着循环过程的进行而衰减，所以其插补性能仍会受到一定的限制。


技术实现要素：

5.为了解决现有技术中存在的上述问题，本发明提供了一种干扰条件下基于注意力机制的hrrp增强预处理方法。本发明要解决的技术问题通过以下技术方案实现：
6.一种干扰条件下基于注意力机制的hrrp增强预处理方法，所述干hrrp增强预处理方法包括：
7.步骤1、生成第一数据集，所述第一数据集包括m个类别目标的一维高分辨距离像频谱信号，每个所述频谱信号的维度为k
×
2；
8.步骤2、将所述频谱信号中的若干位置的数据设置为0，得到第二数据集；
9.步骤3、根据所述第二数据集得到辅助数据集，所述辅助数据集包括所述频谱信号的掩码矩阵和位置矩阵；
10.步骤4、对所述第二数据集进行预处理得到第三数据集；
11.步骤5、基于transformer网络模型，根据所述第三数据集、所述掩码矩阵和所述位置矩阵，得到缺失的频谱元素的插补值；
12.步骤6、利用损失函数，计算所述插补值与真实值之间的损失值；
13.步骤7、基于所述损失值，利用反向传播算法迭代更新所述transformer网络模型的参数，直到所述损失值收敛为止，得到训练好的transformer网络模型；
14.步骤8、基于训练好的transformer网络模型，根据目标频谱信号得到插补值，使用插补值填充对应频谱信号的缺失值以得到重构信号。
15.在本发明的一个实施例中，所述掩码矩阵中元素为0的位置表示元素缺失，所述掩码矩阵中元素为1的位置表示元素未缺失，所述位置矩阵中每个元素的数值表示对应频谱信号元素的序号。
16.在本发明的一个实施例中，所述步骤4包括：
17.对所述第二数据集中的每个频谱信号的幅度进行模二范数归一化处理，得到所述第三数据集。
18.在本发明的一个实施例中，所述transformer网络模型包括embedding模块、特征提取模块、上下文特征提取模块和插补模块。
19.在本发明的一个实施例中，所述embedding模块包括位置编码层和特征融合层；
20.所述特征提取模块包括输入层和第一全连接层；
21.所述上下文特征提取模块包括若干编码层，所述编码层包括自注意力层和前馈神经网络，所述自注意力层包括多头自注意力层和第二全连接层，所述前馈神经网络包括第三全连接层、第四全连接层；
22.所述插补模块包括第五全连接层与输出层。
23.在本发明的一个实施例中，所述步骤5包括：
24.步骤5.1、将所述第三数据集、所述掩码矩阵、所述位置矩阵输入到所述embedding模块，其中，所述位置矩阵经过位置编码层，得到位置编码矩阵；
25.步骤5.2、将所述第三数据集、所述位置编码矩阵、所述掩码矩阵通过所述特征融合层进行拼接，得到特征融合矩阵；
26.步骤5.3、将所述特征融合矩阵输入到所述特征提取模块，得到第一频谱特征；
27.步骤5.4、将所述第一频谱特征输入到所述上下文特征提取模块，依次通过所有编码层，得到频谱上下文特征；
28.步骤5.5、将所述掩码矩阵中为0的元素所对应的频谱上下文特征通过所述插补模块得到缺失的频谱元素的插补值。
29.在本发明的一个实施例中，所述位置编码层的编码方法为：
[0030][0031][0032]
其中，pe表示位置编码矩阵，pos表示频谱元素的序号，i表示频谱元素在位置编码矩阵中的列号，d
model
表示位置编码矩阵中行向量的维度。
[0033]
在本发明的一个实施例中，所述步骤6包括：
[0034]
利用平均绝对误差损失函数，计算所述插补值与所述真实值之间的损失值。
[0035]
在本发明的一个实施例中，所述平均绝对误差损失函数为：
[0036][0037]
其中，pred表示插补值，real表示真实值，n表示缺失值的数量。
[0038]
在本发明的一个实施例中，所述步骤8包括：
[0039]
步骤8.1、获取第一目标频谱信号；
[0040]
步骤8.2、根据所述第一目标频谱信号得到所述第一目标频谱信号的掩码矩阵和位置矩阵；
[0041]
步骤8.3、对所述第一目标频谱信号的幅度进行模二范数归一化处理，得到第二目标频谱信号；
[0042]
步骤8.4、将所述第二目标频谱信号依次通过训练好的transformer网络模型的
embedding模块、特征提取模块、上下文特征提取模块和插补模块，得到缺失值的插补值，使用插补值填充对应频谱信号的缺失值以得到重构信号。
[0043]
本发明的有益效果：
[0044]
第一，由于本发明构造了插补缺失值的transformer网络模型，该transformer网络模型对频谱信号中各元素的位置序号进行编码，并将其与掩码矩阵、频谱回波进行拼接，使得模型可以利用频谱信号中各元素的位置信息辅助网络对缺失值进行插补，使插补结果更加准确。
[0045]
第二，本发明使用transformer网络模型提取各元素的上下文特征，相比循环神经网络，transformer网络模型在处理当前位置元素时会关注到所有位置的元素来帮助模型提取当前位置元素的特征和当前位置数据对其他位置数据的依赖信息，克服了传统循环神经网络中前序元素信息会随着循环过程的进行而衰减和无法并行执行的问题，相比传统循环神经网络可以取得更好的插补性能。
[0046]
第三，本发明所提供的插补方法主要用于解决现有技术中循环神经网络对高分辨距离像频谱信号利用不充分，前序数据的信息存在缺失的问题。
[0047]
以下将结合附图及实施例对本发明做进一步详细说明。
附图说明
[0048]
图1是本发明实施例提供的一种干扰条件下基于注意力机制的hrrp增强预处理方法的流程示意图；
[0049]
图2是本发明实施例提供的一种插补缺失值的transformer模型结构示意图。
具体实施方式
[0050]
下面结合具体实施例对本发明做进一步详细的描述，但本发明的实施方式不限于此。
[0051]
实施例一
[0052]
当环境中存在窄带干扰时，会导致宽带雷达成像、识别性能严重下降甚至失效。考虑到窄带干扰具有能量强、易检测的特点，可在频域剔除干扰分量并对频谱进行插补重构后完成成像、识别任务，因此如何对频谱的缺失值进行插补重构，使其接近真实值，是一个亟需解决的问题。为了解决这个问题，请参见图1，图1是本发明实施例提供的一种干扰条件下基于注意力机制的hrrp增强预处理方法的流程示意图，本发明提出了一种干扰条件下基于注意力机制的hrrp增强预处理方法，该hrrp增强预处理方法包括：
[0053]
步骤1、生成第一数据集，所述第一数据集包括m个类别目标的一维高分辨距离像频谱信号，每个所述频谱信号的维度为k
×
2。
[0054]
具体地，提取m个类别目标的一维高分辨距离像频谱信号组成训练数据集(即第一数据集)，每个类别至少包含2000个一维高分辨距离像频谱信号，由于频谱信号为复数数据，所以每个频谱信号的维度例如为256
×
2，其中，m≥1。
[0055]
步骤2、将频谱信号中的若干位置的数据设置为0，得到第二数据集。
[0056]
具体地，任意从所有频谱信号中选出部分频谱信号，将所选出的频谱信号中的若干位置数据设置为0，其表示此位置的频谱被干扰，出现了缺失，未被更改的频谱信号和更
改后的频谱信号组成第二数据集，本实施例不对频谱信号中设置为0的位置和具体数量进行限制。
[0057]
步骤3、根据第二数据集得到辅助数据集，辅助数据集包括频谱信号的掩码矩阵和位置矩阵。
[0058]
具体地，生成一个k
×
1的掩码矩阵，该掩码矩阵中的元素为0表示对应位置的频谱由于被干扰出现了缺失，掩码矩阵中的元素为1表示对应位置的频谱元素未缺失，例如掩码矩阵的维度为256
×
1；生成k
×
1的位置矩阵，其中，位置矩阵中每个元素的数值表示对应频谱信号元素的序号，例如第一个元素值为1，第二个元素为2等，例如位置矩阵的维度为256
×
1；将所有频谱信号的掩码矩阵、位置矩阵作为辅助数据集。
[0059]
步骤4、对第二数据集进行预处理得到第三数据集。
[0060]
具体地，对第二数据集中的每个频谱信号的幅度进行模二范数归一化处理，得到第三数据集，即经过归一化处理后的所有频谱信号组成第三数据集。
[0061]
步骤5、基于transformer网络模型，根据第三数据集、掩码矩阵和位置矩阵，得到缺失的频谱元素的插补值，最后获得重构的hrrp频域信号。
[0062]
在本实施例中，请参见图2，transformer网络模型包括embedding模块、特征提取模块、上下文特征提取模块和插补模块。
[0063]
其中，embedding模块包括位置编码层和特征融合层，即搭建一个包含一个位置编码层和一个特征融合层的embedding模块。
[0064]
特征提取模块包括输入层和第一全连接层，即搭建一个由输入层和第一全连接层组成的特征提取模块。
[0065]
上下文特征提取模块包括若干编码层，编码层包括自注意力层和前馈神经网络，自注意力层包括多头自注意力层和第二全连接层，前馈神经网络包括第三全连接层、第四全连接层；例如编码层共为4个，即第一编码层、第二编码层、第三编码层和第四编码层。
[0066]
设置上下文特征提取模块各层参数如下：将多头自注意力层中的查询向量(q)、键值向量(k)、查询向量(v)的维度大小设置为64，注意力的个数设置为12，自注意层中的第二全连接层的权重维度大小设置为768
×
512；前馈神经网络中的第三全连接层、第四全连接层的权重维度大小分别设置为512
×
1024、1024
×
512。
[0067]
插补模块包括第五全连接层与输出层，即搭建一个由第五全连接层与输出层构成的插补模块；
[0068]
将embedding模块、特征提取模块、上下文特征提取模块、插补模块组成插补缺失值的transformer网络模型。
[0069]
请参见图2，对本实施例构建的插补缺失值的transformer网络模型的结构作进一步详细描述。
[0070]
在图2中有缺失值的高分辨距离像频谱信号、掩码矩阵、位置矩阵从最左端的embedding模块输入，位置编码层与特征融合层构成embedding模块。11
×
512维的第一全连接层所构成的模块为特征提取模块。上下文特征提取模块由4个transformer中的编码层结构组成，其中自注意力层中的查询向量(q)、键值向量(k)、查询向量(v)的维度大小设置为64，注意力的个数设置为12，自注意层中的第二全连接层的权重维度大小设置为768
×
512；前馈神经网络中的第三全连接层、第四全连接层的权重维度大小分别设置为512
×
1024、
1024
×
512。插补模块由512
×
1维的第五全连接层与输出层构成，插补模块的输出为缺失值的插补值。
[0071]
在一个具体实施例中，步骤5可以具体包括：
[0072]
步骤5.1、将第三数据集、掩码矩阵、位置矩阵输入到embedding模块，其中，位置矩阵经过位置编码层，得到位置编码矩阵；
[0073]
具体地，位置编码层的编码方法为：
[0074][0075][0076]
其中，pe表示位置编码矩阵，pos表示频谱元素的序号，i表示频谱元素在位置编码矩阵中的列号，d
model
表示位置编码矩阵中行向量的维度。
[0077]
步骤5.2、将第三数据集、位置编码矩阵、掩码矩阵通过特征融合层进行拼接，得到特征融合矩阵，如得到一个256
×
11的特征融合矩阵；
[0078]
步骤5.3、将特征融合矩阵输入到特征提取模块，得到第一频谱特征，如得到256
×
512的第一频谱特征；
[0079]
步骤5.4、将第一频谱特征输入到上下文特征提取模块，依次通过所有编码层，得到频谱上下文特征，例如依次通过第一编码层、第二编码层、第三编码层、第四编码层，得到频谱上下文特征，频谱上下文特征的维度为256
×
512；
[0080]
步骤5.5、将掩码矩阵中为0的元素所对应的频谱上下文特征通过插补模块得到缺失的频谱元素的插补值。
[0081]
步骤6、利用损失函数，计算插补值与真实值之间的损失值。
[0082]
具体地，利用平均绝对误差(mae)损失函数，计算插补值与真实值之间的损失值。其中，平均绝对误差损失函数为：
[0083][0084]
其中，pred表示插补值，real表示真实值，n表示缺失值的数量。
[0085]
步骤7、基于损失值，利用反向传播算法迭代更新transformer网络模型的参数，直到损失值收敛为止，得到训练好的transformer网络模型。
[0086]
具体地，将embedding模块、特征提取模块、上下文特征提取模块、插补模块组成插补缺失值的transformer网络模型，所有模块同时参加前向传播过程和误差反向传播过程，插补缺失值的transformer网络模型的所有权重参数均迭代更新。
[0087]
步骤8、基于训练好的transformer网络模型，根据目标频谱信号得到插补值，使用插补值填充对应频谱信号的缺失值以得到重构信号。
[0088]
步骤8.1、获取第一目标频谱信号。
[0089]
具体地，对存在干扰的一维高分辨距离像频谱信号(即第一目标频谱信号)中的元素进行置0处理。
[0090]
步骤8.2、根据第一目标频谱信号得到第一目标频谱信号的掩码矩阵和位置矩阵。
[0091]
具体地，利用如步骤3的方法得到第一目标频谱信号的掩码矩阵和位置矩阵。
[0092]
步骤8.3、对第一目标频谱信号的幅度进行模二范数归一化处理，得到第二目标频
谱信号。
[0093]
步骤8.4、将第二目标频谱信号依次通过训练好的transformer网络模型的embedding模块、特征提取模块、上下文特征提取模块和插补模块，得到缺失值的插补值，使用插补值填充对应频谱信号的缺失值以得到重构信号。
[0094]
本发明为有效利用目标频谱信号，通过构建包含embedding模块、特征提取模块、上下文特征提取模块、插补模块的插补缺失值的transformer网络模型。通过embedding模块融合频谱信号、位置序号、掩码矩阵，然后将输出依次通过特征提取模块、上下文特征提取模块、插补模块进行初步特征提取、上下文特征提取、插补缺失值。通过构造一个插补缺失数据的transformer网络模型，其操作简单，插补效果良好。
[0095]
本发明可以针对高分辨距离像频谱由于受到干扰发生部分频谱缺失的问题，对空中、地面运动的不同目标进行缺失频谱插补。
[0096]
由于本发明构造了插补缺失值的transformer网络模型，该transformer网络模型包括embedding模块、特征提取模块、上下文特征提取模块、插补模块。在embedding模块中，模型对频谱信号中各元素的位置序号进行编码，并将其与掩码矩阵、频谱回波进行拼接，使得模型可以利用频谱信号中各元素的位置信息辅助网络对缺失值进行插补，使插补结果更加准确。
[0097]
由于本发明在上下文特征提取模块中使用transformer网络模型提取各元素的上下文特征，相比循环神经网络，transformer网络模型在处理当前位置元素时会关注到所有位置的元素来帮助模型提取当前位置元素的特征和当前位置数据对其他位置数据的依赖信息，克服了传统循环神经网络中前序元素信息会随着循环过程的进行而衰减和无法并行执行的问题，相比传统循环神经网络可以取得更好的插补性能。
[0098]
1、仿真实验条件：
[0099]
本发明的仿真实验的硬件平台为：处理器为intel(r)core(tm)i7-7700cpu@3.60ghz 3.60ghz，主频为2.00ghz，内存16gb。
[0100]
本发明的仿真实验的软件平台为：windows 10操作系统和python 3.6。
[0101]
实验所用的数据是3类飞机的高分辨距离像实测数据，3类飞机型号分别为奖状(715)，安26(507)，雅克42(922)，获得的3类高分辨距离像频谱信号，分别是奖状(715)飞机的高分辨距离像频谱信号、安26(507)飞机的高分辨距离像频谱信号和雅克42(922)飞机的高分辨距离像频谱信号，将3类高分辨距离成像数据分成训练样本集和测试样本集，然后为训练样本集和测试样本集中的所有高分辨距离成像数据分别加上相应的类别标签；训练样本集中包含9000个训练样本，测试样本集中包含3000个测试样本，其中，训练样本集中含有第1类高分辨距离像频谱信号3000个，第2类高分辨距离像频谱信号3000个，第3类高分辨距离像频谱信号3000个。测试样本集中含有第1类高分辨距离像频谱信号1000个，第2类高分辨距离像频谱信号1000个，第3类高分辨距离像频谱信号1000个。
[0102]
在进行缺失值插补之前对原始频谱信号中的随机位置的元素进行置零，然后作归一化处理，最后使用插补缺失值的transformer模型进行缺失值插补，最后获得重构后的hrrp频域数据。
[0103]
2、实验内容及结果分析
[0104]
本发明仿真实验是采用本发明和双向循环神经网络(brnn)插补方法，分别对3类
飞机目标的一维高分辨距离像频谱信号进行仿真实验。
[0105]
利用相对重构误差对两种方法的插补结果进行评价。
[0106]
将训练数据集与辅助数据集中所有样本均输入到插补缺失值的transformer网络模型中，完成了插补缺失值的transformer网络模型的一轮训练，记迭代轮次为一次，每一轮迭代结束，总共进行200次迭代。迭代完成后将测试数据集与测试辅助数据集中所有样本输入到迭代训练后的网络中，得到测试数据集中缺失值的插补值，使用插补值对缺失样本进行填充，获得重构的样本，计算重构样本与真实样本之间的重构误差mre计算公式如下：
[0107][0108]
其中表示重构的样本的频域信号，表示重构样本所对应的真实样本的频域信号，i表示待重构样本的个数。
[0109]
表1为数据集缺失率为10％、30％、50％情况下，各种模型的相对重构误差结果。
[0110]
表1
[0111][0112][0113]
如表1所示，本发明提出的方法相较于双向循环神经网络插补方法，在重构样本上的相对重构误差上有了一个明显的下降。在缺失率为10％、30％、50％的情况下，本发明所提出的方法的相对重构误差均低于双向循环神经网络。在缺失率为50％时，本发明所提出的方法相对重构误差为0.1397，而双向循环神经网络为0.3247，相对重构误差下降了0.185。同时在10％、30％、50％缺失率情况下，本发明方法性能相对稳定，而双向循环神经网络插补方法性能下降明显。对比10％、30％、50％缺失率的情况下的相对重构误差，可以看出本发明提出的方法比双向循环神经网络插补方法具有更好的重构性能和稳定性。
[0114]
本发明提出的干扰条件下基于注意力机制的hrrp增强预处理方法有着良好的稳定性，插补性能高等特点，因此本发明能够针对干扰条件下的高分辨距离频谱发生缺失的问题，实现对缺失频谱信号的插补重构，具有重要的实际意义。
[0115]
在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施例或示例中以合适的方式结合。此外，本领域的技术人员可以将本说明书中描述的不同实施例或示例进行接合和组合。
[0116]
尽管在此结合各实施例对本技术进行了描述，然而，在实施所要求保护的本技术过程中，本领域技术人员通过查看所述附图、公开内容、以及所附权利要求书，可理解并实现所述公开实施例的其他变化。在权利要求中，“包括”(comprising)一词不排除其他组成
部分或步骤，“一”或“一个”不排除多个的情况。单个处理器或其他单元可以实现权利要求中列举的若干项功能。相互不同的从属权利要求中记载了某些措施，但这并不表示这些措施不能组合起来产生良好的效果。
[0117]
以上内容是结合具体的优选实施方式对本发明所作的进一步详细说明，不能认定本发明的具体实施只局限于这些说明。对于本发明所属技术领域的普通技术人员来说，在不脱离本发明构思的前提下，还可以做出若干简单推演或替换，都应当视为属于本发明的保护范围。