一种基于紧致性特征学习的空间卫星目标识别方法

1.本发明涉及属于空间目标识别技术领域，特别是一种基于紧致性特征学习的空间卫星目标识别方法。


背景技术：

2.在近些年来高速增长的海量数据背景下，深度学习技术因其强大的特征学习能力为表示学习研究指明了新的发展方向。通过对模型进行深层次构建，深度学习可逐层地从样本中学习特征，实现对数据的高层次抽象表达，进而更好地揭示样本数据丰富的内在信息。同时，深度学习可将表示学习与分类识别纳入到整体的模型框架，形成一种端到端的训练模式，有效提升了相关任务的完成效率。其中，以卷积神经网络（convolutional neural network，cnn）为代表的深度学习技术在图像分类与识别领域体现出了传统浅层学习方法无法比拟的优势。
3.由于cnn中通常包含了大量模型参数，因而实现其有效训练需要以大量的训练数据作为支撑。然而在实际情况中，这一训练条件对于空间目标领域来说难以实现。若直接在小样本空间卫星目标图像下训练cnn，则会引起过拟合问题，导致cnn的特征学习优势无法充分发挥。针对这一问题，本发明聚焦于如何构建更适用于实际空间卫星目标分类与识别任务的深度学习模型。


技术实现要素：

4.为了克服现有技术的不足，本发明的目的是提供一种基于紧致性特征学习的空间卫星目标识别方法，本发明除了对传统卷积自编码器中涉及到的重建损失进行最小化以外，所提模型还在学习过程中显性地对类内样本施加紧致性约束，使学得特征具有更好的判别性。进一步地，本发明利用预训练完毕的紧致性卷积自编码模型对相应结构的cnn参数进行初始化，实现了端到端识别模型的构造。
5.本发明为解决上述技术问题采用以下技术方案：一种基于紧致性特征学习的空间卫星目标识别方法，包括以下步骤：1）构造错位配对样本作为输入；2）构建具有双通道共享参数结构的ccae模型，包括编码器部分和解码器部分；对于来自同一类别的空间卫星目标图像样本对和，编码器部分别在对应通道对样本进行交替的卷积和池化操作并产生对应的特征图，然后利用所获得特征图进行紧致性损失计算；同时，由所产生的编码器输出继续被输入到解码器以获得对应的重建图像并计算重建损失；对于输入图像，其二维局部空间特征的提取过程如下：
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(4)式(4)中，表示二维卷积操作，和分别为编码器中的第个卷积滤波器和对
应偏置，代表非线性激活函数，表示相应的编码器输出；在完成特征编码之后，引入最大池化层来捕捉特征图中的局部显著性特征，在通过反池化层完成相应的上采样操作后，特征的解码过程计算如下：
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(5)式(5)中，和分别表示解码器中的反卷积滤波器和偏置，为重建输出图像；3）将无监督训练应用于ccae的训练以实现对输入样本的特征学习，其目标在于最小化如下损失函数：
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(6)式(6)中，表示编码器和解码器中的参数集合，为输入图像的个数；设和分别表示和的编码输出特征图，则类内样本的紧致性损失定义如下：
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(7)式(7)中，代表类内样本对的个数，其在错位配对方式下等于样本的总数量；将式(6)的重建损失和进行合并，可得到如下ccae损失函数：
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(8)式(8)中，参数被用来控制重建损失和紧致性损失在模型训练过程中的权重比例，过大的值削弱重建损失效应，导致类间样本的可分性变差，相反，值过小则会降低类内样本的紧致性，ccae损失函数通过同时最小化重建损失和紧致性损失，达到类间样本可分性和类内样本紧致性的同步提升，从而获得用于空间卫星目标识别任务的增强性判别特征表示。
6.步骤2）所述的ccae模型整体框架包括类内卫星图像1、类内卫星图像2、重建卫星图像、编码器、解码器、重建损失、紧致损失、合并损失；其中，类内卫星图像1、类内卫星图像2分别与编码器连接，编码器、解码器、重建卫星图像依次相连，编码器连接紧致性损失，解码器连接重建损失，紧致性损失、重建损失与合并损失连接；适应于类内图像对作为输入，模型具有两通道编码器结构，其中两通道共享相同的网络参数。
7.步骤2）所述的编码器部分包括两层卷积层和两层全连接层，前两层卷积层分别包含32个和64个大小为的滤波器，同时在两层卷积之后均跟有操作窗口大小为的最大池化层，在经过上述卷积池化处理之后，将产生的特征图进行展平操作，然后输入到含有1024个神经元的全连接层进行处理，最后经包含待识别类别数量神经元的全连接层得到编码器输出；解码器部分以编码器的输出作为输入，其网络参数结构与编码器部分相对称。
8.步骤1）所述样本的数据集中共包含了20种不同类型的卫星目标，目标灰度图像的原始大小为，图像大小重置为，并在输入到ccae模型之前对像素值进行归一化处理；为实现类内目标的紧致性特征学习，采用类内错位配对方式对样本对进行构造。
9.本发明采用以上技术方案与现有技术相比，具有以下技术效果：（1）本发明借助于全连接自编码器在无监督机制下可快速获得小样本数据潜在特
征这一优点，同时利用cnn中的卷积结构替代传统全连接自编码器中的全连接结构，以更好地捕捉图像的二维空间特征。
10.（2）本发明为了学习到判别性更强的特征表示，通过一种简单快速的类内样本对构造方式实现对卷积自编码器的紧致性约束，使其与原有重建约束一起共同用于模型训练，以达到在所学特征空间中扩大类间样本距离，同时缩小类内样本距离的目的。
附图说明
11.图1是类内样本错位配对图。
12.图2是基于紧致性约束卷积自编码器的卫星目标特征学习模型的整体框架图。
13.图3a是特征学习模型的编码器网络部分；图3b是特征学习模型的解码器网络部分。
14.图4a是目标原始输入特征二维可视化；图4b是目标无紧致性约束学习特征二维可视化；图4c是目标紧致性约束学习特征二维可视化(不同颜色特征点代表不同类型目标)。
具体实施方式
15.为了使本发明的目的、技术方案和优点更加清楚，下面将结合附图及具体实施例对本发明进行详细描述。
16.本发明提出的一种基于紧致性特征学习的空间卫星目标识别方法，包括以下步骤：s1、构建一种基于紧致性约束卷积自编码器的卫星目标特征学习模型的整体框架；s2、构建基于紧致性特征学习模型的编码器、解码器网络部分；s3、构建实验数据集，并进行预处理；s4、给出紧致性特征学习和后续cnn训练的参数设置和细节设置；s5、针对20类卫星目标仿真数据，进行传统随机初始化cnn、无紧致性约束下初始化cnn和紧致性约束初始化cnn目标识别，比较三种方法的识别率。
17.在光学图像识别领域，基于对比损失和三元组损失的度量学习常被用于和深度学习相结合，实现类间样本的判别性提升。但这类方法通常需要经历复杂的同类和异类样本对构造过程，在面对不同任务时，很难确定合适的正负样本对比例对模型进行训练。
18.对于以多样本为输入的深度学习网络，其训练过程中存在着复杂的样本之间的相互关系。假设训练集的类别数量为，且每类包含个样本，则基于对比损失和三元组损失的输入样本对数量和分别为：
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(1)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(2)可以看出上述简单的组合方式直接导致生成了大量的样本对集合，同时也给网络造成了较大的训练成本。为了缓解输入样本对的数量激增程度，在基于对比损失的度量学习中，可采用随机配对的方式，即从个样本中随机选择个样本对。虽然该方式
大幅减少了样本对数量，但也常常因为丢失了过多的有用信息，导致网络的训练效果较差。三元组损失则通过选择距离较远的同类样本和距离较近的异类样本来形成三元组网络输入，造成基于该损失的网络训练同时涉及在线与离线优化，同时也导致训练样本的构造过程变得复杂。从另一方面来说，尽管在样本对构造方式上存在明显缺陷，对比损失的目标仍在于提升同类样本的相似性，也意味着样本对构造方式应有利于增强类内的紧致性。
19.基于上述分析，本发明采用了一种基于错位过程的类内样本对构造方式，使深度网络模型可在不增加样本规模的情况下学习到同类样本之间的相似性。假设，，，...，表示来自同一类别的个训练样本，则对于该类样本的错位配对方式如图1所示。
20.对于具有个类别且每类包含个样本的训练集，相应的输入样本对数量为：
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(3)从式(3)可以看出，采用错位配对的类内样本组织方式相比对比损失、三元组损失的样本构造方法，具有实施方式简单和对网络训练样本数量要求最少的优点。
21.在以错位配对样本为输入的基础上，本发明构建一种具有双通道共享参数结构的ccae模型，模型结构如图2所示。与传统自编码器的全连接网络拓扑结构不同，ccae中的编码器部分主要由卷积层构成，而解码器则包含了反卷积层，其中反卷积滤波器可由卷积滤波器进行转置得到。图3a为ccae编码器网络结构，图3b为ccae解码器网络结构。对于来自同一类别的空间卫星目标图像样本对和，ccae的编码器部分别在对应通道对样本进行交替的卷积和池化操作并产生对应的特征图，然后利用所获得特征图进行紧致性损失计算。同时，由所产生的编码器输出继续被输入到解码器以获得对应的重建图像并计算重建损失。
22.对于输入图像，其二维局部空间特征的提取过程如下：
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(4)其中，表示二维卷积操作，和分别为编码器中的第个卷积滤波器和对应偏置，代表非线性激活函数，表示相应的编码器输出。
23.在完成特征编码之后，后续一般需要引入在之前cnn中介绍的最大池化层来对捕捉特征图中的局部显著性特征。在通过反池化层完成相应的上采样操作后，特征的解码过程计算如下：
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(5)其中，和分别表示解码器中的反卷积滤波器和偏置，为重建输出图像。
24.最后，将无监督训练应用于ccae的训练以实现对输入样本的特征学习，其目标在于最小化如下损失函数：
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(6)式中，表示编码器和解码器中的参数集合，为输入图像的个数。
25.设和分别表示和的编码输出特征图，则类内样本的紧致性损失定义如下：
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(7)
式中，代表类内样本对的个数，其在错位配对方式下等于样本的总数量。
26.将式(6)的重建损失和进行合并，可得到如下新的ccae损失函数：
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(8)其中，参数被用来控制重建损失和紧致性损失在模型训练过程中的权重比例。过大的值将会削弱重建损失效应，导致类间样本的可分性变差。相反，值过小则会大幅降低类内样本的紧致性。在实际任务中，将根据具体的训练效果对进行调整。
27.从式(8)可以看出，用于训练ccae的损失函数通过同时最小化重建损失和紧致性损失，可达到类间样本可分性和类内样本紧致性的同步提升，从而可获得用于空间卫星目标识别任务的增强性判别特征表示。
实施例
28.为了验证紧致性损失在特征学习中的作用，选取数据集中的十种类型目标进行特征可视化，结果如图4所示。图4a、图4b和图4c分别为利用t分布随机近邻嵌入对原始输入特征、无紧致性约束学习特征和紧致性约束学习特征进行二维平面投影可视化的结果，其中不同颜色的特征点代表不同类型目标。通过整体比较来看，三种特征可视化结果在类间判别性和类内紧致性上并无明显区别，原因可能在于数据集中目标本身的类间差异就比较大，同时在将图像重置为之后，目标区域占比较大，导致背景干扰的影响极小，因此对目标进行判别性特征提取的难度较小。在这种情况下，紧致性约束起到的判别提升效果并不明显。再者，t分布随机近邻嵌入本身也属于一种流形表示学习方法，其可在原始目标图像特征的基础上进一步提升类间判别性，从而使深度模型学习特征相比其并无明显优势。
29.此外，为了表明ccae初始化可较好地进行后续的cnn训练，将传统随机初始化cnn、无紧致性约束下初始化cnn和紧致性约束初始化cnn在20类目标上的测试样本总体识别率进行了比较，结果如表1所示。
30.表1 不同初始化方式下cnn的识别率比较不同初始化下方式识别率(%)随机初始化cnn98.09无紧致性约束初始化cnn98.09紧致性约束初始化cnn98.31从表中可以看出，与特征可视化结果类似，无紧致性约束初始化下的cnn相比随机初始化下的cnn在识别率上并无优势，而紧致性约束初始化cnn相比前两者在识别率上提升也并不明显，但从结果仍能看出该参数初始化可使cnn收敛到更优的模型解。
31.以上所述，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到的变化或替换，都应涵盖在本发明的保护范围内。