本发明涉及海量高分辨率卫星遥感影像自监督学习方法构建以及高分辨率卫星遥感影像特征自动化提取，特别涉及一种海量高分辨率卫星遥感影像自监督学习方法及其适用的系统。
背景技术：
1、卫星遥感影像的解译对于其高效应用至关重要，准确的高分辨率卫星遥感影像解译成果近年来在灾害应急、城市规划、国土资源监测等领域提供了关键性的决策依据。传统的高分辨率卫星遥感影像解译往往基于专家知识进行，意味着需要大量的领域专家参与到解译任务当中，在时间效率和经济效益上都不占优势。近年来，基于深度学习的高分辨率卫星遥感影像解译技术一定程度上提升了效率，但是高分辨率卫星遥感影像深度学习样本的获取将花费大量的人工成本，且存在迁移性问题。
2、随着亚米级光学遥感卫星的不断发射，高分辨率卫星遥感影像数据量以pb级进行日增长，海量的数据对解译模型的稳定性提出了更高的要求，急需一种更加稳健的特征提取算法满足海量高分辨率卫星遥感影像的特征提取需求。计算视觉领域图像自监督算法的提出，为稳定的大规模卫星遥感影像特征的提取提供了技术基础。自监督学习算法是一种无需人工对图像进行标注，通过一些代理任务对模型进行训练，如图片相对位置预测、图片着色、上下文编码、旋转预测等，实现图像的自我建模。在海量图片的支持下，经过自监督学习算法训练的模型能对图像特征进行表达，提高模型对于图像的理解能力。然而、目前主流基于通用视觉的自监督学习算法没有关注到高分辨率遥感卫星影像同视觉图像的差异，如视角差异、对象尺度差异、对象时空变化差异等，导致其在高分辨率卫星遥感影像上的性能受限。
技术实现思路
1、本发明要解决现有技术中的基于通用视觉的自监督学习算法的高分辨率遥感卫星影像同视觉图像的差异导致了性能不足的技术问题，提供一种海量高分辨率卫星遥感影像自监督学习方法及其适用的系统。
2、为了解决上述技术问题，本发明的技术方案具体如下：
3、一种海量高分辨率卫星遥感影像自监督学习方法，该方法适用的系统包括：
4、数据增强模块，用来利用随机尺度缩放、随机裁剪、随机旋转、随机颜色扰动与随机掩码的组合对输入数据进行2种增强变换；
5、孪生知识蒸馏模块，用来利用孪生知识蒸馏架构，输入在教师分支与学生分支并行计算；通过高分辨率卫星遥感影像编码器，对输入的高分辨卫星遥感影像进行编码，实现特征的提取；
6、多损失构建模块，用来对于提取的卫星影像特征，分别通过类别预测结构、上下文编码结构与多尺度上下文编码结构，构造损失函数，利用教师网络输出在局部尺度和整体尺度对学生网络进行蒸馏；
7、动量参数更新模块，用来利用随机梯度下降算法对学生网络的参数进行更新，并利用动量更新策略对教师网络参数进行在线更新；利用多种代理任务与孪生在线知识蒸馏的方式，实现对海量高分辨率卫星遥感影像内部特征的充分自监督学习；
8、该方法包括以下步骤：
9、步骤1：构建高分辨率卫星遥感影像自监督数据集；
10、步骤2：利用数据增强模块对卫星影像数据进行数据增强；
11、步骤3：利用孪生知识蒸馏模块，将经过数据增强后的卫星影像数输入到高分辨率卫星遥感影像编码模块；
12、步骤4：利用多损失构建模块得到损失函数；
13、步骤5：利用动量参数更新模块进行动量更新。
14、在上述技术方案中，步骤2具体为：
15、对于批量输入大小的高分辨率卫星遥感影像，利用随机尺度缩放，随机裁剪，随机旋转，随机颜色扰动；
16、进行2次变换，变换完成后一份做为教师分支的输入，一份经过随机掩码后做为学生分支的输入，掩码块宽高为16像素，掩码比例为75％，掩码位置随机分布。
17、在上述技术方案中，步骤3具体为：
18、输入卫星影像以高和宽均为16像素大小的窗口将输入拆分为像素块，每个像素块利用线性映射编码为1024长度向量，然后为每个编码后的像素块加上一个1024长度向量的位置编码，并额外添加一个1024长度向量的分类编码块，最后，将图像编码与分类编码拼接后输入到高分辨率卫星遥感影像编码模块进行特征编码，得到与输入形状相同的特征输出。
19、在上述技术方案中，步骤4具体为：
20、(1)利用类别预测模块构建损失函数lcls；
21、利用3层全连接神经网络对学生分支输出进行非线性变换，利用教师分支的输出对学生分支变换后的输出在温度为t的情况下进行蒸馏，并得到损失函数lcls，具体计算如下：
22、
23、式中，lcls(s)表示只对学生网络参数更新，kl(||)表示kullback-leibler散度计算函数，l表示特征长度，表示学生分支特征的第i个值，表示教师分支特征的第i个值；
24、(2)利用上下文编码模块构建损失函数lmim；
25、利用掩膜位置提取出对应学生分支输出的特征向量与教师分支输出的特征向量，并构造损失函数lmim，具体计算如下：
26、
27、式中，lmim(s)表示只对学生网络参数更新，n表示掩膜数量，表示学生分支掩膜位置特征编码向量，表示教师分支掩膜位置特征编码向量；
28、(3)利用多尺度上下文编码模块构建损失函数lmim-s
29、将其输入到特征上采样模块当中，得到2倍上采样大小的卫星影像特征；随后将2种数据增强后的卫星影像利用双线性插值上采样2倍，同时掩膜范围也同比例缩放，最后根据掩膜位置提取出上采样2倍后的卫星影像值与特征上采样模块输出的特征值，并构造损失函数lmim-s，具体计算如下：
30、
31、式中，lmim-s(s)表示只对学生网络参数更新，n表示掩膜数量，表示学生分支掩膜位置经过特征上采样模块后特征编码向量，mp表示根据掩膜位置提取的2倍上采样后的卫星影像值。
32、在上述技术方案中，步骤5具体为：
33、首先，利用步骤4得到的损失函数lcls、lmim以及lmim-s计算总体损失loss：
34、loss＝lcls+lmim+lmim-s；
35、然后，利用随机梯度下降算法对学生分支网络模型的参数进行更新；
36、最后，待学生分支网络模型的参数更新完成后，利用动量更新策略对教师分支网络模型的参数进行更新，动量更新策略如下：
37、θt＝mθt-1+(1-m)θs
38、式中，θs、θt表示当前时刻更新后的学生分支网络参数与教师分支网络参数、θt-1表示当前时刻还未更新的教师分支网络参数，m表示权重。
39、一种上述的海量高分辨率卫星遥感影像自监督学习方法适用的系统，包括：
40、数据增强模块，用来利用随机尺度缩放、随机裁剪、随机旋转、随机颜色扰动与随机掩码的组合对输入数据进行2种增强变换；
41、孪生知识蒸馏模块，用来利用孪生知识蒸馏架构，输入在教师分支与学生分支并行计算；通过高分辨率卫星遥感影像编码器，对输入的高分辨卫星遥感影像进行编码，实现特征的提取；
42、多损失构建模块，用来对于提取的卫星影像特征，分别通过类别预测结构、上下文编码结构与多尺度上下文编码结构，构造损失函数，利用教师网络输出在局部尺度和整体尺度对学生网络进行蒸馏；
43、动量参数更新模块，用来利用随机梯度下降算法对学生网络的参数进行更新，并利用动量更新策略对教师网络参数进行在线更新；利用多种代理任务与孪生在线知识蒸馏的方式，实现对海量高分辨率卫星遥感影像内部特征的充分自监督学习。
44、本发明具有以下有益效果：
45、本发明的海量高分辨率卫星遥感影像自监督学习方法，充分结合高分辨率卫星遥感影像的特点，重新设计了自监督模型的架构，并利用上下文编码和类别预测2种代理任务同时进行自监督学习，使模型对于高分辨率卫星遥感影像有优秀、稳定的特征提取能力。
46、本发明的海量高分辨率卫星遥感影像自监督学习方法，利用孪生知识蒸馏架构结合2种自监督代理任务对海量高分辨率卫星遥感影像进行自监督学习，使得在无需标注的情况下，模型对高分辨率卫星遥感影像有一定的特征建模能力，且相对于通用计算机视觉模型而言，其在卫星遥感领域更具优势。利用人工标注的吉林一号高分辨率耕地数据集进行业务化测试，测试结果表明利用本发明训练得到的模型参数进行初始化后，在更少的训练轮次的情况下能达到更高的精度，具有很高的实际应用价值。