一种基于改进自我注意力机制和张量RX的高光谱图像异常目标检测方法

一种基于改进自我注意力机制和张量rx的高光谱图像异常目标检测方法
技术领域
1.本发明涉及的是一种高光谱图像目标检测方法，具体涉及一种基于改进自我注意力机制和张量rx的高光谱图像异常目标检测方法。


背景技术：

2.高光谱图像具有数百个光谱维和丰富的光谱信息，该特征使其应用在分类、光谱解混和目标检测等领域。在这些应用中，高光谱图像异常目标检测因为在民用和军事中的重要性而得到了更为广泛的关注。近些年，出现了较多的高光谱图像异常目标检测的方法。rx检测方法是最为经典的，其认为像素符合高斯分布，异常目标由测试点和背景之间的马氏距离决定。全局rx和局部rx是两种rx检测器的版本，两者都估计背景统计(即平均值和协方差矩阵)。在grx中，整个图像用于背景统计。在lrx中，滑动双窗口用于获取局部背景统计信息。对于grx或lrx，检测性能取决于协方差矩阵的估计，计算复杂度通常很高。为了克服这个问题，出现了通过随机投影基于降维的rx，随机投影域中，马氏距离也可以有效地用于计算异常目标检测结果，该结果与原始域中的结果相似。在grx和lrx中，检测结果基于测试点矢量计算；然而异常目标通常是多像素对象，仅使用测试点矢量可能会降低检测精度。基于广义似然比设计准则，提出了一阶广义似然比和二阶广义似然比两种自适应的异常目标检测器。在没有先验知识和存在高斯噪声的情况下，这两个检测器可以检测多像素异常目标。此外，高光谱数据可以被视为三维张量。测试点向量及其邻域向量可以形成以测试点为中心的测试张量块。基于张量的方法同时考虑了高光谱图像的空间和频谱特性，这可以降低虚警率。基于张量的自适应子空间检测器(tbasd)是背景联合稀疏表示(bjsr)的张量版本，它在不破坏空间-光谱结构的情况下探索空间-光谱特征。然而，基于张量的方法的计算复杂度比较高。随着深度学习理论的最新进展，出现了较多的基于深度学习特征提取的高光谱图像处理算法，在异常目标检测领域有基于栈式自动编码器的自适应子空间模型(saeasm)，基于变换的卷积神经网络检测(cnnd)和一种基于联合深度置信网络的方法(jdbn)等。
3.上述异常目标检测算法主要在原始光谱域中进行，基于变换域的方法通常可以更好地抑制噪声进而突出异常目标，基于变换域的方法构成了另一个研究方向。s核rx(krx)是一种经典的变换域方法,它将低维原始数据空间中的线性非高斯模型扩展到高维特征空间中的非线性高斯域。此外，基于分数傅立叶熵(frfe)的rx(frfe-rx)算法处理分数傅立叶域(frfd)中的信号。近些年，注意力机制，尤其是自我注意力，在视觉任务的深度特征表征中发挥着越来越重要的作用，也在高光谱图像处理中得到了广泛的关注。对于基于注意力的方法，如变换的双向编码器表示(bertsi)，它们以相等的权力处理所有关系，而不突出显示测试点像素及其子像素之间的关系。尽管测试点像素周围的像素提供了作为空间的判别信息，测试点像素应该比周围像素更为重要。


技术实现要素：

4.本发明的目的在于提供一种能够更有效地进行高光谱图像异常目标检测的基于改进自我注意力机制和张量rx的高光谱图像异常目标检测方法。
5.本发明的目的是这样实现的：
6.首先，高光谱图像中的测试张量经过改进自我注意力机制变换；
7.步骤1：高光谱图像中的每个测试张量3γ
x
∈rw×w×d转换为像素二维矩阵y∈rm×d(m＝w
×
w)，其中，w为窗口尺寸，d为光谱波段数；随后，利用深度置信网络(dbn)对y进行重建；重建矩阵yd∈rm×d(m＝w
×
w)变换为张量3γd∈rw×w×d。
8.步骤2：3γd中的中心张量3γ
cd
∈r1×1×d作为卷积核与3γd按照公式(1)进行卷积，其结果张量3γr∈rw×w×1变换为权重矩阵z∈rw×w,b
t
是偏差参数。
[0009][0010]
步骤3：3γ
x
作为值张量和z进行点乘，得到3γz∈rw×w×d；3γz的中心张量3γ
cz
∈r1×1×d和z的中心点xz∈r1×1进行点除，得到张量3γ
cy
∈r1×1×d。
[0011]
步骤4：3γ
cy
作为卷积核与3γ
cx
按照公式(2)进行卷积，得到3γy，进而获得经过改进自我注意力机制变换的高光谱图像。
[0012][0013]
随后，在经过改进自我注意力机制变换的高光谱图像上按照公式(3)采用张量rx进行异常目标检测即可获取最后的检测结果，其中，x∈rm×d(m＝w
×
w)是对应3γy的二阶矩阵，b∈rn×d(n＝wb×
wb)(wb对应背景张量窗口尺寸)是对应背景张量的二阶矩阵，ξ
x
是异常目标检测的阈值。
[0014][0015]
本发明的优点在于：
[0016]
1、利用深度置信网络(dbn)对高光谱图像进行重建，增大了异常目标点和背景之间的差距；
[0017]
2、利用改进自我注意力机制，更好地突出了测试点像素，以及其和周围像素点之间的关系；
[0018]
3、利用张量rx，更加突出了测试点的空间特性，同时考虑了光谱特性和空间特性，改善了检测效果。
附图说明
[0019]
图1为采用改进自我注意力机制和张量rx的高光谱图像异常目标检测方法的流程图；
[0020]
图2为改进自我注意力机制的算法流程图；
[0021]
图3为数据l及8种检测方法的检测结果二值图，其中图3(a)为数据l的第100波段图，图3(b)为数据l的真实地物分布示意图，图3(c)为全局rx(grx)检测结果二值图，图3(d)
为局部rx(lrx)检测结果二值图，图3(e)为核rx(krx)检测结果二值图，图3(f)为分数傅里叶熵rx(frfe-rx)检测结果二值图，图3(g)为分数傅里叶熵局部rx(frfe-lrx)检测结果二值图，图3(h)为基于主成分分析降维的张量rx(pca-trx)检测结果二值图，图3(i)为基于分数傅里叶熵的张量rx(frft-trx)检测结果二值图，图3(j)为基于改进自我注意力机制的张量rx(isa-trx)检测结果二值图；
[0022]
图4为数据l的8种检测方法的roc曲线；
[0023]
图5为数据l的8种检测方法的auc值；
[0024]
图6为数据l的8种检测方法的可分性图；
[0025]
图7为数据p及8种检测方法的检测结果二值图，其中图7(a)为数据l的第100波段图，图7(b)为数据l的真实地物分布示意图，图7(c)为全局rx(grx)检测结果二值图，图7(d)为局部rx(lrx)检测结果二值图，图7(e)为核rx(krx)检测结果二值图，图7(f)为分数傅里叶熵rx(frfe-rx)检测结果二值图，图7(g)为分数傅里叶熵局部rx(frfe-lrx)检测结果二值图，图7(h)为基于主成分分析降维的张量rx(pca-trx)检测结果二值图，图7(i)为基于分数傅里叶熵的张量rx(frft-trx)检测结果二值图，图7(j)为基于改进自我注意力机制的张量rx(isa-trx)检测结果二值图；
[0026]
图8为数据l的8种检测方法的roc曲线；
[0027]
图9为数据l的8种检测方法的auc值；
[0028]
图10为数据l的8种检测方法的可分性图。
具体实施方式
[0029]
下面结合附图举例对本发明做更详细地描述，举例分别采用真实高光谱图像数据l和数据p：
[0030]
参照图1，是采用改进自我注意力机制和张量rx的高光谱图像异常目标检测方法的流程图，该方法分为两个部分，第一部分为改进自我注意力机制变换，第二部分为张量rx检测，其中，改进自我注意力机制变换中的测试张量窗口尺寸和张量rx中的内外窗口尺寸的选择对本方法的检测结果会产生影响。
[0031]
参照图2，改进自我注意力机制的算法流程图，其中，高光谱图像中的每个测试张量3γ
x
∈rw×w×d转换为像素二维矩阵y∈rm×d(m＝w
×
w)，其中，w为窗口尺寸，d为光谱波段数；随后，利用深度置信网络(dbn)对y进行重建，符号表示dbn重建；重建矩阵yd∈rm×d(m＝w
×
w)变换为张量3γd∈rw×w×d；接下来，3γd中的中心张量3γ
cd
∈r1×1×d作为卷积核与3γd进行卷积，符号表示卷积，其卷积结果张量3γr∈rw×w×1变换为权重矩阵z∈rw×w；3γ
x
作为值张量和z进行点乘，符号表示点乘，得到3γz∈rw×w×d；3γz的中心张量3γ
cz
∈r1×1×d和z的中心点xz∈r1×1进行点除，符号表示点除，得到张量3γ
cy
∈r1×1×d；最后3γ
cy
作为卷积核与3γ
cx
进行卷积，得到3γy，进而获得经过改进自我注意力机制变换的高光谱图像。
[0032]
参照图3，是数据l及8种检测方法的检测结果二值图。数据l是由aviris传感器获得的洛杉矶机场数据，空间分辨率7.1m，空间尺寸为100
×
100个像素点和205个波段。图3(a)为数据l的第100波段图；图3(b)为数据l的真实地物分布示意图；图3(c)为全局rx(grx)
检测结果二值图；图3(d)为局部rx(lrx)检测结果二值图，内外窗口尺寸为7
×
7和9
×
9；图3(e)为核rx(krx)检测结果二值图，核参数为10-5
，内外窗口尺寸为5
×
5和9
×
9；图3(f)为分数傅里叶熵rx(frfe-rx)检测结果二值图，分数阶为0.2；图3(g)为分数傅里叶熵局部rx(frfe-lrx)检测结果二值图，分数阶为0.2，内外窗口尺寸为7
×
7和9
×
9；图3(h)为基于主成分分析降维的张量rx(pca-trx)检测结果二值图，降维后维数为10，内外窗口尺寸为7
×
7和9
×
9；图3(i)为基于分数傅里叶熵的张量rx(frft-trx)检测结果二值图，分数阶为1，内外窗口尺寸为7
×
7和9
×
9；图3(j)为基于改进自我注意力机制的张量rx(isa-trx)检测结果二值图，改进自我注意力机制中测试张量窗口尺寸为5
×
5，张量rx的双窗尺寸为3
×
3和41
×
41。由参照图3可见，所提出的isa-trx方法的检测结果二值图清晰度高于7种对比方法。
[0033]
参照图4数据l的8种检测方法的roc曲线，参照图5是对应的auc值，由参照图4和参照图5可见，所提出的isa-trx方法的roc曲线和对应的auc值均优于7种对比方法。
[0034]
参照图6，是数据l的8种检测方法的可分性图，由参照图6可见，所提出的isa-trx方法的背景和异常目标的间隔大于7种对比算法，其背景压缩能力在可以接受的范围，所以所提出的isa-trx方法的可分性总体上优于7种对比算法。
[0035]
由图3、4、5和6可见，针对数据l，本发明的isa-trx方法检测效果优于grx、lrx、krx、frfe-rx、frfe-lrx、pca-trx和frft-trx这7种对比算法。
[0036]
进一步采用数据p验证本发明的优越性。参照图7是数据p及8种检测方法的检测结果二值图。数据p是由rosis-03传感器获得的帕维亚数据，空间分辨率1.3m，空间尺寸为150
×
150个像素点和102个波段。图7(a)为数据p的第100波段图；图7(b)为数据p的真实地物分布示意图；图7(c)为全局rx(grx)检测结果二值图；图7(d)为局部rx(lrx)检测结果二值图，内外窗口尺寸为25
×
25和81
×
81；图7(e)为核rx(krx)检测结果二值图，核参数为10-1
，内外窗口尺寸为25
×
25和29
×
29；图7(f)为分数傅里叶熵rx(frfe-rx)检测结果二值图，分数阶为1；图7(g)为分数傅里叶熵局部rx(frfe-lrx)检测结果二值图，分数阶为1，内外窗口尺寸为25
×
25和77
×
77；图7(h)为基于主成分分析降维的张量rx(pca-trx)检测结果二值图，降维后维数为20，内外窗口尺寸为3
×
3和37
×
37；图7(i)为基于分数傅里叶熵的张量rx(frft-trx)检测结果二值图，分数阶为1，内外窗口尺寸为3
×
3和37
×
37；图7(j)为基于改进自我注意力机制的张量rx(isa-trx)检测结果二值图，改进自我注意力机制中测试张量窗口尺寸为5
×
5，张量rx的双窗尺寸为3
×
3和39
×
39。由参照图3可见，所提出的isa-trx方法的检测结果二值图清晰度高于7种对比方法。
[0037]
参照图8数据p的8种检测方法的roc曲线，参照图9是对应的auc值，由参照图8和参照图9可见，所提出的isa-trx方法的roc曲线和对应的auc值均优于7种对比方法。
[0038]
参照图10，是数据p的8种检测方法的可分性图，由参照图10可见，所提出的isa-trx方法的背景和异常目标的间隔大于grx、krx、frfe-rx、frfe-lrx、pca-trx和frft-trx这6种对比算法，不优于lrx，其背景压缩能力优于lrx，所以所提出的isa-trx方法的可分性总体上优于7种对比算法。
[0039]
由图7、8、9和10可见，针对数据p，本发明的isa-trx方法检测效果优于grx、lrx、krx、frfe-rx、frfe-lrx、pca-trx和frft-trx这7种对比算法。
[0040]
上述为本发明特举之实施例，并非用以限定本发明。本发明提供的基于改进自我
注意力机制和张量rx的高光谱图像异常目标检测方法同样适用于其他的高光谱图像异常目标检测。在不脱离本发明的实质和范围内，可做些许的调整和优化，以本发明的保护范围以权利要求为准。