技术特征：
1.一种基于残差自然注意力的点云特征提取方法，其特征在于，包括如下步骤：输入原始三维点云；利用串联堆叠的多个带偏移的残差自然注意力层，和多层感知机组成的变换层，构建特征提取网络模型；将原始三维点云输入特征提取网络模型的第一层带偏移的残差自然注意力层，特征提取网络模型第i层带偏移的残差自然注意力层的输入为第i层带偏移的残差自然注意力层之前的各层的输出特征；多个带偏移的残差自然注意力层的输出特征经过拼接后输入变换层，变换层对输入特征进行拟合变换，最后得到存在于高维度量空间中的点云特征；对特征提取网络模型进行训练，学习网络的权重参数，得到优化的特征提取网络模型。2.如权利要求1所述的基于残差自然注意力的点云特征提取方法，其特征在于，所述原始三维点云为n
in
×
d
in
的点云特征向量，其中n
in
是点云数据中全部数据点的数量，d
in
是输入点云所在度量空间的维度；在三维的度量空间中，每一个点云数据中的数据点x
i
都符合x＝{x1,x2,
…
,x
n
}，表示三维空间。3.如权利要求1所述的基于残差自然注意力的点云特征提取方法，其特征在于，带偏移的残差自然注意力层由核心是自注意力网络的自然注意力层、特征偏移结构、残差结构组成。4.如权利要求3所述的基于残差自然注意力的点云特征提取方法，其特征在于，得到自然注意力层的输出特征的方法如下：原始三维点云为n
in
×
d
in
的点云特征向量，其中n
in
是点云数据中全部数据点的数量，d
in
是输入点云所在度量空间的维度；将原始三维点云输入特征提取网络模型；对输入向量进行最远点采样，得到n
out
×
d
in
的点云特征向量，n
out
为采样个数；利用球查询方法，并结合自然邻居搜索方法，对输入向量搜索最近邻居，得到n
out
×
(λ+k)
×
d
in
的点云特征向量，λ、k分别是通过自然邻居和球查询搜索得到的邻居个数；n
out
×
d
in
点云特征向量重复λ+k次后堆叠，得到n
out
×
(λ+k)
×
d
in
的新向量，新向量与经过最远点采样及邻居搜索得到的n
out
×
(λ+k)
×
d
in
点云特征向量按固定维度相减后再串联拼接，得到n
out
×
(λ+k)
×
2d
in
的点云特征向量；随后送入自注意力网络，自注意力网络将数据点自身特征f
i
和邻居特征的偏移量作为数据点本身新的局部特征进行参数学习，把数据点所有邻居的特征汇聚到数据点自身，并根据不同权重对不同的数据点施加有区分度的注意力，进行局部特征提取与聚合：其中，f
i
代表着数据点x
i
所携带的特征；x
i,j
代表着x
i
的第j个邻居，满足的第j个邻居，满足φ(
·
)和ψ(
·
)分别是带有不同权重的多层感知机线性投影模块；ρ()代表soft-max正则化操作；θ(
·
)是一个具有可训练参数的小型位置编码网络；
最后通过平均池化和最大池化操作，保留φ(f)的主要特征并减少参数和计算量，得到n
out
×
d
out
的点云特征向量，d
out
是输出特征向量的维度。5.如权利要求4所述的基于残差自然注意力的点云特征提取方法，其特征在于，对输入向量进行自然邻居搜索，具体方法如下：对于x
i
∈x的数据集合，自然邻居的形式化描述如下：其中，nn(x
i
)是指点x
i
的自然邻居集合；knn
λ
(x
i
)是指点x
i
的λ近邻居集合，knn
λ
(x
j
)是指点x
j
的λ近邻居集合；λ是自然邻居的特征值，当自然邻居搜索过程达到稳定状态后，自然邻居的特征值就是搜索轮次r，定义如下：其中，搜索轮次r的取值范围是[1,λ]；λ的取值范围满足2≤λ≤n，n为常数；定义两个辅助函数，如下：knn
k
(x
i
)＝findknn(x
i
,r,x)，其功能为找到数据点x
i
在x集合中的k近邻居里，到x
i
欧氏距离第r近的邻居节点的索引；set.count(item)，其功能为统计集合set中元素item出现的次数；基于两个辅助函数，进行全部的自然邻居搜索，通过邻域的圈定与选择，将邻居的特征聚合到中心数据点，得到一个中心数据点的局部特征；采用并行化计算自然邻居的方法来加速整个自然邻居搜索速度。6.如权利要求4所述的基于残差自然注意力的点云特征提取方法，其特征在于，自注意力网络的输入是点云特征向量的粗局部特征其中，n是经过最远点采样留下的有效数据点个数；c是注意力通道数，c＝λ+k，代表着注意力通道宽度为自然邻居特征值与球查询最近邻居个数限制的和；d
in
是输入自注意力网络的特征维度数；自注意力网络输入的点云特征向量经过多层感知机线性投影得到q(query)、k(key)和v(value)，规则为：其中，都是存在于多层感知机中的可学习参数；同时自注意力网络使用多头注意力机制，通过多个自注意力网络学习权重，最后再通过一个平均池化操作，将每一头的注意力进行平均化处理；最终输出的是一个经点云下采样后的感受野中，每一个数据点的邻域局部特征唯一注意力特征矩阵h
a
，将该过程形式化表示，如下式：
其中，注意力头数即自注意力网络的个数为h，a为attention的简写,和h为一体；代表对高维矩阵k的第2与第3维进行转置；多层感知机包括可学习参数矩阵不同注意力头的多层感知机中，可学习参数矩阵相互独立、互不共享。7.如权利要求3所述的基于残差自然注意力的点云特征提取方法，其特征在于，带偏移的残差自然注意力层的特征偏移结构为：将n
out
×
d
out
的点云特征向量与原始点云特征做矩阵减法操作，得到自然注意力层的输出特征与原始点云特征的特征偏移：其中，f
i
和f
j
分别是经过自然注意力层的局部自然注意力特征和f
i
所对应原点云内数据点的特征；为表示中间过程的一个函数符号，代表拟合函数；θ＝(θ1,θ2,
…
,θ
m
)，每一个θ
m
与向量(f
j-f
i
)拥有相同的维度，θ
m
为m个由线性变换层、批规范化层和relu激活函数层共同组成的多层感知机。8.如权利要求3所述的基于残差自然注意力的点云特征提取方法，其特征在于，带偏移的残差自然注意力层的残差结构为：经过了自然注意力层及特征偏移后的点云特征为而原始输入的点云特征将作为直接参与残差计算的特征f，最终经过了该残差网络层结构的函数即为其中f是带偏移的残差自然注意力层输入的点云特征；得到残差自然注意力层提取新特征的形式化表达：其中，f
i
是带偏移的残差自然注意力层代表点云特征向量的输入；和分别是携带了不同可学习权重的拟合目标函数，对应了自然注意力层和带偏移的残差自然注意力层中的不同拟合目标函数h
φ
与h
θ
；θ和φ分别为θ＝(θ1,θ2,
…
,θ
d
)和φ＝(φ1,φ2,
…
,φ
d
)，编码了d个不同线性变换层、批规范化操作及relu激活函数层共同组成的多层感知机的权重，每一个θ
d
和φ
d
都拥有和f
i
相同的维度；最终得到代表输出特征的向量其维度与f
i
相同。9.如权利要求1所述的基于残差自然注意力的点云特征提取方法，其特征在于，构成变换层的多层感知机由全连接层、批量正则化层和激活函数层组成。10.如权利要求1所述的基于残差自然注意力的点云特征提取方法，其特征在于，多个带偏移的残差自然注意力层进行串联堆叠的计算如下：x
l
＝h
l
([x1,x2,
…
,x
l-1
])其中x
i
代表第i层所携带的特征图；[x1,x2,
…
,x
l-1
]是从第0层到第l-1层所携带特征图拼接而成的向量；h
l
是第l层可学习的待拟合函数，具有与拼接特征向量相同的维度。11.一种基于残差自然注意力的点云特征提取系统，其特征在于，包括处理单元，所述处理单元执行权利要求1-10之一所述方法，进行点云特征提取。12.一种基于残差自然注意力的点云提取网络架构，其特征在于，包括至少四层带偏移
的残差自然注意力层，以及多层感知机构成的变换层；所述带偏移的残差自然注意力层进行串联堆叠后输出与变换层连接，带偏移的残差自然注意力层的核心为自然注意力层，自然注意力层包括最远点采样模块、球查询模块、自然邻居搜索模块、减法模块、重复操作模块、拼接操作模块、高纬注意力模块、平均池化模块和最大池化操作模块，带偏移的残差自然注意力层用于提取原始点云特征的特征偏移，并输入变换层，变换层对原始点云特征的特征偏移进行拟合变换，得到存在于高维度量空间中的点云特征。
技术总结
本发明属于点云特征提取技术领域，具体公开了一种基于残差自然注意力的点云特征提取方法、系统及架构，该方法包括如下步骤：输入原始三维点云，构建特征提取网络模型，将原始三维点云输入特征提取网络模型的第一层带偏移的残差自然注意力层，特征提取网络模型第i层带偏移的残差自然注意力层的输入为第i层带偏移的残差自然注意力层之前的各层的输出特征；多个带偏移的残差自然注意力层的输出特征经过拼接后输入变换层，最后得到存在于高维度量空间中的点云特征；对特征提取网络模型进行训练，学习网络的权重参数，得到优化的特征提取网络模型。采用本技术方案，基于注意力机制，结合自然邻居搜索算法，更好地提取点云特征。更好地提取点云特征。更好地提取点云特征。
技术研发人员：甘梦莲 张敏 冉雪梅 陈德辉
受保护的技术使用者：重庆大学
技术研发日：2022.09.26
技术公布日：2022/12/22