一种基于鲁棒子空间表示的局部自适应特征选择方法及装置

1.本发明的实施方式涉及图像分类领域，更具体地，本发明的实施 方式涉及一种基于鲁棒子空间表示的局部自适应特征选择方法及装 置。


背景技术：

2.随着人脸识别与图像分类技术的快速发展，特征选择成为了取得 较好识别与分类结果的关键技术，目前已经广泛的应用到数据挖掘、 计算机视觉及模式识别等领域，并取得了显著的效果。
3.近来，基于子空间的特征选择方法由于良好的数据驱动特性收到 了学者的广泛关注，其基本思想是利用训练数据构建学习模型来学习 满足数据分布特性的投影矩阵，可以将原有的高维数据矩阵投影到低 维空间。同时，在投影过程中将数据的判别性信息保留，并期待在投 影空间能够进一步突出数据间的类内相似性和类间差异性。


技术实现要素：

4.为解决上述问题，本发明提供了一种基于鲁棒子空间表示的局部 自适应特征选择方法，所述方法包括步骤：
5.将一个图像数据集划分为训练集和测试集；
6.定义判别特征选择模型的目标函数；
7.引入低秩重构样本的鲁棒性子空间约束项，对所述目标函数重新 拟定，得到第一目标函数；
8.引入稀疏正则化约束项，对第一目标函数重新拟定，得到第二目 标函数；
9.引入辅助变量，对所述第二目标函数重新拟定，得到第三目标函 数；
10.通过所述训练集，求解出当所述第三目标函数数值最小时各个变 量的值；
11.将所述第三目标函数求解，得到一个特征投影；
12.通过所述特征投影对所述测试集投影，以得到所述数据集里所有 类别图像的判别性较高的特征，并通过分类器得到所述数据集的识别 率。
13.优选地，所述判别特征选择模型的目标函数为：
[0014][0015]
s.t.w
t
w＝i,z
ij
≥0
[0016]
其中，x＝[x1,x2,...,x
m
]表示训练样本，x
i
(i＝1,2,...,m)表示x的第i列，m表示训练样本的总数，z表示矩阵，w表示学习得到的特征投 影矩阵，z表示系数表示矩阵，z
ij
为矩阵z中的第i行第j列的值。
[0017]
优选地，引入低秩重构样本的鲁棒性子空间约束项的目标函数为：
[0018]
[0019]
s.t.w
t
w＝i,z
ij
≥0
[0020]
其中，||
·
||
f
为张量的frobinus范数。
[0021]
优选地，所述关于局部自适应特征选择模型的目标函数的表达式 为：
[0022][0023]
s.t.w
t
w＝i,z
ij
≥0
[0024]
其中，||
·
||
2,1
为l
2,1
范数，λ正则化参数。
[0025]
优选地，将目标函数引入一个辅助变量m求解最小化问题，所 述目标函数表示为：
[0026][0027]
s.t.w
t
w＝i,m
ij
≥0,z＝m
[0028]
优选地，所述利用数据集求解出目标函数最小值时各个变量的 值的步骤包括：
[0029]
通过增广拉格朗日乘子法，确定目标函数问题中的拉格朗日函 数；
[0030]
拉格朗日函数进行化简和最小化转换；利用交替方向乘子算 法，在其他变量不变的条件下针对每个变量迭代地求解最小化；
[0031]
固定其他变量，删除与z无关的函数项，得到变量z的目标函 数式，利用目标函数的导数进行求解；
[0032]
固定其他变量，删除与m无关的函数项，得到变量m的目标函 数式，通过加权范数最小化求解；
[0033]
固定其他变量，删除与w无关的函数项，得到变量w的目标函 数式，通过西尔维斯方程进行求解；
[0034]
逐项更新拉格朗日乘子和参数。
[0035]
优选地，所述分类结果包括步骤：
[0036]
计算所述数据集分类精确度。
[0037]
本发明还提供了一种基于鲁棒子空间表示的局部自适应特征选 择装置，所述装置包括：
[0038]
存储单元，用于存储图像数据集，数据集中的样本均为无标签 样本；
[0039]
数据重建单元，用于对含有噪声的数据进行重建，去除噪声对 数据真实分布结构的影响，获得一个干净的数据副本；
[0040]
特征投影单元，将获取的干净的数据副本放入特征投影模型 中，从而获取到类间距离大，类内距离小的特征投影；
[0041]
嵌入框架单元，用于将所述数据重建模型和所述特征投影模型 放入统一框架中，获得一种基于鲁棒子空间表示的局部自适应特征 选择方法，二者之间相互促进，互相弥补噪声对数据结构的破坏， 获得一个更鲁棒的特征选择方法；
[0042]
定义单元，用于定义关于鲁棒特征子空间学习模型的联合目标 函数，将所述基于数据重建的特征投影模型放入所述的联合目标函 数中，以通过求解所述目标函数后得到一个更鲁棒的特征投影；
[0043]
分类单元，用于将所述特征投影对测试集投影，并将测试集的 特征投影送到分类器中，从而得到分类精确度。
[0044]
本发明提供的一种基于鲁棒子空间表示的局部自适应特征选择 方法及装置，具有以下优势：
[0045]
(1)本发明的实施例通过将数据重构模型嵌入自适应相似性子 空间学习，提出了了一种基于数据重建的特征选择策略，通过同时学 习数据重建和自适应相似矩阵，以获得高质量的更具判别性的特征投 影；
[0046]
(2)本发明的实施例用将低秩表示和特征学习结合到一个统一 的框架中，其中低秩表示系数被用作子空间相似性度量来指导特征学 习；同时引入稀疏正则化约束项，可以使选择的特征更适用于分类任 务；
[0047]
(3)使系数用作判别正则化的惩罚参数；
[0048]
(4)利用增广拉格朗日乘数(alm)方法和乘法器的替代方向法 (admm)提供了一种迭代方案，通过该方案有效的解决了目标函数。
[0049]
所述装置的定义单元，设计的联合框架可以所述基于数据重建的 特征选择放入所述框架，不同于两步走的方式，通过联合统一的框架， 可以使得模型之间相互促进，互相弥补；通过数据重建获得的去噪数 据副本可用于特征投影的学习，反过来，获得的高质量特征投影可以 向下一个视图数据重建过程传播有效的信息，提高数据重建的质量。
附图说明
[0050]
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面 将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而 易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域 普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这 些附图获得其他的附图。
[0051]
图1是本发明提供的一种基于鲁棒子空间表示的局部自适应特征 选择方法中在coil20数据集下参数在acc指标上的敏感度分析；
具体实施方式
[0052]
为使本发明的目的、技术方案和优点更加清楚明了，下面结合具 体实施方式并参照附图，对本发明进一步详细说明。应该理解，这些 描述只是示例性的，而并非要限制本发明的范围。此外，在以下说明 中，省略了对公知结构和技术的描述，以避免不必要地混淆本发明的 概念。
[0053]
本发明提供了一种基于鲁棒子空间表示的局部自适应特征选择 方法，所述方法步骤如下：
[0054]
步骤s1：将一个图像数据集划分为训练集和测试集；
[0055]
步骤s2：定义判别特征选择模型的目标函数，
[0056][0057]
其中，x＝[x1,x2,...,x
m
]表示训练样本，x
i
(i＝1,2,...,m)表示x的第i列，m表示训练样本的总数，z表示矩阵，w表示学习得到的特征投 影矩阵，z表示系数表示矩阵，z
ij
为矩阵z中的第i行第j列的值，||
·
||2分别表示l2范数，||
·
||
f
表示frobinus范数，∑(
·
)表
示求和符号，min(
·
) 表示求取公式的最小值。s.t.表示约束条件。
[0058]
步骤s3：引入低秩重构样本的鲁棒性子空间约束项，对所述目标 函数重新拟定，得到第一目标函数；
[0059]
在本技术实例种，所述第一目标函数表达式为：
[0060][0061]
步骤s4：稀疏正则化约束项，对第一目标函数重新拟定，得到 第二目标函数；
[0062]
在本技术实例种，所述第二目标函数表达式为：
[0063][0064]
其中，||
·
||
2,1
为l
2,1
范数，λ正则化参数。
[0065]
步骤s5：通过所述训练集，求解出目标函数最小化时各个变量的 值，具体如下：
[0066]
步骤s501：将步骤s4所得到的子空间学习目标函数引入一个辅 助变量m，求解引入上述变量后的目标函数的最小化问题，如公式(4) 所示，
[0067][0068]
步骤s502：通过增广拉格朗日乘子法，确定所述公式(4)的最 小值求解问题中的拉格朗日函数；
[0069]
具体的，所述拉格朗日函数表达式为：
[0070][0071]
步骤s503：利用交替方向乘子算法，针对每个变量迭代地求解最 优值，固定其他变量，删除与z无关的函数项，可得如下公式：
[0072][0073]
通过将公式(6)的导数设为0，可求得z的最优解。
[0074]
步骤s504：固定其他变量，删除与m无关的函数项，得到变量 m的目标公式(7)，如下：
[0075][0076]
其中，r中的每一个元素都通过表示，由于每 个变量都是相互独立的因此可以转化为
[0077][0078]
可通过加权范数最小化求解。
[0079]
步骤s505：固定其他变量，删除与w无关的函数项，可得到关 于w的目标函数如下：
[0080][0081]
对公式(9)求导可得：
[0082][0083]
其中相似矩阵
[0084][0085]
其中对角矩阵是第l个对角元素为：
[0086][0087]
求解w的问题就转化为
[0088][0089]
w的最优解可通过求解xl
s
x
t
+λq的前m个最小特征值对应的 特征向量。
[0090]
步骤s506：逐项更新拉格朗日乘子和参数。
[0091]
通过本实施方式学习到一个更具鲁棒性的特征投影，与传统的 直接从原始数据构造相似矩阵的特征选择方法不同的是，本实例中 相似矩阵的构造方法为根据学习到的投影矩阵构造出，同时，设计 一种有效的数值求解方法，使得耦合在目标函数中的变量都能找到 最优解，求解出一个特征投影，在分类器中对测试集的特征投影进 行分类，从而得到分类精确度。
[0092]
进一步说明，假设将一个数据放入分类模型中，根据本实施方 式，将会得到精确度至少达到85％的分类结果。
[0093]
在本技术实施例中，本技术还提供了一种基于鲁棒子空间表示的 局部自适应特
征选择装置，所述装置包括：
[0094]
存储单元10，用于存储图像数据集，数据集中的样本均为无标签 样本；
[0095]
数据重建单元20，用于对含有噪声的数据进行重建，去除噪声对 数据真实分布结构的影响，获得一个干净的数据副本；
[0096]
特征投影单元30，将获取的干净的数据副本放入特征投影模型 中，从而获取到类间距离大，类内距离小的特征投影；
[0097]
嵌入框架单元40，将获取的干净的数据副本放入特征投影模型 中，从而获取到类间距离大，类内距离小的特征投影；
[0098]
定义单元50，用于定义关于鲁棒特征子空间学习模型的联合目 标函数，将所述基于数据重建的特征投影模型放入所述的联合目标函 数中，以通过求解所述目标函数后得到一个更鲁棒的特征投影；
[0099]
分类单元60，用于将所述特征投影对测试集投影，并将测试集的 特征投影送到分类器中，从而得到分类精确度。
[0100]
本技术提供的一种基于鲁棒子空间表示的局部自适应特征选择 装置，可以结合本技术提供的一种基于鲁棒子空间表示的局部自适应 特征选择方法进行运行，此处不再赘述。
[0101]
具体实施方式结果
[0102]
在本实施方式中，采用三个已公开的数据集，数据集包括一个 面部数据集，一个物体数据集(即下文所提到的对象数据集)和一 个手写数字数据集。
[0103]
其中，coil20是一个物体数据集，包含了来自20个对象的 1440张图像，每个物体包含的72张图像是以5
°
的角度连续拍摄 的。在实验中，数据集中的所有图像都被裁剪为32x32像素，并从 每个物体图像中随机选取10张图像作为训练集，其余图像用作测 试集。
[0104]
此外，usps是一个手写汉字图像数据集，它具有从0到9共 9298张手写数字图像。实验中，每张图像被裁剪为16x16像素， 并从每个数字中随机选取10张图像作为训练集，其余图像作为测 试集。
[0105]
另外，ar数据集包含120个目标的3000多幅正面图像，每个 目标有26幅不同角度、光照、遮挡等差异的图像。为了满足实验要 求，我们将每个图像的尺寸切割为相同像素。在我们的实验中，我 们为每个对象选取了13张图片作为训练样本。
[0106]
methodsuspsarcoil20ours85.56
±
0.8085.32
±
2.4592.61
±
1.8
[0107]
从上表的结果可以看出，我们的方法具有较好的性能。该方法以 自表示系数作为量子空间相似度的条件。该子空间学习模型能较好地 预测未知样本标签并学习特征投影，提高了方法的自适应性。
[0108]
关于本实施方式参数的设置，我们选择了coil20数据集用knn 分类器讨论正则化参数对精确度的影响，附图1显示了本实施方式的 精确度随着正则化参数的变化发生的波动是十分小的，所以本实施方 式具有很强的稳定性。
[0109]
本发明提供的一种基于鲁棒子空间表示的局部自适应特征选择 方法及装置，具有以下优势：
[0110]
(1)本发明的实施例通过将数据重构模型嵌入自适应相似性子 空间学习，提出了
了一种基于数据重建的特征选择策略，通过同时学 习数据重建和自适应相似性矩阵，以获得高质量的更具判别性的特征 投影；
[0111]
(2)本发明的实施例用将低秩表示和特征学习结合到一个统一 的框架中，其中低秩表示系数被用作子空间相似性度量来指导特征学 习；同时引入稀疏正则化约束项，可以使选择的特征更适用于分类任 务；
[0112]
(3)使系数用作判别正则化的惩罚参数；
[0113]
(4)利用增广拉格朗日乘数(alm)方法和乘法器的替代方向法(admm)提供了一种迭代方案，通过该方案有效的解决了目标函数。 应当理解的是，本发明的上述具体实施方式仅仅用于示例性说明或解 释本发明的原理，而不构成对本发明的限制。因此，在不偏离本发明 的精神和范围的情况下所做的任何修改、等同替换、改进等，均应包 含在本发明的保护范围之内。此外，本发明所附权利要求旨在涵盖落 入所附权利要求范围和边界、或者这种范围和边界的等同形式内的全 部变化和修改例。