E 包含更多的训练样本，而且头部姿势和面部表情变化较小，相对Yale数据库具有较小的类 内方差，所以，局部约束应赋予较大的权重。
[0094] 图3(a)~（c)给出了低维子空间维数d对识别率的影响。从该图可以看出，当子 空间维数较低时，提出的LC-G0DR方法性能劣低于一些其它方法。然而，随着维数的增高， LC-G0DR方法的识别率具有很大的改善。表3给出了不同方法最高识别率和标准差对比结 果，其中括弧内的数值表示取得最高识别率时对应的低维子空间维数d。标准差是10次识 别率的标准差，越小说明稳定性越好。我们可以看出，提出的方法在三个数据库上都得到了 最高的识别率，分别为89. 86%，90. 59%和93. 75%，且具有较好的稳定性。相对地，DRAG和 G0DRSC方法也得到了较好的性能，但是还是劣于LC-G0DR方法。
[0095] 图4(a)~（c)给出LC-G0DR方法在3个人脸数据库上的收敛曲线。其中横轴代 表迭代的次数，纵轴代表目标函数值，可以看出提出的迭代更新策略具有很快的收敛速度， 即迭代次数在20以内函数达到收敛。
[0096] 在实现聚类任务时，利用K均值算法对低维表示进行自动聚类，并利用聚类精度 (AC)评价聚类性能，AC定义如下：
[0097]
[0098] 其中，
η是训练样本总数量，込是数据Xl的真实标签，Cl 是样本Xi获得的聚类标签，map( ·)是最优映射函数，它通过Kuhn-Munkres算法将每个簇 标签映射到等价的真实标签。
[0099] 从公式（15)中可知，AC值范围属于[0, 1]区间，AC值越大，说明算法聚类性能 越好。由于K均值聚类方法对初始聚类中心是敏感的，所以我们随机初始化类中心10 次，并将10次的平均聚类精度作为最终的聚类结果。参数λ和低维表示维数d的设 置过程与人脸识别相同，表5给出了不同方法的聚类结果对比。从该表可以看出，由于 LPP和NEP采用k近邻方法构图，其性能低于在大多情况下低于其它方法。在SGLPP方 法中，每个样本的邻居个数是自适应的，其性能在两个UCI数据集上都优于LPP。由于 LSR-NPE，LRR-NPE，SPP，GoLPP，DRAG和G0DRSC方法采用更先进的技术来构建图，所以它们 比LPP，NEP和SGLPP方法获得的更高的聚类精度。明显地，由于考虑了两种约束，LC-G0DR 方法展现了最好的性能，聚类精度分别为0. 5754,0. 6730和0. 6337。
[0100] 图5(a)~（c)给出了LC-G0DR方法在3个聚类数据集上的收敛曲线，与图4相似， 在迭代20次以内曲线趋近平稳，说明提出的方法能具有很快的收敛速度。
[0101] 表1 3个人脸数据库的详细信息
[0102]
[0103] 表2 3个UCI数据集的详细信息
[0104]
[0105] 表3参数λ对识别率的影响
[0106]
[0107] 表4不同方法的最高识别率和标准差对比
[0108]
[0109] 表5不同方法的最高聚类精度和标准差对比
[0110]
[0111] 该方法将图优化和投影矩阵学习整合到一个统一框架，在维数约简的过程中使得 图可以自适应的更新。其次，通过引入局部约束，可以很好能够有效地挖掘和保持高维数据 的局部信息。特别地，提出一个有效的更新策略来求解提出的算法。大量的实验和对比结 果表明，本发明具有良好的性能而且优于现有的相关方法。本发明提出的方法适用于目标 识别、数据聚类和数据可视化。
[0112] 鉴于此，本发明提出一种基于局部约束的图优化维数约简方法，该方法在降维过 程中同时考虑了两种局部约束，使得高维样本的低维表示能够很好的保持原始高维数据的 局部关系。特别地，分别在3个国际标准人脸数据库上和3个由加州大学欧文分校建立的 3个标准数据集进行识别与聚类实验（表1和表2分别给出了 3个人脸数据库和3个UCI 数据集的详细信息），通过对比实验验证了提出方法具有良好的性能。
[0113] 以上所述仅为本发明的优选实施方式，本发明的保护范围并不仅限于上述实施方 式，凡是属于本发明的原理的技术方案均属于本方面的保护范围，对于本领域的技术人员 而言，在不脱离本发明的前提下进行的若干改进和润饰，这些改进和润饰也应视为本发明 的保护范围。
【主权项】
1. 一种基于局部约束的图优化维数约简方法，其特征在于包括下列步骤： 1) 、读取高维数据1={1142，...，&}6足~，其中，11为第1个样本，0为样本维数，11为 样本个数； 2) 、构建基于近邻重构关系的局部约束； 为了使高维数据的低维表示能够保持原始数据的局部关系，在求投影矩阵过程中需构 建一个图矩阵S，利用一个样本的近邻重构该样本能够有效地捕捉数据的局部信息，因此在 构建图矩阵S过程中考虑如下约束关系：其中，#代表对应元素相乘操作，炙=<Λ.,.ι，+co，ri,?+ 1 1""?^ΙΛΙfeCiXl为样本Xl的指 示向量，1^」=exp(| |x「x.jI I2/σ)，S=[Sj-为图矩阵，S.;为图 矩阵S的第i列； 3) 、构建基于样本相似性的局部约束； 考虑到在高维空间中相近的样本应该具有相似的重构系数，因此在构建图矩阵S过程 中考虑如下约束关系：其中，S.JPS。为图矩阵S的第i列和第j列，分别表示样本x#Xj的重构系数，Wij =exp(-1 |Χ?-χ」| |2/σ)为热核函数； 4) 、构建基于两种局部约束的维数约简目标函数：s.t.PTP=I 其中，~ (/) ? ()为投影矩阵，（xrXSj表示样本\被X中其它样本重构误差， 戸1表示矩阵P的转置，I为单位矩阵，λ>〇为折中参数； 5) 、通过迭代策略优化目标函数，首先固定投影矩阵Ρ，更新图矩阵S;然后固定图矩阵 S，更新投影矩阵Ρ;最后，经过Ν(Ν彡15)迭代，得到优化的投影矩阵Ρ和图矩阵S; 6) 、为了后续的识别与聚类等任务，将高维数据X向矩阵Ρ投影，得到高维数据的低维 表示，从而达到维数约简的目的； Xlow=PTX (13) 其中，；Τ'1 = e 为高维数据χ的低维表示，即高维空间中每个样本 由原来的D维为变成低维空间的d维。2. 根据权利要求1所述的基于局部约束的图优化维数约简方法，其特征在于：在步骤 4)中，利用代数变换，将公式（3)重写为：其中，示矩阵S的转置，在.为局部指示向量民的对角化形式，L=D-W为拉 普拉斯阵，W= [Wlj]nXn是对称的样本相似阵，D是一个对角阵，其对角元素为W的行和或列 和，tr(·)表示矩阵的迹。3. 根据权利要求1所述的基于局部约束的图优化维数约简方法，其特征在于：在步骤 4)中，首先固定投影矩阵P，更新图矩阵S，公式（4)可写为：S.x= (Y^+AE.+AL)Yy, (10)。4. 根据权利要求1所述的基于局部约束的图优化维数约简方法，其特征在于：在步骤 4)中， 固定图矩阵S，更新投影矩阵P，通过移除无关项，公式（3)关于P的优化问题为：s.t.PTP=I 公式（12)通过迭代的迹比法（ITR)或牛顿分解法（DNR)进行求解。
【专利摘要】本发明涉及一种基于局部约束的图优化维数约简方法，属于图像处理领域。首先将图优化和投影矩阵学习整合到一个统一框架，在维数约简的过程中使得图可以自适应的更新，其次通过引入局部约束，可以很好的挖掘和保持高维数据的局部信息，还提出一个有效且快速的更新策略来求解提出的算法。大量的实验和对比结果表明，本发明具有良好的性能而且优于现有的相关方法，适用于目标识别、数据聚类和数据可视化。
【IPC分类】G06K9/62, G06K9/00
【公开号】CN105389560
【申请号】CN201510777140
【发明人】齐妙, 王建中, 孔俊, 易玉根
【申请人】东北师范大学
【公开日】2016年3月9日
【申请日】2015年11月13日