一种基于核典型相关分析的特征融合方法
【专利摘要】本发明公开了一种基于核典型相关分析的特征融合方法，主要包括：利用核函数将图像矩阵映射到核空间；提取同一模式的两组特征向量，在两组特征向量之间建立描述它们的相关性的判据准则函数；然后根据准则函数求得两组典型投影矢量集；最后通过给定的特征融合策略提取组合的典型相关特征并在分类识别中应用。本发明的有益效果是：核技术的引入成功地将线性的典型相关分析推广到非线性，可提取到更有鉴别力的特征，并且避免了对映射后的矩阵进行分解，从而简化了数据运算；本发明构建的核典型相关分析算法巧妙地将两组特征矢量之间的相关性特征作为有效判别信息，既达到了信息融合的目的，又消除了特征之间的信息冗余，在分类中取得了很好的结果。
【专利说明】
一种基于核典型相关分析的特征融合方法
技术领域
[0001] 本发明涉及特征融合方法、图像处理、模式识别、人工智能领域，具体涉及一种基 于核典型相关分析的特征融合方法。
【背景技术】
[0002] 随着计算机技术的发展，基于信息融合技术的特征级融合方法已经被人们应用在 组合特征提取中，并且得到了较好应用效果。特征融合的优势是明显的，因为对同一模式所 提取的不同特征向量反映了模式的不同特性，对它们进行优化组合，既保留了参与融合的 多组特征的有效鉴别信息，又消除了特征向量之间的的冗余信息。现有的特征融合方法主 要分为串行融合方法和并行融合方法。近年来Wechsler H.等人将特征融合应用于特征提 取中，并在人脸及手写体识别中取得了很好的效果。
[0003] 而特征提取和维数压缩的结果直接决定了特征融合的效果的好坏，迄今为止，各 种的降维方法层出不穷，其中最具代表性的方法有:主成分分析(PCA)、典型相关分析(CCA) 和偏最小二乘分析(PLS)。其中PCA是一种基于单一特征的降维方法，这在一定程度上限制 了有效信息的获取;因此有学者提出了CCA，CCA是研究两组随机变量之间相关性的方法，在 计算机视觉、信号处理及语音识别等领域都有成功的应用;而PLS是一种与CCA相似的方法， 主要用于处理高维小样本问题，在化工领域的应用较为成功。
[0004]上述经典统计方法均是基于假定的线性空间，无法提取不同特征之间的非线性关 系，而核方法正是解决上述问题的有效方法，因此用核来增强以上统计方法已成为趋势，从 而衍生出了核主成分分析(KPCA)、核典型相关分析(KCCA)和核偏最小二乘分析(KPLS)等方 法。其中KCCA已被Fyfe和Akaho等人应用于一些初步工作，并且Shawe-Yay Ior和Cristian等 人在此基础上取得了更进一步的成果。Borga等提出将特征值问题表示成两个特征值方程 从而减少计算时间和特征向量的维数，本文正是在此基础上进行研究，同时为了简化KCCA 的建立，我们在算法中加入了正则化参数，该方法在实验中取得了良好的效果。
[0005] 基于核典型相关分析，本发明提出了一种不同于传统特征融合思路的组合特征提 取方法。首先，将图像矩阵通过核函数映射到核空间，再抽取同一模式的两组特征向量，在 两组特征向量之间建立描述它们的相关性的判据准则函数;然后依此准则函数抽取两组典 型投影矢量集;最后通过给定的特征融合策略抽取组合的典型相关特征应用于分类识别。 在多个数据库上的实验结果表明本发明所提出组合特征提取算法既能很好地融合信息，又 能有效地去除特征之间的冗余信息，得到具有较好鉴别力的分类特征。
【发明内容】
[0006] 本发明的主要目的在于，基于核技术建立核典型相关分析，实现多组特征的有效 融合，在模式分类(如人脸识别等）中获得良好的识别效果，提高识别率。
[0007] 本发明的目的及解决其技术问题是采用的技术方案是:一种基于核典型相关分析 的特征融合方法，包括以下内容：
[0008] 典型相关分析的基本思想为将两组随机变量之间的相关性研究转化成两组中的 为数不多的相互之间不相关的几对变量之间的相关性研究，具体如下：构造两个零均值的 随机变量XERP和 yer，并找到一对投影方向α与β，使得投影;< =(Λ：与允=#>之间具有 最大的相关性。
[0009] 如下函数为获得投影方向的准则函数，一般通过最大化该函数即可获得α与β。
[0016] 根据核函数的定义，核的计算为：
[0017] k(xi，xj) =〈 Φ (Xi)，Φ (Xj)〉=〈 Φ (Xj)，Φ (Xi)〉=k(xj，xi) (4)
[0018] 其中，〈〉表示两个向量之间的内积。
[0019 ]由式⑶和⑷可以得到p X P的核矩阵，也就是Gram矩阵，有
[0020] K= ΦΤ(Χ) Φ (X) (5)
[0021] 其中{(=(1^)，（1 = 1，2，."，口；」=1，2，."，9)，故
[0022] αφ(χ)= φ (X)a4l⑴，βφ(γ)= φ (γ)?3φ(γ) (6)
[0023]其中αφ (X)、βφ (γ)是在尚维空间中的投影方向；a* (X)、btt) (γ)是另一组系数。联立式(4) 和(5)，代入约束条件中，得到
[0024]
[0025]
[0026]
[0027]
[0028]
[0029]到此为止KCCA就转换成了一个最优化问题。
[0030]对上述最优化问题进行求解。利用拉格朗日乘数法，可以得到（为了简化我们令 a<t)(x)=a,b(t)(Y)=b)
LUUdB」 代八（11)弟1瓦侍到的狩祉力桎
[0039] (Kx+kl )_1Ky(Ky+kI )_1Kxa = A2a (14)
[0040] 解方程式(14)即可求得特征值\1 >〇和对应的a。
[0041] 与现有技术相比，本发明的优点和效果在于：1)核技术的引入成功地将线性的典 型相关分析推广到非线性，可提取到更有鉴别力的特征，并且避免了对映射后的矩阵进行 分解，从而简化了数据运算。2)本发明构建的核典型相关分析算法巧妙地将两组特征矢量 之间的相关性特征作为有效判别信息，既达到了信息融合之目的，又消除了特征之间的信 息冗余，在分类中取得了很好的结果。
【附图说明】
[0042] 图1 一种基于核典型相关分析的特征融合方法流程图
【具体实施方式】
[0043] 如图1所示，本发明总体流程如下:首先，利用核函数将图像矩阵映射到核空间；其 次，抽取同一模式的两组特征向量，在两组特征向量之间建立描述它们的相关性的判据准 则函数;然后依此准则函数抽取两组典型投影矢量集;最后通过给定的特征融合策略提取 组合的典型相关特征应用于分类识别。
[0044] 本发明具体步骤如下：
[0045] Stepl:利用核函数将图像矩阵映射到核空间
[0048] 根据核凼数的足义，核的计算为：[0049] k(xi，xj) =〈 Φ (Xi)，Φ (Xj)〉=〈 Φ (Xj)，Φ (Xi)〉=k(xj，xi) (16)
[0040] H3=T -AA 4-F3 ?~Λ/??土/'丁/7^· ι\=Π 上/_·丄,)（J) ( Y ) 匕日寸
[0047]
[0050]其中，〈〉表示两个向量之间的内积.
[00511由式（15)和（16)可以得到p X p的核矩阵，也就是Gram矩阵，有
[0052] K= ΦΤ(Χ) Φ (X) (17)
[0053] Step2:提取同一模式的两组特征向量，在两组特征向量之间建立描述它们的相关 性的判据准则函数
[0054] η描怵西钼贿机夺量少_的相羊忡的公式为：
[0055；
[0056]幻囚73α和即、」氾双來积厌疋J和天联函数的泛化质量，因此我们在α和β之前加上
征 m Γττι? 人、、
[0(
[0058] Step3:根据所建立的准则函数求出两组典型投影矢量集
[0059] 1)核典型相关分析模型的建立：
[0060] 向；
[0061]
[0062]
[0063]到此为止KCCA就转换成了一个最优化问题。
[0064] 2)模型求解：
[0065]对上述最优化问题进行求解，采用拉格朗日乘子法，可以得到（为了简化我们令 a<t)(x)=a,b(t)(Y)=b)
[0073] 代入(22)第1式得到只含a的特征方程
[0074] (Kx+kl )_1Ky(Ky+kI )_1Kxa = A2a (25)
[0075] 解方程式(25)即可求得特征值\1 >〇和对应的a。
[0076] Step4:通过给定的特征融合策略提取组合的典型相关特征应用于分类识别 [0077] 1)将所提取的两组特征融合：
[0078] 特征融合是将所提取的不同特征通过某种方法生成新的特征，从而使生成的新特 征对分类效果更好。特征级融合有两个明显的优势:首先它保留了绝大部分多特征集中的 判别信息，其次它能够去除由于主客观因素带来的冗余信息。常用的融合策略有串行融合 和并行融合，本发明采用并行融合的策略。
[0079] 2)分类：
[0080]本发明采用最近邻分类器对融合后的特征进行分类。
【主权项】
1. 一种基于核典型相关分析的特征融合方法，其特征在于，包括W下步骤： 步骤1、利用核函数将图像矩阵映射到核空间； 步骤2、提取同一模式的两组特征向量，在两组特征向量之间建立描述它们的相关性的 判据准则函数； 步骤3、根据所建立的准则函数求出两组典型投影矢量集； 步骤4、通过给定的特征融合策略提取组合的典型相关特征应用于分类识别。2. 根据权利要求1所述的基于核典型相关分析的特征融合方法，所述步骤1中，利用核 函数将图像矩阵映射到核空间，其特征在于： 将原始数据X与Y映射到高维特征空间变为Φ (X)、Φ (Y)，此时根据核函数的定义，核的计算为： k(xi,xj) = ( Φ (xi), Φ (xj)) = ( Φ (xj), Φ (xi))=k(xj,xi) (2) 其中，0表示两个向量之间的内积. 由式（1)和(2)可W得到pXp的核矩阵，也就是Gram矩阵，有 Κ=φΤ(χ)φ(χ) (3)3. 根据权利要求1所述的基于核典型相关分析的特征融合方法，所述步骤2中，提取同 一模式的两组特征向量，在两组特征向量之间建立描述它们的相关性的判据准则函数，其 特征在于： 描述两组随机变量之间的相关性的公式为：因为α和β的范数乘积决定了相关联函数的泛化质量，因此我们在α和β之前加上惩罚因 子，则上式变为：4. 根据权利要求1所述的基于核典型相关分析的特征融合方法，所述步骤3中，根据所 建立的准则函数求出两组典型投影矢量集，其特征在于： 1) 核典型相关分析模型的建立： 由αφ(χ)= Φ (Χ)3φ(χ),βφ(γ)= Φ (Υ)6φ(γ)，其中αφ(χ)、βφ(γ)是在高维空间中的投景多方向； 3φ(χ)、6φ(υ)是另一组系数。联立式(2)和(3)，代入约束条件中，得到到此为止KCCA就转换成了一个最优化问题。 2) 模型求解： 对上述最优化问题进行求解，采用拉格朗日乘子法，可W得到(为了简化我们令3Φ(Χ) = a，b*(Y)=b)代入(8)第1式得到只含a的特征方程 (Kx+kI)-iKy(Ky+kI)-iK 巧=人2曰 (11) 解方程式(11)即可求得特征值、> 0和对应的a。5.根据权利要求1所述的基于核典型相关分析的特征融合方法，所述步骤4中，通过给 定的特征融合策略提取组合的典型相关特征应用于分类识别，其特征在于： 1) 将所提取的两组特征融合： 特征融合是将所提取的不同特征通过某种方法生成新的特征，从而使生成的新特征对 分类效果更好。特征级融合有两个明显的优势:首先它保留了绝大部分多特征集中的判别 信息，其次它能够去除由于主客观因素带来的冗余信息。常用的融合策略有串行融合和并 行融合，本发明采用并行融合的策略。 2) 分类： 本发明采用最近邻分类器对融合后的特征进行分类。
【文档编号】G06K9/62GK105844291SQ201610157193
【公开日】2016年8月10日
【申请日】2016年3月18日
【发明人】梁久祯, 许洁
【申请人】常州大学