一种凸核组合支持向量机的二阶锥规划计算方法
【专利摘要】本发明属于模式识别与人工智能领域，具体涉及一种凸核组合支持向量机的二阶锥规划计算方法。本发明的方法包括以下步骤：输入样本数据及标号集，设定变量初值、预设容忍度及初始海森矩阵；添加自由变元，生成二阶锥约束；求解最小化问题；若有当前目标函数梯度的下降值小于预设的收敛容忍度，则步骤终止，得到分类结果；否则返回步骤三进行下一次迭代。本发明解决了现有凸核组合支持向量机计算方法计算复杂度过大、计算效率过低的技术问题；可有效降低凸核组合支持向量机的计算复杂度，显著提高计算效率。
【专利说明】—种凸核组合支持向量机的—阶锥规划计算方法
【技术领域】
[0001]本发明属于模式识别与人工智能领域，具体涉及一种凸核组合支持向量机的二阶锥规划计算方法。
【背景技术】
[0002]支持向量机(support vector machine, SVM)是模式识别与人工智能领域中的重要技术，通过引入核矩阵，有效避免了高维空间中的内积运算，可归一化解决线性分类问题与非线性分类问题。在处理多源数据或异构数据时，由于单一核矩阵在应用过程中的诸多局限性，多核矩阵的组合使用成为必要措施。凸组合是核矩阵组合的重要形式，也是最常用形式。研究并给出高效的凸核组合支持向量机计算方法，对于提高支持向量机的工作效率及分类精度有着重要的实用意义和工程价值。
[0003]现有方法中，解决这类问题主要采用半定规划法或半无限规划法，计算复杂度较高。以半定规划法为例，对于规模为η的数据集，采用N个核矩阵的凸组合，半定规划法的计算复杂度为0(Ν15η4 5)。当数据源巨量出现，样本数据爆发性增长时，半定规划法收敛速度缓慢，计算效率不高。半无限规划法同样面临低效问题。这给实际工程应用带来较大困难。因而亟需一种快速高效的凸核组合支持向量机计算方法。
【发明内容】
[0004]本发明要解决的技术问题为:现有凸核组合支持向量机计算方法计算复杂度过大，计算效率过低。
[0005]本发明的技术方案如下所述:
[0006]一种凸核组合支持向量机的二阶锥规划计算方法，包括以下步骤:
[0007]步骤一:
[0008]输入样本数据{x1;...，xn}，及标号集{y1;...，yn}，变量初值α Cl，预设容忍度ε，初始海森矩阵H ；
[0009]步骤二:
[0010]添加自由变元U，C，β ’，λ '，τ，生成二阶锥约束；
[0011]步骤三:
[0012]求解最小化问题
[0013]1
【权利要求】
1.一种凸核组合支持向量机的二阶锥规划计算方法，其特征在于:包括以下步骤: 步骤一: 输入样本数据{Xl，...，XJ，及标号集{yi，...，yn}，变量初值α 0,预设容忍度ε，初始海森矩阵H ； 步骤二: 添加自由变元U，C，β ’，λ '，τ，生成二阶锥约束； 步骤三: 求解最小化问题
2.根据权利要求1所述的凸核组合支持向量机的二阶锥规划计算方法，其特征在于:步骤一中，输入样本数据{Xl，...，xj以及标号集{y1;..., yn}，其中Xi e Rm, Yi e {-1, 1}，i=I,..., n, Yi = +1表示数据Xi属于正类，Yi = -1表示数据Xi属于负类；初始变量值a ^=[I,...1]Τ，预设容忍度ε = 10_3，初始海森矩阵Hk = E0
3.根据权利要求2所述的凸核组合支持向量机的二阶锥规划计算方法，其特征在于:步骤二中，赋初值11=[1，...，1]'。=[1，...，1]' β’ = [I,..., 1]τ, λ ' = O, τ =[1，…，1]Τ，生成与原约束等价二阶锥约束。
4.根据权利要求3所述的凸核组合支持向量机的二阶锥规划计算方法，其特征在于:步骤二中，
yT? = o 原约束为< ?20，
O1Qa - 2eTa与其等价的二阶锥约束为
5.根据权利要求4所述的凸核组合支持向量机的二阶锥规划计算方法，其特征在于:步骤三中，将矩阵0已V，
6.根据权利要求5所述的凸核组合支持向量机的二阶锥规划计算方法，其特征在于:步骤三中，求解最小化问题采用梯度下降方式迭代计算。
7.根据权利要求6所述的凸核组合支持向量机的二阶锥规划计算方法，其特征在于:步骤三中，所述梯度下降方式迭代具体过程如下:在第&步迭代中，优化目标变量的更新方向为入"入^通过线性规划过程得到；更新步长为？,，计算^要用到扎值和8,值，8,为当前目标函数梯度值；更新^后，计算^的值，用于下次迭代过程，2为单位矩阵，所需计算公式如下:
【文档编号】G06K9/62GK103839070SQ201210487474
【公开日】2014年6月4日 申请日期:2012年11月26日 优先权日:2012年11月26日
【发明者】贾磊 申请人:中国航天科工集团第三研究院第八三五七研究所