一种基于稀疏表示字典学习的图像分类方法与流程

技术特征：

1.一种基于稀疏表示字典学习的图像分类方法，其特征在于：该方法采用基于块对角稀疏表示字典学习算法模型，

$\begin{array}{cc}\underset{W,X}{\min }& \mathrm{\τ}\left|\right|X|{|}_1+\mathrm{\λ}\underset{i=1}{\overset{C}{\Σ}}|\left|X_{ii}\right|{|}_{*}+\mathrm{\α}\left|\right|X|{|}_F^2+||Y-YWX|{|}_F^2,\\ s.t.& X=diag(X_{11},X_{22},\mathrm{...},X_{nn}).\end{array}---\left(1\right)$

其中||X||₁表示矩阵稀疏约束，||X_ii||_*表示矩阵低秩约束，表示矩阵正则项，表示训练样本，第i个子块矩阵Y_i表示第i类训练样本，第j列向量y_j表示第j个训练样本，YW表示基于训练样本的线性组合字典，表示字典组合系数，X表示训练样本Y在字典YW上的稀疏表示系数，X_ii表示第i类训练样本在第i类子字典上的稀疏表示系数，m表示样本维度，N表示样本数量，

K＝K₁+K₂+...K_C表示字典原子个数，K_i表示第i类子字典的原子个数。

2.根据权利要求1所述的基于稀疏表示字典学习的图像分类方法，其特征在于：采用分离变量以及交替迭代ADMM算法对模型进行分解，再根据阈值法对l₁范数和核范数进行求解。

3.根据权利要求2所述的基于稀疏表示字典学习的图像分类方法，其特征在于：分离变量为：

首先引入变量序列使得Z_ii＝X_ii，则原模型可转变为：

$\begin{array}{cc}\underset{W,X,{\left\{Z_{ii}\right\}}_{i=1}^C}{\min }& \mathrm{\τ}\underset{i=1}{\overset{C}{\Σ}}\left|\right|X_{ii}|{|}_1+\mathrm{\λ}\underset{i=1}{\overset{C}{\Σ}}|\left|Z_{ii}\right|{|}_{*}+\mathrm{\α}\underset{i=1}{\overset{C}{\Σ}}\left|\right|X_{ii}|{|}_F^2+||Y-YWX|{|}_F^2,\\ s.t.& Z_{ii}=X_{ii},i=,\mathrm{...},C\\ & X=diag(X_{11},X_{22},\mathrm{...},X_{CC}),\\ & \∀k,\left|\right|{\mathrm{Yw}}_k|{|}_2=1.\end{array}$

再利用增广Lagrange法将上述模型变成无约束模型：

其中F_ii表示Lagrange乘子，γ表示惩罚系数，<A，B>＝trace(A^TB)。

4.根据权利要求3所述的基于稀疏表示字典学习的图像分类方法，其特征在于：利用交替迭代求解方法直接求解，包括：

(1)固定W和X_ii求解Z_ii

$\begin{array}{c}{Z}_{ii}^{t+1}=\arg \underset{Z_{ii}}{min}\mathrm{\&lambda;}\left|\right|Z_{ii}|{|}_{*}+\frac{{\mathrm{\&gamma;}}^t}{2}||Z_{ii}-X_{ii}^t+\frac{F_{ii}^t}{{\mathrm{\&gamma;}}^t}|{|}_F^2\\ =\arg \underset{Z_{ii}}{min}\frac{\mathrm{\&lambda;}}{{\mathrm{\&gamma;}}^t}\left|\right|Z_{ii}|{|}_{*}+\frac{1}{2}||Z_{ii}-(X_{ii}^t-\frac{F_{ii}^t}{{\mathrm{\&gamma;}}^t})|{|}_F^2.\end{array}$

$Z_{ii}^{t+1}={\mathrm{US}}_{\frac{\mathrm{\&lambda;}}{{\mathrm{\&gamma;}}^t}}\&lsqb;\mathrm{\&Sigma;}\&rsqb;V^T$

其中U∑V^T表示的奇异值分解形式(SVD)，表示阈值分割函数，

$S_{\frac{\mathrm{\&lambda;}}{{\mathrm{\&gamma;}}^t}}\&lsqb;x\&rsqb;=\left\{\begin{array}{cc}x-\frac{\mathrm{\&lambda;}}{{\mathrm{\&gamma;}}^t},& \begin{array}{cc}if& x\&gt;\frac{\mathrm{\&lambda;}}{{\mathrm{\&gamma;}}^t},\end{array}\\ x+\frac{\mathrm{\&lambda;}}{{\mathrm{\&gamma;}}^t},& \begin{array}{cc}if& x\&lt;-\frac{\mathrm{\&lambda;}}{{\mathrm{\&gamma;}}^t},\end{array}\\ 0,& otherwise.\end{array}\right.$

(2)固定W和Z_ii求解X_ii

首先定义h_i(·)函数如下：

$\begin{array}{c}{h}_i(Z_{ii},X_{ii},W_i,F_{ii},\mathrm{\&gamma;})\\ =\mathrm{\&alpha;}\left|\right|X_{ii}|{|}_F^2+||Y_i-{\mathrm{YW}}_i{X}_{ii}|{|}_F^2+\frac{\mathrm{\&gamma;}}{2}\left|\right|Z_{ii}-X_{ii}+\frac{F_{ii}}{\mathrm{\&gamma;}}|{|}_F^2,\end{array}$

求解X_ii如下：

$\begin{array}{c}{X}_{ii}^{t+1}=\arg \underset{X_{ii}}{\min }\mathrm{\&tau;}\left|\right|X_{ii}|{|}_1+h_i(Z_{ii}^{t+1},X_{ii},W_i^t,F_{ii}^t,{\mathrm{\&gamma;}}^t)\\ =\arg \underset{X_{ii}}{\min }\mathrm{\&tau;}\left|\right|X_{ii}|{|}_1+\&lt;\&dtri;x_{ii}^t{h}_i,X_{ii}-X_{ii}^t\&gt;+{\mathrm{\&eta;}}_i^t||X_{ii}-X_{ii}^t|{|}_F^2\\ =\arg \underset{X_{ii}}{\min }\frac{\mathrm{\&tau;}}{2{\mathrm{\&eta;}}_i^t}\left|\right|X_{ii}|{|}_1+\frac{1}{2}||X_{ii}-(X_{ii}^t-\frac{\&dtri;x_{ii}^t{h}_i}{2{\mathrm{\&eta;}}_i^t})|{|}_F^2,\end{array}$

其中W＝[W₁，W₂，...，W_C]，K＝K₁+K₂+...+K_C,表示h_i(·)函数关于X_ii的一阶偏导，为：

$\&dtri;x_{ii}^t{h}_i=\mathrm{\&gamma;}(X_{ii}^t-Z_{ii}^{t+1}-\frac{F_{ii}^t}{{\mathrm{\&gamma;}}_t})+2{\left(W_i^t\right)}^T{Y}^T{\mathrm{YW}}_i^t{X}_{ii}^t+2{\mathrm{\&alpha;X}}_{ii}^t$

同时则X_ii的解析形式为：

$X_{ii}^{t+1}=sign(X_{ii}^t-\frac{\&dtri;x_{ii}^t{h}_i}{2{\mathrm{\&eta;}}_i^t})max\left\{\right|X_{ii}^t-\frac{\&dtri;x_{ii}^{t}h}{2{\mathrm{\&eta;}}_i^t}|-\frac{\mathrm{\&tau;}}{2{\mathrm{\&eta;}}_i^t},0\}.$

(3)固定X_ii和Z_ii求解W

当固定X_ii和Z_ii时，关于W的求解问题可转换为：

$\begin{array}{cc}\underset{W}{\min }& \left|\right|Y-{\mathrm{YWX}}^{t+1}|{|}_F^2,\\ s.t.& \begin{array}{cc}\&ForAll;k,& \left|\right|{\mathrm{Yw}}_k|{|}_2=1.\end{array}\end{array}$

令再逐列进行求解：

$\begin{array}{cc}\underset{{\hat{w}}_k}{\min }& \left|\right|{\mathrm{YE}}_k-Y{\hat{w}}_k{x}_k^{t+1}|{|}_F^2\\ s.t.& \left|\right|Y{\hat{w}}_k|{|}_2=1.\end{array}$

其中表示X^t+1的第k行，表示的第k列，E_k定义如下：

$E_k=I-\underset{p\&NotEqual;k}{\&Sigma;}{\hat{w}}_p{x}_p^{t+1}.$

求解

${\hat{w}}_k=E_k{x}_k^T/\left(x_k{x}_k^T\right)$

${\hat{w}}_k={\hat{w}}_k/\left|\right|Y{\hat{w}}_k|{|}_2$

(4)更新Lagrange乘子F_ii和惩罚参数γ

5.

其中ρ＝1.1，γ^max＝10¹⁰

关于此模型的收敛条件定义如下：