一种基于指数化核范数与混合奇异值截断的张量恢复方法
【专利摘要】本发明公开了一种基于指数化核范数与混合奇异值截断的张量恢复方法，主要包含以下步骤：首先提出一种新的张量秩定义，张量不同模态下展开矩阵秩的最大值，采用核范数指数和的对数来逼近该张量秩定义，将其转化为凸函数；其次为了消除张量不同模态下展开的矩阵的相关性，引入一系列辅助变量来代替展开矩阵，并将约束条件利用拉格朗日乘子法转化为增广拉格朗日函数；最后采用交替方向法对增广拉格朗日函数中各类变量进行迭代优化，直到收敛。其中，对于核范数的指数和中的优化变量，本发明是一种通用的方法，相对于其它的经典张量恢复方法，该方法能够更好的描述高维数据的内在结构，从而获得更好的恢复结。
【专利说明】-种基于指数化核范数与混合奇异值截断的张量恢复方法
【技术领域】
[0001] 本发明涉及计算机模式识别【技术领域】，具体涉及一种基于指数化核范数与混合奇 异值截断的张量恢复方法。
【背景技术】
[0002] 张量恢复（tensor completion)，即高维矩阵的恢复问题，对于一个部分元素缺失 的高维矩阵，通过观察其已有位置的元素，从而恢复出缺失部分元素的一般性问题，是计算 机模式识别领域中的研究热点之一，被广泛应用于图像去噪、图像恢复、信息推荐系统等众 多领域。总的来说，大多数现有的张量恢复方法是基于低秩结构假设，即要求恢复的缺失 元素使得整个张量的秩尽可能的小。目前有两种传统的定义张量秩的方法：基于张量的 CP(CANDECOMP/PARAFAC)分解方法（CP秩）和Tucker分解方法（Tucker秩）。具体来说， CP秩可以定义为：用秩一张量（rank-one tensor)之和来表不给定张量需要的秩一张量的 最小个数。Tucker秩可以定义为：不同模态下展开矩阵的秩的线性加权。无论是CP秩还 是Tucker秩，最小化该张量秩的优化问题被证明是一个NP难问题。
[0003] 为了解决上述问题，Gandy等人采用不同模态下展开矩阵秩的和来表示张量的秩， 在计算过程中，将展开矩阵的秩用矩阵的核范数来近似代替。Signoretto等人提出一种 Shatten-p范数来代替展开矩阵的核范数，并由此定义了张量的秩，最后讨论了该方法与核 范数之间的关系。随后，Liu等人采用不同模态下展开矩阵核范数的线性加权来近似代替 Tucker秩，并将该方法应用于图像恢复和医学图像去噪。最后，Tomioka等人对张量恢复方 法进行了总结，认为有两种方式可以实现张量恢复：（1)将张量按某一个模态展开成二阶 矩阵，可以将张量恢复问题转化为了二阶矩阵的恢复问题；（2)采用不同模态下展开矩阵 核范数的线性加权来近似代替Tucker秩。
[0004] 可以看出，上述方法的目的都是寻找张量Tucker秩的近似。然而Tucker秩定义 的几何意义不清晰，并且张量不同模态下的权重难以选择，如果某个模态下展开矩阵的秩 很大，而其对应的权重很小，那么上述定义将无法正确地描述张量的秩结构，从而导致张量 低秩恢复效果不够理想。张量的CP秩是对矩阵秩的一个推广，它的几何意义比Tucker秩 更为明确，然而直接优化CP秩是一个非常困难的问题，甚至连局部最优都难以获得。
【发明内容】
[0005] 针对现有技术存在的不足，本发明的目的在于提供一种基于指数化核范数与混合 奇异值截断的张量恢复方法，基于CP秩的思想，提出一种新的张量秩定义方式，该张量秩 是CP秩的下界，并且能够有效地逼近CP秩，使得张量恢复过程对噪声更为鲁棒。此外，该 定义没有任何权重参数需要设置，可以有效的消除参数影响。为了优化问题的可解性，我们 用张量不同模态下展开矩阵核范数的指数和的对数来近似张量秩，并提出了一种混合奇异 值截断算法来获得优化问题的解析解，从而实现快速有效的张量恢复。
[0006] 为实现上述目的，本发明提供了如下技术方案：一种基于指数化核范数与混合奇 异值截断的张量恢复方法，其特征在于：包括以下三个步骤：
[0007] (1)提出一种新的张量秩定义：张量不同模态下展开矩阵秩的最大值；该定义是 张量CP秩的下界，能够有效的逼近CP秩，并消除了权重参数的影响，采用核范数指数和的 对数来逼近该张量秩定义，将其转化为凸函数；
[0008] (2)为了消除张量不同模态下展开的矩阵的相关性，引入一系列辅助变量来代替 展开矩阵，并将约束条件利用拉格朗日乘子法转化为增广拉格朗日函数；
[0009] (3)采用交替方向法对增广拉格朗日函数中各类变量进行迭代优化，直到收敛； 其中，对于核范数的指数和中的优化变量，采用混合奇异值截断算法来获得解析解。
[0010] 本发明进一步设置，所述的步骤（1)具体包括以下子步骤：
[0011] 首先，根据张量CP秩和Tucker秩的优缺点，提出一种新的张量秩定义：张量展开 矩阵秩的最大值；
[0012] 其次，将展开矩阵的秩松弛为展开矩阵的核范数，并且利用核范数的指数和的对 数来逼近最大值函数，从而将上述张量的秩定义转化为凸函数。
[0013] 本发明还进一步设置，所述的步骤（2)具体包括以下子步骤：
[0014] 首先，由于张量在不同模态下的展开矩阵具有相关性，引入一系列辅助矩阵变量 来替换不同模态下的展开矩阵，并增加对应的约束条件；
[0015] 其次，采用拉格朗日乘子法将所有约束条件加入到目标函数中，获得增广拉格朗 日函数。
[0016] 本发明还进一步设置，所述的步骤（3)具体包括以下子步骤：
[0017] 首先，为了对增广拉格朗日函数中的不同变量进行分别优化，采用交替方向法对 增广拉格朗日函数中的各类变量进行迭代优化；
[0018] 其次，对于核范数指数中的优化变量，采用混合奇异值截断算法来获得解析解。
[0019] 本发明的优点是：1、本发明所提出一种全新的并且通用的张量秩的定义方法，对 任意张量数据都适用。并且，该定义是张量CP秩的下界，能够有效地逼近CP秩，并消除了 Tucker秩中权重参数的影响。
[0020] 2、本发明提出一种有效的方法对张量秩定义进行松弛：将展开矩阵的秩松弛为展 开矩阵的核范数，并且利用展开矩阵核范数的指数和的对数来逼近最大值函数，从而将张 量恢复中的目标函数转化为凸函数。
[0021] 3、本发明采用辅助变量来消除张量不同模态下展开的矩阵的相关性，并采用拉格 朗日乘子法将所有的约束条件转化为增广拉格朗日函数，从而减小了优化问题的复杂度。
[0022] 4、本发明采用了一种交替方向法来实现对增广拉格朗日函数的分解迭代优化。对 于核范数的指数和中的优化变量，本发明提出了一种混合奇异值截断算法来获得解析解， 从而实现快速有效的张量恢复。
[0023] 下面结合说明书附图和具体实施例对本发明作进一步说明。
【专利附图】
【附图说明】
[0024] 图1为本发明实施例的整体流程图。
【具体实施方式】
[0025] 参见图1，本发明提供一种基于指数化核范数与混合奇异值截断的张量恢复方法， 包括以下三个步骤：
[0026] (1)提出一种新的张量秩定义：张量不同模态下展开矩阵秩的最大值；该定义是 张量CP秩的下界，能够有效的逼近CP秩，并消除了权重参数的影响，采用核范数指数和的 对数来逼近该张量秩定义，将其转化为凸函数；
[0027] (2)为了消除张量不同模态下展开的矩阵的相关性，引入一系列辅助变量来代替 展开矩阵，并将约束条件利用拉格朗日乘子法转化为增广拉格朗日函数；
[0028] (3)采用交替方向法对增广拉格朗日函数中各类变量进行迭代优化，直到收敛； 其中，对于核范数的指数和中的优化变量，采用混合奇异值截断算法来获得解析解。
[0029] 作为优选的，本实施例所述的步骤（1)具体包括以下子步骤：
[0030] 首先，根据张量CP秩和Tucker秩的优缺点，提出一种新的张量秩定义：张量展开 矩阵秩的最大值；
[0031] 其次，将展开矩阵的秩松弛为展开矩阵的核范数，并且利用核范数的指数和的对 数来逼近最大值函数，从而将上述张量的秩定义转化为凸函数。
[0032] 作为优选的，本实施例所述的步骤（2)具体包括以下子步骤：
[0033] 首先，由于张量在不同模态下的展开矩阵具有相关性，引入一系列辅助矩阵变量 来替换不同模态下的展开矩阵，并增加对应的约束条件；
[0034] 其次，采用拉格朗日乘子法将所有约束条件加入到目标函数中，获得增广拉格朗 日函数。
[0035] 作为优选的，本实施例所述的步骤（3)具体包括以下子步骤：
[0036] 首先，为了对增广拉格朗日函数中的不同变量进行分别优化，采用交替方向法对 增广拉格朗日函数中的各类变量进行迭代优化；
[0037] 其次，对于核范数指数中的优化变量，采用混合奇异值截断算法来获得解析解。
[0038] 本发明的方法具体运行的硬件和编程语言并不限制，用任何语言编写都可以完 成，为此其它工作模式不再赘述。
[0039] 本发明的实施例采用一台具有Intel Core_i3中央处理器和4G字节内存的计算机 并用Matlab语言编制了基于指数化核范数与混合奇异值截断的张量恢复的工作程序，实 现了本发明的方法。
[0040] 本发明的基于指数化核范数与混合奇异值截断的张量恢复方法主要包括以下三 个步骤：张量秩的定义以及该定义的凸松弛设计、辅助变量的引入及转化、交替方向优化策 略等模块，具体步骤如下所述：
[0041] (1)提出一种有效的张量秩定义，并通过多种松弛策略将其转化为凸函数。其主要 包含：
[0042] a)对于给定的张量X，我们给出一种新的张量秩的定义，具体形式如下，
[0043]
【权利要求】
1. 一种基于指数化核范数与混合奇异值截断的张量恢复方法，其特征在于：包括以下 三个步骤： (1) 提出一种新的张量秩定义：张量不同模态下展开矩阵秩的最大值；该定义是张量 CP秩的下界，能够有效的逼近CP秩，并消除了权重参数的影响，采用核范数指数和的对数 来逼近该张量秩定义，将其转化为凸函数； (2) 为了消除张量不同模态下展开的矩阵的相关性，引入一系列辅助变量来代替展开 矩阵，并将约束条件利用拉格朗日乘子法转化为增广拉格朗日函数； (3) 采用交替方向法对增广拉格朗日函数中各类变量进行迭代优化，直到收敛；其中， 对于核范数的指数和中的优化变量，采用混合奇异值截断算法来获得解析解。
2. 根据权利要求1所述的一种基于指数化核范数与混合奇异值截断的张量恢复方法， 其特征在于：所述的步骤（1)具体包括以下子步骤： 首先，根据张量CP秩和Tucker秩的优缺点，提出一种新的张量秩定义：张量展开矩阵 秩的最大值； 其次，将展开矩阵的秩松弛为展开矩阵的核范数，并且利用核范数的指数和的对数来 逼近最大值函数，从而将上述张量的秩定义转化为凸函数。
3. 根据权利要求1所述的一种基于指数化核范数与混合奇异值截断的张量恢复方法， 其特征在于：所述的步骤（2)具体包括以下子步骤： 首先，由于张量在不同模态下的展开矩阵具有相关性，引入一系列辅助矩阵变量来替 换不同模态下的展开矩阵，并增加对应的约束条件； 其次，采用拉格朗日乘子法将所有约束条件加入到目标函数中，获得增广拉格朗日函 数。
4. 根据权利要求1所述的一种基于指数化核范数与混合奇异值截断的张量恢复方法， 其特征在于：所述的步骤（3)具体包括以下子步骤： 首先，为了对增广拉格朗日函数中的不同变量进行分别优化，采用交替方向法对增广 拉格朗日函数中的各类变量进行迭代优化； 其次，对于核范数指数中的优化变量，采用混合奇异值截断算法来获得解析解。
【文档编号】G06T5/00GK104063852SQ201410321348
【公开日】2014年9月24日 申请日期:2014年7月7日 优先权日:2014年7月7日
【发明者】张笑钦, 王迪 申请人:温州大学