基于KL散度的多视角距离度量学习方法与流程

文档序号:15934013发布日期:2018-11-14 02:05阅读:788来源:国知局

本发明涉及机器学习领域,尤其涉及基于kl散度的多视角距离度量学习方法。

背景技术

多视角距离度量学习难以充分考虑多个视角下特征信息构造最优的距离度量。当前距离度量学习算法大多仅考虑了各自空间内的样本特征信息,难以将来自其他视角的信息融入距离度量的构建过程中,影响了距离度量学习算法在很多真实场景中性能的进一步提高。例如,在图像处理领域中,一张图像通常可由多个特征算子进行特征提取,不同的特征反映图像的不同属性,但均为同一图像的视觉描述。本发明从距离度量学习的角度出发,充分利用多视角下样本特征信息以构造各个视角下最优的距离度量矩阵。发明利用最大边界准则,提高了距离度量的判别能力。



技术实现要素:

为了使得不同视角下距离度量构建过程互相学习,由于不同视角特征均反映了同一样本的不同属性,其包含内在兼容互补的信息,本发明利用kl散度定义各视角下距离度量与统一的距离度量所构造样本间相似性的差异,使得不视角下距离度量构造的样本间相似性差异尽可能小,以完成多视角距离度量的相互学习。发明增加了两个约束条件,使得发明能获得可行有效的距离度量矩阵。

本发明提供的一种基于kl散度的多视角距离度量学习方法,包括以下步骤:

步骤s101:将多个视角下维数不同的特征通过pca等维数约简算法映射进同一维数的子空间内,采用了最大边界准则,使得各个视角下来自不同类的样本间距离尽可能的大;

步骤s102:在不同视角下,利用kl散度定义各视角下距离度量与统一的距离度量所构造样本间相似性的差异;

步骤s103:最大化各个视角下不同类样本间距离的同时,使得各个视角下距离度量与统一的距离度量构造样本间相似性差异尽可能小,并增加两个约束条件,使得各个视角下同类样本间距离小于一个常数,不同类样本间距离大于一个常数;

步骤s104:通过迭代优化求得各个视角下最优的距离度量矩阵。

优选的,所述步骤s101,利用最大边界准则,使得各个视角下来自不同类样本间距离尽可能的大,其使得在各个视角所构造的距离度量矩阵下,来自不同类的样本间距离尽可能的大,以获得判别能力较强的距离度量矩阵。

优选的,在不同视角下,利用kl散度定义各视角下距离度量与统一的距离度量所构造样本间相似性的差异,使得差异尽可能小,公式如下:

其中,a(v)是在第v个视角下所求得的距离度量矩阵,a*是统一的距离度量矩阵,x(v)是第v个视角下所有的样本特征,p(x(v);a(v))代表在第v个视角下以a(v)为距离度量时所有样本的概率分布。4.根据权利要求3所述基于kl散度的多视角距离度量学习方法,其特征在于,最大化各个视角下不同类样本间距离的同时,使得各个视角下距离度量与统一的距离度量构造样本间相似性差异尽可能小,并增加两个约束条件,使得各个视角下同类样本间距离小于一个常数,不同类样本间距离大于一个常数;过程如下:

首先,最大化各视角下不同类样本间距离的同时使得各个视角下距离度量与统一距离度量构造样本间相似性差异尽可能小;

然后,为了获得各个视角下可行有效的距离度量矩阵,算法增加了两个约束条件,使得各个视角下同类样本间距离小于一个常数,不同类样本间距离大于一个常数,所构造的距离度量学习算法如下:

其中表示在第v个视角下第i个样本与第j个样本间距离。m是一个集合,其中包含了来自不同类样本的组合。t与l是两个阈值,限制同类样本间距离小于t,不同类样本间距离大于l;η为正则化参数,其均衡两个正则化项的权重。

优选的,通过迭代优化求得各个视角下最优的距离度量矩阵,在每次迭代后获得当前视角下距离度量矩阵a(v)后更新统一的距离度量矩阵a*,继续更新其他视角下距离度量矩阵。

本发明的基于kl散度的多视角距离度量学习方法,该方法充分利用了样本多视角下特征信息,构造了各个视角下最优的距离度量,在各个视角下更精确的衡量了样本间的相似性。

附图说明

图1为本发明基于谱嵌入的多视角特征融合的图像检索方法流程图。

具体实施方式

为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。

假设有来自m个视角的n个样本本发明针对各个视角,使用了最大边界准则,使得各个视角下来自不同类样本间距离尽可能大。发明为了使得多个视角在构建距离度量时充分考虑其他视角下样本特征信息,利用kl散度定义各视角下距离度量与统一的距离度量所构造样本间相似性的差异。最后,发明在最大化各个视角下不同类样本间距离的同时,使得各个视角下距离度量与统一的距离度量构造样本间相似性差异尽可能小,并增加两个约束条件,使得各个视角下同类样本间距离小于一个常数,不同类样本间距离大于一个常数。在求解过程中,发明通过迭代优化求得了各个视角下最优的距离度量矩阵。

图1所示,本实施例基于kl散度的多视角距离度量学习方法,包括:

步骤101、使用pca将样本多个视角下不同维数特征映射至统一的低维子空间内。

由于样本在不同视角下的特征维数不同,本发明首先使用pca算法将所有视角下不同维数的特征映射至统一维数的低维子空间内(假设低维子空间维数为d)。本发明仍使用x(v),v=1,2,…,m来表示使用pca映射后的低维表示。

步骤102、利用最大边界准则,使得各个视角下来自不同类的样本间距离尽可能大,构造的目标函数如下:

其中x(v)是第v个视角下所有的样本特征,m包含了来自不同类两两样本对的集合。a(v)是在第v个视角下所求得的距离度量矩阵。表示在第v个视角下,第i个样本与第j个样本间距离。

步骤103、发明为了使各个视角下距离度量的构造过程相互学习,在不同视角下,利用kl散度定义各视角下距离度量与统一的距离度量所构造样本间相似性的差异,使得差异尽可能小,公式如下:

其中,a*是统一的距离度量矩阵,p(x(v);a(v))代表在第v个视角下以a(v)为距离度量时所有样本的概率分布。

步骤104、发明最大化各个视角下不同类样本间距离的同时,使得各个视角下距离度量与统一的距离度量构造样本间相似性差异尽可能小,并增加两个约束条件,使得各个视角下同类样本间距离小于一个常数,不同类样本间距离大于一个常数。

首先,最大化各视角下不同类样本间距离的同时使得各个视角下距离度量与统一距离度量构造样本间相似性差异尽可能小,如下:

其中,η为负数。然后,为了获得各个视角下可行有效的距离度量矩阵,算法增加了两个约束条件,使得各个视角下同类样本间距离小于一个常数,不同类样本间距离大于一个常数,所构造的距离度量学习算法如下:

其中c包含了来自同一类两两样本对的集合,t与l是两个阈值,限制同类样本间距离小于t,不同类样本间距离大于l。η为正则化参数,其均衡两个正则化项的权重。

步骤105、发明通过迭代优化求得各个视角下最优的距离度量矩阵。

在每次迭代后获得当前视角下距离度量矩阵a(v)后更新统一的距离度量矩阵a*=(a(1)+a(3)+…+a(m))/m,继续更新其他视角下距离度量矩阵。

本实施例,在充分挖掘各个视角下特征信息的同时获得了各个视角下最优的距离度量。首先,利用pca等算法将各个视角下特征映射至统一的子空间内,利用最大边界准则使得各个视角下不同类间样本间距离尽可能大。然后,使用kl散度定义各视角下距离度量与统一的距离度量所构造样本间相似性的差异,使得差异尽可能小。最后,最大化各个视角下不同类样本间距离的同时,使得各个视角下距离度量与统一的距离度量构造样本间相似性差异尽可能小,并增加两个约束条件,使得各个视角下同类样本间距离小于一个常数,不同类样本间距离大于一个常数。

最后应说明的是:以上各实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述各实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分或者全部技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的范围。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1