基于偏移量的图像修复方法及装置与流程

文档序号:12603873阅读:385来源:国知局
基于偏移量的图像修复方法及装置与流程

本发明涉及图像处理技术领域,尤其涉及一种基于偏移量的图像修复方法及装置。



背景技术:

图像修复是一种处理图像中缺失部分,将缺失部分补全,并使修复后的结果看上去自然的技术。利用图像修复技术,可以完成图像污点去除,全景图生成,纹理合成,去除水印,文物古迹图片修复等应用,同时也可以应用到视频领域,进行实境融合、去除字幕等复杂操作。

基于图像结构的连续性,现有的一个方案是通过偏微分方程将缺失部分外侧的已知颜色传播到缺失部分来修复。这种方案能有效保持图像原有的结构,但是只适用于较小的缺失区域,如果缺失区域较大,则修复的结果会模糊缺乏细节。

基于图像的自相似性,现有的一个方案是沿着缺失部分的边缘寻找相似块,将相似块的像素值填补进来,由外至内逐渐完成修复过程。这种方案对较大的缺失区域也能保持细节,但是贪心策略往往会陷入局部最优解,不能有效地保持图像结构的连续性。

另一方面,对单一图像进行修复时,如果目标图像丢失信息过多,缺少足够的有用信息,也会给修复工作带来困难。所以图像修复需要重点解决的问题是面对较大的缺失区域和不足的有用信息,如何在修复过程中保持图像的结构连续性,且使修复结果看上去自然。



技术实现要素:

针对现有技术中的缺陷,本发明提供一种基于偏移量的图像修复方法及装置,该方法能够有效描述目标图像的结构信息,又能引 入图像库的额外信息,使目标图像修复结构更加自然。

第一方面,本发明提供一种基于偏移量的图像修复方法,包括:

将待修复的目标图像和图像库中的图像,构成图像立方;

对图像立方中的每一个图像划分为部分重叠的r×r的图像块,获得目标图像的目标图像块和图像的图像块,r为大于1的自然数;

获取所述目标图像中已知区域的图像块的主导偏移量;所述主导偏移量为统计的与所述已知区域的图像块相似的图像块的若干偏移量的集合;

根据所述主导偏移量,采用能量方程分配策略对所述目标图像中缺失区域的像素点进行修复,获取修复后的目标图像;

所述目标图像包括已知区域和缺失区域。

可选地,获取所述目标图像中已知区域的图像块的主导偏移量,的步骤包括:

针对所述已知区域中的每一个目标图像块,在所述图像立方中查找与该目标图像块最相似的图像块;

获取每一个目标图像块与该目标图像块最相似的图像块的偏移量;

采用统计方式将所有偏移量中选取部分偏移量组合所述主导偏移量。

可选地,针对所述已知区域中的每一个目标图像块,在所述图像立方中查找与该目标图像块最相似的图像块,的步骤包括:

采用公式(1)计算两个图像块之间的差异程度,在所述图像立方中查找与每一个目标图像块差异程度最小的作为最相似的图像块;

<mrow> <mi>d</mi> <mrow> <mo>(</mo> <msub> <mi>&Psi;</mi> <mi>x</mi> </msub> <mo>,</mo> <msub> <mi>&Psi;</mi> <mi>y</mi> </msub> <mo>)</mo> </mrow> <mo>=</mo> <mo>|</mo> <mo>|</mo> <msub> <mi>&Psi;</mi> <mi>x</mi> </msub> <mo>-</mo> <msub> <mi>&Psi;</mi> <mi>y</mi> </msub> <mo>|</mo> <msubsup> <mo>|</mo> <mi>k</mi> <mi>k</mi> </msubsup> <mo>+</mo> <mi>&beta;</mi> <mo>|</mo> <mo>|</mo> <mo>&dtri;</mo> <msub> <mi>&Psi;</mi> <mi>x</mi> </msub> <mo>-</mo> <mo>&dtri;</mo> <msub> <mi>&Psi;</mi> <mi>y</mi> </msub> <mo>|</mo> <msubsup> <mo>|</mo> <mi>k</mi> <mi>k</mi> </msubsup> </mrow> 公式(1)

其中,Ψx表示所述目标图像的已知区域中以像素值x为中心点的目标图像块,Ψy为所述图像立方中以像素值y为中心点的图像块,是梯度算子,β表示用于平衡公式(1)中的颜色项和梯度项的平衡系数。

可选地,获取每一个目标图像块与该目标图像块最相似的图像块的偏移量,的步骤包括:

针对目标图像块Ψx找到的最相似的图像块Ψy,组成相似块对(Ψxy),若x=(x1,y1),y=(x2,y2),且Ψy属于所述图像立方中的第Ik图像,则Ψx,Ψy之间的相对三维偏移量为s=(x2-x1,y2-y1,k)。

可选地,采用统计方式将所有偏移量中选取部分偏移量组合所述主导偏移量,的步骤包括:

针对所述已知区域的所有目标图像块的所有相对三维偏移量,提取出现次数大于预设阈值的相对三维偏移量组成主导偏移量S={s1,s2,…,sN};

或者,

针对所述已知区域的所有目标图像块的所有相对三维偏移量,提取出现次数最多的N个相对三维偏移量,组成主导偏移量S={s1,s2,…,sN}。

可选地,所述根据所述主导偏移量,采用能量方程分配策略对所述目标图像中缺失区域的像素点进行修复,获取修复后的目标图像,的步骤包括:

采用公式(2)确定所述缺失区域中每一个目标像素点x所选用的修复像素点x+sL(x),所述修复像素点为目标像素点沿着三维偏移量指向的图像立方中的像素点;

针对缺失区域中的每一目标像素点x,为该目标像素点x分配一个主导偏移量sL(x),将所述图像立方中像素点x+sL(x)的值替换该目标像素点x,获得修复后的目标图像;所述目标像素点为目标图像块的中心像素点,像素点为图像块的中心像素点;

其中, <mrow> <mi>E</mi> <mrow> <mo>(</mo> <mi>L</mi> <mo>)</mo> </mrow> <mo>=</mo> <munder> <mo>&Sigma;</mo> <mrow> <mo>(</mo> <mi>x</mi> <mo>,</mo> <mi>y</mi> <mo>)</mo> <mo>&Element;</mo> <msub> <mi>N</mi> <mn>4</mn> </msub> </mrow> </munder> <msub> <mi>E</mi> <mi>s</mi> </msub> <mo>(</mo> <mi>L</mi> <mrow> <mo>(</mo> <mi>x</mi> <mo>)</mo> </mrow> <mo>,</mo> <mi>L</mi> <mrow> <mo>(</mo> <mi>y</mi> <mo>)</mo> </mrow> <mo>)</mo> <mo>+</mo> <mi>&alpha;</mi> <munder> <mo>&Sigma;</mo> <mrow> <mi>x</mi> <mo>&Element;</mo> <mi>&Omega;</mi> </mrow> </munder> <msub> <mi>E</mi> <mi>d</mi> </msub> <mrow> <mo>(</mo> <mi>L</mi> <mo>(</mo> <mi>x</mi> <mo>)</mo> </mrow> <mo>)</mo> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>2</mn> <mo>)</mo> </mrow> </mrow>

L表示一种分配方式,表明对缺失区域中位于x的像素分配第L(x)个主导偏移量sL(x),E(L)用于衡量所述分配方式的质量,N4是四邻域,α表示用于平衡平滑项Es和数据项Ed的平衡系数,Es(L(x),L(y))是平滑项,Ed(L(x))为数据项。

第二方面,本发明还提供一种基于偏移量的图像修复装置,包括:

图像立方构成单元,用于将待修复的目标图像和图像库中的图像,构成图像立方;

图像块划分单元,用于对图像立方中的每一个图像划分为部分重叠的r×r的图像块,获得目标图像的目标图像块和图像的图像块,r为大于1的自然数;

主导偏移量获取单元,用于获取所述目标图像中已知区域的图像块的主导偏移量;所述主导偏移量为统计的与所述已知区域的图像块相似的图像块的若干偏移量的集合;

修复单元,用于根据所述主导偏移量,采用能量方程分配策略对所述目标图像中缺失区域的像素点进行修复,获取修复后的目标图像;

所述目标图像包括已知区域和缺失区域。

可选地,主导偏移量获取单元,具体用于

针对所述已知区域中的每一个目标图像块,在所述图像立方中查找与该目标图像块最相似的图像块;

获取每一个目标图像块与该目标图像块最相似的图像块的偏移量;

采用统计方式将所有偏移量中选取部分偏移量组合所述主导偏移量。

可选地,主导偏移量获取单元,具体用于

采用公式(1)计算两个图像块之间的差异程度,在所述图像立方中查找与每一个目标图像块差异程度最小的作为最相似的图像块;

<mrow> <mi>d</mi> <mrow> <mo>(</mo> <msub> <mi>&Psi;</mi> <mi>x</mi> </msub> <mo>,</mo> <msub> <mi>&Psi;</mi> <mi>y</mi> </msub> <mo>)</mo> </mrow> <mo>=</mo> <mo>|</mo> <mo>|</mo> <msub> <mi>&Psi;</mi> <mi>x</mi> </msub> <mo>-</mo> <msub> <mi>&Psi;</mi> <mi>y</mi> </msub> <mo>|</mo> <msubsup> <mo>|</mo> <mi>k</mi> <mi>k</mi> </msubsup> <mo>+</mo> <mi>&beta;</mi> <mo>|</mo> <mo>|</mo> <mo>&dtri;</mo> <msub> <mi>&Psi;</mi> <mi>x</mi> </msub> <mo>-</mo> <mo>&dtri;</mo> <msub> <mi>&Psi;</mi> <mi>y</mi> </msub> <mo>|</mo> <msubsup> <mo>|</mo> <mi>k</mi> <mi>k</mi> </msubsup> </mrow> 公式(1)

其中,Ψx表示所述目标图像的已知区域中以像素值x为中心点的目标图像块,Ψy为所述图像立方中以像素值y为中心点的图像块,是梯度算子,β表示用于平衡公式(1)中的颜色项和梯度项的平衡系数;

针对目标图像块Ψx找到的最相似的图像块Ψy,组成相似块对(Ψxy),若x=(x1,y1),y=(x2,y2),且Ψy属于所述图像立方中的第Ik图像,则Ψx,Ψy之间的相对三维偏移量为s=(x2-x1,y2-y1,k);

针对所述已知区域的所有目标图像块的所有相对三维偏移量,提取出现次数大于预设阈值的相对三维偏移量组成主导偏移量S={s1,s2,…,sN};

或者,

针对所述已知区域的所有目标图像块的所有相对三维偏移量,提取出现次数最多的N个相对三维偏移量,组成主导偏移量S={s1,s2,…,sN}。

可选地,所述修复单元,具体用于

采用公式(2)确定所述缺失区域中每一个目标像素点x所选用的修复像素点x+sL(x),所述修复像素点为目标像素点沿着三维偏移量指向的图像立方中的像素点;

针对缺失区域中的每一目标像素点x,为该目标像素点x分配一个主导偏移量sL(x),将所述图像立方中像素点x+sL(x)的值替换该目标像素点x,获得修复后的目标图像,所述目标像素点为目标图像块的 中心像素点,像素点为图像块的中心像素点;

其中, <mrow> <mi>E</mi> <mrow> <mo>(</mo> <mi>L</mi> <mo>)</mo> </mrow> <mo>=</mo> <munder> <mo>&Sigma;</mo> <mrow> <mo>(</mo> <mi>x</mi> <mo>,</mo> <mi>y</mi> <mo>)</mo> <mo>&Element;</mo> <msub> <mi>N</mi> <mn>4</mn> </msub> </mrow> </munder> <msub> <mi>E</mi> <mi>s</mi> </msub> <mo>(</mo> <mi>L</mi> <mrow> <mo>(</mo> <mi>x</mi> <mo>)</mo> </mrow> <mo>,</mo> <mi>L</mi> <mrow> <mo>(</mo> <mi>y</mi> <mo>)</mo> </mrow> <mo>)</mo> <mo>+</mo> <mi>&alpha;</mi> <munder> <mo>&Sigma;</mo> <mrow> <mi>x</mi> <mo>&Element;</mo> <mi>&Omega;</mi> </mrow> </munder> <msub> <mi>E</mi> <mi>d</mi> </msub> <mrow> <mo>(</mo> <mi>L</mi> <mo>(</mo> <mi>x</mi> <mo>)</mo> </mrow> <mo>)</mo> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>2</mn> <mo>)</mo> </mrow> </mrow>

L表示一种分配方式,表明对缺失区域中位于x的像素分配第L(x)个主导偏移量sL(x),E(L)用于衡量所述分配方式的质量,N4是四邻域,α表示用于平衡平滑项Es和数据项Ed的平衡系数,Es(L(x),L(y))是平滑项,Ed(L(x))为数据项。

由上述技术方案可知,本发明的基于偏移量的图像修复方法及装置,通过图像立方,获取主导偏移量,进而获取修复后的目标图像,该方法既能有效描述目标图像的结构信息,又能引入图像库的额外信息,有利于保持目标图像结构的连续性,提高了修复结果的主观视觉质量,使目标图像修复结构更加自然。

附图说明

通过阅读下文优选实施方式的详细描述,各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的,而并不认为是对本发明的限制。而且在整个附图中,用相同的参考符号表示相同的部件。在附图中:

图1为本发明一实施例提供的基于偏移量的图像修复方法的流程示意图;

图2为本发明一实施例提供的图像修复方法的示意图;

图3为本发明另一实施例提供的基于偏移量的图像修复装置的结构示意图。

具体实施方式

下面详细描述本发明的实施例,所述实施例的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的, 仅用于解释本发明,而不能解释为对本发明的限制。

本技术领域技术人员可以理解,除非特意声明,这里使用的单数形式“一”、“一个”、“所述”和“该”也可包括复数形式。应该进一步理解的是,本发明的说明书中使用的措辞“包括”是指存在所述特征、整数、步骤、操作、元件和/或组件,但是并不排除存在或添加一个或多个其他特征、整数、步骤、操作、元件、组件和/或它们的组。

本技术领域技术人员可以理解,除非另外定义,这里使用的所有术语(包括技术术语和科学术语),具有与本发明所属领域中的普通技术人员的一般理解相同的意义。还应该理解的是,诸如通用字典中定义的那些术语,应该被理解为具有与现有技术的上下文中的意义一致的意义,并且除非被特定定义,否则不会用理想化或过于正式的含义来解释。

图1示出了本发明一实施例提供的基于偏移量的图像修复方法的流程示意图,图2示出了本发明一实施例提供的图像修复方法的示意图,结合图1和图2所示,本实施例的基于偏移量的图像修复方法包括如下步骤:

101、将待修复的目标图像和图像库中的图像I1~Iw,构成图像立方C={I0,I1,…,Iw};

102、对图像立方中的每一个图像划分为部分重叠的r×r的图像块,获得目标图像的目标图像块和图像的图像块,r为大于1的自然数。

在本实施例中,可对图像立方中的每一个图像,以其中每个像素点为块的左上角,将图像划分为可重叠的8×8的图像块,获得目标图像的目标图像块和图像的图像块;本实施例优选r为8、10、16等。

在本实施例中,目标图像块的位置由该目标图像块的中心像素点表示,目标图像块的像素值为该目标图像块内部所有像素点的像 素值的集合;图像块的位置由该目标图像块的中心像素点表示,图像块的像素值为该目标图像块内部所有像素点的像素值的集合。

103、获取所述目标图像中已知区域的图像块的主导偏移量;所述主导偏移量为统计的与所述已知区域的图像块相似的图像块的若干偏移量的集合;

本实施例中,所述目标图像包括已知区域Φ和缺失区域Ω。

104、根据所述主导偏移量,采用能量方程分配策略对所述目标图像中缺失区域的像素点进行修复,获取修复后的目标图像。

例如:定义能量方程(如下公式(2))描述图像修复的质量,求解能量方程,得到最优的为每个未知像素分配一个主导偏移量的策略,再将偏移量对应的已知像素值填补缺失区域的未知像素。

可理解的是,本实施例的图像修复时,使用的是用已知像素值修复未知像素,不是用已知图像块块修复目标图像块。本实施例中前述划分的图像块/目标图像块是相互重叠的,每个像素出现在若干个块中,基于图像块不易修复。

本实施例的基于偏移量的图像修复方法,通过图像立方,获取主导偏移量,进而获取修复后的目标图像,该方法既能有效描述目标图像的结构信息,又能引入图像库的额外信息,有利于保持目标图像结构的连续性,提高了修复结果的主观视觉质量,使目标图像修复结构更加自然。

在实际应用中,前述步骤103可具体包括下述图中未示出的子步骤1031至子步骤1033:

1031、针对所述已知区域中的每一个目标图像块,在所述图像立方中查找与该目标图像块最相似的图像块;

例如:采用公式(1)计算两个图像块之间的差异程度,在所述图像立方中查找与每一个目标图像块差异程度最小的作为最相似的图像块;

<mrow> <mi>d</mi> <mrow> <mo>(</mo> <msub> <mi>&Psi;</mi> <mi>x</mi> </msub> <mo>,</mo> <msub> <mi>&Psi;</mi> <mi>y</mi> </msub> <mo>)</mo> </mrow> <mo>=</mo> <mo>|</mo> <mo>|</mo> <msub> <mi>&Psi;</mi> <mi>x</mi> </msub> <mo>-</mo> <msub> <mi>&Psi;</mi> <mi>y</mi> </msub> <mo>|</mo> <msubsup> <mo>|</mo> <mi>k</mi> <mi>k</mi> </msubsup> <mo>+</mo> <mi>&beta;</mi> <mo>|</mo> <mo>|</mo> <mo>&dtri;</mo> <msub> <mi>&Psi;</mi> <mi>x</mi> </msub> <mo>-</mo> <mo>&dtri;</mo> <msub> <mi>&Psi;</mi> <mi>y</mi> </msub> <mo>|</mo> <msubsup> <mo>|</mo> <mi>k</mi> <mi>k</mi> </msubsup> </mrow> 公式(1)

其中,Ψx表示所述目标图像的已知区域中以像素值x为中心点的目标图像块,Ψy为所述图像立方中以像素值y为中心点的图像块,是梯度算子,β表示用于平衡公式(1)中的颜色项和梯度项的平衡系数,d(Ψxy)即为difference(Ψxy)。

1032、获取每一个目标图像块与该目标图像块最相似的图像块的偏移量;

举例来说,针对目标图像块Ψx找到的最相似的图像块Ψy,组成相似块对(Ψxy),若x=(x1,y1),y=(x2,y2),且Ψy属于所述图像立方中的第Ik图像,则Ψx,Ψy之间的相对三维偏移量为s=(x2-x1,y2-y1,k)。

1033、采用统计方式将所有偏移量中选取部分偏移量组合所述主导偏移量。

例如,针对所述已知区域的所有目标图像块的所有相对三维偏移量,提取出现次数大于预设阈值的相对三维偏移量组成主导偏移量S={s1,s2,…,sN};

或者,针对所述已知区域的所有目标图像块的所有相对三维偏移量,提取出现次数最多的N个相对三维偏移量,组成主导偏移量S={s1,s2,…,sN}。

相应地,前述图1中所示的步骤104还可包括下述的图中未示出的子步骤1041和子步骤1042;

1041、采用公式(2)确定所述缺失区域中每一个目标像素点x所选用的修复像素点x+sL(x),所述修复像素点为目标像素点沿着三维偏移量指向的图像立方中的像素点;

其中, <mrow> <mi>E</mi> <mrow> <mo>(</mo> <mi>L</mi> <mo>)</mo> </mrow> <mo>=</mo> <munder> <mo>&Sigma;</mo> <mrow> <mo>(</mo> <mi>x</mi> <mo>,</mo> <mi>y</mi> <mo>)</mo> <mo>&Element;</mo> <msub> <mi>N</mi> <mn>4</mn> </msub> </mrow> </munder> <msub> <mi>E</mi> <mi>s</mi> </msub> <mo>(</mo> <mi>L</mi> <mrow> <mo>(</mo> <mi>x</mi> <mo>)</mo> </mrow> <mo>,</mo> <mi>L</mi> <mrow> <mo>(</mo> <mi>y</mi> <mo>)</mo> </mrow> <mo>)</mo> <mo>+</mo> <mi>&alpha;</mi> <munder> <mo>&Sigma;</mo> <mrow> <mi>x</mi> <mo>&Element;</mo> <mi>&Omega;</mi> </mrow> </munder> <msub> <mi>E</mi> <mi>d</mi> </msub> <mrow> <mo>(</mo> <mi>L</mi> <mo>(</mo> <mi>x</mi> <mo>)</mo> </mrow> <mo>)</mo> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>2</mn> <mo>)</mo> </mrow> </mrow>

L表示一种分配方式,表明对缺失区域中位于x的像素分配第L(x)个主导偏移量sL(x),E(L)用于衡量所述分配方式的质量,N4是四邻域,α表示用于平衡平滑项Es和数据项Ed的平衡系数,Es(L(x),L(y))是平滑项,Ed(L(x))为数据项。

1042、针对缺失区域中的每一目标像素点x,为该目标像素点x分配一个主导偏移量sL(x),将所述图像立方中像素点x+sL(x)的值替换该目标像素点x,获得修复后的目标图像。

上述方法既能有效描述目标图像的结构信息,又能引入图像库的额外信息,使图像修复结构更加自然。

下面结合图采用具体的实例对基于偏移量的图像修复方法进行说明,本实施例的基于偏移量的图像修复方法包括如下步骤:

A01、对待修复的目标图像I0和图像库c里的图像I1~Iw,组成图像立方C={I0,I1,…,Iw};

其中,目标图像I0中的缺失区域标记为Ω,已知区域标记为Φ。

本实施例中的,每一目标图像均包括缺失区域Ω和已知区域Φ。

A02、对图像立方C={I0,I1,…,Iw}中的每一个图像,以其中每个像素点为块的左上角,将图像划分为可重叠的8*8的图像块,获得目标图像的目标图像块和图像的图像块。

A03、对已知区域Φ中的每一个目标图像块Ψx,在图像库c中找到与之最相似的图像块Ψy

其中,目标图像块Ψx表示以x为中心像素点的目标图像块。块相似的度量准则如下述公式(1)所示,其中是梯度算子。

<mrow> <mi>d</mi> <mrow> <mo>(</mo> <msub> <mi>&Psi;</mi> <mi>x</mi> </msub> <mo>,</mo> <msub> <mi>&Psi;</mi> <mi>y</mi> </msub> <mo>)</mo> </mrow> <mo>=</mo> <mo>|</mo> <mo>|</mo> <msub> <mi>&Psi;</mi> <mi>x</mi> </msub> <mo>-</mo> <msub> <mi>&Psi;</mi> <mi>y</mi> </msub> <mo>|</mo> <msubsup> <mo>|</mo> <mi>k</mi> <mi>k</mi> </msubsup> <mo>+</mo> <mi>&beta;</mi> <mo>|</mo> <mo>|</mo> <mo>&dtri;</mo> <msub> <mi>&Psi;</mi> <mi>x</mi> </msub> <mo>-</mo> <mo>&dtri;</mo> <msub> <mi>&Psi;</mi> <mi>y</mi> </msub> <mo>|</mo> <msubsup> <mo>|</mo> <mi>k</mi> <mi>k</mi> </msubsup> <mo>.</mo> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>1</mn> <mo>)</mo> </mrow> </mrow>

需要说明的是,公式(1)的计算方法可以是颜色值的平方差值和(k=2),还可以是绝对差值(k=1)其他准则,还可以加入梯度项(β≠0)即||▽Ψx-▽Ψy||。

具体地,根据平衡系数β的取值,求两个图像块的差异程度可以分为:

当β=0时,没有公式(1)中加号的后半部分,也就是没有梯度项;

当β≠0时,相当于加进了梯度项。

根据公式(1)中k的取值,求两个块的差异程度可以分为:

当k=1时,表示该公式求的是块内像素之差的绝对值之和。

当k=2时,表示该公式求的是图像块内像素之差的平方之和。

举例来说,公式(1)里面的颜色平方差之和和绝对值之和示意性的说明如下:图像块大小以2×2为例:a1~a4、b1~b4是像素值,

<mrow> <mi>k</mi> <mo>=</mo> <mn>1</mn> <mo>:</mo> <mo>|</mo> <mo>|</mo> <mi>&Psi;</mi> <mi>a</mi> <mo>-</mo> <mi>&Psi;</mi> <mi>b</mi> <mo>|</mo> <msubsup> <mo>|</mo> <mn>1</mn> <mn>1</mn> </msubsup> <mo>=</mo> <mo>|</mo> <mi>a</mi> <mn>1</mn> <mo>-</mo> <mi>b</mi> <mn>1</mn> <mo>|</mo> <mo>+</mo> <mo>|</mo> <mi>a</mi> <mn>2</mn> <mo>-</mo> <mi>b</mi> <mn>2</mn> <mo>|</mo> <mo>+</mo> <mo>|</mo> <mi>a</mi> <mn>3</mn> <mo>-</mo> <mi>b</mi> <mn>3</mn> <mo>|</mo> <mo>+</mo> <mo>|</mo> <mi>a</mi> <mn>4</mn> <mo>-</mo> <mi>b</mi> <mn>4</mn> <mo>|</mo> </mrow>

<mrow> <mi>k</mi> <mo>=</mo> <mn>2</mn> <mo>:</mo> <mo>|</mo> <mo>|</mo> <mi>&Psi;</mi> <mi>a</mi> <mo>-</mo> <mi>&Psi;</mi> <mi>b</mi> <mo>|</mo> <msubsup> <mo>|</mo> <mn>2</mn> <mn>2</mn> </msubsup> <mo>=</mo> <msup> <mrow> <mo>(</mo> <mi>a</mi> <mn>1</mn> <mo>-</mo> <mi>b</mi> <mn>1</mn> <mo>)</mo> </mrow> <mn>2</mn> </msup> <mo>+</mo> <msup> <mrow> <mo>(</mo> <mi>a</mi> <mn>2</mn> <mo>-</mo> <mi>b</mi> <mn>2</mn> <mo>)</mo> </mrow> <mn>2</mn> </msup> <mo>+</mo> <msup> <mrow> <mo>(</mo> <mi>a</mi> <mn>3</mn> <mo>-</mo> <mi>b</mi> <mn>3</mn> <mo>)</mo> </mrow> <mn>2</mn> </msup> <mo>+</mo> <msup> <mrow> <mo>(</mo> <mi>a</mi> <mn>4</mn> <mo>-</mo> <mi>b</mi> <mn>4</mn> <mo>)</mo> </mrow> <mn>2</mn> </msup> </mrow>

A04、在步骤A03中,找到的相似块对(Ψxy),不妨设x=(x1,y1),而y=(x2,y2),且Ψy属于图像Ik,则计算出Ψxy之间的相对三维偏移量为s=(x2-x1,y2-y1,k)。

A05、统计步骤A03和步骤A04中计算出的所有的三维偏移量,提取出现次数最多的三维偏移量总计N个,组成主导偏移量S={s1,s2,…,sN}。

通常N的取值根据图像立方中的图像数量可以预先设定的如 40,60,80,100等。

A06、定义能量方程:

<mrow> <mi>E</mi> <mrow> <mo>(</mo> <mi>L</mi> <mo>)</mo> </mrow> <mo>=</mo> <munder> <mo>&Sigma;</mo> <mrow> <mo>(</mo> <mi>x</mi> <mo>,</mo> <mi>y</mi> <mo>)</mo> <mo>&Element;</mo> <msub> <mi>N</mi> <mn>4</mn> </msub> </mrow> </munder> <msub> <mi>E</mi> <mi>s</mi> </msub> <mo>(</mo> <mi>L</mi> <mrow> <mo>(</mo> <mi>x</mi> <mo>)</mo> </mrow> <mo>,</mo> <mi>L</mi> <mrow> <mo>(</mo> <mi>y</mi> <mo>)</mo> </mrow> <mo>)</mo> <mo>+</mo> <mi>&alpha;</mi> <munder> <mo>&Sigma;</mo> <mrow> <mi>x</mi> <mo>&Element;</mo> <mi>&Omega;</mi> </mrow> </munder> <msub> <mi>E</mi> <mi>d</mi> </msub> <mo>(</mo> <mi>L</mi> <mrow> <mo>(</mo> <mi>x</mi> <mo>)</mo> </mrow> <mo>)</mo> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>2</mn> <mo>)</mo> </mrow> </mrow>

其中,L表示一种分配方式,表明对缺失区域中位于x的像素分配第L(x)个主导偏移量,即sL(x)。E(L)衡量了这种分配方式的质量,数值越小质量越高。N4是四邻域,α用来平衡平滑项Es和数据项Ed。Es(L(x),L(y))是平滑项.

假设L(x)=i,L(y)=j,则平滑项的定义为:

<mrow> <msub> <mi>E</mi> <mi>s</mi> </msub> <mrow> <mo>(</mo> <mi>i</mi> <mo>,</mo> <mi>j</mi> <mo>)</mo> </mrow> <mo>=</mo> <mo>|</mo> <mo>|</mo> <mi>I</mi> <mrow> <mo>(</mo> <mi>x</mi> <mo>+</mo> <msub> <mi>s</mi> <mi>i</mi> </msub> <mo>)</mo> </mrow> <mo>-</mo> <mi>I</mi> <mrow> <mo>(</mo> <mi>x</mi> <mo>+</mo> <msub> <mi>s</mi> <mi>j</mi> </msub> <mo>)</mo> </mrow> <mo>|</mo> <msubsup> <mo>|</mo> <mi>k</mi> <mi>k</mi> </msubsup> <mo>+</mo> <mi>&beta;</mi> <mo>|</mo> <mo>|</mo> <mo>&dtri;</mo> <mi>I</mi> <mrow> <mo>(</mo> <mi>x</mi> <mo>+</mo> <msub> <mi>s</mi> <mi>i</mi> </msub> <mo>)</mo> </mrow> <mo>-</mo> <mo>&dtri;</mo> <mi>I</mi> <mrow> <mo>(</mo> <mi>x</mi> <mo>+</mo> <msub> <mi>s</mi> <mi>j</mi> </msub> <mo>)</mo> </mrow> <mo>|</mo> <msubsup> <mo>|</mo> <mi>k</mi> <mi>k</mi> </msubsup> <mo>,</mo> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>3</mn> <mo>)</mo> </mrow> </mrow>

公式(3)中衡量了相邻两个像素分配的偏移量对应的像素值的在结构上连续性,保证了缺失区域内部修复结果在结构上的连续性。

另一方面,E(L(x))是数据项,定义为:

其中,公式(4)中的表示缺失区域的边界。当未知像素分配的偏移量不能使之找到有效像素点(即落在已知区域的像素点)时,数据项给予最大的惩罚(即公式(4)中的+∞就是给一个无穷大的能量),这保证了最终每个未知像素都有值可循。

对于缺失区域边界上的像素,则充分考虑修复时与边界外侧已知区域像素点的连续程度,保证边界处过渡自然。

A07、使用图割算法求解能量方程的最小值,得到最优的分配方案L。

A08、对缺失区域中的每个像素点,将x+sL(x)处的像素点的像素填补至x处。

根据以上方法便可以在修复图像的过程中,充分利用图像内部 的结构信息,加入图像库的额外信息。在实际应用中,会有更多的先验知识,通过修改上述方程的定义,可以有效地利用这些先验知识,从而更符合实际情况更准确地修复缺失区域。图像库的引入也给本方法提供了更多的灵活性,可以对目标图像进行镜面对称变换,加入到图像库中,以更好地利用图像的自相似性;对于视频,可以将相邻帧加入到图像库中,提供丰富的帧间信息;还可以使用相关的图像检索技术,使图像库中的图像与目标图像的相关程度更高,从而获得更优的修复结果。

图3示出了本发明另一实施例提供的基于偏移量的图像修复装置的结构示意图,如图3所示,本实施例的基于偏移量的图像修复装置包括:图像立方构成单元31、图像块划分单元32、主导偏移量获取单元33和修复单元34;

其中,图像立方构成单元31用于将待修复的目标图像和图像库中的图像,构成图像立方;

图像块划分单元32用于对图像立方中的每一个图像划分为部分重叠的r×r的图像块,获得目标图像的目标图像块和图像的图像块,r为大于1的自然数;

主导偏移量获取单元33用于获取所述目标图像中已知区域的图像块的主导偏移量;所述主导偏移量为统计的与所述已知区域的图像块相似的图像块的若干偏移量的集合;

修复单元34用于根据所述主导偏移量,采用能量方程分配策略对所述目标图像中缺失区域的像素点进行修复,获取修复后的目标图像;

所述目标图像包括已知区域和缺失区域。

在一种具体的实现方式中,前述的主导偏移量获取单元33可具体用于

针对所述已知区域中的每一个目标图像块,在所述图像立方中 查找与该目标图像块最相似的图像块;

获取每一个目标图像块与该目标图像块最相似的图像块的偏移量;

采用统计方式将所有偏移量中选取部分偏移量组合所述主导偏移量。

举例来说,主导偏移量获取单元33具体用于

采用公式(1)计算两个图像块之间的差异程度,在所述图像立方中查找与每一个目标图像块差异程度最小的作为最相似的图像块;

<mrow> <mi>d</mi> <mrow> <mo>(</mo> <msub> <mi>&Psi;</mi> <mi>x</mi> </msub> <mo>,</mo> <msub> <mi>&Psi;</mi> <mi>y</mi> </msub> <mo>)</mo> </mrow> <mo>=</mo> <mo>|</mo> <mo>|</mo> <msub> <mi>&Psi;</mi> <mi>x</mi> </msub> <mo>-</mo> <msub> <mi>&Psi;</mi> <mi>y</mi> </msub> <mo>|</mo> <msubsup> <mo>|</mo> <mi>k</mi> <mi>k</mi> </msubsup> <mo>+</mo> <mi>&beta;</mi> <mo>|</mo> <mo>|</mo> <mo>&dtri;</mo> <msub> <mi>&Psi;</mi> <mi>x</mi> </msub> <mo>-</mo> <mo>&dtri;</mo> <msub> <mi>&Psi;</mi> <mi>y</mi> </msub> <mo>|</mo> <msubsup> <mo>|</mo> <mi>k</mi> <mi>k</mi> </msubsup> </mrow> 公式(1)

其中,Ψx表示所述目标图像的已知区域中以像素值x为中心点的目标图像块,Ψy为所述图像立方中以像素值y为中心点的图像块,是梯度算子,β表示用于平衡公式(1)中的颜色项和梯度项的平衡系数;

针对目标图像块Ψx找到的最相似的图像块Ψy,组成相似块对(Ψxy),若x=(x1,y1),y=(x2,y2),且Ψy属于所述图像立方中的第Ik图像,则Ψx,Ψy之间的相对三维偏移量为s=(x2-x1,y2-y1,k);

针对所述已知区域的所有目标图像块的所有相对三维偏移量,提取出现次数大于预设阈值的相对三维偏移量组成主导偏移量S={s1,s2,…,sN};

或者,

针对所述已知区域的所有目标图像块的所有相对三维偏移量,提取出现次数最多的N个相对三维偏移量,组成主导偏移量S={s1,s2,…,sN}。

在另一种可能的实现方式中,所述修复单元34可具体用于,

采用公式(2)确定所述缺失区域中每一个目标像素点x所选用的修复像素点x+sL(x),所述修复像素点为目标像素点沿着三维偏移 量指向的图像立方中的像素点;

针对缺失区域中的每一目标像素点x,为该目标像素点x分配一个主导偏移量sL(x),将所述图像立方中像素点x+sL(x)的值替换该目标像素点x,获得修复后的目标图像,所述目标像素点为目标图像块的中心像素点,像素点为图像块的中心像素点;

其中, <mrow> <mi>E</mi> <mrow> <mo>(</mo> <mi>L</mi> <mo>)</mo> </mrow> <mo>=</mo> <munder> <mo>&Sigma;</mo> <mrow> <mo>(</mo> <mi>x</mi> <mo>,</mo> <mi>y</mi> <mo>)</mo> <mo>&Element;</mo> <msub> <mi>N</mi> <mn>4</mn> </msub> </mrow> </munder> <msub> <mi>E</mi> <mi>s</mi> </msub> <mo>(</mo> <mi>L</mi> <mrow> <mo>(</mo> <mi>x</mi> <mo>)</mo> </mrow> <mo>,</mo> <mi>L</mi> <mrow> <mo>(</mo> <mi>y</mi> <mo>)</mo> </mrow> <mo>)</mo> <mo>+</mo> <mi>&alpha;</mi> <munder> <mo>&Sigma;</mo> <mrow> <mi>x</mi> <mo>&Element;</mo> <mi>&Omega;</mi> </mrow> </munder> <msub> <mi>E</mi> <mi>d</mi> </msub> <mo>(</mo> <mi>L</mi> <mrow> <mo>(</mo> <mi>x</mi> <mo>)</mo> </mrow> <mo>)</mo> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>2</mn> <mo>)</mo> </mrow> </mrow>

L表示一种分配方式,表明对缺失区域中位于x的像素分配第L(x)个主导偏移量sL(x),E(L)用于衡量所述分配方式的质量,N4是四邻域,α表示用于平衡平滑项Es和数据项Ed的平衡系数,Es(L(x),L(y))是平滑项,Ed(L(x))为数据项。

本实施例的基于偏移量的图像修复装置,通过图像立方构成单元建立图像立方,进而通过主导偏移量获取单元获取主导偏移量,进而修复单元获取修复后的目标图像,该装置既能有效描述目标图像的结构信息,又能引入图像库的额外信息,有利于保持目标图像结构的连续性,提高了修复结果的主观视觉质量,使目标图像修复结构更加自然。

通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到本发明可以通过硬件实现,也可以借助软件加必要的通用硬件平台的方式来实现。基于这样的理解,本发明的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述的方法。

本领域技术人员可以理解附图只是一个优选实施例的示意图,附 图中的模块或流程并不一定是实施本发明所必须的。

本领域技术人员可以理解实施例中的系统中的模块可以按照实施例描述进行分布于实施例的系统中,也可以进行相应变化位于不同于本实施例的一个或多个系统中。上述实施例的模块可以合并为一个模块,也可以进一步拆分成多个子模块。

以上所述仅是本发明的部分实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视为本发明的保护范围。

当前第1页1 2 3 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1