图像处理设备和图像处理方法与流程

文档序号:11437517阅读:161来源:国知局
图像处理设备和图像处理方法与流程

本申请是国家申请号为201280030904.8,进入中国国家阶段的日期为2013年12月23日,发明名称为“图像处理设备和图像处理方法”的pct申请的分案申请。

本公开内容涉及一种图像处理设备和图像处理方法。具体而言,本公开内容涉及一种能够提高编码效率的图像处理设备和图像处理方法。



背景技术:

近年来,如下设备已经在广播站中的信息分发和普通家庭中的信息接收二者中变得普遍:该设备将图像信息作为数字数据来处理、在这样的情况下目的在于以高效率发送和存储信息、并且符合用于通过利用图像信息特有的冗余度、使用正交变换、比如离散余弦变换并且使用运动补偿来压缩图像信息的方案、比如mpeg(运动图象专家组)。

具体而言,mpeg2(国际标准化组织和国际电工委员会(iso/iec)13818-2)被定义为通用图像编码方案并且在用于专业使用和消费者使用的广泛应用中当前广泛用作为用于隔行扫描图像和顺序扫描图像以及标准和高清晰度图像的标准。例如通过运用mpeg2压缩方案,为具有720×480个像素的标准分辨率的隔行扫描图像分配4至8mbps的编码速率(比特率),并且为具有1920×1088个像素的高分辨率的隔行扫描图像分配18至22mbps的编码速率(比特率)。作为结果,可以实现高压缩比和良好图像质量。

mpeg2已经主要既定用于适合于广播的高图像质量编码、但是未与用于实现比mpeg1的编码速率(比特率)更低的编码速率(比特率)(更高压缩比)的编码方案兼容。随着移动终端的普及,预计对于这样的编码方案的需求在将来增加。为了回应这一点,已经确认mpeg4编码方案的标准化。关于图像编码方案,在1998年12月确认其规范为国际标准iso/iec14496-2。

此外,近年来,原先出于用于电视会议的视频编码的目的,称为h.26l(itu-t(国际电信联盟电信标准化部门)q6/16vceg(视频编码专家组))的标准的规范的标准化已有进步。已知h.26l实现更高编码效率,但是它需要比常规编码方案、比如mpeg2和mpeg4更大量的用于编码和解码的计算。另外,目前作为mpeg4的活动的部分,进行用于向h.26l中并入h.26l不支持的功能的标准化作为增强压缩视频编码的联合模型以实现高编码效率。

标准化时间表表明,它在2003年3月变成名义为h.264和mpeg-4部分10(下文称为avc的高级视频编码)的国际标准。

然而将宏块的尺寸设置成16×16个像素对于将变成下一代编码方案的对象的、命名为uhd(超高清晰度;4000×2000个像素)的大图像帧并非最优。

因此,作为itu-t和iso/iec的联合标准化组织的jctvc(联合协作团队-视频编码)目前已经开发称为hevc(高效率视频编码)的编码系统的标准化,用于与avc比较进一步提高编码效率(例如见非专利文献1)。

在hevc编码方案中,定义编码单位(cu)为与avc方案中的宏块相同的处理单位。不同于avc方案的宏块,cu的尺寸未被固定成16×16个像素、但是在相应序列中的图像压缩信息中被指明。

然而为了改进使用在avc方案中定义的中值预测对运动矢量的编码,已经考虑一种允许使用“时间预测符”和“时空预测符”以及“空间预测符”作为用于预测运动矢量的候选的方法(例如见非专利文献2)。

另外,提出一种其中发送merge_flag和merge_left_flag的称为运动分区合并的方法,作为用于运动信息的编码方案之一(例如见非专利文献3)。

引用列表

非专利文献

non-patentdocument1:thomaswiegand,woo-jinhan,benjaminbross,jens-rainerohm,garyj.sullivan,"workingdraft1ofhigh-efficiencyvideocoding",jctvc-c403,jointcollaborativeteamonvideocoding(jct-vc)ofitu-tsg16wp3andiso/iecjtc1/sc29/wg113rdmeeting:guangzhou,cn,7-15october,2010

non-patentdocument2:joeljung,guillaumelaroche,"competition-basedschemeformotionvectorselectionandcoding,"vceg-ac06,itu-telecommunicationsstandardizationsectorstudygroup16question6,videocodingexpertsgroup(vceg)29thmeeting:klagenfurt,austria,17-18july,2006

non-patentdocument3:martinwinken,sebastianbosse,benjaminbross,philipphelle,tobiashinz,heinerkirchhoffer,haricharanlakshman,detlevmarpe,simonoudin,matthiaspreiss,heikoschwarz,mischasiekmann,karstensuehring,andthomaswiegand,"descriptionofvideocodingtechnologyproposedbyfraunhoferhhi,"jctvc-a116,april,2010



技术实现要素:

本发明要解决的问题

然而这些技术举例说明仅在相同视图中的处理并且不能在多视图编码的情况下执行视图间矢量预测。因此,编码效率可能减少。

本公开内容是鉴于这些情形而产生的并且以抑制编码效率减少为目标。

对问题的解决方案

根据本公开内容的一个方面,提供一种图像处理设备,该图像处理设备包括:预测矢量候选设置单元,该预测矢量候选设置单元在将与当前画面不同的时间的画面的共同定位的块的共同定位的矢量与邻近矢量作为候选矢量,并且当前块的参考图像为短参考图像的情况下,将参考图像为长参考图像的候选矢量从管理对编码矢量的预测矢量的候选的候选列表中排除,其中,邻近矢量是当前块的邻近块的矢量,候选矢量是对当前块的编码矢量的预测矢量的候选;预测矢量设置单元,该预测矢量设置单元从由预测矢量候选设置单元设置的在候选列表中包括的候选矢量中,设置对编码矢量的预测矢量;以及编码单元,该编码单元使用由预测矢量设置单元设置的预测矢量来对编码矢量进行编码。

根据本公开内容的一个方面,提供了一种图像处理方法,该图像处理方法包括:在将与当前画面不同的时间的画面的共同定位的块的共同定位的矢量与邻近矢量作为候选矢量,并且当前块的参考图像为短参考图像的情况下,将参考图像为长参考图像的候选矢量从管理对编码矢量的预测矢量的候选的候选列表中排除,其中,邻近矢量是当前块的邻近块的矢量,候选矢量是对当前块的编码矢量的预测矢量的候选;从所设置的在候选列表中包括的候选矢量中,设置对编码矢量的预测矢量;以及使用所设置的预测矢量来对编码矢量进行编码。

根据本公开内容的一个方面,提供一种图像处理设备,该图像处理设备包括:预测矢量候选设置单元,该预测矢量候选设置单元在当前块的编码矢量以及与当前画面不同时间的画面的共同定位的块的共同定位的矢量中的一方为参考在相同视图下与当前画面不同时间的画面的运动矢量、另一方为利用视图方向上的相关性的视差矢量时,将共同定位的矢量从针对编码矢量的预测矢量的候选中排除;预测矢量设置单元,该预测矢量设置单元从通过预测矢量候选设置单元排除共同定位的矢量后的预测矢量的候选中设置针对编码矢量的预测矢量;以及编码单元,该编码单元使用预测矢量设置单元设置的预测矢量对编码矢量进行编码。

根据本公开内容的一个方面,提供一种图像处理设备,该图像处理设备包括:预测矢量生成单元,预测矢量生成单元在对在使用在视差方向上的相关性的预测中使用的当前块的当前视差矢量编码时,使用在生成预测运动矢量时参考的参考视差矢量来生成当前视差矢量的预测矢量;以及差值矢量生成单元,差值矢量生成单元生成当前视差矢量与预测矢量生成单元生成的预测矢量之间的差值矢量。

预测矢量生成单元可以使用在与当前视图相同的视图的当前画面不同的时间的共同定位的画面中包括的共同定位的块的视差矢量,生成当前视差矢量的预测矢量。

预测矢量生成单元可以在当前块的矢量的特性与共同定位的块的矢量的特性相同时,设置共同定位的块为可用。

矢量的特性是矢量的类型,并且预测矢量生成单元可以在当前块的矢量的特性是视差矢量并且共同定位的块的矢量的特性是视差矢量时,设置共同定位的块为可用。

预测运动矢量生成单元可以使用指示画面的输出顺序的画面顺序计数poc,确定当前块的矢量的特性和共同定位的块的矢量的特性。

预测运动矢量生成单元可以使用当前画面的poc、从当前画面参考的当前参考画面的poc、共同定位的画面的poc和从共同定位的画面参考的共同定位的参考画面的poc,确定当前块的矢量的特性和共同定位的块的矢量的特性。

预测运动矢量生成单元可以在当前画面的poc与从当前画面参考的当前参考画面的poc相同并且共同定位的画面的poc与从共同定位的画面参考的共同定位的参考画面的poc相同时,确定当前块的矢量的特性和共同定位的块的矢量的特性是视差矢量。

预测矢量生成单元可以在当前块的矢量的特性与共同定位的块的矢量的特性不同时,设置共同定位的块为不可用。

矢量的特性是参考画面的类型,并且预测矢量生成单元可以在当前块的参考画面的类型与共同定位的块的参考画面的类型不同时,设置共同定位的块为不可用。

矢量的特性是参考画面的类型,并且预测矢量生成单元可以在当前块的参考画面的类型是长参考类型并且共同定位的块的参考画面的类型是长参考类型时,略过搜索参考索引的搜索处理。

预测矢量生成单元可以使用在与当前视图不同的视图的当前画面相同的时间的画面中包括的参考块的视差矢量,生成当前视差矢量的预测矢量。

预测矢量生成单元可以基于在当前画面与在生成预测运动矢量时参考的参考画面之间的位置关系缩放参考视差矢量,以生成当前视差矢量的预测矢量。

预测矢量生成单元可以在对在使用在时间方向上的相关性的预测中使用的当前块的当前运动矢量编码时,使用在生成预测运动矢量时参考的参考运动矢量来生成当前运动矢量的预测矢量,并且差值矢量生成单元可以生成当前运动矢量与预测矢量生成单元生成的预测矢量之间的差值矢量。

预测矢量生成单元可以使用在与当前视图不同的视图的当前画面相同的时间的画面中包括的参考块的运动矢量,生成当前运动矢量的预测矢量。

预测矢量生成单元可以使用在与当前视图相同的视图的当前画面不同的时间的画面中包括的参考块的运动矢量,生成当前运动矢量的预测矢量。

预测矢量生成单元可以基于当前画面与在生成预测运动矢量时参考的参考画面之间的位置关系来缩放参考运动矢量,以生成当前运动矢量的预测矢量。

预测矢量生成单元可以在移位与当前视图不同的视图的当前画面相同的时间的画面的像素的位置的状态中,使用与位于当前块相同的位置的块的矢量来生成预测矢量。

预测矢量生成单元可以根据当前块的邻近区域的视差矢量,设置图像的移位量。

预测矢量生成单元可以使用其中在y方向上的视差矢量的值不是零的邻近块的在x方向上的视差矢量,作为移位量。

预测矢量生成单元可以使用根据其中在y方向上的视差矢量的值不是零的多个邻近块的在x方向上的视差矢量计算的值,作为移位量。

预测矢量生成单元可以使用其中在y方向上的视差矢量的值不是零的多个邻近块的在x方向上的视差矢量的平均值或者中值,作为图像的移位量。

预测矢量生成单元可以根据全局视差矢量设置图像的移位量。

另外,根据本公开内容的一个方面,提供一种图像处理设备的图像处理方法,该图像处理方法用于允许图像处理设备执行:在对在使用在视差方向上的相关性的预测中使用的当前块的当前视差矢量编码时,使用在生成预测运动矢量时参考的参考视差矢量来生成当前视差矢量的预测矢量;并且生成当前视差矢量与所生成的预测矢量之间的差值矢量。

根据本公开内容的另一方面,提供一种图像处理设备,该图像处理设备包括:预测矢量生成单元,预测矢量生成单元在对在使用在视差方向上的相关性的预测中使用的当前块的当前视差矢量解码时,使用在生成预测运动矢量时参考的参考视差矢量来生成当前视差矢量的预测矢量;以及算术单元,算术单元执行将预测矢量生成单元生成的预测矢量和当前视差矢量与预测矢量之间的差值矢量相加的运算,以重建当前视差矢量。

另外,根据本公开内容的一个方面,提供一种图像处理设备的图像处理方法,该图像处理方法用于允许图像处理设备执行:在对在使用在视差方向上的相关性的预测中使用的当前块的当前视差矢量解码时,使用在生成预测运动矢量时参考的参考视差矢量来生成当前视差矢量的预测矢量;并且执行将所生成的预测矢量和当前视差矢量与预测矢量之间的差值矢量相加的运算,以重建当前视差矢量。

根据本公开内容的又一方面,提供一种图像处理设备,该图像处理设备包括:预测矢量生成单元,预测矢量生成单元在对在使用在时间方向上的相关性的预测中使用的当前块的当前运动矢量编码时,在当前块的参考画面的类型和在与当前画面不同的时间的共同定位的画面中包括的共同定位的块的参考画面的类型不同时,设置共同定位的块为不可用,并且使用在生成预测运动矢量时参考的参考运动矢量来生成当前运动矢量的预测矢量;以及差值矢量生成单元,差值矢量生成单元生成当前运动矢量与预测矢量生成单元生成的预测矢量之间的差值矢量。

另外,根据本公开内容的一个方面,提供一种图像处理设备的图像处理方法,该图像处理方法用于允许图像处理设备执行:在对在使用在时间方向上的相关性的预测中使用的当前块的当前运动矢量编码时,在当前块的参考画面的类型和在与当前画面不同的时间的共同定位的画面中包括的共同定位的块的参考画面的类型不同时,设置共同定位的块为不可用,并且使用在生成预测运动矢量时参考的参考运动矢量来生成当前运动矢量的预测矢量;并且生成当前运动矢量与所生成的预测矢量之间的差值矢量。

在本公开内容的一个方面中,在对在使用在视差方向上的相关性的预测中使用的当前块的当前视差矢量编码时,使用在生成预测运动矢量时参考的参考视差矢量来生成当前视差矢量的预测矢量;并且生成当前视差矢量与生成的预测矢量之间的差值矢量。

根据本公开内容的另一方面,在对在使用在视差方向上的相关性的预测中使用的当前块的当前视差矢量解码时,使用在生成预测运动矢量时参考的参考视差矢量来生成当前视差矢量的预测矢量;并且执行将生成的预测矢量和当前视差矢量与预测矢量之间的差值矢量相加以重建当前视差矢量的运算。

根据本公开内容的又一方面,在对在使用在时间方向上的相关性的预测中使用的当前块的当前运动矢量编码时,在当前块的参考画面的类型和在与当前画面不同的时间的共同定位的画面中包括的共同定位的块的参考画面的类型不同时,设置共同定位的块为不可用;使用在生成预测运动矢量时参考的参考运动矢量来生成当前运动矢量的预测矢量;并且生成当前运动矢量与生成的预测矢量之间的差值矢量。

发明的效果

根据本公开内容,有可能处理图像。具体而言,有可能抑制编码效率降低。

附图说明

图1是用于描述预测单位类型的示例的图。

图2是用于描述用于合并模式时间相关性区域中的参考图像索引确定的邻近区域的示例的图。

图3是用于描述合并模式时间相关性区域中的参考图像索引确定条件的示例的图。

图4是用于描述时间相关性区域确定方法的示例的图。

图5是用于描述方法的示例的图,该方法确定包括时间相关性区域的图像。

图6是用于描述在当前区域与时间相关性区域之间的位置关系的示例的图。

图7是图示时间相关性区域的运动矢量的缩放的示例的图。

图8是图示3视图图像的参考关系的示例的图。

图9是用于描述在关于当前区域预测视差矢量时分配参考图像的示例的图。

图10是用于描述在关于当前区域预测运动矢量时分配参考图像的示例的图。

图11是图示图像编码设备的主要配置示例的框图。

图12是图示运动视差预测/补偿单元的主要配置示例的框图。

图13是图示时间视差相关性预测矢量生成单元的主要配置示例的框图。

图14是用于描述方案选择的示例的图。

图15是用于描述确定共同定位的矢量的可用性的方式的图。

图16是用于描述其中共同定位的矢量可用的示例的图。

图17是图示序列参数集的语法的示例的图。

图18是图示切片首部的语法的示例的图。

图19图示预测单位的语法的示例的图。

图20是用于描述编码处理的流程的示例的流程图。

图21是用于描述帧间运动预测处理的流程图的示例的流程图。

图22是用于描述合并模式处理的流程的示例的流程图。

图23是用于描述视差运动矢量预测处理的流程的示例的流程图。

图24是用于描述时间视差相关性预测处理的流程的示例的流程图。

图25是用于描述时间视差相关性预测处理的流程的示例的、从图22继续的流程图。

图26是用于描述时间视差相关性预测处理的流程的示例的、从图23继续的流程图。

图27是用于描述时间视差相关性预测处理的流程的示例的、从图24继续的流程图。

图28是用于描述方案1处理的流程的示例的流程图。

图29是用于描述方案3处理的流程的示例的流程图。

图30是用于描述方案4-2处理的流程的示例的流程图。

图31是图示示例解码设备的主要配置示例的框图。

图32是图示运动视差补偿单元的主要配置示例的框图。

图33是用于描述解码处理的流程的示例的流程图。

图34是用于描述预测处理的流程的示例的流程图。

图35是用于描述运动视差补偿处理的流程的示例的流程图。

图36是用于描述运动视差矢量生成处理的流程的示例的流程图。

图37是图示图像编码设备的另一配置示例的框图。

图38是图示运动预测/补偿单元的主要配置示例的框图。

图39是图示矢量预测单元的主要配置示例的框图。

图40是图示基于不同画面的预测矢量生成单元的主要配置示例的框图。

图41是用于描述运动预测/补偿处理的流程的示例的流程图。

图42是用于描述矢量预测处理的流程的示例的流程图。

图43是用于描述预测矢量生成处理的流程的示例的流程图。

图44是用于描述基于不同画面的预测矢量生成处理的流程的示例的流程图。

图45是用于描述移位量确定处理的流程的示例的流程图。

图46是图示当前块和邻近块的布置的示例的图。

图47是图示图像解码设备的另一配置示例的框图。

图48是图示运动补偿单元的主要配置示例的框图。

图49是图示矢量解码单元的主要配置示例的框图。

图50是图示基于不同画面的预测矢量生成单元的主要配置示例的框图。

图51是用于描述运动补偿处理的流程的示例的流程图。

图52是用于描述矢量解码处理的流程的示例的流程图。

图53是用于描述预测矢量生成处理的流程的示例的流程图。

图54是用于描述基于不同画面的预测矢量生成处理的流程的示例的流程图。

图55是用于描述移位量确定处理的流程的示例的流程图。

图56是图示生成预测矢量的方式的示例的图。

图57是用于描述视差和深度的图。

图58是用于描述预测矢量生成方法的示例的图。

图59是用于描述预测矢量生成处理的流程的示例的流程图。

图60是用于描述基于不同画面的预测矢量生成处理的流程的示例的流程图。

图61是用于描述基于不同画面的预测矢量生成处理的流程的示例的、从图60继续的流程图。

图62是用于描述用于固定背景应用的参考图像的方面的示例的图。

图63是用于描述用于立体应用的参考图像的方面的示例的图。

图64是用于比较参考图像类型和矢量特性的示例的图。

图65是用于描述邻近块的示例的图。

图66是用于描述处理时间相关性块和邻近块的示例的图。

图67是用于描述pu运动(视差)矢量和参考索引生成处理的流程的示例的流程图。

图68是用于描述合并(略过)模式处理的流程的示例的流程图。

图69是用于描述根据时间相关性块生成候选运动(视差)矢量的处理的流程的示例的流程图。

图70是用于描述处理的流程的示例的流程图,该处理确定存在用于时间相关性块的运动(视差)矢量的缩放处理和存在候选。

图71是用于描述amvp模式处理的流程的示例的流程图。

图72是用于描述根据空间邻近块生成候选运动(视差)矢量的处理的流程的示例的流程图。

图73是用于描述根据在左侧上的块生成候选运动(视差)矢量的处理的流程的示例的流程图。

图74是用于描述根据在左侧上的块生成候选运动(视差)矢量的处理的流程的示例的、从图73继续的流程图。

图75是用于描述处理的流程的示例的流程图,该处理确定存在用于邻近块的运动(视差)矢量的缩放处理和存在候选。

图76是用于描述根据在上侧上的块生成候选运动(视差)矢量的处理的流程的示例的流程图。

图77是用于描述根据在上侧上的块生成候选运动(视差)矢量的处理的流程的示例的、从图76继续的流程图。

图78是用于描述pu运动(视差)矢量和参考索引生成处理的流程的示例的流程图。

图79是用于描述合并(略过)模式处理的流程的示例的流程图。

图80是用于描述根据时间相关性块生成候选运动(视差)矢量的处理的流程的示例的流程图。

图81是用于描述amvp模式处理的流程的示例的流程图。

图82是用于描述处理邻近块的示例的图。

图83是用于描述根据在左侧上的块生成候选运动(视差)矢量的处理的流程的另一示例的流程图。

图84是用于描述根据在左侧上的块生成候选运动(视差)矢量的处理的流程的另一示例的、从图83继续的流程图。

图85是用于描述处理的流程图的示例的流程图,该处理确定存在用于邻近块的候选运动(视差)矢量。

图86是用于描述处理的流程的另一示例的流程图,该处理用于确定存在用于邻近块的运动(视差)矢量的缩放处理和存在候选。

图87是用于描述根据在上侧上的块生成候选运动(视差)矢量的处理的流程的另一示例的流程图。

图88是用于描述根据在上侧上的块生成候选运动(视差)矢量的处理的流程的另一示例的、从图87继续的流程图。

图89是用于描述根据在上侧上的块生成候选运动(视差)矢量的处理的流程的另一示例的、从图88继续的流程图。

图90是用于描述处理时间相关性块和邻近块的又一示例的图。

图91是用于描述根据在左侧上的块生成候选运动(视差)矢量的处理的流程的又一示例的流程图。

图92是用于描述根据在左侧上的块生成候选运动(视差)矢量的处理的流程的又一示例的、从图91继续的流程图。

图93是用于描述根据在上侧上的块生成候选运动(视差)矢量的处理的流程的又一示例的流程图。

图94是用于描述根据在上侧上的块生成候选运动(视差)矢量的处理的流程的又一示例的、从图93继续的流程图。

图95是图示个人计算机的主要配置示例的框图。

图96是图示电视装置的示意配置的示例的框图。

图97是图示移动电话的示意配置的示例的框图。

图98是图示记录/再现装置的示意配置的示例的框图。

图99是图示成像装置的示意配置的示例的框图。

具体实施方式

下文将描述用于实现本公开内容的方式(下文称为实施例)。将按照以下顺序给出描述:

1.第一实施例(图像编码设备)

2.第二实施例(图像解码设备)

3.第三实施例(图像编码设备)

4.第四实施例(图像解码设备)

5.第五实施例(图像编码设备和图像解码设备)

6.第六实施例(图像编码设备和图像解码设备)

7.第七实施例(计算机)

8.第八实施例(应用示例)

[1.第一实施例]

[运动预测]

在图像编码、比如avc(高级视频编码)或者hevc(高效率视频编码)中,执行使用在时间方向上(在帧之间)的相关性的运动预测。

avc定义分层块、比如宏块或者子宏块为这样的预测处理的处理单位,并且hevc定义编码单位(cu)。

也称为编码树块(ctb)的cu是与在avc中的宏块发挥相同作用的、基于画面的图像的部分区域。将宏块的尺寸固定成16×16个像素,而cu的尺寸未被固定、但是在相应序列中的图像压缩信息中被指明。

例如在输出编码数据中包括的序列参数集(sps)中定义cu的最大尺寸(lcu:最大编码单位)和最小尺寸(scu:最小编码单位)。

可以通过设置split_flag=1将每个lcu拆分成更小尺寸的cu,该尺寸不小于scu的尺寸。在split_flag的值为“1”时,将具有2n×2n的尺寸的cu拆分成具有n×n的下一层尺寸的cu。

另外,将cu拆分成预测单位(pu),这些pu是用作为帧内或者帧间预测的处理单位的区域(基于画面的图像的部分区域)。另外,将cu拆分成变换单位(tu),这些变换单位是用作为正交变换的处理单位的区域(基于画面的图像的部分区域)。当前,hevc除了4×4和8×8正交变换之外还可以使用16×16和32×32正交变换。

在其中如在hevc中那样定义cu并且以cu为单位执行各种处理的编码方案中,可以认为在avc中的宏块对应于lcu。然而cu具有层结构,一般将在最上层上的lcu的尺寸设置成例如比avc的宏块的尺寸更大的128×128个像素。

在以下描述中,“区域”包括以上描述的所有各种类型的区域(例如宏块、子宏块、lcu、cu、scu、pu、tu等)(并且可以是区域中的任何区域)。“区域”可以自然地包括除了以上描述的单位之外的单位,并且适当排除根据描述内容而不可用的单位。

图1图示预测单位(pu)的配置示例,这些pu是用于cu的预测处理单位,这些cu是编码处理单位。如图1中所示,可以对于一个cu形成四个类型的pu。图1中所示四个大方形指示cu,并且在大方形以内的矩形或者方形指示pu。编号指示每个pu的索引、但是未指示图像的内容。

如图1中所示,在左上角上的示例中,cu包括一个pu(2n×2n)。也就是说,在这一情况下,cu等效于pu。另外,在右上角上的示例中,cu被竖直拆分成两个区域并且包括两个水平长pu(2n×n)。另外,在左下角上的示例中,cu被水平划分成两个区域并且包括两个竖直长pu(n×2n)。另外,在右下角上的示例中,cu被竖直和水平拆分成两个区域(共计四个区域)并且包括四个方形pu(n×n)。根据图像的内容(预测结果的成本函数值)确定在这些图案之中的待使用的图案。

非专利文献3提出一种作为运动信息编码方案的称为运动分区合并的方法(合并模式)。在这一方法中,发送两个标志、也就是mergeflag和mergeleftflag作为合并信息,该合并信息是关于合并模式的信息。mergeflag=1指示作为处理目标的当前区域(也称为目标区域)x的运动信息与当前区域相邻的上邻近区域t或者与当前区域相邻的左邻近区域l的运动信息相同。在这一情况下,在合并信息中包括并且发送mergeleftflag。mergeflag=0指示当前区域x的运动信息不同于邻近区域t和邻近区域l中的任一邻近区域的运动信息。在这一情况下,发送当前区域x的运动信息。

在当前区域x的运动信息与邻近区域l的运动信息相同时,满足mergeflag=1和mergeleftflag=1。在当前区域x的运动信息与邻近区域t的运动信息相同时,满足mergeflag=1和mergeleftflag=0。

在这样的合并模式中,时间邻近区域(时间相关性区域)以及空间邻近区域l和t视为用作将与当前区域x合并的候选区域。

如图2中所示,基于与作为待处理的目标的当前区域(当前块)相邻的左邻近区域a、上邻近区域b、右上邻近区域c的参考图像索引,如在图3中所示表中那样确定参考图像索引。

在图3中所示表中,从左侧起的第二至第四列分别指示邻近区域a至c的参考图像索引的状态。从左侧起的第一列是确定的参考图像索引。“x”、“y”和“z”指示可选自然数,并且“-1”指示不能参考邻近区域。

在邻近区域a至c之中有可以参考的仅一个区域时,使用该块的参考图像索引。另外,在邻近区域a至c之中有可以参考的两个区域时,使用最小参考图像索引。另外,在不能参考所有邻近区域a至c时,将参考图像索引设置成0。

如图4中所示确定在时间上位于作为处理目标的当前区域周围的时间相关性区域。在图4中,左区域指示作为待处理的目标的当前画面(currpic)(也称为目标画面)的部分区域,并且在区域之中的左上矩形是当前区域(currpu)。另外,图4中的右区域指示在时间上位于当前画面周围的时间相关性画面(colpic)的部分区域。在这一时间相关性画面中,包括在与当前区域的右下像素相同的位置的像素的区域是时间相关性区域(colpu)。在这一区域不可参考时,设置包括在与解码区域的中心像素相同的位置的像素的区域作为时间相关性区域(colpu)。

另外,如图5中所示确定时间相关性画面。例如在当前画面是b画面并且collocated_from_10_flag是“1”时,列表l1的参考图像索引“0”指示的画面用作时间相关性画面。另外,在当前画面是p画面或者b画面并且collocated_from_10_flag是“0”时,列表l0的参考图像索引“0”指示的画面用作时间相关性画面。

另外,根据在当前画面与时间相关性画面之间的位置关系如图6中所示设置跳跃标志。例如,如在图6的上侧上所示,在参考图像中的时间相关性画面的时间位置跳过当前画面(当前画面存在于时间相关性画面与参考图像之间),将跳跃标志设置成“1”。

另外,在参考图像中的时间相关性画面的时间位置未跳过当前画面(当前画面未存在于时间相关性画面与参考图像之间),将跳跃标志设置成“0”。在跳跃标志是“1”时,由于当前区域变成在时间相关性区域与时间相关性区域的参考图像之间的内插,所以预测矢量的可靠性高。

另外,虽然在生成预测矢量pmv时使用时间相关性区域的运动矢量mvcol,但是在这一情况下,与图7中所示示例相似地缩放时间相关性区域的运动矢量。也就是说,基于在当前区域与当前区域的参考图像之间的时间距离a和在时间相关性区域与时间相关性区域的参考图像之间的时间距离b,如在以下表达式(1)和(2)中那样执行缩放。

如果a和b相同,则pmv=mvcol…(1)

如果a和b不相同,则pmv=mvcol×(a/b)…(2)

然而在多视图图像的情况下,图像包括多个视图,并且也执行使用在视图之间(在视差方向上)的相关性的视差预测。图8图示3视图图像的参考关系的示例。

图8中所示3视图图像包括三个视图0、1和2的图像。在图8中,poc指示时间的索引。另外,picnum指示解码顺序的索引。

视图0称为基本视图并且使用时间预测来编码,该时间预测使用时间相关性来执行预测。视图1称为非基本视图并且使用时间预测和视差预测来编码。在视差预测中,可以参考编码视图0和视图2。视图2称为非基本视图并且使用时间预测和视差预测来编码。在视差预测中,可以参考编码视图0。

然而如以上描述的那样,常规预测矢量仅涉及运动矢量,并且不考虑在跨越视图的视差预测中生成的视差矢量的编码(预测),该视差矢量指示在视图之间相同或者最相似的部分图像之间的位置关系。视差矢量是与时间预测的运动矢量对应的信息并且用于时间预测,该时间预测使用相同时间的不同视图的不同图像来生成当前区域的预测图像。因此,不可能适当预测视差矢量,并且编码效率可能减少。

因此,在本技术中,如以下描述的那样,执行多视图图像的视差矢量和运动矢量(运动视差矢量)的预测。

例如与图9中所示示例相似地执行当前区域的视差矢量(也称为当前视差矢量)的预测。在这一示例中,向列表1的参考图像索引0分配相同视图(view_id=1)的参考图像,并且向参考图像索引1分配不同视图(view_id=2)的参考图像。

在列表1的参考图像索引0(refpiclist[0])用于时间相关性画面时,在参考相同时间的不同视图的视差矢量期间运用在时间相关性画面中包括的时间相关性区域(colpicb)的矢量作为预测矢量。

另外,在列表1的参考图像索引1(refpiclist[1])用于视图相关性画面时,在参考相同时间的不同视图的视差矢量期间运用在视图相关性画面中包括的视图相关性区域(colpica)的矢量作为预测矢量。

也就是说,在本技术中,为了预测当前视差矢量,使用所有参考图像索引作为用于相关性画面的候选。另外,与当前区域的矢量相似地确定每个相关性区域的矢量是否为视差矢量。

另外,与图10中所示示例相似地执行当前区域的运动矢量(也称为当前运动矢量)的预测。在这一示例中,向列表1的参考图像索引0分配相同视图(view_id=1)的参考图像,并且向参考图像索引1分配不同视图(view_id=2)的参考图像。

在列表1的参考图像索引0(refpiclist[0])用于时间相关性画面时,在参考相同视图的不同时间的运动矢量期间运用在时间相关性画面中包括的时间相关性区域(colpicb)的矢量作为预测矢量。

另外,在列表1的参考图像索引1(refpiclist[1])用于视图相关性画面时,在参考相同视图的不同时间的运动矢量期间运用在视图相关性画面中包括的视图相关性区域(colpica)的矢量作为预测矢量。

也就是说,在本技术中,为了预测当前运动矢量,使用所有参考图像索引作为用于相关性画面的候选。另外,与当前区域的矢量相似地确定每个相关性区域的矢量是否为运动矢量。

另外,执行在视差矢量用作预测矢量时的缩放处理如下。也就是说,基于在当前区域与其参考图像之间的视图间距离和在相关性区域与其参考图像之间的视图间距离缩放预测矢量。

在常规技术中,由于仅预测运动矢量,所以仅使用时间距离。然而在多视图图像的情况下,有必要预测视差矢量,因此本技术也使用视图间距离。因而有可能提高编码效率。

[图像编码设备]

图11是图示作为图像处理设备的图像编码设备的主要配置示例的框图。

图11中所示图像编码设备100与编码方案、比如avc或者hevc相似地使用预测处理对图像数据编码。然而图像编码设备100对包括多个视图图像的多视图图像编码。在以下描述中,将描述如下情况,在该情况下处理包括三个视图图像的3视图图像作为多视图图像的示例。然而实际上,图像编码设备100可以对包括可选数目的视图点(视图)的多视图图像编码。

如图11中所示,图像编码设备100包括a/d转换器101、屏幕重新排列缓冲器102、算术单元103、正交变化单元104、量化单元105、无损编码单元106和累积缓冲器107。另外,图像编码设备100包括逆量化单元108、逆正交变化单元109、算术单元110、循环滤波器111、解码画面缓冲器112、选择器113、帧内预测单元114、运动视差预测/补偿单元115、预测图像选择器116和解码多视图画面缓冲器121。

a/d转换器101对输入图像数据执行a/d转换并且向屏幕重新排列缓冲器102供应转换的图像数据(数字数据),该屏幕重新排列缓冲器102存储图像数据。屏幕重新排列缓冲器102根据gop(画面组)重新排列按照存储的顺序排列的图像的帧、从而按照用于编码以获得如下图像的顺序重新排列帧、并且将图像与图像的视图id和poc一起供应到算术单元103,在该图像中重新排列帧顺序。

屏幕重新排列缓冲器102将其中重新排列帧顺序的图像与图像的视图id和poc一起供应到帧内预测单元114和运动视差预测/压缩单元115。视图id是用于标识视图点的信息,并且poc是用于标识时间的信息。

算术单元103从屏幕重新排列缓冲器102读取的图像减去经由预测图像选择器116从帧内预测单元114或者运动视差预测/压缩单元115供应的预测图像,以获得其差值信息并且向正交变化单元104输出差值信息。

例如在受到帧内编码的图像的情况下,算术单元103从屏幕重新排列缓冲器102读取的图像减去从帧内预测单元114供应的预测图像。另外,例如在受到帧间编码的图像的情况下,算术单元103从屏幕重新排列缓冲器102读取的图像减去从运动视差预测/补偿单元115供应的预测图像。

正交变换单元104关于从算术单元103供应的差值信息执行正交变换、比如离散余弦变换或者karhunen-loeve变换。正交变换方法是可选的。正交变换单元104向量化单元105供应变换系数。

量化单元105量化从正交变换单元104供应的变换系数。量化单元104基于关于目标编码速率的信息设置量化参数并且执行量化。量化方法是可选的。量化单元105向无损编码单元106供应量化的变换系数。

无损编码单元106根据可选编码方案对量化单元105量化的变换系数编码。另外,无损编码单元106从帧内预测单元114获取包括指示帧内预测模式的信息等的帧内预测信息、并且从运动视差预测/补偿单元115获取包括指示帧间预测模式的信息、运动视差矢量信息等的帧间预测信息。另外,无损编码单元106获取在循环滤波器111中使用的滤波器系数等。

无损编码单元106根据可选编码方案对这些各种类型的信息编码并且并入(复用)信息作为编码数据的首部信息的部分。无损编码单元106向累积缓冲器107供应通过编码而获得的编码数据,该累积缓冲器107累积编码数据。

无损编码单元106的编码方案的示例包括可变长度编码和算术编码。可变长度编码的示例包括在h.264/avc方案中定义的上下文自适应可变长度编码(cavlc)。算术编码的示例包括上下文自适应二进制算术编码(cabac)。

累积缓冲器107暂时存储从无损编码单元106供应的编码数据。累积缓冲器107在后续级、例如在预定定时向记录设备(记录介质)(未图示)、传输线等输出其中存储的编码数据为比特流。也就是说,向解码侧供应各种编码信息项。

另外,也向逆量化单元108供应在量化单元105中量化的变换系数。逆量化单元108根据与量化单元105的量化的对应的方法对量化的变换系数执行逆量化。逆量化方法是可选的,只要该方法对应于量化单元105的量化处理。逆量化单元108向逆正交变换单元109供应获得的变换系数。

逆正交变换单元109根据与正交变换单元104的正交变换处理对应的方法,对从逆量化单元108供应的变换系数执行逆正交变换。逆正交变换方法是可选的,只要该方法对应于正交变换单元104的正交变换处理。向算术单元110供应通过逆正交变换而获得的输出(局部重建差值信息)。

算术单元110将经由预测图像选择器116从帧内预测单元114或者运动视差预测/补偿单元115供应的预测图像与从逆正交变换单元109供应的逆正交变换结果、也就是局部重建差值信息相加,以获得局部重建图像(下文称为重建图像)。向循环滤波器111或者解码画面缓冲器112供应重建图像。

循环滤波器111包括去块化滤波器、自适应循环滤波器等,并且关于从算术单元110供应的解码图像适当执行滤波器处理。例如循环滤波器111通过对解码图像执行去块化滤波处理,去除解码图像的块失真。另外,例如循环滤波器111通过使用维纳滤波器对去块化滤波结果(其中去除块失真的解码图像)执行循环滤波处理来提高图像质量。

循环滤波器111可以对解码图像执行可选滤波处理。另外,循环滤波器111按照需要向无损编码单元106供应信息、比如用于滤波处理的滤波器系数,从而对信息编码。

循环滤波器111向解码画面缓冲器112供应滤波结果(下文称为解码图像)。

解码画面缓冲器112存储从算术单元110供应的重建图像和从循环滤波器111供应的解码图像。另外,解码画面缓冲器112存储图像的视图id和poc。

解码画面缓冲器112在预定定时或者基于来自外部单元、比如帧内预测单元114的请求,经由选择器113向帧内预测单元114供应其中存储的重建图像(以及图像的视图id和poc)。另外,解码画面缓冲器112在预定定时或者基于来自外部单元、比如运动视差预测/补偿单元115的请求,经由选择器113向运动视差预测/补偿单元115供应其中存储的解码图像(以及图像的视图id和poc)。

选择器113指示从解码画面缓冲器112输出的图像的供应目的地。例如在帧内预测的情况下,选择器113从解码画面缓冲器112读取未滤波的图像(重建图像),并且向帧内预测单元114供应图像作为邻近像素。

另外,例如在帧间预测的情况下,选择器113从解码画面缓冲器112读取滤波图像(解码图像),并且向运动视差预测/补偿单元115供应图像作为参考图像。

在从解码画面缓冲器112获取位于处理目标区域周围的邻近区域的图像(邻近图像)时,帧内预测单元114执行帧内预测(场内预测),该帧内预测(场内预测)基本上使用预测单位(pu)作为处理单位、使用邻近图像的像素值来生成预测图像。帧内预测单元114在预先准备的多个模式(帧内预测模式)中执行帧内预测。

帧内预测单元114在所有候选帧内预测模式中生成预测图像、使用从屏幕重新排列缓冲器102供应的输入图像来评估相应预测图像的成本函数值并且选择最优模式。在选择最优帧内预测模式时,帧内预测单元114向预测图像选择器116供应在最优模式中生成的预测图像。

另外,帧内预测单元114向无损编码单元106适当供应包括关于帧内预测的信息、比如最优帧内预测模式的帧内预测信息,该无损编码单元对帧内预测信息编码。

运动视差预测/补偿单元115基本上使用pu作为处理单位、使用从屏幕重新排列缓冲器102供应的输入图像和从解码画面缓冲器112供应的参考图像来执行运动预测和视差预测(帧间预测)、根据检测的运动视差矢量执行补偿处理并且生成预测图像(帧间预测图像信息)。运动视差预测/补偿单元115在预先准备的多个模式(帧间预测模式)中执行这样的帧间预测(帧间预测)。

运动视差预测/补偿单元115在所有候选帧间预测模式中生成预测图像、评估相应预测图像的成本函数值并且选择最优模式。在选择最优帧间预测模式时,运动视差预测/补偿单元115向预测图像选择器116供应在最优模式中生成的预测图像。

另外,运动视差预测/补偿单元115向无损编码单元106供应包括关于帧间预测的信息、比如最优帧间预测模式的帧间预测信息,该无损编码单元对帧间预测信息编码。

预测图像选择器116选择向算术单元103和算术单元110供应的预测图像的供应源。例如在帧内编码的情况下,预测图像选择器116选择帧内预测单元114作为预测图像的供应源,并且向算术单元103和算术单元110供应从帧内预测单元114供应的预测图像。另外,例如在帧间编码的情况下,预测图像选择器116选择运动视差预测/补偿单元115作为预测图像的供应源,并且向算术单元103和算术单元110供应从运动视差预测/补偿单元115供应的预测图像。

虽然解码画面缓冲器112仅存储处理目标视图的图像(以及图像的视图id和poc),但是解码多视图画面缓冲器121也存储相应视图点(视图)的图像(以及图像的视图id和poc)。也就是说,解码多视图画面缓冲器121获取向解码画面缓冲器112供应的解码图像(以及图像的视图id和poc),并且与解码画面缓冲器112一起存储解码图像(以及图像的视图id和poc)。

虽然解码画面缓冲器112在处理目标视图改变时擦除解码图像,但是解码多视图画面缓冲器121按原样存储解码图像。此外,解码多视图画面缓冲器121根据解码画面缓冲器112的请求等,向解码画面缓冲器112供应存储的解码图像(以及图像的视图id和poc)为“非处理目标视图的解码图像”。解码画面缓冲器112经由选择器113向运动视差预测/补偿单元115供应从解码多视图画面缓冲器121读取的“非处理目标视图的解码图像”(以及图像的视图id和poc)。

[运动视差预测/补偿单元]

图12是图示图11的运动视差预测/补偿单元的主要配置示例的框图。

如图12中所示,运动视差预测/补偿单元115包括运动视差矢量搜索单元131、预测图像生成单元132、编码信息累积缓冲器133和选择器134。另外,运动视差预测/补偿单元115包括空间相关性预测矢量生成单元135、时间视差相关性预测矢量生成单元136、选择器137、编码成本计算单元138和模式确定单元139。

运动视差矢量搜索单元131从解码画面缓冲器112获取解码图像像素值,并且从屏幕重新排列缓冲器102获取原始图像像素值。运动视差矢量搜索单元131使用这些值来确定作为处理目标的当前区域的参考图像索引、在时间方向和视差方向上执行运动搜索、并且生成当前运动矢量和当前视差矢量。

在以下描述中,在不必区分指示在时间方向上(也就是说,在帧(画面)之间)的运动的运动矢量和指示在视差方向上(也就是说,在视图之间)的运动的视差矢量或者指示两个矢量时,矢量将称为运动视差矢量。当前区域的运动视差矢量也称为当前运动视差矢量。

运动视差矢量搜索单元131向预测图像生成单元132和编码成本计算单元138供应参考图像索引和运动视差矢量。

预测图像生成单元131从运动视差矢量搜索单元131获取参考图像索引和运动视差矢量,并且从解码画面缓冲器112获取解码图像像素值。预测图像生成单元132使用这些值来生成当前区域的预测图像。预测图像生成单元132向编码成本函数计算单元138供应预测图像像素值。

编码信息累积缓冲器133存储指示在模式确定单元139作为最优模式而选择的模式的模式信息、以及模式的参考模式索引和运动视差矢量。编码信息累积缓冲器133在预定定时或者根据来自外部单元的请求向选择器134供应存储的信息。

选择器134向空间相关性预测矢量生成单元135或者时间视差相关性预测矢量生成单元136供应从编码信息累积缓冲器133供应的模式信息、参考图像索引和运动视差矢量。

空间相关性预测矢量生成单元135和时间视差相关性预测矢量生成单元136生成作为处理目标的当前区域的运动矢量(当前运动矢量)的预测值(预测矢量)。

空间相关性预测矢量生成单元135使用空间相关性来生成预测矢量(空间相关性预测矢量)。更具体而言,空间相关性预测矢量生成单元135经由选择器134从编码信息累积缓冲器133获取:关于与当前区域相同的帧(当前帧(也称为目标帧))的在空间上位于当前区域周围的邻近区域(空间邻近区域)的运动信息的信息(模式信息、参考图像索引、运动视差矢量等)。

例如空间相关性预测矢量生成单元135使用多个空间邻近区域的运动矢量(空间邻近运动矢量)来执行中值运算,以生成空间相关性预测矢量。空间相关性预测矢量生成单元135向选择器137供应生成的空间相关性预测矢量。

时间视差相关性预测矢量生成单元136使用时间相关性或者视差相关性来生成预测矢量(时间视差相关性预测矢量(时间相关性预测矢量或者视差相关性预测矢量))。更具体而言,例如时间视差相关性预测矢量生成单元136经由选择器134从编码信息累积缓冲器133获取:关于在时间上位于当前区域周围的邻近区域(时间邻近区域)的运动信息的信息。时间邻近区域指示与当前区域相同的视图(当前视图(也称为目标视图))的位于与当前帧不同的帧(画面)的当前区域对应的位置的区域(或者其包围区域)。

另外,例如时间视差相关性预测矢量生成单元136经由选择器134从编码信息累积缓冲器133获取:关于在视差上位于当前区域周围的邻近区域(视差邻近区域)的运动信息的信息。视差邻近区域指示与当前区域的视图(当前视图)不同的视图的位于与当前帧相同的时间的帧(画面)的当前区域对应的位置的区域(或者其包围区域)。

例如时间视差相关性预测矢量生成单元136使用多个时间邻近区域的运动矢量(时间邻近运动矢量)来执行中值运算,以生成时间相关性预测矢量。另外,例如时间视差相关性预测矢量生成单元136使用多个视差邻近区域的运动矢量(视差邻近运动矢量)来执行中值运算,以生成视差相关性预测矢量。

时间视差相关性预测矢量生成单元136向选择器137供应以这一方式生成的时间视差相关性预测矢量。

空间相关性预测矢量生成单元135和时间视差相关性预测矢量生成单元136分别在每个帧间预测模式中生成预测矢量。

选择器137向编码成本函数计算单元138供应:从空间相关性预测矢量生成单元135供应的空间相关性预测矢量和从时间视差相关性预测矢量生成单元136供应的时间视差相关性预测矢量。

编码成本计算单元138使用从预测图像生成单元132供应的预测图像像素值和从屏幕重新排列缓冲器102供应的原始图像像素值,在每个帧间预测模式中计算预测图像与原始图像之间的差值(例如差值图像)。另外,编码成本计算单元138使用差值图像像素值,在每个帧间预测模式中计算成本函数值(也称为编码成本值)。

另外,编码成本计算单元138在从选择器137供应的空间相关性预测矢量和时间视差相关性预测矢量之中,选择与从运动视差矢量搜索单元131供应的当前区域的运动视差矢量更接近的预测矢量作为当前区域的预测矢量。另外,编码成本计算单元138生成差值运动视差矢量,该差值运动视差矢量是预测矢量与当前区域的运动视差矢量之间的差值。编码成本计算单元138在每个帧间预测模式中生成差值运动视差矢量。

编码成本计算单元138向模式确定单元139供应每个帧间预测模式的编码成本值、预测图像像素值和包括差值运动视差矢量的差值运动视差信息、以及包括预测矢量和参考图像索引的预测信息。

模式确定单元139选择其中最小化编码成本值的帧间预测模式作为最优模式。模式确定单元139向预测图像选择器116供应作为最优模式而选择的帧间预测模式的预测图像像素值。

在预测图像选择器116选择帧间预测时,模式确定单元139向无损编码单元106供应关于作为最优模式而选择的帧间预测模式的信息的模式信息、在帧间预测模式中的差值运动视差信息和预测信息,其中无损编码单元106对信息编码。对这些信息项编码并且向解码侧发送这些信息项。

另外,模式确定单元139向编码信息累积缓冲器133供应在作为最优模式而选择的帧间预测模式中的模式信息、差值模式视差信息和预测信息,其中编码信息累积缓冲器133存储信息。这些信息项在用于比当前区域更晚处理的另一区域的处理中用作关于邻近区域的信息。

[时间视差相关性预测矢量生成单元]

图13是图示时间视差相关性预测矢量生成单元136的主要配置示例的框图。

如图13中所示,时间视差相关性预测矢量生成单元136包括当前区域处理器(目标区域处理器)151、相关性区域处理器152、li预测处理器153、l0预测处理器154、方案1处理器155、方案2处理器156、方案3处理器157、方案4处理器158和预测矢量生成单元159。

当前区域处理器151执行获取关于当前区域的信息的处理。当前区域处理器151向范围从相关性区域处理器152到l0预测处理器154的相应单元供应关于当前区域的获取的信息。相关性区域处理器152执行获取关于相关性区域的信息的处理。

相关性区域是为了使用与当前区域的相关性而参考的区域。例如时间相关性区域是为了使用与当前区域的时间相关性而参考的区域,并且是具有用于生成时间相关性预测矢量的运动矢量的时间邻近区域。另外,视差相关性区域是为了使用与当前区域的视差相关性而参考的区域,并且是具有用于生成视差相关性预测矢量的运动矢量的视差邻近区域。相关性区域包括这些区域。

相关性区域处理器152向l1预测处理器153和l0预测处理器154供应关于相关性区域的信息。

l1预测处理器153在l1方向上执行预测处理。l1预测处理器153从屏幕重新排列缓冲器102和解码画面缓冲器112获取必需信息。另外,l1预测处理器153获取从当前区域处理器151和相关性区域处理器152供应的信息。l1预测处理器153使用这些信息项在l1方向上执行预测处理。

准备方案1至4的四种方法预备作为预测处理。l1预测处理器选择方法中的任一方法,并且向在方案1处理器155至方案4处理器158之中选择的与该方法对应的处理器提供信息。

l0预测处理器154与l1预测处理器153相似地在l0方向上执行预测处理。

方案1是如下方案,在该方案中,向列表1的参考图像索引1分配的与当前视图不同的视图的与当前帧相同的时间的帧(参考图像)用作相关性图像,并且在相关性区域的矢量是视差矢量时,运用视差矢量(参考视差矢量)作为预测矢量。方案1处理器155执行用于根据这样的方案生成预测矢量的处理。方案1处理器155向预测矢量生成单元159供应通过该处理获得的各种参数。

方案2是如下方案,在该方案中,向列表1的参考图像索引0分配的与当前视图相同的视图的与当前帧不同的时间的帧(参考图像)用作相关性图像,并且在相关性区域的矢量是视差矢量时,运用视差矢量(参考视差矢量)作为预测矢量。方案2处理器156执行用于根据这样的方案生成预测矢量的处理。方案2处理器156向预测矢量生成单元159供应通过该处理获得的各种参数。

方案3是如下方案,在该方案中,向列表1的参考图像索引1分配的与当前视图相同的视图的与当前帧不同的时间的帧(参考图像)用作相关性图像,并且在相关性区域的矢量是运动矢量时,运用运动矢量(参考视差矢量)作为预测矢量。方案3处理器157执行用于根据这样的方案生成预测矢量的处理。方案3处理器157向预测矢量生成单元159供应通过该处理获得的各种参数。

方案4是如下方案,在该方案中,向列表1的参考图像索引0分配的与当前视图相同的视图的与当前帧不同的时间的帧(参考图像)用作相关性图像,并且在相关性区域的矢量是运动矢量时,运用运动矢量(参考视差矢量)作为预测矢量。方案4处理器158执行用于根据这样的方案生成预测矢量的处理。方案4处理器158向预测矢量生成单元159供应通过该处理获得的各种参数。

预测矢量生成单元159使用从方案1处理器155至方案4处理器158供应的信息以及从解码画面缓冲器112获取的参考图像的视图信息、时间信息等,生成时间视差相关性预测矢量。在这一情况下,预测矢量生成单元159使用从方案1处理器155至方案4处理器158供应的信息来执行缩放处理。在这一情况下,预测矢量生成单元159对于运动相关性预测矢量在时间方向上执行缩放,并且对于视差相关性预测矢量在视差方向上执行缩放。预测矢量生成单元159经由选择器137向编码成本计算单元138供应生成的时间视差相关性预测矢量。

通过这样做,时间视差相关性预测矢量生成单元136可以生成视差相关性预测矢量以及运动相关性预测矢量。因此,运动视差预测/补偿单元115即使在当前区域的矢量是视差矢量时仍然可以生成具有高预测准确度的预测矢量。因而图像编码设备100可以抑制编码效率降低。

[方案选择示例]

图14图示其中选择每个方案的示例。如图14中所示,选择如下区域作为相关性区域,该区域与参考图像的位置关系(参考图像在时间方向上或者在视差预测中存在)与当前区域(目标区域)相同。也就是说,当前区域与当前区域的参考图像之间的位置关系和相关性区域与相关性区域的参考图像之间的位置关系相同。另外,基于当前区域与当前区域的参考图像之间的位置关系和当前区域与相关性区域之间的位置关系确定方案。

在图14的表中,从底部起的第一至第四行指示相应图像的位置关系的示例,并且a至e指示每行的视图id或者poc的值的示例。也就是说,这里重要的不是值为多少、而是图像的视图id或者pic是否与其它图像的视图id或者poc相同。

在从底部起的第四行的示例中,当前区域和相关性区域二者具有不同参考图像和视图id、但是具有相同poc。也就是说,当前区域和相关性区域的矢量是视差矢量。另外,当前区域和相关性区域具有不同视图id并且具有相同poc。也就是说,相关性区域是与当前区域相同的时间的、不同帧的视图的图像。因此,如在图14的表中所示选择方案1。方案1在如下区域中有效,在该区域中,在视图点之间的视差变化恒定。

在从底部起的第三行的示例中,当前区域和相关性区域二者具有不同参考图像和视图id、但是具有相同poc。也就是说,当前区域和相关性区域的矢量是视差矢量。另外,当前区域和相关性区域具有相同视图id并且具有不同poc。也就是说,相关性区域是与当前区域相同的视图的、不同时间的帧的图像。因此如在图14的表中所示选择方案2。方案2在时间运动改变小时有效。

在从底部起的第二行的示例中,当前区域和相关性区域二者具有相同参考图像和视图id、但是具有不同poc。也就是说,当前区域和相关性区域的矢量是运动矢量。另外,当前区域和相关性区域具有不同视图id并且具有相同poc。也就是说,相关性区域是与当前区域相同的时间的、不同帧的视图的图像。如在图14的表中所示选择方案3。方案3在视图点之间的视差数量改变小时有效。

在从底部起的第一行的示例中,当前区域和相关性区域二者具有相同参考图像和视图id、但是具有不同poc。也就是说,当前区域和相关性区域的矢量是运动矢量。另外,当前区域和相关性区域具有相同视图id和不同poc。也就是说,相关性区域是与当前区域相同的视图的、不同时间的帧的图像。因此,如在图14的表中所示选择方案4。

也就是说,例如在3d图像的左和右图像中的任一图像(例如左眼图像)是基本视图而另一图像(例如右眼图像)是依赖视图、并且依赖视图中、当前区域的矢量(编码矢量)的特性与相同视图的不同时间的帧的相关性区域(共同定位的区域)的矢量(共同定位的矢量)的特性相同时,设置共同定位的块为可用。换而言之,在依赖视图中,在编码矢量和共同定位的矢量的特性不相同时,设置共同定位的块为不可用。自然地,这同样可以应用于基本视图。

例如图13的l1预测处理器153和l0预测处理器154执行这样的设置。

例如可以通过如图15中所示比较当前区域和共同定位的块的poc与相应参考图像的poc,确定编码矢量和共同定位的矢量的特性是否相同。例如图13的l1预测处理器153和l0预测处理器154执行这样的比较。

例如在当前区域的poc(currpoc)和当前区域的参考图像的poc(currrefpoc)不相同、并且共同定位的块的poc(colpoc)和共同定位的块的参考图像的poc(colrefpoc)不相同((currpoc!=currrefpoc)&&(colpoc!=colrefpoc))时,l1预测处理器153和l0预测处理器154确定编码矢量和共同定位的块二者是运动矢量(图16的a)。

另外,例如在当前区域的poc(currpoc)和当前区域的参考图像的poc(currrefpoc)相同并且共同定位的块的poc(colpoc)和共同定位的块的参考图像的poc(colrefpoc)相同((currpoc=currrefpoc)&&(colpoc=colrefpoc))时,l1预测处理器153和l0预测处理器154确定编码矢量和共同定位的块二者是视差矢量(视图间矢量)(图16的b)。

l1预测处理器153和l0预测处理器154基于确定结果,如在图15的下侧上在表中所示设置共同定位的矢量的可用性。

例如在确定编码矢量和共同定位的块为运动矢量或者视差矢量(视图间矢量)时,设置共同定位的矢量为可用(图16的a或者图16的b)。

反言之,在确定编码矢量和共同定位的块之一为运动矢量而另一个为视差矢量(视图间矢量)时,设置共同定位的矢量为不可用。

[语法]

图17图示这一情况的序列参数集的语法的示例。如在从图17的底部起的第十行至第三行上所示,在序列参数集中包括信息、比如视图总数、用于标识视图的id、在列表l0中的视差预测数目、在列表0中的视差预测中参考的视图的id、在列表l1中的视差预测数目和在列表l1中的视差预测中参考的视图的id。这些信息项是多视图图像所必需的信息。换而言之,可以应用本技术而未向序列参数集添加新语法。

图18图示这一情况的切片首部的语法的示例。如在从图18的底部起的第八行上所示,在切片首部中包括用于标识视图的id。这一信息是多视图图像所必需的信息。换而言之,可以应用本技术而未向切片首部添加新语法。

图19图示这一情况的预测单位的语法的示例。如图19中所示,可以应用本技术而未向预测单位添加新语法。然而由于应用本技术与常规技术比较增加候选相关性区域数目,所以有必要扩展语法的类型或者改变用于合并模式id和预测矢量id的处理的内容。

[编码处理的流程]

接着将描述具有这样的配置的图像编码设备100执行的相应处理的流程。首先将参照图20的流程图描述编码处理的流程的示例。

在步骤s101中,a/d转换器101对输入图像执行a/d转换。在步骤s102中,屏幕重新排列缓冲器102存储a/d转换的图像并且重新排列相应画面,从而按照编码顺序重新排列按照显示顺序排列的画面。

在步骤s103中,帧内预测单元114执行帧内预测处理。在步骤s104中,运动视差预测/补偿单元115执行帧间预测处理。在步骤s105中,预测图像选择器116选择通过帧内预测而生成的预测图像和通过帧间预测而生成的预测图像中的任一预测图像。

在步骤s106中,算术单元103计算通过步骤102的处理重新排列的图像与通过步骤s105的处理选择的预测图像之间的差值(生成差值图像)。生成的差值图像具有比原始图像更小的数据量。因此与在原样对图像编码时比较有可能压缩数据量。

在步骤s107中,正交变化单元104对通过步骤s106的处理生成的差值图像执行正交变换。具体而言,执行正交变换、比如离散余弦变换或者karhunen-loeve变换,并且输出正交变换系数。在步骤s108中,量化单元105量化通过步骤s107的处理获得的正交变换系数。

用以下方式对通过步骤108的处理量化的差值图像局部解码。也就是说,在步骤s109中,逆量化单元108根据与量化单元105的特性对应的特性,对通过步骤s108的处理生成的量化正交变换系数(也称为量化系数)执行逆量化。在步骤s110中,逆正交变换单元109根据与正交变换单元104的特性对应的特性,对通过步骤s109的处理获得的正交变换系数执行逆正交变换。以这一方式,重建差值图像。

在步骤s111中,算术单元110将在步骤s105中选择的预测图像与在步骤s110中生成的差值图像相加,以生成局部解码图像(重建图像)。在步骤s112中,循环滤波器111关于通过步骤s111的处理获得的重建图像适当执行包括去块化滤波处理或者自适应循环滤波处理的循环滤波处理。

在步骤s113中,解码画面缓冲器112和解码多视图画面缓冲器121存储通过步骤s112的处理生成的解码图像和通过步骤s111的处理生成的重建图像。

在步骤s114中,无损编码单元106对通过步骤s108的处理量化的正交变换系数编码。也就是说,关于差值图像执行无损编码、比如可变长度编码或者算术编码。无损编码单元106对关于预测的信息、关于量化的信息、关于滤波处理的信息等编码并且向比特流添加编码信息。

在步骤s115中,累积缓冲器107累积通过步骤s114的处理获得的比特流。适当读取并且经由传输线或者记录介质向解码侧发送在累积缓冲器107中累积的编码数据。

在步骤s116中,量化单元105基于通过步骤s115的处理在累积缓冲器107中累积的编码数据的编码速率(出现编码速率),控制量化操作的速率,从而不上溢或者下溢出现。

在步骤s116的处理结束时,编码处理结束。

[帧间运动预测处理的流程]

接着将参照图21的流程图描述在图20的步骤s104中执行的帧间运动预测处理的流程的示例。

在步骤s131中,运动视差矢量搜索单元131关于处理目标的帧间预测模式执行运动搜索,以生成作为处理目标的当前区域的运动视差矢量(运动矢量或者视差矢量)。在步骤s132中,预测图像生成单元132使用在步骤s131中生成的运动视差矢量来执行补偿处理,以生成预测图像。在步骤s133中,编码成本计算单元138生成在步骤s132中生成的预测图像与原始图像(输入图像)之间的差值图像。

在步骤s134中,编码成本计算单元138使用空间相关性预测矢量生成单元135、时间视差相关性预测矢量生成单元136等来执行合并模式处理。

在步骤s135中,编码成本计算单元138比较在步骤s131中生成的当前区域的运动视差矢量和通过步骤s134的处理生成的当前区域的预测矢量,以确定合并模式是否将应用于当前区域。

在确定二者不相同并且将不应用合并模式时,编码成本计算单元138继续步骤s136的处理,并且使用空间相关性预测矢量生成单元135、时间视差相关性预测矢量生成单元136等来执行视差运动矢量预测处理。在步骤s136的处理结束时,编码成本计算单元138继续步骤s137的处理。

另外,在步骤s135中,在确定当前区域的运动视差矢量和预测矢量相同并且合并模式将应用于当前区域时,编码成本计算单元138略过步骤s136的处理并且继续步骤s137。

在步骤s137中,编码成本计算单元138确定是否已经在所有帧间预测模式中执行以上处理。在确定未处理的帧间预测模式存在时,流程返回到步骤s131,并且执行控制,从而关于未处理的帧间预测模式反复地执行后续处理。也就是说,在相应帧间预测模式中执行步骤s131至s137的处理。

在步骤s137中确定已经在所有帧间预测模式中执行处理时,编码成本计算单元138继续步骤s138的处理。在步骤s138中,编码成本计算单元138计算每个帧间预测模式的成本函数值。

在步骤s139中,模式确定单元139确定其中在步骤s138中计算的成本函数值(编码成本值)最小的帧间预测模式为最优模式(最优帧间预测模式)。

在步骤s140中,预测图像生成单元132在最优帧间预测模式中生成预测图像。向预测图像选择器116供应预测图像。

在步骤s141中,编码信息累积缓冲器133在图20的步骤s105中选择帧间预测时,存储最优帧间预测模式的模式信息和运动信息(运动视差矢量、参考图像索引等)。在选择帧内预测模式时,存储零矢量作为运动视差矢量。在图20的步骤s105中选择帧间预测时,向无损编码单元106供应这些信息项,并且无损编码单元106对这些信息项编码,并且向解码侧发送编码信息。

在步骤s141的处理结束时,编码信息累积缓冲器133结束帧间运动预测处理,并且流程继续图20的流程图。

[合并模式处理的流程]

接着将参照图22的流程图描述在图21的步骤s134中执行的合并模式处理的流程的示例。

在合并模式处理开始时,在步骤s161中,空间相关性预测矢量生成单元135执行空间相关性预测处理,该空间相关性预测处理使用与空间邻近区域的相关性来生成空间相关性预测矢量。在步骤s162中,时间视差相关性预测矢量生成单元136执行时间相关性预测处理,该时间相关性预测处理使用与空间邻近区域或者视差邻近区域的相关性来生成时间视差相关性预测矢量。

在步骤s163中,编码成本计算单元138从在步骤s161中生成的空间相关性预测矢量和在步骤s162中生成的时间视差预测矢量去除重叠矢量。

在步骤s164中,编码成本计算单元138确定矢量是否存在。在确定存在至少一个空间相关性预测矢量或者时间视差相关性预测矢量时,编码成本计算单元138继续步骤s165的处理。

在步骤s165中,编码成本计算单元138确定多个矢量是否存在。在确定多个矢量存在时,编码成本计算单元138继续步骤s166的处理以获取合并索引。在确定多个矢量不存在时,编码成本计算单元138略过步骤s166的处理。

在与当前区域的运动矢量相同的空间相关性预测矢量或者时间视差相关性预测矢量存在时,编码成本计算单元138在步骤s167中获取相同矢量作为预测矢量并且在步骤s168中获取参考图像索引。

在步骤s168的处理结束时,编码成本计算单元138结束合并模式处理,并且流程返回到图21的流程图。

另外,在步骤s164中确定空间相关性预测矢量和时间视差相关性预测矢量均不存在时,编码成本计算单元138继续步骤s169的处理。

在步骤s169中,编码成本计算单元138向预测矢量指派初始值(例如零矢量)。另外,在步骤s170中,编码成本计算单元138向参考图像索引指派初始值(例如0)。

在步骤s170的处理结束时,编码成本计算单元138结束合并模式处理,并且流程返回到图21的流程图。

[视差运动矢量预测处理的流程]

接着将参照图23的流程图描述在图21的步骤s136中执行的视差运动矢量预测处理的流程的示例。

在视差运动矢量预测处理开始时,在步骤s191中,空间相关性预测矢量生成单元135执行空间相关性预测处理,以生成空间相关性预测矢量。在步骤s192中,时间视差相关性预测矢量生成单元136执行时间视差相关性预测处理,以生成时间视差相关性预测矢量。

在步骤s193中,编码成本计算单元138从在步骤s191中生成的空间相关性预测矢量和在步骤s192中生成的时间视差预测矢量去除重叠矢量。

编码成本计算单元138选择在剩余矢量之中的与当前区域的运动矢量最接近的矢量、在步骤s194中创建指示矢量的预测矢量索引并且在步骤s195中使用该矢量作为预测矢量。在步骤s195的处理结束时,编码成本计算单元138结束视差运动矢量预测处理,并且流程返回到图21的流程图。

[时间视差相关性预测处理的流程图]

接着将参照图24至27的流程图描述在图22的步骤s162或者图23的步骤s192中执行的时间视差相关性预测处理的流程的示例。

在时间视差相关性预测处理开始时,当前区域处理器151在图24的步骤s211中获取当前区域的视图id和poc。在步骤s212中,当前区域处理器151确定当前区域的参考索引。在步骤s213中,当前区域处理器151获取参考图像的视图id和poc。

在步骤s214中,相关性区域处理器152按照列表1的参考图像索引的升序选择相关性图像。在步骤s215中,相关性区域处理器152确定是否已经搜索所有参考图像索引。在确定已经搜索所有参考图像索引时,时间视差相关性预测处理结束,并且流程返回到图22或者图23的流程图。

另外,在步骤s215中确定未处理的参考图像索引存在时,相关性区域处理器152继续步骤s216的处理。在步骤s216中,相关性区域处理器152确定相关性区域,并且流程继续图25的流程图。

在图25的步骤s221中,相关性区域处理器152确定相关性区域是否为帧内预测区域或者未参考另一区域的区域。在确定相关性区域是帧内预测区域或者未参考另一区域的区域时,相关性区域处理器152继续图26的流程图。

另外,在图25的步骤s221中确定相关性区域是帧间预测区域和未参考另一区域的区域时,相关性区域处理器152继续步骤s222的处理。

在步骤s222中,l1预测处理器153获取相关性区域的视图id和poc。在步骤s223中,l1预测处理器153获取相关性区域的l1预测参考图像的视图id和poc。

在步骤s224中,l1预测处理器153确定当前区域和相关性区域是否具有相同视图id。在二者相同时,相关性区域是共同定位的块。在确定当前区域和相关性区域具有相同视图id时,l1预测处理器153继续步骤s225的处理以执行方案4-2处理,从而根据方案4或者2生成预测矢量。在步骤s225的处理结束时,流程继续图26的流程图。

另外,在图25的步骤s224中确定当前区域和相关性区域无相同视图id时,l1预测处理器153继续步骤s226的处理。

在步骤s226中,l1预测处理器153确定当前区域和相关性区域是否具有相同poc。在确定当前区域和相关性区域无相同poc时,l1预测处理器153继续图26的流程图。

然而,在图25的步骤s226中确定当前区域和相关性区域具有相同poc时,l1预测处理器153继续步骤s227的处理。

在步骤s227中,l1预测处理器153确定当前区域的参考图像和相关性区域的参考图像是否具有相同poc。在确定当前区域的参考图像和相关性区域的参考图像具有相同poc时,l1预测处理器153继续步骤s228的处理以执行方案1处理,从而根据方案1生成预测矢量。在步骤s228的处理结束时,l1预测处理器153继续图26的流程图。

另外,在图25的步骤s227中确定当前区域的参考图像和相关性区域的参考图像无相同poc时,l1预测处理器153继续步骤s229的处理以执行方案3处理,从而根据方案3生成预测矢量。在步骤s229的处理结束时,l1预测处理器153继续图26的流程图。

在图26中,l0预测处理器154关于相关性区域的l0预测执行与图25的l1预测相同的处理。也就是说,l0预测处理器154执行与图25的步骤s222至s229的处理相同的步骤s231至s238的处理。

然而在图26的情况下,相关性区域的参考图像是l0预测参考图像。另外,在步骤s234、s237或者s238的处理结束时,或者在步骤s235中确定当前区域和相关性区域无相同poc时,l0预测处理器154继续图27的流程图。

在图27的步骤s241中,预测矢量生成单元159确定至少一个预测矢量候选是否存在。在确定无预测矢量候选存在时,预测矢量生成单元159返回到图24的步骤s214的处理。

另外,在图27的步骤s241中确定至少一个预测矢量候选存在时,预测矢量生成单元159继续步骤s242的处理。在步骤s242中,预测矢量生成单元159确定是否仅l1的跳跃标志是1或者是否l0或者l1的跳跃标志相同,并且参考l1。

在确定仅l1的跳跃标志是1或者l0和l1的跳跃标志相同、并且参考l1时,预测矢量生成单元159继续步骤s243的处理。

在步骤s243中,预测矢量生成单元159获取l1参考矢量。在步骤s2444中,预测矢量生成单元159获取l1参考的参考图像索引,并且流程继续步骤s247。

另外,在步骤s242中确定l1的跳跃标志不是1或者l0的跳跃标志是0、以及l0和l1的跳跃标志不相同或者未参考l1时,预测矢量生成单元159继续步骤s245的处理。

在步骤s245中,预测矢量生成单元159获取l0参考矢量。在步骤s246中,预测矢量生成单元159获取l0参考的参考图像索引,并且流程继续步骤s247。

在步骤s247中,预测矢量生成单元159使用获取的l1参考矢量或者l0参考矢量作为预测矢量。在这一情况下,预测矢量生成单元159使用与在当前区域或者相关性区域中的参考图像的距离来缩放矢量,并且使用缩放结果作为预测矢量。

在步骤s247的处理结束时,预测矢量生成单元159返回到图24的流程图以结束时间视差相关性预测处理,并且流程返回到图22或者图23的流程图。

[方案1处理的流程]

接着将参照图28的流程图描述在图25或者图26中执行的方案1处理的流程的示例。

在方案1处理开始时,在步骤s261中,方案1处理器155确定当前区域和当前区域的参考图像的poc是否相同。在确定当前区域和当前区域的参考图像的poc不相同时,方案1处理器155结束方案1处理,并且流程返回到图25或者图26的流程图。

另外,在步骤s261中确定当前区域和当前区域的参考图像相同时,方案1处理器155继续步骤s262的处理。

在步骤s262中,方案-1处理器155确定相关性区域和相关性区域的参考图像的poc是否相同。在确定相关性区域和相关性区域的参考图像的poc不相同时,方案-1处理器155结束方案1处理,并且流程返回到图25或者图26的流程图。

另外,在步骤s262中确定相关性区域和相关性区域的参考图像的poc相同时,方案-1处理器155继续步骤s263的处理。

在步骤s263中,方案-1处理器155计算当前区域与当前区域的参考图像之间的视图间距离1。在步骤s264中,方案-1处理器155计算相关性区域与相关性区域的参考图像之间的视图间距离2。在步骤s265中,方案1处理器155确定参考图像的跳跃标志,并且流程返回到图25或者图26的流程图。在图27的处理中使用这些参数(视图间距离1、视图间距离2和跳跃标志)。

[方案3处理的流程]

接着将参照图29的流程图描述在图25或者图26中执行的方案3处理的流程的示例。

在方案3处理开始时,在步骤s271中,方案3处理器157确定当前区域和当前区域的参考图像的视图id是否相同。在当前区域和当前区域的参考图像的视图id不相同时,方案3处理器157结束方案3处理,并且流程返回到图25或者图26的流程图。

另外,在步骤s271中确定当前区域和当前区域的参考图像的视图id相同时,方案3处理器157继续步骤s272的处理。

在步骤s272中,方案3处理器157确定相关性区域和相关性区域的参考图像的视图id是否相同。在确定相关性区域和相关性区域的参考图像的视图id不相同时,方案3处理器157结束方案3处理,并且流程返回到图25或者图26的流程图。

另外,在步骤s272中确定相关性区域和相关性区域的参考图像的视图id相同时,方案3处理器157继续步骤s273的处理。

在步骤s273中,方案3处理器157计算当前区域与当前区域的参考图像之间的视图间距离1。在步骤s274中,方案3处理器157计算相关性区域与相关性区域的参考图像之间的视图间距离2。在步骤s275中,方案3处理器157确定参考图像的跳跃标志,并且流程返回到图25或者图26的流程图。在图27的处理中使用这些参数(视图间距离1、视图间距离2和跳跃标志)。

[方案4-2处理的流程]

接着将参照图30的流程图描述在图25或者图26中执行的方案4-2处理的流程的示例。

在方案4-2处理开始时,在步骤s281中,l1预测处理器153或者l0预测处理器154确定当前区域和当前区域的参考图像的视图id是否相同。在二者相同时,编码矢量是运动矢量。在确定当前区域和当前区域的参考图像的视图id相同时,流程继续步骤s282。

在步骤s282中,l1预测处理器153或者l0预测处理器154确定相关性区域(共同定位的块)和相关性区域的参考图像的视图id是否相同。在二者不相同时,共同定位的矢量是视差矢量。在确定相关性区域和相关性区域的参考图像的视图id不相同时,l1预测处理器153或者l0预测处理器154结束方案4-2处理,并且流程返回到图25或者图26的流程图。

也就是说,在这一情况下,由于编码矢量是运动矢量并且共同定位的矢量是视差矢量,所以编码矢量的特性与共同定位的矢量的特性不相同。因此,设置共同定位的块不可用,并且方案4-2处理结束。

另外,在步骤s282中确定相关性区域和相关性区域的参考图像的视图id相同时,l1预测处理器153或者l0预测处理器154继续步骤s283的处理。在二者相同时,共同定位的矢量是运动矢量。也就是说,在这一情况下,编码矢量和共同定位的矢量二者是运动矢量,并且两个矢量的特性相同。因此,在这一情况下,设置共同定位的矢量为可用。

在步骤s283中,方案4处理器158计算当前区域与当前区域的参考图像之间的视图间距离1。在步骤s284中,方案4处理器158计算相关性区域与相关性区域的参考图像之间的视图间距离2。在步骤s285中,方案4处理器158确定参考图像的跳跃标志,并且流程反馈到图25或者图26的流程图。在图27的处理中使用这些参数(视图间距离1、视图间距离2和跳跃标志)。

另外,在步骤s281中确定当前区域和当前区域的参考图像的视图id不相同时,l1预测处理器153或者l0预测处理器154继续步骤s286的处理。

在步骤s286中,预测处理器153或者l0预测处理器154确定当前区域和当前区域的参考图像的poc是否相同。在确定当前区域和当前区域的参考图像的poc不相同时,预测处理器153或者l0预测处理器154结束方案4-2处理,并且流程返回到图25或者图26的流程图。

另外,在步骤s286中确定当前区域和当前区域的参考图像的poc相同时,预测处理器153或者l0预测处理器154继续步骤s287的处理。在二者相同时,编码矢量是视差矢量。

在步骤s287中,预测处理器153或者l0预测处理器154确定相关性区域和相关性区域的参考图像的poc是否相同。在二者不相同时,共同定位的矢量是运动矢量。在确定相关性区域和相关性区域的参考图像的poc不相同时,预测处理器153或者l0预测处理器154结束方案4-2处理,并且流程返回到图25或者图26的流程图。

也就是说,在这一情况下,由于编码矢量是视差矢量并且共同定位的矢量是运动矢量时,编码矢量的特性与共同定位的矢量的特性不相同。因此,设置共同定位的块为不可用,并且方案4-2处理结束。

另外,在步骤s287中确定相关性区域和相关性区域的参考图像的poc相同时,l1预测处理器153或者l0预测处理器154返回到步骤s283的处理。在二者相同时,共同定位的矢量是视差矢量。也就是说,在这一情况下,编码矢量和共同定位的矢量是视差矢量,并且两个矢量的特性相同。因此,在这一情况下,设置共同定位的矢量为可用。

在这一情况下,方案2处理器156与方案4处理器158相似地执行步骤s283至s285的处理。在步骤s285的处理结束时,方案2处理器156结束方案4-2处理,并且流程返回到图25或者图26的流程图。

通过以这一方式执行相应处理,时间视差相关性预测矢量生成单元136可以生成视差相关性预测矢量以及运动相关性预测矢量。因此,运动视差预测/补偿单元115即使在当前区域的矢量是视差矢量时仍然可以生成具有高预测准确度的预测矢量。由于这一点,图像编码设备100可以抑制编码效率降低。

[2.第二实施例]

[图像解码设备]

图31是图示作为图像处理设备的图像解码设备的主要配置示例的框图。图31中所示图像解码设备300是与图11的图像编码设备100对应的设备。也就是说,图像解码设备300根据与图像编码设备100的编码方法对应的解码方法,对通过图像编码设备100对多视图图像编码而生成的编码数据(比特流)解码以获得解码多视图图像。

如图31中所示,图像解码设备300包括累积缓冲器301、无损解码单元302、逆量化单元303、逆正交变换单元304、算术单元305、循环滤波器306、屏幕重新排列缓冲器307和d/a转换器308。另外,图像解码设备300包括解码画面缓冲器309、选择器310、帧间预测单元311、运动视差补偿单元312和选择器313。

另外,图像解码设备300包括解码多视图画面缓冲器321。

累积缓冲器301累积向它发送的编码数据并且在预定定时向无损解码单元302供应编码数据。无损解码单元302根据与无损编码单元106的编码方案对应的方案,对从累积缓冲器301供应的由图11的无损编码单元106编码的信息解码。无损解码单元302向逆量化单元303供应通过解码而获得的差值图像的量化系数数据。

另外,无损解码单元302参考通过对编码数据解码而获得的关于最优预测模式的信息,以确定是否选择帧内预测模式或者帧间预测模式作为最优预测模式。无损解码单元302基于确定结果,向帧内预测单元311或者运动视差补偿单元312供应关于最优预测模式的信息。也就是说,例如在图像编码设备100选择帧内预测模式作为最优预测模式时,向帧内预测单元311供应帧内预测信息,该帧内预测信息是关于最优预测模式的信息等。另外,例如在图像编码设备100选择帧间预测模式作为最优预测模式时,向运动视差补偿单元312供应帧间预测信息,该帧间预测信息是关于最优预测模式的信息等。

逆量化单元303根据与图11的量化单元105的量化方案对应的方案,对通过无损解码单元302的解码而获得的量化系数数据执行逆量化,并且向逆正交变换单元304供应获得的系数数据。逆正交变换单元304根据与图11的正交变换单元104的正交变换方案对应的方案,对从逆量化单元303供应的系数数据执行逆正交变换。逆正交变换单元304通过逆正交变换处理获得与在图像编码设备100中受到正交变换之前的差值图像对应的差值图像。

向算术单元305供应通过逆正交变换而获得的差值图像。另外,经由选择器313向算术单元305供应来自帧内预测单元311或者运动视差补偿单元312的预测图像。

算术单元305将差值图像与预测图像相加,以获得与图像编码设备100的算术单元103减去预测图像之前的图像对应的重建图像。算术单元305向循环滤波器306供应重建图像。

循环滤波器306关于供应的重建图像执行包括去块化滤波处理、自适应循环滤波等的循环滤波处理以生成解码图像。例如循环滤波器306通过对重建图像执行去块化滤波处理来去除块失真。另外,例如循环滤波器306通过关于去块化滤波处理结果(其中去除块失真的重建图像)使用维纳滤波器执行循环滤波处理来提高图像质量。

循环滤波器306执行的滤波处理的类型是可选的,并且可以执行除了以上描述的处理之外的滤波处理。另外,循环滤波器306可以使用从图11的图像编码设备100供应的滤波器系数来执行滤波处理。

循环滤波器306向屏幕重新排列缓冲器307和解码画面缓冲器309供应作为滤波处理结果的解码图像。可以省略循环滤波器306的滤波处理。即,可以在解码画面缓冲器309中存储算术单元305的输出而未受到滤波处理。例如帧内预测单元311使用在这一图像中包括的像素的像素值作为邻近像素的像素值。

屏幕重新排列缓冲器307重新排列供应的解码图像。也就是说,按照原始显示顺序重新排列图11的屏幕重新排列缓冲器102对于编码顺序而重新排列的帧顺序。d/a转换器308对从屏幕重新排列缓冲器307供应的解码图像执行d/a转换、向显示器(未示出)输出转换的图像并且显示图像。

解码画面缓冲器309存储供应的重建图像(以及图像的视图id和poc)和解码图像(以及图像的视图id和poc)。另外,解码画面缓冲器309在预定定时或者基于外部单元、比如帧内预测单元311或者运动视差补偿单元312的请求,经由选择器310向帧内预测单元311和运动视差补偿单元312供应存储的重建图像(以及图像的视图id和poc)和解码图像(以及图像的视图id和poc)。

帧内预测单元311执行与图11的帧内预测单元114基本上相同的处理。然而帧内预测单元311仅关于如下区域执行帧内预测,在编码期间在该区域中通过帧内预测来生成预测图像。

运动视差补偿单元312基于从无损解码单元302供应的帧间预测信息,执行运动视差补偿以生成预测图像。运动视差补偿单元312基于从无损解码单元302供应的帧间预测信息,仅关于如下区域执行运动视差补偿,在编码期间在该区域中执行帧间预测。

运动视差补偿单元312对于预测处理单位的每个区域,经由选择器313向算术单元305供应生成的预测图像。

选择器313向算术单元305供应从帧内预测单元311供应的预测图像或者从运动视差补偿单元312供应的预测图像。

虽然解码画面缓冲器309仅存储处理目标视图的图像(以及图像的视图id和poc),但是解码多视图画面缓冲器321也存储相应视图点(视图)的图像(以及图像的视图id和poc)。也就是说,解码多视图画面缓冲器321获取向解码画面缓冲器309供应的解码图像(以及图像的视图id和poc),并且与解码画面缓冲器309一起存储解码图像(以及图像的视图id和poc)。

虽然解码画面缓冲器309在处理目标视图改变时擦除解码图像,但是解码多视图画面缓冲器321原样存储解码图像。另外,解码多视图画面缓冲器321根据解码画面缓冲器309的请求等,向解码画面缓冲器309供应存储的解码图像(以及图像的视图id和poc)作为“非处理目标视图的解码图像”。解码画面缓冲器309经由选择器310,向运动视差补偿单元312供应从解码多视图画面缓冲器321读取的“非处理目标视图的解码图像(以及图像的视图id和poc)”。

[运动视差补偿单元]

图32是图示运动视差补偿单元312的主要配置示例的框图。

如图32中所示,运动视差补偿单元312包括编码信息累积缓冲器331、空间相关性预测矢量生成单元332、时间视差相关性预测矢量生成单元333、选择器334、算术单元335和预测图像生成单元336。

编码信息累积缓冲器331获取在无损解码单元302中获得的模式信息、差值运动视差信息和预测信息。另外,编码信息累积缓冲器331存储在预测图像生成单元336中使用的解码运动视差矢量。运动视差矢量在用于另一区域的处理中用作邻近区域的运动视差矢量。

编码信息累积缓冲器331向与在预测信息中指明的预测矢量的类型(空间相关性预测矢量或者时间视差相关性预测矢量)对应的、空间相关性预测矢量生成单元332和时间视差相关性预测矢量生成单元333之一供应邻近区域的模式信息或者解码运动视差矢量。

另外,编码信息累积缓冲器331向算术单元335供应在差值运动视差信息中包括的差值运动视差矢量。另外,编码信息累积缓冲器331向预测图像生成单元336供应在预测信息中包括的参考图像索引。

空间相关性预测矢量生成单元332基于从编码信息累积缓冲器331供应的信息生成空间相关性预测矢量。生成方法与空间相关性预测矢量生成单元135的生成方法相同。然而由于预先确定最优帧间预测模式,所以空间相关性预测矢量生成单元332可以仅在该模式中生成空间相关性预测矢量。空间相关性预测矢量生成单元332经由选择器334向算术单元335供应生成的空间相关性预测矢量。

时间视差相关性预测矢量生成单元333基于从编码信息累积缓冲器331供应的信息等、从无损解码单元302供应的当前区域的视图id和poc等的信息、以及从解码画面缓冲器309供应的参考图像的视图id和poc等的信息,生成时间视差相关性预测矢量。生成方法与时间视差相关性预测矢量生成单元136的生成方法相同。然而由于预先确定最优帧间预测模式,所以时间视差相关性预测矢量生成单元333可以仅在该模式中生成时间视差相关性预测矢量。时间视差相关性预测矢量生成单元333经由选择器334,向算术单元335供应生成的时间视差相关性预测矢量。

在从空间相关性预测矢量生成单元332供应空间相关性预测矢量时,选择器334向算术单元335供应矢量。另外,从时间视差相关性预测矢量生成单元333供应时间视差相关性预测矢量,选择器334向算术单元335供应该矢量。

算术单元335将从编码信息累积缓冲器331供应的差值运动视差矢量与从选择器334供应的空间相关性预测矢量或者时间视差相关性预测矢量相加,以重建当前区域的运动视差矢量。算术单元335向预测图像生成单元336供应当前区域的重建运动视差矢量。

预测图像生成单元336使用从算术单元335供应的当前区域的重建运动视差矢量、从编码信息累积缓冲器331供应的参考图像索引、从解码画面缓冲器309供应的邻近图像的像素值来生成预测图像,这些邻近图像是邻近区域的图像。预测图像生成单元336向选择器313供应生成的预测图像像素值。

通过这样做,时间视差相关性预测矢量生成单元333可以与时间视差相关性预测矢量生成单元136相似地生成视差相关性预测矢量以及运动相关性预测矢量。因此,运动视差补偿单元312即使在当前区域的矢量是视差矢量时仍然可以重建视差相关性预测矢量。也就是说,图像解码设备300可以提高编码效率,因为图像解码设备300可以对图像编码设备100生成的编码数据正确解码。

[解码处理的流程]

接着将描述具有这样的配置的图像解码设备300执行的相应处理的流程。首先将参照图33的流程图描述解码处理的流程。

在解码处理开始时,在步骤s301中,累积缓冲器301累积向它发送的比特流。在步骤s302中,无损解码单元302对从累积缓冲器301供应的比特流(编码差值图像信息)解码。在这一情况下,也解码除了在比特流中包括的差值图像信息之外的各种类型的信息、比如帧内预测信息或者帧间预测信息。

在步骤s303中,逆量化单元303对通过步骤s302的处理获得的量化正交变换系数执行逆量化。在步骤s304中,逆正交变换单元304对已经在步骤s303中受到逆量化的正交变换系数执行逆正交变换。

在步骤s305中,帧内预测单元311或者运动视差补偿单元312使用供应的信息来执行预测处理。在步骤s306中,算术单元305将在步骤s305中生成的预测图像与在步骤s304中通过逆正交变换而获得的差值图像信息相加。以这一方式,生成重建图像。

在步骤s307中,循环滤波器306关于在步骤s306中获得的重建图像,适当执行包括去块化滤波处理、自适应循环滤波处理等的循环滤波处理。

在步骤s308中,屏幕重新排列缓冲器307重新排列在步骤s307中通过滤波处理生成的解码图像。也就是说,按照原始显示顺序重新排列图像编码设备100的屏幕重新排列缓冲器102对于编码而重新排列的帧顺序。

在步骤s309中,d/a转换器308对其中重新排列帧顺序的解码图像执行d/a转换。向显示器(未图示)输出并且显示解码图像。

在步骤s310中,解码画面缓冲器309存储在步骤s307中通过滤波处理获得的解码图像。这一解码图像在帧间预测处理中用作参考图像。

在步骤s310的处理结束时,解码处理结束。

[预测处理的流程]

接着将参照图34的流程图描述在图33的步骤s305中执行的预测处理的流程的示例。

在预测处理开始时,在步骤s331中,无损解码单元302确定处理目标的当前区域是否已经在编码期间受到帧内预测。在确定当前区域已经受到帧内预测时,无损解码单元302继续步骤s332的处理。

在这一情况下,帧内预测单元311在步骤s332中从无损解码单元302获取帧内预测模式信息,并且在步骤s333中通过帧内预测来生成预测图像。在生成预测图像时,帧内预测单元311结束预测处理,并且流程返回到图33的流程图。

另外,在步骤s331中确定当前区域是已经受到帧间预测的区域时,无损解码单元302继续步骤s334的处理。在步骤s334中,运动视差补偿单元312执行运动视差补偿处理。在运动视差补偿处理结束时,运动视差补偿单元312结束预测处理,并且流程返回到图33的流程图。

[运动视差补偿处理的流程]

接着将参照图35的流程图描述在图34的步骤s334中执行的运动视差补偿处理的流程的示例。

在运动视差补偿处理开始时,在步骤s351中,编码信息累积缓冲器331存储在步骤s351中解码的模式信息、运动视差信息和预测信息。

在步骤s352中,空间相关性预测矢量生成单元332、时间视差相关性预测矢量生成单元333、选择器334和算术单元335执行运动视差矢量生成处理,以重建当前区域的运动视差矢量。

在重建运动视差矢量时,在步骤s353中,预测图像生成单元336使用运动视差矢量来生成预测图像。

在生成预测图像时,预测图像生成单元336结束运动视差补偿处理,并且流程返回到图34的流程图。

[运动视差矢量生成处理的流程]

接着将参照图36的流程图描述在图35的步骤s352中执行的运动视差矢量生成处理的流程的示例。

在运动视差矢量生成处理开始时,在步骤s371中,编码信息累积缓冲器331根据预测信息确定这一模式是否为略过模式。在确定这一模式是略过模式时,编码信息累积缓冲器331继续步骤s372的处理。在步骤s372中,空间相关性预测矢量生成单元332到算术单元335执行合并模式处理,以在合并模式中重建运动视差矢量。在合并模式处理中,执行与参照图22的流程图描述的处理相同的处理。在合并模式处理结束时,算术单元335结束运动视差矢量生成处理,并且流程返回到图35的流程图。

另外,在图36的步骤s371中确定它不是略过模式时,编码信息累积缓冲器331继续步骤s373的处理。在步骤s373中,编码信息累积缓冲器331根据预测信息确定这一模式是否为合并模式。在确定这一模式是合并模式时,编码信息累积缓冲器331返回到步骤s372的处理,以执行合并模式处理。

另外,在步骤s373中确定这一模式不是合并模式时,编码信息累积缓冲器331继续步骤s374的处理。

在步骤s374中,编码信息累积缓冲器331获取参考图像的索引。在步骤s375中,编码信息累积缓冲器331获取差值运动视差矢量。

在步骤s376中,空间相关性预测矢量生成单元332或者时间视差相关性预测矢量生成单元333执行视差运动矢量预测处理。以与参照图23的流程图描述的方式相同的方式,执行这一视差运动矢量预测处理。然而在这一情况下,由于预先确定预测方法,所以执行空间相关性预测处理和时间视差相关性预测处理中的任一相关性预测处理(预测信息指明的相关性预测处理)。

在步骤s377中,算术单元335将在步骤s376中重建的预测矢量与差值运动视差矢量相加,以重建运动视差矢量。

在步骤s377的处理结束时,算术单元335结束运动视差矢量生成处理,并且流程返回到图35的流程图。

通过以上述方式执行相应处理,时间视差相关性预测矢量生成单元333可以与时间视差相关性预测矢量生成单元136相似地生成视差相关性预测矢量以及运动相关性预测矢量。因此,运动视差补偿单元312即使在当前区域的矢量是视差矢量时仍然可以重建视差相关性预测矢量。也就是说,图像解码设备300可以提高编码效率,因为图像解码设备300可以对图像编码设备100生成的编码数据正确解码。

[3.第三实施例]

[要点]

在多视图图像的情况下,在视图之间偏移图像的位置,从而视差出现。因此,在选择在视图方向上的块时,即使选择(参考)在相同位置的块,预测图像的预测准确度仍然可能降低,并且存在不可能创建适当预测矢量的可能性。

因此,在选择在视图方向上的块以便生成预测矢量时,选择在移位的位置的块。也就是说,在移位与当前区域相同的时间的图像的位置的状态中,使用位于与当前区域相同的位置的这样的区域的矢量来生成预测矢量。

根据邻近块的视差矢量按照预定顺序计算移位量。通过在编码侧设备和解码侧设备二者中使用相同顺序,可以在编码侧和解码侧二者中执行相同预测。

可以显式地指明用于计算移位量的邻近块,并且可以从编码侧向解码侧发送其信息。另外,可以从编码侧向解码侧发送关于移位量计算方法的信息。

通过这样做,图像编码设备和图像解码设备可以根据在视图之间对准的块生成预测矢量。因此有可能提高预测图像的预测准确度并且提高编码效率。

以下将具体描述这一点。

[图像编码设备]

图37是图示本技术应用于的图像编码设备的另一配置示例的框图。

图37中所示图像编码设备400是与以上描述的图像编码设备100基本上相同的设备。然而图像编码设备400根据在视图之间对准的块生成预测矢量。

如图37中所示,图像编码设备400包括运动预测/补偿单元415和基本视图编码器421。

运动预测/补偿单元412使用从解码画面缓冲器112获取的解码图像和从基本视图编码器421获取的基本视图的运动信息,生成参考在视图方向上的块的预测矢量。

基本视图编码器421对基本视图编码。基本视图编码器421向解码画面缓冲器112供应基本视图的解码图像,该解码画面缓冲器存储解码图像。解码画面缓冲器112也存储从循环滤波器111供应的非基本视图的解码图像。

基本视图编码器421向运动预测/补偿单元412供应基本视图的运动信息。

[运动预测/补偿单元]

图38是图示图37的运动预测/补偿单元412的主要配置示例的框图。

如图38中所示,运动预测/补偿单元412包括帧间模式生成单元431、参考索引确定单元432、矢量预测单元433、矢量预测单元434和模式确定单元435。在相应处理单元之间交换图38中所示信息。

在帧间预测模式的情况下,矢量预测单元433生成预测矢量以生成其预测图像。在略过模式、合并模式等的情况下,矢量预测单元434生成预测矢量以生成其预测图像。向模式确定单元435供应在这些矢量预测单元中生成的预测矢量和预测图像。

模式确定单元435基于这些信息项确定模式,并且向无损编码单元106供应指示选择的模式和模式的预测矢量的信息。另外,向预测图像选择器116供应选择的模式的预测图像。

[矢量预测单元]

图39是图示矢量预测单元433的主要配置示例的框图。

如图39中所示,矢量预测单元433包括运动/视差矢量搜索单元451、预测图像生成单元452、矢量成本计算单元453、矢量确定单元454、矢量信息累积缓冲器455、基于邻近块的预测矢量生成单元456、基于不同画面的预测矢量生成单元457和选择器458。在相应处理单元之间交换图39中所示信息。

基于不同画面的预测矢量生成单元457生成参考不同画面的预测矢量。也就是说,基于不同画面的预测矢量生成单元457参考在时间方向和视图方向上的不同画面以生成预测矢量。在生成参考在视图方向上的不同画面的预测矢量时,基于不同画面的预测矢量生成单元457从基本视图编码器421获取基本视图的运动信息,并且使用运动信息来生成预测矢量。

经由选择器458向矢量成本计算单元453供应基于不同画面的预测矢量生成单元457生成的预测矢量,并且计算用于模式确定的成本函数值。

[基于不同画面的预测矢量生成单元]

图40是图示基于不同画面的预测矢量生成单元457的主要配置示例的框图。

如图40中所示,基于不同画面的预测矢量生成单元457包括视差矢量确定单元471、视图间参考矢量生成单元472和视图内参考矢量生成单元473。

视差矢量确定单元471根据邻近块的视差矢量计算参考图像的移位量。移位量计算方法是可选的。例如可以选择并且可以使用邻近块的视差矢量中的任一视差矢量作为移位量。另外,例如邻近块的视差矢量的平均值或者中值可以用作移位量。

视差矢量确定单元471向视图间参考矢量生成单元472供应以这一方式获得的移位量作为视差矢量。

视图间参考矢量生成单元472生成参考在视图方向上的不同画面的预测矢量。

视图间参考矢量生成单元472使用由视差矢量确定单元471选择的视差矢量(移位量)、从基本视图编码器421供应的基本视图的运动矢量(也包括非基本视图的情况下的视差矢量)、和从矢量信息累积缓冲器455读取的信息、比如参考图像索引或者视图间相同时间的运动/视差矢量,通过考虑视差矢量来生成预测矢量。

也就是说,视图间参考矢量生成单元472使用由视差矢量确定单元471计算的移位量,对准(移位)参考的视图的图像。另外,视图间参考矢量生成单元472根据对准的块生成预测矢量。

视图间参考矢量生成单元472经由选择器458(在图40中未图示)向矢量成本计算单元453供应生成的预测矢量。

视图内参考矢量生成单元473生成参考在时间方向上的不同画面的预测矢量。

通过这样做,视图间参考矢量生成单元472可以创建具有高预测准确度的适当预测矢量。以这一方式,图像编码设备400可以提高编码效率。

[运动预测/补偿处理的流程]

将参照图41的流程图描述运动预测/补偿处理的流程的示例。

在运动预测/补偿处理开始时,在步骤s401中,帧间模式生成单元431选择帧间预测模式、略过模式、合并模式等中的任何模式,并且生成帧间模式,该帧间模式是指明选择的模式的信息。

在步骤s402中,帧间模式生成单元431确定生成的帧间模式是帧间预测模式。

在帧间模式是帧间预测模式时,帧间模式生成单元431在步骤s403中确定参考图像,并且矢量预测单元433在步骤s404中执行矢量预测处理。

另外,在帧间模式不是帧间预测模式时,在步骤s404中,矢量预测单元434执行矢量预测处理。

在步骤s405中,模式确定单元435基于在步骤s404中确定的预测矢量等确定模式。在步骤s401的处理中使用这一模式。

在步骤s405中,无损编码单元106对在步骤s405中确定的模式的信息编码。

[矢量预测处理的流程]

将参照图42的流程图描述矢量预测单元433在图41的步骤s404中执行的矢量预测处理的流程的示例。

在矢量预测处理开始时,运动/视差矢量搜索单元451在步骤s421中搜索矢量。

在步骤s422中,预测图像生成单元452生成预测图像。

在步骤s423中,矢量成本计算单元453生成残差图像。

在步骤s424中,基于邻近块的预测矢量生成单元456和基于不同画面的预测矢量生成单元457根据编码矢量生成预测矢量。

在步骤s425中,矢量成本计算单元453计算矢量的残差。

在步骤s426中,矢量确定单元454确定具有最小成本的预测矢量。在步骤s424的处理上反应这一处理结果。

在步骤s427中,矢量信息累积缓冲器455累积矢量信息,并且流程返回到图41的流程图。

[预测矢量生成处理的流程]

接着将参照图43的流程图描述在图42的步骤s424中执行的预测矢量生成处理的流程的示例。

在预测矢量生成处理开始时,在步骤s441中,选择器458确定将参考哪个块。

在确定将参考画面的邻近块时,在步骤s442中,基于邻近块的预测矢量生成单元456将邻近块的编码矢量设置成预测矢量,并且流程返回到图42的流程图。

另外,在步骤s441中确定将参考不同画面的块时,选择器458继续步骤s443的处理以确定画面将被参考的视图。

在确定将参考不同视图的画面时,在步骤s444中,基于不同画面的预测矢量生成单元457根据在视图方向上扩展的编码、共同定位的块生成视图方向的预测矢量,并且流程返回到图42的流程图。

另外,在步骤s443中确定将参考相同视图的画面时,在步骤s445中,基于不同画面的预测矢量生成单元457根据编码、共同定位的块生成时间方向的预测矢量,并且流程返回到图42的流程图。

[基于不同画面的预测矢量生成处理的流程]

接着将参照图44的流程图描述在图43的步骤s444中执行的基于不同画面的预测矢量生成处理的流程的示例。

在基于不同画面的预测矢量生成处理开始时,在步骤s461中,视差矢量确定单元471根据邻近块的视差矢量确定移位矢量。

在步骤s462中,视图间参考矢量生成单元472选择在移位的位置的共同定位的块。

在步骤s463中,视图间参考矢量生成单元472根据共同定位的块生成预测矢量,并且流程返回到图43的流程图。

[移位量确定处理的流程]

接着将参照图45的流程图描述在图44的步骤s461中执行的移位量确定处理的流程的示例。

在步骤s481中,视差矢量确定单元471确定是否有多个块,在这些块中,邻近块的视差矢量的y方向矢量的值不是零。

邻近块是位于处理目标的当前块(当前块)附近(包括“相邻”)的块。例如,如图46中所示,在当前块(curr)的左侧相邻的块(左)、在当前块以上相邻的块(上)和与当前块的右上角相邻的块(右上)用作邻近块。自然地,可以在邻近块中包括除了这些块之外的块,并且这些块中的部分或者所有块可以未用作邻近块。

邻近块的位置可以对于所有块相同并且可以从块到块不同。例如在与屏幕末端相邻的块或者切片边界用作当前块时,可以设置邻近块的部分为不可用。

在步骤s481中确定无其中y方向矢量的值为非零的多个块时,视差矢量确定单元471继续步骤s482的处理,以使用目标在x方向上的视差矢量作为移位量,并且流程返回到图44的流程图。

另外,在步骤s481中确定有其中y方向矢量的值不为零的多个块时,视差矢量确定单元471继续步骤s483的处理,以设置目标在x方向上的视差矢量的平均值作为移位量,并且流程返回到图44的流程图。

通过以上述方式执行处理,运动预测/补偿单元415可以创建具有高预测准确度的适当预测矢量。以这一方式,图像编码设备400可以提高编码效率。

[4.第四实施例]

[图像解码设备]

图47是图示本技术应用于的图像解码设备的另一配置示例的框图。

图47中所示图像解码设备500与以上描述的图像解码设备300基本上相同。然而图像解码设备500与图像编码设备400相似地根据在视图之间对准的块生成预测矢量。

如图47中所示,图像解码设备500包括运动补偿单元512和基本视图解码器521。

运动补偿单元512使用从解码画面缓冲器309获取的解码图像和从基本视图解码器521获取的基本视图的运动信息,生成参考在视图方向上的块的预测矢量。

基本视图解码器521对基本视图编码。基本视图解码器521向解码画面缓冲器309供应基本视图的解码图像,该解码画面缓冲器存储解码图像。解码画面缓冲器309也存储从循环滤波器306供应的非基本视图的解码图像。

基本视图解码器521向运动补偿单元512供应基本视图的运动信息。

[运动补偿单元]

图48是图示图47的运动补偿单元512的主要配置示例的框图。

如图48中所示,运动补偿单元512包括模式确定单元531、参考索引确定单元532、矢量解码单元533和矢量解码单元534。在相应处理单元之间交换图48中所示信息。

在帧间预测模式的情况下,矢量解码单元533对从图像编码设备400发送的残差矢量解码以生成预测矢量。另外,矢量解码单元533使用预测矢量来生成预测图像。向预测图像选择器313供应预测图像。

在略过模式或者合并模式的情况下,矢量解码单元534对从图像编码设备400发送的残差矢量解码以生成预测矢量。另外,矢量解码单元534使用预测矢量来生成预测图像。向预测图像选择器313供应预测图像。

[矢量解码单元]

图49是图示矢量解码单元533的主要配置示例的框图。

如图49中所示,矢量解码单元533包括选择器551、基于邻近块的预测矢量生成单元552、基于不同画面的预测矢量生成单元553、选择器554、算术单元555、预测图像生成单元556和矢量信息累积缓冲器557。在相应处理单元之间交换图49中所示信息。

选择器551根据帧间模式,向基于邻近块的预测矢量生成单元552(在略过模式、合并模式等的情况下)或者向基于不同画面的预测矢量生成单元553(在帧间预测模式的情况下)供应从无损解码单元302供应的矢量索引。

被供应矢量索引的基于邻近块的预测矢量生成单元552使用从矢量信息累积缓冲器557获取的矢量信息,根据在当前画面中的邻近块生成预测矢量。

被供应矢量索引的基于不同画面的预测矢量生成单元553使用从矢量信息累积缓冲器557获取的矢量信息,根据在当前视图中的不同画面生成预测矢量。另外,基于不同画面的预测矢量生成单元553使用从矢量信息累积缓冲器557获取的矢量信息或者从基本视图解码器521供应的基本视图的运动矢量,根据不同视图的不同画面生成预测矢量。

基于不同画面的预测矢量生成单元553是与基于不同画面的预测矢量生成单元457的视差矢量确定单元471相同的处理单元,并且根据相同方法生成预测矢量。

选择器554向算术单元555供应:基于邻近块的预测矢量生成单元552生成的预测矢量或者基于不同画面的预测矢量生成单元553生成的预测矢量。

算术单元555将从无损解码单元302供应的运动/视差矢量的差值(残差矢量)与预测矢量相加,以生成当前区域的运动/视差矢量。算术单元555向预测图像生成单元556供应运动/视差矢量。另外,算术单元555向矢量信息累积缓冲器557供应运动/视差矢量,该矢量信息累积缓冲器存储运动/视差矢量。

预测图像生成单元556使用从算术单元555供应的当前区域的运动/视差矢量、从无损解码单元302供应的参考图像索引和从解码画面缓冲器309供应的解码图像像素值,生成预测图像。预测图像生成单元556向预测图像选择器313供应生成的预测图像像素值。

[基于不同画面的预测矢量生成单元]

图50是图示基于不同画面的预测矢量生成单元553的主要配置示例的框图。

如图50中所示,基于不同画面的预测矢量生成单元553包括视差矢量确定单元571、视图间参考矢量生成单元572和视图内参考矢量生成单元573。

视差矢量确定单元571、视图间参考矢量生成单元572和视图内参考矢量生成单元573是分别与基于不同画面的预测矢量生成单元457的视差矢量确定单元471、视图间参考矢量生成单元472和视图内参考矢量生成单元473相同的处理单元并且执行相同处理。

也就是说,视差矢量确定单元571根据与视差矢量确定单元471相同的方法计算参考目标的视图的图像的移位量,并且移位图像。

因此,基于不同画面的预测矢量生成单元553可以对残差矢量正确解码,以生成与基于不同画面的预测矢量生成单元457生成的预测矢量相同的具有高预测准确度的适当预测矢量。也就是说,矢量解码单元533可以生成与矢量预测单元433生成的预测图像相同的预测图像。因此,图像解码设备500可以提高编码效率,因为图像解码设备500可以对图像编码设备400生成的编码数据正确解码。

未限制视差矢量确定单元571的移位量计算方法,只要它与视差矢量确定单元471相同,但是该方法是可选的。例如可以选择邻近块的视差矢量中的任何视差矢量,并且选择的视差矢量可以用作移位量。另外,邻近块的视差矢量的平均值或者中值可以用作移位量。

[运动补偿处理的流程]

将参照图51的流程图描述运动补偿处理的流程的示例。

在运动预测/补偿处理开始时,模式确定单元531在步骤s501中对帧间模式解码,并且在步骤s502中确定帧间模式是否为帧间预测模式。

在帧间模式是帧间预测模式时,矢量解码单元533在步骤s503中确定参考图像,并且在步骤s504中执行矢量解码处理以对残差矢量解码以生成预测图像。

另外,在帧间模式不是帧间预测模式时,矢量解码单元534在步骤s504中执行矢量解码处理以对残差矢量解码以生成预测图像。

[矢量解码处理的流程]

将参照图52的流程图描述矢量解码单元533在图51的步骤s504中执行的矢量解码处理的流程的示例。

在矢量解码处理开始时,在步骤s521中,无损解码单元302对残差矢量(差值矢量)解码。

在步骤s522中,无损解码单元302对参考图像索引解码。

在步骤s523中,无损解码单元302对矢量索引解码。

在步骤s524中,基于邻近块的预测矢量生成单元552和基于不同画面的预测矢量生成单元553根据编码矢量生成预测矢量。算术单元555将预测矢量与残差矢量相加,以生成当前区域的运动/视差矢量。

在步骤s525中,预测图像生成单元556使用在步骤s524中生成的运动/视差矢量来生成预测图像。

在步骤s526中,矢量信息累积缓冲器455累积矢量信息,并且流程返回到图51的流程图。

[预测矢量生成处理的流程]

接着将参照图53的流程图描述在图52的步骤s524中执行的预测矢量生成处理的流程的示例。

在预测矢量生成处理开始时,在步骤s541中,选择器554确定将参考的块。

在确定将参考当前画面的邻近块时,在步骤s542中,基于邻近块的预测矢量生成单元552使用邻近块的编码矢量作为预测矢量,并且流程返回到图52的流程图。

另外,在步骤s541中确定将参考不同画面的块时,选择器554继续步骤s543的处理以确定画面将被参考的视图。

在确定将参考不同视图的画面时,在步骤s544中,基于不同画面的预测矢量生成单元553根据在视图方向上扩展的编码、共同定位的块生成视图方向的预测矢量,并且流程返回到图52的流程图。

另外,在步骤s543中确定将参考相同视图的画面时,在步骤s545中,基于不同画面的预测矢量生成单元553根据编码、共同定位的块生成时间方向的预测矢量,并且流程返回到图52的流程图。

[基于不同画面的预测矢量生成处理的流程]

接着将参照图54的流程图描述在图53的步骤s544中执行的基于不同画面的预测矢量生成处理的流程的示例。

在基于不同画面的预测矢量生成处理开始时,在步骤s561中,视差矢量确定单元571根据邻近块的视差矢量确定移位量。

在步骤s562中,视图间参考矢量生成单元572选择在移位的位置的共同定位的块。

在步骤s563中,视图间参考矢量生成单元572根据共同定位的块生成预测矢量,并且流程返回到图53的流程图。

也就是说,在与图44的流程图相同的流程中执行处理。

[移位量确定处理的流程]

接着将参照图55的流程图描述在图54的步骤s561中执行的移位量确定处理的流程的示例。

在步骤s581中,视差矢量确定单元571确定是否有多个块,在这些块中,邻近块的视差矢量的y方向矢量的值为非零。

在步骤s581中确定无其中y方向矢量的值为非零的多个块时,视差矢量确定单元571继续步骤s582的处理以使用目标在x方向上的视差矢量作为移位量,并且流程返回到图54的流程图。

另外,在步骤s581中确定有其中y方向矢量的值为非零的多个块时,视差矢量确定单元571继续步骤s583的处理以使用目标在x方向上的视差矢量的平均值作为移位量,并且流程返回到图54的流程图。

也就是说在与图45的流程图相同的流程中执行处理。这对于邻近块同样成立。

通过以上述方式执行处理,运动补偿单元512可以创建具有高预测准确度的适当预测矢量。以这一方式,图像解码设备500可以提高编码效率。

如以上描述的那样,可以从图像编码设备400向图像解码设备500发送信息、比如用于计算移位量的邻近块和移位量计算方法。

[5.第五实施例]

[预测矢量]

如在第三和第四实施例中描述的那样,可以在选择视图方向的块时选择在移位的位置的块,以便生成预测矢量。

可以使用共同定位的块的矢量(共同定位的块)或者全局视差矢量来生成用于预测矢量的候选,该共同定位的块是与当前区域相同的视图的、属于不同时间的画面的、在相同位置的块。

例如,如图56中所示,3d图像的右和左图像中的任一图像(例如左眼图像)用作基本视图,并且另一图像(例如右眼图像)用作依赖视图。

在预测依赖视图的当前画面601的当前区域611的矢量(编码矢量)621时,可以例如使用与当前区域相同的视图的、如下共同定位的画面602的、在与当前区域相同的位置的共同定位的块612的运动矢量(共同定位的矢量)622或者全局视差矢量(未图示)来获得预测矢量,该共同定位的画面是不同时间的画面。

例如在如下位置的块613的矢量623可以用作编码矢量(mv)621的预测矢量(pmv),该位置是从与当前画面601相同的时间的基本视图的画面603的当前区域11相同的位置通过共同定位的块622或者全局视差矢量(矢量631)移位的。另外,共同定位的块622或者全局视差矢量可以用作编码矢量(mv)621的预测矢量。

通过在编码侧设备和解码侧设备二者中使用相同顺序,可以在编码侧和解码侧二者中执行相同预测。

可以显式地指明指示将使用共同定位的块和全局视差矢量之一的信息、关于共同定位的块或者全局视差矢量的信息等,并且可以从编码侧向解码侧发送其信息。另外,可以从编码侧向解码侧发送关于移位量计算方法的信息。

通过这样做,图像编码设备和图像解码设备可以根据在视图之间相似地对准的块生成预测矢量。因此,有可能提高预测图像的预测准确度并且提高编码效率。

[全局视差矢量]

接着将描述全局视差矢量。全局视差矢量是(对于每个预定单位、如比如画面、切片、lcu或者cu)全局的有代表性的视差矢量。例如对于每个画面生成的全局视差矢量指示在视图之间的视差量。生成全局视差矢量的方法是可选的。

在以下引用中公开全局视差矢量的具体示例:junghaknam,hyominchoi,sunmiyoo,woonglim,donggyusim,"3d-hevc-ce3resultonkwu'sadvancedmotionanddisparitypredictionmethodbasedonglobaldisparity,"internationalorganisationforstandardisationorganisationinternationaledenormalisationiso/iecjtc1/sc29/wg11codingofmovingpicturesandaudio,iso/iecjtc1/sc29/wg11mpeg2011/m23620,february2012,sanjose,ca。

图57是用于描述视差和深度的图。

如图57中所示,在对象m的彩色图像由设置于位置c1的相机c1和设置于位置c2的相继c2捕获时,深度z由以下表达式(1)定义,该深度是在对象m在深度方向上与相机c1(相机c2)的距离。

z=(l/d)×f…(1)

“l”是在位置c1与c2之间在水平方向上的距离(下文称为相机间距离)。另外,“d”是通过从对象m在相机c1捕获的彩色图像上的位置距彩色图像的中心在水平方向上的距离u1减去对象m在相机c2捕获的彩色图像上的位置距彩色图像的中心在水平方向上的距离u2而获得的值(也就是视差(差距))。另外,“f”是相机c1的焦距,并且在表达式(1)中,假设相机c1和c2的焦距相同。

也就是说,视差d由以下表达式(2)定义。

[数学公式1]

如表达式(1)或者(2)中所示,可以唯一转换视差d和深度z。因此,在本说明书中,指示相机c1和c2捕获的2视图彩色图像的视差d的图像以及指示深度z的图像将共同称为深度图像(视差图像)。

深度图像(视差图像)可以是指示视差d或者深度z的图像。可以运用视差d的正规化值、深度z的倒数1/z的正规化值等、而不是视差d或者深度z本身作为深度图像(视差图像)的像素值。

可以通过以下表达式(3)获得深度z。

[数学公式2]

在表达式(3)中,zfar是深度z的最大值,并且znear是深度z的最小值。可以对于一个屏幕单位设置或者可以对于多个屏幕单位设置最大值zfar和最小值znear。

如以上描述的那样,在本说明书中,通过考虑可以唯一转换视差d和深度z的事实,像素值为视差d的正规化值i的图像和像素值为深度z的倒数1/z的正规化值y的图像将共同称为深度图像(视差图像)。在这一示例中,虽然深度图像(视差图像)的色彩格式是yuv420或者yuv400,但是可以使用另一色彩格式。

在聚焦于值i或者y本身而不是深度图像(视差图像)的像素值的信息时,使用值i或者y作为深度信息(视差信息)。另外,对值i或者y进行映射的映射用作深度映射(视差映射)。

[生成预测矢量]

例如如在图58中所示表中那样根据与编码矢量和共同定位的矢量二者的特性对应的方法生成预测矢量。

例如如在从图58的表的底部起的第六行上所示,在编码矢量和共同定位的矢量是运动矢量时,共同定位的矢量用作预测矢量候选。

另外,例如如在从图58的表的底部起的第二行上所示,在编码矢量和共同定位的矢量二者是视差矢量(视图间矢量)时,共同定位的矢量用作预测矢量候选。

对照而言,例如如在从图58的表的底部起的第五行上所示,在编码矢量是运动矢量并且共同定位的矢量是视差矢量(视图间矢量)时,通过共同定位的矢量移位的块的基本视图的运动矢量用作预测矢量候选。

另外,例如如在从图58的表的底部起的第四行上所示,在编码矢量是运动矢量并且共同定位的块是帧内模式时,通过全局视差矢量移位的块的基本视图的运动矢量用作预测矢量候选。

另外,例如如在从图58的表的底部起的第三行上所示,在编码矢量是视差矢量(视图间矢量)并且共同定位的矢量是运动矢量时,全局视差矢量用作预测矢量候选。

另外,例如如在从图58的表的底部起的第一行上所示,在编码矢量是视差矢量(视图间矢量)并且共同定位的块是帧内模式时,全局视差矢量用作预测矢量候选。

通过增加用于生成用于预测矢量的候选的方法数目,有可能提高预测矢量的预测准确度并且提高编码效率。

[图像编码设备]

在这一情况下,图像编码设备的配置示例与图35至38上所示图像编码设备400的配置示例相同,并且将不提供其描述。

[处理的流程]

另外,以与参照图39的流程图描述的方式相同的方式执行这一情况的运动预测/补偿处理。另外,以与参照图40的流程图描述的方式相同的方式执行这一情况的矢量预测处理。因此将不提供这些处理的描述。

将参照图59的流程图描述这一情况的预测矢量生成处理的流程的示例。

在预测矢量生成处理开始时,在步骤s601中,选择器458确定将参考哪个块。

在确定将参考邻近块时,流程继续步骤s602。在步骤s602中,基于邻近块的预测矢量生成单元456使用邻近块的编码矢量作为预测矢量。在步骤s602的处理结束时,预测矢量生成处理结束,并且流程返回到图40的流程图。

另外,在步骤s601中确定选择不同画面的块作为参考目的地时,流程继续步骤s603。在步骤s603中,基于不同的画面的预测矢量生成单元457使用不同时间/视图的块的编码矢量作为预测矢量。在步骤s603的处理结束时,预测矢量生成处理结束,并且流程返回到图40的流程图。

接着将参照图60和61的流程图描述在图59的步骤s603中执行的基于不同画面的预测矢量生成处理的流程的示例。

在基于不同画面的预测矢量生成处理开始时,在步骤s621中,视差矢量确定单元471确定编码矢量是否为运动矢量。在确定编码矢量是运动矢量时,流程继续步骤s622。

在步骤s622中,视差矢量确定单元471确定共同定位的块的模式。在确定共同定位的块的模式是运动矢量时,流程继续步骤s623。

在步骤s623中,视图内参考矢量生成单元473设置共同定位的矢量作为预测矢量。在步骤s623的处理结束时,基于不同画面的预测矢量生成处理结束,并且流程返回到图59的流程图。

另外,在步骤s622中确定共同定位的块的模式是帧内预测时,流程继续步骤s624。

在步骤s624中,视图间参考矢量生成单元472获得全局视差矢量,并且设置通过全局视差矢量移位的基本视图的块的矢量作为预测矢量。在步骤s624的处理结束时,基于不同画面的预测矢量生成处理结束,并且流程返回到图59的流程图。

另外,在步骤s622中确定共同定位的块的模式是视差矢量时,流程继续步骤s625。

在步骤s625中,视图间参考矢量生成单元472设置通过共同定位的矢量移位的基本视图的块的矢量作为预测矢量。在步骤s625的处理结束时,基于不同画面的预测矢量生成处理结束,并且流程返回到图59的流程图。

另外,在步骤s621中确定编码矢量是视差矢量时,流程继续图61的流程图。

在图61的步骤s631中,视差矢量确定单元471确定共同定位的块的模式。在确定共同定位的块的模式是视差矢量时,流程继续步骤s632。

在步骤s632中,视图内参考矢量生成单元473设置共同定位的矢量作为预测矢量。在步骤s632的处理结束时,基于不同画面的预测矢量生成处理结束,并且流程返回到图59的流程图。

另外,在步骤s631中确定共同定位的块的模式是运动矢量时,流程继续步骤s634。在步骤s634中,视图间参考矢量生成单元472设置全局视差矢量作为预测矢量。在步骤s634的处理结束时,基于不同画面的预测矢量生成处理结束,并且流程返回到图59的流程图。

另外,在步骤s631中确定共同定位的块的模式是帧内预测时,流程继续步骤s635。在步骤s635中,视图间参考矢量生成单元472设置全局视差矢量作为预测矢量。在步骤s635的处理结束时,基于不同画面的预测矢量生成处理结束,并且流程返回到图59的流程图。

通过以上述方式执行相应处理,这一情况的图像编码设备可以使用共同定位的块和全局视差矢量来生成预测矢量。由于这一点,图像编码设备可以提高预测矢量的预测准确度并且提高编码效率。

[图像解码设备]

接着将描述与这一情况的图像编码设备对应的图像解码设备。与图像编码设备的情况相似地,这一情况的图像解码设备的配置示例与图45至48中所示图像解码设备50的配置示例相同,并且将不提供其描述。

[处理的流程]

接着将描述这一情况的图像解码设备执行的各种处理的流程。在这一情况下,图像解码设备执行与图像编码设备基本上相同的处理。也就是说,以与参照图49的流程图描述的方式相同的方式执行运动补偿处理。另外,以与参照图50的流程图描述的方式相同的方式执行矢量解码处理。

以与参照图59的流程图描述的(也就是图像编码设备执行的)方式相同的方式执行预测矢量生成处理。

然而在这一情况下,选择器551执行步骤s601的处理。另外,在步骤s602中,基于邻近块的预测矢量生成单元552使用邻近块的解码矢量作为预测矢量。另外,在步骤s603中,基于不同画面的预测矢量生成单元553使用不同时间/视图的块的解码矢量作为预测矢量。

另外,以与参照图60和61的流程图描述的(也就是图像编码设备执行的)方式相同的方式执行基于不同画面的预测矢量生成处理。

然而在这一情况下,视差矢量确定单元571执行步骤s621、s622和s631的处理,视图内参考矢量生成单元573执行步骤s623和s632的处理,并且视图间参考矢量生成单元572执行步骤s624、s625、s634和s635的处理。

通过以这一方式执行相应处理,这一情况的图像解码设备可以与图像编码设备相似地、使用共同定位的块和全局视差矢量来生成预测矢量。由于这一点,图像解码设备可以提高预测矢量的预测准确度并且提高编码效率。

[6.第六实施例]

[参考图像类型]

例如在hevc的情况下,参考图像具有短参考画面和长参考画面这两个类型。由于短参考画面是在时间上在编码画面附近的画面,所以对预测矢量执行基于时间距离的缩放处理。对照而言,由于长参考画面是在时间上距编码画面远离的画面,所以对预测矢量的缩放无意义、因此未被执行。

通过根据图像的运动等适当使用这些参考画面,有可能进一步降低编码速率。

虽然编码矢量和预测矢量的参考画面的类型(短参考画面或者长参考画面)不同,但是设置预测矢量为可用。

在编码矢量和预测矢量的参考画面的类型不同时,预计这些矢量的相关性低。因此有可能的是:如果在矢量候选列表中包括矢量则编码效率降低。例如有可能的是:具有更高相关性的矢量朝着候选列表的后部降级并且用于指明矢量的索引的编码速率增加。另外,例如有可能的是:具有更高相关性的矢量朝着候选列表的后部降级、从候选列表被排除并且不能被指明。

因此,在编码矢量和预测矢量的参考画面的类型(短参考画面或者长参考画面)不同时,设置预测矢量为不可用。

由于参考短参考画面的矢量的特性不同于参考长参考画面的矢量的特性,所以预计相关性低。因此,通过在这一情况下从候选矢量排除数量,有可能提高编码效率。

例如图62是用于描述固定背景应用的参考图像的方面的示例的图。在移动物体存在于静止图像的背景图像的前侧上这样的移动图像(固定背景应用)的情况下,由于作为固定区域的背景(具体为遮挡区域)参考长参考画面,所以运动矢量往往为0。对照而言,由于在前侧上的移动物体参考短参考画面,所以运动矢量出现。如果参考画面的类型以这一方式不同,则运动矢量的相关性低(图64的a)。因此,如以上描述的那样,在编码矢量和预测矢量的参考画面的类型不同时,通过从候选矢量排除矢量,有可能提高编码效率。

另外,例如图63是用于描述立体应用的参考图像的方面的示例的图。在为立体视图准备用于左眼的图像(左眼图像)和用于右眼的图像(右眼图像)这样的移动图像(立体应用)的情况下,在对依赖视图(在这一示例中为右眼图像)编码时,指明基本视图(在这一示例中为左眼图像)为长参考画面,并且指明依赖视图的编码画面为短参考画面。

在参考依赖视图时,可以执行缩放,因为参考目的地和参考源的帧id不同。然而在参考基本视图时,参考目的地和参考源的帧id相同。因此,在缩放期间,分母可能变成0并且缩放困难。因此,在hevc等中,指明基本视图为其中未执行缩放的长参考画面。

因此,在立体应用的情况下,参考长参考画面的矢量变成视差矢量,并且参考短参考画面的矢量变成运动矢量。因此,运动(视差)矢量的相关性在画面类型之间低(图64的b)。因此,如以上描述的那样,在编码矢量和预测矢量的参考画面的类型不同时,通过从候选矢量排除矢量,可以提高编码效率。

在以下描述中,处理目标的块(cu、pu等)称为编码块(或者当前块)。另外,在时间上在编码块附近的块(也就是说在时间上在其中存在编码块的画面(当前画面)附近的画面的共同定位的块)称为时间相关性块。另外,在空间上在编码块附近的块(也就是说,在当前画面中的与编码块相邻的块或者定位于编码块附近的块)称为邻近块。

图65图示邻近块的示例。在位置a0和a1的块是编码块(当前块)的邻近块并且也称为左块。另外,在位置b0、b1和b2的块是编码块(当前块)的邻近块并且也称为上块。

[运动(视差)矢量的处理的概述]

图66是用于描述处理时间相关性块和邻近块的示例的图。在矢量预测中,如在图66的a中所示表中那样,确定是否将在候选矢量中包括时间相关性块的运动(视差)矢量和是否将执行缩放。

也就是说,例如在编码块的参考图像的类型与时间相关性块的参考图像的类型相同时(也就是说,在两个参考图像是短参考图像或者长参考图像时),时间相关性块的运动(视差)矢量用作候选。在两个参考图像的类型不相同时,从候选排除矢量。另外,在编码块的参考图像和时间相关性块的参考图像二者是短参考图像时,执行时间相关性块的运动(视差)矢量的缩放。在两个参考图像是长参考图像时,未执行时间相关性块的运动(视差)矢量的缩放。

另外,在矢量预测中,如在图66的b中所示表中那样,确定是否将在候选矢量中包括邻近块的运动(视差)矢量和是否将执行缩放。也就是说,这与时间相关性块的情况相同。

也就是说,例如在编码块的参考图像的类型与邻近块的参考图像的类型相同时(也就是说,在两个参考图像是短参考图像或者长参考图像时),邻近块的运动(视差)矢量用作候选。在两个参考图像的类型不相同时,从候选排除矢量。另外,在编码块的参考图像和邻近块的参考图像是短参考图像时,执行邻近块的运动(视差)矢量的缩放。在两个参考图像是长参考图像时,未执行邻近块的运动(视差)矢量的缩放。

[在编码期间的处理的流程]

以下将描述在用于实现这样的控制的编码期间的处理的流程的示例。这样的控制可以由在第三实施例中描述的图像编码设备400(图37)实现。

以与参照图20的流程图描述的方式(第一实施例)相同的方式执行图像编码设备400的编码处理。

将参照图67的流程图描述作为与在图20的步骤s104中执行的帧间运动预测处理对应的处理、而由运动预测/补偿单元415执行的pu运动(视差)矢量和参考索引生成处理的流程的示例。

在步骤s701中,帧间模式生成单元431(图38)生成帧间模式。在步骤s702中,帧间模式生成单元431确定帧间模式是否为合并(略过)模式。

在确定帧间模式是合并(略过)模式时,流程继续步骤s703。在步骤s703中,参考索引确定单元432和矢量预测单元434执行合并(略过)模式的处理,以生成运动(视差)矢量和参考矢量。在步骤s703的处理结束时,流程继续步骤s707。

另外,在步骤s702中确定帧间模式不是合并(略过)模式时,处理继续步骤s704。在步骤s704中,矢量预测单元433获取残差运动(视差)矢量和参考索引。在步骤s705中,矢量预测单元433执行amvp模式的处理以生成预测运动(视差)矢量。在步骤s706中,模式确定单元435将残差运动(视差)矢量与预测运动(视差)矢量相加。

在步骤s707中,模式确定单元435在处理所有模式之前返回到步骤s701,并且在已经处理所有模式时确定最优模式。

在步骤s708中,无损编码单元106对选择的信息编码。在步骤s708的处理结束时,流程返回到图20的流程图。

接着将参照图68的流程图描述在图67的步骤s703中执行的合并(略过)模式处理的流程图的示例。

在处理开始时,在步骤s711中,参考索引确定单元432根据空间邻近块创建候选模式(视差)矢量和参考索引。

在步骤s712中,参考索引确定单元432生成用于时间相关性块的参考索引。

在步骤s713中,矢量预测单元434根据时间相关性块生成候选运动(视差)矢量。

在步骤s714中,矢量预测单元434生成运动(视差)矢量和参考索引的候选列表。这一列表的元素数目称为y。

在步骤s715中,矢量预测单元434设置候选列表的最大数目x。

在步骤s716中,矢量预测单元434确定列表的元素数目y是否小于候选列表的最大数目x(y<x)。在确定列表的元素数目y小于候选列表的最大数目(x)(y<x)时,流程继续步骤s717。

在步骤s717中,矢量预测单元434组合候选列表的相应元素以生成新运动(视差)矢量和新参考索引。

在步骤s718中,矢量预测单元434更新候选列表。列表的元素数目在这一情况下称为y’。

在步骤s719中,矢量预测单元434确定列表的元素数目y’是否小于候选列表的最大数目x(y’<x)。在确定列表的元素数目y’小于候选列表的最大数目x(y’<x)时,流程继续步骤s720。

在步骤s720中,矢量预测单元434生成新零运动(视差)矢量和新零参考索引。在步骤s720的处理结束时,流程继续步骤s721。

另外,在步骤s716中确定列表的元素数目y大于候选列表的最大数目x(并非y<x)时,流程继续步骤s721。另外,在步骤s719中确定列表的元素数目y’大于候选列表的最大数目x(并非y’<x)时,流程继续步骤s721。

在步骤s721中,矢量预测单元434生成候选列表的元素索引。

在步骤s722中,矢量预测单元434获取元素索引指示的运动(视差)矢量和参考索引。在步骤s722的处理结束时,流程返回到图67的流程图。

接着将参照图69的流程图描述在图68的步骤s713中执行的、根据时间相关性块生成候选运动(视差)矢量的处理的流程的示例。

在处理开始时,在步骤s731中,矢量预测单元434生成指明时间相关性画面的索引。

在步骤s732中,矢量预测单元434确定时间相关性画面。

在步骤s733中,矢量预测单元434选择在时间相关性画面中存在的编码pu(编码块)的右下块。

在步骤s734中,矢量预测单元434确定右下块是否为帧内模式或者不可用。在确定右下块是帧内模式或者不可用时,流程继续步骤s735。

在步骤s735中,矢量预测单元434选择在时间相关性画面中存在的编码pu的中心块。

在步骤s736中,矢量预测单元434确定中心块是否为帧内模式或者不可用。在确定中心块是帧内模式或者不可用时,流程继续步骤s737。

在步骤s737中,矢量预测单元434从候选排除时间相关性块的运动(视差)矢量。在步骤s737的处理结束时,流程返回到图68的流程图。

另外,在步骤s734中确定右下块不是帧内模式或者不可用时,流程继续步骤s738。相似地,在确定中心块不是帧内模式或者不可用时,流程继续步骤s738。

在步骤s738中,矢量预测单元434确定时间相关性块的运动(视差)矢量和参考索引。

在步骤s739中,矢量预测单元434确定存在用于时间相关性块的运动(视差)矢量的缩放处理和存在候选。

在步骤s740中,矢量预测单元434基于步骤s739的确定结果,确定是否将从候选排除时间相关性块的运动(视差)矢量。

在确定将从候选排除运动(视差)矢量时,流程返回到步骤s737。另外,在步骤s740中确定将不从候选排除(将在候选中包括)运动(视差)矢量时,流程继续步骤s741。

在步骤s741中,矢量预测单元434基于步骤s739的确定结果,确定缩放对于时间相关性块的运动(视差)矢量是否为必需。

在确定缩放为必需时,流程继续步骤s742。在步骤s742中,矢量预测单元434对于时间相关性块的运动(视差)矢量执行缩放处理。在步骤s742的处理结束时,流程返回到图68的流程图。

另外,在步骤s741中确定缩放不是必需时,流程返回到图68的流程图。

接着将参照图70的流程图描述在图69的步骤s739中执行的处理的流程的示例,该处理确定存在用于时间相关性块的运动(视差)矢量的缩放处理和存在候选。

在处理开始时,在步骤s751中,矢量预测单元434确定编码块的参考图像是短参考图像或者长参考图像。

在步骤s752中,矢量预测单元434确定时间相关性块的参考图像是短参考图像或者长参考图像。

在步骤s753中,矢量预测单元434基于步骤s751的确定结果,确定编码块的参考图像是否为长参考图像。

在确定编码块的参考图像是长参考图像时,流程继续步骤s754。在步骤s754中,矢量预测单元434基于步骤s752的确定结果,确定时间相关性块的参考图像是否为长参考图像。

在确定时间相关性块的参考图像是长参考图像时,流程继续步骤s755。在这一情况下,编码块和时间相关性块的运动(视差)矢量是长参考图像。因此,在步骤s755中,矢量预测单元434向候选中包括时间相关性块的运动(视差)矢量,并且设置缩放为不是必需。在步骤s755的处理结束时,流程返回到图69的流程图。

另外,在图70的步骤s754中确定时间相关性块的参考图像是短参考图像时,流程继续步骤s756。在这一情况下,编码块和时间相关性块的运动(视差)矢量的类型不相同。因此,在步骤s756中,矢量预测单元434设置从候选排除时间相关性块的运动(视差)矢量。在步骤s756的处理结束时,流程返回到图69的流程图。

另外,在图70的步骤s753中确定编码块的参考图像是短参考图像时,流程继续步骤s757。在步骤s757中,矢量预测单元434基于步骤s752的确定结果,确定时间相关性块的参考图像是否为长参考图像。

在确定时间相关性块的参考图像是长参考图像时,流程返回到步骤s756。也就是说,在这一情况下,在编码块和时间相关性块的运动(视差)矢量的类型不相同时,设置从候选排除时间相关性块的运动(视差)矢量。

另外,在步骤s757中确定时间相关性块的参考图像是短参考图像时,流程继续步骤s758。在这一情况下,编码块和时间相关性块的运动(视差)矢量是短参考图像。因此,在步骤s758中,矢量预测单元434向候选中包括时间相关性块的运动(视差)矢量,并且设置缩放为必需。在步骤s758的处理结束时,流程返回到图69的流程图。

接着将参照图71的流程图描述在图67的步骤s705中执行的amvp模式处理的流程的示例。

在处理开始时,在步骤s761中,矢量预测单元433(图38)根据空间邻近块生成候选运动(视差)矢量。

在步骤s762中,矢量预测单元433生成运动(视差)矢量的候选列表。这一候选列表的元素数目称为a。

在步骤s763中,矢量预测单元433确定候选列表的元素数目a是否小于2(a<2)。

在确定候选列表的元素数目a小于2(a<2)时,流程继续步骤s764。在步骤s764中,矢量预测单元433根据时间相关性块生成候选运动(视差)矢量。这一处理与参照图69的流程图描述的处理相同,并且将不提供其描述。

在步骤s765中,矢量预测单元433生成运动(视差)矢量和参考索引的候选列表。这一候选列表的元素数目称为a’。

在步骤s766中,矢量预测单元433确定候选列表的元素数目a’是否小于2(a’<2)。

在确定候选列表的元素数目a’小于2(a’<2)时,流程继续步骤s767。在步骤s767中,矢量预测单元433生成新的零运动(视差)矢量和新的零参考索引。在步骤s767的处理结束时,流程继续步骤s768。

另外,在步骤s763中确定候选列表的元素数目a大于2(不是a<2)时,流程继续步骤s768。另外,在步骤s766中确定候选列表的元素数目a’大于2(不是a<2)时,流程继续步骤s768。

在步骤s768中,矢量预测单元433生成候选列表的元素索引(标志)。

在步骤s769中,矢量预测单元433获取元素索引指示的运动(视差)矢量。在步骤s769的处理结束时,流程返回到图67的流程图。

接着将参照图72的流程图描述在图71的步骤s761中执行的、根据空间相邻块生成候选运动(视差)矢量的处理的流程的示例。

在处理开始时,矢量预测单元433在步骤s771中、根据左块生成候选运动(视差)矢量。

在步骤s772中,矢量预测单元433根据上块生成候选运动(视差)矢量。

在步骤s722的处理结束时,流程返回到图71的流程图。

接着将参照图73和74的流程图描述在图72的步骤s711中执行的、根据左块生成候选运动(视差)矢量的处理的流程的示例。

在处理开始时,矢量预测单元433在步骤s781中、选择在位置a0的块。

在步骤s782中,矢量预测单元433确定在位置a0的块是否为帧内模式或者不可用。

在确定在位置a0的块不是帧内模式或者不可用时,流程继续步骤s783。在步骤s783中,矢量预测单元433确定在位置a0的块是否参考与编码块相同的参考图像。

在确定在位置a0的块参考与编码块相同的参考图像时,流程继续步骤s784。在步骤s784中,矢量预测单元433使用在位置a0的块的运动(视差)矢量作为候选。在步骤s784的处理结束时,流程返回到图72的流程图。

另外,在图73的步骤s782中确定在位置a0的块是帧内模式或者不可用时,流程继续步骤s785。另外,在步骤s783中确定在位置a0的块参考与编码块的参考图像不同的参考图像时,流程继续步骤s785。

在步骤s785中,矢量预测单元433选择在位置a1的块。

在步骤s786中,矢量预测单元433确定在位置a1的块是否为帧内模式或者不可用。

在确定在位置a1的块是帧内模式或者不可用时,流程继续步骤s787。在步骤s787中,矢量预测单元433确定在位置a1的块是否参考与编码块相同的参考图像。

在确定在位置a1的块参考与编码块相同的参考图像时,流程继续步骤s788。在步骤s788中,矢量预测单元433使用在位置a1的块的运动(视差)矢量作为候选。在步骤s788的处理结束时,流程返回到图72的流程图。

另外,在图73的步骤s786中确定在位置a1的块是帧内模式或者不可用时,流程继续图74的步骤s791。另外,在图73的步骤s787中确定在位置a1的块参考与编码块的参考图像不同的参考图像时,流程继续图74的步骤s791。

在图74的步骤s791中,矢量预测单元433选择在位置a0的块。

在步骤s792中,矢量预测单元433确定在位置a0的块是否为帧内模式或者不可用。

在确定在位置a0的块不是帧内模式或者不可用时,流程继续步骤s793。在步骤s793中,矢量预测单元433使用在位置a0的块的运动(视差)矢量作为候选。在步骤s793的处理结束时,流程继续步骤s797。

另外,在图7的步骤s792中确定在位置a0的块是帧内模式或者不可用时,流程继续步骤s794。

在步骤s794中,矢量预测单元433选择在位置a1的块。

在步骤s795中,矢量预测单元433确定在位置a1的块是否为帧内模式或者不可用。

在确定在位置a0的块是帧内模式或者不可用时,流程返回到图72的流程图。

另外,在图74的步骤s795中确定在位置a1的块不是帧内模式或者不可用时,流程返回到步骤s796。在步骤s796中,矢量预测单元433使用在位置a1的块的运动(视差)矢量作为候选。在步骤s796的处理结束时,流程继续步骤s797。

在步骤s797中,矢量预测单元433确定存在用于邻近块的运动(视差)矢量的缩放处理和存在候选。

在步骤s798中,矢量预测单元433基于步骤s797的确定结果,确定是否将从候选排除邻近块的运动(视差)矢量。

在确定将从候选排除运动(视差)矢量时,流程继续步骤s799。在步骤s799中,矢量预测单元433从候选去除左块的运动(视差)矢量。在步骤s799的处理结束时,流程返回到图72的流程图。

另外,在图74的步骤s798中确定将不从候选排除(将在候选中包括)运动(视差)矢量时,流程继续步骤s800。

在步骤s800中,矢量预测单元433基于步骤s797的确定结果,确定缩放对于邻近块的运动(视差)矢量是否为必需。

在确定缩放为必需时,流程继续步骤s801。在步骤s801中,矢量预测单元433对于邻近块的运动(视差)矢量执行缩放处理。在步骤s801的处理结束时,流程返回到图72的流程图。

另外,在图74的步骤s800中确定缩放不是必需时,流程返回到图72的流程图。

接着将参照图75的流程图描述在图74的步骤s797中执行的处理的流程图的示例,该处理确定存在用于邻近块的运动(视差)矢量的缩放处理和存在候选。

在处理开始时,在步骤s811中,矢量预测单元433确定编码块的参考图像是短参考图像或者长参考图像。

在步骤s812中,矢量预测单元433确定邻近块的参考图像是短参考图像或者长参考图像。

在步骤s813中,矢量预测单元433基于步骤s811的确定结果,确定编码块的参考图像是否为长参考图像。

在确定编码块的参考图像是长参考图像时,流程继续步骤s814。在步骤s814中,矢量单元433基于步骤s812的确定结果,确定邻近块的参考图像是否为长参考图像。

在确定邻近块的参考图像是长参考图像时,流程继续步骤s815。在这一情况下,编码块和邻近块的运动(视差)矢量是长参考图像。因此,在步骤s815中,矢量预测单元433向候选中包括邻近块的运动(视差)矢量并且设置缩放为非必需。在步骤s815的处理结束时,流程返回到图74的流程图。

另外,在图75的步骤s814中确定邻近块的参考图像是短参考图像时,流程继续步骤s816。在这一情况下,编码块和邻近块的运动(视差)矢量的类型不相同。因此,在步骤s816中,矢量预测单元433设置从候选排除邻近块的运动(视差)矢量。在步骤s816的处理结束时,流程返回到图74的流程图。

另外,在图75的步骤s813中确定编码块的参考图像是短参考图像时,流程继续步骤s817。在步骤s817中,矢量预测单元433基于步骤s812的确定结果,确定邻近块的参考图像是否为长参考图像。

在确定邻近块的参考图像是长参考图像时,流程返回到步骤s816。也就是说,在这一情况下,由于编码块和邻近块的运动(视差)矢量的类型不相同时,因此设置从候选排除邻近块的运动(视差)矢量。

另外,在步骤s817中确定邻近块的参考图像是短参考图像时,流程继续步骤s818。在这一情况下,编码块和邻近块的运动(视差)矢量是短参考图像。因此,在步骤s818中,矢量预测单元433向候选中包括邻近块的运动(视差)矢量并且设置缩放为必需。在步骤s818的处理结束时,流程返回到图74的流程图。

接着将参照图76和77的流程图描述在图72的步骤s772中执行的、根据上块生成候选运动(视差)矢量的处理的流程的示例。

在处理开始时,矢量预测单元433在步骤s821中选择在位置b0的块。

在步骤s822中,矢量预测单元433确定在位置b0的块是否为帧内模式或者不可用。

在确定在位置b0的块不是帧内模式或者不可用时,流程继续步骤s823。在步骤s823中,矢量预测单元433确定在位置b0的块是否参考与编码块相同的参考图像。

在确定在位置b0的块参考与编码块相同的参考图像时,流程继续步骤s824。在步骤s824中,矢量预测单元433使用在位置b0的块的运动(视差)矢量作为候选。在步骤s824的处理结束时,流程返回到图72的流程图。

另外,在图76的步骤s822中确定在位置b0的块是帧内模式或者不可用时,流程继续步骤s825。另外,在步骤s823中确定在位置b0的块参考与编码块的参考图像不同的参考图像时,流程继续步骤s825。

在步骤s825中,矢量预测单元433选择在位置b1的块。

在步骤s826中,矢量预测单元433确定在位置b1的块是否为帧内模式或者不可用。

在确定在位置b1的块不是帧内模式或者不可用时,流程继续步骤s827。在步骤s827中,矢量预测单元433确定在位置b1的块是否参考与编码块相同的参考图像。

在确定在位置b1的块参考与编码块相同的参考图像时,流程继续步骤s828。在步骤s828中,矢量预测单元433使用在位置b1的块的运动(视差)矢量作为候选。在步骤s828的处理结束时,流程返回到图72的流程图。

另外,在图76的步骤s826确定在位置b1的块是帧内模式或者不可用时,流程继续步骤s829。另外,在步骤s827中确定在位置b1的块参考与编码块的参考图像不同的参考图像时,流程继续步骤s829。

在步骤s829中,矢量预测单元433选择在位置b2的块。

在步骤s830中,矢量预测单元433确定在位置b2的块是否为帧内模式或者不可用。

在确定在位置b2的块不是帧内模式或者不可用时,流程继续步骤s831。在步骤s831中,矢量预测单元433确定在位置b2的块是否参考与编码块相同的参考图像。

在确定在位置b2的块参考与编码块相同的参考图像时,流程继续步骤s832。在步骤s832中,矢量预测单元433使用在位置b2的块的运动(视差)矢量作为候选。在步骤s832的处理结束时,流程返回到图72的流程图。

另外,在图76的步骤s830中确定在位置b2的块是帧内模式或者不可用时,流程继续图77的步骤s841。另外,在图76的步骤s831中确定在位置b2的块参考与编码块的参考图像不同的参考图像时,流程继续图77的步骤s841。

在图77的步骤s841中,矢量预测单元433确定是否根据左块生成候选运动(视差)矢量。

在步骤s842中,矢量预测单元433选择在位置b0的块。

在步骤s843中,矢量预测单元433确定在位置b0的块是否为帧内模式或者不可用。

在确定在位置b0的块不是帧内模式或者不可用时,流程继续步骤s844。在步骤s844中,矢量预测单元433使用在位置b0的块的运动(视差)矢量作为候选。在步骤s844的处理结束时,流程继续步骤s851。

另外,在步骤s843中确定在位置b0的块是帧内模式或者不可用时,流程继续步骤s845。

在步骤s845中,矢量预测单元433选择在位置b1的块。

在步骤s846中,矢量预测单元433确定在位置b1的块是否为帧内模式或者不可用。

在确定在位置b1的块不是帧内模式或者不可用时,流程继续步骤s847。在步骤s847中,矢量预测单元433使用在位置b1的块的运动(视差)矢量作为候选。在步骤s847的处理结束时,流程继续步骤s851。

另外,在步骤s846中确定在位置b1的块是帧内模式或者不可用时,流程继续步骤s848。

在步骤s848中,矢量预测单元433选择在位置b2的块。

在步骤s849中,矢量预测单元433确定在位置b2的块是否为帧内模式或者不可用。

在步骤s849中确定在位置b2的块是帧内模式或者不可用时,流程返回到图72的流程图。

另外,在确定在位置b2的块不是帧内模式或者不可用时,流程继续步骤s850。在步骤s850中,矢量预测单元433使用在位置b2的块的运动(视差)矢量作为候选。在步骤s850的处理结束时,流程继续步骤s851。

在步骤s851中,矢量预测单元433确定存在用于邻近块的运动(视差)矢量的缩放处理和存在候选。由于以与参照图75的流程图描述的方式相同的方式执行这一处理,所以将不提供其描述。在这一情况下,在图75的流程图的处理结束时,流程返回到图77的流程图而不是图74的流程图。

在步骤s852中,矢量预测单元433基于步骤s851的确定结果,确定是否将从候选排除邻近块的运动(视差)矢量。

在确定将从候选排除运动(视差)矢量时,流程继续步骤s853。在步骤s853中,矢量预测单元433从候选排除上块的运动(视差)矢量。在步骤s853的处理结束时,流程返回到图72的流程图。

另外,在图77的步骤s852中确定将不从候选排除(将在候选中包括)运动(视差)矢量时,流程继续步骤s854。

在步骤s854中,矢量预测单元433基于步骤s851的确定结果,确定缩放对于邻近块的运动(视差)矢量是否为必需。

在确定缩放为必需时,流程继续步骤s855。在步骤s855中,矢量预测单元433对于邻近块的运动(视差)矢量执行缩放处理。在步骤s855的处理结束时,流程返回到图72的流程图。

另外,在图77的步骤s854中确定缩放不是必需时,流程返回到图72的流程图。

通过以上述方式执行相应处理,图像编码设备400可以抑制编码效率降低。

[在解码期间的处理的流程]

为了对以上述方式通过编码而获得的编码数据正确解码,可以在解码侧上执行与编码侧相同的方法的预测。也就是说,在解码侧上,在编码矢量和预测矢量的参考画面的类型(短参考画面或者长参考画面)不同时,设置预测矢量不可用。

也就是说,例如在编码块的参考图像的类型与时间相关性块的参考图像的类型相同时(也就是说,在两个参考图像是短参考图像或者长参考图像时),时间相关性块的运动(视差)矢量用作候选。在两个参考图像的类型不相同时,从候选排除矢量。另外,在编码块的参考图像和时间相关性块的参考图像二者是短参考图像时,执行时间相关性块的运动(视差)矢量的缩放。在两个参考图像是长参考图像时,未执行时间相关性块的运动(视差)矢量的缩放。

另外,例如在编码块的参考图像的类型与邻近块的参考图像的类型相同时(也就是说,在两个参考图像是短参考图像或者长参考图像时),邻近块的运动(视差)矢量用作候选。在两个参考图像的类型不相同时,从候选排除矢量。另外,在编码块的参考图像和邻近块的参考图像是短参考图像时,执行邻近块的运动(视差)矢量的缩放。在两个参考图像是长参考图像时,未执行邻近块的运动(视差)矢量的缩放。

通过这样做,有可能抑制解码效率降低。

以下将描述在用于实现这样的控制的编码期间的处理的流程的示例。这样的控制可以由在第四实施例中描述的图像解码设备500(图47)实现。

以与参照图33的流程图描述的方式(第二实施例)相同的方式执行图像解码设备500的解码处理。另外,以与参照图34的流程图描述的方式相同的方式执行图33的步骤s305的预测处理。

将参照图78描述作为与在图34的步骤s334中执行的运动视差补偿处理对应的处理的、由运动补偿单元512执行的pu运动(视差)矢量和参考索引生成处理的流程的示例。

以与在编码侧上的处理(图67)的方式基本上相同的方式执行这一处理。然而由于在编码侧上确定预测模式,所以在解码侧上的设备可以执行仅所用预测模式的处理。

在处理开始时,在步骤s861中,无损解码单元302对从编码侧供应的预测模式解码。

在步骤s862中,模式确定单元531确定预测模式是否为合并(略过)模式。

在确定预测模式是合并(略过)模式时,流程继续步骤s863。在步骤s863中,参考索引确定单元532和矢量解码单元534执行合并(略过)模式的处理,以生成运动(视差)矢量和参考索引。在步骤s863的处理结束时,流程返回到图34的流程图。

另外,在图78的步骤s862中确定预测模式不是合并(略过)模式时,流程继续步骤s863。在步骤s864中,矢量解码单元533获取残差运动(视差)矢量和参考索引。在步骤s865中,矢量解码单元533执行amvp模式的处理,以生成预测模式(视差)矢量。在步骤s866中,矢量解码单元533将残差运动(视差)矢量与预测运动(视差)矢量相加。在步骤s866的处理结束时,流程返回到图34的流程图。

接着将参照图79的流程图描述在图78的步骤s863中执行的合并(略过)模式处理的流程的示例。以与在编码侧上的处理(图68)基本上相同的方式执行这一处理。

以与图68的步骤s711至s714的相应处理相同的方式执行步骤s871至s874的相应处理。然而步骤s871和s872的处理由参考索引确定单元532执行,并且步骤s873和s874的处理由矢量解码单元534执行。

在步骤s875中,矢量解码单元534对候选列表的最大值x解码。

以与图68的步骤s716至s720的处理相同的方式执行步骤s876至s880的处理。然而这些处理由矢量解码单元534执行。

在步骤s881中,矢量解码单元534对候选列表的元素索引解码。在步骤s882中,矢量解码单元534获取元素索引指示的运动(视差)矢量和参考索引。在步骤s822的处理结束时,流程返回到图78的流程图。

接着将参照图80的流程图描述在图79的步骤s873中执行的、根据时间相关性块生成候选运动(视差)矢量的处理的流程的示例。以与在编码侧上的处理(图69)基本上相同的方式执行这一处理。

在处理开始时,矢量解码单元534在步骤s891中对指示时间相关性画面的索引解码。

以与图69的步骤s732至s742的处理相同的方式执行步骤s892至s902的处理。然而这些处理由矢量解码单元534执行。

以与参照图70的流程图描述的方式相同的方式执行在图80的步骤s899中执行的处理,该处理确定存在用于时间相关性块的运动(视差)矢量的缩放处理和存在候选,并且将不提供其描述。然而在这一情况下,处理由矢量解码单元534执行,并且在图70的流程图的处理结束时,流程返回到图80的流程图。

接着将参照图81的流程图描述在图78的步骤s865中执行的amvp模式处理的流程的示例。以与在解码侧上的处理(图71)基本上相同的方式执行这一处理。以与图71的步骤s761至s767的处理相同的方式执行步骤s911至s917的处理。然而这些处理由矢量解码单元533执行。

在步骤s918中,矢量解码单元533对候选列表的元素索引(标志)解码。在步骤s919中,矢量解码单元533获取元素索引指示的运动(视差)矢量。在步骤s919的处理结束时,流程返回到图78的流程图。

以与参照图72至77的流程图描述的方式相同的方式执行在图81的步骤s911中执行的、根据空间邻近块生成候选运动(视差)矢量的处理,并且将不提供其描述。然而在这一情况下,处理由矢量解码单元533执行,并且在图72的流程图的处理结束时,流程返回到图81的处理。

另外,以与参照图80的流程图描述的方式相同的方式执行在图81的步骤s914中执行的、根据时间相关性块生成候选运动(视差)矢量的处理,并且将不提供其描述。然而在这一情况下,处理由矢量解码单元533执行,并且在图80的流程图的处理结束时,流程返回到图81的流程图。

通过以上述方式执行处理,图像解码设备500可以对编码数据正确解码并且抑制编码效率降低。

[运动(视差)矢量的处理的概述]

在以上示例中,在amvp模式中根据邻近块生成运动(视差)矢量时,例如对于左邻近块按照位置a0和a1的顺序检索运动(视差)矢量,并且处理在发现运动(视差)矢量时结束。相似地,例如对于上邻近块按照位置b0、b1和b2的顺序检索运动(视差)矢量,并且处理在发现运动(视差)矢量时结束。例如在这一情况下,由于可以在此后确定运动(视差)矢量是否可以用作候选,所以即使在某个位置发现的运动(视差)矢量不能用作候选,仍然未执行检索在后续位置的运动(视差)矢量。

用于根据邻近块生成运动(视差)矢量的方法不限于此。例如可以确定在所有位置a0和a1或者位置b0、b1和b2的运动(视差)矢量是否不能用作候选。也就是说,对于在相应位置的邻近块确定存在候选,并且在结束时共同地确定存在缩放处理。

通过这样做,有可能确定是否将在候选中包括在相应位置的运动(视差)矢量,但是处理变得比以上描述的示例更复杂。也就是说,有可能检索更适当候选并且进一步提高编码效率。

图82是用于描述处理邻近块的示例的图。在矢量预测中,首先如在图82的a中所示表中那样确定是否将在候选矢量中包括在每个位置的邻近块的运动(视差)矢量。

也就是说,例如在编码块的参考图像和邻近块的参考图像的类型相同时(也就是说,在两个参考图像是短参考图像或者长参考图像时),时间相关性块的运动(视差)矢量用作候选。在两个参考图像的类型不相同时,从候选排除矢量。

在选择候选之后,如在图82的b中所示表中那样确定是否将对候选矢量执行缩放。

也就是说,例如在编码块的参考图像和邻近块的参考图像二者是短参考图像时,执行邻近块的运动(视差)矢量的缩放。在其它情况下,未执行邻近块的运动(视差)矢量的缩放。

[在编码处理期间的处理的流程]

将参照图83和84的流程图描述这一情况的、根据左块生成候选运动(视差)矢量的处理的流程的示例。由于以与这一情况的处理相同的方式执行参照图67至72的流程图描述的处理,所以将不提供这些处理的描述。

以与图73的步骤s781至788的处理相同的方式执行图83的步骤s921至s928的处理。在步骤s924或者s928的处理结束时,根据左块生成候选运动(视差)矢量的处理结束,并且流程返回到图72的流程图。另外,在步骤s926中确定在位置a1的块是帧内模式或者不可用时,或者在步骤s927中确定在位置a1的块参考与编码块的参考图像不同的参考图像时,流程继续图84的步骤s931。

在图84的步骤s931中,矢量预测单元433选择在位置a0的块。

在步骤s932中,矢量预测单元433确定在位置a0的块是否是帧内模式或者不可用。

在确定在位置a0的块不是帧内模式或者不可用时,流程继续步骤s933。在步骤s933中,矢量预测单元433确定存在在位置a0的块的候选运动(视差)矢量。

在步骤s934中,矢量预测单元433基于步骤s933的确定结果,确定是否将包括候选。

在确定将包括候选时,流程继续步骤s935。在步骤s935中,矢量预测单元433使用在位置a0的运动(视差)矢量作为候选。在步骤s935的处理结束时,流程继续步骤s943。

另外,在步骤s934中确定将不包括候选时,流程继续步骤s936。在步骤s936中,矢量预测单元433从候选排除在位置a0的块的运动(视差)矢量。

在步骤s936的处理结束时,流程继续步骤s937。另外,在步骤s932中确定在位置a0的块不是帧内模式也不可用时,流程继续步骤s937。

在步骤s937中,矢量预测单元433选择在位置a1的块。

在步骤s938中,矢量预测单元433确定在位置a1的块是否为帧内模式或者不可用。在确定在位置a1的块是帧内模式或者不可用时,根据左块生成候选运动(视差)矢量的处理结束,流程返回到图72的流程图。

另外,在图84的步骤s938中确定在位置a1的块不是帧内模式或者不可用时,流程继续步骤s939。在步骤s939中,矢量预测单元433确定存在在位置a1的块的候选运动(视差)矢量。

在步骤s940中,矢量预测单元433基于步骤s939的确定结果,确定是否是否将包括候选。

在确定将包括候选时,流程继续步骤s941。在步骤s941中,矢量预测单元433使用在位置a1的运动(视差)矢量作为候选。在步骤s941的处理结束时,流程继续步骤s943。

另外,在步骤s940中确定将不包括候选时,流程继续步骤s942。在步骤s942中,矢量预测单元433从候选排除在位置a1的块的运动(视差)矢量。在步骤s942的处理结束时,根据左块生成候选运动(视差)矢量的处理结束,流程返回到图72的流程图。

在图84的步骤s943中,矢量预测单元433确定存在用于邻近块的运动(视差)矢量的缩放处理。

在步骤s944中,矢量预测单元433基于步骤s943的确定结果,确定缩放对于邻近块的运动(视差)矢量是否为必需。

在确定缩放为必需时,流程继续步骤s945。在步骤s945中,矢量预测单元433对邻近块的运动(视差)矢量执行缩放处理。在步骤s945的处理结束时,流程返回到图72的流程图。

另外,在图84的步骤s944中确定缩放不是必需时,流程返回到图72的流程图。

接着将参照图85的流程图描述在图84的步骤s933和s939中执行的处理的流程的示例,该处理确定存在邻近块的候选运动(视差)矢量。

以与图75的步骤s811至s814和s817的处理相同的方式执行图85的步骤s951至s954和s957的处理。

在步骤s953中确定编码块的参考图像是长参考图像、并且在步骤s954中确定邻近块的参考图像是长参考图像时,矢量预测单元433在步骤s955中设置将在候选中包括邻近块(在位置a0或者a1的块)的运动(视差)矢量。

另外,在步骤s953中确定编码块的参考图像是长参考图像、并且在步骤s954中确定邻近块的参考图像是短参考图像时,或者在步骤s953中确定编码块的参考图像是短参考图像、并且在步骤s957中确定邻近块的参考图像是长参考图像时,由于编码块和邻近块的参考图像的类型不同,矢量预测单元433在步骤s956中设置从候选排除邻近块(在位置a0或者a1的块)的运动(视差)矢量。

另外,在步骤s953中确定编码块的参考图像是短参考图像、并且在步骤s957中确定邻近块的参考图像是短参考图像时,矢量预测单元433在步骤s958中、设置在候选中包括邻近块(在位置a0或者a1的块)的运动(视差)矢量。

在步骤s955、s956或者s958的处理结束时,流程返回到图84的流程图。

接着将参照图86的流程图描述在图84的步骤s943中执行的处理的流程的示例,该处理确定存在用于邻近块的运动(视差)矢量的缩放处理。

以与图75的步骤s811至s813和s817的处理相同的方式执行图86的步骤s961至s963和s965的处理。

在步骤s963中确定编码块的参考图像是长参考图像时、或者在步骤s963中确定编码块的参考图像是短参考图像并且在步骤s965中确定邻近块的参考图像是长参考图像时,流程继续步骤s964。也就是说,在确定编码块的参考图像和邻近块的参考图像中的至少一个参考图像是长参考图像时,流程继续步骤s964。

在步骤s964中,矢量预测单元433设置缩放不是必需。在步骤s964的处理结束时,流程返回到图84的流程图。

另外,在图86的步骤s963中确定编码块的参考图像是短参考图像、并且在步骤s965中确定邻近块的参考图像是短参考图像时(也就是说,在确定编码块和邻近块的参考图像二者是短参考图像),流程继续步骤s966。

在步骤s966中,矢量预测单元433设置缩放为必需。在步骤s966的处理结束时,流程返回到图84的流程图。

接着将参照图87至89的流程图描述根据上块生成候选运动(视差)矢量的处理的流程的示例。

以与图76的步骤s821至s832的处理相同的方式执行图87的步骤s971至s982的处理。在步骤s974、s978或者s982的处理结束时,流程继续图89的步骤s1017。另外,在步骤s980中确定在位置b2的块是帧内模式或者不可用时、或者在步骤s981中确定在位置b2的块参考与编码块的参考图像不同的参考图像时,流程继续图88的步骤s991。

在图88的步骤s991中,矢量预测单元433确定是否根据左块生成候选运动(视差)矢量。

在步骤s992中,矢量预测单元433选择在位置b0的块。

在步骤s993中,矢量预测单元433确定在位置b0的块是否为帧内模式或者不可用。

在确定在位置b0的块不是帧内模式或者不可用时,流程继续步骤s994。在步骤s994中,矢量预测单元433确定存在在位置b0的块的候选运动(视差)矢量。由于以与参照图85的流程图描述的方式相同的方式执行这一处理,所以将不提供其描述。

在步骤s995中,矢量预测单元433基于步骤s994的确定结果,确定是否将排除候选。

在将从候选排除运动(视差)矢量时,流程继续步骤s996。在步骤s996中,矢量预测单元433从候选排除在位置b0的块的运动(视差)矢量。在步骤s996的处理结束时,流程继续步骤s998。

另外,在步骤s995中确定将不从候选排除运动(视差)矢量时,流程继续步骤s997。在步骤s997中,矢量预测单元433使用在位置b0的块的运动(视差)矢量作为候选。在步骤s997的处理结束时,流程继续图89的步骤s1017。

另外,在步骤s993中确定在位置b0的块是帧内模式或者不可用时,流程继续步骤s998。

在步骤s998中,矢量预测单元433选择在位置b1的块。

在步骤s999中,矢量预测单元433确定在位置b1的块是否为帧内模式或者不可用。

在确定在位置b1的块不是帧内模式或者不可用时,流程继续步骤s1000。在步骤s1000中,矢量预测单元433确定存在在位置b1的块的候选运动(视差)矢量。由于以与关于图85的流程图描述的方式相同的方式执行这一处理,所以将不提供其描述。

在步骤s1001中,矢量预测单元433基于步骤s1000的确定结果,确定是否将排除候选。

在将从候选排除运动(视差)矢量时,流程继续步骤s1002。在步骤s1002中,矢量预测单元433从候选排除在位置b1的块的运动(视差)矢量。在步骤s1002的处理结束时,流程继续图89的步骤s1011。

另外,在图88的步骤s1001中确定将不从候选排除运动(视差)矢量时,流程继续步骤s1003。在步骤s1003中,矢量预测单元433使用在位置b1的块的运动(视差)矢量作为候选。在步骤s1003的处理结束时,流程继续图89的步骤s1017。

另外,在步骤s999中确定在位置b1的块是帧内模式或者不可用时,流程继续图89的步骤s1011。

在图89的步骤s1011中,矢量预测单元433选择在位置b2的块。

在步骤s1012中,矢量预测单元433确定在位置b2的块是否为帧内模式或者不可用。

在确定在位置b2的块不是帧内模式或者不可用时,流程继续步骤s1013。在步骤s1013中,矢量预测单元433确定存在在位置b2的块的候选运动(视差)矢量。由于以与参照图85的流程图描述的方式相同的方式执行这一处理,所以将不提供其描述。

在步骤s1014中,矢量预测单元433基于步骤s1013的确定结果,确定是否将排除候选。

在将从候选排除运动(视差)矢量时,流程继续步骤s1015。在步骤s1015中,矢量预测单元433从候选排除在位置b2的块的运动(视差)矢量。在步骤s1015的处理结束时,流程继续步骤s1017。

另外,在步骤s1014中确定将不从候选排除运动(视差)矢量时,流程继续步骤s1016。在步骤s1016中,矢量预测单元433使用在位置b2的块的运动(视差)矢量作为候选。在步骤s1016的处理结束时,流程继续步骤s1017。

在步骤s1017中,矢量预测单元433确定存在用于邻近块的运动(视差)矢量的缩放处理。由于以与参照图86的流程图描述的方式相同的方式执行这一处理,所以将不提供其描述。

在步骤s1018中,矢量预测单元433基于步骤s1017的确定结果,确定缩放对于邻近块的运动(视差)矢量是否为必需。

在确定缩放为必需时,流程继续步骤s1019。在步骤s1019中,矢量预测单元433对邻近块的运动(视差)矢量执行缩放处理。在步骤s1019的处理结束时,流程返回到图72的流程图。

另外,在图89的步骤s1018中确定缩放不是必需时,流程返回到图72的流程图。

通过以上述方式执行相应处理,图像编码设备400可以抑制编码效率降低。

由于图像解码设备500以与以上描述的图像编码设备400相同的方式执行这些处理,所以将不提供其描述。由于这一点,图像解码设备500可以对编码数据正确解码并且抑制编码效率降低。

[运动(视差)矢量的处理的概述]

在上文中,已经参照图66至81描述第一示例,并且已经参照图82至89描述第二示例。

除了这些示例之外,例如在第一示例中,在编码块的参考图像和邻近块的参考图像二者是长参考图像时,邻近块的运动(视差)矢量可以仅在编码块和邻近块参考相同参考图像时用作候选。在编码块和邻近块参考不同参考图像时,可以从候选排除邻近块的运动(视差)矢量,并且可以不提供检索处理。

如以上描述的那样,长参考图像应用于如背景图像的固定区域和不同视图的图像。因此,即使在编码块的参考图像和邻近块的参考图像是这样的长参考图像时,但是如果参考图像是不同图像,则预计参考图像具有低相关性。也就是说,预计在编码块和邻近块的运动(视差)矢量之间的相关性低。

因此,通过从候选矢量排除其中预计这样的相关性低的图案(其中编码块和邻近块的参考图像二者是长参考图像并且两个图像是不同图像的情况),有可能进一步抑制编码效率降低。另外,通过不提供确定存在候选和存在缩放的处理,有可能降低处理负荷。

图90是用于描述处置时间相关性块和邻近块的另一示例的图。在矢量预测中,如在图90的a中所示表中那样确定是否将向候选矢量中包括时间相关性块的运动(视差)矢量和是否将执行缩放。

也就是说,这与图66的a的情况相同。

另外,在矢量预测中,如在图90的b中所示表中那样确定是否将在候选矢量中包括邻近块的运动(视差)矢量和是否将执行缩放。

也就是说,例如在编码块和邻近块的参考图像二者是长参考图像时,邻近块的运动(视差)矢量仅在参考图像相同时用作候选。另外,在这些参考图像不同时,从候选排除邻近块的运动(视差)矢量,并且不提供确定存在候选和存在缩放的处理。

在编码块的参考图像和邻近块的参考图像二者是短参考图像时,执行邻近块的运动(视差)矢量的缩放。在两个参考图像是长参考图像时,不执行邻近块的运动(视差)矢量的缩放。

[在编码期间的处理的流程]

将参照图91和92的流程图描述这一情况的、根据左块生成候选运动(视差)矢量的处理的流程的示例。由于以与这一情况的处理相同的方式执行参照图67至72的流程图描述的处理,所以将不提供这些处理的描述。

以与图73的步骤s781至s788的处理基本上相同的方式执行图91的步骤s1031至s1038的处理。在步骤s1034或者s1038的处理结束时,根据左块生成候选运动(视差)矢量的处理结束,并且流程返回到图72的流程图。另外,在步骤s1035中确定在位置a1的块是帧内模式或者不可用时,流程继续图92的步骤s1041。

然而在图91的步骤s1037中确定在位置a1的块参考与编码块的参考图像不同的参考图像时,流程继续步骤s1039。

在步骤s1039中,矢量预测单元433确定编码块和邻近块的参考图像二者是否为长参考图像。

在确定编码块和邻近块的两个参考图像二者是长参考图像时,根据左块生成候选运动(视差)矢量的处理结束,并且流程返回到图72的流程图。

另外,在确定编码块和邻近块的参考图像中的至少一个参考图像是短参考图像时,流程继续图92的步骤s1041。

以与图74的步骤s791至s799的处理相同的方式执行图92的步骤s1041至s1051的处理。

也就是说,在确定编码块和邻近块的参考图像二者是长参考图像时,不提供图92的流程图的所有处理。因此有可能降低处理负荷。

接着将参照图93和94的流程图描述这一情况的、根据上块生成候选运动(视差)矢量的处理的流程的示例。

以与图76的步骤s821至s832的处理基本上相同的方式执行图93的步骤s1071至s1082的处理。在步骤s1074、s1078或者s1082的处理结束时,根据上块生成候选运动(视差)矢量的处理结束,并且流程返回到图72的流程图。另外,在步骤s1080中确定在位置b2的块是帧内模式或者不可用时,流程继续图94的步骤s1091。

然而在图93的步骤s1081中确定在位置b2的块参考与编码块的参考图像不同的参考图像时,流程继续步骤s1083。

在步骤s1083中,矢量预测单元433确定编码块和邻近块的参考图像二者是否是长参考图像。

在确定编码块和邻近块的参考图像二者是长参考图像时,根据上块生成候选运动(视差)矢量的处理结束,流程返回到图72的流程图。

另外,在确定编码块和邻近块的参考图像中的至少一个参考图像是短参考图像时,流程继续图94的步骤s1091。

以与图77的步骤s841至s855的处理相同的方式执行图94的步骤s1091至s1105的处理。

也就是说,在确定编码块和邻近块的参考图像二者是长参考图像时,不提供图94的流程图的所有处理。因此有可能降低处理负荷。

系列处理可以应用于多视图图像编码和解码(多视图编码器和解码器)。也就是说,可以在执行多视图编码和解码时提高编码效率。系列处理可以应用于层图像编码(空间可缩放性)和层图像解码(多层编码器和解码器)。也就是说,可以在执行层图像编码和解码时提高编码效率。

另外,系列处理可以应用于单视图图像(1视图)的所谓2d图像。

本技术可以应用于如下图像信息编码设备和图像解码设备:在经由网络介质、比如卫星广播、线缆tv、因特网或者蜂窝电话接收已经如在mpeg、h.26x等的情况下那样通过比如离散余弦变换的正交变换和运动补偿而压缩的图像信息(比特流)时使用该图像信息编码设备和图像解码设备。另外,本技术可以应用于在存储介质、比如光盘或者磁盘或者闪存上处理图像信息(比特流)时使用的图像编码设备和图像解码设备。另外,本技术可以应用于在图像编码设备、图像解码设备等中包括的运动预测补偿设备。

[7.第七实施例]

[计算机]

以上描述的系列处理可以不仅由硬件而且由软件执行。在系列处理由软件执行时,在软件中包括的程序安装于计算机中。这里,计算机可以是向专用硬件或者通用个人计算机中集成的计算机,该计算机可以通过在计算机中安装各种程序来执行各种功能。

在图95中,个人计算机700的cpu(中央处理单元)701根据rom(只读存储器)702中存储的程序或者从存储单元713向ram(随机存取存储器)703中加载的程序来执行各种处理。为了cpu701执行各种处理而必需的数据也适当存储于ram703中。

cpu701、rom702和ram703经由总线704相互连接。输入/输出接口710也连接到总线704。

由键盘、鼠标等形成的输入单元711、由crt(阴极射线管)和lcd(液晶显示器)形成的显示器、扬声器等形成的输出单元712、由硬盘等形成的存储单元713、以及由调制解调器等形成的通信单元714连接到输入/输出接口710。通信单元714经由包括因特网的网络执行通信处理。

驱动器715按照需要连接到输入/输出接口710,可去除介质721、比如磁盘、光盘、光磁盘和半导体存储器适当装配于驱动器上,并且按照需要在存储单元713上安装从介质读取的计算机程序。

在系列处理由软件执行时,经由网络或者记录介质安装在软件中包括的程序。

例如如图95中所示,记录介质不仅由如下可去除介质721而且由如下rom702和在如下存储单元713中包括的硬盘组成,该可去除介质包括磁盘(包括软盘)、光盘(包括cd-rom(光盘-只读存储器)和dvd(数字万用盘))、光磁盘(包括md(迷你盘))和半导体存储器,在该可去除介质中记录程序,向用户分发该可去除介质用于与装置主体分离地分发程序,在该rom中记录程序,在预先嵌入于装置主体中的状态中向用户分发该存储单元。

计算机执行的程序可以是根据在本说明书中描述的处理以时序方式执行处理的程序、并且可以是并行方式或者在必需时间、比如响应于调用来执行处理的程序。

这里在本说明书中,描述在记录介质中记录的程序的步骤不仅包括根据描述的过程以时序方式执行的处理、而且包括并行和/或单独执行的处理、即使未总是以时序方式执行它。

在本说明书中,术语“系统”用来意味着作为整体的包括多个设备(装置)的装置。

在以上描述中,可以将描述为一个装置(或者处理器)的配置拆分成多个装置(或者处理器)。备选地,可以向单个装置(或者处理器)中集成描述为多个装置(或者处理器)的配置。另外,可以在每个装置(或者每个处理器)的以上描述的配置中包括除了以上讨论的配置之外的配置。如果作为整体的系统的配置和操作基本上相同,则可以向另一装置(或者另一处理器)的配置添加装置(或者处理器)的配置的部分。本公开内容的实施例不限于以上描述的实施例,但是可以在未脱离本公开内容的主旨的范围内进行各种修改。

[8.第八实施例]

根据以上描述的实施例的图像编码设备和图像解码设备可以应用于各种电子装置、比如在线缆广播(比如卫星广播或者有线电视)上或者在因特网上分发信号、并且通过蜂窝通信向终端分发信号的发送器或者接收器、在介质、比如光盘、磁盘或者闪存上记录图像的记录介质、或者从这些存储介质再现图像的再现设备。以下将描述四个应用示例。

[第一应用示例:电视装置]

图96图示以上描述的实施例应用于的电视装置的示意配置的示例。电视装置900包括天线901、调谐器902、去复用器903、解码器904、视频信号处理器905、显示单元906、音频信号处理器907、扬声器908、外部接口909、控制单元910、用户接口911和总线912。

调谐器902从经由天线901接收的广播信号提取所需频道的信号并且解调提取的信号。然后,调谐器902向去复用器903输出通过解调而获得的编码比特流。也就是说,调谐器902用作电视装置900中的发送装置,该发送装置接收其中对图像编码的编码流。

复用器903从编码比特流分离待观看的节目的视频流和音频流,并且向解码器904输出每个分离的流。另外,复用器903从编码比特流提取辅助数据、比如epg(电子节目指南),并且向控制单元910供应提取的数据。去复用器903可以在编码比特流被加扰时解扰。

解码器904对从去复用器903输入的视频流和音频流解码。然后,解码器904向视频信号处理器905输出通过解码处理生成的视频数据。另外,解码器904向音频信号处理器907输出通过解码处理生成的音频数据。

视频信号处理器905再现从解码器904输入的视频数据、并且允许显示单元906显示视频。视频信号处理器905也可以允许显示单元906显示经由网络供应的应用屏幕。视频信号处理器905也可以根据设置,对视频数据执行附加处理、例如比如噪声去除。另外,视频信号处理器905可以生成gui(图形用户界面)图像、例如比如菜单、按钮和光标,并且在输出图像上叠加生成的图像。

显示单元906由从视频信号处理器905供应的驱动器信号驱动,以在显示设备(例如液晶显示器、等离子体显示器、oeld(有机电致发光显示器(有机el显示器))等)的视频屏幕上显示视频或者图像。

音频信号处理器907对从解码器904输入的音频数据执行再现处理、比如d/a转换和放大,并且允许扬声器908输出音频。音频信号处理器907也可以对音频数据执行附加处理、比如噪声去除。

外部接口909是用于连接电视装置900和外部设备或者网络的接口。例如经由外部接口909接收的视频流或者音频流可以由解码器904解码。也就是说,外部接口909也用作电视装置900中的发送装置,该发送装置接收其中对图像编码的编码流。

控制单元910包括处理器如cpu以及存储器如ram和rom。存储器存储cpu执行程序、程序数据、epg数据、经由网络获得的数据等。在存储器中存储的程序例如在电视装置900启动时由cpu读取以执行。cpu通过执行程序例如根据从用户接口911输入的操作信号、控制电视装置900的操作。

用户接口911连接到控制单元910。用户接口911例如包括用于用户操作电视装置900的按钮和开关、遥控信号的接收器等。用户接口911检测用户经由部件输入的操作以生成操作信号、并且向控制单元910输出生成的操作信号。

总线912相互连接调谐器902、去复用器903、解码器904、视频信号处理器905、音频信号处理器907、外部接口909和控制单元910。

在以这一方式配置的电视装置900中,解码器904具有根据以上描述的实施例的图像解码装置50的功能。因此,在电视装置900中对图像解码时,可以抑制编码效率降低。

[第二应用示例:移动电话]

图97图示以上描述的实施例应用于的移动电话的示意配置的示例。移动电话920包括天线921、通信单元922、音频编码解码器923、扬声器924、麦克风925、相机单元926、图像处理器927、复用/分离单元928、记录/再现单元929、显示单元930、控制单元931、操作单元932和总线933。

天线921连接到通信单元922。扬声器924和麦克风925连接到音频编码解码器923。操作单元932连接到控制单元931。总线933相互连接通信单元922、音频编码解码器923、相机单元926、图像处理器927、复用/分离单元928、记录/再现单元929、显示单元930和控制单元931。

移动电话920在包括音频通信模式、数据通信模式、成像模式和电视-电话模式的各种操作模式中,执行操作、比如发送/接收音频信号、发送/接收电子邮件或者图像数据、图像拍摄和记录数据。

在音频通信模式中,向音频编码解码器923供应麦克风925生成的模拟音频信号。音频编码解码器923将模拟音频信号转换成音频数据,并且转换的音频数据进行a/d转换以压缩。然后,音频编码解码器923向通信单元922输出压缩的音频数据。通信单元922对音频数据编码和调制以生成发送信号。然后,通信单元922经由天线921向基站(未图示)发送生成的发送信号。另外,通信单元922放大经由天线921接收的无线信号,并且向无线信号应用频率转换以获得接收信号。然后,通信单元922通过解调和解码接收信号来生成音频数据,并且向音频编码解码器923输出生成的音频数据。音频编码解码器923扩展音频数据并且d/a转换音频数据以生成模拟音频信号。然后,音频编码解码器923向扬声器924供应生成的音频信号以输出音频。

例如在数据通信模式中,控制单元931根据用户经由操作单元932的操作,生成组成电子邮件的字符数据。另外,控制单元931允许显示单元930显示字符。控制单元931根据经由操作单元932来自用户的传输指令生成电子邮件数据,以向通信单元922输出生成的电子邮件数据。通信单元922对电子邮件数据编码和调制以生成发送信号。然后,通信单元922经由天线921向基站(未图示)发送生成的发送信号。另外,通信单元922放大经由天线921接收的无线信号,并且向接收信号应用频率转换以获得接收信号。然后,通信单元922解调和解码接收信号以恢复电子邮件数据,并且向控制单元931输出恢复的电子邮件数据。控制单元931允许显示单元930显示电子邮件数据的内容,并且允许记录/再现单元929的存储介质存储电子邮件数据。

记录/再现单元929包括任意可读/可写存储介质。例如存储介质可以是内置存储介质、比如ram和闪存,并且可以是外部装配的存储介质、比如硬盘、磁盘、光磁盘、光盘、usb(未分配的空间位图)存储器和记忆卡。

例如在成像模式中,相机单元926拍摄物体的图像以生成图像数据,并且向图像处理器927输出生成的图像数据。图像处理器927对从相机单元926输入的图像数据编码,并且在记录/再现单元929的存储介质中存储编码流。

另外,例如在电视-电话模式中,复用/分离单元928复用图像处理器927编码的视频流和从音频编码解码器923输入的音频流,并且向通信单元922输出复用流。通信单元922对流编码和调制以生成发送信号。然后,通信单元922经由天线向基站(未示出)发送生成的发送信号。另外,通信单元922放大经由天线921接收的无线信号,并且向无线信号应用频率转换以获得接收信号。发送信号和接收信号可以包括编码比特流。然后,通信单元922通过解调和解码接收信号来恢复流,并且向复用/分离单元928输出恢复流。复用/分离单元928从输入流分离视频流和音频流,并且分别向图像处理器927和音频编码解码器923输出视频流和音频流。图像处理器927对视频流解码以生成视频数据。向显示单元930供应视频数据,并且显示单元930显示系列图像。音频编码解码器923扩展音频流并且d/a转换音频流以生成模拟音频信号。然后,音频编码解码器923向扬声器924供应生成的音频信号以输出音频。

在以这一方式配置的移动电话920中,图像处理器927具有根据以上描述的实施例的图像编码设备10和图像解码设备50的功能。因此,在移动电话920中对图像编码和解码时,可以抑制编码效率降低。

[第三应用示例:记录/再现装置]

图98图示以上描述的实施例应用于的记录/再现装置的示意配置的示例。记录/再现装置940例如对接收的广播节目的音频数据和视频数据编码,并且在记录介质上记录编码数据。另外,记录/再现装置940例如可以对从另一装置获得的音频数据和视频数据编码,并且在记录介质上记录编码数据。另外,记录/再现装置940根据用户的指令,通过监视器和扬声器再现在记录介质上记录的数据。在这一情况下,记录/再现装置940对音频数据和视频数据解码。

记录/再现装置940包括调谐器941、外部接口942、编码器943、hdd(硬盘驱动器)944、盘驱动器945、选择器946、解码器947、osd(屏上显示器)948、控制单元949和用户接口950。

调谐器941从经由天线(未图示)接收的广播信号提取所需频道的信号并且解调提取的信号。然后,调谐器941向选择器946输出通过解调而获得的编码比特流。也就是说,调谐器941用作记录/再现装置940中的发送装置。

外部接口942是用于连接记录/再现装置940和外部设备或者网络的接口。外部接口942可以例如是ieee1394接口、网络接口、usb接口、闪存接口等。例如向编码器943输入经由外部接口942接收的视频数据和音频数据。也就是说,外部接口942用作记录/再现装置940中的发送装置。

在从外部接口942输入的视频数据和音频数据未被编码时编码器943对视频数据和音频数据编码。然后,编码器943向选择器946输出编码比特流。

hdd944在内部硬盘上记录其中压缩内容数据、比如视频和音频的编码比特流、各种程序和其它数据。hdd944在再现视频和音频时从硬盘读取数据。

盘驱动器945在装配的记录介质上记录和从装配的记录介质读取数据。在盘驱动器945上装配的记录介质可以例如是dvd盘(dvd-视频、dvd-ram、dvd-r、dvd-rw、dvd+r、dvd+rw等)、蓝光(注册商标)盘等。

在记录视频和音频时,选择器946选择从调谐器941或者编码器943输入的编码比特流,并且向hdd944或者盘驱动器945输出选择的编码比特流。另外,在再现视频和音频时,选择器946向解码器947输出从hdd944或者盘驱动器945输入的编码比特流。

解码器947对编码比特流解码以生成视频数据和音频数据。然后,解码器947向osd948输出生成的视频数据。另外,解码器904向外部扬声器输出生成的音频数据。

osd948再现从解码器947输入的视频数据以显示视频。osd948也在显示的视频上叠加gui图像、例如比如菜单、按钮和光标。

控制单元949包括处理器如cpu以及存储器如ram和rom。存储器存储cpu执行的程序、程序数据等。在存储器中存储的程序例如在记录/再现装置940启动时由cpu读取以执行。cpu通过执行程序、例如根据从用户接口950输入的操作信号、控制记录/再现装置940的操作。

用户接口950连接到控制单元949。用户接口950例如包括用于用户操作记录/再现装置940的按钮和开关、以及遥控信号的接收器。用户接口950检测用户经由部件的操作以生成操作信号,并且向控制单元949输出生成的操作信号。

在以这一方式配置的记录/再现装置940中,编码器943具有根据以上描述的实施例的图像编码设备10的功能。另外,解码器947具有根据以上描述的实施例的图像解码设备50的功能。因此,在记录/再现装置940中对图像编码和解码时,可以抑制编码效率降低。

[第四应用示例:成像装置]

图99图示以上描述的实施例应用于的成像装置的示意配置的示例。成像装置960对物体成像以生成图像、对图像数据编码并且在记录介质上记录编码数据。

成像装置960包括光盘961、成像单元962、信号处理器963、图像处理器964、显示单元965、外部接口966、存储器967、介质驱动器968、osd969、控制单元970、用户接口917和总线972。

光学块961连接到成像单元962。成像单元962连接到信号处理器963。显示单元965连接到图像处理器964。用户接口971连接到控制单元970。总线972相互连接图像处理器964、外部接口966、存储器967、介质驱动器968、osd969和控制单元970。

光盘961包括聚焦透镜、振动膜机制等。光学块961在成像单元862的成像表面上形成对象的光学图像。成像单元962包括成像传感器、比如ccd(电荷耦合器件)和cmos(互补金属氧化物半导体),并且通过光电转换将在成像表面上形成的光学图像转换成图像信号作为电信号。然后,成像单元962向信号处理器963输出图像信号。

信号处理器963对从成像单元962输入的图像信号执行各种相机信号处理、比如拐点校正、伽马校正和色校正。信号处理器963向图像处理器964输出在相机信号处理之后的图像流数据。

图像处理器964对从信号处理器963输入的图像数据编码以生成编码数据。然后,图像处理器964向外部接口966或者介质驱动器968输出生成的编码数据。另外,图像处理器964对从外部接口966或者介质驱动器968输入的编码数据解码以生成图像数据。然后,图像处理器964向显示单元965输出生成的图像数据。图像处理器964也可以向显示单元965输出从信号处理器963输入的图像数据以显示图像。图像处理器964也可以在向显示单元965输出的图像上叠加从osd969获得的用于显示的数据。

osd969生成gui图像、如比如菜单、按钮和光标,并且向图像处理器964输出生成的图像。

外部接口966例如被配置为usb输入/输出端子。外部接口966例如在打印图像时连接成像装置960和打印机。另外,驱动器按照需要连接到外部接口966。可去除介质、比如磁盘和光盘例如装配于驱动器上,并且从可去除介质读取的程序可以安装于成像装置960上。另外,外部接口966可以被配置为连接到网络、比如lan和因特网的网络接口。也就是说,外部接口966用作成像装置960中的发送装置。

在介质驱动器968上装配的记录介质可以是任意可读/可写可去除介质、如比如磁盘、光磁盘、光盘和半导体存储器。另外,记录介质可以固定地装配于介质驱动器968上以形成非便携存储单元、如比如内置硬盘驱动器或者ssd(固态驱动器)。

控制单元970包括处理器如cpu以及存储器如ram和rom。存储器存储cpu执行的程序和程序数据。在存储器中存储的程序例如在成像装置960启动时由cpu读取执行。cpu例如通过执行程序、根据从用户接口971输入的操作信号、控制成像装置960的操作。

用户接口971连接到控制单元970。用户接口971例如包括用于用户操作成像装置960的按钮、开关等。用户接口971检测用户经由部件的操作以生成操作信号,并且向控制单元970输出生成的操作信号。

在以这一方式配置的成像装置960中,图像处理器964具有根据以上描述的实施例的图像编码设备10和图像解码设备50的功能。因此,在成像装置960中对图像编码和解码时,可以抑制编码效率降低。

在本说明书中,已经描述如下示例,在该示例中,向首部中复用并且从编码侧向解码侧发送各种类型的信息、比如阈值。然而发送这些信息项的方法不限于这一示例。例如可以发送或者记录这些信息项为与编码比特流关联的单独数据、而不是向编码比特流中复用。这里,术语“关联”意味着在比特流中包括的图像(或者图像的部分、比如切片和块)、和与图像对应的信息可以在解码时相互链接。也就是说,可以在传输线上发送除了图像(或者比特流)的信息之外的信息。另外,信息可以记录于除了图像(或者比特流)的记录介质之外的另一记录介质(或者相同记录介质的另一记录区域)上、另外,信息和图像(或者比特流)可以按照可选单位、例如比如多个帧、一帧或者帧的部分相互关联。

尽管已经参照附图具体描述本公开内容的优选实施例,但是本公开内容不限于实施例。本领域技术人员将容易理解:可以在未脱离如在权利要求中描述的技术精神实质时在实施例中进行的各种修改和改变。因而,所有这样的修改和改变旨在于包含于如在权利要求中限定的本公开内容的范围内。

本技术可以包括以下构成:

(1)一种图像处理设备,包括:

预测矢量生成单元,预测矢量生成单元在对在使用在视差方向上的相关性的预测中使用的当前块的当前视差矢量编码时,使用在生成预测运动矢量时参考的参考视差矢量来生成当前视差矢量的预测矢量;以及

差值矢量生成单元,差值矢量生成单元生成当前视差矢量与预测矢量生成单元生成的预测矢量之间的差值矢量。

(2)根据(1)的图像处理设备,其中:

预测矢量生成单元使用在与当前视图相同的视图的当前画面不同的时间的共同定位的画面中包括的共同定位的块的视差矢量,生成当前视差矢量的预测矢量。

(3)根据(2)的图像处理设备,其中:

预测矢量生成单元在当前块的矢量的特性与共同定位的块的矢量的特性相同时,设置共同定位的块为可用。

(4)根据(3)的图像处理设备,其中:

矢量的特性是矢量的类型,并且

预测矢量生成单元在当前块的矢量的特性是视差矢量并且共同定位的块的矢量的特性是视差矢量时,设置共同定位的块为可用。

(5)根据(3)或者(4)的图像处理设备,其中:

预测运动矢量生成单元使用指示画面的输出顺序的画面顺序计数poc,确定当前块的矢量的特性和共同定位的块的矢量的特性。

(6)根据(5)的图像处理设备,其中:

预测运动矢量生成单元使用当前画面的poc、从当前画面参考的当前参考画面的poc、共同定位的画面的poc和从共同定位的画面参考的共同定位的参考画面的poc,确定当前块的矢量的特性和共同定位的块的矢量的特性。

(7)根据(6)的图像处理设备,其中:

预测运动矢量生成单元在当前画面的poc与从当前画面参考的当前参考画面的poc相同、并且共同定位的画面的poc与从共同定位的画面参考的共同定位的参考画面的poc相同时,确定当前块的矢量的特性和共同定位的块的矢量的特性是视差矢量。

(8)根据(2)至(7)中的任一项的图像处理设备,其中:

预测矢量生成单元在当前块的矢量的特性与共同定位的块的矢量的特性不同时,设置共同定位的块为不可用。

(9)根据(8)的图像处理设备,其中:

矢量的特性是参考画面的类型,并且

预测矢量生成单元在当前块的参考画面的类型与共同定位的块的参考画面的类型不同时,设置共同定位的块为不可用。

(10)根据(8)或者(9)的图像处理设备,其中:

矢量的特性是参考画面的类型,并且

预测矢量生成单元在当前块的参考画面的类型是长参考类型并且共同定位的块的参考画面的类型是长参考类型时,略过搜索参考索引的搜索处理。

(11)根据(1)至(10)中的任一项的图像处理设备,其中:

预测矢量生成单元使用在与当前视图不同的视图的当前画面相同的时间的画面中包括的参考块的视差矢量,生成当前视差矢量的预测矢量。

(12)根据(1)至(11)中的任一的图像处理设备,其中:

预测矢量生成单元基于在当前画面与在生成预测运动矢量时参考的参考画面之间的位置关系缩放参考视差矢量,以生成当前视差矢量的预测矢量。

(13)根据(1)至(12)中的任一的图像处理设备,其中:

预测矢量生成单元在对在使用在时间方向上的相关性的预测中使用的当前块的当前运动矢量编码时,使用在生成预测运动矢量时参考的参考运动矢量来生成当前运动矢量的预测矢量,并且

差值矢量生成单元生成当前运动矢量与预测矢量生成单元生成的预测矢量之间的差值矢量。

(14)根据(13)的图像处理设备,其中:

预测矢量生成单元使用在与当前视图不同的视图的当前画面相同的时间的画面中包括的参考块的运动矢量,生成当前运动矢量的预测矢量。

(15)根据(13)或者(14)的图像处理设备,其中:

预测矢量生成单元使用在与当前视图相同的视图的当前画面不同的时间的画面中包括的参考块的运动矢量,生成当前运动矢量的预测矢量。

(16)根据(15)的图像处理设备,其中:

预测矢量生成单元基于当前画面与在生成预测运动矢量时参考的参考画面之间的位置关系来缩放参考运动矢量,以生成当前运动矢量的预测矢量。

(17)根据(1)至(16)中的任一项的图像处理设备,其中:

预测矢量生成单元在移位与当前视图不同的视图的当前画面相同的时间的画面的像素的位置的状态中,使用与位于当前块相同的位置的块的矢量来生成预测矢量。

(18)根据(17)的图像处理设备,其中:

预测矢量生成单元根据当前块的邻近区域的视差矢量,设置图像的移位量。

(19)根据(18)的图像处理设备,其中:

预测矢量生成单元使用其中在y方向上的视差矢量的值不是零的邻近块的在x方向上的视差矢量,作为移位量。

(20)根据(18)或者(19)的图像处理设备,其中:

预测矢量生成单元使用根据其中在y方向上的视差矢量的值不是零的多个邻近块的在x方向上的视差矢量计算的值,作为移位量。

(21)根据(20)的图像处理设备,其中:

预测矢量生成单元使用其中在y方向上的视差矢量的值不是零的多个邻近块的在x方向上的视差矢量的平均值或者中值,作为图像的移位量。

(22)根据(17)至(21)中的任一项的图像处理设备,其中:

预测矢量生成单元根据全局视差矢量设置图像的移位量。

(23)一种图像处理设备的图像处理方法,用于允许图像处理设备执行:

在对在使用在视差方向上的相关性的预测中使用的当前块的当前视差矢量编码时,使用在生成预测运动矢量时参考的参考视差矢量来生成当前视差矢量的预测矢量;并且

生成当前视差矢量与所生成的预测矢量之间的差值矢量。

(24)一种图像处理设备,包括:

预测矢量生成单元,预测矢量生成单元在对在使用在视差方向上的相关性的预测中使用的当前块的当前视差矢量解码时,使用在生成预测运动矢量时参考的参考视差矢量来生成当前视差矢量的预测矢量;以及

算术单元,算术单元执行将预测矢量生成单元生成的预测矢量和当前视差矢量与预测矢量之间的差值矢量相加的运算,以重建当前视差矢量。

(25)一种图像处理设备的图像处理方法,用于允许图像处理设备执行:

在对在使用在视差方向上的相关性的预测中使用的当前块的当前视差矢量解码时,使用在生成预测运动矢量时参考的参考视差矢量来生成当前视差矢量的预测矢量;并且

执行将所生成的预测矢量和当前视差矢量与预测矢量之间的差值矢量相加的运算,以重建当前视差矢量。

(26)一种图像处理设备,包括:

预测矢量生成单元,预测矢量生成单元在对在使用在时间方向上的相关性的预测中使用的当前块的当前运动矢量编码时,在当前块的参考画面的类型和在与当前画面不同的时间的共同定位的画面中包括的共同定位的块的参考画面的类型不同时,设置共同定位的块为不可用,并且使用在生成预测运动矢量时参考的参考运动矢量来生成当前运动矢量的预测矢量;以及

差值矢量生成单元,差值矢量生成单元生成当前运动矢量与预测矢量生成单元生成的预测矢量之间的差值矢量。

(27)一种图像处理设备的图像处理方法,用于允许图像处理设备执行:

在对在使用在时间方向上的相关性的预测中使用的当前块的当前运动矢量编码时,在当前块的参考画面的类型和在与当前画面不同的时间的共同定位的画面中包括的共同定位的块的参考画面的类型不同时,设置共同定位的块为不可用,并且使用在生成预测运动矢量时参考的参考运动矢量来生成当前运动矢量的预测矢量;并且

生成当前运动矢量与所生成的预测矢量之间的差值矢量。

附图标记列表

100图像编码设备

115运动视差预测/补偿单元

121多视图解码画面缓冲器

131运动视差矢量搜索单元

132预测图像生成单元

133编码信息累积缓冲器

134选择器

135空间相关性预测矢量生成单元

136时间视差相关性预测矢量生成单元

137选择器

138编码成本计算单元

139模式确定单元

151当前区域处理器

152相关性区域处理器

153l1预测处理器

154l0预测处理器

155方案1处理器

156方案2处理器

157方案3处理器

158方案4处理器

159预测矢量生成单元

300图像解码设备

312运动视差补偿单元

321解码多视图画面缓冲器

331编码信息累积缓冲器

332空间相关性预测矢量生成单元

333时间视差相关性预测矢量生成单元

334选择器

335算术单元

336预测图像生成单元

400图像编码设备

415模式预测/补偿单元

421基本视图编码器

433,434矢量预测单元

457基于不同画面的预测矢量生成单元

471视差矢量确定单元

472视图间参考矢量生成单元

473视图内参考矢量生成单元

500图像解码设备

512运动补偿单元

521基本视图解码器

533,534矢量解码单元

553基于不同画面的预测矢量生成单元

571视差矢量确定单元

572视图间参考矢量生成单元

573视图内参考矢量生成单元

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1