使用深度块的多层视频编码方法和多层视频解码方法与流程

本公开涉及多层视频编码方法和多层视频解码方法。

背景技术：

随着开发和供应用于播放和存储高分辨率或高质量视频内容的硬件，针对用于将高分辨率或高质量视频内容高效编码或解码的视频编解码器的需求逐渐增长。根据传统的视频编解码器，基于具有预定尺寸的宏块来根据有限编码方法对视频进行编码。

经由频率转换将空间域的图像数据转换成频域的系数。根据视频编解码器，将图像分割成具有预定尺寸的块，在每个块上执行离散余弦变换(DCT)，并且以块为单位对频率系数进行编码，从而快速计算频率转换。与空间域的图像数据相比，频域的系数容易压缩。具体而言，由于根据视频编解码器的帧间预测或帧内预测的预测误差来表达空间域的图像像素值，因此，当在预测误差上执行频率转换时，可将大量的数据转换成0。根据视频编解码器，可通过用小尺寸的数据替换连续重复生成的数据来减少数据量。

多层视频编解码器对第一层视频和至少一个第二层视频进行编码和解码。通过去除第一层视频和第二层视频的时间/空间冗余和层冗余，可减少第一层视频和第二层视频的数据量。

技术实现要素：

技术问题

本公开提供使用层的类型信息的高效多层视频编码和解码方法。

技术方案

根据本公开的一方面，提供多层视频解码方法，该方法包括：获取当前块的视差(disparity)矢量；以及在当前块的尺寸大于预定块尺寸时，基于由视差矢量表示的深度块的区域分割形状来将当前块分割成多个区域。

预定块尺寸可以是4×4、8×8、16×16、32×32和64×64中的一种。

有益效果

根据本公开，可通过使用层的类型信息对多层视频进行高效编码和解码。

附图说明

图1A是根据实施方式的多层视频编码设备的框图。

图1B是根据实施方式的多层视频编码方法的流程图。

图1C是根据另一实施方式的多层视频编码方法的流程图。

图1D是根据另一实施方式的多层视频编码方法的流程图。

图2A是根据实施方式的多层视频解码设备的框图。

图2B是根据实施方式的多层视频解码方法的流程图。

图2C是根据另一实施方式的多层视频解码方法的流程图。

图2D是根据另一实施方式的多层视频解码方法的流程图。

图3A是根据实施方式的层间预测结构的示意图。

图3B示出根据实施方式的多层视频。

图4A是用于描述根据实施方式的当前块的视差矢量的示意图。

图4B示出根据实施方式的通过使用当前块的空间上相邻的候选块来获取视差矢量的示例。

图4C示出根据实施方式的通过使用当前块的时间上相邻的候选块来获取视差矢量的示例。

图4D示出根据实施方式的通过使用深度图片来获取当前块的视差矢量的示例。

图5示出根据实施方式的通过使用与当前块对应的深度块来分割当前块的示例。

图6是根据实施方式的通过考虑当前块的尺寸来确定是否执行基于深度的块分区(DBBP)功能的方法的流程图。

图7A示出根据实施方式的用于通过考虑当前块的尺寸来确定是否执行DBBP的句构的示例。

图7B示出根据另一实施方式的用于通过考虑当前块的尺寸来确定是否执行DBBP的句构的示例。

图8A示出根据实施方式的执行残余预测的示例。

图8B示出根据另一实施方式的执行残余预测的示例。

图9是根据实施方式的通过考虑当前块的尺寸来确定是否执行残余预测的方法的流程图。

图10是根据实施方式的基于根据树形结构的编码单元的视频编码设备的框图。

图11是根据实施方式的基于根据树形结构的编码单元的视频解码设备的框图。

图12是用于描述根据实施方式的编码单元的概念的示意图。

图13是根据实施方式的基于编码单元的图像编码器的框图。

图14是根据实施方式的基于编码单元的图像解码器的框图。

图15是示出根据实施方式的编码单元和分区的示意图。

图16是用于描述根据实施方式的编码单元与变换单元之间的关系的示意图。

图17示出根据实施方式的多项编码信息。

图18是根据实施方式的根据深度的较深编码单元的示意图。

图19、图20和图21是用于描述根据实施方式的编码单元、预测单元与变换单元之间的关系的示意图。

图22是用于描述根据表1的编码模式信息的编码单元、预测单元与变换单元之间的关系的示意图。

图23是根据实施方式的存储有程序的盘片的物理结构的示意图。

图24是用于通过使用盘片来记录和读取程序的盘片驱动器的示意图。

图25是用于提供内容分发服务的内容供应系统的整体结构的示意图。

图26和图27示出根据实施方式的应用本公开的视频编码方法和视频解码方法的移动电话的外部结构和内部结构。

图28示出根据实施方式的采用通信系统的数字广播系统。

图29是示出根据实施方式的使用视频编码设备和视频解码设备的云计算系统的网络结构的示意图。

实施本发明的最佳方式

根据本公开的第一方面，提供多层视频解码方法，其包括：获取当前块的视差矢量；以及在当前块的尺寸大于预定块尺寸时，基于由视差矢量表示的深度块的区域分割形状来将当前块分割成多个区域。

预定块尺寸可以是4×4、8×8、16×16、32×32和64×64中的一个。

将当前块分割成多个区域可包括根据深度块被分割成多个子块所依据的形状来将当前块分割成当前块的子块。

根据本公开的第二方面，提供多层视频解码方法，其包括：确定当前块的一个或多个相邻候选块；获取所确定的一个或多个相邻候选块之中的至少一个块的视差矢量；将所获取的视差矢量确定为当前块的视差矢量；通过使用所确定的视差矢量来确定与当前块对应的深度块；以及基于深度块的区域分割形状来将当前块分割成多个区域。

根据本公开的第三方面，提供多层视频解码方法，其包括：获取当前块的视差矢量；获取由当前块的视差矢量表示的参考块的残余分量；以及在当前块的尺寸大于预定尺寸时，通过使用所获取的参考块的残余分量来预测当前块的残余分量。

预定尺寸可以是4×4、8×8、16×16、32×32和64×64中的一个。

根据本公开的第四方面，提供多层视频编码方法，其包括：获取当前块的视差矢量；以及在当前块的尺寸大于预定块尺寸时，基于由视差矢量表示的深度块的区域分割形状来将当前块分割成多个区域。

预定块尺寸可以是4×4、8×8、16×16、32×32和64×64中的一个。

将当前块分割成多个区域可包括根据深度块被分割成多个子块所依据的形状来将当前块分割成当前块的子块。

根据本公开的第五方面，提供多层视频编码方法，其包括：确定当前块的相邻候选块；获取所确定的相邻候选块的视差矢量；将获取的视差矢量确定为当前块的视差矢量；通过使用所确定的视差矢量来确定与当前块对应的深度块；以及基于深度块的区域分割形状来将当前块分割成多个区域。

根据本公开的第六方面，提供多层视频编码方法，其包括：获取当前块的视差矢量；获取由当前块的视差矢量表示的参考块的残余分量；以及在当前块的尺寸大于预定尺寸时，通过使用所获取的参考块的残余分量来预测当前块的残余分量。

预定尺寸可以是4×4、8×8、16×16、32×32和64×64中的一个。

根据本公开的第七方面，提供多层视频解码设备，其包括：解码器，所述解码器被配置成获取当前块的视差矢量，以及在当前块的尺寸大于预定块尺寸时，基于由视差矢量表示的深度块的区域分割形状来将当前块分割成多个区域。

预定块尺寸可以是4×4、8×8、16×16、32×32和64×64中的一个。

解码器可还被配置成在解码器将当前块分成多个区域时，根据深度块被分割成多个子块所依据的形状来将当前块分割成当前块的子块。

根据本公开的第八方面，提供多层视频编码设备，其包括：编码器，所述编码器被配置成获取当前块的视差矢量，以及在当前块的尺寸大于预定块尺寸时，基于由视差矢量表示的深度块的区域分割形状来将当前块分割成多个区域。

预定块尺寸可以是4×4、8×8、16×16、32×32和64×64中的一个。

编码器可还被配置成在编码器将当前块分成多个区域时，根据深度块被分割成多个子块所依据的形状来将当前块分割成当前块的子块。

具体实施方式

在下文中，将参考图1A到图9提供根据实施方式的使用深度块的多层视频编码技术和多层视频解码技术。

此外，将参考图10到图22描述基于适用于多层视频编码和解码技术的、具有树形结构的编码单元的视频编码技术和视频解码技术。

此外，将参考图23到图29描述适合使用视频编码方法和视频解码方法的实施方式。

在下文中，“图像”可指的是静态图像或视频的移动图像，或者视频本身。

在下文中，“样本”指的是分配到图像的采样位置并且将进行处理的数据。例如，空间域的图像中的像素可以是样本。

在下文中，“当前块”可指的是将被编码或解码的图像的块。

在下文中，“相邻候选块”指的是与当前块相邻的至少一个编码块或解码块。例如，相邻候选块可位于当前块的顶部、右上角、左侧或者左上角。此外，相邻候选块可包括空间上相邻的块或时间上相邻的块。例如，时间上相邻的候选块可包括与当前块共位的参考图片的块，或者共位的块的相邻块。

在下文中，“层图像”指的是与特定视点或相同类型对应的图像。在多视点视频中，一层图像指的是以特定视点输入的纹理图像或深度图像。例如，在三维(3D)视频中，左视点纹理图像、右视点纹理图像和深度图像可分别配置层图像。左视点纹理图像可配置第一层图像，右视点纹理图像可配置第二层图像，以及深度图像可配置第三层图像。

图1A是根据实施方式的多层视频编码设备的框图。

参考图1A，多层视频编码设备10可包括编码器12和比特流生成器14。

根据实施方式的多层视频编码设备10可根据层而将多个图像序列分类并且根据可伸缩视频编码方案对该多个图像序列进行编码，而且可输出包括根据层进行编码的数据的单独流。多层视频编码设备10可将第一层图像序列和第二层图像序列编码到不同层。

例如，编码器12可对第一层图像进行编码，并且可输出包括第一层图像的编码数据的第一层流。此外，编码器12可对第二层图像进行编码，并且可输出包括第二层图像的编码数据的第二层流。

此外，例如，根据基于空间可伸缩性的可伸缩视频编码方案，低分辨率图像可被编码为第一层图像，而高分辨率图像可被编码为第二层图像。第一层图像的编码结果可输出为第一层流，而第二层图像的编码结果可输出为第二层流。

根据实施方式的多层视频编码设备10可通过多路复用器将第一层流和第二层流表达并编码成一个比特流。

作为另一示例，多视点视频可根据可伸缩视频编码方案进行编码。左视点图像可被编码为第一层图像，而右视点图像可被编码为第二层图像。或者，中部视点图像、左视点图像和右视点图像可均被编码，其中中部视点图像被编码为第一层图像、左视点图像被编码为第二层图像，并且右视点图像被编码为第三层图像。或者，中部视点纹理图像、中部视点深度图像、左视点纹理图像、左视点深度图像、右视点纹理图像和右视点深度图像可分别被编码为第一层图像、第二层图像、第三层图像、第四层图像、第五层图像和第六层图像。

作为另一示例，中部视点纹理图像、中部视点深度图像、左视点深度图像、左视点纹理图像、右视点深度图像和右视点纹理图像可分别被编码为第一层图像、第二层图像、第三层图像、第四层图像、第五层图像和第六层图像。

作为另一示例，可根据基于时间可伸缩性的时间分层预测来执行可伸缩视频编码方法。可输出第一层流，所述第一层流包括通过对基本帧率图像进行编码而生成的编码信息。时间层次可根据帧率进行分类，并且每个时间层次可根据层进行编码。通过参考基本帧率图像来对较高帧率图像进一步编码，可输出第二层流，所述第二层流包括高帧率的编码信息。

此外，可在第一层和多个延伸层(第二层、第三层、……、第K层)上执行可伸缩视频编码。当存在至少三个延伸层时，第一层图像和第K层图像可进行编码。因此，第一层图像的编码结果可输出为第一层流，并且第一层图像、第二层图像、……、第K层图像的编码结果可分别输出为第一层流、第二层流、……、第K层流。

根据实施方式的多层视频编码设备10可执行帧间预测，其中参考单个层的图像来预测当前图像。通过执行帧间预测，可推导出当前图像与参考图像之间的运动矢量，并且可生成残余分量，所述残余分量是当前图像与通过参考参考图像而生成的预测图像之间的视差分量。

此外，当根据实施方式的多层视频编码设备10允许至少三个层，即，第一层到第三层时，可根据多层预测结构来执行第一层图像与第三层图像之间的层间预测，以及第二层图像与第三层图像之间的层间预测。

在层间预测中，在当前图像的层的视点不同于参考图像的层的视点时，可推导出当前图像与不同于当前图像的层的参考图像之间的视差矢量，并且可生成残余分量，所述残余分量是当前图像与通过使用不同层的参考图像而生成的预测图像之间的视差分量。此处，视差矢量(disparity vector)可被称为视觉差矢量(parallax vector)。

下文将参考图3A描述层间预测结构。

根据实施方式的多层视频编码设备10可根据层来执行根据视频的每个图像的块的编码。块可具有正方形形状、矩形形状或任意几何形状，并且不限于具有预定尺寸的数据单元。在根据树形结构的编码单元之中，所述块可以是最大编码单元、编码单元、预测单元或变换单元。包括树形结构的编码单元的最大编码单元可有不同的称谓，诸如，编码树单元、编码块树、块树、根块树、编码树、编码根或树干。下文将参考图8到图20描述基于根据树形结构的编码单元的视频编码和解码方案。

帧间预测和层间预测可基于数据单元(诸如，编码单元、预测单元或变换单元)执行。

根据实施方式的编码器12可通过在第一层图像上执行包括帧间预测或帧内预测的源编码操作来生成符号数据。符号数据可包括每个编码参数的值和残余的样本值。

例如，编码器12可通过在第一层图像的数据单元的样本上执行帧间预测或帧内预测、变换和量化来生成符号数据，并且可通过在符号数据上执行熵编码来生成第一层流。

编码器12可基于树形结构的编码单元对第二层图像进行编码。编码器12可通过在第二层图像的编码单元的样本上执行帧间/帧内预测、变换和量化来生成符号数据，并且可通过在符号数据上执行熵编码来生成第二层流。

根据实施方式的编码器12可执行层间预测，其中通过第一层图像的预测信息来预测第二层图像。为了通过层间预测结构对来自第二层图像序列的第二层原始图像进行编码，编码器12可通过使用重建的第一层图像的运动信息来确定第二层当前图像的运动信息，并且可通过基于确定的运动信息生成第二层预测图像来对第二层原始图像与第二层预测图像之间的预测误差进行编码。

编码器12可通过根据编码单元或预测单元在第二层图像上执行层间预测来确定将由第二层图像的块参考的第一层图像的块。例如，可确定位于与第二层图像中的当前块的位置对应的位置的第一层图像的重建块。编码器12可将与第二层块对应的重建第一层块用作第二层预测块。此处，编码器12可通过使用与第二层块共位的重建的第一层块来确定第二层预测块。

编码器12可使用根据层间预测结构通过使用重建的第一层块而确定的第二层预测块作为参考图像，以对第二层原始块进行层间预测。编码器12可通过使用重建的第一层块在第二层预测块的样本值与第二层原始块的样本值之间的误差(即，根据层间预测的残余分量)上执行变换和量化，并且可在量化的变换系数上执行熵编码。

编码器12可确定当前块的视差矢量。

当前块的视差矢量可根据相邻候选块或深度值进行确定。视差矢量可包括相邻块视差矢量(NBDV)和面向深度的NBDV(DoNBDV)。就这点而言，NBDV可指的是通过使用从当前块的相邻候选块中获取的视差矢量来预测的当前块的视差矢量。

此外，当不同层图像中存在解码的深度图像时，可通过使用NBDV来确定与当前块对应的深度块。就这点而言，将相机参数(例如，考虑到相机位置的缩放值或偏移值)应用于所确定的深度块中包括的深度值之中的代表性深度值，从而可将代表性深度值转换成视差矢量。在这种情况下，DoNBDV可指的是通过使用转换的视差矢量来预测的当前块的视差矢量。

编码器12可确定当前块的视差矢量等于NBDV，即，当前块的相邻候选块的视差矢量。

或者，编码器12可通过使用相邻候选块的视差矢量来推导出当前块的视差矢量。例如，编码器12可将相机参数应用于NBDV(即，相邻候选块的视差矢量)，因而可推导出DoNBDV(即，当前块的视差矢量)。

当编码器12确定当前块的视差矢量时，编码器12可通过使用所确定的视差矢量来确定与当前块对应的深度块，并且可执行基于深度的块分区(DBBP)功能，以基于所确定的深度块将当前块分区。根据DBBP，可基于与当前块对应的深度块将当前块分区成背景区段和前景区段，并且可在每个区段上执行预测。

编码器12可获取当前块的尺寸，并且在当前块的尺寸大于预定尺寸时，编码器12可应用DBBP功能。换言之，在当前块的尺寸等于或小于预定尺寸时，编码器12可不执行DBBP功能。例如，在当前块的尺寸大于8×8时，编码器12可执行DBBP功能。

或者，在当前块的尺寸大于4×4、16×16、32×32和64×64中的一个时，编码器12可执行DBBP功能。

为了执行DBBP功能，编码器12可将由当前块的视差矢量表示的深度块确定为与当前块对应的深度块。

编码器12可将所确定的深度块分割成多个区域。例如，编码器12可将深度块分割成第一区域和第二区域，其中第一区域是样本值均大于阈值的样本的区域，并且第二区域是样本值均等于或小于阈值的样本的区域。

编码器12可基于与当前块对应的深度块的分割形状来将当前块分割成多个区域。例如，如果与当前块对应的深度块被分割成第一区域和第二区域，那么编码器12可通过将第一区域和第二区域与当前块进行匹配来将当前块分割成两个区域。

编码器12可通过使用多个分割区域而在当前块上执行运动预测(或视差预测)。

例如，编码器12可确定当前块的所分割的两个区域中的每个区域的运动矢量(或视差矢量)。编码器12可确定分别表示两个区域的参考块的运动矢量(或视差矢量)，并且可通过使用参考块而在当前块的两个区域中的每个区域上执行运动补偿(或视差补偿)。

此外，在当前块的视差矢量被确定后，编码器12可通过使用所确定的视差矢量来在当前块上执行残余预测。

残余预测是根据参考块的残余分量来预测当前块的残余分量的技术，所述参考块与当前块对应并且存在于以不同于当前块的视点或时间输入的图像中。

例如，当编码器12执行时间方向预测时，编码器12可通过使用由与当前块的不同视点对应的参考块表示的块的残余分量来在当前块上执行残余预测。或者，当编码器12执行视点间预测时，编码器12可通过使用由与当前块的相同视点相同的视点对应的参考块表示的块的残余分量来预测当前块的残余分量。

就这点而言，在当前块的尺寸大于块的预定尺寸时，编码器12可执行残余预测。换言之，在当前块的尺寸等于或小于预定尺寸时，编码器12可不执行残余预测。例如，在当前块的尺寸大于8×8时，编码器12可执行残余预测。

或者，在当前块的尺寸大于4×4、16×16、32×32和64×64中的一个时，编码器12可执行残余预测。

比特流生成器14可生成比特流，所述比特流包括作为执行运动预测和残余预测中的至少一个预测的结果而生成的多项数据。

在下文中，现在将参考图1A到图1D详细描述多层视频编码设备10的操作。

图1B是根据实施方式的多层视频编码方法的流程图。

在操作S11中，多层视频编码设备10可以确定可从当前块的相邻块中引用的相邻候选块。可从一个或多个相邻候选块中确定一个将用于预测的相邻候选块。

在操作S12中，多层视频编码设备10可获取所确定的相邻块的视差矢量。

多层视频编码设备10可使用当前块的空间相邻候选块或时间相邻候选块作为当前块的相邻候选块。视差矢量可从将用于预测的相邻候选块中获取，该相邻候选块来自多个相邻候选块。下文将在图4A到图4D中参照多层视频解码设备20详细描述获取视差矢量的方法，该方法由多层视频编码设备10执行。

在操作S13中，多层视频编码设备10可将所获取的相邻候选块的视差矢量确定为当前块的视差矢量。换言之，多层视频编码设备10可将当前块的视差矢量确定为等于NBDV，即，相邻候选块的视差矢量。

在操作S14中，多层视频编码设备10可通过使用所确定的视差矢量来确定与当前块对应的深度块。例如，多层视频编码设备10可将由视差矢量表示的深度图片的参考块确定为与当前块对应的深度块。

在操作S14中，可根据所确定的深度块的区域分割形状来将当前块分割成多个区域。图1C是根据另一实施方式的多层视频编码方法的流程图。

在操作S21中，多层视频编码设备10可获取当前块的视差矢量。

在操作S22中，在当前块的尺寸大于预定尺寸时，多层视频编码设备10可基于由视差矢量表示的深度块来将当前块分割成多个区域。例如，在当前块的尺寸大于预定尺寸时，多层视频编码设备10可应用DBBP功能。换言之，在当前块的尺寸等于或小于预定尺寸时，多层视频编码设备10可不执行DBBP功能。就这点而言，块的预定尺寸可以是8×8。

或者，块的预定尺寸可以是4×4、16×16、32×32和64×64中的一个。

下文将在图5到图7B中参照多层视频解码设备20详细描述基于由视差矢量表示的深度块来将当前块分割成多个区域的方法，该方法由多层视频编码设备10执行。

图1D是根据另一实施方式的多层视频编码方法的流程图。

在操作S31中，多层视频编码设备10可获取当前块的视差矢量。

在操作S32中，多层视频编码设备10可获取由当前块的视差矢量表示的参考块的残余分量。在操作S33中，在当前块的尺寸大于预定尺寸时，多层视频编码设备10可通过使用参考块的残余分量来预测当前块的残余分量。换言之，在当前块的尺寸等于或小于预定尺寸时，多层视频编码设备10可不执行残余预测。例如，在当前块的尺寸大于8×8时，多层视频编码设备10可执行残余预测。

或者，在当前块的尺寸大于4×4、16×16、32×32和64×64中的一个时，多层视频编码设备10可执行残余预测。

下文将在图8A到图9中参照多层视频解码设备20详细描述通过使用参考块的残余分量来预测当前块的残余分量的方法，该方法由多层视频编码设备10执行。

多层视频编码设备10可通过使用参考块的残余分量来预测当前块的残余分量，并且可对当前块的残余分量与参考块的残余分量之间的差异进行编码。

图2A是根据实施方式的多层视频解码设备的框图。

参考图2A，多层视频解码设备20可包括获取器22和解码器24。

根据实施方式的多层视频解码设备20可根据层来从比特流中解析出符号。

基于空间可伸缩性的多层视频解码设备20可接收流，其中具有不同分辨率的图像序列被编码在不同层中。第一层流可经过解码以重建具有低分辨率的图像序列，并且第二层流可经过解码以重建具有高分辨率的图像序列。

作为另一示例，多视点视频可根据可伸缩视频编码方案进行解码。当将立体视觉视频流解码到多个层时，可对第一层流进行解码以重建左视点图像。除了第一层流之外还有第二层流可进一步进行解码，以重建右视点图像。

或者，当将多视点视频流解码到多个层时，可对第一层流进行解码以重建中部视点图像。除了第一层流之外还有第二层流可进一步进行解码，以重建左视点图像。除了第一层流之外还有第三层流可进一步进行解码，以重建右视点图像。

作为另一示例，可执行基于时间可伸缩性的可伸缩视频编码方法。第一层流可经过解码以重建基本帧率图像。第二层流可进一步进行解码以重建高帧率图像。

此外，当存在至少三个第二层时，可由第一层流重建第一层图像，并且当通过参考重建的第一层图像对第二层流进一步解码时，可进一步重建第二层图像。当通过参考重建的第二层图像对第K层流进一步解码时，可进一步重建第K层图像。

多层视频解码设备20可从第一层流和第二层流中获取第一层图像和第二层图像的编码数据，此外，可进一步获取通过帧间预测生成的运动矢量和通过层间预测生成的预测信息。

例如，多层视频解码设备20可对每层的帧间预测数据进行解码，并且可对多个层之间的层间预测数据进行解码。重建可基于编码单元或预测单元通过运动补偿和层间视频解码来执行。

图像可通过相对于每个层流参考经由相同层的帧间预测所预测出的重建图像针对当前图像执行运动补偿来重建。运动补偿是这样一种操作，其中通过合成使用当前图像的运动矢量和当前图像的残余分量而确定的参考图像来重新配置当前图像的重建图像。

此外，多层视频解码设备20可通过参考第一层图像的预测信息来执行层间视频解码，从而对通过层间预测预测到的第二层图像进行解码。层间视频解码是这样一种操作，其中通过使用不同层的参考块的预测信息来重建当前图像的运动信息，从而确定当前图像的运动信息。

根据实施方式的多层视频解码设备20可执行层间视频解码，从而重建通过使用第二层图像而预测出的第三层图像。下文将参考图3A描述层间预测结构。

然而，根据实施方式的解码器24可在不参考第一层图像序列的情况下对第二层流进行解码。因此，不应被限制性地解释为：解码器24执行层间预测以对第二层图像序列进行解码。

多层视频解码设备20根据视频的每个图像的块来执行解码。在根据树形结构的编码单元之中，块可以是最大编码单元、编码单元、预测单元或变换单元。

获取器22可接收比特流，并且可从所接收的比特流中获取与编码的图像有关的信息。

解码器24可通过使用第一层图像的经解析编码的符号来对第一层图像进行解码。当多层视频解码设备20接收到基于树形结构的编码单元进行编码的流时，解码器24可根据第一层流的最大编码单元基于树形结构的编码单元来执行解码。

解码器24可通过对每个最大编码单元执行熵解码来获取编码信息和编码数据。解码器24可通过在从流中获取的编码数据上执行反量化和逆变换来重建残余分量。根据另一实施方式的解码器24可直接接收经量化的变换系数的比特流。可通过在经量化的变换系数上执行反量化和逆变换来重建图像的残余分量。

解码器24可通过相同层图像之间的运动补偿来确定预测图像，并且可通过将预测图像和残余分量相结合来重建第一层图像。

根据层间预测结构，解码器24可通过使用重建的第一层图像的样本来生成第二层预测图像。解码器24可通过对第二层流进行解码来获取根据层间预测的预测误差。解码器24可通过将第二层预测图像和预测误差相结合来生成重建的第二层图像。

解码器24可通过使用由解码器24解码的重建第一层图像来确定第二层预测图像。根据层间预测结构，解码器24可确定将由第二层图像的编码单元或预测单元参考的第一层图像的块。例如，与第二层图像的当前块共位的第一层图像的重建块。解码器24可通过使用与第二层块对应的重建第一层块来确定第二层预测块。解码器24可通过使用与第二层块共位的重建第一层块来确定第二层预测块。

解码器24可使用根据层间预测结构通过使用重建第一层块而确定的第二层预测块作为第二层原始块的层间预测的参考图像。在这种情况下，解码器24可通过合成根据层间预测使用重建的第一层图像和残余分量而确定的第二层预测块的样本值来重建第二层块。

上述解码器24可确定当前块的视差矢量。

解码器24可通过使用NBDV(即，当前块的相邻候选块的视差矢量)来确定当前块的视差矢量。

或者，解码器24可通过使用相邻候选块的视差矢量来推导出当前块的视差矢量。例如，解码器24可将相机参数应用于NBDV(即，相邻候选块的视差矢量)，因而可推导出DoNBDV(即，当前块的视差矢量)。

在当前块的视差矢量被确定后，编码器24可通过使用所确定的视差矢量来执行DBBP功能，以分割当前块。

就这点而言，在当前块的尺寸大于预定尺寸时，解码器24可应用DBBP功能。换言之，在当前块的尺寸等于或小于预定尺寸时，解码器24可不执行DBBP功能。例如，在当前块的尺寸大于8×8时，解码器24可执行DBBP功能。

或者，在当前块的尺寸大于4×4、16×16、32×32和64×64中的一个时，解码器24可执行DBBP功能。

根据DBBP功能，解码器24可将由当前块的视差矢量表示的深度块确定为与当前块对应的深度块。

解码器24可将所确定的深度块分割成多个区域，并且可基于深度块的分割形状将当前块分割成多个区域。

解码器24可通过使用多个分割区域而在当前块上执行运动预测。例如，解码器24可确定当前块的所分割的两个区域中的每个区域的运动矢量(或视差矢量)。解码器24可通过使用所确定的运动矢量来确定两个区域的参考块，并且可通过使用所确定的参考块而在当前块的两个区域中的每个区域上执行运动补偿(或视差补偿)。

此外，在当前块的视差矢量被确定后，解码器24可通过使用所确定的视差矢量来在当前块上执行残余预测。

根据残余预测，可从参考块的残余分量中预测当前块的残余分量，所述参考块与当前块对应并且存在于以不同于当前块的视点或时间输入的图像中。

例如，当解码器24执行时间方向预测时，解码器24可通过使用由与当前块的相同视点对应的参考块表示的块的残余分量来在当前块上执行残余预测。例如，当解码器24执行视点间预测时，解码器24可通过使用由与当前块的不同视点对应的参考块表示的块的残余分量来在当前块上执行残余预测。

就这点而言，在当前块的尺寸大于预定尺寸时，解码器24可执行残余预测。换言之，在当前块的尺寸等于或小于预定尺寸时，解码器24可不执行残余预测。例如，在当前块的尺寸大于8×8时，解码器24可执行残余预测。

或者，在当前块的尺寸大于4×4、16×16、32×32和64×64中的一个时，解码器24可执行残余预测。

解码器24可通过执行运动预测和残余预测中的至少一个预测来对当前块进行解码。

在下文中，现在下文将参考图2B到图2D详细描述多层视频解码设备20的操作。

图2B是根据实施方式的多层视频解码方法的流程图。

在操作S41中，多层视频解码设备20可以确定可从当前块的相邻块中引用的相邻候选块。可从一个或多个相邻候选块中确定一个将用于预测的相邻候选块。

在操作S42中，多层视频解码设备20可获取所确定的相邻块的视差矢量。

多层视频解码设备20可使用当前块的空间相邻候选块或时间相邻候选块作为当前块的相邻候选块。视差矢量可从将用于预测的相邻候选块中获取，该相邻候选块来自多个相邻候选块。下文将参考图4A到图4D详细描述获取视差矢量的方法，该方法由多层视频解码设备20执行。

在操作S43中，多层视频解码设备20可将所获取的相邻候选块的视差矢量确定为当前块的视差矢量。换言之，多层视频解码设备20可将当前块的视差矢量确定为等于NBDV，即，相邻候选块的视差矢量。

在操作S44中，多层视频解码设备20可通过使用所确定的视差矢量来确定与当前块对应的深度块。例如，多层视频解码设备20可将由视差矢量表示的深度图片的参考块确定为与当前块对应的深度块。

图2C是根据另一实施方式的多层视频解码方法的流程图。

在操作S51中，多层视频解码设备20可获取当前块的视差矢量。

在操作S52中，在当前块的尺寸大于预定尺寸时，多层视频解码设备20可基于由视差矢量表示的深度块来将当前块分割成多个区域。例如，在当前块的尺寸大于预定尺寸时，多层视频解码设备20可应用DBBP功能。换言之，在当前块的尺寸等于或小于预定尺寸时，多层视频解码设备20可不执行DBBP功能。就这点而言，块的预定尺寸可以是8×8。

或者，块的预定尺寸可以是4×4、16×16、32×32和64×64中的一个。

下文将参考图5到图7B详细描述基于由视差矢量表示的深度块来将当前块分割成多个区域的方法，该方法由多层视频解码设备20执行。

图2D是根据另一实施方式的多层视频解码方法的流程图。

在操作S61中，多层视频解码设备20可获取当前块的视差矢量。

在操作S62中，多层视频解码设备20可获取与当前块对应的参考块的残余分量。在操作S63中，在当前块的尺寸大于预定尺寸时，多层视频解码设备20可通过使用参考块的残余分量来预测当前块的残余分量。换言之，在当前块的尺寸等于或小于预定尺寸时，多层视频解码设备20可不执行残余预测。例如，在当前块的尺寸大于8×8时，多层视频解码设备20可执行残余预测。

或者，在当前块的尺寸大于4×4、16×16、32×32和64×64中的一个时，多层视频解码设备20可执行残余预测。

下文将参考图8A到图9详细描述通过使用参考块的残余分量来预测当前块的残余分量的方法，该方法由多层视频解码设备20执行。

图3A是根据实施方式的层间预测结构的示意图。

根据实施方式的多层视频编码设备10可根据图3A的多视点视频预测结构的播放顺序50对基本视点图像、左视点图像和右视点图像进行预测编码。

根据实施方式，基本视点图像、左视点图像和右视点图像可分别与不同层的图像对应。例如，基本视点可与第一层对应，左视点可与第二层对应，并且右视点可与第三层对应。

根据依据相关技术的多视点视频预测结构的播放顺序50，与相同视点对应的图像布置在水平方向上。因此，由“左”表示的左视点图像在水平方向上布置成行，由“中部”表示的基本视点图像在水平方向上布置成行，并且由“右”表示的右视点图像在水平方向上布置成行。与左/右视点图像相比，基本视点图像可以是中部视点图像。

此外，具有相同图片序列号(POC)顺序的图像布置在竖直方向上。图像的POC顺序表示形成视频的图像的播放顺序。多视点视频预测结构的播放顺序50中表示的“POC X”表明对应列中的图像的相对播放顺序，其中在X的值较低时，播放顺序在前面，而当X的值较高时，播放顺序在后面。

因此，根据依据相关技术的多视点视频预测结构的播放顺序50，由“左”表示的左视点图像根据POC顺序(播放顺序)布置在水平方向上，由“中部”表示的基本视点图像根据POC顺序(播放顺序)布置在水平方向上，并且由“右”表示的右视点图像根据POC顺序(播放顺序)布置在水平方向上。此外，与基本视点图像位于相同列上的左视点图像和右视点图像具有不同视点，但具有相同POC顺序(播放顺序)。

四个连续图像根据视点形成一个图片组(GOP)。每个GOP包括连续的锚图片(anchor picture)之间的图像，和一个锚图片(关键图片)。

锚图片是随机访问点，并且当播放视频的同时从根据播放顺序(即，POC顺序)布置的图像中任意选择播放位置时，播放根据POC顺序最靠近播放位置的锚图片。基础层图像包括基础层锚图片51、52、53、54和55，左视点图像包括左视点锚图片131、132、133、134和135，并且右视点图像包括右视点锚图片231、232、233、234和235。

多视点图像可根据GOP顺序进行播放和预测(重建)。首先，根据多视点视频预测结构的播放顺序50，可播放GOP 0中包括的图像，随后根据视点，可播放GOP 1中包括的图像。换言之，可按GOP 0、GOP 1、GOP 2和GOP 3的顺序播放每个GOP中包括的图像。此外，根据多视点视频预测结构的编码顺序，可预测GOP 0中包括的图像，随后根据视点，可预测GOP 1中包括的图像。换言之，可按GOP 0、GOP 1、GOP 2和GOP 3的顺序来预测每个GOP中包括的图像。

根据多视点视频预测结构的播放顺序50，在图像上执行视点间预测(层间预测)和帧间预测的全部。在多视点视频预测结构中，箭头开始的图像是参考图像，并且箭头终止的图像是使用参考图像预测的图像。

基本视点图像的预测结果可进行编码，随后以基本视点图像流的形式输出，并且附加视点图像的预测结果可进行编码，随后以层比特流的形式输出。此外，左视点图像的预测编码结果可输出为第一层比特流，并且右视点图像的预测编码结果可输出为第二层比特流。

只在基本视点图像上执行帧间预测。换言之，I图片类型的基本层锚图片51、52、53、54和55没有参考其他图像，而B图片类型和b图片类型的其余图像是通过参考其他基本视点图像来预测的。B图片类型的图像是通过参考根据POC顺序在B图片类型的图像前面的I图片类型的锚图片和下一I图片类型的锚图片来预测的。b图片类型的图像是通过参考根据POC顺序在b图片类型的图像前面的I类型的锚图片和B图片类型的下一图像来预测的，或者通过参考根据POC顺序在b图片类型的图像前面的B图片类型的图像和下一I图片类型的锚图片来预测的。

在左视点图像和右视点图像中的每个图像上执行参考不同视点图像的视点间预测(层间预测)和参考相同视点图像的帧间预测。

通过分别参考具有相同POC顺序的基本视点锚图片51、52、53、54和55，可在左视点锚图片131、132、133、134和135上执行视点间预测(层间预测)。通过分别参考具有相同POC顺序的基本视点锚图片51、52、53、54和55或者左视点锚图片131、132、133、134和135，可在右视点锚图片231、232、233、234和235上执行视点间预测。此外，通过参考具有相同POC的其他视点图像，可在除了左视点图像131、132、133、134和135及右视点锚图片231、232、233、234和235外的其余图像上执行视点间预测(层间预测)。

左视点图像和右视点图像之中的、除了锚图片131、132、133、134、135、231、232、233、234和235外的其余图像通过参考相同视点图像来预测。

然而，可不通过参考在相同视点的附加视点图像之中具有前一播放顺序的锚图片来预测左视点图像和右视点图像中的每个图像。换言之，为了在当前左视点图像上执行帧间预测，可参考左视点图像中的除了按播放顺序在当前左视点图像前面的左视点锚图片之外的图像。同样地，为了在当前右视点图像上执行帧间预测，可参考右视点图像中的除了按播放顺序在当前右视点图像前面的右视点锚图片之外的图像。

此外，为了在当前左视点图像上执行帧间预测，可通过参考属于当前GOP但在当前左视点图像之前重建的左视点图像来执行预测，而不是参考属于当前左视点图像的当前GOP之前的GOP的左视点图像。这同样适用于右视点图像。

根据实施方式的多层视频解码设备20可根据图3A的多视点视频预测结构的播放顺序50来重建基本视点图像、左视点图像和右视点图像。

左视点图像可经由参考基本视点图像的视点间视差补偿和参考左视点图像的帧间运动补偿来重建。右视点图像可经由参考基本视点图像和左视点图像的视点间视差补偿和参考右视点图像的帧间运动补偿来重建。可首先针对左视点图像和右视点图像的视差补偿和运动补偿来重建参考图像。

针对左视点图像的帧间运动补偿，可通过帧间运动补偿来重建左视点图像，该帧间运动补偿参考所重建的左视点参考图像。针对右视点图像的帧间运动补偿，可通过帧间运动补偿来重建右视点图像，该帧间运动补偿参考所重建的右视点参考图像。

此外，针对当前左视点图像的帧间运动补偿，可只参考属于当前左视点图像的当前GOP但在当前左视点图像之前重建的左视点图像，而不参考属于当前GOP之前的GOP的左视点图像。这同样适用于右视点图像。

此外，根据实施方式的多层视频解码设备20不仅可执行视差补偿(或层间预测补偿)以对多视点图像进行编码或解码，而且可通过视点间运动矢量预测来执行图像之间的运动补偿(或层间运动预测)。

图3B示出根据实施方式的多层视频。

为了在各种网络环境和各种终端中提供最佳服务，多层视频编码设备10可通过对具有各种空间分辨率、各种质量、各种帧率和不同视点的多层图像序列进行编码来输出可伸缩比特流。换言之，多层视频编码设备10可通过根据各种可伸缩性类型对输入图像进行编码来生成并输出可伸缩视频比特流。可伸缩性包括时间、空间、质量和多视点可伸缩性，以及它们的组合。此类可伸缩性可根据类型进行分类。此外，可伸缩性可被分类为每个类型的维度标识符。

例如，该可伸缩性具有与时间、空间、质量和多视点可伸缩性相同的可伸缩性类型。此外，可根据类型将可伸缩性分类成可伸缩性维度标识符。例如，当可伸缩性不同时，可伸缩性可具有不同的维度标识符。例如，可相对于可伸缩性类型将高可伸缩性维度分配到高维可伸缩性。

当比特流可分成有效的子流时，该比特流是可伸缩的。空间上可伸缩的比特流包括各种分辨率的子流。为了将同一可伸缩性类型的不同可伸缩性区分开，使用可伸缩性维度。可伸缩性维度可由可伸缩性维度标识符表示。

例如，空间上可伸缩的比特流可被分成具有不同分辨率的子流，诸如，四分之一视频图形阵列(QVGA)、视频图形阵列(VGA)、宽幅视频图形阵列(WVGA)等。例如，通过使用维度标识符可区别具有不同分辨率的层。例如，QVGA子流可将0作为空间可伸缩性维度标识符值，VGA子流可将1作为空间可伸缩性维度标识符值，并且WVGA子流可将2作为空间可伸缩性维度标识符值。

时间上可伸缩的比特流包括具有各种帧率的子流。例如，时间上可伸缩的比特流可被分成具有下列帧率的子流：7.5Hz的帧率、15Hz的帧率、30Hz的帧率和60Hz的帧率。质量可伸缩比特流可根据粗粒度可伸缩性(CGS)方法、中粒度可伸缩性(MGS)方法和细粒度可伸缩性(FGS)方法而被分成具有不同质量的子流。时间可伸缩性也可依据不同帧率根据不同维度进行区别，并且质量可伸缩性也可依据不同方法根据不同维度进行区别。

多视点可伸缩比特流包括一个比特流中的不同视点的子流。例如，在立体视觉图像中，比特流包括左侧图像和右侧图像。此外，可伸缩比特流可包括与深度图的多视点图像和编码数据有关的子流。视角可伸缩性也可依据不同视点根据不同维度进行区别。

不同的可伸缩扩展类型可彼此结合。换言之，可伸缩视频比特流可包括包括图像的多层的图像序列被编码的子流，其中时间、空间、质量和多视点可伸缩性中的至少一个彼此不同。

图3B示出具有不同可伸缩扩展类型的图像序列3010、3020和3030。第一层的图像序列3010、第二层的图像序列3020和第n层(n是整数)的图像序列3030可以是这样的图像序列，其中分辨率、质量和视点中的至少一个彼此不同。此外，第一层的图像序列3010、第二层的图像序列3020和第n层的图像序列3030可以是基础层的图像序列，并且其他图像序列可以是增强层的图像序列。

例如，第一层的图像序列3010可包括第一视点图像，第二层的图像序列3020可包括第二视点图像，并且第n层的图像序列3030可包括第n视点图像。作为另一示例，第一层的图像序列3010可以是基础层的左视点图像，第二层的图像序列3020可以是基础层的右视点图像，并且第n层的图像序列3030可以是增强层的右视点图像。然而，本公开不限于上述实施方式，并且具有不同可伸缩扩展类型的图像序列3010、3020和3030可以是具有不同图像属性的图像序列。

图4A是用于描述根据实施方式的当前块的视差矢量的示意图。

参考图4A，多层视频解码设备20可通过使用视差矢量43来确定与不同视点和当前块41对应的参考块42。多层视频解码设备20可通过使用所确定的参考块42来预测当前块41。

视差矢量可作为单独信息经由比特流从多层视频编码设备10传输到多层视频解码设备20，并且可基于相邻候选块或深度值进行确定。如上文所述，视差矢量可包括NBDV和DoNBDV。

图4B示出根据实施方式的通过使用当前块的空间上相邻的候选块来获取视差矢量的示例。

参考图4B，多层视频解码设备20可根据预定搜索顺序来搜索空间上相邻的候选块，从而获取当前块51的视差矢量。就这点而言，所搜索的相邻候选块可以是与当前块51在时间或空间上相邻的预测单元。

用于获取视差矢量的空间上相邻的候选块的候选可包括位于当前块51的左下方的相邻候选块A0 51-1、位于当前块51的左方的相邻候选块A1 51-2、位于当前块51的右上方的相邻候选块B0 51-3、位于当前块51的顶部的相邻候选块B1 51-4以及位于当前块51的左上方的相邻候选块B 51-5。可按相邻候选块A1 51-2、B1 51-4、B0 51-3、A0 51-1和B2 51-5的顺序来搜索相邻候选块。

可在相邻候选块中确定一个将用于预测的相邻候选块，并且可通过使用所确定的相邻候选块的视差矢量来确定当前块51的视差矢量。

例如，多层视频解码设备20可将视差矢量确定为当前块51的基础视差矢量DispVec，其中该视差矢量是从相邻候选块之中的空间上相邻的候选块中获取的。如果无法从空间上相邻的候选块中获取视差矢量，那么多层视频解码设备20可将当前块的基础视差矢量设置为(0，0)矢量。

用于预测视差矢量的相邻候选块的位置和数量不限于该实施方式，并且可改变。

图4C示出根据实施方式的通过使用当前块的时间上相邻的候选块来获取视差矢量的示例。

参考图4C，多层视频解码设备20可确定与当前块61共位的块62和与共位块62相邻的另一块中的至少一个块，其中该至少一个块将是时间上相邻的候选块。就这点而言，共位块62可以是共位图片的共位块。作为另一示例，共位块62可以是随机访问图片的共位块。例如，位于共位块62的右下方的块62-1可被确定为时间上相邻的候选块。当从相邻候选块之中的时间上相邻的候选块中获取视差矢量时，多层视频解码设备20可确定当前块61的基础视差矢量MvDisp等于所获取的视差矢量。

通过使用当前块的空间上相邻的候选块和时间上相邻的候选块来获取视差矢量的示例如下文所述。作为另一示例，用于获取视差矢量的空间上相邻的候选块可包括位于当前块51的左方的相邻候选块A1 51-2和位于当前块51的顶部的相邻候选块B1 51-4，并且时间上相邻的候选块可包括共位图片的共位块和随机访问图片的共位块。

可按共位图片的共位块、随机访问图片的共位块、相邻候选块A1 51-2和相邻候选块B1 51-4的顺序搜索相邻候选块。

在图4B和图4C中，从相邻候选块中确定出视差矢量的相邻候选块可以是参考块，以预测当前块的视差矢量。图4D示出根据实施方式的通过使用深度图片来获取当前块的视差矢量的示例。

多层视频解码设备20可根据从比特流中获取的深度细化信息depth_refinement_flag来确定第一层深度图片73是否可用。当深度细化信息depth_refinement_flag表明第一层深度图片73可用时，多层视频解码设备20可通过使用从相邻候选块中获取的NBDV 75和第一层深度图片73来推导出当前块72的视差矢量。

更具体地，多层视频解码设备20可确定由从第二层的当前块72的相邻候选块中获取的NBDV 75表示的第一层深度图像73的参考块74。接下来，多层视频解码设备20可将相机参数应用于所确定的参考块74的角74-1、74-2、74-3和74-4的深度值中的至少一个深度值，并且可将该深度值转换成DoNBDV 76。多层视频解码设备20可将DoNBDV 76确定为当前块72的视差矢量。

参考图4A到图4D描述的方法是参照多层视频解码设备20描述的，并且也可适用于多层视频编码设备10。

为了让多层视频解码设备20获取DoNBDV，多层视频解码设备20可从存储器中取得由NBDV表示的深度图片的参考块，并且可另外从存储器中取得由DoNBDV表示的深度图片的参考块，从而在当前块上执行预测补偿。具体而言，由于深度图片一般位于外部存储器中，因此，可进一步增加存储器的带宽复杂性。

因此，在另一实施方式中，多层视频解码设备20可将当前块的视差矢量确定为NBDV，即，当前块的相邻候选块的视差矢量。换言之，多层视频解码设备20可将与用于解码的当前块对应的深度块确定为由NBDV表示的深度块。因此，可降低存储器的带宽复杂性，并且可提高存储器的使用效率。

为此，通过使用句构MvDisp[xTb][yTb]，可将用于确定当前块的视差矢量的变量mvDisp的值确定为等于NBDV的值(MvDisp[xTb][yTb])。或者，通过使用句构DispVec[xCb][xCb]，可将用于确定当前块的视差矢量的变量dispVec的值确定为等于NBDV的值(DispVec[xCb][xCb])。

在确定了当前块的视差矢量后，可通过使用所确定的视差矢量来确定与当前块对应的深度块，并且可执行DBBP功能，以基于所确定的深度块来分割当前块。

图5示出根据实施方式的通过使用与当前块对应的深度块来分割当前块的示例。

多层视频解码设备20可将与当前块81对应的深度块82分割成多个区域，从而分割当前块81，并且可基于深度块82的多个分割区域来将当前块81分割成多个区域。

为了将深度块82分割成多个区域，多层视频解码设备20可确定阈值。阈值指的是在深度块82被分割成多个区域时与分割有关的参考值。多层视频解码设备20通过使用深度块82的样本值来确定阈值。例如，多层视频解码设备20可将阈值确定为深度块82中包括的样本值的平均值。更具体地，多层视频解码设备20可将阈值确定为深度块82的角样本的样本值的平均值，该角样本包括左上角样本82-1、右上角样本82-2、左下角样本82-3和右下角样本82-4。

接下来，多层视频解码设备20可将深度块82分割成第一区域82-1和第二区域82-2，其中第一区域82-1是样本值大于阈值的样本的区域，并且第二区域82-2是样本值等于或小于阈值的样本的区域。多层视频解码设备20可基于深度块82的分割形状来将当前块81分割成多个区域。例如，在深度块82被分割成第一区域82-1和第二区域82-2时，多层视频解码设备20可通过将第一区域82-1和第二区域82-2与当前块81进行匹配来将当前块81分割成多个区域。换言之，多层视频解码设备20可通过使用第一区域82-1和第二区域82-2来生成分割图，并且可通过将所生成的分割图与当前块81进行匹配来将当前块81分割成第一区域82-1和第二区域82-2。

当多层视频解码设备20访问与当前块对应的参考图像的区域时，多层视频解码设备20在当前块的尺寸减小时从参考图像中取得比当前块的尺寸大的区域，从而可增加存储器的带宽。因此，为了降低存储器的带宽，如果当前块的尺寸等于或小于预定尺寸，那么可跳过参考纹理图像或深度图像的上述DBBP。

图6是根据实施方式的通过考虑当前块的尺寸来确定是否执行DBBP功能的方法的流程图，该方法由多层视频解码设备20执行。

在操作S71中，多层视频解码设备20可确定当前块的尺寸是否大于8×8。换言之，在通过计算当前块的尺寸CbSize的log2值而将当前块的尺寸表达为log2CbSize时，多层视频解码设备20可确定当前块的尺寸的对数值是否大于3。

在操作S72中，在当前块的尺寸的对数值大于3时(S71-是)，多层视频解码设备20可执行DBBP功能。另一方面，在当前块的尺寸的对数值等于或小于3时(S71-否)，多层视频解码设备20可不执行DBBP功能。

图7A示出根据实施方式的用于通过考虑当前块的尺寸来确定是否执行DBBP的句构的示例，该方法由多层视频解码设备20执行。

在图7A中，用于对当前块进行编码的句构coding unit()可包括用于确定是否在当前块上执行DBBP的条件91。

在条件91中，当表明是否在包括当前块的层(即，编码单元(CU))上执行DBBP的标记depth_based_blk_part_flag的值不为0，当前块的预测模式CuPredMode的值不是帧内模式MODE_INTRA的值，并且通过对当前块的尺寸CbSize执行log2计算而获取的值大于3时，多层视频解码设备20可从比特流中获取表明是否在当前块上执行DBBP的标记dbbp_flag。当标记dbbp_flag的值为1时，多层视频解码设备20可在当前块上执行DBBP。

然而，当标记dbbp_flag的值为0时，多层视频解码设备20可不执行DBBP。

在当前块的尺寸大于8×8时，多层视频解码设备20可解析来自比特流的标记dbbp_flag，并且可确定是否执行DBBP。然而，在当前块的尺寸等于或小于8×8时，多层视频解码设备20不解析标记dbbp_flag，并且不执行DBBP。

图7B示出根据另一实施方式的用于通过考虑当前块的尺寸来确定是否执行DBBP的句构的示例，该方法由多层视频解码设备20执行。

在图7B中，用于对当前块进行编码的句构cu_extension()可包括用于确定是否在当前块上执行DBBP的条件92。

在条件92中，当表明是否在包括当前块的层上执行DBBP的标记DbbpEnabledFlag的值不为0，表明是否存在当前块的视点间参考图片的标记DispAvailFlag的值不为0，当前块的分区模式是PART_2NxN或PART_Nx2N，并且通过对当前块的尺寸CbSize执行log2计算而获取的值大于3时，多层视频解码设备20可从比特流中获取表明是否在当前块上执行DBBP的标记dbbp_flag。换言之，可根据标记dbbp_flag的值来确定是否执行DBBP。

然而，在当前块的分区模式不是PART_2NxN也不是PART_Nx2N时，没有获取标记dbbp_flag并且无法执行DBBP。

因此，根据图7B的实施方式，可不仅根据当前块的尺寸，还根据当前块的分区模式来确定是否执行DBBP。在当前块的尺寸大于8×8并且当前块的分区模式是PART_2NxN或PART_Nx2N时，可对与执行DBBP相关的标记dbbp_flag进行解析。

参考图5到图7B描述的方法是参照多层视频解码设备20描述的，并且也可适用于多层视频编码设备10。

例如，在因当前块的尺寸大于预定尺寸而可执行DBBP功能时，多层视频编码设备10可设置表明是否执行DBBP功能的标记“dbbp_flag”。针对执行DBBP功能的情况，“dbbp_flag”的值可设置为1，而针对不执行DBBP功能的情况，“dbbp_flag”的值可设置为0。

多层视频编码设备10可对与是否执行DBBP功能有关的信息进行编码。例如，多层视频编码设备10可对“dbbp_flag”进行编码，并且可将它加入比特流中。

在因当前块的尺寸等于或小于预定尺寸而不执行DBBP功能时，多层视频编码设备10不需要对表明是否执行DBBP功能的标记“dbbp_flag”进行编码。

在当前块的视差矢量被确定后，多层视频解码设备20可通过使用所确定的视差矢量来在当前块上执行残余预测。

图8A示出根据实施方式的多层视频解码设备20执行残余预测的示例。

在图8A中，当多层视频解码设备20执行时间方向预测时，多层视频解码设备20可获取第二层的先前图片103中包括的参考块104的样本值，参考块104由第二层的当前图片101中包括的当前块102的运动矢量107表示。随后，多层视频解码设备20可获取第一层的当前图片105中包括的参考块106的残余分量，参考块106由第二层的当前块102的视差矢量108表示。随后，多层视频解码设备20可通过合成第二层的先前图片103中包括的参考块104的样本值和第一层的当前图片105中包括的参考块106的残余分量来预测当前块102。

接下来，多层视频解码设备20可通过合成当前块102的预测样本值和从比特流中获取的残余分量之间的差异值来重建当前块102。

图8B示出根据另一实施方式的多层视频解码设备20执行残余预测的示例。

在图8B中，当多层视频解码设备20执行时间方向预测时，多层视频解码设备20可获取第二层的先前图片113中包括的参考块114的样本值，参考块114由第二层的当前图片111中包括的当前块112的运动矢量119表示。此外，多层视频解码设备20可将运动矢量119应用(119-1)到第一层的当前图片115中包括的参考块116，参考块116由第二层的当前块112的视差矢量121表示，因而可获取第一层的先前图片117中包括的参考块118的残余分量，参考块118由运动矢量119表示。随后，多层视频解码设备20可通过合成第二层的先前图片113中包括的参考块114的样本值和第一层的先前图片117中包括的参考块118的残余分量来预测当前块112。

接下来，多层视频解码设备20可通过合成当前块112的预测样本值和从比特流中获取的残余分量之间的差异值来重建当前块112。

在图8B中，为了在当前块上执行残余预测，多层视频解码设备20需要访问当前块的每个参考列表中的三个参考块。具体而言，当双向执行残余预测时，多层视频解码设备20需要相对于当前块来访问五到六个参考块。

因此，需要存储器具有较大带宽，并且为了降低带宽，可考虑只在块尺寸大于预定尺寸时执行残余预测的方法。

例如，在当前块的尺寸大于8×8时，多层视频解码设备20可执行残余预测。换言之，在当前块的尺寸等于或小于8×8时，多层视频解码设备20可不执行残余预测。

或者，在当前块的尺寸等于或小于8×8时，多层视频解码设备20可不在色度分量上执行残余预测，而是可在亮度分量上执行残余预测。

或者，当多层视频解码设备20执行时间方向预测时，如果当前块的尺寸等于或小于8×8，那么多层视频解码设备20可不在色度分量上执行残余预测，而是可在亮度分量上执行残余预测。

此外，当多层视频解码设备20在视点方向上执行预测时，如果当前块的尺寸等于或小于8×8，那么多层视频解码设备20可既不在色度分量上也不在亮度分量上执行残余预测。

图9是根据实施方式的通过考虑当前块的尺寸来确定是否执行残余预测的方法的流程图，该方法由多层视频解码设备20执行。

在操作S81中，多层视频解码设备20可确定当前块的尺寸是否大于8×8。换言之，在通过计算当前块的尺寸CbSize的log2而将当前块的尺寸表达为以二为底的对数log2CbSize时，多层视频解码设备20可确定当前块的尺寸的对数值是否大于3。

在操作S82中，在当前块的尺寸的对数值大于3时(S81-是)，多层视频解码设备20可执行残余预测。另一方面，在当前块的尺寸的对数值等于或小于3时(S81-否)，多层视频解码设备20可不执行残余预测。

参考图8A到图9描述的方法是参照多层视频解码设备20描述的，并且也可适用于多层视频编码设备10。

如上文所述，根据实施方式的多层视频编码设备10和根据实施方式的多层视频解码设备20可将视频数据的块分割成具有树形结构的编码单元，并且编码单元、预测单元和变换单元可用于编码单元的层间预测或帧间预测。在下文中，将参考图10到图22描述根据各种实施方式的基于具有树形结构的编码单元和变换单元的视频编码方法、视频编码设备、视频解码方法和视频解码设备。

原则上，在针对多层视频的编码和解码过程期间，分别执行针对第一层图像的编码和解码过程以及针对第二层图像的编码和解码过程。换言之，当在多层视频上执行层间预测时，可手动参考单层视频的编码和解码结果，但在单层视频上执行单独的编码和解码过程。

因此，由于为便于描述，下文参考图10到图22描述的基于具有树形结构的编码单元的视频编码和解码过程是用于处理单层视频的视频编码和解码过程，所以只执行帧间预测和运动补偿。然而，如上文参考图1A到图9所述，为了对视频流进行编码和解码，在基本视点图像和第二层图像上执行层间预测和补偿。

因此，为了让根据各种实施方式的多层视频编码设备10的编码器12基于具有树形结构的编码单元对多层视频进行编码，多层视频编码设备10可包括与多层视频的层的数量一样多的图10的视频编码设备100，从而根据每个单层视频来执行视频编码，从而控制每个视频编码设备100对分配的单层视频进行编码。此外，多层视频编码设备10可通过使用每个视频编码设备100的各个单一视角的编码结果来执行视点间预测。因此，多层视频编码设备10的编码器12可生成基本视点视频流和第二层视频流，其包括根据层的编码结果。

类似地，为了让根据各种实施方式的多层视频解码设备20的解码器24基于具有树形结构的编码单元对多层视频进行解码，多层视频解码设备20可包括与多层视频的层的数量一样多的图11的视频解码设备200，从而根据层来对所接收的第一层视频流和所接收的第二层视频流执行视频解码，进而控制每个视频解码设备200对分配的单层视频进行解码。此外，多层视频解码设备20可通过使用每个视频解码设备200的各个单层的解码结果来执行层间补偿。因此，多层视频解码设备20的解码器24可生成根据层来重建的第一层图像和第二层图像。

图10是根据实施方式的基于根据树形结构的编码单元的视频编码设备100的框图。

根据实施方式的基于根据树形结构的编码单元的、涉及视频预测的视频编码设备100包括编码单元确定器120和输出单元130。在下文中，为便于描述，基于根据树形结构的编码单元的、涉及视频预测的视频编码设备100将简称为“视频编码设备100”。

编码单元确定器120可基于最大编码单元来分割当前图片，所述最大编码单元是具有图像的当前图片的最大尺寸的编码单元。如果当前图片大于最大编码单元，那么当前图片的图像数据可被分割成至少一个最大编码单元。根据各种实施方式的最大编码单元可以是具有32×32、64×64、128×128、256×256等尺寸的数据单元，其中，数据单元的形状是具有2的平方的宽度和长度的正方形。

根据各种实施方式的编码单元的特征可以是最大尺寸和深度。深度表示编码单元从最大编码单元空间分割的次数，并且随着深度加深，根据深度的较深编码单元可从最大编码单元分割到最小编码单元。最大编码单元的深度是最浅深度，并且最小编码单元的深度是最深深度。由于对应于每个深度的编码单元的尺寸随着最大编码单元的深度加深而减小，因此，对应于较浅深度的编码单元可包括对应于较深深度的多个编码单元。

如上文所述，当前图片的图像数据根据编码单元的最大尺寸分割成最大编码单元，并且最大编码单元中的每个可包括根据深度分割的较深编码单元。由于根据各种实施方式的最大编码单元根据深度进行分割，因此，最大编码单元中包括的空间域的图像数据可根据深度进行分层分类。

限制最大编码单元的高度和宽度进行分层分割的总次数的编码单元的最大深度和最大尺寸可以预先确定。

编码单元确定器120对通过根据深度分割最大编码单元的区域而获得的至少一个分割区域进行编码，并且根据至少一个分割区域确定输出最终编码的图像数据的深度。换言之，通过根据当前图片的最大编码单元对根据深度的较深编码单元中的图像数据进行编码并且选择具有最小编码误差的深度，编码单元确定器120确定最终深度。所确定的最终深度和根据所确定的编码深度的编码图像数据输出到输出单元130。

最大编码单元中的图像数据基于与等于或小于最大深度的至少一个深度对应的较深编码单元进行编码，并且对图像数据进行编码的结果基于较深编码单元中的每个进行比较。在比较较深编码单元的编码误差之后，可选择具有最小编码误差的深度。针对每个最大编码单元，可选择至少一个最终深度。

随着编码单元根据深度进行分层分割，并且随着编码单元的数量增加，最大编码单元的尺寸被分割。此外，即使编码单元对应于一个最大编码单元中的相同深度，也要通过分别测量每个编码单元的图像数据的编码误差来确定是否将对应于相同深度的编码单元中的每个编码单元分割到较深深度。因此，即使在图像数据被包括在一个最大编码单元中时，编码误差也可根据一个最大编码单元中的区域而不同，因此，最终深度可根据图像数据中的区域而不同。因此，在一个最大编码单元中可确定一个或多个最大深度，并且最大编码单元的图像数据可根据至少一个最终深度的编码单元而划分。

因此，根据各种实施方式的编码单元确定器120可确定最大编码单元中包括的具有树形结构的编码单元。根据各种实施方式的“具有树形结构的编码单元”包括在最大编码单元包括的所有较深编码之中的、与确定为最终深度的深度对应的编码单元。最终深度的编码单元可根据最大编码单元的相同区域中的深度来分层确定，并且可在不同区域中独立确定。类似地，当前区域中的最终深度可独立于另一区域中的最终深度进行确定。

根据各种实施方式的最大深度是与从最大编码单元到最小编码单元的分割次数相关的索引。根据各种实施方式的第一最大深度可表示从最大编码单元到最小编码单元的总分割次数。根据各种实施方式的第二最大深度可表示从最大编码单元到最小编码单元的深度等级的总数。例如，当最大编码单元的深度为0时，最大编码单元被分割一次的编码单元的深度可设置为1，并且最大编码单元被分割两次的编码单元的深度可设置为2。在这种情况下，如果最小编码单元是最大编码单元被分割四次的编码单元，那么存在深度0、1、2、3和4的深度等级，因此，第一最大深度可设置为4，并且第二最大深度可设置为5。

预测编码和变换可根据最大编码单元来执行。预测编码和变换也根据最大编码单元基于根据等于或小于最大深度的深度的较深编码单元来执行。

由于每当最大编码单元根据深度分割时较深编码单元的数量都增加，因此，在随着深度加深而生成的所有较深编码单元上执行包括预测编码和变换在内的编码。为便于描述，现在将基于当前深度的编码单元在最大编码单元中描述预测编码和变换。

根据各种实施方式的视频编码设备100可不同地选择用于对图像数据进行编码的数据单元的尺寸或形状。为了对图像数据进行编码，执行诸如，预测编码、变换和熵编码的操作，并且同时，可将相同的数据单元用于所有操作或者将不同的数据单元用于每个操作。

例如，视频编码设备100不仅可选择用于对图像数据进行编码的编码单元，而且可选择不同于编码单元的数据单元，从而在编码单元中的图像数据上执行预测编码。

为了在最大编码单元中执行预测编码，可基于根据各种实施方式的与最终深度对应的编码单元(即，基于不再分割成与较深深度对应的编码单元的编码单元)执行预测编码。在下文中，不再进行分割并且成为用于预测编码的基础单元的编码单元现在将被称为“预测单元”。通过分割预测单元而获得的分区可包括预测单元和通过分割预测单元的高度和宽度中的至少一个而获得的数据单元。分区是编码单元的预测单元被分割的数据单元，并且预测单元可以是与编码单元具有相同尺寸的分区。

例如，当2N×2N(其中N是正整数)的编码单元不再分割并且成为2N×2N的预测单元时，分区的尺寸可以是2N×2N、2N×N、N×2N或N×N。根据各种实施方式的分区模式的示例可选择性地包括通过对称地分割预测单元的高度或宽度而获得的对称分区、通过不对称地分割预测单元的高度或宽度(诸如1:n或n:1)而获得的分区、通过几何分割预测单元而获得的分区以及具有任意形状的分区。

预测单元的预测模式可以是帧内模式(Intra Mode)、帧间模式(Inter Mode)和跳跃模式(Skip Mode)中的至少一个。例如，帧内模式或帧间模式可在2N×2N、2N×N、N×2N或N×N的分区上执行。此外，跳跃模式可以只在2N×2N的分区上执行。编码在编码单元中的一个预测单元上独立执行，从而选择具有最小编码误差的预测模式。

根据各种实施方式的视频编码设备100也可不仅基于用于对图像数据进行编码的编码单元而且还基于不同于编码单元的数据单元而在编码单元中的图像数据上执行变换。为了在编码单元中执行变换，可基于具有小于或等于编码单元的尺寸的变换单元来执行变换。例如，变换单元可包括用于帧内模式的数据单元和用于帧间模式的变换单元。

根据各种实施方式，编码单元中的变换单元可按与编码单元根据树形结构进行分割的类似方式递归地分割成更小尺寸的区域。因此，编码单元中的残余数据可根据具有树形结构的变换单元依据变换深度进行分割。

根据各种实施方式，表明通过分割编码单元的高度和宽度来达到变换单元的分割次数的变换深度也可设置在变换单元中。例如，在2N×2N的当前编码单元中，当变换单元的尺寸是2N×2N时变换深度可为0，当变换单元的尺寸是N×N时变换深度可为1，以及当变换单元的尺寸是N/2×N/2时变换深度可为2。换言之，具有树形结构的变换单元可根据变换深度进行设置。

根据深度的分割信息不仅需要与深度有关的信息，而且需要与预测编码和变换相关的信息。因此，编码单元确定器120不仅确定具有最小编码误差的深度，而且确定将预测单元分割成分区的分区模式、根据预测单元的预测模式以及用于变换的变换单元的尺寸。

下文将参考图12到图22详细描述根据各种实施方式的最大编码单元中的根据树形结构的编码单元以及确定预测单元/分区和变换单元的方法。

编码单元确定器120可通过使用基于拉格朗日乘子的率失真优化(Rate-Distortion Optimization)来测量根据深度的较深编码单元的编码误差。

输出单元130以比特流的形式输出基于由编码单元确定器120确定的至少一个深度进行编码的最大编码单元的图像数据以及根据深度的分割信息。

通过对图像的残余数据进行编码可获得编码的图像数据。

根据深度的分割信息可包括与深度有关的信息、与预测单元中的分区模式有关的信息、与预测模式有关的信息以及与变换单元的分割有关的信息。

与最终深度有关的信息可通过使用根据深度的分割信息进行限定，从而表明是否在较深深度而非当前深度的编码单元上执行编码。如果当前编码单元的当前深度是深度，那么对当前编码单元进行编码，因此，分割信息可限定为不将当前编码单元分割到较深深度。另一方面，如果当前编码单元的当前深度不是该深度，那么在较深深度的编码单元上执行编码，因此，分割信息可限定为分割当前编码单元，以获取较深深度的编码单元。

如果当前深度不是该深度，那么在分割成较深深度的编码单元的编码单元上执行编码。由于较深深度的至少一个编码单元存在于当前深度的一个编码单元中，因此，可在较深深度的每个编码单元上重复执行编码，从而可针对具有相同深度的编码单元递归地执行编码。

由于针对一个最大编码单元确定具有树形结构的编码单元并且针对深度的编码单元确定分割信息，因此，可针对一个最大编码单元确定至少一项分割信息。此外，最大编码单元的图像数据的深度可根据位置而不同，这是因为图像数据根据深度进行分层分割，因此，可针对图像数据来设置深度和分割信息。

因此，根据各种实施方式的输出单元130可将与编码模式有关的编码信息和对应深度分配到最大编码单元中包括的编码单元、预测单元和最小单元中的至少一个。

根据各种实施方式的最小单元是通过将构成最深深度的最小编码单元分割成4个而获取的正方形数据单元。或者，根据各种实施方式的最小单元可以是可被包括在最大编码单元所包括的编码单元、预测单元、分区单元和变换单元的全部中的最大正方形数据单元。

例如，由输出单元130输出的编码信息可分类成根据较深编码单元的编码信息和根据预测单元的编码信息。根据较深编码单元的编码信息可包括与预测模式有关的信息和与分区的尺寸有关的信息。根据预测单元的编码信息可包括与帧间模式的估计方向有关的信息、与帧间模式的参考图像索引有关的信息、与运动矢量有关的信息、与帧内模式的色度分量有关的信息以及与帧内模式的内插法有关的信息。

与根据图片、截片或GOP限定的编码单元的最大尺寸有关的信息以及与最大深度有关的信息可插入到比特流的标头、序列参数集或图片参数集中。

与当前视频准许的变换单元的最大尺寸有关的信息以及与变换单元的最小尺寸有关的信息也可通过比特流的标头、序列参数集或图片参数集输出。输出单元130可对与预测相关的参考信息、运动信息和截片类型信息进行编码并输出这些信息。

在根据最简单实施方式的视频编码设备100中，较深编码单元可以是通过将较浅深度的编码单元(上一层的编码单元)的高度或宽度一分为二所得到的编码单元。换言之，在当前深度的编码单元的尺寸是2N×2N时，较深深度的编码单元的尺寸是N×N。此外，具有2N×2N尺寸的当前编码单元可最大包括四个均具有N×N尺寸的较深深度编码单元。

因此，通过基于最大编码单元的尺寸和考虑到当前图片的特征而确定的最大深度来确定每个最大编码单元的具有最佳形状和最佳尺寸的编码单元，视频编码设备100可形成具有树形结构的编码单元。此外，由于可通过使用各种预测模式和变换中的任一个在每个最大编码单元上执行编码，因此，可通过考虑到各种图像尺寸的编码单元的特征来确定最佳编码模式。

因此，如果具有高分辨率或大数据量的图像在传统宏块中编码，那么每个图片的宏块数量过度增加。因此，针对每个宏块生成的压缩信息的数量增加，因而难以传输压缩的信息并且数据压缩效率降低。然而，通过使用根据各种实施方式的视频编码设备100，图像压缩效率可增加，这是因为在考虑图像的特征同时调整编码单元，以及在考虑图像的尺寸的同时增大编码单元的最大尺寸。

上文参考图1A描述的多层视频编码设备10可包括与层的数量一样多的视频编码设备100，从而根据多层视频的层对单层图像进行编码。

当视频编码设备100对第一层图像进行编码时，编码单元确定器120可针对每个最大编码单元来确定用于根据具有树形结构的编码单元进行帧间预测的预测单元，并且根据预测单元来执行帧间预测。

即使在视频编码设备100对第二层图像进行编码时，编码单元确定器120也可针对每个最大编码单元来确定具有树形结构的编码单元和预测单元，并且根据预测单元来执行帧间预测。

视频编码设备100可对亮度差进行编码，以补偿第一层图像与第二层图像之间的亮度差。然而，可根据编码单元的编码模式来确定是否执行亮度。例如，可以只在具有2N×2N尺寸的预测单元上执行亮度补偿。

图11是根据各种实施方式的基于根据树形结构的编码单元的视频解码设备200的框图。

根据实施方式的基于具有树形结构的编码单元的、涉及视频预测的视频解码设备200包括接收器210、图像数据与编码信息提取器220以及图像数据解码器230。为便于描述，根据实施方式的基于具有树形结构的编码单元的、涉及视频预测的视频解码设备200将简称为“视频解码设备200”。

根据各种实施方式，用于视频解码设备200的解码操作的各种术语(诸如，编码单元、深度、预测单元、变换单元和各种分割信息)的定义与参考图10和视频编码设备100描述的那些定义相同。

接收器210接收并解析编码视频的比特流。图像数据与编码信息提取器220从解析的比特流中提取用于每个编码单元的编码图像数据，其中编码单元具有根据每个最大编码单元的树形结构，并且将提取的图像数据输出到图像数据解码器230。图像数据与编码信息提取器220可从与当前图片有关的标头、序列参数集或图片参数集中提取与当前图片的编码单元的最大尺寸有关的信息。

此外，图像数据与编码信息提取器220针对根据每个最大编码单元的具有树形结构的编码单元从解析的比特流中提取最终深度和分割信息。提取的最终深度和分割信息输出到图像数据解码器230。换言之，比特流中的图像数据分割成最大编码单元，使得图像数据解码器230针对每个最大编码单元将图像数据解码。

根据最大编码单元的深度和分割信息可针对至少一项深度信息进行设置，并且分割信息可包括与对应编码单元的分区模式有关的信息、与预测模式有关的信息以及与变换单元的分割有关的信息。此外，根据深度的分割信息可被提取为与深度有关的信息。

由图像数据与编码信息提取器220提取的根据每个最大编码单元的深度和分割信息是被确定当诸如根据各种实施方式的视频编码设备100等编码器根据每个最大编码单元针对根据深度的每个较深编码单元重复执行编码时会生成最小编码误差的深度和分割信息。因此，视频解码设备200可通过根据生成最小编码误差的编码深度和编码模式对图像数据进行解码来重建图像。

根据各种实施方式，由于与深度和编码模式有关的编码信息可分配到对应编码单元、预测单元和最小单元之中的预定数据单元，因此，图像数据与编码信息提取器220可根据预定数据单元提取深度和分割信息。如果对应最大编码单元的深度和分割信息根据预定数据单元进行记录，那么可以推断，被分配相同深度和相同分割信息的预定数据单元就是相同最大编码单元中包括的数据单元。

图像数据解码器230可通过基于根据每个最大编码单元的深度和分割信息将每个最大编码单元中的图像数据解码来重建当前图片。换言之，图像数据解码器230可基于与每个最大编码单元中包括的具有树形结构的编码单元之中的每个编码单元的分区模式、预测模式和变换单元有关的提取信息对编码的图像数据进行解码。解码过程可包括预测和逆变换，所述预测包括帧内预测和运动补偿。

基于与根据深度的编码单元的预测单元的分区模式和预测模式有关的信息，图像数据解码器230可根据每个编码单元的分区和预测模式来执行帧内预测或运动补偿。

此外，图像数据解码器230可读取与用于每个编码单元的根据树形结构的变换单元有关的信息，从而基于每个编码单元的变换单元来执行逆变换，进而对每个最大编码单元进行逆变换。经由逆变换，可重建编码单元的空间域的像素值。

图像数据解码器230可通过使用根据深度的分割信息来确定当前最大编码单元的深度。如果分割信息表明图像数据不再以当前深度分割，那么当前深度就是深度。因此，图像数据解码器230可通过使用与预测单元的分区模式、预测模式和变换单元的尺寸有关的信息来对当前最大编码单元中的编码数据进行解码。

换言之，通过观察分配给编码单元、预测单元和最小单元之中的预定数据单元的编码信息集，可收集含有包括相同分割信息的编码信息的数据单元，并且可将收集的数据单元视作将由图像数据解码器230以相同编码模式解码的一个数据单元。因此，可通过获取与用于每个编码单元的编码模式有关的信息来对当前编码单元进行解码。

上文参考图2A描述的多层视频解码设备20可包括与视角的数量一样多数量的视频解码设备200，从而通过对所接收的第一层图像流和所接收的第二层图像流进行解码来重建第一层图像和第二层图像。

当接收到第一层图像流时，视频解码设备200的图像数据解码器230可将由图像数据与编码信息提取器220从第一层图像流中提取的第一层图像的样本分割成具有树形结构的编码单元。图像数据解码器230可通过根据用于帧间预测的预测单元在通过分割第一层图像的样本而获取的具有树形结构的编码单元上执行运动补偿来重建第一层图像。

当接收到第二层图像流时，视频解码设备200的图像数据解码器230可将由图像数据与编码信息提取器220从第二层图像流中提取的第二层图像的样本分割成具有树形结构的编码单元。图像数据解码器230可通过根据用于帧间预测的预测单元在通过分割第二层图像的样本而获取的编码单元上执行运动补偿来重建第二层图像。

提取器220可从比特流中获取与亮度误差相关的信息，从而补偿第一层图像与第二层图像之间的亮度差。然而，可根据编码单元的编码模式来确定是否执行亮度。例如，可只在具有2N×2N尺寸的预测单元上执行亮度补偿。

因此，视频解码设备200可获取与在针对每个最大编码单元递归地执行编码时生成最小编码误差的至少一个编码单元有关的信息，并且可使用该信息来对当前图片进行解码。换言之，可对确定是每个最大编码单元中的最佳编码单元的、具有树形结构的编码单元进行解码。

因此，即使图像数据具有高分辨率和大量数据，图像数据仍可通过使用编码单元的尺寸和编码模式来高效解码和重建，所述编码单元的尺寸和编码模式是通过使用从编码器接收的最佳分割信息根据图像数据的特征而自适应地确定的。

图12是用于描述根据各种实施方式的编码单元的概念的示意图。

编码单元的尺寸可由宽度×高度来表示，并且可以是64×64、32×32、16×16和8×8。64×64的编码单元可分割成64×64、64×32、32×64或32×32的分区，并且32×32的编码单元可分割成32×32、32×16、16×32或16×16的分区，16×16的编码单元可分割成16×16、16×8、8×16或8×8的分区，以及8×8的编码单元可分割成8×8、8×4、4×8或4×4的分区。

在视频数据310中，分辨率是1920×1080，编码单元的最大尺寸是64，并且最大深度是2。在视频数据320中，分辨率是1920×1080，编码单元的最大尺寸是64，并且最大深度是3。在视频数据330中，分辨率是352×288，编码单元的最大尺寸是16，并且最大深度是1。图12所示的最大深度是指从最大编码单元到最小编码单元的总分割次数。

如果分辨率较高或数据量较大，那么编码单元的最大尺寸可能较大，从而不仅增加编码效率，而且还准确反映图像的特征。因此，分辨率比视频数据330高的视频数据310和320的编码单元的最大尺寸可以是64。

由于视频数据310的最大深度是2，因此，视频数据310的编码单元315可包括长轴尺寸为64的最大编码单元，以及长轴尺寸为32和16的编码单元，这是因为通过将最大编码单元分割两次，深度加深两个层。由于视频数据330的最大深度是1，因此，视频数据330的编码单元335可包括长轴尺寸为16的最大编码单元，以及长轴尺寸为8的编码单元，这是因为通过将最大编码单元分割一次，深度加深一层。

由于视频数据320的最大深度是3，因此，视频数据320的编码单元325可包括长轴尺寸为64的最大编码单元，以及长轴尺寸为32、16和8的编码单元，这是因为通过将最大编码单元分割三次，深度加深3个层。随着深度加深，可准确地表达详细信息。

图13是根据各种实施方式的基于编码单元的图像编码器400的框图。

根据各种实施方式的图像编码器400执行视频编码设备100的编码单元确定器120的操作，以对图像数据进行编码。换言之，帧内预测器420在当前帧405之中按照预测单元在编码单元上以帧内模式执行帧内预测，并且帧间预测器415通过使用当前图像405和由重建图片缓存器410获取的参考图像按照预测单元在编码单元上以帧间模式执行帧间预测。当前图片405可被分割成最大编码单元，随后最大编码单元可相继被编码。此处，可在最大编码单元中的以树形结构分割的编码单元上执行编码。

通过从待编码的当前图像405的数据中减去从帧内预测器420或帧间预测器415中输出的每个模式的编码单元的预测数据，生成残余数据，并且残余数据作为经量化的变换系数通过变换器425和量化器430按照变换单元输出。经量化的变换系数在空间域中通过去量化器445和逆变换器450而恢复成残余数据。将空间域中的残余数据添加到从帧内预测器420或帧间预测器415中输出的每个模式的编码单元的预测数据，从而恢复成当前图像405的编码单元的空间域中的数据。空间域中的数据经过去块化器455和样本自适应偏移(SAO)执行器460，因而生成恢复的图像。恢复的图像存储在重建图片缓存器410中。存储在重建图片缓存器410中的所恢复的图像可用作另一图像的帧间预测的参考图像。通过变换器425和量化器430获取的经量化的变换系数可通过熵编码器435而输出为比特流440。

为了将根据各种实施方式的图像编码器400应用于视频编码设备100，图像编码器400的部件(即，帧间预测器415、帧内预测器420、变换器425、量化器430、熵编码器435、去量化器445、逆变换器450、去块化器455和SAO执行器460)基于每个最大编码单元的具有树形结构的编码单元之中的每个编码单元来执行操作。

具体而言，帧内预测器420和帧间预测器415在考虑当前最大编码单元的最大尺寸和最大深度的同时确定具有树形结构的编码单元之中的每个编码单元的分区和预测模式，并且变换器425可确定是否根据具有树形结构的编码单元之中的每个编码单元中的四叉树来分割变换单元。

图14是根据各种实施方式的基于编码单元的图像解码器500的框图。

熵解码器515对来自比特流505的将被解码的编码图像数据和解码所需的编码信息进行解析。编码图像数据是经量化的变换系数，并且去量化器520和逆变换器525从经量化的变换系数中恢复残余数据。

帧内预测器540根据预测单元以帧内模式在编码单元上执行帧内预测。帧间预测器535通过使用由重建图片缓存器530获取的参考图像而根据预测单元从当前图像中以帧内模式对编码单元执行帧间预测。

通过经由帧内预测器540和帧间预测器535添加每个模式的编码单元的残余数据和预测数据来恢复当前图像的编码单元的空间域中的数据，并且可通过去块化器545和SAO执行器550将空间域中的数据输出为恢复的图像。此外，可将存储在重建图片缓存器530的所恢复的图像输出为参考图像。

为了对视频解码设备200的图像数据解码器230中的图像数据进行解码，可执行根据各种实施方式的图像解码器500的熵解码器515之后的操作。

为了将图像解码器500应用于根据各种实施方式的视频解码设备200，图像解码器500的部件(即，熵解码器515、去量化器520、逆变换器525、帧内预测器540、帧间预测器535、去块化器545和SAO执行器550)可针对每个最大编码单元基于具有树形结构的编码单元来执行操作。

具体而言，帧内预测器540和帧间预测器535根据具有树形结构的编码单元中的每个来确定分区模式和预测模式，并且逆变换器525可确定是否按照编码单元根据四叉树结构来分割变换单元。

图13的编码操作和图14的解码操作分别是单个层中的视频流编码操作和视频流解码操作。因此，当图1A的编码器12对至少两层的视频流进行编码时，图1A的视频编码设备100可包括与层的数量一样多的图像编码器400。类似地，当图2A的解码器24对至少两层的视频流进行解码时，图2A的视频解码设备200可包括与层的数量一样多的图像解码器500。

图15是示出根据各种实施方式的编码单元和分区的示意图。

根据各种实施方式的视频编码设备100和根据各种实施方式的视频解码设备200使用分层编码单元，从而考虑图像的特征。编码单元的最大高度、最大宽度和最大深度可根据图像的特征而自适应地确定，或者可根据用户需要而不同地设置。根据深度的较深编码单元的尺寸可根据编码单元的预定最大尺寸进行确定。

在根据各种实施方式的编码单元的分层结构600中，编码单元的最大高度和最大宽度均是64，并且最大深度是3。在这种情况下，最大深度是指编码单元从最大编码单元分割到最小编码单元的总次数。由于深度沿着根据各种实施方式的编码单元的分层结构600的竖直轴加深，因此，较深编码单元的高度和宽度均被分割。此外，沿着分层结构600的水平轴示出作为每个较深编码单元的预测编码的基础的预测单元和分区。

换言之，编码单元610是分层结构600中的最大编码单元，其中深度为0并且尺寸(即，高度乘宽度)为64×64。深度沿着竖直轴加深，而且编码单元620的尺寸为32×32且深度为1，编码单元630的尺寸为16×16且深度为2，以及编码单元640的尺寸为8×8且深度为3。尺寸为8×8且深度为3的编码单元640是最小编码单元。

编码单元的预测单元和分区根据每个深度沿着水平轴布置。换言之，如果尺寸为64×64且深度为0的编码单元610是预测单元，那么预测单元可分割成尺寸为64×64的编码单元610中包括的分区，即，尺寸为64×64的分区610、尺寸为64×32的分区612、尺寸为32×64的分区614，或者尺寸为32×32的分区616。

同样，尺寸为32×32且深度为1的编码单元620的预测单元可分割成尺寸为32×32的编码单元620中包括的分区，即，尺寸为32×32的分区620、尺寸为32×16的分区622、尺寸为16×32的分区624以及尺寸为16×16的分区626。

同样，尺寸为16×16且深度为2的编码单元630的预测单元可分割成尺寸为16×16的编码单元630中包括的分区，即，编码单元630中包括的尺寸为16×16的分区、尺寸为16×8的分区632、尺寸为8×16的分区634以及尺寸为8×8的分区636。

同样，尺寸为8×8且深度为3的编码单元640的预测单元可分割成尺寸为8×8的编码单元640中包括的分区，即，编码单元640中包括的尺寸为8×8的分区、尺寸为8×4的分区642、尺寸为4×8的分区644以及尺寸为4×4的分区646。

为了确定最大编码单元610的深度，根据各种实施方式的视频编码设备100的编码单元确定器120针对最大编码单元610中包括的与每个深度对应的编码单元来执行编码。

包括相同范围和相同尺寸的数据的、根据深度的较深编码单元的数量随着深度加深而增加。例如，需要四个对应于深度2的编码单元来覆盖一个对应于深度1的编码单元中包括的数据。因此，为了将根据深度的相同数据的编码结果进行比较，对应于深度1的编码单元和对应于深度2的四个编码单元均被编码。

为了针对深度之中的当前深度执行编码，可通过沿着分层结构600的水平轴、针对与当前深度对应的编码单元中的每个预测单元执行编码，为当前深度选择最小编码误差。或者，随着深度沿着分层结构600的竖直轴加深，可通过针对每个深度执行编码并根据深度来比较最小编码误差而搜索出最小编码误差。最大编码单元610中具有最小编码误差的深度和分区可被选作最大编码单元610的深度和分区模式。

图16是用于描述根据各种实施方式的编码单元与变换单元之间的关系的示意图。

根据实施方式的视频编码设备100或根据实施方式的视频解码设备200根据每个最大编码单元的、尺寸等于或小于最大编码单元的编码单元对图像进行编码或解码。在编码期间用于变换的变换单元的尺寸可基于不大于对应编码单元的数据单元进行选择。

例如，在根据各种实施方式的视频编码设备100或根据各种实施方式的视频解码设备200中，如果编码单元710的尺寸是64×64，那么可通过使用尺寸为32×32的变换单元720来执行变换。

此外，可通过在尺寸为32×32、16×16、8×8和4×4(都小于64×64)的变换单元中的每个上执行变换，从而对尺寸为64×64的编码单元710的数据进行编码，并且随后可选择具有最小编码误差的变换单元。

图17示出根据各种实施方式的多项编码信息。

根据各种实施方式的视频编码设备100的输出单元130可针对与深度对应的每个编码单元来编码并传输分区模式信息800、预测模式信息810和变换单元尺寸信息820，以作为分割信息。

分区模式信息800表明与通过分割当前编码单元的预测单元而获得的分区的形状的有关信息，其中分区是用于对当前编码单元进行预测编码的数据单元。例如，尺寸为2N×2N的当前编码单元CU_0可分割成下列分区中的任一个：尺寸为2N×2N的分区802、尺寸为2N×N的分区804、尺寸为N×2N的分区806以及尺寸为N×N的分区808。在这种情况下，与当前编码单元的分区类型有关的分区模式信息800设置成表示下列一个：尺寸为2N×N的分区804、尺寸为N×2N的分区806以及尺寸为N×N的分区808。

预测模式信息810表明每个分区的预测模式。例如，预测模式信息810可表明在由分区模式信息800表明的分区上执行的预测编码的模式，即，帧内模式812、帧间模式814或跳跃模式816。

变换单元尺寸信息820表明在当前编码单元上执行变换时将依据的变换单元。例如，所述变换单元可以是第一帧内变换单元822、第二帧内变换单元824、第一帧间变换单元826或者第二帧间变换单元828。

根据各种实施方式的视频解码设备200的图像数据与编码信息提取器220可提取并使用分区模式信息800、预测模式信息810和变换单元尺寸信息820，以根据每个较深编码单元进行解码。

图18是根据各种实施方式的根据深度的较深编码单元的示意图。

分割信息可用来表明深度的变化。分割信息表明当前深度的编码单元是否分割成较深深度的编码单元。

用于对深度为0且尺寸为2N_0×2N_0的编码单元900进行预测编码的预测单元910可包括下列分区类型的分区：尺寸为2N_0×2N_0的分区模式912、尺寸为2N_0×N_0的分区模式914、尺寸为N_0×2N_0的分区模式916和尺寸为N_0×N_0的分区模式918。图18只示出通过对称地分割预测单元而获取的分区912到918，但分区模式不限于此，并且预测单元的分区可包括不对称分区、具有任意形状的分区和具有几何形状的分区。

根据每个分区模式，在尺寸为2N_0×2N_0的一个分区、尺寸为2N_0×N_0的两个分区、尺寸为N_0×2N_0的两个分区和尺寸为N_0×N_0的四个分区上重复执行预测编码。可在尺寸为2N_0×2N_0、N_0×2N_0、2N_0×N_0和N_0×N_0的分区上执行帧内模式和帧间模式的预测编码。只在尺寸为2N_0×2N_0的分区上执行跳跃模式的预测编码。

如果尺寸为2N_0×2N_0的分区模式912、尺寸为2N_0×N_0的分区模式914和尺寸为N_0×2N_0的分区模式916中的一个分区模式中的编码误差是最小误差，那么预测单元910可不分割成较深深度。

如果尺寸为N_0×N_0的分区模式918的编码误差是最小误差，那么在操作920中，深度从0变成1从而分割分区模式918，并且以深度为2且尺寸为N_0×N_0的分区模式在编码单元930上重复执行编码，以搜索最小编码误差。

用于对深度为1且尺寸为2N_1×2N_1(＝N_0×N_0)的编码单元930进行预测编码的预测单元940可包括下列分区模式的分区：尺寸为2N_1×2N_1的分区模式942、尺寸为2N_1×N_1的分区模式944、尺寸为N_1×2N_1的分区模式946和尺寸为N_1×N_1的分区模式948。

如果尺寸为N_1×N_1的分区模式948的编码误差是最小误差，那么在操作950中，深度从1变成2从而分割分区模式948，并且在深度为2且尺寸为N_2×N_2的编码单元960上重复执行编码，以搜索最小编码误差。

当最大深度为d时，根据深度的较深编码单元可设置到深度对应于d-1时，并且分割信息可设置到深度对应于d-2时。换言之，当在操作970中在对应于深度d-2的编码单元进行分割之后执行编码直到深度为d-1时，用于对深度为d-1且尺寸为2N_(d-1)×2N_(d-1)的编码单元980进行预测编码的预测单元990可包括下列分区模式的分区：尺寸为2N_(d-1)×2N_(d-1)的分区模式992、尺寸为2N_(d-1)×N_(d-1)的分区模式994、尺寸为N_(d-1)×2N_(d-1)的分区模式996和尺寸为N_(d-1)×N_(d-1)的分区模式998。

可在分区模式之中的尺寸为2N_(d-1)×2N_(d-1)的一个分区、尺寸为2N_(d-1)×N_(d-1)的两个分区、尺寸为N_(d-1)×2N_(d-1)的两个分区、尺寸为N_(d-1)×N_(d-1)的四个分区上重复地执行预测编码，以搜索具有最小编码误差的分区模式。

即使在分区模式998具有最小编码误差时，由于最大深度为d，因此，深度为d-1的编码单元CU_(d-1)不再分割到更深深度，并且构成当前最大编码单元900的编码单元的深度被确定为d-1，而且当前最大编码单元900的分区模式可被确定为N_(d-1)×N_(d-1)。此外，由于最大深度为d，因此，不设置深度为d-1的编码单元952的分割信息。

数据单元999可以是当前最大编码单元的“最小单元”。根据各种实施方式的最小单元可以是通过将具有最深深度的最小编码单元分割成4个而获取的正方形数据单元。通过重复执行编码，根据各种实施方式的视频编码设备100可通过比较根据编码单元900的深度的编码误差来选择具有最小编码误差的深度从而确定深度，并且可将对应分区模式和预测模式设置为深度的编码模式。

因此，在所有的深度0、1、……、d-1、d中比较根据深度的最小编码误差，并且可将具有最小编码误差的深度确定为深度。深度、预测单元的分区模式和预测模式可作为分割信息而被编码和传输。此外，由于编码单元从深度0分割到深度，因此，只有深度的分割信息被设置为0，而除该深度之外的深度的分割信息被设置为1。

根据各种实施方式的视频解码设备200的图像数据与编码信息提取器220可提取并使用与编码单元900的深度和预测单元有关的信息，从而对分区912进行解码。根据各种实施方式的视频解码设备200可通过使用根据深度的分割信息而将分割信息为0的深度确定为深度，并且可将对应深度的分割信息用于解码。

图19、图20和图21是用于描述根据各种实施方式的编码单元、预测单元与变换单元之间的关系的示意图。

编码单元1010是最大编码单元中的由根据各种实施方式的视频编码设备100确定的、根据深度的具有树形结构的编码单元。预测单元1060是根据深度的编码单元中的每个编码单元的预测单元的分区，并且变换单元1070是根据深度的编码单元中的每个编码单元的变换单元。

当编码单元1010中的最大编码单元的深度为0时，编码单元1012和1054的深度为1，编码单元1014、1016、1018、1028、1050和1052的深度为2，编码单元1020、1022、1024、1026、1030、1032和1048的深度为3，以及编码单元1040、1042、1044和1046的深度为4。

在预测单元1060中，通过分割编码单元1010中的编码单元获得一些编码单元1014、1016、1022、1032、1048、1050、1052和1054。换言之，编码单元1014、1022、1050和1054的分区模式具有尺寸2N×N，编码单元1016、1048和1052的分区模式具有尺寸N×2N，以及编码单元1032的分区模式具有尺寸N×N。编码单元1010的预测单元和分区小于或等于每个编码单元。

在小于编码单元1052的数据单元中，对变换单元1070中的编码单元1052的图像数据执行变换或逆变换。此外，变换单元1070中的编码单元1014、1016、1022、1032、1048、1050和1052是在尺寸和形状方面不同于预测单元1060中的数据单元的数据单元。换言之，根据各种实施方式的视频编码设备100和视频解码设备200可在相同编码单元的单个数据单元上执行帧内预测、运动估算、运动补偿、变换以及逆变换。

因此，对最大编码单元的每个区域中具有分层结构的编码单元中的每个编码单元递归地执行编码，以确定最佳编码单元，因此，可获得具有递归树形结构的编码单元。编码信息可包括与编码单元有关的分割信息、与分区模式有关的信息、与预测模式有关的信息和与变换单元的尺寸有关的信息。表1示出可由根据各种实施方式的视频编码设备100和视频解码设备200设置的编码信息。

表1

根据各种实施方式的视频编码设备100的输出单元130可输出与具有树形结构的编码单元有关的编码信息，并且根据各种实施方式的视频解码设备200的图像数据与编码信息提取器220可从接收的比特流中提取与具有树形结构的编码单元有关的编码信息。

分割信息表明当前编码单元是否分割成较深深度的编码单元。如果当前深度d的分割信息为0，那么当前编码单元不再分割到较深深度所处的深度是深度，因此，可针对该深度来限定与分区模式、预测模式和变换单元的尺寸有关的信息。如果当前编码单元根据分割信息进一步分割，那么必须在较深深度的四个分割编码单元上独立执行编码。

预测模式可以是帧内模式、帧间模式和跳跃模式中的一个。帧内模式和帧间模式可限定于所有分区模式，而跳跃模式可以只限定于尺寸为2N×2N的分区模式。

与分区模式有关的信息可表明通过对称地分割预测单元的高度或宽度而获取的尺寸为2N×2N、2N×N、N×2N和N×N的对称分区模式，以及通过不对称地分割预测单元的高度或宽度而获取的尺寸为2N×nU、2N×nD、nL×2N和nR×2N的不对称分区模式。可分别通过以1:3和3:1分割预测单元的高度来获取尺寸为2N×nU和2N×nD的不对称分区模式，并且可分别通过以1:3和3:1分割预测单元的宽度来获取尺寸为nL×2N和nR×2N的不对称分区模式。

变换单元的尺寸可设置为在帧内模式下有两个类型并且在帧间模式下有两个类型。换言之，如果变换单元的分割信息为0，那么变换单元的尺寸可以是2N×2N，也就是当前编码单元的尺寸。如果变换单元的分割信息为1，那么可通过分割当前编码单元来获得变换单元。此外，如果尺寸为2N×2N的当前编码单元的分区模式是对称分区模式，那么变换单元的尺寸可以是N×N，并且如果当前编码单元的分区类型是不对称分区模式，那么变换单元的尺寸可以是N/2×N/2。

根据各种实施方式的与具有树形结构的编码单元有关的编码信息可分配到与深度对应的编码单元、预测单元和最小单元中的至少一个。与深度对应的编码单元可包括具有相同编码信息的预测单元和最小单元中的至少一个。

因此，通过比较相邻数据单元的多项编码信息来确定相邻数据单元是否包括在与深度对应的相同编码单元中。此外，可通过使用数据单元的编码信息来确定与深度对应的对应编码单元，因此可推断出最大编码单元中的深度的分布。

因此，如果基于相邻数据单元的编码信息来预测当前编码单元，那么可直接参考并使用与当前编码单元相邻的较深编码单元中的数据单元的编码信息。

作为另一示例，如果通过参考相邻编码单元来对当前编码单元进行预测编码，那么通过使用相邻编码单元的多项编码信息以可参考相邻编码单元的方式来搜索与当前编码单元相邻并且在较深编码单元中的数据单元。

图22是用于描述根据表1的编码模式信息的编码单元、预测单元与变换单元之间的关系的示意图。

最大编码单元1300包括编码单元1302、1304、1306、1312、1314、1316、以及具有深度的1318。此处，由于编码单元1318是具有深度的编码单元，因此，分割信息可设置为0。与尺寸为2N×2N的编码单元1318的分区模式有关的信息可设置为下列中的一个：尺寸为2N×2N的分区模式1322、尺寸为2N×N的分区模式1324、尺寸为N×2N的分区模式1326、尺寸为N×N的分区模式1328、尺寸为2N×nU的分区模式1332、尺寸为2N×nD的分区模式1334、尺寸为nL×2N的分区模式1336以及尺寸为nR×2N的分区模式1338。

变换单元分割信息(TU尺寸标记)是一种类型的变换索引。对应于变换索引的变换单元的尺寸可根据编码单元的预测单元类型或分区模式而改变。

例如，当与分区模式有关的信息设置为对称，即，尺寸为2N×2N的分区模式1322、尺寸为2N×N的分区模式1324、尺寸为N×2N的分区模式1326或尺寸为N×N的分区模式1328时，如果变换单元的TU尺寸标记为0则可设置尺寸为2N×2N的变换单元1342，而如果TU尺寸标记为1则可设置尺寸为N×N的变换单元1344。

当与分区模式有关的信息设置为不对称，即，尺寸为2N×nU的分区模式1332、尺寸为2N×nD的分区模式1334、尺寸为nL×2N的分区模式1336或尺寸为nR×2N的分区模式1338时，如果TU尺寸标记为0则可设置尺寸为2N×2N的变换单元1352，而如果TU尺寸标记为1则可设置尺寸为N/2×N/2的变换单元1354。

参考图22，TU尺寸标记是值为0或1的标记，但根据各种实施方式的TU尺寸标记不限于1比特的标记，并且在TU尺寸标记从0增加时，变换单元可分层地分割。该TU尺寸标记可以是变换索引的一个示例。

在这种情况下，实际使用的变换单元的尺寸可通过使用根据各种实施方式的TU尺寸标记以及变换单元的最大尺寸和变换单元的最小尺寸一起来表示。根据各种实施方式的视频编码设备100可对最大变换单元尺寸信息、最小变换单元尺寸信息和最大TU尺寸标记信息进行编码。对最大变换单元尺寸信息、最小变换单元尺寸信息和最大TU尺寸标记信息进行编码的结果可插入到SPS。根据各种实施方式的视频解码设备200可通过使用最大变换单元尺寸信息、最小变换单元尺寸信息和最大TU尺寸标记信息来对视频进行解码。

例如，(a)如果当前编码单元的尺寸是64×64并且最大变换单元尺寸是32×32，那么(a-1)变换单元的尺寸在TU尺寸标记为0时可以是32×32，(a-2)在TU尺寸标记为1时可以是16×16，以及(a-3)在TU尺寸标记为2时可以是8×8。

作为另一示例，(b)如果当前编码单元的尺寸是32×32并且最小变换单元尺寸是32×32，那么(b-1)变换单元的尺寸在TU尺寸标记为0时可以是32×32。此处，由于变换单元的尺寸不可小于32×32，因此，TU尺寸标记无法设置成除了0之外的值。

作为另一示例，(c)如果当前编码单元的尺寸是64×64并且最大TU尺寸标记是1，那么TU尺寸标记可以是0或1。此处，TU尺寸标记无法设置成除了0或1之外的值。

因此，如果将最大TU尺寸标记定义为“MaxTransformSizeIndex”，将最小变换单元尺寸定义为“MinTransformSize”，并且当TU尺寸标记为0时变换单元尺寸为“RootTuSize”，那么可在当前编码单元中确定的当前最小变换单元尺寸“CurrMinTuSize”可由等式(1)限定：

CurrMinTuSize

＝max(MinTransformSize,RootTuSize/(2^MaxTransformSizeIndex))...(1)

与可在当前编码单元中确定的当前最小变换单元尺寸“CurrMinTuSize”相比，在TU尺寸标记为0时的变换单元尺寸“RootTuSize”可表示可以在系统中选择的最大变换单元尺寸。在等式(1)中，“RootTuSize/(2^MaxTransformSizeIndex)”表示在TU尺寸标记为0时变换单元尺寸“RootTuSize”被分割对应于最大TU尺寸标记的次数时的变换单元尺寸，并且“MinTransformSize”表示最小变换尺寸。因此，“RootTuSize/(2^MaxTransformSizeIndex)”和“MinTransformSize”之中的较小值可以是可在当前编码单元中确定的当前最小变换单元尺寸“CurrMinTuSize”。

根据各种实施方式的最大变换单元尺寸RootTuSize可根据预测模式而改变。

例如，如果当前预测模式是帧间模式，那么“RootTuSize”可通过使用下列等式(2)来确定。在等式(2)中，“MaxTransformSize”表示最大变换单元尺寸，并且“PUSize”表示当前预测单元尺寸。

RootTuSize＝min(MaxTransformSize,PUSize).........(2)

换言之，如果当前预测模式是帧间模式，那么在TU尺寸标记为0时，变换单元尺寸“RootTuSize”可以是最大变换单元尺寸和当前预测单元尺寸之中的较小值。

如果当前分区单元的预测模式是帧内模式，那么“RootTuSize”可通过使用下列等式(3)来确定。在等式(3)中，“PartitionSize”表示当前分区单元的尺寸。

RootTuSize＝min(MaxTransformSize,PartitionSize)...........(3)

换言之，如果当前预测模式是帧内模式，那么在TU尺寸标记为0时，变换单元尺寸“RootTuSize”可以是最大变换单元尺寸和当前分区单元的尺寸之中的较小值。

然而，根据分区单元中的预测模式的类型而改变的当前最大变换单元尺寸“RootTuSize”仅仅是示例，并且本公开不限于此。

根据参考图10到图22描述的基于具有树形结构的编码单元的视频编码方法，针对树形结构的每个编码单元，将空间域的图像数据编码。根据基于具有树形结构的编码单元的视频解码方法，针对每个最大编码单元执行解码，以重建空间域的图像数据。因此，可重建图片和视频(即，图片序列)。重建的视频可由播放设备播放、可存储在存储介质中，或可通过网络传输。

根据本公开的实施方式可编写为计算机程序，并且可在使用非瞬时计算机可读记录介质执行程序的通用数字计算机中实施。非瞬时计算机可读记录介质的示例包括磁存储介质(例如，ROM、软盘、硬盘等)和光记录介质(例如，CD-ROM或DVD)。

为便于描述，上文参考图1A到图22描述的层间视频编码方法和/或视频编码方法将统一被称为“本公开的视频编码方法”。此外，上文参考图1A到图22描述的层间视频解码方法和/或视频解码方法将被称为“本公开的视频解码方法”。

另外，已参考图1A到图22描述的视频编码设备(包括层间视频编码设备10、视频编码设备100或或图像编码器400)将被称为“本公开的视频编码设备”。另外，已参考图1A到图22描述的视频解码设备(包括层间视频解码设备20、视频解码设备200或图像解码器500)将被称为“本公开的视频解码设备”。

现在将详细描述根据各种实施方式的存储程序的非瞬时计算机可读记录介质，诸如，盘片26000。

图23是根据各种实施方式的存储有程序的盘片26000的物理结构的示意图。盘片26000作为一种存储介质，其可以是硬盘驱动器、紧密式只读存储器(CD-ROM)盘、蓝光光盘或数字多功能盘(DVD)。盘片26000包括多个同心盘道Tr，所述同心盘道Tr各自在盘片26000的圆周方向上分成特定数量的扇区Se。在根据各种实施方式的盘片26000的特定区域中，可分配并存储执行上述量化参数确定方法、视频编码方法和视频解码方法的程序。

现在将参考图24描述使用存储介质实现的计算机系统，所述存储介质存储用于执行上述视频编码方法和视频解码方法的程序。

图24是用于通过使用盘片26000来记录和读取程序的盘片驱动器26800的示意图。计算机系统26700可经由盘片驱动器26800在盘片26000中存储用于执行本公开的视频编码方法和视频解码方法中的至少一个的程序。为了在计算机系统26700中运行存储在盘片26000中的程序，可从盘片26000中读取程序并且通过使用盘片驱动器27000将程序传输到计算机系统26700。

执行本公开的视频编码方法和视频解码方法中的至少一个的程序可不仅存储在图23和图24所示的盘片26000中，还可存储在存储卡、ROM盒式磁带或固态驱动器(SSD)中。

下文将描述应用上文所述的根据实施方式的视频编码方法和视频解码方法的系统。

图25是用于提供内容分发服务的内容供应系统11000的整体结构的示意图。通信系统的服务区域分成预定尺寸的小区，并且无线基站11700、11800、11900和12000分别安装在这些小区中。

内容供应系统11000包括多个独立装置。例如，诸如计算机12100、个人数字助理(PDA)12200、摄像机12300和移动电话12500等多个独立装置经由互联网服务提供商11200、通信网络11400以及无线基站11700、11800、11900和12000连接到互联网11100。

然而，内容供应系统11000不限于如图25所示的系统，并且装置可选择性地连接到该系统。多个独立装置可直接连接到通信网络11400，而不经过无线基站11700、11800、11900和12000。

摄像机12300是能够拍摄视频图像的成像装置，例如，数字摄像机。移动电话12500可采用例如个人数字通信(PDC)、码分多址(CDMA)、宽带码分多址(W-CDMA)、全球移动通信系统(GSM)以及个人手持式电话系统(PHS)等各种协议中的至少一个通信方法。

摄像机12300可经由无线基站11900和通信网络11400连接到流式服务器11300。流式服务器11300允许经由摄像机12300从用户接收的内容经过实时广播进行流传输。从摄像机12300接收的内容可由摄像机12300或流式服务器11300进行编码。由摄像机12300拍摄的视频数据可经由计算机12100传输到流式服务器11300。

由相机12600拍摄的视频数据也可经由计算机12100传输到流式服务器11300。相机12600是能够拍摄静态图像和视频图像的成像装置，类似于数字相机。由相机12600拍摄的视频数据可由相机12600或计算机12100进行编码。对视频执行编码和解码的软件可存储在可由计算机12100访问的非瞬时计算机可读记录介质中，例如，CD-ROM盘、软盘、硬盘驱动器、SSD或存储卡。

如果视频数据由内置在移动电话12500中的相机拍摄，那么视频数据可从移动电话12500中接收。

视频数据也可由安装在摄像机12300、移动电话12500或相机12600中的大规模集成电路(LSI)系统进行编码。

在根据各种实施方式的内容供应系统11000中，由用户使用摄像机12300、相机12600、移动电话12500或另一成像装置记录的内容数据(例如，在音乐会期间记录的内容)被编码并传输到流式服务器11300。流式服务器11300可采用流内容类型将编码的内容数据传输到请求内容数据的其他客户端。

客户端(例如，计算机12100、PDA 12200、摄像机12300或移动电话12500)是能够对编码的内容数据进行解码的装置。因此，内容供应系统11000允许客户端接收和播放编码的内容数据。此外，内容供应系统11000允许客户端接收编码的内容数据，并且实时解码和播放编码的内容数据，从而实现个人播放。

本公开的视频编码设备和视频解码设备可应用于内容供应系统11000中包括的多个独立装置的编码操作和解码操作。

现在将参考图26和图27详细地描述内容供应系统11000中包括的移动电话12500的实施方式。

图26示出根据各种实施方式的应用本公开的视频编码方法和视频解码方法的移动电话12500的外部结构。移动电话12500可以是智能电话，它的功能不受限制并且其大量的功能可改变或扩展。

移动电话12500包括外部天线12510，经由该外部天线，射频(RF)信号可与图21的无线基站12000进行交换。移动电话12500还包括显示屏12520，所述显示屏12520用于显示由相机12530拍摄的图像或经由天线12510接收并解码的图像，例如，液晶显示器(LCD)或有机发光二极管(OLED)屏。移动电话12500包括操作面板12540，所述操作面板12540包括控制按钮和触摸面板。如果显示屏12520是触摸屏，那么操作面板12540进一步包括显示屏12520的触摸感应面板。移动电话12500包括：用于输出语音和声音的扬声器12580或另一类型的声音输出单元，以及用于输入语音和声音的麦克风12550或另一类型的声音输入单元。移动电话12500进一步包括相机12530，诸如，电荷耦合装置(CCD)相机，以拍摄视频或静态图像。移动电话12500可进一步包括：存储介质12570，该存储介质12570用于存储编码/解码的数据，例如，由相机12530拍摄、经由电子邮件接收或根据各种方式获取的视频或静态图像；以及槽12560，存储介质12570经由该槽12560装载到移动电话12500中。存储介质12570可以是闪存，例如，安全数字(SD)卡或者包括在塑料盒中的电可擦除可编程只读存储器(EEPROM)。

图27示出移动电话12500的内部结构。为了系统地控制包括显示屏12520和操作面板12540的移动电话12500的部分，电源电路12700、操作输入控制器12640、图像编码单元12720、相机接口12630、LCD控制器12620、图像解码单元12690、多路复用器/多路分解器12680、记录/读取单元12670、调制/解调单元12660以及声音处理器12650经由同步总线12730连接到中央控制器12710。

如果用户操作电源按钮并从“关机”状态设置到“开机”状态，那么电源电路12700将电力从电池组供应到移动电话12500的所有部分，从而在操作模式下设置移动电话12500。

中央控制器12710包括中央处理单元(CPU)、ROM和RAM。

在移动电话12500将通信数据传输到外部时，移动电话12500在中央控制器12710的控制下生成数字信号。例如，声音处理器12650可生成数字声音信号，图像编码单元12720可产生数字图像信号，并且消息的文本数据可经由操作面板12540和操作输入控制器12640生成。当数字信号在中央控制器12710的控制下传输到调制/解调单元12660时，调制/解调单元12660对数字信号的频带进行调制，并且通信电路12610在频带经调制的数字声音信号上执行数模转换(DAC)和频率转换。从通信电路12610输出的传输信号可经由天线12510传输到语音通信基站或无线基站12000。

例如，当移动电话12500处于对话模式时，经由麦克风12550获取的声音信号在中央控制器12710的控制下被声音处理器12650转换成数字声音信号。所生成的数字声音信号可通过调制/解调单元12660和通信电路12610转换成传输信号，并且可经由天线12510进行传输。

当文本消息(例如，电子邮件)在数据通信模式下传输时，文本消息的文本数据经由操作面板12540输入，并且经由操作输入控制器12640传输到中央控制器12610。在中央控制器12610的控制下，文本数据经由调制/解调单元12660和通信电路12610变换成传输信号，并且经由天线12510传输到无线基站12000。

为了在数据通信模式下传输图像数据，经由相机接口12630将相机12530拍摄的图像数据提供到图像编码单元12720。拍摄的图像数据可经由相机接口12630和LCD控制器12620直接显示在显示屏12520上。

图像编码单元12720的结构可对应于本公开的上述视频编码设备的结构。图像编码单元12720可根据本公开的上述视频编码方法将从相机12530接收的图像数据变换成压缩且编码的图像数据，并且随后可将编码的图像数据输出到多路复用器/多路分解器12680。在相机12530的记录操作期间，由移动电话12500的麦克风12550获得的声音信号可经由声音处理器12650变换成数字声音数据，并且数字声音数据可传输到多路复用器/多路分解器12680。

多路复用器/多路分解器12680将从图像编码单元12720接收的编码图像数据与从声音处理器12650接收的声音数据多路复用。多路复用数据的结果可经由调制/解调单元12660和通信单元12610转换成传输信号，并且可随后经由天线12510传输。

当移动电话12500接收来自外源的通信数据时，在经由天线12510接收的信号上执行频率恢复和模数转换(ADC)，以将该信号转换成数字信号。调制/解调单元12660对数字信号的频带进行调制。根据数字信号的类型，频带经过调制的数字信号传输到视频解码单元12690、声音处理器12650或LCD控制器12620。

在对话模式下，移动电话12500将经由天线12510接收的信号放大，并且通过在放大的信号上执行频率转换和ADC来获取数字声音信号。在中央控制器12710的控制下，接收的数字声音信号经由调制/解调单元12660和声音处理器12650转换成模拟声音信号，并且模拟声音信号经由扬声器12580输出。

在数据通信模式下，当接收到在互联网网站访问的视频文件的数据时，经由调制/解调单元12660将经由天线12510从无线基站12000接收的信号作为多路复用数据输出，并且将多路复用数据传输到多路复用器/多路分解器12680。

为了对经由天线12510接收的多路复用的数据进行解码，多路复用器/多路分解器12680将多路复用的数据多路分解成编码视频数据流和编码音频数据流。经由同步总线12730，编码视频数据流和编码音频数据流分别被提供到视频解码单元12690和声音处理器12650。

图像解码单元12690的结构可对应于本公开的上述视频解码设备的结构。根据本公开的上述视频解码方法，图像解码单元12690可对编码的视频数据进行解码，以生成重建的视频数据，并且经由LCD控制器12620将重建的视频数据提供到显示屏12520。

因此，在互联网网站访问的视频文件的数据可显示在显示屏12520上。同时，声音处理器12650可将音频数据转换成模拟声音信号，并且将模拟声音信号提供到扬声器12580。因此，在互联网网站访问的视频文件中含有的音频数据也可经由麦克风12580而播放。

移动电话12500或另一类型的通信终端可以是包括本公开的视频编码设备和视频解码设备的收发终端，可以是只包括本公开的视频编码设备的收发终端，或者可以是只包括本公开的视频解码设备的收发终端。

根据本公开的通信系统不限于上文参考图26描述的通信系统。例如，图28示出根据各种实施方式的采用通信系统的数字广播系统。根据各种实施方式的图28的数字广播系统可通过使用本公开的视频编码设备和视频解码设备来接收经由卫星或地面网络传输的数字广播。

更具体地，广播站12890通过使用无线电波而将视频数据流传输到通信卫星或广播卫星12900。广播卫星12900传输广播信号，并且广播信号经由家用天线12860传输到卫星广播接收器。在每个家庭中，编码的视频流可由TV接收器12810、机顶盒12870或另一装置解码并播放。

当本公开的视频解码设备实施于播放设备12830中时，播放设备12830可对记录在存储介质12820(诸如，盘片或存储卡)上的编码视频流进行解析和解码，以重建数字信号。因此，重建的视频信号可例如在显示器12840上播放。

在连接到用于卫星/地面广播的天线12860或用于接收电缆电视(TV)广播的电缆12850的机顶盒12870中，可安装本公开的视频解码设备。从机顶盒12870输出的数据也可在TV显示器12880上播放。

作为另一示例，本公开的视频解码设备可安装在TV接收器12810中，而不是机顶盒12870中。

具有适当天线12910的汽车12920可接收从卫星12900或图23的无线基站11700传输的信号。解码的视频可在安装于汽车12920中的汽车导航系统12930的显示屏上播放。

视频信号可由本公开的视频编码设备进行编码，并且可随后记录并存储到存储介质中。具体而言，图像信号可由DVD记录器存储在DVD光盘12960中，或者可由硬盘记录器12950存储在硬盘中。作为另一示例，视频信号可存储在SD卡12970中。如果硬盘记录器12950包括根据各种实施方式的本公开的视频解码设备，那么记录在DVD光盘12960、SD卡12970或另一存储介质上的视频信号可在TV显示器12880上播放。

汽车导航系统12930可不包括图28的相机12530、相机接口12630和图像编码单元12720。例如，计算机12100和TV接收器12810可不包括图28的相机12530、相机接口12630和图像编码单元12720。

图29是示出根据各种实施方式的使用视频编码设备和视频解码设备的云计算系统的网络结构的示意图。

本公开的云计算系统可包括云计算服务器14000、用户数据库(DB)14100、多个计算资源14200、以及用户终端。

响应于来自用户终端的请求，云计算系统经由数据通信网络(例如，互联网)来提供多个计算资源14200的按需外包服务。在云计算环境下，通过使用虚拟化技术将位于物理上不同位置的数据中心处的计算资源相结合，服务提供商为用户提供所需的服务。服务用户不必将计算资源(例如，应用程序、存储设备、操作系统(OS)和安全应用)安装到他/她自己的终端中以进行使用，而是可在所需的时间点从通过虚拟化技术生成的虚拟空间中的服务之中选择并使用所需服务。

使用指定服务的用户的用户终端经由包括互联网和移动远程通信网络的数据通信网络连接到云计算服务器14000。从云计算服务器14000可对用户终端提供云计算服务，具体地如视频播放服务。用户终端可以是能够连接到互联网的各种类型的电子装置，例如，台式PC 14300、智能TV 14400、智能电话14500、笔记本电脑14600、便携式多媒体播放器(PMP)14700、平板PC 14800等。

云计算服务器14000可将分布在云网络中的多个计算资源14200进行组合，并且将组合的结果提供到用户终端。多个计算资源14200可包括各种数据服务，并且可包括从用户终端上传的数据。如上文所述，云计算服务器14000可通过根据虚拟化技术将分布在不同区域中的视频数据库进行组合来将所需的服务提供到用户终端。

与订阅云计算服务的用户有关的用户信息存储在用户数据库14100中。用户信息可包括用户的登录信息、地址、姓名和个人信用信息。用户信息可进一步包括视频的索引。此处，索引可包括已经播放的视频列表、正在播放的视频列表、过去播放的视频的暂停点等。

存储在用户数据库14100中的与视频有关的信息可在用户装置之间共享。例如，当响应于来自笔记本电脑14600的请求而将视频服务提供到笔记本电脑14600时，视频服务的播放历史便存储在用户数据库14100中。当从智能电话14500接收播放该视频服务的请求时，云计算服务器14000基于用户数据库14100来搜索并播放该视频服务。当智能电话14500接收来自云计算服务器14000的视频数据流时，通过对视频数据流进行解码来播放视频的过程类似于上文参考图29描述的移动电话12500的操作。

云计算服务器14000可参考存储在用户数据库14100中的所需视频服务的播放历史。例如，云计算服务器14000接收来自用户终端的播放存储在用户数据库14100中的视频的请求。如果这个视频已在播放，那么由云计算服务器14000执行的流传输这个视频的方法可根据用户终端的请求而改变，即，根据从视频的开头还是暂停点开始播放该视频。例如，如果用户终端请求从视频的开头开始播放该视频，那么云计算服务器14000将从视频的第一帧开始的视频流数据传输到用户终端。如果用户终端请求从视频的暂停点开始播放该视频，那么云计算服务器14000将从对应于暂停点的帧开始的视频流数据传输到用户终端。

在这种情况下，用户终端可包括如上文参考图1A到图22描述的本公开的视频解码设备。作为另一示例，用户终端可包括如上文参考图1A到图22描述的本公开的视频编码设备。或者，用户终端可包括如上文参考图1A到图22描述的本公开的视频解码设备和视频编码设备两者。

上文参考图23到图29描述了上文参考图1A到图22描述的根据各种实施方式的视频编码方法、视频解码方法、视频编码设备和视频解码设备的各种应用。然而，根据各种实施方式的将视频编码方法和视频解码方法存储在存储介质中的方法或者在装置中实施视频编码设备和视频解码设备的方法不限于上文参考图23到图29描述的实施方式。

本领域普通技术人员将理解，在不脱离如所附权利要求限定的本公开的精神和范围的情况下，可对本公开在形式和细节方面做出各种改变。实施方式应仅被视作描述，而不是用于限制的目的。因此，本公开的范围并不由本公开的详细描述而限定，而是由所附权利要求限定，并且该范围内的所有差异都将被解释为包括在本公开中。