使用基于区域的帧间/帧内预测的编码/解码方法和设备与流程

本发明涉及一种用于对图像进行编码/解码的方法和设备。具体地，本发明涉及一种通过使用基于区域的帧间/帧内预测技术对图像进行编码/解码的方法和设备。

背景技术：

本发明涉及一种用于使用以下事实来提高编码效率的方法和设备：当图像中或图像之间存在多个视点(相机的方向)和视角(相机的视角)时，360度视频在视点之间具有固定或已知的差异。在本文中，视点是指由用户观看360度视频的一部分或图像的特定部分而不是观看360度视频的整个图像。

当前，运动画面专家组(mpeg)和视频编码专家组(vceg)已经对通用视频编码(vvc)进行标准化，其中，进行了可以在包括2d平面视频和具有超高分辨率的360视频的各种服务中使用的超高分辨率视频的编码技术的标准化。

具体地，不受现有2d视频的固定视点影响，360度视频是当用户播放视频时可在期望的视点处观看的视频。多个相机、鱼眼镜头或反射器用于投影到三维多面体或球体上，使得三维空间中的用户可以从一个点360度地观看所有方向，并且获得二维空间中的球体或多面体的展开的图像。因此，当播放视频时，发生空间(诸如三维多面体、球体等)中的重建，并且播放用户在整个图像中的特定时间观看的点。

关于用于360度视频的压缩编码方法和设备，已经应用了在现有2d视频中应用的相同压缩方法。关于编码器，已经使用了图7和图8中所示的方法和设备。

具体地，作为帧间预测技术，通常，将时间上的先前屏幕/后续屏幕与当前屏幕中的cu或pu进行比较以找到相似块并且将与当前cu(或pu)最相似的先前块/后续块的位置表示为运动信息的编码技术被用作基础。另外，为了完整地使用已经被编码的当前块的邻近块的运动信息，可以仅发送指示哪个邻近块与当前块相似的信息以提高帧间预测编码效率。

技术实现要素：

技术问题

本发明旨在提出一种通过使用基于区域的帧间预测技术对图像进行编码/解码的方法和设备。

此外，本发明旨在提出一种通过使用基于区域的帧内预测技术对图像进行编码/解码的方法和设备。

此外，本发明旨在提出一种用于提高360度视频的编码/解码效率的方法和设备。

技术方案

根据本发明，提供了一种对图像进行解码的方法，所述方法包括：确定360度视频图像的投影格式；基于确定的所述投影格式，确定当前块与邻近块之间的空间相关度；以及基于确定的所述空间相关度，确定用于对当前块进行预测的候选块。

投影格式可以是立方体贴图投影(cmp)格式和等矩形投影(erp)格式中的至少一个。

确定用于对当前块进行预测的候选块的步骤可以包括：构建当前块的合并候选列表，以及当所述投影格式是erp格式并且当前块位于图像帧的边界面中时，所述合并候选列表包括位于相对边界面中的预定块。

所述预定块可以是位于通过从当前块减去所述图像帧的宽度而获得的距离处的块。

确定用于对当前块进行预测的候选块的步骤可以包括：基于确定的所述空间相关度，从当前块的候选块中排除当前块的空间邻近块和时间邻近块中的至少一个。

确定用于对当前块进行预测的候选块的步骤可以包括：基于确定的所述空间相关度，使用第一块替换当前块的空间邻近块和时间邻近块中的至少一个，以在当前块的候选块中包括第一块。

第一块可以是与在空间上不相邻于当前块的块和在时间上不相邻于当前块的块中的至少一个相应的块。

确定用于对当前块进行预测的候选块的步骤可以包括：确定当前块的参考线的数量，并且所述数量可以基于当前块的位置是否位于所述图像的边界处被确定。

所述边界可以是片段图像之间的边界。

所述片段图像可以是并行块、条带、面、ctu行、ctu、并行块集和条带集中的至少一个。

此外，根据本发明，提供了一种对图像进行编码的方法，所述方法包括：确定360度视频图像的投影格式；基于确定的所述投影格式，确定当前块与邻近块之间的空间相关度；以及基于确定的所述空间相关度，确定用于对当前块进行预测的候选块。

所述投影格式可以是立方体贴图投影(cmp)格式和等矩形投影(erp)格式中的至少一个。

确定用于对当前块进行预测的候选块的步骤可以包括：构建当前块的合并候选列表，其中，当所述投影格式是erp格式并且当前块位于图像帧的边界面中时，所述合并候选列表包括位于相对边界面中的预定块。

所述预定块可以是位于通过从当前块减去所述图像帧的宽度而获得的距离处的块。

确定用于对当前块进行预测的候选块的步骤可以包括：基于确定的所述空间相关度，从当前块的候选块中排除当前块的空间邻近块和时间邻近块中的至少一个。

确定用于对当前块进行预测的候选块的步骤可以包括：基于确定的所述空间相关度，使用第一块替换当前块的空间邻近块和时间邻近块中的至少一个，以在当前块的候选块中包括第一块。

第一块可以是与在空间上不相邻于当前块的块和在时间上不相邻于当前块的块中的至少一个相应的块。

确定用于对当前块进行预测的候选块的步骤可以包括：确定当前块的参考线的数量，并且所述数量可以基于当前块的位置是否位于所述图像的边界处被确定。

所述边界可以是片段图像之间的边界。

所述片段图像可以是并行块、条带、面、ctu行、ctu、并行块集和条带集中的至少一个。

有益效果

根据本发明，可以提供一种通过使用基于区域的帧间预测技术对图像进行编码/解码的方法和设备。

此外，根据本发明，可以提供一种通过使用基于区域的帧内预测技术对图像进行编码/解码的方法和设备。

此外，根据本发明，可提供一种用于提高360度视频的编码/解码效率的方法和设备。

附图说明

图1是示出根据应用本发明的编码设备的实施例的配置的框图。

图2是示出根据应用本发明的解码设备的实施例的配置的框图。

图3是示意性地示出当对图像进行编码和解码时图像的分区结构的示图。

图4是示出帧内预测处理的示例的示图。

图5为示出帧间预测处理的示例的示图。

图6是示出变换和量化的处理的示图。

图7是示出可用于帧内预测的参考样点的示图。

图8a和图8b是示出根据本发明的实施例的应用于360度视频的编码/解码设备的框图。

图9是示出通过将根据本发明的实施例的360度视频投影到二维平面而产生的投影图像的示图。

图10是示出根据本发明的实施例的对360度视频的投影格式进行变换的处理的示图。

图11是示出根据本发明实施例的考虑编码/解码效率的各种类型的cmp格式变换的示图。

图12是示出根据本发明的实施例的被参考以构建合并候选列表的邻近块的示图。

图13是示出根据本发明的实施例的360度视频中的合并候选块的示图。

图14是示出根据本发明的实施例的在erp格式下在帧内预测期间被参考的候选块的示图。

图15是示出帧内预测处理的另一示例的示图。

图16是示出根据本发明的实施例的当前块的重建样点线的示图。

图17是示出根据本发明的实施例的对以erp格式投影的360度视频中的当前块进行预测的处理的示图。

图18是示出根据本发明的实施例的对以cmp格式投影的360度视频中的当前块进行预测的处理的示图。

图19是示出根据本发明的实施例的使用以cmp格式投影的360度视频中的多条参考线的处理的示图。

具体实施方式

可以对本发明进行各种修改，并且存在本发明的各种实施例，其中，现在将参照附图来提供本发明的各种实施例的示例并对其进行详细描述。然而，本发明不限于此，尽管示例性实施例可被解释为包括本发明的技术构思和技术范围内的所有修改、等同或替代。在各个方面，相似的附图标号指代相同或相似的功能。在附图中，为了清楚，可夸大元件的形状和尺寸。在本发明的以下详细描述中，参照了附图，其中，附图以图示的方式示出了可实践本发明的特定实施例。足够详细地描述了这些实施例以使本领域技术人员能够实施本公开。应当理解的是，本公开的各种实施例尽管不同，但不一定是互斥的。例如，在不脱离本公开的精神和范围的情况下，结合一个实施例在此描述的特定特征、结构和特性可在其他实施例中被实现。另外，应当理解，在不脱离本公开的精神和范围的情况下，可修改每个公开的实施例内的各个元件的位置或布置。因此，以下详细描述不应被视为具有限制意义，并且本公开的范围仅由所附权利要求(在合适的解释的情况下，还连同权利要求所要求保护的等同物的全部范围)来限定。

说明书中使用的术语“第一”、“第二”等可用于描述各种组件，但是组件不应解释为限于这些术语。这些术语仅用于区分一个组件与其他组件。例如，在不脱离本发明的范围的情况下，“第一”组件可被命名为“第二”组件，并且“第二”组件也可被相似地命名为“第一”组件。术语“和/或”包括多个项的组合或多个项中的任意一项。

将理解的是，在本说明书中，当元件被简单称为“连接到”或“耦接到”另一元件而不是“直接连接到”或“直接耦接到”另一元件时，元件可“直接连接到”另一元件或“直接耦接到”另一元件，或者在元件与另一元件之间介入有其他元件的情况下连接到或耦接到另一元件。相反，应当理解，当元件被称为“直接耦接”或“直接连接”到另一元件时，不存在中间元件。

另外，本发明的实施例中所示的构成部分被独立地示出，以表示彼此不同的特征功能。因此，这并不表示每个构成部分都以单独的硬件或软件的构成单元构成。换言之，为了方便，每个构成部分包括列举的构成部分中的每个。因此，每个构成部分的至少两个构成部分可被组合以形成一个构成部分，或者一个构成部分可被分区为多个构成部分以执行每种功能。如果没有脱离本发明的实质，则将每个构成部分被组合的实施例和一个构成部分被分区的实施例也包括在本发明的范围内。

本说明书中使用的术语仅用于描述特定实施例，而不旨在限制本发明。除非在上下文中具有明显不同的含义，否则以单数形式使用的表述包括复数形式的表述。在本说明书中，将理解，诸如“包括”、“具有”等的术语旨在指示存在说明书中公开的特征、编号、步骤、动作、元件、部件或其组合，而并不旨在排除可存在或可添加一个或更多个其他特征、编号、步骤、动作、元件、部件或其组合的可能性。换言之，当特定元素被称为“被包括”时，并不排除除了相应元素之外的元素，而是可在本发明的实施例或本发明的范围中包括附加的元素。

另外，某些构成部分可能不是执行本发明的基本功能的必不可少的构成部分，而是仅提高其性能的选择性构成部分。可通过仅包括用于实现本发明的本质的必不可少的构成部分而不包括用于提高性能的构成部分来实现本发明。仅包括必不可少的构成部分而不包括仅用于提高性能的选择性构成部分的结构也包括在本发明的范围内。

在下文中，将参照附图详细描述本发明的实施例。在描述本发明的示例性实施例时，将不详细描述公知的功能或构造，因为它们可能不必要地模糊对本发明的理解。附图中相同的构成元件由相同的附图标号表示，并且对相同元件的重复描述将被省略。

在下文中，图像可指构成视频的画面，或者可指视频本身。例如，“对图像进行编码或解码或者进行编码和解码两者”可指“对运动画面进行编码或解码或者进行编码和解码两者”，并且可指“对运动画面的图像中的一个图像进行编码或解码或者进行编码和解码两者”。

在下文中，术语“运动画面”和“视频”可用作相同的含义并且可彼此替换。

在下文中，目标图像可以是作为编码目标的编码目标图像和/或作为解码目标的解码目标图像。另外，目标图像可以是输入到编码设备的输入图像、以及输入到解码设备的输入图像。这里，目标图像可与当前画面具有相同的含义。

在下文中，术语“图像”、“画面”、“帧”和“屏幕”可被用作相同的含义并且可彼此替换。

在下文中，目标块可以是作为编码目标的编码目标块和/或作为解码目标的解码目标块。另外，目标块可以是作为当前编码和/或解码的目标的当前块。例如，术语“目标块”和“当前块”可被用作相同的含义并且可彼此替换。

在下文中，术语“块”和“单元”可被用作相同的含义并且可彼此替换。或者“块”可表示特定单元。

在下文中，术语“区域”和“片段”可彼此替换。

在下文中，特定信号可以是表示特定块的信号。例如，原始信号可以是表示目标块的信号。预测信号可以是表示预测块的信号。残差信号可以是表示残差块的信号。

在实施例中，特定信息、数据、标志、索引、元素和属性等中的每个可具有值。信息、数据、标志、索引、元素和属性的值等于“0”可表示逻辑假或第一预定义值。换言之，值“0”、假、逻辑假和第一预定义值可彼此替换。信息、数据、标志、索引、元素和属性的值等于“1”可表示逻辑真或第二预定义值。换句话说，值“1”、真、逻辑真和第二预定义值可彼此替换。

当变量i或j用于表示列、行或索引时，i的值可以是等于或大于0的整数、或者是等于或大于1的整数。即，列、行、索引等可从0开始计数，或者可从1开始计数。

术语描述

编码器：表示执行编码的设备。即，表示编码设备。

解码器：表示执行解码的设备。即，表示解码设备。

块：是m×n的样点阵列。这里，m和n可表示正整数，并且块可表示二维形式的样点阵列。块可指单元。当前块可表示在编码时成为目标的编码目标块，或者在解码时成为目标的解码目标块。另外，当前块可以是编码块、预测块、残差块和变换块中的至少一个。

样点：是构成块的基本单元。根据比特深度(bd)，样点可被表示为从0到2^bd-1的值。在本发明中，样点可被用作像素的含义。即，样点、pel、像素可具有彼此相同的含义。

单元：可指编码和解码单元。当对图像进行编码和解码时，单元可以是通过对单个图像进行分区而产生的区域。另外，当在编码或解码期间将单个图像分区为子分区单元时，单元可表示子分区单元。即，图像可被分区为多个单元。当对图像进行编码和解码时，可以执行针对每个单元的预定处理。单个单元可被分区为尺寸小于该单元的尺寸的子单元。依据功能，单元可表示块、宏块、编码树单元、编码树块、编码单元、编码块、预测单元、预测块、残差单元、残差块、变换单元、变换块等。另外，为了将单元与块区分开，单元可包括亮度分量块、与亮度分量块相关联的色度分量块、以及每个颜色分量块的语法元素。单元可具有各种尺寸和形状，具体地，单元的形状可以是二维几何图形，诸如正方形、矩形、梯形、三角形、五边形等。另外，单元信息可包括指示编码单元、预测单元、变换单元等的单元类型以及单元尺寸、单元深度、单元的编码和解码的顺序等中的至少一个。

编码树单元：被配置有亮度分量y的单个编码树块以及与色度分量cb和cr相关的两个编码树块。另外，编码树单元可表示包括块和每个块的语法元素。可通过使用四叉树分区方法、二叉树分区方法和三叉树分区方法中的至少一个对每个编码树单元进行分区，以配置诸如编码单元、预测单元、变换单元等的更低等级的单元。编码树单元可被用作用于指定在对作为输入图像的图像进行编码/解码时成为处理单元的样点块的术语。这里，四叉树可表示四元树。

当编码块的尺寸在预定范围内时，可以仅使用四叉树分区进行分区。这里，预定范围可被定义为能够仅使用四叉树分区进行分区的编码块的最大尺寸和最小尺寸中的至少一个。可通过比特流用信号发送指示允许四叉树分区的编码块的最大/最小尺寸的信息，并且可在序列、画面参数、并行块组或条带(片段)中的至少一个单元中用信号发送所述信息。可选地，编码块的最大/最小尺寸可以是编码器/解码器中预定的固定尺寸。例如，当编码块的尺寸与256×256至64×64相应时，仅使用四叉树分区来进行分区是可能的。可选地，当编码块的尺寸大于最大转换块的尺寸时，仅使用四叉树分区来进行分区是可能的。这里，将被分区的块可以是编码块和变换块中的至少一个。在这种情况下，指示编码块的分区的信息(例如，split_flag)可以是指示是否执行四叉树分区的标志。当编码块的尺寸落在预定范围内时，仅使用二叉树或三叉树分区来进行分区是可能的。在这种情况下，四叉树分区的以上描述可以相同方式被应用于二叉树分区或三叉树分区。

编码树块：可用作用于指定y编码树块、cb编码树块和cr编码树块中的任意一个的术语。

邻近块：可表示与当前块相邻的块。与当前块相邻的块可表示与当前块的边界接触的块、或者位于距当前块预定距离内的块。邻近块可表示与当前块的顶点相邻的块。这里，与当前块的顶点相邻的块可表示与水平相邻于当前块的邻近块垂直相邻的块、或者与垂直相邻于当前块的邻近块水平相邻的块。

重建邻近块：可表示与当前块相邻并且已经在空间/时间上被编码或解码的邻近块。这里，重建邻近块可表示重建邻近单元。重建空间邻近块可以是在当前画面内并且已经通过编码或解码或者编码和解码两者而被重建的块。重建时间邻近块是在参考画面内的与当前画面的当前块相应的位置处的块或所述块的邻近块。

单元深度：可表示单元的分区程度。在树结构中，最高节点(根节点)可与未被分区的第一单元相应。另外，最高节点可具有最小深度值。在这种情况下，最高节点的深度可以为等级0。深度为等级1的节点可表示通过对第一单元进行一次分区而产生的单元。深度为等级2的节点可表示通过对第一单元进行两次分区而产生的单元。深度为等级n的节点可表示通过对第一单元进行n次分区而产生的单元。叶节点可以是最低节点并且是不能被进一步分区的节点。叶节点的深度可以是最大等级。例如，最大等级的预定义值可以是3。根节点的深度可以是最低的，并且叶节点的深度可以是最深的。另外，当单元被表示为树结构时，单元所存在于的等级可表示单元深度。

比特流：可表示包括编码图像信息的比特流。

参数集：与比特流内的配置之中的头信息相应。视频参数集、序列参数集、画面参数集和自适应参数集中的至少一个可被包括在参数集中。此外，参数集可包括条带(slice)头、并行块(tile)组头和并行块头信息。术语“并行块组”表示一组并行块并且具有与条带相同的含义。

自适应参数集可表示可通过在不同画面、子画面、条带、并行块组、并行块或分块中参考而被共享的参数集。另外，可通过参考用于画面内的帧内画面子画面、条带、并行块组、并行块或分块的不同自适应参数集来使用自适应参数集信息中的帧内信息。

另外，关于自适应参数集，可以通过将不同自适应参数集的标识符用于画面内的帧内画面子画面、条带、并行块组、并行块或分块来参考不同的自适应参数集。

另外，关于自适应参数集，可以通过将不同自适应参数集的标识符用于子画面内的帧内子画面、条带、并行块组、并行块或分块来参考不同的自适应参数集。

另外，关于自适应参数集，可以通过将不同自适应参数集的标识符用于条带内的帧内条带、并行块或分块来引用不同的自适应参数集。

另外，关于自适应参数集，可以通过使用不同自适应参数集的标识符用于并行块内的帧内并行块、分块来参考不同的自适应参数集。

关于自适应参数集标识符的信息可被包括在子画面的参数集或头中，并且与自适应参数集标识符相应的自适应参数集可被用于子画面。

关于自适应参数集标识符的信息可被包括在并行块的参数集或头中，并且与自适应参数集标识符相应的自适应参数集可被用于并行块。

关于自适应参数集标识符的信息可被包括在分块的头中，并且与自适应参数集标识符相应的自适应参数集可被用于分块。

画面可被分区为一个或更多个并行块行和一个或更多个并行块列。

子画面可被分区为画面内的一个或更多个并行块行和一个或更多个并行块列。子画面可以是画面内具有矩形/正方形形式的区域，并且可包括一个或更多个ctu。另外，至少一个或更多个并行块/块/条带可包括在一个子画面内。

并行块可以是画面内具有矩形/正方形形式的区域，并且可包括一个或更多个ctu。另外，并行块可以被分区为一个或更多个分块。

分块可以表示并行块内的一个或多个ctu行。并行块可以被分区为一个或多个分块，并且每个块可以具有至少一个或多个ctu行。不能被分区为两个或更多个分块的并行块可以表示分块。

条带可包括画面内的一个或更多个并行块，并且可包括并行块内的一个或更多个分块。

解析：可表示通过执行熵解码来确定语法元素的值，或者可表示熵解码本身。

符号：可表示编码/解码目标单元的语法元素、编码参数和变换系数值中的至少一个。此外，符号可表示熵编码目标或熵解码结果。

预测模式：可以是指示利用帧内预测而被编码/解码的模式或利用帧间预测而被编码/解码的模式的信息。

预测单元：可表示当执行预测(诸如帧间预测、帧内预测、帧间补偿、帧内补偿及运动补偿)时的基本单元。单个预测单元可被分区为具有更小尺寸的多个分区，或者可被分区为多个更低等级的预测单元。多个分区可以是在执行预测或补偿时的基本单元。通过划分预测单元而产生的分区也可以是预测单元。预测单元可具有各种尺寸和形状。特别地，预测单元的形状可以包括可以以二维表示的几何图形(诸如矩形形状、正方形形状、梯形形状、三角形形状、五边形形状等)。

预测单元分区：可表示通过对预测单元进行分区而获得的形状。

参考画面列表可指包括用于帧间预测或运动补偿的一个或更多个参考画面的列表。存在若干类型的可用的参考画面列表，包括lc(列表组合)、l0(列表0)、l1(列表1)、l2(列表2)、l3(列表3)。

帧间预测指示符可以指当前块的帧间预测的方向(单向预测、双向预测等)。可选地，帧间预测指示符可指用于产生当前块的预测块的参考画面的数量。可选地，帧间预测指示符可指在对当前块进行帧间预测或运动补偿时使用的预测块的数量。

预测列表利用标志指示是否使用特定参考画面列表中的至少一个参考画面来产生预测块。可使用预测列表利用标志来推导帧间预测指示符，并且相反地，可使用帧间预测指示符来推导预测列表利用标志。例如，当预测列表利用标志具有第一值零(0)时，它表示参考画面列表中的参考画面不被用于产生预测块。另一方面，当预测列表利用标志具有第二值一(1)时，它表示参考画面列表被用于产生预测块。

参考画面索引可指指示参考画面列表中的特定参考画面的索引。

参考画面可表示由特定块参考以用于特定块的帧间预测或运动补偿的目的的参考画面。可选地，参考画面可以是包括由当前块参考以用于帧间预测或运动补偿的参考块的画面。在下文中，术语“参考画面”和“参考画面”具有相同的含义并且可以互换。

运动矢量可以是用于帧间预测或运动补偿的二维矢量。运动矢量可表示编码/解码目标块与参考块之间的偏移。例如，(mvx，mvy)可表示运动矢量。这里，mvx可以表示水平分量，并且mvy可以表示垂直分量。

搜索范围可以是在帧间预测期间被搜索以检索运动矢量的二维区域。例如，搜索范围的尺寸可以是m×n。这里，m和n都是整数。

运动矢量候选可以指在对运动矢量进行预测时的预测候选块或预测候选块的运动矢量。另外，运动矢量候选可以被包括在运动矢量候选列表中。

运动矢量候选列表可表示由一个或更多个运动矢量候选组成的列表。

运动矢量候选索引可表示指示运动矢量候选列表中的运动矢量候选的指示符。可选地，它可以是运动矢量预测因子的索引。

运动信息可表示包括包括运动矢量、参考画面索引、帧间预测指示符、预测列表利用标志、参考画面列表信息、参考画面、运动矢量候选、运动矢量候选索引、合并候选和合并索引中的至少一项的信息。

合并候选列表可表示由一或更多个合并候选组成的列表。

合并候选可表示空间合并候选、时间合并候选、组合合并候选、组合双预测合并候选或零合并候选。合并候选可以包括诸如帧间预测指示符、每个列表的参考画面索引、运动矢量、预测列表利用标志和帧间预测指示符的运动信息。

合并索引可表示指示合并候选列表中的合并候选的指示符。可选地，合并索引可指示在空间上/时间上与当前块相邻的重建块中的块，其中，已从该块推推导合并候选。可选地，合并索引可指示合并候选的至少一条运动信息。

变换单元：可表示在对残差信号执行编码/解码(诸如变换、逆变换、量化、反量化、变换系数编码/解码)时的基本单元。单个变换单元可被分区为具有更小尺寸的多个更低等级的变换单元。这里，变换/逆变换可包括初级变换/初级逆变换和次级变换/次级逆变换中的至少一个。变换单元可具有各种尺寸和形状。特别地，变换单元的形状可以包括可以以二维表示的几何图形(诸如矩形形状、正方形形状、梯形形状、三角形形状、五边形形状等)。

缩放：可表示将量化的等级乘以因子的处理。可通过对量化的等级进行缩放来产生变换系数。缩放也可被称为反量化。

量化参数：可表示当在量化期间使用变换系数来产生量化的等级时使用的值。量化参数还可表示当在反量化期间通过对量化的等级进行缩放来产生变换系数时使用的值。量化参数可以是被映射在量化步长上的值。

增量量化参数：可表示预测的量化参数与编码/解码目标单元的量化参数之间的差值。

扫描：可表示对单元、块或矩阵内的系数进行排序的方法。例如，将系数的二维矩阵改成为一维矩阵可被称为扫描，将系数的一维矩阵改成为二维矩阵可被称为扫描或逆扫描。

变换系数：可表示在编码器中执行变换之后产生的系数值。变换系数可表示在解码器中执行熵解码和反量化中的至少一个之后产生的系数值。通过对变换系数或残差信号进行量化而获得的量化的等级或者量化的变换系数等级也可落入变换系数的含义内。

量化的等级：可表示在编码器中通过对变换系数或残差信号进行量化而产生的值。可选地，量化的等级可表示作为在解码器中经历反量化的反量化目标的值。相似地，作为变换和量化的结果的量化的变换系数等级也可落入量化的等级的含义内。

非零变换系数：可表示具有除零之外的值的变换系数、或者具有除零之外的值的变换系数等级或量化的等级。

量化矩阵：可表示在为了提高主观图像质量或客观图像质量而执行的量化处理或反量化处理中使用的矩阵。量化矩阵也可被称为缩放列表。

量化矩阵系数：可表示量化矩阵内的每个元素。量化矩阵系数也可被称为矩阵系数。

默认矩阵：可表示在编码器或解码器中预先定义的预定量化矩阵。

非默认矩阵：可表示在编码器或解码器中未被预先定义而是由用户用信号发送的量化矩阵。

统计值：针对具有可计算的特定值的变量、编码参数、常量值等之中的至少一个的统计值可以是相应特定值的平均值、求和值、加权平均值、加权和值、最小值、最大值、最频繁出现的值、中值、插值之中的一个或更多个。

图1是示出根据应用了本发明的实施例的编码设备的配置的框图。

编码设备100可以是编码器、视频编码设备或图像编码设备。视频可包括至少一个图像。编码设备100可顺序地对至少一个图像进行编码。

参照图1，编码设备100可包括运动预测单元111、运动补偿单元112、帧内预测单元120、切换器115、减法器125、变换单元130、量化单元140、熵编码单元150、反量化单元160、逆变换单元170、加法器175、滤波器单元180和参考画面缓冲器190。

编码设备100可通过使用帧内模式或帧间模式或者帧内模式和帧间模式两者来执行输入图像的编码。此外，编码设备100可通过对输入图像进行编码来产生包括编码信息的比特流，并输出产生的比特流。产生的比特流可被存储在计算机可读记录介质中，或者可通过有线/无线传输介质被流传输。当帧内模式被用作预测模式时，切换器115可切换到帧内。可选地，当帧间模式被用作预测模式时，切换器115可切换到帧间模式。这里，帧内模式可表示帧内预测模式，帧间模式可表示帧间预测模式。编码设备100可产生针对输入图像的输入块的预测块。此外，编码设备100可在产生预测块之后使用输入块和预测块的残差对残差块进行编码。输入图像可被称为作为当前编码目标的当前画面。输入块可被称为作为当前编码目标的当前块，或者被称为编码目标块。

当预测模式是帧内模式时，帧内预测单元120可使用已被编码/解码并与当前块相邻的块的样点作为参考样点。帧内预测单元120可通过使用参考样点来对当前块执行空间预测，或者通过执行空间预测来产生输入块的预测样点。这里，帧内预测可表示帧内部的预测。

当预测模式是帧间模式时，运动预测单元111可在执行运动预测时从参考画面检索与输入块最匹配的区域，并且通过使用检索到的区域来推导运动矢量。在这种情况下，搜索区域可被用作所述区域。参考画面可被存储在参考画面缓冲器190中。这里，当执行对参考画面的编码/解码时，参考画面可被存储在参考画面缓冲器190中。

运动补偿单元112可通过使用运动矢量对当前块执行运动补偿来产生预测块。这里，帧间预测可表示帧之间的预测或运动补偿。

当运动矢量的值不是整数时，运动预测单元111和运动补偿单元112可通过将插值滤波器应用于参考画面的部分区域来产生预测块。为了对编码单元执行画面间预测或运动补偿，可确定跳过模式、合并模式、高级运动矢量预测(amvp)模式和当前画面参考模式之中的哪个模式被用于对包括在相应编码单元中的预测单元的运动预测和运动补偿。然后，依据所确定的模式，可不同地执行画面间预测或运动补偿。

减法器125可通过使用输入块和预测块的差来产生残差块。残差块可被称为残差信号。残差信号可表示原始信号和预测信号之间的差。此外，残差信号可以是通过对原始信号与预测信号之间的差进行变换或量化或者变换和量化而产生的信号。残差块可以是块单元的残差信号。

变换单元130可通过对残差块执行变换来产生变换系数，并输出产生的变换系数。这里，变换系数可以是通过对残差块执行变换而产生的系数值。当变换跳过模式被应用时，变换单元130可跳过对残差块的变换。

可通过将量化应用于变换系数或应用于残差信号来产生量化的等级。在下文中，量化的等级在实施例中也可被称为变换系数。

量化单元140可通过根据参数对变换系数或残差信号进行量化来产生量化的等级，并输出产生的量化的等级。这里，量化单元140可通过使用量化矩阵对变换系数进行量化。

熵编码单元150可通过根据概率分布对由量化单元140计算出的值或者对在执行编码时计算出的编码参数值执行熵编码来产生比特流，并输出产生的比特流。熵编码单元150可对图像的样点信息和用于对图像进行解码的信息执行熵编码。例如，用于对图像进行解码的信息可包括语法元素。

当熵编码被应用时，符号被表示使得较少数量的比特被分配给具有高产生可能性的符号，并且较多数量的比特被分配给具有低产生可能性的符号，因此，可减小用于将被编码的符号的比特流的大小。熵编码单元150可使用诸如指数哥伦布、上下文自适应可变长度编码(cavlc)、上下文自适应二叉算术编码(cabac)等的用于熵编码的编码方法。例如，熵编码单元150可通过使用变长编码/码(vlc)表来执行熵编码。此外，熵编码单元150可推导目标符号的二值化方法和目标符号/二叉位的概率模型，并且通过使用推导的二值化方法和上下文模型来执行算术编码。

为了对变换系数等级(量化的等级)进行编码，熵编码单元150可通过使用变换系数扫描方法将二维块形式的系数改成为一维矢量形式。

编码参数可包括在编码器中被编码并且被用信号发送到解码器的诸如语法元素的信息(标志、索引等)以及在执行编码或解码时推推导的信息。编码参数可表示在对图像进行编码或解码时所需要的信息。例如，以下项中的至少一个值或组合形式可被包括在编码参数中：单元/块尺寸、单元/块深度、单元/块分区信息、单元/块形状、单元/块分区结构、是否进行四叉树形式的分区、是否进行二叉树形式的分区、二叉树形式的分区方向(水平方向或垂直方向)、二叉树形式的分区形式(对称分区或非对称分区)、当前编码单元是否通过三叉树分区被分区、三叉树分区的方向(水平方向或垂直方向)、三叉树分区的类型(对称类型或非对称类型)、当前编码单元是否通过多类型树分区被分区、多类型树分区的方向(水平方向或垂直方向)、多类型树分区的类型(对称类型或非对称类型)、多类型树分区的树(二叉树或三叉树)结构、预测模式(帧内预测或帧间预测)、亮度帧内预测模式/方向、色度帧内预测模式/方向、帧内分区信息、帧间分区信息、编码块分区标志、预测块分区标志、变换块分区标志、参考样点滤波方法、参考样点滤波器抽头、参考样点滤波器系数、预测块滤波方法、预测块滤波器抽头、预测块滤波器系数、预测块边界滤波方法、预测块边界滤波器抽头、预测块边界滤波器系数、帧内预测模式、帧间预测模式、运动信息、运动矢量、运动矢量差、参考画面索引、帧间预测角度、帧间预测指示符、预测列表利用标志、参考画面列表、参考画面、运动矢量预测因子索引、运动矢量预测因子候选、运动矢量候选列表、是否使用合并模式、合并索引、合并候选、合并候选列表、是否使用跳过模式、插值滤波器类型、插值滤波器抽头、插值滤波器系数、运动矢量大小、运动矢量的表示精度、变换类型、变换尺寸、初级(第一次)变换是否被使用的信息、次级变换是否被使用的信息、初级变换索引、次级变换索引、残差信号是否存在的信息、编码块样式、编码块标志(cbf)、量化参数、量化参数残差、量化矩阵、是否应用帧内环内滤波器、帧内环内滤波器系数、帧内环内滤波器抽头、帧内环内滤波器形状/形式、是否应用去块滤波器、去块滤波器系数、去块滤波器抽头、去块滤波器强度、去块滤波器形状/形式、是否应用自适应样点偏移、自适应样点偏移值、自适应样点偏移类别、自适应样点偏移类型、是否应用自适应环内滤波器、自适应环内滤波器系数、自适应环内滤波器抽头、自适应环内滤波器形状/形式、二值化/逆二值化方法、上下文模型确定方法、上下文模型更新方法、是否执行常规模式、是否执行旁路模式、上下文二叉位、旁路二叉位、有效系数标志、最后有效系数标志、针对系数组的单元的编码标志、最后有效系数的位置、关于系数的值是否大于1的标志、关于系数的值是否大于2的标志、关于系数的值是否大于3的标志、关于其余系数值的信息、符号信息、重建亮度样点、重建色度样点、残差亮度样点、残差色度样点、亮度变换系数、色度变换系数、量化的亮度等级、量化的色度等级、变换系数等级扫描方法、在解码器侧的运动矢量搜索区域的尺寸、在解码器侧的运动矢量搜索区域的形状、在解码器侧的运动矢量搜索的次数、关于ctu尺寸的信息、关于最小块尺寸的信息、关于最大块尺寸的信息、关于最大块深度的信息、关于最小块深度的信息、图像显示/输出顺序、条带标识信息、条带类型、条带分区信息、并行块标识信息、并行块类型、并行块分区信息、并行块组标识信息、并行块组类型、并行块组分区信息、画面类型、输入样点的比特深度、重建样点的比特深度、残差样点的比特深度、变换系数的比特深度、量化的等级的比特深度、以及关于亮度信号的信息或关于色度信号的信息。

这里，用信号发送标志或索引可表示由编码器对相应标志或索引进行熵编码并将其包括在比特流中，并且可表示由解码器从比特流对相应标志或索引进行熵解码。

当编码设备100通过帧间预测执行编码时，编码的当前画面可被用作用于随后被处理的另一图像的参考画面。因此，编码设备100可对编码的当前画面进行重建或解码，或者将重建或解码的图像作为参考画面存储在参考画面缓冲器190中。

量化的等级可在反量化单元160中被反量化，或者可在逆变换单元170中被逆变换。可由加法器175将经过反量化或逆变换的系数或者经过反量化和逆变换两者的系数与预测块相加。通过将经过反量化或逆变换的系数或者经过反量化和逆变换两者的系数与预测块相加，可产生重建块。这里，经过反量化或逆变换的系数或经过反量化和逆变换两者的系数可表示执行了反量化和逆变换中的至少一个的系数，并且可表示重建残差块。

重建块可通过滤波器单元180。滤波器单元180可将去块滤波器、样点自适应偏移(sao)和自适应环内滤波器(alf)中的至少一个应用于重建样点、重建块或重建图像。滤波器单元180可被称为环内滤波器。

去块滤波器可去除在块之间的边界中产生的块失真。为了确定是否应用去块滤波器，可基于块中所包括的若干行或列中包括的样点来确定是否将去块滤波器应用于当前块。当将去块滤波器应用于块时，可根据所需的去块滤波强度来应用另一滤波器。

为了补偿编码误差，可通过使用样点自适应偏移将合适的偏移值与样点值相加。样点自适应偏移可以以样点为单位对经过去块的图像与原始图像的偏移进行校正。可使用考虑关于每个样点的边缘信息来应用偏移的方法，或者可使用以下方法：将图像的样点分区为预定数量的区域，确定偏移被应用的区域，并对确定的区域应用偏移。

自适应环内滤波器可基于经滤波的重建图像和原始图像的比较结果来执行滤波。可将包括在图像中的样点分区为预定组，可确定将被应用于每个组的滤波器，并且可对每个组执行差异化滤波。是否应用alf的信息可通过编码单元(cu)被用信号发送，并且将被应用于每个块的alf的形式和系数可变化。

已经通过滤波器单元180的重建块或重建图像可被存储在参考画面缓冲器190中。由滤波器单元180处理的重建块可以是参考画面的一部分。也就是说，参考画面是由滤波器单元180处理的重建块组成的重建图像。存储的参考画面可稍后在帧间预测或运动补偿中被使用。

图2是示出根据实施例并且应用了本发明的解码设备的配置的框图。

解码设备200可以是解码器、视频解码设备或图像解码设备。

参照图2，解码设备200可包括熵解码单元210、反量化单元220、逆变换单元230、帧内预测单元240、运动补偿单元250、加法器255、滤波器单元260和参考画面缓冲器270。

解码设备200可接收从编码设备100输出的比特流。解码设备200可接收存储在计算机可读记录介质中的比特流，或者可接收通过有线/无线传输介质被流传输的比特流。解码设备200可通过使用帧内模式或帧间模式对比特流进行解码。此外，解码设备200可产生通过解码而产生的重建图像或解码图像，并输出重建图像或解码图像。

当在解码时使用的预测模式是帧内模式时，切换器可被切换到帧内。可选地，当在解码时使用的预测模式是帧间模式时，切换器可被切换到帧间模式。

解码设备200可通过对输入比特流进行解码来获得重建残差块，并产生预测块。当重建残差块和预测块被获得时，解码设备200可通过将重建残差块与预测块相加来产生解码目标的重建块。解码目标块可被称为当前块。

熵解码单元210可通过根据概率分布对比特流进行熵解码来产生符号。产生的符号可包括量化的等级形式的符号。这里，熵解码方法可以是上述熵编码方法的逆过程。

为了对变换系数等级(量化的等级)进行解码，熵解码单元210可通过使用变换系数扫描方法将单向矢量形式的系数改成为二维块形式。

可在反量化单元220中对量化的等级进行反量化，或者可在逆变换单元230中对量化的等级进行逆变换。量化的等级可以是进行反量化或逆变换或者进行反量化和逆变换两者的结果，并且可被产生为重建残差块。这里，反量化单元220可将量化矩阵应用于量化的等级。

当使用帧内模式时，帧内预测单元240可通过对当前块执行空间预测来产生预测块，其中，空间预测使用与解码目标块相邻并且已经被解码的块的样点值。

当使用帧间模式时，运动补偿单元250可通过对当前块执行运动补偿来产生预测块，其中，运动补偿使用运动矢量以及存储在参考画面缓冲器270中的参考画面。

加法器225可通过将重建残差块与预测块相加来产生重建块。滤波器单元260可将去块滤波器、样点自适应偏移和自适应环内滤波器中的至少一个应用于重建块或重建图像。滤波器单元260可输出重建图像。重建块或重建图像可被存储在参考画面缓冲器270中并且在执行帧间预测时被使用。由滤波器单元260处理的重建块可以是参考画面的一部分。也就是说，参考画面是由滤波器单元260处理的重建块组成的重建图像。存储的参考画面可稍后在帧间预测或运动补偿中被使用。

图3是示意性地示出当对图像进行编码和解码时图像的分区结构的示图。图3示意性地示出将单个单元分区为多个更低等级的单元的示例。

为了有效地对图像进行分区，当进行编码和解码时，可使用编码单元(cu)。编码单元可被用作当对图像进行编码/解码时的基本单元。此外，编码单元可被用作用于在对图像进行编码/解码时区分帧内预测模式与帧间预测模式的单元。编码单元可以是用于预测、变换、量化、逆变换、反量化、或对变换系数的编码/解码处理的基本单元。

参照图3，图像300按照最大编码单元(lcu)被顺序地分区，并且lcu单元被确定为分区结构。这里，lcu可以以与编码树单元(ctu)相同的含义被使用。单元分区可表示对与该单元相关联的块进行分区。在块分区信息中，可包括单元深度的信息。深度信息可表示单元被分区的次数或程度或者单元被分区的次数和程度两者。可基于树结构将单个单元分区为与深度信息分层地相关联的多个更低等级的单元。换言之，单元和通过对该单元进行分区而产生的更低等级的单元可分别与节点和该节点的子节点相应。分区出的更低等级的单元中的每个可具有深度信息。深度信息可以是表示cu的尺寸的信息，并且可被存储在每个cu中。单元深度表示与对单元进行分区相关的次数和/或程度。因此，更低等级的单元的分区信息可包括关于更低等级的单元的尺寸的信息。

分区结构可表示lcu310内的编码单元(cu)的分布。可根据是否将单个cu分区为多个(等于或大于2的包括2、4、8、16等的正整数)cu来确定这样的分布。通过分区产生的cu的水平尺寸和垂直尺寸可分别是分区之前的cu的水平尺寸和垂直尺寸的一半，或者可分别具有小于根据分区的次数而进行分区之前的水平尺寸和垂直尺寸的尺寸。cu可以被递归地分区为多个cu。通过递归分区，与分区之前的cu的高度和宽度之中的至少一个相比，分区之后的cu的高度和宽度之中的至少一个可减小。可递归地执行cu的分区，直到预定义的深度或预定义的尺寸为止。例如，lcu的深度可以是0，最小编码单元(scu)的深度可以是预定义的最大深度。这里，如上所述，lcu可以是具有最大编码单元尺寸的编码单元，并且scu可以是具有最小编码单元尺寸的编码单元。分区从lcu310开始，当cu的水平尺寸或垂直尺寸或者水平尺寸和垂直尺寸两者通过分区而减小时，cu深度增加1。例如，对于每个深度，未被分区的cu的尺寸可以为2n×2n。此外，在被分区的cu的情况下，可将尺寸为2n×2n的cu分区为尺寸为n×n的四个cu。随着深度增加1，n的大小可减半。

另外，可通过使用cu的分区信息来表示cu是否被分区的信息。分区信息可以是1比特信息。除scu之外的所有cu可包括分区信息。例如，当分区信息的值为第一值时，可不对cu进行分区，当分区信息的值为第二值时，可对cu进行分区。

参照图3，具有深度0的lcu可以是64×64的块。0可以是最小深度。具有深度3的scu可以是8×8的块。3可以是最大深度。32×32的块和16×16的块的cu可分别被表示为深度1和深度2。

例如，当单个编码单元被分区为四个编码单元时，分区出的四个编码单元的水平尺寸和垂直尺寸可以是cu在被分区之前的水平尺寸和垂直尺寸的一半大小。在一个实施例中，当尺寸为32×32的编码单元被分区为四个编码单元时，分区出的四个编码单元中的每个可具有16×16的尺寸。当单个编码单元被分区为四个编码单元时，可称编码单元可被分区为四叉树形式。

例如，当一个编码单元被分区为两个子编码单元时，两个子编码单元中的每个子编码单元的水平尺寸或垂直尺寸(宽度或高度)可以是原始编码单元的水平尺寸或垂直尺寸的一半。例如，当具有32×32的尺寸的编码单元被垂直分区为两个子编码单元时，该两个子编码单元中的每个可具有16×32的尺寸。例如，当具有8×32的尺寸的编码单元被水平分区为两个子编码单元时，该两个子编码单元中的每个可具有8×16的尺寸。当一个编码单元被分区为两个子编码单元时，可称编码单元被二分区或者通过二叉树分区结构被分区。

例如，当一个编码单元被分区为三个子编码单元时，可以以1:2:1的比例对编码单元的水平尺寸或垂直尺寸进行分区，从而产生水平尺寸或垂直尺寸的比例为1:2:1的三个子编码单元。例如，当尺寸为16×32的编码单元被水平分区为三个子编码单元时，该三个子编码单元以从最上方子编码单元到最下方子编码单元的顺序可分别具有16×8、16×16和16×8的尺寸。例如，当尺寸为32×32的编码单元被垂直划分为三个子编码单元时，该三个子编码单元以从左侧子编码单元到右侧子编码单元的顺序可分别具有8×32、16×32和8×32的尺寸。当一个编码单元被分区为三个子编码单元时，可称编码单元被三分区或者根据三叉树分区结构被分区。

在图3中，编码树单元(ctu)320是四叉树分区结构、二叉树分区结构和三叉树分区结构全部应用于其的ctu的示例。

如上所述，为了对ctu进行分区，可应用四叉树分区结构、二叉树分区结构和三叉树分区结构中的至少一个。可根据预定的优先级顺序将各种树分区结构顺序地应用于ctu。例如，可将四叉树分区结构优先应用于ctu。不能再使用四叉树分区结构进行分区的编码单元可与四叉树的叶节点相应。与四叉树的叶节点相应的编码单元可用作二叉树和/或三叉树分区结构的根节点。也就是说，与四叉树的叶节点相应的编码单元可根据二叉树分区结构或三叉树分区结构被进一步分区，或者可不被进一步分区。因此，通过防止从与四叉树的叶节点相应的编码单元的二叉树分区或三叉树分区得到的编码块经历进一步的四叉树分区，块分区操作和/或用信号发送分区信息的操作可被有效执行。

可使用四分区信息用信号发送与四叉树的节点相应的编码单元被分区的事实。具有第一值(例如，“1”)的四分区信息可指示当前编码单元按照四叉树分区结构被分区。具有第二值(例如，“0”)的四分区信息可指示当前编码单元未按照四叉树分区结构被分区。四分区信息可以是具有预定长度(例如，一个比特)的标志。

在二叉树分区与三叉树分区之间可能没有优先级。即，与四叉树的叶节点相应的编码单元可进一步经历二叉树分区和三叉树分区中的任意分区。另外，通过二叉树分区或三叉树分区产生的编码单元可经历进一步的二叉树分区或进一步的三叉树分区，或者可不被进一步分区。

在二叉树分区和三叉树分区之间不存在优先级的树结构被称为多类型树结构。与四叉树的叶节点相应的编码单元可用作多类型树的根节点。可使用多类型树分区指示信息、分区方向信息和分区树信息中的至少一个来用信号发送是否对与多类型树的节点相应的编码单元进行分区。为了对与多类型树的节点相应的编码单元进行分区，可顺序地用信号发送多类型树分区指示信息、分区方向信息和分区树信息。

具有第一值(例如，“1”)的多类型树分区指示信息可指示当前编码单元将经历多类型树分区。具有第二值(例如，“0”)的多类型树分区指示信息可指示当前编码单元将不经历多类型树分区。

当与多类型树的节点相应的编码单元按照多类型树分区结构被进一步分区时，所述编码单元可包括分区方向信息。分区方向信息可指示当前编码单元将在哪个方向上针对多类型树分区被分区。具有第一值(例如，“1”)的分区方向信息可指示当前编码单元将被垂直分区。具有第二值(例如，“0”)的分区方向信息可指示当前编码单元将被水平分区。

当与多类型树的节点相应的编码单元按照多类型树分区结构被进一步分区时，当前编码单元可包括分区树信息。分区树信息可指示将被用于对多类型树的节点进行分区的树分区结构。具有第一值(例如，“1”)的分区树信息可指示当前编码单元将按照二叉树分区结构被分区。具有第二值(例如，“0”)的分区树信息可指示当前编码单元将按照三叉树分区结构被分区。

分区指示信息、分区树信息和分区方向信息均可以是具有预定长度(例如，一个比特)的标志。

四叉树分区指示信息、多类型树分区指示信息、分区方向信息和分区树信息中的至少任意一个可被熵编码/熵解码。为了对那些类型的信息进行熵编码/熵解码，可使用关于与当前编码单元相邻的邻近编码单元的信息。例如，当前编码单元的左侧邻近编码单元和/或上方邻近编码单元的分区类型(被分区或不被分区、分区树和/或分区方向)与当前编码单元的分区类型相似的可能性很高。因此，可从关于邻近编码单元的信息推导用于对关于当前编码单元的信息进行熵编码/熵解码的上下文信息。关于邻近编码单元的信息可包括四分区信息、多类型树分区指示信息、分区方向信息和分区树信息中的至少任意一个。

作为另一示例，在二叉树分区和三叉树分区中，可优先执行二叉树分区。即，当前编码单元可首先经历二叉树分区，并且随后可将与二叉树的叶节点相应的编码单元设置为用于三叉树分区的根节点。在这种情况下，对于与三叉树的节点相应的编码单元，可既不执行四叉树分区也不执行二叉树分区。

不能按照四叉树分区结构、二叉树分区结构和/或三叉树分区结构被分区的编码单元成为用于编码、预测和/或变换的基本单元。即，所述编码单元不能被进一步分区以用于预测和/或变换。因此，在比特流中可能不存在用于将编码单元分区为预测单元和/或变换单元的分区结构信息和分区信息。

然而，当编码单元(即，用于分区的基本单元)的尺寸大于最大变换块的尺寸时，可递归地对编码单元进行分区，直到将编码单元的尺寸减小到等于或小于最大变换块的尺寸为止。例如，当编码单元的尺寸为64×64时并且当最大变换块的尺寸为32×32时，可将编码单元分区为用于变换的四个32×32的块。例如，当编码单元的尺寸为32×64并且最大变换块的尺寸为32×32时，可将编码单元分区为用于变换的两个32×32的块。在这种情况下，不单独用信号发送编码单元的用于变换的分区，并且可通过编码单元的水平尺寸或垂直尺寸与最大变换块的水平尺寸或垂直尺寸之间的比较来确定编码单元的用于变换的分区。例如，当编码单元的水平尺寸(宽度)大于最大变换块的水平尺寸(宽度)时，可将编码单元垂直地二等分。例如，当编码单元的垂直尺寸(高度)大于最大变换块的垂直尺寸(高度)时，可将编码单元水平地二等分。

编码单元的最大和/或最小尺寸的信息以及变换块的最大和/或最小尺寸的信息可以在编码单元的更高等级被用信号发送或确定。更高等级可以是例如序列级、画面级、条带级、并行块组级、并行块级等。例如，可将编码单元的最小尺寸确定为4×4。例如，变换块的最大尺寸可以被确定为64×64。例如，变换块的最小尺寸可以被确定为4×4。

与四叉树的叶节点相应的编码单元的最小尺寸(四叉树最小尺寸)的信息和/或从多类型树的根节点到叶节点的最大深度(多类型树的最大树深度)的信息可在编码单元的更高等级被用信号发送或确定。例如，更高等级可以是序列级、画面级、条带级、并行块组级、并行块级等。可针对画面内条带和画面间条带中的每个用信号发送或确定四叉树的最小尺寸的信息和/或多类型树的最大深度的信息。

可在编码单元的更高等级用信号发送或确定ctu的尺寸与变换块的最大尺寸之间的差信息。例如，所述更高等级可以是序列级、画面级、条带级、并行块组级、并行块级等。可基于编码树单元的尺寸和所述差信息来确定与二叉树的各个节点相应的编码单元的最大尺寸(在下文中，称为二叉树的最大尺寸)的信息。与三叉树的各个节点相应的编码单元的最大尺寸(在下文中，称为三叉树的最大尺寸)可依据条带的类型而变化。例如，针对画面内条带，三叉树的最大尺寸可以是32×32。例如，针对画面间条带，三叉树的最大尺寸可以是128×128。例如，与二叉树的各个节点相应的编码单元的最小尺寸(在下文中，称为二叉树的最小尺寸)和/或与三叉树的各个节点相应的编码单元的最小尺寸(在下文中，称为三叉树的最小尺寸)可被设置为编码块的最小尺寸。

作为另一示例，可在条带级用信号发送或确定二叉树的最大尺寸和/或三叉树的最大尺寸。可选地，可在条带级用信号发送或确定二叉树的最小尺寸和/或三叉树的最小尺寸。

依据上述各种块的尺寸和深度信息，四分区信息、多类型树分区指示信息、分区树信息和/或分区方向信息可被包括或可不被包括在比特流中。

例如，当编码单元的尺寸不大于四叉树的最小尺寸时，编码单元不包括四分区信息。因此，可从第二值推断四分区信息。

例如，当与多类型树的节点相应的编码单元的尺寸(水平尺寸和垂直尺寸)大于二叉树的最大尺寸(水平尺寸和垂直尺寸)和/或三叉树的最大尺寸(水平尺寸和垂直尺寸)时，编码单元可不被二叉树分区或三叉树分区。因此，可不用信号发送多类型树分区指示信息，但可从第二值推断多类型树分区指示信息。

可选地，当与多类型树的节点相应的编码单元的尺寸(水平尺寸和垂直尺寸)与二叉树的最大尺寸(水平尺寸和垂直尺寸)相同和/或是三叉树的最大尺寸(水平尺寸和垂直尺寸)的两倍大时，编码单元可不被进一步二叉树分区或三叉树分区。因此，可不用信号发送多类型树分区指示信息，而是可从第二值推导多类型树分区指示信息。这是因为当通过二叉树分区结构和/或三叉树分区结构分区编码单元时，产生小于二叉树的最小尺寸和/或三叉树的最小尺寸的编码单元。

可选地，可以基于虚拟流水线数据单元的尺寸(在下文中，流水线缓冲器尺寸)来限制二叉树分区或三叉树分区。例如，当通过二叉树分区或三叉树分区将编码单元划分为不适合流水线缓冲器尺寸的子编码单元时，相应的二叉树分区或三叉树分区可能受到限制。流水线缓冲器尺寸可以是最大变换块的尺寸(例如，64×64)。例如，当流水线缓冲器尺寸是64×64时，可以限制下面的划分。

-用于编码单元的n×m(n和/或m是128)三叉树分区

-用于编码单元的水平方向的128×n(n<＝64)二叉树分区

-用于编码单元的垂直方向的n×128(n<＝64)二叉树分区

可选地，当与多类型树的节点相应的编码单元的深度等于多类型树的最大深度时，编码单元可不被进一步二叉树分区和/或三叉树分区。因此，可不用信号发送多类型树分区指示信息，但可从第二值推断多类型树分区指示信息。

可选地，仅当垂直方向二叉树分区、水平方向二叉树分区、垂直方向三叉树分区和水平方向三叉树分区中的至少一个对于与多类型树的节点相应的编码单元是可能的时，可用信号发送多类型树分区指示信息。否则，编码单元可以不被二叉树分区和/或三叉树分区。因此，可不用信号发送多类型树分区指示信息，但可从第二值推断多类型树分区指示信息。

可选地，仅当垂直方向二叉树分区和水平方向二叉树分区两者或垂直方向三叉树分区和水平方向三叉树分区两者对于与多类型树的节点相应的编码单元是可能的时，才可用信号发送分区方向信息。否则，可不用信号发送分区方向信息，但是可从指示可能的分区方向的值推导分区方向信息。

可选地，仅当垂直方向二叉树分区和垂直方向三叉树分区两者或水平方向二叉树分区和水平方向三叉树分区两者对于与多类型树的节点相应的编码树是可能的时，才可用信号发送分区树信息。否则，可以不用信号发送分区树信息，而是从指示可能的分区树结构的值推导分区树信息。

图4是示出帧内预测处理的示图。

图4中从中心到外部的箭头可表示帧内预测模式的预测方向。

可通过使用当前块的邻近块的参考样点来执行帧内编码和/或解码。邻近块可以是重建邻近块。例如，可通过使用包括在重建邻近块中的参考样点的编码参数或值来执行帧内编码和/或解码。

预测块可表示通过执行帧内预测而产生的块。预测块可与cu、pu和tu中的至少一个相应。预测块的单元可具有cu、pu和tu中的一个的尺寸。预测块可以是尺寸为2×2、4×4、16×16、32×32或64×64等的正方形块，或者可以是尺寸为2×8、4×8、2×16、4×16和8×16等的矩形块。

可根据针对当前块的帧内预测模式来执行帧内预测。当前块可具有的帧内预测模式的数量可以是固定值，并且可以是根据预测块的属性不同地确定的值。例如，预测块的属性可包括预测块的尺寸和预测块的形状等。

不管块尺寸为多少，可将帧内预测模式的数量固定为n。或者，帧内预测模式的数量可以是3、5、9、17、34、35、36、65或67等。可选地，帧内预测模式的数量可根据块尺寸或颜色分量类型或者块尺寸和颜色分量类型两者而变化。例如，帧内预测模式的数量可根据颜色分量是亮度信号还是色度信号而变化。例如，随着块尺寸变大，帧内预测模式的数量可增加。可选地，亮度分量块的帧内预测模式的数量可大于色度分量块的帧内预测模式的数量。

帧内预测模式可以是非角度模式或角度模式。非角度模式可以是dc模式或平面模式，并且角度模式可以是具有特定方向或角度的预测模式。帧内预测模式可由模式编号、模式值、模式编号、模式角度和模式方向中的至少一个来表示。帧内预测模式的数量可以是大于1的m，包括非角度模式和角度模式。为了对当前块进行帧内预测，可执行确定是否可将包括在重建邻近块中的样点用作当前块的参考样点的步骤。当存在不能用作当前块的参考样点的样点时，通过对包括在重建邻近块中的样点中的至少一个样点值进行复制或执行插值或者执行复制和插值两者而获得的值可被用于替换样点的不可用样点值，因此替换后的样点值被用作当前块的参考样点。

图7是示出能够用于帧内预测的参考样点的示图。

如图7所示，参考样点线0至参考样点线3中的至少一个可以用于当前块的帧内预测。在图7中，片段a和片段f的样点可以分别利用最接近片段b和片段e的样点被填充，而不是从重建邻近块进行检索。可以用信号发送指示将被用于当前块的帧内预测的参考样点线的索引信息。在当前块的上方边界是ctu的边界时，仅参考样点线0可以是可用的。因此，在这种情况下，可以不用信号发送索引信息。当使用除了参考样点线0之外的参考样点线时，可以不执行稍后将描述的针对预测块的滤波。

当进行帧内预测时，可基于帧内预测模式和当前块尺寸/形状将滤波器应用于参考样点和预测样点中的至少一个。

在平面模式的情况下，当产生当前块的预测块时，根据预测目标样点在预测块内的位置，可通过使用当前样点的上方参考样点与左侧参考样点以及当前块的右上方参考样点与左下方参考样点的加权和来产生预测目标样点的样点值。另外，在dc模式的情况下，当产生当前块的预测块时，可使用当前块的上方参考样点与左侧参考样点的平均值。另外，在角度模式的情况下，可通过使用当前块的上方参考样点、左侧参考样点、右上方参考样点和/或左下方参考样点来产生预测块。为了产生预测样点值，可执行实数单元的插值。

在颜色分量之间的帧内预测的情况下，可以基于第一颜色分量的相应重建块来产生第二颜色分量的当前块的预测块。例如，第一颜色分量可以是亮度分量，并且第二颜色分量可以是色度分量。对于颜色分量之间的帧内预测，可基于模板推导第一颜色分量与第二颜色分量之间的线性模型的参数。模板可包括当前块的上方和/或左侧邻近样点以及与其相应的第一颜色分量的重建块的上方和/或左侧邻近样点。例如，可使用模板中的样点中具有最大值的第一颜色分量的样点值及与其相应的第二颜色分量的样点值，以及模板中的样点中具有最小值的第一颜色分量的样点值及与其相应的第二颜色分量的样点值推导线性模型的参数。当推导线性模型的参数时，可将相应重建块应用于线性模型以产生当前块的预测块。根据视频格式，可对第一颜色分量的重建块和相应重建块的邻近样点执行二次采样。例如，当第二颜色分量的一个样点与第一颜色分量的四个样点相应时，可对第一颜色分量的四个样点进行二次采样以计算一个相应样点。在这种情况下，可基于相应二次采样的样点执行线性模型的参数推导和颜色分量之间的帧内预测。是否执行颜色分量之间的帧内预测和/或模板的范围可作为帧内预测模式被用信号发送。

当前块可在水平方向或垂直方向上被分区为两个子块或四个子块。可顺序地重建分区的子块。也就是说，可以对子块执行帧内预测以产生子预测块。另外，可以对子块执行反量化和/或逆变换以产生子残差块。可通过将子预测块添加到子残差块来产生重建子块。重建子块可以用作子块的帧内预测的参考样点。子块可以是包括预定数量(例如，16)或更多个样点的块。因此，例如，在当前块是8×4块或4×8块时，当前块可被分区为两个子块。此外，在当前块是4×4块时，当前块可不被分区为子块。在当前块具有其它尺寸时，当前块可被分区为四个子块。可以用信号发送关于是否基于子块和/或分区方向(水平或垂直)执行帧内预测的信息。可以限于仅在使用参考样点线0时执行基于子块的帧内预测。当执行基于子块的帧内预测时，可以不执行稍后将描述的针对预测块的滤波。

可以通过对被帧内预测的预测块执行滤波来产生最终预测块。可以通过将预定权重应用于滤波目标样点、左侧参考样点、上方参考样点和/或左上方参考样点来执行滤波。可以基于块尺寸、帧内预测模式和预测块中的滤波目标样点的位置中的至少一个来确定用于滤波的权重和/或参考样点(范围、位置等)。可以仅在预定帧内预测模式(例如，dc、平面、垂直、水平、对角线和/或相邻对角线模式)的情况下执行滤波。相邻对角线模式可以是给对角线模式加上k或从对角线模式减去k的模式。例如，k可以是8或更小的正整数。

可通过预测与当前块相邻存在的块的帧内预测模式来对当前块的帧内预测模式进行熵编码/熵解码。在当前块与邻近块的帧内预测模式相同时，可通过使用预定标志信息来用信号发送当前块与邻近块的帧内预测模式相同的信息。另外，可用信号发送多个邻近块的帧内预测模式之中的与当前块的帧内预测模式相同的帧内预测模式的指示符信息。在当前块与邻近块的帧内预测模式不同时，可通过基于邻近块的帧内预测模式执行熵编码/熵解码来对当前块的帧内预测模式信息进行熵编码/熵解码。

图5是示出画面间预测处理的实施例的示图。

在图5中，矩形可以表示画面。在图5中，箭头表示预测方向。根据画面的编码类型，可将画面分类为帧内画面(i画面)、预测画面(p画面)和双预测画面(b画面)。

可在不需要画面间预测的情况下通过帧内预测对i画面进行编码。可通过使用在相对于当前块的一个方向(即，前向或后向)上存在的参考画面，通过画面间预测来对p画面进行编码。可通过使用在相对于当前块的两个方向(即，前向和后向)上存在的参考画面，通过画面间预测来对b画面进行编码。当使用画面间预测时，编码器可执行画面间预测或运动补偿，并且解码器可执行相应运动补偿。

在下文中，将详细描述画面间预测的实施例。

可使用参考画面和运动信息来执行画面间预测或运动补偿。

可通过编码设备100和解码设备200中的每个在画面间预测期间推导当前块的运动信息。可通过使用重建的邻近块的运动信息、同位置块(也称为col块或同位块)的运动信息和/或与同位块相邻的块的运动信息来推导当前块的运动信息。同位块可表示先前重建的同位置画面(也称为col画面或同位画面)内的在空间上与当前块位于相同位置的块。同位画面可以是包括在参考画面列表中的一个或更多个参考画面中的一个画面。

运动信息的推导方法可依据当前块的预测模式而不同。例如，应用于帧间预测的预测模式包括amvp模式、合并模式、跳过模式、具有运动矢量差的合并模式、子块合并模式、三角形分区模式、帧间-帧内组合预测模式、仿射模式等。这里，合并模式可以被称为运动合并模式。

例如，当amvp被用作预测模式时，可将重建的邻近块的运动矢量、同位块的运动矢量、与同位块相邻的块的运动矢量和(0,0)运动矢量中的至少一个确定为针对当前块的运动矢量候选，并且通过使用运动矢量候选产生运动矢量候选列表。可通过使用产生的运动矢量候选列表来推导当前块的运动矢量候选。可基于推导的运动矢量候选来确定当前块的运动信息。同位块的运动矢量或与同位块相邻的块的运动矢量可被称为时间运动矢量候选，并且重建的邻近块的运动矢量可被称为空间运动矢量候选。

编码设备100可计算当前块的运动矢量与运动矢量候选之间的运动矢量差(mvd)，并且可对运动矢量差(mvd)执行熵编码。另外，编码设备100可对运动矢量候选索引执行熵编码并产生比特流。运动矢量候选索引可指示包括在运动矢量候选列表中的运动矢量候选之中的最佳运动矢量候选。解码设备可对包括在比特流中的运动矢量候选索引执行熵解码，并且可通过使用经过熵解码的运动矢量候选索引从包括在运动矢量候选列表中的运动矢量候选中选择解码目标块的运动矢量候选。另外，解码设备200可将经过熵解码的mvd与通过熵解码而提取的运动矢量候选相加，从而推导解码目标块的运动矢量。

另外，编码设备100可对计算出的mvd的分辨率信息执行熵编码。解码设备200可使用mvd分辨率信息来调整被熵解码的mvd的分辨率。

另外，编码设备100基于仿射模型计算当前块中的运动矢量和运动矢量候选之间的运动矢量差(mvd)，并对mvd执行熵编码。解码设备200通过被熵解码的mvd和仿射控制运动矢量候选的总和推导解码的目标块的仿射控制运动矢量来基于每个子块推导运动矢量。

比特流可包括指示参考画面的参考画面索引。参考画面索引可通过编码设备100被熵编码，并且随后作为比特流被用信号发送到解码设备200。解码设备200可基于推导的运动矢量和参考画面索引信息来产生解码目标块的预测块。

推导当前块的运动信息的方法的另一示例可以是合并模式。合并模式可表示合并多个块的运动的方法。合并模式可表示从邻近块的运动信息推导当前块的运动信息的模式。当应用合并模式时，可使用重建的邻近块的运动信息和/或同位块的运动信息来产生合并候选列表。运动信息可包括运动矢量、参考画面索引和画面间预测指示符中的至少一个。预测指示符可指示单向预测(l0预测或l1预测)或双向预测(l0预测和l1预测)。

合并候选列表可以是存储的运动信息的列表。包括在合并候选列表中的运动信息可以是以下至少一个：与当前块相邻的邻近块的运动信息(空间合并候选)、参考画面中的当前块的同位块的运动信息(时间合并候选)、通过合并候选列表中存在的运动信息的组合产生的新运动信息、在当前块之前被编码/解码的块的运动信息(基于历史的合并候选)和零合并候选。

编码设备100可通过对合并标志和合并索引中的至少一个执行熵编码来产生比特流，并且可将比特流用信号发送到解码设备200。合并标志可以是指示是否针对每个块执行合并模式的信息，并且合并索引可以是指示当前块的邻近块中的哪个邻近块是合并目标块的信息。例如，当前块的邻近块可包括位于当前块的左侧的左侧邻近块、被布置在当前块上方的上方邻近块和在时间上与当前块相邻的时间邻近块。

另外，编码设备100对合并候选的运动信息中的用于校正运动矢量的校正信息执行熵编码，并将其用信号发送到解码设备200。解码设备200可以基于校正信息校正由合并索引选择的合并候选的运动矢量。这里，校正信息可以包括关于是否执行校正的信息、校正方向信息和校正尺寸信息中的至少一个。如上所述，基于用信号发送的校正信息对合并候选的运动矢量进行校正的预测模式可以被称为具有运动矢量差的合并模式。

跳过模式可以是将邻近块的运动信息照原样应用于当前块的模式。当应用跳过模式时，编码设备100可对哪个块的运动信息将被用作当前块的运动信息的事实的信息执行熵编码，以产生比特流，并且可将比特流用信号发送到解码设备200。编码设备100可不将关于运动矢量差信息、编码块标志和变换系数等级中的至少任意一个的语法元素用信号发送到解码设备200。

子块合并模式可以表示以编码块(cu)的子块为单位推导运动信息的模式。当应用子块合并模式时，可使用与参考画面中的当前子块同位的子块的运动信息(基于子块的时间合并候选)和/或仿射控制点运动矢量合并候选来产生子块合并候选列表。

三角形分区模式可以表示通过将当前块分区为对角线方向来推导运动信息，使用推导的运动信息中的每个来推导每个预测样点，并且通过对推导的预测样点中的每个进行加权来推导当前块的预测样点的模式。

帧间-帧内组合预测模式可以表示通过对由帧间预测产生的预测样点和由帧内预测产生的预测样点进行加权来推导当前块的预测样点的模式。

解码设备200可自行校正推导的运动信息。解码设备200可基于由推导的运动信息指示的参考块搜索预定区域，并推导具有最小sad的运动信息作为校正的运动信息。

解码设备200可使用光流对经由帧间预测推导的预测样点进行补偿。

图6是示出变换和量化处理的示图。

如图6中所示，对残差信号执行变换处理和/或量化处理，以产生量化的等级信号。残差信号是原始块与预测块(即，帧内预测块或帧间预测块)之间的差。预测块是通过帧内预测或帧间预测产生的块。所述变换可以是初级变换、次级变换或者初级变换和次级变换两者。对残差信号的初级变换产生变换系数，并且对变换系数的次级变换产生次级变换系数。

从预先定义的各种变换方案中选择的至少一种方案被用于执行初级变换。例如，所述预定义的变换方案的示例包括离散余弦变换(dct)、离散正弦变换(dst)和karhunen-loève变换(klt)。通过初级变换产生的变换系数可经历次级变换。可根据当前块和/或当前块的邻近块的编码参数来确定用于初级变换和/或次级变换的变换方案。可选地，可用信号发送指示变换方案的变换信息。基于dct的变换可以包括例如dct-2、dct-8等。基于dst的变换可包括例如dst-7。

可以通过对残差信号或执行初级变换和/或次级变换的结果执行量化来产生量化的等级信号(量化系数)。依据块的帧内预测模式或块尺寸/形状，可以根据对角线右上方扫描、垂直扫描和水平扫描中的至少一个来扫描量化的等级信号。例如，当在对角线右上方扫描中扫描系数时，块形式的系数改变为一维矢量形式。除了对角线右上方扫描之外，依据帧内预测模式和/或变换块的尺寸，可以使用水平地扫描二维块形式的系数的水平扫描或垂直地扫描二维块形式的系数的垂直扫描。扫描的量化的等级系数可以被熵编码以插入比特流中。

解码器对比特流进行熵解码以获得量化的等级系数。量化的等级系数可以通过反向扫描以二维块形式被布置。对于反向扫描，可以使用对角线右上方扫描、垂直扫描和水平扫描中的至少一个。

然后可以对量化的等级系数进行反量化，然后根据需要进行次级逆变换，最后根据需要进行初级逆变换，以产生重建残差信号。

可在环内滤波之前针对通过帧内预测或帧间预测重建的亮度分量执行动态范围中的逆映射。动态范围可以被划分为16个相等的片段，并且可以用信号发送每个片段的映射函数。可在条带级或并行块组级用信号发送映射函数。可以基于映射函数推导用于执行逆映射的逆映射函数。在逆映射区域中执行环内滤波、参考画面存储和运动补偿，并且经由使用映射函数的映射将通过帧间预测产生的预测块被转换到映射区域，然后被用于产生重建块。然而，由于在映射区域中执行帧内预测，因此经由帧内预测产生的预测块可以被用于产生重建块而无需映射/逆映射。

在当前块是色度分量的残差块时，可以通过对映射区域的色度分量执行缩放来将残差块转换到逆映射区域。可在条带级或并行块组级用信号发送缩放的可用性。只有当亮度分量的映射可用并且亮度分量的划分和色度分量的划分遵循相同的树结构时，才可以应用缩放。可基于与色差块相应的亮度预测块的样点值的平均值来执行缩放。在这种情况下，在当前块使用帧间预测时，亮度预测块可表示映射的亮度预测块。可通过使用亮度预测块的样点值的平均值所属的片段的索引参考查找表来推导缩放所需的值。最后，通过使用推导的值对残差块进行缩放，可以将残差块转换到逆映射区域。然后，可以在逆映射区域中执行色度分量块恢复、帧内预测、帧间预测、环内滤波和参考画面存储。

可以通过序列参数集用信号发送指示亮度分量和色度分量的映射/逆映射是否可用的信息。

可以基于指示当前画面中的当前块与参考块之间的位移的块矢量来产生当前块的预测块。以这种方式，用于参考当前画面产生预测块的预测模式被称为帧内块复制(ibc)模式。ibc模式可被应用于m×n(m<＝64，n<＝64)编码单元。ibc模式可包括跳过模式、合并模式、amvp模式等。在跳过模式或合并模式的情况下，构建合并候选列表，并且用信号发送合并索引，使得可以指定一个合并候选。指定的合并候选的块矢量可以用作当前块的块矢量。合并候选列表可包括空间候选、基于历史的候选、基于两个候选的平均值的候选和零合并候选中的至少一个。在amvp模式的情况下，可用信号发送差块矢量。另外，可从当前块的左侧邻近块和上方邻近块推导预测块矢量。可以用信号发送将使用的邻近块的索引。ibc模式中的预测块被包括在当前ctu或左侧ctu中并且被限于已经重建的区域中的块。例如，可以限制块矢量的值，使得当前块的预测块按照编码/解码顺序位于当前块所属的64×64块之前的三个64×64块的区域中。通过以这种方式限制块矢量的值，可减少根据ibc模式实施方案的存储器消耗和设备复杂性。

由编码器编码成比特流的图像可以通过有线/无线通信网络(诸如互联网、局域无线通信网络、无线lan网络、wibro网络、移动通信网络等)或经由各种通信接口(诸如电缆、通用串行总线(usb)等)实时或非实时地发送到用于对图像进行解码的设备。然后，对编码的图像进行解码，以便重建和再现。

图8a和图8b是示出根据本发明的实施例的应用于360度视频的编码/解码设备的框图。

参照图8a和/或图8b，应用于360度视频的编码/解码设备可以与应用于现有2d视频的编码/解码设备相同。

由于360度视频(或360度全向视频、全向视频)是通过在所有方向上执行拍摄而获得的视频，因此用户能够依据用户观看的方向来观看360度视频的特定部分。为此，获得的图像可以通过被适当地投影到多面体或球体的展开而被变换为2d平面图像。当360度视频投影到2d平面上时，360度视频由如图9中的示例中所示的各种类型的投影图像表示。

最近，已经提出了通过有效地构建2d平面投影图像来提高编码效率的方法。作为代表性2d平面投影图像，存在现今常用的3×2封装立方体贴图投影(cmp)格式和等矩形投影(erp)格式。

3×2封装cmp格式是一种360度视频被映射到立方体中并且通过将三个边各自在水平方向和垂直方向上分组以进行封装来将边划分成两个的方法。3×2封装cmp格式的特征在于：在水平方向分区图像和垂直方向分区图像的每个面之间存在区域相关性，而在两个分区图像之间存在不连续边界面。因此，在编码处理中可发生以下问题。

例如，当在不考虑边与边之间的区域相关性的情况下执行编码时，编码效率降低。

作为另一示例，在编码处理中，当对两个分区图像之间的不连续边界面执行处理(诸如环内滤波等)时，发生在解码的360度视频上明显出现不连续边界面的接缝伪像。

因此，在3×2封装cmp格式的情况下，需要考虑边之间的区域相关性以提高编码效率。

根据本发明，编码器的输入数据可以是普通视频或360度视频。此外，一帧可以指基于时间信息以相同时间值被映射的像素集。此外，多个帧的集可以被定义为帧组(多个帧的组)，并且帧组的集可以被定义为序列。同时，帧、帧组和/或序列可以包括基于数据的编码/解码步骤中所需的语法信息。

图10是示出根据本发明的实施例的对360度视频的投影格式进行变换的处理的示图。

在360度视频的情况下，如图10中的示例中所示，映射到球体的每个像素可由关于投影到二维平面和/或投影平面上的像素的信息组成。在编码处理中，可以对投影像素和/或投影平面的多条信息进行编码。此外，在解码处理中，发送的编码像素和投影信息可以经历解码和/或渲染。

图11是示出根据本发明实施例的考虑编码/解码效率的各种类型的cmp格式变换的示图。

当基于立方体将360度视频投影到2d平面上时，获得4×3cmp格式。当将2d平面视为一个帧时，4×3cmp格式具有更大数量的空区域，因此难以获得有效的编码性能。因此，有必要去除空区域并将其构建成一个帧。例如，如图11的(b)中的示例所示，可以收集水平部分(4,0,5)和垂直部分(2,1,3)以形成空区域被去除的一个帧。这里，帧被称为3×2cmp帧封装。然而，即使在这种情况下，水平部分和垂直部分彼此接触的部分也是彼此不连续的边界面，这可能影响编码效率或主观图像质量。因此，在不连续边界面之间添加具有预定像素值的填充区域，从而有效地执行编码处理。

同时，在合并模式中，作为帧间预测方法的示例，可以从邻近块推导当前编码块(cu/pu)的参考方向、参考画面索引和/或运动矢量预测值(mvp)。因此，可通过使用通过合并模式推导的邻近块的运动矢量预测值和从编码器发送的运动矢量差值来获得当前编码块的运动矢量值。此外，可以通过搜索将要经历运动估计的邻近块来构建合并候选块。编码器可发送基于运动估计的结果而选择的邻近块的信息的索引。

图12是示出根据本发明的实施例的被参考以构建合并候选列表的邻近块的示图。

在合并模式中，通过按顺序搜索空间邻近块、时间邻近块等，可构建合并候选列表。参照图12的(a)，在空间邻近块的情况下，可以按顺序搜索空间候选a1、b1、b0、a0和b2，并且可以使用多达四个空间候选。可以按顺序搜索时间候选h和c3。这里，在时间候选的情况下，可以通过sps发送是否使用时间候选，并且可以通过条带头发送参考画面的方向和/或时间候选的参考画面索引。因此，如图12中的示例所示，反映空间特性的合并候选块的位置可以包括当前块的空间邻近块或时间邻近块中的至少一个。候选块可指可参考以用于当前块的帧间预测或用于运动信息的推导的块的组。空间邻近块可以是与当前块的左侧、上方和拐角中的至少一个相邻的区域。拐角可以包括左上方、左下方、右上方和右下方中的至少一个。

当多个邻近块存在于当前块的上方时，位于多个邻近块的最左侧、最右侧或中心的块被用作候选块。当多个邻近块存在于当前块的左侧时，位于多个邻近块的最上方、最下方或中心的块被用作候选块。一个图像可以被分区为多个片段图像。片段图像是具有预定宽度和高度的四边形形状的区域，并且可以指条带、并行块、面、编码树单元(ctu)等。关于构成一个图像的片段图像的数量和/或尺寸的信息可以由编码设备被编码并且可以被用信号发送。可选地，对一个图像进行分区的垂直线和/或水平线的数量、线的位置信息等可以由编码设备被编码并且可以被用信号发送。可在视频参数集、序列参数集和画面参数集中的至少一个等级用信号发送上述信息。

当前块可以属于多个片段图像中的任意一个。可选地，当前块可以位于两个、三个、四个或更多个片段图像上。不管当前块的位置和/或尺寸如何，都可以使用上述候选块。可选地，基于当前块的位置和/或尺寸，可以确定上述候选块。

合并模式方法与相邻的块具有高相关性，使得编码性能可以是高的。同时，在360度视频的情况下，帧之内的块之间的空间相关性(或区域关联)可依据投影格式的类型而变化。

因此，在本公开中，可以根据360度视频的投影格式基于空间相关性来构建合并候选列表。

图13是示出根据本发明的实施例的360度视频中的合并候选块的示图。

参照图13，在3×2cmp的情况下，在第一线和第二线之间不存在空间相关性。因此，在当前编码块存在于侧3时，需要考虑每个侧面的空间相关性来构建合并候选块。因此，如图13中的示例所示，可以根据当前块的位置基于空间相关性来选择合并候选块。当每个侧或侧内的特定视口区域被划分为子画面时，不考虑子画面之间的空间相关性。

作为考虑空间相关性的示例，在侧3中，在外边缘由实线表示的当前块的情况下，可以选择侧0和/或侧4内表示的块作为合并候选块。

作为另一示例，在侧3中，在外边缘由虚线表示的当前块的情况下，可以选择侧0和/或侧5内表示的块作为合并候选块。

图14是示出根据本发明的实施例的在erp格式下在帧内预测期间被参考的候选块的示图。

erp格式具有帧的左侧边界面和右侧边界面连续的特性。

如图14的(a)中的示例所示，在当前块与右侧边界面接触时，当前块的空间候选是位于左侧边界面的预定块。也就是说，右侧边界面外部的空间候选块可以存在于以预定距离间隔开的左侧。例如，可推导位于左侧边界处的候选块，其中，所述候选块位于通过从当前块减去当前帧的宽度作为偏移而获得的距离处。

同时，如图14的(b)中的示例所示，在当前块与左侧边界面接触的情况下，可以没有关于右侧边界面中的候选块的信息，因此可以限制候选块(图14的(b)中由“x”指定的块)的使用。

此外，如图14的(c)中的示例所示，考虑到边界部分的当前块的空间相关性，可以通过添加具有高空间相关性的块作为候选块(位于由图14的(c)中的虚线指定的圆圈中的块)来扩展候选列表。

根据本发明的实施例，可以从当前块的候选块中排除上述空间/时间邻近块中的全部或一些(在下文中，称为“第一实施例”)。

此外，根据本发明的实施例，上述空间/时间邻近块中的全部或一些可以用其他块(在下文中，称为“第一块”)替换(在下文中，称为“第二实施例”)。

这里，第一块可以是在空间/时间上不与当前块相邻的块。第一块所属的片段图像(在下文中，称为“第一片段图像”)可以与当前块所属的片段图像(在下文中，称为“第二片段图像”)不同。

这里，第一片段图像可以与第二片段图像相邻或可以不与第二片段图像相邻。此外，第一片段图像可以与第二片段图像具有连续性。片段图像之间的连续性可以在编码/解码设备中被预定义，或者可以根据360视频的投影格式被定义。此外，可以基于从编码设备用信号发送的信息来指定第一片段图像。该信息可以是用于识别第一片段图像的索引。可以基于第二片段图像内的当前块的位置、片段图像的位置、投影格式和预定偏移中的至少一个来确定第一片段图像内的第一块的位置。

这里，偏移是用于推导第一块的位置的参数，并且可以基于上述片段图像的位置、投影格式、片段图像的排列方向、旋转角度等被可变地确定。可选地，可在视频、序列、画面、子画面、条带、并行块和块中的至少一个等级用信号发送偏移。

这里，第一块可以与片段图像之间的边界接触。边界的数量可以是一个、两个或更多个。当第一块的位置不与片段图像之间的边界接触时，限制第一块的使用。当存在多个第一块时，第一块属于不同的片段图像。可选地，可以用当前块所属的第二片段图像内的另一块替换第一块。

根据本发明的实施例，基于上述当前块的位置和/或第二片段图像的位置，可以执行第一实施例和/或第二实施例的操作。可选地，基于上述当前块的位置和/或第二片段图像的位置，可以限制第一实施例和/或第二实施例的操作。

这里，当前块的位置可以包括关于当前块是否属于片段图像内的特定ctu行、当前块是否与片段图像的边界(左侧边界、右侧边界、上方边界和下方边界中的至少一个)接触、当前块是否位于多个片段图像上等的信息。特定ctu行可以指片段图像内的第一ctu行或最后ctu行。可选地，考虑当前块和邻近块是否属于相同的并行处理区域，可以执行第一实施例和/或第二实施例的操作。

例如，可以识别当前块是否与片段图像的边界接触。在当前块与边界接触时，确定针对边界的相邻片段图像是否彼此具有连续性。当不存在连续性时，从候选块中排除当前块的邻近块，或者用另一块替换当前块的邻近块。另一方面，当存在连续性时，当前块的邻近块被用作候选块。可选地，即使存在连续性，也另外考虑邻近块是否属于与当前块相同的ctu或相同的ctu行以确定候选块。也就是说，属于相同ctu或相同ctu行的邻近块可用作候选块，并且不属于其的邻近块可从候选块中被排除。上述处理不限制确定顺序，并且在识别是否属于相同ctu之后，识别是否存在连续性。

此外，在当前块跨越多个片段图像时，第一实施例和/或第二实施例的操作被限制为不被执行。

同时，第一实施例和/或第二实施例可被应用于以下情况：推导仿射模式的控制点的运动信息、在仿射合并模式下推导运动信息、推导合并模式的运动信息、推导amvp模式的运动信息或推导其它帧间模式的运动信息。

图15是示出帧内预测处理的另一示例的示图。

帧内预测模式可以是非角度模式或角度模式。非角度模式可以是dc模式或平面模式。角度模式可以是具有特定方向或角度的预测模式，并且角度模式的数量是一个或更多个。角度模式可以由模式数量、模式值、模式编号和模式角度中的至少一个表示。

帧内编码/解码可以使用包括在邻近重建块中的样点值或使用编码参数来执行。

为了利用帧内预测对当前块进行编码/解码，可以执行用于识别包括在邻近重建块中的样点是否可用作编码/解码目标块的参考样点的处理。当存在不可用作编码/解码目标块的参考样点的样点时，包括在邻近重建块中的样点中的至少一个被用于不可用作参考样点的样点的样点值的复制和/或插值，使得样点可用作编码/解码目标块的参考样点。

在帧内预测中，基于帧内预测模式和编码/解码目标块的尺寸中的至少一个，可以将滤波器应用于参考样点和预测样点中的至少一个。这里，编码/解码目标块可以指当前块，并且可以指编码块、预测块和变换块中的至少一个。应用于参考样点或预测样点的滤波器的类型可以根据当前块的帧内预测模式和尺寸/形状中的至少一个而变化。滤波器的类型可以根据滤波器抽头的数量和滤波器系数值中的至少一个而变化。

在帧内预测模式中，在非角度平面模式中，当产生目标编码/解码块的预测块时，根据样点的位置，使用当前样点的上方参考样点、当前样点的左侧参考样点、当前块的右上方参考样点、当前块的左下方参考样点的加权和来产生预测块内的样点值。

在帧内预测模式中，在非角度dc模式中，当产生目标编码/解码块的预测块时，使用当前块的上方参考样点和当前块的左侧参考样点的平均值产生目标编码/解码块的预测块。此外，针对与编码/解码块内的参考样点相邻的上方行和左侧列，可以使用参考样点值来执行滤波。

在帧内预测模式中，在多个角度模式的情况下，可以使用右上方和/或左下方参考样点产生预测块，并且角度模式可以具有不同的方向。为了产生预测样点值，可以执行基于实数的插值。

可以从当前预测块周围的预测块的帧内预测模式预测当前预测块的帧内预测模式。在使用从邻近帧内预测模式预测的模式信息来预测当前预测块的帧内预测模式的情况下，在当前预测块的帧内预测模式和邻近预测块的帧内预测模式相同时，使用预定标志信息来发送指示当前预测块的帧内预测模式和邻近预测块的帧内预测模式相同的信息。在当前预测块的帧内预测模式与邻近预测块的帧内预测模式不同时，执行熵编码以对编码/解码目标块的帧内预测模式信息进行编码。

当对当前块或子块执行帧内预测时，需要构建用于预测的参考样点的方法。当前块可以指子块。参考样点可通过一个或更多个邻近重建样点或样点组合被构建。此外，可以将滤波应用于构建的参考样点。此外，可选择多个邻近重建样点中的一个以用作重建参考样点。

图16是示出根据本发明的实施例的当前块的重建样点线的示图。

例如，可以通过在多个重建样点线中选择一条线来构建参考样点。可选地，可以通过使用一条线或更多条线的组合来构建参考样点。

同时，可以对指示参考样点是使用上述方法中的至少一个被构建的信息进行编码/解码。

同时，在360视频的情况下，可以存在各种投影格式。即使当将被编码的块和已经被解码的块具有帧内区域关联或者是相邻的块时，投影格式也可以不具有相邻的块。

图17是示出根据本发明的实施例的对以erp格式投影的360度视频中的当前块进行预测的处理的示图。

参照图17，在当前块位于边界面中作为当前块1的情况下，当现有水平参考样点超出边界面时，这不用于当前块的预测。然而，根据本发明的实施例，可以使用在相对平面的边界处的水平样点来构建参考样点。此外，在垂直参考样点的情况下，在相关技术中仅考虑当前块的左侧垂直样点。然而，在当前块存在于右侧边界面中时，使用跨越相对平面的边界的垂直样点来构建参考样点。

图18是示出根据本发明的实施例的预测以cmp格式投影的360度视频中的当前块的处理的示图。

参照图18，当前块指示具有区域关联而不是与相邻样点关联的参考样点的位置。基于该区域相关性，可以构建参考样点。特别地，在考虑区域相关性来构建参考样点的情况下，当多条参考线用于参考样点的重建时，参考线的数量是有限的。

图19是示出根据本发明的实施例的在以cmp格式投影的360度视频中使用多条参考线的处理的示图。

参照图19，当对跨越不连续边界面的当前块进行帧内预测时，根据预定条件限制多条参考线的使用。作为示例，当用信号发送指示不连续边界面的虚拟边界线时，参考线的使用被限制。

这里，指示虚拟边界线的信息可以包括指示垂直/水平虚拟边界线的数量的信息和指示垂直/水平虚拟边界线的位置的信息。此外，指示虚拟边界线的信息可以包括指示是否在虚拟边界线中应用环内滤波的信息。

例如，基于指示垂直虚拟边界线的数量的信息，可以获得指示垂直虚拟边界线的位置x的信息。

作为另一示例，基于指示水平虚拟边界线的数量的信息，可以获得指示垂直虚拟边界线的位置y的信息。

作为又一示例，基于指示是否在虚拟边界线中应用环内滤波的信息，可以获得指示垂直虚拟边界线的数量的信息。这里，指示是否在虚拟边界线中应用环内滤波的信息可以是标志。

指示虚拟边界线的信息可在视频参数集、序列参数集和画面参数集中的至少一个等级被用信号发送。

根据本发明的实施例，360视频图像可以被分区为多个片段图像。片段图像是具有预定宽度和高度的四边形形状的区域，并且可以指条带、并行块、面、编码树单元(ctu)行、ctu、条带集、并行块集等。关于构成一个图像的片段图像的数量和/或尺寸的信息可以由编码设备被编码并且可以被用信号发送。可选地，对一个图像进行分区的垂直线和/或水平线的数量、线的位置信息等可以由编码设备编码并且可以被用信号发送。可在视频参数集、序列参数集和画面参数集中的至少一个等级用信号发送上述信息。

当前块可以属于多个片段图像中的任意一个。可选地，当前块可以位于两个、三个、四个或更多个片段图像上。可以基于预定参考区域和帧内预测模式对当前块进行帧内预测。

参考区域是在空间上与当前块相邻的邻近区域，并且可以指在当前块之前预重建的区域。参考区域可以包括一条或更多条参考线。例如，参考区域可以包括第一参考线、第二参考线、第三参考线和第四参考线中的至少一个。这里，第一参考线可以指与当前块的左侧和/或上方相邻的参考线。第二参考线可以指与第一参考线的左侧和/或上方相邻的参考线。第三参考线可以指与第二参考线的左侧和/或上方相邻的参考线。第四参考线可以指与第三参考线的左侧和/或上方相邻的参考线。

在下文中，将描述确定属于参考区域的参考线的数量的方法。

可以使用预定数量的参考线对当前块进行帧内预测。参考线的数量可以是：(1)在编码/解码设备中预先建立的固定数量，(2)由解码设备基于编码参数推导的数量，或者可以是：(3)通过在编码设备中对关于数量的信息进行编码而被用信号发送的数量。数量可以使用上述实施例(1)至(3)中的任意一个被确定，或者可以基于实施例(1)至(3)中的至少两个的组合被推导。所确定的参考线的数量可以是零、一、二、三或四。

编码参数可以包括关于块属性的信息。这里，块属性可以指位置、尺寸、形状、宽度和高度的比率、宽度和高度的长度值、分区技术(例如，qt、bt、tt)、分区深度、帧内预测模式的值、帧内预测模式是否是角度模式、帧内预测模式的角度、分量类型(亮度和色度)等。

可以考虑当前块的位置是否与图像内的边界接触(在下文中，称为“第三实施例”)。

这里，边界是指片段图像之间的边界。如上所述，片段图像可以是条带、并行块、面、ctu行、ctu、条带集、并行块集等。参照图19，在当前块与图像内的边界接触时，当前块的上方参考区域被限制为仅包括n条参考线。当边界与面相应时，考虑到针对边界的两个相邻片段图像是否具有连续性，可变地确定参考线的数量。也就是说，当两个片段图像不具有连续性时，当前块的上方参考区域被限制为仅包括n条参考线。否则，当前块的上方参考区域包括m条参考线。片段图像之间的连续性可以在编码/解码设备中被预定义，或者可以根据360视频的投影格式被定义。上述n可以是0、1或2，并且m可以是1、2、3或4。n可以小于m。这里，在其他实施例中，n和m可以以相同的方式被解释。

可以基于当前块的帧内预测模式与预定的第一阈值之间的比较来确定参考线的数量(在下文中，称为“第四实施例”)。

例如，在当前块的帧内预测模式小于预定的第一阈值时，使用m条参考线。在当前块的帧内预测模式等于或大于预定的第一阈值时，使用n条参考线。比较可以是与模式值的比较或与帧内预测模式的角度的比较。

这里，第一阈值可以是在编码/解码设备中预定义的值。例如，第一阈值可以指关于平面模式、dc模式、垂直模式和水平模式中的至少一个的信息。

可以基于当前块的宽度和/或高度的长度值来确定参考线的数量(在下文中，称为“第五实施例”)。

例如，在当前块的宽度大于高度时，上方参考区域包括m条参考线，并且左侧参考区域包括n条参考线。可选地，在当前块的宽度大于预定的第二阈值时，上方参考区域包括m条参考线。否则，上方参考区域包括n条参考线。

在下文中，将描述确定属于参考区域的参考线的位置的方法。

可以通过在上述第一参考线至第四参考线中选择至少一条参考线来对当前块进行帧内预测。这里，参考线的位置可以是：(4)在编码/解码设备中预先建立的位置，可以是：(5)由解码设备基于上述关于参考线的数量的信息推导的位置，或者可以是：(6)在编码设备中通过指定参考线的位置的编码信息mrl_idx被用信号发送的位置。

这里，可以考虑关于参考线的数量的信息和关于上述块属性的信息中的至少一个来用信号发送信息mrl_idx。可以使用上述实施例(4)至(6)中的任意一个来确定位置，或者可以基于实施例(4)至(6)中的至少两个的组合来确定位置。

在下文中，将描述当参考线不可用时参考线的处理。

可能存在参考线不可用于当前块的帧内预测的情况。不可用的情况可以指以下情况：参考线不存在于相应位置处、参考线存在于与当前块不同的面(表面)中并且在面(表面)之间不存在连续性、参考线位于与当前块不同的片段图像中、以及相应位置处的参考线具有在当前块之后的编码顺序。

当参考线不可用时，从参考区域中排除相应位置处的参考线。可选地，可以使用可用参考线来替换不可用参考线。这里，可用参考线可指不可用参考线的邻近样点、当前块的邻近样点、具有连续性的面内的样点等。这里，邻近样点可指在左侧、右侧、上方、下方或对角线方向中的至少一个附近的样点。

针对使用参考样点对图像(其中，该图像基于具有预定宽度和高度的四边形区域、对片段图像或一个图像进行分区的垂直线和/或水平线的数量、线的位置信息等被分区)进行预测的图像，可以用信号发送指示是否在由分区产生的片段图像或图像的边界线处执行环内滤波的信息。可在视频参数集、序列参数集和画面参数集中的至少一个等级用信号发送上述信息。

例如，编码器/解码器可以使用参考线或参考样点来预测当前块。当前块可以是上述片段图像。此外，编码器/解码器可确定是否在预测的当前块的边界附近应用环内滤波。可用信号发送指示是否应用环内滤波的信息。

这里，所述信息可以是标志。此外，可以用信号发送与当前图像中包括的片段图像的数量一样多条数的信息。此外，可以基于指示片段图像是否存在的信息来获得所述信息。此外，可在视频参数集、序列参数集和画面参数集中的至少一个等级用信号发送所述信息。

这里，片段图像可以指子画面。

可以在编码器和解码器中以相同的方法执行以上实施例。

以上实施例中的至少一个或组合可以用于对视频进行编码/解码。

应用于以上实施例的顺序在编码器和解码器之间可以是不同的，或者应用于以上实施例的顺序在编码器和解码器中可以是相同的。

可以对每个亮度信号和色度信号执行以上实施例，或者可以对亮度信号和色度信号相同地执行以上实施例。

应用本发明的以上实施例的块形式可以具有正方形形式或非正方形形式。

可以依据编码块、预测块、变换块、块、当前块、编码单元、预测单元、变换单元、单元和当前单元中的至少一个的尺寸来应用本发明的以上实施例。这里，尺寸可以被定义为最小尺寸或最大尺寸或最小尺寸和最大尺寸两者，使得应用以上实施例，或者可以被定义为应用以上实施例的固定尺寸。另外，在以上实施例中，第一实施例可以应用于第一尺寸，并且第二实施例可以应用于第二尺寸。换句话说，可以依据尺寸组合应用以上实施例。另外，当尺寸等于或大于最小尺寸并且等于或小于最大尺寸时，可以应用以上实施例。换句话说，当块尺寸包括在特定范围内时，可以应用以上实施例。

例如，在当前块的尺寸为8×8或更大时，可以应用以上实施例。例如，在当前块的尺寸仅为4×4时，可以应用以上实施例。例如，在当前块的尺寸为16×16或更小时，可以应用以上实施例。例如，在当前块的尺寸等于或大于16×16并且等于或小于64×64时，可以应用以上实施例。

可以依据时间层来应用本发明的以上实施例。为了识别可应用以上实施例的时间层，可用信号发送相应标识符，并且可将以上实施例应用于由相应标识符识别的指定时间层。这里，标识符可以被定义为可以应用以上实施例的最低层或最高层或最低层和最高层两者，或者可以被定义为指示应用实施例的特定层。另外，可以定义应用实施例的固定时间层。

例如，在当前图像的时间层是最低层时，可以应用以上实施例。例如，在当前图像的时间层标识符是1时，可以应用以上实施例。例如，在当前图像的时间层是最高层时，可以应用以上实施例。

可以定义应用本发明的以上实施例的条带类型或并行块组类型，并且可以依据相应的条带类型或并行块组类型来应用以上实施例。

在上述实施例中，基于具有一系列步骤或单元的流程图来对方法进行描述，但是本发明不限于步骤的顺序，而是某些步骤可以与其他步骤同时执行或以不同的顺序执行。另外，本领域普通技术人员应当理解，流程图中的步骤并不相互排斥，在不影响本发明的范围的情况下，可以向流程图中添加其他步骤，或者可以从流程图中删除某些步骤。

实施例包括示例的各个方面。可以不对用于各个方面的所有可能的组合进行描述，但是本领域技术人员将能够认识到不同的组合。因此，本发明可以包括在权利要求的范围内的所有替换、修改和改变。

可以以可由各种计算机组件执行的并且被记录在计算机可读记录介质中的程序指令的形式实现本发明的实施例。计算机可读记录介质可以包括独立的程序指令、数据文件、数据结构等或者程序指令、数据文件、数据结构等的组合。记录在计算机可读记录介质中的程序指令可以是为本发明特别设计和构造的，或者是计算机软件技术领域的普通技术人员公知的。计算机可读记录介质的示例包括：磁性记录介质(诸如硬盘、软盘和磁带)；光学数据存储介质(诸如cd-rom或dvd-rom)；磁优化介质(诸如光软盘)；以及被特别地构造成存储和实现程序指令的硬件装置(诸如只读存储器(rom)、随机存取存储器(ram)、闪存等)。程序指令的示例不仅包括被编译器格式化的机械语言代码，而且包括可以由计算机使用解释器实现的高级语言代码。硬件装置可以被配置为由一个或更多个软件模块操作以执行根据本发明的处理，或者反之亦然。

尽管已经根据诸如详细元件的特定项目以及有限的实施例和附图描述了本发明，但是它们仅被提供以帮助更综合地理解本发明，并且本发明不限于上述实施例。本发明所属领域的技术人员应当理解，可以根据上面的描述进行各种修改和改变。

因此，本发明的精神不应被限于上述实施例，并且所附权利要求及其等同物的整个范围将落入本发明的范围和精神内。

工业适用性

本发明可用于对图像进行编码或解码。