使用BDPCM的图像解码方法及其装置与流程

使用bdpcm的图像解码方法及其装置
技术领域
1.本公开涉及图像编码技术，更具体地，涉及一种在图像编码系统中通过执行bdpcm来对图像信息进行编码的图像解码方法和设备。


背景技术：

2.近来，在各种领域中，对诸如hd(高清)图像和uhd(超高清)图像的高分辨率、高质量图像的需求正在增长。因为图像数据具有高分辨率和高质量，所以相对于传统图像数据，要传输的信息或比特的量增加。因此，当使用诸如传统有线/无线宽带线路的介质发送图像数据或者使用现有存储介质存储图像数据时，其传输成本和存储成本增加。
3.因此，需要用于有效地发送、存储和再现高分辨率高质量图像的信息的高效图像压缩技术。


技术实现要素：

4.技术问题
5.本公开的技术目的在于提供一种改进图像编码效率的方法和设备。
6.本公开的另一技术目的在于提供一种增加bdpcm效率的方法和设备。
7.技术方案
8.根据本公开的实施方式，提供了一种由解码设备执行的图像解码方法。该方法包括以下步骤：获得包括当前块的残差信息和基于块的增量脉冲编码调制(bdpcm)相关信息的图像信息；基于当前块的相邻样本和bdpcm相关信息来推导当前块的第一样本和第二样本的预测样本；基于残差信息来推导第一样本和第二样本的残差系数；通过将第一样本的残差系数和第二样本的残差系数相加来推导第二样本的修改的残差系数；基于第一样本的残差系数和第二样本的修改的残差系数来推导第一样本和第二样本的残差样本；基于预测样本和残差样本来推导第一样本和第二样本的重构样本；以及存储基于bdpcm方向标志推导的当前块的预测方向的帧内预测模式作为当前块的帧内预测模式。
9.根据本公开的另一实施方式，提供了一种执行图像解码的解码设备。该解码设备包括：熵解码器，其被配置为获得包括当前块的残差信息和基于块的增量脉冲编码调制(bdpcm)相关信息的图像信息；预测器，其被配置为基于当前块的相邻样本和bdpcm相关信息来推导当前块的第一样本和第二样本的预测样本；残差处理器，其被配置为基于残差信息来推导第一样本和第二样本的残差系数，通过将第一样本的残差系数和第二样本的残差系数相加来推导第二样本的修改的残差系数，基于第一样本的残差系数和第二样本的修改的残差系数来推导第一样本和第二样本的残差样本；加法器，其被配置为基于预测样本和残差样本来推导第一样本和第二样本的重构样本；以及存储器，其被配置为存储基于bdpcm方向标志推导的当前块的预测方向的帧内预测模式作为当前块的帧内预测模式。
10.根据本公开的另一实施方式，提供了一种由编码设备执行的图像编码方法。该方法包括以下步骤：基于当前块的相邻样本和基于块的增量脉冲编码调制(bdpcm)来推导当
前块的第一样本和第二样本的预测样本；基于预测样本来推导第一样本和第二样本的残差样本；基于残差样本来推导第一样本和第二样本的残差系数；基于bdpcm和残差系数对当前块的残差信息进行编码；对表示对当前块应用bdpcm的bdpcm标志和表示当前块的预测方向的bdpcm方向标志进行编码；以及存储预测方向的帧内预测模式作为当前块的帧内预测模式。
11.根据本公开的另一实施方式，提供了一种图像编码设备。该编码设备包括：预测器，其被配置为基于当前块的相邻样本和基于块的增量脉冲编码调制(bdpcm)来推导当前块的第一样本和第二样本的预测样本；减法器，其被配置为基于预测样本来推导第一样本和第二样本的残差样本；残差处理器，其被配置为基于残差样本来推导第一样本和第二样本的残差系数；熵编码器，其被配置为基于bdpcm和残差系数对当前块的残差信息进行编码，对表示对当前块应用bdpcm的bdpcm标志和表示当前块的预测方向的bdpcm方向标志进行编码；以及存储器，其被配置为将预测方向的帧内预测模式存储为当前块的帧内预测模式。
12.有益效果
13.根据本公开，通过将根据bdpcm预测方向的帧内预测模式存储为当前块的帧内预测模式，帧内预测准确度和编码效率可以改进。
14.根据本公开，通过将根据bdpcm预测方向的帧内预测模式存储为当前块的帧内预测模式，可以在相邻块的预测中参考准确的帧内预测模式，并且总体残差编码效率可以改进。
附图说明
15.图1简要例示了可应用本公开的实施方式的视频/图像编码装置的示例。
16.图2是例示了可以应用本公开的实施方式的视频/图像编码设备的配置的示意图。
17.图3是例示了可以应用本公开的实施方式的视频/图像解码设备的配置的示意图。
18.图4示意性地示出了编码图像/视频的分层结构。
19.图5示意性地示出了用于对语法元素进行编码的上下文自适应二进制算术编码(cabac)。
20.图6例示了基于帧内预测的视频/图像编码方法的示例。
21.图7例示了基于帧内预测的视频/图像编码方法的示例。
22.图8示意性地示出了帧内预测过程。
23.图9例示了本公开中提出的基于bdpcm方向标志来确定要存储的当前块的帧内预测模式的实施方式。
24.图10示意性地示出了根据本文献的编码设备的图像编码方法。
25.图11示意性地示出了根据本文献的用于执行图像编码方法的编码设备。
26.图12示意性地示出了根据本文献的解码设备的图像解码方法。
27.图13示意性地示出了根据本文献的用于执行图像解码方法的解码设备。
28.图14例示了应用本公开的内容流系统的结构图。
具体实施方式
29.本公开可以以各种形式修改，并且将在附图中描述和例示其特定实施方式。然而，实施方式并非旨在限制本公开。在以下描述中使用的术语仅用于描述特定实施方式，并非旨在限制本公开。只要清楚地以不同的方式理解，单数的表达包括复数的表达。诸如“包括”和“具有”的术语旨在指示存在以下描述中使用的特征、数量、步骤、操作、元件、组件或其组合，因此应理解的是，不排除存在或添加一个或更多个不同的特征、数量、步骤、操作、元件、组件或其组合的可能性。
30.此外，本公开中描述的附图中的元件是为了方便解释不同的特定功能而独立地绘制的，并不意味着这些元件由独立的硬件或独立的软件来具体实现。例如，可以将元件中的两个或更多个元件组合以形成单个元件，或者可以将一个元件分割为多个元件。组合和/或分割元件的实施方式属于本公开，而没有脱离本公开的概念。
31.在下文中，将参照附图详细描述本公开的实施方式。另外，在整个附图中，相似的附图标记用于指示相似的元件，并且将省略对相似元件的相同描述。
32.图1简要例示了可应用本公开的实施方式的视频/图像编码装置的示例。
33.参照图1，视频/图像编码系统可以包括第一装置(源装置)和第二装置(接收装置)。源装置可以经由数字存储介质或网络以文件或流的形式向接收装置传送编码视频/图像信息或数据。
34.源装置可以包括视频源、编码设备和发送器。接收装置可以包括接收器、解码设备和渲染器。编码设备可以称为视频/图像编码设备，并且解码设备可以称为视频/图像解码设备。发送器可以被包括在编码设备中。接收器可以被包括在解码设备中。渲染器可以包括显示器，并且显示器可以被配置为单独的装置或外部组件。
35.视频源可以通过捕获、合成或生成视频/图像的处理来获取视频/图像。视频源可以包括视频/图像捕获装置和/或视频/图像生成装置。视频/图像捕获装置可以包括例如一个或更多个相机、包括先前捕获的视频/图像的视频/图像档案等。视频/图像生成装置可以包括例如计算机、平板计算机和智能电话，并且可以(电子地)生成视频/图像。例如，可以通过计算机等生成虚拟视频/图像。在这种情况下，视频/图像捕获处理可以由生成相关数据的处理代替。
36.编码设备可以对输入的视频/图像进行编码。编码设备可以执行诸如预测、变换和量化的一系列过程，以实现压缩和编码效率。编码数据(编码视频/图像信息)可以以比特流的形式输出。
37.发送器可以通过数字存储介质或网络以文件或流的形式向接收装置的接收器发送以比特流的形式输出的经编码的视频/图像信息或数据。数字存储介质可以包括诸如usb、sd、cd、dvd、蓝光、hdd、ssd等的各种存储介质。发送器可以包括用于通过预定文件格式生成媒体文件的元件，并且可以包括用于通过广播/通信网络进行发送的元件。接收器可以接收/提取比特流，并向解码设备发送接收到的比特流。
38.解码设备可以通过执行与编码设备的操作相对应的诸如解量化、逆变换和预测的一系列过程来对视频/图像进行解码。
39.渲染器可以渲染经解码的视频/图像。经渲染的视频/图像可以通过显示器显示。
40.本公开涉及视频/图像编码。例如，本公开中所公开的方法/实施方式可以应用于
在多功能视频编码(vvc)、evc(基本视频编码)标准、aomedia video 1(av1)标准、第2代音频视频编码标准(avs2)或下一代视频/图像编码标准(例如，h.267、或h.268等)中公开的方法。
41.本公开呈现了视频/图像编码的各种实施方式，并且除非另外提及，否则实施方式可以彼此组合地执行。
42.在本公开中，视频可以是指随时间推移的一系列图像。通常，画面是指表示特定时间区域中的一个图像的单元，并且子画面/切片/拼块(tile)是构成编码中的画面的一部分的单元。子画面/切片/拼块可以包括一个或更多个编码树单元(ctu)。一幅画面可以由一个或更多个子画面/切片/拼块构成。一幅画面可以由一个或更多个拼块组构成。一个拼块组可以包括一个或更多个拼块。图块(brick)可以表示画面中的拼块内的ctu行的矩形区域。拼块可以被分区为多个图块，每个图块由拼块内的一个或更多个ctu行组成。没有被分区为多个图块的拼块也可以被称为图块。图块扫描是对画面进行分区的ctu的特定依次排序，其中，在图块中按ctu光栅扫描对ctu进行连续排序，按拼块的图块的光栅扫描对拼块内的图块进行连续排序，并且按画面的拼块的光栅扫描对画面中的拼块进行连续排序。另外，子画面可以表示画面内的一个或更多个切片的矩形区域。即，子画面包含共同覆盖画面的矩形区域的一个或更多个切片。拼块是画面中的特定拼块列和特定拼块行内的ctu的矩形区域。拼块列是ctu的矩形区域，该矩形区域的高度等于画面的高度并且宽度由画面参数集中的语法元素指定。拼块行是ctu的矩形区域，该矩形区域的高度由画面参数集中的语法元素指定并且宽度等于画面的宽度。拼块扫描是对画面进行分区的ctu的特定依次排序，其中，可以在拼块中按ctu光栅扫描对ctu进行连续排序，而可以按画面的拼块的光栅扫描对画面中的拼块进行连续排序。切片包括画面的可以被排他性地包含在单个nal单元中的整数个图块。切片可以由多个完整拼块组成或者仅由一个拼块的连续序列的完整图块组成。在本公开中，可以互换地使用拼块组和切片。例如，在本公开中，拼块组/拼块组头可以被称为切片/切片头。
43.像素或像元(pel)可以表示组成一幅画面(或图像)的最小单位。另外，“样本”可以用作与像素相对应的术语。样本通常可以表示像素或像素值，并且可以仅表示亮度分量的像素/像素值或仅表示色度分量的像素/像素值。
44.单元可以表示图像处理的基本单位。单元可以包括画面的特定区域和与该区域有关的信息中的至少一个。一个单元可以包括一个亮度块和两个色度(例如，cb、cr)块。在一些情况下，单元可以与诸如块或区域的术语互换使用。在一般情况下，m
×
n块可以包括m列和n行的样本(或样本阵列)或变换系数的集合(或阵列)。
45.在本说明书中，“a或b”可以是指“仅a”、“仅b”或“a和b”。换言之，在本说明书中，“a或b”可以被解释为“a和/或b”。例如，“a、b或c”在本文中是指“仅a”、“仅b”、“仅c”或“a、b和c的任何一个和任何组合”。
46.本说明书中使用的斜线(/)或逗号(comma)可以是指“和/或”。例如，“a/b”可以是指“a和/或b”。因此，“a/b”可以是指“仅a”、“仅b”或“a和b”。例如，“a,b,c”可以是指“a、b或c”。
47.在本说明书中，“a和b中的至少一个”可以是指“仅a”、“仅b”或“a和b两者”。另外，在本说明书中，表述“a或b中的至少一个”或“a和/或b中的至少一个”可以被解释为与“a和b
中的至少一个”相同。
48.另外，在本说明书中，“a、b和c中的至少一个”是指“仅a”、“仅b”、“仅c”或“a、b和c的任意组合”。此外，“a、b或c中的至少一个”或“a、b和/或c中的至少一个”可以是指“a、b和c中的至少一个”。
49.此外，本说明书中使用的括号可以是指“例如”。具体地，当指示“预测(帧内预测)”时，可能将“帧内预测”作为“预测”的示例提出。换言之，本说明书中的“预测”不限于“帧内预测”，可以将“帧内预测”作为“预测”的示例提出。此外，即使当指示“预测(即，帧内预测)”时，“帧内预测”也可以作为“预测”的示例提出。
50.在本说明书中，在一幅图中单独描述的技术特征可以单独实现或可以同时实现。
51.创建以下附图以解释本说明书的具体示例。由于附图中描述的特定装置的名称或特定信号/消息/字段的名称通过示例呈现，因此本说明书的技术特征不限于在以下附图中使用的特定名称。
52.图2是例示了可以应用本公开的实施方式的视频/图像编码设备的配置的示意图。在下文中，视频编码设备可以包括图像编码设备。
53.参照图2，编码设备200包括图像分割器210、预测器220、残差处理器230和熵编码器240、加法器250、滤波器260和存储器270。预测器220可以包括帧间预测器221和帧内预测器222。残差处理器230可以包括变换器232、量化器233、解量化器234和逆变换器235。残差处理器230还可以包括减法器231。加法器250可以称为重构器或重构块生成器。根据实施方式，图像分割器210、预测器220、残差处理器230、熵编码器240、加法器250和滤波器260可以由至少一个硬件组件(例如，编码器芯片组或处理器)构成。另外，存储器270可以包括解码画面缓冲器(dpb)或者可以由数字存储介质构成。硬件组件还可以包括作为内部/外部组件的存储器270。
54.图像分割器210可以将输入到编码设备200的输入图像(或画面或帧)分割到一个或更多个处理器中。例如，处理器可以被称为编码单元(cu)。在这种情况下，可以根据四叉树二叉树三叉树(qtbttt)结构从编码树单元(ctu)或最大编码单元(lcu)来递归地分割编码单元。例如，一个编码单元可以基于四叉树结构、二叉树结构和/或三元结构而被分割为深度更深的多个编码单元。在这种情况下，例如，可以首先应用四叉树结构，随后可以应用二叉树结构和/或三元结构。另选地，可以首先应用二叉树结构。可以基于不再分割的最终编码单元来执行根据本公开的编码过程。在这种情况下，可以根据图像特性基于编码效率将最大编码单元用作最终编码单元，或者如果需要，可以将编码单元递归地分割为深度更深的编码单元并且具有最优大小的编码单元可以用作最终编码单元。这里，编码过程可以包括预测、变换和重构的过程，这将在后面描述。作为另一示例，处理器还可以包括预测单元(pu)或变换单元(tu)。在这种情况下，可以从上述最终编码单元来分离或分割预测单元和变换单元。预测单元可以是样本预测的单元，并且变换单元可以是用于推导变换系数的单元和/或用于从变换系数推导残差信号的单元。
55.在一些情况下，单元可以与诸如块或区域的术语互换使用。在一般情况下，m
×
n块可以表示由m列和n行组成的样本或变换系数的集合。样本通常可以表示像素或像素值，可以仅表示亮度分量的像素/像素值，或者仅表示色度分量的像素/像素值。样本可用作与像素或像元的一幅画面(或图像)相对应的术语。
56.在编码设备200中，从输入图像信号(原始块、原始样本阵列)中减去从帧间预测器221或帧内预测器222输出的预测信号(预测块、预测样本阵列)，以生成残差信号(残差块、残差样本阵列)并且所生成的残差信号被发送到变换器232。在这种情况下，如图所示，在编码设备200中用于从输入图像信号(原始块、原始样本阵列)减去预测信号(预测块、预测样本阵列)的单元可以称为减法器231。预测器可以对要处理的块(在下文中称为当前块)执行预测，并生成包括当前块的预测样本的预测块。预测器可以以当前块或cu为单位来确定是应用帧内预测还是应用帧间预测。如稍后在每个预测模式的描述中所述，预测器可以生成与预测有关的各种信息(诸如预测模式信息)，并向熵编码器240发送所生成的信息。关于预测的信息可以在熵编码器240中编码并以比特流的形式输出。
57.帧内预测器222可以通过参考当前画面中的样本来预测当前块。根据预测模式，参考的样本可以位于当前块的附近，或者可以远离当前块。在帧内预测中，预测模式可以包括多个非定向模式和多个定向模式。非定向模式可以包括例如dc模式和平面模式。根据预测方向的详细程度，定向模式可以包括例如33个定向预测模式或65个定向预测模式。然而，这仅是示例，依据设置，可以使用更多或更少的定向预测模式。帧内预测器222可以通过使用应用于相邻块的预测模式来确定应用于当前块的预测模式。
58.帧间预测器221可以基于由参考画面上的运动矢量指定的参考块(参考样本阵列)来推导当前块的预测块。这里，为了减少在帧间预测模式下发送的运动信息的量，可以基于相邻块和当前块之间的运动信息的相关性，以块、子块或样本为单位来预测运动信息。运动信息可以包括运动矢量和参考画面索引。运动信息还可包括帧间预测方向(l0预测、l1预测、bi预测等)信息。在帧间预测的情况下，相邻块可以包括存在于当前画面中的空间相邻块和存在于参考画面中的时间相邻块。包括参考块的参考画面和包括时间相邻块的参考画面可以相同或不同。时间相邻块可以称为并置参考块、共位cu(colcu)等，并且包括时间相邻块的参考画面可以称为并置画面(colpic)。例如，帧间预测器221可以基于相邻块来配置运动信息候选列表，并且生成指示使用哪个候选来推导当前块的运动矢量和/或参考画面索引的信息。可以基于各种预测模式来执行帧间预测。例如，在跳过模式和合并模式的情况下，帧间预测器221可以将相邻块的运动信息用作当前块的运动信息。在跳过模式下，与合并模式不同，可能无法发送残差信号。在运动矢量预测(mvp)模式的情况下，可以将相邻块的运动矢量用作运动矢量预测子，并且可以通过发信号通知运动矢量差来指示当前块的运动矢量。
59.预测器220可以基于以下描述的各种预测方法来生成预测信号。例如，预测器不仅可以应用帧内预测或帧间预测来预测一个块，而且可以同时应用帧内预测和帧间预测二者。这可以称为帧间帧内组合预测(ciip)。另外，预测器可以基于帧内块复制(ibc)预测模式或调色板模式来预测块。ibc预测模式或调色板模式可用于游戏等的内容图像/视频编码，例如，屏幕内容编码(scc)。ibc基本上在当前画面中执行预测，但是可以类似于帧间预测来执行ibc，因为参考块是在当前画面中推导出的。即，ibc可以使用本公开中描述的帧间预测技术中的至少一种。调色板模式可以被视为帧内编码或帧内预测的示例。当应用调色板模式时，可以基于关于调色板表和调色板索引的信息来发信号通知画面内的样本值。
60.由预测器(包括帧间预测器221和/或帧内预测器222)生成的预测信号可以用于生成重构信号或生成残差信号。变换器232可以通过向残差信号应用变换技术来生成变换系
数。例如，变换技术可以包括离散余弦变换(dct)、离散正弦变换(dst)、karhunen-lo
è
ve变换(klt)、基于图的变换(gbt)或条件非线性变换(cnt)中的至少一种。这里，gbt表示当像素之间的关系信息由图表示时从图获得的变换。cnt是指基于使用所有先前重构的像素生成的预测信号而生成的变换。另外，变换处理可以应用于具有相同大小的正方形像素块，或者可以应用于具有可变大小而非正方形的块。
61.量化器233可以对变换系数进行量化，并且将它们发送给熵编码器240，并且熵编码器240可以对量化信号(关于量化变换系数的信息)进行编码并且输出比特流。关于量化变换系数的信息可以称为残差信息。量化器233可以基于系数扫描顺序将块类型量化变换系数重新布置为一维矢量形式，并且基于一维矢量形式的量化变换系数来生成关于量化变换系数的信息。可以生成关于变换系数的信息。熵编码器240可以执行各种编码方法，诸如，例如指数哥伦布(golomb)、上下文自适应变长编码(cavlc)、上下文自适应二进制算术编码(cabac)等。熵编码器240可以对除了量化变换系数以外的视频/图像重构所需的信息(例如，语法元素的值等)一起或分开地进行编码。可以以比特流的形式以nal(网络抽象层)为单位发送或存储编码信息(例如，编码视频/图像信息)。视频/图像信息还可以包括关于诸如自适应参数集(aps)、画面参数集(pps)、序列参数集(sps)或视频参数集(vps)的各种参数集的信息。另外，视频/图像信息还可包括一般约束信息。在本公开中，从编码设备向解码设备发送/发信号通知的信息和/或语法元素可以被包括在视频/画面信息中。视频/图像信息可以通过上述编码过程被编码并且被包括在比特流中。比特流可以通过网络发送，或者可以存储在数字存储介质中。网络可以包括广播网络和/或通信网络，并且数字存储介质可以包括诸如usb、sd、cd、dvd、蓝光、hdd、ssd等的各种存储介质。可以包括发送从熵编码器240输出的信号的发送器(未示出)和/或存储该信号的存储单元(未示出)作为编码设备200的内部/外部元件，另选地，发送器可以被包括在熵编码器240中。
62.从量化器233输出的量化变换系数可以用于生成预测信号。例如，可以通过利用解量化器234和逆变换器235对量化变换系数应用解量化和逆变换来重构残差信号(残差块或残差样本)。加法器250将重构的残差信号与从帧间预测器221或帧内预测器222输出的预测信号相加，以生成重构信号(重构画面、重构块、重构样本阵列)。如果要处理的块没有残差(诸如应用了跳过模式的情况)，则可以将预测块用作重构块。加法器250可以称为重构器或重构块生成器。所生成的重构信号可以用于在当前画面中要处理的下一块的帧内预测，并且可以通过如下所述的滤波用于下一画面的帧间预测。
63.此外，在画面编码和/或重构期间，可以应用亮度映射与色度缩放(lmcs)。
64.滤波器260可以通过对重构信号应用滤波来改进主观/客观图像质量。例如，滤波器260可以通过对重构画面应用各种滤波方法来生成经修改的重构画面，并将经修改的重构画面存储在存储器270(具体地，存储器270的dpb)中。各种滤波方法可包括例如解块滤波、样本自适应偏移、自适应环路滤波器、双边滤波器等。滤波器260可以生成与滤波有关的各种信息，并且将生成的信息发送给熵编码器240，如稍后在各种滤波方法的描述中所述。与滤波有关的信息可以由熵编码器240编码并且以比特流的形式输出。
65.发送给存储器270的经修改的重构画面可以用作帧间预测器221中的参考画面。当通过编码设备应用帧间预测时，可以避免编码设备200与解码设备之间的预测不匹配，并且可以改进编码效率。
66.存储器270的dpb可以存储用作帧间预测器221中的参考画面的经修改的重构画面。存储器270可以存储从中推导(或编码)当前画面中的运动信息的块的运动信息和/或画面中已重构的块的运动信息。所存储的运动信息可以发送给帧间预测器221，并且用作空间相邻块的运动信息或时间相邻块的运动信息。存储器270可以存储当前画面中的重构块的重构样本，并且可以将重构样本传送给帧内预测器222。
67.图3是例示了可以应用本公开的实施方式的视频/图像解码设备的配置的示意图。
68.参照图3，解码设备300可以包括熵解码器310、残差处理器320、预测器330、加法器340、滤波器350、存储器360。预测器330可以包括帧间预测器332和帧内预测器331。残差处理器320可以包括解量化器321和逆变换器322。根据实施方式，熵解码器310、残差处理器320、预测器330、加法器340和滤波器350可以由硬件组件(例如，解码器芯片组或处理器)构成。另外，存储器360可以包括解码画面缓冲器(dpb)，或者可以由数字存储介质构成。硬件组件还可以包括存储器360作为内部/外部组件。
69.当输入包括视频/图像信息的比特流时，解码设备300可以与在图2的编码设备中处理视频/图像信息的处理相对应地重构图像。例如，解码设备300可以基于从比特流获得的块分割相关信息来推导单元/块。解码设备300可以使用在编码设备中应用的处理器来执行解码。因此，解码的处理器可以是例如编码单元，并且可以根据四叉树结构、二叉树结构和/或三叉树结构从编码树单元或最大编码单元对编码单元进行分割。可以从编码单元推导一个或更多个变换单元。可以通过再现设备来再现通过解码设备300解码并输出的重构图像信号。
70.解码设备300可以接收以比特流形式从图2的编码设备输出的信号，并且可以通过熵解码器310对接收到的信号进行解码。例如，熵解码器310可以解析比特流，以推导图像重构(或画面重构)所需的信息(例如，视频/图像信息)。视频/图像信息还可以包括关于诸如自适应参数集(aps)、画面参数集(pps)、序列参数集(sps)或视频参数集(vps)的各种参数集的信息。另外，视频/图像信息还可以包括一般约束信息。解码设备还可以基于关于参数集的信息和/或一般约束信息来对画面进行解码。本公开中稍后描述的发信号通知的/接收的信息和/或语法元素可以通过解码过程被解码，并从比特流中获取。例如，熵解码器310基于诸如指数哥伦布编码、cavlc或cabac的编码方法对比特流中的信息进行解码，并输出图像重构所需的语法元素和残差的变换系数的量化值。更具体地，cabac熵解码方法可以接收与比特流中的每个语法元素相对应的bin，使用解码目标语法元素信息、解码目标块的解码信息或在先前级中解码的符号/bin的信息来确定上下文模型，并通过根据所确定的上下文模型预测bin的出现概率来对该bin进行算术解码，并且生成与每个语法元素的值相对应的符号。在这种情况下，在确定上下文模型之后，cabac熵解码方法可以通过将经解码的符号/bin的信息用于下一符号/bin的上下文模型来更新上下文模型。由熵解码器310解码的信息当中与预测有关的信息可以提供给预测器(帧间预测器332和帧内预测器331)，并且在熵解码器310中对其执行了熵解码的残差值(也就是说，量化变换系数和相关参数信息)可以被输入到残差处理器320。残差处理器320可以推导残差信号(残差块、残差样本、残差样本阵列)。另外，由熵解码器310解码的信息当中关于滤波的信息可以提供给滤波器350。此外，用于接收从编码设备输出的信号的接收器(未示出)可以进一步被配置为解码设备300的内部/外部元件，或者接收器可以是熵解码器310的组件。此外，根据本公开的解码设备可以称
为视频/图像/画面解码设备，并且解码设备可以分类为信息解码器(视频/图像/画面信息解码器)和样本解码器(视频/图像/画面样本解码器)。信息解码器可以包括熵解码器310，并且样本解码器可以包括解量化器321、逆变换器322、加法器340、滤波器350、存储器360、帧间预测器332和帧内预测器331中的至少一个。
71.解量化器321可以对量化变换系数进行解量化并且输出变换系数。解量化器321可以以二维块的形式重新布置量化变换系数。在这种情况下，可以基于在编码设备中执行的系数扫描顺序来执行重新布置。解量化器321可以通过使用量化参数(例如，量化步长信息)对量化变换系数执行解量化，并且获得变换系数。
72.逆变换器322对变换系数进行逆变换以获得残差信号(残差块、残差样本阵列)。
73.预测器可以对当前块执行预测，并生成包括当前块的预测样本的预测块。预测器可以基于从熵解码器310输出的关于预测的信息来确定向当前块应用帧内预测还是帧间预测，并且可以确定具体的帧内/帧间预测模式。
74.预测器320可以基于以下描述的各种预测方法来生成预测信号。例如，预测器不仅可以应用帧内预测或帧间预测来预测一个块，而且可以同时应用帧内预测和帧间预测。这可以称为帧间帧内组合预测(ciip)。另外，预测器可以基于帧内块复制(ibc)预测模式或调色板模式来预测块。ibc预测模式或调色板模式可以用于游戏等的内容图像/视频编码，例如，屏幕内容编码(scc)。ibc基本上在当前画面中执行预测，但是可以类似于帧间预测来执行ibc，因为在当前画面中推导参考块。即，ibc可以使用本公开中描述的帧间预测技术中的至少一种。调色板模式可以被视为帧内编码或帧内预测的示例。当应用调色板模式时，可以基于关于调色板表和调色板索引的信息来发信号通知画面内的样本值。
75.帧内预测器331可以通过参考当前画面中的样本来预测当前块。根据预测模式，参考的样本可以位于当前块的附近，或者可以远离当前块。在帧内预测中，预测模式可以包括多个非定向模式和多个定向模式。帧内预测器331可以通过使用应用于相邻块的预测模式来确定应用于当前块的预测模式。
76.帧间预测器332可以基于参考画面上的由运动矢量指定的参考块(参考样本阵列)来推导当前块的预测块。在这种情况下，为了减少在帧间预测模式中发送的运动信息的量，可以基于相邻块和当前块之间的运动信息的相关性，以块、子块或样本为单位来预测运动信息。运动信息可以包括运动矢量和参考画面索引。运动信息还可包括帧间预测方向(l0预测、l1预测、bi预测等)信息。在帧间预测的情况下，相邻块可以包括存在于当前画面中的空间相邻块和存在于参考画面中的时间相邻块。例如，帧间预测器332可以基于相邻块来配置运动信息候选列表，并基于接收到的候选选择信息来推导当前块的运动矢量和/或参考画面索引。可以基于各种预测模式来执行帧间预测，并且关于预测的信息可以包括指示针对当前块的帧间预测的模式的信息。
77.加法器340可以通过将所获得的残差信号与从预测器(包括帧间预测器332和/或帧内预测器331)输出的预测信号(预测块、预测样本阵列)相加来生成重构信号(重构画面、重构块、重构样本阵列)。如果要处理的块没有残差(例如当应用跳过模式时)，则可以将预测块用作重构块。
78.加法器340可以称为重构器或重构块生成器。所生成的重构信号可以用于当前画面中要处理的下一块的帧内预测，可以通过如下所述的滤波输出，或者可以用于下一画面
的帧间预测。
79.此外，在画面解码过程中可以应用亮度映射与色度缩放(lmcs)。
80.滤波器350可以通过向重构信号应用滤波来改进主观/客观图像质量。例如，滤波器350可以通过对重构画面应用各种滤波方法来生成经修改的重构画面，并将经修改的重构画面存储在存储器360(具体地，存储器360的dpb)中。各种滤波方法可包括例如解块滤波、样本自适应偏移、自适应环路滤波器、双边滤波器等。
81.存储器360的dpb中存储的(经修改的)重构画面可以用作帧间预测器332中的参考画面。存储器360可以存储从中推导(或解码)当前画面中的运动信息的块的运动信息和/或画面中已重构的块的运动信息。所存储的运动信息可以发送给帧间预测器260，以作为空间相邻块的运动信息或时间相邻块的运动信息来利用。存储器360可以存储当前画面中的重构块的重构样本，并且可以将重构样本传送给帧内预测器331。
82.在本公开中，在编码设备200的滤波器260、帧间预测器221和帧内预测器222中描述的实施方式可以与解码设备300的滤波器350、帧间预测器332和帧内预测器331相同或者分别被应用以对应于解码设备300的滤波器350、帧间预测器332和帧内预测器331。相同的内容也可以应用于帧间预测器332和帧内预测器331。
83.在本公开中，可以省略量化/逆量化和/或变换/逆变换中的至少一种。当省略量化/逆量化时，量化的变换系数可以被称为变换系数。当省略变换/逆变换时，变换系数可以被称为系数或残差系数，或者为了表达的统一性，仍可以被称为变换系数。
84.在本公开中，量化变换系数和变换系数可以分别被称为变换系数和缩放变换系数。在这种情况下，残差信息可以包括关于变换系数的信息，并且可以通过残差编码语法发信号通知关于变换系数的信息。可以基于残差信息(或关于变换系数的信息)推导变换系数，并且可以通过对变换系数逆变换(缩放)来推导缩放变换系数。可以基于对缩放变换系数逆变换(变换)来推导残差样本。这也可以在本公开的其它部分中应用/表达。
85.图4示意性地示出了编码图像/视频的分层结构。
86.参照图4，编码图像/视频被分成处理图像/视频的解码处理及其本身的视频编码层(vcl)、发送和存储编码信息的子系统以及存在于vcl和子系统之间并负责网络适配功能的网络抽象层(nal)。
87.在vcl中，可以生成包括压缩的视频数据(切片数据)的vcl数据，或者可以生成视频解码过程另外需要的补充增强信息(sei)消息或者包括诸如画面参数集(pps)、序列参数集(sps)、视频参数集(vps)的信息的参数集。
88.在nal中，可以通过将头信息(nal单元头)添加到在vcl中生成的原始字节序列有效载荷(rbsp)来生成nal单元。在这种情况下，rbsp是指在vcl中生成的切片数据、参数集、sei消息等。nal单元头可以包括根据对应nal单元中所包括的rbsp数据指定的nal单元类型信息。
89.如图中所示，nal单元可根据vcl中生成的rbsp分成vcl nal单元和非vcl nal单元。vcl nal单元可意指包括关于图像的信息(切片数据)的nal单元，非vcl nal单元可意指包括对图像进行解码所需的信息(参数集或sei消息)的nal单元。
90.上述vcl nal单元和非vcl nal单元可以通过根据子系统的数据标准附接头信息来通过网络发送。例如，nal单元可被变换为诸如h.266/vvc文件格式、实时传输协议(rtp)、
传输流(ts)的预定标准的数据形式，并且通过各种网络发送。
91.如上所述，在nal单元中，可以根据包括在对应nal单元中的rbsp数据结构来指定nal单元类型，并且关于该nal单元类型的信息可被存储在nal单元头中并发信号通知。
92.例如，根据nal单元是否包括图像信息(切片数据)，nal单元可以大致分类为vcl nal单元类型和非vcl nal单元类型。vcl nal单元类型可以根据包括在vcl nal单元中的画面的性质和类型来分类，并且非vcl nal单元类型可以根据参数集的类型来分类。
93.以下是根据非vcl nal单元类型中所包括的参数集的类型指定的nal单元类型的示例。
[0094]-自适应参数集(aps)nal单元：包含aps的nal单元的类型
[0095]-解码参数集(dps)nal单元：包含dps的nal单元的类型
[0096]-视频参数集(vps)nal单元：包含vps的nal单元的类型
[0097]-序列参数集(sps)nal单元：包含sps的nal单元的类型
[0098]-pps(画面参数集)nal单元：包含pps的nal单元的类型
[0099]-画面头(ph)nal单元：包含ph的nal单元的类型
[0100]
上述nal单元类型可以具有nal单元类型的语法信息，并且该语法信息可被存储在nal单元头中并发信号通知。例如，该语法信息可以是nal_unit_type，并且可以由nal_unit_type值指定nal单元类型。
[0101]
此外，如上所述，编码设备可以执行诸如例如指数哥伦布、上下文自适应变长编码(cavlc)和上下文自适应二进制算术编码(cabac)的各种编码方法。此外，解码设备可以基于诸如指数哥伦布编码、cavlc或cabac的编码方法对比特流中的信息进行解码，并且输出图像重构所需的语法元素的值以及与残差有关的变换系数的量化值。
[0102]
例如，上述编码方法可以如下所述执行。
[0103]
图5示意性地示出用于对语法元素进行编码的上下文自适应二进制算术编码(cabac)。例如，在cabac编码过程中，当输入信号是语法元素而非二进制值时，编码设备可以通过将输入信号的值二值化来将输入信号转换为二进制值。此外，当输入信号已经是二进制值时(即，当输入信号的值是二进制值时)，可以不执行并且可以绕过二值化。这里，构成二进制值的各个二进制数0或1可被称为bin。例如，如果二值化后的二进制串为110，则1、1和0中的每一个被称为一个bin。一个语法元素的bin可以指示语法元素的值。
[0104]
此后，语法元素的二值化bin可被输入到常规编码引擎或旁路编码引擎。编码设备的常规编码引擎可以将反映概率值的上下文模型分配给对应bin，并且可以基于分配的上下文模型对对应bin进行编码。编码设备的常规编码引擎可以在对各个bin的编码之后更新对应bin的上下文模型。如上所述编码的bin可被称为上下文编码bin。
[0105]
此外，当语法元素的二值化bin被输入到旁路编码引擎时，它们可被如下编码。例如，编码设备的旁路编码引擎省略了估计关于输入bin的概率的过程以及在编码之后更新应用于bin的概率模型的过程。当应用旁路编码时，编码设备可以通过应用均匀概率分布而非分配上下文模型来对输入bin进行编码，从而改进编码速度。如上所述编码的bin可被称为旁路bin。
[0106]
熵解码可以表示以相反的顺序执行与上述熵编码相同的过程的过程。
[0107]
例如，当基于上下文模型对语法元素进行解码时，解码设备可以通过比特流接收
与语法元素对应的bin，可以使用语法元素和解码目标块或相邻块的解码信息或者在前一步骤中解码的符号/bin的信息来确定上下文模型，可以通过根据所确定的上下文模型预测所接收的bin的出现概率并执行bin的算术解码来推导语法元素的值。此后，可以利用所确定的上下文模型来更新接下来解码的bin的上下文模型。
[0108]
另外，例如，当语法元素被旁路解码时，解码设备可以通过比特流接收与语法元素对应的bin，并且可以通过应用均匀概率分布来对输入bin进行解码。在这种情况下，解码设备可以省略推导语法元素的上下文模型的过程以及在解码之后更新应用于bin的上下文模型的过程。
[0109]
此外，如上所述，在执行视频编码时，执行预测以改进压缩效率。通过这样，可以生成包括当前块的预测样本的预测块作为要编码的块(即，编码目标块)。在此，预测块包括空间域(或像素域)中的预测样本。在编码设备和解码设备中以相同的方式推导预测块，并且编码设备可以向解码设备发信号通知关于原始块与预测块之间的残差的信息(残差信息)，而不是原始块的原始样本值，从而改进图像编码效率。解码设备可以基于残差信息推导包括残差样本的残差块，将残差块和预测块相加以生成包括重构样本的重构块，并且生成包括重构块的重构画面。
[0110]
可以通过变换和量化过程来生成残差信息。例如，编码设备可以推导原始块与预测块之间的残差块，可以对包括在残差块中的残差样本(残差样本阵列)执行变换过程来推导变换系数，可以对变换系数执行量化过程来推导量化的变换系数，并且可以将相关残差信息(通过比特流)发信号通知解码设备。在此，残差信息可以包括量化变换系数的值信息、位置信息、变换技术、变换核心和量化参数等的值信息。解码设备可以基于残差信息来执行解量化/逆变换过程并且推导残差样本(或残差块)。解码设备可以基于预测块和残差块来生成重构画面。此外，为用于以后参考画面的帧间预测的参考，编码设备可以解量化/逆变换量化的变换系数以推导残差块，并且基于此生成重构画面。
[0111]
帧内预测可以是指基于当前块所属的画面(在下文中，被称为当前画面)中的参考样本，生成用于当前块的预测样本的预测。当对当前块应用帧内预测时，可以推导要用于当前块的帧内预测的相邻参考样本。当前块的相邻参考样本可以包括与大小为nw
×
nh的当前块的左边界相邻的样本和与当前块的左下相邻的总共2
×
nh个样本、与当前块的上边界相邻的样本和与右上相邻的总共2
×
nw个样本以及与当前块的左上相邻的样本。另选地，当前块的相邻参考样本可以包括多列上相邻样本和多行左相邻样本。此外，当前块的相邻参考样本可以包括与大小为nw
×
nh的当前块的右边界相邻的总共nh个样本、与当前块的下边界相邻的总共nw个样本以及与当前块的右下相邻的样本。
[0112]
然而，当前块的一些相邻参考样本尚未解码或可能不可用。在这种情况下，解码器可以通过用可用样本替换不可用样本来构建将用于预测的相邻参考样本。另选地，可以通过可用样本的插值来配置将用于预测的相邻参考样本。
[0113]
当推导相邻参考样本时，(i)可以基于当前块的相邻参考样本的平均或插值来推导预测样本，或者(ii)可以基于相对于当前块的相邻参考样本中的预测样本，存在于特定(预测)方向中的参考样本来推导预测样本。情况(i)可以被称为非定向模式或非角度模式，并且情况(ii)可以被称为定向模式或角度模式。
[0114]
另外，可以通过相邻参考样本当中基于当前块的预测样本位于当前块的帧内预测
模式的预测方向中的第一相邻样本和位于预测方向相反的方向中的第二相邻样本的插值来生成预测样本。上述情况可以被称为线性插值帧内预测(lip)。此外，可以使用线性模型(lm)来基于亮度样本生成色度预测样本。这种情况可以被称为lm模式或色度分量lm(cclm)模式。
[0115]
另外，基于滤波的相邻参考样本推导当前块的临时预测样本，并且也可以通过将临时预测样本与现有相邻参考样本(即，未滤波的相邻参考样本)中的根据帧内预测模式推导的至少一个参考样本加权求和来推导当前块的预测样本。上述情况可以被称为位置相关帧内预测(pdpc)。
[0116]
另外，选择当前块的相邻多个参考样本线中的具有最高预测准确度的参考样本线，并且使用所选线中的位于预测方向的参考样本推导预测样本。在这种情况下，可以通过向解码设备指示(发信号通知)所使用的参考样本线来执行帧内预测编码。上述情况可以被称为多参考线帧内预测或基于mrl的帧内预测。
[0117]
另外，当前块被划分为垂直子分区或水平子分区并基于相同的帧内预测模式执行帧内预测，但是可以以子分区为单位推导和使用相邻参考样本。也就是说，在这种情况下，当前块的帧内预测模式同样适用于子分区，但在一些情况下，可以通过以子分区为单位推导和使用相邻参考样本来改进帧内预测性能。这种预测方法可以被称为基于帧内子分区(isp)的帧内预测。
[0118]
可以将上述帧内预测方法称为帧内预测类型以区别于帧内预测模式。帧内预测类型可以通过各种术语来指代，诸如帧内预测技术或附加帧内预测模式。例如，帧内预测类型(或附加帧内预测模式等)可以包括上述lip、pdpc、mrl和isp中的至少一种。排除诸如lip、pdpc、mrl和isp的特定帧内预测类型的一般帧内预测方法可以被称为正常帧内预测类型。当不应用上述特定帧内预测类型时，一般可以应用正常帧内预测类型，并且可以基于上述帧内预测模式执行预测。此外，如果需要，可以对推导的预测样本执行后处理滤波。
[0119]
具体地，帧内预测过程可以包括帧内预测模式/类型确定步骤、相邻参考样本推导步骤和基于帧内预测模式/类型的预测样本推导步骤。此外，如果需要，可以对推导的预测样本执行后滤波步骤。
[0120]
图6例示了基于帧内预测的视频/图像编码方法的示例。
[0121]
参照图6，编码装置对当前块执行帧内预测(s600)。编码装置推导当前块的帧内预测模式/类型，推导当前块的相邻参考样本，基于帧内预测模式/类型和相邻参考样本生成当前块中的预测样本。在此，帧内预测模式/类型确定过程、相邻参考样本推导过程和预测样本生成过程可以同时执行，或者一个过程可以在另一个过程之前执行。编码装置可以从多个帧内预测模式/类型中确定应用于当前块的模式/类型。编码装置可以比较帧内预测模式/类型的rd成本并且确定当前块的最优帧内预测模式/类型。
[0122]
此外，编码装置可以执行预测样本滤波过程。预测样本滤波可以被称为后滤波。一些或所有预测样本可以由预测样本滤波过程滤波。在一些情况下，可以省略预测样本滤波过程。
[0123]
编码装置基于(滤波的)预测样本生成当前块的残差样本(s610)。编码装置可以基于相位比较当前块的原始样本中的预测样本并且推导残差样本。
[0124]
编码装置可以对包括关于帧内预测的信息(预测信息)和关于残差样本的残差信
息的图像信息进行编码(s620)。预测信息可以包括帧内预测模式信息和帧内预测类型信息。编码装置可以以比特流的形式输出编码的图像信息。输出比特流可以通过存储介质或网络发送到解码装置。
[0125]
残差信息可以包括稍后所述的残差编码语法。编码装置可以变换/量化残差样本以推导量化的变换系数。残差信息可以包括关于量化的变换系数的信息。
[0126]
此外，如上所述，编码装置可以生成重构画面(包括重构样本和重构块)。为此，编码装置可以通过对量化的变换系数再次执行逆量化/逆变换来推导(修改的)残差样本。以这种方式对残差样本进行变换/量化之后再次执行逆量化/逆变换的原因是为了推导与上述解码装置中推导的残差样本相同的残差样本。编码装置可以基于预测样本和(修改的)残差样本生成包括用于当前块的重构样本的重构块。可以基于重构块生成用于当前画面的重构画面。如上所述，环内滤波过程可以被进一步应用于重构画面。
[0127]
图7例示了基于帧内预测的视频/图像编码方法的示例。
[0128]
解码装置可以执行与编码设备执行的操作相对应的操作。
[0129]
可以从比特流中获得预测信息和残差信息。可以基于残差信息推导当前块的残差样本。具体地，可以通过基于根据残差信息推导的量化变换系数执行逆量化来推导变换系数，通过对变换系数执行逆变换来推导当前块的残差样本。
[0130]
具体地，解码装置可以基于所接收的预测信息(帧内预测模式/类型信息)，推导当前块的帧内预测模式/类型(s700)。解码装置可以推导当前块的相邻参考样本(s710)。解码装置基于帧内预测模式/类型和相邻参考样本，生成当前块中的预测样本(s720)。在这种情况下，解码装置可以执行预测样本滤波过程。预测样本滤波可以被称为后滤波。一些或所有预测样本可以由预测样本滤波过程滤波。在一些情况下，可以省略预测样本滤波过程。
[0131]
解码装置基于接收到的残差信息生成用于当前块的残差样本(s730)。解码装置可以基于预测样本和残差样本，生成当前块的重构样本，并且可以推导包括重构样本的重构块(s740)。可以基于重构块生成当前画面的重构画面。如上所述，环内滤波过程可以被进一步应用于重构画面。
[0132]
帧内预测模式信息可以包括例如标志信息(例如，intra_luma_mpm_flag)，其指示是否将mpm(最可能模式)应用于当前块或是否应用剩余模式，并且当将mpm应用于当前块时，预测模式信息可以进一步包括指示帧内预测模式候选(mpm候选)之一的索引信息(例如，intra_luma_mpm_idx)。帧内预测模式候选(mpm候选)可以由mpm候选列表或mpm列表构成。另外，当mpm没有应用于当前块时，帧内预测模式信息包括指示除了帧内预测模式候选(mpm候选)之外的剩余帧内预测模式之一的剩余模式信息(例如intra_luma_mpm_remainder)。解码装置可以基于帧内预测模式信息，确定当前块的帧内预测模式。
[0133]
此外，可以以各种形式实现帧内预测类型信息。例如，帧内预测类型信息可以包括指示帧内预测类型之一的帧内预测类型索引信息。作为另一示例，帧内预测类型信息可以包括表示是否将mrl应用于当前块，并且如果应用，使用哪个参考样本线的参考样本线信息(例如，intra_luma_ref_idx)、表示是否将isp应用于当前块的isp标志信息(例如intra_subpartitions_mode_flag)、当应用isp时，指示子分区的拆分类型的isp类型信息(例如intra_subpartitions_split_flag)、表示是否应用pdpc的标志信息或表示是否应用lip的标志信息中的至少一个。此外，帧内预测类型信息可以包括表示是否将基于矩阵的帧内预
测(mip)应用于当前块的mip标志。
[0134]
可以通过本公开中描述的编码方法，对帧内预测模式信息和/或帧内预测类型信息进行编码/解码。例如，可以通过熵编码(例如，cabac、cavlc)对帧内预测模式信息和/或帧内预测类型信息进行编码/解码。
[0135]
图8示意性地示出了帧内预测过程。
[0136]
参照图8，如上所述，帧内预测过程可以包括确定帧内预测模式/类型的步骤、推导相邻参考样本的步骤和执行帧内预测(生成预测样本)的步骤。帧内预测过程可以由如上所述的编码装置和解码装置执行。在本公开中，编码装置可以包括编码装置和/或解码装置。
[0137]
参照图8，编码装置确定帧内预测模式/类型s800。
[0138]
编码装置可以从上述各种帧内预测模式/类型中确定应用于当前块的帧内预测模式/类型，并且可以生成预测相关信息。预测相关信息可以包括表示应用于当前块的帧内预测模式的帧内预测模式信息和/或表示应用于当前块的帧内预测类型的帧内预测类型信息。解码装置可以基于预测相关信息确定应用于当前块的帧内预测模式/类型。
[0139]
帧内预测模式信息可以包括例如表示将最可能模式(mpm)应用于当前块还是应用剩余模式的标志信息(例如，intra_luma_mpm_flag)，并且当将mpm应用于当前块时，预测模式信息可以进一步包括指示帧内预测模式候选(mpm候选)之一的索引信息(例如，intra_luma_mpm_idx)。帧内预测模式候选(mpm候选)可以由mpm候选列表或mpm列表构成。另外，当mpm没有应用于当前块时，帧内预测模式信息可以进一步包括指示除了帧内预测模式候选(mpm候选)之外的剩余帧内预测模式之一的剩余模式信息(例如，intra_luma_mpm_remainder)。解码装置可以基于帧内预测模式信息确定当前块的帧内预测模式。
[0140]
此外，可以以各种形式实现帧内预测类型信息。例如，帧内预测类型信息可以包括指示帧内预测类型之一的帧内预测类型索引信息。作为另一示例，帧内预测类型信息可以包括表示mrl是否被应用于当前块，并且如果应用，使用哪一参考样本线的参考样本线信息(例如，intra_luma_ref_idx)、表示是否将isp应用于当前块的isp标志信息(例如intra_subpartitions_mode_flag)、当应用isp时，指示子分区的拆分类型的isp类型信息(例如intra_subpartitions_split_flag)、表示是否应用pdpc的标志信息或表示是否应用lip的标志信息中的至少一个。此外，帧内预测类型信息可以包括表示是否将基于矩阵的帧内预测(mip)应用于当前块的mip标志。
[0141]
例如，当应用帧内预测时，可以使用相邻块的帧内预测模式来确定应用于当前块的帧内预测模式。例如，编码装置可以选择基于附加候选模式和/或当前块的相邻块(例如，左和/或上相邻块)的帧内预测模式推导的mpm列表中的最可能模式(mpm)候选之一或基于mpm剩余信息(剩余帧内预测模式信息)选择未包括在mpm候选(和平面模式)中的剩余帧内预测模式之一。mpm列表可以被配置为包括或不包括平面模式作为候选。例如，当mpm列表将平面模式包括为候选时，mpm列表可以有6个候选，当mpm列表不将平面模式包括为候选时，mpm列表可以有5个候选。当mpm列表不将平面模式包括为候选时，可以发信号通知表示当前块的帧内预测模式是否不是平面模式的非平面标志(例如，intra_luma_not_planar_flag)。例如，可以首先发信号通知mpm标志，并且当mpm标志的值为1时，可以发信号通知mpm索引和非平面标志。此外，当非平面标志的值为1时，可以发信号通知mpm索引。在此，配置mpm列表不将平面模式包括为候选的事实是平面模式总是被认为是mpm而不是认为平面模
式不是mpm，因此，首先发信号通知标志(非平面标志)以检查它是否是平面模式。
[0142]
例如，可以基于mpm标志(例如，intra_luma_mpm_flag)指示应用于当前块的帧内预测模式是在mpm候选(和平面模式)之中还是在剩余模式之中。值为1的mpm标志可以指示当前块的帧内预测模式在mpm候选(和平面模式)内，而值为0的mpm标志可以指示当前块的帧内预测模式不在mpm候选(和平面模式)内。值为0的非平面标志(例如intra_luma_not_planar_flag)可以指示当前块的帧内预测模式为平面模式，值为1的非平面标志可以指示当前块的帧内预测模式不是平面模式。可以以mpm_idx或intra_luma_mpm_idx语法元素的形式发信号通知mpm索引，并且可以以rem_intra_luma_pred_mode或intra_luma_mpm_remainder语法元素的形式发信号通知剩余帧内预测模式信息。例如，剩余帧内预测模式信息可以通过按照预测模式编号的顺序索引来指示所有帧内预测模式当中的未包括在mpm候选(和平面模式)中的剩余帧内预测模式之一。帧内预测模式可以是亮度分量(样本)的帧内预测模式。在下文中，帧内预测模式信息可以包括mpm标志(例如intra_luma_mpm_flag)、非平面标志(例如intra_luma_not_planar_flag)、mpm索引(例如mpm_idx或intra_luma_mpm_idx)或剩余的帧内预测模式信息(rem_intra_luma_luma_mpm_mode或intra_luma_mpminder)中的至少一个。在本公开中，mpm列表可以用多种术语，诸如mpm候选列表和candmodelist来指代。
[0143]
当将mip应用于当前块时，可以发信号通知用于mip的单独mpm标志(例如，intra_mip_mpm_flag)、mpm索引(例如，intra_mip_mpm_idx)和剩余帧内预测模式信息(例如，intra_mip_mpm_remainder)，并且可以不发信号通知非平面标志。
[0144]
换言之，一般而言，当执行图像的块分割时，要编码的当前块和相邻块具有相似的图像特性。因此，当前块和相邻块具有相同或相似的帧内预测模式的可能性很高。因此，编码器可以使用相邻块的帧内预测模式来对当前块的帧内预测模式进行编码。
[0145]
编码装置可以为当前块构建最可能模式(mpm)列表。mpm列表可以被称为mpm候选列表。在此，mpm可以是指用于在帧内预测模式编码期间，考虑当前块和相邻块之间的相似性来改进编码效率的模式。如上所述，mpm列表可以被构造为包括平面模式，或者可以被构造为排除平面模式。例如，当mpm列表包括平面模式时，mpm列表中的候选数量可以是6。而当mpm列表不包括平面模式时，mpm列表中的候选数量可以是5。
[0146]
编码装置可以基于各种帧内预测模式执行预测，并且可以基于根据其的速率失真优化(rdo)来确定最优帧内预测模式。在这种情况下，编码装置可以通过仅使用mpm列表中配置的mpm候选和平面模式，或者通过进一步使用剩余帧内预测模式以及mpm列表中配置的mpm候选和平面模式来确定最优帧内预测模式。具体地，例如，如果当前块的帧内预测类型是正常帧内预测类型以外的特定类型(例如lip、mrl或isp)，则编码装置可以通过仅将mpm候选和平面模式视作当前块的帧内预测模式候选来确定最优帧内预测模式。即，在这种情况下，可以仅从mpm候选和平面模式中确定当前块的帧内预测模式，并且在这种情况下，可以不执行mpm标志的编码/信令。在这种情况下，解码装置可以推断mpm标志为1，而无需单独地发信号通知mpm标志。
[0147]
此外，通常，当当前块的帧内预测模式不是平面模式，而是mpm列表中的mpm候选之一时，编码装置生成指示mpm候选之一的mpm索引(mpmidx)。当当前块的帧内预测模式未被包括在mpm列表中时，编码装置生成mpm剩余信息(剩余帧内预测模式信息)，指示未包括在
mpm列表(和平面模式)中的剩余帧内预测模式当中的与当前块的帧内预测模式相同的模式。mpm剩余信息可以包括例如intra_luma_mpm_remainder语法元素。
[0148]
解码装置从比特流中获得帧内预测模式信息。如上所述，帧内预测模式信息可以包括mpm标志、非平面标志、mpm索引和mpm剩余信息(剩余帧内预测模式信息)中的至少一个。解码装置可以构建mpm列表。mpm列表的构建与在编码装置中构建的mpm列表相同。即，mpm列表可以包括相邻块的帧内预测模式，或者可以进一步包括根据预定方法的特定帧内预测模式。
[0149]
解码装置可以基于mpm列表和帧内预测模式信息确定当前块的帧内预测模式。例如，当mpm标志的值为1时，解码装置可以(基于非平面标志)将平面模式推导为当前块的帧内预测模式，或者将mpm列表的mpm候选当中的由mpm索引指示的候选推导为当前块的帧内预测模式。在此，mpm候选可以仅表示mpm列表中包括的候选，也可以不仅包括mpm列表中包括的候选，而且包括mpm标志的值为1时适用的平面模式。
[0150]
又例如，当mpm标志的值为0时，解码装置可以将在未包括在mpm列表和平面模式中的剩余帧内预测模式当中的由剩余帧内预测模式信息(可以被称为mpm剩余信息)指示的帧内预测模式推导为当前块的帧内预测模式。此外，作为另一示例，当当前块的帧内预测类型是特定类型(例如lip、mrl或isp等)时，解码装置可以将由平面模式或mpm列表中的mpm标志指示的候选推导为当前块的帧内预测模式，而无需解析/解码/检查mpm标志。
[0151]
编码装置推导当前块的相邻参考样本(s810)。当帧内预测被应用于当前块时，可以推导要用于当前块的帧内预测的相邻参考样本。当前块的相邻参考样本可以包括与大小为nw
×
nh的当前块的左边界相邻的样本和与当前块的左下相邻的总共2
×
nh个样本、与当前块的上边界相邻的样本和与右上相邻的总共2
×
nw个样本以及与当前块的左上相邻的样本。另选地，当前块的相邻参考样本可以包括多列上相邻样本和多行左相邻样本。此外，当前块的相邻参考样本可以包括与大小为nw
×
nh的当前块的右边界相邻的总共nh个样本、与当前块的下边界相邻的总共nw个样本以及与当前块的右下相邻的样本。
[0152]
另一方面，当应用mrl时(即，当mrl索引的值大于0时)，相邻参考样本可能位于线1至2而不是在左/上侧与当前块相邻的线0，并且在这种情况下，可以进一步增加相邻参考样本的数量。此外，当应用isp时，可以以子分区为单位推导相邻参考样本。
[0153]
编码装置通过对当前块执行帧内预测来推导预测样本(s820)。编码装置可以基于帧内预测模式/类型和相邻样本来推导预测样本。编码装置可以根据当前块的相邻参考样本中的当前块的帧内预测模式来推导参考样本，并且可以基于参考样本来推导当前块的预测样本。
[0154]
此外，根据实施方式，可以使用块差分脉冲编码调制(bdpcm)技术。bdpcm也可以被称为rdpcm(基于量化残差块的增量脉冲编码调制)。
[0155]
当通过应用bdpcm预测块时，可以利用重构样本来逐线预测块的行或列。在这种情况下，所使用的参考样本可以是未滤波的样本。bdpcm方向可以指示使用垂直方向还是水平方向预测。即，当应用bdpcm时，可以将垂直方向或水平方向选择为bdpcm方向，并且可以在bdpcm方向上执行预测。可以在空间域中量化预测误差，并且可以通过将逆量化的预测误差添加到预测(即，预测样本)来重构样本。预测误差可能是指残差。作为该bdpcm的替代方式，可以提出量化残差域bdpcm，并且预测方向或信令可以与应用于空间域的bdpcm相同。也就
是说，量化系数本身可以通过量化残差域bdpcm像dpcm(增量脉冲编码调制，delta pulse code modulation)那样累加，然后通过逆量化重构残差。因此，从在残差编码状态下应用dpcm的意义上，可以使用量化的残差域bdpcm。下面使用的量化残差域是基于预测推导的残差在不被变换的情况下被量化的，意指用于量化残差样本的域。例如，量化残差域可以包括对其应用变换跳过的量化残差(或量化残差系数)，即，跳过了变换但对残差样本应用量化。或者，例如，量化残差域可以包括量化变换系数。
[0156]
对于m
×
n大小的块，可以假设使用通过使用左或上边界样本(即，左相邻样本或上相邻样本)中的未滤波样本，在水平方向上执行帧内预测推导的(逐线将左相邻样本线复制到预测块)，或通过在垂直方向上执行帧内预测获得(逐线将上相邻样本线复制到预测块)的预测值推导的残差为r(i,j)(0≤i≤m-1,0≤j≤n-1)。在此，m可以表示行或高度，而n可以表示列或宽度。并且，可以假设残差r(i,j)的量化值为q(r(i,j))(0≤i≤m-1,0≤j≤n-1)。在此，残差是指原始块和预测块值之间的差值。
[0157]
然后，如果将bdpcm应用于量化的残差样本，则可以推导具有作为配置的m
×
n的修改阵列
[0158]
例如，当发信号通知垂直bdpcm时(即，当应用垂直bdpcm时)，可以如在下式中，推导
[0159]
[式1]
[0160][0161]
即，例如，当应用垂直bdpcm时，编码装置可以基于上相邻样本执行垂直帧内预测，并且可以如在上式1中，推导当前块的量化残差样本。参考上面的式1，可以将除当前块的第一行以外的行的量化残差样本推导为相应位置的量化值与相应位置的前一行的位置(即，相应位置的上相邻位置)的量化值之间的差。
[0162]
此外，当类似地应用于水平预测时(即，当应用水平方向上的bdpcm时)，可以如在下式中，推导残差量化样本。
[0163]
[式2]
[0164][0165]
即，例如，当应用水平bdpcm时，编码装置可以基于左相邻样本执行水平帧内预测，并且可以如在上式2中，推导当前块的量化残差样本。参考上式2，除当前块的第一列以外的列的量化残差样本可以被推导为相应位置的量化值与相应位置的前一列的位置(即，相应位置的左相邻位置)的量化值之间的差。
[0166]
量化的残差样本可以被发送到解码装置。
[0167]
在解码设备中，可以逆向地执行上述运算以推导q(r(i,j))(0≤i≤m-1,0≤j≤n-1)。
[0168]
下式可应用于垂直预测。
[0169]
「式31
[0170][0171]
此外，下式可以应用于水平预测。
[0172]
[式4]
[0173][0174]
解量化的量化残差(q-1
(q(r
i,j
)))与块内预测值相加以推导重构样本值。
[0175]
这种技术的主要优点是可以通过在解析系数时甚至在解析后简单地添加预测器来执行逆bdpcm。
[0176]
如上所述，bdpcm可以应用于量化残差域，并且量化残差域可以包括量化残差(或量化残差系数)，在这种情况下，变换跳过被应用于残差。即，当应用bdpcm时，可以跳过变换并且可以将量化应用于残差样本。另选地，量化残差域可以包括量化变换系数。bdpcm是否可用的标志可以在序列级(sps)发信号通知，并且可以仅在sps中发信号通知变换跳过模式被启用时才发信号通知该标志。该标志可以被称为bdpcm启用标志或sps bdpcm启用标志。
[0177]
当应用bdpcm时，可以根据与帧内预测方向类似的预测方向(例如垂直预测或水平预测)，通过样本复制对整个块执行帧内预测。作为原始块与预测块之间的差值的残差通过跳过变换被量化，并且可以编码增量值，即水平或垂直方向上的量化的残差和预测器之间的差值(即，水平或垂直方向上的量化残差)。
[0178]
如果bdpcm适用，当cu大小小于或等于亮度样本的maxtssize(最大变换跳过块大小)，并且利用帧内预测编码cu时，可以在cu级别发送标志信息。标志信息可以被称为bdpcm标志。在此，maxtssize可以是指允许变换跳过模式的最大块大小。标志信息可以指示是否应用了传统的帧内编码或bdpcm。当应用bdpcm时，可以发送指示预测方向是水平方向还是垂直方向的bdpcm预测方向标志。bdpcm预测方向标志可以被称为bdpcm方向标志。此后，可以使用未滤波的参考样本，通过传统的水平或垂直帧内预测过程来预测块。另外，可以对残差进行量化，并且可以对每个量化残差与其预测器之间(例如，根据bdpcm预测方向在水平或垂直方向上已经量化的残差之间)的差值进行编码。
[0179]
此外，如稍后所述，以标准的文档格式描述上述bdpcm。
[0180]
例如，如下表所示，表示用于上述bdpcm启用标志的语法元素和用于语法元素的语义。
[0181]
[表1]
[0182][0183]
[表2]
[0184][0185]
表1示出了在序列参数集(sps)中发信号通知的sps_bdpcm_enabled_flag，并且当语法元素sps_bdpcm_enabled_flag为1时，语法元素sps_bdpcm_enabled_flag可以表示在编码单元中存在表示是否将bdpcm应用于执行帧内预测的编码单元的标志信息，即，“intra_bdpcm_luma_flag”和“intra_bdpcm_chroma_flag”。语法元素sps_bdpcm_enabled_flag可以是用于上述bdpcm启用标志的语法元素。此外，如果不存在语法元素“sps_bdpcm_enabled_flag”，则可以将其值推断为等于0。
[0186]
此外，例如，用于bdpcm标志和bdpcm方向标志的语法元素以及语法元素的语义可以如下表所示。
[0187]
[表3]
[0188][0189]
[表4]
[0190][0191]
表3的语法元素bdpcm_flag可以表示是否将bdpcm应用于当前块。语法元素bdpcm_flag可以是bdpcm标志的语法元素。例如，当bdpcm_flag的值为1时，可以将bdpcm应用于当前块，可以跳过当前块的变换，并且可以存在表示当前块的预测方向的bdpcm_dir_flag。此外，例如，当bdpcm_flag的值为0时，可以不将bdpcm应用于当前块。此外，例如，当bdpcm_flag不存在时，可以将bdpcm_flag的值推断为等于0。当前块可以是编码块。bdpcm_dir_flag可以指示当前块的预测方向。例如，参考表4，当bdpcm_dir_flag的值为1时，当前块的预测方向可以是垂直方向。当bdpcm_dir_flag的值为0时，当前块的预测方向可以是水平方向。语法元素bdpcm_flag可以是用于上述bdpcm标志的语法元素，并且语法元素bdpcm_dir_flag可以是用于上述bdpcm方向标志的语法元素。
[0192]
此外，例如，可以针对亮度分量和色度分量分别发信号通知用于bdpcm标志和bdpcm方向标志的上述语法元素。例如，语法元素的语义可以如下表所示。
[0193]
[表5]
[0194][0195]
[表6]
[0196][0197]
如上所述，表5的语法元素intra_bdpcm_luma_flag可以表示是否将bdpcm应用于当前亮度块，并且intra_bdpcm_chroma_flag可以表示是否将bdpcm应用于当前亮度块或当前色度块。例如，当intra_bdpcm_luma_flag或intra_bdpcm_chroma_flag的值为1时，可以跳过相应编码块的变换，并且可以通过表示预测方向的intra_bdpcm_luma_dir_flag或intra_bdpcm_chroma_dir_flag，在水平或垂直方向中设置用于编码块的预测模式。当intra_bdpcm_luma_flag或intra_bdpcm_chroma_flag不存在时，可以将intra_bdpcm_luma_flag或intra_bdpcm_chroma_flag的值推断为等于0。
[0198]
此外，例如，当表示预测方向的intra_bdpcm_luma_dir_flag或intra_bdpcm_chroma_dir_flag的值为0时，intra_bdpcm_luma_dir_flag或intra_bdpcm_chroma_dir_
flag可以表示bdpcm预测方向为水平方向，并且当intra_bdpcm_chroma_dir_flag或intra_bdpcm_chroma_dir_flag的值为1时，intra_bdpcm_luma_dir_flag或intra_bdpcm_chroma_dir_flag可以表示bdpcm预测方向为垂直方向。
[0199]
此外，在下表中示出了当应用bdpcm时的逆量化过程的示例。
[0200]
[表7]
[0201]
[0202][0203]
另选地，在下表中示出了当应用bdpcm时的逆量化过程的示例。
[0204]
[表8]
[0205]
[0206]
[0207][0208]
参考表7或表8，当bdpcm_flag的值为1时，可以基于中间变量dz[x][y]推导逆量化残差值d[x][y]。在此，x是从左向右增加的水平坐标，y是从上到下增加的垂直坐标，并且二维块中的位置可以被表示为(x,y)。另外，二维块中的位置指示当块的左上位置被设置为(0,0)时的(x,y)位置。
[0209]
例如，当bdpcm_dir_flag的值为0时，即，当应用水平bdpcm时，当x为0时，变量dz[x][y]可以是transcoefflevel[xtby][ytby][cidx][x][y]，而当x不为0时，可以基于dz[x-1][y]+dz[x][y]推导dz[x][y]。即，当应用水平bdpcm(bdpcm_dir_flag的值为0)时，位于x为0的第一列中的样本的变量dz[x][y]被推导为基于样本的残差信息推导的transcoefflevel[xtby][ytby][cidx][x][y]，并且位于x不为0的除第一列以外的列中的样本的变量dz[x][y]被推导为样本的左相邻样本的dz[x-1][y]和样本的dz[x][y]的总和。在此，可以基于发信号通知的用于该样本的残差信息来推导被添加到dz[x-1][y]的样本的dz[x][y]。
[0210]
另外，例如，当bdpcm_dir_flag的值为1时，即，应用垂直bdpcm时，基于dz[x][y-1]+dz[x][y]推导变量dz[x][y]。即，当应用垂直bdpcm时(bdpcm_dir_flag的值为1)，位于y为0的第一行中的样本的变量dz[x][y]被推导为基于该样本的残差信息推导的
transcoefflevel[xtby][ytby][cidx][x][y]，并且将位于y不为0的除第一行以外的其它行中的样本的变量dz[x][y]推导为样本的上相邻样本的dz[x][y-1]和样本的dz[x][y]的总和。在此，可以基于发信号通知的用于该样本的残差信息来推导被添加到dz[x][y-1]的样本的dz[x][y]。
[0211]
如上所述，可以基于水平或垂直方向上的先前位置(即，左或上)的残差与被接收为特定位置的残差信息的值之和来推导特定位置的残差。这是因为，当应用bdpcm时，将水平或垂直方向中的特定位置(x,y)的残差样本值与前一位置(即，(x-1,y)或(x,y-1))的残差样本值之间的差值发信号通知为残差信息。
[0212]
此外，本公开针对在编码变换跳过残差信号的过程中在残差信号之间应用bdpcm的方法提出以下方法。
[0213]
首先，如上所述，仅当当前块的预测模式是帧内预测模式时才可应用bdpcm，并且可以在与应用bdpcm的方向相同的方向上执行帧内预测。即，通过在行或列方向上逐线执行帧间残差预测，可以减小所生成的级别的大小并且减少对级别进行编码所需的上下文编码bin的生成，这可有助于改进解码设备的吞吐量。另外，如上所述，可以在cu级别解析bdpcm语法，并且可以依次解析表示是否应用bdpcm的bdpcm_flag或者表示预测是行方向预测还是列方向预测的bdpcm_dir_flag。另外，根据现有bdpcm，如果应用了bdpcm的块被参考用于相邻块的解码或者被其它色度分量(cb、cr等)参考，则应用了bdpcm的块可被识别为帧内预测块，并且应用了bdpcm的块的帧内预测模式可被推导为与应用了bdpcm的块的最可能模式(mpm)列表的索引0对应的帧内预测模式。即，另一色度分量的相邻块或对应块可以参考应用了bdpcm的块的mpm候选0作为应用了bdpcm的块的帧内预测模式。然而，根据bdpcm，即使通过基于bdpcm方向标志确定预测方向来执行垂直帧内预测或水平帧内预测，如果与mpm列表的索引0对应的帧内预测模式被存储为当前块的预测模式，则为实际预测执行的帧内预测模式与所存储的帧内预测模式之间可能出现差异。
[0214]
因此，本公开提出了一种根据bdpcm预测当前块的语法元素bdpcm_dir_flag(即，bdpcm方向标志)来存储当前块的帧内预测模式的方法。因此，所存储的当前块的帧内预测模式可被存储在实际预测方向上，并且由此，当参考相邻块中的bdpcm块(即，当前块)来构造mpm列表或者在色度分量的对应块中构造dm模式时，由于可以使用准确的相邻信息执行编码，所以预测准确度可以改进并且编码效率可以改进。
[0215]
图9示出本公开中提出的基于bdpcm方向标志来确定要存储的当前块的帧内预测模式的实施方式。
[0216]
参照图9，解码设备可以解析当前块的bdpcm_flag(s900)。bdpcm_flag可以表示bdpcm标志的语法元素，其表示是否对当前块应用bdpcm。例如，当bdpcm_flag的值为0时，可不对当前块应用bdpcm。当bdpcm_flag的值为1时，可对当前块应用bdpcm，并且可存在表示应用了bdpcm的当前块的预测方向的bdpcm_dir_flag。
[0217]
当bdpcm_flag的值为1时，解码设备可以解析当前块的bdpcm_dir_flag(s910)。bdpcm_dir_flag可以表示bdpcm方向标志的语法元素，其表示当前块的预测方向。
[0218]
解码设备可以确定bdpcm_dir_flag的值是否表示水平方向(s920)。解码设备可以基于bdpcm_dir_flag的解析值来推导当前块的预测方向。例如，当bdpcm_dir_flag的值为0时，bdpcm_dir_flag可以表示预测方向为水平方向，当bdpcm_dir_flag的值为1时，bdpcm_
dir_flag可以表示预测方向为垂直方向。
[0219]
当bdpcm_dir_flag表示水平方向时，解码设备可以将当前块的帧内预测模式存储为水平帧内预测模式(s930)。例如，当bdpcm_dir_flag表示水平方向时，即，当bdpcm_dir_flag的值为0时，解码设备可以将当前块的帧内预测模式设定或存储为水平帧内预测模式。这里，图9所示的intrapredmodey可以表示当前块的亮度分量的帧内预测模式，hor_idx可以表示水平帧内预测模式，ver_idx可以表示垂直帧内预测模式。
[0220]
另外，当bdpcm_dir_flag不表示水平方向时，解码设备可以将当前块的帧内预测模式存储为垂直帧内预测模式(s940)。例如，当bdpcm_dir_flag表示垂直方向时，即，当bdpcm_dir_flag的值为1时，解码设备可以将当前块的帧内预测模式设定或存储为垂直帧内预测模式。
[0221]
图10示意性地示出了根据本文献的编码设备的图像编码方法。图10中公开的方法可以由图2中公开的编码设备执行。具体地，例如，图10的s1000可以由编码设备的预测器执行，图10的s1010至s1020可以由编码设备的残差处理器执行，s1030至s1040可以由编码设备的熵编码器执行，s1050可以由编码设备的存储器执行。另外，尽管图中未示出，基于当前块的预测样本和残差样本来生成当前块的重构样本和重构画面的过程可以由编码设备的加法器执行。
[0222]
编码设备基于当前块的相邻样本和基于块的增量脉冲编码调制(bdpcm)来推导当前块的第一样本和第二样本的预测样本s1000。
[0223]
编码设备可以确定是否对当前块应用bdpcm并且可以确定执行bdpcm的方向。例如，编码设备可以通过基于执行bdpcm的预测方向，对当前块执行帧内预测来推导预测样本。例如，预测方向可以是垂直方向或水平方向，并且可以根据预测方向，基于帧内预测模式生成当前块的预测样本。
[0224]
例如，当当前块的预测方向被推导为水平方向时，编码设备可以通过基于当前块的左相邻样本执行帧内预测来推导当前块的预测样本。例如，当当前块的预测方向被推导为水平方向时，编码设备可以基于当前块的左相邻样本来推导当前块的预测样本。例如，当当前块的预测方向被推导为水平方向时，编码设备可以基于当前块的左相邻样本来推导第一样本和第二样本的预测样本。例如，当当前块的预测方向被推导为水平方向时，编码设备可以将与第一样本和第二样本相同行的左相邻样本的样本值推导为预测样本的样本值。另外，例如，当当前块的预测方向被推导为垂直方向时，编码设备可以基于当前块的上相邻样本来推导当前块的预测样本。例如，当当前块的预测方向被推导为垂直方向时，编码设备可以基于当前块的上相邻样本来推导当前块的预测样本。例如，当当前块的预测方向被推导为垂直方向时，编码设备可以将与预测样本相同列的上相邻样本的样本值推导为预测样本的样本值。例如，当当前块的预测方向被推导为垂直方向时，编码设备可以基于当前块的上相邻样本来推导第一样本和第二样本的预测样本。例如，当当前块的预测方向被推导为垂直方向时，编码设备可以将与第一样本和第二样本相同列的上相邻样本的样本值推导为预测样本的样本值。
[0225]
此外，可以基于亮度块和对应色度块是否具有各自的分区结构，将当前块的树类型划分为单树(single_tree)或双树(dual_tree)。当色度块具有与亮度块相同的分区结构时，其可以被表示为单树，并且当色度分量块具有与亮度块的分区结构不同的分区结构时，
其可以被表示为双树。根据示例，bdpcm可以单独地应用于当前块的亮度块或色度块。
[0226]
当当前块的树结构是双树时，可以将bdpcm应用于仅一个分量块，并且即使当当前块的树结构是单树结构时，也可以将bdpcm应用于仅一个分量块。
[0227]
另选地，根据示例，仅当当前块的宽度小于或等于第一阈值并且当前块的高度小于或等于第二阈值时才可应用bdpcm。第一阈值和第二阈值可为32，或者可以设定为执行变换跳过的变换块的最大高度或最大宽度。
[0228]
编码设备基于预测样本来推导第一样本和第二样本的残差样本s1010。例如，编码设备可以通过将当前块的原始样本和预测样本相减来推导残差样本。
[0229]
编码设备基于残差样本来推导第一样本和第二样本的残差系数s1020。例如，编码设备可以基于残差样本来推导当前块的残差系数。例如，当将bdpcm应用于当前块时，编码设备可以确定不对当前块应用变换。在这种情况下，例如，编码设备可以通过对残差样本执行量化来推导残差系数。这里，例如，未应用变换的块可以被称作变换跳过块。即，例如，当前块可以是变换跳过块。
[0230]
编码设备基于bdpcm和残差系数来对当前块的残差信息进行编码s1030。例如，编码设备可以对残差系数的残差信息进行编码。例如，残差信息可以包括残差样本的残差系数的残差信息。
[0231]
例如，残差信息可以包括表示第一样本的残差系数的第一样本的语法元素以及表示第一样本的残差系数与第二样本的残差系数之间的差的第二样本的语法元素。例如，可以基于目标样本的语法元素来推导目标样本(例如，第二样本)的残差系数值与目标样本的左相邻样本或上相邻样本的残差系数值之间的差。例如，当当前块的预测方向为水平方向时，基于目标样本的语法元素来推导目标样本(例如，第二样本)的残差系数值与目标样本的左相邻样本(例如，第一样本)的残差系数值之间的差。即，例如，当当前块的预测方向为水平方向时，目标样本的语法元素可以表示目标样本的残差系数值与目标样本的左相邻样本的残差系数值之间的差。此外，例如，当当前块的预测方向为垂直方向时，基于目标样本的语法元素来推导目标样本(例如，第二样本)的残差系数值与目标样本的上相邻样本(例如，第一样本)的残差系数值之间的差。即，例如，当当前块的预测方向为垂直方向时，目标样本的语法元素可以表示目标样本的残差系数值与目标残差样本的上相邻样本的残差系数值之间的差。此外，当目标样本位于当前块(例如，第一样本)的第一行或列中时，可以基于目标样本的语法元素来推导目标样本的残差系数值。即，当目标样本位于当前块的第一行或列中时，目标样本的语法元素可以表示目标样本的残差系数值。
[0232]
例如，残差信息可以包括语法元素，诸如transform_skip_flag、last_sig_coeff_x_prefix、last_sig_coeff_y_prefix、last_sig_coeff_x_suffix、last_sig_coeff_y_suffix、coded_sub_block_flag、sig_coeff_flag、par_level_flag、abs_level_gt1_flag、abs_level_gtx_flag、abs_remainder、coeff_sign_flag、dec_abs_level和/或mts_idx。
[0233]
具体地，例如，残差信息可以包括当前块的变换跳过标志。变换跳过标志可以表示是否将变换应用于当前块。即，变换跳过标志可以表示是否将变换应用于当前块的残差系数。此外，例如，当将bdpcm应用于当前块时，可以不发信号通知当前块的变换跳过标志，并且可以将变换跳过标志的值推断为等于1。即，当将bdpcm应用于当前块时，残差信息可以不包括当前块的变换跳过标志，可以将变换跳过标志的值推断为等于1，并且当前块可以是变
换跳过块。表示变换跳过标志的语法元素可以是transform_skip_flag。
[0234]
此外，例如，残差信息可以包括表示最后非零残差系数在当前块的残差系数阵列中的位置的位置信息。即，残差信息可以包括表示最后非零残差系数在当前块的扫描顺序中的位置的位置信息。位置信息可以包括表示最后非零残差系数的列位置的前缀的信息，并且表示最后非零残差系数的行位置的前缀的信息、表示最后非零残差系数的列位置的后缀的信息以及表示最后非零残差系数的行位置的后缀的信息。位置信息的语法元素可以是last_sig_coeff_x_prefix、last_sig_coeff_y_prefix、last_sig_coeff_x_suffix和last_sig_coeff_y_suffix。此外，非零残差系数可以被称为有效系数。此外，例如，当当前块是变换跳过块时，残差信息可以不包括表示最后非零残差系数在当前块的残差系数阵列中的位置的位置信息。
[0235]
此外，例如，残差信息可以包括表示当前块的目标样本的残差系数是否为非零残差系数的有效系数标志、用于残差系数的系数等级的奇偶性的奇偶性等级标志、表示系数等级是否大于第一阈值的第一系数等级标志和表示系数等级是否大于第二阈值的第二系数等级标志。在此，有效系数标志可以是sig_coeff_flag，奇偶性等级标志可以是par_level_flag，第一系数等级标志可以是abs_level_gt1_flag，并且第二系数等级标志可以是abs_level_gt3_flag或abs_level_gtx_flag。
[0236]
此外，例如，残差信息可以包括表示当前块的目标样本的残差系数的符号(sign)的符号标志。符号标志可以是coeff_sign_flag。
[0237]
此外，例如，残差信息可以包括当前块的目标样本的残差系数的值的系数值相关信息。系数值相关信息可以是abs_remainder和/或dec_abs_level。
[0238]
编码设备对表示对当前块应用bdpcm的bdpcm标志和表示当前块的预测方向的bdpcm方向标志进行编码s1040。编码设备可以生成并编码表示对当前块应用bdpcm的bdpcm标志和表示当前块的预测方向的bdpcm方向标志。图像信息可以包括bdpcm标志和bdpcm方向标志。
[0239]
例如，bdpcm标志可以表示是否对当前块应用bdpcm。例如，当bdpcm标志的值为0时，bdpcm标志可以表示不对当前块应用bdpcm。当bdpcm标志的值为1时，bdpcm标志可以表示对当前块应用bdpcm并且存在当前块的bdpcm方向标志。即，例如，当bdpcm标志的值为0时，bdpcm标志可以表示不对当前块应用bdpcm，并且执行一般帧内预测、ibc预测、调色板预测或帧间预测。当bdpcm标志的值为1时，bdpcm标志可以表示对当前块应用bdpcm并且存在当前块的bdpcm方向标志。例如，bdpcm标志的语法元素可以是bdpcm_flag、intra_bdpcm_luma_flag或intra_bdpcm_chroma_flag。另外，例如，可以编码单元(cu)为单位发信号通知bdpcm标志。
[0240]
另外，例如，bdpcm方向标志可以表示当前块的预测方向。例如，当bdpcm标志的值为1时，编码设备可以生成并编码bdpcm方向标志。例如，bdpcm方向标志可以表示垂直方向或水平方向作为当前块的预测方向。例如，当bdpcm方向标志的值为0时，bdpcm方向标志可以表示当前块的预测方向是水平方向，当bdpcm方向标志的值为1时，bdpcm方向标志可以表示当前块的预测方向是垂直方向。例如，bdpcm方向标志的语法元素可以是bdpcm_dir_flag、intra_bdpcm_luma_dir_flag或intra_bdpcm_chroma_dir_flag。
[0241]
编码设备存储预测方向的帧内预测模式作为当前块的帧内预测模式s1050。编码
设备可以存储预测方向的帧内预测模式(垂直帧内预测模式或水平帧内预测模式)作为当前块的帧内预测模式。例如，当预测方向是水平方向时，水平帧内预测模式可被存储为当前块的帧内预测模式，当预测方向是垂直方向时，垂直帧内预测模式可被存储为当前块的帧内预测模式。例如，所存储的帧内预测模式可以用于当前块的相邻块和/或色度分量的对应块的预测。例如，所存储的帧内预测模式可以用于推导当前块的相邻块和/或色度分量的对应块的帧内预测模式。例如，所存储的帧内预测模式可以用作当前块的相邻块和/或色度分量的对应块的帧内预测模式候选。
[0242]
此外，可以通过网络或(数字)存储介质将包括图像信息的比特流发送到解码设备。在此，网络可以包括广播网络和/或通信网络，并且数字存储介质可以包括各种类型的存储介质，诸如usb盘、sd、cd、dvd、蓝光盘、hdd和ssd。
[0243]
图11示意性地示出执行根据本文献的图像编码方法的编码设备。图10中公开的方法可以由图11中所公开的编码设备执行。具体地，例如，图11的编码设备的预测器可以执行图10的s1000，图11的编码设备的残差处理器可以执行图10的s1010至s1020，图11的编码设备的熵编码器可以执行图10的s1030至s1040，图11的编码设备的存储器可以执行图10的s1050。另外，尽管图中未示出，基于当前块的预测样本和残差样本来生成当前块的重构样本和重构画面的过程可以由编码设备的加法器执行。
[0244]
图12示意性地示出根据本文献的解码设备的图像解码方法。图12中所公开的方法可以由图3中所公开的解码设备执行。具体地，例如，图12的s1200可以由解码设备的熵解码器执行，图12的s1210可以由解码设备的预测器执行，图12的s1220至s1240可以由解码设备的残差处理器执行，图12的s1250可以由解码设备的加法器执行，图12的s1260可以由解码设备的存储器执行。
[0245]
解码设备获得包括当前块的残差信息和基于块的增量脉冲编码调制(bdpcm)相关信息的图像信息s1200。
[0246]
解码设备可以通过比特流获得图像信息。例如，图像信息可以包括当前块的基于块的增量脉冲编码调制(bdpcm)相关信息。另外，例如，bdpcm相关信息可以包括表示是否对当前块应用bdpcm的bdpcm标志。例如，解码设备可以通过比特流获得表示是否对当前块应用bdpcm的bdpcm标志。例如，当bdpcm标志的值为0时，bdpcm标志可以表示不对当前块应用bdpcm。当bdpcm标志的值为1时，bdpcm标志可以表示对当前块应用bdpcm并且存在用于当前块的bdpcm方向标志。即，例如，当bdpcm标志的值为0时，bdpcm标志可以表示不对当前块应用bdpcm，并且执行一般帧内预测、ibc预测、调色板预测或帧间预测。当bdpcm标志的值为1时，bdpcm标志可以表示对当前块应用bdpcm并且存在用于当前块的bdpcm方向标志。例如，bdpcm标志的语法元素可以是bdpcm_flag、intra_bdpcm_luma_flag或intra_bdpcm_chroma_flag。此外，例如，可以以编码单元(cu)为单位发信号通知bdpcm标志。例如，当前块可以是编码块。
[0247]
另外，例如，解码设备可以获得表示当前块的预测方向的bdpcm方向标志和残差信息。例如，图像信息可以包括bdpcm相关信息和/或残差信息，bdpcm相关信息可以包括bdpcm方向标志。
[0248]
例如，解码设备可以基于bdpcm标志来获得表示当前块的预测方向的bdpcm方向标志和残差信息。例如，当bdpcm标志表示将bdpcm应用于当前块时，解码设备可以获得bdpcm
方向标志。也就是说，例如，当bdpcm标志的值为1时，解码设备可以获得bdpcm方向标志。例如，bdpcm方向标志可以将垂直方向或水平方向表示为用于当前块的预测方向。例如，当bdpcm方向标志的值为0时，bdpcm方向标志可以表示用于当前块的预测方向为水平方向，并且当bdpcm方向标志的值为1时，bdpcm方向标志可以表示用于当前块的预测方向为垂直方向。例如，bdpcm方向标志的语法元素可以是bdpcm_dir_flag、intra_bdpcm_luma_dir_flag或intra_bdpcm_chroma_dir_flag。
[0249]
另外，例如，解码设备可以基于bdpcm标志来获得当前块的残差信息。例如，当bdpcm标志表示对当前块应用bdpcm时，即，当对当前块应用bdpcm时，残差信息可以包括当前块的残差样本的语法元素，并且可以基于目标残差样本的语法元素来推导目标残差样本的残差系数值与目标残差样本的左相邻残差样本或上相邻残差样本的残差系数值之间的差。
[0250]
例如，残差信息可以包括表示第一样本的残差系数的第一样本的语法元素以及表示第一样本的残差系数与第二样本的残差系数之间的差的第二样本的语法元素。这里，第一样本可以是当前块中与当前块的相邻样本相邻的样本，第二样本可以是当前块中在当前块的预测方向上与第一样本相邻的样本。例如，当前块的预测方向可以是水平方向，相邻样本可以是当前块的左相邻样本，第一样本可以是位于当前块的第一列的样本。另外，例如，当前块的预测方向可以是垂直方向，相邻样本可以是当前块的上相邻样本，第一样本可以是位于当前块的第一行的样本。
[0251]
例如，当当前块的预测方向是水平方向时，即，当基于bdpcm方向标志将当前块的预测方向推导为水平方向时，可以基于目标样本的语法元素来推导目标样本的残差系数值与目标样本的左相邻样本的残差系数值之间的差。另外，例如，当当前块的预测方向是垂直方向时，即，当基于bdpcm方向标志将当前块的预测方向推导为垂直方向时，可以基于目标样本的语法元素来推导目标样本的残差系数值与目标样本的上相邻样本的残差系数值之间的差。另外，当目标样本位于当前块的第一行或列时，可以基于目标样本的语法元素来推导目标样本的残差系数值。
[0252]
例如，残差信息可以包括诸如transform_skip_flag、last_sig_coeff_x_prefix、last_sig_coeff_y_prefix、last_sig_coeff_x_suffix、last_sig_coeff_y_suffix、coded_sub_block_flag、sig_coeff_flag、par_level_flag、abs_level_gt1_flag、abs_level_gtx_flag、abs_remainder、coeff_sign_flag、dec_abs_level和/或mts_idx的语法元素。
[0253]
具体地，例如，残差信息可以包括当前块的变换跳过标志。变换跳过标志可以表示是否对当前块应用变换。即，变换跳过标志可以表示是否对当前块的残差系数应用变换。另外，例如，当bdpcm标志的值为1时，即，当对当前块应用bdpcm时，可以不发信号通知当前块的变换跳过标志，并且变换跳过标志的值可被推断为等于1。即，当bdpcm标志的值为1时，即，当对当前块应用bdpcm时，图像信息可以不包括当前块的变换跳过标志，变换跳过标志的值可被推断为等于1，并且当前块可以是变换跳过块。
[0254]
另外，例如，残差信息可以包括表示在当前块的残差系数阵列中最后非零残差系数的位置的位置信息。即，残差信息可以包括按当前块的扫描顺序表示最后非零残差系数的位置的位置信息。位置信息可以包括表示最后非零残差系数的列位置的前缀的信息和表
示最后非零残差系数的行位置的前缀的信息、表示最后非零残差系数的列位置的后缀的信息和表示最后非零残差系数的行位置的后缀的信息。位置信息的语法元素可以是last_sig_coeff_x_prefix、last_sig_coeff_y_prefix、last_sig_coeff_x_suffix和last_sig_coeff_y_suffix。此外，非零残差系数可被称为有效系数。另外，例如，当当前块是变换跳过块时，残差信息可以不包括表示在当前块的残差系数阵列中最后非零残差系数的位置的位置信息。
[0255]
另外，例如，残差信息可以包括表示当前块的样本的残差系数是否为非零残差系数的有效系数标志、残差系数的系数等级的奇偶性的奇偶性等级标志、表示系数等级是否大于第一阈值的第一系数等级标志和表示系数等级是否大于第二阈值的第二系数等级标志。这里，有效系数标志可以是sig_coeff_flag，奇偶性等级标志可以是par_level_flag，第一系数等级标志可以是abs_level_gt1_flag，第二系数等级标志可以是abs_level_gt3_flag或abs_level_gtx_flag。
[0256]
另外，例如，残差信息可以包括表示当前块的样本的残差系数的符号的符号标志。符号标志可以是coeff_sign_flag。
[0257]
另外，例如，残差信息可以包括当前块的样本的残差系数的值的系数值相关信息。系数值相关信息可以是abs_remainder和/或dec_abs_level。
[0258]
解码设备基于当前块的相邻样本和bdpcm相关信息来推导当前块的第一样本和第二样本的预测样本s1210。解码设备可以基于当前块的相邻样本和bdpcm相关信息来推导当前块的第一样本和第二样本的预测样本。例如，解码设备可以通过基于bdpcm相关信息执行bdpcm预测来推导第一样本和第二样本的预测样本。
[0259]
例如，解码设备可以基于bdpcm方向标志推导预测方向。例如，解码设备可以将由bdpcm方向标志指示的预测方向推导为用于当前块的预测方向。例如，当bdpcm方向标志的值为0时，bdpcm方向标志可以表示用于当前块的预测方向为水平方向，当bdpcm方向标志的值为1时，bdpcm方向标志可以表示用于当前块的预测方向为垂直方向。例如，当bdpcm方向标志的值为0时，在水平方向上推导用于当前块的预测方向，当bdpcm方向标志的值为1时，在垂直方向上推导用于当前块的预测方向。
[0260]
然后，解码设备可以通过根据推导的预测方向执行帧内预测来推导当前块的预测样本。例如，当当前块的预测方向被推导为水平方向时，解码设备可以通过基于当前块的左相邻样本执行帧内预测来推导当前块的预测样本。例如，当当前块的预测方向被推导为水平方向时，解码设备可以基于当前块的左相邻样本来推导当前块的预测样本。例如，当当前块的预测方向被推导为水平方向时，解码设备可以基于当前块的左相邻样本来推导第一样本和第二样本的预测样本。例如，当当前块的预测方向被推导为水平方向时，解码设备可以推导与第一样本和第二样本相同行的左相邻样本的样本值作为预测样本的样本值。另外，例如，当当前块的预测方向被推导为垂直方向时，解码设备可以基于当前块的上相邻样本来推导当前块的预测样本。例如，当当前块的预测方向被推导为垂直方向时，解码设备可以基于当前块的上相邻样本来推导当前块的预测样本。例如，当当前块的预测方向被推导为垂直方向时，解码设备可以基于当前块的上相邻样本来推导第一样本和第二样本的预测样本。例如，当当前块的预测方向被推导为垂直方向时，解码设备可以推导与第一样本和第二样本相同列的上相邻样本的样本值作为预测样本的样本值。
[0261]
解码设备基于残差信息来推导第一样本和第二样本的残差系数s1220。
[0262]
例如，残差信息可以包括当前块的第一样本的语法元素，可以基于第一样本的语法元素来推导第一样本的残差系数。另外，例如，残差信息可以包括当前块的第二样本的语法元素，可以基于第二样本的语法元素来推导第一样本的残差系数。
[0263]
解码设备通过将第一样本的残差系数和第二样本的残差系数相加来推导第二样本的修改的残差系数s1230。例如，解码设备可以通过将第一样本的残差系数和第二样本的残差系数相加来推导第二样本的修改的残差系数。例如，当前块的预测方向可以是水平方向，相邻样本可以是当前块的左相邻样本，第一样本可以是位于当前块的第一列的样本。另外，第二样本可以是当前块中在预测方向上与第一样本相邻的样本。另外，例如，当前块的预测方向可以是垂直方向，相邻样本可以是当前块的上相邻样本，第一样本可以是位于当前块的第一行的样本。另外，第二样本可以是当前块中在预测方向上与第一样本相邻的样本。
[0264]
解码设备基于第一样本的残差系数和第二样本的修改的残差系数来推导第一样本和第二样本的残差样本s1240。
[0265]
例如，解码设备可以对第一样本的残差系数进行解量化以推导第一样本的残差样本。即，例如，可以通过对残差系数进行解量化来推导第一样本的残差样本。另外，解码设备可以对第二样本的修改的残差系数进行解量化以推导第二样本的残差样本。即，例如，可以通过对修改的残差系数进行解量化来推导第二样本的残差样本。
[0266]
解码设备基于预测样本和残差样本来推导第一样本和第二样本的重构样本s1250。例如，解码设备可以通过将预测样本和残差样本相加来推导重构样本。此后，取决于需要，为了改进主观/客观图像质量，可以将诸如解块滤波的环路内滤波过程以及sao和/或alf过程应用于重构样本，如上所述。
[0267]
解码设备存储基于bdpcm方向标志推导的当前块的预测方向的帧内预测模式作为当前块的帧内预测模式s1260。解码设备可以存储基于bdpcm方向标志推导的预测方向的帧内预测模式(垂直帧内预测模式或水平帧内预测模式)作为当前块的帧内预测模式。例如，当预测方向是水平方向时，水平帧内预测模式可被存储为当前块的帧内预测模式，当预测方向是垂直方向时，垂直帧内预测模式可被存储为当前块的帧内预测模式。例如，所存储的帧内预测模式可以用于当前块的相邻块和/或色度分量的对应块的预测。例如，所存储的帧内预测模式可以用于推导当前块的相邻块和/或色度分量的对应块的帧内预测模式。例如，所存储的帧内预测模式可以用作当前块的相邻块和/或色度分量的对应块的帧内预测模式候选。
[0268]
图13示意性地示出根据本文献的用于执行图像解码方法的解码设备。图12中公开的方法可以由图13中公开的解码设备执行。具体地，例如，图13的解码设备的熵解码器可以执行图12的s1200，图13的解码设备的预测器可以执行图12的s1210，图13的解码设备的残差处理器可以执行图12的s1220至s1240，图13的解码设备的加法器可以执行图12的s1250，图13的解码设备的存储器可以执行图12的s1260。
[0269]
根据本公开，通过将根据bdpcm预测方向的帧内预测模式存储为当前块的帧内预测模式，帧内预测准确度和编码效率可以改进。
[0270]
另外，根据本公开，通过将根据bdpcm预测方向的帧内预测模式存储为当前块的帧
内预测模式，可以在相邻块的预测中参考准确的帧内预测模式，并且总体残差编码效率可以改进。
[0271]
在上述实施方式中，基于具有一系列步骤或方框的流程图描述了方法。本公开不限于以上步骤或方框的顺序。一些步骤或方框可以以与上述的其它步骤或方框不同的顺序执行或同时执行。此外，本领域技术人员将理解，流程图中所示的步骤不是排它的，并且可以还包括其它步骤，或者可以在不影响本公开的范围的情况下删除流程图中的一个或更多个步骤。
[0272]
在本说明书中所描述的实施方式可以通过被实现在处理器、微处理器、控制器或芯片上来执行。例如，每幅图中所示的功能单元可以通过被实现在计算机、处理器、微处理器、控制器或芯片上来执行。在这种情况下，用于实现的信息(例如，关于指令的信息)或算法可以存储在数字存储介质中。
[0273]
另外，应用本公开的解码设备和编码设备可以被包括在如下设备中：多媒体广播发送/接收设备、移动通信终端、家庭影院视频设备、数字影院视频设备、监控相机、视频聊天设备、诸如视频通信的实时通信设备、移动流设备、存储介质、便携式摄像机、vod服务提供设备、过顶(ott)视频设备、互联网流服务提供设备、三维(3d)视频设备、电话会议视频设备、运输用户设备(例如，车辆用户设备、飞机用户设备和轮船用户设备)和医疗视频装置；并且应用本公开的解码设备和编码设备可以用于处理视频信号或数据信号。例如，过顶(ott)视频设备可以包括游戏机、蓝光播放器、互联网接入电视机、家庭影院系统、智能电话、平板计算机、数字视频记录仪(dvr)等。
[0274]
另外，应用本公开的处理方法可以以计算机执行的程序的形式产生，并且可以存储在计算机可读记录介质中。根据本公开的具有数据结构的多媒体数据也可以存储在计算机可读记录介质中。计算机可读记录介质包括其中存储计算机可读数据的所有类型的存储装置。计算机可读记录介质可以包括例如bd、通用串行总线(usb)、rom、prom、eprom、eeprom、ram、cd-rom、磁带、软盘和光学数据存储装置。另外，计算机可读记录介质包括以载波(例如，经由互联网的传输)的形式实现的介质。另外，由编码方法生成的比特流可以存储在计算机可读记录介质中或通过有线/无线通信网络来传输。
[0275]
另外，本公开的实施方式可以根据程序代码利用计算机程序产品来实现，并且程序代码可以通过本公开的实施方式在计算机中执行。程序代码可以存储在计算机可读载体上。
[0276]
图14例示了应用本公开的内容流系统的结构图。
[0277]
应用本公开的实施方式的内容流系统可以主要包括编码服务器、流服务器、网络服务器、媒体储存器、用户装置和多媒体输入装置。
[0278]
编码服务器将从诸如智能手机、相机或便携式摄像机等的多媒体输入装置输入的内容压缩为数字数据，以生成比特流并将比特流发送到流服务器。作为另一示例，当诸如智能手机、相机或便携式摄像机等的多媒体输入装置直接生成比特流时，可以省略编码服务器。
[0279]
可以通过应用了本公开的实施方式的编码方法或比特流生成方法来生成比特流，并且流服务器可以在发送或接收比特流的过程中临时存储比特流。
[0280]
流服务器基于用户请求通过网络服务器向用户装置发送多媒体数据，并且网络服
务器用作向用户通知服务的媒介。当用户从网络服务器请求所需的服务时，网络服务器向流服务器传送该请求，并且流服务器向用户发送多媒体数据。在这种情况下，内容流系统可以包括单独的控制服务器。在这种情况下，控制服务器用于控制内容流系统内的装置之间的命令/响应。
[0281]
流服务器可以从媒体储存器和/或编码服务器接收内容。例如，当从编码服务器接收内容时，可以实时接收内容。在这种情况下，为了提供平稳的流服务，流服务器可以将比特流存储达预定时间。
[0282]
用户装置的示例可以包括移动电话、智能电话、膝上型计算机、数字广播终端、个人数字助理(pda)、便携式多媒体播放器(pmp)、导航仪、触屏pc、平板pc、超级本、可穿戴装置(例如，智能手表、智能眼镜和头戴式显示器)、数字tv、台式计算机和数字标牌等。内容流系统内的每个服务器可以作为分布式服务器来操作，在这种情况下，从每个服务器接收的数据可以被分布。
[0283]
本公开中描述的权利要求可以以各种方式组合。例如，可以组合本公开的方法权利要求的技术特征以实现为设备，并且可以组合本公开的设备权利要求的技术特征以实现为方法。此外，可以组合本公开的方法权利要求的技术特征和设备权利要求的技术特征以实现为设备，并且可以组合本公开的方法权利要求的技术特征和设备权利要求的技术特征以实现为方法。