视频编解码的方法、装置、计算机设备和存储介质与流程

相关文件

本申请要求2018年7月17日递交的美国临时申请62/699,358的优先权，以及2019年3月25日递交的美国申请16/364,150的优先权，其全部内容通过引用结合在本文中。

本申请实施例主要涉及视频处理技术，特别涉及一种视频编解码的方法、装置、计算机设备和存储介质。

背景技术：

本文提供的背景描述是为了呈现本申请的背景。记名的发明人的工作，在该背景部分描述的工作以及本说明书各实施例的范围内的内容，在递交时可能并不算作现有技术，均未被明示或暗示地承认作为不利于本申请的现有技术。

视频编码和解码可以使用具有运动补偿的图像间预测来进行。未压缩的数字视频可包括一系列图像，每个图像具有一定的空间维度，例如1920x1080的亮度采样和相关的色度采样。图像序列可具有固定或可变的图像速率(俗称帧率)，例如，每秒60张图像或60hz。未压缩的视频需要较高的比特率。例如，每个采样为8比特的1080p604：2：0(60hz帧率下的1920x1080亮度采样分辨率)的视频需要接近1.5g比特/秒的带宽。长度为一小时的这种视频需要600g字节以上的存储空间。

视频编码和解码的一个目的是，通过压缩来降低输入视频信号的冗余。在一些情况下，压缩可将带宽或存储器的需求减小至少两个数量级。可使用无损压缩、有损压缩，或其组合。无损压缩指可从经过压缩的原始信号中重建原始信号的准确副本的技术。当使用有损压缩时，重建信号可与原始信号不一致，但原始信号和重建信号之间的失真足够小，以使重建信号能够实现所期望的用途。视频领域中广泛采用有损压缩。容许的失真量取决于应用，例如，一些消费型直播应用的用户比电视节目应用的用户能容忍更大的失真。可实现的压缩比可以反映出：可允许/可容忍的失真越大，可产生的压缩比越高。

视频编码器和解码器可利用几个大类的技术，例如包括运动补偿、变换、量化和熵编码。

视频编解码技术可包括被称为帧内编码的技术。在帧内编码中，采样值的表示不需要参照先前已重建的参考图像中的采样或其他数据。在一些视频编解码器中，图像在空间上被细分为采样块。当在帧内模式下对所有采样块进行编码时，该图像可以为帧内图像。帧内图像及其派生(例如独立解码器刷新图像)可用于重置解码器状态，并从而可以用作编码视频码流和视频会话中的第一幅图像，或作为静止图像。帧内块的采样可接受转换，转换系数可以在熵编码前被量化。帧内预测可以是使预变换域中的样本值最小化的技术。一些情况中，转换后的dc值越小，ac系数就越小，熵编码后用于以给定的量化步长来表示块所需的比特数就越少。

(例如，从诸如mpeg-2代编码技术所知的)传统的帧内编码不使用帧内预测。然而，一些较新的视频压缩技术包括尝试，例如，周围的采样数据和/或元数据的技术，可在对空间相邻的、以及解码顺序在前的块数据进行编码/解码的过程中获得上述周围的采样数据和/或元数据。这种技术从此被称为帧内预测摂技术。注意，在至少一些情况下，帧内预测仅使用来自正在重建的当前图像(而不是参考图像)的参考数据。

有许多不同形式的帧内预测。当在给定视频编码技术中可以使用多于一种这样的技术时，所使用的技术可以编码在帧内预测模式中。在某些情况下，模式可以具有子模式和/或参数，其可以单独编码或包括在模式码字中。给定模式/子模式/参数组合使用哪个码字可以通过帧内预测对编码效率增益产生影响，并且用于将码字转换为比特流的熵编码技术也可以。

目前，如何进一步提高帧内预测模式的效率，是研究的热点。

技术实现要素：

本申请各实施例提供了用于视频编码/解码的方法和装置。在一些例子中，用于视频解码的装置包括接收电路和处理电路。根据本申请的一个实施例，处理电路对编码视频比特流的图像的当前编码树单元(codingtreeunit，ctu)中的当前块的预测信息进行解码。预测信息指示帧内块复制模式。处理电路还基于编码视频比特流中指示约束参考区域的信号确定当前块在该图像中的参考区域，然后基于该图像中的该参考区域的参考样本重建当前块的至少一个样本。

在一些实施例中，处理电路基于编码视频比特流中的序列级别，图像级别，条带级别和图块组级别中的至少一个的信号来确定当前块的所述参考区域。

在一个实施例中，处理电路对编码视频比特流中指示参考区域中被排除部分区域的信号进行解码。在一个实施例中，处理电路对编码视频比特流中指示参考区域中被纳入部分区域的信号进行解码。

在一些实施例中，处理电路对编码视频比特流中以ctu为单位指示参考区域的约束信息的信号进行解码。一个例子中，处理电路对编码视频比特流中的第一信号进行解码，所述第一信号用于指示参考区域中被排除的ctu的数量和地址。一个例子中，处理电路对编码视频比特流中的第二信号进行解码，所述第二信号用于指示参考区域中被纳入的ctu的数量和地址。

此外，一些例子中，处理电路对编码视频比特流中的标志进行解码，该标志指示在编码视频比特流中是否指定了对参考区域进行约束。另外，当标志指示在编码视频比特流中指定了约束信息时，处理电路对编码视频比特流中指示参考区域的范围的信号进行解码。

本申请的各实施例还提供了一种视频编码方法，包括：在编码视频比特流中加入图像中的当前编码树单元(ctu)中的当前块的编码后的预测信息，所述预测信息指示帧内块复制模式；基于预设规则确定针对所述当前块在所述图像中的参考区域的约束信息；及在所述编码视频比特流中用信号指示所述当前块对应的所述约束信息。

本申请的各实施例还提供了一种视频编码方法计算机设备，包括处理器和存储器，所述存储器中存储有计算机可读指令，所述指令可以使所述处理器执行任一实施例的方法。

本申请的各实施例还提供了一种非暂时性计算机可读介质，存储有指令，所述指令由视频解码的计算机执行时使该计算机执行任一实施例的方法。

各实施例通过在编码视频比特流中指定对参考区域的约束信息，可以使得重建当前块时仅使用读取效率较高的参考数据，从而提高块重建的效率。

附图说明

根据以下详细描述和附图，本申请主题的其它特征、性质和各种优点将变得更加明显，在附图中：

图1是一些例子中帧内预测模式的子集的示意图。

图2是一些例子中帧内预测方向的示意图。

图3是一个实施例的通信系统的简化框图的示意图。

图4是一个实施例的通信系统的简化框图的示意图。

图5是一个实施例的解码器的简化框图的示意图。

图6是一个实施例的编码器的简化框图的示意图。

图7是另一实施例的编码器的框图。

图8是另一实施例的解码器的框图。

图9是本申请实施例的帧内块复制的示例性示意图。

图10是本申请实施例的双边匹配的示例性示意图。

图11是本申请实施例的模板匹配的示例性示意图。

图12是空间合并候选者的示例性示意图。

图13是本申请实施例的帧内块复制模式中排除左侧ctu的示例性示意图。

图14是本申请实施例的帧内块复制模式中填充参考区域的像素值的示例性示意图。

图15是本申请实施例的示例性过程的概要流程图。

图16是本申请实施例的计算机系统的示意图。

具体实施方式

帧内预测模式是随h.264引入的，在h.265中得到完善，并且在诸如联合探索模型(jem)，通用视频编码(vvc)，及基准集(bms)的新编码技术中被进一步完善。可以使用相邻采样值来形成预测块，相邻采样值属于已经可用的采样。根据方向将相邻采样的采样值复制到预测块中。所用的方向的信息可以编码在比特流中，或者可以自己预测。

参见图1，在右下方描绘了h.265的33个可能的预测方向(对应于35个帧内模式的33个角度模式)中已知的九个预测方向的子集。箭头会聚的点(101)表示正在预测的采样。箭头表示正在预测的采样的方向。例如，箭头(102)表示采样(101)的预测方向是从一个采样或多个采样到右上角，与水平方向成45度角。类似地，箭头(103)表示采样(101)的预测方向是从一个采样或多个采样到采样(101)的左下方，与水平方向成22.5度角。

仍然参考图1，在左上方示出了4x4个采样的正方形块(104)(由粗体虚线表示)。方形块(104)包括16个采样，每个采样用揝和其在擸维度中的位置(例如，行索引)及其在x维度中的位置(例如，列索引)进行标记。例如，采样s21是y维度中(从顶部开始)的第二个采样和x维度中(从左侧开始)的第一个采样。类似地，块(104)中的采样s44在y和x维度中均为第四个采样。由于块的大小为4x4个采样，因此s44位于右下角。还示出了遵循类似编号方案的参考采样。参考采样用r、及其相对于块(104)的y位置(例如，行索引)和x位置(列索引)进行标记。在h.264和h.265中，预测采样与正在重建的块相邻；因此不需要使用负值。

帧内图像预测通过从信号指示的预测方向所覆盖的相邻采样中复制参考采样值来发挥作用。例如，假设编码视频比特流中包括的信令指示该块的预测方向与箭头(102)一致——即，从一个或多个预测采样到右上角，与水平成45度角，来对采样进行预测。在该情况下，采样s41，s32，s23和s14使用相同的参考采样r05进行预测。然后使用参考采样r08预测采样s44。

在某些情况下，为了计算参考采样，可以组合多个参考采样的值，例如通过插值；特别是当方向不能被45度整除时。

随着视频编码技术的发展，可能的方向的数量已经有所增长。在h.264(2003年)中，可以表示九个不同的方向。该数目在h.265(2013年)中增加到33个，并且jem/vvc/bms在发表时可以支持多达65个方向。已经进行了一些实验以识别最可能的方向，并且使用熵编码中的某些技术来以少量比特表示那些可能的方向，同时承担可能性较小的方向带来的不利结果。此外，这些方向本身有时可以从相邻的已解码的块所使用的相邻方向进行预测。

图2示出了jem的65个帧内预测方向的示意图(201)，以示出随时间增加的预测方向的数量。

编码视频比特流中表示方向的帧内预测方向比特的映射方法，在不同的视频编码技术中可以不同；可以涵盖，例如，从预测方向到帧内预测模式或到码字的简单直接映射，到涉及大多数可能模式的复杂自适应方案，以及类似的技术。然而，在所有情况下，可能存在某些方向，在统计上相较其它方向，在视频内容中出现的可能性较小。由于视频压缩的目标是减少冗余，因此在运转良好的视频编码技术中，相比可能性更大的方向，那些可能性较小的方向将由更多的比特来表示。

图3是根据本申请公开的实施例的通信系统(300)的简化框图。通信系统(300)包括多个终端装置，所述终端装置可通过例如网络(350)彼此通信。举例来说，通信系统(300)包括通过网络(350)互连的第一对终端设备，终端设备(310)和终端设备(320)。在图3的实施例中，第一终端装置(310)和第二终端装置(320)执行单向数据传输。举例来说，第一终端装置(310)可对视频数据(例如由终端装置(310)采集的视频图像流)进行编码以通过网络(350)传输到第二端装置(320)。已编码的视频数据以一个或多个已编码视频码流形式传输。第二终端装置(320)可从网络(350)接收已编码视频数据，对已编码视频数据进行解码以恢复视频数据，并根据恢复的视频数据显示视频图像。单向数据传输在媒体服务等应用中是较常见的。

在另一实施例中，通信系统(300)包括执行已编码视频数据的双向传输的第三终端装置(330)和第四终端装置(340)，所述双向传输可例如在视频会议期间发生。对于双向数据传输，第三终端装置(330)和第四终端装置(340)中的每个终端装置可对视频数据(例如由终端装置采集的视频图像流)进行编码，以通过网络(350)传输到第三终端装置(330)和第四终端装置(340)中的另一终端装置。第三终端装置(330)和第四终端装置(340)中的每个终端装置还可接收由第三终端装置(330)和第四终端装置(340)中的另一终端装置传输的已编码视频数据，且可对所述已编码视频数据进行解码以恢复视频数据，且可根据恢复的视频数据在可访问的显示装置上显示视频图像。

在图3的实施例中，第一终端装置(310)、第二终端装置(320)、第三终端装置(330)和第四终端装置(340)可为服务器、个人计算机和智能电话，但本申请公开的原理可不限于此。本申请公开的实施例适用于膝上型计算机、平板电脑、媒体播放器和/或专用视频会议设备。网络(350)表示在第一终端装置(310)、第二终端装置(320)、第三终端装置(330)和第四终端装置(340)之间传送已编码视频数据的任何数目的网络，包括例如有线(连线的)和/或无线通信网络。通信网络(350)可在电路交换和/或分组交换信道中交换数据。该网络可包括电信网络、局域网、广域网和/或互联网。出于本申请的目的，除非在下文中有所解释，否则网络(350)的架构和拓扑对于本申请公开的操作来说可能是无关紧要的。

作为实施例，图4示出视频编码器和视频解码器在流式传输环境中的放置方式。本申请所公开主题可同等地适用于其它支持视频的应用，包括例如视频会议、数字tv、在包括cd、dvd、存储棒等的数字介质上存储压缩视频等等。

流式传输系统可包括采集子系统(413)，所述采集子系统可包括数码相机等视频源(401)，所述视频源创建未压缩的视频图像流(402)。在实施例中，视频图像流(402)包括由数码相机拍摄的样本。相较于已编码的视频数据(402)(或已编码的视频码流)，视频图像流(404)被描绘为粗线以强调高数据量的视频图像流，视频图像流(403)可由电子装置(420)处理，所述电子装置(420)包括耦接到视频源(401)的视频编码器(303)。视频编码器(403)可包括硬件、软件或软硬件组合以实现或实施如下文更详细地描述的所公开主题的各实施例。相较于视频图像流(402)，已编码的视频数据(404)(或已编码的视频码流(404))被描绘为细线以强调较低数据量，可存储在流式传输服务器(405)上以供将来使用。一个或多个流式传输客户端子系统，例如图4中的客户端子系统(406)和客户端子系统(408)，可访问流式传输服务器(405)以检索已编码的视频数据(404)的副本(407)和副本(409)。客户端子系统(406)可包括例如电子装置(430)中的视频解码器(410)。视频解码器(410)对已编码的视频数据的传入副本(407)进行解码，且产生可在显示器(412)(例如显示屏)或另一呈现装置(未示出)上呈现的输出视频图像流(411)。在一些流式传输系统中，可根据某些视频编码/压缩标准对已编码的视频数据(404)、视频数据(407)和视频数据(409)(例如视频码流)进行编码。该些标准的实例包括itu-th.265。在实施例中，正在开发的视频编码标准非正式地称为下一代视频编码(versatilevideocoding，vvc)，本申请可用于vvc标准的上下文中。

应注意，电子装置(420)和电子装置(430)可包括其它组件(未示出)。举例来说，电子装置(420)可包括视频解码器(未示出)，且电子装置(430)还可包括视频编码器(未示出)。

图5是根据本申请公开的实施例的视频解码器(510)的框图。视频解码器(510)可设置在电子装置(530)中。电子装置(530)可包括接收器(531)(例如接收电路)。视频解码器(510)可用于代替图4实施例中的视频解码器(410)。

接收器(531)可接收将由视频解码器(510)解码的一个或多个已编码视频序列；在同一实施例或另一实施例中，一次接收一个已编码视频序列，其中每个已编码视频序列的解码独立于其它已编码视频序列。可从信道(501)接收已编码视频序列，所述信道可以是通向存储已编码的视频数据的存储装置的硬件/软件链路。接收器(531)可接收已编码的视频数据以及其它数据，例如，可转发到它们各自的使用实体(未标示)的已编码音频数据和/或辅助数据流。接收器(531)可将已编码视频序列与其它数据分开。为了防止网络抖动，缓冲存储器(515)可耦接在接收器(531)与熵解码器/解析器(520)(此后称为“解析器(520))之间。”在某些应用中，缓冲存储器(515)是视频解码器(510)的一部分。在其它情况下，所述缓冲存储器(515)可设置在视频解码器(510)外部(未示出)。而在其它情况下，视频解码器(510)的外部设置缓冲存储器(未示出)以例如防止网络抖动，且在视频解码器(510)的内部可配置另一缓冲存储器(515)以例如处理播出定时。而当接收器(531)从具有足够带宽和可控性的存储/转发装置或从等时同步网络接收数据时，也可能不需要配置缓冲存储器(515)，或可以将所述缓冲存储器做得较小。当然，为了在互联网等业务分组网络上使用，也可能需要缓冲存储器(515)，所述缓冲存储器可相对较大且可具有自适应性大小，且可至少部分地实施于操作系统或视频解码器(510)外部的类似元件(未标示)中。

视频解码器(510)可包括解析器(520)以根据已编码视频序列重建符号(521)。这些符号的类别包括用于管理视频解码器(510)的操作的信息，以及用以控制显示装置(512)(例如，显示屏)等显示装置的潜在信息，所述显示装置不是电子装置(530)的组成部分，但可耦接到电子装置(530)，如图5中所示。用于显示装置的控制信息可以是辅助增强信息(supplementalenhancementinformation，sei消息)或视频可用性信息(videousabilityinformation，vui)的参数集片段(未标示)。解析器(520)可对接收到的已编码视频序列进行解析/熵解码。已编码视频序列的编码可根据视频编码技术或标准进行，且可遵循各种原理，包括可变长度编码、霍夫曼编码(huffmancoding)、具有或不具有上下文灵敏度的算术编码等等。解析器(520)可基于对应于群组的至少一个参数，从已编码视频序列提取用于视频解码器中的像素的子群中的至少一个子群的子群参数集。子群可包括图像群组(groupofpictures，gop)、图像、图块(tile)、条带(slice)、宏块、编码单元(codingunit，cu)、块、变换单元(transformunit，tu)、预测单元(predictionunit，pu)等等。解析器(520)还可从已编码视频序列提取信息，例如变换系数、量化器参数值、运动矢量等等。

解析器(520)可对从缓冲存储器(515)接收的视频序列执行熵解码/解析操作，从而创建符号(521)。

取决于已编码视频图像或一部分已编码视频图像(例如：帧间图像和帧内图像、帧间块和帧内块)的类型以及其它因素，符号(521)的重建可涉及多个不同单元。涉及哪些单元以及涉及方式可由解析器(520)从已编码视频序列解析的子群控制信息控制。为了简洁起见，未描述解析器(520)与下文的多个单元之间的此类子群控制信息流。

除已经提及的功能块以外，视频解码器(510)可在概念上细分成如下文所描述的数个功能单元。在商业约束下运行的实际实施例中，这些单元中的许多单元彼此紧密交互并且可以彼此集成。然而，出于描述所公开主题的目的，概念上细分成下文的功能单元是适当的。

第一单元是缩放器/逆变换单元(551)。缩放器/逆变换单元(551)从解析器(520)接收作为符号(521)的量化变换系数以及控制信息，包括使用哪种变换方式、块大小、量化因子、量化缩放矩阵等。缩放器/逆变换单元(551)可输出包括样本值的块，所述样本值可输入到聚合器(555)中。

在一些情况下，缩放器/逆变换单元(551)的输出样本可属于帧内编码块；即：不使用来自先前重建的图像的预测性信息，但可使用来自当前图像的先前重建部分的预测性信息的块。此类预测性信息可由帧内图像预测单元(552)提供。在一些情况下，帧内图像预测单元(552)采用从当前图像缓冲器(558)提取的已重建信息生成大小和形状与正在重建的块相同的周围块。举例来说，当前图像缓冲器(558)缓冲部分重建的当前图像和/或完全重建的当前图像。在一些情况下，聚合器(555)基于每个样本，将帧内预测单元(552)生成的预测信息添加到由缩放器/逆变换单元(551)提供的输出样本信息中。

在其它情况下，缩放器/逆变换单元(551)的输出样本可属于帧间编码和潜在运动补偿块。在此情况下，运动补偿预测单元(553)可访问参考图像存储器(557)以提取用于预测的样本。在根据符号(521)对提取的样本进行运动补偿之后，这些样本可由聚合器(555)添加到缩放器/逆变换单元(551)的输出(在这种情况下被称作残差样本或残差信号)，从而生成输出样本信息。运动补偿预测单元(557)从参考图像存储器(553)内的地址获取预测样本可受到运动矢量控制，且所述运动矢量以所述符号(521)的形式而供运动补偿预测单元(553)使用，所述符号(521)例如是包括x、y和参考图像分量。运动补偿还可包括在使用子样本精确运动矢量时，从参考图像存储器(557)提取的样本值的内插、运动矢量预测机制等等。

聚合器(555)的输出样本可在环路滤波器单元(556)中被各种环路滤波技术采用。视频压缩技术可包括环路内滤波器技术，所述环路内滤波器技术受控于包括在已编码视频序列(也称作已编码视频码流)中的参数，且所述参数作为来自解析器(520)的符号(521)可用于环路滤波器单元(556)。然而，在其他实施例中，视频压缩技术还可响应于在解码已编码图像或已编码视频序列的先前(按解码次序)部分期间获得的元信息，以及响应于先前重建且经过环路滤波的样本值。

环路滤波器单元(556)的输出可以是样本流，所述样本流可输出到显示装置(512)以及存储在参考图像存储器(557)，以用于后续的帧间图像预测。

一旦完全重建，某些已编码图像就可用作参考图像以用于将来预测。举例来说，一旦对应于当前图像的已编码图像被完全重建，且已编码图像(通过例如解析器(520))被识别为参考图像，则当前图像缓冲器(558)可变为参考图像存储器(557)的一部分，且可在开始重建后续已编码图像之前重新分配新的当前图像缓冲器。

视频解码器(510)可根据例如itu-th.265标准中的预定视频压缩技术执行解码操作。在已编码视频序列遵循视频压缩技术或标准的语法以及视频压缩技术或标准中记录的配置文件的意义上，已编码视频序列可符合所使用的视频压缩技术或标准指定的语法。具体地说，配置文件可从视频压缩技术或标准中可用的所有工具中选择某些工具作为在所述配置文件下可供使用的仅有工具。对于合规性，还要求已编码视频序列的复杂度处于视频压缩技术或标准的层级所限定的范围内。在一些情况下，层级限制最大图像大小、最大帧率、最大重建取样率(以例如每秒兆(mega)个样本为单位进行测量)、最大参考图像大小等。在一些情况下，由层级设定的限制可通过假想参考解码器(hypotheticalreferencedecoder，hrd)规范和在已编码视频序列中用信号表示的hrd缓冲器管理的元数据来进一步限定。

在实施例中，接收器(531)可连同已编码视频一起接收附加(冗余)数据。所述附加数据可以是已编码视频序列的一部分。所述附加数据可由视频解码器(510)用以对数据进行适当解码和/或较准确地重建原始视频数据。附加数据可呈例如时间、空间或信噪比(signalnoiseratio，snr)增强层、冗余条带、冗余图像、前向纠错码等形式。

图6是根据本申请公开的实施例的视频编码器(603)的框图。视频编码器(603)设置于电子装置(620)中。电子装置(620)包括传输器(640)(例如传输电路)。视频编码器(603)可用于代替图4实施例中的视频编码器(403)。

视频编码器(603)可从视频源(601)(并非图6实施例中的电子装置(620)的一部分)接收视频样本，所述视频源可采集将由视频编码器(603)编码的视频图像。在另一实施例中，视频源(601)是电子装置(620)的一部分。

视频源(601)可提供将由视频编码器(603)编码的呈数字视频样本流形式的源视频序列，所述数字视频样本流可具有任何合适位深度(例如：8位、10位、12位……)、任何色彩空间(例如bt.601ycrcb、rgb……)和任何合适取样结构(例如ycrcb4:2:0、ycrcb4:4:4)。在媒体服务系统中，视频源(601)可以是存储先前已准备的视频的存储装置。在视频会议系统中，视频源(601)可以是采集本地图像信息作为视频序列的相机。可将视频数据提供为多个单独的图像，当按顺序观看时，这些图像被赋予运动。图像自身可构建为空间像素阵列，其中取决于所用的取样结构、色彩空间等，每个像素可包括一个或多个样本。所属领域的技术人员可以很容易理解像素与样本之间的关系。下文侧重于描述样本。

根据实施例，视频编码器(603)可实时或在由应用所要求的任何其它时间约束下，将源视频序列的图像编码且压缩成已编码视频序列(643)。施行适当的编码速度是控制器(650)的一个功能。在一些实施例中，控制器(650)控制如下文所描述的其它功能单元且在功能上耦接到这些单元。为了简洁起见，图中未标示耦接。由控制器(650)设置的参数可包括速率控制相关参数(图像跳过、量化器、率失真优化技术的λ值等)、图像大小、图像群组(groupofpictures，gop)布局，最大运动矢量搜索范围等。控制器(650)可用于具有其它合适的功能，这些功能涉及针对某一系统设计优化的视频编码器(603)。

在一些实施例中，视频编码器(603)在编码环路中进行操作。作为简单的描述，在实施例中，编码环路可包括源编码器(630)(例如，负责基于待编码的输入图像和参考图像创建符号，例如符号流)和嵌入于视频编码器(603)中的(本地)解码器(633)。解码器(633)以类似于(远程)解码器创建样本数据的方式重建符号以创建样本数据(因为在本申请所考虑的视频压缩技术中，符号与已编码视频码流之间的任何压缩是无损的)。将重建的样本流(样本数据)输入到参考图像存储器(634)。由于符号流的解码产生与解码器位置(本地或远程)无关的位精确结果，因此参考图像存储器(634)中的内容在本地编码器与远程编码器之间也是按比特位精确对应的。换句话说，编码器的预测部分看到摂的参考图像样本与解码器将在解码期间使用预测时所看到摂的样本值完全相同。这种参考图像同步性基本原理(以及在例如因信道误差而无法维持同步性的情况下产生的漂移)也用于一些相关技术。

本地解码器(633)的操作可与例如已在上文结合图5详细描述视频解码器(510)的“远程”解码器相同。然而，另外简要参考图5，当符号可用且熵编码器(645)和解析器(520)能够无损地将符号编码/解码为已编码视频序列时，包括缓冲存储器(515)和解析器(520)在内的视频解码器(510)的熵解码部分，可能无法完全在本地解码器(633)中实施。

此时可以观察到，除存在于解码器中的解析/熵解码之外的任何解码器技术，也必定以基本上相同的功能形式存在于对应的编码器中。出于此原因，本申请侧重于解码器操作。可简化编码器技术的描述，因为编码器技术与全面地描述的解码器技术互逆。仅在某些区域中需要更详细的描述，并且在下文提供。

在操作期间，在一些实施例中，源编码器(630)可执行运动补偿预测编码。参考来自视频序列中被指定为参考图像摂的一个或多个先前已编码图像，所述运动补偿预测编码对输入图像进行预测性编码。以此方式，编码引擎(632)对输入图像的像素块与参考图像的像素块之间的差异进行编码，所述参考图像可被选作所述输入图像的预测参考。

本地视频解码器(633)可基于源编码器(630)创建的符号，对可指定为参考图像的图像的已编码视频数据进行解码。编码引擎(632)的操作可为有损过程。当已编码视频数据可在视频解码器(图6中未示)处被解码时，重建的视频序列通常可以是带有一些误差的源视频序列的副本。本地视频解码器(633)复制解码过程，所述解码过程可由视频解码器对参考图像执行，且可使重建的参考图像存储在参考图像高速缓存(634)中。以此方式，视频编码器(603)可在本地存储重建的参考图像的副本，所述副本与将由远端视频解码器获得的重建参考图像具有共同内容(不存在传输误差)。

预测器(635)可针对编码引擎(632)执行预测搜索。即，对于将要编码的新图像，预测器(635)可在参考图像存储器(634)中搜索可作为所述新图像的适当预测参考的样本数据(作为候选参考像素块)或某些元数据，例如参考图像运动矢量、块形状等。预测器(635)可基于样本块逐像素块操作，以找到合适的预测参考。在一些情况下，根据预测器(635)获得的搜索结果，可确定输入图像可具有从参考图像存储器(634)中存储的多个参考图像取得的预测参考。

控制器(650)可管理源编码器(630)的编码操作，包括例如设置用于对视频数据进行编码的参数和子群参数。

可在熵编码器(645)中对所有上述功能单元的输出进行熵编码。熵编码器(645)根据例如霍夫曼编码、可变长度编码、算术编码等技术对各种功能单元生成的符号进行无损压缩，从而将所述符号转换成已编码视频序列。

传输器(640)可缓冲由熵编码器(645)创建的编码视频序列，从而为通过通信信道(660)进行传输做准备，所述通信信道可以是通向将存储已编码的视频数据的存储装置的硬件/软件链路。传输器(640)可将来自视频编码器(603)的已编码视频数据与要传输的其它数据合并，所述其它数据例如是已编码音频数据和/或辅助数据流(未示出来源)。

控制器(650)可管理视频编码器(603)的操作。在编码期间，控制器(650)可以为每个已编码图像分配某一已编码图像类型，但这可能影响可应用于相应的图像的编码技术。例如，通常可将图像分配为以下任一种图像类型：

帧内图像(i图像)，其可以是不将序列中的任何其它图像用作预测源就可被编码和解码的图像。一些视频编解码器容许不同类型的帧内图像，包括例如独立解码器刷新(independentdecoderrefresh，“idr)图像。”所属领域的技术人员了解i图像的变体及其相应的应用和特征。

预测性图像(p图像)，其可以是可使用帧内预测或帧间预测进行编码和解码的图像，所述帧内预测或帧间预测使用至多一个运动矢量和参考索引来预测每个块的样本值。

双向预测性图像(b图像)，其可以是可使用帧内预测或帧间预测进行编码和解码的图像，所述帧内预测或帧间预测使用至多两个运动矢量和参考索引来预测每个块的样本值。类似地，多个预测性图像可使用多于两个参考图像和相关联元数据以用于重建单个块。

源图像通常可在空间上细分成多个样本块(例如，4×4、8×8、4×8或16×16个样本的块)，且逐块进行编码。这些块可参考其它(已编码)块进行预测编码，根据应用于块的相应图像的编码分配来确定所述其它块。举例来说，i图像的块可进行非预测编码，或所述块可参考同一图像的已经编码的块来进行预测编码(空间预测或帧内预测)。p图像的像素块可参考一个先前编码的参考图像通过空间预测或通过时域预测进行预测编码。b图像的块可参考一个或两个先前编码的参考图像通过空间预测或通过时域预测进行预测编码。

视频编码器(603)可根据例如itu-th.265建议书的预定视频编码技术或标准执行编码操作。在操作中，视频编码器(603)可执行各种压缩操作，包括利用输入视频序列中的时间和空间冗余的预测编码操作。因此，已编码视频数据可符合所用视频编码技术或标准指定的语法。

在实施例中，传输器(640)可在传输已编码的视频时传输附加数据。源编码器(630)可包括此类数据，并将此类数据作为编码视频序列的一部分。附加数据可包括时间/空间/snr增强层、冗余图像和条带等其它形式的冗余数据、sei消息、vui参数集片段等。

采集到的视频可作为呈时间序列的多个源图像(视频图像)。帧内图像预测(常简称为帧内预测)利用给定图像中的空间相关性，而帧间图像预测则利用图像之间的(时间或其它)相关性。在实施例中，将正在编码/解码的特定图像分割成块，正在编码/解码的特定图像被称作当前图像。在当前图像中的块类似于视频中先前已编码且仍被缓冲的参考图像中的参考块时，可通过称作运动矢量的矢量对当前图像中的块进行编码。所述运动矢量指向参考图像中的参考块，且在使用多个参考图像的情况下，所述运动矢量可具有识别参考图像的第三维度。

在一些实施例中，双向预测技术可用于帧间图像预测中。根据双向预测技术，使用两个参考图像，例如第一参考图像和第二参考图像，按解码次序它们都在视频中的当前图像之前(但按显示次序可能分别是过去和将来)。可通过指向第一参考图像中的第一参考块的第一运动矢量和指向第二参考图像中的第二参考块的第二运动矢量对当前图像中的块进行编码。具体来说，可通过第一参考块和第二参考块的组合来预测所述块。

此外，合并模式技术可用于帧间图像预测中以改善编码效率。

根据本申请公开的一些实施例，帧间图像预测和帧内图像预测等预测的执行以块为单位。举例来说，根据hevc标准，将视频图像序列中的图像分割成编码树单元(codingtreeunit，ctu)以用于压缩，图像中的ctu具有相同大小，例如64×64像素、32×32像素或16×16像素。一般来说，ctu包括三个编码树块(codingtreeblock，ctb)，所述三个编码树块是一个亮度ctb和两个色度ctb。更进一步的，还可将每个ctu以四叉树拆分为一个或多个编码单元(codingunit，cu)。举例来说，可将64×64像素的ctu拆分为一个64×64像素的cu，或4个32×32像素的cu，或16个16×16像素的cu。在实施例中，分析每个cu以确定用于cu的预测类型，例如帧间预测类型或帧内预测类型。此外，取决于时间和/或空间可预测性，将cu拆分为一个或多个预测单元(predictionunit，pu)。通常，每个pu包括亮度预测块(predictionblock，pb)和两个色度pb。在实施例中，编码(编码/解码)中的预测操作以预测块为单位来执行。以亮度预测块作为预测块为例，预测块包括像素值(例如，亮度值)的矩阵，例如8×8像素、16×16像素、8×16像素、16×8像素等等。

图7是根据本申请公开的另一实施例的视频编码器(703)的图。视频编码器(703)用于接收视频图像序列中的当前视频图像内的样本值的处理块(例如预测块)，且将所述处理块编码到作为已编码视频序列的一部分的已编码图像中。在本实施例中，视频编码器(703)用于代替图4实施例中的视频编码器(403)。

在hevc实施例中，视频编码器(703)接收用于处理块的样本值的矩阵，所述处理块为例如8×8样本的预测块等。视频编码器(703)使用，例如，率失真(rate-distortion，rd)优化来确定处理块的编码采用帧内模式、帧间模式还是双向预测模式更好。当在帧内模式中编码处理块时，视频编码器(703)可使用帧内预测技术以将处理块编码到已编码图像中；且当在帧间模式或双向预测模式中编码处理块时，视频编码器(703)可分别使用帧间预测或双向预测技术将处理块编码到已编码图像中。在某些视频编码技术中，合并模式可以是帧间图像预测子模式，其中，在不借助预测值外部的已编码运动矢量分量的情况下，从一个或多个运动矢量预测值导出运动矢量。在某些其它视频编码技术中，可存在适用于主题块的运动矢量分量。在实施例中，视频编码器(703)包括其它组件，例如用于确定处理块模式的模式决策模块(未示出)。

在图7的实施例中，视频编码器(703)包括如图7所示的耦接到一起的帧间编码器(730)、帧内编码器(722)、残差计算器(723)、开关(726)、残差编码器(724)、通用控制器(721)和熵编码器(725)。

帧间编码器(730)用于接收当前块(例如处理块)的样本、比较所述块与参考图像中的一个或多个参考块(例如先前图像和后来图像中的块)、生成帧间预测信息(例如根据帧间编码技术的冗余信息描述、运动矢量、合并模式信息)、以及基于帧间预测信息使用任何合适的技术计算帧间预测结果(例如已预测块)。在一些实施例中，参考图像是基于已编码的视频信息解码的已解码参考图像。

帧内编码器(722)用于接收当前块(例如处理块)的采样，在一些情况下将所述块与同一图像中已编码的块进行比较，在变换之后生成量化系数，以及在一些情况下还生成帧内预测信息(例如，根据一个或多个帧内编码技术生成帧内预测方向信息)。在实施例中，帧内编码器(722)还基于帧内预测信息和同一图像中的参考块计算帧内预测结果(例如已预测块)。

通用控制器(721)用于确定通用控制数据，且基于所述通用控制数据控制视频编码器(703)的其它组件。在实施例中，通用控制器(721)确定块的模式，且基于所述模式将控制信号提供到开关(726)。举例来说，当所述模式是帧内模式时，通用控制器(721)控制开关(726)以选择供残差计算器(723)使用的帧内模式结果，且控制熵编码器(725)以选择帧内预测信息且将所述帧内预测信息添加在码流中；以及当所述模式是帧间模式时，通用控制器(721)控制开关(726)以选择供残差计算器(723)使用的帧间预测结果，且控制熵编码器(725)以选择帧间预测信息且将所述帧间预测信息添加在码流中。

残差计算器(723)用于计算所接收的块与选自帧内编码器(722)或帧间编码器(730)的预测结果之间的差(残差数据)。残差编码器(724)用于基于残差数据操作，以对残差数据进行编码以生成变换系数。在实施例中，残差编码器(724)用于将残差数据从空域转换到频域，且生成变换系数。变换系数接着经由量化处理以获得量化的变换系数。在各种实施例中，视频编码器(703)还包括残差解码器(728)。残差解码器(728)用于执行逆变换，且生成已解码残差数据。已解码残差数据可适当地由帧内编码器(722)和帧间编码器(730)使用。举例来说，帧间编码器(730)可基于已解码残差数据和帧间预测信息生成已解码块，且帧内编码器(722)可基于已解码残差数据和帧内预测信息生成已解码块。适当处理已解码块以生成已解码图像，且在一些实施例中，所述已解码图像可在存储器电路(未示出)中缓冲并用作参考图像。

熵编码器(725)用于将码流格式化以产生已编码的块。熵编码器(725)根据hevc标准等合适标准产生各种信息。在实施例中，熵编码器(725)用于获得通用控制数据、所选预测信息(例如帧内预测信息或帧间预测信息)、残差信息和码流中的其它合适的信息。应注意，根据所公开的主题，当在帧间模式或双向预测模式的合并子模式中对块进行编码时，不存在残差信息。

图8是根据本申请公开的另一实施例的视频解码器(810)的图。视频解码器(810)用于接收作为已编码视频序列的一部分的已编码图像，且对所述已编码图像进行解码以生成重建的图像。在实施例中，视频解码器(810)用于代替图4实施例中的视频解码器(410)。

在图8实施例中，视频解码器(810)包括如图8中所示耦接到一起的熵解码器(871)、帧间解码器(880)、残差解码器(873)、重建模块(874)和帧内解码器(872)。

熵解码器(871)可用于根据已编码图像来重建某些符号，这些符号表示构成所述已编码图像的语法元素。此类符号可包括例如用于对所述块进行编码的模式(例如帧内模式、帧间模式、双向预测模式、后两者的合并子模式或另一子模式)、可分别识别供帧内解码器(872)或帧间解码器(880)用以进行预测的某些样本或元数据的预测信息(例如帧内预测信息或帧间预测信息)、呈例如量化的变换系数形式的残差信息等等。在实施例中，当预测模式是帧间或双向预测模式时，将帧间预测信息提供到帧间解码器(880)；以及当预测类型是帧内预测类型时，将帧内预测信息提供到帧内解码器(872)。残差信息可经由逆量化并提供到残差解码器(873)。

帧间解码器(880)用于接收帧间预测信息，且基于所述帧间预测信息生成帧间预测结果。

帧内解码器(872)用于接收帧内预测信息，且基于所述帧内预测信息生成预测结果。

残差解码器(873)用于执行逆量化以提取解量化的变换系数，且处理所述解量化的变换系数，以将残差从频域转换到空间域。残差解码器(873)还可能需要某些控制信息(用以获得量化器参数qp)，且所述信息可由熵解码器(871)提供(未标示数据路径，因为这仅仅是低量控制信息)。

重建模块(874)用于在空间域中组合由残差解码器(873)输出的残差与预测结果(可由帧间预测模块或帧内预测单元输出)以形成重建的块，所述重建的块可以是重建的图像的一部分，所述重建的图像继而可以是重建的视频的一部分。应注意，可执行解块操作等其它合适的操作来改善视觉质量。

应注意，可使用任何合适的技术来实施视频编码器(403)、视频编码器(603)和视频编码器(703)以及视频解码器(410)、视频解码器(510)和视频解码器(810)。在实施例中，可使用一个或多个集成电路来实施视频编码器(403)、视频编码器(603)和视频编码器(703)以及视频解码器(410)、视频解码器(510)和视频解码器(810)。在另一实施例中，可使用执行软件指令的一个或多个处理器来实施视频编码器(403)、视频编码器(603)和视频编码器(703)以及视频解码器(410)、视频解码器(510)和视频解码器(810)。

本申请公开的各实施例提供了基于块的使用相同图像进行补偿的技术，特别是关于对图像内块补偿中的搜索范围进行约束的技术。

基于块的补偿可以用于帧间预测和帧内预测。对于帧间预测，利用不同图像进行基于块的补偿称为运动补偿。对于帧内预测，也可以利用相同图像内先前已重建的区域进行基于块的补偿。利用相同图像内的已重建区域进行的基于块的补偿称为图像内块补偿或帧内块复制。指示相同图像中当前块和参考块之间的偏移的位移矢量称为块矢量(blockvector，或简称bv)。运动补偿中的运动矢量可以是任何值(正或负，在x或y方向)，与之不同的是，块矢量具有一些约束以确保参考块可用并且已经重建。此外，一些例子中，考虑到并行处理，排除了一些位于图块边界或波前阶梯状边界的参考区域。

块矢量的编码可以是显式的或隐式的。在显式模式中，块向量与其预测因子之间的差异用信号表示；在隐式模式中，以与合并模式中的运动矢量类似的方式，利用预测因子(称为块矢量预测因子)恢复出块矢量。在一些实现中，块矢量的分辨率被限制在整数位；在其它系统中，允许块向量指向小数位。

一些例子中，可以使用参考索引方法来用信号表示在块级别使用帧内块复制。然后将正在解码的当前图像作为参考图像。一个例子中，将这样的参考图像放在参考图像列表的最后一个位置。还可以在缓冲器，例如解码图像缓冲器(decodedpicturebuffer，dpb)，对该特殊参考图像与其它时域参考图像一起进行管理。

帧内块复制也存在一些变形，例如翻转帧内块复制(参考块在用于预测当前块之前被水平或垂直翻转)，或基于线的帧内块复制(mxn编码块内的每个补偿单元是mx1或1xn的线)。

图9是本申请实施例的帧内块复制的示例性示意图。当前图像(900)是被解码的图像。当前图像(900)包括已重建区域(910)(灰色区域)和待解码区域(920)(白色区域)。当前块(930)正由解码器重建。可以利用已重建区域(930)中的参考块(940)重建当前块(910)。参考块(940)和当前块(930)之间的位置偏移被称为块矢量(950)(或bv(950))。

根据本申请公开的一些实施例，可针对帧内块复制适当地修改基于运动补偿的技术。

一个例子中，模式匹配运动向量推导(patternmatchedmotionvectorderivation，pmmvd)模式是指，块的运动信息不用信号表示，而是在编码器和解码器侧推导得出的技术。通常，存在两种模式匹配运动矢量推导方法：双边匹配和模板匹配。

图10是本申请实施例的双边匹配的示例性示意图。如图10所示，双边匹配用于，通过沿着(当前图像curpic中的)当前cu(1010)的运动轨迹在两个不同的参考图像(ref0和ref1)中找到最匹配的两个块(1020)和(1030)，从而推导出当前cu(1010)的运动信息。假设运动轨迹是连续的，指向两个参考块(1020)和(1030)的运动矢量mv0和mv1应当与当前图像(curpic)与两个参考图像(ref0和ref1)之间的时间距离，即td0和td1，成比例。特殊情况下，当当前图像的时间在这两个参考图像之间、并且当前图像(curpic)到这两个参考图像(ref0和ref1)的时间距离相同时，双边匹配变为基于镜像的双向mv。

图11是本申请实施例的模板匹配的示例性示意图。如图11所示，模板匹配用于通过找到当前图像(curpic)中的模板(包括当前cu(1110)的顶部相邻块(1120)和左侧相邻块和(1130))在参考图像(ref0)中最匹配的块(1140)和(1150)(具有与模板相同的形状和大小)，来推导出当前cu(1110)的运动信息。

一些例子中，在块级别上执行运动补偿，即，当前块是使用相同的运动信息执行运动补偿的处理单元。当给定块的大小时，块中的所有像素将使用相同的运动信息来形成其预测块。

另一例子中，运动补偿中使用了块级合并候选的技术。块级合并候选可包括空间合并候选者和时间邻近位置。在双向预测中，块级合并候选还可包括已有的合并候选者的运动向量的一些组合。

图12是空间合并候选者的示例性示意图。在图12的例子中，当前块(1201)包括在运动搜索过程期间已由编码器发现的、可根据已空间移位的相同大小的先前块预测得到的样本。另外，不对mv直接编码，而是可以从一个或多个参考图像所关联的元数据中推导出所述mv，例如，使用五个周围样本(表示为a0、a1和b0、b1、b2(分别对应1202到1206))中的任一样本所关联的mv，从(按解码次序)最近的参考图像推导出所述mv。然后，mv预测可使用来自相邻块所使用的同一参考图像中的预测因子。在图12的例子中，将当前块的相邻位置处的样本(1202)-(1206)作为空间合并候选。

在实现帧内块复制的一些例子中，块矢量可以以显式或隐式模式用信号表示。该情况下的块矢量称为标示块矢量。在实现帧内块复制的一些其它例子中，可以通过当前块的空间相邻区域中已重建的参考块来预测当前块。从该当前块到其参考块的位移没有用信号表示，而是通过一系列模式匹配推导得到。一个例子中，使用基于区域的模板匹配方法。该例子中，编码器和解码器对当前图像的参考区域中若干区域的形状和大小进行假定。在解码器侧，从比特流中解析出索引，以选择区域。然后对该区域内的所有可能位置执行模板匹配。具有最小匹配成本的参考位置将用作当前块的预测因子。这种推导得到的块矢量称为导出块矢量。对于区域中的bv推导过程，模式匹配的起始点，以及从一个位置到下一个位置的搜索顺序，是预定义的，且均为编码器和解码器所知。

考虑到一些实现成本，当前块的紧邻邻域的参考区域可能尚未准备好用于预测当前块，或者从设计角度来说，使用这些邻域数据的代价较大。因此，期望在使用帧内块复制模式时对补偿范围进行约束，使得当前块仅可以使用约束区域之外的参考块。

需要使用约束参考区域进一步提高帧内块复制的效率。在本申请中，提出了一些方法来解决这些问题。

根据本申请公开的一些实施例，可以采用使用一些约束以提高帧内块复制的适用性的方法。更具体地，考虑到指定的紧邻参考区域不能用于预测当前块，采用块矢量约束手段。例如，包括当前ctu左侧的ctu(简称左侧ctu)的邻域被认为是紧邻区域。更重要的是，可以使用一些方法来处理被排除的区域，而不是强加对块向量的施加约束。

一些实施例中，在根据帧内块复制模式重建图像中的第一ctu中的当前块时，第一ctu的某些相邻区域的已重建样本在第一存储器中不可用，第一存储器用于缓冲当前图像的已重建样本。例如，第一存储器具有相对较大的存储空间和相对较慢的存取速度，例如片外存储器。可以访问第一存储器以获取参考区域中的重建样本，用于重建当前块。一些例子中，与第一ctu的左侧相邻的第二ctu，一些例子中也简称为左侧ctu，在第一ctu之前已被重建，并且将第二ctu的已重建样本存储到第一存储器中比较耗时。因此，一些例子中，重建第一个ctu中的当前块的时候，第二ctu的已重建样本在第一存储器中不可用。

一些实施例中，为了避免将第二ctu的已重建样本存储到第一存储器所产生的等待时间，将第二ctu的已重建样本排除出用于重建第一ctu中的当前块的参考样本之外。根据本申请公开的一个实施例，第二ctu被排除出用于重建当前块的参考区域。根据本申请的另一实施例，使用填充样本代替第二ctu的已重建样本。

具体地，在一些实现架构中，尤其是基于ctu的流水线结构，以逐个处理每个ctu的方式处理同一ctu线路中的两个连续ctu中的数据。对当前ctu的样本进行编码时，左侧ctu中的参考样本刚被重建并且可能没有准备好放入用于存储当前已解码图像的参考样本的存储器中。然后，使用来自左侧ctu的参考样本会导致流水线处理的处理延迟。

根据本申请公开的一个实施例，执行当前块的帧内块复制模式的允许参考区域不包括来自左侧ctu的样本。

图13是本申请实施例的帧内块复制模式中排除左侧ctu的示例性示意图。当前图像(1300)正在被解码。当前图像(1300)包括已重建区域(1310)(灰色区域和点区域)以及待解码区域(1320)(白色区域)。当前块(1330)正由解码器重建。可以利用已重建区域(1310)中的参考块(1340)重建当前块(1330)。参考块(1340)和当前块(1330)之间的位置偏移称为块矢量(1350)(或bv(1350))。

在图13的例子中，每个大块都是ctu。灰色区域是使用帧内块复制来预测当前块的可用参考区域。左侧ctu(1360)(点区域)被排除出参考区域。

一些例子中，当前块的左上位置由(cux，cuy)表示，原点是图像的左上角。块大小由(cuwidth，cuheight)表示，其中cuwidth表示当前块的宽度(例如，水平方向上的样本数)，cuheight表示当前块的高度(例如，垂直方向上的样本数)。当前ctu的左上位置(例如，包括当前块)由(ctux，ctuy)表示。块大小由(ctuwidth，ctuheight)表示，其中ctuwidth表示ctu的宽度(例如，水平方向上的样本数)，cuheight表示ctu的高度(例如，垂直方向上的样本数)。块矢量由(bvx，bvy)表示，其中bvx表示水平分量，bvy表示垂直分量。

因此，参考块的左上角由ref_tl＝(lx，ty)＝(cux+bvx，cuy+bvy)表示。参考块的右上角是ref_tr＝(rx，ty)＝(cux+bvx+cuwidth-1，cuy+bvy)。参考块的左下角是ref_bl＝(lx，by)＝(cux+bvx，cuy+bvy+cuheight-1)，参考块的右下角是ref_br＝(rx，by)＝(cux+bvx+cuwidth-1，cuy+bvy+cuheight-1)。

一些实施例中，除了应当用于帧内块复制的参考区域约束之外，还可以应用以下附加约束，从而从参考区域中排除左侧ctu。具体而言，参考块中所有样本的位置应位于左侧ctu之外。

一个例子中，除了应当用于帧内块复制的参考区域约束之外，还要求lx大于或等于ctux(lx>＝ctux)。然后，左侧ctu中的样本不满足附加要求，因此从参考区域中排除。约束要求也可以写为：cux+bvx>＝ctux。

在另一例子中，除了应当用于帧内块复制的参考区域约束之外，还要求rx小于ctux和ctuwidth之差(rx<ctux-ctuwidth)。然后，左侧ctu中的样本不满足附加要求，因此从参考区域中排除。该约束要求也可以写为：cux+bvx+cuwidth-1<ctux-ctuwidth。

另一例子中，除了应当用于帧内块复制的参考区域约束之外，还要求by小于ctuy(by<ctuy)。然后，左侧ctu中的样本不满足附加要求，因此从参考区域中排除。该约束要求也可以写为cuy+bvy+cuheight-1<ctuy。

根据本申请公开的另一实施例，当ctu(例如左ctu)中的像素值用作用于重建当前块的参考样本时，可以对从当前块的参考区域中排除的像素值进行填充。在一些例子中，填充的像素值称为填充样本。

一些实施例中，当左侧ctu中的样本被排除出参考区域中的参考样本之外时，使用一些有效像素值用于表示参考区域中的参考样本值。因此，允许块矢量指向该排除区域(例如，左侧ctu)。注意，替换样本值(填充样本)实际上不被放入存储有排除区域中的参考样本的存储器或缓冲器(例如，第一存储器)，而是在帧内块复制模式中预测当前块时用作参考样本的替代物。当参考块的至少一部分在排除区域(例如，左侧ctu)中时，用填充值代替缺失的参考样本。例如，当左侧ctu的真实重建样本被写入第一存储器时，确定填充样本并将其用作参考样本以代替真实重建样本，用于重建当前块。因此，解码器不需要等待左侧ctu的重建样本在第一存储器中可用。

一个实施例中，左侧ctu中每列的填充样本是从左侧ctu上方的、与该列在左侧ctu中的垂直位置相同的最邻近的参考线处的样本复制得到的。

图14是本申请实施例的帧内块复制模式中对参考区域的像素值进行填充的示意图。图14示出了多个ctu，例如当前ctu(1410)(也称为第一ctu)，左侧ctu(1420)(也称为第二ctu)，左侧ctu(1420)的左侧相邻ctu(1440)，以及左侧ctu(1420)的上方相邻ctu(1430)。在帧内块复制模式中重建当前ctu(1410)中的当前块时，左侧相邻ctu(1440)和上方相邻ctu(1430)的样本已经被重建并存储在第一存储器中。

以图14为例，解码器可以访问第一存储器以获取上述相邻ctu(1430)中的已重建样本，例如上述相邻ctu(1430)的底部参考线(1435)，并使用获取到的样本来填充左侧ctu(1420)。一个例子中，对于左侧ctu(1420)中的每一列，该列中的像素用与该列具有相同的垂直位置的底部参考线(1435)中的相应像素的相同像素值填充。

另一个实施例中，左侧ctu中每行的填充样本是从位于左侧ctu的左侧、具有与左侧ctu中该行相同的水平位置的最右边参考线处的样本复制得到的。

以图14为例，解码器可以访问第一存储器以获取左侧相邻ctu(1440)中的已重建样本，例如最右参考线(1445)，并使用获取到的样本来填充左侧ctu(1420)。一个例子中，对于左侧ctu(1420)中的每一行，该行中的像素用与该行具有相同的水平位置的最右参考线(1445)中相应像素的相同像素值填充。

另一实施例中，在帧内块复制模式下重建当前ctu(1410)中的当前块时，左侧ctu(1420)的最右列(1425)中的重建样本已被缓冲在第二个存储器，例如可以高速存取的片上存储器，并且可以无延迟地取得。以图14为例，解码器可以访问第二存储器以获取左侧ctu(1420)中最右列(1425)中的已重建样本，并使用获取到的样本来填充左侧ctu(1420)。一个例子中，对于左侧ctu(1420)中的每一行，该行中的像素用与该行具有相同的水平位置的最右列(1425)中相应像素的相同像素值填充。

另一实施例中，左侧ctu中的每列的填充样本是从左侧ctu上方的最邻近参考线(例如，参考线(1435))处的垂直样本复制得到。当当前块位于图像或条带或图块的第一个ctu行中时，上方相邻ctu不可用，则左侧ctu中每行的填充样本是从位于左侧ctu左侧的最右参考线(例如，参考线(1445))处的水平样本复制得到。当前块位于图像或条带或图块的前两个ctu中时，上方相邻ctu和左侧相邻的ctu均不可用，则使用一些默认值(例如，常数值)作为替换样本。例如，一个范围的中间值可用于填充左侧ctu。一个例子中，该中间值由对比特深度左移1比特生成，例如1<<(bit_depth-1)，其中bit_depth表示样本的比特深度。在8位情况下，默认样本为128。

另一实施例中，左侧ctu中的每行的填充样本是从左侧ctu左侧的最右参考线(例如，参考线(1445))处的水平样本复制得到。当当前块位于图像或条带或图块的第二列中时，左侧ctu中每列的填充样本是从左侧ctu上方最邻近参考线(例如，参考线(1435))处的垂直样本复制得到。当前块位于图像或条带或图块的前两个ctu中时，上方相邻ctu和左侧相邻的ctu均不可用，则使用一些默认值(例如，常数值)作为替换样本。例如，一个范围的中间值可用于填充左侧ctu。一个例子中，该中间值由对比特深度左移1比特生成，例如1<<(bit_depth-1)，其中bit_depth表示样本的比特深度。在8位情况下，默认样本为128。

注意，虽然本申请在例子中使用方形ctu，但是，上面所提出的用于在左侧ctu的排除区域中使用的替换样本的方法，也可以应用于其它形状的被排除参考区域，例如用于当前ctu。

根据本申请公开的一些实施例，可以在编码视频比特流中用信号表示约束参考区域，表示的形式可以是指示约束参考区域所包括的部分，或指示约束参考区域不包括的部分。

一些实施例中，编码视频比特流包括高级语法元素的信号以指示约束参考区域中不用于帧内块复制的部分。例如，对于块级别的帧内块复制，编码视频比特流的序列头(例如序列参数集(sequenceparameterset，sps))、或图像头(例如图像参数集(pps))、或条带头、或图块组头，等中，可以包括信号用于指示约束参考区域中不用于帧内块复制的部分。一些例子中，被排除的部分区域以ctu为单位指示。例如，信号可以指示相对于当前ctu，不用作帧内块复制的参考的ctu。

一个实施例中，首先用信号表示被排除的ctu的数量，然后是该(一个或多个)ctu的地址。例如，(0,0)用于指示当前块的ctu地址，(-1,0)用于指示左侧ctu的ctu地址。一个例子中，信号包括数字2，接着是(0,0)和(-1,0)，因此该信号指示从参考区域中排除两个ctu，并且被排除的ctu是当前ctu和左侧ctu。

另一个实施例中，仅排除位于当前ctu左侧的ctu，因此可以简化这些ctu的地址。例如，(0)表示当前ctu，(1)表示左侧ctu，(2)表示左侧ctu的左侧ctu等。一个例子中，信号包括数字3，后面是(0)，(1)和(2)。该信号指示从参考区域中排除三个ctu，并且排除的ctu是当前ctu、左侧ctu、左侧ctu和左侧ctu，例如图14例子中的ctu(1410)，(1420)和(1440)。

另一实施例中，使用相同级别或更高级别的语法结构的标志来用信号表示当前级别或更低级别的处理单元是否需要对参考区域进行约束。例如，sps中的特定标志用于表示是否需要约束手段。一个例子中，当启用该特定标志时，将在编码视频比特流中以相同级别(例如，序列级别)或更低级别的语法结构(例如，图像级别，条带级别，图块组级别等)指示被排除的ctu的数量。

一些实施例中，编码视频比特流包括高级语法元素的信号以指示参考区域所包括的(或允许)用于帧内块复制的ctu。

在一些实现中，仅允许当前ctu周围的局部区域用作参考区域。

一些实施例中，编码视频比特流包括高级语法元素的信号以指示参考区域中所包括或允许用于帧内块复制的部分区域。例如，在块级别执行帧内块复制，在编码视频比特流的序列头中(例如，在sps中)、或在图像头中(例如，在pps中)、或在条带头中、或在图块组头中，包括用于指示所包括或允许用于帧内块复制的参考区域。一些例子中，参考区域中所包括或允许的部分以ctu为单位指示。例如，信号可以指示相对于当前ctu，可以用作帧内块复制的参考的ctu。

一个实施例中，首先用信号表示所包括的ctu的数量，然后是该(一个或多个)ctu的地址。例如，(0,0)用于指示当前块的ctu地址，(-1,0)用于指示左侧ctu的ctu地址。一个例子中，信号包括数字2，接着是(0.0)和(-1,0)，因此该信号指示从参考区域中包括两个ctu，并且所包括的ctu是当前ctu和左侧ctu。

另一实施例中，使用相同级别或更高级别的语法结构的标志来用信号表示当前级别或更低级别的处理单元是否需要对参考区域进行约束。例如，sps中的特定标志用于以信号表示是否需要约束手段。一个例子中，当启用该特定标志时，将在编码视频比特流中以相同级别(例如，序列级别)或更低级别的语法结构(例如，图像级别，条带级别，图块组级别等)指示所包括的ctu的数量。

图15是本申请实施例的示例性过程(1500)的概要流程图。过程(1500)可以用于重建利用帧内模式编码的块，从而为正在重建的块生成预测块。在各实施例中，过程(1500)由处理电路执行，例如终端设备(210)、(320)、(330)和(340)中的处理电路，执行视频编码器(403)的功能的处理电路，执行视频解码器(410)的功能的处理电路，执行视频解码器(510)的功能的处理电路，执行帧内预测单元(552)的功能的处理电路，执行视频编码器(603)的功能的处理电路，执行预测器(635)的功能的处理电路，执行帧内编码器(722)的功能的处理电路，执行帧内解码器(872)的功能的处理电路，等。一些实施例中，过程(1500)由软件指令实现，因此当处理电路执行这些软件指令时，处理电路执行过程(1500)。该过程开始于(s1501)并进入(s1510)。

在(s1510)，从编码视频比特流中解码一标志，该标志指示在编码视频比特流中是否指定了帧内块复制模式中对参考区域进行约束。

在(s1520)，当该标志启用(意味着在编码视频比特流中指示了帧内块复制模式中对参考区域的一个或多个约束)时，对编码视频比特流中指示对参考区域的约束信息的信号进行解码以确定该约束信息。

在(s1510)，从编码视频比特流中解码当前块的预测信息。预测信息指示帧内块复制模式。

在(s1540)，基于从视频比特流解码得到的约束信息来确定当前块的参考区域。

在(s1550)，基于参考区域中的参考样本重建当前块的样本。然后，该过程进入(s1599)，并终止。

各实施例还提供一种用于视频解码的装置，包括：

解码模块，用于对编码视频比特流中图像中的当前编码树单元(ctu)中的当前块的预测信息进行解码，所述预测信息指示帧内块复制模式；

区域确定模块，用于基于所述编码视频比特流中指示参考区域的约束信息的信号确定所述当前块在所述图像中的参考区域；及

重建模块，用于基于所述图像中所述参考区域的参考样本，重建所述当前块的至少一个样本。

一些实施例中，所述区域确定模块可以基于所述编码视频比特流中的序列级别、图像级别、条带级别和图块组级别中的至少一个的信号来确定所述当前块的所述参考区域。

一些实施例中，所述区域确定模块可以对所述编码视频比特流中的第一信号进行解码，所述第一信号用于指示从所述参考区域中排除的部分区域。

一些实施例中，所述区域确定模块可以对所述编码视频比特流中的第二信号进行解码，所述第二信号用于指示所述参考区域所包括的部分区域。

一些实施例中，所述区域确定模块可以对所述编码视频比特流中的第三信号进行解码，所述第三信号用于指示以ctu为单位的、对所述参考区域的所述约束信息。

一些实施例中，所述区域确定模块可以对所述编码视频比特流中的第四信号进行解码，所述第四信号用于指示所述参考区域中被排除的ctu的数量和地址。

一些实施例中，所述区域确定模块可以对所述编码视频比特流中的第五信号进行解码，所述第五信号用于指示所述参考区域所包括的ctu的数量和地址。

一些实施例中，所述区域确定模块可以对所述编码视频比特流中的第六信号进行解码，所述第六信号用于指示所述编码视频比特流中是否指示了对所述参考区域进行约束；当所述第六信号指示在所述编码视频比特流中指示了所述约束时，对所述编码视频比特流中指示所述参考区域的范围的第七信号进行解码。

本申请各实施例还提供一种视频编码方法，包括：

在编码视频比特流中加入图像中当前编码树单元(ctu)中的当前块的编码后的预测信息，所述预测信息指示帧内块复制模式；

基于预设规则确定针对所述当前块在所述图像中的参考区域的约束信息；及

在所述编码视频比特流中用信号指示所述当前块对应的所述约束信息。

一些实施例中，该视频编码方法还可以包括：使用所述编码视频比特流中的序列级别、图像级别、条带级别和图块组级别中的至少一个的信号来指示所述当前块的所述参考区域。

一些实施例中，该视频编码方法还可以包括：在所述编码视频比特流中用第一信号指示从所述参考区域中排除的部分区域。

一些实施例中，该视频编码方法还可以包括：在所述编码视频比特流中用第二信号指示所述参考区域所包括的部分区域。

一些实施例中，该视频编码方法还可以包括：在所述编码视频比特流中用第三信号指示以ctu为单位的、对所述参考区域的所述约束信息。

一些实施例中，该视频编码方法还可以包括：在所述编码视频比特流中用第四信号指示所述参考区域中被排除的ctu的数量和地址。

一些实施例中，该视频编码方法还可以包括：在所述编码视频比特流中用第五信号指示所述参考区域所包括的ctu的数量和地址。

一些实施例中，该视频编码方法还可以包括：在所述编码视频比特流中用第六信息指示是否对所述参考区域进行约束；及在所述编码视频比特流中用第七信号指示所述参考区域的范围。

上述技术可以使用计算机可读指令实现为计算机软件，并且物理地存储在一个或多个计算机可读介质中。例如，图16为适于实现本申请一些实施例的计算机系统(1600)。

计算机软件可利用任何合适的机器代码或计算机语言来编码，可采用汇编、编译、链接或类似机制生成指令代码。这些指令代码可由一个或多个计算机中央处理单元(cpu)、图形处理单元(gpu)等直接执行或通过代码解释、微代码执行等操作来执行。

这些指令可在多种类型的计算机或计算机组件中执行，包括，例如，个人计算机、平板电脑、服务器、智能电话、游戏设备、物联网设备等。

图16所示的用于计算机系统(1600)的组件本质上是示例性的，而非旨在对实现本申请实施例的计算机软件的使用或功能范围做任何限制。也不应将组件的配置方式解释为对计算机系统(1600)的示例性实施例中的任一部件或其组合具有任何的依赖性或要求。

计算机系统(1600)可以包括某些人机界面输入设备。这样的人机界面输入设备可以响应于一个或多个人类用户通过例如触觉输入(诸如键击、挥动、数据手套移动)、音频输入(诸如语音、拍击)、视觉输入(诸如姿势)、嗅觉输入(未示出)的输入。人机界面设备还可用于捕捉不必直接与人类有意识输入相关的某些介质，例如音频(诸如语音、音乐、环境声音)、图像(诸如扫描的图像、从静止图像相机获得的摄影图像)、视频(诸如二维视频，包括立体视频的三维视频)。

人机界面输入设备可包括以下项中的一种或多种(每一种仅描绘一个)：键盘(1601)、鼠标(1602)、触控板(1603)、触摸屏(1610)、数据手套(未示出)、操纵杆(1605)、麦克风(1606)、扫描仪(1607)、照相机(1608)。

计算机系统(1600)还可以包括某些人机界面输出设备。这样的人机界面输出设备可以通过例如触觉输出、声音、光和气味/味道来刺激一个或多个人类用户的感觉。这种人机界面输出设备可以包括触觉输出设备(例如通过触摸屏(1610)、数据手套(未示出)或操纵杆(1605)的触觉反馈，但是也可以有不用作输入设备的触觉反馈设备)、音频输出设备(诸如扬声器(1609)、耳机(未示出))、可视输出设备以及打印机(未示出)，其中可视输出设备诸如屏幕(1610)、虚拟现实眼镜(未示出)、全息显示器和烟雾箱(未示出)，屏幕(1610)包括阴极射线管(crt)屏幕、液晶显示器(lcd)屏幕、等离子屏幕、有机发光二极管(oled)屏幕，每一种都具有或不具有触摸屏输入能力，每一种都具有或不具有触觉反馈能力，这些屏幕中的一些能够通过手段(诸如立体图像输出)输出二维可视输出或多于三维的输出。

计算机系统(1600)还可以包括人类可访问的存储设备及其相关联的介质，诸如光学介质(包括具有cd/dvd的cd/dvdrom/rw(1620))或类似介质(1621)、拇指驱动器(1622)、可移动硬盘驱动器或固态驱动器(1623)、传统磁介质(诸如磁带和软盘(未示出))、基于专用rom/asic/pld的设备(诸如安全道尔芯片(未示出))，等等。

本领域技术人员还应当理解，结合当前公开的主题使用的术语“计算机可读介质”不包括传输介质、载波或其它瞬时信号。

计算机系统(1600)还可以包括连接一个或多个通信网络的接口。网络可以是，例如，无线网络、有线网络、光网络。网络还可以是本地网、广域网、城域网、车联网的和工业网络、实时网络、延迟容忍网络等等。网络的示例包括局域网(诸如以太网、无线lan)、蜂窝网络(包括全球移动通信系统(gsm)、第三代移动通信系统(3g)、第四代移动通信系统(4g)、第五代移动通信系统(5g)、长期演进(lte)等)、电视有线或无线广域数字网络(包括有线电视、卫星电视和地面广播电视)、车辆和工业网络(包括canbus)，等等。某些网络通常需要外部网络接口适配器，该外部网络接口适配器连接到某些通用数据端口或外围总线(1649)(诸如计算机系统(1600)的通用串行总线(usb)端口)；其他的通常通过如下所述连接到系统总线而集成到计算机系统(1600)的核心中(例如，进入个人计算机系统的以太网接口或进入智能手机计算机系统的蜂窝网络接口)。通过使用这些网络中的任何一个，计算机系统(1600)可以与其它实体通信。这种通信可以是使用局域或广域数字网络的到其它计算机系统的单向的、仅接收的(例如广播tv)、单向仅发送的(例如到某些can总线设备的can总线)或双向的通信。可以在如上所述的那些网络和网络接口中的每一个上使用某些协议和协议栈。

上述人机界面设备、人类可访问存储设备和网络接口可以连接到计算机系统(1600)的内核(1640)。

内核(1640)可以包括一个或多个中央处理单元(cpu)(1641)、图形处理单元(gpu)(1642)、以现场可编程门阵列(fpga)(1643)形式存在的专用可编程处理单元、用于特定任务的硬件加速器(1644)等。这些设备，以及只读存储器(rom)(1645)，随机存取存储器(1646)，内部大容量存储器(如内部非用户可访问硬盘驱动器，ssd)(1647)等，可以通过系统总线(1648)相互连接。在一些计算机系统中，系统总线(1648)可以以一个或多个物理插头的形式访问，从而通过附加的cpu，gpu等实现扩展。外围设备可以直接，或者通过外围总线(1648)，连接到内核的系统总线(1649)。外围总线的架构包括pci，usb等。

cpu(1641)、gpu(1642)、fpga(1643)和加速器(1644)可以执行某些指令，这些指令组合起来可以构成前述的计算机代码。该计算机代码可以存储在rom(1645)或ram(1646)中。中间数据也可以存储在ram(1646)中，而永久数据可以存储在，例如，内部大容量存储器(1647)中。可以通过使用高速缓冲存储器来实现到任何存储器设备的快速存储和读取，高速缓存存储器可以与一个或多个cpu(1641)、gpu(1642)、大容量存储器(1647)、rom(1645)、ram(1646)等紧密关联。

计算机可读介质上可以具有计算机代码，在计算机代码上执行各种计算机执行的操作。介质和计算机代码可以是为本申请的目的而特别设计和构造的，也可以是计算机软件领域的技术人员所熟知和可用的介质和代码。

作为示例而非限制，具有体系结构(1600)的计算机系统，特别是内核(1640)，可以提供处理器(包括cpu、gpu、fpga、加速器等)执行在一个或多个有形的计算机可读介质中的软件而实现的功能。这样的计算机可读介质可以是与如上所述的用户可访问大容量存储器相关联的介质，以及非暂时性的内核(1640)的某些存储，诸如内核内部大容量存储器(1647)或rom(1645)。实现本申请各实施例的软件可以存储在这样的设备中并由内核(1640)执行。根据特定需要，计算机可读介质可包括一个或多个存储器设备或芯片。该软件可以使内核(1640)，特别是其中的处理器(包括cpu，gpu，fpga等)，执行本文描述的特定过程或特定过程的特定部分，包括定义存储在ram(1646)中的数据结构，以及根据软件定义的过程修改这些数据结构。作为补充或作为替代，计算机系统可提供与电路(例如加速器1644)中的逻辑硬连线或其它组件相同的功能，可代替软件或与软件一起操作以执行本文所述的特定过程或特定过程的特定部分。在适当的情况下，对软件的引用可以包括逻辑，反之亦然。在适当的情况下，对计算机可读介质的引用可包括存储执行软件的电路(如集成电路(ic))，包括执行逻辑的电路，或两者兼备。本申请包括硬件和软件的任何适当组合。

附录a：缩略语

jem:jointexplorationmodell联合勘探模型

vvc:versatilevideocoding多功能视频编码

bms:benchmarkset基准集合

mv:motionvector运动矢量

hevc:highefficiencyvideocoding高效视频编码

sei:supplementaryenhancementinformation补充增强信息

vui:videousabilityinformation视频可用性信息

gops:groupsofpictures图像组

tus:transformunits变换单元

pus:predictionunits预测单元

ctus:codingtreeunits编码树单元

ctbs:codingtreeblocks编码树块

pbs:predictionblocks预测块

hrd:hypotheticalreferencedecoder假想参考解码器

snr:signalnoiseratio信噪比

cpus:centralprocessingunits中央处理单元

gpus:graphicsprocessingunits图形处理单元

crt:cathoderaytube阴极射线管

lcd:liquid-crystaldisplay液晶显示器

oled:organiclight-emittingdiode有机发光二极管

cd:compactdisc光盘

dvd:digitalvideodisc数字视频盘

rom:read-onlymemory只读存储器

ram:randomaccessmemory随机存取存储器

asic:application-specificintegratedcircuit专用集成电路

pld:programmablelogicdevice可编程逻辑设备

lan:localareanetwork局域网

gsm:globalsystemformobilecommunications全球移动通信系统

lte:long-termevolution长期演进

canbus:controllerareanetworkbus控制器区域网络总线

usb:universalserialbus通用串行总线

pci:peripheralcomponentinterconnect外围设备组件互联

fpga:fieldprogrammablegatearray现场可编程门阵列

ssd:solid-statedrive固态硬盘

ic:integratedcircuit集成电路

cu:codingunit编码单元

虽然本申请已对多个示例性实施例进行了描述，但实施例的各种变更、置换和各种替代属于本申请的范围内。因此应理解，本领域技术人员能够设计多种系统和方法，所述系统和方法虽然未在本文中明确展示或描述，但其体现了本申请的原则，因此属于本申请的精神和范围之内。