融合候选者列表构建方法、装置及的编/解方法及装置与流程
本申请实施例上涉及视频编码领域，更确切地说，涉及视频编解码过程中帧间预测模式下的融合候选者列表构建的方法，及其应用的编解码方法中。
背景技术：
视频编码(视频编码和解码)广泛用于数字视频应用，例如广播数字电视、互联网和移动网络上的视频传播、视频聊天和视频会议等实时会话应用、dvd和蓝光光盘、视频内容采集和编辑系统以及可携式摄像机的安全应用。
随着1990年h.261标准中基于块的混合型视频编码方式的发展，新的视频编码技术和工具得到发展并形成了后续视频编码标准演进的基础。视频编码标准包括mpeg-1视频、mpeg-2视频、itu-th.262/mpeg-2、itu-th.263、itu-th.264/mpeg-4第10部分高级视频编码(advancedvideocoding，avc)、itu-th.265/高效视频编码(highefficiencyvideocoding，hevc)…以及此类标准的扩展，例如可扩展性和/或3d(three-dimensional)扩展。随着视频创作和分享变得越来越广泛，视频流量成为通信网络和数据存储的最大负担。因此大多数视频编码标准的目标之一是相较之前的标准，在不降低图片的主观质量的前提下减少比特率。即使最新的高效视频编码(highefficiencyvideocoding，hevc)可以在不降低图片的主观质量的前提下比avc大约多压缩视频一倍，仍然亟需新技术相对hevc进一步压缩视频，新一代的视频编码技术vvc(versatilevideocoding)技术正在制定过程中，其目标在于相较于hevc能够在图片的主观质量不下降的前提下，进一步将压缩率提升50％左右。
hevc/h.265视频编码标准、或者正在制定的vvc/h.266视频编码标准，一帧图像会被分割成互不重叠的编码树单元(codingtreeunit,ctu)，ctu的大小可以设置为64×64或128×128大小。以64×64大小的ctu为例，其包含64列像素，每列包含64个像素，每个像素包含亮度分量或/和色度分量。一个ctu被划分为一个或多个编码单元(codingunit,cu)。一个cu包含基本的编码信息，包括预测模式、变换系数等信息。解码端可以按照这些编码信息对cu进行相应的预测、反量化、反变换、重建、滤波等解码处理，产生这个cu对应的重建图像。一个cu对应有预测图像和残差图像，预测图像与残差图像相加得到重建图像。预测图像通过帧内预测或帧间预测生成，残差图像通过对变换系数进行反量化和反变换处理生成。
帧间预测是基于运动补偿(motioncompensation)的预测技术，主要处理过程为确定当前块的运动信息，根据运动信息从当前块的参考帧中获取参考图像块，产生当前块的预测图像，其中，当前块(currentblock)是指正在进行编码/解码处理的图像块，其中所述当前块可以是一个编码单元中的亮度块或者色度块。运动信息包含帧间预测方向、参考帧、运动矢量等，其中帧间预测方向指示当前块使用前向预测、后向预测或双向预测其中的何种预测方向，运动矢量指示了参考帧中用于预测当前块的参考图像块相对于当前块的位移矢量，因而一个运动矢量对应有一个参考帧。一个图像块的帧间预测可以只通过一个运动矢量，使用一个参考帧中的像素来生成预测图像，称为单向预测；也可以通过两个运动矢量，使用两个参考帧中的像素来组合生成预测图像，称为双向预测。也就是说，一个图像块通常可包含一个或两个运动矢量。对于一些多假设帧间预测(multi-hypothesisinterprediction)技术，一个图像块可能包含多于两个运动矢量。
帧间预测通过参考帧索引(referenceindex,ref_idx)指明参考帧(referenceframe)，通过运动矢量(motionvector,mv)指示当前块(currentblock)在参考帧中的参考块(referenceblock)相对当前帧中当前块的位置偏移。一个mv是二维矢量，包含水平方向位移分量和竖直方向位移分量；一个mv对应于两个帧，每一帧具有一个图像顺序号(pictureordercount,poc)，用于表示图像在显示顺序上的编号,所以一个mv也对应于一个poc差值。poc差值与时间间隔呈线性关系。运动矢量的缩放通常采用基于poc差值的缩放方式，将一对图像之间的运动矢量转换成另一对图像之间的运动矢量。
常用的帧间预测模式有以下三种：
1)amvp模式(advancedmotionvectorprediction)：在码流中标识当前块使用的帧间预测方向(前向、后向或双向)、参考帧索引(referenceindex)、运动矢量预测值索引(motionvectorpredictorindex,mvpindex)、运动矢量残差值(motionvectordifference,mvd)；由帧间预测方向确定使用的参考帧队列，由参考帧索引确定当前块mv指向的参考帧，由运动矢量预测值索引指示mvp列表中的一个mvp作为当前块mv的预测值，一个mvp与一个mvd相加得到一个mv。
2)merge/skip模式：码流中标识融合索引(mergeindex)，根据mergeindex从融合候选者列表(mergecandidatelist)中选择一个mergecandidate，当前块的运动矢量信息(包括预测方向、参考帧、运动矢量)由这个mergecandidate确定。merge模式和skip模式的主要区别在于，merge模式隐含当前块有残差信息，也即，从运动候选者列表中获取的运动矢量作为当前块的运动矢量预测值，而当前块的运动矢量由该运动矢量的预测值与运动矢量的残差值相加得到，运动矢量的残差通过解码码流得到；而skip模式隐含当前块没有残差信息(或者说残差为0)，即从运动矢量列表中获得的运动矢量直接作为当前块的运动矢量进行帧间预测；这两种模式导出运动信息的方式是一样的。
3)仿射变换模式：通过仿射变换由两个或三个控制点运动矢量得到当前块中各个子块的运动矢量。
hevc标准中，融合候选者可以是当前块相邻的图像块的运动信息，称为空间融合候选者(spatialmergecandidate)；也可以是当前块在另一已编码图像中对应位置图像块的运动信息，称为时间融合候选者(temporalmergecandidate)。此外，融合候选者还可以是由一个融合候选者的前向运动信息和另一个融合候选者的后向运动信息组合而成的双向预测融合候选者(bi-predictivemergecandidate)，或者运动矢量强制为0矢量的零运动矢量融合候选者(zeromotionvectormergecandidate)。
在最新的视频标准vvc制定的最近一次会议所接收到的技术提案，如，jvet-k0286、jvet-k0198和jvet-k0339，这些提案中提出了在融合候选者列表中加入非相邻空间融合候选者(non-adjacentspatialmergecandidate)的方法，增加了merge/skip模式的融合候选者数量，提高预测效率。
jvet-k0286提案中融合候选者列表的构建方法如下：
步骤1：将与当前块空域相邻的空间融合候选者(spatialmergecandidate)加入当前块的融合候选者列表，其方法与hevc中的方法相同。空域相邻的空间融合候选者为图1中a、b、c、d、e块的运动信息，他们加入融合候选者列表的顺序为a、b、c、d、e。图1中a、b、c、…、i等块均为4x4块。
步骤2：将当前块的时域融合候选者(temporalmergecandidate)加入当前块的融合候选者列表，其方法与hevc中的方法相同。
步骤3：将与当前块空域不相邻的非相邻空间融合候选者(non-adjacentspatialmergecandidate)加入当前块的融合候选者列表。非相邻空间融合候选者为图1中a1、b1、c1、d1、e1、a2、b2、c2、d2、e2、f、g、h、i块的运动信息；非相邻空间融合候选者加入融合候选者列表的顺序为a1、b1、c1、d1、e1、f、g、h、i、a2、b2、c2、d2、e2。作为一种简化方案，jvet-k0286提案中还提出非相邻空间融合候选者只包含a1、b1、c1、d1、e1、a2、b2、c2、d2、e2块的运动信息。
步骤4：加入其它类型的融合候选者，如双向预测融合候选者(bi-predictivemergecandidate)和零运动矢量融合候选者(zeromotionvectormergecandidate)。
需要说明的是，融合候选者列表的长度为预设固定值m，例如6或8或10等，当融合候选者列表中的融合候选者个数达到预设值m时，融合候选者列表的构建即已完成，剩余的融合候选者不再加入融合候选者列表。另外，如果一个融合候选者与融合候选者列表中已存在的融合候选者相同，则这个融合候选者可能不加入融合候选者列表，以避免融合候选者列表中出现重复的融合候选者，造成信息冗余。
jvet-k0339中使用了更多的非相邻空间融合候选者，如图10所示。图10中，块1至5为传统的空间融合候选者，块6至48为非相邻空间融合候选者。
解码时，若当前块使用skip/merge模式，则从码流中解析mergeindex，并从上述方法构建的融合候选者列表中选择mergeindex对应的融合候选者，得到当前块的运动信息。根据当前块的运动信息，进行运动补偿，得到当前块的预测图像。将当前块的预测图像与当前块的残差图像相加，得到当前块的重建图像，从而完成当前块的解码。
而上述方案中提出的多种融合，非相邻空间融合候选者的数目较多，而融合候选者列表的长度较小，将融合候选者加入融合候选者列表过程中对融合候选者进行适当的筛选，可以提高融合候选者列表中各融合候选者的多样性和它们与当前块运动信息的相似性，从而提高预测效率。
而上述方案中所提出的在融合候选列表中加入更多的非相邻空间融合候选者(non-adjacentspatialmergecandidate)方法中，判断是否要将非相信空间融合候选者加入到融合候选者列表的判断规则是根据一个非相邻空间融合候选者是否与融合候选者列表已有融合候选者重复来判断是否将这个非相邻空间融合候选者加入融合候选者列表这种判断方式需要较为复杂的比较逻辑，如果融合候选者列表所允许的最大候选者的数目较多的情况下，这种比较将会耗费较长的时间来完成，从而影响编解码的性能。使用skip/merge模式的非相邻空间融合候选者的运动信息容易与相邻空间融合候选者的运动信息重复或相似，不利于提高融合候选者列表中运动信息的多样性。另外，如果非相邻空间融合候选者使用仿射模型预测模式，而当前块使用平动模型预测模式，这两个区域具有不同的运动类型，所以这个非相邻空间融合候选者与当前块的实际运动信息的相关性较低，应当不加入融合候选者列表。
技术实现要素：
有鉴于次，本发明提供一种高效的融合候选者列表建立的方法及装置，以及应用该方法的编解码方法以及应用该装置的编解码装置。
本发明第一方面提供一种，用于进行帧间预测的融合候选者列表构建方法，其包括，当所述相邻块可得并且所述相邻块的运动信息与特定位置的相邻块的运动信息不同时，则将所述相邻块的运动信息作为所述当前块的空间融合候选者加入所述当前块的融合候选者列表中；以及，基于非相邻块的运动预测模式来将特定预测模式的相邻块的运动信息从当前块的空间融合候选者列表中排除，即，当所述非相邻块可得的情况下判断所述非相邻块中的至少一个非相邻块的帧间预测模式不是预定的帧间预测模式，且所述至少一个非相邻块的运动信息与特定位置的相邻块或者非相邻块的运动信息相同时，则将所述至少一个非相邻块的运动信息作为所述当前块的非相邻空间融合候选者加入所述融合候选者列表中，当所述非相邻块可得的情况下判断所述非相邻块中的至少一个非相邻块的帧间预测模式是预定的帧间预测模式，则不将所述至少一个非相邻块的非相邻空间融合候选者加入当前块的融合候选者列表中。
基于该方法，本发明中可以去除融合候选者列表中与当前块的运动模式相关性不强的融合候选者，从而有机会将更加准确和丰富的融合候选者加入融合候选者列表中，从而提高编码的效率。
根据本发明的第一方面的第一实施方式，所述方法还可以在所述融合候选者列表中加入时域的融合候选者，而该时域的融合候选者优选的可以在加入非相邻空间融合候选者之前加入到所述的融合候选者列表中，具体的，在所述基于预设的第二选择规则，将与所述当前块空域不邻接的非相邻块的运动信息作为所述当前块的非相邻空间融合候选者加入所述当前块的融合候选者列表中之前，将所述当前块的参考帧中的同位块的右下角相邻块的运动信息作为所述当前块的时域融合候选者加入所述融合候选者列表中，其中所述同位块在所述参考帧中的位置与所述当前块在当前中的位置相同，或者在所述同位块的右下角相邻块的运动信息不可得的情况下，将所述同位块的中心点的运动信息作为所述当前块的时域融合候选者加入所述融合候选者列表中。
结合本发明的第一方面的或者第一方面的第一实施方式，在本法明的第二实施方式，所述方法所构建的融合候选者列表中的融合候选者的数量如果没有达到预定的数目的情况下，为了充分利用所述融合候选者列表所提供的编码空间，可以在所述融合候选者列表中加入其他的融合候选者，优选地，在所述基于预设的第二选择规则，将与所述当前块空域不邻接的非相邻块的运动信息作为所述当前块的非相邻空间融合候选者加入所述当前块的融合候选者列表中之后，且所述融合候选者列表中的所述融合候选者的数目未达到预定值，方法还包括：在所述当前块属于双向预测分片(bi-predictiveslice)时将双向预测融合候选者加入到所述融合候选者列表中，或者，在将所述双向预测融合候选者加入到所述融合候选者列表中后，所述融合候选者列表中的所述融合候选者的数目未达到所述预定值，则将零运动矢量融合候选者加入到所述融合候选者列表中；或在所述当前块属于单向预测分片(uni-predictiveslice)时将零运动矢量融合候选者加入到所述融合候选者列表中。
结合本发明的第一方面的或者第一方面的任一实施方式，在本发明的第三实施方式中，所述预定的帧间预测模式为跳过/融合模式(skip/mergemode)、仿射(affine)变换预测模式，或者帧间预测模式为skip/merge模式和仿射(affine)变换预测模式。上述特定的预测模式并不局限于上述的模式，其他帧间预测模式，如果光流场模式也可以作为上述的预定的帧间预测模式。
为了减少复杂度，当有多个非相邻块需要判定时，结合本发明的第一方面的或者第一方面的任一实施方式，在本发明的第四实施方式中，对特定位置处的非相邻块进行帧间预测模式的判定，即，只有特定位置处的非相邻块才被判断其帧间预测模式是否和预定的帧间预测模式相同。所述的特定位置，具体可以是，所述非相邻块中的至少一个非相邻块为a2、b2、c2、d2、e2块，其中，所述当前块的左上角坐标为p0＝(x0,y0)，所述当前块的宽和高分别为w和h,则所述a2块的左上角坐标为pa2＝(x0-4-2*sx,y0+h-4)；所述b2块的左上角坐标为pb2＝(x0+w-4,y0-4-2*sy)；所述c2块的左上角坐标为pc2＝(x0+w,y0-4-2*sy)；所述d2块的左上角坐标为pd2＝(x0-4-2*sx,y0+h)；所述e2块的左上角坐标为pe2＝(x0-4-2*sx,y0-4-2*sy)；或者，所述非相邻块中的至少一个非相邻块为a1、b1、c2、d2、e2块，所述当前块的左上角坐标为p0＝(x0,y0)，所述当前块的宽和高分别为w和h,则所述a1块的左上角坐标为pa1＝(x0-4-sx,y0+h-4)；所述b1块的左上角坐标为pb1＝(x0+w-4,y0-4-sy)；所述c2块的左上角坐标为pc2＝(x0+w,y0-4-2*sy)；所述d2块的左上角坐标为pd2＝(x0-4-2*sx,y0+h)；所述e2块的左上角坐标为pe2＝(x0-4-2*sx,y0-4-2*sy)；或者，所述非相邻块中的至少一个非相邻块为a1、b1、c1、d1、e1块，所述当前块的左上角坐标为p0＝(x0,y0)，所述当前块的宽和高分别为w和h,则所述a1块的左上角坐标为pa1＝(x0-4-sx,y0+h-4)；所述b1块的左上角坐标为pb1＝(x0+w-4,y0-4-sy)；所述c1块的左上角坐标为pc2＝(x0+w,y0-4-sy)；所述d1块的左上角坐标为pd1＝(x0-4-sx,y0+h)；所述e1块的左上角坐标为pe1＝(x0-4-sx,y0-4-sy)。
本发明第二方面提供一种解码方法，将根据本发明第一方面或者本发明第一方面的任一实施方式中的方法所构建得到的融合候选者列表应用于所述当前块的解码过程中，所述解码过程包括：解析码流获取融合候选者索引；根据所述融合候选者索引从所述融合候选者列表中获取对应的融合候选者并将所述融合候选者作为所述当前块的运动信息；根据所述当前块的运动信息对当前块进行帧间预测获得所述当前块的预测图像；获取所述当前块的残差图像；将所述当前块的预测图像以及所述当前块的残差图像相加得到所述当前块的重建图像。本发明第二方面提供的解码方法用中采用本发明第一方面提供的融合候选者列表构建方法，可以有效提高解码效率。
本发明第三方面提供一种编码方法，用于进行帧间预测的融合候选者列表构建方法，将根据本发明第一方面或者本发明第一方面的任一实施方式中的方法所构建得到的所述融合候选者列表应用于所述当前块的编码过程中，所述编码过程包括：基于所述融合候选者列表中的每个融合候选者对所述当前块进行基于rdo的融合评估(mergeestimation)并将率失真代价值最小的融合候选者作为当前块的运动信息；基于所述当前块的运动信息对所述当前块进行编码形成编码数据；将所述率失真代价值最小的融合候选者在所述融合候选列表中的位置索引附加至所述编码数据中。
本发明第三方面提供的解码方法用中采用本发明第一方面提供的融合候选者列表构建方法，可以有效提高解码效率。
此外，本发明还提供了与本发明第二方面对应的编码装置以及编码设备以及与本发明第三方面对应的解码装置接解码设备。
附图说明
图1a是用于实现本发明实施例的视频编码系统实例的框图；
图1b是绘示包含图2的编码器20和图3的解码器30中的任一个或两个的视频编码系统实例的框图；
图2是示出用于实现本发明实施例的视频编码器实例结构的框图；
图3是示出用于实现本发明实施例的视频解码器实例结构的框图；
图4是一种编码装置或解码装置实例的框图；
图5是另一种编码装置或解码装置实例的框图；
图6是根据一实施例的视频编码器实现本发明融合候选者列表构建方法的实例操作的流程图；
图7是根据另一实施例的视频编码器基于图6中构建的融合候选者列表进行解码的解码方法流程图；
图8是根据另一实施例的视频编码器基于图6中构建的融合候选者列表进行编码的编码方法流程图；
图9是一种空间相邻及非相邻块的分布示意图；
图10是另一种空间相邻及非相邻块的分布示意图。
图11为本申请实施例提供的融合候选运动者列表的构建装置的结构示意图；
图12为本申请实施例提供的解码装置的结构示意图；
图13为本申请实施例提供的编码装置的结构示意图；
图14为本申请实施例提供的用以实施图6～8中的方法的设备示意图；
以下如果没有关于相同参考符号的具体注释，相同的参考符号是指相同或至少功能上等效的特征。
具体实施方式
以下，参考附图来说明本发明具体的实施方式以及使用本发明具体实施方式的应用实例。
应理解，本发明实施例并不局限于在本文中所列举处的实例中，其可在其它方面中使用，并可包括附图中未显示的结构或逻辑变化。
例如，应理解，结合所描述方法的揭示内容可以同样适用于用于执行所述方法的对应设备或系统，且反之亦然。例如，如果描述一个或多个具体方法步骤，则对应的设备可以包含如功能单元等一个或多个单元，来执行所描述的一个或多个方法步骤(例如，一个单元执行一个或多个步骤，或多个单元，其中每个都执行多个步骤中的一个或多个)，即使附图中未明确描述或说明这种一个或多个单元。另一方面，例如，如果基于如功能单元等一个或多个单元描述具体装置，则对应的方法可以包含一个步骤来执行一个或多个单元的功能性(例如，一个步骤执行一个或多个单元的功能性，或多个步骤，其中每个执行多个单元中一个或多个单元的功能性)，即使附图中未明确描述或说明这种一个或多个步骤。进一步，应理解的是，除非另外明确提出，本文中所描述的各示例性实施例和/或方面的特征可以相互组合。
视频编码通常是指处理形成视频或视频序列的图片序列。在视频编码领域，术语“图片(picture)”、“帧(frame)”或“图像(image)”可以用作同义词。本申请(或本公开)中使用的视频编码表示视频编码或视频解码。视频编码在源侧执行，通常包括处理(例如，通过压缩)原始视频图片以减少表示该视频图片所需的数据量(从而更高效地存储和/或传输)。视频解码在目的地侧执行，通常包括相对于编码器作逆处理，以重构视频图片。实施例涉及的视频图片(或总称为图片，下文将进行解释)“编码”应理解为涉及视频序列的“编码”或“解码”。编码部分和解码部分的组合也称为编解码(编码和解码)。
无损视频编码情况下，可以重构原始视频图片，即经重构视频图片具有与原始视频图片相同的质量(假设存储或传输期间没有传输损耗或其它数据丢失)。在有损视频编码情况下，通过例如量化执行进一步压缩，来减少表示视频图片所需的数据量，而解码器侧无法完全重构视频图片，即经重构视频图片的质量相比原始视频图片的质量较低或较差。
h.261的几个视频编码标准属于“有损混合型视频编解码”(即，将样本域中的空间和时间预测与变换域中用于应用量化的2d变换编码结合)。视频序列的每个图片通常分割成不重叠的块集合，通常在块层级上进行编码。换句话说，编码器侧通常在块(视频块)层级处理亦即编码视频，例如，通过空间(图片内)预测和时间(图片间)预测来产生预测块，从当前块(当前处理或待处理的块)减去预测块以获取残差块，在变换域变换残差块并量化残差块，以减少待传输(压缩)的数据量，而解码器侧将相对于编码器的逆处理部分应用于经编码或经压缩块，以重构用于表示的当前块。另外，编码器复制解码器处理循环，使得编码器和解码器生成相同的预测(例如帧内预测和帧间预测)和/或重构，用于处理亦即编码后续块。
如本文中所用，术语“块”可以为图片或帧的一部分。为便于描述，参考vvc或由itu-t视频编码专家组(videocodingexpertsgroup，vceg)和iso/iec运动图像专家组(motionpictureexpertsgroup，mpeg)的视频编码联合工作组(jointcollaborationteamonvideocoding，jct-vc)开发的高效视频编码(high-efficiencyvideocoding，hevc)描述本发明实施例。本领域普通技术人员理解本发明实施例不限于hevc或vvc。可以指cu、pu和tu。在hevc中，通过使用表示为编码树的四叉树结构将ctu拆分为多个cu。在cu层级处作出是否使用图片间(时间)或图片内(空间)预测对图片区域进行编码的决策。每个cu可以根据pu拆分类型进一步拆分为一个、两个或四个pu。一个pu内应用相同的预测过程，并在pu基础上将相关信息传输到解码器。在通过基于pu拆分类型应用预测过程获取残差块之后，可以根据类似于用于cu的编码树的其它四叉树结构将cu分割成变换单元(transformunit，tu)。在视频压缩技术最新的发展中，使用四叉树和二叉树(quad-treeandbinarytree，qtbt)分割帧来分割编码块。在qtbt块结构中，cu可以为正方形或矩形形状。在vvc中，编码树单元(codingtreeunit，ctu)首先由四叉树结构分割。四叉树叶节点进一步由二进制树结构分割。二进制树叶节点称为编码单元(codingunit，cu)，所述分段用于预测和变换处理，无需其它任何分割。这表示cu、pu和tu在qtbt编码块结构中的块大小相同。同时，还提出与qtbt块结构一起使用多重分割，例如三叉树分割。
以下基于图1a、图1b到3描述编码器20、解码器30和编码系统10的实施例(在基于图6更详细描述本发明实施例之前)。
图1a为示例性编码系统10的概念性或示意性框图，例如，可以利用本申请(本公开)技术的视频编码系统10。视频编码系统10的编码器20(例如，视频编码器20)和解码器30(例如，视频解码器30)表示可用于根据本申请中描述的各种实例执行用于进行融合候选者列表构建，以及基于该融合后选择列表进行编解码的技术的设备实例。如图1a中所示，编码系统10包括源设备12，用于向例如解码经编码数据13的目的地设备14提供经编码数据13，例如，经编码图片13。
源设备12包括编码器20，另外亦即可选地，可以包括图片源16，例如图片预处理单元18的预处理单元18，以及通信接口或通信单元22。
图片源16可以包括或可以为任何类别的图片捕获设备，用于例如捕获现实世界图片，和/或任何类别的图片或评论(对于屏幕内容编码，屏幕上的一些文字也认为是待编码的图片或图像的一部分)生成设备，例如，用于生成计算机动画图片的计算机图形处理器，或用于获取和/或提供现实世界图片、计算机动画图片(例如，屏幕内容、虚拟现实(virtualreality，vr)图片)的任何类别设备，和/或其任何组合(例如，实景(augmentedreality，ar)图片)。
(数字)图片为或者可以视为具有亮度值的采样点的二维阵列或矩阵。阵列中的采样点也可以称为像素(pixel)(像素(pictureelement)的简称)或像素(pel)。阵列或图片在水平和垂直方向(或轴线)上的采样点数目定义图片的尺寸和/或分辨率。为了表示颜色，通常采用三个颜色分量，即图片可以表示为或包含三个采样阵列。rbg格式或颜色空间中，图片包括对应的红色、绿色及蓝色采样阵列。但是，在视频编码中，每个像素通常以亮度/色度格式或颜色空间表示，例如，ycbcr，包括y指示的亮度分量(有时也可以用l指示)以及cb和cr指示的两个色度分量。亮度(简写为luma)分量y表示亮度或灰度水平强度(例如，在灰度等级图片中两者相同)，而两个色度(简写为chroma)分量cb和cr表示色度或颜色信息分量。相应地，ycbcr格式的图片包括亮度采样值(y)的亮度采样阵列，和色度值(cb和cr)的两个色度采样阵列。rgb格式的图片可以转换或变换为ycbcr格式，反之亦然，该过程也称为色彩变换或转换。如果图片是黑白的，该图片可以只包括亮度采样阵列。
图片源16(例如，视频源16)可以为，例如用于捕获图片的相机，例如图片存储器的存储器，包括或存储先前捕获或产生的图片，和/或获取或接收图片的任何类别的(内部或外部)接口。相机可以为，例如，本地的或集成在源设备中的集成相机，存储器可为本地的或例如集成在源设备中的集成存储器。接口可以为，例如，从外部视频源接收图片的外部接口，外部视频源例如为外部图片捕获设备，比如相机、外部存储器或外部图片生成设备，外部图片生成设备例如为外部计算机图形处理器、计算机或服务器。接口可以为根据任何专有或标准化接口协议的任何类别的接口，例如有线或无线接口、光接口。获取图片数据17的接口可以是与通信接口22相同的接口或是通信接口22的一部分。
区别于预处理单元18和预处理单元18执行的处理，图片或图片数据17(例如，视频数据16)也可以称为原始图片或原始图片数据17。
预处理单元18用于接收(原始)图片数据17并对图片数据17执行预处理，以获取经预处理的图片19或经预处理的图片数据19。例如，预处理单元18执行的预处理可以包括整修、色彩格式转换(例如，从rgb转换为ycbcr)、调色或去噪。可以理解，预处理单元18可以是可选组件。
编码器20(例如，视频编码器20)用于接收经预处理的图片数据19并提供经编码图片数据21(下文将进一步描述细节，例如，基于图2或图4)。在一个实例中，编码器20可以用于基于预设的第一选择规则，将与当前块空域邻接的相邻块的运动信息作为所述当前块的空间融合候选者加入所述当前块的融合候选者列表中，其中，所述预设的第一选择规则包括，当所述相邻块可得并且所述相邻块的运动信息与特定位置的相邻块的运动信息不同时，则将所述相邻块的运动信息作为所述当前块的空间融合候选者加入所述当前块的融合候选者列表中；以及，基于预设的第二选择规则，将与所述当前块空域不邻接的非相邻块的运动信息作为所述当前块的非相邻空间融合候选者加入所述融合候选者列表中，其中，所述当前块具有一个或者多个空域不邻接的所述非相邻块，所述预设的第二选择规则包括：当所述非相邻块可得的情况下判断所述非相邻块中的至少一个非相邻块的帧间预测模式不是预定的帧间预测模式，且所述至少一个非相邻块的运动信息与特定位置的相邻块或者非相邻块的运动信息相同时，则将所述至少一个非相邻块的运动信息作为所述当前块的非相邻空间融合候选者加入所述融合候选者列表中，当所述非相邻块可得的情况下判断所述非相邻块中的至少一个非相邻块的帧间预测模式是预定的帧间预测模式，则不将所述至少一个非相邻块的非相邻空间融合候选者加入当前块的融合候选者列表中。
源设备12的通信接口22可以用于接收经编码图片数据21并传输至其它设备，例如，目的地设备14或任何其它设备，以用于存储或直接重构，或用于在对应地存储经编码数据13和/或传输经编码数据13至其它设备之前处理经编码图片数据21，其它设备例如为目的地设备14或任何其它用于解码或存储的设备。
目的地设备14包括解码器30(例如，视频解码器30)，另外亦即可选地，可以包括通信接口或通信单元28、后处理单元32和显示设备34。
目的地设备14的通信接口28用于例如，直接从源设备12或任何其它源接收经编码图片数据21或经编码数据13，任何其它源例如为存储设备，存储设备例如为经编码图片数据存储设备。
通信接口22和通信接口28可以用于藉由源设备12和目的地设备14之间的直接通信链路或藉由任何类别的网络传输或接收经编码图片数据21或经编码数据13，直接通信链路例如为直接有线或无线连接，任何类别的网络例如为有线或无线网络或其任何组合，或任何类别的私网和公网，或其任何组合。
通信接口22可以例如用于将经编码图片数据21封装成合适的格式，例如包，以在通信链路或通信网络上传输。
形成通信接口22的对应部分的通信接口28可以例如用于解封装经编码数据13，以获取经编码图片数据21。
通信接口22和通信接口28都可以配置为单向通信接口，如图1a中用于经编码图片数据13的从源设备12指向目的地设备14的箭头所指示，或配置为双向通信接口，以及可以用于例如发送和接收消息来建立连接、确认和交换任何其它与通信链路和/或例如经编码图片数据传输的数据传输有关的信息。
解码器30用于接收经编码图片数据21并提供经解码图片数据31或经解码图片31(下文将进一步描述细节，例如，基于图3或图5)。在一个实例中，解码器30可以用于解码经过编码器编码的数据，其具体可以是，解析码流获取融合候选者索引；根据所述融合候选者索引从所述融合候选者列表中获取对应的融合候选者并将所述融合候选者作为所述当前块的运动信息；根据所述当前块的运动信息对当前块进行帧间预测获得所述当前块的预测图像；获取所述当前块的残差图像；将所述当前块的预测图像以及所述当前块的残差图像相加得到所述当前块的重建图像。
目的地设备14的后处理器32用于后处理经解码图片数据31(也称为经重构图片数据)，例如，经解码图片131，以获取经后处理图片数据33，例如，经后处理图片33。后处理单元32执行的后处理可以包括，例如，色彩格式转换(例如，从ycbcr转换为rgb)、调色、整修或重采样，或任何其它处理，用于例如准备经解码图片数据31以由显示设备34显示。
目的地设备14的显示设备34用于接收经后处理图片数据33以向例如用户或观看者显示图片。显示设备34可以为或可以包括任何类别的用于呈现经重构图片的显示器，例如，集成的或外部的显示器或监视器。例如，显示器可以包括液晶显示器(liquidcrystaldisplay，lcd)、有机发光二极管(organiclightemittingdiode，oled)显示器、等离子显示器、投影仪、微led显示器、硅基液晶(liquidcrystalonsilicon，lcos)、数字光处理器(digitallightprocessor，dlp)或任何类别的其它显示器。
虽然图1a将源设备12和目的地设备14绘示为单独的设备，但设备实施例也可以同时包括源设备12和目的地设备14或同时包括两者的功能性，即源设备12或对应的功能性以及目的地设备14或对应的功能性。在此类实施例中，可以使用相同硬件和/或软件，或使用单独的硬件和/或软件，或其任何组合来实施源设备12或对应的功能性以及目的地设备14或对应的功能性。
本领域技术人员基于描述明显可知，不同单元的功能性或图1a所示的源设备12和/或目的地设备14的功能性的存在和(准确)划分可能根据实际设备和应用有所不同。
编码器20(例如，视频编码器20)和解码器30(例如，视频解码器30)都可以实施为各种合适电路中的任一个，例如，一个或多个微处理器、数字信号处理器(digitalsignalprocessor，dsp)、专用集成电路(application-specificintegratedcircuit，asic)、现场可编程门阵列(field-programmablegatearray，fpga)、离散逻辑、硬件或其任何组合。如果部分地以软件实施所述技术，则设备可将软件的指令存储于合适的非暂时性计算机可读存储介质中，且可使用一或多个处理器以硬件执行指令从而执行本公开的技术。前述内容(包含硬件、软件、硬件与软件的组合等)中的任一者可视为一或多个处理器。视频编码器20和视频解码器30中的每一个可以包含在一或多个编码器或解码器中，所述编码器或解码器中的任一个可以集成为对应设备中的组合编码器/解码器(编解码器)的一部分。
源设备12可称为视频编码设备或视频编码装置。目的地设备14可称为视频解码设备或视频解码装置。源设备12以及目的地设备14可以是视频编码设备或视频编码装置的实例。
源设备12和目的地设备14可以包括各种设备中的任一个，包含任何类别的手持或静止设备，例如，笔记本或膝上型计算机、移动电话、智能电话、平板或平板计算机、摄像机、台式计算机、机顶盒、电视、显示设备、数字媒体播放器、视频游戏控制台、视频流式传输设备(例如内容服务服务器或内容分发服务器)、广播接收器设备、广播发射器设备等，并可以不使用或使用任何类别的操作系统。
在一些情况下，源设备12和目的地设备14可以经装备以用于无线通信。因此，源设备12和目的地设备14可以为无线通信设备。
在一些情况下，图1a中所示视频编码系统10仅为示例，本申请的技术可以适用于不必包含编码和解码设备之间的任何数据通信的视频编码设置(例如，视频编码或视频解码)。在其它实例中，数据可从本地存储器检索、在网络上流式传输等。视频编码设备可以对数据进行编码并且将数据存储到存储器，和/或视频解码设备可以从存储器检索数据并且对数据进行解码。在一些实例中，由并不彼此通信而是仅编码数据到存储器和/或从存储器检索数据且解码数据的设备执行编码和解码。
应理解，对于以上参考视频编码器20所描述的实例中的每一个，视频解码器30可以用于执行相反过程。关于信令语法元素，视频解码器30可以用于接收并解析这种语法元素，相应地解码相关视频数据。在本发明一些例子中，视频编码器20可以将一个或多个定义融合候选者在融合候选者列表中的具体位置的语法元素以及当前块的空间非相邻块的帧间编码类型的语法元素熵编码成经编码视频比特流。在此类实例中，视频解码器30可以解析这种语法元素，并相应地解码相关视频数据。
图1b是根据一示例性实施例的包含图2的编码器20和/或图3的解码器30的视频编码系统40的实例的说明图。系统40可以实现本申请的技术，用于基于本发明提出的融合候选者构建方法来构建当前块的融合候选者列表，并基于所述的融合候选者列表进行图像的编码或者解码。在所说明的实施方式中，视频编码系统40可以包含成像设备41、视频编码器20、视频解码器30(和/或藉由处理单元46的逻辑电路47实施的视频编码器)、天线42、一个或多个处理器43、一个或多个存储器44和/或显示设备45。
如图所示，成像设备41、天线42、处理单元46、逻辑电路47、视频编码器20、视频解码器30、处理器43、存储器44和/或显示设备45能够互相通信。如所论述，虽然用视频编码器20和视频解码器30绘示视频编码系统40，但在不同实例中，视频编码系统40可以只包含视频编码器20或只包含视频解码器30。
在一些实例中，如图所示，视频编码系统40可以包含天线42。例如，天线42可以用于传输或接收视频数据的经编码比特流。另外，在一些实例中，视频编码系统40可以包含显示设备45。显示设备45可以用于呈现视频数据。在一些实例中，如图所示，逻辑电路47可以通过处理单元46实施。处理单元46可以包含专用集成电路(application-specificintegratedcircuit，asic)逻辑、图形处理器、通用处理器等。视频编码系统40也可以包含可选处理器43，该可选处理器43类似地可以包含专用集成电路(application-specificintegratedcircuit，asic)逻辑、图形处理器、通用处理器等。在一些实例中，逻辑电路47可以通过硬件实施，如视频编码专用硬件等，处理器43可以通过通用软件、操作系统等实施。另外，存储器44可以是任何类型的存储器，例如易失性存储器(例如，静态随机存取存储器(staticrandomaccessmemory，sram)、动态随机存储器(dynamicrandomaccessmemory，dram)等)或非易失性存储器(例如，闪存等)等。在非限制性实例中，存储器44可以由超速缓存内存实施。在一些实例中，逻辑电路47可以访问存储器44(例如用于实施图像缓冲器)。在其它实例中，逻辑电路47和/或处理单元46可以包含存储器(例如，缓存等)用于实施图像缓冲器等。
在一些实例中，通过逻辑电路实施的视频编码器20可以包含(例如，通过处理单元46或存储器44实施的)图像缓冲器和(例如，通过处理单元46实施的)图形处理单元。图形处理单元可以通信耦合至图像缓冲器。图形处理单元可以包含通过逻辑电路47实施的视频编码器20，以实施参照图2和/或本文中所描述的任何其它编码器系统或子系统所论述的各种模块。逻辑电路可以用于执行本文所论述的各种操作。
视频解码器30可以以类似方式通过逻辑电路47实施，以实施参照图3的解码器30和/或本文中所描述的任何其它解码器系统或子系统所论述的各种模块。在一些实例中，逻辑电路实施的视频解码器30可以包含(通过处理单元2820或存储器44实施的)图像缓冲器和(例如，通过处理单元46实施的)图形处理单元。图形处理单元可以通信耦合至图像缓冲器。图形处理单元可以包含通过逻辑电路47实施的视频解码器30，以实施参照图3和/或本文中所描述的任何其它解码器系统或子系统所论述的各种模块。
在一些实例中，视频编码系统40的天线42可以用于接收视频数据的经编码比特流。如所论述，经编码比特流可以包含本文所论述的与编码视频帧相关的数据、指示符、索引值、模式选择数据等，例如与编码分割相关的数据(例如，变换系数或经量化变换系数，(如所论述的)可选指示符，和/或定义编码分割的数据)。视频编码系统40还可包含耦合至天线42并用于解码经编码比特流的视频解码器30。显示设备45用于呈现视频帧。
编码器&编码方法
图2示出用于实现本发明技术的视频编码器20的实例的示意性/概念性框图。在图2的实例中，视频编码器20包括残差计算单元204、变换处理单元206、量化单元208、逆量化单元210、逆变换处理单元212、重构单元214、缓冲器216、环路滤波器单元220、经解码图片缓冲器(decodedpicturebuffer，dpb)230、预测处理单元260和熵编码单元270。预测处理单元260可以包含帧间预测单元244、帧内预测单元254和模式选择单元262。帧间预测单元244可以包含运动估计单元和运动补偿单元(未图示)。图2所示的视频编码器20也可以称为混合型视频编码器或根据混合型视频编解码器的视频编码器。
例如，残差计算单元204、变换处理单元206、量化单元208、预测处理单元260和熵编码单元270形成编码器20的前向信号路径，而例如逆量化单元210、逆变换处理单元212、重构单元214、缓冲器216、环路滤波器220、经解码图片缓冲器(decodedpicturebuffer，dpb)230、预测处理单元260形成编码器的后向信号路径，其中编码器的后向信号路径对应于解码器的信号路径(参见图3中的解码器30)。
编码器20通过例如输入202，接收图片201或图片201的块203，例如，形成视频或视频序列的图片序列中的图片。图片块203也可以称为当前图片块或待编码图片块，图片201可以称为当前图片或待编码图片(尤其是在视频编码中将当前图片与其它图片区分开时，其它图片例如同一视频序列亦即也包括当前图片的视频序列中的先前经编码和/或经解码图片)。
分割
编码器20的实施例可以包括分割单元(图2中未绘示)，用于将图片201分割成多个例如块203的块，通常分割成多个不重叠的块。分割单元可以用于对视频序列中所有图片使用相同的块大小以及定义块大小的对应栅格，或用于在图片或子集或图片群组之间更改块大小，并将每个图片分割成对应的块。在vvc中引入了由j.an等人的在用于下一代视频编码的分块结构(blockpartitioningstructurefornextgenerationvideocoding)”(国际电信联盟，com16-c966，2015年9月，以下称作“vceg建议书com16-c966”)中提出的四叉树二叉树(quad-tree-binary-tree，qtbt)划分技术。模拟已展示出提出的qtbt结构比所用的hevc中的四叉树结构更高效。此外，在qtbt中，cu可具有正方形或矩形形状。如图3中所示，编码树单元(codingtreeunit，ctu)首先通过四叉树结构划分。四叉树叶节点可进一步通过二叉树结构划分。在二叉树划分中存在两种划分类型：对称水平划分和对称竖直划分。在每种情况下，通过沿着中部水平地或竖直地平分节点来划分节点。二叉树叶节点称为编码单元(codingunit，cu)，且分别在无任何进一步划分的情况下的预测和变换处理。这意味着cu、pu和tu在qtbt编码块结构中具有相同的块尺寸。cu有时由具有不同颜色分量的编码块(codingblock，cb)构成，例如，在4：2：0色度格式的p、b条带的情况下，一个cu含有一个亮度cb和两个色度cb，且cu有时由具有单个分量的cb构成，例如，在i条带的情况下，一个cu仅含有一个亮度cb或仅含有两个色度cb。
另外，在美国专利申请公开案第20170208336号中提出替代基于qt、bt和/或qtbt的cu结构的名为多型树(multi-type-tree，mtt)的块划分结构。mtt划分结构仍是递归树结构。在mtt中，使用多个不同划分结构(例如三个或更多个)。举例来说，根据mtt技术，可在树结构的每个深度针对树结构的每个相应的非叶节点使用三个或更多个不同划分结构。树结构中的节点的深度可指从所述节点到树结构的根部的路径的长度(例如划分次数)。划分结构可大体上指一个块可分成多少个不同块。划分结构可以是可将块分为四个块的四叉树划分结构、可将块分为两个块的二叉树划分结构或可将块分为三个块的三叉树划分结构，此外，三叉树划分结构可能并不通过中心划分块。划分结构可具有多个不同划分类型。划分类型可另外限定如何划分块，包含对称或不对称划分、均匀或不均匀划分和/或水平或竖直划分。
在mtt中，在树结构的每个深度处，编码器100可用于使用三个另外的划分结构中的一个划分结构的特定划分类型来进一步划分子树。举例来说，编码器100可用于确定来自qt、bt、三叉树(triple-tree，tt)和其它划分结构的特定划分类型。在一个示例中，qt划分结构可包含正方形四叉树或矩形四叉树划分类型。编码器100可使用正方形四叉树划分通过沿着中心水平地和竖直地将块平分为四个均等尺寸的正方形块来对正方形块进行划分。同样，编码器100可使用矩形四叉树划分通过沿着中心水平地和竖直地将矩形块平分为四个均等尺寸的矩形块来对矩形(例如非方形)块进行划分。
bt划分结构可包含水平对称二叉树、竖直对称二叉树、水平不对称二叉树或竖直不对称二叉树划分类型中的至少一个。对于水平对称二叉树划分类型，编码器100可用于沿着块的中心水平地将块平分为相同尺寸的两个对称块。对于竖直对称二叉树划分类型，编码器100可用于沿着块的中心竖直地将块平分为相同尺寸的两个对称块。对于水平不对称二叉树划分类型，编码器100可用于将块水平地分为不同尺寸的两个块。举例来说，一个块可以是父块尺寸的1/4，而另一块可以是父块尺寸的3/4，类似于part_2n×nu或part_2n×nd划分类型。对于竖直不对称二叉树划分类型，编码器100可用于将块竖直地分为不同尺寸的两个块。举例来说，一个块可以是父块尺寸的1/4，而另一块可以是父块尺寸的3/4，类似于part_nl×2n或part_nr×2n划分类型。在其它示例中，不对称二叉树划分类型可将父块分为不同尺寸的部分。举例来说，一个子块可以是父块的3/8，而另一子块可以是父块的5/8。当然，此类划分类型可以是竖直型或水平型。
tt划分结构与qt或bt结构的类型的不同之处在于，tt划分结构并不沿着中心划分块。块的中心区域一起保持在同一子块中。不同于产生四个块的qt或产生两个块的二叉树，根据tt划分结构的划分产生三个块。根据tt划分结构的示例划分类型包含对称划分类型(水平和竖直两种)以及不对称划分类型(水平和竖直两种)。此外，根据tt划分结构的对称划分类型可以是不均等/不均匀或均等/均匀的。根据tt划分结构的不对称划分类型是不均等/不均匀的。在一个示例中，tt划分结构可包含以下划分类型中的至少一个：水平均等/均匀对称三叉树，竖直均等/均匀对称三叉树，水平不均等/不均匀对称三叉树，竖直不均等/不均匀对称三叉树，水平不均等/不均匀不对称三叉树，或竖直不均等/不均匀不对称三叉树划分类型。
总的来说，不均等/不均匀对称三叉树划分类型是围绕块的中心线对称但其中所得三个块中的至少一个的尺寸与另两个不相同的划分类型。一个优选示例是其中侧边块是块尺寸的1/4，而中心块是块尺寸的1/2。均等/均匀对称三叉树划分类型是围绕块的中心线对称且所得块的尺寸全都相同的划分类型。此类划分在块高度或宽度——依竖直或水平划分而定——是3的整倍数的情况下是可能的。不均等/不均匀不对称三叉树划分类型是并不围绕块的中心线对称且其中所得块中的至少一个并非与另两个同等尺寸的划分类型。
在一个实例中，视频编码器20的预测处理单元260可以用于执行上述分割技术的任何组合。
如图片201，块203也是或可以视为具有亮度值(采样值)的采样点的二维阵列或矩阵，虽然其尺寸比图片201小。换句话说，块203可以包括，例如，一个采样阵列(例如黑白图片201情况下的亮度阵列)或三个采样阵列(例如，彩色图片情况下的一个亮度阵列和两个色度阵列)或依据所应用的色彩格式的任何其它数目和/或类别的阵列。块203的水平和垂直方向(或轴线)上采样点的数目定义块203的尺寸。
如图2所示的编码器20用于逐块编码图片201，例如，对每个块203执行编码和预测。
残差计算
残差计算单元204用于基于图片块203和预测块265(下文提供预测块265的其它细节)计算残差块205，例如，通过逐样本(逐像素)将图片块203的样本值减去预测块265的样本值，以在样本域中获取残差块205。
变换
变换处理单元206用于在残差块205的样本值上应用例如离散余弦变换(discretecosinetransform，dct)或离散正弦变换(discretesinetransform，dst)的变换，以在变换域中获取变换系数207。变换系数207也可以称为变换残差系数，并在变换域中表示残差块205。
变换处理单元206可以用于应用dct/dst的整数近似值，例如为hevc/h.265指定的变换。与正交dct变换相比，这种整数近似值通常由某一因子按比例缩放。为了维持经正变换和逆变换处理的残差块的范数，应用额外比例缩放因子作为变换过程的一部分。比例缩放因子通常是基于某些约束条件选择的，例如，比例缩放因子是用于移位运算的2的幂、变换系数的位深度、准确性和实施成本之间的权衡等。例如，在解码器30侧通过例如逆变换处理单元212为逆变换(以及在编码器20侧通过例如逆变换处理单元212为对应逆变换)指定具体比例缩放因子，以及相应地，可以在编码器20侧通过变换处理单元206为正变换指定对应比例缩放因子。
量化
量化单元208用于例如通过应用标量量化或向量量化来量化变换系数207，以获取经量化变换系数209。经量化变换系数209也可以称为经量化残差系数209。量化过程可以减少与部分或全部变换系数207有关的位深度。例如，可在量化期间将n位变换系数向下舍入到m位变换系数，其中n大于m。可通过调整量化参数(quantizationparameter，qp)修改量化程度。例如，对于标量量化，可以应用不同的标度来实现较细或较粗的量化。较小量化步长对应较细量化，而较大量化步长对应较粗量化。可以通过量化参数(quantizationparameter，qp)指示合适的量化步长。例如，量化参数可以为合适的量化步长的预定义集合的索引。例如，较小的量化参数可以对应精细量化(较小量化步长)，较大量化参数可以对应粗糙量化(较大量化步长)，反之亦然。量化可以包含除以量化步长以及例如通过逆量化210执行的对应的量化或逆量化，或者可以包含乘以量化步长。根据例如hevc的一些标准的实施例可以使用量化参数来确定量化步长。一般而言，可以基于量化参数使用包含除法的等式的定点近似来计算量化步长。可以引入额外比例缩放因子来进行量化和反量化，以恢复可能由于在用于量化步长和量化参数的等式的定点近似中使用的标度而修改的残差块的范数。在一个实例实施方式中，可以合并逆变换和反量化的标度。或者，可以使用自定义量化表并在例如比特流中将其从编码器通过信号发送到解码器。量化是有损操作，其中量化步长越大，损耗越大。
逆量化单元210用于在经量化系数上应用量化单元208的逆量化，以获取经反量化系数211，例如，基于或使用与量化单元208相同的量化步长，应用量化单元208应用的量化方案的逆量化方案。经反量化系数211也可以称为经反量化残差系数211，对应于变换系数207，虽然由于量化造成的损耗通常与变换系数不相同。
逆变换处理单元212用于应用变换处理单元206应用的变换的逆变换，例如，逆离散余弦变换(discretecosinetransform，dct)或逆离散正弦变换(discretesinetransform，dst)，以在样本域中获取逆变换块213。逆变换块213也可以称为逆变换经反量化块213或逆变换残差块213。
重构单元214(例如，求和器214)用于将逆变换块213(即经重构残差块213)添加至预测块265，以在样本域中获取经重构块215，例如，将经重构残差块213的样本值与预测块265的样本值相加。
可选地，例如线缓冲器216的缓冲器单元216(或简称“缓冲器”216)用于缓冲或存储经重构块215和对应的样本值，用于例如帧内预测。在其它的实施例中，编码器可以用于使用存储在缓冲器单元216中的未经滤波的经重构块和/或对应的样本值来进行任何类别的估计和/或预测，例如帧内预测。
例如，编码器20的实施例可以经配置以使得缓冲器单元216不只用于存储用于帧内预测254的经重构块215，也用于环路滤波器单元220(在图2中未示出)，和/或，例如使得缓冲器单元216和经解码图片缓冲器单元230形成一个缓冲器。其它实施例可以用于将经滤波块221和/或来自经解码图片缓冲器230的块或样本(图2中均未示出)用作帧内预测254的输入或基础。
环路滤波器单元220(或简称“环路滤波器”220)用于对经重构块215进行滤波以获取经滤波块221，从而顺利进行像素转变或提高视频质量。环路滤波器单元220旨在表示一个或多个环路滤波器，例如去块滤波器、样本自适应偏移(sample-adaptiveoffset，sao)滤波器或其它滤波器，例如双边滤波器、自适应环路滤波器(adaptiveloopfilter，alf)，或锐化或平滑滤波器，或协同滤波器。尽管环路滤波器单元220在图2中示出为环内滤波器，但在其它配置中，环路滤波器单元220可实施为环后滤波器。经滤波块221也可以称为经滤波的经重构块221。经解码图片缓冲器230可以在环路滤波器单元220对经重构编码块执行滤波操作之后存储经重构编码块。
编码器20(对应地，环路滤波器单元220)的实施例可以用于输出环路滤波器参数(例如，样本自适应偏移信息)，例如，直接输出或由熵编码单元270或任何其它熵编码单元熵编码后输出，例如使得解码器30可以接收并应用相同的环路滤波器参数用于解码。
经解码图片缓冲器(decodedpicturebuffer，dpb)230可以为存储参考图片数据供视频编码器20编码视频数据之用的参考图片存储器。dpb230可由多种存储器设备中的任一个形成，例如动态随机存储器(dynamicrandomaccessmemory，dram)(包含同步dram(synchronousdram，sdram)、磁阻式ram(magnetoresistiveram，mram)、电阻式ram(resistiveram，rram))或其它类型的存储器设备。可以由同一存储器设备或单独的存储器设备提供dpb230和缓冲器216。在某一实例中，经解码图片缓冲器(decodedpicturebuffer，dpb)230用于存储经滤波块221。经解码图片缓冲器230可以进一步用于存储同一当前图片或例如先前经重构图片的不同图片的其它先前的经滤波块，例如先前经重构和经滤波块221，以及可以提供完整的先前经重构亦即经解码图片(和对应参考块和样本)和/或部分经重构当前图片(和对应参考块和样本)，例如用于帧间预测。在某一实例中，如果经重构块215无需环内滤波而得以重构，则经解码图片缓冲器(decodedpicturebuffer，dpb)230用于存储经重构块215。
预测处理单元260，也称为块预测处理单元260，用于接收或获取块203(当前图片201的当前块203)和经重构图片数据，例如来自缓冲器216的同一(当前)图片的参考样本和/或来自经解码图片缓冲器230的一个或多个先前经解码图片的参考图片数据231，以及用于处理这类数据进行预测，即提供可以为经帧间预测块245或经帧内预测块255的预测块265。
模式选择单元262可以用于选择预测模式(例如帧内或帧间预测模式)和/或对应的用作预测块265的预测块245或255，以计算残差块205和重构经重构块215。
模式选择单元262的实施例可以用于选择预测模式(例如，从预测处理单元260所支持的那些预测模式中选择)，所述预测模式提供最佳匹配或者说最小残差(最小残差意味着传输或存储中更好的压缩)，或提供最小信令开销(最小信令开销意味着传输或存储中更好的压缩)，或同时考虑或平衡以上两者。模式选择单元262可以用于基于码率失真优化(ratedistortionoptimization，rdo)确定预测模式，即选择提供最小码率失真优化的预测模式，或选择相关码率失真至少满足预测模式选择标准的预测模式。
下文将详细解释编码器20的实例(例如，通过预测处理单元260)执行的预测处理和(例如，通过模式选择单元262)执行的模式选择。
如上文所述，编码器20用于从(预先确定的)预测模式集合中确定或选择最好或最优的预测模式。预测模式集合可以包括例如帧内预测模式和/或帧间预测模式。
帧内预测模式集合可以包括35种不同的帧内预测模式，例如，如dc(或均值)模式和平面模式的非方向性模式，或如h.265中定义的方向性模式，或者可以包括67种不同的帧内预测模式，例如，如dc(或均值)模式和平面模式的非方向性模式，或如正在发展中的h.266中定义的方向性模式。
(可能的)帧间预测模式集合取决于可用参考图片(即，例如前述存储在dbp230中的至少部分经解码图片)和其它帧间预测参数，例如取决于是否使用整个参考图片或只使用参考图片的一部分，例如围绕当前块的区域的搜索窗区域，来搜索最佳匹配参考块，和/或例如取决于是否应用如半像素和/或四分之一像素内插的像素内插。
除了以上预测模式，也可以应用跳过模式和/或直接模式。
预测处理单元260可以进一步用于将块203分割成较小的块分区或子块，例如，通过迭代使用四叉树(quad-tree，qt)分割、二进制树(binary-tree，bt)分割或三叉树(triple-tree，tt)分割，或其任何组合，以及用于例如为块分区或子块中的每一个执行预测，其中模式选择包括选择分割的块203的树结构和选择应用于块分区或子块中的每一个的预测模式。
帧间预测单元244可以包含运动估计(motionestimation，me)单元(图2中未示出)和运动补偿(motioncompensation，mc)单元(图2中未示出)。运动估计单元用于接收或获取图片块203(当前图片201的当前图片块203)和经解码图片231，或至少一个或多个先前经重构块，例如，一个或多个其它/不同先前经解码图片231的经重构块，来进行运动估计。例如，视频序列可以包括当前图片和先前经解码图片31，或换句话说，当前图片和先前经解码图片31可以是形成视频序列的图片序列的一部分，或者形成该图片序列。本申请的融合候选者列表的构建可以通过该该运动估计模块来实现。
例如，编码器20可以用于从多个其它图片中的同一或不同图片的多个参考块中选择参考块，并向运动估计单元(图2中未示出)提供参考图片(或参考图片索引……)和/或提供参考块的位置(x、y坐标)与当前块的位置之间的偏移(空间偏移)作为帧间预测参数。该偏移也称为运动向量(motionvector，mv)。
运动补偿单元用于获取，例如接收帧间预测参数，并基于或使用帧间预测参数执行帧间预测来获取帧间预测块245。由运动补偿单元(图2中未示出)执行的运动补偿可以包含基于通过运动估计(可能执行对子像素精确度的内插)确定的运动/块向量取出或生成预测块。内插滤波可从已知像素样本产生额外像素样本，从而潜在地增加可用于编码图片块的候选预测块的数目。一旦接收到用于当前图片块的pu的运动向量，运动补偿单元246可以在一个参考图片列表中定位运动向量指向的预测块。运动补偿单元246还可以生成与块和视频条带相关联的语法元素，以供视频解码器30在解码视频条带的图片块时使用。
帧内预测单元254用于获取，例如接收同一图片的图片块203(当前图片块)和一个或多个先前经重构块，例如经重构相邻块，以进行帧内估计。例如，编码器20可以用于从多个(预定)帧内预测模式中选择帧内预测模式。
编码器20的实施例可以用于基于优化标准选择帧内预测模式，例如基于最小残差(例如，提供最类似于当前图片块203的预测块255的帧内预测模式)或最小码率失真(例如……)。
帧内预测单元254进一步用于基于如所选择的帧内预测模式的帧内预测参数确定帧内预测块255。在任何情况下，在选择用于块的帧内预测模式之后，帧内预测单元254还用于向熵编码单元270提供帧内预测参数，即提供指示所选择的用于块的帧内预测模式的信息。在一个实例中，帧内预测单元254可以用于执行下文描述的帧内预测技术的任意组合。
熵编码单元270用于将熵编码算法或方案(例如，可变长度编码(variablelengthcoding，vlc)方案、上下文自适应vlc(contextadaptivevlc，cavlc)方案、算术编码方案、上下文自适应二进制算术编码(contextadaptivebinaryarithmeticcoding，cabac)、基于语法的上下文自适应二进制算术编码(syntax-basedcontext-adaptivebinaryarithmeticcoding，sbac)、概率区间分割熵(probabilityintervalpartitioningentropy，pipe)编码或其它熵编码方法或技术)应用于经量化残差系数209、帧间预测参数、帧内预测参数和/或环路滤波器参数中的单个或所有上(或不应用)，以获取可以通过输出272以例如经编码比特流21的形式输出的经编码图片数据21。可以将经编码比特流传输到视频解码器30，或将其存档稍后由视频解码器30传输或检索。熵编码单元270还可用于熵编码正被编码的当前视频条带的其它语法元素。
视频编码器20的其它结构变型可用于编码视频流。例如，基于非变换的编码器20可以在没有针对某些块或帧的变换处理单元206的情况下直接量化残差信号。在另一实施方式中，编码器20可具有组合成单个单元的量化单元208和逆量化单元210。
图3示出示例性视频解码器30，用于实现本申请的技术，即进行待解码块(当前块)的融合候选者列表构建以及基于构建的融合候选者列表进行压缩图像的解码。视频解码器30用于接收例如由编码器20编码的经编码图片数据(例如，经编码比特流)21，以获取经解码图片231。在解码过程期间，视频解码器30从视频编码器20接收视频数据，例如表示经编码视频条带的图片块的经编码视频比特流及相关联的语法元素。
在图3的实例中，解码器30包括熵解码单元304、逆量化单元310、逆变换处理单元312、重构单元314(例如求和器314)、缓冲器316、环路滤波器320、经解码图片缓冲器330以及预测处理单元360。预测处理单元360可以包含帧间预测单元344、帧内预测单元354和模式选择单元362。在一些实例中，视频解码器30可执行大体上与参照图2的视频编码器20描述的编码遍次互逆的解码遍次。
熵解码单元304用于对经编码图片数据21执行熵解码，以获取例如经量化系数309和/或经解码的编码参数(图3中未示出)，例如，帧间预测、帧内预测参数、环路滤波器参数和/或其它语法元素中(经解码)的任意一个或全部。熵解码单元304进一步用于将帧间预测参数、帧内预测参数和/或其它语法元素转发至预测处理单元360。视频解码器30可接收视频条带层级和/或视频块层级的语法元素。
逆量化单元310功能上可与逆量化单元110相同，逆变换处理单元312功能上可与逆变换处理单元212相同，重构单元314功能上可与重构单元214相同，缓冲器316功能上可与缓冲器216相同，环路滤波器320功能上可与环路滤波器220相同，经解码图片缓冲器330功能上可与经解码图片缓冲器230相同。
预测处理单元360可以包括帧间预测单元344和帧内预测单元354，其中帧间预测单元344功能上可以类似于帧间预测单元244，帧内预测单元354功能上可以类似于帧内预测单元254。预测处理单元360通常用于执行块预测和/或从经编码数据21获取预测块365，以及从例如熵解码单元304(显式地或隐式地)接收或获取预测相关参数和/或关于所选择的预测模式的信息。
当视频条带经编码为经帧内编码(i)条带时，预测处理单元360的帧内预测单元354用于基于信号表示的帧内预测模式及来自当前帧或图片的先前经解码块的数据来产生用于当前视频条带的图片块的预测块365。当视频帧经编码为经帧间编码(即b或p)条带时，预测处理单元360的帧间预测单元344(例如，运动补偿单元)用于基于运动向量及从熵解码单元304接收的其它语法元素生成用于当前视频条带的视频块的预测块365。对于帧间预测，可从一个参考图片列表内的一个参考图片中产生预测块。视频解码器30可基于存储于dpb330中的参考图片，使用默认建构技术来建构参考帧列表：列表0和列表1。
预测处理单元360用于通过解析运动向量和其它语法元素，确定用于当前视频条带的视频块的预测信息，并使用预测信息产生用于正经解码的当前视频块的预测块。例如，预测处理单元360使用接收到的一些语法元素确定用于编码视频条带的视频块的预测模式(例如，帧内或帧间预测)、帧间预测条带类型(例如，b条带、p条带或gpb条带)、用于条带的参考图片列表中的一个或多个的建构信息、用于条带的每个经帧间编码视频块的运动向量、条带的每个经帧间编码视频块的帧间预测状态以及其它信息，以解码当前视频条带的视频块。
逆量化单元310可用于逆量化(即，反量化)在比特流中提供且由熵解码单元304解码的经量化变换系数。逆量化过程可包含使用由视频编码器20针对视频条带中的每一视频块所计算的量化参数来确定应该应用的量化程度并同样确定应该应用的逆量化程度。
逆变换处理单元312用于将逆变换(例如，逆dct、逆整数变换或概念上类似的逆变换过程)应用于变换系数，以便在像素域中产生残差块。
重构单元314(例如，求和器314)用于将逆变换块313(即经重构残差块313)添加到预测块365，以在样本域中获取经重构块315，例如通过将经重构残差块313的样本值与预测块365的样本值相加。
环路滤波器单元320(在编码循环期间或在编码循环之后)用于对经重构块315进行滤波以获取经滤波块321，从而顺利进行像素转变或提高视频质量。环路滤波器单元320旨在表示一个或多个环路滤波器，例如去块滤波器、样本自适应偏移(sample-adaptiveoffset，sao)滤波器或其它滤波器，例如双边滤波器、自适应环路滤波器(adaptiveloopfilter，alf)，或锐化或平滑滤波器，或协同滤波器。尽管环路滤波器单元320在图3中示出为环内滤波器，但在其它配置中，环路滤波器单元320可实施为环后滤波器。
随后将给定帧或图片中的经解码视频块321存储在存储用于后续运动补偿的参考图片的经解码图片缓冲器330中。
解码器30用于例如，藉由输出332输出经解码图片31，以向用户呈现或供用户查看。
视频解码器30的其它变型可用于对压缩的比特流进行解码。例如，解码器30可以在没有环路滤波器单元320的情况下生成输出视频流。例如，基于非变换的解码器30可以在没有针对某些块或帧的逆变换处理单元312的情况下直接逆量化残差信号。在另一实施方式中，视频解码器30可以具有组合成单个单元的逆量化单元310和逆变换处理单元312。
图4是根据本发明实施例的视频译码设备400(例如视频编码设备400或视频解码设备400)的结构示意图。视频译码设备400适于实施本文所描述的实施例。在一个实施例中，视频译码设备400可以是视频解码器(例如图1a的视频解码器30)或视频编码器(例如图1a的视频编码器20)。在另一个实施例中，视频译码设备400可以是上述图1a的视频解码器30或图1a的视频编码器20中的一个或多个组件。
视频译码设备400包括：用于接收数据的入口端口410和接收单元(rx)420，用于处理数据的处理器、逻辑单元或中央处理器(cpu)430，用于传输数据的发射器单元(tx)440和出口端口450，以及，用于存储数据的存储器460。视频译码设备400还可以包括与入口端口410、接收器单元420、发射器单元440和出口端口450耦合的光电转换组件和电光(eo)组件，用于光信号或电信号的出口或入口。
处理器430通过硬件和软件实现。处理器430可以实现为一个或多个cpu芯片、核(例如，多核处理器)、fpga、asic和dsp。处理器430与入口端口410、接收器单元420、发射器单元440、出口端口450和存储器460通信。处理器430包括译码模块470(例如编码模块470或解码模块470)。编码/解码模块470实现上述公开的实施例。例如，编码/解码模块470实现、处理或提供各种编码操作。因此，通过编码/解码模块470为视频译码设备400的功能提供了实质性的改进，并影响了视频译码设备400到不同状态的转换。或者，以存储在存储器460中并由处理器430执行的指令来实现编码/解码模块470。
存储器460包括一个或多个磁盘、磁带机和固态硬盘，可以用作溢出数据存储设备，用于在选择性地执行这些程序时存储程序，并存储在程序执行过程中读取的指令和数据。存储器460可以是易失性和/或非易失性的，可以是只读存储器(rom)、随机存取存储器(ram)、随机存取存储器(ternarycontent-addressablememory，tcam)和/或静态随机存取存储器(sram)。
图5是根据一示例性实施例的可用作图1a中的源设备12和目的地设备14中的任一个或两个的装置500的简化框图。装置500可以实现本申请的技术，用于进行融合候选者列表的构建以及基于该构建的融合候选者列表进行图像的编码或者解码。装置500可以采用包含多个计算设备的计算系统的形式，或采用例如移动电话、平板计算机、膝上型计算机、笔记本电脑、台式计算机等单个计算设备的形式。
装置500中的处理器502可以为中央处理器。或者，处理器502可以为现有的或今后将研发出的能够操控或处理信息的任何其它类型的设备或多个设备。如图所示，虽然可以使用例如处理器502的单个处理器实践所揭示的实施方式，但是使用一个以上处理器可以实现速度和效率方面的优势。
在一实施方式中，装置500中的存储器504可以为只读存储器(readonlymemory，rom)设备或随机存取存储器(randomaccessmemory，ram)设备。任何其他合适类型的存储设备都可以用作存储器504。存储器504可以包括代码和由处理器502使用总线512访问的数据506。存储器504可进一步包括操作系统508和应用程序510，应用程序510包含至少一个准许处理器502执行本文所描述的方法的程序。例如，应用程序510可以包括应用1到n，应用1到n进一步包括执行本文所描述的融合候选者列表构建的视频编码应用。装置500还可包含采用从存储器514形式的附加存储器，该从存储器514例如可以为与移动计算设备一起使用的存储卡。因为视频通信会话可能含有大量信息，这些信息可以整体或部分存储在从存储器514中，并按需要加载到存储器504用于处理。
装置500还可包含一或多个输出设备，例如显示器518。在一个实例中，显示器518可以为将显示器和可操作以感测触摸输入的触敏元件组合的触敏显示器。显示器518可以通过总线512耦合于处理器502。除了显示器518还可以提供其它准许用户对装置500编程或以其它方式使用装置500的输出设备，或提供其它输出设备作为显示器518的替代方案。当输出设备是显示器或包含显示器时，显示器可以以不同方式实现，包含通过液晶显示器(liquidcrystaldisplay，lcd)、阴极射线管(cathode-raytube，crt)显示器、等离子显示器或发光二极管(lightemittingdiode，led)显示器，如有机led(organicled，oled)显示器。
装置500还可包含图像感测设备520或与其连通，图像感测设备520例如为相机或为现有的或今后将研发出的可以感测图像的任何其它图像感测设备520，所述图像例如为运行装置500的用户的图像。图像感测设备520可以放置为直接面向运行装置500的用户。在一实例中，可以配置图像感测设备520的位置和光轴以使其视野包含紧邻显示器518的区域且从该区域可见显示器518。
装置500还可包含声音感测设备522或与其连通，声音感测设备522例如为麦克风或为现有的或今后将研发出的可以感测装置500附近的声音的任何其它声音感测设备。声音感测设备522可以放置为直接面向运行装置500的用户，并可以用于接收用户在运行装置500时发出的声音，例如语音或其它发声。
虽然图5中将装置500的处理器502和存储器504绘示为集成在单个单元中，但是还可以使用其它配置。处理器502的运行可以分布在多个可直接耦合的机器中(每个机器具有一个或多个处理器)，或分布在本地区域或其它网络中。存储器504可以分布在多个机器中，例如基于网络的存储器或多个运行装置500的机器中的存储器。虽然此处只绘示单个总线，但装置500的总线512可以由多个总线形成。进一步地，从存储器514可以直接耦合至装置500的其它组件或可以通过网络访问，并且可包括单个集成单元，例如一个存储卡，或多个单元，例如多个存储卡。因此，可以以多种配置实施装置500。
图6是由根据图1a及1b中所示视频编码器20以及视频解码器30实现本发明一实施例中融合候选者列表构建方法的实例操作的流程图。视频编码器20或者视频解码器30的一个或多个功能单元包含预测处理单元260/360，可以用于执行图6的方法。在图6的实例中提出一种改进的融合候选者列表构建方法，在将非相邻空间融合候选者(non-adjacentspatialmergecandidate)加入融合候选者列表(mergecandidatelist)的过程中，根据非相邻空间融合候选者对应的帧间预测模式判断是否将此非相邻空间融合候选者加入融合候选者列表，提高预测效率。
该候选者列表的构建方法600包括：
s601基于预设的第一选择规则，将与当前块空域邻接的相邻块的运动信息作为所述当前块的空间融合候选者加入所述当前块的融合候选者列表中；
其中，所述预设的第一选择规则包括，当所述相邻块可得并且所述相邻块的运动信息与特定位置的相邻块的运动信息不同时，则将所述相邻块的运动信息作为所述当前块的空间融合候选者加入所述当前块的融合候选者列表中；以及
s603基于预设的第二选择规则，将与所述当前块空域不邻接的非相邻块的运动信息作为所述当前块的非相邻空间融合候选者加入所述融合候选者列表中；
其中，所述当前块具有一个或者多个空域不邻接的所述非相邻块，所述预设的第二选择规则包括：当所述非相邻块可得的情况下判断所述非相邻块中的至少一个非相邻块的帧间预测模式不是预定的帧间预测模式，且所述至少一个非相邻块的运动信息与特定位置的相邻块或者非相邻块的运动信息相同时，则将所述至少一个非相邻块的运动信息作为所述当前块的非相邻空间融合候选者加入所述融合候选者列表中，当所述非相邻块可得的情况下判断所述非相邻块中的至少一个非相邻块的帧间预测模式是预定的帧间预测模式，则不将所述至少一个非相邻块的非相邻空间融合候选者加入当前块的融合候选者列表中。
其中，所述预定的帧间预测模式为skip/merge模式和/或者仿射(affine)变换预测模式。
可以理解的，上述方案中所述非相邻块中的至少一个非相邻块可以是预定位置的相邻块，即，本发明允许部分的非相邻块进行帧间预测模式的判定，当然也允许对所有非相邻块进行帧间预测模式的判定。
由于非相邻空间融合候选者的数目较多，而融合候选者列表的长度较小，将融合候选者加入融合候选者列表过程中对融合候选者进行适当的筛选，可以提高融合候选者列表中各融合候选者的多样性和它们与当前块运动信息的相似性，从而提高预测效率。而现有技术根据一个非相邻空间融合候选者是否与融合候选者列表已有融合候选者重复来判断是否将这个非相邻空间融合候选者加入融合候选者列表，但是没有考虑非相邻空间融合候选者对应的帧间预测模式。使用skip/merge模式的非相邻空间融合候选者的运动信息容易与相邻空间融合候选者的运动信息重复或相似，不利于提高融合候选者列表中运动信息的多样性。另外，如果非相邻空间融合候选者使用仿射模型预测模式，而当前块使用平动模型预测模式，这两个区域具有不同的运动类型，所以这个非相邻空间融合候选者与当前块的实际运动信息的相关性较低，应当不加入融合候选者列表。而本发明中在获取非相邻空间融合候选者的过程中将非相邻块的帧间预测模式作为判定标准，可以有效提高融合候选者列表中运动信息的多样性，也可避免将过多相关性不高的融合候选者加入到融合候选者列表中，从而有效的提高编解码的性能。需要注意的是，上述的预设的帧间预测模式也可以是除本发明提到的跳过模式/融合模式或者是affine模式除外的其他模式，比如光流场模式等。
可选地，在所述步骤s603之前，本发明的候选者列表的构建方法还可以包括如下步骤：
s602将所述当前块的参考帧中的同位块的右下角相邻块的运动信息作为所述当前块的时域融合候选者加入所述融合候选者列表中，其中所述同位块在所述参考帧中的位置与所述当前块在当前中的位置相同，或者在所述同位块的右下角相邻块的运动信息不可得的情况下，将所述同位块的中心点的运动信息作为所述当前块的时域融合候选者加入所述融合候选者列表中。
该步骤的是继承hevc中对于时域的融合候选者的获取步骤，该步骤利用时域上当前块的参考帧内相同位置处的块(同位块)已经解码的特性，将该同位块右下角相邻的运动信息作为当前块的时域融合候选者加入到融合候选者列表中，以丰富融合候选者列表的多样性。需要注意的是，所述时域的融合候选者也可以根据需求选择同位块相邻的其他相邻或者非相邻位置处的块中获取，其可作为上述步骤的一个进一步的扩展方案或者是替代方案与本发明方案结合。
可选地，在所述步骤s603之后，本发明的候选者列表的构建方法还可以包括如下步骤
s605在所述当前块属于双向预测分片(bi-predictiveslice)时将双向预测融合候选者加入到所述融合候选者列表中，或者，在将所述双向预测融合候选者加入到所述融合候选者列表中后，所述融合候选者列表中的所述融合候选者的数目未达到所述预定值，则将零运动矢量融合候选者加入到所述融合候选者列表中；或在所述当前块属于单向预测分片(uni-predictiveslice)时将零运动矢量融合候选者加入到所述融合候选者列表中。
如前所述，融合候选者列表通常是具有预定数目的融合候选者，但是在个别的情况下可能出现，遍历完上述的步骤s601～s603之后，所述的融合候选者列表仍然没有填满，即还有空间可以放入其他融合候选者，为了充分利用融合候选者列表所提供的编码空间，可以根据当前块的预测类型在对所述的融合候选者列表进行填充，其中就包括在所述当前块属于双向预测分片(bi-predictiveslice)时将双向预测融合候选者加入到所述融合候选者列表中，或者，在将所述双向预测融合候选者加入到所述融合候选者列表中后，所述融合候选者列表中的所述融合候选者的数目未达到所述预定值，则将零运动矢量融合候选者加入到所述融合候选者列表中；或在所述当前块属于单向预测分片(uni-predictiveslice)时将零运动矢量融合候选者加入到所述融合候选者列表中。
发明方案根据非相邻空间融合候选者的帧间预测模式判断是否将非相邻空间融合候选者加入融合候选者列表，从而使得加入的非相邻空间融合候选者更加准确和多样化，可提高编码效率。以下是基于本发明的进行融合候选者列表构建的具体实例。
假定融合候选者列表长度为n，该n为预设值，即构建完成后融合候选者列表中包含的融合候选者个数为n，例如n＝5、6、8、10等。具体的，在一实施例中融合候选者列表构建方法包括如下步骤；
步骤1：将与当前块空域相邻的空间融合候选者加入当前块的融合候选者列表。
此步骤为现有技术，例如hevc中获取空间融合候选者并将空间融合候选者加入融合候选者列表的方法。空域相邻的空间融合候选者为图9中a、b、c、d、e块的运动信息，他们加入融合候选者列表的顺序为a、b、c、d、e。
假设当前块的左上角坐标为p0＝(x0,y0)，当前块的宽和高分别为w和h,空间相邻的a、b、c、d、e块的大小为4x4，则a块的左上角坐标为pa＝(x0-4,y0+h-4)；b块的左上角坐标为pb＝(x0+w-4,y0-4)；c块的左上角坐标为pc＝(x0+w,y0-4)；d块的左上角坐标为pd＝(x0-4,y0+h)；e块的左上角坐标为pe＝(x0-4,y0-4)。通常，运动信息以4x4块为单位存储在运动矢量场中，一个块的运动信息可由这个块左上角坐标在运动矢量场中找到对应的运动信息。例如块左上角坐标为(x,y)，则它在运动矢量场中的对应元素的坐标为(x>>2,y>>2)，“>>”表示右移操作。在获取到空间相邻块的左上角坐标以及其在运动矢量长中的对应元素坐标之后便找到了对应的空间相邻块，如块a～e的运动信息，或者说块a～e的运动矢量信息，也称作空间融合候选者，这些运动信息包括但不限于是使用一个还是两个参考图片列表以及每个列表的参考索引和运动矢量的信息，融合候选者列表中的第一候选者是空间相邻块a。在现有的hevc标准中，根据图9，通过依次循序检查a、b、c、d及e最多可以在合并列表中以所述顺序插入四个空间融合候选者。在vvc中允许的空间融合候选者的最大数目可以不是四，可以更多，当然也可以更少，这取决于算法的复杂度以及不同数目的空间融合候选者所能带来的增益。在将相邻块的所有运动信息作为融合候选者之前执行一些另外的冗余检查。这些冗余检查可以分为两类，用于两个不同的目的：a.避免列表中存在具有冗余运动信息的候选者；b.防止合并两个可以用其它方式表示的会产生冗余语法的分区。当m是空间融合候选者的数量时，完整的冗余检查将由
步骤2：将当前块的时域融合候选者加入当前块的融合候选者列表。
此步骤为可选步骤，即，该步骤可以根据需求选择执行或者不执行，在hevc中，(sps/slice_temporal_mvp_enabled_flag)在序列级或者图片级控制tmvp的启用或者关闭。当前块的时域融合候选者通常获取自当前块的参考图像中与当前块处于相同位置的图像块的右下角的图像块的运动信息，如果该图像块不可用，则取自当前块的参考图像中与当前块处于相同位置的图像块的中心位置的运动信息。具体，可参见，在recommendationitu-th.265|internationalstandardiso/iec23008-2representsanevolutionoftheexistingvideocodingrecommendations，8.5.3.2derivationprocessformotionvectorcomponentsandreferenceindices。
步骤3：根据当前块的非相邻空间融合候选者的帧间预测模式，将非相邻空间融合候选者加入当前块的融合候选者列表。
当前块的非相邻空间融合候选者的构成可以有多种方式，本发明不作限定。例如非相邻空间融合候选者为图9中a1、b1、c1、d1、e1、a2、b2、c2、d2、e2、f、g、h、i块的运动信息；非相邻空间融合候选者加入融合候选者列表的顺序为a1、b1、c1、d1、e1、f、g、h、i、a2、b2、c2、d2、e2。又例如图1中a1、b1、c1、d1、e1、a2、b2、c2、d2、e2块的运动信息，非相邻空间融合候选者加入融合候选者列表的顺序为a1、b1、c1、d1、e1、a2、b2、c2、d2、e2。
记当前块的左上角坐标为p0＝(x0,y0)，当前块的宽和高分别为w和h,则上述ai块(i＝1或2)的左上角坐标为pai＝(x0-4-i*sx,y0+h-4)；bi块的左上角坐标为pbi＝(x0+w-4,y0-4-i*sy)；ci块的左上角坐标为pci＝(x0+w,y0-4-i*sy)；di块的左上角坐标为pdi＝(x0-4-i*sx,y0+h)；ei块的左上角坐标为pei＝(x0-4-i*sx,y0-4-i*sy)。
非相邻空间融合候选者的帧间预测模式为非相邻空间融合候选者所属的编码单元的帧间预测模式，或者非相邻空间融合候选者所属的预测单元的帧间预测模式。如果非相邻空间融合候选者对应的编码单元为不可得(notavailable，例如非相邻空间融合候选者对应的编码单元不在当前条带中或者还没有完成重建)，或者非相邻空间融合候选者对应的编码单元可得但不使用帧间预测模式，则此非相邻空间融合候选者为不可得。不可得的非相邻空间融合候选者不加入融合候选者列表，此为现有技术，具体可以参考现有的hevc标准中相关章节。
对一个可得的非相邻空间融合候选者，根据它的帧间预测模式，将它加入当前块的融合候选者列表的处理可包含以下处理方法之一：
方法一：如果非相邻空间融合候选者的帧间预测模式为skip/merge模式，则不将这个非相邻空间融合候选者加入融合候选者列表；否则，判断非相邻空间融合候选者的运动信息是否不同于预设位置的融合候选者的运动信息或者是否不同于融合候选者列表中已有的融合候选者的运动信息，如果此判断成立，即，如果不同，则将这个非相邻空间融合候选者加入融合候选者列表。判断两个运动信息是否不同可以根据当两个运动信息的预测方向、参考帧以及运动矢量中任意一个是否相同来判定，如果上述的任意一个参数不同不同时，则认为这两个运动信息不同。
方法二：如果非相邻空间融合候选者的帧间预测模式为仿射变换预测模式，则不将这个非相邻空间融合候选者加入融合候选者列表；否则，判断非相邻空间融合候选者的运动信息是否不同于特定位置的融合候选者的运动信息或者是否不同于融合候选者列表中已有的融合候选者的运动信息，如果此判断成立，即，如果不同，则将这个非相邻空间融合候选者加入融合候选者列表。
方法三：如果非相邻空间融合候选者的帧间预测模式为skip/merge模式或仿射变换预测模式，则不将这个非相邻空间融合候选者加入融合候选者列表；否则，判断非相邻空间融合候选者的运动信息是否不同于预设位置的融合候选者的运动信息或者是否不同于融合候选者列表中已有的融合候选者的运动信息，如果此判断成立，如果不同，则将这个非相邻空间融合候选者加入融合候选者列表。
方法四：如果非相邻空间融合候选者的帧间预测模式为skip/merge模式且非相邻空间融合候选者位于a2、b2、c2、d2、e2块内，则不将这个非相邻空间融合候选者加入融合候选者列表；否则，判断非相邻空间融合候选者的运动信息是否不同于预设位置的融合候选者的运动信息或者是否不同于融合候选者列表中已有的融合候选者的运动信息，如果此判断成立，如果不同，则将这个非相邻空间融合候选者加入融合候选者列表。
方法五：如果非相邻空间融合候选者的帧间预测模式为skip/merge模式且非相邻空间融合候选者位于特定编码块内时，所述的特定的块包括，a1、b1、c2、d2、e2块，则不将这个非相邻空间融合候选者加入融合候选者列表；否则，判断非相邻空间融合候选者的运动信息是否不同于预设位置的融合候选者的运动信息或者是否不同于融合候选者列表中已有的融合候选者的运动信息，如果此判断成立，如果不同，则将这个非相邻空间融合候选者加入融合候选者列表。
方法六：如果非相邻空间融合候选者的帧间预测模式为仿射变换模式且非相邻空间融合候选者位于a2、b2、c2、d2、e2块内，则不将这个非相邻空间融合候选者加入融合候选者列表；否则，判断非相邻空间融合候选者的运动信息是否不同于预设位置的融合候选者的运动信息或者是否不同于融合候选者列表中已有的至少一个融合候选者的运动信息，如果此判断成立，如果不同，则将这个非相邻空间融合候选者加入融合候选者列表。
方法七：如果非相邻空间融合候选者的帧间预测模式为仿射变换模式且非相邻空间融合候选者位于a1、b1、c1、d1、e1块内，则不将这个非相邻空间融合候选者加入融合候选者列表；否则，判断非相邻空间融合候选者的运动信息是否不同于预设位置的融合候选者的运动信息或者是否不同于融合候选者列表中已有的至少一个融合候选者的运动信息，如果此判断成立，如果不同，则将这个非相邻空间融合候选者加入融合候选者列表。
步骤4：加入其它类型的融合候选者，如双向预测融合候选者(bi-predictivemergecandidate)和零运动矢量融合候选者(zeromotionvectormergecandidate)。
此步骤为可选步骤，例如hevc中获取双向预测融合候选者和零运动矢量融合候选者并将它们加入融合候选者列表的方法。
解码当前块时，若当前块使用skip/merge模式，则从码流中解析mergeindex，并从上述方法构建的融合候选者列表中选择mergeindex对应的融合候选者，得到当前块的运动信息。根据当前块的运动信息，进行运动补偿，得到当前块的预测图像。将当前块的预测图像与当前块的残差图像相加，得到当前块的重建图像，从而完成当前块的解码。
相比于现有技术，发明方案根据非相邻空间融合候选者的帧间预测模式判断是否将非相邻空间融合候选者加入融合候选者列表，从而使得加入的非相邻空间融合候选者更加准确和多样化，可提高编码效率。
图7是由根据图1a及1b中所示视频解码器30实现本发明一实施例中应用图6所构建融合候选者列表构建方法进行图像编码的实例操作的流程图。视频解码器30的一个或多个功能单元包含预测处理单元360，可以用于执行图7的方法。在图7的实例中，基于图6的方法所构建的融合候选者列表来进行图片的解码，所述解码方法700具体包括：
s701解析码流获取融合候选者索引；
s703根据所述融合候选者索引从所述融合候选者列表中获取对应的融合候选者并将所述融合候选者作为所述当前块的运动信息；
其中所述融合候选者列表的构建方法请参考图6以及本文中对应文字说明。
s705根据所述当前块的运动信息对当前块进行帧间预测获得所述当前块的预测图像；
s707获取所述当前块的残差图像；
s709将所述当前块的预测图像以及所述当前块的残差图像相加得到所述当前块的重建图像。
在所述步骤s701之前或者在步骤s701之后以及s703之前，所述解码方法700还包括；根据图6中方法构建得到所述当前块的融合候选则列表。
相比于现有技术，上述解码方法中，采用了根据非相邻空间融合候选者的帧间预测模式判断是否将非相邻空间融合候选者加入融合候选者列表的融合候选者列表构建方法，从而使得加入的非相邻空间融合候选者更加准确和多样化，可提高解码效率。
图8是由根据图1a及1b中所示视频编码器20实现本发明一实施例中应用图6所构建融合候选者列表构建方法进行图像编码的实例操作的流程图。视频编码器20的一个或多个功能单元包含预测处理单元260，可以用于执行图8的方法。在图8的实例中，基于图6的方法所构建的融合候选者列表来进行图片的编码，所述解码方法800具体包括：
s801基于所述融合候选者列表中的每个融合候选者对所述当前块进行基于rdo的融合评估(mergeestimation)并将率失真代价值最小的融合候选者作为当前块的运动信息；
其中所述融合候选者列表的构建方法请参考图6以及本文中对应文字说明。
s803基于所述当前块的运动信息对所述当前块进行编码形成编码数据；
s805将所述率失真代价值最小的融合候选者在所述融合候选列表中的位置索引附加至所述编码数据中。
在所述步骤s801之前或者在步骤s801之后以及s803之前，所述解码方法800还包括；根据图6中方法构建得到所述当前块的融合候选则列表。
相比于现有技术，上述编码方法中，采用了根据非相邻空间融合候选者的帧间预测模式判断是否将非相邻空间融合候选者加入融合候选者列表的融合候选者列表构建方法，从而使得加入的非相邻空间融合候选者更加准确和多样化，可提高解码效率。
本申请实施例提供一种用于进行帧间预测的融合候选运动者列表的构建装置，该构建装置可以为视频解码器，也可以为视频编码器，还可以为解码器。具体的，融合候选运动者列表的构建装置用于执行以上融合候选运动者列表的构建方法中的构建装置所执行的步骤。本申请实施例提供的构建装置可以包括相应步骤所对应的模块。
本申请实施例可以根据上述方法示例对融合候选运动者列表的构建装置进行功能模块的划分，例如，可以对应各个功能划分各个功能模块，也可以将两个或两个以上的功能集成在一个处理模块中。上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。本申请实施例中对模块的划分是示意性的，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式。
在采用对应各个功能划分各个功能模块的情况下，图11示出上述实施例中所涉及的用于进行帧间预测的融合候选运动者列表的构建装置的一种可能的结构示意图。如图11所示，融合候选运动者列表的构建装置1100包括空域相邻融合候选者获取模块1101、空域非相邻融合候选者获取模块1103以及，可选的时域融合候选者获取模块1105及扩展融合候选者获取模块1107。
空域相邻融合候选者获取模块1101，用于，基于预设的第一选择规则，将与当前块空域邻接的相邻块的运动信息作为所述当前块的空间融合候选者加入所述当前块的融合候选者列表中，其中，所述预设的第一选择规则包括，当所述相邻块可得并且所述相邻块的运动信息与特定位置的相邻块的运动信息不同时，则将所述相邻块的运动信息作为所述当前块的空间融合候选者加入所述当前块的融合候选者列表中；
空域非相邻融合候选者获取模块1103，用于，基于预设的第二选择规则，将与所述当前块空域不邻接的非相邻块的运动信息作为所述当前块的非相邻空间融合候选者加入所述融合候选者列表中，其中，所述当前块具有一个或者多个空域不邻接的所述非相邻块，所述预设的第二选择规则包括：当所述非相邻块可得的情况下判断所述非相邻块中的至少一个非相邻块的帧间预测模式不是预定的帧间预测模式，且所述至少一个非相邻块的运动信息与特定位置的相邻块或者非相邻块的运动信息相同时，则将所述至少一个非相邻块的运动信息作为所述当前块的非相邻空间融合候选者加入所述融合候选者列表中，当所述非相邻块可得的情况下判断所述非相邻块中的至少一个非相邻块的帧间预测模式是预定的帧间预测模式，则不将所述至少一个非相邻块的非相邻空间融合候选者加入当前块的融合候选者列表中。
可选地，时域融合候选者获取模块1105，用于，将所述当前块在参考帧中相同位置处的同位块的右下角相邻块的运动信息作为所述当前块的时域融合候选者加入所述融合候选者列表中，或者在所述同位块的右下角相邻块的运动信息不可得的情况下，将所述同位块的中心点的运动信息作为所述当前块的时域融合候选者加入所述融合候选者列表中。
可选地，扩展融合候选者获取模块1107，在所述当前块属于双向预测分片(bi-predictiveslice)时将双向预测融合候选者加入到所述融合候选者列表中，或者，在将所述双向预测融合候选者加入到所述融合候选者列表中后，所述融合候选者列表中的所述融合候选者的数目未达到所述预定值，则将零运动矢量融合候选者加入到所述融合候选者列表中；或在所述当前块属于单向预测分片(uni-predictiveslice)时将零运动矢量融合候选者加入到所述融合候选者列表中。
本发明还提供一种解码装置，该解码装置可以为视频解码器。具体的，解码装置用于执行图7中所述的解码方法。本申请实施例提供的解码装置可以包括相应步骤所对应的模块。
本申请实施例可以根据上述方法示例对融合候选运动者列表的构建装置进行功能模块的划分，例如，可以对应各个功能划分各个功能模块，也可以将两个或两个以上的功能集成在一个处理模块中。上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。本申请实施例中对模块的划分是示意性的，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式。
在采用对应各个功能划分各个功能模块的情况下，图12示出上述实施例中所涉及的编码装置的结构示意图。如图12所示编码装置1200包括：融合候选运动者列表构建装置1201，码流解析模块1203，运动信息获取模块1205、预测模块1207、残差获取模块1209，以及重建模块1211.
融合候选运动者列表构建装置1201，与图11中的融合候选运动者列表构建装置1100具备相同的功能，用于，构建得到当前块的融合候选者列表；
码流解析模块1203，用于，解析码流获取融合候选者索引；
运动信息获取模块1205，用于，根据所述融合候选者索引从所述融合候选者列表中获取对应的融合候选者并将所述融合候选者作为所述当前块的运动信息；
预测模块1207，用于，根据所述当前块的运动信息对当前块进行帧间预测获得所述当前块的预测图像；
残差获取模块1209，用于，获取所述当前块的残差图像；
重建模块1207，用于，将所述当前块的预测图像以及所述当前块的残差图像相加得到所述当前块的重建图像。
本发明还提供一种编码装置，该编码装置可以为视频编码器。具体的，解码装置用于执行图8中所述的解码方法。本申请实施例提供的编码装置可以包括相应步骤所对应的模块。
本申请实施例可以根据上述方法示例对融合候选运动者列表的构建装置进行功能模块的划分，例如，可以对应各个功能划分各个功能模块，也可以将两个或两个以上的功能集成在一个处理模块中。上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。本申请实施例中对模块的划分是示意性的，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式。
在采用对应各个功能划分各个功能模块的情况下，图13示出上述实施例中所涉及的编码装置的结构示意图。如图13所示编码装置1300包括：融合候选运动者列表构建装置1301，运动信息确定模块1303，预测编码模块1305以及融合候选者索引编码模块1307.
融合候选运动者列表构建装置1301，与图11中的融合候选运动者列表构建装置1100具备相同的功能，用于，构建得到当前块的融合候选者列表；
运动信息确定模块1303，用于，基于所述融合候选者列表中的每个融合候选者对所述当前块进行基于rdo的融合评估(mergeestimation)并将率失真代价值最小的融合候选者作为当前块的运动信息；
预测编码模块1305，用于，基于所述当前块的运动信息对所述当前块进行编码形成编码数据；以及；
融合候选者索引编码模块1307，将所述率失真代价值最小的融合候选者在所述融合候选列表中的位置索引附加至所述编码数据中。
此外，本发明方案还可以通过处理器即存储器的形式实现，即，在所述存储器中存储有可执行指令集，数字处理器可以执行存储器中的指令集以实现如图6-8中所示的任意一种方法。具体如图14所示，图14所述的设备可以用作解码设备1400，编码设备1500，或者是用于进行帧间预测的融合候选者列表构建设备1600。
当所述设备用作解码设备1400时，其包括，其包括数字处理器1401以及存储器1403，在所述存储器中存储有可执行的指令集，所述数字处理器读取存储在所述存储器中的指令集用于实现图7中所描述的解码方法。
当所述设备用作编码设备1500时，其包括，其包括数字处理器1501以及存储器1503，在所述存储器中存储有可执行的指令集，所述数字处理器读取存储在所述存储器中的指令集用于实现图7中所描述的解码方法。
当所述设备用作进行帧间预测的融合候选者列表构建设备1600时，其包括，其包括数字处理器1601以及存储器1603，在所述存储器中存储有可执行的指令集，所述数字处理器读取存储在所述存储器中的指令集用于实现图6中所描述的解码方法。在一个或一个以上实例中，所描述功能可以硬件、软件、固件或其任何组合来实施。如果在软件中实施，那么所述功能可作为一或多个指令或代码在计算机可读介质上存储或传输，并且由基于硬件的处理单元执行。计算机可读介质可以包含计算机可读存储介质，其对应于例如数据存储介质或通信介质的有形介质，通信介质例如根据通信协议包含有助于将计算机程序从一处传送到另一处的任何介质。以此方式，计算机可读介质通常可对应于(1)非暂时性的有形计算机可读存储介质，或(2)通信介质，例如，信号或载波。数据存储介质可以是可由一或多个计算机或一或多个处理器存取以检索用于实施本发明中描述的技术的指令、代码和/或数据结构的任何可用介质。计算机程序产品可包含计算机可读介质。
借助于实例而非限制，此类计算机可读存储介质可包括ram、rom、eeprom、cd-rom或其它光盘存储器、磁盘存储器或其它磁性存储设备、闪存，或可用以存储呈指令或数据结构形式的所需程序代码且可由计算机存取的任何其它介质。并且，任何连接可适当地称为计算机可读介质。举例来说，如果使用同轴电缆、光纤缆线、双绞线、数字订户线(digitalsubscriberline，dsl)或例如红外线、无线电及微波等无线技术从网站、服务器或其它远程源传输指令，则同轴电缆、光纤缆线、双绞线、dsl或例如红外线、无线电及微波等无线技术包含在介质的定义中。但是，应理解，所述计算机可读存储介质及数据存储介质并不包括连接、载波、信号或其它暂时性介质，而是实际上针对于非暂时性有形存储介质。如本文中所使用，磁盘和光盘包含压缩光盘(compactdisc，cd)、激光光盘、光学光盘、数字多功能光盘(digitalversatiledisc，dvd)、软性磁盘及蓝光光盘，其中磁盘通常以磁性方式再现数据，而光盘用激光以光学方式再现数据。以上各项的组合也应包含于计算机可读介质的范围内。
指令可以由一或多个处理器执行，所述一或多个处理器例如是一或多个数字信号处理器(digitalsignalprocessor，dsp)、通用微处理器、专用集成电路(applicationspecificintegratedcircuit，asic)、现场可编程逻辑阵列(fieldprogrammablelogicarrays，fpga)或其它等效的集成或离散逻辑电路。因此，如本文中所使用的术语“处理器”可指代上述结构或适用于实施本文中所描述的技术的任何其它结构中的任一者。另外，在一些方面中，本文中所描述的功能性可在用于编码和解码的专用硬件和/或软件模块内提供，或并入在合成编解码器中。并且，所述技术可完全实施于一或多个电路或逻辑元件中。
本公开的技术可以在包含无线手持机、集成电路(integratedcircuit，ic)或ic集合(例如，芯片组)的多种设备或装置中实施。本公开描述各种组件、模块或单元是为了强调用于执行所揭示的技术的设备的功能方面，但未必需要通过不同硬件单元实现。确切地，如上文所描述，各种单元可结合合适的软件和/或固件组合在编解码器硬件单元中，或由互操作硬件单元的集合来提供，所述硬件单元包含如上文所描述的一或多个处理器。
- 还没有人留言评论。精彩留言会获得点赞！