本公开要求于2020年1月9日提交的、申请号为16/738,714、名称为“具有并行处理能力的基于历史的运动信息缓冲器更新的方法和装置”的美国专利申请的优先权,其要求于2019年1月10日提交的、申请号为62/704,045、名称为“具有并行处理能力的基于历史的运动信息缓冲器更新”的美国临时申请的优先权。在先申请的全部公开内容通过引用整体并入本文。
本公开描述总体上涉及视频编解码的实施例。
背景技术:
本文所提供的背景描述旨在总体上呈现本公开的背景。在背景技术部分以及本说明书的各个方面中所描述的目前已署名的发明人的工作所进行的程度,并不表明其在本公开提交时作为现有技术,且从未明示或暗示其被承认为本公开的现有技术。
可以使用具有运动补偿的图片间预测来执行视频编码和解码。未压缩的数字视频可以包括一系列图片,每个图片具有例如1920×1080亮度样本及相关色度样本的空间维度。所述系列图片可以具有固定的或可变的图片速率(也非正式地称为帧率),例如每秒60张图片或60hz。未压缩的视频具有很高的比特率要求。例如,每个样本8比特的1080p604:2:0视频(60hz帧率下1920x1080亮度样本分辨率)要求接近1.5gbit/s带宽。一小时这样的视频就需要超过600gb的存储空间。
视频编码和解码的一个目的是通过压缩减少输入视频信号的冗余。压缩可以帮助降低对上述带宽或存储空间的要求,在某些情况下可降低两个或更多数量级。无损压缩和有损压缩、以及两者的组合均可采用。无损压缩是指从压缩的原始信号中重建原始信号精确副本的技术。当使用有损压缩时,重建信号可能与原始信号不完全相同,但是原始信号和重建信号之间的失真足够小,使得重建信号可用于预期应用。有损压缩广泛应用于视频。容许的失真量取决于应用。例如,相比于电视应用的用户,某些消费流媒体应用的用户可以容忍更高的失真。可实现的压缩比反映出:较高的允许/容许失真可产生较高的压缩比。
运动补偿可以是一种有损压缩技术,且可涉及如下技术:来自先前重建的图片或重建图片一部分(参考图片)的样本数据块在空间上按运动矢量(下文称为mv)指示的方向移位后,用于新重建的图片或图片部分的预测。在某些情况下,参考图片可与当前正在重建的图片相同。mv可具有两个维度x和y,或者三个维度,其中第三个维度表示正在使用的参考图片(后者间接地可以是时间维度)。
在一些视频压缩技术中,应用于样本数据的某个区域的mv可根据其它mv来预测,例如根据与正在重建的区域空间相邻的样本数据的另一个区域相关的、且按解码顺序在该mv前面的那些mv。这样做可以大大减少编解码mv所需的数据量,从而消除冗余并增加压缩量。mv预测可以有效地进行,例如,因为在对从相机导出的输入视频信号(称为自然视频)进行编解码时,存在一种统计上的可能性,即面积大于单个mv适用区域的区域,会朝着类似的方向移动,因此,在某些情况下,可以使用从相邻区域的mv导出的相似运动矢量进行预测。这导致针对给定区域发现的mv与根据周围mv预测的mv相似或相同,并且在熵编解码之后,又可以用比直接编解码mv时使用的比特数更少的比特数来表示。在某些情况下,mv预测可以是对从原始信号(即样本流)导出的信号(即mv)进行无损压缩的示例。在其它情况下,例如由于根据几个周围mv计算预测值时产生的取整误差,mv预测本身可能是有损的。
h.265/hevc(itu-th.265建议书,“高效视频编解码”,2016年12月)描述了各种mv预测机制。在h.265提供的多种mv预测机制中,本公开描述的是下文称为“空间合并”的技术。
参照图1,当前块(101)包括编码器在运动搜索过程中发现的样本,所述样本可以根据已在空间上移位的相同大小的先前块进行预测。不直接对mv进行编解码,而是使用与五个周围样本中的任何一个相关联的mv,从与一个或多个参考图片相关联的元数据中导出该mv,例如,从最近的(按解码顺序)参考图片中导出该mv。其中,五个周围样本分别用a0、a1和b0、b1、b2(分别为102到106)表示。在h.265中,mv预测可使用相邻块正在使用的同一参考图片的预测值。
技术实现要素:
根据示例性实施例,视频解码方法包括接收包括当前图片的编码视频比特流。该方法还包括在当前图片的区域中解码多个块。该方法还包括确定是否满足与所述区域相关联的预定条件。该方法还包括在确定满足所述预定条件时,更新历史运动矢量预测器(hmvp)缓冲器。
根据示例性实施例,用于视频解码的视频解码器包括处理电路,所述处理电路被配置为接收包括当前图片的编码视频比特流。处理电路还被配置成在当前图片的区域中解码多个块。所述处理电路还被配置成确定是否满足与所述区域相关联的预定条件。处理电路还被配置成在确定满足所述预定条件时,更新历史运动矢量预测器(hmvp)缓冲器。
根据示例性实施例,一种具有存储在其中的指令的非易失性计算机可读存储介质,其在由视频解码器中的处理器执行时使处理器执行如下方法,该方法包括接收包括当前图片的编码视频比特流的方法。该方法还包括在当前图片的区域中解码多个块。该方法还包括确定是否满足与所述区域相关联的预定条件。该方法还包括在确定满足所述预定条件时更新历史运动矢量预测器(hmvp)缓冲器。
附图说明
根据以下详细描述和附图,所公开的主题的其他特征、性质和各种优点将进一步明确,其中:
图1为一个示例中当前块及其周围空间合并候选的示意图。
图2为根据一实施例的通信系统(200)的简化框图示意图。
图3为根据另一实施例的通信系统(300)的简化框图示意图。
图4为根据一实施例的解码器的简化框图示意图。
图5为根据一实施例的编码器的简化框图示意图。
图6为根据另一实施例的编码器的简化框图示意图。
图7为根据另一实施例的解码器的简化框图示意图。
图8为根据一实施例的当前块及其周围的空间合并候选以及时间候选的示意图。
图9为根据一实施例的基于子块的时间运动矢量预测(sbtmvp)使用的空间相邻块的示意图。
图10为根据一实施例导出子编码单元(cu)运动场的示意图。
图11a为基于历史运动矢量预测(hmvp)缓冲器的解码流程示意图。
图11b为更新hmvp缓冲器的示意图。
图12为根据一实施例的多个解码区域的示意图。
图13为根据一实施例的解码过程的示意图。
图14为根据本公开实施例的计算机系统的示意图。
具体实施方式
图2示出了根据本公开实施例的通信系统(200)的简化框图。通信系统(200)包括多个终端装置,所述终端装置可通过例如网络(250)彼此通信。举例来说,通信系统(200)包括通过网络(250)互连的第一对终端装置(210)和(220)。在图2的实施例中,第一对终端装置(210)和(220)执行单向数据传输。举例来说,终端装置(210)可对视频数据(例如由终端装置(210)采集的视频图片流)进行编码以通过网络(250)传输到另一终端装置(220)。已编码的视频数据以一个或多个已编码视频码流形式传输。终端装置(220)可从网络(250)接收已编码视频数据,对已编码视频数据进行解码以恢复视频数据,并根据恢复的视频数据显示视频图片。单向数据传输在媒体服务等应用中是较常见的。
在另一实施例中,通信系统(200)包括执行已编码视频数据的双向传输的第二对终端装置(230)和(240),所述双向传输可例如在视频会议期间发生。对于双向数据传输,在一个示例中,终端装置(230)和(240)中的每个终端装置可对视频数据(例如由终端装置采集的视频图片流)进行编码,以通过网络(250)传输到终端装置(230)和(240)中的另一终端装置。终端装置(230)和(240)中的每个终端装置还可接收由终端装置(230)和(240)中的另一终端装置传输的已编码视频数据,且可对所述已编码视频数据进行解码以恢复视频数据,且可根据恢复的视频数据在可访问的显示装置上显示视频图片。
在图2的实施例中,终端装置(210)、(220)、(230)和(240)可为服务器、个人计算机和智能电话,但本公开的原理可不限于此。本公开的实施例适用于膝上型计算机、平板电脑、媒体播放器和/或专用视频会议设备。网络(250)表示在终端装置(210)、(220)、(230)和(240)之间传送已编码视频数据的任何数目的网络,包括例如有线(连线的)和/或无线通信网络。通信网络(250)可在电路交换和/或分组交换信道中交换数据。该网络可包括电信网络、局域网、广域网和/或互联网。出于本公开的目的,除非在下文中有所解释,否则网络(250)的架构和拓扑对于本公开的操作来说可能是无关紧要的。
作为所公开的主题的实施例,图3示出了视频编码器和视频解码器在流式传输环境中的放置方式。所公开主题可同等地适用于其它支持视频的应用,包括例如视频会议、数字tv、在包括cd、dvd、存储棒等的数字介质上存储压缩视频等等。
流式传输系统可包括采集子系统(313),所述采集子系统可包括数码相机等视频源(301),所述视频源创建未压缩的视频图片流(302)。在实施例中,视频图片流(302)包括由数码相机拍摄的样本。相较于已编码的视频数据(304)(或已编码的视频码流),视频图片流(302)被描绘为粗线以强调高数据量的视频图片流,视频图片流(302)可由电子装置(320)处理,所述电子装置(320)包括耦接到视频源(301)的视频编码器(303)。视频编码器(303)可包括硬件、软件或软硬件组合以实现或实施如下文更详细地描述的所公开主题的各方面。相较于视频图片流(302),已编码的视频数据(304)(或已编码的视频码流(304))被描绘为细线以强调较低数据量的已编码的视频数据(304)(或已编码的视频码流(304)),其可存储在流式传输服务器(305)上以供将来使用。一个或多个流式传输客户端子系统,例如图3中的客户端子系统(306)和客户端子系统(308),可访问流式传输服务器(305)以检索已编码的视频数据(304)的副本(307)和副本(309)。客户端子系统(306)可包括例如电子装置(330)中的视频解码器(310)。视频解码器(310)对已编码的视频数据的传入副本(307)进行解码,且产生可在显示器(312)(例如显示屏)或另一呈现装置(未描绘)上呈现的输出视频图片流(311)。在一些流式传输系统中,可根据某些视频编码/压缩标准对已编码的视频数据(304)、视频数据(307)和视频数据(309)(例如视频码流)进行编码。该些标准的实施例包括itu-th.265。在实施例中,正在开发的视频编解码标准非正式地称为通用视频编解码(versatilevideocoding,vvc),所公开的主题可用于vvc标准的上下文中。
应注意,电子装置(320)和电子装置(330)可包括其它组件(未示出)。举例来说,电子装置(320)可包括视频解码器(未示出),且电子装置(330)还可包括视频编码器(未示出)。
图4示出了根据本公开实施例的视频解码器(410)的框图。视频解码器(410)可设置在电子装置(430)中。电子装置(430)可包括接收器(431)(例如接收电路)。视频解码器(410)可用于代替图3实施例中的视频解码器(310)。
接收器(431)可接收将由视频解码器(410)解码的一个或多个已编码视频序列;在同一实施例或另一实施例中,一次接收一个已编码视频序列,其中每个已编码视频序列的解码独立于其它已编码视频序列。可从信道(401)接收已编码视频序列,所述信道可以是通向存储已编码的视频数据的存储装置的硬件/软件链路。接收器(431)可接收已编码的视频数据以及其它数据,例如,可转发到它们各自的使用实体(未标示)的已编码音频数据和/或辅助数据流。接收器(431)可将已编码视频序列与其它数据分开。为了防止网络抖动,缓冲存储器(415)可耦接在接收器(431)与熵解码器/解析器(420)(此后称为“解析器(420)”)之间。在某些应用中,缓冲存储器(415)是视频解码器(410)的一部分。在其它情况下,所述缓冲存储器(415)可设置在视频解码器(410)外部(未标示)。而在其它情况下,视频解码器(410)的外部设置缓冲存储器(未标示)以例如防止网络抖动,且在视频解码器(410)的内部可配置另一缓冲存储器(415)以例如处理播出定时。而当接收器(431)从具有足够带宽和可控性的存储/转发装置或从等时同步网络接收数据时,也可能不需要配置缓冲存储器(415),或可以将所述缓冲存储器做得较小。当然,为了在互联网等业务分组网络上使用,也可能需要缓冲存储器(415),所述缓冲存储器可相对较大且可具有自适应性大小,且可至少部分地实施于操作系统或视频解码器(410)外部的类似元件(未标示)中。
视频解码器(410)可包括解析器(420)以根据已编码视频序列重建符号(421)。这些符号的类别包括用于管理视频解码器(410)的操作的信息,以及用以控制显示装置(412)(例如,显示屏)等显示装置的潜在信息,所述显示装置不是电子装置(430)的组成部分,但可耦接到电子装置(430),如图4中所示。用于显示装置的控制信息可以是辅助增强信息(supplementalenhancementinformation,sei消息)或视频可用性信息(videousabilityinformation,vui)的参数集片段(未标示)。解析器(420)可对接收到的已编码视频序列进行解析/熵解码。已编码视频序列的编码可根据视频编码技术或标准进行,且可遵循各种原理,包括可变长度编码、霍夫曼编码(huffmancoding)、具有或不具有上下文灵敏度的算术编码等等。解析器(420)可基于对应于群组的至少一个参数,从已编码视频序列提取用于视频解码器中的像素的子群中的至少一个子群的子群参数集。子群可包括图片群组(groupofpictures,gop)、图片、图块、切片、宏块、编码单元(codingunit,cu)、块、变换单元(transformunit,tu)、预测单元(predictionunit,pu)等等。解析器(420)还可从已编码视频序列提取信息,例如变换系数、量化器参数值、运动矢量等等。
解析器(420)可对从缓冲存储器(415)接收的视频序列执行熵解码/解析操作,从而创建符号(421)。
取决于已编码视频图片或一部分已编码视频图片(例如:帧间图片和帧内图片、帧间块和帧内块)的类型以及其它因素,符号(421)的重建可涉及多个不同单元。涉及哪些单元以及涉及方式可由解析器(420)从已编码视频序列解析的子群控制信息控制。为了简洁起见,未描述解析器(420)与下文的多个单元之间的此类子群控制信息流。
除已经提及的功能块以外,视频解码器(410)可在概念上细分成如下文所描述的数个功能单元。在商业约束下运行的实际实施例中,这些单元中的许多单元彼此紧密交互并且可以彼此集成。然而,出于描述所公开主题的目的,概念上细分成下文的功能单元是适当的。
第一单元是缩放器/逆变换单元(451)。缩放器/逆变换单元(451)从解析器(420)接收作为符号(421)的量化变换系数以及控制信息,包括使用哪种变换方式、块大小、量化因子、量化缩放矩阵等。缩放器/逆变换单元(451)可输出包括样本值的块,所述样本值可输入到聚合器(455)中。
在一些情况下,缩放器/逆变换单元(451)的输出样本可属于帧内编码块;即:不使用来自先前重建的图片的预测性信息,但可使用来自当前图片的先前重建部分的预测性信息的块。此类预测性信息可由帧内图片预测单元(452)提供。在一些情况下,帧内图片预测单元(452)采用从当前图片缓冲器(458)提取的周围已重建的信息生成大小和形状与正在重建的块相同的块。举例来说,当前图片缓冲器(458)缓冲部分重建的当前图片和/或完全重建的当前图片。在一些情况下,聚合器(455)基于每个样本,将帧内预测单元(452)生成的预测信息添加到由缩放器/逆变换单元(451)提供的输出样本信息中。
在其它情况下,缩放器/逆变换单元(451)的输出样本可属于帧间编码和潜在运动补偿块。在此情况下,运动补偿预测单元(453)可访问参考图片存储器(457)以提取用于预测的样本。在根据符号(421)对提取的样本进行运动补偿之后,这些样本可由聚合器(455)添加到缩放器/逆变换单元(451)的输出(在这种情况下被称作残差样本或残差信号),从而生成输出样本信息。运动补偿预测单元(453)从参考图片存储器(457)内的地址获取预测样本可受到运动矢量控制,且所述运动矢量以所述符号(421)的形式而供运动补偿预测单元(453)使用,所述符号(421)例如是包括x、y和参考图片分量。运动补偿还可包括在使用子样本精确运动矢量时,从参考图片存储器(457)提取的样本值的内插、运动矢量预测机制等等。
聚合器(455)的输出样本可在环路滤波器单元(456)中被各种环路滤波技术采用。视频压缩技术可包括环路内滤波器技术,所述环路内滤波器技术受控于包括在已编码视频序列(也称作已编码视频码流)中的参数,且所述参数作为来自解析器(420)的符号(421)可用于环路滤波器单元(456)。然而,在其他实施例中,视频压缩技术还可响应于在解码已编码图片或已编码视频序列的先前(按解码次序)部分期间获得的元信息,以及响应于先前重建且经过环路滤波的样本值。
环路滤波器单元(456)的输出可以是样本流,所述样本流可输出到显示装置(412)以及存储在参考图片存储器(457),以用于后续的帧间图片预测。
一旦完全重建,某些已编码图片就可用作参考图片以用于将来预测。举例来说,一旦对应于当前图片的已编码图片被完全重建,且已编码图片(通过例如解析器(420))被识别为参考图片,则当前图片缓冲器(458)可变为参考图片存储器(457)的一部分,且可在开始重建后续已编码图片之前重新分配新的当前图片缓冲器。
视频解码器(410)可根据例如itu-th.265标准中的预定视频压缩技术执行解码操作。在已编码视频序列遵循视频压缩技术或标准的语法以及视频压缩技术或标准中记录的配置文件的意义上,已编码视频序列可符合所使用的视频压缩技术或标准指定的语法。具体地说,配置文件可从视频压缩技术或标准中可用的所有工具中选择某些工具作为在所述配置文件下可供使用的仅有工具。对于合规性,还要求已编码视频序列的复杂度处于视频压缩技术或标准的层级所限定的范围内。在一些情况下,层级限制最大图片大小、最大帧率、最大重建取样率(以例如每秒兆(mega)个样本为单位进行测量)、最大参考图片大小等。在一些情况下,由层级设定的限制可通过假想参考解码器(hypotheticalreferencedecoder,hrd)规范和在已编码视频序列中用信号表示的hrd缓冲器管理的元数据来进一步限定。
在实施例中,接收器(431)可连同已编码视频一起接收附加(冗余)数据。所述附加数据可以是已编码视频序列的一部分。所述附加数据可由视频解码器(410)用以对数据进行适当解码和/或较准确地重建原始视频数据。附加数据可呈例如时间、空间或信噪比(signalnoiseratio,snr)增强层、冗余切片、冗余图片、前向纠错码等形式。
图5示出了根据本公开实施例的视频编码器(503)的框图。视频编码器(503)设置于电子装置(520)中。电子装置(520)包括传输器(540)(例如传输电路)。视频编码器(503)可用于代替图3实施例中的视频编码器(303)。
视频编码器(503)可从视频源(501)(并非图5实施例中的电子装置(520)的一部分)接收视频样本,所述视频源可采集将由视频编码器(503)编码的视频图像。在另一实施例中,视频源(501)是电子装置(520)的一部分。
视频源(501)可提供将由视频编码器(503)编码的呈数字视频样本流形式的源视频序列,所述数字视频样本流可具有任何合适位深度(例如:8位、10位、12位……)、任何色彩空间(例如bt.601ycrcb、rgb……)和任何合适取样结构(例如ycrcb4:2:0、ycrcb4:4:4)。在媒体服务系统中,视频源(501)可以是存储先前已准备的视频的存储装置。在视频会议系统中,视频源(501)可以是采集本地图像信息作为视频序列的相机。可将视频数据提供为多个单独的图片,当按顺序观看时,这些图片被赋予运动。图片自身可构建为空间像素阵列,其中取决于所用的取样结构、色彩空间等,每个像素可包括一个或多个样本。所属领域的技术人员可以很容易理解像素与样本之间的关系。下文侧重于描述样本。
根据实施例,视频编码器(503)可实时或在由应用所要求的任何其它时间约束下,将源视频序列的图片编码且压缩成已编码视频序列(543)。施行适当的编码速度是控制器(550)的一个功能。在一些实施例中,控制器(550)控制如下文所描述的其它功能单元且在功能上耦接到这些单元。为了简洁起见,图中未标示耦接。由控制器(550)设置的参数可包括速率控制相关参数(图片跳过、量化器、率失真优化技术的λ值等)、图片大小、图片群组(groupofpictures,gop)布局,最大运动矢量搜索范围等。控制器(550)可用于具有其它合适的功能,这些功能涉及针对某一系统设计优化的视频编码器(503)。
在一些实施例中,视频编码器(503)在编码环路中进行操作。作为简单的描述,在实施例中,编码环路可包括源编码器(530)(例如,负责基于待编码的输入图片和参考图片创建符号,例如符号流)和嵌入于视频编码器(503)中的(本地)解码器(533)。解码器(533)以类似于(远程)解码器创建样本数据的方式重建符号以创建样本数据(因为在公开的主题中所考虑的视频压缩技术中,符号与已编码视频码流之间的任何压缩是无损的)。将重建的样本流(样本数据)输入到参考图片存储器(534)。由于符号流的解码产生与解码器位置(本地或远程)无关的位精确结果,因此参考图片存储器(534)中的内容在本地编码器与远程编码器之间也是按比特位精确对应的。换句话说,编码器的预测部分“看到”的参考图片样本与解码器将在解码期间使用预测时所“看到”的样本值完全相同。这种参考图片同步性基本原理(以及在例如因信道误差而无法维持同步性的情况下产生的漂移)也用于一些相关技术。
“本地”解码器(533)的操作可与例如已在上文结合图4详细描述视频解码器(410)的“远程”解码器相同。然而,另外简要参考图4,当符号可用且熵编码器(545)和解析器(420)能够无损地将符号编码/解码为已编码视频序列时,包括缓冲存储器(415)和解析器(420)在内的视频解码器(410)的熵解码部分,可能无法完全在本地解码器(533)中实施。
此时可以观察到,除存在于解码器中的解析/熵解码之外的任何解码器技术,也必定以基本上相同的功能形式存在于对应的编码器中。出于此原因,所公开的主题侧重于解码器操作。可简化编码器技术的描述,因为编码器技术与全面地描述的解码器技术互逆。仅在某些区域中需要更详细的描述,并且在下文提供。
在操作期间,在一些实施例中,源编码器(530)可执行运动补偿预测编码。参考来自视频序列中被指定为“参考图片”的一个或多个先前已编码图片,所述运动补偿预测编码对输入图片进行预测性编码。以此方式,编码引擎(532)对输入图片的像素块与参考图片的像素块之间的差异进行编码,所述参考图片可被选作所述输入图片的预测参考。
本地视频解码器(533)可基于源编码器(530)创建的符号,对可指定为参考图片的已编码视频数据进行解码。编码引擎(532)的操作可为有损过程。当已编码视频数据可在视频解码器(图5中未示)处被解码时,重建的视频序列通常可以是带有一些误差的源视频序列的副本。本地视频解码器(533)复制解码过程,所述解码过程可由视频解码器对参考图片执行,且可使重建的参考图片存储在参考图片高速缓存(534)中。以此方式,视频编码器(503)可在本地存储重建的参考图片的副本,所述副本与将由远端视频解码器获得的重建参考图片具有共同内容(不存在传输误差)。
预测器(535)可针对编码引擎(532)执行预测搜索。即,对于将要编码的新图片,预测器(535)可在参考图片存储器(534)中搜索可作为所述新图片的适当预测参考的样本数据(作为候选参考像素块)或某些元数据,例如参考图片运动矢量、块形状等。预测器(535)可基于样本块逐像素块操作,以找到合适的预测参考。在一些情况下,根据预测器(535)获得的搜索结果,可确定输入图片可具有从参考图片存储器(534)中存储的多个参考图片取得的预测参考。
控制器(550)可管理源编码器(530)的编码操作,包括例如设置用于对视频数据进行编码的参数和子群参数。
可在熵编码器(545)中对所有上述功能单元的输出进行熵编码。熵编码器(545)根据诸如霍夫曼编码、可变长度编码、算术编码等技术对各种功能单元生成的符号进行无损压缩,从而将所述符号转换成已编码视频序列。
传输器(540)可缓冲由熵编码器(545)创建的已编码视频序列,从而为通过通信信道(560)进行传输做准备,所述通信信道可以是通向将存储已编码的视频数据的存储装置的硬件/软件链路。传输器(540)可将来自视频编码器(503)的已编码视频数据与要传输的其它数据合并,所述其它数据例如是已编码音频数据和/或辅助数据流(未示出来源)。
控制器(550)可管理视频编码器(503)的操作。在编码期间,控制器(550)可以为每个已编码图片分配某一已编码图片类型,但这可能影响可应用于相应的图片的编码技术。例如,通常可将图片分配为以下任一种图片类型:
帧内图片(i图片),其可以是不将序列中的任何其它图片用作预测源就可被编码和解码的图片。一些视频编解码器容许不同类型的帧内图片,包括例如独立解码器刷新(independentdecoderrefresh,“idr”)图片。所属领域的技术人员了解i图片的变体及其相应的应用和特征。
预测性图片(p图片),其可以是可使用帧内预测或帧间预测进行编码和解码的图片,所述帧内预测或帧间预测使用至多一个运动矢量和参考索引来预测每个块的样本值。
双向预测性图片(b图片),其可以是可使用帧内预测或帧间预测进行编码和解码的图片,所述帧内预测或帧间预测使用至多两个运动矢量和参考索引来预测每个块的样本值。类似地,多个预测性图片可使用多于两个参考图片和相关联元数据以用于重建单个块。
源图片通常可在空间上细分成多个样本块(例如,4×4、8×8、4×8或16×16个样本的块),且逐块进行编码。这些块可参考其它(已编码)块进行预测编码,根据应用于块的相应图片的编码分配来确定所述其它块。举例来说,i图片的块可进行非预测编码,或所述块可参考同一图片的已经编码的块来进行预测编码(空间预测或帧内预测)。p图片的像素块可参考一个先前编码的参考图片通过空间预测或通过时域预测进行预测编码。b图片的块可参考一个或两个先前编码的参考图片通过空间预测或通过时域预测进行预测编码。
视频编码器(503)可根据例如itu-th.265建议书的预定视频编码技术或标准执行编码操作。在操作中,视频编码器(503)可执行各种压缩操作,包括利用输入视频序列中的时间和空间冗余的预测编码操作。因此,已编码视频数据可符合所用视频编码技术或标准指定的语法。
在实施例中,传输器(540)可在传输已编码的视频时传输附加数据。源编码器(530)可将此类数据作为已编码视频序列的一部分。附加数据可包括时间/空间/snr增强层、冗余图片和切片等其它形式的冗余数据、补充增强信息(sei)消息、视觉可用性信息(vui)参数集片段等。
采集到的视频可作为呈时间序列的多个源图片(视频图片)。帧内图片预测(常常简化为帧内预测)利用给定图片中的空间相关性,而帧间图片预测则利用图片之间的(时间或其它)相关性。在实施例中,将正在编码/解码的特定图片分割成块,正在编码/解码的特定图片被称作当前图片。在当前图片中的块类似于视频中先前已编码且仍被缓冲的参考图片中的参考块时,可通过称作运动矢量的矢量对当前图片中的块进行编码。所述运动矢量指向参考图片中的参考块,且在使用多个参考图片的情况下,所述运动矢量可具有识别参考图片的第三维度。
在一些实施例中,双向预测技术可用于帧间图片预测中。根据双向预测技术,使用两个参考图片,例如按解码次序都在视频中的当前图片之前(但按显示次序可能分别是过去和将来)第一参考图片和第二参考图片。可通过指向第一参考图片中的第一参考块的第一运动矢量和指向第二参考图片中的第二参考块的第二运动矢量对当前图片中的块进行编码。具体来说,可通过第一参考块和第二参考块的组合来预测所述块。
此外,合并模式技术可用于帧间图片预测中以改善编码效率。
根据本公开的一些实施例,帧间图片预测和帧内图片预测等预测的执行以块为单位。举例来说,根据hevc标准,将视频图片序列中的图片分割成编码树单元(codingtreeunit,ctu)以用于压缩,图片中的ctu具有相同大小,例如64×64像素、32×32像素或16×16像素。一般来说,ctu包括三个编码树块(codingtreeblock,ctb),所述三个编码树块是一个亮度ctb和两个色度ctb。更进一步的,还可将每个ctu以四叉树拆分为一个或多个编码单元(codingunit,cu)。举例来说,可将64×64像素的ctu拆分为一个64×64像素的cu,或4个32×32像素的cu,或16个16×16像素的cu。在实施例中,分析每个cu以确定用于cu的预测类型,例如帧间预测类型或帧内预测类型。此外,取决于时间和/或空间可预测性,将cu拆分为一个或多个预测单元(predictionunit,pu)。通常,每个pu包括亮度预测块(predictionblock,pb)和两个色度pb。在实施例中,编码(编码/解码)中的预测操作以预测块为单位来执行。以亮度预测块作为预测块为例,预测块包括像素值(例如,亮度值)的矩阵,例如8×8像素、16×16像素、8×16像素、16×8像素等等。
图6示出了根据本公开另一实施例的视频编码器(603)的示意图。视频编码器(603)用于接收视频图片序列中的当前视频图片内的样本值的处理块(例如预测块),且将所述处理块编码到作为已编码视频序列的一部分的已编码图片中。在本实施例中,视频编码器(603)用于代替图3实施例中的视频编码器(303)。
在hevc实施例中,视频编码器(603)接收用于处理块的样本值的矩阵,所述处理块为例如8×8样本的预测块等。视频编码器(603)使用例如率失真(rate-distortion)优化来确定是否使用帧内模式、帧间模式或双向预测模式来编码所述处理块。当在帧内模式中编码处理块时,视频编码器(603)可使用帧内预测技术以将处理块编码到已编码图片中;且当在帧间模式或双向预测模式中编码处理块时,视频编码器(603)可分别使用帧间预测或双向预测技术将处理块编码到已编码图片中。在某些视频编码技术中,合并模式可以是帧间图片预测子模式,其中,在不借助预测值外部的已编码运动矢量分量的情况下,从一个或多个运动矢量预测值导出运动矢量。在某些其它视频编码技术中,可存在适用于主题块的运动矢量分量。在实施例中,视频编码器(603)包括其它组件,例如用于确定处理块模式的模式决策模块(未示出)。
在图6的实施例中,视频编码器(603)包括如图6所示的耦接到一起的帧间编码器(630)、帧内编码器(622)、残差计算器(623)、开关(626)、残差编码器(624)、通用控制器(621)和熵编码器(625)。
帧间编码器(630)用于接收当前块(例如处理块)的样本、比较所述块与参考图片中的一个或多个参考块(例如先前图片和后来图片中的块)、生成帧间预测信息(例如根据帧间编码技术的冗余信息描述、运动矢量、合并模式信息)、以及基于帧间预测信息使用任何合适的技术计算帧间预测结果(例如已预测块)。在一些实施例中,参考图片是基于已编码的视频信息解码的已解码参考图片。
帧内编码器(622)用于接收当前块(例如处理块)的样本、在一些情况下比较所述块与同一图片中已编码的块、在变换之后生成量化系数、以及在一些情况下还(例如根据一个或多个帧内编码技术的帧内预测方向信息)生成帧内预测信息。在实施例中,帧内编码器(622)还基于帧内预测信息和同一图片中的参考块计算帧内预测结果(例如已预测块)。
通用控制器(621)用于确定通用控制数据,且基于所述通用控制数据控制视频编码器(603)的其它组件。在实施例中,通用控制器(621)确定块的模式,且基于所述模式将控制信号提供到开关(626)。举例来说,当所述模式是帧内模式时,通用控制器(621)控制开关(626)以选择供残差计算器(623)使用的帧内模式结果,且控制熵编码器(625)以选择帧内预测信息且将所述帧内预测信息添加在码流中;以及当所述模式是帧间模式时,通用控制器(621)控制开关(626)以选择供残差计算器(623)使用的帧间预测结果,且控制熵编码器(625)以选择帧间预测信息且将所述帧间预测信息添加在码流中。
残差计算器(623)用于计算所接收的块与选自帧内编码器(622)或帧间编码器(630)的预测结果之间的差(残差数据)。残差编码器(624)用于基于残差数据操作,以对残差数据进行编码以生成变换系数。在实施例中,残差编码器(624)用于将残差数据从空间域转换到频域,且生成变换系数。变换系数接着经由量化处理以获得量化的变换系数。在各种实施例中,视频编码器(603)还包括残差解码器(628)。残差解码器(628)用于执行逆变换,且生成已解码残差数据。已解码残差数据可适当地由帧内编码器(622)和帧间编码器(630)使用。举例来说,帧间编码器(630)可基于已解码残差数据和帧间预测信息生成已解码块,且帧内编码器(622)可基于已解码残差数据和帧内预测信息生成已解码块。适当处理已解码块以生成已解码图片,且在一些实施例中,所述已解码图片可在存储器电路(未示出)中缓冲并用作参考图片。
熵编码器(625)用于将码流格式化以产生已编码的块。熵编码器(625)根据hevc标准等合适标准产生各种信息。在实施例中,熵编码器(625)用于获得通用控制数据、所选预测信息(例如帧内预测信息或帧间预测信息)、残差信息和码流中的其它合适的信息。应注意,根据所公开的主题,当在帧间模式或双向预测模式的合并子模式中对块进行编码时,不存在残差信息。
图7示出了根据本公开另一实施例的视频解码器(710)的示意图。视频解码器(710)用于接收作为已编码视频序列的一部分的已编码图像,且对所述已编码图像进行解码以生成重建的图片。在实施例中,视频解码器(710)用于代替图3实施例中的视频解码器(310)。
在图7实施例中,视频解码器(710)包括如图7中所示耦接到一起的熵解码器(771)、帧间解码器(780)、残差解码器(773)、重建模块(774)和帧内解码器(772)。
熵解码器(771)可用于根据已编码图片来重建某些符号,这些符号表示构成所述已编码图片的语法元素。此类符号可包括例如用于对所述块进行编码的模式(例如帧内模式、帧间模式、双向预测模式、后两者的合并子模式或另一子模式)、可分别识别供帧内解码器(772)或帧间解码器(780)用以进行预测的某些样本或元数据的预测信息(例如帧内预测信息或帧间预测信息)、呈例如量化的变换系数形式的残差信息等等。在实施例中,当预测模式是帧间或双向预测模式时,将帧间预测信息提供到帧间解码器(780);以及当预测类型是帧内预测类型时,将帧内预测信息提供到帧内解码器(772)。残差信息可经由逆量化并提供到残差解码器(773)。
帧间解码器(780)用于接收帧间预测信息,且基于所述帧间预测信息生成帧间预测结果。
帧内解码器(772)用于接收帧内预测信息,且基于所述帧内预测信息生成预测结果。
残差解码器(773)用于执行逆量化以提取解量化的变换系数,且处理所述解量化的变换系数,以将残差从频域转换到空间域。残差解码器(773)还可能需要某些控制信息(用以获得量化器参数qp),且所述信息可由熵解码器(771)提供(未标示数据路径,因为这仅仅是低量控制信息)。
重建模块(774)用于在空间域中组合由残差解码器(773)输出的残差与预测结果(可由帧间预测模块或帧内预测模块输出)以形成重建的块,所述重建的块可以是重建的图片的一部分,所述重建的图片继而可以是重建的视频的一部分。应注意,可执行解块操作等其它合适的操作来改善视觉质量。
应注意,可使用任何合适的技术来实施视频编码器(303)、视频编码器(503)和视频编码器(603)以及视频解码器(310)、视频解码器(410)和视频解码器(710)。在实施例中,可使用一个或多个集成电路来实施视频编码器(303)、视频编码器(503)和视频编码器(603)以及视频解码器(310)、视频解码器(410)和视频解码器(710)。在另一实施例中,可使用执行软件指令的一个或多个处理器来实施视频编码器(303)、视频编码器(503)和视频编码器(603)以及视频解码器(310)、视频解码器(410)和视频解码器(710)。
hevc中的高级运动矢量预测(amvp)模式是利用空间和时间相邻块的运动信息来预测当前块的运动信息,同时对预测残差进行进一步编码。图8示出了具有图1所示的空间候选以及时间候选c0(802)和c1(804)的块800。
在amvp模式中,可以形成两个候选运动矢量预测器列表。第一候选预测器可以是按照空间位置a0、a1的顺序来自左边缘的第一个可用运动矢量。第二候选预测器可以是按照空间位置b0、b1和b2的顺序来自上边缘的第一个可用运动矢量。如果从左边缘或上边缘的检查位置找不到有效的运动矢量,则列表中可能没有预测器。如果有两个候选,而且是同一个候选,则列表中可只保留一个候选。如果列表未满(具有两个不同的候选),则可以使用来自c0位置的(缩放后的)时间同位运动矢量作为另一候选。如果c0位置的运动信息不可用,则可以使用c1位置的。
在上述推导中,如果仍然没有足够的候选运动矢量预测器,则可以使用零运动矢量来填充列表。两个标志mvp_l0_flag和mvp_l1_flag可以在比特流中发信号以分别指示mv候选列表l0和l1的amvp索引(0或1)。
在hevc中,可以引入用于画面间预测的合并模式。如果发信号通知合并标志(包括跳过标志)为真,则可随后发信号通知合并索引以指示合并候选列表中的哪个候选将被用于指示当前块的运动矢量。在解码器中,合并候选列表可基于当前块的空间和时间邻域构造。在一些示例中,参考图8,可以将空间上相邻的最多四个mv添加到合并候选列表中。另外,可以将来自当前块上的时间相邻的最多一个mv添加到列表中
附加合并候选可包括组合的双预测候选和零运动向量候选。在将一个块的运动信息作为合并候选之前,执行冗余检查以检查其是否与当前合并候选列表中的一个元素相同。如果该块的运动信息与当前合并候选列表中的每个元素均不同,其将作为合并候选添加到合并候选列表中。可将maxmergecandsnum定义为以候选数表示的合并列表的大小。在hevc中,maxmergecandsnum可以在比特流中用信号通知。
根据一些实施例,基于子块的时间运动矢量预测(sbtmvp)方法类似于hevc中的时间运动矢量预测(tmvp),可以使用同位图片中的运动场来改进当前图片中cus的运动矢量预测和合并模式。tmvp使用的相同同位图片可用于sbtvmp。sbtmvp与tmvp的区别主要体现在如下两个方面:(1)tmvp在cu级别预测运动,而sbtmvp在子cu级别预测运动;(2)尽管tmvp从同位图片中的同位块获取时间运动矢量(同位块是相对于当前cu的右下或中间的块),sbtmvp在从同位图片获取时间运动信息之前应用运动移位(motionshift),其中,所述运动移位从来自当前cu的一个空间相邻块的运动矢量获得。
sbtvmp方法在图9和图10中示出。在一些实施例中,sbtmvp分两步预测当前cu内的子cus的运动矢量。在第一步中,如图10所示,按照a1、b1、b0和a0的顺序检查当前块(1000)的空间邻域。一旦识别出具有使用同位图片作为其参考图片的运动矢量的第一个可用空间相邻块,则选择该运动矢量作为要应用的运动移位。如果没有从空间邻域中识别出这样的运动矢量,则运动偏移设置为(0,0)。
在第二步中,应用在第一步中识别的运动偏移(即,添加到当前块的坐标)以从同位图片中获得子cu级别的运动信息(例如运动矢量和参考索引),如图11所示。图11中的示例假设将运动移位(1149)设置为空间相邻块a1(1143)的运动矢量。然后,对于当前图片(1141)的当前块(1142)中的当前子cu(例如,子cu(1144)),使用同位图片(1151)的同位块(1152)中对应的同位子cu(例如,同位子cu(1154))的运动信息来导出当前子cu的运动信息。以与hevc中的tmvp方法类似的方式,将相应同位子cu(例如,同位子cu(1154))的运动信息转换为当前子cu(例如,子cu(1144))的运动矢量和参考索引,其中,应用时间运动缩放以将时间运动矢量的参考图片与当前cu的参考图片对齐。
根据一些实施例,可以在基于子块的合并模式中使用包含sbtvmp候选和仿射合并候选的基于子块的合并列表。sbtvmp模式由序列参数集(sps)标志启用/禁用。如果启用sbtmvp模式,则sbtmvp预测器将添加为基于子块的合并列表的第一个条目,后面是仿射合并候选项。在某些应用程序中,基于子块的合并列表的最大允许大小为5。例如,sbtmvp中使用的子cu大小固定为8x8。与仿射合并模式一样,sbtmvp模式仅适用于当宽度和高度均大于或等于8时的cu。
附加sbtmvp合并候选的编码逻辑与其他合并候选的编码逻辑相同。即,对于p或b分片(slice)中的每个cu,执行额外的率失真(rd)检查以决定是否使用sbtmvp候选。
根据一些实施例,基于历史的mvp(hmvp)方法包括被定义为先前编码块的运动信息的hmvp候选。在编码/解码过程中维护一具有多个hmvp候选的表。遇到一新分片时,该表将被清空。每当存在帧间编码的非仿射块时,相关联的运动信息被添加到该表的最后一个条目中以作为新的hmvp候选。hmvp方法的编码流程如图11a所示。
该表的大小s被设置为6,表示最多可以向表中添加6个hmvp候选。当向表中插入新的运动候选时,利用受约束的fifo规则,以首先应用冗余校验来确定表中是否存在相同的hmvp。如果在表中找到相同的hmvp,则从所述表中删除该相同的hmvp,然后向前移动所有候选hmvp,即索引减少1。图11b示出了将新的运动候选插入hmvp表中的示例。
hmvp候选可以在合并候选列表构建过程中使用。表中最新的几个hmvp候选按顺序进行检查,并插入到候选列表中的tmvp候选之后。裁剪(pruning)可应用于hmvp候选,以将其应用于不包括子块运动候选(即atmvp)的空间或时间合并候选。
在一些实施例中,为了减少裁剪操作的数量,将要检查的hmpv候选的数目(由l表示)设置为l=(n<=4)?m:(8-n),其中n表示表中可用的非子块合并候选的数量,m表示表中可用的hmvp候选的数量。此外,一旦可用合并候选的总数达到用信号表示的最大允许合并候选减去1的值,则终止来自hmvp列表的合并候选列表构建过程。此外,用于组合双预测合并候选派生的对的数目从12减少到6。
hmvp候选也可以用于amvp候选列表的构建过程。表中最后k个hmvp候选的运动矢量被插入tmvp候选之后。只有与amvp目标参考图片具有相同参考图片的hmvp候选被用于构建amvp候选列表。对候选hmvp进行裁剪。在某些应用程序中,k设置为4,而amvp列表大小保持不变,即等于2。
根据一些实施例,可以通过平均当前合并候选列表中的预定义候选对来生成两两平均候选。在一些示例中,两两平均候选的数目是6,并且预定义的候选对被定义为{(0,1)、(0,2)、(1,2)、(0,3)、(1,3)、(2,3)},其中数字表示到合并候选列表的合并索引。可以针对每个参考列表分别计算平均运动矢量。如果两个运动矢量在一个列表中都可用,则即使这两个运动矢量指向不同的参考图片,也可以平均这两个运动矢量。如果只有一个运动矢量可用,则可以直接使用该一个运动矢量。如果没有可用的运动矢量,则此列表可能被视为无效。两两平均候选可以代替hevc标准中的组合候选。
对于以非子块模式编码的块,可以按照如下方式构造合并候选列表:
1、来自空间+时间相邻块的候选
a)可用性检查
b)冗余检查(针对现有候选)
2、来自hmvp缓冲器的候选
a)冗余检查(针对现有的空间/时间候选)
3、来自平均化一对现有候选的候选
4、使用不同参考图片的零运动矢量候选
为了减少实现工作,期望允许对多个相邻小块并行地处理合并列表构建过程,当当前编码块的大小较小时,它可以与其他相邻块共享相同的合并列表。然而,通过使用并行处理,一定义区域内的一些编码的相邻块不能用作当前编码块的合并候选。例如,当存在具有左块和右块的并行区域时,解码顺序应该是从左到右。然后,为了并行处理的目的,应该同时处理左块和右块(例如,右块不需要等待左块完成)。为了实现这种并行处理,在为右块构造合并候选列表时,不应使用列表左侧位置(即左块)的候选。此示例说明了为什么某些块不能用作合并候选块。在类似的示例中,hmvp预测器更新也遵循解码顺序。左块和右块的hmvp状态不同(例如,对于右块,来自左块的运动矢量信息可以包含在hmvp中)。通过禁止在并行区域内更新hmvp,可以确保并行区域内的所有块具有相同的hmvp状态,从而实现并行处理。
对于合并/跳过模式或amvp模式(带剩余的运动矢量预测),为了完全启用并行处理,当当前编码块连同编码块的相邻块属于具有共享mv预测器列表的定义区域,并且需要对该区域内的所有块并行地执行运动矢量推导的并行处理时,考虑hmvp缓冲器上的更新约束的方法将是非常有利的。
本发明的实施例可以单独使用或以任何顺序组合使用。此外,根据本公开的实施例,每一个方法、编码器和解码器可以通过处理电路(例如,一个或多个处理器或一个或多个集成电路)来实现。在一个示例中,一个或多个处理器执行存储在非易失性计算机可读存储介质中的程序。根据本公开的实施例,术语“块”可被解释为预测块、编码块或编码单元(即cu)。本公开的实施例在解码当前块之后修改hmvp缓冲器的更新处理,使得当满足某些条件时,当前块的解码mv将不用于更新hmvp缓冲器。
根据一些实施例,对于启用了该区域中的运动矢量推导的并行处理的区域内的所有块,不使用该区域中的解码运动矢量来更新hmvp缓冲器。图12示出了被划分为四个区域(1-4)的图片1200。图片1200的每个区域可以划分为一个或多个块。因此,例如,如果对区域1启用了并行处理,则区域1中的块的解码运动矢量可以不用于更新hmvp缓冲器。
根据一些实施例,对于启用了该区域中的运动矢量推导的并行处理的区域内的所有块,除了该区域中的选定块子集之外,该区域中的解码运动矢量不用于更新hmvp缓冲器。例如,允许将区域左上角的块(区域的第一个解码块)放入hmvp缓冲器。例如,如果对区域1启用并行处理,并且被解码的子块位于区域1的左上角,则该子块的运动矢量可用于更新hmvp缓冲器。
根据一些实施例,对于启用了该区域中的运动矢量推导的并行处理的区域内的所有块,在该区域中的块的解码处理期间,不使用该区域中的解码运动矢量来更新hmvp缓冲器。相反,在该区域中的所有块被解码之后,hmvp缓冲器可以按照解码顺序用来自该区域中的解码块的运动矢量来更新。例如,当该区域中的块被并行解码时,解码块的运动矢量可以存储在临时缓冲器中。在该区域中的所有块被解码之后,可以将临时缓冲器的内容复制到hmvp缓冲器。
图13示出了由诸如视频解码器(710)的视频解码器执行的方法实施例。处理从步骤(s1300)开始,接收包括当前图片的编码视频比特流。处理进行到步骤(s1302),解码当前图片的区域中的多个块。处理进行到步骤(s1304),确定是否满足预定条件。例如,预定条件可以指定是否启用了对区域的并行处理。进一步的预定条件可以指定解码块在该区域中的位置。处理进行到步骤(s1306),当确定满足预定条件时更新hmvp缓冲器。
上述技术可以通过计算机可读指令实现为计算机软件,并且物理地存储在一个或多个计算机可读介质中。例如,图14示出了计算机系统(1400),其适于实现所公开主题的某些实施例。
所述计算机软件可通过任何合适的机器代码或计算机语言进行编码,通过汇编、编译、链接等机制创建包括指令的代码,所述指令可由一个或多个计算机中央处理单元(cpu),图形处理单元(gpu)等直接执行或通过译码、微代码等方式执行。
所述指令可以在各种类型的计算机或其组件上执行,包括例如个人计算机、平板电脑、服务器、智能手机、游戏设备、物联网设备等。
图14所示的用于计算机系统(1400)的组件本质上是示例性的,并不用于对实现本公开实施例的计算机软件的使用范围或功能进行任何限制。也不应将组件的配置解释为与计算机系统(1400)的示例性实施例中所示的任一组件或其组合具有任何依赖性或要求。
计算机系统(1400)可以包括某些人机界面输入设备。这种人机界面输入设备可以通过触觉输入(如:键盘输入、滑动、数据手套移动)、音频输入(如:声音、掌声)、视觉输入(如:手势)、嗅觉输入(未示出),对一个或多个人类用户的输入做出响应。所述人机界面设备还可用于捕获某些媒体,气与人类有意识的输入不必直接相关,如音频(例如:语音、音乐、环境声音)、图像(例如:扫描图像、从静止影像相机获得的摄影图像)、视频(例如二维视频、包括立体视频的三维视频)。
人机界面输入设备可包括以下中的一个或多个(仅绘出其中一个):键盘(1401)、鼠标(1402)、触控板(1403)、触摸屏(1410)、数据手套(未示出)、操纵杆(1405)、麦克风(1406)、扫描仪(1407)、照相机(1408)。
计算机系统(1400)还可以包括某些人机界面输出设备。这种人机界面输出设备可以通过例如触觉输出、声音、光和嗅觉/味觉来刺激一个或多个人类用户的感觉。这样的人机界面输出设备可包括触觉输出设备(例如通过触摸屏(1410)、数据手套(未示出)或操纵杆(1405)的触觉反馈,但也可以有不用作输入设备的触觉反馈设备)、音频输出设备(例如,扬声器(1409)、耳机(未示出))、视觉输出设备(例如,包括阴极射线管屏幕、液晶屏幕、等离子屏幕、有机发光二极管屏的屏幕(1410),其中每一个都具有或没有触摸屏输入功能、每一个都具有或没有触觉反馈功能——其中一些可通过诸如立体画面输出的手段输出二维视觉输出或三维以上的输出;虚拟现实眼镜(未示出)、全息显示器和放烟箱(未示出))以及打印机(未示出)。
计算机系统(1400)还可以包括人可访问的存储设备及其相关介质,如包括具有cd/dvd的高密度只读/可重写式光盘(cd/dvdrom/rw)(1420)或类似介质(1421)的光学介质、拇指驱动器(1422)、可移动硬盘驱动器或固体状态驱动器(1423),诸如磁带和软盘(未示出)的传统磁介质,诸如安全软件保护器(未示出)等的基于rom/asic/pld的专用设备,等等。
本领域技术人员还应当理解,结合所公开的主题使用的术语“计算机可读介质”不包括传输介质、载波或其它瞬时信号。
计算机系统(1400)还可以包括通往一个或多个通信网络的接口。例如,网络可以是无线的、有线的、光学的。网络还可为局域网、广域网、城域网、车载网络和工业网络、实时网络、延迟容忍网络等等。网络还包括以太网、无线局域网、蜂窝网络(gsm、3g、4g、5g、lte等)等局域网、电视有线或无线广域数字网络(包括有线电视、卫星电视、和地面广播电视)、车载和工业网络(包括canbus)等等。某些网络通常需要外部网络接口适配器,用于连接到某些通用数据端口或外围总线(1449)(例如,计算机系统(1400)的usb端口);其它系统通常通过连接到如下所述的系统总线集成到计算机系统(1400)的核心(例如,以太网接口集成到pc计算机系统或蜂窝网络接口集成到智能电话计算机系统)。通过使用这些网络中的任何一个,计算机系统(1400)可以与其它实体进行通信。所述通信可以是单向的,仅用于接收(例如,无线电视),单向的仅用于发送(例如can总线到某些can总线设备),或双向的,例如通过局域或广域数字网络到其它计算机系统。上述的每个网络和网络接口可使用某些协议和协议栈。
上述的人机界面设备、人可访问的存储设备以及网络接口可以连接到计算机系统(1400)的核心(1440)。
核心(1440)可包括一个或多个中央处理单元(cpu)(1441)、图形处理单元(gpu)(1442)、以现场可编程门阵列(fpga)(1443)形式的专用可编程处理单元、用于特定任务的硬件加速器(1444)等。这些设备以及只读存储器(rom)(1445)、随机存取存储器(1446)、内部大容量存储器(例如内部非用户可存取硬盘驱动器、固态硬盘等)(1447)等可通过系统总线(1448)进行连接。在某些计算机系统中,可以以一个或多个物理插头的形式访问系统总线(1448),以便可通过额外的中央处理单元、图形处理单元等进行扩展。外围装置可直接附接到核心的系统总线(1448),或通过外围总线(1449)进行连接。外围总线的体系结构包括外部外围组件互联pci、通用串行总线usb等。
cpu(1441)、gpu(1442)、fpga(1443)和加速器(1444)可以执行某些指令,这些指令组合起来可以构成上述计算机代码。该计算机代码可以存储在rom(1445)或ram(1446)中。过渡数据也可以存储在ram(1446)中,而永久数据可以存储在例如内部大容量存储器(1447)中。通过使用高速缓冲存储器可实现对任何存储器设备的快速存储和检索,高速缓冲存储器可与一个或多个cpu(1441)、gpu(1442)、大容量存储器(1447)、rom(1445)、ram(1446)等紧密关联。
所述计算机可读介质上可具有计算机代码,用于执行各种计算机实现的操作。介质和计算机代码可以是为本公开的目的而特别设计和构造的,也可以是计算机软件领域的技术人员所熟知和可用的介质和代码。
作为实施例而非限制,具有体系结构(1400)的计算机系统,特别是核心(1440),可以作为处理器(包括cpu、gpu、fpga、加速器等)提供执行包含在一个或多个有形的计算机可读介质中的软件的功能。这种计算机可读介质可以是与上述的用户可访问的大容量存储器相关联的介质,以及具有非易失性的核心(1440)的特定存储器,例如核心内部大容量存储器(1447)或rom(1445)。实现本公开的各种实施例的软件可以存储在这种设备中并且由核心(1440)执行。根据特定需要,计算机可读介质可包括一个或一个以上存储设备或芯片。该软件可以使得核心(1440)特别是其中的处理器(包括cpu、gpu、fpga等)执行本文所述的特定过程或特定过程的特定部分,包括定义存储在ram(1446)中的数据结构以及根据软件定义的过程来修改这种数据结构。另外或作为替代,计算机系统可以提供逻辑硬连线或以其它方式包含在电路(例如,加速器(1444))中的功能,该电路可以代替软件或与软件一起运行以执行本文所述的特定过程或特定过程的特定部分。在适当的情况下,对软件的引用可以包括逻辑,反之亦然。在适当的情况下,对计算机可读介质的引用可包括存储执行软件的电路(如集成电路(ic)),包含执行逻辑的电路,或两者兼备。本公开包括任何合适的硬件和软件组合。
附录a:首字母缩略词
jem:联合开发模型(jointexplorationmodel)
vvc:通用视频编解码(versatilevideocoding)
bms:基准集合(benchmarkset)
mv:运动矢量(motionvector)
hevc:高效视频编解码(highefficiencyvideocoding)
sei:辅助增强信息(supplementaryenhancementinformation)
vui:视频可用性信息(videousabilityinformation)
gops:图片群组(groupsofpictures)
tus:变换单元(transformunits)
pus:预测单元(predictionunits)
ctus:编码树单元(codingtreeunits)
ctbs:编码树块(codingtreeblocks)
pbs:预测块(predictionblocks)
hrd:假想参考解码器(hypotheticalreferencedecoder)
snr:信噪比(signalnoiseratio)
cpus:中央处理单元(centralprocessingunits)
gpus:图形处理单元(graphicsprocessingunits)
crt:阴极射线管(cathoderaytube)
lcd:液晶显示器(liquid-crystaldisplay)
oled:有机发光二极管(organiclight-emittingdiode)
cd:光盘(compactdisc)
dvd:数字化视频光盘(digitalvideodisc)
rom:只读存储器(read-onlymemory)
ram:随机存取存储器(randomaccessmemory)
asic:专用集成电路(application-specificintegratedcircuit)
pld:可编程逻辑设备(programmablelogicdevice)
lan:局域网(localareanetwork)
gsm:全球移动通信系统(globalsystemformobilecommunications)lte:长期演进(long-termevolution)
canbus:控制器局域网络总线(controllerareanetworkbus)
usb:通用串行总线(universalserialbus)
pci:外围组件互连(peripheralcomponentinterconnect)
fpga:现场可编程门阵列(fieldprogrammablegateareas)
ssd:固态驱动器(solid-statedrive)
ic:集成电路(integratedcircuit)
cu:编码单元(codingunit)
hmvp:基于历史的运动矢量预测(history-basedmvp)
mvp:运动矢量预测(motionvectorpredictor)
tmvp:时间运动矢量预测(temporalmvp)
tpm:三角预测模式(triangularpredictionmode)
vtm:通用测试模型(versatiletestmodel)
虽然本公开已对多个示例性实施例进行了描述,但实施例的各种变更、排列和各种等同替换均属于本公开的范围内。因此应理解,本领域技术人员能够设计多种系统和方法,所述系统和方法虽然未在本文中明确示出或描述,但其体现了本公开的原则,因此属于本公开的精神和范围之内。
(1)一种视频解码方法,包括:接收包括一当前图片的编码视频比特流;
在所述当前图像的区域内解码多个块;确定是否满足与所述区域相关联的预定条件;和在确定满足所述预定条件时,更新一历史运动矢量预测器hmvp缓冲器。
(2)根据特征(1)所述的方法,其中所述预定条件包括:在所述区域中是否启用并行处理。
(3)根据特征(2)所述的方法,在确定在所述区域中未启用并行处理时,利用所述区域中的每个解码块的每个运动向量更新所述hmvp缓冲器。
(4)根据特征(2)所述的方法,在确定在所述区域中启用并行处理时,不使用所述区域中任何解码块的任何运动矢量更新所述hmvp缓冲器。
(5)根据特征(2)所述的方法,所述预定条件还包括在所述区域中解码块的位置。
(6)根据特征(5)所述的方法,在确定在所述区域中启用并行处理并且所述解码块的位置在预定位置时,用所述区域其特征在于,中所述解码块的运动矢量更新所述hmvp缓冲器。
(7)根据特征(6)所述的方法,所述预定位置是所述区域的左上角。
(8)根据特征(5)所述的方法,进一步包括:将每个解码块的运动矢量存储在一临时缓冲器中。
(9)根据特征(8)所述的方法,进一步包括:在确定在所述区域中启用并行处理并且所述解码块的位置在所述区域的右下角时,将所述临时缓冲器的内容复制到所述hmvp缓冲器中。
(10)一种用于视频解码的视频解码器,包括:处理电路,所述处理电路用于:接收包括当前图片的编码视频比特流,在当前图片的区域中解码多个块,确定是否满足与所述区域相关联的预定条件,以及在确定满足所述预定条件时,更新历史运动矢量预测器hmvp缓冲器。
(11)根据特征(10)所述的视频解码器,所述预定条件包括:在所述区域中是否启用并行处理。
(12)根据特征(11)所述的视频解码器,在确定在所述区域中未启用并行处理时,用所述区域中的每个解码块的每个运动向量更新所述hmvp缓冲器。
(13)根据特征(11)所述的视频解码器,在确定在所述区域中启用并行处理时,不使用所述区域中任何解码块的任何运动矢量更新所述hmvp缓冲器。
(14)根据特征(11)所述的视频解码器,所述预定条件还包括在所述区域中解码块的位置。
(15)根据特征(14)所述的视频解码器,在确定在所述区域中启用并行处理并且所述解码块的位置在预定位置时,利用所述区域中的所述解码块的运动矢量更新所述hmvp缓冲器。
(16)根据特征(15)所述的视频解码器,所述预定位置为所述区域的左上角。
(17)根据特征(14)所述的视频解码器,所述处理电路进一步用于将每个解码块的运动矢量存储在一临时缓冲器中。
(18)根据特征(17)所述的视频解码器,所述处理电路进一步用于在确定在所述区域中启用并行处理并且所述解码块的位置在所述区域的右下角时,将所述临时缓冲器的内容复制到所述hmvp缓冲器中。
(19)一种具有存储在其中的指令的非易失性计算机可读存储介质,当由视频解码器中的处理器执行时,该非易失性计算机可读存储介质使所述处理器执行一种方法,该方法包括:接收包括当前图片的编码视频比特流;在当前图片的区域中解码多个块;确定是否满足与所述区域相关联的预定条件;和在确定满足所述预定条件时,更新一历史运动矢量预测器hmvp缓冲器。
(20)根据特征(19)所述的非易失性计算机可读存储介质,其中,所述预定条件包括在所述区域中是否启用并行处理。