一种适用于hevc的快速帧间模式选择方法
【技术领域】
[0001] 本发明设及视频编解码领域，具体设及当前最新国际视频编码标准肥V"Hi曲 Efficiency Video Coding)编码单元的快速帖间模式选择方法，可用于提高肥VC编码器的 帖间预测编码速度。
【背景技术】
[0002] 随着高清、超高清、3D视频和移动无线通信等新要求的提出，比264已经不能满足 视频应用发展的要求。为此，视频编码专家组（VideoCodingExpertsGroup,VCEG)和运 动图像编码专家组（MovingPicUireExpertsGroup,M阳G)组成联合视频编码小组（Joint Coll油orativeTeamonVideoCoding,JCT-VC)，致力于新的国际视频编码标准的制定，并 于2013年1月公布了新的国际视频编码标准肥VC。
[0003] 肥VC采用了与H. 264类似的块混合编码框架，并在此基础上进行了大量的创新。 例如，把宏块的概念推广到编码单元（CodingUnit,CU)、预测单元（PredictionUnit,PU) 和变换单元（Transform化it,TU)，其中编码单元的块尺寸变化范围从8X8至64X64,并 提出基于四叉树的块尺寸递归分割结构和先进的运动矢量预测等技术，大大提高了编码效 率。然而，肥VC编码效率的提高是W高计算复杂度为代价的。其中，帖间预测不仅占用大 量的内存空间，还耗费大量编码时间。在肥VC中，每帖图像首先被分为一组编码树单元 (CodingTree化it,CTU)，如图1所示。图1中，各编码树单元通过四叉树编码结构被递归 分割成四个相等的块大小的编码单元，变化范围从64X64到8X8,对应划分深度为0到3， 每个编码单元可W进一步划分为块大小可变的预测单元。对于帖间预测，如图2所示，肥VC 提供各种对称和非对称的划分（模式），包括2NX2N，2NXN，NX2N，NXN，2NXnU，2NXnD， nLX2N和nRX2N，用于和视频对象的边界精确匹配。
[0004] 肥VC帖间模式选择需要遍历SKIP模式和所有的帖间划分模式，分别计算各个模 式的率失真代价RD0,最后选择率失真代价RDO最小的模式作为其最终模式，其计算复杂度 相当大。实验结果表明，HEVC的帖间预测占用了约70%W上的编码时间，因此研究一种高 效的快速模式选择方法对于降低肥VC的编码复杂度，提高肥VC的实际应用价值就显得尤 为重要。
【发明内容】
阳0化]本发明的目的在于提供一种适用于肥VC的快速帖间模式选择方法，不但能大大 降低肥VC的编码复杂度，而且基本不影响肥VC的编码效率。
[0006] 本发明一种适用于肥VC的快速帖间模式选择方法，在帖间编码时，对每个编码树 单元，也就是最大编码单元，按模式对应的编码单元尺寸从大到小顺序逐级计算对应的模 式的率失真代价，当后一模式的率失真代价大于前一模式的率失真代价时，则结束该编码 单元的模式选择，取前一模式为该编码单元的最佳模式。
[0007]本发明所提出的方法简单易行，能大大降低肥VC帖间编码的计算复杂度。本发明 的主要优点是：
[0008] 1、掲示了 "肥VC的率失真代价函数与最佳模式的尺寸之间的关系服从单极点模 型分布（只有一个局部最小值）"的原理，并将其用于HEVC的快速模式选择。
[0009] 2、利用自然视频序列中选择低序号（大尺寸）块作为最佳模式概率较大的特点， 按块序号从小到大（块尺寸从大到小）的顺序进行率失真代价计算，一旦出现小块模式率 失真代价大于大块模式，则及时判定最佳模式，终止模式的选择过程，运样的设计能较快地 定位到最佳模式，避免了不必要的率失真代价计算，大大降低了HEVC计算复杂度。
[0010] 3、所提出的方法简单有效，计算顺序和肥VC的测试软件歷相同，易于实现。
【附图说明】 W11] 图1为肥VC中编码单元的递归划分过程；
[001引图2为肥VC中预测单元的划分示意图。
[0013] W下结合附图和实施例对本发明做进一步详述。
【具体实施方式】
[0014] 本发明提出了一种适用于肥VC的快速帖间模式选择方法，把2NX2N中的帖间预 测模式细分为SKIP和2NX 2N模式，对肥VC的帖间预测模式按下述方法进行排序：
[0015]
[0016] 令序号为0的模式为模式0,序号为I的模式为模式1，依此类推，序号为12的模 式为模式12,记序号为m对应的模式的率失真代价为RDO(m),编码时，对每个编码树单元， 也就是最大编码单元，从它的SKIP2NX2N模式开始，按序号m从小到大顺序逐级计算对应 的模式率失真代价RDO(m)，当后一模式的率失真代价大于前一模式的率失真代价时，则结 束该编码单元的模式选择过程，取前一模式为最佳模式。不失一般性，设最大编码单元的大 小为64X64,则本发明的快速帖间模式选择方法具体步骤如下：
[0017] 步骤1、读入当前的最大编码单元，判断其是否为帖间预测编码块，若为帖间预测 编码，转步骤2,否则进行帖内预测编码，并转步骤7; 阳0化]步骤2、计算当前编码单元选择SKIP_64X64模式时的率失真代价RDO(0)，转步骤 3 ；
[0019] 步骤3、计算当前编码单元选择64X64模式的率失真代价RDO(I)，若 RDO(0) <RD0 (1)，则判定SKIP_64X64模式为当前编码单元的最佳模式，转步骤7 ;否则，转 步骤4 ;
[0020] 步骤4、分别计算当前编码单元选择64X32、32X64模式时的率失真代价，选择其 中率失真代价较小的记为RDO(2)，若RDO(IKRDO(2)，则判定64X64模式为当前编码单元 的最佳模式，转步骤7 ;否则，转步骤5 ; W21] 步骤5、把当前编码单元划分为4个大小为32X32的子编码单元，分别 计算每个32X32的子编码单元选择SKIP_32X32模式时的率失真代价RDOi(3) (i= 0，1，2,3)，并计算SKIP_32X32 模式下当前编码单元的率失真代价：畑0(3) = 畑0。(3) +畑〇1 (3) +畑〇2 (3) +畑〇3 (3)，若畑0似 <畑0 (3)，则判定64X32和32X64模式中率 失真代价较小的模式为当前编码单元的最佳模式，转步骤7 ;否则，转步骤6 ;
[0022] 步骤6、如果当前4个划分尺寸为32X32的子编码单元均已处理完毕，转步骤7 ; 否则，转步骤6. 1确定下一个尺寸为32X32的子编码单元的最佳模式；
[0023] 步骤6.1、计算当前子编码单元（即第i号子编码单元）选择32X32模式时的率 失真代价RDOi(4)，若RDOi(3) <RD〇i(4)，则判定SKIP_32X32模式为当前子编码单元的最佳 模式，转步骤6 ;否则，转步骤6. 2 ;
[0024] 步骤6. 2、分别计算当前子编码单元选择32X16、16X32模式的率失真代价，选择 其中率失真代价较小的记为RDOi巧），若RDOi(4) <RD〇i巧），则判定32X32模式为当前子编 码单元的最佳模式，转步骤6 ;否则，转步骤6. 3 ;
[00巧]步骤6. 3、把当前尺寸为32X32的第i号编码单元划分为4个尺寸为16X16的子 编码单元，分别计算每个16X16尺寸的子编码单元选择SKIP_16X16模式时的率失真代价 RDOii(6)(j= 0, 1，2, 3)，并计算当前32X32的编码单元选择SKIP_16X16模式的率失真代 价：畑化化）=畑化。化）+畑化1化）+畑0。化）+畑化3化），若畑化巧）<畑化化），则判定32X16和 16X32模式中率失真代价较小的模式为当前子编码单元的最佳模式，转步骤6 ;否则，转步 骤 6. 4 ;
[00%] 步骤6. 4、如果当前4个划分尺寸为16X16的子编码单元均已处理完毕，转步骤 6 ;否则，转步骤6. 4. 1确定下一个尺寸为16X16的子编码单元的最佳模式；
[0027] 步骤6. 4.1、计算当前子编码单元（即第（i，j)号子编码单元）选择16X16模式 时的率失真代价RDOij(7)，若RDOii化)<RD〇u(7)，则判定SKIP_16X16模式为当前子编码单 元的最佳模式，转步骤6. 4 ;否则，转步骤6. 4. 2 ;
[0028] 步骤6. 4. 2、分别计算当前子编码单元选择16X8、8X16模式时的率失真代价，选 择其中率失真代价较小的记为RDOij(8)，若RDOii(7) <RD〇u(8)，则判定16X16模式为当前 子编码单元的最佳模式，转步骤6. 4 ;否则，转步骤6. 4. 3 ;
[0029] 步骤6. 4. 3、把当前大小为16X16的第（i，j)号子编码单元划分为4个尺寸为 8X8的子编码单元，分别计算每个尺寸为8X8的子编码单元选择SKIP_8X8模式时的率 失真代价畑Oiik(9)化=0, 1，2, 3)，并计算当前16X16的编码单元选择SKIP_8X8模式的 率失真代价：畑〇,i巧）=畑〇,i〇 (9) +畑相1巧)+畑化口巧)+畑化口巧）；若畑Oii(8) <畑相巧），则 判定16X8和8X16模式中率失真代价较小的模式为当前子编码单元的最佳模式，转步骤 6. 4 ;否则，转步骤6.4. 4 ;
[0030] 步骤6. 4. 4、如果当前4个划分尺寸为8X8的子编码单元均已处理完毕，转步骤 6. 4 ;否则，转步骤6. 4. 4. 1确定下一个尺寸为8X8的子编码单元的最佳模式；
[0031] 步骤6. 4. 4.1、计算当前子编码单元（第ijk号子编码单元）选择8X8模式时的 率失真代价RDOlikao);若RDOliパ9)<RDOlikao)，则判定SKIP_8X8模式为当前子编码单元 的最佳模式，转步骤6. 4. 4 ;否则，转步骤6. 4. 4. 2 ;
[0032] 步骤6. 4. 4. 2、分别计算当前子编码单元选择8X4、4X8模式时的率失真代价，并 选择其中率失真代价较小的记为RDOiik(Il)，若RDOiik(IO) <RD〇iik(n)，则判定8X8模式为 当前子编码单元的最佳模式，转步骤6. 4. 4 ;否则，转步骤6. 4. 4. 3 ;
[0033] 步骤6. 4. 4. 3、把当前编码单元向下划分为4个尺寸为4X4的子编码单元，选择 4X4模式时总的率失真代价畑Oiik(12)，若畑Oiik(Il) <畑Oiik(12)，则判定8X4、4X8模式 中率失真代价较小的模式为当前子编码单元的最佳模式，否则，判定4X4模式为当前子编 码单元的最佳模式，转步骤6. 4. 4 ;
[0034] 步骤7、当前最大编码单元模式选择过程结束，转步骤1编码下一个最大编码单 JL O
[0035] W上所述，仅是本发明较佳实施例而已，并非对本发明的技术范围作任何限制，故 凡是依据本发明的技术实质对W上实施例所作的任何细微修改、分层深度合并、等同变化 与修饰，均仍属于本发明技术方案的范围内。
【主权项】
1. 一种适用于HEVC的快速帧间模式选择方法，其特征在于：在帧间编码时，对每个编 码树单元，也就是最大编码单元，按模式对应的编码单元尺寸从大到小顺序逐级计算对应 的模式的率失真代价，当后一模式的率失真代价大于前一模式的率失真代价时，则结束该 编码单元的模式选择，取前一模式为该编码单元的最佳模式。
【专利摘要】本发明一种适用于HEVC的快速帧间模式选择方法，在帧间编码时，对每个编码树单元，也就是最大编码单元，按模式对应的编码单元尺寸从大到小顺序逐级计算对应的模式的率失真代价，当后一模式的率失真代价大于前一模式的率失真代价时，则结束该编码单元的模式选择，取前一模式为该编码单元的最佳模式；本发明所提出的方法简单易行，能大大降低HEVC帧间编码的计算复杂度。
【IPC分类】H04N19/109, H04N19/147
【公开号】CN105141953
【申请号】CN201510464054
【发明人】蔡灿辉, 项文杰, 曾焕强, 陈婧
【申请人】华侨大学
【公开日】2015年12月9日
【申请日】2015年7月31日