一种基于satd的hevc快速帧内预测方法
【专利摘要】本发明提供了一种基于SATD的HEVC快速帧内预测方法，首先统计出一组健壮的阈值使其能够适用于不同尺寸的编码单元CU块以及不同的QP，当当前编码单元CU最小的SATD值小于给定的阈值条件下，即结束当前编码单元CU的分割过程；本发明可准确地定位出HEVC帧内编码单元CU需要分割的深度，能够极大地降低HEVC的编码复杂度，有助于实现HEVC编码器的实时应用。
【专利说明】—种基于SATD的HEVC快速巾贞内预测方法
【技术领域】
[0001]本发明属于数字视频通信领域中的视频信息处理领域，具体涉及一种基于SATD的视频编码标准(HEVC )快速帧内预测方法。
技术背景
[0002]随着科技的不断进步，人们对视觉和听觉质量的要求越来越高,高清视频和超高清视频开始被普遍关注。10年之前创立的第二代视频编码标准H.264/AVC已不能满足人们对于实际应用的要求，工业界和学术界对新一代视频编码标准的渴望越来越强烈。在这一形势下，VCEG和MPEG两大标准组织开始进行合作开发，在2010年I月成立了称为JCT-VC(Joint Collaborative Team on Video Coding)的联合组织，开始统一制定下一代视频编码标准并取名为-High Efficiency Video Coding。在2013年I月26号HEVC正式成为国际视频编码标准。
[0003]HEVC虽然跟以往的视频编码标准一样采用基于块的编码框架，但HEVC做了大量的技术创新。首次提出三个编码单元概念:cu(编码单元)，PU (预测单元)，TU (变换单元)。对于编码单元CU创新性地采用基于四叉树的块尺寸递归分割结构，最大尺寸可达64X64。对于预测单元W，其帧内预测模式多达35种。对于变换单元TU采用一种称为RQT(ResidualQuad-tree Transform)分割结构，其变换块的大小可根据残差的特性进行自适应的调整。上述所列的技术只是HEVC引进的众多技术中最为突出的部分。引进的这些创新技术使得HEVC跟H.264相比在保证相同视频质量的同时，码率可减少50%左右。可见，随着对未来高清以及超高清视频的不断需求，以及移动设备的大力发展，在可用带宽限制的前提下，HEVC展现出了巨大的市场应用潜力。但在取得高增益的同时，HEVC也面临着一个巨大的问题，跟H.264相比，HEVC的编码复杂度至少是其4倍，不利于实时应用。而HEVC中的模式选择又占到整个编码时间的80%以上，可见研究一种高效的快速模式选择算法对于降低HEVC的编码复杂度显得尤为重要。
[0004]对于帧间编码单元CU的快速决策，已提出了众多的提案。如基于SKIP模式的子树提前修剪算法，该算法先检查当前编码单元CU是否为SKIP模式，若是则提前结束其分割过程，该算法简单有效，已被HEVC标准采纳。但该算法不适用于帧内，对于帧内的编码单元CU快速划分目前还没有较为有效的算法。
【发明内容】
[0005]本发明的目的在于提供一种基于SATD的视频编码标准(HEVC)快速帧内预测方法，可以极大地降低HEVC的编码复杂度，有助于实现一种能够实时应用的编码器，不会引入额外的计算复杂度，而且对HEVC的编码效率几乎没有影响，可以灵活控制编码效率与编码时间之间的折中。
[0006]本发明一种基于SATD的HEVC快速帧内预测方法，具体包括如下步骤:
[0007]步骤1、首先分别统计出64X64,32X32以及16X 16尺寸块的编码单元⑶在不同量化参数QP下其35个巾贞内预测模式中最小的SATD (Sum of Absolute TransformedDifference)值需要满足的阈值条件，使得其不分割的概率达到95%左右，得出如下3组阈值分别对应于64X64,32X32以及16 X 16尺寸块:
[0008]thr64X64=139.3XQP-1971.4 (I)
[0009]thr32X32=107.9XQP-1154.3 (2)
[0010]thrl6X 16=96.4XQP-1290.5 (3)
[0011]步骤2、读入一个当前最大的编码单元块CTU，开始进行帧内预测，并设一个新的分割标志位earlyprune,初始化其为true ；
[0012]步骤3、判断当前编码单元⑶的尺寸，若当前编码单元⑶尺寸为8X8，转到步骤9，否则转到步骤4;
[0013]步骤4、对当前编码单元CU在粗略模式选择处理过程中保存下35个不同预测模式的SATD值，同时找出最小的SATD值，记为minSATD ；
[0014]步骤5、判断当前编码单元⑶的尺寸，若当前编码单元⑶尺寸为64X64，转到步骤6，若当前编码单元⑶尺寸为32 X 32，转到步骤7，若当前编码单元⑶尺寸为16 X 16，转到步骤8 ；
[0015]步骤6、由式(I)计算出thr64X64,若minSATD〈thr64X64,结束其分割过程,转到步骤9 ；
[0016]步骤7、由式(2)计算出thr32X32，若minSATD〈thr32X32，结束其分割过程，转到步骤9 ；
[0017]步骤8、由式(3)计算出thrl6X16，若minSATD〈thrl6X 16，结束其分割过程，转到步骤9 ；
[0018]步骤9、对当前编码单元CU经粗略模式选择处理后的预测模式进行率失真优化计算，从中选出最优的预测模式，转到步骤10 ；
[0019]步骤10、若当前编码单元⑶尺寸大于8X8,判断分割标志位earlyprune是否为false,若是，则结束当前编码单元CU的分割过程，转到步骤2 ;否则将当前编码单元CU划分为4个相等尺寸的子编码单元CU，对每个子编码单元CU，转到步骤3。
[0020]本发明适用于采用HEVC标准的编码系统中，对图像进行帧内预测处理时，提供一种帧内预测的快速CU划分决策算法，避免做不必要的RDO计算。本发明具有以下的主要特点和优点:
[0021]1、本发明利用SATD跟每一帧图像编码单元⑶块平坦度之间紧密的依赖关系，提前结束当前编码单元CU块不必要的分割过程。
[0022]2、本发明简单有效，不会带来额外的计算复杂度，可精确的终止当前编码单元CU块不必要的划分，而且可灵活控制所选阈值，使其适用于不同的应用场景，同时本发明非常利于硬件和软件的实现。
[0023]3.本发明不会改变HEVC原有的码流结构，与HEVC标准完全兼容。
【专利附图】
【附图说明】
[0024]图1为本发明HEVC巾贞内编码单兀⑶的递归划分过程不意图；
[0025]图2为本发明HEVC35种可用的帧内预测模式示意图。[0026]以下结合附图和具体实施例对本发明做进一步详述。
【具体实施方式】
[0027]本发明一种基于SATD的HEVC快速帧内预测方法，如图1所示，其中最大的编码单元⑶称为CTU (Coding Tree Unit)，首先进行CTU的分割，其四叉树的划分过程如下:当其不划分时，尺寸为64X64的编码单元CU，此时深度为O ;接着对其进行预测编码，得其率失真代价，然后对该编码单元CU进行分割，分为四个子编码单元CU，每个子编码单元⑶的尺寸为32 X 32，此时深度为I，接着对这四个子⑶分别进行预测编码，同样得其RDO(Rate-Distortion Optimization)代价,如此递归地划分下去；当子编码单元⑶的尺寸为8X8时，即此时深度为3时，结束其分割过程；接着对分割的编码单元CU进行修剪，即依此比较求得的各个编码单元CU的代价，从而决定当前LCU最优的编码分割选择:首先比较4个8X8子编码单元CU的代价和是否小于其对应的16X 16的编码单元CU的代价，如果小于，则选择8X8的编码单元CU的分割类型，否则选择16X16的编码单元CU分割类型，如此比较下去，直到当前编码单元⑶的深度为O。
[0028]对于HEVC的帧内预测，当前尺寸为2NX 2N的编码单元⑶对应预测单元I3U的尺寸只允许为2NX 2N或者NXN，而NXN尺寸的预测单元I3U只在编码单元⑶的尺寸为8X8时才被允许。
[0029]如图2所示，HEVC中每个预测单元的最优预测模式需在包括模式2_34之间的33种角度预测模式以及planar和DC模式共35种预测模式之间进行RDO计算，比较其RDO代价后选取最小代价对应的模式作为最终的预测模式，可见其计算复杂度相当巨大。因此，为了缓解编码器的计算复杂度，HEVC首先进行RMD(rough mode decision)处理，即对35种预测模式分别求其对应的Hadamard代价，从中选出N个代价最小的预测模式，并考虑了当前编码单元⑶的MPM(most probable mode),接着对这可能的N到N+2个候选模式进行率失真计算从中选出最优的预测模式。
[0030]本发明的一种基于SATD的HEVC快速帧内预测方法，具体包括如下步骤:
[0031]步骤1、首先分别统计出64X64,32X32以及16X 16尺寸块的编码单元⑶在不同量化参数QP下其35个巾贞内预测模式中最小的SATD (Sum of Absolute TransformedDifference)值需要满足的阈值条件，使得其不分割的概率达到95%左右，得出如下3组阈值分别对应于64X64,32X32以及16 X 16尺寸块:
[0032]thr64X64=139.3XQP-1971.4 (I)
[0033]thr32X32=107.9XQP-1154.3 (2)
[0034]thrl6X 16=96.4XQP-1290.5 (3)
[0035]步骤2、读入一个当前最大的编码单元块CTU，开始进行帧内预测，并设一个新的分割标志位earlyprune,初始化其为true ；
[0036]步骤3、判断当前编码单元⑶的尺寸，若当前编码单元⑶尺寸为8X8，转到步骤9，否则转到步骤4;
[0037]步骤4、对当前编码单元CU在粗略模式选择处理过程中保存下35个不同预测模式的SATD值，同时找出最小的SATD值，记为minSATD ；
[0038]步骤5、判断当前编码单元⑶的尺寸，若当前编码单元⑶尺寸为64X64，转到步骤6，若当前编码单元⑶尺寸为32 X 32，转到步骤7，若当前编码单元⑶尺寸为16 X 16，转到步骤8 ；
[0039]步骤6、由式(I)计算出thr64X64，若minSATD〈thr64X64，结束其分割过程，转到步骤9 ；
[0040]步骤7、由式(2)计算出thr32X32，若minSATD〈thr32X32，结束其分割过程，转到步骤9 ；
[0041]步骤8、由式(3)计算出thrl6X16，若minSATD〈thrl6X 16，结束其分割过程，转到步骤9 ；
[0042]步骤9、对当前编码单元CU经粗略模式选择处理后的预测模式进行率失真优化计算，从中选出最优的预测模式，转到步骤10 ；
[0043]步骤10、若当前编码单元⑶尺寸大于8 X 8,判断分割标志位earlyprune是否为false,若是，则结束当前编码单元CU的分割过程，转到步骤2 ;否则将当前编码单元CU划分为4个相等尺寸的子编码单元CU，对每个子编码单元CU，转到步骤3。
[0044]本发明的核心思想为:利用SATD值与当前编码单元CU平滑度之间存在的紧密关系，提前决策当前编码单元CU是否需要进一步的分割，过滤掉一些不必要的分割过程，节省编码时间。
[0045]采用新一代的视频编码标准HEVC提供的参考软件HM10.1来衡量本发明方法的效果。对HEVC建议的5个分辨率等级的18个测试序列进行全部测试。编码器参数为:全帧内编码模式，分别选取QP=22，27，32，37，其余为默认设置。本发明与原始HM10.1比较的实验结果如下表所示。表中的BDBR与BDPSNR为VCEG建议采用的评价准则，分别表示在同样的客观质量下，两种方法的码率节省情况以及在给定的同等码率下，两种方法的Y-PSNR的差异。
[0046]
【权利要求】
1.一种基于SATD的HEVC快速帧内预测方法，其特征在于包括如下步骤: 步骤1、首先分别统计出64X64,32X32以及16X 16尺寸块的编码单元⑶在不同量化参数QP下其35个巾贞内预测模式中最小的SATD (Sum of Absolute TransformedDifference)值需要满足的阈值条件，使得其不分割的概率达到95%左右，得出如下3组阈值分别对应于64X64，32X32以及16 X 16尺寸块:thr64X64=139.3XQP-1971.4 (I)thr32X32=107.9XQP-1154.3 (2)thrl6X 16=96.4XQP-1290.5 (3) 步骤2、读入一个当前最大的编码单元块CTU，开始进行帧内预测，并设一个新的分割标志位earlyprune,初始化其为true ； 步骤3、判断当前编码单元CU的尺寸，若当前编码单元CU尺寸为8X8，转到步骤9，否则转到步骤4 ； 步骤4、对当前编码单元CU在粗略模式选择处理过程中保存下35个不同预测模式的SATD值，同时找出最小的SATD值，记为minSATD ； 步骤5、判断当前编码单元CU的尺寸，若当前编码单元CU尺寸为64X64，转到步骤6，若当前编码单元⑶尺寸为32 X 32，转到步骤7，若当前编码单元⑶尺寸为16 X 16，转到步骤8 ; 步骤6、由式(I)计算出thr64X64,若minSATD〈thr64X64,结束其分割过程,转到步骤9 ; 步骤7、由式(2)计算出thr32X32，若minSATD〈thr32X32，结束其分割过程，转到步骤9 ; 步骤8、由式(3)计算出thrl6X16，若minSATD〈thrl6X 16，结束其分割过程，转到步骤9 ; 步骤9、对当前编码单元CU经粗略模式选择处理后的预测模式进行率失真优化计算，从中选出最优的预测模式，转到步骤10 ； 步骤10、若当前编码单元⑶尺寸大于8X8,判断分割标志位earlyprune是否为false,若是，则结束当前编码单元CU的分割过程，转到步骤2 ;否则将当前编码单元CU划分为4个相等尺寸的子编码单元CU，对每个子编码单元CU，转到步骤3。
【文档编号】H04N19/103GK103763570SQ201410024635
【公开日】2014年4月30日 申请日期:2014年1月20日 优先权日:2014年1月20日
【发明者】林其伟, 许东旭 申请人:华侨大学