专利名称：一种快速帧内模式选择方法
技术领域：
本发明涉及视频编码技术，具体涉及一种H. 264的帧内模式选择方法。
背景技术：
H.264是由联合视频工作组(Joint Video Team, JVT)制定的。它是一个面向未来IP和无 线环境下的视频压縮标准，其在视频压縮效率方面比目前所有的视频压縮标准都有显著的提 高。& 264用了传统的基于宏块和运动补偿的方案，继续沿用了以前编码标准中的优秀技术 。同时它还提供了一系列新型开发编码工具，包括多模式的帧内预测、FMO(灵活模块次序) 、1/4像素精度的运动估计和运动补偿等。H.264编码标准中，为了提高帧内帧编码的效率而 引入了帧内预测算法，充分的利用了帧内相邻宏块间的信息相关性，只对预测值与实际值的 插值进行编码。但是，帧内预测算法具有极高的算法复杂度，正是由于这种计算的高复杂度 是它的编码速度变得比较缓慢，在通常情况下还不能满足实际应用的需求。所以在不改变 H. 264标准码流结构和维持原有码率的情况下，找到简单可行的算法代替原有的复杂算法， 提高其编码速度就成为当前的研究热点。目前常见的方法有全遍历算法、sobel算子法等 。全遍历算法遍历所有可用的预测模式，得到最优的预测模式。这种方法能得到最优的预测 模式，但是引入的高复杂度的计算量使得很难满足实际应用的需要。sobel算子法在JVT会议 记录文档JVT-G013. doc中给出。它的实现方法是将当前4x4块的像素采用sobel算子，计算出 方向矢量，使之与各种预测模式的预测方向相比较，方向最相近的预测模式为最优模式。但 是实际仿真后的效果较差，信噪比下降较多，同时在编码速度上并没有很大提高。
发明内容
本发明所要解决的技术问题是，提供一种在保证信噪比的情况下，较大幅度的提升编码 速度的帧内模式选择方法。
本发明为解决上述技术问题所采用的技术方案是， 一种快速帧内模式选择方法，包括以 下步骤
a、 判断MPM模式的失真值是否小于等于第一阈值T1;若是，当前块的最优预测模式为
MPM模式；如否，进入步骤b;
b、 计算竖直模式、水平模式、DC模式的失真值，判断这三种模式中是否有一个失真值
小于等于第二阈值T2;如是，采用该模式为当前块的最优预测模式；如否，进入步骤C;c、 判断竖直模式的失真值是否小于水平模式的失真值；若是，进入步骤d;若否进入步
骤e;
d、 计算右垂直模式与左垂直模式的失真值，并判断右垂直模式的失真值是否小于左垂
直模式的失真值；若是，再计算下右对角线模式的失真值，将右垂直模式与下右对角线模式 中失真值较小的模式作为当前块的最优预测模式；若否，再计算下左对角线模式的失真值， 将左垂直模式与下左对角线模式中失真值较小的模式作为当前块的最优预测模式；
e、 计算下水平模式与上水平模式的失真值，并判断下水平模式的失真值是否小于上水 平模式的失真值；若是，再计算下右对角线模式的失真值，将下水平模式与下右对角线模式 中失真值较小的模式作为当前块的最优预测模式；若否，再计算下左对角线模式的失真值， 将上水平模式与下左对角线模式中失真值较小的模式作为当前块的最优预测模式。
第一阈值T1 = totalTl/totalTlNum;其中，totalTl为最优预测模式采用了竖直模式、 水平模式或DC模式的块的失真值总和；totalTlNum为最优预测模式采用了竖直模式、水平模 式或DC模式的块的个数。第二阈值T24otalT2/totalT2Num;其中，totalT2:每个编码块的 最优预测模式的失真值总和；totalT2Num为编码过程中块的个数。
本发明的有益效果是，充分考虑了预测模式的方向性，同时阈值的选取也满足各种模式 的失真值分布特点，能很好的控制模式选择过程。与全遍历算法相比在信噪比几乎没有降低 的情况下，较大幅度的提升了编码速度。
具体实施例方式
采用JM (测试模型)对ITU (国际电报联盟)提供的常用测试源编码后发现，帧内编码 最终采用MPM模式的情况较多，占了60% 92%左右。视频源越平滑，采用MPM为最优模式的情 况更多。MPM是指最可能采用的模式，它是根据当前4x4快左边和上边的两个块采用的实际预 测模式，通过计算得到的。如果最终采用这种模式，那么在编码的时候可以用更小的数据量 来表示。下述预测模式0-8，每个数字指定的是一种特定的预测模式，在ITU标准文档中( http:〃雨.itu. int/rec/T-REC- H. 264 /en)说明如下。
模式0: Intra—4x4—Vertical (竖直)
模式l: Intra—4x4—Horizontal冰平)
模式2: Intra—4x4—DC
模式3: Intra—4x4—Diagonal—Down—Left (下左对角线)
模式4: Intra—4x4—Diagonal—Down—Right (下右X寸角线)
模式5: Intra—4x4—Vertical—Right (右垂直)
4模式6: Intra—4x4—Horizontal—Down (下7JC平) 模式7: Intra—4x4—Vertical—Left (左垂直) 模式8: Intra—4x4—Horizontal—Up (上7K平) 实施流程如下
1、 先计算出MPM模式的失真值，判断CMFM是否小于等于阈值Ti;若是，最优预测模式 为MPM模式，如否，进入步骤2;
2、 计算模式0， 1， 2的失真值，判断这三种模式中是否有一个的失真值小于等于阈值 T2，如是，采用该模式为最优预测模式，如否，进入步骤3;
3、 判断模式0的失真值是否小于模式1的失真值，若是，进入步骤4;若否，进入步骤5
4、 计算模式5与模式7的失真值，并判断模式5的失真值是否小于模式7，若是，再计算 模式4的失真值，将模式5与模式4中失真值最小的模式设为最优预测模式；若否，再计算模 式3的失真值，将模式7与模式3中失真值最小的模式设为最优预测模式；
5、 计算模式6与模式8的失真值，并判断模式6的失真值是否小于模式8，若是，再计算 模式4的失真值，将模式6与模式4中失真值最小的模式设为最优预测模式；若否，再计算模 式3的失真值，将模式8与模式3中失真值最小的模式设为最优预测模式。
其中步骤1和步骤2用到了两个阈值T1和T2。 T1用来判断MPM模式的失真值是否足够小。 T2用来判断模式0、模式l、模式3的失真值是否足够小。 T1和T2的求值过程如下
Tl: Tl = totalTl/totalTlNum;其中，totalTl为最优预测模式采用了模式0、模式l或 模式3的块的失真值总和；totalTlNum为最优预测模式采用了模式O、模式1或模式3的块的个 数。实际操作中，在得到当前4x4块的最优预测模式后，如果预测模式是模式0、模式l、模 式3中的其中一种，就将临时变量totalTl的值加上该最优预测模式的失真值，同时将 totalTlNum的值加l，否则不修改上述变量的值。
T2: T2=totalT2/totalT2Num;其中，totalT2为每个编码块的最优预测模式的失真值总 和；totalT2Num为编码过程中块的个数。实际操作中，在得到当前4x4块的最优预测模式后 ，就将临时变量totalT2的值加上最优模式的失真值，同时将totalT2Num的值加l。
权利要求
1.一种快速帧内模式选择方法，其特征在于，包括以下步骤a、判断MPM模式的失真值是否小于等于第一阈值T1；若是，当前块的最优预测模式为MPM模式；如否，进入步骤b；b、计算竖直模式、水平模式、DC模式的失真值，判断这三种模式中是否有一个失真值小于等于第二阈值T2；如是，采用该模式为当前块的最优预测模式；如否，进入步骤c；c、判断竖直模式的失真值是否小于水平模式的失真值；若是，进入步骤d；若否进入步骤e；d、计算右垂直模式与左垂直模式的失真值，并判断右垂直模式的失真值是否小于左垂直模式的失真值；若是，再计算下右对角线模式的失真值，将右垂直模式与下右对角线模式中失真值较小的模式作为当前块的最优预测模式；若否，再计算下左对角线模式的失真值，将左垂直模式与下左对角线模式中失真值较小的模式作为当前块的最优预测模式；e、计算下水平模式与上水平模式的失真值，并判断下水平模式的失真值是否小于上水平模式的失真值；若是，再计算下右对角线模式的失真值，将下水平模式与下右对角线模式中失真值较小的模式作为当前块的最优预测模式；若否，再计算下左对角线模式的失真值，将上水平模式与下左对角线模式中失真值较小的模式作为当前块的最优预测模式。
2.如权利要求l所述一种快速帧内模式选择方法，其特征在于，第一 阈值T1 = totalTl/totalTlNum;其中，totalTl为最优预测模式采用了竖直模式、水平模式 或DC模式的块的失真值总和；totalTlNum为最优预测模式采用了竖直模式、水平模式或DC模 式的块的个数。
3.如权利要求1或2所述一种快速帧内模式选择方法，其特征在于， 第二阈值T24otalT2/totalT2Num;其中，totalT2:每个编码块的最优预测模式的失真值总 和；totalT2Num为编码过程中块的个数。
全文摘要
本发明涉及视频编码技术，具体涉及一种H.264的帧内模式选择方法。本发明提供一种在保证信噪比的情况下，较大幅度的提升编码速度的帧内模式选择方法。一种快速帧内模式选择方法，包括以下步骤先判断MPM模式的失真值是否小于等于第一阈值T1；若是，当前块的最优预测模式为MPM模式；如否，根据第二阈值T2与预测模式的方向性逐步缩小预测模式的选择范围。本发明充分考虑了预测模式的方向性，同时阈值的选取也满足各种模式的失真值分布特点，能很好的控制模式选择过程。与全遍历算法相比在信噪比几乎没有降低的情况下，较大幅度的提升了编码速度，适用于对H.264编码方法的改进。
文档编号H04N7/50GK101287125SQ20081030186
公开日2008年10月15日 申请日期2008年5月30日 优先权日2008年5月30日
发明者毛夏飞, 鲁国宁 申请人:四川虹微技术有限公司