专利名称：一种自适应的dct零系数提前检测方法
技术领域：
本发明涉及视频编码领域，特别是一种自适应的DCT零系数提前检测方法。
背景技术：
H. 264/AVC作为ITU和MPEG联合开发的最新视频标准，比传统的视频标准获得了 很大的提高，而同时在编码的复杂度方面也有显著的增加。减少编码复杂度成为H. 264/AVC 应用的重点之一。DCT零系数在低比特率视频应用中非常常见，如果能在DCT和量化运算前 检测出零系数，DCT和量化的计算就可以显著的减少。
发明内容
本自适应的DCT零系数提前检测算法包括全零系数宏块(AZB)检测和14零系数 宏块(FZB)检测。其中全零系数宏块指^4DCT的系数全为0，14零系数宏块指^4DCT系 数只有2个不为0。本发明的目的是通过以下步骤实现1、根据4x4残差块f(u，ν)整形变换，确定量化系数F(x，y)Q。变换公式如下
权利要求
1. 一种自适应的DCT零系数提前检测算法，其特征在于，包括如下步骤1)根据4x4残差块f(u，V)整形变换，确定量化系数F(x，y)Q。2)定义判决值公式。3)定义门限值公式。4)确定总体检测法则。5)确定全零系数宏块检测法则。6)确定14零系数宏块检测法则。
2.如权利要求1所述的自适应的DCT零系数提前检测算法，其特征在于所述步骤2)中 判决值公式及参数，如下
3.如权利要求1所述的自适应的DCT零系数提前检测算法，其特征在于所述步骤3)中 门限值公式及参数，如下
4.如权利要求1所述的自适应的DCT零系数提前检测算法，其特征在于所述步骤4)中 总体检测法则，如下定义量化参数门限值为ThQ，当量化参数QP < ThQ时，使用14零系数宏块检测法来检 测14零系数宏块和全零系数宏块；其他情况下，使用全零系数宏块检测法来检测全零系数 宏块。ThQ—般选取为40。
5.如权利要求1所述的自适应的DCT零系数提前检测算法，其特征在于所述步骤5)中 全零系数宏块检测法则的3个步骤，如下A.如果SAD4x4^ W2)，该宏块不是全零系数宏块，需要对所有系数计算变换、量化、反 量化、反变换；否则进入步骤B。B.如果SAD4x4< T(O)，该宏块为全零系数宏块，跳过该宏块到下一宏块；否则计算 HiinlTH1, TH2}，进入步骤 C。C.如果SAD4x4< min ITH1, TH2}，该宏块为全零系数宏块，跳过该宏块到下一宏块；否则 该宏块不是全零系数宏块，需要对所有系数计算变换、量化、反量化、反变换。
6.如权利要求1所述的自适应的DCT零系数提前检测算法，其特征在于所述步骤6)中 14零系数宏块检测法则的3个步骤，如下A.如果SAD4x4^ W2)，该宏块不是全零系数宏块，需要对所有系数计算变换、量化、反 量化、反变换；否则进入步骤B。B.如果SAD4x4< T (1)，该宏块为全零系数宏块，跳过该宏块到下一宏块；否则该宏块 为14零系数宏块，进入步骤C。C.通过计算f(l，0)和f(0，l)完成变换、量化、反量化、反变换。
全文摘要
一种自适应的DCT零系数提前检测算法，本算法包括全零系数宏块(AZB)检测和14零系数宏块(FZB)检测。其中全零系数宏块指4x4DCT的系数全为0，14零系数宏块指4x4DCT系数只有2个不为0。由于14零系数宏块占的比重大，但通常被当成非全零系数宏块计算，所以有相当一部分计算可以被回避。本算法正是利用了对14零系数宏块的提前检测，从而减少DCT和量化的计算。
文档编号H04N7/50GK102148977SQ201010106470
公开日2011年8月10日 申请日期2010年2月4日 优先权日2010年2月4日
发明者杨华岚 申请人:成都市世嘉电子实业有限公司