专利名称：一种视频编码4x4整数变换方法
技术领域：
本发明涉及视频编码技术领域，尤其涉及一种视频编码4x4整数变换方法。
技术背景 一套完整的视频编码系统是由预测、变换、量化、熵编码等一系列算法模块组成 的。其中帧内帧间预测是利用视频数据在空间和时间上的相关性压缩数据。变换模块是将 预测模块输出的图像残差数据由时域变换到另一个空间上，使时域上平坦分布的数据在变 换空间上能量集中，将数据的能量大部分集中在空间的低频区域中。在随后的量化和熵编 码模块中，会有效的利用变换后的数据分布特征，进一步压缩数据。显而易见，变换模块是 视频编码系统中重要的组成部分，变换的性能直接影响视频编码系统的性能。在现有视频编码系统中，DCT变换得到了广泛的应用，其变换的能量集中性很好， 可以极大地消除视频数据在变换空间上的相关性。但是这种算法存在不足，DCT变换矩阵是 浮点表示的，计算过程中使用大量的浮点乘法和加法，占用硬件资源多，计算复杂的大。同 时由于处理器运算位数影响，浮点运算存在截断误差，浮点计算精度不高，DCT正反变换不 能完全匹配，变换不可逆。
发明内容
本发明实施例的目的在于提出一种视频编码4x4整数变换方法，旨在解决现有技 术DCT变换矩阵采用浮点乘法和加法，占用硬件资源多，计算复杂的大，计算精度不高，DCT 正反变换不能完全匹配，变换不可逆的问题。本发明实施例的方法是这样实现的，一种视频编码4x4整数变换方法，包括步骤1，接收编码器中预测模块输出的4x4的图像残差数据X ；步骤2，选取整数变换基，构建变换矩阵，4x4的通用整数变换矩阵为
'k0 kO k0 k0 ‘
^ k\ k2 -kl -k\
权利要求
1. 一种视频编码4x4整数变换方法，包括步骤1，接收编码器中预测模块输出的4x4的图像残差数据X ；步骤2，选取整数变换基，构建变换矩阵，4x4的通用整数变换矩阵为
2.如权利要求1所述的视频编码4x4整数变换方法，其特征在于，步骤4中变换的基 本单元是形如y = I3X的4点一维变换，其中χ = [χ1χ&3χ4]τ，输出的y = [yly2y3y4]T， xlx2x3x4表示整数变换的一维正变换的输入四点数值；yly2y3y4为正变换的四点输出数值。
3.如权利要求1所述的视频编码虹4整数变换方法，其特征在于，所述整数变换基取值 为[1，9，4]时所述变换矩阵P=
4.如权利要求1所述的视频编码4x4整数变换方法，其特征在于，所述当整数变换基取 值为[1，9，4]时，“对4x4的图像残差数据X进行整数变换，变换公式为Y = PXPT”计算过 程如下bl = xl+x4 ；b2 = x2+x3 ；b3 = x2_x3 ；b4 = xl_x4 ；yl = bl+b2 ；y3 = bl_b2 ；y2 = b4 << 3+b4+b3 << 2 ；y4 = _b3 << 3_b3+b4 << 2 ；其中“ < < ”表示向左移位运算，优先级高于加减法，基本单元y = Px共需要10个加 法和4个移位。
5.如权利要求1所述的视频编码4x4整数变换方法，其特征在于，所述整数变换基取值 为[1，7，3]时
6.如权利要求1所述的视频编码4x4整数变换方法，其特征在于，所述当整数变换基取 值为[1，7，3]时，“对4x4的图像残差数据X进行整数变换，变换公式为Y = PXPT”计算过 程如下bl = xl+x4 ；b2 = x2+x3 ；b3 = x2_x3 ；b4 = xl_x4 ；yl = bl+b2 ；y3 = bl_b2 ；Y2 = b4 < < 3_b4+b3 < < 2_b3 ；Y4 = _b3 < < 3+b3+b4 << 2-b4 ；其中“ < < ”表示向左移位运算，优先级高于加减法，基本单元y = Px共需要12个加 法和4个移位。
7.如权利要求1所述的视频编码4x4整数变换方法，其特征在于，所述整数变换基取 值为[1，8，3]时
8.如权利要求1所述的视频编码4x4整数变换方法，其特征在于，所述当整数变换基取 值为[1，8，3]时，“对虹4的图像残差数据X进行整数变换，变换公式为Y = PXPT”计算过 程如下bl = xl+x4 ；b2 = x2+x3 ；b3 = x2_x3 ；b4 = xl_x4 ；yl = bl+b2 ；y3 = bl_b2 ；Y2 = b4*8+4*b3_b3 ；Y4 = _b3*8+4*b4_b4 ；“<<”表示向左移位运算，优先级高于加减法，基本单元y = Px共需要10个加法和4个移位。
全文摘要
本发明公开一种视频编码4x4整数变换方法，通过接收编码器中预测模块输出的4x4的图像残差数据X，选取不同整数变换基(选取[1，9，4]、[1，7，3]、[1，8，3]中的一个)构建变换矩阵P；根据变换矩阵P，构建缩放矩阵PF(PF＝ZT*Z)；对图像残差数据X进行正变换(Y＝PXPT)，并根据不同的整数变化基，采用相应的整数变换计算方法；对经过4x4正变换后的数据Y进行缩放处理。本发明的变换方法能量集中性能优秀，能量集中度接近4x4DCT，可以极大地消除视频数据在变换空间上的相关性；计算复杂度低，可通过加法和移位来实现，易于硬件实现，并且运算精度高，不存正反变换不匹配的问题。
文档编号H04N7/26GK102137260SQ20111010140
公开日2011年7月27日 申请日期2011年4月20日 优先权日2011年4月20日
发明者徐苏珊 申请人:深圳市融创天下科技发展有限公司