专利名称：一种视频编码4x4整数变换方法
技术领域：
本发明 涉及视频编码技术领域，尤其涉及一种视频编码4x4整数变换方法。
背景技术：
一套完整的视频编码系统是由预测、变换、量化、熵编码等一系列算法模块组成的。其中帧内帧间预测是利用视频数据在空间和时间上的相关性压缩数据。变换模块是将预测模块输出的图像残差数据由时域变换到另一个空间上，使时域上平坦分布的数据在变换空间上能量集中，将数据的能量大部分集中在空间的低频区域中。在随后的量化和熵编码模块中，会有效的利用变换后的数据分布特征，进一步压缩数据。显而易见，变换模块是视频编码系统中重要的组成部分，变换的性能直接影响视频编码系统的性能。在现有视频编码系统中，DCT变换(离散余弦变换Discrete CosineTransform) 得到了广泛的应用，其变换的能量集中性很好，可以极大地消除视频数据在变换空间上的相关性。但是这种算法存在不足，DCT变换矩阵是浮点表示的，计算过程中使用大量的浮点乘法和加法，占用硬件资源多，计算复杂的大。同时由于处理器运算位数影响，浮点运算存在截断误差，浮点计算精度不高，DCT正反变换不能完全匹配，变换不可逆。
发明内容
本发明实施例的目的在于提出一种视频编码4x4整数变换方法，旨在解决现有技术DCT变换矩阵采用浮点乘法和加法，占用硬件资源多，计算复杂的大，计算精度不高，DCT 正反变换不能完全匹配，变换不可逆的问题。本发明实施例的方法是这样实现的，一种视频编码4x4整数变换方法，包括接收编码器中预测模块输出的4x4的图像残差数据X ；选取整数变换基，构建变换矩阵P，4x4的通用整数变换矩阵为
权利要求
1. 一种视频编码4x4整数变换方法，包括接收编码器中预测模块输出的4x4的图像残差数据X ； 选取整数变换基，构建变换矩阵P， 4x4的通用整数变换矩阵为矩阵C中，整数变换基为[k0 kl k2]；正变换，对4x4的图像残差数据X进行整数变换，变换公式为Y = PXPt ；其中P为所述的变换矩阵；X为所述的图像残差数据； 其特征在于所述整数变换基为以下数值中的一个 [1,9,4], [1,7,3], [1，8，3]。
2.如权利要求1所述的视频编码4x4整数变换方法，其特征在于，所述步骤“选取整数变换基，构建变换矩阵P”之后还可以包括步骤 根据变换矩阵P，构建缩放矩阵PF， PF = ZT*Z其中，
3.如权利要求2所述的视频编码4x4整数变换方法，其特征在于，所述步骤“正变换， 对4x4的图像残差数据X进行整数变换，变换公式为Y = PXPT”之后还可以包括步骤对经过4x4正变换后的数据Y进行缩放处理，
4.如权利要求1所述的视频编码4x4整数变换方法，其特征在于，所述正变换中变换的基本单元是y = Px的4点一维变换，其中χ = [xl x2 x3 χ4]τ，输出的y= [yl y2 y3 y4] T，xl x2 x3 x4表示整数变换的一维为所述正变换的输入四点数值；yl y2 y3 y4为所述正变换的四点输出数值。
5.如权利要求2所述的视频编码4x4整数变换方法，其特征在于，所述整数变换基取值为[1，9，4]时所述变换矩阵PZt =
6.如权利要求1所述的视频编码4x4整数变换方法，其特征在于，当所述整数变换基取值为[1，9，4]时，“对4x4的图像残差数据X进行整数变换，变换公式为Y = PXPT”计算过程如下bl = xl+x4 ；b2 = x2+x3 ；b3 = x2_x3 ；b4 = xl_x4 ；yl = bl+b2 ；y3 = bl_b2 ；y2 = b4 << 3+b4+b3 << 2 ；y4 = _b3 << 3_b3+b4 << 2 ； 其中“<<”表示向左移位运算，优先级高于加减法。
7.如权利要求2所述的视频编码4x4整数变换方法，其特征在于，所述整数变换基取值为[1，7，3]时所述变换矩阵IZt=
8.如权利要求1所述的视频编码4x4整数变换方法，其特征在于，当所述整数变换基取值为[1，7，3]时，“对4x4的图像残差数据X进行整数变换，变换公式为Y = PXPT”计算过程如下bl = xl+x4 ；b2 = x2+x3 ；b3 = x2_x3 ；b4 = xl_x4 ；yl = bl+b2 ；y3 = bl_b2 ；Y2 = b4 < < 3_b4+b3 < < 2_b3 ；Y4 = _b3 < < 3+b3+b4 << 2-b4 ；其中“ <<”表示向左移位运算，优先级高于加减法。
9.如权利要求2所述的视频编码4x4整数变换方法，其特征在于，所述整数变换基取值为[1，8，3]时所述变换矩阵
10.如权利要求1所述的视频编码4x4整数变换方法，其特征在于，当所述整数变换基取值为[1，8，3]时，“对4x4的图像残差数据X进行整数变换，变换公式为
全文摘要
本发明公开一种视频编码4x4整数变换方法，通过接收编码器中预测模块输出的4x4的图像残差数据X，选取不同整数变换基[1，9，4]、[1，7，3]、[1，8，3]中的一个构建变换矩阵P；根据变换矩阵P，构建缩放矩阵PF＝ZT*Z；根据Y＝PXPT对图像残差数据X进行正变换，并根据不同的整数变化基，采用相应的整数变换计算方法；对经过4x4正变换后的数据Y进行缩放处理。本发明的变换方法能量集中性能优秀，能量集中度接近4x4DCT，可以极大地消除视频数据在变换空间上的相关性；计算复杂度低，可通过加法和移位来实现，易于硬件实现，并且运算精度高，不存在正反变换不匹配的问题。
文档编号H04N7/26GK102333217SQ201110278320
公开日2012年1月25日 申请日期2011年9月19日 优先权日2011年4月20日
发明者徐苏珊 申请人:深圳市融创天下科技股份有限公司