专利名称：一种模式相关的快速变换方法
技术领域：
本发明涉及一种模式相关的快速变换方法，属于视频编码领域。
背景技术：
离散余弦变换被广泛地应用到图像和视频编码中，为了提高H.264/AVC视频编 码标准的编码效率，最近研究人员提出了模式相关的方向变换(MDDT)，该变换改进了 H.264/AVC中的变换效率。MDDT中对每个预测模式的预测残差训练得到了一组变换矩 阵(行变换矩阵和列变换矩阵)，MDDT的变换操作如下Y = CXRC和R分别是行变换矩阵和列变换矩阵，X是变换数据块。MDDT—共有9组 共18个变换矩阵。下式是MDDT中的一个8 X 8的变换矩阵
权利要求
1.一种模式相关的快速变换方法，其特征在于，包括以下步骤(1)对输入信号进行蝶形操作，得到信号y:将输入信号X乘以矩阵
2.根据权利要求1所述的一种模式相关的快速变换方法，其特征在于，所述输入信号 为 8 维列向量
3.根据权利要求2所述的一种模式相关的快速变换方法，其特征在于，在步骤(2)后 步骤(3)前进一步包括将所述正交变换矩阵U，V简化的步骤(A)将4X4的正交矩阵U，V进行6个平面旋转操作，每个平面旋转操作对应一个 4X4的矩阵
4.根据权利要求2所述的一种模式相关的快速变换方法，其特征在于，在步骤(2)后 步骤(3)前进一步包括将所述正交变换矩阵U，V简化的步骤(B)将4X4的正交矩阵U，V进行6组整数提升操作，每组提升操作均化成如下的 矩阵乘法来实现
5.根据权利要求4所述的一种模式相关的快速变换方法，其特征在于，步骤(B)后步 骤(3)前进一步包括如下步骤(C)将所有提升操作中的乘法因子p，u用1/32精度实现，即用移位和加法代替乘
全文摘要
一种模式相关的快速变换方法，包括(1)对输入信号进行蝶形操作，得到信号y将输入信号x乘以矩阵所述输入信号为N维列向量，N为2的幂次方；I为的单位矩阵，J为的单位反对角矩阵；(2)将信号y等分成上下两部分ya和yb，根据统计得到的输入信号x的相关矩阵Cx，计算出将Dx分成4部分对D0和D3进行SVD分解，得到两个的正交变换矩阵U，V；(3)将信号y用U和V进行如下处理，得到信号z(4)对信号z进行重排操作，该操作对应的变换为其中，m表示行，0≤m＜N-1；n表示列，0≤n＜N-1；N表示输入信号的维数。该方法还可进一步包括将正交矩阵U，V进行多个平面旋转的操作，将正交矩阵U，V进行整数提升的操作。本发明能够减少MDDT变换复杂度。
文档编号H04N7/30GK102025988SQ201010518249
公开日2011年4月20日 申请日期2010年10月19日 优先权日2010年10月19日
发明者丁文鹏, 尹宝才, 施云惠 申请人:北京工业大学