提高数字信号变换性能的方法及数字信号变换方法和装置制造方法
【专利摘要】本发明提出一种提高数字信号变换性能的方法和装置及数字信号变换方法和装置，其中，提高数字信号变换性能的方法包括：构造N行N列的变换核矩阵A，使所述变换核矩阵A同时满足（a）和（b）两个条件：(a)[DCT(i,j)×Factor]-2≤A(i,j)≤[DCT(i,j)×Factor]+2(b)J(A)＜TH；其中，本发明能够保证数字信号处理具有更高的变换性能。
【专利说明】提高数字信号变换性能的方法及数字信号变换方法和装置
【技术领域】
[0001] 本发明涉及数字信号处理【技术领域】，尤其涉及一种提高数字信号变换性能的方法 和装置及数字信号变换方法和装置。
【背景技术】
[0002] 视频和图像编码技术作为一种数字信号处理方式，是数字视频和图像这一重要多 媒体信息得以被广泛应用的基础和关键。当前基于块的视频编码混合框架下，视频编码一 般包括以下四大块：预测编码、变换以及量化、熵编码、环路滤波。其中变换的主要功能在于 去除预测残差之间的相关性，集中残差能量，有利于后续的熵编码，从整体上提高视频编码 的效率。
[0003] 在JPEG、MPEG_l/2/4、H. 261等视频图像编码标准中，主要采用了浮点的离散余弦 变换（DCT)，在实际实现中，不同的硬件产品关于浮点数的运算精度不一样，从而在这些标 准下的编解码器之间可能会出现失配现象。鉴于此，在H. 264/AVC、H. 265以及国内视频编 码标准AVS1和AVS2中都采用了整数化的变换。在H. 264/AVC和AVS中，变换核中所有数值 都是整数，各数值之间的比例与DCT矩阵无直接联系，且各变换基的模不尽相同，从而变换 过程中引入了缩放运算以及相应的(预)缩放矩阵。在H. 264/AVC和AVS中变换最大为8x8 大小，引入缩放运算不会带来很多的运算复杂度和存储复杂度，在整体上能简化变换过程 的运算；然而当变换大小变得很大时，比如32x32和64x64,此时如果引入缩放运算，其带来 的运算、存储复杂度相当大，故在最新一代的国际/内标准H. 265和AVS2中，整数化的DCT 变换被采用，这类变换的变换核矩阵A是通过带无理数的DCT矩阵乘以一个倍数（Factor) 得到，如式（1)所示。
[0004]
【权利要求】
1. 一种提高数字信号变换性能的方法，其特征在于，构造N行N列的变换核矩阵A，使 所述变换核矩阵A同时满足（a)和（b)两个条件：
其中，式（a)中的A(i，j)是变换核矩阵A第i行第j列的元素，DCT(i，j)为离散余弦 变换矩阵中第i行第j列的元素，定义如式（I) ;Fact〇r是一个大于1的因子，□表示四舍 五入取整；
才出的TH旦一水莉?沿?的細估 nbr9')W.
式（2)中的a，p，Y是三个参数，满足@ <a，Y<a，dist(A),normal⑷和orth(A)的定义如式（3)所示；
其中，"T"表示矩阵的转置，P(i，j)表示矩阵P第i行第j列的元素，Q(i，j)表示矩阵Q第i行第j列的元素，DCT表示无理数的离散余弦变换矩阵。
2. 如权利要求1所述的方法，其特征在于，所述TH=J(M)，其中，M为无理数的离散余弦 变换矩阵乘以所述Factor、并分别对结果中的每个元素四舍五入取整得到的矩阵，所述M 的长和宽均为N;
，其中，a, ￠,Y是三个参数，满足3 <a，Y<a,dist(M),normal(M)和orth(M)的定义如下式所示：
其中，"T"表示矩阵的转置，P(i，j)表示矩阵P第i行第j列的元素，Q(i，j)表示矩阵Q第i行第j列的元素，DCT表示无理数的离散余弦变换矩阵。
3. 如权利要求1所述的方法，其特征在于，当。
，其中N=4、8、16或32 时，所述TH=J(M)，其中，M为H. 265标准所规定的变换核矩阵。
4. 如权利要求1所述的方法，其特征在于，所述TH=NXO. 02。
5. -种提高数字信号变换性能的装置，其特征在于，所述装置用于构造N行N列的变换 核矩阵A，使所述变换核矩阵A同时满足（c)和（d)两个条件：
其中，式（c)中的A(i，j)是变换核矩阵A第i行第j列的元素，DCT(i，j)为离散余弦 变换矩阵中第i行第j列的元素，定义如式（4) ;Fact〇r是一个大于1的因子，□表示四舍 五入取整：
式（d)中的TH是一个预设的阈值，J(A)由式（5)定义；
式（5)中的a，P，Y是三个参数，满足@ <a，Y<a，dist(A),normal⑷和orth(A)的定义如式（6)所示；
其中，"T"表示矩阵的转置，P(i，j)表示矩阵P第i行第j列的元素，Q(i，j)表示矩阵Q第i行第j列的元素，DCT表示无理数的离散余弦变换矩阵。
6. 如权利要求5所述的装置，其特征在于，所述TH=J(M)，其中，M为无理数的离散余弦 变换矩阵乘以所述Factor、并分别对结果中的每个元素四舍五入取整得到的矩阵，所述M 的长和宽均为N;
，其中，a, ￠,Y是三个参数，满足3 <a，Y<a,dist(M),normal(M)和orth(M)的定义如下式所示：
其中，"T"表示矩阵的转置，P(i，j)表示矩阵P第i行第j列的元素，Q(i，j)表示矩阵Q第i行第j列的元素，DCT表示无理数的离散余弦变换矩阵。
7. 如权利要求5所述的装置，其特征在于，当
，其中N=4、8、16或32 时，所述TH=J(M)，其中，M为H. 265标准所规定的变换核矩阵。
8. 如权利要求5所述的装置，其特征在于，所述TH=NXO. 02。
9. 一种数字信号变换方法，其特征在于，将待变换的L行K列的数据块X采用如下任意 一种方式进行一维变换： (a)
，将Y中每一个元素分别与wl相加，并将相加后的结果以自然二进制表达 形式右移si位，得到数据变换的结果；其中，所述A为采用权利要求1至4任意一项所述的 方法构造的N行N列的变换核矩阵,且N的取值为L;wl,si为整数,并且wl彡0,si彡0 ; (b：
，将Y中每一个元素分别与w2相加，并将相加后的结果以自然二进制表达 形式右移s2位，得到数据变换的结果；其中，所述A为采用权利要求1至4任意一项所述的 方法构造的N行N列的变换核矩阵，且N的取值为K;w2,s2为整数，并且《2彡0,s2彡O; (c：
，将Y中每一个元素分别与《3相加，并将相加后的结果以自然二进制表达 形式右移s3位，得到数据变换的结果；其中，所述A为采用权利要求1至4任意一项所述的 方法构造的N行N列的变换核矩阵，且N的取值为K;w3,s3为整数，并且《3彡0,s3彡0 ; (d)
，将Y中每一个元素分别与《4相加，并将相加后的结果以自然二进制表 达形式右移s4位，得到数据变换的结果；其中，所述A为采用权利要求1至4任意一项所述 的方法构造的N行N列的变换核矩阵,且N的取值为L;w4,s4为整数,并且w4彡0,s4彡0。
10. -种数字信号变换装置，其特征在于，所述装置用于将待变换的L行K列的数据块 X采用如下任意一种方式进行一维变换： (a)
,将Y中每一个元素分别与wl相加，并将相加后的结果以自然二进制表达 形式右移si位，得到数据变换的结果；其中，所述A为采用权利要求1至4任意一项所述的 方法构造的N行N列的变换核矩阵,且N的取值为L;wl,si为整数,并且wl彡0,si彡0 ; (b)
,将Y中每一个元素分别与《2相加，并将相加后的结果以自然二进制表达 形式右移s2位，得到数据变换的结果；其中，所述A为采用权利要求1至4任意一项所述的 方法构造的N行N列的变换核矩阵，且N的取值为K;w2,s2为整数，并且《2彡0,s2彡0 ; (c)
.，将Y中每一个元素分别与《3相加，并将相加后的结果以自然二进制表达 形式右移s3位，得到数据变换的结果；其中，所述A为采用权利要求1至4任意一项所述的 方法构造的N行N列的变换核矩阵，且N的取值为K;w3,s3为整数，并且《3彡0,s3彡0 ; (d)
，将Y中每一个元素分别与《4相加，并将相加后的结果以自然二进制表 达形式右移s4位，得到数据变换的结果；其中，所述A为采用权利要求1至4任意一项所述 的方法构造的N行N列的变换核矩阵,且N的取值为L;w4,s4为整数,并且w4彡0,s4彡0。
【文档编号】H04N19/625GK104244010SQ201310238184
【公开日】2014年12月24日 申请日期:2013年6月14日 优先权日:2013年6月14日
【发明者】朱兴国, 虞露, 陈杰 申请人:浙江大学, 北京三星通信技术研究有限公司, 三星电子株式会社