量化电平截取装置及方法
【专利摘要】本发明提供一种截取变换系数的装置及方法。根据本发明的多个实施例通过在量化之后自适应地截取量化电平来避免量化后的变换系数的溢出。在一个实施例中，所述方法包含：根据量化矩阵和量化参数对变换单元的变换系数进行量化，以产生变换系数的量化电平。确定截取条件，并根据截取条件截取量化电平，以产生截取处理后的量化电平。截取条件包含空截取条件。量化电平在空截取条件下截取为以n位表示的固定范围，其中n对应于8、16或32。量化电平也可在空截取条件下在由-m至m-1的范围内进行截取，其中m可对应于128、32768或2147483648。
【专利说明】量化电平截取装置及方法
[0001]交叉引用
[0002]本发明主张于2011年12月15日提交且发明名称为“Method of ClippingTransformed Coefficients before De-Quantization，，的申请号为 PCT/CN2011/084083 的PCT专利申请的优先权，该PCT专利申请的全部内容在此引用并合并参考。
【技术领域】
[0003]本发明是有关于视频编码，更具体地，本发明是有关于高效视频编码(HighEfficiency Video Coding, HEVC)的量化电平(quantization level)的截取(clipping)。
【背景技术】[0004]HEVC 是由视频编码联合组(Joint Collaborative Team on VideoCoding, JCT-VC)开发的一种新的国际视频编码标准。HEVC采用基于混合区块(hybridblock-based)的运动补偿的类似离散余弦变换(Discrete Cosine Transformation, DCT)的变换编码(DCT-like transform coding)架构。用于压缩的基本单元称为编码单元(Coding Unit, CU)，为2NX2N方块，且每个CU可递归地(recursively)切分为四个更小地⑶，直至达到预定的最小尺寸。每个⑶包含一个或多个区块尺寸可变的预测单元(Prediction Unit, PU)和变换单兀(Transform Unit, TU)。对于每个F1U,选择帧内图像预测或帧间图像预测。每个TU进行空间区块变换处理，然后对每个TU的变换系数进行量化。HEVC允许的最小的TU尺寸为4X4。
[0005]变换系数的量化在视频编码的位速率和质量控制中有重要作用。量化步长集合用于将变换系数量化为量化电平。较大的量化步长尺寸会导致较低的位速率和较低的质量。另一方面，较小的量化步长尺寸会产生更高的位速率和更高的质量。量化处理的直接实施方式包含分割操作，分割操作在基于硬件的实施方式中更加复杂，且在基于软件的实施方式中会消耗更多的计算资源。相应地，本领域开发了用于自由分割量化处理的各种技术。在HEVC测试模型版本5 (HEEV Test Model Revision5, HM-5.0)中，量化处理描述如下。参数集合定义为:
[0006]B =输入视频源的位宽(bit width)或位深度(bit depth)
[0007]DB = B-8
[0008]N = TU的变换尺寸
[0009]M = log2 (N)
[0010]Q[x] = f (x),其中 f(x) = {26214，23302，20560，18396，16384，14564}，X =
O,…，5，及
[0011]IQ[x] = g(x),其中 g(x) = {40, 45, 51, 57, 64, 72}, x = 0, , 5.[0012]Q[x]及IQ[x]称为分别称为量化步长与反量化步长。量化操作根据下式执行:
[0013]qlevel = (coeff*Q[QP% 6] +offset) ? (21+QP/6 - M - DB),其中
[0014]offset = 1? (20+QP/6 - M - DB),(I)[0015]其中”为模运算符(modulo operator)。反量化操作根据下式执行:
[0016]coeffQ= ((qlevel*IQ[QP% 6]? (QP/6)) +offset) ? (M-l+DB),其中
[0017]offset = I〈〈(M-2+DB)。(2)
[0018]式(I)和式⑵中的变量qlevel表示变换系数的量化电平。式(2)中的变量coeffQ表示反量化参数。IQ[X]指示反量化步长(也称为反量化步长尺寸)，以及QP表示量化参数。式⑴和式⑵中的“QP/6”表示QP除以6以后的整数部分。如式⑴和式
(2)所示,量化和反量化操作通过整数乘法(integer multiplication)之后再进行算术移位(arithmetic shift)来实施。式(I)和式(2)中均加上了偏移值(offset value),以使用取整(rounding)来实施整数转换(integer conversion)。
[0019]对于HEVC,量化电平的位深度为16位(包括I位标志位)。换言之,量化电平表示为2字节(byte)或16位字(word)。由于IQ(X)〈 = 72且QP〈 = 51，IQ[x]的动态范围为7位，且“〈〈(QP/6) ”运算符执行左侧算术移位至8位。相应地，反量化变换系数coeffQ (即“(qlevel*IQ[QP% 6])〈〈(QP/6)”)的动态范围为 31 位(16+7+8)。因此，式(2)所描述的反量化操作不会导致溢出(overflow)，因为反量化操作使用32位数据表达。
[0020]然而，当引入量化矩阵时，反量化操作可修改为式(3)至式(5)所示:
[0021]iShift = M-1+DB+4.(3)
[0022]若(iShift>QP/6),
[0023]coeffQ[i] [j] = (qlevel [i] [j]*ff[i] [j]*IQ[QP %6] +offset) ? (iShift-QP/6),其中
[0024]offset = 1〈〈(iShift-QP/6-1)，其中 i = 0…nW_l, j = 0..nH_l(4)
[0025]否则
[0026]coeffQ[i] [j] = (qlevel [i] [j]*ff[i] [j]*IQ[QP% 6]) ? (QP/6-1Shift) (5)
[0027]其中，“[i][j]”指示变换单元内变换系数的位置(也称为指针)，W指示量化矩阵，nW和nH为变换的宽度和高度。若η代表变换系数的量化电平的动态范围，则动态范围η必须满足以下条件以避免溢出:
[0028]n+w+iq+QP/6-M+DB-3 ^ 32,(6)
[0029]其中w为量化矩阵W的动态范围，iq为IQ[x]的动态范围，以及反量化的位深度或重建的变换系数为32位。
[0030]若量化矩阵W的动态范围为8位，则当QP = 51，M= 2且DB = O时，式⑶至式
(5)所描述的重建的变换系数的动态范围变为34位(16+8+7+3)。当反量化操作使用32位数据表达时，根据方程式式(3)至式(5)取得的重建的变换系数可能溢出并导致系统失败。因此，需要开发一种变换系数重建机制，以避免可能的溢出。
【发明内容】
[0031]本发明揭露一种量化电平截取装置及方法。根据本发明的多个实施例通过在量化之后自适应地截取量化电平以避免量化变换系数的溢出。在本发明一实施例中，该方法包含根据量化矩阵及量化参数对变换单元的变换系数进行量化，以产生变换单元的变换系数的量化电平；基于量化矩阵、量化参数、视频源位深度、变换单元的变换尺寸或其任意组合，确定截取条件，其中截取条件包括空截取条件；以及根据截取条件截取量化电平，以产生截取处理后的量化电平。所述量化电平的截取可对应于无条件的固定范围的截取，以及截取后的量化电平使用η位来表示，其中η可对应于8、16或32。所述量化电平的截取也可对应于无条件的固定范围的截取，以及量化电平在由_m至m-Ι的范围内进行截取，其中m可对应于 128,32768 或 2147483648。
【专利附图】
【附图说明】
[0032]图1所示为结合本发明一实施例的截取变换系数以避免溢出的较佳流程图。【具体实施方式】
[0033]如前所述，当引入量化矩阵时，上述参数反量化(或重建)操作可能会发生溢出。为了避免在变换系数重建期潜在的溢出，根据本发明的多个实施例在执行反量化操作之前限定变换系数的量化电平。变换系数的量化电平的动态范围由整数η表示。在式(3)至式
(5)所描述的实施例中，若反量化(或重建)变换系数使用32位数据表达，则η的动态范围不超过32位。相应地，η需要满足以下限制:
[0034]n+8+7+(QP/6-(M_l+DB+4))≤ 32，(7)
[0035]由此导出
[0036]n ≤20+M+DB-QP/6.(8)
[0037]在此情形下，变换系数的量化电平qlevel会根据式(9)进行截取:
[0038]qlevel = max (-2n_1, min (2n_1-l, qlevel))(9)
[0039]为了避免溢出，变换系数的量化电平的动态范围需要根据式(8)进行限制。根据式(8)，η必须小于或等于(20+M+DB-QP/6)以避免溢出。然而，由于在本实施例中量化电平由16位表示(即，量化电平的位深度=16),因此，η不超过16位。相应地，若(20+M+DB-QP/6)大于16，则变换系数的量化电平需要截取为一个不超过16位数据表达的范围。下列伪码(pseudo codes)(伪码A)显示根据本发明一实施例的在变换系数重建期间截取变换系数的量化电平qlevel以避免数据溢出的示例:
[0040]伪码A:
[0041]
【权利要求】
1.一种量化电平截取方法，适用于视频编码器，所述方法包含: 根据量化矩阵和量化参数对变换单元的变换系数进行量化，以产生所述变换系数的量化电平； 基于所述量化矩阵、所述量化参数、反量化步长、视频源位深度、所述变换单元的变换尺寸或上述任意组合，确定截取条件，其中所述截取条件包括空截取条件；以及 根据所述截取条件截取所述量化电平，以产生截取处理后的量化电平。
2.根据权利要求1所述的方法，其特征在于，所述量化电平在第一截取条件下截取为第一范围，以及所述量化电平在第二截取条件下截取为第二范围。
3.根据权利要求2所述的方法，其特征在于，所述第一范围对应于与量化电平位深度有关的固定范围。
4.根据权利要求2所述的方法，其特征在于，所述第二范围与所述量化电平的动态范围有关。
5.根据权利要求1所述的方法，其特征在于，所述截取条件通过将第一权重值与阈值作比较来确定，其中所述第一权重值对应于所述量化矩阵、所述量化参数、所述视频源位深度、所述变换单元的所述变换尺寸或上述任意组合的第一线性函数。
6.根据权利要求5 所述的方法，其特征在于，所述阈值对应于固定值或第二权重值，其中所述第二权重值对应于所述量化矩阵、所述量化参数、所述视频源位深度、所述变换单元的所述变换尺寸或上述任意组合的第二线性函数。
7.根据权利要求1所述的方法，其特征在于，所述量化电平的截取对应于固定范围的截取，以及在所述空截取条件下截取后的所述量化电平使用η位来表示。
8.根据权利要求7所述的方法，其特征在于，η对应于8、16或32。
9.根据权利要求1所述的方法，其特征在于，所述量化电平的截取对应于固定范围的截取，以及在所述空截取条件下的所述量化电平在由_m至m-1范围内进行截取。
10.根据权利要求9所述的方法，其特征在于，m对应于128、32768或2147483648。
11.一种量化电平截取装置，适用于视频编码器，所述装置包含: 根据量化矩阵和量化参数对变换单元的变换系数进行量化，以产生所述变换系数的量化电平的装置； 基于所述量化矩阵、所述量化参数、反量化步长、视频源位深度、所述变换单元的变换尺寸或上述任意组合，确定截取条件的装置，其中所述截取条件包括空截取条件；以及 根据所述截取条件截取所述量化电平，以产生截取处理后的量化电平的装置。
12.根据权利要求11所述的装置，其特征在于，所述量化电平在第一截取条件下截取为第一范围，以及所述量化电平在第二截取条件下截取为第二范围。
13.根据权利要求12所述的装置，其特征在于，所述第一范围对应于与量化电平位深度有关的固定范围。
14.根据权利要求12所述的装置，其特征在于，所述第二范围与所述量化电平的动态范围有关。
15.根据权利要求11所述的装置，其特征在于，所述截取条件通过将第一权重值与阈值进行比较来确定，其中，所述第一权重值对应于所述量化矩阵、所述量化参数、所述视频源位深度、所述变换单元的所述变换尺寸或上述任意组合的第一线性函数。
16.根据权利要求15所述的装置，其特征在于，所述阈值对应于固定值或第二权重值，其中所述第二权重值对应于所述量化矩阵、所述量化参数、所述视频源位深度、所述变换单元的所述变换尺寸或上述任意组合的第二线性函数。
17.根据权利要求11所述的装置，其特征在于，所述量化电平的截取对应于固定范围的截取，以及在空截取条件下截取后的所述量化电平使用η位来表示。
18.根据权利要求17所述的装置，其特征在于，η对应于8、16或32。
19.根据权利要求11所述的装置，其特征在于，所述量化电平的截取对应于固定范围的截取，以及在所述空截取条件下的所述量化电平在由_m至m-Ι范围内进行截取。
20.根据权利要求1 9所述的装置，其特征在于，m对应于128、32768或2147483648。
【文档编号】H04N19/18GK103959780SQ201280054630
【公开日】2014年7月30日 申请日期:2012年12月14日 优先权日:2011年12月15日
【发明者】郭峋, 雷少民 申请人:联发科技（新加坡）私人有限公司