一种系数级自适应量化方法
【专利摘要】本发明公开了一种系数级的自适应量化方法，预测残差数据经过变换后得到的变换系数的分布具有一定的特性，这种特性即决定了不同系数的不同重要性，用变换系数扫描方法对变换块中的系数进行扫描，根据这个扫描顺序依次对块内的系数进行区别量化，具体是通过给量化乘数因子赋权重来间接改变量化参数；权重使用高斯函数，连续衰减，还可控制陡度。同时在反量化部分，做相应修改。本发明具体到系数级量化，还具有自适应特性，可使残差充分压缩，是一种较为精细控制量化的系数级自适应量化方法，解决了目前块级量化方法忽略变换单元TU内不同变换系数的贡献大小差异，不能自适应粗量化和细量化的问题。
【专利说明】
一种系数级自适应量化方法
技术领域
[0001] 本发明涉及高清视频处理技术领域，尤其涉及一种系数级自适应量化方法。
【背景技术】
[0002] 视觉是人类感知世界最重要的方式，而视频在与视觉相关的各种应用中就扮演着 关键性的角色。但视频是一种数据量非常巨大的信息载体，它若想得到实际应用，就必须采 取高效的数据压缩和编码。继H. 264/AVC视频编码标准之后，VCEG和MPEG组建视频编码联合 协作小组(JCT-VC,Joint Collaboration Team on Video Coding)制定了新一代高性能视 频编码标准:HEVC(High Effic iency Video Coding)。与上一代视频标准相比，在相同视 频质量下，HEVC节省了 50 %的码率。
[0003] HEVC沿用之前的预测加变换的混合编码框架，包括帧内预测、帧间预测、变换、量 化、熵编码和环路滤波等模块，但几乎每一块都引入新的编码技术。在更大程度有效的压缩 数据的过程中，变换量化模块起着重要作用。该模块通过对预测残差数据进行变换量化以 去除频域相关性，对数据进行有损压缩。量化的有损特性同时影响着视频的质量和比特率， 因此量化是视频编码中的一个非常重要的环节。变换单元(TU,Transform Unit)是变换量 化的基本单位。在变换编码环节使用了多尺寸二维整数离散余弦变换（DCTjiscrete Cosine Transform)，变换尺寸为4*4、8*8、16*16、32*32,以及对4*4的帧内预测亮度分量采 用可选二维整数离散正弦变换(DST,Discrete Sine Transform)。变换后的残差系数主要 使用和H. 264/AVC-样的均勾重建量化(URQ,Uniform Reconstruction Quantization)方 法，量化参数（QP, Quantization Parameter)与量化步长(Qstep)--对应，QP每增加6， Qs tep增大一倍。URQ，一个块级的量化，同一个块中所有变换系数使用相同量化。量化后的 变换系数要进行熵编码，熵编码之前，要对系数进行扫描，扫描的顺序考虑系数幅值分布。
[0004] 变换系数扫描顺序方式分为对角扫描、水平扫描和垂直扫描。系数的扫描是基于 4*4大小的子块进行的，较大变换块(TB,Transform block)首先被分割为多个4*4子块，子 块和子块内部系数按照相同的方式进行递归扫描。所有扫描都起始于TB中最后一个系数， 终止于DC系数，以反向扫描方式进行。采用不同的预测方式的TB，其系数分布往往具有一定 的规律，需要使用不同的扫描方式，即模式依赖的系数扫描顺序方法。HEVC详细规定了预测 模式和扫描方式的对应关系，对于帧内预测的4*4和8*8尺寸的TU，当预测方向接近水平方 向时就选用垂直扫描，预测方向接近垂直方向就选用水平扫描，其他预测方向选用对角扫 描;对于帧内预测的16*16、32*32尺寸的TU和帧间预测的所有的尺寸的TU都是用对角扫描。
[0005] 上面这种块级的等同量化并不是有效的，因为实际上，一个块中不同的变换系数 的重要性是不同的，另外，量化后的变换系数的三种扫描顺序方法考虑了变换系数的幅值 分布，而这扫描顺序方法正是应用到熵编码，以提高编码效率。
【发明内容】
[0006] 有鉴于现有技术的上述缺陷，本发明所要解决的技术问题是提供一种系数级自适 应量化方法，不同于块级量化，本发明具体到块中的变换系数，该方法可自适应对重要性不 同的变换系数进行不同的量化，是一种更加有效的量化，使视频编码性能提升，解决了目前 块级量化方法忽略TU内不同变换系数的贡献大小差异，不能自适应粗量化和细量化的问 题。
[0007] 为实现上述目的，本发明提供了一种系数级自适应量化方法，其特征在于，包括以 下步骤：
[0008] S101、对残差数据进行正交变换编码得到变换系数；
[0009] S102、对光栅顺序存储的变换系数进行扫描，用scan[i]记录原来光栅扫描系数索 引，但此时已经是一种新的系数索引顺序，其中i是新扫描系数索引，i = 〇，l，…N*N_1，其中 N=4,8，16,32;
[0010] S103、构造高斯量化权重函数，将S102得到的scan[i]用于此处，对重要性依次变 小的变换系数，赋予衰减的权重值w(scan[ i])，同时反量化部分做相应修改；
[0011] S104、权重函数中参量c的计算，需要依据不同序列尺寸，不同尺寸中TU的能量集 中情况不一样，这一步依据大尺寸视频列和不同TU尺寸；
[0012] S105、权重函数中参量C的计算，这一步依据除S104中剩下的尺寸视频序列和不同 TU尺寸，小块TU模式能保存更多的图像细节；
[0013] S106、将得到的权重w(scan[ i ])应用到HEVC中的量化公式中，改变量化乘数因子 Qqp<%6来间接改变量化参数QP，即实现了新的量化，反量化部分相应修改。
[0014] 进一步地，S101步骤中对残差数据进行正交变换编码具体为:残差块经过整数DCT 或者整数DST后得到变换系数块，该正交变换使变换系数集中在靠近DC系数的低频系数分 量区域，因此一个TB的能量集中在低频分量区域。
[0015] 进一步地，S102步骤中变换系数扫描过程为:通过用与熵编码变换系扫描相关的 扫描方法对变换系数进行扫描，包括对角、水平和垂直扫描，得到某种顺序排列的一组系数 索引。
[0016] 进一步地，步骤S103中高斯量化权重函数计算如下：
[0017]高斯函数的表达式为：
[0019] 其中a、b、c是实常数，c控制脉冲陡度，且a大于零，X为变量；
[0020] 根据高斯函数，令a = l，b = 0,构造高斯量化权重函数：
[0022]其中i是S102中新扫描系数索引i，c是灵活可控的，w的范围是we[0，l]。
[0023] 进一步地，S104中权重函数中c的计算推导过程如下:根据预测残差局部特性，TU 自适应选择深度和尺寸，大块的TU模式将能量集中，小块的TU模式保存图像细节;这里考虑 大尺寸视频，同时考虑量化后一个TU中扫描顺序的最后一个非零系数的位置a_N*N，N为TU 的宽度，取值为N = 4，8，16，32，以进一步完善w的值;c的计算为c = N*N，最后，对于某一个TU 尺寸，当i<=a_N*N，w使用以上的（2)式计算；当i< = 2*a_N*N+l，i/ =i-a_N*N_l，
[0024] 进一步地，S105中权重函数中c的计算推导过程如下：当尺寸不是那么大的时候， 小尺寸TU相对较多，此时小块TU保存更多的图像细节，根据不同的TU尺寸，小尺寸的给一个 细量化：
[0025] 当 TU 为4*4时，c 的计算为 c = 32*32*1.01;
[0026] 当TU为8*8时，c的计算为c = 32*32;
[0027] 当 TU 为 16*16 时，c 的计算为 c = N*N*1.01;
[0028] 当TU为32*32时，c的计算为c = N*N。
[0029] 进一步地，S106中的量化公式和反量化公式如下：
[0030] 对于一个在N*N的TU中的变换系数Coeff(i)，量化之后得量化变换系数值Level (i)，公式如下：
[0032] 式中，QP是量化参数，Qqp%6是由量化步长Qstep计算出的量化乘数因子，of f set是 控制舍入误差移位因子，加宽量化死区，在解码器端，反量化公式如下：
[0034] 式中，IQqp%6是由量化步长Qstep计算出来的反量化缩放因子。
[0035] 此时，修改式(3)中的Qqp%6，即
[0036] Q/ Qp%6=w(scan(i))*QQp%6 (5)
[0037] 通过修改量化乘数因子间接修改QP，即改变了量化；
[0038]同理，反量化做相应修改，如下式：
[0039] IQ'qp%6Q'qp%6 = 220 (6)
[0040] 本发明的有益效果是：
[0041] 本发明不同于块级量化，本发明具体到块中的变换系数，该方法可自适应对重要 性不同的变换系数进行不同的量化，是一种更加有效的量化，使视频编码性能提升，解决了 目前块级量化方法忽略TU内不同变换系数的贡献大小差异，不能自适应粗量化和细量化的 问题。
[0042] 以下将结合附图对本发明的构思、具体结构及产生的技术效果作进一步说明，以 充分地了解本发明的目的、特征和效果。
【附图说明】
[0043]图1是本发明的整体工作流程图。
[0044]图2是本发明的8*8的TB采用对角扫描时变换系数的扫描方式示意图。
[0045]图3是本发明的8*8的TB采用水平扫描时变换系数的扫描方式示意图。
[0046]图4是本发明的8*8的TB采用垂直扫描时变换系数的扫描方式示意图。
【具体实施方式】
[0047]如图1所示，一种系数级自适应量化方法，其特征在于，包括以下步骤：
[0048] S101、对残差数据进行正交变换编码得到变换系数；
[0049] S102、对光栅顺序存储的变换系数进行扫描，用scan[i]记录原来光栅扫描系数索 引，但此时已经是一种新的系数索引顺序，其中i是新扫描系数索引，i = 〇，l，…N*N_1，其中 N=4,8，16,32;
[0050] S103、构造高斯量化权重函数，将S102得到的scan[i]用于此处，对重要性依次变 小的变换系数，赋予衰减的权重值w(scan[ i])，同时反量化部分做相应修改；
[0051] S104、权重函数中c的计算，需要考虑不同序列尺寸，因为不同尺寸中TU的能量集 中情况不一样，这一步考虑大尺寸视频列和不同TU尺寸；
[0052] S105、权重函数中c的计算，这一步考虑除S104中剩下的尺寸视频序列和不同TU尺 寸，小块TU模式能保存更多的图像细节；
[0053] S106、将得到的权重w(scan [ i ])应用到HEVC中的量化公式中，改变量化乘数因子 Qqp<%6来间接改变量化参数QP，即实现了新的量化，反量化部分相应修改。
[0054]本实施例中，步骤S101中对残差数据进行正交变换编码具体为:残差块经过整数 DCT或者整数DST后得到变换系数块，该正交变换使变换系数集中在靠近DC系数的低频系数 分量区域，因此一个TB的能量集中在低频分量区域。熵编码时，高频系数区域的非零变换系 数也不是那么重要，所以在重构信号和视觉上，低频系数比高频系数更重要。
[0055]本实施例中，变换系数扫描过程:在对量化后的变换系数进行熵编码前，需先通过 扫描技术将二维的变换系数排列成一维变换系数序列，由于量化后变换系数大多为零或幅 度较小的值，扫描顺序方法利用这一特性，将幅度相近的系数尽量相近排列，以便在CABAC 中建立更有效的上下文模型，提高编码效率。鉴于此，在变换块中变换系数的存储是光栅扫 描顺序，于是在量化时，根据不同预测模式使用如图2、3、4扫描方法，包括对角、水平和垂 直，得到某种顺序排列的一组系数索引，用scan[i]记录原来光栅扫描的系数索引，但此时 已经是一种新的系数索引顺序，其中i是新扫描的系数索引，i = 〇，l，…N*N-1，其中N = 4,8， 16，32。如图2、3、4所示的扫描方法:其中图2是8*8的TB的对角扫描，图3是8*8的TB的水平扫 描，图4是8*8的TB的垂直扫描。
[0056]本实施例中，步骤S103中高斯量化权重函数计算如下：
[0057]高斯函数的表达式为：
[0059]其中a、b、c是实常数，c控制脉冲陡度，且a大于零，X是变量；
[0060]参考高斯函数，令a = l，b = 0,构造高斯量化权重函数：
[0062]其中i是步骤S102中扫描后得到的一组顺序系数的索引i，c是灵活可控的，w的范 围是w ε [ 0，1 ]。
[0063] 本实施例中，步骤104中权重函数中c的计算推导过程如下：
[0064] 考虑视频序列尺寸，HEVC中的RQT(Residual Quad-tree Transform)技术是一种 基于四叉树结构的自适应选择最优TU模式的技术，根据预测残差局部特性，TU自适应选择 深度和尺寸，大块的TU模式能更好的将能量集中，小块的TU模式能够更好的保存图像细节。 比如标准测试视频序列中Class A、Class Β，尺寸分别为2560*1600,1920*1080,这种大尺 寸视频中大尺寸的TU比如32*32比较多，那么对于这类视频，式(2)中c的计算为c = N*N。 [0065]同时还要考虑，量化后一个TU中扫描顺序的最后一个非零系数的位置a_N*N，N为 TU的宽度，取值为~ = 4,8，16,32，以进一步完善《的值，本发明是根据扫描顺序的最后一个 非零系数的平均位置。
[0066]由于不同TU尺寸平均位置不同，再考虑不同TU尺寸，当2560* 1600时，设置参数a_ 4*4 = 3，a_8*8 = 15，a_16*16 = 67，a_32*32 = 278;当 1920*1080时，设置参数a_4*4 = 5，a_8* 8 = 16，a_16*16 = 63，a_32*32 = 375;
[0067] 最后，对于某一个TU尺寸，当i < = a_N*N，w使用以上的（2)式计算；当i < = 2*a_N*
，当i>2*a_N*N+l，w(scan(i)) = 0·8〇 .，. _
[0068] 本实施例中，S105中权重函数中c的计算推导过程如下：考虑尺寸小于1920*1080 的视频序列，当尺寸不是那么大的时候，小尺寸TU相对较多，此时得考虑小块TU保存更多的 图像细节，考虑不同的TU尺寸，小尺寸的给一个细量化：
[0069] 当 TU 为4*4时，c 的计算为 c = 32*32*1.01;
[0070] 当TU为8*8时，c的计算为c = 32*32;
[0071] 当 TU 为 16*16时，c 的计算为c = N*N*1.01;
[0072] 当TU为32*32时，c的计算为c = N*N。
[0073] 本实施例中，HEVC中的量化公式和反量化公式如下：
[0074]对于一个在N*N的TU中的变换系数Coeff(i)，量化之后得量化变换系数值Level (i)，公式如下：
[0076]式中，QQP%6是由量化步长Qstep计算出的量化乘数因子，offset是控制舍入误差移 位因子，加宽量化死区，在解码器端，反量化公式如下：
[0078] 式中，IQqp%6是由量化步长Qstep计算出来的反量化缩放因子。
[0079] 如下表1是均勾重建量化URQ中，前六个量化参数QP值与量化乘数因子Q、反量化缩 放因子IQ的对应关系。
[0080] 表1 URQ中的QP值与Q、IQ值的对应关系
[0082] 此时，修改(3)中的QqP%6,即[0083] Q/ Qp%6=w(scan(i))*QQp%6 (5)
[0084] 通过修改量化乘数因子间接修改QP，即改变了量化；
[0085]同理，反量化也需要做相应修改，如下式：
[0086] IQ7 〇ρ%6Θ7 qp%6 = 220 (6)
[0087] 本发明自适应的计算量化权重，考虑视频尺寸及TU尺寸，考虑不同TU集中能量的 能力的大小不同，量化区别的陡度是可调节的，使残差能量得到充分压缩，以进一步提高编 码增益。为说明本发明的自适应性，且具体到变换系数级的优点，对HEVC标准测试视频序列 Class A、Class B、Class C、Class D、Class E，大小分别为2560*1600，1920*1080,832* 480，416*240,1280*720,进行了实验，此试验过程中不使用率失真优化量化(RD0Q，Rate-Distortion Optimized Quantization)和变换跳过模式（Transform Skip Mode)。试验测 试条件为Main Profile，Low Delay B，QP分别取值22,27,32,37。我们用80-1^^6衡量提出 的方法的编码性能，BD-Rate是视频质量一定的情况下码率节省情况，此值为负说明我们性 能得到改善，负值越大说明性能提升的越大，即说明了算法的有效性。表中，视频序列Class A，B，C，D，E的亮度分量Y，色度分量U，色度分量V对应的BD-Rate都是平均值，最后再求一个 总的平均值Average。具体实验结果数据由表2给出。
[0088]表2提出的方法的亮度和色度BD-Rate的改善结果
[0090] 表2表明，修改了量化，具体到系数级，可以有效的提高编码性能，还可看出Class B时有最好的提升，亮度Y分量，色度U、V分量的BD-Rate改善分别达到-0 · 8 %，-2 · 2 %，-2.3%〇
[0091] 相比传统的均匀重建量化的块级的量化不能体现每一个变换系数的重要性，本发 明的方法考虑了 TU尺寸，考虑变换系数扫描，使用高斯函数计算量化权重，赋值到变换块中 的变换系数。
[0092] 以上详细描述了本发明的较佳具体实施例。应当理解，本领域的普通技术人员无 需创造性劳动就可以根据本发明的构思做出诸多修改和变化。因此，凡本技术领域中技术 人员依本发明的构思在现有技术的基础上通过逻辑分析、推理或者有限的实验可以得到的 技术方案，皆应在由权利要求书所确定的保护范围内。
【主权项】
1. 一种系数级自适应量化方法，其特征在于，包括以下步骤： 5101、 对残差数据进行正交变换编码得到变换系数； 5102、 对光栅顺序存储的变换系数进行扫描，用scan[i]记录原来光栅扫描系数索引， 但此时已经是一种新的系数索引顺序，其中i是新扫描系数索引，i=〇，l，…N*N-1，其中N = 4,8,16,32； 5103、 构造高斯量化权重函数，将S102得到的scan[i]用于此处，对重要性依次变小的 变换系数，赋予衰减的权重值w(scan[ i])，同时反量化部分做相应修改； 5104、 权重函数中参量c的计算，需要依据不同序列尺寸，不同尺寸中TU的能量集中情 况不一样，这一步依据大尺寸视频列和不同TU尺寸； 5105、 权重函数中参量c的计算，这一步依据除S104中剩下的尺寸视频序列和不同TU尺 寸，小块TU模式能保存更多的图像细节； 5106、 将得到的权重w(scan[ i ])应用到HEVC中的量化公式中，改变量化乘数因子Qqp%6 来间接改变量化参数QP，即实现了新的量化，反量化部分相应修改。2. 如权利要求1所述的一种系数级自适应量化方法，其特征在于，SlOl步骤中对残差数 据进行正交变换编码具体为:残差块经过整数DCT或者整数DST后得到变换系数块，该正交 变换使变换系数集中在靠近DC系数的低频系数分量区域，因此一个TB的能量集中在低频分 量区域。3. 如权利要求1所述的一种系数级自适应量化方法，其特征在于，S102步骤中变换系数 扫描过程为:通过用与熵编码变换系扫描相关的扫描方法对变换系数进行扫描，包括对角、 水平和垂直扫描，得到某种顺序排列的一组系数索引。4. 如权利要求1所述的一种系数级自适应量化方法，其特征在于，步骤S103中高斯量化 权重函数计算如下： 高斯函数的表达式为：(1) 其中a、b、c是实常数，c控制脉冲陡度，且a大于零，X为变量； 根据高斯函数，令a = I，b = 0，构造高斯量化权重函数：(2) 其中i是S102中新扫描系数索引i，c是灵活可控的，w的范围是we[〇，l]。5. 如权利要求1所述的一种系数级自适应量化方法，其特征在于，S104中权重函数中c 的计算推导过程如下:根据预测残差局部特性，TU自适应选择深度和尺寸，大块的TU模式将 能量集中，小块的TU模式保存图像细节;这里考虑大尺寸视频，同时考虑量化后一个TU中扫 描顺序的最后一个非零系数的位置a_N*N，N为TU的宽度，取值为N=4，8，16，32，以进一步完 善W的值;C的计算为C = N*N，最后，对于某一个TU尺寸，当i< = a_N*N，W使用以上的⑵式计 算；当i < = 2*a_N*N+l，i' = i-a_N*N-l，奴当 i >2*a-N*N+1，w (scan(i))=0.8〇6. 如权利要求1所述的一种系数级自适应量化方法，其特征在于，S105中权重函数中c 的计算推导过程如下：当尺寸不是那么大的时候，小尺寸TU相对较多，此时小块TU保存更多 的图像细节，根据不同的TU尺寸，小尺寸的给一个细量化： 当TU为4*4时，C的计算为c = 32*32*1.01; 当TU为8*8时，c的计算为c = 32*32; 当TU为16*16时，c的计算为c = N*N*1.01; 当TU为32*32时，c的计算为c = N*N。7.如权利要求1所述的一种系数级自适应量化方法，其特征在于，S106中的量化公式和 反量化公式如下： 对于一个在N*N的TU中的变换系数Coeff (i )，量化之后得量化变换系数值Level (i )，公 式如下，(3) 式中，QP是量化参数，Qqp%6是由量化步长Qstep计算出的量化乘数因子，off set是控制 舍入误差移位因子，加宽量化死区。 在解码器端，反量化公式如下：(4) 式中IQqp%6是由量化步长Qstep计算出来的反量化缩放因子。 此时，修改式(3)中的Qqp%6，即 Q7 qp%6=w(scan(i))*Qqp%6 (5) 通过修改量化乘数因子间接修改QP，即改变了量化； 同理，反量化做相应修改，如下式： IQ7 qp%6Q'qp%6 = 220 (6)〇
【文档编号】H04N19/61GK106028032SQ201610349026
【公开日】2016年10月12日
【申请日】2016年5月24日
【发明人】宋锐, 李三春, 李云松, 贾媛, 王养利, 赵园伟
【申请人】西安电子科技大学