研究残差数据经过DCT变换后系数的分 布规律，构建量化偏移量关于分布参数以及量化参数的函数关系。从而提出本发明的采用 自适应偏移量的硬判决量化算法。
[0017] (1)自适应偏移量建模过程 系数自适应偏移量的建模过程包含数据统计、离线数据分组分析以及启发式建模过 程。数据统计包含DCT系数分布参数的计算统计以及合理候选偏移量的统计。数据离线分 析主要分析正反偏移量取值范围，确定最佳偏移量范围，并在最佳偏移量范围中选择最佳 偏移量。研究偏移量与分布参数以及与量化参数的函数关系，从而采用最小二乘法拟合出 最优量化偏移量模型。
[0018] (2)数据采集及统计分析 a)根据频率分量位置不同，独立对4x4变换块中DCT系数采样并分别统计，即对一帧图 像进行4x4DCT变换，变换系数对应不同的频率，将变换系数按照频率划分为16个子带。各 个子带单独分析。在DCT系数服从拉普拉斯分布的假设下，得到各个子带的分布参数。
[0019] b)模拟SDQ算法的行为特征，基于统计分析方法在最大正判概率和最小误判概率 的双重约束下，估计最优死区偏移量。具体而言，对比SDQ及HDQ算法的量化结果，若两种量 化结果一致，调整HDQ偏移量，得到HDQ与SDQ量化结果一致的偏移量范围（δ _1; δ Μχ1)， 该范围上下限按照下式确定：
mod是取余操作计算符，u为DCT系数，q为量化步长，δ _为偏移量。收集所有处于 范围（δ_，δ_)中的偏移量，该范围称为正向偏移量范围；若两种量化结果不一致，修正 HDQ的偏移量，迫使得到与SDQ算法一致的量化结果。修正的偏移量范围（δ _2，δ _2)上 下限按照下式确定：
该范围为反向偏移量范围。
[0020] (3)根据正反相偏移量（Sniinl, δΜχ1)和（δ_2，δ_2)确定合适的最佳偏移量 范围（δ_， δ _)，即正反偏移量范围的交集即为最佳偏移量范围。最大可能取值范围为 (〇, 1)，将最大范围分成N等份，对所有样本实际范围（δ _，δ _)进行对比，并进行分组和 分类。如果N等份中某等份i属于范围（δ_，δ_)，那么该等份直方图统计值cntjpi。 直方图分析过程描述如下：
针对分布参数，量化参数的不同组合以及不同的预测模式（intra，inter)单独得到最 佳偏移量分段直方图结果，从中选取峰值对应的偏移量数值为最佳偏移量。图2和3为I 帧和P/B帧的最佳偏移量统计值图。
[0021] (4)在不同预测模式下，分析最佳偏移量与分布参数以及量化参数的函数关系，构 建三者的函数模型
[0022] 其中 Qp >17 : I 中贞 P = 0. 50 + 0. 001*(Qp -17), μ = 0 . I , β=0·6，γ=0·6， α =128, ξ 1= ξ 2=32, a=35, b=50; Ρ/Β 中贞 P =0. 48 + 0. 001* (Qp -17) , μ =0· I， β =0· 6， γ =0· 6， α =128, ξ 1= ξ 2=32, a=35, b=50〇
[0023] 具体自适应偏移量模型取值如图4和5所示。
【主权项】
1. 一种基于内容自适应偏移模型的视频编码硬判决量化方法，包括如下步骤： (1) 自适应偏移量建模； (2) 数据采集及统计分析得到正反相偏移量； (3) 根据正反相偏移量确定最佳偏移量范围； (4) 在不同预测模式下，分析最佳偏移量与分布参数W及量化参数的函数关系，构建= 者的函数模型。2. 如权利要求1所述的基于内容自适应偏移模型的视频编码硬判决量化方法，其特征 在于：所述步骤（1)的自适应偏移量建模包含数据统计、离线数据分组分析W及启发式建 模过程；数据统计包含DCT系数分布参数的计算统计W及合理候选偏移量的统计；数据离 线分析主要分析正反偏移量取值范围，确定最佳偏移量范围，并在最佳偏移量范围中选择 最佳偏移量；研究偏移量与分布参数W及与量化参数的函数关系，从而采用最小二乘法拟 合出最优量化偏移量模型。3. 如权利要求1所述的基于内容自适应偏移模型的视频编码硬判决量化方法，其特征 在于：所述步骤（2)的数据采集及统计分析，包括： a) 根据频率分量位置不同，独立对4x4变换块中DCT系数采样并分别统计，即对一帖图 像进行4X4DCT变换，变换系数对应不同的频率，将变换系数按照频率划分为16个子带，各 个子带单独分析，在DCT系数服从拉普拉斯分布的假设下，得到各个子带的分布参数； b) 模拟SDQ算法的行为特征，基于统计分析方法在最大正判概率和最小误判概率的双 重约束下，估计最优死区偏移量。4. 如权利要求1所述的基于内容自适应偏移模型的视频编码硬判决量化方法，其特征 在于：步骤b)模拟SDQ算法的行为特征，具体为对比SDQ及皿Q算法的量化结果，若两种量 化结果一致，调整皿Q偏移量，得到皿Q与SDQ量化结果一致的偏移量范围（5mmi，5。。、1)， 该范围上下限按照下式确定：mod是取余操作计算符，U为DCT系数，q为量化步长，5DPt为偏移量； 收集所有处于范围（5mm，5mJ中的偏移量，该范围称为正向偏移量范围；若两种量 化结果不一致，修正皿Q的偏移量，迫使得到与SDQ算法一致的量化结果；修正的偏移量范 围（Smm2，5mgx2)上下限按照下式确定： 该范围为反向偏移量范围。5. 如权利要求4所述的基于内容自适应偏移模型的视频编码硬判决量化方法，其特征 在于：所述正反偏移量范围的交集即为最佳偏移量范围。6. 如权利要求5所述的基于内容自适应偏移模型的视频编码硬判决量化方法，其特征 在于：最佳偏移量范围最大可能取值范围为（0, 1)，将最大范围分成N等份，对所有样本实 际范围（5mi。，5mJ进行对比，并进行分组和分类；若N等份中某等份i属于范围（5mm， 5mJ，则该等份直方图统计值cnti加1 ;直方图分析过程描述如下：针对分布参数，量化参数的不同组合W及不同的预测模式单独得到最佳偏移量分段直 方图结果，从中选取峰值对应的偏移量数值为最佳偏移量。7.如权利要求6所述的基于内容自适应偏移模型的视频编码硬判决量化方法，其特征 在于：所述函数模型为； 其中化〉17 :I帖P=0. 50 + 0. 001*(Qp-17)，y=0.1，0=0.6，丫=0.6，a =128, C I=C 2=32, a=35,b=50; P/B帖P=0.48+ 0. 001*(Qp-17)，U=O.1, 0=0.6,丫=0.6，口=128,写I=C 2=32，a=35，b=50。
【专利摘要】本发明公开了一种基于内容自适应的视频编码死区量化方法，采用内容自适应量化偏移量模型，实现内容自适应量化算法。该模型可以根据视频内容的不同，实现量化偏移量的自适应变化。同时，在率失真性能方面，相较于固定偏移量的死区HDQ算法有显著提高；由于算法采用系数独立的硬判决量化，量化可在系数级进行并行处理，在硬件上易于实现。本发明基于DCT系数独立统计分析，得到较准确的分布参数，利用分布参数及量化参数构建系数自适应的量化偏移量模型。在视频编码量化时，采用基于该模型的自适应死区HDQ量化，实现高效视频编码。
【IPC分类】H04N19/147, H04N19/436, H04N19/18, H04N19/124
【公开号】CN105208389
【申请号】CN201510614662
【发明人】殷海兵, 王鸿奎
【申请人】中国计量学院
【公开日】2015年12月30日
【申请日】2015年9月24日