专利名称：帧内图像预测编解码的自适应环路滤波方法及装置的制作方法
技术领域：
本发明涉及图像视频编解码和帧内图像预测技术领域，尤其涉及帧内图像预测编解码的自适应环路滤波方法及装置。
背景技术：
在第五次JCT-VC (ajoint group ofexperts from MPEG and VCEG，MPEG 和 VCEG联合专家组)会议上，基于区域划分(RA)和块划分(BA)的帧内图像预测编解码的自适应环路滤波方法[I 3]被采纳。在基于区域划分的方法中，将图像按照位置直接分成16个区域，对应每个区域训练一套滤波器。而在基于块划分的方法中，整帧图像被划分成非重叠的4X4块，将整帧图像的所有块分成15类，训练出15种不同的滤波器系数。最后视频编码器通过计算率失真来得到应用于区域划分还是块划分对整帧图像滤波。由于基于区域划分无需计算图像信息，因此不会给解码端带来过高的计算复杂度，但从压缩性能上，由于基于块划分更多的考虑到了图像自身的特性，所以其性能较好。在基于块划分的方法中，对每个4X4块中的像素{X(i，j) i = 0，1，2，3 ;j = 0，1,2,3},编解码端都要计算块的方向性信息以及拉普拉斯特性，具体如下:H(i, j) = abs (X(i, j) << l_X(i, j-l)_X(i, j+1))V(i, j) = abs (X(i, j) << 1-X(i_l, j)_X(i+l, j))L(i, j) = Σ n = -lj0,i S =j+n) +V(i+m, j+n)其中，H(i，j)为水平梯度；V(i，j)为垂直梯度；水平梯度和垂直梯度反映块的方向性信息；L(i，j)为反映拉普拉斯特性的值。对于每个4X4块，对每个像素的对应特性求和，可得Hb — Σ i = 0,1,2,3 Σ j = 0,1,2, 3H (i，j)Vb —Σ i = ο,1,2,3 Σ j = 0,1,2,3V (i，j)Lb — Σ i = 0,1,2,3 Σ j = (1,1,2, 3L (i，j)根据以上特性，可以将4 X 4块分成15类，对于每类块设计对应的滤波器进行环路滤波。然而，由于上述计算在编解码端都要执行，会增加编解码端尤其是解码端的计算负荷。基于 上述块的划分算法，在JCTVC_F301[4]中，研究人员提出了一种快速计算块分类的方法。图1为基于4X4块自适应滤波器类别划分的快速算法示意图。如图1所示，在该算法中，对于每个4X4的块的16个像素中，只计算每2X2子块左上角的像素对应的方向性信息和拉普拉斯特性以减少编解码的计算复杂度。但是，对于基于块的划分，该快速算法仍需计算至少图像总像素的1/4的梯度值和拉普拉斯特性信息，因此在解码端仍会带来一些的计算复杂度
发明内容
本发明实施例提供一种帧内图像预测编码的自适应环路滤波方法，用以减少编码的计算复杂度，该方法包括:将整帧图像划分成非重叠的4X4块；将进行帧内图像预测编码自适应环路滤波的滤波器分组，根据预测方向将预测模式分为五类，每类对应于一组滤波器；根据当前4X4块对应的预测单元所属的滤波器组、当前4X4块对应的编码单元的深度，估计当前4X4块的拉普拉斯特性；根据各4X4块的拉普拉斯特性，对分组后的各组滤波器进行分类，训练出各类滤波器对应的滤波器系数；根据所述滤波器系数，对整帧图像进行自适应环路滤波。本发明实施例还提供一种帧内图像预测解码的自适应环路滤波方法，用以减少解码的计算复杂度，该方法包括:将整帧图像划分成非重叠的4X4块；将进行帧内图像预测解码自适应环路滤波的滤波器分组，根据预测方向将预测模式分为五类，每类对应于一组滤波器；根据当前4X4块对应的预测单元所属的滤波器组、当前4X4块对应的解码单元的深度，估计当前4X4块的拉普拉斯特性；根据各4X4块的拉普拉斯特性，对分组后的各组滤波器进行分类，训练出各类滤波器对应的滤波器系数；根据所述滤波器系数，对整帧图像进行自适应环路滤波。本发明实施例还提供一种视频编码器，用以减少编码的计算复杂度，该视频编码器包括:图像划分模块，用于将整帧图像划分成非重叠的4X4块；滤波器第一划分模块，用于将进行帧内图像预测编码自适应环路滤波的滤波器分组，根据预测方向将预测模式分为五类，每类对应于一组滤波器；拉普拉斯特性估计模块，用于根据当前4X4块对应的预测单元所属的滤波器组、当前4X4块对应的编码单元的深度，估计当前4X4块的拉普拉斯特性；滤波器第二划分模块，用于根据各4X4块的拉普拉斯特性，对分组后的各组滤波器进行分类，训练出各类滤波器对应的滤波器系数；滤波模块，用于根据所述滤波器系数，对整帧图像进行自适应环路滤波。本发明实施例还提供一种视频解码器，用以减少解码的计算复杂度，该视频解码器包括:图像划分模块，用于将整帧图像划分成非重叠的4X4块；滤波器第一划分模块，用于将进行帧内图像预测解码自适应环路滤波的滤波器分组，根据预测方向将预测模式分为五类，每类对应于一组滤波器；拉普拉斯特性估计模块，用于根据当前4X4块对应的预测单元所属的滤波器组、当前4X4块对应的解码单元的深度，估计当前4X4块的拉普拉斯特性；滤波器第二划分模块，用于根据各4X4块的拉普拉斯特性，对分组后的各组滤波器进行分类，训练出各类滤波器对应的滤波器系数；
滤波模块，用于根据所述滤波器系数，对整帧图像进行自适应环路滤波。本发明实施例中进行帧内图像预测编解码的自适应环路滤波时，将进行帧内图像预测编码或解码自适应环路滤波的滤波器分组，根据预测方向将预测模式分为五类，每类对应于一组滤波器；根据当前4X 4块对应的预测单元所属的滤波器组、当前4X 4块对应的编码单元或解码单元的深度，估计当前4X 4块的拉普拉斯特性；根据各4X 4块的拉普拉斯特性，对分组后的各组滤波器进行分类，训练出各类滤波器对应的滤波器系数；相对于现有技术中基于块划分的帧内图像预测编解码的自适应环路滤波方法而言，可以在保持编解码性能的前提下减小编解码的运算复杂度，减轻编解码端的计算负荷，实现利用编解码信息，只需少量计算而直接得到块的分类信息，同时可以保证不过多影响自适应环路滤波器的效果O
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。在附图中:图1为现有技术中基于4X4块自适应滤波器类别划分的快速算法示意图；图2为本发明实施例中帧内图像预测编码的自适应环路滤波方法的处理流程图；图3为本发明实施例中当前HEVC编码方案中预测模式的示意图；图4为本发明实施例中帧内图像预测解码的自适应环路滤波方法的处理流程图；图5为本发明实施例中视频编码器的结构示意图；图6为本发明实施例中视频解码器的结构示意图。
具体实施例方式为使本发明实施例的目的、技术方案和优点更加清楚明白，下面结合附图对本发明实施例做进一步详细说明。在此，本发明的示意性实施例及其说明用于解释本发明，但并不作为对本发明的限定。发明人考虑到，在帧内图像预测编解码中，由于预测模式的方向性信息可以很好的反映图像的方向，而编码单元或解码单元的深度、预测单元的划分信息可以很好的反映图像的复杂程度，进而反映拉普拉斯特性信息，因此，本发明实施例提供一种帧内图像预测编解码的自适应环路滤波方法及视频编解码器，其应用预测模式的方向性信息、编码单元或解码单元的深度、预测单元的划分信息，对整帧图像以非重叠的4X4块为基本单位分类，从而在保持编解码性能的前提下减小编解码的运算复杂度。图2为本发明实施例中帧内图像预测编码的自适应环路滤波方法的处理流程图。如图2所示，其处理流程可以包括:步骤201、将整帧图像划分成非重叠的4X4块；步骤202、将进行帧内图像预测编码自适应环路滤波的滤波器分组，根据预测方向将预测模式分为五类，每类对应于一组滤波器；步骤203、根据当前4X4块对应的预测单元所属的滤波器组、当前4X4块对应的编码单元的深度，估计当前4X4块的拉普拉斯特性；步骤204、根据各4X4块的拉普拉斯特性，对分组后的各组滤波器进行分类，训练出各类滤波器对应的滤波器系数；步骤205、根据所述滤波器系数，对整帧图像进行自适应环路滤波。由图2所示流程可以得知，本发明实施例中进行帧内图像预测编码的自适应环路滤波时，将进行帧内图像预测编码自适应环路滤波的滤波器分组，根据预测方向将预测模式分为五类，每类对应于一组滤波器；根据当前4X4块对应的预测单元所属的滤波器组、当前4X4块对应的编码单元的深度，估计当前4X4块的拉普拉斯特性；根据各4X4块的拉普拉斯特性，对分组后的各组滤波器进行分类，训练出各类滤波器对应的滤波器系数；相对于现有技术中基于块划分的帧内图像预测编码的自适应环路滤波方法而言，可以在保持编码性能的前提下减小编码的运算复杂度，减轻编码端的计算负荷，实现利用编码信息，只需少量计算而直接得到块的分类信息，同时可以保证不过多影响自适应环路滤波器的效果O具体实施时，将进行帧内图像预测编码自适应环路滤波的滤波器分组，根据预测方向将预测模式分为五类，每类对应于一组滤波器。图3为当前HEVC编码方案中预测模式的示意图。将这些预测模式按预测方向划分成五大类。例如，具体类划分与逻辑帧内预测模式的对应关系可以如表一所不。表一帧内预测模式划分
权利要求
1.一种帧内图像预测编码的自适应环路滤波方法，其特征在于，该方法包括: 将整帧图像划分成非重叠的4X4块； 将进行帧内图像预测编码自适应环路滤波的滤波器分组，根据预测方向将预测模式分为五类，每类对应于一组滤波器； 根据当前4X4块对应的预测单元所属的滤波器组、当前4X4块对应的编码单元的深度，估计当前4X4块的拉普拉斯特性； 根据各4X4块的拉普拉斯特性，对分组后的各组滤波器进行分类，训练出各类滤波器对应的滤波器系数； 根据所述滤波器系数，对整帧图像进行自适应环路滤波。
2.按权利要求1所述的方法，其特征在于，将进行帧内图像预测编码自适应环路滤波的滤波器分组，根据预测方向将预测模式分为五类，每类对应于一组滤波器，包括: 划分{DC, Planar}预测模式对应于滤波器组N = O; 划分{10 17}预测模式对应于滤波器组N=I; 划分U 9}预测模式对应于滤波器组N = 2 ; 划分{18 24}预测模式对应于滤波器组N = 3 ; 划分{25 33}预测模式对应于滤波器组N = 4 ; 其中，N为滤波器组号。
3.按权利要求1所述的方法，其特征在于，按如下公式，根据当前4X4块对应的预测单元所属的滤波器组、当前4 X 4块对应的编码单元的深度，估计当前4 X 4块的拉普拉斯特性，包括: d I depth +1 size(PU) = NxN \depthsize(PU) = IN x IN 其中，d为反映当前4X4块的拉普拉斯特性的值；depth为当前4X4块对应的编码单元的深度；N为当前4X4块对应的预测单元所属的滤波器组号；size(PU)为当前4X4块对应的预测单元的大小。
4.按权利要求3所述的方法，其特征在于，根据各4X4块的拉普拉斯特性，对分组后的各组滤波器进行分类，训练出各类滤波器对应的滤波器系数，包括: 若编码单元的最大深度为4，按如下公式将d进一步分为3类:Class(d) = d/2 其中，Class (d)为d的类别； 按如下公式对分组后的各组滤波器进行分类: P,\N x3 + Class(d) N%2 = Ohilt Num = < —[TV X 3 + 3 - C las s (d) Else 其中，Filt_Num为滤波器的类别编号。
5.按权利要求1所述的方法，其特征在于，根据所述滤波器系数，对整帧图像进行自适应环路滤波，包括: 进行区域划分和块划分的率失真计算，并在计算区域划分的率失真中，将应减去的用于选择块划分的常数置为O。
6.一种帧内图像预测解码的自适应环路滤波方法，其特征在于，该方法包括: 将整帧图像划分成非重叠的4X4块； 将进行帧内图像预测解码自适应环路滤波的滤波器分组，根据预测方向将预测模式分为五类，每类对应于一组滤波器； 根据当前4X4块对应的预测单元所属的滤波器组、当前4X4块对应的解码单元的深度，估计当前4X4块的拉普拉斯特性； 根据各4X4块的拉普拉斯特性，对分组后的各组滤波器进行分类，训练出各类滤波器对应的滤波器系数； 根据所述滤波器系数，对整帧图像进行自适应环路滤波。
7.按权利要求6所述的方法，其特征在于，将进行帧内图像预测解码自适应环路滤波的滤波器分组，根据预测方向将预测模式分为五类，每类对应于一组滤波器，包括: 划分{DC, Planar}预测模式对应于滤波器组N = O; 划分{10 17}预测模式对应于滤波器组N=I; 划分(1 9}预测模式对应于滤波器组N = 2 ; 划分{18 24}预测模式对应于滤波器组N = 3 ; 划分{25 33}预测模式对应于滤波器组N = 4 ; 其中，N为滤波器组号。
8.按权利要求6所述的方法，其特征在于，按如下公式，根据当前4X4块对应的预测单元所属的滤波器组、当前4 X 4块对应的解码单元的深度，估计当前4 X 4块的拉普拉斯特性，包括:
9.按权利要求8所述的方法，其特征在于，根据各4X 4块的拉普拉斯特性，对分组后的各组滤波器进行分类，训练出各类滤波器对应的滤波器系数，包括: 若解码单元的最大深度为4，按如下公式将d进一步分为3类: 其中，Class (d)为d的类别； 按如下公式对分组后的各组滤波器进行分类:
10.按权利要求6所述的方法，其特征在于，根据所述滤波器系数，对整帧图像进行自适应环路滤波，包括: 进行区域划分和块划分的率失真计算，并在计算区域划分的率失真中，将应减去的用于选择块划分的常数置为O。
11.一种视频编码器，其特征在于，包括:图像划分模块，用于将整帧图像划分成非重叠的4X4块； 滤波器第一划分模块，用于将进行帧内图像预测编码自适应环路滤波的滤波器分组，根据预测方向将预测模式分为五类，每类对应于一组滤波器； 拉普拉斯特性估计模块，用于根据当前4X4块对应的预测单元所属的滤波器组、当前4X4块对应的编码单元的深度，估计当前4X4块的拉普拉斯特性； 滤波器第二划分模块，用于根据各4X4块的拉普拉斯特性，对分组后的各组滤波器进行分类，训练出各类滤波器对应的滤波器系数； 滤波模块，用于根据所述滤波器系数，对整帧图像进行自适应环路滤波。
12.按权利要求11所述的视频编码器，其特征在于，所述滤波器第一划分模块，具体用于: 划分{DC, Planar}预测模式对应于滤波器组N = O; 划分{10 17}预测模式对应于滤波器组N=I; 划分U 9}预测模式对应于滤波器组N = 2 ; 划分{18 24}预测模式对应于滤波器组N = 3 ; 划分{25 33}预测模式对应于滤波器组N = 4 ; 其中，N为滤波器组号。
13.按权利要求11所述的视频编码器，其特征在于，所述拉普拉斯特性估计模块，具体用于: 按如下公式，根据当前4 X 4块对应的预测单元所属的滤波器组、当前4 X 4块对应的编码单元的深度，估计当前4 X 4块的拉普拉斯特性，包括:
14.按权利要求13所述的视频编码器，其特征在于，所述滤波器第二划分模块，具体用于: 若编码单元的最大深度为4，按如下公式将d进一步分为3类:Class(d) = d/2 其中，Class (d)为d的类别； 按如下公式对分组后的各组滤波器进行分类:
15.按权利要求11所述的视频编码器，其特征在于，所述滤波模块，具体用于: 进行区域划分和块划分的率失真计算，并在计算区域划分的率失真中，将应减去的用于选择块划分的常数置为O。
16.一种视频解码器，其特征在于，包括: 图像划分模块，用于将整帧图像划分成非重叠的4X4块；滤波器第一划分模块，用于将进行帧内图像预测解码自适应环路滤波的滤波器分组，根据预测方向将预测模式分为五类，每类对应于一组滤波器； 拉普拉斯特性估计模块，用于根据当前4X4块对应的预测单元所属的滤波器组、当前4X4块对应的解码单元的深度，估计当前4X4块的拉普拉斯特性； 滤波器第二划分模块，用于根据各4X4块的拉普拉斯特性，对分组后的各组滤波器进行分类，训练出各类滤波器对应的滤波器系数； 滤波模块，用于根据所述滤波器系数，对整帧图像进行自适应环路滤波。
17.按权利要求16所述的视频解码器，其特征在于，所述滤波器第一划分模块，具体用于: 划分{DC, Planar}预测模式对应于滤波器组N = O; 划分{10 17}预测模式对应于滤波器组N=I;` 划分U 9}预测模式对应于滤波器组N = 2 ; 划分{18 24}预测模式对应于滤波器组N = 3 ; 划分{25 33}预测模式对应于滤波器组N = 4 ; 其中，N为滤波器组号。
18.按权利要求16所述的视频解码器，其特征在于，所述拉普拉斯特性估计模块，具体用于: 按如下公式，根据当前4 X 4块对应的预测单元所属的滤波器组、当前4 X 4块对应的解码单元的深度，估计当前4 X 4块的拉普拉斯特性，包括: J depth +1 size(PU) = NxN [depthsize(PU) = IN χ IN 其中，d为反映当前4X4块的拉普拉斯特性的值；depth为当前4X4块对应的解码单元的深度；N为当前4X4块对应的预测单元所属的滤波器组号；size(PU)为当前4X4块对应的预测单元的大小。
19.按权利要求18所述的视频解码器，其特征在于，所述滤波器第二划分模块，具体用于: 若解码单元的最大深度为4，按如下公式将d进一步分为3类:Class(d) = d/2 其中，Class (d)为d的类别； 按如下公式对分组后的各组滤波器进行分类: \N x3 + Class(d) N%2 = O Filt Num = < —[TV χ 3 + 3 - C las s (d) Else 其中，Filt_Num为滤波器的类别编号。
20.按权利要求16所述的视频解码器，其特征在于，所述滤波模块，具体用于: 进行区域划分和块划分的率失真计算，并在计算区域划分的率失真中，将应减去的用于选择块划分的常数置为O。
全文摘要
本发明公开了一种帧内图像预测编解码的自适应环路滤波方法及装置，在进行帧内图像预测编解码的自适应环路滤波时，将进行帧内图像预测编码或解码自适应环路滤波的滤波器分组，根据预测方向将预测模式分为五类，每类对应于一组滤波器；根据当前4×4块对应的预测单元所属的滤波器组、当前4×4块对应的编码单元或解码单元的深度，估计当前4×4块的拉普拉斯特性；根据各4×4块的拉普拉斯特性，对分组后的各组滤波器进行分类，训练出各类滤波器对应的滤波器系数；可以在保持编解码性能的前提下减小编解码的运算复杂度，减轻编解码端的计算负荷，实现利用编解码信息，只需少量计算而直接得到块的分类信息，同时可以保证不过多影响自适应环路滤波器的效果。
文档编号H04N7/26GK103096060SQ20111035151
公开日2013年5月8日 申请日期2011年11月8日 优先权日2011年11月8日
发明者贾杰, 马思伟, 王诗淇 申请人:乐金电子(中国)研究开发中心有限公司