清除解块人为噪声的方法与流程

本发明涉及一种用于清除图像重建中分块人为噪声的解块滤波方法，以及更具体地，涉及一种在变换边界和预测边界的各个边缘确定边界强度的方法。

背景技术：

为了压缩视频数据，已经开发了多种视频制式。例如，这些视频制式有mpeg-2、mpeg-4以及h.264/mpeg-4avc。作为h.264/mpeg-4avc的后继者，目前结合iso/iecmpeg和itu-tvceg正在开发高效率视频编码(hevc)。

根据hevc，一副图片被分成多个最大编码单元(lcus)，通过使用帧间预测或帧内预测产生的预测块来编码每个lcu的一个或多个编码单元。变换初始块和预测块之间的差异以产生变换块，以及用量化参数和多个预定量化矩阵之一量化该变换块。量化块的量化系数被预定的扫描类型扫描以及然后被熵编码。逆量化和逆变换量化系数以产生残余块，该残余块与预测块组合以产生重建图像。利用解块滤波器自适应地滤波重建图像以清除分块人为噪声。

图1是示出了根据正在开发的hevc的确定边界强度的过程的示意图。

如图1所示，首先在所有4×4块的每个边缘上确定边界强度，并且然后在8×8块的边缘确定最终边界强度。该8×8块的边缘由两个连续的4×4块的边缘组成。该8×8块的边缘的边界强度作为构成8×8块的边缘的两个边缘的最大边界强度确定。但是，因为在正在开发的hevc中描述的解块滤波技术太复杂，所以该技术使得编码和解码性能变坏。

因此，正在开发的hevc的规格集中在减少解块滤波的复杂性和改进解块滤波的性能的技术上。特别地，由于hevc集中在编码和解码超高清图像上，所以新技术能够减少操作的复杂性，并且能够减少执行解块滤波所需要的内存容量。

技术实现要素：

【技术问题】

本发明涉及一种解块滤波的方法，该方法能够减少存储在内存中的数据量并且有效地减少清除分块人为噪声的操作的复杂性。

【技术方案】

本发明的一个方面提供了一种清除分块人为噪声的方法，包括：确定位于8×8样本网格的每个4样本边缘的边界强度，如果该边界强度不等于零，确定解块滤波是否在4样本边缘执行，如果解块滤波在4样本边缘执行，选择解块滤波器，以及用所选的滤波器对4样本边缘进行滤波。

【有益效果】

根据本发明的方法确定了位于8×8样本网格的每个4样本边缘的边界强度，如果边界强度不等于零，确定解块滤波是否在4样本边缘执行，如果解块滤波在4样本边缘执行，选择解块滤波器，以及用所选的滤波器对4样本边缘进行滤波。因此，当与正在开发的hevc比较时，根据本发明的确定边界强度所需要的计算的复杂性减少了50％或更多。同时，在不恶化图像质量的情况下，确定边界强度所需要的内存容量和带宽减少了50％或更多。

附图说明

图1是示出了根据正在开发的hevc的确定边界强度的过程的示意图；

图2是示出了根据本发明的动态图片编码设备的方框图；

图3是示出了根据本发明的动态图片解码设备的方框图；

图4是示出了根据本发明的解块滤波过程的流程图；

图5是示出了根据本发明的确定边界强度的方法的示意图；

图6是示出了根据本发明的4样本边缘的示意图；

图7是示出了根据本发明的预测单元的示例性配置的示意图；

图8是示出了根据本发明的存储在线缓冲器中的运动信息的示例图；

图9是示出了根据本发明的用于确定块边缘是否被滤波的样本的位置的示意图。

具体实施方式

在下文中，将参考附图详细描述本发明的各实施例。然而，本发明不限于下文公开的示例性实施例，而是可以通过各种方式实施。因此，本发明很多其他的修改和变化都是可能的，以及要理解的是，在所公开的概念范围内，可以通过与具体所述不同的方式实践本发明。

根据本发明的动态图片编码设备和动态图片解码设备可以是用户终端，如个人电脑、个人移动终端、移动多媒体播放器、智能电话或无线通讯终端。图像编码设备和图像解码设备可以包含用于与各种设备进行通讯的通信单元，用于存储各种程序以及存储用于编码或解码图像的数据的存储器。

图2是示出了根据本发明的动态图片编码设备1000的方框图。

参照图2，动态图片编码设备1000包括图片分割单元1010、变换单元1020、量化单元1030、扫描单元1040、熵编码单元1050、帧内预测单元1060、帧间预测单元1070、逆量化单元1080、逆变换单元1090、后期处理单元1100、图片存储单元1110、减法单元1120和加法单元1130。

图片分割单元1010将图片或切片图(slice)划分成多个最大编码单元(lcu)，并将每个lcu划分成一个或多个编码单元。lcu的大小可以是32×32、64×64或128×128。图片分割单元1010确定每个编码单元的预测模式和分割模式。

lcu包括一个或多个编码单元。lcu具有递归的四叉树结构，以指定lcu的分割结构。指定编码单元的最大大小和最小大小的参数包括在序列参数集中。由一个或多个分裂编码单元标志指定分割结构。编码单元的大小是2n×2n。如果lcu的大小是64×64并且最小编码单元(scu)的大小是8×8，则编码单元的大小可以是64×64、32×32、16×16或8×8。

编码单元包括一个或多个预测单元。在帧内预测中，预测单元的大小是2n×2n或n×n。在帧间预测中，预测单元的大小被分割模式指定。如果编码单元被对称地分割，则分割模式是2n×2n、2n×n、n×2n和n×n中之一。如果编码单元被不对称地分割，则分割模式是2n×nu、2n×nd、nl×2n和nr×2n中之一。

编码单元包括一个或多个变换单元。变换单元具有递归的四叉树结构，以指定编码单元的分割结构。由一个或多个分裂变换单元标志指定分割结构。指定变换单元的最大大小和最小大小的参数包括在序列参数集中。

变换单元1020变换残余信号以产生变换块。以变换单元为基础变换残余信号。从初始块减去预测块得到残余信号，该预测块通过帧内预测单元1060或帧间预测单元1070产生。

根据预测模式(帧内预测模式或帧间预测模式)使用不同的变换矩阵。而且，在帧内预测模式中，基于帧内预测模式可以自适应地确定变换矩阵。使用两个一维变换矩阵(水平矩阵和垂直矩阵)来变换变换单元。例如，在帧内预测的水平帧内预测模式中，因为残余信号可以具有垂直的方向性，所以基于dct的整数矩阵被用于垂直方向并且基于dst或基于klt的整数矩阵被用于水平方向。在帧内预测的垂直帧内预测模式中，基于dct的整数矩阵被用于水平方向并且基于dst或基于klt的整数矩阵被用于垂直方向。或者，基于变换单元的大小确定变换矩阵的类型。

量化单元1030确定用于量化变换块的量化参数。量化参数是量化步长。为每个量化单元确定量化参数。量化单元是大于或等于预定大小的编码单元。所述预定大小是量化单元的最小大小。具有最小大小的量化单元被称作最小量化单元。如果编码单元的大小等于或大于量化单元的最小大小，编码单元变为量化单元。最小量化单元中可以包含多个编码单元。最小量化单元可以是8×8块或16×16块。可以为每张图片确定最小大小。

量化单元1030产生量化参数预测器并通过从量化参数减去量化参数预测器以产生差分量化参数。该差分量化参数被熵编码。

量化参数预测器的产生如下。

[第一实施例]

按照下述顺序相继检索左编码单元、上编码单元和左上编码单元的量化参数。利用一个或两个可用量化参数产生量化参数预测器。例如，将第一个可用量化参数设置为量化参数预测器。或者将前两个可用量化参数的平均值设置为量化参数预测器，并且如果只有一个量化参数可用，将该可用量化参数设置为量化参数预测器。

[第二实施例]

当前编码单元可能没有左编码单元、上编码单元和左上编码单元。换句话说，在编码顺序中当前编码单元具有前编码单元。这样，与当前编码单元紧邻的相邻编码单元和前编码单元的量化参数可以被用于产生量化参数预测器。按照如下顺序检索量化参数：1)左相邻编码单元的量化参数；2)上相邻编码单元的量化参数；3)左上相邻编码单元的量化参数；和4)前编码单元的量化参数。

或者，按照如下顺序检索量化参数：1)左相邻编码单元的量化参数；2)上相邻编码单元的量化参数；和3)前编码单元的量化参数。

当两个或两个以上量化参数可用时，将前两个可用量化参数的平均值设置为量化参数预测器，并且当只有一个量化参数可用时，将该可用量化参数设置为量化参数预测器。例如，如果左和上编码单元的量化参数可用，将左和上量化参数的平均值设置为量化参数预测器。如果左和上编码单元的量化参数只有一个可用，将该可用的量化参数和前编码单元的量化参数的平均值设置为量化参数预测器。如果左和上编码单元的量化参数都不可用，将前编码单元的量化参数设置为量化参数预测器。对所述平均值进行四舍五入。

量化单元1030利用量化矩阵和量化参数对变换块进行量化以产生量化块。向逆量化单元1080和扫描单元1040提供量化块。

扫描单元1040向量化块应用扫描模式来扫描量化系数并将量化系数变换成一维量化系数分量。

在帧内预测模式中，量化变换系数的分布根据帧内预测模式和变换单元的大小而变化。于是，基于帧内预测模式和变换单元的大小确定扫描模式。可以在锯齿扫描、垂直扫描和水平扫描中选择扫扫描模式。锯齿扫描可以被对角线扫描代替。

例如，如果变换单元的大小等于或小于8×8，为垂直模式和垂直模式的预定数量的相邻帧内预测模式选择水平扫描，为水平模式和水平模式的预定数量的相邻帧内预测模式选择垂直扫描，以及为其他帧内预测模式选择锯齿扫描或对角线扫描。当变换单元的大小大于8×8时，为所有帧内预测模式选择锯齿扫描或对角线扫描。

在帧间预测模式中，使用预定扫描模式。该预定扫描模式可以是锯齿扫描或对角线扫描。

当变换单元的大小大于预定大小时，将量化系数分割成多个子集然后进行扫描。所述预定大小可以是4×4。用于扫描子集的扫描模式与用于扫描各个子集的量化系数的扫描模式相同。沿反方向扫描各个子集的量化系数。也沿反方向扫描子集。

对指示最后非零位置的参数编码并发送到解码器。最后非零位置指定最后非零量化系数在变换单元中的位置。在每个子集中指示最后非零量化系数的位置的参数也被发送到解码设备。

逆量化单元1080对量化系数进行逆量化。逆变换单元1090对逆量化系数进行逆变换以产生残余信号。

加法单元1130将逆变换单元1090产生的残余信号和帧内预测单元1060或帧间预测单元1070产生的预测信号相加。减法单元1120将预测样本从初始样本减去以产生残余信号。

后期处理单元1100执行解块滤波过程、样本自适应偏移过程，以及自适应环路滤波过程。

执行解块滤波过程以清除重建图片中出现的分块人为噪声。

在执行解块滤波过程之后，执行样本自适应补偿过程以减少初始样本和重建样本之间的差异。确定每个图片或切片图是否执行样本自适应补偿过程。可以将图片或切片图分割成多个补偿区域，并且可以确定每个区域的补偿类型。存在四个边缘补偿类型和两个带补偿类型。如果补偿类型是边缘补偿类型的一种，可以确定在补偿区域的各个样本的边缘类型，以及将与边缘类型相对应的补偿增加到各个样本。通过比较当前样本和相邻的两个样本来确定边缘类型。

通过比较重建图像和初始图像来执行自适应环路滤波过程以得到滤波系数。滤波系数被应用到4×4块或8×8块中的所有样本。确定是否对每个编码单元都执行自适应环路滤波。因此，可以在编码单元的基础上改变环路滤波器的大小和系数。

图片存储单元1110从后期处理单元1100接收重建图片并将其存储在内存中。图片是基于帧的图片或基于场的图片。

帧间预测单元1070利用图画存储单元1110中存储的一个或多个图片执行运动判断，并且确定指定一个或多个参考图片的一个或多个参考图片索引和一个或多个运动矢量。帧间预测单元1070利用该一个或多个参考图片索引和一个或多个运动矢量来产生预测块。

帧内预测单元1060确定当前预测单元的帧内预测模式并且利用该帧内预测模式产生预测块。

熵编码单元1050对从扫描单元1040接收的量化系数分量、从帧内预测单元1060接收的帧内预测信息、从帧间预测单元1070接收的运动信息进行熵编码。

图3是示出了根据本发明的动态图片解码设备2000的方框图。

动态图片解码设备2000包括熵解码单元2010、逆扫描单元2020、逆量化单元2030、逆变换单元2040、帧内预测单元2050、帧间预测单元2060、后期处理单元2070、图片存储单元2080和加法单元2090。

熵解码单元2010从接收的比特流提取和熵解码帧内预测信息、帧间预测信息和量化系数分量。熵解码单元2010向帧间预测单元2060发送帧间预测信息，向帧内预测单元2050发送帧内预测信息，以及向逆扫描单元2020发送量化系数分量。

逆扫描单元2020使用逆扫描模式把量化系数分量变换成二维量化块。

在帧内预测模式中，基于帧内预测模式和变换单元的大小来选择逆扫描模式。可以在锯齿扫描、垂直扫描和水平扫描中选择逆扫描模式。锯齿扫描可以被对角线扫描替代。

例如，如果变换单元的大小等于或小于8×8，为垂直模式和垂直模式的预定数量的相邻帧内预测模式选择水平扫描，为水平模式和水平模式的预定数量的相邻帧内预测模式选择垂直扫描，以及为其他帧内预测模式选择锯齿扫描或对角线扫描。当变换单元的大小大于8×8时，为所有帧内预测模式选择锯齿扫描或对角线扫描。

在帧间预测模式中，使用预定的扫描模式。该预定扫描模式可以是锯齿扫描或对角线扫描。

如果当前变换单元的大小大于预定大小，以子集为基础逆扫描量化系数分量以构建量化块。该子集具有预定的大小。该预定大小可以是4×4。如果变换单元的大小等于预定大小，对变换单元的量化系数分量进行逆扫描以构建变换单元。当以子集为基础逆扫描量化系数分量时，对每个子集的量化系数分量使用相同的逆扫描模式。

多个子集沿反方向被逆扫描。量化系数分量也沿反方向被逆扫描。应用到量化系数分量以构建子集的逆扫描模式与应用到多个构建的子集的逆扫描模式相同。逆扫描单元2020使用指示变换单元的最后非零量化系数的位置的参数执行逆扫描。

逆量化单元2030从熵解码单元2010接收差分量化参数并产生量化参数预测器以得到当前编码单元的量化参数。

量化参数预测器的产生如下。

[第一实施例]

按照下述顺序相继检索左编码单元、上编码单元和左上编码单元的量化参数。利用一个或两个可用量化参数产生量化参数预测器。例如，将第一可用量化参数设置为量化参数预测器。或者将前两个可用量化参数的平均值设置为量化参数预测器，并且如果只有一个量化参数可用，将该可用量化参数设置为量化参数预测器。

[第二实施例]

当前编码单元可能没有左编码单元、上编码单元和左上编码单元。换句话说，在编码顺序中当前编码单元可能具有前编码单元。这样，与当前编码单元紧邻的相邻编码单元和前编码单元的量化参数可以被用于产生量化参数预测器。按照如下顺序检索量化参数：1)左相邻编码单元的量化参数；2)上相邻编码单元的量化参数；3)左上相邻编码单元的量化参数；和4)前编码单元的量化参数。

或者，按照如下顺序检索量化参数：1)左相邻编码单元的量化参数；2)上相邻编码单元的量化参数；和3)前编码单元的量化参数。

当两个或两个以上量化参数可用时，将前两个量化参数的平均值设置为量化参数预测器，并且当只有一个量化参数可用时，将该可用量化参数设置为量化参数预测器。例如，如果左和上编码单元的量化参数可用，将左和上量化参数的平均值设置为量化参数预测器。如果左和上编码单元的量化参数只有一个可用，将该可用的量化参数和前编码单元的量化参数的平均值设置为量化参数预测器。如果左和上编码单元的量化参数都不可用，将前编码单元的量化参数设置为量化参数预测器。对平均值进行四舍五入。

逆量化单元2030将差分量化参数和量化参数预测器相加以产生当前编码单元的量化参数。如果当前编码单元的差分量化参数没有从编码侧被发送，将差分量化参数设置为零。为每个量化单元都产生量化参数。

逆量化单元2030对量化块进行逆量化。

逆变换单元2040对逆量化块进行逆变换以产生残余块。基于预测模式(帧内预测模式和帧间预测模式)和变换单元的大小来确定逆变换矩阵类型。

加法单元2090将残余块和预测块相加以产生重建样本。

帧内预测单元2050基于从熵解码单元2010接收的帧内预测信息来恢复当前预测单元的帧内预测模式，并且根据帧内预测模式产生预测块。

帧间预测单元2060基于从熵解码单元2010接收的帧间预测信息来恢复一个或多个参考图片索引和一个或多个运动矢量，并且利用所述一个或多个参考图片和一个或多个运动矢量产生预测块。

后期处理单元2070的操作与图2的后期处理单元1100的操作相同。

图片存储单元2080存储被后期处理单元2070进行后期处理的图片。

图4是示出了根据本发明的解块滤波过程的流程图。

通过图2中示出的动态图片编码设备1000的后期处理单元1100和图3中示出的动态图片解码设备2000的后期处理单元2070执行解块滤波过程。

当确定在切片图上执行解块滤波时，对该切片图应用该解块滤波过程。动态图片解码设备使用从比特流接收的标志‘diable_deblocking_filter_flag’来确定是否赌对每个切片图执行解块滤波。

在每个编码单元上执行解块滤波。首先从编码单元的左手侧的边缘开始向编码单元的右手侧进行垂直边缘的滤波。然后从编码单元的顶部边缘开始向编码单元的底部进行水平边缘的滤波。

只在预测单元的边缘和变换单元的边缘进行解块滤波。如果预测单元或变换单元的宽度或高度小于8样本长度，只在8×8样本网格的边缘进行解块滤波。

确定位于8×8样本网格的各个4样本边缘的边界强度(s110)。

图5是示出了根据本发明的确定边界强度的方法的示意图。

如图5所示，在编码单元内通过一步确定每个边缘的边界强度。只在位于8×8样本网格的4样本边缘确定边界强度。本发明清除在不是8×8样本网格的一部分的4×4块的边缘上的边界强度。本发明还清除在8样本边缘产生边界强度的操作。替代地，根据本发明，每个4样本边缘具有其自己的边界强度，以便在4样本边缘与解块判定对齐。

因此，当与正在开发的hevc比较时，根据本发明确定边界强度所需要的计算的复杂性减少了50％或更多。而且，本发明使确定边界强度所需要的内存容量和带宽减少了50％或更多。因此，在不恶化图像质量的情况下，本发明减少了硬件和软件的复杂性。

图6是示出了根据本发明的4样本边缘的示意图。如图6所示，所述4样本边缘位于包含样本p0的p块和包含样本q0的q块之间。样本p0对应于样本p00～p03之一，并且样本q0对应于样本q00～q03之一。块p和q是预测块或变换块。

边界强度如下被确定。在每个4样本边缘确定边界强度。

如果包含样本p0的预测单元或包括样本q0的预测单元是帧内编码，将4样本边缘的边界强度设置为等于2。4样本边缘是预测单元边缘。也就是说，如果块p和块q是帧间编码，将边界强度设置为等于0或1。

如果满足以下一个或多个条件，将边界强度设置为等于1。

1)4样本边缘是变换单元边缘，包含样本p0的变换单元或包含q0的变换单元包含一个或多个非零变换系数。

2)4样本边缘是预测单元边缘，包含样本p0的预测单元和包含样本q0的预测单元是帧间编码，并且包含样本p0的预测单元和包含样本q0的预测单元具有不同的参考图片或不同数量的运动矢量。

3)包含样本p0的预测单元和包含样本q0的预测单元是帧间编码，包含样本p0的预测单元和包含样本q0的预测单元具有一个运动矢量，并且该运动矢量的水平和垂直分量之间的绝对差值大于或等于预定值(例如，1个样本)。该边缘不是lcu的水平边界的一部分。

4)包含样本p0的预测单元和包含样本q0的预测单元是帧间编码，包含样本p0的预测单元和包含样本q0的预测单元具有两个运动矢量，包含样本p0的预测单元和包含样本q0的预测单元至少具有一个相同的参考图片，并且对应于所述相同的参考图片的两个运动矢量的水平和垂直分量之间的绝对差值大于或等于预定值。该边缘不是lcu的水平边界的一部分。

如上所述，如果4样本边缘不是位于8×8样本网格上，将边界强度设置为等于零。

在另一方面，当所述边缘是lcu的水平边缘，并且包含样本p0的预测单元位于lcu的水平边缘之上时，基于包含样本p0的预测单元的大小和位置，包含样本p0的预测单元的运动信息可以用包括样本p0的预测单元的左或右相邻的预测单元的运动信息代替。

图7是示出了根据本发明的预测单元的示例性配置的示意图。

解块滤波被用于8×8样本网格的边缘。因此，编码设备和解码设备应该存储当前lcu的较高预测单元和右上预测单元的运动信息。每个预测单元的宽度以及每个预测单元的运动信息都被存储以正确地恢复运动信息。为了减少被存储的信息的数量，可以采取存储每个固定的宽度运动信息以清除将被存储的宽度信息。根据本发明，将所述固定宽度设置成多个最小允许宽度(例如，2倍最小允许宽度)以减少线缓冲器的容量。可以将固定宽度设置为8样本长度。

图8是示出了根据本发明的要被存储在线缓冲器中的运动信息的示例图。

图8的上部分示出当前的lcu的上预测单元和右上预测单元的大小和运动信息。图8的下部分示出要被存储在线缓冲器中的运动信息。

如图8所示，如果预测单元的宽度是8样本长度，运动信息c以原有的宽度存储。如果预测单元的宽度大于8，对8样本长度的每个固定宽度存储相同的运动信息h。

但是，如果预测单元的宽度是4样本长度，基于预测单元的位置可以替换要被存储的运动信息。例如，为具有运动信息a的预测单元和具有运动信息b的预测单元存储运动信息a’。为具有运动信息d的预测单元和具有运动信息e的预测单元存储运动信息d’，以及为具有运动信息f的预测单元和具有运动信息g的预测单元存储运动信息f’。

可以将运动信息a’、d’和f’设置为两个预测单元的左预测单元的运动信息。

或者，可以将运动信息a’、d’和f’设置为与所述两个预测单元的16×16样本网格的垂直线相邻的预测单元的运动信息。也就是说，可以将运动信息a’设置为运动信息a，可以将运动信息d’设置为运动信息d，以及可以将运动信息f’设置为运动信息g。

下一步，确定解块滤波是否在4样本边缘执行(s120)。

图9是示出了根据本发明的用于确定块边缘是否被滤波的样本的位置的示意图。如图5所示，在8×8块边缘的4样本边缘执行所述确定。

对于各个边缘，如果满足以下两个条件，则执行解块滤波。

1)bs>0

2)d<β

bs表示边界强度。变量β的值基于边界量化参数qpb确定。

变量d如下被限定。

在第一实施例中，区域1中，d＝dp0+dq0+dp3+dq3，区域2中，d＝dp4+dq4+dp7+dq7，dpk＝|p2k-2·p1k+p0k|和dqk＝|q2k-2·q1k+q0k|。

在第二实施例中，区域1中，d＝dp0+dq0+dp2+dq2，区域2中，d＝dp4+dq4+dp6+dq6。

在第三实施例中，区域1中,d＝dp1+dq1+dp2+dq2,区域2中，d＝dp5+dq5+dp6+dq6。

下一步，如果确定解块滤波被用于所述4样本边缘，在强滤波器和弱滤波器中选择一种解块滤波器。但是，如果确定解块滤波不应用到该4样本边缘，解块滤波过程对此边缘结束。如图9所示，为每个4样本边缘选择滤波器。

如果满足以下条件，为区域1选择强滤波器。

1)d<(β>>2)

2)|p3i-p0i|+|q3i-q0i|<(β>>3)，其中i＝0,3

3)|p0i-q0i|<(5*tc+1)>>1，其中i＝0,3

或

1)di<(β>>1)，其中i＝0,3

2)|p3i-p0i|+|q3i-q0i|<(β>>3)，其中i＝0,3

3)|p0i-q0i|<(5*tc+1)>>1，其中i＝0,3

否则，选择弱滤波器。基于边界量化参数qpb确定变量tc的值。

如果满足以下条件，为区域2选择强滤波器。

1)d<(β>>2)

2)|p3i-p0i|+|q3i-q0i|<(β>>3)，其中i＝4,7

3)|p0i-q0i|<(5*tc+1)>>1，其中i＝4,7

或

1)di<(β>>1)，其中i＝4,7

2)|p3i-p0i|+|q3i-q0i|<(β>>3)，其中i＝4,7

3)|p0i-q0i|<(5*tc+1)>>1，其中i＝4,7

负责，选择弱滤波器。

在另一实施例中，对于区域1，用i＝0,2代替i＝0,3，以及对于区域2用i＝5,7代替i＝4,7。

在另一实施例中，对于区域1用i＝1,2代替i＝0,3，以及对于区域2用i＝5,6代替i＝4,7。

下一步，如果选择了解块滤波器，用该解块滤波器对边缘进行滤波(s140)。

强滤波器如下。

p0′＝(p2+2*p1+2*p0+2*q0+q1+4)>>3)

p1′＝(p2+p1+p0+q0+2)>>2

p2′＝(2*p3+3*p2+p1+p0+q0+4)>>3

q0′＝(p1+2*p0+2*q0+2*q1+q2+4)>>3

q1′＝(p0+q0+q1+q2+2)>>2

q2′＝(p0+q0+q1+3*q2+2*q3+4)>>3

弱滤波器如下。

δ＝clip3(-tc,tc,δ)

p0′＝clip1(p0+δ)

q0′＝clip1(q0-δ)

δp＝clip3(-(tc>>1),tc>>1,(((p2+p0+1)>>1)-p1+δ)>>1)

p1′＝clip1(p1+δp)

δq＝clip3(-(tc>>1),tc>>1,(((q2+q0+1)>>1)-q1-δ)>>1)

q1′＝clip1(q1+δq)

变量β和tc由边界量化参数qpb确定，并且随着边界量化参数qpb的增加而单调地增加。参数β和tc之间的关系和量化参数被限定为一张表格。

边界量化参数qpb是包含样本p0的p块的量化参数qpp和包含样本q0的q块的量化参数qpq的平均值。该平均值是四舍五入值。如果p块和q块至少一个是帧内编码，则当qpb增加1时，参数tc增加0，1或2。

尽管已经参考其某些示例性实施例示出并描述了本发明，但本领域的技术人员将理解，可以在其中做出各种形式和细节的改变而不脱离如所附权利要求界定的本发明的精神和范围。