专利名称：用于图象算术编码中的一种二值化和概率模型选择方法
技术领域：
本发明属于信号处理中的图象编码领域，特别涉及图象编码中对扫描后的系数串进行二值化和概率模型选择的方法。
背景技术：
现有的图象编码方法中，视频图象的每一幅图象一般被划分为若干个图象块，然后对每一个图象块进行编码。所说的图象块是指图象中作为编码基本单位的象素集合，是象素个数大于等于1的正方形、长方形或任意形状边界的象素的集合。编码的步骤一般又包括预测、变换、量化、扫描和熵编码。其中熵编码通常有两种方法，即变长码和算术编码。
算术编码的基本思想是用[0，1)中的实数来编码信源。实数的长度和信源字符序列的概率有关。算术编码过程中要用到两个基本的参数各符号的概率估计值和当前区间。编码的具体方法是1)定义当前区间为[0，1)。
2)编码每个符号重复如下过程a.把当前区间分割成若干子区间，各个子区间的长度正比于各个可能输入的符号的概率估计值。
b.把对应实际出现的符号的子区间定义为新的当前区间。
3)处理完信源序列后，选择一个可以唯一确定当前区间的实数输出。
为了快速估计各符号的概率值，降低概率估计和算术编码的复杂度，在实际应用中往往采用二值算术编码的编码。二值算术编码的编码与多符号算术编码不同的是在算术编码之前要将信源的字符二值化为仅由0和1组成的比特串。而且为了得到好的压缩效果，很多情况下需要建立复杂的概率模型，用来预测不同统计特点的符号的概率值，这些模型在编码过程中可能是自适应模型。所以在高效实用的二值算术编码方法中，要包含二值化的方法和建立自适应概率模型的方法，二值化的作用是把不同的符号二值化为由0和1表示的比特串，建立概率模型的目的是把统计特性相近的比特串用同一种模型进行概率的更新，在编码时选择相应的概率模型，从而得到概率预测值，进行算术编码，在编码过程中不断更新概率模型以得到更准确的概率预测值。参见图一。
由于算术编码的复杂度高，实现速度慢，在国际视频编码标准MPEG-2之前的熵编码算法均采用了变长码，没有用算术编码。
但是算术编码也有以下明显的有点压缩效率接近最优理论值，即信源的熵，其压缩效率比变长码高；而且算术编码中编码过程和概率建模过程是分开的，很容易做到自适应统计特性的变化。自国际视频编码标准H.263起开始有算术编码的选项。在最新国际视频编码标准H.264/AVC中的基于上下文的自适应二值算术编码方法即是算术编码应用的一个典型的例子。此种基于上下文的自适应二进制算术编码方法的特征在于，对变换后的图象块中的16个系数进行扫描形成一个一维的系数串。这个系数串中的每一个系数值为量化后的整数。然后对这个系数串首先进行二值化，然后选择概率模型进行算术编码。其中二值化的方法包括以下步骤步骤一用一个标志位，即SIG，来表示其是否为零SIG＝1表示系数非零；SIG＝0表示系数为0。
a.如果SIG＝1，用另一个标志位，即LAST来表示该非零系数是否是当前块的最后一个非零系数如果LAST＝1，表示当前系数是最后一个系数，转到步骤二；否则，转到步骤一。
b.如果SIG＝0，转到步骤一。
步骤二按逆扫描顺序将每个非零系数的绝对值二值化，在后面加上符号位，即SIGN。SIGN＝0表示正，SIGN＝1表示负。
参见图二。
对非零系数的二值化方法采用一元截断码和零阶指数哥伦布码混合的方法，具体二值化结果见下表
表一此种方法在对系数绝对值的二值化比特串进行概率模型选择时采用如下方法1)对于标志位SIG和LAST都是通过扫描序号选择概率模型，通过索引表由扫描序号索引到模型的序号。
2)非零系数绝对值二值化后得到的比特串分成第一个比特、除第一个比特外的一元截断码和零阶指数哥伦布码三部分，分别选择模型。第一部分的概率模型选择是根据在逆扫描顺序编码时，在该系数之前的所有非零系数的总个数，总个数即为概率模型序号总个数大于4概率模型序号不再增加，仍为4；第二部分的概率模型的选择根据的是在该系数之前的所有第一个比特位为1的非零系数的总个数，总个数即为概率模型序号总个数大于4概率模型序号不再增加，仍为4；第三部分用等概率算术编码，不需要概率模型。具体的选择结果，参见图三。
3)符号位SIGN用等概率的算术编码，不需要概率模型。
由概率模型按下述方法得到概率预测值每个概率模型存储的是一个状态序号和一个大概率符号值。一共有64个状态，每个状态对应一个小概率符号的概率，算术编码的当前的区间量化为4个区间，按状态号和当前区间所在范围查一个64×4的表就可以得到小概率符号所对应的区间大小，即当前区间大小与小概率符号概率的乘积，见表二。大概率符号是指符号0和1中预测概率值较大的符号，可能是1或0。
当对每一个二值化得到的比特进行编码时，首先由这个比特的概率模型得到此概率模型存储的状态序号，由状态序号和算术编码的当前区间查表二得到小概率符号对应的区间大小，也就相当于得到了这一比特小概率符号的概率预测值，下面就可以对这一个比特进行算术编码了。
当编完这一比特时，要根据这一比特的内容对这一比特所用的概率模型进行更新，也就是要更新这一模型里存储的状态的序号。如果这一比特是概率模型里所存储的大概率符号，那么将按表三中的得到大概率符号跳转规则得到新的状态序号存到此概率模型中；如果这一比特不是概率模型里所存储的大概率符号，那么将按表三中的得到小概率符号跳转规则得到新的状态序号存到此概率模型中；如果在状态0且这一比特是小概率符号，那么把概率模型中存储的大概率符号进行修改，如果是1改为0，如果是0改为1。
表二
表三通过这样的二值化和概率模型的选择这一方法得到了良好压缩效果。这一方法可以参考专利US_20040114683_A1发明内容本发明为用于图象编码算术编码中的一种二值化和概率模型选择方法，其目的是为了提高现有图象编码的性能。此方法的特征在于编最后一个非零系数的位置值，即最后一个非零系数的扫描顺序号；再由最后一个非零系数起，逆扫描顺序编所有系数，其中包括值为零的系数。参见图三。此方法通过编最后一个非零系数的位置值保留了相同绝对位置间的统计特性，能够建立更好的概率模型，更好的实现自适应，得到更准确的概率预测值，从而得到良好的压缩性能，并且所花费的代价不大。
本发明的特征在于按一定规则扫描得到变换系数串后，首先对该系数串的最后一个非零系数的位置值进行编码；然后由最后一个非零系数起，按逆扫描序对所有变换系数进行编码。
所述的方法是在计算机中依次按下述步骤实现的步骤1计算机在被输入按一定规则扫描后的图象的变换系数串后，按一下步骤对该系数的最后一个非零系数的位置进行二值化，然后再对二值化后得到的一元码进行概率模型选择，供以后的算术编码使用步骤1-1对最后一个非零系数的位置值进行二值化步骤1-1-1将所述的该最后一个非零系数的位置值的取值范围分为k1个区间，作为第一层，即n＝1，层数用n表示；步骤1-1-2把所述第一层的每个区间再分为k2个区间，作为第二层，n＝2；步骤1-1-3按步骤1-1-2所述的分法一直分下去，直至区间长度为1，共得到N层，N≥1，其中第n层有kn个区间；步骤1-1-4对于第n层，根据最后一个非零系数位置值所在kn个区间中的第几个区间，把最后一个非零系数的位置值二值化为长度小于kn的一元码，遍及所述n层，最终得到N层一元码；步骤1-2为步骤1-1得到的N层一元码选择相应的概率模型，第1层用k1-1种概率模型，第n层根据第n-1层的一元码采用kn-1种概率模型，具体按如下方法选择设定第1层所用到的一元码概率模型序号的初始值A1，在选择第1层的一元码概率模型时，每一位用一种模型，第1位到第k1-1位所用的概率模型的序号分别为A1，A2，……Ak1-1，共k1-1种概率模型；在选择第2层一元码的概率模型时，根据第1层一元码的k1种可能，设定第2层一元码概率模型序号的初始值B1，在选择第2层的一元码概率模型时，每一位用一种模型，第1位到第k2-1位所用的概率模型的序号分别为B1，B2，……，Bk2-1，用k2-1种概率模型；之后各层的概率模型选择依次类推，直至完成第N层的概率模型选择；步骤1-3由一元码每一位的概率模型得到概率预测值，对一元码每一位进行算术编码；步骤2然后由最后一个非零系数起，按逆扫描序对所有变换系数进行二值化，其中包括值为零的变化系数，每一个变换系数二值化得到一元码串，之后为一元码每一比特位选择概率模型，由概率模型得到概率预测值，进行算术编码。
图1自适应的二值算术编码器，包括二值化、概率模型选择和算术编码三部分，在编码时实时更新概率模型。
图2H.264中的变换系数串的编码结构，如何编标志位SIG和LASY，如何逆扫描顺序编非零系数绝对值。
图3方法流程图。其中maxNun是图像块的全部变换系数的个数，lnob(last number ofblock)是最后一个非零系数的位置值，即最后一个非零系数的扫描序号。
图4H.264的中基于上下文的自适应二值算术编码方法变换系数编码实例。图中各行分别为扫描顺序号，变换系数串，标志位SIG和LAST，逆扫描顺序编非零系数值，编非零系数值时第一比特位和后面各一元截断码比特位的概率模型选择结果。
图5本发明方法的变换系数编码实例。图中各行分别为扫描顺序号，变换系数串，最后一个非零系数值，逆扫描顺序编系数值，编系数值时第一、第二比特位和后面各一元截断码比特位的概率模型选择结果。
具体实施例方式
首先对该系数串的最后一个非零系数的位置值进行二值化，选择概率模型进行算术编码；然后由最后一个非零系数起，按逆扫描顺序对所有变换系数进行编码，包括变换系数值为零的系数进行编码，其编码方法包括对每一个系数值进行二值化，对二值化后的值选择概率模型再进行算术编码。
对最后一个非零系数的位置值进行编码时，二值化方法如下将位置值的取值范围分为k1个区间，即第一层有kn个区间，n＝1；第一层的每个区间再分为k2个区间，即第二层有kn个区间，n＝2；如此分下去直至区间长度为1，从而得到N层，N≥1，其中第n层有kn个区间；对于第n层，根据最后一个非零系数的位置值所在的区间，将该位置值二值化为长度小于kn的一元码，最终将位置值二值化为N层的一元码。
对最后一个非零系数的位置值二值化后的一元码进行概率模型选择时，第1层采用k1-1种概率模型，第n层根据第n-1层的一元码采用kn-1种概率模型。
具体选择方的法如下设定第1层一元码概率模型序号的初始值A1，在选择第1层的一元码概率模型时，一元码的每一位用一种概率模型，模型的序号分别为A1，A2，……Ak1-1，用k1-1种概率模型；在选择第2层的一元码概率模型时，根据第1层一元码的k1种可能，设定第2层一元码概率模型序号的初始值B1，在选择第2层的一元码概率模型时，一元码的每一位用一种概率模型，模型的序号分别为模型的序号分别为B1，B2，……，Bk2-1，用k2-1种概率模型；之后各层的模型选择依次类推，直至完成第N层的模型选择。
按逆扫描顺序编所有系数时，对系数绝对值的二值化方法采用一元截断码和零阶指数哥伦布码混合的方法，在后面加上符号位，符号位为0表示正，符号位为1表示负，系数0不编符号位。具体二值化结果见下表
表二在对系数值的二值化比特串进行概率模型选择是采用如下方法第一比特位是通过扫描序号选择概率模型序号，通过索引表由扫描序号索引到概率模型的序号。不同大小的图象块有不同的索引表，一个8x8图象块的索引表如下
表三第二比特位的模型选择概率模型选择是根据在逆扫描序编码时在该系数之前的所有非零系数的总个数，总个数即为概率模型序号，总个数大于4概率模型序号不再增加，仍为4；除前两个比特外的其他一元截断码用同一个概率模型，其模型选择根据的是在该系数之前的所有第二比特位为1的非零系数的总个数，总个数即为概率模型序号，总个数大于4概率模型序号不再增加，仍为4；零阶指数哥伦布码部分和符号位不需要概率模型，用等概率算术编码。具体选择结果参见图四。
本发明的用于图象编码熵编码中的一种二值化方法实施例详细说明如下设视频编码中某个8x8图象块的变换量化扫描之后的系数串如图四中所示，扫描得到的最后一个非零系数的位置值为11。而最后一个非零系数位置值的取值范围是0～63。
实施例一把最后一个非零系数的位置值二值化为2层，即N＝2。第1层分为8个区间，即k1＝8。第二层分为8个区间，即k2＝8。第1层的一元码如下表。设定第1层一元码概率模型序号的初始值是0，即A1＝0，用到的概率模型的序号是0～6，每个比特一个概率模型，用到的概率模型如下表。
表四由第1层的一元码选择第2层一元码概率模型序号的初始值B1，选择方法见上表，用到的概率模型的序号是B1～B1+6，即Bi＝B1+i-1每个比特一个概率模型。第2层一元码如下表。
表五对图四实例应用此实施方法具体如下最后一个非零系数值11在第1层的8～15的区间内。第2层8～15的区间分为8个区间，区间长度是1，11在第4个区间。所以最终11的二值化结果和概率模型序号如下
表六实施例二把最后一个非零系数的位置值二值化为6层，即N＝6。每层分为2个区间。每个区间的一元码是0或1。此时二值化得到的一元码的结果等同于把最后一个非零系数的位置值的二进制值。设定第1层一元码概率模型序号的初始值是0，即A1＝0，用到的概率模型的序号是0。第n层的概率模型序号的初始值N，与第n-1层的模型序号的初始值M的关系如下s是第n-1层的一元码，是0或1。
如果s＝0，N＝M×2+1否则s＝1，N＝M×2+2对图四实例应用此实施方法最后一个非零系数值11的二值化结果和概率模型序号如下
表七应用如上两种实施例在逆扫描顺序编所有系数值时所采用的二值化方法相同，具体二值化结果参见表二。概率模型选择的方法相同，选择的结果参见图四。
本发明的上述实施例只用于说明本发明的内容，但不限制权利要求所保护的内容。本发明所提出用于图象编码熵编码中的一种二值化方法不限于应用于算术编码中，还可以推广至其它压缩编码方法之中。
附表说明表一H.264中的系数绝对值的二值化表表二由状态序号和算术编码当前区间得到小概率符号对应区间表三由已编符号进行概率模型更新时，状态的跳转表表四发明方法系数的二值化表表五发明方法系数二值化得到的比特串的第一比特位的概率模型索引表表六实施例一中第1层一元码的二值化和概率模型选择表表七实施例一中第2层一元码的二值化和概率模型选择表表八实施例一的二值化和模型选择结果表九实施例二的二值化和模型选择结果。
权利要求
1.用于图象算术编码中的一种二值化和概率模型选择方法，其特征在于，所述的方法包括以下步骤，对按一定规则扫描得到的有序变换系数串，对该系数串的最后一个非零系数的位置值进行编码；然后由最后一个非零系数起，按逆扫描序对所有变换系数进行编码。
2.如权利要求1中所述的一种用于图象算术编码中的一种二值化和概率模型选择方法，其特征在于，所述的对最后一个非零系数的位置值进行编码，对变换系数串或按逆扫描序进行编码，或按正扫描序进行编码。
3.如权利要求1中所述的一种用于图象算术编码中的一种二值化和概率模型选择方法，其特征在于，所述的对最后一个非零系数的位置值进行编码，或在对整个变换系数串编码之前进行，或在对整个变换系数串编码的中间进行，或在对整个变换系数串编码之后进行。
4.如权利要求1中所述的一种用于图象算术编码中的一种二值化和模型选择方法，其特征在于，所述的方法有如下步骤步骤1计算机在被输入按一定规则扫描后的图象的变换系数串后，按一下步骤对该系数的最后一个非零系数的位置进行二值化，然后再对二值化后得到的一元码进行概率模型选择，供以后的算术编码使用步骤1-1对最后一个非零系数的位置值进行二值化步骤1-1-1将所述的该最后一个非零系数的位置值的取值范围分为k1个区间，作为第一层，即n＝1，层数用n表示；步骤1-1-2把所述第一层的每个区间再分为k2个区间，作为第二层，n＝2；步骤1-1-3按步骤1-1-2所述的分法一直分下去，直至区间长度为1，共得到N层，N≥1，其中第n层有kn个区间；步骤1-1-4对于第n层，根据最后一个非零系数位置值所在kn个区间中的第几个区间，把最后一个非零系数的位置值二值化为长度小于kn的一元码，遍及所述n层，最终得到N层一元码；步骤1-2对从步骤1-1得到的N层一元码选择相应的概率模型，第1层用k1-1种概率模型，第n层根据第n-1层的一元码采用kn-1种概率模型，具体按如下方法选择设定第1层所用到的一元码概率模型序号的初始值A1，在选择第1层的一元码概率模型时，每一位用一种模型，第1位到第k1-1位所用的概率模型的序号分别为A1，A2，……Ak1-1，共k1-1种概率模型；在选择第2层一元码的概率模型时，根据第1层一元码的k1种可能，设定第2层一元码概率模型序号的初始值B1，在选择第2层的一元码概率模型时，每一位用一种模型，第1位到第k2-1位所用的概率模型的序号分别为B1，B2，……，Bk2-1，用k2-1种概率模型；之后各层的概率模型选择依次类推，直至完成第N层的概率模型选择；步骤1-3由一元码每一位的概率模型得到概率预测值，对一元码每一位进行算术编码；步骤2然后由最后一个非零系数起，按逆扫描序对所有变换系数进行二值化，其中包括值为零的变化系数，每一个变换系数二值化得到一元码串，之后为一元码每一比特位选择概率模型，由概率模型得到概率预测值，进行算术编码。
5.如权利要求1中所述的一种用于图象算术编码中的一种二值化和概率模型选择方法，其特征在于，所述的对最后一个非零系数的位置值进行二值化的方法有如下步骤步骤1将所述的该最后一个非零系数的位置值的取值范围分为k1个区间，作为第一层，即n＝1，层数用n表示；步骤2把所述第一层的每个区间再分为k2个区间，作为第二层，n＝2；步骤3按步骤2所述的分法一直分下去，直至区间长度为1，共得到N层，N≥1，其中第n层有kn个区间；步骤4对于第n层，根据最后一个非零系数位置值所在kn个区间中的第几个区间，把最后一个非零系数的位置值二值化为长度小于kn的一元码，遍及所述n层，最终得到N层一元码。
6.如权利要求1中所述的一种用于图象算术编码中的一种二值化和概率模型选择方法方法，其特征在于，最后一个非零系数位置值二值化得到的N层一元码选择概率模型的方法如下对已得到的N层一元码选择相应的概率模型，第1层用k1-1种概率模型，第n层根据第n-1层的一元码采用kn-1种概率模型，具体按如下方法选择设定第1层所用到的一元码概率模型序号的初始值A1，在选择第1层的一元码概率模型时，每一位用一种模型，第1位到第k1-1位所用的概率模型的序号分别为A1，A2，……Ak1-1，共k1-1种概率模型；在选择第2层一元码的概率模型时，根据第1层一元码的k1种可能，设定第2层一元码概率模型序号的初始值B1，在选择第2层的一元码概率模型时，每一位用一种模型，第1位到第k2-1位所用的概率模型的序号分别为B1，B2，……，Bk2-1，用k2-1种概率模型；之后各层的概率模型选择依次类推，直至完成第N层的概率模型选择。
全文摘要
本发明属于信号处理中的图象编码领域，涉及图象编码中变换系数熵编码中的一种二值化方法。本发明对图象块进行扫描后的一串系数设计了新的二值化方法，其特征之一在于将最后一个非零系数的位置信息编入码流，再由最后一个非零系数开始逆序对所有的系数进行算术编码。其特征之二在于，将最后一个非零系数二值化后，选择概率模型并对其算术编码。本发明中的方法通过概率模型的更新可以得到更准确的概率预测值进行算术编码，从而得到更优越的压缩性能。
文档编号G06T9/00GK1719903SQ200510012008
公开日2006年1月11日 申请日期2005年6月24日 优先权日2005年6月24日
发明者何芸, 李 亨, 王博 申请人:清华大学