块尺寸和形状可以混合存在于I个画面中。块的解码顺序例如记载在非专利文献I中。在生成预测信号所需要的信息中包含有预测方法选择信息和运动信息(画面间预测的情况下)或帧内预测模式(画面内预测的情况下)。
[0066]数据解析器202从压缩数据中对对象块的残差信号、生成预测信号所需要的信息、量化参数进行解码。利用逆量化器203，根据量化参数(经由线L202)对解码后的对象块的残差信号进行逆量化。进而，利用逆转换器204对逆量化后的残差信号进行逆离散余弦转换，其结果，对残差信号进行复原。接着，经由线L206将生成预测信号所需要的信息送到预测信号生成器208。在预测信号生成器208中，根据生成预测信号所需要的信息生成对象块的预测信号。预测信号生成器208中的预测信号的生成处理使用图14在后面叙述。所生成的预测信号经由线L208送到加法器205，与复原后的残差信号进行相加，对对象块信号进行再现，经由线L205输出到环路滤波器209，同时存储在块存储器215中以用于后续块的画面内预测。环路滤波器209从经由线L205输入的再现信号中去除块噪声，去除了块噪声后的再现图像作为后续图像的解码/再现中使用的再现图像存储在帧存储器207中。
[0067]利用图14对预测信号生成器208中的预测信号处理流程进行说明。首先，在步骤S402中，利用数据解析器202取得解码后的预测方法。
[0068]在解码后的预测方法为画面间预测的情况下(步骤S403)，利用数据解析器202取得解码后的运动信息(运动矢量和参照画面信息)(步骤S404)，根据运动信息访问帧存储器207，从多个参照图像中取得参照信号并生成预测信号(步骤S405)。
[0069]在解码后的预测方法为画面内预测的情况下(步骤S403)，利用数据解析器202取得解码后的帧内预测模式(步骤S406)，访问块存储器215，取得与对象块相邻的已再现的像素信号作为参照样本，根据帧内预测模式生成预测信号(步骤S407)。所生成的预测信号经由L208输出到加法器205。
[0070]数据解析器202中使用的解码方法可以是算术解码，也可以是可变长解码。
[0071]接着，使用图3和图7对本发明的实施方式的画面内预测方法进行说明。S卩，对图13的步骤S309和图14的步骤S407的详细情况、即使用从图1的块存储器113或图2的块存储器215中取得的参照样本、通过基于帧内预测模式的外插法来估计对象块的帧内预测样本的方法进行说明。
[0072]在本发明中，为了抑制发明要解决的课题所示的伪轮廓这样的噪声的产生，针对作为伪轮廓要因的块，对画面内预测所使用的参照样本群应用双一次内插处理。通过使参照样本群的信号的变化平缓，抑制在参照样本群的块边界产生的阶梯状的噪声的出现。
[0073]利用图7说明对参照样本群应用的双一次内插处理。在对象块210的块尺寸为NXN样本时，这里，利用属于其周围的5个已再现块220、230、240、250、260的已再现的信号构成4N+1个参照样本群270(ref [X] (x = O?4N))。在本实施方式中，将位于参照样本群270的端部的下左侧的参照样本BL = ref [O]和上左侧的参照样本AL = ref[2N]、以及位于参照样本群270的中央且位于对象块的左上侧的上右侧的参照样本AR = ref[4N]这3个参照样本定义为双一次内插的关键参照样本。此时，如下所述对4N+1个参照样本进行内插处理。
[0074]ref’ [O] = ref [O] (I)
[0075]ref，[i] = BL+(i*(AL_BL)+N)/2N(i = I ?2N-1) (2)
[0076]ref’ [2N] = ref[2N] (3)
[0077]ref’ [2N+i] = AL+(i* (AR-AL)+N)/2N (i = I ?2N-1) (4)
[0078]ref，[4N] = ref[4N] (5)
[0079]这里，ref’ [x] (x = 0?4N)表示内插处理后的参照样本(interpolatedreference samples)的值。另外，式⑵和⑷可以分别如式(2)’和(4)’那样变形。
[0080]ref，[i] = ((2N_i) *BL+i*AL+N)/2N(i = I ?2N-1) (2) ’
[0081]ref，[2N+i] = ((2N_i) *AL+i*AR+N)/2N(i = I ?2N-1) (4)，
[0082]这样，利用关键参照样本BL和AL，通过双一次内插生成BL?AL之间的参照样本，利用关键参照样本AL和AR，通过双一次内插生成AL?AR之间的参照样本，由此，与对象块相邻的内插处理后的参照样本值的电平平缓地变化。其结果，能够抑制针对预测信号的块噪声的传播。
[0083]接着，利用图7对应用双一次内插的参照样本的判定基准进行说明。在本实施方式中，使用3个关键参照样本、块边界的2个参照样本以及2个阈值进行判定。这里，设THRESHOLD_ABOVE和THRESHOLD_LEFT分别为用于决定是否在针对对象块的上端的参照样本ref[x] (X = 2N+1?4N-1)和左端的参照样本ref [x] (x = I?2N-1)应用双一次内插的判定中使用的阈值。对满足判定基准的参照样本应用双一次内插。
[0084]在本实施方式中，使用下述判定基准。下述2个式子中的Interpolate_Above和Interpolate_Left是逻辑值，在满足右边的式子的情况下成为ture(l)，应用双一次内插，在不满足右边的式子的情况下成为false (O)，应用现有的基于121滤波器的intrasmoothing。
[0085]Interpolate_Left = abs(BL+AL_2*ref[N])<THRESHOLD_LEFT (6)
[0086]Interpolate_Above = abs(AL+AR_2*ref[3N])<THRESHOLD_ABOVE (7)
[0087]在BL、AL和ref [3N]的值并列在直线上的情况下，BL+AL_2*ref [N]的值成为O。同样，在AL、AR和ref [3N]的值并列在直线上的情况下，AL+AR_2*ref [3N]的值也成为O。艮P，上述2个式子对ref [N]相对于从BL连接到AL的直线的偏差(deviat1n)的大小、以及ref[3N]相对于连接AL和AR的直线的偏差(deviat1n)的大小与各自的阈值进行比较。如果计算出的2个偏差小于对应的阈值THRESHOLD_ABOVE或THRESHOLD_LEFT，则逻辑值(Interpolate_Above或Interpolate_Left)成为true，对参照样本应用双一次内插。在式(6)和(7)中，abs (X)是计算X的绝对值。
[0088]此时，2个阈值的值(THRESHOLD_ABOVE和THRESHOLD_LEFT)可以是预先设定的固定值，也可以以帧单位或汇集多个块的片(slice)单位进行编码并利用解码器进行复原。并且，还可以以块为单位进行编码并利用解码器进行复原。在图2中，利用数据解析器202对2个阈值进行解码并将其输出到预测信号生成器208，用于下述图3和图4中详细说明的画面内预测信号的生成。
[0089]图3示出通过外插法(画面内预测的方向)来估计帧内预测样本的处理的流程图。首先，在步骤510中，预测信号生成器(103或208、以下编号省略)从块存储器(113或215、以下编号省略)中取得图7的像素群270所示的参照样本ref [X] (x = O?4N)。此时，在由于编码顺序等理由而使得相邻块还未再现、无法取得全部4N+1个参照样本的情况下，通过填充处理(复制附近存在的样本值)生成不存在的样本，准备4N+1个参照样本。填充处理的详细情况记载在非专利文献I中。接着，在步骤560中，根据式(6)和(7)计算2个逻辑值 Interpolate_Above 和 Interpolate_Left。
[0090]接着，在步骤520中，预测信号生成器判定对象块是否满足双一次内插应用的判定基准。具体而言，判定对象块的尺寸是否大于预定的M，并且，判断计算出的Interpolate_Above和Interpolate_Left是否均为true。将块尺寸作为判定基准是因为，通常情况下，在较大块尺寸中容易产生作为课题的伪轮廓。通过将M的值设定为较大，具有抑制参照样本的不必要变更的效果。
[0091]在满足这2个判定基准的情况下(块尺寸> =M、且Interpolate_Above = = true且Interpolate_Left = = true)，进入步骤530，在不满足这2个判定基准的情况下，进入步骤540。在步骤530中，对参照样本ref [X] (x = O?4N)应用式⑴?(5)所示的双一次内插处理，生成内插处理后的参照样本(interpolated reference samples)ref? [x] (x=0?4N)。在步骤540中，根据式(8)和(9)，对参照样本ref [x] (x = O?4N)应用基于121 滤波器的 intra smoothing。
[0092]ref，[i] = ref[i] (i = Oand 4N) (8)
[0093]ref’ [i] = (ref [1-l]+2*ref[i]+ref [i+1]+2)/4 (i = I ?4N-1) (9)
[0094]这里，ref’ [x] (x = 0?4N)表不平滑化后的参照样本(smoothed referencesamples)的值。
[0095]最后，在步骤550中，使用已定的帧内预测模式和内插后或平滑化后的参照样本ref’ [X] (X = O?4N)，通过外插法(画面内预测的方向)来估计对象块的帧内预测样本。
[0096]图4更加详细地说明图3，示出通过外插法(画面内预测的方向)来估计分为左参照样本(ref [X]，X = O?2N)和上参照样本(ref [x]，x = 2N?4N)而独立实施双一次内插和121滤波器的切换的情况下的帧内预测样本的处理的流程图。首先，在步骤610中，预测信号生成器(103或208、以下编号省略)从块存储器(113或215、以下编号省略)中取得图7的像素群270所示的参照样本ref [X] (x = O?4N)。此时，在由于编码顺序等理由而使得相邻块还未再现、无法取得全部4N+1个参照样本的情况下，通过填充处理(复制附近存在的样本值)生成不存在的样本，准备4N+1个参照样本。填充处理的详细情况记载在非专利文献I中。
[0097]接着，在步骤680中，根据式(6)和(7)计算2个逻辑值Interpolate_Above和Interpolate_Lefto
[0098]接着，在步骤620中，预测信号生成器判断对象块是否满足双一次内插应用的判定基准。具体而言，判定对象块的尺寸是否大于预定的M，