一种HEVC帧内预测模式快速选择方法与流程

本发明涉及数字视频编码领域，具体涉及一种HEVC帧内预测模式快速选择方法。

背景技术：

随着多媒体技术的快速发展，各种分辨率的视频数据(包括标清、高清和超高清视频)相继出现，视频数据的传输和存储面临着巨大挑战。为满足视频数据压缩和传输的发展需求，由ISO/IEC和ITU-T组织的视频编码联合专家组(Joint Collaborative Team on Video Coding,JCT-VC)制定了新一代的高效率视频编码标准(High Efficiency Video Coding,HEVC/H.265)。在相同的视频质量下，HEVC与前一代的视频编码标准H.264相比减少了一半左右的码流(见G.J.Sullivan,J.-R.Ohm,W.-J.Han,and T.Wiegand,Overview of the high efficiency video coding(HEVC)standard,即“高效率视频编码标准概述”,IEEE Transactions on Circuits and Systems for Video Technology,vol.22,no.12,pp.1649-1668,Dec.2012)，即编码效率提高了一倍，但是其计算复杂度增加数倍。HEVC虽然同传统视频编码标准一样采用混合编码技术，在许多方面引入新编码技术，例如编码树单元(Coding Tree Unit,CTU)四叉树划分、多角度帧内预测模式和多种划分方式的帧间预测模式等。为了更加灵活地编码图像，HEVC提出了三种划分模式，分别为编码单元(Coding Unit,CU)、预测单元(Prediction Unit,PU)和变换单元(Transform Unit)。HEVC的PU预测过程包括帧间预测和帧内预测，其中I帧或IDR帧的PU都仅采用帧内预测，其它类型帧可以同时采用帧内预测和帧间预测。为了提高帧内预测的压缩效率，HEVC采用PU周围存在的空间相邻的重建像素进行帧内预测，最多可以采用35种帧内预测模式(见J.Lainema,F.Bossen,W.-J Han,J.Min,and K.Ugur,Intra coding of the HEVC standard,即“HEVC标准的帧内编码”,IEEE Transactions on Circuits and Systems for Video Technology,vol.22,no.12,pp.1792-1801,Dec.2012)。在HEVC的所有帧内预测模式中，编号0的Planar模式和编号1的DC模式适用于平坦区域，编号2～34对应33种角度预测模式，其中，编号10的角度预测模式沿水平向右方向进行预测，编号26的角度预测模式沿竖直向下方向进行预测，编号18的角度预测模式沿对角线往右下方向进行预测，编号2的角度预测模式沿对角线往右上方向进行预测，编号34的角度预测模式沿对角线往左下方向进行预测。在HEVC的测试模型HM中，帧内预测过程要先进行粗级模式决策(Rough Mode Decision,RMD)，通过计算PU的残差信号哈达玛变换后的绝对误差和(Sum of Absolute Transformed Difference,SATD)来初步筛选预测模式，对于尺寸为4×4和8×8的PU，选取8种预测模式作为候选模式，对于尺寸为16×16、32×32和64×64的PU，选取3种预测模式作为候选模式(见L.Zhao,L.Zhang,X.Zhao,S.Ma,D.Zhao,W.Gao,Further encoder improvement for intra mode decision(JCTVC-D283),即“编码过程中帧内模式决策的进一步优化”,Proceedings of the JCT-VC 4th meeting,pp.1-4,Jan.2011)。接着采用率失真优化(Rate Distortion Optimization,RDO)技术(见Wiegand T,Schwarz H,Joch A,Kossentini F,Sullivan G J,Rate-constrained coder control and comparison of video coding standards,即“视频编码标准的码率受限制的编码器控制和比较”,IEEE Transactions on Circuits and Systems for Video Technology,2003,13(7):688-703)，从若干候选模式中选取率失真代价最小的模式作为PU的帧内最佳预测模式。HEVC帧内预测模式比H.264更加丰富多样，更能适合编码高分辨率视频，但是这也增加了HEVC帧内编码的计算复杂度。

目前已有一些HEVC的帧内预测模式快速选择方法。申请号为201210138816.1的专利在RMD过程中，对于尺寸为4×4和8×8、16×16和32×32的PU将候选预测模式个数减少为2～5个。齐美彬等人提出一种基于图像纹理方向和空间相关性的HEVC帧内模式选择快速方法(见齐美彬,朱广辉,杨艳芳,蒋建国.利用纹理和空间相关性的HEVC帧内预测模式选择[J].中国图象图形学报,2014,19(8),1119-1125)。该方法利用Sobel算子得到的PU纹理方向来建立获选预测模式列表，并且将基于空间相关性的相邻PU帧内最佳预测模式加入该列表。申请号为201410842187.X的专利提供了一种HEVC帧内预测模式选择加速方法。在该方法中，若PU具有纹理一致性特征，则将RMD选取的第1个预测模式直接选取为最佳帧内预测模式；其次将RMD选取的前2个预测模式分成3类不同的情况来加快模式选择。与上述减少候选预测模式的方法不同，申请号为201410024635.5的专利提出一种基于SATD的HEVC快速帧内预测方法，通过终止CU的划分来降低HEVC的帧内预测的计算复杂度。该方法由SATD计算出一组适应性强的阈值，若当前CU的SATD小于给定的阈值，则结束CU的划分。而申请号为201310445775.5的专利一方面根据纹理复杂度确定CU划分；另一方面，根据PU的纹理特性将最不可能成为最佳模式的一些预测模式从候选预测模式列表中删除。

技术实现要素：

为了在保持编码率失真性能的条件下有效降低HEVC帧内预测的计算复杂度，本发明提供了一种HEVC帧内预测模式快速选择方法。

为了解决上述技术问题采用的技术方案为：

一种HEVC帧内预测模式快速选择方法，所述的方法包括以下步骤：

(1)输入一个待估计PU，建立实际可用的帧内预测模式集合：

根据待估计PU周围已存在空间相邻的重建像素和每个HEVC帧内预测模式需要的空间相邻重建像素，为待估计PU选取所有实际可用的帧内预测模式，组成集合Ω，即对每个HEVC帧内预测模式，如果待估计PU周围已存在该模式进行帧内预测需要的空间相邻重建像素，则将该模式加入到Ω。

(2)计算待估计PU中的所有像素与其不同方向的空间相邻像素的差值绝对值和：

对于HEVC帧内预测模式的33种角度预测模式，待估计PU的纹理方向特性与该PU最终选取的角度预测模式具有相关性。因此，可以通过计算待估计PU中的像素与其空间相邻像素的差绝对值和来确定待估计PU的纹理方向特性，以快速选择帧内预测模式。

首先，当Ω中存在编号为18的角度预测模式，即待估计PU可以采用沿对角线往右下方向进行预测的角度预测模式，则计算待估计PU中所有像素与其左上方相邻像素的差值绝对值和SAD_LU，如式(1)所示：

式(1)中，待估计PU的尺寸为N×N(N＝4,8,16,32,64)，p(x,y)为待估计PU中坐标为(x,y)的像素的像素值，其中x为水平坐标，y为竖直坐标，在待估计PU中它们的值为大于等于0且小于等于N-1的整数，坐标为(x-1,y-1)的像素位于坐标为(x,y)的左上方。坐标为(-1,-1)的像素是坐标为(0,0)的像素的左上像素，坐标为(0,0)的像素是待估计PU左上顶角位置的像素，坐标为(0,N-1)的像素是待估计PU左下顶角位置的像素，坐标为(N-1,0)的像素是待估计PU右上顶角位置的像素，坐标为(N-1,N-1)的像素是待估计PU右下顶角位置的像素。坐标为(0,y)的像素是待估计PU的上边界像素，坐标为(x,0)的像素是待估计PU的左边界像素，坐标为(N-1,y)的像素是待估计PU的右边界像素，坐标为(x,N-1)的像素是待估计PU的下边界像素。

同样地，当Ω中存在编号为26的角度预测模式，即待估计PU可以采用竖直向下方向进行预测的角度预测模式，则计算待估计PU中所有像素与其上方相邻像素的差值绝对值和SAD_U，如式(2)所示：

式(2)中，待估计PU的尺寸为N×N(N＝4,8,16,32,64)，p(x,y)为待估计PU中坐标为(x,y)的像素的像素值，其中x为水平坐标，y为竖直坐标，在待估计PU中它们的值为大于等于0且小于N的整数，坐标为(x,y-1)的像素位于坐标为(x,y)的正上方。

当Ω中存在编号为34的角度预测模式，即待估计PU可以采用沿对角线左下方向进行预测的角度预测模式，则计算待估计PU中所有像素与其右上方相邻像素的差值绝对值和SAD_RU，如式(3)所示：

式(3)中，待估计PU的尺寸为N×N(N＝4,8,16,32,64)，p(x,y)为待估计PU中坐标为(x,y)的像素的像素值，其中x为水平坐标，y为竖直坐标，在待估计PU中它们的值为大于等于0且小于N的整数，坐标为(x+1,y-1)的像素位于坐标为(x,y)的右上方。

当Ω中存在编号为10的角度预测模式，即待估计PU可以采用水平向右方向进行预测的角度预测模式，则计算待估计PU中所有像素与其左方相邻像素的差值绝对值和SAD_L，如式(4)所示：

式(4)中，待估计PU的尺寸为N×N(N＝4,8,16,32,64)，p(x,y)为待估计PU中坐标为(x,y)的像素的像素值，其中x为水平坐标，y为竖直坐标，在待估计PU中它们的值为大于等于0且小于N的整数，坐标为(x-1,y)的像素位于坐标为(x,y)的左方。

当Ω中存在编号为2的角度预测模式，即待估计PU可以采用沿对角线右上方向进行预测的角度预测模式，则计算待估计PU中所有像素与其左下方相邻像素的差值绝对值和SAD_LB，如式(5)所示：

式(5)中，待估计PU的尺寸为N×N(N＝4,8,16,32,64)，p(x,y)为待估计PU中坐标为(x,y)的像素的像素值，其中x为水平坐标，y为竖直坐标，在待估计PU中它们的值为大于等于0且小于N的整数，坐标为(x-1,y+1)的像素位于坐标为(x,y)的左下方。

(3)根据不同方向空间相邻像素的差值绝对值和判断待估计PU的纹

理方向特性：

首先，根据从步骤(2)计算得到的差值绝对值和SAD个数进行步骤选择：如果步骤(2)计算得到SAD个数小于3，则执行步骤(5)；否则先对步骤(2)计算得到的SAD进行从小到大排列，设前三个最小的SAD依次为SAD_MIN-0、SAD_MIN-1和SAD_MIN-2；再根据这三个最小的SAD，对待估计PU的纹理特征进行分类，如式(6)所示:

式(6)中，Class表示待估计PU的纹理类别，值为0表示待估计PU的纹理比较平坦，值为1表示待估计PU的纹理呈现较明显的水平、竖直或对角线方向，值为2表示待估计PU的纹理呈现其它角度方向，值为3表示待估计PU的纹理复杂，参数α、β和γ用于调节SAD_MIN-i(i＝0,1,2)之间的关系，其中α设为0.9～1.0，β和γ设为0.6～1.0。

接着由式(6)计算得到的PU纹理类别Class以及SAD关系，得到待估计PU纹理方向特性，如表1所示。在表1中，0度方向是指沿水平向右方向，π/2方向是指沿竖直向下方向，π/4方向是指沿右下45度方向，-π/4方向是指沿右上45度方向，3π/4方向是指沿左下45度方向。当纹理类别Class等于0，待估计PU的纹理方向特性记为纹理较平坦。当纹理类别Class等于1，待估计PU的纹理方向特性根据SAD_MIN-0是否等于SAD_LU、SAD_U、SAD_RU、SAD_L和SAD_LB分别将待估计PU记为纹理呈π/4方向、纹理呈π/2方向、纹理呈3π/4方向、纹理呈0度方向和纹理呈-π/4方向。当纹理类别Class等于2，待估计PU的纹理方向特性根据SAD_MIN-0和SAD_MIN-1的值是否为SAD_LU、SAD_U、SAD_RU、SAD_L和SAD_LB中相邻方向的两个SAD值来判别待估计PU的纹理方向特性：(a)如果SAD_LU等于SAD_MIN-0且SAD_U等于SAD_MIN-1，或者SAD_LU等于SAD_MIN-1且SAD_U等于SAD_MIN-0，则将纹理方向特性记为纹理呈[π/4,π/2]方向；(b)如果SAD_U等于SAD_MIN-0且SAD_RU等于SAD_MIN-1，或者SAD_U等于SAD_MIN-1且SAD_RU等于SAD_MIN-0，则将纹理方向特性记为纹理呈[π/2,3π/4]方向；(c)如果SAD_LU等于SAD_MIN-0且SAD_L等于SAD_MIN-1，或者SAD_LU等于SAD_MIN-1且SAD_L等于SAD_MIN-0，则将纹理方向特性记为纹理呈[0,π/4]方向；(d)如果SAD_L等于SAD_MIN-0且SAD_LB等于SAD_MIN-1，或者SAD_L等于SAD_MIN-1且SAD_LB等于SAD_MIN-0，则将纹理方向特性记为纹理呈[-π/4,0]方向；(f)其它情况，则将纹理方向特性记为复杂纹理方向。当纹理类别Class等于3，待估计PU的纹理方向特性记为复杂纹理方向。

表1 待估计PU纹理方向特性

(4)根据纹理方向特性确定粗级模式搜索范围：

根据待估计PU的纹理方向特性，减少候选的预测模式种类，调整后的预测模式组成粗级模式搜索范围S，其中S中的预测模式是根据待估计PU的纹理方向特性来设置，如下表2所示：

表2 S中的预测模式

(5)根据粗级搜索范围和Ω建立率失真优化候选模式集合：

从步骤(4)得到的预测模式搜索范围在一些情况下预测模式个数仍然较多，因此在步骤(6)采用率失真优化技术选择最佳预测模式前需要进行进一步的筛选预测模式。

首先确定SATD代价模式搜索范围Ψ：如果从步骤(4)执行到当前步骤，则Ψ为步骤(4)得到的粗级模式搜索范围S与步骤(1)得到Ω的交集，如果从步骤(3)执行到当前步骤，则直接将Ω赋给Ψ。

然后计算Ψ中各个预测模式的HEVC帧内预测残差，再计算预测残差的SATD代价J，如式(7)所示：

J＝SATD+λ×R (7)

其中J表示代价，SATD表示残差信号哈达玛变换后的绝对误差和，λ表示拉格朗日算子，R表示模式选择后编码所需要的比特数。

接着按照SATD代价J从小到大的顺序对各个预测模式进行排序，再根据排序后的预测模式建立率失真优化候选模式集合Φ：当排列在第1位的预测模式为DC模式或Planar模式，则只将排列前1位的预测模式加入Φ；当排列在第1位的预测模式为角度模式且第2位的预测模式为DC模式或Planar模式，则只将排列前2位的预测模式加入Φ；当排列在前2位的预测模式都为相邻的角度模式，则只将排列前2位的预测模式加入Φ；当排列在前2位的预测模式为不相邻的角度模式，则先将排列前2位的预测模式加入Φ，再将该2种预测模式相邻的角度模式加入Φ；在其它情况下，对于尺寸为16×16、32×32和64×64的待估计PU，则将排列前3位的预测模式加入Φ，对于尺寸为4×4和8×8的待估计PU，则将排列前8位的预测模式加入Φ。

(6)选取最佳帧内预测模式：

采用率失真优化技术从步骤(5)得到的候选模式集合Φ中选取率失真代价最小的候选模式作为待估计PU的最佳帧内预测模式，完成待估计PU的帧内预测模式选择。

本发明的技术构思为：首先计算PU中所有像素点与其不同方向空间相邻像素的SAD，得出PU的纹理特性，以确定纹理方向特征；然后根据纹理方向特征，建立了粗级模式搜索范围，减少进行粗级模式搜索的候选模式个数；最后建立率失真优化候选模式集合，进一步减少了最终进行率失真优化的候选模式个数。

与现有技术相比，本发明具有以下有益效果：

本发明提出一种HEVC帧内预测模式快速选择方法。该方法与现有技术相比，具有如下特点和优点：首先通过比较PU内部各原始像素在不同方向上的差值绝对值和，实现对PU的纹理方向特征进行分类；再根据纹理方向特征来减少预测模式的搜索范围；最后根据预测模式SATD代价排序来减少进行率失真优化的候选模式个数。在保持良好的编码率失真性能的条件下，本发明能显著地降低HEVC帧内和帧间编码帧中的帧内预测模式选择计算复杂度。

附图说明

图1为本发明方法的基本流程图。

图2为HEVC编码33种帧内角度预测模式。

具体实施方式

下面结合实施例和附图来详细描述本发明，但本发明并不仅限于此。

如图1所示，一种HEVC帧内预测模式快速选择方法，包括以下步骤：

(1)输入一个待估计PU，建立实际可用的帧内预测模式集合；

(2)计算待估计PU中的所有像素与其不同方向的空间相邻像素的差值绝对值和；

(3)根据不同方向空间相邻像素的差值绝对值和判断待估计PU的纹理方向特性；

(4)根据纹理方向特性确定粗级模式搜索范围；

(5)根据粗级模式搜索范围和实际可用的帧内预测模式集合建立率失真优化候选模式集合；

(6)选取最佳帧内预测模式。

步骤(1)具体包括：

根据待估计PU周围已存在空间相邻的重建像素和每个HEVC帧内预测模式需要的空间相邻重建像素，为待估计PU选取所有实际可用的帧内预测模式，组成集合Ω，即对每个HEVC帧内预测模式，如果待估计PU周围已存在该模式进行帧内预测需要的空间相邻重建像素，则将该模式加入到Ω。

步骤(2)具体包括：

首先，当Ω中存在编号为18的角度预测模式，即待估计PU可以采用沿对角线往右下方向进行预测的角度预测模式，则计算待估计PU中所有像素与其左上方相邻像素的差值绝对值和SAD_LU，如式(1)所示：

式(1)中，待估计PU的尺寸为N×N(N＝4,8,16,32,64)，p(x,y)为待估计PU中坐标为(x,y)的像素的像素值，其中x为水平坐标，y为竖直坐标，在待估计PU中它们的值为大于等于0且小于等于N-1的整数，坐标为(x-1,y-1)的像素位于坐标为(x,y)的左上方。坐标为(-1,-1)的像素是坐标为(0,0)的像素的左上像素，坐标为(0,0)的像素是待估计PU左上顶角位置的像素，坐标为(0,N-1)的像素是待估计PU左下顶角位置的像素，坐标为(N-1,0)的像素是待估计PU右上顶角位置的像素，坐标为(N-1,N-1)的像素是待估计PU右下顶角位置的像素。在HEVC标准中，不同编号的角度预测模式其预测方向如图2所示。

同样地，当Ω中存在编号为26的角度预测模式，即待估计PU可以采用竖直向下方向进行预测的角度预测模式，则计算待估计PU中所有像素与其上方相邻像素的差值绝对值和SAD_U，如式(2)所示：

式(2)中，待估计PU的尺寸为N×N(N＝4,8,16,32,64)，p(x,y)为待估计PU中坐标为(x,y)的像素的像素值，其中x为水平坐标，y为竖直坐标，在待估计PU中它们的值为大于等于0且小于N的整数，坐标为(x,y-1)的像素位于坐标为(x,y)的正上方。

当Ω中存在编号为34的角度预测模式，即待估计PU可以采用沿对角线左下方向进行预测的角度预测模式，则计算待估计PU中所有像素与其右上方相邻像素的差值绝对值和SAD_RU，如式(3)所示：

式(3)中，待估计PU的尺寸为N×N(N＝4,8,16,32,64)，p(x,y)为待估计PU中坐标为(x,y)的像素的像素值，其中x为水平坐标，y为竖直坐标，在待估计PU中它们的值为大于等于0且小于N的整数，坐标为(x+1,y-1)的像素位于坐标为(x,y)的右上方。

当Ω中存在编号为10的角度预测模式，即待估计PU可以采用水平向右方向进行预测的角度预测模式，则计算待估计PU中所有像素与其左方相邻像素的差值绝对值和SAD_L，如式(4)所示：

式(4)中，待估计PU的尺寸为N×N(N＝4,8,16,32,64)，p(x,y)为待估计PU中坐标为(x,y)的像素的像素值，其中x为水平坐标，y为竖直坐标，在待估计PU中它们的值为大于等于0且小于N的整数，坐标为(x-1,y)的像素位于坐标为(x,y)的左方。

当Ω中存在编号为2的角度预测模式，即待估计PU可以采用沿对角线右上方向进行预测的角度预测模式，则计算待估计PU中所有像素与其左下方相邻像素的差值绝对值和SAD_LB，如式(5)所示：

式(5)中，待估计PU的尺寸为N×N(N＝4,8,16,32,64)，p(x,y)为待估计PU中坐标为(x,y)的像素的像素值，其中x为水平坐标，y为竖直坐标，在待估计PU中它们的值为大于等于0且小于N的整数，坐标为(x-1,y+1)的像素位于坐标为(x,y)的左下方。

步骤(3)具体包括：

首先，根据从步骤(2)计算得到的差值绝对值SAD个数进行步骤选择：如果步骤(2)计算得到SAD个数小于3，则执行步骤(5)；否则先对步骤(2)计算得到的SAD进行从小到大排列，设前三个最小的SAD依次为SAD_MIN-0、SAD_MIN-1和SAD_MIN-2；再根据这三个最小的SAD，对待估计PU的纹理特征进行分类，如式(6)所示:

式(6)中，Class表示待估计PU的纹理类别，值为0表示待估计PU的纹理比较平坦，值为1表示待估计PU的纹理呈现较明显的水平、竖直或对角线方向，值为2表示待估计PU的纹理呈现其它角度方向，值为3表示待估计PU的纹理复杂，参数α、β和γ用于调节SAD_MIN-i(i＝0,1,2)之间的关系，其中α设为0.9～1.0，β和γ设为0.6～1.0，此处α设为0.95，β和γ都设为0.9。

接着由式(6)计算得到的PU纹理类别Class以及SAD关系，得到待估计PU纹理方向特性，如表1所示。在表1中，0度方向是指沿水平向右方向，π/2方向是指沿竖直向下方向，π/4方向是指沿右下45度方向，-π/4方向是指沿右上45度方向，3π/4方向是指沿左下45度方向。当纹理类别Class等于2，待估计PU的纹理方向特性根据SAD_MIN-0和SAD_MIN-1的值是否为SAD_LU、SAD_U、SAD_RU、SAD_L和SAD_LB中相邻方向的两个SAD值来判别待估计PU的纹理方向特性：(a)如果SAD_LU等于SAD_MIN-0且SAD_U等于SAD_MIN-1，或者SAD_LU等于SAD_MIN-1且SAD_U等于SAD_MIN-0，则将纹理方向特性记为纹理呈[π/4,π/2]方向；(b)如果SAD_U等于SAD_MIN-0且SAD_RU等于SAD_MIN-1，或者SAD_U等于SAD_MIN-1且SAD_RU等于SAD_MIN-0，则将纹理方向特性记为纹理呈[π/2,3π/4]方向；(c)如果SAD_LU等于SAD_MIN-0且SAD_L等于SAD_MIN-1，或者SAD_LU等于SAD_MIN-1且SAD_L等于SAD_MIN-0，则将纹理方向特性记为纹理呈[0,π/4]方向；(d)如果SAD_L等于SAD_MIN-0且SAD_LB等于SAD_MIN-1，或者SAD_L等于SAD_MIN-1且SAD_LB等于SAD_MIN-0，则将纹理方向特性记为纹理呈[-π/4,0]方向；(f)其它情况，则将纹理方向特性记为复杂纹理方向。当纹理类别Class等于3，待估计PU的纹理方向特性记为复杂纹理方向。

表1待估计PU纹理方向特性

步骤(4)具体包括：

根据待估计PU的纹理方向特性，减少候选的预测模式种类，调整后的预测模式组成预测模式的粗级模式搜索范围S，其中S中的预测模式是根据待估计PU的纹理方向特性来设置，如下表2所示：

表2 S中的预测模式

步骤(5)具体包括：

首先确定SATD代价模式搜索范围Ψ：如果从步骤(4)执行到当前步骤，则Ψ为步骤(4)得到的粗级模式搜索范围S与步骤(1)得到Ω的交集，如果从步骤(3)执行到当前步骤，则直接将Ω赋给Ψ。

然后计算Ψ中各个预测模式的HEVC帧内预测残差，再计算预测残差的SATD代价，如式(7)所示：

J＝SATD+λ×R (7)

其中J表示代价，SATD表示残差信号哈达玛变换后的绝对误差和，λ表示拉格朗日算子，R表示模式选择后编码所需要的比特数。

接着按照SATD代价J从小到大的顺序对各个预测模式进行排序，再根据排序后的预测模式建立率失真优化候选模式集合Φ：当排列在第1位的预测模式为DC模式或Planar模式，则只将排列前1位的预测模式加入Φ；当排列在第1位的预测模式为角度模式且第2位的预测模式为DC模式或Planar模式，则只将排列前2位的预测模式加入Φ；当排列在前2位的预测模式都为相邻的角度模式，则只将排列前2位的预测模式加入Φ；当排列在前2位的预测模式为不相邻的角度模式，则先将排列前2位的预测模式加入Φ，再将该2种预测模式相邻的角度模式加入Φ；在其它情况下，对于尺寸为16×16、32×32和64×64的待估计PU，则将排列前3位的预测模式加入Φ，对于尺寸为4×4和8×8的待估计PU，则将排列前8位的预测模式加入Φ。

步骤(6)具体包括：

采用率失真优化技术从步骤(5)得到的候选模式集合Φ中选取率失真代价最小的候选模式作为待估计PU的最佳帧内预测模式，完成待估计PU的帧内预测模式选择。