一种SCC帧间编码单元备选预测模式缩减方法与流程

本发明涉及屏幕内容编码(Screen Content Coding，SCC)领域，特别涉及SCC帧间编码单元备选预测模式范围的缩减。

背景技术：
：

随着视频会议、远程桌面控制等应用越来越广泛，人们对于带有文字图表的图像等屏幕视频的需求越来越大，新一代视频压缩编码标准——高效视频编码技术(High Efficiency Video Coding，HEVC)对摄像机拍摄的自然图像视频达到了很好的压缩效果，但是对于屏幕内容视频来说编码效果并不是很理想，这是因为屏幕视频有着不同于自然视频的特点，例如色调不连续、文字或图形边缘非常锐利、没有可捕获的噪声、局部块颜色数量有限等。目前基于HEVC视频压缩编码标准的SCC的标准仍在完善中，但是SCC依旧是基于HEVC的框架，沿用了HEVC编码标准所采用的四叉树结构的编码单元划分方式，编码单元(Coding Unit，CU)的大小为64x64、32x32、16x16和8x8，分别对应CU深度层次为0、1、2、3。其中深度为0的CU记为LCU(Largest Coding Unit)。每个CU通过计算率失真代价(Rate Distortion Cost，RD_Cost)得出最优预测模式。SCC为了提高编码效率，在沿用原有技术的基础上添加了调色板(Palette)模式、帧内块复制(Intra Block Copy，IntraBC)、自适应颜色变换、基于Hash的帧间搜索、自适应运动矢量分辨率决定等技术。具体参见文献1(JCTVC-U1014,R.Joshi,S.Liu,J.Xu,Y.Ye,"Screen content coding test model 5,"Warsaw,Poland,June 2015.)。

新技术的引入改变了LCU的不同深度层次的预测模式选择流程。在SCC参考软件平台(SCM5.4)中，当CU深度为0时，首先使用基于Hash的帧间搜索模式，如果Hash匹配成功，只需要检测Skip模式，然后结束当前LCU编码；如果没有匹配成功，则分别检测Inter2Nx2N以及Skip模式，然后判断Skip模式提前检测(Early Skip Detection，ESD)是否为真。如果ESD为真，则跳过帧间分割预测模式(包括Inter2NxN、InterNx2N、Inter2NxnU、Inter2NxnD、InternRx2N、InternLx2N模式)以及帧内预测模式(包括IntraBC、Intra、IntraCSC、IntraBCMerge、Palette模式)，如果ESD为假，则依序检测所有帧间分割预测模式、以及Intra、IntraCSC、IntraBCMerge三种帧内预测模式。当CU深度为1、2时，依次检测基于Hash的帧间搜索模式、Inter2Nx2N和Skip模式，然后判断ESD。如果ESD为真，则跳过所有帧间分割预测模式以及帧内预测模式；如果ESD为假，则依序检测所有帧间分割预测模式和帧内预测模式。当CU深度为3时，依次检测基于Hash的帧间搜索模式、Inter2Nx2N和Skip模式，然后判断ESD。如果ESD为真，则跳过帧间分割预测模式以及所有帧内预测模式；如果ESD为假，则依序检测所有帧内预测模式。然后依照率失真优化(Rate Distortion Optimization，RDO)准则选取最优的CU深度和模式，结束当前LCU编码，对下一个LCU进行编码。相比较于CU深度0和3，CU深度为1和2时，当ESD为假时，所有帧间分割预测模式以及帧内预测模式都需要被检测，因此复杂度相对较高。本发明正是针对此种情况进行备选预测模式的缩减，以减少SCC编码复杂度。

技术实现要素：

本发明目的在于克服现有技术不足，为此，本发明给出的技术方案为：

一种SCC帧间编码单元备选预测模式缩减方法，其特征在于，包括以下步骤：

(1)对于深度为0或3的CU，按照SCM5.4标准流程检测所有模式，并用RDO准则确定最优模式。对于深度为0的CU，如果使用基于Hash帧间搜索匹配成功，则结束当前LCU编码，编码下一个LCU；如果匹配失败，则编码下一层CU。对于深度为3的CU，递归寻找最优模式和深度，结束当前LCU编码，编码下一个LCU。

(2)对于深度为1或2的CU，首先依序检测基于Hash的帧间搜索、Inter2Nx2N、Skip三种模式，然后得到ESD的结果，如果ESD值为1，则用RDO准则确定最优模式，然后编码下一层CU；如果ESD为0，则检测Palette模式，然后比较Palette、Inter2Nx2N、Skip三种模式的RD_Cost，得到三种模式的最优模式，并用Flag12表示Palette是否为三种模式中的最优模式，并按照公式(1)判断Flag12，如果Flag12为1，则直接跳过帧间分割预测模式，按照SCM5.4标准流程检测除Palette模式以外的帧内搜索模式，否则按照SCM5.4标准流程检测除Palette以外其他模式，并用RDO准则确定最优模式，然后编码下一层的CU。公式(1)中的三种模式指Palette、Inter2Nx2N和Skip这三种模式。

采用上述方案，本发明的有益效果是：

1.本发明利用了SCC的CU模式分布以及Palette模式的特点，对不同深度的CU模式分布进行统计分析，并采取有效的预测方式缩减备选预测模式范围以保证预测的正确率，从而避免没有必要的模式搜索过程。

2.本发明综合考虑了SCC视频序列的特性，可以有效地缩减预测CU候选模式，从而可以在几乎不损失编码质量的情况下，显著提高SCC帧间编码效率。

附图说明

图1是在不同QP下CU深度为0和1时，SCM5.4版本中各模式所占的百分比。

图2是本发明所制定的SCC帧间编码单元备选预测模式缩减方法的流程图。

图3是本发明的实验结果。

具体实施方式

本发明提供一种SCC帧间编码单元备选预测模式缩减方法。考虑到如果ESD被判定为真，则会跳过帧间分割预测模式以及帧内预测模式的搜索，而且Palette模式在CU深度为0时不检测，而帧间分割预测模式在CU深度为3时不检测，故本发明主要通过利用ESD的判断情况以及Skip、Inter2Nx2N和Palette的RD_Cost的比较结果缩减CU深度为1和2的预测模式进行缩减。

本发明首先统计了SCM5.4中不同量化参数(Quantization Parameter，QP)下多个序列在CU深度为1和2时，各层最优模式所占的百分比，具体统计结果参见图1，图中的简写分别代表不同预测模式：M1(Intra)、M2(IntraCSC)、M3(IntraBC)、M4(IntraBCMerge)、M5(Palette)、M6(Inter2Nx2N)、M7(Inter2NxN)、M8(InterNx2N)、M9(Inter2NxnU)、M10(Inter2NxnD)、M11(InternRx2N)、M12(InternLx2N)、M13(Skip)。我们综合了CU深度为1和2的两层统计结果，从统计结果中可以看出，其中最优模式所占比例最高的是Skip模式，约占62.09％，其次就是Palette模式，约占15.74％。最优模式所占比例排在第三位的是Inter2Nx2N，约占5.26％。基于上面的分析结果，本发明的提出的解决方案是：对于深度为1和2的CU，首先获取ESD的判断情况，如果ESD为假，则提前预测Palette模式，并比较Palette、Skip和Inter2Nx2N的RD_Cost，如果Palette模式的RD_Cost最小，则跳过帧间分割预测模式的搜索，直接利用RDO检测除Palette以外的帧内预测模式；否则如果ESD为真，则编码下一层CU。

以下结合附图2所示流程图对本发明作进一步的说明。

步骤1：基于SCC通用的测试平台SCM5.4，对于一个编码单元，判断其深度。如果深度为1或2，转步骤2。如果深度为0或3，转步骤3。

步骤2：对于深度为1和2的CU，依序检测基于Hash的帧间搜索、Inter2Nx2N、Skip模式，得到使用Skip模式预测后得到的提前Skip检测结果ESD。

步骤2.1：如果ESD为1，则用RDO准则确定最优模式，然后转步骤4。

步骤2.2：如果ESD为0，则检测Palette模式，比较Palette、Inter2Nx2N、Skip三种模式的RD_Cost，使用公式(1)计算Flag12。

步骤2.21：如果Flag12为1，则直接跳过帧间分割预测模式，按照SCM5.4标准流程检测除Palette以外的其他帧内预测模式，并用RDO准则确定最优模式，然后转步骤4。

步骤2.22：如果Flag12为0，则按照SCM5.4标准流程检测除Palette模式以外的其他模式，并用RDO准则确定最优模式，然后转步骤4。

步骤3：对于深度为0和3的CU，按照SCM5.4标准流程检测所有模式，并用RDO准则确定最优模式，如果CU深度为0，判断使用基于Hash的帧间搜索是否匹配成功，如果匹配成功，转步骤5，如果匹配失败，转步骤4；如果CU深度为3，递归寻找最优模式和深度，转步骤5。

步骤4：编码下一层CU。

步骤5：当前LCU编码结束。