一种基于备选模式列表优化的帧内编码方法
【专利说明】一种基于备选模式列表优化的巾贞内编码方法 【技术领域】
[0001] 本发明涉及视频信号处理方法技术领域，特别是涉及一种基于备选模式列表优化 的帧内编码方法。 【【背景技术】】
[0002] 随着科学技术的不断发展，人类社会将进入全新的大数据时代。对视频而言，其分 辨率从176X 144逐渐增大到4kX 2k，甚至是8kX4k。与低分辨率视频相比，高分辨率视 频可以给人类提供更大的视觉享受。然而，目前最成熟的新一代视频编码标准H.264/AVC (H. 264/Advanced Video Coding)不能对高分辨率视频进行有效的压缩，因此在2010年4 月，国际电信联盟视频编码专家组（Video Coding Expert Group, VCEG)和国际标准化组织 /国际电工委员会运动图像专家组（Motion Picture Expert Group,MPEG)组成视频编码联 合协作组（Joint Collaborative Team on Video Coding，JCT-VC)研究下一代高效视频编 码标准（High Efficiency Video Coding, HEVC)。高效视频编码标准HEVC的目标是在新一 代视频编码标准H. 264/AVC的基础上，进一步提高视频的压缩效率，特别是高分辨率的视 频序列。
[0003] 高效视频编码标准HEVC帧内编码过程中采用了更加灵活的块结构。该技术可以 通过全遍历的方式针对不同复杂度的视频内容灵活地选择编码单元⑶（Coding Unit)、预 测单元PU (Prediction Unit)、变换单元TU (Transform Unit)和预测模式最优的组合方 式，从而获得更高的压缩效率，但是这种技术也大大增加了编码的复杂度。对应于每种预测 模式需要执行率失真优化（Rate Distortion Optimization, RD0)，以遍历的方式计算各预 测模式编码当前预测单元PU的代价并比较率失真代价值，具有最小率失真代价的预测模 式成为最佳预测模式。虽然增加帧内预测模式的数目有助于提高预测单元PU内像素的预 测精度，但是这种遍历搜索方式、众多预测模式以及每个模式下率失真代价计算极高的计 算复杂度综合导致整个帧内编码复杂度极高，不利于实时性视频压缩应用。另外，备选模式 列表（Candidate Mode List，CML)中不同位置的模式成为最佳预测模式的概率存在明显差 异，以及同一位置不同模式成为最佳预测模式的概率也存在明显差异，但现有模式选择方 法中，没有或者没有有效利用这一特性，进一步减少最终执行率失真优化RDO的备选模式 列表CML中模式的数目。
[0004] 鉴于此，可知现有技术未能充分降低高效视频编码标准HEVC帧内编码过程复杂 度。 【
【发明内容】
】
[0005] 本发明提供一种解决高效视频编码标准HEVC中帧内编码过程复杂度过高问题的 基于备选模式列表优化的巾贞内编码方法。
[0006] 本发明采用如下技术方案：
[0007] -种基于备选模式列表优化的帧内编码方法，包括以下步骤：
[0008] 步骤A :得到最初的备选模式列表CML ;
[0009] 步骤B :重新确定与优化备选模式列表CML ;
[0010] 步骤C :对所述重新确定的备选模式列表CML中的模式逐一计算代价，将率失真代 价最小的备选模式选择为最佳巾贞内预测模式。
[0011] 进一步地，所述步骤A具体为：编码当前编码单元⑶的亮度编码块CB，利用当前 编码单元CU与周围已编码的编码单元CU信息，包括纹理复杂度信息、已编码单元CU的编 码预测模式、已编码单元CU和预测单元PU的尺寸与深度信息，从可选帧内预测模式选取可 能的最佳模式为备选模式，由此得到最初的备选模式列表CML ;
[0012] 所述步骤B具体为：根据备选模式列表CML中的帧内模式排序、模式属性以及编码 单元CU和预测单元PU的尺寸信息，重新确定与优化备选模式列表CML。
[0013] 进一步地，在所述步骤A中，通过如下步骤得到亮度编码块CB最初的备选模式列 表 CML :
[0014] 步骤S21 :使用粗略模式决定RMD方法，从35种帧内预测模式中选择N个具有最小 粗略模式决定代价RMD cost的模式，并按照从小到大的顺序排列，获得初步的备选模式列 表CML，其中N根据预测单元PU尺寸决定，当预测单元PU为64X 64, 32 X 32,16 X 16,8 X 8， 4X4时分别选择3, 3, 3,8,8 ;
[0015] 步骤S22 :将最可能模式MPM中不包含在备选模式列表CML中的模式添加到备选 模式列表CML中。
[0016] 进一步地，所述步骤B具体包括：
[0017] 若备选模式列表CML中第一个备选模式FCM属于最可能模式MPM，则备选模式列表 CML中所有模式仅保留集合A ;
[0018] 若备选模式列表CML中第一个备选模式FCM属于集合B，且当前预测单兀PU尺寸 大于MXM，则备选模式列表CML中所有模式仅保留集合C ;
[0019] 若备选模式列表CML中第一个备选模式FCM属于集合B，且当前预测单兀PU尺寸 小于等于MXM，则备选模式列表CML中所有模式仅保留集合E ;
[0020] 若备选模式列表CML中第一个备选模式FCM不属于集合F，则备选模式列表CML中 所有模式仅保留集合G。
[0021] 进一步地，所述集合A选择{:第一个备选模式FCM，第二个备选模式SCM}或者{:第 一个备选模式FCM，第二个备选模式SCM，第三个备选模式TCM}。
[0022] 进一步地，所述集合B选择{:直流模式DC，平面模式Planar}或者{:直流模式DC， 平面模式Planar，水平模式}，M选择8或者16，集合C选择{:直流模式DC，平面模式Planar} 或者{:直流模式DC，平面模式Planar，第二个备选模式SCM}。
[0023] 进一步地，所述集合B选择{:直流模式DC，平面模式Planar}或者{:直流模式DC， 平面模式Planar，水平模式}，M选择8或者16,集合E选择{:直流模式DC，平面模式Planar， 第二个备选模式SCM}或者{:直流模式DC，平面模式Planar，第二个备选模式SCM，第三个备 选模式TCM}。
[0024] 进一步地，集合F选择{:直流模式DC，平面模式Planar，最可能模式MPM}或者{:直 流模式DC，平面模式Planar，水平模式，最可能模式MPM}，集合G选择原始备选模式列表 CML中的所有模式或者原始备选模式列表CML中前N-I个模式。
[0025] 进一步地，在所述步骤C之后，还包括如下步骤：
[0026] 判断当前编码树单元CTU是否遍历完成，若未完成则返回执行步骤A，遍历下一个 编码块CB。
[0027] 与现有技术相比，本发明的有益效果在于：利用备选模式列表CML中不同位置的 模式成为最佳预测模式的概率差异，以及同一位置不同模式成为最佳预测模式的概率差 异，进一步减少需要执行率失真优化的备选模式列表CML中模式的数目，通过重新确定备 选模式列表CML进行帧内快速编码，从而在不降低编码后视频质量的前提下有效地降低了 帧内编码过程的复杂度。 【【附图说明】】
[0028] 图1是亮度预测块PB使用的33种预测方向的示意图；
[0029] 图2是本发明的基于备选模式列表优化的帧内编码方法流程图；
[0030] 图3是本发明的亮度编码块CB的帧内编码流程图；
[0031] 图4是本发明实施例一种基于备选模式列表优化的帧内编码方法的流程图；
[0032] 图5是本发明另一实施例一种基于备选模式列表优化的帧内编码方法的流程图；
[0033] 图6是本发明实施例的方法与原始高效视频编码标准HEVC编码平台、文献 φ Μ. Zhang, C. Zhao and J. Xu, "An Adaptive Fast Intra Mode Decision In HEVC, ''IEEE International Conference on Image Processing(ICI