专利名称：一种快速帧内预测算法的制作方法
技术领域：
本发明属于音视频编解码技术领域，具体涉及一种AVS1-P2的快速帧内预测算法。
背景技术：
AVS1-P2采用基于8X8像素块的帧内预测，亮度和色度帧内预测分别有4种和5 种模式，相邻已解码块在环路滤波前的重建像素值用作当前块的参考。帧内预测是AVS1-P2 编码器一个主要的耗时模块，因此优化帧内预测模块对提高编码速度是极其重要的。快速 帧内预测模式选择算法一直是视频编解码行业研究的热点。目前常用的提高帧内预测的方法有二种简化代价函数、缩小预测模式选择范围。 这两种提高帧内预测的方法的缺陷是预测过程比较复杂，编码时间长，因此对帧内预测模 块优化以提高编解码速度是提高帧内预测方法的当务之急。
发明内容
本发明的目的在于克服现有技术的缺陷，提供一种能够降低预测过程复杂度、节 省编码时间的快速帧内预测算法，本发明主要应用在采用AVS1-P2标准的视频编解码系 统。实现本发明目的的技术方案是一种快速帧内预测算法，包括以下步骤步骤1)计算宏块的一个8X8亮度块的SADavs(亮度块方向绝对误差函数) 步骤2)判决SADavs的大小，若SADavs小于T1，只需考虑DC模式；否则执行步骤3)；步骤3)若SADavs大于另一个阈值T2，则只需考虑方向模式，无需考虑DC模式；否 则DC模式和方向模式都要考虑，计算4个方向模式的Lumadiff (方向亮度差)，选取最小值 对应的模式记Directionmode ；步骤4)把M0DEup (上边块预测模式)、M0DElrft (下边块的预测模式)和步骤2)和 步骤3)获得的候选模式聚为最后的候选模式集合；步骤5)计算候选集合里各模式的RDCost，择取最小RDCost (率失真代价函数)对 应的模式为当前子块的最佳预测模式；步骤6)重复步骤1)至4)，获取当前宏块的所有子块的最佳帧内预测模式。作为本发明的进一步改进，本发明步骤1)中SADavs大小的采用如下算式MEAN咖二 Hpbcel(i,j) 6 其中，MEANavs为8X8子块的64个像素的平均值，Pixel(i，j)为当前8X8子块坐
3标为(i，j)的像素值。步骤2)和3)中当子块亮度变化缓慢时，最佳模式为DC模式的可能性就很大。为 了判决是否采用DC模式，首先计算8 X 8子块的SADavs，若SADavs小于阈值T1，则说明当前子 块的亮度变化缓慢，只需考虑DC模式；若SADavs大于另一个阈值T2，则只需考虑方向模式； 否则DC模式和方向模式都要考虑。作为本发明的进一步改进，本发明步骤3)方向模式判决，具体如下在AVS1-P2的帧内预测中，亮度块的5个帧内预测模式有4个是具有方向性的预 测模式，分别是模式0 (垂直)、模式1 (水平)、模式3 (左下)、模式4 (右下)。由统计可 知，大部分块的最佳预测方向和块内亮度变化最慢的方向相同或相近。把块内亮度变化最 慢的方向模式记为Direction^J方向最佳模式)。本发明采用像素抽样法判决方向最佳 模式，首先定义下面的算式 该式表示对应模式的差和，Pi和Qi表示图3中标号为i的两个点，只要适当地选 取像素点，就可以通过上式计算8X8子块四个方向变化快慢。Lumadiff越小，则对应模式 的方向上的像素越接近，成为方向最佳模式的可能性越大；Lumadiff越大，成为方向最佳模 式的可能性越小。为了获取方向最佳模式，需要计算4个方向模式的Lumadiff，其中最小的 Lumadiff 对应的模式ici为 Directionmode。本发明总结已有算法特点的基础上，对其进行改进，根据子块亮度变化的方向性 和邻块预测模式的相关性来预选候选模式，简单有效的降低了预测过程的复杂度，节省了 大量的编码时间，在不影响编码性能的情况下有效地提高了编码速度，适用于实时编码领 域。
图1全搜索流程图。图2本发明实施例1DC模式的判决流程图。图3垂直模式像素抽样模型。图4本发明实施例1快速帧内预测算法流程图。
具体实施例方式下面结合附图和实施例做进一步说明。如图1所示，全搜索流程如下步骤S101从四种色度预测模式中选择一种；步骤S102从宏块中选择一 8 X 8子块；步骤S103判断当前宏块的各子块是否遍历；步骤S104选择下一个未预测的子块；步骤S105计算该亮度子块的最佳预测模式；步骤S106计算当前宏块对应色度模式下的最佳模式组合。
4
如图2所示，DC模式的判决流程如下步骤S201计算宏块的一个8X8亮度块的SADavs，然后判决其大小；SADavs大小的 采用如下算式 其中，MEANavs为8X8子块的64个像素的平均值，Pixel(i，j)为当前8X8子块坐 标为(i，j)的像素值。步骤S202若SADavs小于T1，执行步骤S204，只需考虑DC模式，否则执行步骤 S203 ；步骤S203若SADavs大于另一个阈值T2，则执行步骤205只需考虑方向模式，无 需考虑DC模式；否则执行步骤206既考虑DC模式又考虑方向模式，计算4个方向模式的 Lumadiff，选取最小值对应的模式记为Directior^J方向最佳模式)；Lumadiff的算法为 步骤S207得到上述步骤S204、S205和S206的候选模式。如图3所示，垂直方向的抽象模型；通过该模型计算垂直模式的Lumadiff ；然后分别计算水平模式、左下模式以及右下模式的Lumadiff ；选择Lumadiff最小值对应的方向模式为该子块对应方向候选模式。如图4所示，一种快速帧内预测算法，包括以下步骤步骤S301选择一个8X8子块；步骤S301计算宏块的一个8X8亮度块的SADavs，然后判决其大小；步骤S303若SADavs小于T，执行步骤S305，只需考虑DC模式，否则执行步骤S304 ；步骤S304若SADavs大于另一个阈值T2，则执行步骤306，只需考虑方向模式，无 需考虑DC模式；否则执行步骤307，既考虑DC模式又考虑方向模式，计算4个方向模式的 Lumadiff，选取最小值对应的模式记为Directior^J方向最佳模式)；步骤S308把M0DEup、M0DEleft和步骤305、306、307获得的候选模式聚为最后的候 选模式集合；步骤S309计算候选集合里各模式的RDCost，择取最小RDCost对应的模式为当前 子块的最佳预测模式；步骤S310重复步骤S301至步骤S309，遍历该宏块所有8 X 8子块；步骤S311获取当前宏块的所有子块的最佳帧内预测模式。
权利要求
一种快速帧内预测算法，其特征是，该方法包括以下步骤步骤1)计算宏块的一个8×8亮度块的SADavs；步骤2)判决SADavs的大小，若SADavs小于T1，只需考虑DC模式；否则执行步骤3)；步骤3)若SADavs大于另一个阈值T2，则只需考虑方向模式，无需考虑DC模式；否则DC模式和方向模式都要考虑，计算4个方向模式的Lumadiff，选取最小值对应的模式记为Directionmode；步骤4)把MODEup、MODEleft和步骤2)和步骤3)获得的候选模式聚为最后的候选模式集合；1.步骤5)计算候选集合里各模式的RDCost，择取最小RDCost对应的模式为当前子块的最佳预测模式；步骤6)重复步骤1)至4)，获取当前宏块的所有子块的最佳帧内预测模式。
2.根据权利要求1所述的快速帧内预测算法，其特征是，所述步骤1)中SADavs大小的 采用如下算式 其中，MEANavs为8X8子块的64个像素的平均值，Pixel(i，j)为当前8X8子块坐标为 (i，j)的像素值。
3.根据权利要求1所述的快速帧内预测算法，其特征是，所述步骤Lumadiff的算法为
全文摘要
一种快速帧内预测算法，包括以下步骤步骤1)计算宏块的一个8×8亮度块的SADavs；步骤2)判决SADavs的大小，若SADavs小于T1，只需考虑DC模式；否则执行步骤3)；步骤3)若SADavs大于另一个阈值T2，则只需考虑方向模式，无需考虑DC模式；否则DC模式和方向模式都要考虑，计算4个方向模式的Lumadiff，选取最小值对应的模式记Directionmode；步骤4)把MODEup、MODEleft和步骤2)和步骤3)获得的候选模式聚为最后的候选模式集合；步骤5)计算候选集合里各模式的RDCost，择取最小RDCost对应的模式为当前子块的最佳预测模式；步骤6)重复步骤1)至4)，获取当前宏块的所有子块的最佳帧内预测模式。
文档编号H04N7/26GK101895761SQ20101024049
公开日2010年11月24日 申请日期2010年7月29日 优先权日2010年7月29日
发明者夏鹏, 宋雪桦, 陈丽莲, 陈景驻 申请人:江苏大学