专利名称：：一种帧内预测模式的选择方法及装置的制作方法
技术领域：
：本发明涉及视频编码技术，具体地说涉及一种帧内预测模式的选择方法及装置。
背景技术：
：在H.264、AVS(AdvancedVideoandaudioStandard,先进音视频编码标准)等标准中，帧内预测是提高压縮效率的一个重要的技术，即在编码过程中，对于视频图像中当前要编码的某一个区域(通常为一矩形块)，在视频图像中搜索与其最相近似的、且已经编码的块，用该最相近似的块来预测当前要编码的块。而对于彩色视频图像，每帧视频图像中还包括亮度分量帧和色度分量帧，现有的AVS-M标准的亮度块帧内预测模式参见图1及表1所示，其包括9种帧内预测模式，即Intra—Luma_Down_Left(左余斗下)、Intra_Luma—Vertical—Left(垂直偏左)、Intra—Luma—Vertical(垂直)、Intra—L丽—Vertical—Right(垂直偏右)、Intra—Luma—Down—Right(右余斗下)、Intra—Luma—Horizontal—Down(7夂平偏下)、Intra_Luma_Horizontal(7jC平)、Intra—Luma—Horizontal—Up(7_R平偏上)、Intra—Luma—DC(直流)。帧内预测应当从中选取出最佳预测模式，H.264以及AVS等压縮标准的现有做法是从08九种模式中依次得到每种模式的预测像素值并计算代价，即cost函数值，比较得到代价最小者作为最佳预测模式。然而，这九种模式发生的概率不是相等的，且每次找到最佳模式时需要遍历这九种模式，因此经常耗费一些不必要的时间。此外，现有技术是在DCT、量化之后检测该块是否为全零块，即该块中的各像素值为0;如果是全零块则在cbp一4x4[b8]的相应位标记为0，否则标记为l。但有些全零块在DCT、量化之前就可以检测到，没有必要做DCT、量化，反量化、IDCT。表1<table>tableseeoriginaldocumentpage6</column></row><table><table>tableseeoriginaldocumentpage7</column></row><table>
发明内容有鉴于现有技术中的上述缺陷，本发明所要解决的技术问题是提供一种不必遍历九种模式就可以找到最佳模式的帧内预测模式的选择方法及装置，从而在不影响压縮质量的条件下，降低运算复杂度。为了解决上述技术问题，本发明的帧内预测模式的选择方法，包含如下步骤A、确立不同最有可能预测模式下各预测模式的顺序关系；B、为待预测图像块选取参考图像块；根据参考图像块得到待预测图像块的最有可能预测模式；C、根据步骤A中所述顺序关系，获得步骤B中得到的最有可能预测模式对应的各预测模式的顺序，按该顺序遍历各预测模式；每历经一预测模式，计算该预测模式下的cost函数值，当该cost函数值小于预设的cost函数阈值时，设定最小cost函数值等于该cost函数值，并以当前预测模式为最佳预测模式，当前块为全零块，完成帧内预测，结束；否则，当该cost函数值大于等于预设的COSt函数阈值时，转入下一步；D、当上述cost函数值小于所述最小cost函数值时，设定最小cost函数值等于该cost函数值，设定最佳预测模式为当前预测模式；E、判断预测模式是否遍历结束，如是，以步骤D中确定的最佳预测模式完成帧内预测，结束；否则，返回步骤C。其中，所述cost函数阈值选取自cost函数阈值表Tcost[qb]，所述cost函数阈值表Tcost[qb]的维数qb代表量化参数，各维数下的表值代表该维数对应的量化参数下的cost函数阈值。所述cost函数阈值表Tcost[qb]具体为Tcost[64]=2,2，2，2，3，3，3，4，4，4,5，6,7，8，8，9，10,11，12，13，15,16，17,19,21,23,25,27，30，32，35,39，42,46，50,55，60,65,71,78,85，93，101，110,120，131，143，156，170,185，203,221,241，263，287,313,341，371,406,443,482,526,574,624所述不同最有可能预测模式下各预测模式的顺序关系按照不同最有可能预测模式下最佳预测模式概率分布从大到小的顺序进行排序确立，该顺序关系被存储于最有可能模式一最佳模式矩阵中。所述最有可能模式一最佳模式矩阵具体为most—to—best—mode[9][9]={0，6,5，4，3,1,2，7，8}，{1,3,6，0，2,5,4,7，8},{2,6,5，0,7,4，3，1,8},{3,2,1,4,6,5,0,7,8},{4,1,7,6,0,2,3,5,8},{5，1,7,6，3，0，2，4，8},{6,1，2，5，4,0，'7,3,8},{7,1,5,3,4,6,0，2，8}，{8,6,7,2,1,5,3,4,0}};其中，矩阵列代表最有可能预测模式，矩阵行代表最佳预测模式。所述的帧内预测模式的选择方法，所述参考图像块为待预测图像块的相邻左方图像块和相邻上方图像块b本发明的帧内预测模式的选择装置，包含映射单元，用于确立不同最有可能预测模式下各预测模式的顺序关系；最有可能预测模式获取单元，用于为待预测图像块选取参考图像块并根据参考图像块得到待预测图像块的最有可能预测模式；预测模式遍历单元，用于根据上述最有可能预测模式获取单元获取的最有可能预测模式及上述映射单元中该最有可能预测模式对应的各预测模式的顺序关系，遍历各预测模式，每历经一预测模式，计算该预测模式下的cost函数值；比较预测单元，用于将预测模式遍历单元计算出的cost函数值与预设的cost函数阈值进行比较，当该cost函数值小于预设的cost函数阈值时，设定最小cost函数值等于该cost函数值，并以当前预测模式为最佳预测模式，当前块为全零块，完成帧内预测；判断设定单元，用于当该cost函数值大于等于预设的cost函数阈值时，判断cost函数值是否小于所述最小cost函数值，如果上述cost函数值小于所述最小cost函数值，则设定最小cost函数值等于该cost函数值，设定最佳预测模式为当前预测模式；以及判断预测单元，用于判断预测模式是否遍历结束，如是，以判断设定单元设定的最佳预测模式完成帧内预测；否则，控制预测模式遍历单元继续遍历。所述的帧内预测模式的选择装置，所述cost函数阈值选取自cost函数阈值表Tcost[qb]，所述cost函数阈值表Tcost[qb]的维数qb代表量化参数，各维数下的表值代表该维数对应的量化参数下的cost函数阈值，所述cost函数阈值表Tcost[qb]具体为Tcost[64]=2,2，2,2，3，3，3，4，4,4,5,6，7，8,8，9，10,11,12,13，15，16,17，19,21,23，25，27，30,32，35,39,42，46,50，55,60，65,71，78，85,93,101,110，120,131,143，156,170，185,203，221，241，263,287,313,341,371，406,443，482，526,574,624所述的帧内预测模式的选择装置，所述不同最有可能预测模式下各预测模式的顺序关系是按照不同最有可能预测模式下最佳预测模式概率分布从大到小的顺序进行排序确立的，该顺序关系构成为最有可能模式一最佳模式矩阵。所述最有可能模式—最佳模式矩阵具体为most—to—best—mode[9][9]={0,6,5，4，3,1,2，7,8}，U，3，6，0，2,5,4,7，8}，{2，6，5,0，7,4，3，1，8}，{3，2，1,4，6,5,0,7，8},{4,1，7，6，0，2,3，5，8},{5,1，7,6,3,()，2，4，8},{6,1,2,5,4，0，7,3,8},{7，1，5，3,4,6，0,2,8}，{8，6,7,2，1,5,3，4，0}};其中，矩阵列代表最有可能预测模式，矩阵行代表最佳预测模式。本发明通过确立不同最有可能模式下的各预测模式的顺序关系和设定cost函数阈值，在这样的设置下，有很大的几率在前几个模式找到最佳模式，同时避免对全零块做DCT变换、量化、反量化、反变换，降低了运算复杂度，提高了帧内预测模式的最佳预测模式的选择速度。图1是现有技术中亮度块的9种帧内预测模式示意图；图2是本发明具体实施方式的快速选择方法的流程图；图3是本发明具体实施方式的帧内预测模式的选择装置结构图。具体实施例方式下面对照附图，结合具体实施方式对本发明进行详细说明。参看图2，在AVS-M标准中，亮度块通常采用4X4的模式。本发明的帧内预测模式的选择方法首先为待预测图像块选择参考图像块，在通常的情况下，参考图像块都选取相邻上方图像块和相邻左方图像块，然后根据AVS-M的标准规定，由相邻上方图像块和相邻左方图像块的模式则可以得到待预测图像块的最有可能预测模式mostProbableMode。本发明以国际通用的4个图像标准序列(分别为CIF格式的bm一cif.yuv，football一cif,yuv,foreman—cif.yuv，mobile一cif.yuv)为基准，采用统计等方法，统计在最有可能预测模式mostProbableMode—定的条件下，不同块选取最佳预测模式的概率分布，以此概率分布关系建立最有可能一最佳模式矩阵，该矩阵的具体形式为most—to—best一mode[9][9]={0,6,5,4，3,1,2，7，8}，{1，3，6,0，2,5，4,7,8},{2，6，5,0，7,4，3,1，8},P,2,1,4，6,5,0，7，8}，{4,1，7，6，0,2,3,5,8}，{5,1,7，6,3,0,2,4，8}，{6，1,2,5,4,0,7,3，8},{7,1,5,3,4,6，0，2，8}，{8,6,7，2,1,5,3,4,0}};其中矩阵从第一列到第九列代表了最有可能预测模式从0到8，矩阵行则反映了不同最有可能预测模式下的最佳预测模式的概率分布。该矩阵不限于任何值。只要采用类似的矩阵来完成对模式的排序，都属于本发明保护范围。针对不同的标准，本发明的方法可以得出不同的矩阵。最有可能预测模式mostProbableMode—定的条件就是指在同一个最有可能预测模式的条件下，不同块(上述通用图像标准序列中，每个序列有300帧图像，每帧图像如CIF格式的有88x72=6336个块)选取的最佳预测模式不同，通过统计4个国际通用的图像标准序列，可以得出他们选取最佳模式的概率分布，概率分布即为最佳模式分别为0,1，2,3，4，5，6，7，8时的块数目，例如上述矩阵第一行反映了在最有可能预测模式mostProbableMode取0时，按取得最佳模式的块数从多到少的顺序排列的各预测模式依次是0，6,5，4,3，1，2,7,8。也就是说，最有可能预测模式一最佳矩阵反映了不同最有可能预测模式下各预测模式按最佳模式的概率分布排列的顺序关系。同样利用上述的图像标准序列，采用统计等方法，统计出在量化参数qp—定的条件下，COSt=k的条件下零块概率Pk(zeroblocklcost-k)，可以得到cost函数阈值表Tcost[qb]:Tcost[64]=10,11,12，13，15，16,17,19,21,23,25，27,30，32，35，39，42，46，50，55,60,65，71，78,85,93，101，110，120,131，143，156，170，185，203,221,241,263,287,313，341,371，406,443，482，526,574，624}。上述cost函数阈值表Tcost[64]实际上表示一维矩阵，通过设置该阈值矩阵，一旦cost函数值小于对应阈值，即可提前而不会显著影响压縮效率。该矩阵不限于任何值。只要采用类似的矩阵来完成对模式的提前终止，都属于本发明保护范围。针对不同的标准，本发明的方法可以得出不同的矩阵。cost函数阈值矩阵的维数代表着量化参数qb，64维即量化参数从0到63。各表值反映了在当前维数对应的量化参数下，当cost函数值小于该表值时，待预测图像块为全零块。例如首行首列中的数值2表示的是量化参数qb取0时，这样，我们可以选择合适的量化参数，例如qb=40，然后以该值对应的Tcost值，即85作为cost函数阈值。由此，进行帧内预测1、根据上块和左块模式确定当前块的最有可能预测模式；2、根据最有可能模式一最佳模式矩阵，按该最有可能预测模式下的各预测模式顺序关系选择一预测模式作为当前预测模式；3、根据当前预测模式预测出当前块的像素值；4、计算出COSt函数值；COSt函数值例如可以采用如下公式计算其中，0(mode=mostProbableMode)3x/amMa(gp)(mode#mostProbableMode)Lambda由査表得到:/,Wa(—=QP2QUANT[qp];QP2QUANT[64]=1,1，1，1,1，2,2,2，2，2，2,3,3,3,3，4，4,4，5,6,6，7,7,8，9，10,10，11,12,13，15,16,17,19，21,23,25,27,29，32，35,38，41,45,49,54，59，64，70，76，83,91，99，108,117,128,140,152,166,181,197,215,235,sad通过下式得到<formula>formulaseeoriginaldocumentpage13</formula>附=0ra=0在AVS中，M=N=3，AO,w)表示当前块中的(m,n)像素值，/^(w+/,w+y)表示预测块的对应像素点的值。5、将cost函数值与前述设定的cost函数阈值进行比较，当cost函数值小于COSt函数阈值时，进行步骤6;否则，跳转至步骤7;6、设定最小cost函数值mincost等于该cost函数值，并以当前预测模式为最佳预测模式，当前块为全零块，以最佳模式的预测像素值为当前模式预测像素值，帧内预测的重构值为最佳模式的预测像素值，结束；7、比较cost函数值与最小cost函数值mincost，如果cost函数值小于最小cost函数值mincost，进行步骤8;否则，跳转至步骤9;8、令最小cost函数值mincost等于该cost函数值，最佳预测模式为当前模式，进行下一步；9、按最有可能模式一最佳模式矩阵中该最有可能预测模式下的各预测模式的顺序关系，选择当前预测模式下的下一预测模式，即对最有可能模式一最佳模式矩阵中该最有可能预测模式下的各个预测模式进行遍历，如果没有遍历完各预测模式，则返回到步骤2继续遍历否则，进行下一步;10、以步骤8中确定的预测模式为最佳预测模式，进行dct、量化，反量化、idct，重构，完成帧内预测。如图3所示，本发明还公开了一种帧内预测模式的选择装置，包含映射单元，用于确立不同最有可能预测模式下各预测模式的顺序关系；最有可能预测模式获取单元，用于为待预测图像块选取参考图像块并根据参考图像块得到待预测图像块的最有可能预测模式；预测模式遍历单元，用于根据上述最有可能预测模式获取单元获取的最有可能预测模式及上述映射单元中该最有可能预测模式对应的各预测模式的顺序关系，遍历各预测模式，每历经一预测模式，计算该预测模式下的COSt函数值；比较预测单元，用于将预测模式遍历单元计算出的cost函数值与预设的cost函数阈值进行比较，当该cost函数值小于预设的cost函数阈值时，设定最小cost函数值等于该cost函数值，并以当前预测模式为最佳预测模式，当前块为全零块，完成帧内预测；判断设定单元，用于当该cost函数值大于等于预设的cost函数阈值时，判断cost函数值是否小于所述最小cost函数值，如果上述cost函数值小于所述最小cost函数值，则设定最小cost函数值等于该cost函数值，设定最佳预测模式为当前预测模式；以及判断预测单元，用于判断预测模式是否遍历结束，如是，以判断设定单元设定的最佳预测模式完成帧内预测；否则，控制预测模式遍历单元继续遍历。所述选择装置按照前述本发明的选择方法进行操作，不再赘述。本发明由于模式循环次序按条件概率重新排序及给出循环提前终止的阈值Tcost[qp]，在这样的设置下，每次选择预测模式时优先选择最佳预测模式可能性最大的预测模式，有很大的几率在前几个模式找到最佳模式跳出循环，同时避免对全零块做DCT变换、量化、反量化、反变换，降低了运算复杂度，提高了帧内预测模式的最佳预测模式的选择速度。上述说明以AVS-M为例，可以理解，本发明保护不仅限于AVS-M,同样适用于其它任何采用帧内预测的算法以上内容是结合具体的优选实施方式对本发明所作的进一步详细说明，不能认定本发明的具体实施只局限于这些说明。对于本发明所属
技术领域：
的普通技术人员来说，在不脱离本发明的前提下，还可以做出若干简单推演或替换，都应当视为属于本发明的保护范围。权利要求1.一种帧内预测模式的选择方法，其特征在于，包含如下步骤A、确立不同最有可能预测模式下各预测模式的顺序关系；B、为待预测图像块选取参考图像块；根据参考图像块得到待预测图像块的最有可能预测模式；C、根据步骤A中所述顺序关系，获得步骤B中得到的最有可能预测模式对应的各预测模式的顺序，按该顺序遍历各预测模式；每历经一预测模式，计算该预测模式下的cost函数值，当该cost函数值小于预设的cost函数阈值时，设定最小cost函数值等于该cost函数值，并以当前预测模式为最佳预测模式，当前块为全零块，完成帧内预测，结束；否则，当该cost函数值大于等于预设的cost函数阈值时，转入下一步；D、当上述cost函数值小于所述最小cost函数值时，设定最小cost函数值等于该cost函数值，设定最佳预测模式为当前预测模式；E、判断预测模式是否遍历结束，如是，以步骤D中确定的最佳预测模式完成帧内预测，结束；否则，返回步骤C。2.根据权利要求l所述的帧内预测模式的选择方法，其特征在于，所述cost函数阈值选取自cost函数阈值表Tcost[qb]，所述cost函数阈值表Tcost[qb]的维数qb代表量化参数，各维数下的表值代表该维数对应的量化参数下的cost函数阈值。3.根据权利要求2所述的帧内预测模式的选择方法，其特征在于，所述cost函数阈值表Tcost[qb]具体为Tcost[64]=<formula>seeoriginaldocumentpage2</formula>}。4.根据权利要求1所述的帧内预测模式的选择方法，其特征在于，所述不同最有可能预测模式下各预测模式的顺序关系按照不同最有可能预测模式下最佳预测模式概率分布从大到小的顺序进行排序确立，该顺序关系被存储于最有可能模式一最佳模式矩阵中。5.根据权利要求4所述的帧内预测模式的选择方法，其特征在于，所述最有可能模式一最佳模式矩阵，具体为most—to—best—mode[9][9]={0，6,5，4，3，1，2,7，8},{1，3,6,0，2,5,4，7，8},{2,6,5,0，7，4,3，1,8},{3，2，1,4,6,5,0,7，8},{4，1,7,6,0,2,3,5,8},{5，1,7，6,3,0，2,4,8},{6，1，2,5，4,0,7,3，8}，{1,5，3,4,6,0，2，8},{8,6,7，2，1,5，3，4，0}};其中，矩阵列代表最有可能预测模式，矩阵行代表最佳预测模式。6.根据权利要求1至5任一项所述的帧内预测模式的选择方法，其特征在于，所述参考图像块为待预测图像块的相邻左方图像块和相邻上方图像块。7.—种帧内预测模式的选择装置，其特征在于，包含映射单元，用于确立不同最有可能预测模式下各预测模式的顺序关系；最有可能预测模式获取单元，用于为待预测图像块选取参考图像块并根据参考图像块得到待预测图像块的最有可能预测模式；预测模式遍历单元，用于根据上述最有可能预测模式获取单元获取的最有可能预测模式及上述映射单元中该最有可能预测模式对应的各预测模式的顺序关系，遍历各预测模式，每历经一预测模式，计算该预测模式下的COSt函数值；比较预测单元，用于将预测模式遍历单元计算出的cost函数值与预设的cost函数阈值进行比较，当该cost函数值小于预设的cost函数阈值时，设定最小cost函数值等于该cost函数值，并以当前预测模式为最佳预测模式，当前块为全零块，完成帧内预测；判断设定单元，用于当该cost函数值大于等于预设的cost函数阈值时，判断cost函数值是否小于所述最小cost函数值，如果上述cost函数值小于所述最小cost函数值，则设定最小cost函数值等于该cost函数值，设定最佳预测模式为当前预测模式；以及判断预测单元，用于判断预测模式是否遍历结束，如是，以判断设定单元设定的最佳预测模式完成帧内预测；否则，控制预测模式遍历单元继续遍历。8.根据权利要求7所述的帧内预测模式的选择装置，其特征在于，所述cost函数阈值选取自cost函数阈值表’l~cost[qb]，所述cost函数阈值表’rcost[qb]的维数qb代表量化参数，各维数下的表值代表该维数对应的量化参数下的cost函数阈值，所述cost函数阈值表‘Tcost[qb]具体为1"cost[64]={2，2，2，2，3，3，3，4，4，4，5，6，7，8，8，9，lO，11，12，13，15，16，17，l9，21，23，25，27，30，32，35，39，42，46，50，55，60，65，71，78，85，93，101，110，120，131，143，156，170，185，203，221，241，263，287，313，341，371，406，443，482，526，574，624)。9.根据权利要求7所述的帧内预测模式的选择装置，其特征在于，所述不同最有可能预测模式下各预测模式的顺序关系是按照不同最有可能预测模式下最佳预测模式概率分布从大到小的顺序进行排序确立的，该顺序关系构成为最有可能模式一最佳模式矩阵。10.根据权利要求9所述的帧内预测模式的选择装置，其特征在于，所述最有可能模式一最佳模式矩阵具体为mostjtbest—mode[9][9]={{O，6，5，4，3，1，2，7，8}，{1,3,6，0,2,5,4,7,8},{2,6，5，0,7,4,3,1，8},{3,2,1,4,6,5,0,7，8},{4,1,7，6，0，2,3，5,8},{5,1，7，6,3，0,2，4,8}，{6，1,2,5,4，0,7,3，8}，{7,1,5，3,4,6，0,2，8}，{8,6,7,2，1，5,3，4,0}};其中，矩阵列代表最有可能预测模式，矩阵行代表最佳预测模式。全文摘要本发明公开了一种帧内预测模式的选择方法及装置，该方法包含如下步骤A.确立不同最有可能预测模式下各预测模式的顺序关系；B.为待预测图像块选取参考图像块；根据参考图像块得到待预测图像块的最有可能预测模式；C.根据所述顺序关系遍历各预测模式；每历经一预测模式，计算该预测模式下的cost函数值，当该cost函数值小于预设的cost函数阈值时，设定最小cost函数值等于该cost函数值，并以当前预测模式为最佳预测模式，当前块为全零块，完成帧内预测，结束。本发明在不影响压缩质量的条件下，大大降低了帧内预测的运算复杂度。文档编号H04N7/32GK101202915SQ20071012490公开日2008年6月18日申请日期2007年12月6日优先权日2007年12月6日发明者王学敏,袁誉乐,勇赵申请人:北京大学深圳研究生院