专利名称：基于外极线约束的快速编码模式决策方法和系统的制作方法
技术领域：
本发明涉及立体视频或多路视频的压缩编码领域，尤其涉及一种基于外极线约束 的快速编码模式决策方法和系统。
背景技术：
视频压缩编码技术通过消除或减少数字视频中的冗余信息来减少存储或传输中 的数据量。近年来，随着立体电视(3DTV)和多视点或自由视点电视(Free View TV)的发 展，对立体视频(StereoscopicVideo)或多路视频(Multi View Video)编码技术的需求日 益增长。立体视频通常包括两个视图(View)，分别由空间上相邻的两个采集设备拍摄，用于 模拟人的双眼产生的左、右两个视图。而多路视频则包括但不限于两个视图。当前已有很 多针对立体或多路视频的压缩编码技术，这些技术可以划分为两类解决方案解决方案(1)考虑多个视图直接的相关性，利用视间参考的方式消除视间冗余， 进一步提升压缩效率。现有技术所提出的方法均属于此类方法。在该解决方案中，为了进 行消除视间冗余，一般需要实施用于估算各个视图内容空间位置差异的视差估计。而视差 估计本身具有较高的计算复杂度，从而使得该解决方案的编码速度显著低于对具有相同数 据量的非立体及非多路视频的压缩编码。因此，这种解决方案不利于编码器，尤其是实时编 码器的实现。另外，由于引入了视间参考，该解决方案需要特定的编码器支持，且无法兼容 针对非立体及非多路视频编码的解码器。解决方案(2)将立体或多路视频的多个视图均视为独立的视频，分别进行编码。 该解决方案忽略了视间冗余，因此压缩效率低于解决方案(1)，但计算复杂度和具有相同数 据量的非立体及非多路视频的压缩编码相同。该解决方案可以直接使用现有的针对非立体 及非多路视频的编码器及相关优化算法，且能够兼容当前市场上大量存在的针对非立体及 非多路视频编码的解码器。考虑到成本和速度优势，解决方案(2)是当前一种广泛采用的 立体视频或多路视频编码方法。现有的可用于立体视频或多路视频的快速模式决策方法主要存在以下问题首 先，针对解决方案(1)的快速模式决策方法均依赖于某种形式的视差估计，无法有效地降 低编码整体的计算复杂度。其次，可用于解决方案(2)的快速模式决策算法均没有利用多 个视图内容的相似性来进一步降低算法复杂度。
发明内容
本发明要解决的技术问题是以低计算复杂度实现针对立体或多路视频的快速模 式决策方法。为解决上述问题，提出了一种基于外极线约束的快速编码模式决策方法和系 统，利用视间外极线约束关系，进行帧间运动估计模式选择，从而加速模式决策过程。本发明公开了一种基于外极线约束的快速编码模式决策方法，所述方法用于立体 /多路视频压缩编码中的预测模式选择，包括如下步骤外极限上宏块范围确定步骤，根据 视图间的外极线约束关系，确定待编码宏块外极线上宏块的范围；候选模式确定步骤，使用滑动搜索窗方式，从所述外极线上宏块的范围中筛选候选模式，并通过模式修正的方式避 免候选模式选择遗漏，确定候选模式集合；预测模式获取步骤，使用所述待编码宏块外极线 上位置靠近该宏块的N个宏块的率失真优化参数值RDcost设置待编码宏块的率失真优化 参数上限阈值RDthrmax和下限阈值RDthrmin，并将该阈值作为所述待编码宏块预测模式选择 的条件，在所述候选模式集合进行至少一次筛选，获取预测模式。上述模式决策方法，优选所述候选模式确定步骤中，所述滑动搜索窗口的滑动范 围至少包括所述待编码宏块外极线上宏块的一个非空子集。上述模式决策方法，优选所述候选模式确定步骤中，当所述搜索窗口内恰好有一 个宏块时，将该宏块使用的编码模式加入所述候选模式集合中。上述模式决策方法，优选所述候选模式确定步骤中，当所述搜索窗口内包含左、右 两个宏块的一部分时，则进行模式修正，以处理右视中待编码宏块的内容恰好在左视中被 分割到两个宏块内的情况。上述模式决策方法，优选预测模式获取步骤中，所述的在所述候选模式集合进行 至少一次筛选，获取预测模式，包括步骤1，依次尝试所述候选模式集合中的每一个模式， 若尝试的模式满足提前终止条件，则立即选择该模式为最优预测模式；所述提前终止条件 为该模式的率失真优化参数值RDcost小于所述待编码宏块的率失真优化参数的下限阈 值；若没有候选模式满足提前终止条件，则判断候选模式中率失真优化参数值RDcost最小 的模式是否满足预测错误条件；其中，所述预测错误条件为该模式的RDcost值大于所述 带编码宏块的率失真优化参数值RDcost的上限阈值；若该模式满足预测错误判断条件，且 待编码宏块的外极线上存在未被搜索窗搜索过的宏块，则执行步骤2，否则，将该模式选择 为待编码宏块的最优预测模式；若该模式满足预测错误条件，且待编码宏块的外极线上不 存在未被搜索窗搜索过的宏块，则计算所有可能预测模式的RDcost，并执行步骤4 ；步骤2， 若所述候选模式集合中的每一个模式均不满足提前终止条件，或候选模式中RDcost最小 的模式满足预测错误条件，则改变搜索窗口的滑动步长或滑动范围等条件，重新滑动搜索 窗口，获取新的候选模式集合；步骤3，判断是否有新的模式被选中，若有，执行步骤1，若没 有则重复执行步骤2，直到待编码宏块的外极线上的全部宏块都已经在搜索窗口的滑动范 围内，或所有可能的预测模式均已经选为候选模式；步骤4，若所有预测模式的RDcost均已 计算，将RDcost最小的模式选择为最优预测模式。上述模式决策方法，优选所述宏块的率失真优化参数RDcost计算方法为=RDcost =SSD (c，r) + AMode · R ；其中SSD (c，r)表示待编码宏块与其编码后重建宏块的对应位置亮 度与色度值的方差和，λ M。de表示所使用预测模式的拉格朗日因子，R表示该宏块编码后所 需的二进制位数。上述模式决策方法，优选所述待编码宏块的率失真优化参数上限阈值RDthrmax和 下限阈值RDthrmin的计算方法为=RDThrmax = (l+a)RD Costmax，RDThrmin = (1+β )RDcostmin ； 其中，RDcostmax为；RDcostmin为；α为上限阈值修正因子，取值范围是[-0.5，0.5]，β为下 限阈值修正因子，取值范围是[-1,0. 5]。另一方面，本发明还公开了一种基于外极线约束的快速编码模式决策系统，所述 系统用于立体/多路视频压缩编码中的预测模式选择，包括外极限上宏块范围确定模块， 用于根据视图间的外极线约束关系，确定待编码宏块外极线上宏块的范围；候选模式确定模块，用于使用滑动搜索窗方式，从所述外极线上宏块的范围中筛选候选模式，并通过模式 修正的方式避免候选模式选择遗漏，确定候选模式集合；预测模式获取模块，用于使用所述 待编码宏块外极线上位置靠近该宏块的N个宏块的率失真优化参数值RDcost设置待编码 宏块的率失真优化参数上限阈值RDthrmax和下限阈值RDthrmin，并将该阈值作为所述待编码 宏块预测模式选择的条件，在所述候选模式集合进行至少一次筛选，获取预测模式。上述模式决策系统，优选所述候选模式确定模块中，所述滑动搜索窗口的滑动范 围至少包括所述待编码宏块外极线上宏块的一个非空子集。上述模式决策系统，优选所述候选模式确定模块中，当所述搜索窗口内恰好有一 个宏块时，将该宏块使用的编码模式加入所述候选模式集合中。上述模式决策系统，优选所述候选模式确定模块中，当所述搜索窗口内包含左、右 两个宏块的一部分时，则进行模式修正，以处理右视中待编码宏块的内容恰好在左视中被 分割到两个宏块内的情况。上述模式决策系统，优选预测模式获取模块中，所述的在所述候选模式集合进行 至少一次筛选，获取预测模式，包括第一模块，用于依次尝试所述候选模式集合中的每一 个模式，若尝试的模式满足提前终止条件，则立即选择该模式为最优预测模式；所述提前 终止条件为该模式的率失真优化参数值RDcost小于所述待编码宏块的率失真优化参数 的下限阈值；若没有候选模式满足提前终止条件，则判断候选模式中率失真优化参数值 RDcost最小的模式是否满足预测错误条件；其中，所述预测错误条件为该模式的RDcost 值大于所述带编码宏块的率失真优化参数值RDcost的上限阈值；若该模式满足预测错误 判断条件，且待编码宏块的外极线上存在未被搜索窗搜索过的宏块，则转向执行第一模块 的功能，否则，将该模式选择为待编码宏块的最优预测模式；若该模式满足预测错误条件， 且待编码宏块的外极线上不存在未被搜索窗搜索过的宏块，则计算所有可能预测模式的 RDcost,并执行第四模块的功能；第二模块，用于在所述候选模式集合中的每一个模式均不 满足提前终止条件下，或候选模式中RDcost最小的模式满足预测错误条件时，改变搜索窗 口的滑动步长或滑动范围等条件，重新滑动搜索窗口，获取新的候选模式集合；第三模块， 用于判断是否有新的模式被选中，若有，执行第一模块的功能，若没有则重复执行第二模块 的功能，直到待编码宏块的外极线上的全部宏块都已经在搜索窗口的滑动范围内，或所有 可能的预测模式均已经选为候选模式；第四模块，用于在所有预测模式的RDcost均已计算 的情况下，将RDcost最小的模式选择为最优预测模式。上述模式决策系统，优选所述宏块的率失真优化参数RDcost计算方法为=RDcost =SSD (c，r) + AMode · R ；其中SSD (c，r)表示待编码宏块与其编码后重建宏块的对应位置亮 度与色度值的方差和，λ M。de表示所使用预测模式的拉格朗日因子，R表示该宏块编码后所 需的二进制位数。上述模式决策系统，优选所述待编码宏块的率失真优化参数上限阈值RDthrmax和 下限阈值RDthrmin的计算方法为RDThrmax = (1+α )RDcostmax, RDThrmin = (1+β )RDcostmin ；其中，RDcostmax 为； RDcostmin为；α为上限阈值修正因子，取值范围是[-0. 5,0. 5]，β为下限阈值修正因子，取 值范围是["1,0. 5]。与现有方法相比，本发明既能够充分利用视图间相似性来提高编码速度，又无需
7弓丨入具有极高计算复杂度的视差估计等步骤。
图1为本发明基于外极线约束的快速编码模式决策方法实施例的步骤流程图；图2为待编码宏块及其外极线上宏块，该图以立体视频中的左右视为例；图3为本发明基于外极线约束的快速编码模式决策方法的实现的示意图；图4为本发明基于外极线约束的快速编码模式决策系统实施例的结构示意图。
具体实施例方式为使本发明的上述目的、特征和优点能够更加明显易懂，下面结合附图和具体实 施方式对本发明作进一步详细的说明。考虑到立体视频中左右视或多路视频中的多个视在内容上具有高度相似性，可以 假设，相邻视中具有相似或相同内容的宏块(更确切的，内容为同一物体或同一物体相同 部分的宏块)在运动方式上具有高度相似性，其参考宏块也往往具有这种相似性，因此这 些宏块有很大可能性使用相同或相似的预测模式进行编码。如果能够合理的定位这些宏 块，就可以使用已编码宏块的模式来筛选和预测未编码宏块的模式。对于立体视频，在其左/右视图中，内容为同一物体或具有相似内容的宏块，其位 置应严格位于彼此的外极线上。如图2所示，对于平行设置的，位于同一水平轴上的多台采 集设备所产生的多个视图，某一物体在这些视图上的外极线均与这些视图的水平轴平行。 就视频编码而言，若将宏块视为物体，则左视图中某一宏块在右视图上的外极线可以视为 右视图中与该宏块水平位置相同的一个宏块行的一部分。因此，可以利用右视中一个宏块 行上的部分宏块的编码模式来对左视中某一宏块的运动估计模式进行预测和选择，从而加 速模式决策过程。因此，本发明所提出的方法的基本思想是基于视图间的外极线约束原理，利用某 一视图中若干已编码宏块的运动估计模式来预测和筛选其他相关视图中待编码宏块的运 动估计模式。并且这些视图应当由一组位于同一水平轴上的多台平行设置的采集设备所产 生，也即这些采集设备的光轴是彼此平行的。参照图1，图1为本发明基于外极线约束的快速编码模式决策方法实施例的步骤 流程图，所述方法用于立体/多路视频压缩编码中的预测模式选择，包括如下步骤外极限上宏块范围确定步骤110，根据视图间的外极线约束关系，确定待编码宏块 外极线上宏块的范围；候选模式确定步骤120，使用滑动搜索窗方式，从所述外极线上宏块 的范围中筛选候选模式，并通过模式修正的方式避免候选模式选择遗漏，确定候选模式集 合；预测模式获取步骤130，使用所述待编码宏块外极线上位置靠近该宏块的N个宏块的率 失真优化参数值RDcost设置待编码宏块的率失真优化参数上限阈值和下限阈值，并将该 阈值作为所述待编码宏块预测模式选择的条件，在所述候选模式集合进行至少一次筛选， 获取预测模式。下面对上述各个步骤进行进一步的说明。1.确定外极线上宏块范围。待编码宏块在不同视图外极线上的已编码宏块。以使 用左视已编码宏块加速右视宏块模式决策为例。对于宏块MB,ight (m, η)，其外极线上宏块包括 MBleft (m，η)，MBleft (m，n_l)......MBleft (m，η_Ν_1)，如图 2 所示。2.以滑动搜索窗确定待编码宏块的候选模式集合。如附图X所示。本方法使用一 个搜索窗来确定候选模式集合。搜索窗大小为16x16像素，外极线上距离带编码宏块最近 的宏块(MBlrft (m，η))位置开始，水平向左移动，移动步长为8或16像素。当搜索窗位于整宏块位置时，也即搜索窗内恰好有一个宏块时，将搜索窗内宏块 使用的编码模式加入候选模式集合。特别的，若8x8模式被选中，则该宏块使用的所有小于 8x8的模式(8x8,8x4,4x8,4x4)均被选为候选模式。当搜索窗位于跨宏块位置时，也即搜索窗内包含左、右两个宏块的一部分，则需进 行模式修正，以处理右视中待编码宏块的内容恰好在左视中被分割到两个宏块内的情况。 为了判断这种情况是否发生，本方法使用左右两个宏块的运动矢量(MV)来进行分析，具体 策略包括i.若左右宏块均使用16x16模式时判断左右两宏块MV的差是否大于阈值Thdiff， 若是，则说明左右两宏块很可能分别包含不同内容，需要将16x8加入候选模式。ii.若左右宏块均使用16x8模式时判断搜索窗内两子块的MV的差是否小于阈 值Thsim，若是，则说明左右两子块很可能包含相同内容，需要将16x16加入候选模式。iii.若左右宏块均使用8x16模式时分别计算搜索窗内上方两子块间MV差和下 方两子块间MV差，若任一 MV差大于阈值Thdiff，则说明两相邻子块可能包含不同内容，需要 将8x8加入候选模式。iv.若左右宏块中只有一个使用了 8x8模式时若搜索窗内子块均未使用8x8以 下模式(包括8x4，4x8及4x4模式)，则计算搜索窗内两个8x8子块的MV差，若小于阈值 Thsim，需要将8x16加入候选模式。其余情况下，无需特别处理。3.根据外极限上已编码宏块设定RDcost阈值。使用待编码宏块外极线上位置靠 近该宏块的N个宏块的RDcost极值设置两个阈值，分别用于差错预测和提前终止。设定阈值RD上限=RDThrmax = (1+ α ) RDcostmaxRD 下限=RDThrmin = (1+ β ) RDcostmin其中，RDcostfflax和RDcostmax分别表示右视待编码宏块在左视外极线上最靠近该宏 块位置的N个宏块的RDcost值上限和下限。参照图3，图3也示出了基于外极线约束的快速编码模式决策方法的实现的示意 图。具体实施时，本方法采用分级选择的方式，多次进行候选模式筛选，其流程描述如 下开始编码宏块MBk (m，η)1.第一次筛选候选模式将搜索窗从MBL (m，η)滑动至MBL (m，Ii-N1)，步长8像素， 得到候选模式集合M2.对于M中的每个模式，执行2. 1.2. 1计算该模式的RDcost2. 2.若所有候选模式的RDcost均大于阈值RDThrmax.，转至步骤3，否则转至步骤 9。
3.第二次筛选候选模式将搜索窗从MBl (m，Ii-N1)滑动至MBL (m，n_N2)，步长8像 素，得到新的候选模式集合M’ .若没有新模式被选中，则转至步骤5。4.对于M’中的每个模式，执行4. 1。4. 1计算该模式的RDcost4. 2.若所有候选模式的RDcost均大于阈值RDThrmax.，转至步骤5，否则转至步骤 9。5.第三次筛选候选模式将搜索窗从MBl (m, n_N2)滑动至MBl (m, n-N3)，步长16像 素，得到新的候选模式集合M” .若没有新模式被选中，则转至步骤7。6.对于M”中的每个模式，执行6. 1。6. 1计算该模式的RDcost。 6. 2若所有候选模式的RDcost均大于阈值RDThrmax.，转至步骤7，否则转至步骤9。7.若所有可能模式的RDcost均已计算，转至步骤9，否则转至步骤8。8.计算所有剩余模式的RDcost。9.将RDcost最小的模式选择为最优预测模式。在步骤2. 1，4. 1或6. 1中，若任意模式的RDcost小于阈值RDThrmin，则立即转至步 骤9需要说明的是，本方法的核心思想也可应用于使用双视图拼接方法实现的立体电 视视频编码，对于水平双拼立体电视也即两路视频信号从采集设备输出后，在编码前即使 用某种裁剪与拼接方法，合并为一路视频进行编码，且在该路视频中，左右两视图分别位于 左右(或右左)两侧，高度不变，宽度减半。在该情况下，虽然左视与右视合并为一路视频，但考虑到编码顺序为自上至下，自 左至右，对位于右侧的已拼合视图上的宏块而言，无论该已拼合视图是原始的左视或右视， 其外极线上的宏块仍均位于该宏块左侧，因此先于该宏块完成编码，因此这种水平双拼得 到的仅具有一路视频的拼接立体视频仍然适用于本算法。当处理这种情况时，需将算法中 针对其他视图的宏块X坐标等效换算为双拼视图中的X坐标，算法其余部分不变。对于垂直双拼立体电视也即两路视频信号从采集设备输出后，在编码前即使用 某种裁剪与拼接方法，合并为一路视频进行编码，且在该路视频中，左右两视分别位于上下 (或下上)位置，高度减半，宽度不变。同理，在该情况下，位于下方的已拼接视图(无论对 应于原始视图的左视或右视)的宏块在另一视图的外极限上的宏块也先于该宏块完成编 码，同样适用本算法。当处理这种情况时，需将算法中针对其他视图的宏块y坐标等效换算 为双拼视图中的y坐标，算法其余部分不变。参照图4，图4为本发明基于外极线约束的快速编码模式决策系统实施例的结构 示意图，该系统用于立体/多路视频压缩编码中的预测模式选择，包括外极限上宏块范围确定模块40，用于根据视图间的外极线约束关系，确定待编码 宏块外极线上宏块的范围；候选模式确定模块42，用于使用滑动搜索窗方式，从所述外极 线上宏块的范围中筛选候选模式，并通过模式修正的方式避免候选模式选择遗漏，确定候 选模式集合；预测模式获取模块44，用于使用所述待编码宏块外极线上位置靠近该宏块的 N个宏块的RDcost极值设置两个阈值，并将该阈值作为所述待编码宏块最优模式选择的条 件，在所述候选模式集合进行至少一次筛选，获取预测模式。
上述系统实施例的原理与方法实施例相同，相关之处参照方法实施例即可，在此 不再赘述。以上对本发明所提供的一种基于外极线约束的快速编码模式决策方法和系统进 行详细介绍，本文中应用了具体实施例对本发明的原理及实施方式进行了阐述，以上实施 例的说明只是用于帮助理解本发明的方法及其核心思想；同时，对于本领域的一般技术人 员，依据本发明的思想，在具体实施方式
及应用范围上均会有改变之处。综上所述，本说明 书内容不应理解为对本发明的限制。
权利要求
一种基于外极线约束的快速编码模式决策方法，其特征在于，所述方法用于立体/多路视频压缩编码中的预测模式选择，包括如下步骤外极限上宏块范围确定步骤，根据视图间的外极线约束关系，确定待编码宏块外极线上宏块的范围；候选模式确定步骤，使用滑动搜索窗方式，从所述外极线上宏块的范围中筛选候选模式，并通过模式修正的方式避免候选模式选择遗漏，确定候选模式集合；预测模式获取步骤，使用所述待编码宏块外极线上位置靠近该宏块的N个宏块的率失真优化参数值RDcost设置待编码宏块的率失真优化参数上限阈值RDthrmax和下限阈值RDthrmin，并将该阈值作为所述待编码宏块预测模式选择的条件，在所述候选模式集合进行至少一次筛选，获取预测模式。
2.根据权利要求1所述的模式决策方法，其特征在于，所述候选模式确定步骤中，所述 滑动搜索窗口的滑动范围至少包括所述待编码宏块外极线上宏块的一个非空子集。
3.根据权利要求1或2所述的模式决策方法，其特征在于，所述候选模式确定步骤中， 当所述搜索窗口内恰好有一个宏块时，将该宏块使用的编码模式加入所述候选模式集合 中。
4.根据权利要求3所述的模式决策方法，其特征在于，所述候选模式确定步骤中，当所 述搜索窗口内包含左、右两个宏块的一部分时，则进行模式修正，以处理右视中待编码宏块 的内容恰好在左视中被分割到两个宏块内的情况。
5.根据权利要求4所述的模式决策方法，其特征在于，预测模式获取步骤中，所述的在 所述候选模式集合进行至少一次筛选，获取预测模式，包括步骤1，依次尝试所述候选模式集合中的每一个模式，若尝试的模式满足提前终止条 件，则立即选择该模式为最优预测模式；所述提前终止条件为该模式的率失真优化参数值RDcost小于所述待编码宏块的率 失真优化参数的下限阈值；若没有候选模式满足提前终止条件，则判断候选模式中率失真 优化参数值RDcost最小的模式是否满足预测错误条件；其中，所述预测错误条件为该模 式的RDcost值大于所述带编码宏块的率失真优化参数值RDcost的上限阈值；若该模式 满足预测错误判断条件，且待编码宏块的外极线上存在未被搜索窗搜索过的宏块，则执行 步骤2，否则，将该模式选择为待编码宏块的最优预测模式；若该模式满足预测错误条件， 且待编码宏块的外极线上不存在未被搜索窗搜索过的宏块，则计算所有可能预测模式的 RDcost，并执行步骤4 ；步骤2，若所述候选模式集合中的每一个模式均不满足提前终止条件，或候选模式中 RDcost最小的模式满足预测错误条件，则改变搜索窗口的滑动步长或滑动范围等条件，重 新滑动搜索窗口，获取新的候选模式集合；步骤3，判断是否有新的模式被选中，若有，执行步骤1，若没有则重复执行步骤2，直到 待编码宏块的外极线上的全部宏块都已经在搜索窗口的滑动范围内，或所有可能的预测模 式均已经选为候选模式；步骤4，若所有预测模式的RDcost均已计算，将RDcost最小的模式选择为最优预测模式。
6.根据权利要求5所述的模式决策方法，其特征在于，所述宏块的率失真优化参数RDcost计算方法为RDcost = SSD (c，r) + XMode · R ；其中SSD(c，r)表示待编码宏块与其编码后重建宏块的对应位置亮度与色度值的方差 和，λ Mode表示所使用预测模式的拉格朗日因子，R表示该宏块编码后所需的二进制位数。
7.根据权利要求6所述的模式决策方法，其特征在于，所述待编码宏块的率失真优化 参数上限阈值RDthrmax和下限阈值RDthrmin的计算方法为RDThrmax= (1+a) RDcostfflax, RDThrfflin= (1+β ) RDcostfflin其中，RDcostmax为；RDcostmin为；α为上限阈值修正因子，取值范围是[-0.5,0. 5], β 为下限阈值修正因子，取值范围是[_1，0. 5]。
8.一种基于外极线约束的快速编码模式决策系统，其特征在于，所述系统用于立体/ 多路视频压缩编码中的预测模式选择，包括外极限上宏块范围确定模块，用于根据视图间的外极线约束关系，确定待编码宏块外 极线上宏块的范围；候选模式确定模块，用于使用滑动搜索窗方式，从所述外极线上宏块的范围中筛选候 选模式，并通过模式修正的方式避免候选模式选择遗漏，确定候选模式集合；预测模式获取模块，用于使用所述待编码宏块外极线上位置靠近该宏块的N个宏块的 率失真优化参数值RDcost设置待编码宏块的率失真优化参数上限阈值RDthrmax和下限阈 值RDthrmin，并将该阈值作为所述待编码宏块预测模式选择的条件，在所述候选模式集合进 行至少一次筛选，获取预测模式。
9.根据权利要求8所述的模式决策系统，其特征在于，所述候选模式确定模块中，所述 滑动搜索窗口的滑动范围至少包括所述待编码宏块外极线上宏块的一个非空子集。
10.根据权利要求8或9所述的模式决策系统，其特征在于，所述候选模式确定模块 中，当所述搜索窗口内恰好有一个宏块时，将该宏块使用的编码模式加入所述候选模式集A由I=I Π^ O
11.根据权利要求10所述的模式决策系统，其特征在于，所述候选模式确定模块中，当 所述搜索窗口内包含左、右两个宏块的一部分时，则进行模式修正，以处理右视中待编码宏 块的内容恰好在左视中被分割到两个宏块内的情况。
12.根据权利要求11所述的模式决策系统，其特征在于，预测模式获取模块中，所述的 在所述候选模式集合进行至少一次筛选，获取预测模式，包括第一模块，用于依次尝试所述候选模式集合中的每一个模式，若尝试的模式满足提前 终止条件，则立即选择该模式为最优预测模式；所述提前终止条件为该模式的率失真优化参数值RDcost小于所述待编码宏块的率 失真优化参数的下限阈值；若没有候选模式满足提前终止条件，则判断候选模式中率失真 优化参数值RDcost最小的模式是否满足预测错误条件；其中，所述预测错误条件为该模 式的RDcost值大于所述带编码宏块的率失真优化参数值RDcost的上限阈值；若该模式满 足预测错误判断条件，且待编码宏块的外极线上存在未被搜索窗搜索过的宏块，则转向执 行第一模块的功能，否则，将该模式选择为待编码宏块的最优预测模式；若该模式满足预测 错误条件，且待编码宏块的外极线上不存在未被搜索窗搜索过的宏块，则计算所有可能预 测模式的RDcost，并执行第四模块的功能；3第二模块，用于在所述候选模式集合中的每一个模式均不满足提前终止条件下，或候 选模式中RDcost最小的模式满足预测错误条件时，改变搜索窗口的滑动步长或滑动范围 等条件，重新滑动搜索窗口，获取新的候选模式集合；第三模块，用于判断是否有新的模式被选中，若有，执行第一模块的功能，若没有则重 复执行第二模块的功能，直到待编码宏块的外极线上的全部宏块都已经在搜索窗口的滑动 范围内，或所有可能的预测模式均已经选为候选模式；第四模块，用于在所有预测模式的RDcost均已计算的情况下，将RDcost最小的模式选 择为最优预测模式。
13.根据权利要求12所述的模式决策系统，其特征在于，所述宏块的率失真优化参数 RDcost计算方法为RDcost = SSD (c，r) + XMode · R ；其中SSD(c，r)表示待编码宏块与其编码后重建宏块的对应位置亮度与色度值的方差 和，λ Mode表示所使用预测模式的拉格朗日因子，R表示该宏块编码后所需的二进制位数。
14.根据权利要求13所述的模式决策系统，其特征在于，所述待编码宏块的率失真优 化参数上限阈值RDthrmax和下限阈值RDthrmin的计算方法为RDThrmax= (1+a)RDcostfflax, RDThrfflin= (1+^)RD Costfflin其中，RDcostmax为；RDcostmin为；α为上限阈值修正因子，取值范围是[-0.5,0. 5], β 为下限阈值修正因子，取值范围是[_1，0. 5]。
全文摘要
本发明公开了一种基于外极线约束的快速编码模式决策方法和系统。其中，包括根据视图间的外极线约束关系，确定待编码宏块外极线上宏块的范围；使用滑动搜索窗方式，从所述外极线上宏块的最优预测模式范围中筛选候选模式，并通过模式修正的方式避免候选模式选择遗漏，确定候选模式集合；使用所述待编码宏块外极线上位置靠近该宏块的N个宏块的率失真优化参数值设置待编码宏块的率失真优化参数上限阈值和下限阈值，并将该阈值作为所述待编码宏块最优预测模式选择的条件，在所述候选模式集合进行至少一次筛选，获取预测模式。本发明既能够充分利用视图间相似性来提高编码速度，又无需引入具有极高计算复杂度的视差估计等步骤。
文档编号H04N7/26GK101959067SQ201010291989
公开日2011年1月26日 申请日期2010年9月26日 优先权日2010年9月26日
发明者杨国磊, 梁璐宏, 马思伟, 高文 申请人:北京大学