L为当前最大编码单元的预测用的最大编码单元；当当前最大编码单元为当前 帧的第1列最大编码单元中除第1个最大编码单元外的其余最大编码单元时，确定当前最 大编码单元的上边相邻最大编码单元T和当前帧的前向参考帧中与当前最大编码单元的 坐标位置相同的最大编码单元COL均为当前最大编码单元的预测用的最大编码单元；当当 前最大编码单元为当前帧的第1行最大编码单元中除第1个最大编码单元外的其余最大编 码单元时，确定当前最大编码单元的左边相邻最大编码单元L和当前帧的前向参考帧中与 当前最大编码单元的坐标位置相同的最大编码单元COL均为当前最大编码单元的预测用 的最大编码单兀；当当前最大编码单兀为当前帧中除第1列最大编码单兀和第1行最大编 码单元外的其余最大编码单元时，确定当前最大编码单元的左边相邻最大编码单元L和上 边相邻最大编码单元T及当前帧的前向参考帧中与当前最大编码单元的坐标位置相同的 最大编码单元COL均为当前最大编码单元的预测用的最大编码单元。
3. 根据权利要求1或2所述的一种HEVC的快速编码方法，其特征在于所述的步骤④ 中Dprai的值与当前最大编码单元的深度遍历区间的--对应关系为：当Dprai= 0时，当 前最大编码单元的深度遍历区间为[〇, 〇];当〇〈Dprad< 0. 5时，当前最大编码单元的深度 遍历区间为[0, 1];当0. 5〈Dprad彡1. 5时，当前最大编码单元的深度遍历区间为[0, 2];当 I. 5〈Dpral< 2. 5时，当前最大编码单元的深度遍历区间为[1，3];当2. 5〈Dpral< 3时，当前 最大编码单元的深度遍历区间为[2, 3];当Dprad的值不存在时，当前最大编码单元的深度遍 历区间为[〇, 3]。
4. 根据权利要求3所述的一种HEVC的快速编码方法，其特征在于所述的步骤⑥的具体 过程为： ⑥-1、计算当前最大编码单元的左边相邻最大编码单元L和当前帧的前向参考帧中 与当前最大编码单元的坐标位置相同的最大编码单元的左边相邻最大编码单元L-COL之 间的平均株度差，记为ADD1，
；并计算当前最大编码单 元的上边相邻最大编码单元T和当前帧的前向参考帧中与当前最大编码单元的坐标位 置相同的最大编码单元的上边相邻最大编码单元T-COL之间的平均深度差，记为ADD2，
;然后计算ADDl与ADD2的平均值，记为ADD，ADD = (ADDl+ADD2)/2 ;其中，1彡i彡256,且为整数，味1表示L中的第i个尺寸大小为 4X4的基本存储单元的深度值，表示L-COL中的第i个尺寸大小为4X4的 基本存储单元的深度值，βφ汍表示T中的第i个尺寸大小为4X4的基本存储单元的 深度值，汍ΜΠΙ_:表示T-COL中的第i个尺寸大小为4X4的基本存储单元的深度值， 、βφ<_?(>ι_、仏/.吨「、的取值范围均为[〇,3]，且为整数，符号 取绝对值符号； ⑥-2、计算当前最大编码单元与当前最大编码单元的上边相邻最大编码单元T的空域 相似度，记为TAS，TAS = 0.05XADD+0. 25 ;并计算当前最大编码单元与当前最大编码单元 的左边相邻最大编码单元L的空域相似度，记为LAS，LAS = 0. 05 X ADD+0. 25 ;同时，计算当 前最大编码单元与当前帧的前向参考帧中与当前最大编码单元的坐标位置相同的最大编 码单元COL的时域相似度，记为TS，TS = -0.1 XADD+0. 5 ; ⑥ -3、计算Dp J勺值，
，其中，1彡m彡3,且为整数，Qm 表示Ω中的第m个最大编码单元所占的权重，当m = 1时Om= LAS，当m = 2时ω m= TAS，当m = 3时Om= TS，表示Ω中的第m个最大编码单元中的第i个尺寸大小 为4X4的基本存储单元的深度值。
5.根据权利要求4所述的一种HEVC的快速编码方法，其特征在于所述的步骤⑦中根据 当前最大编码单元的深度遍历区间对当前最大编码单元以及当前最大编码单元内的各个 编码单元进行编码的具体过程为： ⑦ -1、将当前最大编码单元的深度遍历区间内当前待处理的编码单元定义为当前编码 单元，将当前编码单元所在的层定义为当前层； ⑦-2、用JNDts表示当前编码单元的平均时空域人眼恰可察觉失真值，如果当前帧为高 清视频中的I帧，则确定JNDts的值不存在，然后执行步骤⑦-3 ;如果当前帧为高清视频中
的P帧或B帧，则计算JNDts的值， 然后执行步骤⑦-3,其中，（X，y) 9 表示当前编码单元中的像素点的坐标位置，〇彡X彡K-l，0彡y彡G-I，且都为整数，K表示当 前编码单元中一行像素点的总个数，G表示当前编码单元中一列像素点的总个数，JND(x，y) 表示当前编码单元中坐标位置为（x，y)的像素点的时空域人眼恰可察觉失真值； ⑦-3、当JNDts的值不存在时，对当前编码单元分别用intra2NX2N和intraNXN预测 模式进行编码，选取率失真代价值最小的预测模式作为当前编码单元的最优预测模式，然 后执行步骤⑦-4 ;当JNDts的值存在时，判断JND ts的值是否小于设定的低阈值T 1或大于设 定的高阈值T2，如果是，则判定当前编码单元进行快速预测模式的选择，对当前编码单元分 别用skip、merge、inter2NX 2N和intra2NX 2N预测模式进行遍历编码，选取率失真代价值 最小的预测模式作为当前编码单元的最优预测模式，然后执行步骤⑦-4;否则，判定当前 编码单元不进行快速预测模式的选择，对当前编码单元分别用skip、merge、inter2NX2N、 inter2NXN、interNX2N、AMP、intra2NX2N 和 intraNXN 预测模式进行全遍历编码，选取 率失真代价值最小的预测模式作为当前编码单元的最优预测模式，然后执行步骤⑦-4 ;其 中，inter2NX2N、inter2NXN、interNX2N、intra2NX2N 和 intraNXN 中的 N 的值为当前 编码单元中一行像素点或一列像素点的总个数的一半； ⑦-4、判断当前编码单元的深度值是否小于当前最大编码单元的深度遍历区间的最大 值，如果是，则将当前编码单元进一步分割为四个尺寸大小相同的下一层编码单元，然后将 该下一层编码单元中当前待处理的编码单元作为当前编码单元，将当前编码单元所在的层 作为当前层，再返回步骤⑦-2继续执行；否则，确定当前编码单元编码过程结束，然后执行 步骤⑦-5 ; ⑦-5、判断当前最大编码单元的深度遍历区间内的所有编码单元是否均处理完毕，如 果是，则确定当前最大编码单元编码过程结束，然后执行步骤⑧；否则，判断当前层中的四 个编码单元是否均处理完毕，如果当前层中的四个编码单元均处理完毕，则将当前层的上 一层编码单元中下一个待处理的编码单元作为当前编码单元，并将当前编码单元所在的层 作为当前层，然后返回步骤⑦-2继续执行，如果当前层中的四个编码单元未处理完毕，则 将当前层中下一个待处理的编码单元作为当前编码单元，并将当前编码单元所在的层作为 当前层，然后返回步骤⑦-2继续执行。
6.根据权利要求5所述的一种HEVC的快速编码方法，其特征在于所述的步骤⑦-3中 取1\= 3. 5，取1'2= 10。
【专利摘要】本发明公开了一种HEVC的快速编码方法，其充分利用了编码过程中的最大编码单元与其所在的帧的前向参考帧中坐标位置相同的最大编码单元的时域相似度、与其左边相邻最大编码单元的空域相似度、与其上边相邻最大编码单元的空域相似度，来计算P帧或B帧中的最大编码单元的深度预测值，然后利用最大编码单元的深度预测值与深度遍历区间的一一对应关系确定最大编码单元的深度遍历区间，在深度遍历区间内对最大编码单元以及其内的各个编码单元进行编码，在编码过程中对P帧或B帧中满足条件的最大编码单元及满足条件的各个编码单元进行快速预测模式选择，减少了不必要的深度和预测模式遍历，从而在保证视频质量的前提下，降低了视频编码的计算复杂度。
【IPC分类】H04N19-147, H04N19-109, H04N19-503
【公开号】CN104853191
【申请号】CN201510225448
【发明人】蒋刚毅, 方树清, 彭宗举, 郁梅, 徐升阳, 杜宝祯
【申请人】宁波大学
【公开日】2015年8月19日
【申请日】2015年5月6日