用于对较高分辨率色度采样格式进行帧包装/解包的带分离滤波/逆滤波的制作方法_4

文档序号:9264924阅读:来源:国知局
ype指示立体视图的两个构成帧如何被布置。例如,frame_packing_ arrangement_type== 3 指不两个构成帧的并排包装,frame_packing_arrangement_type ==4指示两个构成帧的自顶向下包装,以及frame_packing_arrangement_type== 5指示 两个构成帧的时间交错。语法元素frame_packing_arrangement_type能够结合指示较高 分辨率色度采样格式的帧的包装的content_interpretation_type的值被类似地使用。例 如,frame_packing_arrangement_type== 3能够指示主帧和辅助帧的并排包装,frame_ packing_arrangement_type== 4能够指示主帧和辅助帧的自顶向下包装,以及frame_ packing_arrangement_type== 5能够指示主帧和辅助帧的时间交错。或者,帧包装布置 元数据被以某种其它方式发信号通知。替换地,不是扩展content_interpretation_type 语法元素的语义以便指示较高分辨率色度采样格式的帧的包装,而是frame_packing_ arrangement_type的语义能够被扩展成指示较高分辨率色度采样格式的帧的包装。例如, 帧包装布置元数据(诸如frame_packing_arrangement_type高于5的值)除指示主视图和 辅助视图如何被布置之外能够指示帧包装/解包被使用还是未被使用、滤波或其它预处理 操作被使用还是未被使用(并且因此对应的后处理滤波或其它后处理操作应该被使用还是 未被使用)、要执行的后处理操作的类型,或关于帧包装/解包的其它信息。
[0137] 在这些例子中,帧包装布置SEI消息通知解码器经解码的图片包含作为帧包装布 置的构成帧的4:4:4帧的主视图和辅助视图。这个信息能够被用来适当地处理主视图和辅 助视图以用于显示或其它目的。例如,当在解码端的系统期望4:4:4格式的视频并且能够 从主视图和辅助视图重建4:4:4帧时,系统可以这样做,并且输出格式将是4:4:4。否则,仅 主视图作为输出被给出,并且输出格式然后将是4:2:0。
[0138] C.第一组示例性预处理和后处理操作。
[0139] 较高分辨率色度采样格式的帧的色度样本值的简单子采样可能在经下采样的色 度样本值中引入锯齿赝像。为了减轻锯齿,帧包装能够包括用来对色度样本值进行滤波的 预处理操作。这样的滤波能够被称为反锯齿滤波。对应的帧解包然后能够包括用来补偿色 度样本值的预处理滤波的后处理操作。例如,参考前面的表,当content_interpretation_ type是4或6时,预处理操作能够被用来在帧包装期间对色度样本值进行滤波,并且帧解 包能够包括对应的后处理操作。本节段描述了第一组示例性预处理和后处理操作。牵涉小 波分解/重建或其它带分离滤波/逆滤波的另一组示例性预处理和后处理操作在下面被描 述。
[0140] 存在针对适配于帧包装/解包的预处理和后处理的各种原因。
[0141] 例如,预处理能够帮助在仅表示主视图的YUV4:2:0帧被用于显示时改进质量。 这能够许可解码器在不用冒由色度信息的简单子采样所引起的锯齿赝像的风险的情况下 忽视表示辅助视图的YUV4:2:0帧。在没有预处理的情况下(当针对表示主视图的YUV 4:2:0帧的色度信号是从YUV4:4:4帧通过色度信号的直接子采样获得的时),锯齿赝像可 能在仅主视图被用来生成输出时在某种内容(例如,ClearType文本内容)上被看到。
[0142] 作为另一例子,预处理和后处理能够帮助在YUV4:4:4域中维持/强迫经压缩的 色度信号的一致性和平滑度。当帧包装被用来将YUV4:4:4帧包装成两个YUV4:2:0帧时, 色度信号被分成多个区域,并且每个区域可以取决于其位置而得以被不同地压缩(例如,具 有量化的不同水平)。因为这个,当色度信号通过使来自多个区域的数据交错而被再次组装 时,人工不连续和高频噪声可能被引入。后处理操作能够帮助使由于压缩而在这些区域中 引起的差异平滑。
[0143] 作为另一例子,预处理能够帮助增强表示辅助视图的YUV4:2:0帧的压缩,其包 含剩余色度信息。
[0144] 在一些示例性实施方案中,预处理操作和后处理操作是有限的,使得它们仅影响 作为表示主视图的YUV4:2:0帧的一部分的色度信号。也就是说,经滤波的样本值是主视 图的色度分量的一部分。
[0145] 附加地,对于结合AVC编码/解码或HEVC编码/解码的帧包装/解包,预处理操作 和后处理操作可以是基于色度样本位置类型(指示与亮度样本栅格的色度样本栅格对准) 的。色度样本位置类型是根据作为经压缩的比特流的一部分发信号通知的Chr〇ma_Sample_ loc_type_top_field和chroma_sample_loc_type_bottom_field语法元素所石角定的。(对 于逐行扫描源内容,这两个元素将通常具有相等的值。)对于给定色度样本位置类型,如果 对于特定方向(水平的或垂直的)色度样本与亮度样本对准,则奇数抽头对称滤波器(诸如 [1 2 1]/4或[0.25 0.5 0.25],以及舍入操作)被用来在该方向上对色度进行滤波。另一 方面,如果对于特定方向(水平的或垂直的)色度样本不与亮度样本对准,并且对于特定方 向(水平的/垂直的)色度样本栅格位置被定中心在亮度样本位置之间,则偶数抽头对称滤 波器(典型地[1 1]/2或[0.5 0.5],以及舍入操作)被用来在该方向上对色度进行滤波。针 对后者情况的另一可能的滤波器选择是[1 3 3 1] / 8或[0. 125 0. 375 0. 375 0. 125]以 及舍入操作。后处理操作的选择通常被做出,使得后处理操作补偿预处理操作。在一些情 况下,后处理直接地颠倒预处理,然而在其它情况下后处理仅近似地颠倒预处理,如在下面 所说明的。
[0146] 在结合AVC编码/解码或HEVC编码/解码的帧包装/解包的实施方案中,如果色 度样本位置类型对于chroma_sample_loc_type_top_field和chroma_sample_loc_type_ bottom_field语法元素是1,则色度样本在水平方向或垂直方向上不与亮度样本对准,并 且因此滤波器[0. 5 0. 5]被在水平方向和垂直方向两者上应用于预处理操作。在这样的情 况下,对于参考图9所图示的方法(900),用于得到样本值区域B2和B3的等式如下。
[0147] 由于这个滤波,来自YUV4:4:4帧的在位置U444 ( 2x,2y)和V444 ( 2x,2y)处 的样本值在主视图(902)中未被直接地表示;替代地,滤波的样本值(UgfUhiy)和 V巧fUift(X,y))在主视图(902冲的诸位置处。在区域B4 ...B9之中来自YUV4:4:4帧 的在U444 ( 2x+l,2y)、U444 ( 2x, 2y+l)、U444 ( 2x+l,2y+l)、V444 ( 2x+l,2y)、V444 ( 2x, 2y+ 1)以及V444 ( 2x+l,2y+ 1)处的样本值在辅助视图(903)中仍然被直接地表示。
[0148] 在当YUV4:4:4格式的帧将被输出时作为后处理操作的一部分的对应滤波中,针 对YUV4:4:4帧的位置U444 ( 2x,2y)和V444 ( 2x,2y)的样本值能够根据已包装帧中的值被 计算为U'444 ( 2x, 2y)和V'444 ( 2x, 2y),如下:
yyif 其中(X,y)的范围是l]x[0..|-I】,a是取决于实施方案的加权因子,并且 Z标记指示根据(可能有损的)编码的重建。在色度样本栅格位置被水平地且垂直地定中心 在亮度样本位置之间的情况下,采用所建议的[0.5 0.5]的反锯齿滤波器,值a= 1将在 不存在量化误差和舍入误差时完美地重建输入值,其直接地颠倒在预处理中执行的滤波。 对于a的其它值,在后处理期间滤波仅近似地颠倒在预处理中执行的滤波。当考虑量化误 差时,使用a的稍微较小的值(例如,a= 0.5)可能是合理的以便降低看得出的赝像。一 般而言,a应该在〇.〇到1.0的范围内,并且当量化步长尺寸较大时a应该较小。使用a 的高值可能使由于有损压缩而引入的赝像恶化。
[0149] 或者,对于不同的样本位置,不同的权重能够被分配。针对YUV4:4:4帧的位置 U444 ( 2x, 2y)和V444 ( 2x, 2y)的样本值能够根据已包装帧中的值被计算为U'444 ( 2x, 2y)和 V、44(2x, 2y),如下:
其中(X,y)的范围是
a、0以及Y是取决于实施方案的加 权因子,并且z标记指示根据(可能有损的)编码的重建。在色度样本栅格位置被水平地且 垂直地定中心在亮度样本位置之间的情况下,采用所建议的[0.5 0.5]的反锯齿滤波器, 值a= 0 =y= 1将在不存在量化误差和舍入误差时完美地重建输入值,其直接地颠倒 在预处理中执行的滤波。对于a、f3以及Y的其它值,在后处理期间滤波仅近似地颠倒在 预处理中执行的滤波。当考虑量化误差时,使用a以及Y的稍微较小的值(例如,a= 0 =Y = 〇.5)可能是合理的以便降低看得出的赝像。一般而言,a以及Y应该在从 0. 0到1. 0的范围内,并且当量化步长尺寸较大时a、0以及y应该较小。使用a、0以 及Y的高值可能使由于有损压缩而引入的赝像恶化。《以及Y的值能够使用交叉相 关分析针对条件最优性被设计。
[0150]当〇=0 =丫=1时,针对¥爪^4:4:4帧的位置444(2叉,27)和¥444 ( 2叉,27) 的样本值能够根据已包装帧中的值被简单地计算为U'444 ( 2x, 2y)和V'444 ( 2x, 2y),如下:

其中(x,y)的范围是
[0151]例如,在预处理期IN,ti,.」,丨兑且、」a,| _L,2y)、(2x, 2y+l)以及(2x+l, 2y+l)的样本值29、15、7以及18被滤波以便产生样本值17. 25,其被舍入为17。17的值滤 波的样本值被使用代替29的原始样本值。在后处理期间,针对位置(2x,2y)的样本值被 重建为68 -15 - 7 - 18 = 28。原始样本值(29)与重建样本值(28)之间的差示出了由于 针对预处理操作的滤波而导致的精度的损失。
[0152] 替换地,设备能够选择性地跳过在后处理期间的滤波操作,即便当滤波在预处理 期间被执行时。例如,设备能够跳过在后处理期间的滤波以降低解码和回放的计算负荷。
[0153] 替换地,预处理操作和后处理操作不限于作为表示主视图(例如,图9中所表示的 帧902的区域B2和区域B3)的4:2:0帧的一部分的、4:4:4帧的色度信号。替代地,预处理 操作和后处理操作针对作为表示辅助视图(例如,图9中所表示的帧903的区域B4至B9) 的4:2:0帧的一部分的、4:4:4帧的色度信号被同样执行。这样的预处理和后处理操作(针 对作为表示辅助视图的4:2:0帧的一部分的、4:4:4帧的色度信号)能够使用与成为表示主 视图的4:2:0帧的一部分的、4:4:4帧的色度信号的预处理和后处理不同的滤波操作。
[0154] 在预处理操作和后处理操作的前面的例子中,在预处理期间平均滤波被使用并且 在后处理期间对应的滤波被使用。替换地,预处理操作和后处理操作能够实施变换/逆变 换对。例如,变换/逆变换对可以是小波变换、提升变换以及其它变换的类别中的一个。特 定变换还能够取决于用例情况而被设计,以便满足上面所提到的针对预处理操作和后处理 操作在包装4:4:4帧的上下文中的使用的不同设计原因。或者,预处理和后处理能够使用 具有支持的其它滤波器区域的其它滤波器结构,或者使用相对于内容和/或逼真度自适应 的(例如,相对于用于构码的量化步长尺寸自适应的)的滤波。
[0155] 在一些示例性的实施方案中,经帧包装的4:2:0内容的表示和/或压缩能够使用 比4:4:4内容的原始样本比特深度更高的样本比特深度。例如,4:4:4帧的样本比特深度是 每样本8个比特,并且经帧包装的4:2:0帧的样本比特深度是每样本10个比特。这能够帮 助在预处理操作和后处理操作的应用期间降低精度损失。或者,当4:2:0帧使用有损压缩 被构码时这能够帮助实现更高水平的逼真度。例如,如果4:4:4内容具有每样本8个比特 的样本比特深度,并且经帧包装的4:2:0内容具有每样本10个比特的样本比特深度,则每 样本10个比特的比特深度能够在构码器和解码器的所有或大多数内部模块中被维持。在 接收端将内容解包为4:4:4格式之后,必要时样本比特深度能够被降低至每样本8个比特。 更一般地,较高分辨率色度采样格式的帧的样本值能够具有第一比特深度(诸如每样本8、 10、12或16个比特),然而较低分辨率色度采样格式(在帧包装之后)的帧的样本值具有比 第一比特深度高的第二比特深度。
[0156] D.针对YUV4:2:2视频的替代方案。
[0157] 在前面的例子的许多中,YUV4:4:4帧被包装成YUV4:2:0帧以用于构码和解码。 在其它例子中,YUV4:2:2帧被包装成YUV4:2:0帧以用于构码和解码。典型的4:2:2帧 针对每4个像素位置包含8个样本值,然而4:2:0帧针对每4个像素位置仅包含6个样本 值。所以,在4:2:2帧中包含的样本值能够被包装成4/3个4:2:0帧。也就是说,当被高效 地包装时,三个4:2:2帧能够被包装成四个4:2:0帧。
[0158] 在一个方法中,针对4:2:2帧的帧包装以与在图8中针对4:4:4至4:2:0帧包装 所图示的简单方法(800)类似的简单方式完成。
[0159] 在其它方法中,YUV4:2:2帧被包装成YUV4:2:0帧,同时对于YUV4:2:2帧的色 度信息维持几何对应。在它们的Y分量、U分量以及V分量之间具有良好的几何对应的结果 得到的YUV4:2:0帧能够被更好地压缩,因为它们适合由适配于构码的YUV4:2:0帧的典 型构码器所预期的模型。同时,包装能够被完成使得YUV4:2:0帧表示正由YUV4:2:2帧 所表示的完整场景,但是颜色分量在较低分辨率下。
[0160] 这些设计约束在将YUV4:2:2帧包装成两个YUV4:2:0帧(主视图和辅助视图)时 被满足。辅助视图将具有"空白"区域,但是这些区域能够使用固定值或通过复制色度值被 填充。或者,空白区域能够被用来指示诸如场景的深度这样的其它信息。例如,对于参考图 9所描述的包装方法(900),除了区域B4和区域B5将不具有数据,方法(900)能够被照原样 使用。或者,对于参考图11所描述的包装方法(1100),除了区域A4和区域A5将不具有数 据,方法(1100)能够被照原样使用。
[0161] 在示例性实施方案中,用于content_interpretation_type的新的值被定义成发 信号通知YUV4:2:2帧到构成YUV4:2:0帧的包装,如以下表中所示。

[0162] 替换地,用于语法元素content_interpretation_type的不同值与前面的表中所 示出的解释相关联。或者,针对content_interpretation_type的其它和/或附加的解释 能够被用来支持通过帧包装从较高分辨率色度采样格式的一个或多个帧获得的较低分辨 率色度采样格式的帧的构码/解码。
[0163]E.其它色度采样格式。
[0164] 作为色度采样格式,本文中所描述的例子中的许多牵涉诸如Y'UV、HQ、Y'IQ、 YdbDr、YCbCr、YCoCg等这样的YUV颜色空间在诸如4:4:4、4:2:2、4:2:0等这样的采样率方 面的变例。替换地,作为色度采样格式,所描述的方法能够在诸如4:4 :4、4:2:2、4:2:0等这 样的采样率方面被用于诸如RGB、GBR等这样的颜色空间。例如,设备能够将较高分辨率非 YUV色度采样格式(诸如RGB4:4:4或GBR4:4:4)的帧包装成较低分辨率格式(诸如4:2:0 格式)的帧,其然后可以被构码。在解码中,标称亮度分量和标称色度分量表不非YUV分量的 样本值(而不是近似亮度和色差值)。在对应的解包中,设备将较低分辨率格式(诸如4:2:0 格式)的帧解包成较高分辨率非YUV色度采样格式(诸如RGB4:4:4或GBR4:4:4)的帧。
[0165] 并且,所描述的方法能够被用于4:4:4格式、4:2:2格式或4:2:0格式的视频内容 到4:0:0格式的帧包装,所述4:0:0格式典型地被用于灰度或单色视频内容。来自4:4:4 格式、4:2:2格式或4:2:0格式的帧的色度信息能够被包装成4:0:0格式的一个或多个附加 或辅助帧的主要分量。
[0166]F.针对帧包装/解包的一般性的技术。
[0167] 图12示出了用于帧包装的一般性的技术(1200)。实施例如如参考图4所描述的 帧包装器的计算设备能够执行该技术(1200)。
[0168] 设备将较高分辨率色度采样格式的一个或多个帧包装(1210)成较低分辨率色度 采样格式的一个或多个帧。例如,设备将4:4:4格式(例如,YUV4:4:4格式)的(一个或多 个)帧包装成4:2:0格式(例如,YUV4:2:0格式)的(一个或多个)帧。或者,设备将4:2:2 格式(例如,YUV4:2:2格式)的(一个或多个)帧包装成4:2:0格式(例如,YUV4:2:0格式) 的(一个或多个)帧。或者,设备将4:4:4格式(例如,YUV4:4:4格式)的(一个或多个)帧 包装成4:2:2格式(例如,YUV4:2:2格式)的(一个或多个)帧。
[0169] 对于YUV格式,设备能够执行帧包装(1210)以便在包装之后维持较高分辨率色度 采样格式的(一个或多个)帧的色度分量的相邻样本值之间的几何对应。例如,这样的样本 值作为较低分辨率色度采样格式的(一个或多个)帧的亮度分量和色度分量的相邻样本和/ 或并列部分被维持。后面的构码能够利用这样的几何对应。
[0170] 在一些帧包装方法中,设备能够嵌入较高分辨率色度采样格式的(一个或多个)帧 的较低色度分辨率版本作为较低分辨率色度采样格式的(一个或多个)帧的一部分。因此, 较低分辨率色度采样格式的(一个或多个)帧的一部分表示较高分辨率色度采样格式的(一 个或多个)帧的较低色度分辨率版本。较低分辨率色度采样格式的(一个或多个)帧的其余 部分表示来自较高分辨率色度采样格式的(一个或多个)帧的剩余色度信息。在其它帧包装 方法中,根据较高分辨率色度采样格式的(一个或多个)帧的空间分割,设备将较高分辨率 色度采样格式的(一个或多个)帧的色度分量的样本值分配给较低分辨率色度采样格式的 (一个或多个)帧的亮度分量和色度分量。
[0171] 在帧包装期间,较高分辨率色度采样格式的(一个或多个)帧的色度分量的样本值 能够被滤波,并且滤波的样本值被分配给较低分辨率色度采样格式的(一个或多个)帧的色 度分量的部分。在一些实施方案中,较高分辨率色度采样格式的(一个或多个)帧的色度分 量的样本值具有较低的比特深度(例如,每样本8个比特),并且经滤波的样本值具有更高的 比特深度(例如,每样本10个比特)以用于在更高的比特深度下构码。
[0172] 设备然后能够对较低分辨率色度采样格式的(一个或多个)帧进行构码(1220)。替 换地,不同的设备执行构码(1220)。(一个或多个)设备能够在逐帧基础或其它基础上重复 该技术(1200)。
[0173] 设备能够发信号通知关于帧包装/解包的元数据。例如,设备发信号通知指示帧 包装/解包被使用还是未被使用的元数据。或者,设备发信号通知较高分辨率色度采样格 式的(一个或多个)帧的色度分量的样本值在帧包装期间已被滤波、并且应该作为后处理的 一部分被滤波的指示。关于帧包装/解包的元数据能够作为补充增强信息消息的一部分或 作为某种其它类型的元数据被发信号通知。
[0174] 图13示出了用于帧解包的一般性的技术(1300)。实施例如如参考图5所描述的 帧解包器的计算设备能够执行该技术(1300)。
[0175] 在帧解包本身之前,设备能够对较低分辨率色度采样格式的(一个或多个)帧进行 解码(1310 )。替换地,不同的设备执行解码(1310 )。
[0176] 设备将较低分辨率色度采样格式的一个或多个帧解包(1320)成较高分辨率色度 采样格式的一个或多个帧。例如,设备将4:2:0格式(例如,YUV4:2:0格式)的(一个或多 个)帧解包成4:4:4格式(例如,YUV4:4:4格式)的(一个或多个)帧。或者,设备将4:2:0 格式(例如,YUV4:2:0格式)的(一个或多个)帧解包成4:2:2格式(例如,YUV4:2:2格式) 的(一个或多个)帧。或者,设备将4:2:2格式(例如,YUV4:2:2格式)的(一个或多个)帧 解包成4:4:4格式(例如,YUV4:4:4格式)的(一个或多个)帧。
[0177]当较高分辨率色度采样格式的(一个或多个)帧的较低色度分辨率版本作为较低 分辨率色度米样格式的(一个或多个)帧的一部分被嵌入时,设备具有用于显不的选项。表 示较高分辨率色度采样格式的(一个或多个)帧的较低色度分辨率版本的、较低分辨率色度 采样格式的(一个或多个)帧的部分能够被重建以用于输出和显示。较低分辨率色度采样 格式的(一个或多个)帧的其余部分表示来自较高分辨率色度采样格式的(一个或多个)帧 的剩余色度信息,并且能够作为帧解包的一部分被使用。在其它帧解包方法中,为了颠倒较 高分辨率色度采样格式的(一个或多个)帧的空间分割,设备将较低分辨率色度采样格式的 (一个或多个)帧的亮度分量和色度分量的样本值分配给较高分辨率色度采样格式的(一个 或多个)帧的色度分量。
[0178] 在帧解包期间,较高分辨率色度采样格式的(一个或多个)帧的色度分量的样本值 能够作为后处理的一部分被滤波。在一些实施方案中,较高分辨率色度采样格式的(一个或 多个)帧的色度分量的至少一些样本值在后处理滤波之前具有更高的比特深度(例如,每样 本10个比特),并且这样的样本值在后处理滤波之后具有较低的比特深度(例如,每样本8 个比特)。
[0179] 设备还能够接收关于帧包装/解包的元数据。例如,设备接收指示帧包装/解包 被使用还是未被使用的元数据。或者,设备接收较高分辨率色度采样格式的(一个或多个) 帧的色度分量的样本值在帧包装期间已被滤波、并且应该作为后处理的一部分被滤波的指 示。关于帧包装/解包的元数据能够作为补充增强信息消息的一部分或作为某种其它类型 的元数据被发信号通知。
[0180](一个或多个)设备能够在逐帧基础或其它基础上重复该技术(1300)。
[0181]G.作为针对帧包装/解包的预处理/后处
当前第4页1 2 3 4 5 6 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1