立体视频序列编码系统和方法_3

文档序号:9768071阅读:来源:国知局
系统的主要部件。作为一种 选择,可以接收其模拟格式和数字格式的任何ATSC DTV信号。
[0069] 在输出端23和24,解码器2产生同步的RGB信号对,即第一和第二图像序列,以驱动 诸如头戴显示器(HMD)16的对偶输入立体顺序显示装置。此外,解码器2还在输出端25产生 时序立体RGB信号,以将它送到诸如投影仪17、IXD显示器22、CRT监视器或SDTV或HDTV 21的 单输入顺序显示装置,从而以交替页面交换模式,显示由第一图像序列和第二图像序列获 得的图像。作为一种选择,可以将输出端25输出的立体RGB信号变换为待被模拟CRT电视机 再现的或者处于其它立体格式的交错NTSC信号(送到(ex):用于自动立体透镜式显示器的 列交错)。此外,还在内部这样配置解码器2,以在RGB输出端23或24之一输出立体RGB信号, 因此可以删除输出端25。
[0070] 解码器2还在输出端26产生同步定时信号,以驱动红外遮光眼镜驱动器20,从而驱 动眼镜19。通过使观众利用一只眼睛看第一图像序列的图像,而利用其另一只眼睛看第二 图像序列的图像进行交替观看,观众可以佩戴遮光眼镜19观看例如立体输出端25提供的、 由投影仪17投影到屏幕18上的三维节目。
[0071] 如上所述,两个原始图像序列含有的信息太多,以致不能直接存储到传统DVD上, 或者不能利用以30fps的速率处理信息的MPEG2或等效复用协议,通过传统频道进行广播。 因此,混合器1进行十取一处理,以将每个图像的信息减半。
[0072]现在,将参考图2a和2b说明混合器1执行的空间十取一处理过程。
[0073]图2a示出混合器1和解码器2处理的RGB视频信号确定的一部分图像50。可以看出, 图像50包括多个像素(交替的实心点和空心点)。在RGB格式中,分别表示红、绿和蓝光强的3 个数字数的矢量确定每个像素。本发明以3个相邻像素在水平方向,或者在垂直方向具有不 显著不同的光强为根据。因此,有利的是,本发明便于进行可以将图像的大小减小50%而不 显著破坏图像的压缩,或者十取一,或者分离的处理过程。
[0074]在原理图中,图2a示出这是如何实现的。如上所述,图像50包括多个像素。将整个 图像上,在每行上从左到右,从上面的行到下面的行,以图像的第一像素(行1的像素1)开始 的、后面是第三像素等等的序列像素(利用黑点表示)设置到帧缓冲器的一半上,以形成镶 嵌A。将剩余的像素,即,偶数编号像素(利用实心点表示)设置在镶嵌B上。在图2a所示的例 子中,所示的图像50的两个互补镶嵌被分别存储到公用合并图像60的镶嵌A和镶嵌B上。然 而,实际上,优选地利用可以例如仅读取奇数编号像素或偶数编号像素并将它们直接存储 到帧缓冲器内的适当硬件和软件自动进行这种"分离"。
[0075]正如图2b更清楚地示出的那样,通过仅保持诸如图像50的第一序列(扩展的左眼 序列)图像的镶嵌A以及诸如50'的第二序列(扩展右眼序列)图像,基本上可以在空间上将 图像压缩50%。当第一和第二序列表示同一个场景的不同视图时,对每个序列保持不同类 型的镶嵌有助于在回放时具有更高保真度。作为一种选择,对于两个输入序列,通过保存偶 数编号图像的镶嵌A和奇数编号图像的镶嵌B,进行空间压缩,因此可以根据可能以同一种 压缩格式存储的不同类型的镶嵌,重新建立同一只眼睛的两个连续图像。
[0076]通过在某个时间将一个像素的数据输入到三像素输入缓冲器55中,可以完成上面 的操作,如图2b所示。然后,将像素信息传送到一个或者多个(各)帧缓冲器的正确存储位 置,分别存储它们以记录不同合并图像。使不同输入图像的镶嵌成对并排连接在一起以形 成诸如60的原始尺寸的新系列合并帧的两个相邻域(左域和右域)。在图2b所示的例子中, 当前处理图像50',而在完成处理图像50时,产生完成类型A镶嵌,将该A镶嵌存储到合并图 像60的左域(A)中。然而,应该指出,合并帧不必包括第一序列的图像和第二序列的图像,或 者同时捕获的图像,根据对压缩/编码(混合)方法的优选实施例进行详细说明可以明白。事 实上,在图2a所示的例子中,合并图像60的域A和域B分别填充同一个图像50的镶嵌A和镶嵌 B。尽管为了简化说明而选择这种情况,而且这种情况对应于根据在此设想的本发明实施例 之一的实际情况,应该相信,诸如60的合并图像可以包括由输入图像之任一产生的镶嵌。并 排压缩传送格式最明显,而且在该处理过程中,不受用于特征化MPEG2主视图下游协议的压 缩/解压缩处理过程的影响。
[0077] 解码合并图像后,通过空间内插由位于诸如60的合并图像的域上的被压缩的一半 大小的图像(镶嵌)产生的丢失像素,可以重构完整图像。如图2c所示,在将解码器2解码的 输入合并帧60的每个像素传送到存储器,或者从存储器传送出来时,优选地实时完成该过 程。如上所述,本发明系统的优选地前提是相邻像素的值不这样不相同。因此,为了根据镶 嵌重构图像,对相邻像素进行加权,以内插丢失的像素。
[0078] 在本发明的优选实施例中,将某个时间的一个像素的数据存储到三像素输入缓冲 器65中。如图所示,将输入图像60的阴影部分存储到输入缓冲器65中,将由同一个镶嵌获得 的两个相邻像素识别为Ρ_Ρ 1+1。然后,作为相邻像素(Ρ_Ρ1+1)的RGB矢量的3个分量中每个 分量的算术平均值,计算第三像素的数据匕。例如,如果像素P:具有(1〇,〇,30)的光强矢量, 而像素匕具有(20,0,60)的光强矢量,则作为(15,0,45)计算像素匕。因此,两个相同像素的 平均值是另一个相同像素。根据诸如50的以使图像序列产生镶嵌后,该计算(拓扑内插的) 的像素代替在被十取一的丢失像素。
[0079] 然后,将原始像素和内插像素存储到帧缓冲器内要重构相应图像的正确存储位置 (本例中的图像72)。通过合并图像60的每行的中心(进入右域),将数据存储在第二帧缓冲 器72'上,以根据存储在立体图像的右域上的镶嵌重新建立图像。从左到右,逐行进行该处 理,直到在其相应缓冲区中,在空间上重构这两个图像。
[0080] 尽管上面的实施例内插像素,作为镶嵌的两个相邻像素的平均值,但是本发明不 止对两个像素进行加权。例如,如果要内插像素匕,则可以对从镶嵌开始的两个或者3个前 面的像素和后面的像素应用不同系数。更具体地说,参考图2c,可以利用o.ep^+o.ePi-广 O.lPw-O.lPd,内插匕。当然,根据优选结果,可以使用各种不同的系数和公式。此外,在同 样的处理过程之后,不进行水平内插,而进行垂直内插,或者组合进行水平内插与垂直内 插。
[0081] 为了确保不闪烁观看,该解码方法进一步包括图像序列的时域扩展(temporal expansion),正如下面所详细说明的那样。当完全填充帧缓冲器,以便重新建立或者暂时内 插图像(在重构过程和重构系统的任何实施例中均所需的帧缓冲器不超过4个。)时,根据不 同模式读取它们,以提供不同类型的要求输出信号。
[0082]附图中的图3a示出根据本发明的混合器1执行的混合方法的第一实施例的原理 图,现在,将详细说明该第一实施例。
[0083]通过每隔原始序列50的四个图像产生并插入新图像52,第一次使被识别为L1至L4 的RGB 24fps格式50的图像的第一序列扩展25%,以形成诸如51的30fps的图像序列。根据 紧接在前图像和在后图像的拓扑信息,时间内插(time-interpolated)新图像52(右视图像 50的#4和#5)。以与上面说明的空间内插技术相同的方式,利用在前图像和状态下中的相应 像素的算术平均值,计算新图像52的每个像素。图2d具体说明时间内插过程,其中根据输入 图像系列50的两个时间连续图像50.4和50.5,产生新图像52。通常,根据该技术,完成产生 本发明的新图像的过程,从而与简单重复各帧的例子相比,在回放时实现改进的保真度,这 样几乎不需要处理功率。作为一种选择,可以利用诸如基于运动预测方法的任何已知方法 时间内插图像。
[0084]然后,根据图2b所示的技术,空间压缩时间扩展序列51的图像,并在下面的说明中 详细描述时间扩展序列51的图像,以形成新序列53表示的镶嵌。同样,将第二输入图像系列 50'时间内插为30fps的序列51',然后,将它空间压缩为利用序列53'表示的镶嵌。在该特定 实施例中,分别使第一序列53和第二序列53'的压缩图像(镶嵌)对连续,以形成30fps RGB 序列60的合并图像的左域和右域。将序列60编码为流62,以传送到远程位置。
[0085]值得注意的是,尽管图3a示出原理图,但是优选地不并行而且不与长序列图像一 起对图像序列进行处理。实际上,在给定时间,仅缓存少量图像,以便临时内插,根据第一和 第二(左和右)序列交替引入图像,而且与图2b和2d所示处理步骤非常类似,逐个像素地对 该图像进行处理。
[0086]现在,将参考图3b、2c和2d说明根据本发明第一实施例的解码器2执行的解码过程 和重构过程。
[0087] 在图3b所示的例子中,从DVD中读取立体MPEG信号62,然后,DVD播放器15 (图1 b)将 它变换为模拟NTSC信号70,解码器2输入该模拟NTSC信号70。首先,将NTSC信号70变换为RGB 格式,以再生诸如序列60的合并图像。然后,通过空间内插镶嵌并逐个像素地使镶嵌与序列 60中的合并图像的左域和右域分离,开始重构第一和第二原始序列50、50',正如上面参考 图2c所述,以诸如72和72'的30fps解压缩缓冲图像。因此,实际上,同时进行空间内插和分 离。可以直接输出RGB图像72和72'的序列,并将它显示在对偶输入装置上,从而以60fps(每 个眼睛30)的显示速率,产生原始节目或立体节目信号。还可以进一步进行处理,从而以交 错方式或以序列(页面交换模式)、立体影片、交叉的列、传统2D模式等,使图像序列显示在 多个现有单输入显示装置上。
[0088]然而,为了在观看时舒服而且不疲劳,通过以每秒每只眼睛36全清晰度帧的典型 速率提供输出信号,解码器2显著减小闪烁,而利用高清晰度帧以每只眼睛30fps获得满意 的结果,从而与例如SDTV或HDTV的更新速率匹配。
当前第3页1 2 3 4 5 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1