动图象合成装置的制作方法

文档序号:7585238阅读:131来源:国知局
专利名称:动图象合成装置的制作方法
技术领域
本发明涉及将图形动图象与视频动图象合成的动图象合成装置。
背景技术
迄今,当由计算机在以三维图形显示的虚拟空间中合成和显示图形动图象和视频动图象时,通过利用表示三维空间中的对象位置和形状的坐标值进行图形生成运算,生成图形静止图象,并从视频动图象抽出1帧的视频静止图象,利用所谓的纹理映射法,将所抽出的视频静止图象粘贴于所生成的图形静止图象,从而显示粘贴了视频静止图象的图形静止图象。通过高速地反复进行上述图形静止图象的生成、上述视频静止图象的抽出、视频静止图象对图形静止图象的粘贴、及显示,依次显示出粘贴了视频静止图象的图形静止图象,所以,看上去好象是运动起来的图象。
但是,在合成前的图形动图象和视频动图象中,显示速率不一定相同。在视频动图象中,可以使在每一定时间内显示的帧数(以下,称显示速率)为固定值,例如,将每秒30帧的显示速率作为标准值。另一方面,在图形动图象中,根据表示对象位置和形状的坐标值生成图形静止图象的运算时间,取决于所显示的对象数,所以通常很难使显示速率为固定值。
因此,当根据图形动图象的显示速率合成动图象时,例如,如假定视频动图象及图形动图象的显示速率分别为每秒30帧和每秒10帧,则在视频动图象的每1秒钟显示的30帧中不得不只能显示出与图形动图象的显示时刻一致的10帧。因此,其余的20帧不能得到显示,因而存在着不能看到平滑流畅地运动的视频动图象的问题。
另一方面,当根据视频动图象的显示速率合成动图象时,存在着用于生成图形静止图象的运算处理在相邻的2个视频静止图象的显示间隔时间内不能完成从而不能生成图形静止图象的问题。
发明的公开因此,本发明是鉴于上述问题而开发的,其目的是提供一种能以其各自的显示速率将图形动图象与视频动图象合成的动图象合成装置、动图象合成方法及记录着动图象合成程序的记录媒体。
为达到上述目的,本发明的动图象合成装置,对从在三维空间内移动的视点观察对象而得到的图形动图象和由多个视频静止图象构成的视频动图象进行合成,该动图象合成装置的特征在于,备有信息存储装置,存储着表示三维空间中的对象形状和位置的对象信息;视频动图象取得装置,从外部取得由连续的多个视频静止图象构成的视频动图象;图象存储装置;接收装置,反复接收表示在三维空间内移动的一个视点的位置的信息;图形图象生成装置,利用上述对象信息,生成从上述视点观察并将对象投影到投影面上而得到的图形静止图象,并将所生成的图形静止图象写入上述图象存储装置;及视频图象生成装置,在生成上述图形静止图象并写入上述图象存储装置的时间带,从上述所取得的视频动图象反复抽出视频静止图象,并将所抽出的视频静止图象写入上述图象存储装置。
按照这种结构,由于可按不同的进程以并行方式进行图形静止图象的生成处理及视频静止图象的译码处理并在存储装置中将所生成的图形静止图象与视频静止图象合成,所以具有能以其各自的显示速率合成图形动图象和视频动图象的效果。
这里,上述图形图象生成装置,也可以采用如下结构,即,利用上述对象信息,从上述视点观察并将对象投影到投影面上,进一步,通过进行润色处理而生成图形静止图象,按照这种结构,由于对图形图象进行润色处理,所以具有能生成写实的图形图象的效果。
这里,也可以采用如下结构,即,上述对象,具有合成视频动图象的屏面,上述动图象生成装置,在对象的屏面上合成图形动图象和视频动图象,上述对象信息,包含表示对象的屏面形状的信息,上述图形图象生成装置,进一步,利用包含表示屏面形状的信息的对象信息,计算从上述视点观察并将屏面投影到上述投影面上而得到的表示投影屏面的形状及位置的屏面信息,上述视频图象生成装置,在存储在上述图象存储装置内的图形静止图象上的由上述计算出的屏面信息所指示的位置上,写入所抽出的视频静止图象。
按照这种结构,具有可以在对象的屏面上合成视频动图象的效果。
这里,上述视频图象生成装置,在结构上也可以包括根据由上述屏面信息表示的形状使上述视频静止图象变形从而生成变形视频静止图象的图象变形装置,上述视频图象生成装置,将所生成的变形视频静止图象写入上述图象存储装置。
按照这种结构,由于可根据对象的屏面形状使视频静止图象变形,所以具有能够更写实地合成视频动图象的效果。
这里,也可以采用如下结构,即,上述对象具有多个屏面,上述视频动图象取得装置,从外部取得多个视频动图象,上述动图象合成装置,在多个屏面上分别将图形动图象与各视频动图象合成,上述对象信息,包含表示多个屏面的形状的信息,上述图形图象生成装置,对表示多个对象的屏面形状的每个信息计算屏面信息,上述视频图象生成装置,从多个视频动图象分别取得视频静止图象,并在由上述多个屏面信息所指示的位置上,写入分别取得的多个视频静止图象。
按照这种结构,具有即使对象有多个屏面时也可以在各个屏面上合成视频动图象的效果。
这里,也可以采用如下结构,即,上述视频图象生成装置,包括优先级决定装置,根据所计算出的多个屏面信息,按每个屏面决定优先级;视频图象译码装置,根据对多个视频动图象分别决定出的优先级,从视频动图象取得视频静止图象;屏蔽位置计算装置,根据所计算出的多个屏面信息及按每个屏面决定出的优先级,计算在每个投影面上对投影屏面进行屏蔽的位置;及屏蔽处理装置,在所计算出的进行屏蔽的位置上,对上述变形视频静止图象进行屏蔽处理;上述视频图象生成装置,将进行了屏蔽处理的变形视频静止图象写入上述图象存储装置。
按照这种结构,按照对象的屏面决定优先级,根据优先级从视频动图象取得视频静止图象,并对各屏面进行屏蔽,所以具有能够更写实地合成视频动图象的效果。
这里,也可以采用如下结构,即,上述优先级决定装置,利用所计算出的多个屏面信息决定优先级,使离上述视点越近的屏面具有越高的优先级。
按照这种结构,由于屏面离视点越近则使其优先级越高,所以具有能够更写实地合成视频动图象的效果。
这里,也可以采用如下结构,即,上述优先级决定装置,利用所计算出的多个屏面信息计算投影屏面的面积并决定优先级,使计算出的面积越大的投影屏面具有越高的优先级。
按照这种结构,由于投影屏面的面积越大则使其优先级越高,所以具有可以进一步提高图象质量的效果。
这里,也可以采用如下结构,即,上述视频图象译码装置取得视频静止图象的方式为,对优先级最高的视频动图象,从视频动图象取得其全部视频静止图象,而视频动图象的优先级越低,则从视频动图象略过的视频静止图象越多。
按照这种结构,由于优先级越低略过的静止图象越多,所以具有可以根据优先级对视频图象的画质进行译码的效果。
这里,也可以采用如下结构,即,上述视频图象译码装置,包括用于降低所取得的视频静止图象的亮度的画质校正部,其校正的方式为,对优先级最高的视频动图象,不降低视频静止图象的亮度,而视频动图象的优先级越低,则使视频静止图象的亮度越低。
按照这种结构,由于优先级越低则将亮度校正得越低,所以,具有可以在显示速率变低的可能性大的优先级低的动图象显示面上使闪烁不引人注意的效果。
另外,本发明的动图象合成装置,在对象的屏面上对从在三维空间内移动的视点观察对象而得到的图形动图象和由多个视频静止图象构成的视频动图象进行合成,该动图象合成装置的特征在于,备有信息存储装置,存储着表示三维空间中的对象形状和位置及对象的屏面形状的对象信息;视频动图象取得装置,从外部取得由连续的多个视频静止图象构成的视频动图象;图形静止图象存储装置;视频静止图象存储装置;图象存储装置;接收装置,反复接收表示在三维空间内移动的一个视点的位置的信息;图形图象生成装置,利用上述对象信息,生成从上述视点观察并将对象投影到投影面上而得到的图形静止图象,并将所生成的图形静止图象写入上述图形静止图象存储装置,还利用包含表示屏面形状的信息的对象信息,计算从上述视点观察并将屏面投影到上述投影面上而得到的表示投影屏面的形状及位置的屏面信息;及视频图象生成装置,在生成上述图形静止图象并写入上述图形静止图象存储装置的时间带,从上述所取得的视频动图象反复抽出视频静止图象,并将所抽出的视频静止图象写入上述视频静止图象存储装置;及选择装置,利用上述所计算出的屏面信息,从存储在上述图形静止图象存储装置内的图形静止图象或存储在上述视频静止图象存储装置内的视频静止图象选择构成各静止图象的象素,并将所选定的象素写入上述图象存储装置。
按照这种结构,由于可按不同的进程以并行方式进行图形静止图象的生成处理及视频静止图象的译码处理,所以,能以其各自的显示速率合成图形动图象和视频动图象,并通过信号的选择进行图象的合成,因而具有使装置的结构变得简单的效果。
这里,也可以采用如下结构,即,上述图形静止图象存储装置,包括第1图形存储部和第2图形存储部,上述视频静止图象存储装置,包括第1视频存储部和第2视频存储部,上述图形静止图象生成装置,将所取得的图形静止图象交替地写入第1图形存储部或第2图形存储部,上述视频图象生成装置,将所取得的视频静止图象交替地写入第1视频存储部或第2视频存储部,上述选择装置,在由上述图形图象生成装置将图形静止图象写入第1图形存储部的时间带,从第2图形存储部读出图形静止图象,将图形静止图象写入第2图形存储部的时间带,从第1图形存储部读出图形静止图象,在由上述视频图象生成装置将视频静止图象写入第1视频存储部的时间带,从第2视频存储部读出视频静止图象,在将视频静止图象写入第2视频存储部的时间带,从第1视频存储部读出视频静止图象,并从所读出的图形静止图象和视频静止图象选择构成各静止图象的象素。
按照这种结构,由于可按不同的进程以并行方式进行图形静止图象的生成处理、视频静止图象的译码处理、及对所生成的图形静止图象和视频静止图象的合成,所以,具有能以其各自的显示速率合成图形动图象和视频动图象、同时能更迅速地进行图形静止图象的生成处理、视频静止图象的译码处理、及对所生成的图形静止图象和视频静止图象的合成的效果。
这里,上述图形图象生成装置,也可以采用如下结构,即,利用上述对象信息,从上述视点观察并将对象投影到投影面上,进一步,通过进行润色处理而生成图形静止图象,按照这种结构,由于对图形图象进行润色处理,所以具有能生成写实的图形图象的效果。
这里,上述视频图象生成装置,在结构上也可以包括根据由上述屏面信息表示的形状使上述视频静止图象变形从而生成变形视频静止图象的图象变形装置,上述视频图象生成装置,将所生成的变形视频静止图象写入上述图象存储装置。
按照这种结构,由于可根据对象的屏面形状使视频静止图象变形,所以具有能够更写实地合成视频动图象的效果。
这里,也可以采用如下结构,即,上述对象具有多个屏面,上述视频动图象取得装置,从外部取得多个视频动图象,上述动图象合成装置,在多个屏面上分别将图形动图象与各视频动图象合成,上述对象信息,包含表示多个屏面的形状的信息,上述图形图象生成装置,对表示多个对象的屏面形状的每个信息计算屏面信息,上述视频图象生成装置,从多个视频动图象分别取得视频静止图象,并在由上述多个屏面信息所指示的位置上,写入分别取得的多个视频静止图象。
按照这种结构,具有即使对象有多个屏面时也可以在各个屏面上合成视频动图象的效果。
这里,也可以采用如下结构,即,上述视频图象生成装置,包括优先级决定装置,根据所计算出的多个屏面信息,按每个屏面决定优先级;视频图象译码装置,根据对多个视频动图象分别决定出的优先级,从视频动图象取得视频静止图象;屏蔽位置计算装置,根据所计算出的多个屏面信息及按每个屏面决定出的优先级,计算在每个投影面上对投影屏面进行屏蔽的位置;及屏蔽处理装置,在所计算出的进行屏蔽的位置上,对上述变形视频静止图象进行屏蔽处理;上述视频图象生成装置,将进行了屏蔽处理的变形视频静止图象写入上述视频静止图象存储装置。
按照这种结构,按照对象的屏面决定优先级,根据优先级从视频动图象取得视频静止图象,并对各屏面进行屏蔽,所以具有能够更写实地合成视频动图象的效果。
这里,也可以采用如下结构,即,上述优先级决定装置,利用所计算出的多个屏面信息决定优先级,使离上述视点越近的投影屏面具有越高的优先级。
按照这种结构,由于投影屏面离视点越近则使其优先级越高,所以具有能够更写实地合成视频动图象的效果。
这里,也可以采用如下结构,即,上述优先级决定装置,利用所计算出的多个屏面信息计算投影屏面的面积并决定优先级,使计算出的面积越大的投影屏面具有越高的优先级。
按照这种结构,由于投影屏面的面积越大则使其优先级越高,所以具有可以进一步提高图象质量的效果。
这里,也可以采用如下结构,即,上述视频图象译码装置取得视频静止图象的方式为,对优先级最高的视频动图象,从视频动图象取得其全部视频静止图象,而视频动图象的优先级越低,则从视频动图象略过的视频静止图象越多。
按照这种结构,由于优先级越低略过的静止图象越多,所以具有使视频图象的画质与优先级一致的效果。
这里,也可以采用如下结构,即,上述视频图象译码装置,包括用于降低所取得的视频静止图象的亮度的画质校正部,其校正的方式为,对优先级最高的视频动图象,不降低视频静止图象的亮度,而视频动图象的优先级越低,则使视频静止图象的亮度越低。
按照这种结构,由于优先级越低则将亮度校正得越低,所以,具有可以在显示速率变低的可能性大的优先级低的动图象显示面上使闪烁不引人注意的效果。
另外,本发明的动图象合成方法,用于动图象合成装置,该动图象合成装置,对从在三维空间内移动的视点观察对象而得到的图形动图象和由多个视频静止图象构成的视频动图象进行合成,并备有存储着表示三维空间中的对象形状和位置的对象信息的信息存储装置、及图象存储装置,该动图象合成方法的特征在于,包括视频动图象取得步骤,从外部取得由连续的多个视频静止图象构成的视频动图象;接收步骤,反复接收表示在三维空间内移动的一个视点的位置的信息;图形图象生成步骤,利用上述对象信息,生成从上述视点观察并将对象投影到投影面上而得到的图形静止图象,并将所生成的图形静止图象写入上述图象存储装置;及视频图象生成步骤,在生成上述图形静止图象并写入上述图象存储装置的时间带,从上述所取得的视频动图象反复抽出视频静止图象,并将所抽出的视频静止图象写入上述图象存储装置。
当采用这种方法时,显然可以取得与上述动图象合成装置相同的效果。
另外,本发明的动图象合成方法,用于动图象合成装置,该动图象合成装置,在对象的屏面上对从在三维空间内移动的视点观察对象而得到的图形动图象和由多个视频静止图象构成的视频动图象进行合成,并备有存储着表示三维空间中的对象形状和位置及对象的屏面形状的对象信息的信息存储装置、图形静止图象存储装置、视频静止图象存储装置、图象存储装置,该动图象合成方法的特征在于,包括视频动图象取得步骤,从外部取得由连续的多个视频静止图象构成的视频动图象;接收步骤,反复接收表示在三维空间内移动的一个视点的位置的信息;图形图象生成步骤,利用上述对象信息生成从上述视点观察并将对象投影到投影面上而得到的图形静止图象,并将所生成的图形静止图象写入上述图形静止图象存储装置,进一步,利用饱含表示屏面形状的信息的对象信息,计算从上述视点观察并将屏面投影到上述投影面上而得到的表示投影屏面的形状及位置的屏面信息;及视频图象生成步骤,在生成上述图形静止图象并写入上述图形静止图象存储装置的时间带,从上述所取得的视频动图象反复抽出视频静止图象,并将所抽出的视频静止图象写入上述视频静止图象存储装置;及选择步骤,利用上述所计算出的屏面信息,从存储在上述图形静止图象存储装置内的图形静止图象或存储在上述视频静止图象存储装置内的视频静止图象选择构成各静止图象的象素,并将所选定的象素写入上述图象存储装置。
当采用这种方法时,显然可以取得与上述动图象合成装置相同的效果。
另外,本发明的记录媒体,用于记录由计算机使用的动图象合成程序,该计算机,用于对从在三维空间内移动的视点观察对象而得到的图形动图象及由多个视频静止图象构成的视频动图象进行合成,并备有存储着表示三维空间中的对象的位置玫形状的对象信息的信息存储装置、及图象存储装置,该记录媒体的特征在于上述动图象合成程序,包括视频动图象取得步骤,从外部取得由连续的多个视频静止图象构成的视频动图象;接收步骤,反复接收表示在三维空间内移动的一个视点的位置的信息;图形图象生成步骤,利用上述对象信息生成从上述视点观察并将对象投影到投影面上而得到的图形静止图象,并将所生成的图形静止图象写入上述图象存储装置;及视频图象生成步骤,在生成上述图形静止图象并写入上述图象存储装置的时间带,从上述所取得的视频动图象反复抽出视频静止图象,并将所抽出的视频静止图象写入上述图象存储装置。
通过由计算机执行该程序,显然可以取得与上述动图象合成装置相同的效果。
另外,本发明的记录媒体,用于记录由计算机使用的动图象合成程序,该计算机,用于在对象的屏面上对从在三维空间内移动的视点观察对象而得到的图形动图象及由多个视频静止图象构成的视频动图象进行合成,并备有存储着表示三维空间中的对象的位置和形状及对象的屏面形状的对象信息的信息存储装置、图形静止图象存储装置、视频静止图象存储装置、图象存储装置,该记录媒体的特征在于上述动图象合成程序,包括视频动图象取得步骤,从外部取得由连续的多个视频静止图象构成的视频动图象;接收步骤,反复接收表示在三维空间内移动的一个视点的位置的信息;图形图象生成步骤,利用上述对象信息,生成从上述视点观察并将对象投影到投影面上而得到的图形静止图象,并将所生成的图形静止图象写入上述图形静止图象存储装置,还利用包含表示屏面形状的信息的对象信息,计算从上述视点观察并将屏面投影到上述投影面上而得到的表示投影屏面的形状及位置的屏面信息;及视频图象生成步骤,在生成上述图形静止图象并写入上述图形静止图象存储装置的时间带,从上述所取得的视频动图象反复抽出视频静止图象,并将所抽出的视频静止图象写入上述视频静止图象存储装置;及选择步骤,利用上述所计算出的屏面信息,从存储在上述图形静止图象存储装置内的图形静止图象或存储在上述视频静止图象存储装置内的视频静止图象选择构成各静止图象的象素,并将所选定的象素写入上述图象存储装置。
通过由计算机执行该程序,显然可以取得与上述动图象合成装置相同的效果。
附图的简单说明

图1示出作为本发明一实施形态的动图象合成装置10的外观。
图2是表示动图象合成装置10的结构的框图。
图3示出数据存储部102存储着的对象表的一例。
图4示出数据存储部102存储着的MPEG数据流的数据结构。
图5示出由显示部109显示的画面的一例。
图6以直观的形式示出动图象合成装置10的各处理进程中的数据。
图7是表示动图象合成装置10的动作的流程图。
图8是表示动图象合成装置10的动作时序的时间图。
图9是以直观的形式示出用现有技术合成图形静止图象和视频静止图象的情况的图。
图10是以直观的形式示出由动图象合成装置10合成图形静止图象和视频静止图象的情况的图。
图11示出作为本发明另一实施形态的数字广播接收装置20的外观。
图12是表示数字广播接收装置20的结构的框图。
图13是示出由显示部109显示的画面的一例。
图14以直观的形式示出数字广播接收装置20的各处理进程中的数据。
图15是表示数字广播接收装置20的动作的流程图。
图16是表示数字广播接收装置20的优先级计算动作的流程图。
图17是表示数字广播接收装置20的动作时序的时间图。
图18是表示作为本发明另一实施形态的动图象合成装置30的结构的框图。
图19示出动图象合成装置30的控制数据存储部内存储着的控制数据的一例。
图20以直观的形式示出动图象合成装置30的各处理进程中的数据。
图21示出动图象合成装置30的图形静止图象、视频静止图象及控制数据之间的对应关系。
图22是表示动图象合成装置30的动作的流程图。
图23是表示动图象合成装置30的图象合成动作的流程图。
图24是表示动图象合成装置30的动作时序的时间图。
图25是表示作为本发明另一实施形态的数字广播接收装置40的结构的框图。
图26以直观的形式示出数字广播接收装置40的各处理进程中的数据。
图27是表示数字广播接收装置20的动作时序的时间图。
图28是表示作为本发明另一实施形态的数字广播接收装置50的结构的框图。
图29是表示数字广播接收装置10的另一种动作时序的时间图。
图30是表示数字广播接收装置10的又一种动作时序的时间图。
用于实施发明的最佳形态参照附图详细说明本发明的实施形态。1 实施形态1对作为本发明一实施形态的动图象合成装置10进行说明。1.1 动图象合成装置10的结构动图象合成装置10,如图1所示,由本体部11、安装CD-ROM的CD-ROM驱动部12、执行程序的程序器13、存储程序和数据的半导体存储器14、监视器15、键盘16、扬声器17、鼠标18构成,该动图象合成装置10,读出记录在CD-ROM上的与三维对象有关的对象信息及视频图象,生成图形图象,并将视频图象粘贴于所生成的图形图象,然后显示在监视器15上。
动图象合成装置10的功能框图,示于图2。如该图所示,动图象合成装置10,包括输入部101、数据存储部102、坐标光源计算部103、润色处理部104、透视变换部105、图象译码部106、图象变形部107、帧缓冲器108、显示部109。
(1)输入部101输入部101,具体地说,由键盘16、鼠标18等构成。
输入部101,接收在如图5所示的移动方向指定菜单303上形成的按键321~327的输入。按键321~327,是分别接收向前、向后、向左、向右、向上、向下的指定的按键及接收操作结束的按键,当输入部101接收这些按键321~327的输入时,将指示向前、向后、向左、向右、向上、向下的信息及指示操作结束的信息输出到坐标光源计算部103。
输入部101,以每秒10次的速率接收按键321~327的输入。
(2)数据存储部102数据存储部102,具体地说,由CD-ROM和安装CD-ROM的CD-ROM驱动部12构成,在CD-ROM上记录着数据,CD-ROM驱动部12,根据请求而读出存储在CD-ROM上的数据。
数据存储部102,如图3和图4所示,存储着对象表201及MPEG数据流221。
对象表201,具有与配置在三维坐标空间A中的对象有关的信息,如图3所示,包括由对象名211、形状坐标212、位置坐标213及动图象显示面坐标214构成的组。每个组,对应着一个对象。
对象名211,是用于识别对象的识别名。
形状坐标212,由一个三维坐标空间B中的多个三维坐标值构成。该多个三维坐标值,表示形成对象的各点的三维坐标值。对象的一端,位于三维坐标空间B的原点。
位置坐标213,由三维坐标空间A中的一个三维坐标值构成。该三维坐标值,表示上述对象的一端在三维坐标空间A中设置的位置。
动图象显示面坐标214,由三维坐标空间B中的多个三维坐标值构成,该多个三维坐标值,是形状坐标212的一部分。对该多个三维坐标值进行选择,以使其表示一个有限的平面,并通过将视频动图象粘贴在由动图象显示面坐标214的多个三维坐标值表示的平面上进行显示。将该有限的平面称作动图象显示面或屏面。
MPEG数据流221,是根据MPEG(Moving Picture ExpertsGroup;运动图象专家组标准)的规定对视频动图象进行压缩编码后形成的代码序列,如图4所示,由SH(Sequence Header;序列标题)及GOP(Group of Picture;图象组)的多个组构成。GOP包含多个图象(Picture)。各个图象相当于1帧的静止图象。各图象包含多个时间片,各时间片,包含多个微数据块(MB),各微数据块,由4个亮度块Y、2个色差块Cb、Cr构成。各数据块,由8个×8个总计64个要素构成。更详细的内容是众所周知的,因而将其说明省略。
通过对连续的图象依次进行译码,看上去好象是运动起来的图象。
(3)坐标光源计算部103坐标光源计算部103,具体地说,由存储在半导体存储器14内的程序、处理器13等构成。
坐标光源计算部103,存储着三维坐标空间A中的视点坐标E(Ex、Ey、Ez),并从输入部101接收指示向前、向后、向左、向右、向上、向下的信息及指示操作结束的信息。
当接收指示向前、向后、向左、向右、向上、向下的信息时,坐标光源计算部103,根据接收到的信息,分别对视点坐标E进行如下所示的运算。
Ey=Ey+1Ey=Ey-1Ex=Ex+1Ex=Ex-1Ez=Ez+1Ez=Ez-1另外,坐标光源计算部103,从数据存储部102的对象表201按每个对象读出形状坐标212、位置坐标213、动图象显示面坐标214,将位置坐标213所示的坐标值与形状坐标212所示的各坐标值相加,并计算三维坐标空间A中的形成对象的各点的三维坐标。
接着,坐标光源计算部103,计算在三维坐标空间A中从视点坐标E(Ex、Ey、Ez)观察并将各对象的各点投影到对象与视点坐标E(Ex、Ey、Ez)之间虚拟存在的平面H上而形成的各点的二维坐标、及表示各点离平面H的深度的深度值。然后,坐标光源计算部103,利用上述二维坐标及深度值,进行将在监视器15的显示窗口内显示的部分抽出的裁剪处理,并将进行裁剪处理后的各对象的各点在平面H上的二维坐标及表示各点离平面H的深度的深度值输出到润色处理部104。有关平面H上的各点的二维坐标、表示各点离平面H的深度的深度值的计算方法及润色处理,是众所周知的,所以将其说明省略。
另外,坐标光源计算部103,以同样的方式,将位置坐标213所示的坐标值与动图象显示面坐标214所示的各坐标值相加,计算三维坐标空间A中的形成动图象显示面的各点的三维坐标,并将所算出的三维坐标输出到透视变换部105。
(4)润色处理部104润色处理部104,具体地说,由存储在半导体存储器14内的程序、处理器13等构成。
润色处理部104,从坐标光源计算部103接收各对象的各点在平面H上的二维坐标及表示各点离平面H的深度的深度值,并利用接收到的二维坐标及深度值,进行如下的润色处理,即,将从视点坐标观察对象时因隐藏在其他对象之后而实际上看不到的线和面删除的隐线·隐面删除处理、为使各对象看上去更有真实感而进行的各面的阴影显示、各面的颜色显示、及对各面的纹理粘贴等,从而形成作为位映象数据的图形静止图象,并将所形成的图形静止图象输出到帧缓冲器108。这里,图形静止图象,包括由横向640个象素、纵向480个象素、总计307200个象素构成的亮度信号图象Y;由横向320个象素、纵向240个象素、总计76800个象素构成的色差信号图象Cb;及由横向320个象素、纵向240个象素、总计76800个象素构成的色差信号图象Cr。各象素由8位构成。
另外,有关隐线·隐面删除处理、阴影显示、颜色显示、及纹理粘贴等润色处理,是众所周知的,所以将其说明省略。
(5)透视变换部105透视变换部105,具体地说,由存储在半导体存储器14内的程序、处理器13等构成。
透视变换部105,从坐标光源计算部103接收三维坐标空间A中的形成动图象显示面的各点的三维坐标,以与坐标光源计算部103相同的方式,根据接收到的三维坐标,计算形成动图象显示面的各点在平面H上的二维坐标,并将计算出的形成动图象显示面的各点的二维坐标输出到图象变形部107。
(6)图象译码部106图象译码部106,具体地说,由存储在半导体存储器14内的程序、处理器13等构成。
图象译码部106,读出存储在数据存储部102内的MPEG数据流221,通过扩展译码从所读出的MPEG数据流221反复生成1帧的视频静止图象,并将所生成的视频静止图象输出到图象变形部107。有关从MPEG数据流生成视频静止图象的方法,是众所周知的,所以将其说明省略。
图象译码部106,以每秒30帧的速率对视频静止图象进行扩展译码。
(7)图象变形部107图象变形部107,具体地说,由存储在半导体存储器14内的程序、处理器13等构成。
图象变形部107,从图象译码部106接收视频静止图象,并从透视变换部105接收形成动图象显示面的各点的二维坐标。接着,利用仿射变换将上述接收到的视频静止图象变形为由接收到的二维坐标表示的形状,从而生成变形视频静止图象,并通过将所生成的变形视频静止图象写在帧缓冲器108内的由上述接收到的二维坐标指示的区域上而进行输出。这里,所生成的变形视频静止图象,由多个象素构成。各象素由8位构成。
(8)帧缓冲器108帧缓冲器108,具体地说,由半导体存储器14等构成,用于存储静止图象。
(9)显示部109显示部109,具体地说,由监视器15构成。
显示部109,如图5所示,显示画面301。在画面301内,包含着显示窗口302及移动方向指定菜单303。
在移动方向指定菜单303上,显示着按键321-327。按键321~327,是分别接收向前、向后、向左、向右、向上、向下的指定的按键及接收操作结束的按键。
显示部109,在显示窗口302内显示存储在帧缓冲器108内的静止图象。1.2动图象合成装置10的动作(1)动图象合成装置10的动作参照图6和图7说明动图象合成装置10的动作。图6以直观的形式示出动图象合成装置10的各处理进程中的数据,图7用流程图示出动图象合成装置10的动作。
坐标光源计算部103,从数据存储部102的对象表201按每个对象读出形状坐标212、位置坐标213、动图象显示面坐标214(与对象有关的信息401)(步骤S101),从输入部101接收指示向前、向后、向左、向右、向上、向下的信息及指示操作结束的信息(步骤S102),并当接收到指示操作结束的信息时,结束处理(步骤S103)。如果接收到其他信息(步骤S103),则坐标光源计算部103,根据接收到的信息计算视点坐标E、计算三维坐标空间A中的形成对象的各点的三维坐标、计算在平面H上所形成的各点的二维坐标及表示各点离平面H的深度的深度值(信息402),并进行裁剪处理(步骤S104),润色处理部104,利用二维坐标及深度值,进行隐线·隐面删除处理、各面的阴影显示、各面的颜色显示、及对各面的纹理粘贴等润色处理,从而形成作为位映象数据的图形静止图象(图象403)(步骤S105),并将所形成的图形静止图象输出到帧缓冲器108(步骤S106)。然后,再次返回步骤S102并反复进行处理。
另外,在步骤S104之后,坐标光源计算部103,计算三维坐标空间A中的形成动图象显示面的各点的三维坐标,透视变换部105,计算形成动图象显示面的各点在平面H上的二维坐标(信息405)(步骤S111)。
另一方面,图象译码部106,读出存储在数据存储部102内的MPEG数据流221(步骤S121),通过译码从所读出的MPEG数据流221生成1帧的视频静止图象(步骤S122),图象变形部107,从图象译码部106接收视频静止图象(图象406),并从透视变换部105接收在步骤111中计算出的形成动图象显示面的各点的二维坐标,利用仿射变换将上述接收到的视频静止图象变形为由接收到的二维坐标表示的形状从而生成变形视频静止图象(图象407)(步骤S123),并通过将所生成的变形视频静止图象写在帧缓冲器108的由上述接收到的二维坐标指示的区域上而进行输出(步骤S124)。因此,可将变形视频静止图象粘贴于图形静止图象(图象404)。然后,再次返回步骤S121并反复进行处理。(2)动图象合成装置10的各构成要素的处理时序图8是表示各时刻的动图象合成装置10的各构成要素的处理时序的时间图。横轴表示时刻,纵轴表示动图象合成装置10的各构成要素的处理。
当生成新的图形静止图象和视频静止图象并将所生成的视频静止图象粘贴于图形静止图象时,图象译码处理C101、坐标光源计算C102、坐标光源计算C105同时开始。这里,坐标光源计算C102,是由坐标光源计算部103计算三维坐标空间A中的形成动图象显示面的各点的三维坐标,而坐标光源计算C105,则是由坐标光源计算部103计算对象在平面H上所形成的各点的二维坐标及表示各点离平面H的深度的深度值。当坐标光源计算C102结束时,进行透视变换C103,当透视变换C103结束时,进一步进行图象变形C104。另外,当坐标光源计算C105结束时,进行润色处理C106。当润色处理C106及图象变形C104结束时,进行显示C107。
当生成新的视频静止图象并将所生成的视频静止图象粘贴于先前生成的图形静止图象时,图象译码处理C111及坐标光源计算C112同时开始。这里,坐标光源计算C112,是由坐标光源计算部103计算三维坐标空间A中的形成动图象显示面的各点的三维坐标。当坐标光源计算C112结束时,进行透视变换C113,当透视变换C113结束时,进一步进行图象变形C114。当图象变形C104结束时,进行显示C117。
在图8中,对坐标光源计算C105及润色处理C106在短时间内结束的情况、具体地说就是在视频静止图象的译码周期时间(即从一个视频静止图象的译码开始到下一个视频静止图象的译码开始的时间。在本实施形态中,为1/30秒)内结束的情况进行了说明。(图形静止图象的生成处理时间长的情况)以下,说明存储在对象表201内的对象多、图形静止图象的生成处理(坐标光源计算及润色)不能在视频静止图象的译码周期时间内结束的情况。在这种情况下,输入部101,可以进行例如每秒100次等的速度极高的输入接收。
图29是表示各时刻的动图象合成装置10的各构成要素的处理时序的时间图。与图8一样,横轴表示时刻,纵轴表示动图象合成装置10的各构成要素的处理。
在该图中,图象译码C601、坐标光源计算C608、坐标光源计算C623同时开始。这里,坐标光源计算C608,仅将与粘贴视频静止图象的区域有关的点作为运算对象,与此不同,坐标光源计算C623,将所有对象作为运算对象。因此,当对象数多时,C623的处理时间要比C608长。此外,还规定坐标光源计算C608、C609及C610仅当分别进行坐标光源计算C623、C624及C625时进行。因此,图象变形C618及C619,分别利用透视变换C613的结果进行,图象变形C621,利用透视变换C614的结果进行。
然后,在图象变形C616及润色C626结束的时刻,进行显示C629。如假定作为图象变形C616的结果得到变形静止图象A1、作为润色C626的结果得到图形静止图象B1,则在显示C629中显示将变形静止图象A1与图形静止图象B1合成后的静止图象。
接着,从图象译码C601开始起经过一定时间后(例如,1/30秒),开始图象译码C602。在开始图象译码C601的同时,进行坐标光源计算C609,接着进行透视变换C613,然后进行图象变形C617。假定作为图象变形C617的结果得到变形静止图象A2。从C629开始起经过一定时间后(例如,1/30秒后),进行下一个显示C630。由于在开始显示C630的时刻下一个坐标光源计算C624正在处理中,所以将在显示C629中使用过的图形静止图象B1用作所显示的图形静止图象。即,在显示C630中,将图形静止图象B1与变形静止图象A2合成后进行显示。
下一步,从图象译码C602开始起经过一定时间后,开始图象译码C603。当图象译码C603结束时,根据透视变换C613的结果,进行图象变形C618,并得到变形静止图象A3。接着,由于在进行显示C631时润色C627尚未结束,所以利用作为润色C626的结果的变形静止图象B1,并在显示C631中将图形静止图象B1与变形静止图象A3合成后进行显示。
另外,在显示C632中,将作为润色C627的结果的图形静止图象B2与作为图象变形C619的结果的变形静止图象A4合成后进行显示。在这之后,以同样方式进行显示。
如上所述,能以一定的显示速率显示视频动图象,而与图形数据的处理时间无关。
坐标光源计算C608~C610,分别在坐标光源计算C623~C625已开始时执行,但如图8所示,也可以在每次进行图象译码的时刻执行。此外,也可以在开始润色时执行等在其他的时刻执行。(坐标光源计算和润色的流水线处理)另外,坐标光源计算和润色,也可以按流水线处理进行。在这种情况下表示各时刻的动图象合成装置10的各构成要素的处理时序的时间图,示于图30。在该图中,与图8一样,横轴表示时刻,纵轴表示动图象合成装置10的各构成要素的处理。
如该图所示,图象译码C701、坐标光源计算C708、坐标光源计算C725同时开始。当坐标光源计算C725结束时,下一个视点坐标的坐标光源计算C726、及利用了坐标光源计算C725的结果的润色C729同时开始,当润色C729结束时,进行显示C733。然后,当坐标光源计算C726结束时,下一个视点坐标的坐标光源计算C727、及利用了坐标光源计算C726的结果的润色C730同时开始,随后的处理相同。
如上所述,坐标光源计算和润色,按流水线处理进行,所以,可以缩短图形静止图象生成处理所需的时间。1.3 提要如上所述,按照不同的进程以并行方式进行图形静止图象的生成处理及视频静止图象的译码·变形处理,并将所生成的图形静止图象和视频静止图象在帧缓冲器中合成,所以,能以其各自的显示速率合成图形动图象和视频动图象。
具体地说,图形静止图象每秒生成10次,视频静止图象每秒生成30次,并在各自生成的时刻在帧缓冲器中合成。
图9是以直观的形式示出用现有技术合成图形静止图象和视频静止图象的情况的图。在该图中,作为图形图象的立方体,按图象501~503、508~510的顺序转动,并将视频动图象粘贴于立方体的屏面。如该图所示,由于使图形动图象的显示速率恒定,所以,当从图象503向图象508变化时,略过了构成视频动图象的几个帧的视频静止图象,因此,视频动图象不能平滑流畅地运动。
在图10中,以直观的形式示出由动图象合成装置10合成图形静止图象和视频静止图象的情况。在该图中,示出在图9的图象503与图象508之间生成的图象504~507。如该图所示,当从图象503向图象508变化时,构成视频动图象的几个帧的视频静止图象并没有被略过,而是贴附在图形静止图象上,因此,视频动图象看上去是平滑流畅的运动图象。
另外,由透视变换部105进行的透视变换,也可以由润色处理部104进行。因此,可以不必设置透视变换部105而将由润色处理部104进行透视变换后的计算结果输出到图象变形部107。此外,在图象变形部107中,也可以通过从透视变换部105获取转动信息而进行深度的校正、即所谓的透视校正。
另外,坐标光源计算部103、润色处理部104、透视变换部105、图象译码部106及图象变形部107,在上述实施形态中,由存储在半导体存储器14内的程序、处理器13等构成,但也可以分别由专用硬件构成。
另外,在上述实施形态中,视频动图象,假定为由MPEG规定的MPEG数据流,但也可以是其他数据结构。2 实施形态2对作为本发明另一实施形态的数字广播接收装置20进行说明。2.1 数字广播接收装置20的结构数字广播接收装置20,如图11所示,由本体部26、监视器21、遥控器22、天线23等构成,本体部26,具有沿每个信道传送由MPEG数据流构成的视频动图象并接收所播放的广播波的调谐器110、安装CD-ROM的CD-ROM驱动部、执行程序的程序器、存储程序和数据的半导体存储器,该数字广播接收装置20,读出记录在CD-ROM上的与三维对象有关的对象信息,并接收所播放的多个视频动图象,生成由多个对象构成的图形图象,各对象具有各自的动图象显示面,将各视频图象粘贴于所生成的图形图象的各动图象显示面后,显示在监视器21上。
数字广播接收装置20的功能框图,示于图12。如该图所示,数字广播接收装置20,包括输入部101、数据存储部102、坐标光源计算部103、润色处理部104、透视变换部105、图象译码部106a、106b、106c、图象变形部107a、107b、107c、帧缓冲器108、显示部109、调谐器110、优先级控制部111、屏蔽控制部112、屏蔽处理部113a、113b、113c、天线23。
(1)输入部101
输入部101,具体地说,由遥控器22等等构成。
在遥控器22的上表面,如图11所示,备有数字按键、移动方向指定按键25、菜单按键24等,当使用者操作这些按键时,将与所操作的按键对应的信息输出到调谐器110及坐标光源计算部103。
数字按键,在指定接收视频动图象的信道时操作,菜单按键24,在将如图13所示的节目菜单显示在监视器21上时操作,移动方向指定按键25,在该图所示的节目菜单中移动虚拟的视点时操作,用于指示向前、向后、向左、向右、向上、向下的移动。
(2)数据存储部102数据存储部102,与动图象合成装置10的数据存储部102相同,用于存储对象表201。
对象表201,与存储在动图象合成装置10的数据存储部102内的对象表201相同。
(3)坐标光源计算部103坐标光源计算部103,与动图象合成装置10的坐标光源计算部103相同,由存储在半导体存储器14内的程序、处理器等构成。
坐标光源计算部103,存储着三维坐标空间A中的视点坐标E(Ex、Ey、Ez),并从输入部101接收指示向前、向后、向左、向右、向上、向下的信息及指示操作结束的信息。
当接收指示向前、向后、向左、向右、向上、向下的信息时,坐标光源计算部103,根据接收到的信息,分别对视点坐标E进行如下所示的运算。
Ey=Ey+1Ey=Ey-1Ex=Ex+1Ex=Ex-1Ez=Ez+1Ez=Ez-1另外,坐标光源计算部103,从数据存储部102的对象表201按每个对象读出形状坐标212、位置坐标213、动图象显示面坐标214,将位置坐标213所示的坐标值与形状坐标212所示的各坐标值相加,并计算三维坐标空间A中的形成对象的各点的三维坐标。
接着,坐标光源计算部103,计算在三维坐标空间A中从视点坐标E(Ex、Ey、Ez)观察并将各对象的各点投影到对象与视点坐标E(Ex、Ey、Ez)之间虚拟存在的平面H上而形成的各点的二维坐标、及表示各点离平面H的深度的深度值。然后,坐标光源计算部103,利用上述二维坐标及深度值,进行将在监视器15的显示窗口内显示的部分抽出的裁剪处理,并将进行裁剪处理后的各对象的各点在平面H上的二维坐标及表示各点离平面H的深度的深度值输出到润色处理部104。有关平面H上的各点的二维坐标、表示各点离平面H的深度的深度值的计算方法及润色处理,是众所周知的,所以将其说明省略。
另外,坐标光源计算部103,以同样的方式,将位置坐标213所示的坐标值与形状坐标212所示的各坐标值相加,计算三维坐标空间A中的形成各对象的各点的三维坐标,并将所算出的三维坐标输出到透视变换部105和优先级控制部111。
(4)润色处理部104润色处理部104,与动图象合成装置10的润色处理部104相同,因而将说明省略。
(5)透视变换部105透视变换部105,与动图象合成装置10的透视变换部105相同,由存储在半导体存储器14内的程序、处理器13等构成。
透视变换部105,从坐标光源计算部103接收三维坐标空间A中的形成各对象的各点的三维坐标,以与坐标光源计算部103相同的方式,根据接收到的三维坐标,计算形成各对象的动图象显示面的各点在平面H上的二维坐标,并将计算出的形成各对象的动图象显示面的各点的二维坐标输出到与各对象对应的图形变形部107a、107b、107c,将计算出的形成各对象的动图象显示面的各点在平面H上的二维坐标输出到优先级控制部111。
(6)优先级控制部111优先级控制部111,从坐标光源计算部103接收三维坐标空间A中的形成各对象的各点的三维坐标,并从透视变换部105接收形成各对象的动图象显示面的各点在平面H上的二维坐标。
优先级控制部111将形成一个对象的动图象显示面的各点的Z坐标值中的最大的Z坐标值作为对象的代表值,并以同样的方式对各对象决定代表值。然后,从具有最小的代表值的对象起按顺序赋予优先级。由此,可以对每个对象的动图象显示面赋予优先级。
接着,优先级控制部111根据形成各对象的各点的三维坐标,对动图象显示面相互重合着的对象进行检测,并检测在重合的动图象显示面中具有最接近正面的动图象显示面的对象。进一步,将所检出的上述最接近正面的动图象显示面的优先级保持不变,而将具有相互重合的其他动图象显示面的对象的优先级依次降低。
按照如上方式,决定对象的优先级。如按这种方式决定优先级,则在三维空间中,离平面H越近,优先级越高。根据该优先级,决定各图象译码部的优先级,并将所决定的各对象的图象显示面输出到对应的图象译码部106a、106b、106c。
(7)天线23、调谐器110天线23,接收广播波,并将所接收的广播波输出到调谐器110。
调谐器110,从输入部101接收与菜单按键24对应的信息,在接收该信息后,从由天线23接收到的广播波中选择通过3个信道播放的3个由MPEG数据流构成的视频动图象,并将所选定的3个视频动图象分别输出到图象译码部106a、106b、106c。
(8)图象译码部106a、106b、106c图象译码部106a,与动图象合成装置10的图象译码部106相同,由存储在半导体存储器14内的程序、处理器13等构成。
图象译码部106a,从优先级控制部111接收优先级。
另外,图象译码部106a,从调谐器110接收由1个MPEG数据流构成的视频动图象,根据上述接收到的优先级,通过扩展译码从接收到的MPEG数据流反复生成1帧的视频静止图象,并将所生成的视频静止图象输出到图象变形部107a。
当接收到最高优先级时,图象译码部106a,从MPEG数据流中对全部静止图象进行扩展译码。
当接收到中等程度的优先级时,图象译码部106a,从MPEG数据流中对静止图象每隔一个进行扩展译码。
当接收到低的优先级时,图象译码部106a,从MPEG数据流对每4个静止图象中的1个进行扩展译码。换句话说,在每4个静止图象中略过3个。
这样,优先级越低,则从MPEG数据流中略过而不进行扩展译码的静止图象越多。
图象译码部106b、106c,与图象译码部106a相同。
(9)图象变形部107a、107b、107c图象变形部107a,与动图象合成装置10的图象变形部107相同,由存储在半导体存储器14内的程序、处理器13等构成。
图象变形部107a,从图象译码部106a接收视频静止图象,并从透视变换部105接收形成动图象显示面的各点的二维坐标。接着,利用仿射变换将上述接收到的视频静止图象变形为由接收到的二维坐标表示的形状,从而生成变形视频静止图象,并将所生成的变形视频静止图象输出到屏蔽处理部113a。
图象变形部107b、107c,与图象变形部107a相同。
(10)屏蔽控制部112屏蔽控制部112,具体地说,由存储在半导体存储器14内的程序、处理器13等构成。
屏蔽控制部112,从坐标光源计算部103接收三维坐标空间A中的形成各对象的各点的三维坐标,并从透视变换部105接收形成各对象的动图象显示面的各点在平面H上的二维坐标,并利用接收到的形成各对象的各点的三维坐标及各点在平面H上的二维坐标,检测对象的重合,对每个动图象显示面计算因隐藏在其他对象之后而看不到的屏蔽区域,并将计算出的屏蔽区域输出到各对象的图象显示面对应的屏蔽处理部113 a、113b、113c。
(11)屏蔽处理部113a、113b、113c屏蔽处理部113a,具体地说,由存储在半导体存储器14内的程序、处理器13等构成。
屏蔽处理部113a,从透视变换部105接收形成各对象的动图象显示面的各点的二维坐标。
另外,屏蔽处理部113a,从图象变形部107a接收变形视频静止图象,从屏蔽控制部112接收屏蔽区域,并将变形视频静止图象中由屏蔽区域指示的区域内所包含的全部象素值设定为0。然后,屏蔽控制部112,通过将由屏蔽区域指示的区域内包含的全部象素值为0的变形视频静止图象写在帧缓冲器108内的由上述接收到的二维坐标指示的区域上而进行输出。
(12)帧缓冲器108帧缓冲器108,与动图象合成装置10的帧缓冲器108相同。
(13)显示部109显示部109,如图13所示,显示画面321在画面321内,显示着对象332、333、334,各对象具有图象显示面322、323、324,在各图象显示面上,显示着各视频动图象。2.2 数字广播接收装置20的动作(1)数字广播接收装置20的动作参照图14-图16说明数字广播接收装置20的动作。图14以直观的形式示出数字广播接收装置20的各处理进程中的数据,图15用流程图示出数字广播接收装置20的动作,图16用流程图示出数字广播接收装置20的优先级控制部111的动作。
在图15的流程图示出的步骤中,具有与图7流程图所示步骤相同的符号的步骤,与图7流程图所示步骤的内容相同。这里,以与图7流程图的不同点为中心进行说明。
根据存储在数据存储部102内的与对象有关的信息411,计算三维坐标空间A中的形成各对象的各点的三维坐标412,并根据三维坐标412计算形成动图象显示面的坐标414。此外,根据三维坐标412形成图形静止图象413。
在步骤S111中,当形成动图象显示面的坐标414的计算结束时,优先级控制部111对每个图象译码部决定优先级,并将所决定的优先级输出到对应的图象译码部(步骤S201)。然后,图象译码部106a,接收MPEG数据流(步骤S121a),通过对接收到的MPEG数据流进行过扩展译码而生成视频静止图象415(步骤S122a),并根据优先级决定是否再生视频静止图象,如果不再生(步骤S202a),则返回步骤S201,如果再生(步骤S202a),则图象变形部107a将视频静止图象变形从而生成变形视频静止图象416(步骤S123a),屏蔽处理部113a,生成进行了屏蔽处理的变形视频静止图象417(步骤S203a),并写入帧缓冲器108(步骤S124a),然后,返回步骤S201。
在步骤S121b~S122b、S202b、S123b、S203b、S124b中,同样,也生成视频图象418,生成变形视频静止图象419,并将进行了屏蔽处理的变形视频静止图象420写入帧缓冲器108。此外,在步骤S121c~S122c、S202c、S123c、S203c、S124c中,同样,也生成视频静止图象421,生成变形视频静止图象422,并将进行了屏蔽处理的变形视频静止图象423写入帧缓冲器108。
按照如上方式,即可在帧缓冲器中形成表示3个对象的图形静止图象及将3个视频静止图象贴在各动图象显示面上的静止图象425。
以下,说明步骤S201中的由优先级控制部111进行的决定优先级的动作。
优先级控制部111,将形成对象的动图象显示面的各点的Z坐标值中的最大的Z坐标值作为对象的代表值,并以同样的方式对各对象决定代表值,从具有最小的代表值的对象起按顺序赋予优先级(步骤211)。接着,优先级控制部111,根据形成各对象的各点的三维坐标,对动图象显示面相互重合着的对象进行检测(步骤S211),并检测在重合的动图象显示面中具有最接近正面的动图象显示面的对象(步骤S213),并将所检出的上述最接近正面的动图象显示面的优先级保持不变,而将具有相互重合的其他动图象显示面的对象的优先级依次降低(步骤S214)。(2)数字广播接收装置20的各构成要素的处理时序图17是表示各时刻的数字广播接收装置20的各构成要素的处理时序的时间图。横轴表示时刻,纵轴表示数字广播接收装置20的各构成要素的处理。
当生成新的图形静止图象和视频静止图象并将所生成的视频静止图象粘贴于图形静止图象时,坐标光源计算C204及坐标光源计算C211同时开始。这里,坐标光源计算C204,是由坐标光源计算部103计算三维坐标空间A中的形成动图象显示面的各点的三维坐标,而坐标光源计算C211,则是由坐标光源计算部103计算对象在平面H上所形成的各点的二维坐标及表示各点离平面H的深度的深度值。接着,当坐标光源计算C204结束时,进行透视变换C205,当透视变换C205结束时,优先级控制C206及屏蔽控制C207同时开始。接着,当优先级控制C206结束时,由图象译码部106a、106b、106c开始进行图象译码C201、C202、C203,当各图象译码C201、C202、C203结束时,开始进行图象变形·屏蔽处理C208、C209、C210。另一方面,当坐标光源计算C211结束时,进行润色处理C212。当润色处理C212、图象变形·屏蔽处理C208、C209、C210结束时,进行显示C213。
当生成新的视频静止图象并将所生成的视频静止图象粘贴于先前生成的图形静止图象时,坐标光源计算C224开始。这里,坐标光源计算C224,是由坐标光源计算部103计算三维坐标空间A中的形成动图象显示面的各点的三维坐标。当坐标光源计算C224结束时,进行透视变换C225,当透视变换C225结束时,优先级控制C226及屏蔽控制C227同时开始。接着,当优先级控制C226结束时,由图象译码部106a、106b、106c开始进行图象译码C221、C222、C223,当各图象译码C221、C222、C223结束时,开始进行图象变形·屏蔽处理C228、C229、C230。当图象变形·屏蔽处理C228、C229、C230结束时,进行显示C231。2.3提要如上所述,按照不同的进程以并行方式进行图形静止图象的生成处理及多个视频静止图象的译码·变形处理,并将所生成的图形静止图象和多个视频静止图象在帧缓冲器中合成,所以,能以其各自的显示速率合成图形动图象和多个视频动图象。另外,由于使最接近正面的动图象显示面具有较高的优先级并使由对应的图象译码部译码的视频静止图象的每一定时间的帧数增多,所以能够根据优先级改善画质。
优先级控制部111以Z坐标值为基准并使最接近正面的动图象显示面具有较高的优先级,但也可以将动图象显示面的面积作为基准,并计算动图象显示面的面积,而且,该面积越大,具有的优先级越高。
另外,坐标光源计算部103、润色处理部104、透视变换部105、图象译码部106a、106b、106c、图象变形部107a、107b、107c、优先级控制部111、屏蔽控制部112、屏蔽处理部113a、113b、113c,在上述实施形态中,由存储在半导体存储器14内的程序、处理器等构成,但也可以分别由专用硬件构成。
另外,可以使图象译码部106a、106b、106c中进行优先级较高的处理的图象译码部由专用硬件构成,而进行优先级较低的处理的图象译码部,可以由存储在半导体存储器14内的程序、处理器等构成。因此,能够快速地对优先级高的视频动图象进行译码处理。3 实施形态3对作为本发明另一实施形态的动图象合成装置30进行说明。3.1 动图象合成装置30的结构动图象合成装置30,与动图象合成装置10一样,由本体部11、安装CD-ROM的CD-ROM驱动部12、执行程序的程序器13、存储程序和数据的半导体存储器14、监视器15、键盘16、扬声器17、鼠标18构成,该动图象合成装置30,读出记录在CD-ROM上的与三维对象有关的对象信息及视频图象,并生成图形图象,将视频图象粘贴于所生成的图形图象后,显示在监视器15上。
动图象合成装置30的功能框图,示于图18。如该图所示,动图象合成装置30,包括输入部101、数据存储部102、坐标光源计算部103、润色处理部104、透视变换部105、图象译码部106、图象变形部107、帧缓冲器108、显示部109、控制数据存储部114、静止图象存储部115、图形图象存储部116、选择部117。
在动图象合成装置30的构成要素中,与动图象合成装置10的构成要素具有相同符号的构成要素,结构与动图象合成装置10的构成要素相同。在下文中,以与动图象合成装置10的构成要素的不同点为中心进行说明。(1)图形图象存储部116图形图象存储部116,具有图形图象区域A116a及图形图象区域B116b,图形图象区域A116a及图形图象区域B116b,分别存储图形静止图象。(2)润色处理部104润色处理部104,将所形成的图形静止图象交替地输出到图形图象区域A116a及图形图象区域B116b中的任何一个,而不是输出到帧缓冲器108。(3)控制数据存储部114控制数据存储部114,具有控制数据区域A114a及控制数据区域B114b,控制数据区域A114a及控制数据区域B114b,分别存储控制数据。(4)透视变换部105透视变换部105,进一步,如下文所述,生成控制数据,并将所生成的控制数据交替地输出到控制数据区域A114a及控制数据区域B114b中的任何一个。
作为控制数据的一例,在图19中示出控制数据601。控制数据601,是由横向640位、纵向480位、总计307200位构成数据序列。各位具有「0」或「1」的值。控制数据601的各位,对应于由润色处理部104生成的图形静止图象的各个象素。
透视变换部105,对控制数据601中的与动图象显示面对应的位,全部设定为「1」值,对其他的位,设定为「0」值。(5)静止图象存储部115静止图象存储部115,具有静止图象区域A115a及静止图象区域B115b,静止图象区域A115a及静止图象区域B115b,分别存储视频静止图象。(6)图象变形部107图象变形部107,将所生成的变形视频静止图象交替地输出到静止图象区域A115a及静止图象区域B115b中的任何一个,而不是通过将所生成的变形视频静止图象写在帧缓冲器108的由上述接收到的二维坐标指示的区域上而进行输出。(7)选择部117选择部117,从图形图象区域A116a及图形图象区域B116b中的任何一个交替地读出图形静止图象,从静止图象区域A115a及静止图象区域B115b中的任何一个交替地读出视频静止图象,并从控制数据区域A114a及控制数据区域B114b中的任何一个交替地读出控制数据。
选择部117,对所读出的控制数据的每个位进行判断,如果该位为「0」,则从构成所读出的图形静止图象的象素中读出位于与该位对应的位置的象素,并将所读出的象素写入帧缓冲器108的对应位置,如果该位为「1」,则从构成所读出的视频静止图象的象素中读出位于与该位对应的位置的象素,并将所读出的象素写入帧缓冲器108的对应位置3.2 动图象合成装置30的动作参照图20-图24说明动图象合成装置30的动作。(1)动图象合成装置30的各处理进程中的数据形状图20以直观的形式示出动图象合成装置30的各处理进程中的数据。
如该图所示,坐标光源计算部103,利用与对象有关的信息451计算三维坐标空间A中的形成各对象的各点的三维坐标452,润色处理部104,进行润色处理,形成作为位映象数据的图形静止图象,并将所形成的图形静止图象输出到图形图象区域B116b,透视变换部105,计算形成动图象显示面的各点在平面H上的二维坐标453,生成控制数据,并将控制数据输出到控制数据区域B114b,图象变形部107,生成使视频静止图象454变形后的变形视频静止图象,并将所生成的变形视频静止图象输出到静止图象区域B115b。
另一方面,选择部117,从图形图象区域A116a读出图形静止图象,从静止图象区域A115a读出视频静止图象,从控制数据区域A114a读出控制数据,利用所读出的控制数据将图形静止图象和视频静止图象合成后,写入帧缓冲器108。
在另外的时刻,润色处理部104,将所形成的图形静止图象输出到图形图象区域A116a,透视变换部105,将控制数据输出到控制数据区域A114a,图象变形部107,将变形视频静止图象输出到静止图象区域A115a。另一方面,选择部117,从图形图象区域B116b读出图形静止图象,从静止图象区域B115b读出视频静止图象,利用所读出的控制数据将图形静止图象和视频静止图象合成后,写入帧缓冲器108。
按照上述方式,各数据对图形图象区域A116a、控制数据区域A114a、静止图象区域A115a的输出及从图形图象区域B116b、静止图象区域B115b、控制数据区域B114b的各数据的读出,可以与各数据对图形图象区域B116b、控制数据区域B114b、静止图象区域B115b的输出及从图形图象区域A116a、静止图象区域A115a、控制数据区域A114a的各数据的读出交替地反复进行。(2)图形静止图象、视频静止图象及控制数据之间的对应关系图21示出动图象合成装置30的图形静止图象、视频静止图象及控制数据之间的对应关系。
在该图中,与图形静止图象471的不是动图象显示面的部分47a对应的控制数据473的位473a,是「0」,将不是动图象显示面的部分471a写入帧缓冲器108。
另外,与视频静止图象472的部分472a对应的控制数据473的位473b,是「1」,将视频静止图象472的部分472a写入帧缓冲器108。(3)动图象合成装置30的动作图22是表示动图象合成装置30的动作的流程图。
坐标光源计算部103,从数据存储部102的对象表201按每个对象读出形状坐标212、位置坐标213、动图象显示面坐标214(步骤S101),从输入部101接收指示向前、向后、向左、向右、向上、向下的信息及指示操作结束的信息(步骤S102),并当接收到指示操作结束的信息时,结束处理(步骤S103)。当接收到其他信息时(步骤S103),如果是进行图形计算的时刻(步骤S301),则坐标光源计算部103,根据接收到的信息计算视点坐标E、计算三维坐标空间A中的形成对象的各点的三维坐标、计算在平面H上所形成的各点的二维坐标及表示各点离平面H的深度的深度值,并进行裁剪处理(步骤S104),润色处理部104,利用二维坐标及深度值,进行隐线·隐面删除处理、各面的阴影显示、各面的颜色显示、及对各面的纹理粘贴等润色处理,形成作为位映象数据的图形静止图象(步骤S105),并将所形成的图形静止图象输出到图形图象区域A116a或图形图象区域B116b(步骤S106)。然后,再次返回步骤S102并反复进行处理。
另外,在步骤S104之后,坐标光源计算部103,计算三维坐标空间A中的形成动图象显示面的各点的三维坐标,透视变换部105,计算形成动图象显示面的各点在平面H上的二维坐标(步骤S111),并将控制转移到步骤S123。另外,透视变换部105,还生成控制数据(步骤304),然后返回步骤S102并反复进行处理。
如果不是进行图形计算的时刻(步骤S301),则再次返回步骤S102并反复进行处理。
另一方面,图象译码部106,读出存储在数据存储部102内的MPEG数据流221(步骤S121),通过译码从所读出的MPEG数据流221反复生成1帧的视频静止图象(步骤S122),图象变形部107,从图象译码部106接收视频静止图象,并从透视变换部105接收在步骤111中计算出的形成动图象显示面的各点的二维坐标,利用仿射变换将上述接收到的视频静止图象变形为由接收到的二维坐标表示的形状从而生成变形视频静止图象(步骤S123),并将所生成的变形视频静止图象输出到静止图象区域A115a或静止图象区域B115b(步骤S124)。然后,再次返回步骤S102并反复进行处理。
另外,选择部117,从图形图象区域A116a或图形图象区域B116b读出图形静止图象,从静止图象区域A115a或静止图象区域B115b读出视频静止图象,从控制数据区域A114a或控制数据区域B114b读出控制数据,并利用所读出的控制数据将图形静止图象和视频静止图象进行合成,将合成后的静止图象,写入帧缓冲器108(步骤S305),显示部109,从帧缓冲器108读出并显示静止图象(步骤S306),然后,再次返回步骤S102并反复进行处理。
图23是表示动图象合成装置30的图象合成动作的流程图。
选择部117,如下所述,对写入帧缓冲器108的静止图象的所有象素反复进行步骤S312~S314。
选择部117,当控制数据的位C(x、y)为「1」时(步骤S312),将帧缓冲器108的静止图象的象素F(x、y)设定为视频静止图象的象素V(x、y)(步骤S313),当控制数据的位C(x、y)为「0」时(步骤S312),将帧缓冲器108的静止图象的象素F(x、y)设定为图形静止图象的象素G(x、y)(步骤S314)。这里,(x、y)是表示静止图象位置的坐标。(4)动图象合成装置30的各构成要素的处理时序图24是表示各时刻的动图象合成装置30的各构成要素的处理时序的时间图。横轴表示时刻,纵轴表示动图象合成装置30的各构成要素的处理。
当生成新的图形静止图象和视频静止图象并将所生成的视频静止图象粘贴于图形静止图象时,图象译码处理C301、坐标光源计算C302、坐标光源计算C305、合成C307同时开始。这里,坐标光源计算C302,是由坐标光源计算部103计算三维坐标空间A中的形成动图象显示面的各点的三维坐标,而坐标光源计算C305,则是由坐标光源计算部103计算对象在平面H上所形成的各点的二维坐标及表示各点离平面H的深度的深度值。当坐标光源计算C302结束时,进行透视变换C303,当透视变换C303结束时,进一步进行图象变形C304。另外,当坐标光源计算C305结束时,进行润色处理C306。进一步,当合成307结束时,进行显示C308。
当生成新的视频静止图象并将所生成的视频静止图象粘贴于先前生成的图形静止图象时,图象译码处理C311、坐标光源计算C312、合成317同时开始。这里,坐标光源计算C312,是由坐标光源计算部103计算三维坐标空间A中的形成动图象显示面的各点的三维坐标。当坐标光源计算C312结束时,进行透视变换C313,当透视变换C313结束时,进一步进行图象变形C314。当合成C317结束时,进行显示C318。3.3 提要如上所述,按照不同的进程以并行方式进行图形静止图象的生成处理、视频静止图象的译码·变形处理、及所生成的图形静止图象和视频静止图象的合成,所以,能以其各自的显示速率合成图形动图象和视频动图象,同时能更迅速地进行图形静止图象的生成处理、视频静止图象的译码·变形处理、及所生成的图形静止图象和视频静止图象的合成,4 实施形态4对作为本发明另一实施形态的数字广播接收装置40进行说明。4.1数字广播接收装置40的结构数字广播接收装置40,与数字广播接收装置20一样,由本体部26、监视器21、遥控器22、天线23等构成,该数字广播接收装置40,读出记录在CD-ROM上的与三维对象有关的对象信息,并接收所播放的多个视频动图象,生成由多个对象构成的图形图象,各对象具有各自的动图象显示面,将各视频图象粘贴于所生成的图形图象的各动图象显示面后,显示在监视器21上。
在本实施形态中,接收第1、第2和第3视频动图象,第1、第2和第3对象分别具有第1、第2和第3动图象显示面。
数字广播接收装置40的功能框图,示于图25。如该图所示,数字广播接收装置40,包括输入部101、数据存储部102、坐标光源计算部103、润色处理部104、透视变换部105、图象译码部106a、106b、106c、图象变形部107a、107b、107c、帧缓冲器108、显示部109、调谐器110、优先级控制部111、控制数据存储部114、静止图象存储部115、图形图象存储部116、选择部117、天线23。
在数字广播接收装置40的构成要素中,与数字广播接收装置20的构成要素具有相同符号的构成要素,结构与数字广播接收装置20的构成要素相同。此外,控制数据存储部114、静止图象存储部115、图形图象存储部116及选择部117,分别与动图象合成装置30的控制数据存储部114、静止图象存储部115、图形图象存储部116、选择部117相同。
因此,数字广播接收装置40是数字广播接收装置20与动图象合成装置30的组合。
在下文中,以与数字广播接收装置20的构成要素的不同点为中心进行说明。(1)润色处理部104润色处理部104,将所形成的图形静止图象交替地输出到图形图象区域A116a及图形图象区域B116b中的任何一个,而不是输出到帧缓冲器108。(2)透视变换部105透视变换部105,进一步,与动图象合成装置30的透视变换部105一样,生成控制数据,并将所生成的控制数据交替地输出到控制数据区域A114a及控制数据区域B114b中的任何一个。
这里,控制数据,作为一例,是由横向640个、纵向480个、总计307200个构成的数据序列。各数据由2位构成,具有「0」、「1」、「2」或「3」的值。各数据,对应于由润色处理部104生成的图形静止图象的各个象素。
透视变换部105,对控制数据中的与第1动图象显示面对应的位,全部设定为「1」值,对与第2动图象显示面对应的位,全部设定为「2」值,对与第3动图象显示面对应的位,全部设定为「3」值,对其他的位,设定为「0」值。另外,对多个动图象显示面的重合的部分,采用最上边的动图象显示面的值。(3)图象变形部107a、107b、107c图象变形部107a,将所生成的变形视频静止图象交替地输出到静止图象区域A115a及静止图象区域B115b中的任何一个,而不是输出到屏蔽处理部113a。
图象变形部107b、107c,与图象变形部107a相同。(4)选择部117选择部117,对所读出的控制数据的每个数据进行判断,如果该位为「0」,则从构成所读出的图形静止图象的象素中读出位于与该位对应的位置的象素,并将所读出的象素写入帧缓冲器108的对应位置,如果该位为「1」,则从构成所读出的第1视频静止图象的象素中读出位于与该位对应的位置的象素,并将所读出的象素写入帧缓冲器108的对应位置,如果该位为「2」,则从构成所读出的第2视频静止图象的象素中读出位于与该位对应的位置的象素,并将所读出的象素写入帧缓冲器108的对应位置,如果该位为「3」,则从构成所读出的第2视频静止图象的象素中读出位于与该位对应的位置的象素,并将所读出的象素写入帧缓冲器108的对应位置,4.2数字广播接收装置40的动作(1)数字广播接收装置40的各处理进程中的数据参照图26说明数字广播接收装置40的动作。该图以直观的形式示出数字广播接收装置40的各处理进程中的数据,如该图所示,坐标光源计算部103,利用与对象有关的信息701计算三维坐标空间A中的形成各对象的各点的三维坐标704,润色处理部104,进行润色处理,形成作为位映象数据的图形静止图象702,并将所形成的图形静止图象702输出到图形图象区域B116b,透视变换部105,计算形成动图象显示面的各点在平面H上的二维坐标,生成控制数据705,并将控制数据705输出到控制数据区域B114b,图象变形部107a、107b、107c,分别从视频静止图象707、711、715生成变形视频静止图象708、712、716,并将所生成的变形视频静止图象708、712、716输出到静止图象区域B115b。
另一方面,选择部117,从图形图象区域A116a读出图形静止图象703,从静止图象区域A115a读出视频静止图象710、714、718,从控制数据区域A114a读出控制数据706,利用所读出的控制数据706将图形静止图象703和视频静止图象710、714、718合成后,生成静止图象719,写入帧缓冲器108。(2)数字广播接收装置40的各构成要素的处理时序图27是表示各时刻的数字广播接收装置40的各构成要素的处理时序的时间图。横轴表示时刻,纵轴表示数字广播接收装置40的各构成要素的处理。
当生成新的图形静止图象和视频静止图象并将所生成的视频静止图象粘贴于图形静止图象时,坐标光源计算C404、坐标光源计算C410、合成C412同时开始。这里,坐标光源计算C404,是由坐标光源计算部103计算三维坐标空间A中的形成动图象显示面的各点的三维坐标,而坐标光源计算C410,则是由坐标光源计算部103计算对象在平面H上所形成的各点的二维坐标及表示各点离平面H的深度的深度值。当坐标光源计算C404结束时,进行透视变换C405,当透视变换C405结束时,开始进行优先级控制C406。接着,当优先级控制C406结束时,由图象译码部106a、106b、106c开始进行图象译码C401、C402、C403,当各图象译码C401、C402、C403结束时,开始进行图象变形C407、C408、C409。另一方面,当坐标光源计算C410结束时,进行润色C411。当合成412结束时,进行显示C413。
当生成新的视频静止图象并将所生成的视频静止图象粘贴于先前生成的图形静止图象时,坐标光源计算C424及合成C432同时开始。这里,坐标光源计算C424,是由坐标光源计算部103计算三维坐标空间A中的形成动图象显示面的各点的三维坐标。然后,当坐标光源计算C424结束时,进行透视变换C425,当透视变换C425结束时,开始进行优先级控制C426。接着,当优先级控制C426结束时,由图象译码部106a、106b、106c开始进行图象译码C421、C422、C423,当各图象译码C421、C422、C423结束时,开始进行图象变形C427、C428、C429。当合成432结束时,进行显示C433。4.3 提要如上所述,按照不同的进程以并行方式进行图形静止图象的生成处理、多个视频静止图象的译码·变形处理、及所生成的图形静止图象和多个视频静止图象的合成,所以,能以其各自的显示速率合成图形动图象和多个视频动图象,同时能更迅速地进行图形静止图象的生成处理、视频静止图象的译码·变形处理、及所生成的图形静止图象和视频静止图象的合成。另外,由于使最接近面前的动图象显示面具有较高的优先级并使由对应的图象译码部译码的视频静止图象的每一定时间的帧数增多,所以能够根据优先级改善画质。5 实施形态5对作为本发明另一实施形态的数字广播接收装置50进行说明。5.1 数字广播接收装置50的结构数字广播接收装置50,与数字广播接收装置20一样,由本体部26、监视器21、遥控器22、天线23等构成,该数字广播接收装置50,读出记录在CD-ROM上的与三维对象有关的对象信息,并接收所播放的多个视频动图象,生成由多个对象构成的图形图象,各对象具有各自的动图象显示面,将各视频图象粘贴于所生成的图形图象的各动图象显示面后,显示在监视器21上。
数字广播接收装置50的功能框图,示于图28。如该图所示,数字广播接收装置50,包括输入部101、数据存储部102、坐标光源计算部103、润色处理部104、透视变换部105、图象译码部106a、106b、106c、图象变形部107a、107b、107c、帧缓冲器108、显示部109、调谐器110、优先级控制部111、屏蔽控制部112、屏蔽处理部113a、113b、113c、图象校正部118a、118b、118c、天线23。
在数字广播接收装置50的构成要素中,与数字广播接收装置20的构成要素具有相同符号的构成要素,结构与数字广播接收装置20的构成要素相同。在下文中,以不同点为中心进行说明。(1)图象译码部106a、106b、106c图象译码部106a,将所生成的视频静止图象输出到图象校正部118a,而不是输出到图象变形部107a。其它各点与数字广播接收装置20的图象译码部106a相同。
图象译码部106b和106c,与图象译码部106a相同。(2)优先级控制部111优先级控制部111,进一步,将所决定的优先级输出到与各对象的动图象显示面对应的图象校正部118a、118b、118c。(3)图象校正部118a、118b、118c图象校正部118a,从图象译码部106a接收视频静止图象,并从优先级控制部111接收所决定的优先级。
当接收到的优先级最高时,图象校正部118a,将所接收的视频静止图象直接输出到图象变形部107a,而不进行校正。
当接收到的优先级为中等程度或较低时,图象校正部118a进行校正,使视频静止图象的亮度降低,且优先级越低亮度越低。降低视频静止图象的亮度的校正,具体地说,通过将视频静止图象的各象素的值除以适当的值进行。这里,作为该适当值的例,当优先级为中等程度时为4,当优先级较低时为8。此外,也可以将构成各象素的位序列向低位侧移位。例如,当优先级为中等程度时,可向低位侧移1位,当优先级较低时,可向低位侧移2位。5.3 提要如上所述,按照不同的进程以并行方式进行图形静止图象的生成处理、多个视频静止图象的译码·变形处理,并将所生成的图形静止图象和多个视频静止图象在帧缓冲器上合成,所以,能以其各自的显示速率合成图形动图象和多个视频动图象。另外,由于使最接近面前的动图象显示面具有较高的优先级并使由对应的图象译码部译码的视频静止图象的每一定时间的帧数增多,所以能够根据优先级改善画质。进一步,由于对优先级低的动图象显示面将亮度校正得较低,所以,在显示速率变低的可能性大的优先级低的动图象显示面上可以使闪烁不引人注意。6.其他变形例(1)在上述实施形态中说明的图形静止图象和视频静止图象的合成,也可以应用于电视游戏机、DVD/VCD/CD播放机等图象再生装置、或信息处理终端装置。(2)在上述实施形态中,将动图象粘贴在对象具有的屏面上,但也可以-将图形动图象和视频动图象并行地显示在电视画面上。(3)在上述实施形态中,视频动图象的显示速率为每秒30帧,图形动图象的显示速率为每秒10帧,但当然也可以是其他显示速率。例如,可以使视频动图象的显示速率为每秒10帧,使图形动图象的显示速率为每秒30帧,(4)在上述实施形态中,假定对象具有1个屏面,但对象也可以具有多个屏面。(5)作为其他实施形态之一,可以是如上所述的动图象合成方法。另外,也可以是用计算机执行上述动图象合成方法的动图象合成程序,也可以是记录着上述动图象合成程序的可由计算机读取的记录媒体。该记录媒体,例如,可以是软盘、CD-ROM、DVD-ROM、DVD-RAM、半导体存储器等。进一步,可以通过通信线路传送上述动图象合成程序,也可以是通过上述通信线路传送的数字信号。(6)也可以将如上所述的多个实施形态及其变形例分别进行组合。
产业上的可应用性在接收通过多个信道播放的数字广播波的数字广播接收装置中,可以用作选择节目用的用户接口。另外,在电视游戏机、DVD/VCD/CD播放机等图象再生装置、个人计算机或信息处理终端装置中,可以用作图象效果更佳的显示装置。
权利要求
1.一种动图象合成装置,对从在三维空间内移动的视点观察对象而得到的图形动图象及由多个视频静止图象构成的视频动图象进行合成,该动图象合成装置的特征在于,备有信息存储装置,存储着表示三维空间中的对象形状和位置的对象信息;视频动图象取得装置,从外部取得由连续的多个视频静止图象构成的视频动图象;图象存储装置;接收装置,反复接收表示在三维空间内移动的一个视点的位置的信息;图形图象生成装置,利用上述对象信息,生成从上述视点观察并将对象投影到投影面上而得到的图形静止图象,并将所生成的图形静止图象写入上述图象存储装置;及视频图象生成装置,在生成上述图形静止图象并写入上述图象存储装置的时间带,从上述所取得的视频动图象反复抽出视频静止图象,并将所抽出的视频静止图象写入上述图象存储装置。
2.根据权利要求1所述的动图象合成装置,其特征在于上述图形图象生成装置,利用上述对象信息,从上述视点观察并将对象投影到投影面上,进一步,通过进行润色处理而生成图形静止图象,
3.根据权利要求2所述的动图象合成装置,其特征在于上述对象,具有合成视频动图象的屏面,上述动图象合成装置,在对象的屏面上将图形动图象与视频动图象合成,上述对象信息,包含表示对象的屏面形状的信息,上述图形图象生成装置,进一步,利用包含表示屏面形状的信息的对象信息,计算从上述视点观察并将屏面投影到上述投影面上而得到的表示投影屏面的形状及位置的屏面信息,上述视频图象生成装置,在存储在上述图象存储装置内的图形静止图象上的由上述计算出的屏面信息所指示的位置上,写入所抽出的视频静止图象。
4.根据权利要求3所述的动图象合成装置,其特征在于上述视频图象生成装置,包括根据由上述屏面信息表示的形状使上述视频静止图象变形从而生成变形视频静止图象的图象变形装置,上述视频图象生成装置,将所生成的变形视频静止图象写入上述图象存储装置。
5.根据权利要求4所述的动图象合成装置,其特征在于上述对象具有多个屏面,上述视频动图象取得装置,从外部取得多个视频动图象,上述动图象合成装置,在多个屏面上分别将图形动图象与各视频动图象合成,上述对象信息,包含表示多个屏面的形状的信息,上述图形图象生成装置,对表示多个对象的屏面形状的每个信息计算屏面信息,上述视频图象生成装置,从多个视频动图象分别取得视频静止图象,并在由上述多个屏面信息所指示的位置上,写入分别取得的多个视频静止图象。
6.根据权利要求5所述的动图象合成装置,其特征在于上述视频图象生成装置,包括优先级决定装置,根据所计算出的多个屏面信息,按每个屏面决定优先级;视频图象译码装置,根据对多个视频动图象决定出的优先级,从视频动图象取得视频静止图象;屏蔽位置计算装置,根据所计算出的多个屏面信息及按每个屏面决定出的优先级,计算在每个投影面上对投影屏面进行屏蔽的位置;及屏蔽处理装置,在所计算出的进行屏蔽的位置上,对上述变形视频静止图象进行屏蔽处理;上述视频图象生成装置,将进行了屏蔽处理的变形视频静止图象写入上述图象存储装置。
7.根据权利要求6所述的动图象合成装置,其特征在于上述优先级决定装置,利用所计算出的多个屏面信息决定优先级,使离上述视点越近的屏面具有越高的优先级。
8.根据权利要求6所述的动图象合成装置,其特征在于上述优先级决定装置,利用所计算出的多个屏面信息计算投影屏面的面积并决定优先级,使计算出的面积越大的投影屏面具有越高的优先级。
9.根据权利要求6所述的动图象合成装置,其特征在于上述视频图象译码装置取得视频静止图象的方式为,对优先级最高的视频动图象,从视频动图象取得其全部视频静止图象,而视频动图象的优先级越低,则从视频动图象略过的视频静止图象越多。
10.根据权利要求6所述的动图象合成装置,其特征在于上述视频图象译码装置,包括用于降低所取得的视频静止图象的亮度的画质校正部,其校正的方式为,对优先级最高的视频动图象,不降低视频静止图象的亮度,而视频动图象的优先级越低,则使视频静止图象的亮度越低。
11.一种动图象合成装置,在对象的屏面上对从在三维空间内移动的视点观察对象而得到的图形动图象和由多个视频静止图象构成的视频动图象进行合成,该动图象合成装置的特征在于,备有信息存储装置,存储着表示三维空间中的对象形状和位置及对象的屏面形状的对象信息;视频动图象取得装置,从外部取得由连续的多个视频静止图象构成的视频动图象;图形静止图象存储装置;视频静止图象存储装置;图象存储装置;接收装置,反复接收表示在三维空间内移动的一个视点的位置的信息;图形图象生成装置,利用上述对象信息,生成从上述视点观察并将对象投影到投影面上而得到的图形静止图象,并将所生成的图形静止图象写入上述图形静止图象存储装置,还利用包含表示屏面形状的信息的对象信息,计算从上述视点观察并将屏面投影到上述投影面上而得到的表示投影屏面的形状及位置的屏面信息;及视频图象生成装置,在生成上述图形静止图象并写入上述图形静止图象存储装置的时间带,从上述所取得的视频动图象反复抽出视频静止图象,并将所抽出的视频静止图象写入上述视频静止图象存储装置;及选择装置,利用上述所计算出的屏面信息,从存储在上述图形静止图象存储装置内的图形静止图象或存储在上述视频静止图象存储装置内的视频静止图象选择构成各静止图象的象素,并将所选定的象素写入上述图象存储装置。
12.根据权利要求11所述的动图象合成装置,其特征在于上述图形静止图象存储装置,包括第1图形存储部和第2图形存储部,上述视频静止图象存储装置,包括第1视频存储部和第2视频存储部,上述图形静止图象生成装置,将所取得的图形静止图象交替地写入第1图形存储部或第2图形存储部,上述视频图象生成装置,将所取得的视频静止图象交替地写入第1视频存储部或第2视频存储部,上述选择装置,在由上述图形图象生成装置将图形静止图象写入第1图形存储部的时间带,从第2图形存储部读出图形静止图象,在由上述图形静止图象生成装置将图形静止图象写入第2图形存储部的时间带,从第1图形存储部读出图形静止图象,在由上述视频图象生成装置将视频静止图象写入第1视频存储部的时间带,从第2视频存储部读出视频静止图象,在由上述视频静止图象生成装置将视频静止图象写入第2视频存储部的时间带,从第1视频存储部读出视频静止图象,并从所读出的图形静止图象和视频静止图象选择构成各静止图象的象素。
13.根据权利要求12所述的动图象合成装置,其特征在于上述图形图象生成装置,利用上述对象信息,从上述视点观察并将对象投影到投影面上,进一步,通过进行润色处理而生成图形静止图象,
14.根据权利要求13所述的动图象合成装置,其特征在于上述视频图象生成装置,包括根据由上述屏面信息表示的形状使上述视频静止图象变形从而生成变形视频静止图象的图象变形装置,上述视频图象生成装置,将所生成的变形视频静止图象写入上述图象存储装置。
15.根据权利要求14所述的动图象合成装置,其特征在于上述对象具有多个屏面,上述视频动图象取得装置,从外部取得多个视频动图象,上述动图象合成装置,在多个屏面上分别将图形动图象与各视频动图象合成,上述对象信息,包含表示多个屏面的形状的信息,上述图形图象生成装置,对表示多个屏面的形状的每个信息计算屏面信息,上述视频图象生成装置,从多个视频动图象分别取得视频静止图象,并在由上述多个屏面信息所指示的位置上,写入分别取得的多个视频静止图象。
16.根据权利要求15所述的动图象合成装置,其特征在于上述视频图象生成装置,包括优先级决定装置,根据所计算出的多个屏面信息,按每个屏面决定优先级;视频图象译码装置,根据对多个视频动图象决定出的优先级,从视频动图象取得视频静止图象;屏蔽位置计算装置,根据所计算出的多个屏面信息及按每个屏面决定出的优先级,计算在每个投影面上对投影屏面进行屏蔽的位置;及屏蔽处理装置,在所计算出的进行屏蔽的位置上,对上述变形视频静止图象进行屏蔽处理;上述视频图象生成装置,将进行了屏蔽处理的变形视频静止图象写入上述视频静止图象存储装置。
17.根据权利要求16所述的动图象合成装置,其特征在于上述优先级决定装置,利用所计算出的多个屏面信息决定优先级,使离上述视点越近的屏面具有越高的优先级。
18.根据权利要求16所述的动图象合成装置,其特征在于上述优先级决定装置,利用所计算出的多个屏面信息计算投影屏面的面积并决定优先级,使计算出的面积越大的屏面具有越高的优先级。
19.根据权利要求16所述的动图象合成装置,其特征在于上述视频图象译码装置取得视频静止图象的方式为,对优先级最高的视频动图象,从视频动图象取得其全部视频静止图象,而视频动图象的优先级越低,则从视频动图象略过的视频静止图象越多。
20.根据权利要求16所述的动图象合成装置,其特征在于上述视频图象译码装置,包括用于降低所取得的视频静止图象的亮度的画质校正部,其校正的方式为,对优先级最高的视频动图象,不降低视频静止图象的亮度,而视频动图象的优先级越低,则使视频静止图象的亮度越低。
21.一种动图象合成方法,用于动图象合成装置,该动图象合成装置,对从在三维空间内移动的视点观察对象而得到的图形动图象和由多个视频静止图象构成的视频动图象进行合成,并备有存储着表示三维空间中的对象形状和位置的对象信息的信息存储装置、及图象存储装置,该动图象合成方法的特征在于,包括视频动图象取得步骤,从外部取得由连续的多个视频静止图象构成的视频动图象;接收步骤,反复接收表示在三维空间内移动的一个视点的位置的信息;图形图象生成步骤,利用上述对象信息,生成从上述视点观察并将对象投影到投影面上而得到的图形静止图象,并将所生成的图形静止图象写入上述图象存储装置;及视频图象生成步骤,在生成上述图形静止图象并写入上述图象存储装置的时间带,从上述所取得的视频动图象反复抽出视频静止图象,并将所抽出的视频静止图象写入上述图象存储装置。
22.一种动图象合成方法,用于动图象合成装置,该动图象合成装置,在对象的屏面上对从在三维空间内移动的视点观察对象而得到的图形动图象和由多个视频静止图象构成的视频动图象进行合成,并备有存储着表示三维空间中的对象形状和位置及对象的屏面形状的对象信息的信息存储装置、图形静止图象存储装置、视频静止图象存储装置、图象存储装置,该动图象合成方法的特征在于,包括视频动图象取得步骤,从外部取得由连续的多个视频静止图象构成的视频动图象;接收步骤,反复接收表示在三维空间内移动的一个视点的位置的信息;图形图象生成步骤,利用上述对象信息,生成从上述视点观察并将对象投影到投影面上而得到的图形静止图象,并将所生成的图形静止图象写入上述图形静止图象存储装置,还利用包含表示屏面形状的信息的对象信息,计算从上述视点观察并将屏面投影到上述投影面上而得到的表示投影屏面的形状及位置的屏面信息;及视频图象生成步骤,在生成上述图形静止图象并写入上述图形静止图象存储装置的时间带,从上述所取得的视频动图象反复抽出视频静止图象,并将所抽出的视频静止图象写入上述视频静止图象存储装置;及选择步骤,利用上述所计算出的屏面信息,从存储在上述图形静止图象存储装置内的图形静止图象或存储在上述视频静止图象存储装置内的视频静止图象选择构成各静止图象的象素,并将所选定的象素写入上述图象存储装置。
23.一种记录媒体,用于记录由计算机执行的动图象合成程序,该计算机,对从在三维空间内移动的视点观察对象而得到的图形动图象和由多个视频静止图象构成的视频动图象进行合成,并备有存储着表示三维空间中的对象的形状和位置的对象信息的信息存储装置、及图象存储装置,该记录媒体的特征在于上述动图象合成程序,包括视频动图象取得步骤,从外部取得由连续的多个视频静止图象构成的视频动图象;接收步骤,反复接收表示在三维空间内移动的一个视点的位置的信息;图形图象生成步骤,利用上述对象信息,生成从上述视点观察并将对象投影到投影面上而得到的图形静止图象,并将所生成的图形静止图象写入上述图象存储装置;及视频图象生成步骤,在生成上述图形静止图象并写入上述图象存储装置的时间带,从上述所取得的视频动图象反复抽出视频静止图象,并将所抽出的视频静止图象写入上述图象存储装置。
24.一种记录媒体,用于记录由计算机执行的动图象合成程序,该计算机,在对象的屏面上对从在三维空间内移动的视点观察对象而得到的图形动图象和由多个视频静止图象构成的视频动图象进行合成,并备有存储着表示三维空间中的对象的形状和位置及对象的屏面形状的对象信息的信息存储装置、图形静止图象存储装置、视频静止图象存储装置、图象存储装置,该记录媒体的特征在于上述动图象合成程序,包括视频动图象取得步骤,从外部取得由连续的多个视频静止图象构成的视频动图象;接收步骤,反复接收表示在三维空间内移动的一个视点的位置的信息;图形图象生成步骤,利用上述对象信息,生成从上述视点观察并将对象投影到投影面上而得到的图形静止图象,并将所生成的图形静止图象写入上述图形静止图象存储装置,还利用包含表示屏面形状的信息的对象信息,计算从上述视点观察并将屏面投影到上述投影面上而得到的表示投影屏面的形状及位置的屏面信息;及视频图象生成步骤,在生成上述图形静止图象并写入上述图形静止图象存储装置的时间带,从上述所取得的视频动图象反复抽出视频静止图象,并将所抽出的视频静止图象写入上述视频静止图象存储装置;及选择步骤,利用上述所计算出的屏面信息,从存储在上述图形静止图象存储装置内的图形静止图象或存储在上述视频静止图象存储装置内的视频静止图象选择构成各静止图象的象素,并将所选定的象素写入上述图象存储装置。
全文摘要
坐标光源计算部103,计算形成对象的各点的三维坐标,并进行裁剪处理,润色处理部104,进行润色处理,并将所形成的图形静止图象输出到帧缓冲器108。坐标光源计算部103,计算形成动图象显示面的各点的三维坐标,透视变换部105计算形成动图象显示面的各点的二维坐标。图象译码部106,对视频静止图象进行译码,图象变形部107将视频静止图象变形后输出到帧缓冲器108。由此,可将视频静止图象粘贴于图形静止图象。
文档编号H04N7/24GK1287743SQ9980172
公开日2001年3月14日 申请日期1999年7月29日 优先权日1998年7月30日
发明者稻垣悟, 津田贤治郎, 锦织义久 申请人:松下电器产业株式会社
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1