通信装置、通信系统、通信控制方法以及程序的制作方法

文档序号:10664060阅读:420来源:国知局
通信装置、通信系统、通信控制方法以及程序的制作方法
【专利摘要】一种终端(10),配置为将通过可伸缩编码获得的已编码数据发送到至少一个其他终端(10),或从至少一个其他终端(10)接收已编码数据,解码从至少一个其他终端(10)接收的已编码数据,并且再现和输出数据。终端(10)包括通知单元(26),配置为通知至少一个其他终端表示正被再现和输出的数据的质量的再现质量信息,其中从至少一个其他终端发送正被再现和输出的数据;以及编码设置控制单元(27),配置为基于从其他终端(10)通知的再现质量信息,控制用于编码要被发送到至少一个其他终端(10)的已编码数据的设置,其中,从该至少一个其他终端(10)通知该再现质量信息。
【专利说明】
通信装置、通信系统、通信控制方法以及程序
技术领域
[0001]本发明涉及一种通信装置、通信系统、通信控制方法以及程序。
【背景技术】
[0002]对于使用通信网络实现远程会议的通信系统一一诸如TV会议系统,存在用于发送/接收已编码数据的技术,该已编码数据通过使用作为终端的通信装置之间的可伸缩编码(scalable coding)格式进行编码来获得。例如,专利文献I公开了一种TV会议系统,其包括发送终端、接收终端和会议桥,该发送终端发送使用H.264/SVC格式通过可伸缩编码获得的已编码数据,该接收终端接收并解码已编码数据,该会议桥连接该发送终端和该接收终端。在专利文献I中描述的TV会议系统中,当从发送终端传递已编码数据并且将已编码数据发送到接收终端时,会议桥确定接收终端的网络状态。然后会议桥从已编码数据中选择质量上适合于接收终端的状态的视频流的已编码数据,并且将所选择的已编码数据发送到接收终端,该已编码数据通过发送终端中的可伸缩编码来获得然后被发送。

【发明内容】

[0003]技术问题
[0004]然而,在传统的技术中,相对于通过发送终端中的可伸缩编码获得的已编码数据,确定接收终端的状态以选择实际上要被发送到接收终端的已编码数据的权限存在在中继装置、诸如专利文献I中描述的会议桥中。为此,不管接收终端的状态,发送终端根据对中继装置的给定设置来发送通过可伸缩编码获得的已编程的数据,并且质量上通常不必要的数据可以被发送到中继装置。在这种情况下,发送终端的网络带宽被使用得超过必要。
[0005]技术方案
[0006]为了解决上述问题,本发明的一个方面是通信装置,该通信装置配置为将通过可伸缩编码获得的已编码数据发送到至少一个其他通信装置,或从该至少一个其他通信装置接收该已编码数据,解码接收的已编码数据,并且再现和输出该数据,该通信装置包括:通知单元,配置为通知该至少一个其他通信装置表示正被再现和输出的数据的质量的再现质量信息,其中,从该至少一个其他通信装置发送正被再现和输出的数据;以及编码设置控制单元,配置为基于从该至少一个其他通信装置通知的再现质量信息,控制用于编码要被发送到该至少一个其他通信装置的该已编码数据的设置,其中,从该至少一个其他通信装置通知该再现质量信息。
[0007]有益效果
[0008]本发明提供了如下效果,根据接收终端的状态,控制用于由发送终端进行的可伸缩编码的设置,并且可以防止使用超过必要的发送终端的网络带宽。
【附图说明】
[0009]图1是根据实施例的TV会议系统的示意配置图。
[0010]图2是根据实施例的示出了 TV会议系统中的通信的概要的概念图。
[0011 ]图3是示出了编码视频图像数据的方法的概念图。
[0012]图4是示意性地示出了中继服务器传递视频图像数据和音频数据的概念图。
[0013]图5是示出了终端的示范性硬件配置的框图。
[0014]图6是示出了中继服务器的示范性硬件配置的框图。
[0015]图7是示出了终端的功能配置的示例的框图。
[0016]图8是示出了终端的质量控制模块的细节的框图。
[0017]图9是示出了由通知单元产生的具体示范性再现质量信息的概念图。
[0018]图10是示出了在多个基座(base)处的终端之间的再现质量信息的具体示范性通知的概念图。
[0019]图11是示出了由编码设置控制单元对用于由编码单元进行的编码的设置进行的具体示范性控制的概念图。
[0020]图12是示出了由编码设置控制单元进行的具体示范性处理过程的流程图。
[0021]图13是示出了在发送终端和接收终端之间发送/接收视频图像的处理的概要的序列图。
[0022]图14是示出了由通知单元产生的具体示范性再现质量信息的概念图。
[0023]图15是示出了在多个基座(base)处的终端之间的再现质量信息的具体示范性通知的概念图。
[0024]图16是示出了由编码设置控制单元对用于由编码单元进行的编码的设置进行的具体示范性控制的概念图。
[0025]图17是示出了由设置控制单元对用于由编码单元进行的编码的设置进行的具体示范性控制的概念图。
[0026]图18是示出了由编码设置控制单元进行的具体示范性处理过程的流程图。
[0027]图19是示出了由编码设置控制单元对用于由编码单元进行的编码的设置进行的具体示范性控制的概念图。
[0028]图20是示出了由编码设置控制单元对用于由编码单元进行的编码的设置进行的具体示范性控制的概念图。
[0029]图21是示出了由编码设置控制单元进行的具体示范性处理过程的流程图。
【具体实施方式】
[0030]参照附图,将在下面详细描述根据本发明的通信装置、通信系统、通信控制方法以及程序的实施例。作为本发明被应用到的示范性通信系统,将例示出TV会议系统(也被称为“视频会议系统”),其为在多个TV会议终端(对应于“通信装置”)之间发送/接收视频图像数据和音频数据以在多个基座处实现远程会议的TV会议系统。在TV会议系统中,在由TV会议终端捕获的视频图像数据上进行可伸缩编码,已编码数据被发送到另一个TV会议终端,并且其他TV会议终端解码已编码数据并再现和输出该数据。应当指出的是,本发明可以被应用到的通信系统不限于该示例。本发明可以被广泛地应用到各种通信系统和各种通信终端,该通信系统通过可伸缩编码在多个通信装置之间发送/接收获得的已编码数据,在该通信系统中使用该通信终端。
[0031](第一实施例)
[0032]图1是根据本实施例的TV会议系统I的示意配置图。图2是根据本实施例的示出了TV会议系统I中的通信的概要的概念图。图3是根据本实施例的示出了编码视频图像数据的方法的概念图。
[0033]如图1所示,根据本实施例的TV会议系统I包括设置在各自的基座处的多个TV会议终端(下面简称为“终端”)10和多个显示器11、多个中继服务器30、管理服务器40、程序提供服务器50和维护服务器60。
[0034]显示器11具有到终端10的有线连接或无线连接。显示器11可以配置为与终端10集成。
[0035]终端10和中继服务器30被连接到路由器作为例如局域网(LAN)的节点。路由器为网络装置,其选择用于数据传输的路由。在图1所示的示例中,例示了LAN 2a中的路由器70a,LAN 2b中的路由器70b、LAN 2c中的路由器70c、LAN 2d中的路由器70d、通过专用线路2e连接到路由器70a和路由器70b并且连接到互联网2i的路由器70e、通过专用线路2f连接到路由器70c和路由器70d并且连接到互联网2i的路由器70f。
[0036]假设LAN 2a和LAN 2b被构造在区域X中的不同位置处,并且LAN 2c和LAN 2d被构造在区域Y中的不同位置处。例如,区域X是日本,区域Y是美国,LAN 2a被构造在东京的办公室中,LAN 2b被构造在大阪的办公室中,LAN 2c被构造在纽约的办公室中,LAN 2d被构造在华盛顿的办公室中。根据本实施例,LAN 2a,LAN 2b、专用线路2e、因特网21、专用线路2F、LAN 2c和LAN 2d构成通信网络2。通信网络2可以包括区段(sect1n),在该区段处不仅进行有线通信也进行根据WiFi (无线保真)或蓝牙(商标)的无线通信。
[0037]在根据本实施例的TV会议系统I中,视频图像数据和音频数据经由中继服务器30在多个终端10之间被发送和接收。如图2所示,在多个终端10之间建立用于经由管理服务器40发送/接收各种类型的管理信息的管理信息会话Sei。此外,在多个终端10之间建立用于经由中继服务器30发送/接收视频图像数据和音频数据的数据会话Sed。特别是,经由数据会话Sed发送和接收的视频图像数据是通过可伸缩编码获得的已编码数据,并且,例如,分别在不同信道中发送和接收高质量视频图像的已编码数据、中间质量视频图像的已编码数据和低质量视频图像的已编码数据。因为在国际专利申请的日本国家公开N0.2012-138893中公开的技术可以用于在多个终端10之间建立管理信息会话Sei和数据会话Sed的处理,该处理的详细描述在本文中将省略。
[0038]!1.264/3¥(:(!1.264/^¥(:附录6)编码格式被称为对于视频图像数据的可伸缩编码的标准编码格式。通过H.264/SVC编码格式,视频图像数据被转换成具有分层结构的数据,该分层结构数据被编码为多组质量不同的视频图像数据的集合,并且可以在多个信道中发送和接收对应于各自的组的视频图像数据的各组已编码数据。根据本实施例,在多个终端10之间发送和接收通过使用264/SVC编码格式编码视频图像数据来获得的已编码数据。
[0039]具体地,如图3所示,视频图像数据被转换成具有基本层(baselayer)和扩展层(extens1n layer)(下层和上层)的分层结构数据。仅包括基本层的视频图像数据用作低质量视频图像数据,由基本层和为下层的扩展层组成的视频图像数据用作中间质量视频图像数据,且由基本层、为下层的扩展层和为上层的扩展层组成的视频图像数据用作高质量视频图像数据。具有各自的质量的各组视频图像数据被编码,然后在三个信道中被发送。
[0040]视频图像数据的质量包括空间可伸缩性的分辨率和时间可伸缩性的帧速率。视频图像的分辨率是屏幕分辨率(也称为屏幕模式),其由垂直方向和水平方向上的像素的数量来表示。根据本实施例,分辨率和帧速率作为视频图像数据的质量来处理。中间质量视频图像数据的分辨率和帧速率的至少一个高于低质量视频图像数据的分辨率和帧速率的至少一个。高质量视频图像数据的分辨率和帧速率的至少一个高于中间质量视频图像数据的分辨率和帧速率的至少一个。根据本实施例,视频图像数据的质量被分为低、中、高三个阶段。可替代地,该质量可以分为两个阶段,或者可以被精细地分为四个或更多阶段。此外,根据本实施例,包含分辨率和帧速率的视频图像数据的质量被处理。可替代地,分辨率和帧速率可以被独立地处理。此外,只有分辨率和帧速率的任何一个可以作为视频图像数据的质量被处理,或涉及质量的除了分辨率和帧速率的另一参数(例如,S/N比值)可以被加入。
[0041]中继服务器30是在多个终端10之间传递(relay)视频图像数据和音频数据的传输的计算机。如上所述,由中继服务器30传递的视频图像数据是使用上述H.264/SVC格式的通过可伸缩编码获得的已编码数据。如果常规技术应用到中继服务器30,中继服务器30将从发送视频图像数据的终端10接收在多个信道中通过可伸缩编码获得的所有质量的各组已编码数据,并且根据接收终端10的网络状态和视频图像的显示分辨率,选择对应于所需质量的信道,并且仅将该信道中的已编码数据发送到接收终端10。然而,在常规技术中,因为发送终端10发送通过可伸缩编码获得的所有质量的各组已编码数据,而不管接收终端10的状态,所以在发送终端10和中继服务器30之间的网络带宽比必要的使用得更多。
[0042]为此,根据本实施例,发送终端10能够得知实际上由接收终端10再现和输出的(SP,在显示器11上显示的)视频图像的质量,并且发送终端10根据视频图像的质量控制用于编码要被发送到接收终端10的已编码数据的设置,该视频图像的质量实际上由接收终端10再现和输出。因此,变为可以经由中继服务器30仅将接收终端10所需的质量的已编码数据从发送终端10发送到接收终端10,从而,可以有效地防止如下不便:发送终端10和中继服务器30之间的网络带宽比必要的使用得更多。
[0043]图4是示意性地示出了中继服务器30传递视频图像数据和音频数据的概念图。图4(a)示出了常规技术被使用的示例,并且图4(b)示出了根据本实施例的示例。在图4(a)和图4(b)的示例中,视频图像数据和音频数据经由中继服务器30从基座A处的终端10(未示出)被发送到基座B处的终端10,并且在基座B处,低质量视频图像被再现和输出(在显示器11上表不)。
[0044]在常规技术中,如图4(a)所示,用于高质量视频图像、中间质量视频图像和低质量视频图像的三个信道中的视频图像的已编码数据和声音从用作发送终端的基座A处的终端10(未示出)被发送到中继服务器30。中继服务器30根据接收基座B的状态从用于高质量视频图像、中间质量视频图像和低质量视频图像的三个信道之间选择用于低质量视频图像的信道,并且将用于低质量视频图像的信道和音频信道中的已编码数据发送到基座B处的终端10(未示出)。如上所述,在常规技术中,虽然在基座B处再现和输出的视频图像是低质量的,但是高质量视频图像的数据和低质量视频图像的数据从基座A发送到中继服务器30,因此,基座A和中继服务器30之间的网络的带宽比必要的使用得更多。
[0045]另一方面,根据本实施例,如图4(b)所示,在用作接收终端的基座B处的终端10(未示出)通知在用作再现质量信息的发送终端的基座A处的终端10,该再现质量信息表示来自正被发送和输出的基座A的视频图像的质量(低质量)。基于从基座B处的终端10通知的再现质量信息,用作发送终端的基座A处的终端10(未示出)则改变用于视频图像数据的可伸缩编码的编码设置,使得不包含高质量视频图像和中间质量视频图像。结果,仅有低质量视频图像信道和音频信道中的已编码数据从基座A处的终端10被发送到中继服务器30,从而,可以有效地防止如下不便:基座A和中继服务器30之间的网络的带宽比必要的使用得更多。
[0046]可以使用上述的管理信息会话Sei来进行从基座B处的终端1到基座A处的终端1的再现质量信息的通知。可以经由中继服务器30(经由与数据会话Sed不同的会话)完成从基座B处的终端1到基座A处的终端1的再现质量信息的通知。
[0047]根据本实施例的上述特征处理可以通过例如将新的功能(诸如通知上述再现质量信息的另一个终端的功能或者控制基于从另一个终端10通知的再现质量信息的编码设置的功能)加入到终端10来实现。包括这些功能的终端10的具体配置示例将在下面详细描述。
[0048]管理服务器40是管理根据本实施例的整体TV会议系统I的计算机。例如,管理服务器40进行注册的每个终端10的状态的管理、中继装置30的状态的管理、使用终端10的用户的登录的管理、在多个终端10之间建立的数据会话Sed的管理等。
[0049]此外,根据本实施例,如上所述,依赖于由接收终端10再现和输出的视频图像是哪种质量,发送终端10控制用于编码视频图像数据的设置,以便于不发送比所需更高的质量的视频图像数据。为此,发送终端10不能再现和输出质量上超过发送终端10编码的视频图像数据的质量的视频图像数据;然而,当发送终端10的网络状态改善时或当显示布局改变时,可以优选地再现和输出质量上高于当前正在输出和再现的视频图像数据的质量的视频图像数据。在这种情况下,优选的是,管理服务器40使用上述管理信息会话Sei从接收终端10接受用于改善视频图像数据的质量的请求,并通知请求的发送终端10,且根据来自接收终端10的请求,发送终端10改变编码设置,以便于编码具有更高质量的视频图像数据。
[0050]程序供应服务器50是将各种程序提供到终端10、中继服务器30、管理服务器40和维护服务器60的计算机。例如,程序供应服务器50存储用于实现终端10中的各种功能的终端程序,并且能够将终端程序发送到终端10。程序供应服务器50存储用于实现中继服务器30中的各种功能的中继服务器程序,并且能够将中继服务器程序发送到中继服务器30。程序供应服务器50还存储用于实现管理服务器40中的各种功能的管理服务器程序,并且能够将管理服务器程序发送到管理服务器40。程序供应服务器50还存储用于实现维护服务器60中的各种功能的维护服务器程序,并且能够将维护服务器程序发送到维护服务器60。
[0051 ] 维护服务器60是进行终端10、中继服务器30、管理服务器40和程序供应服务器50的维护、管理和保护的计算机。例如,当维护服务器60是国产设置并且终端10、中继服务器30、管理服务器40、或程序供应服务器60是国外设置时,维护服务器60远程地进行维护,诸如经由通信网络2维护、管理和保护终端10、中继服务器30、管理服务器40、程序供应服务器50中的至少一个。
[0052]将描述根据本实施例的TV会议系统I的终端10、中继服务器30、管理服务器40和程序供应服务器50的硬件配置。图5示出了终端10的示范性硬件配置,图6示出了中继服务器
30的示范性硬件配置。因为管理服务器40、程序供应服务器50和维护服务器60可以采用与中继服务器30相同的硬件配置,图示被省略。
[0053]如图5所示,终端10包括CPU(中央处理单元)101,其控制终端10的整体操作;ROM(只读存储器)102,其存储用于驱动CPU 101的程序,诸如IPL(初始程序加载程序);RAM(随机存取存储器)103,用作CPU 101的工作区域;闪存104,其用于存储各种类型的数据,诸如终端程序、图像数据和音频数据;SSD(固态驱动器)105,其根据CPU 101的控制来控制从闪存104读取各种类型的数据或将各种类型的数据写入到闪存104;媒体驱动器107,其控制从记录介质106(诸如闪存)读取数据(的存储)或将数据(的存储)写入到记录介质106;操作按钮108,其被操作例如以选择要进行通信的另一个终端10;电源开关109,用于接通/关断终端10;以及网络I/F(接口)111,用于使用通信网络2发送数据。
[0054]终端10还包括内置照相机112,其根据CPU101的控制捕捉对象的图像,以获取图像数据;成像装置I/F 113,其控制照相机112的驱动;输入声音的内置麦克风114;输出声音的内置扬声器115;音频输入/输出I/F 116,其根据CPU 101的控制处理麦克风114和扬声器115之间的音频信号的输入和输出;显示器I/F 117,其根据CPU 101的控制将显示图像的数据发送到显示器11;外部装置连接I/F 118,用于连接各种外部装置;报警灯119,其提醒关于终端10的各种功能的异常;以及总线110,诸如地址总线和数据总线,用于电连接上述组件。
[0055]照相机112、麦克风114和扬声器115不一定内置于终端10中,并且可以被配置为外部组件。显示器11可以配置为内置于终端10中。假设显示器11是显示装置,诸如液晶面板。可替代地,显示器11可以是投影装置,诸如投影仪。在图5中所示的终端10的硬件配置仅为示例,并且除了上述的硬件以外的硬件可以被加入。
[0056]从程序供应服务器50提供的终端程序被存储在例如闪存104中,并且根据CPU101的控制被加载到RAM 103并被执行。如果用于存储终端程序的存储器是非易失性存储器,这个足够的,并且可以使用EEPROM(电可擦除可编程ROM)等替代闪存104。可以通过以记录介质(诸如计算机可读记录介质106)中的可安装形式或可执行形式来记录文件中的终端程序来提供终端程序。终端程序可以被提供为先前存储在例如ROM 102中的内置程序。
[0057]如图6所示,中继服务器30包括CPU 201,其控制中继服务器30的整体操作;ROM202,其存储用于驱动的CPU 201的程序,诸如IPL;RAM 203,其用作CPU 201的工作区域;HD(硬盘)204,其存储各种类型的数据,诸如中继服务器程序;HDD(HD驱动器)205,其根据CPU201的控制来控制从HD 204读取各种类型的数据或将各种类型的数据写入到HD 204;介质驱动器207,其控制从记录介质206(诸如闪存)读取数据(的存储)或将数据(的存储)写入到记录介质206;显示器208,其显示各种类型的信息;网络I/F 209,用于使用通信网络2发送数据;键盘211 ;鼠标212;⑶-ROM驱动器214,其控制从用作示范性可拆卸记录介质的⑶-ROM(光盘只读存储器)213读取各种类型的数据或在CD-ROM 213中写入各种类型的数据;以及总线210,诸如地址总线和数据总线,用于电连接上述组件。
[0058]从上述程序供应服务器50提供的中继服务器程序被存储在例如HD204中,并且根据CPU 201的控制被加载到RAM 203并被执行。可以通过以计算机可读记录介质(诸如记录介质206或CD-ROM 213)中的可安装形式或可执行形式来记录文件中的终端程序来提供中继服务器程序。中继服务器程序可以被提供为先前存储在例如ROM 102中的内置程序。
[0059]管理服务器40可以采用与图6所示的中继服务器30相同的硬件配置。应当指出的是,HD 204记录从程序供应服务器50提供的管理服务器程序。另外,在这种情况下,可以通过以计算机可读记录介质(诸如记录介质206或CD-ROM 213)中的可安装形式或可执行形式来记录文件中的管理服务器程序来提供管理服务器程序。管理服务器程序可以被提供为先前存储在例如ROM 202中的内置程序。
[0060]程序供应服务器50可以采用与图6所示的中继服务器30相同的硬件配置。应当指出的是,除了用于实现程序供应服务器50中的程序供应功能的程序,要被提供到终端10的终端程序、要被提供到中继服务器30的中继服务器程序和要被提供到管理服务器40的管理服务器程序被记录在HD 204中。
[0061]维护服务器60可以采用与图6所示的中继服务器30相同的硬件配置。应当指出的是,从程序供应服务器50提供的维护服务器程序被记录在HD 204中。另外,在这种情况下,可以通过以计算机可读记录介质(诸如记录介质206或⑶-ROM 213)中的可安装形式或可执行形式来记录文件中的维护服务器程序来提供维护服务器程序。维护服务器程序可以被提供为先前存储在例如ROM 202中的内置程序。
[0062]作为另一示范性可拆卸记录介质,有计算机可读记录介质,诸如⑶-R(可记录光盘)、DVD(数字通用光盘),和蓝光光盘。上述各种程序可以被记录在记录介质中并被提供。
[0063]将描述终端10的功能结构。图7是终端10的示范性功能配置的框图,图8是示出了终端10的质量控制模块25的细节的框图。如图7所示,终端10包括发送和接收单元12、操作输入接受单元13、成像单元14、音频输入单元15、音频输出单元16、编码单元17、解码单元
18、显示视频图像产生单元19、显示控制单元20、存储/读取处理单元21、易失性存储单元22、非易失性存储单元23和质量控制模块25。
[0064]发送和接收单元12经由通信网络2向/从另一个终端10、中继服务器30、管理服务器40等发送/接收各种类型的数据(或信息)。发送和接收单元12通过例如图5所示的网络I/F 111和CPU 101来实现。
[0065]操作输入接受单元13接受由使用终端10的用户进行的各种输入操作。操作输入接受单元13通过例如操作按钮108、电源开关109和CPU 101来实现。
[0066]成像单元14捕获基座的视频图像,其中,终端10被设置在该基座处,并且成像单元14输出视频图像数据。成像单元14通过例如照相机112、成像装置I /F 113和CPU 1I来实现。
[0067]音频输入单元15在基座处输入声音,其中,终端10被设置在该基座处,并且音频输入单元15输出音频数据。音频输入单元15通过例如图5所示的麦克风114、音频输入/输出I /F 116和CPU 101来实现。
[0068]音频输出单元16再现和输出的音频数据。音频输出单元16通过例如图5所示的扬声器115、音频输入/输出I/F 116和CPU 101来实现。
[0069]编码单元17编码从成像单元14输出的视频图像数据和从音频输入单元输出的音频数据以产生已编码数据。特别是相对于视频图像数据的编码,编码单元根据H.264/SVC编码格式进行视频图像数据的可伸缩编码。编码单元17配置为根据来自质量控制模块25的设置信号,能够改变将在下面描述的用于视频图像数据的可伸缩编码的设置(例如,用于要被编码的数据的层结构的设置)。编码单元17例如通过执行上述终端程序中包含的编码/解码程序(视频图像/音频解码器)的图5所示的CPU 101来实现。
[0070]解码单元18解码从另一个终端10经由中继服务器30发送的已编码数据并输出编码前的视频图像数据或音频数据。解码单元18例如通过执行上述终端程序中包含的编码/解码程序(视频图像/音频解码器)的CPU 101来实现。
[0071]显示视频图像产生单元19使用由解码单元18解码的视频图像数据,以产生要被显示(再现和输出)在显示器11上的显示视频图像。例如,当由解码单元18解码的视频图像数据包含从多个基座处的多个终端10发送的各组视频图像数据时,显示视频图像产生单元19根据预定的布局设置或由用于指定的布局设置产生包含屏幕中的各组视频图像数据的每个的显示视频图像。显示视频图像产生单元19还具有将关于产生的显示视频图像的布局的信息传递到质量控制模块25的功能,具体地,该关于产生的显示视频图像的布局的信息表示视频图像来自哪个基座、以及在显示视频图像中包含的视频图像为多大和多少帧速率的信息。显示视频图像产生单元19例如通过执行上述终端程序中包含的显示视频图像产生程序的图5所示的CPU 101来实现。
[0072]显示控制单元20进行用于在显示器11上显示(再现和输出)显示视频图像的控制,该显示视频图像由显示视频图像产生单元19产生。显示控制单元20通过例如图5所示的显示器I/F 117和CPU 101来实现。
[0073]存储/读取处理单元21进行在/从易失性存储单元22或非易失性存储单元23存储/读取各种类型的数据的处理。存储/读取处理单元21通过例如图5所示的SSD 105和CPU 101来实现。易失性存储单元22通过例如图5所示的RAM 103来实现。非易失性存储单元23通过例如图5所示的闪存104来实现。
[0074]质量控制模块25是根据本实施例对终端10进行特征处理的模块。质量控制模块25例如通过执行上述终端程序中包含的质量控制程序的图5所示的CPU 101来实现。如图8所示,质量控制模块25包括通知单元26和编码设置控制单元27。
[0075]基于从显示视频图像产生单元19传递的布局信息,通知单元26产生表示来自另一个基座的视频图像的质量的再现质量信息,该再现质量信息由显示器11显示为显示视频图像。然后通知单元26经由发送和接收单元12通知另一个终端10,具有产生的再现质量信息的视频图像从该另一个终端10发送。
[0076]图9是通知单元产生的具体示范性再现质量信息的概念图。图9表示视频图像在三个基座处的终端10之间发送和接收的情况下、由基座C处的终端10生成的具体示范性质量信息,该三个基座为基座A、基座B和基座C。
[0077]在图9(a)的示例中,基座C处的显示器11上显示的显示视频图像仅包含来自基座A的视频图像,并且来自基座A的视频图像以640 X 360的分辨率(水平像素的数量X垂直像素的数量)和30fps的帧速率显示。在这种情况下,基座C处的终端10的通知单元26产生包含以下项目的再现质量信息,该项目诸如发送源:基座A,显示类型:视频图像,分辨率:640 X360,和帧速率:30fps。
[0078]在图9(b)的示例中,基座C处的显示器11上显示的显示视频图像包含来自基座A的视频图像和来自基座B的视频图像,来自基座A的视频图像以320 X 180的分辨率和30f ps的帧速率显示,并且来自基座B的视频图像以320 X 180的分辨率和15fps的帧速率显示。在这种情况下,基座C处的终端10的通知单元26产生包含以下项目的再现质量信息,该项目诸如发送源:基座A,显示类型:视频图像,分辨率= 320X180,和帧速率:30fps,以及包含以下项目的再现质量信息,该项目诸如发送源:基座B,显示类型:视频图像,分辨率:320 X 180,和帧速率:15fps。
[0079]在图9(c)的示例中,基座C处的显示器11上显示的显示视频图像包含来自基座A的视频图像、来自基座B的视频图像、和与基座B共享的数据,来自基座A的视频图像以320 X180的分辨率和15fps的帧速率被显示,来自基座B的视频图像以320 X 180的分辨率和15fps的帧速率被显示,并且与基座B共享的数据以640 X 360的分辨率和5fps的帧速率被显示。在这种情况下,基座C处的终端10的通知单元26产生包含以下项目的再现质量信息,该项目诸如发送源:基座A,显示类型:视频图像,分辨率:320 X 180,和帧速率:15fps,以及包含以下项目的再现质量信息,该项目诸如发送源:基座B,显示类型:视频图像,分辨率= 320X180,和帧速率:15fps,以及包含以下项目的再现质量信息,该项目诸如发送源:基座B,显示类型:数据,分辨率:640 X 360,和帧速率:5fps。对于与基座B共享的数据,例如,假设从诸如PC(个人计算机)的外部装置输入的数据,该外部装置被连接到基极B处的终端10。在根据本实施例的TV会议系统I中,从外部装置输入到终端10的数据以与视频图像数据被处理的相同的方式被处理。
[0080]终端10的通知单元26可以产生通用形式(诸如XML(可扩展标记语言)形式)或由终端10可解释的独特形式的上述的再现质量信息。
[0081]图10是示出了在多个基座处的终端10之间的再现质量信息的具体示范性通知的概念图。图10示出了在三个基座处的终端之间发送和接收视频图像的情况下、由每个基座处的终端通知到其他基座处的再现质量信息,该三个基座为基座A、基座B和基座C。
[0082]在图10的示例中,基座A处的显示器11上显示的显示视频图像包含来自基座B的视频图像和来自基座C的视频图像,来自基座B的视频图像以320 X 180的分辨率和30fps的帧速率被显示,并且来自基座C的视频图像以320 X 180的分辨率和15fps的帧速率被显示。在这种情况下,基座A处的终端10的通知单元26产生包含以下项目的再现质量信息,该项目诸如发送源:基座B,显示类型:视频图像,分辨率:320 X 180,和帧速率:30fps,并且通知再现质量信息的基座B处的终端10。此外,基座A处的终端10的通知单元26产生包含以下项目的再现质量信息,该项目诸如发送源:基座C,显示类型:视频图像,分辨率:320 X 180,和帧速率:15fps,并且通知再现质量信息的基座C处的终端10。
[0083]此外,在图10的示例中,基座B处的显示器11上显示的显示视频图像仅包含来自基座A的视频图像,并且来自基座A的视频图像以640 X 360的分辨率和30f ps的帧速率被显示。在这种情况下,基座B处的终端10的通知单元26产生包含以下项目的再现质量信息,该项目诸如发送源:基座A,显示类型:视频图像,分辨率:640 X 360,和帧速率:30fps,并且通知再现质量信息的基座A处的终端10。
[0084]此外,在图10所示的示例中,基座C处的显示器11上显示的显示视频图像包含来自基座A的视频图像、来自基座B的视频图像和与基座B共享的数据,来自基座A的视频图像以320 X 180的分辨率和15fps的帧速率被显示,来自基座B的视频图像以320 X 180的分辨率和15fps的帧速率被显示,并且与基座B共享的数据以640 X 360的分辨率和5fps的帧速率被显示。在这种情况下,基座C处的终端10的通知单元26产生包含以下项目的再现质量信息,该项目诸如发送源:基座A,显示类型:视频图像,分辨率= 320X180,和帧速率:15fps,并且通知再现质量信息的基座A处的终端10。此外,基座C处的终端10的通知单元26产生包含以下项目的再现质量信息,该项目诸如发送源:基座B,显示类型:视频图像,分辨率= 320X180,和帧速率:15fps,以及包含以下项目的再现质量信息,该项目诸如发送源:基座B,显示类型:数据,分辨率:640 X 360,和帧速率:5fps,并且通知这些组的再现质量信息的基座B处的终端10。
[0085]这允许每个基座处的终端10知道被发送到另一个基座处的终端的哪种质量的视频图像在另一个基座处再现和输出。可以使用图2所示的管理信息会话Sei或可以经由中继服务器30(经由与数据会话Sed不同的会话)完成再现质量信息的通知。
[0086]编码设置控制单元27基于从另一个基座处的终端10通知的再现质量信息来控制由编码单元17进行编码的设置。例如,当从另一个基座处的终端10通知的再现质量信息表示的质量(即,来自另一个基座处显示的自己的基座的视频图像的质量)低于经由中继服务器30发送到另一个基座处的终端10的已编码数据的质量(S卩,根据用于由编码单元17进行的编码的当前设置所产生的已编码数据的最大质量)时,编码设置控制单元27改变用于由编码单元17进行的编码的设置(例如,用于层结构的设置),使得不包含超过从另一个基座处的终端通知的再现质量信息所表示的质量的质量。在存在视频图像正被发送到的多个其他基座、且共同已编码数据被发送到各自的多个基座处的终端10的情况下,当从各自基座处的终端10通知的多组再现质量信息所表示的质量之中的最高质量低于经由中继服务器30被发送到各自基座处的终端10的共同已编码数据的质量时,编码设置控制单元27改变用于由编码单元17进行的编码的设置,使得不包含超过多组再现质量信息所表示的质量之中的最高质量的质量。
[0087]图11是示出了由编码设置控制单元27对用于由编码单元17进行的编码的设置进行的具体示范性控制的概念图。图11示出了:在基座A、基座B和基座C这三个基座处的终端10之间发送和接收视频图像的情况下,基于基座B处的终端10通知的再现质量信息和基座C处的终端10通知的再现质量信息,在基座A处的终端的编码设置控制单元27如何控制用于编码单元17进行的编码的设置。
[0088]在图11的示例中,基座A处的终端10的编码单元17具有用于编码视频图像的设置,使得包含320 X 180的分辨率和30fps的帧速率的低质量视频图像、640 X 360的分辨率和30fps的帧速率的中间质量视频图像和1280 X 720的分辨率和30fps的帧速率的高质量视频图像。在基座A处的终端10,具有该设置的编码单元17对视频图像数据进行可伸缩编码,并且已编码数据从发送和接收单元12发送到中继服务器30。
[0089]然后,包含以下项目的再现质量信息从基座B处的终端10被通知到基座A处的终端
10,该项目为分辨率:640 X 360,和帧速率:30fps,并且包含以下项目的再现质量信息从基座C处的终端10被通知到基座A处的终端10,该项目为分辨率:320 X 180,和帧速率:15fps。基座A处的终端10的编码设置控制单元27获取从基座B处的终端10通知的再现质量信息和从基座C处的终端10通知的再现质量信息,从这些组的再现质量信息,确定没有其中显示1280 X 720的分辨率和30fps的帧速率的高质量视频图像的任何基座。基座A处的终端10的编码设置控制单元27改变例如在由编码单元17进行的编码中的用于层结构的设置,使得不包含对应于1280 X 720的分辨率和30fps的帧速率的高质量视频图像的层。
[0090]因此,仅包含低质量视频图像和中间质量视频图像的已编码数据此后从基座A处的终端10发送到中继服务器30,这使得可以被有效防止如下不便:基座A和中继服务器30之间的网络的带宽比必要的使用得更多。在图11的示例中,改变由编码单元17进行的编码中的用于层结构的设置,使得不包含对应于高质量视频图像的层。可替代地,可以改变用于编码的设置,以便于减少对应于高质量视频图像的层的分辨率和帧速率。可替代地,可以改变用于编码的设置,以将对应于高质量视频图像的层与较低层集成。
[0091 ]图12是示出了由编码设置控制单元27进行的处理过程的具体示例的流程图。图12的流程图所表示的处理一旦开始,首先,在步骤SlOl中,编码设置控制单元27从所有其他基座获取再现质量信息,在这些其他基座处正在显示其自己的基座的视频图像。在步骤S102中,然后,编码设置控制单元27从步骤SlOl获取的再现质量信息检测自己的基座的视频图像的最大分辨率和最大帧速率,该视频图像正在哪些其他基座处显示。
[0092]在步骤S103中,编码设置控制单元27确定超过步骤S102中检测到的最大分辨率的视频图像的已编码数据是否被发送到中继服务器30。例如,编码设置控制单元27通过检查用于对视频图像数据进行可伸缩编码的编码单元17的层结构的当前设置是否是其中包含超过在步骤S102中检测到的最大分辨率的视频图像的层的设置,来做出该确定。当超过最大分辨率的视频图像的已编码数据正被发送到中继服务器30时(步骤S103中的是),编码设置控制单元27移动到步骤S104,当没有超过最大分辨率的视频图像的已编码数据正被发送到中继服务器30时(步骤S103中的否),编码设置控制单元27移动到步骤S106。
[0093]在步骤S104中,编码设置控制单元27确定是否可以删除对应于超过步骤S102中检测到的最大分辨率的视频图像的层。当可以删除对应于超过最大分辨率的视频图像的层时(步骤S104中的是),编码设置控制单元27移动到步骤S105。当不可以删除对应于超过最大分辨率的视频图像的层时(步骤S104中的否),编码设置控制单元27移动到步骤S106。可以删除对应于超过最大分辨率的视频图像的层的情况为:例如,对应于超过最大分辨率的视频图像的层是包含等于或小于最大分辨率(即,正在另一个基座处显示的自己的基座的视频图像的分辨率)的分辨率的层的情况。
[0094]在步骤S105中,编码设置控制单元27改变用于编码单元17的层结构的设置,使得不包含超过在步骤S102中检测到的最大分辨率的层,然后移动到步骤S106。
[0095]在步骤S106中,编码设置控制单元27确定超过步骤S102中检测到的最大帧速率的视频图像的已编码数据是否被发送到中继服务器30。例如,编码设置控制单元27通过检查用于对视频图像数据进行可伸缩编码的编码单元17的层结构的当前设置是否是其中包含超过在步骤S102中检测到的最大帧速率的视频图像的层的设置,来做出该确定。当超过最大帧速率的视频图像的已编码数据正被发送到中继服务器30时(步骤S106中的是),编码设置控制单元27移动到步骤S107。当没有超过最大帧速率的视频图像的已编码数据正被发送到中继服务器30时(步骤S106中的否),编码设置控制单元27结束图12的流程图中表示的处理。
[0096]在步骤S107中,编码设置控制单元27改变用于编码单元17的层结构的设置,使得不包含超过在步骤S102中检测到的最大帧速率的层,然后结束图12的流程图中表示的处理。
[0097]图13是示出了从发送终端发送视频图像10到接收终端10的处理的概要的序列图。图13示出了以下示例,因为在接收终端10上显示的视频图像为中间质量同时发送终端10发送低质量视频图像、中间质量视频图像和高质量视频图像,改变用于编码的设置,使得不发送高质量视频图像。
[0098]首先,低质量视频图像、中间质量视频图像和高质量视频图像的已编码数据经由中继服务器30从发送终端10发送到接收终端10 (步骤S201) ο在发送终端10中,解码单元18解码已接收的已解码数据,并且显示视频图像产生单元19产生要在显示器11上显示的显示图像(步骤S202)。显示视频图像产生单元19将产生的显示视频图像上的布局信息传递到通知单元26。
[0099]基于从显示视频图像产生单元19传递的布局信息,接收终端10的通知单元26产生再现质量信息(步骤S203),并且通知产生的再现质量信息的发送终端10(步骤204)。在该示例中,通知到发送终端10的再现质量信息表示正在由显示器11上的接收终端10显示的视频图像的质量为中间质量。
[0100]在发送终端10中,当通过接收终端10将再现质量信息通知发送终端10,编码设置控制单元27基于再现质量信息确定是否可以改变用于由编码单元17进行的编码的设置(步骤S205)。在该示例中,因为不会将高质量视频图像发送到接收终端10,编码设置控制单元27确定可以改变由编码单元17进行的编码的设置。然后,编码设置控制单元27改变用于由编码单元17进行的编码的层结构的设置,使得不包含对应于高质量视频图像的层(步骤S206)o
[0101]然后,通过由编码单元17进行的编码获得的低质量视频图像和中间质量视频图像的已编码数据从发送终端10经由中继服务器30被发送到接收终端10(步骤S207),该由编码单元17进行的编码的设置被改变。由此,可以有效地防止如下不便:发送终端10和中继服务器30之间的网络的带宽比必要的使用得更多。
[0102]如上通过给出具体的示例详细所述的,在根据本实施例的TV会议系统I中,接收终端10通知发送终端10,再现质量信息的视频图像从发送终端10被发送,该再现质量信息表示实际上正在被再现和输出的视频图像的质量。基于从接收终端10通知到发送终端10的再现质量信息,发送终端10控制用于编码要被发送到接收终端10的视频图像的设置。因此,发送终端10能够仅编码接收终端10所需要的质量的视频图像,并且将视频图像发送到中继服务器30,有效地防止如下不便:发送终端10和中继服务器30之间的网络带宽比必要的使用得更多。
[0103]第二实施例
[0104]将在这里描述第二实施例。在本实施例中,终端10的通知单元26产生再现质量信息,该再现质量信息包含显示视频图像的压缩比,并且通知另一个终端10,再现质量信息的视频图像从该终端10被发送。根据本实施例,当使用由解码单元18解码的视频图像数据产生要在显示器11上显示的显示图像时,除了来自每个基座的视频图像的大小(分辨率)和帧速率,显示视频图像产生单元19产生包含压缩比的信息作为产生的显示图像的布局上的信息,并且将信息传递到质量控制模块25。基于从显示视频图像产生单元19传递的布局信息,除了分辨率和帧速率,质量控制模块25的通知单元26产生包含压缩比的再现质量信息作为表示来自另一个基座的视频图像的质量的再现质量信息,该再现质量信息通过显示器11显示为显示视频图像,并且该通知单元26经由发送和接收单元12通知另一个发送终端10,再现质量信息的视频图像从该发送终端10被发送。再现质量信息中的压缩比表示在该比例的显示视频图像所包含的来自每个基座的视频图像的视频图像数据被压缩和发送,并且在显示视频图像中包含要被压缩为体量(volume)减半的视频图像的情况下,压缩比为50%,在显示视频图像中包含未压缩的视频图像的情况下,压缩比为100%。
[0105]图14是示出了由本实施例的通知单元26产生的具体示范性再现质量信息的概念图。图14示出了在基座A、基座B和基座C这三个基座之中发送和接收视频图像的情况下、在基座C处的终端1产生的再现质量信息的具体示例,如图9所示的示例的情况。
[0106]在图14(a)的示例中,基座C处的显示器11上显示的显示视频图像仅包含来自基座A的视频图像,并且压缩比为100% (未压缩)的来自基座A的视频图像以640 X 360的分辨率(垂直方向的像素的数量X水平方向的像素的数量)和30f ps的帧速率被显示。在这种情况下,基座C处的终端10的通知单元26产生包含以下项目的再现质量信息,该项目诸如发送源:基座A,显示类型:视频图像,分辨率:640 X 360,帧速率:30fps,以及压缩比:100 %。
[0107]在图14(b)的示例中,基座C处的显示器11上显示的显示视频图像包含来自基座A的视频图像和来自基座B的视频图像,压缩比为80% (压缩20%)的来自基座A的视频图像以320 X 180的分辨率和30fps的帧速率被显示,并且压缩比为80%的来自基座B的视频图像以320 X 180的分辨率和15fps的帧速率被显示。在这种情况下,基座C处的终端10的通知单元26产生包含以下项目的再现质量信息,该项目诸如发送源:基座A,显示类型:视频图像,分辨率= 320X180,帧速率:30fps,和压缩比:80 %,以及包含以下项目的再现质量信息,该项目诸如发送源:基座B,显示类型:视频图像,分辨率:320 X 180,帧速率:15fps,和压缩比:80%。
[0108]在图14(c)的示例中,基座C处的显示器11上显示的显示视频图像包含来自基座A的视频图像、来自基座B的视频图像和与基座B共享的数据,压缩比为50% (压缩50%)的来自基座A的视频图像以320 X 180的分辨率和15f ps的帧速率被显示,压缩比为50 %的来自基座B的视频图像以320 X 180的分辨率和15fps的帧速率被显示,并且压缩比为100 %的与基座B共享的数据以640 X 360的分辨率和5fps的帧速率被显示。在这种情况下,基座C处的终端10的通知单元26产生包含以下项目的再现质量信息,该项目诸如发送源:基座A,显示类型:视频图像,分辨率:320 X 180,帧速率:15fps,和压缩比:50%,以及包含以下项目的再现质量信息,该项目诸如发送源:基座B,显示类型:视频图像,分辨率:320 X 180,帧速率:15fps,和压缩比:50%,以及包含以下项目的再现质量信息,该项目诸如发送源:基座B,显示类型:数据,分辨率:640 X 360,帧速率:5fps,和压缩比:100 %。
[0109]图15是示出了在多个基座处的终端10之间的再现质量信息的具体示范性通知的概念图。图15示出了在基座A、基座B和基座C这三个基座之中发送和接收视频图像的情况下,由每个基座处的终端通知到其他基座处的终端1的再现质量信息,如图1O所示的示例中。
[0110]在图15所示的示例中,基座A处的显示器11上显示的显示视频图像包含来自基座B的视频图像和来自基座C的视频图像,压缩比为80%的来自基座B的视频图像以320 X 180的分辨率和30fps的帧速率被显示,并且压缩比为80%的来自基座C的视频图像以320 X 180的分辨率和15fps的帧速率被显示。在这种情况下,基座A处的终端10的通知单元26产生包含以下项目的再现质量信息,该项目诸如发送源:基座B,显示类型:视频图像,分辨率:320X180,帧速率:30fps,和压缩比:80 %,并且通知再现质量信息的基座B处的终端10。基座A处的终端10的通知单元26产生包含以下项目的再现质量信息,该项目诸如发送源:基座C,显示类型:视频图像,分辨率:320 X 180,帧速率:15fps,和压缩比:80 %,并且通知再现质量信息的基座C处的终端10。
[0111]此外,在图15的示例中,基座B处的显示器11上显示的显示视频图像仅包含来自基座A的视频图像,来自基座B的视频图像以640 X 360的分辨率和30fps的帧速率被显示。在这种情况下,基座B处的终端10的通知单元26产生包含以下项目的再现质量信息,该项目诸如发送源:基座A,显示类型:视频图像,分辨率:640 X 360,帧速率:30fps,和压缩比:100 %,并且通知再现质量信息的基座A处的终端1。
[0112]在图15的示例中,基座C处的显示器11上显示的显示视频图像包含来自基座A的视频图像、来自基座B的视频图像和与基座B共享的数据,压缩比为50 %的来自基座A的视频图像以320 X 180的分辨率和15fps的帧速率被显示,压缩比为50 %的来自基座B的视频图像以320 X 180的分辨率和15fps的帧速率被显示,并且压缩比为100%的与基座B共享的数据以640 X 360的分辨率和5fps的帧速率被显示。在这种情况下,基座C处的终端10的通知单元26产生包含以下项目的再现质量信息,该项目诸如发送源:基座A,显示类型:视频图像,分辨率:320 X 180,帧速率:15fps,和压缩比:50 %,并且通知再现质量信息的基座A处的终端10。此外,基座C处的终端10的通知单元26产生包含以下项目的再现质量信息,该项目诸如发送源:基座B,显示类型:视频图像,分辨率:320 X 180,帧速率:15fps,和压缩比:50 %,以及包含以下项目的再现质量信息,该项目诸如发送源:基座B,显示类型:数据,分辨率:640 X360,帧速率:5fps,和压缩比:100%,并且通知这些组的再现质量信息的基座B处的终端10。
[0113]图16是示出了由编码设置控制单元27对用于由编码单元17进行的编码的设置进行的具体示范性控制的概念图。在基座A、基座B和基座C这三个基座处的终端10之间发送和接收视频图像的情况下,基于基座B处的终端10通知的再现质量信息和基座C处的终端10通知的再现质量信息,图16示出了在基座A处的终端的编码设置控制单元27如何控制用于编码单元17进行的编码的设置,如图11所示的示例。
[0114]在图16的示例中,基座A处的终端10的编码单元17具有用于编码视频图像的设置,使得包含320 X 180的分辨率、30fps的帧速率和压缩比为100%的低质量视频图像,640 X360的分辨率、30fPs的帧速率和压缩比为100 %的中间质量视频图像以及1280 X 720的分辨率、30fps的帧速率和和压缩比为100%的高质量视频图像。在基座A处的终端10,具有该设置的编码单元17对视频图像数据进行可伸缩编码,并且已编码数据从发送和接收单元12发送到中继服务器30。
[0115]然后,包含以下项目的再现质量信息被从基座B处的终端10通知到基座A处的终端10,该项目为分辨率:640 X 360,帧速率:30fps,和压缩比:100%,并且包含以下项目的再现质量信息被从基座C处的终端10通知到基座A处的终端10,该项目为分辨率:320 X 180,帧速率:15fps,和压缩比:50%。基座A处的终端10的编码设置控制单元27获取从基座B处的终端10通知的再现质量信息和从基座C处的终端10通知的再现质量信息,从这些组的再现质量信息,确定没有其中显示1280 X 720的分辨率、30fps的帧速率和压缩比为100%的高质量视频图像的任何基座。基座A处的终端10的编码设置控制单元27改变例如在由编码单元17进行的编码中的用于层结构的设置,使得不包含对应于1280 X 720的分辨率、30fps的帧速率和压缩比为100 %的高质量视频图像的层。
[0116]因此,此后仅包含低质量视频图像和中间质量视频图像的已编码数据从基座A处的终端10发送到中继服务器30,这使得可以有效防止如下不便:基座A和中继服务器30之间的网络的带宽比必要的使用得更多。
[0117]在图16的示例中,改变由编码单元17进行的编码中的用于层结构的设置,使得不包含对应于高质量视频图像的层。可替代地,可以改变用于编码的设置,以便于减少对应于高质量视频图像的层的分辨率和帧速率。图17示出了示例,在该示例中用于编码的设置被改变以减少最大分辨率,而不改变已编码数据的层的数量。
[0118]在图17的示例中,如图16中的示例中,基座A处的终端10的编码设置控制单元27获取从基座B处的终端10通知的再现质量信息和从基座C处的终端10通知的再现质量信息,从这些组的再现质量信息,确定没有其中显示1280 X 720的分辨率、30fps的帧速率和压缩比为100%的高质量视频图像的任何基座。为此,基座A处的终端10的编码设置控制单元例如将高质量视频图像的分辨率改变为640 X 360,将中间质量视频图像的分辨率改变为320 X180,并且将低质量视频图像的分辨率改变为160X90,即改变用于编码的设置,以便于减少最大分辨率,而不改变已编码数据的层的数量。由此,可以有效地防止如下不便:基座A和中继服务器30之间的网络的带宽比必要的使用得更多。
[0119]图18是示出了根据本实施例的由编码设置控制单元27进行的处理过程的具体示例的流程图。因为图18的流程图中的步骤S301至步骤S307的处理与图12的流程图中的步骤SlOl至步骤S107的处理,其描述将省略。虽然基于图12中的步骤S102中的来自另一个基座的再现质量信息,正在另一个基座上显示的自己的基座的视频图像的最大分辨率和最大帧速率被检测到,但是基于图18中的步骤S302中的来自另一个基座的再现质量信息,除了最大分辨率和最大帧速率,检测到正在另一个基座上显示的自己的基座的视频图像的最大压缩比。
[0120]根据本实施例,当在图18中的步骤S306中的确定的结果为否时,或者当在步骤S306中的确定的结果为是时,则进行步骤S307中的处理,处理移动到步骤S308。
[0121]在步骤S308中,编码设置控制单元27确定超过步骤S302中检测到的最大压缩比的视频图像的已编码数据是否被发送到中继服务器30。例如,编码设置控制单元27通过检查用于编码单元17的层结构的当前设置是否设置为包含超过在步骤S302中检测到的最大压缩比的视频图像的层,来做出对视频图像数据进行可伸缩编码的确定。当超过最大压缩比的视频图像的已编码数据正被发送到中继服务器30时(步骤S308中的是),编码设置控制单元27移动到步骤S309。当没有超过最大压缩比的视频图像的已编码数据正被发送到中继服务器30时(步骤S308中的否),由图18的流程图表示的处理结束。
[0122]在步骤S309中,编码设置控制单元27改变用于编码单元17的层结构的设置,使得不包含对应于超过在步骤S302中检测到的最大压缩比的视频图像的层,然后结束图18的流程图中表示的处理。
[0123]在上述的示例中,实际上正在显示器11上显示的视频图像以及来自外部装置的输入数据的分辨率、帧速率和压缩比被处理为再现质量信息。可替代地,与被包含在实际上显示在显示器11上的显示视频图像中的视频图像和数据的质量不同的、但是对应于如要在显示视频图像上显示的视频图像的质量的用户所需的再现质量的分辨率、帧速率和压缩比例如可以被处理为再现质量信息。在这种情况下,例如,终端10的通知单元26接受指定要在显示视频图像上显示的视频图像的用户的操作、数据的分辨率、帧速率或压缩比,产生对应于由用户指定的质量的再现质量信息,并且通知该发送终端10该视频图像和数据。
[0124]在该示例中,从其发送视频图像和数据的终端10可以被通知再现质量信息,该再现质量信息指定超过正由终端10发送的已编码数据中包含的高质量视频图像的质量。在这种情况下,终端10的编码设置控制单元27改变用于由编码单元17进行的编码的设置,使得由从另一个终端10通知的再现质量信息指定的质量被包含在要从终端10发送到另一个终端10的已编码数据中。
[0125]图19是示出了由编码设置控制单元27对由编码单元17进行的编码的设置进行的具体示范性控制的概念图。在图19的示例中,用于基座A处的终端10的编码单元17的设置具有用于编码视频图像的设置,使得包含320 X 180的分辨率、30fps的帧速率和压缩比为100 %的低质量视频图像,640 X 360的分辨率、30f ps和压缩比为100 %的帧速率的中间质量视频图像。在基座A处的终端10,具有该设置的编码单元17对视频图像数据进行可伸缩编码,并且已编码数据从发送和接收单元12发送到中继服务器30。
[0126]然后,包含以下项目的再现质量信息被从基座B处的终端10通知到基座A处的终端10,该项目为分辨率:1280 X 720,帧速率:30fps,和压缩比:100 %,并且包含以下项目的再现质量信息被从基座C处的终端10通知到基座A处的终端10,该项目为分辨率:320 X 180,帧速率:15fps,和压缩比:50%。基座A处的终端10的编码设置控制单元27获取从基座B处的终端10通知的再现质量信息和从基座C处的终端10通知的再现质量信息,从这些组的再现质量信息,确定存在在基座B处显示1280 X 720的分辨率、30fps的帧速率和压缩比为100%的高质量视频图像的请求。在这种情况下,基座A处的终端10的编码设置控制单元27改变例如在由编码单元17进行的编码中的用于层结构的设置,使得加入对应于1280X720的分辨率、30fps的帧速率和压缩比为100%的高质量视频图像的层。
[0127]如上述的情况中,当对应于用户所需的再现质量的分辨率、帧速率、压缩比等被处理为再现质量信息,所需的分辨率、帧速率和压缩比可以由一范围来指定。在这种情况下,终端10的通知单元26接受用于指定例如要在显示器上显示的视频图像的分辨率、帧速率和压缩比以及数据的范围的用户的操作,产生包含由用户指定的质量范围的再现质量信息,并且通知从其发送视频图像和数据的终端10。
[0128]图20是示出了由编码设置控制单元27对用于由编码单元17进行的编码的设置进行的具体示范性控制的概念图。在图20的示例中,从基座B处的终端10通知到基座A处的终端的再现质量信息的分辨率的项目被指定为1280 X 720至640 X 360的范围。在这种情况下,基于从基座B通知的再现质量信息,基座A处的终端10的编码设置控制单元27确定存在用于显示1280 X 720至640 X 360的分辨率范围内的视频图像的请求。基座A处的终端1的编码设置控制单元27改变用于在由编码单元17进行的编码中的层结构的设置,使得层结构尽可能多地覆盖每个基座上的再现质量信息。
[0129]图21是示出了由编码设置控制单元27进行的处理过程的具体示例的流程图。图21的流程图所表示的处理一旦开始,首先,在步骤S401中,编码设置控制单元27从所有其他基座获取再现质量信息,在这些其他基座处正在显示其自己的基座的视频图像。在步骤S402中,然后,编码设置控制单元27从步骤S401获取的再现质量信息检测由那些其他基座请求的自己的基座的视频图像的最大分辨率和最大帧速率。
[0130]在步骤S403中,然后,编码设置控制单元27确定覆盖步骤S402中检测到的最大分辨率的已编码数据是否被发送到中继服务器30。当正被发送到中继服务器30的已编码数据没有覆盖步骤402中检测到的最大分辨率时(步骤S403中的否),编码设置控制单元27移动到步骤S404。当已编码数据覆盖最大分辨率时(步骤S403中的是),编码设置控制单元27移动到步骤S406。
[0131]在步骤S404中,编码设置控制单元27确定是否可以加入对应于步骤S402中检测到的最大分辨率的层。当可以加入对应于最大分辨率的层时(步骤S404中的是),编码设置控制单元27移动到步骤S405。当不会加入对应于最大分辨率的层时(步骤S404中的否),编码设置控制单元27移动到步骤S406。
[0132]在步骤S405中,编码设置控制单元27改变用于编码单元17的层结构的设置,以便于加入对应于步骤S402中检测到的最大分辨率的层,然后移动到步骤S406。
[0133]在步骤S406中,编码设置控制单元27确定覆盖步骤S402中检测到的最大帧速率的已编码数据是否被发送到中继服务器30。当正被发送到中继服务器30的已编码数据没有覆盖步骤402中检测到的最大帧速率时(步骤S406中的否),编码设置控制单元27移动到步骤S407。当已编码数据覆盖最大帧速率时(步骤S406中的是),编码设置控制单元27移动到步骤S409。
[0134]在步骤S407中,编码设置控制单元27确定是否可以加入对应于步骤S402中检测到的最大帧速率的层。当可以加入对应于最大帧速率的层时(步骤S407中的是),编码设置控制单元27移动到步骤S408。当不会加入对应于最大帧速率的层时(步骤S407中的否),编码设置控制单元27移动到步骤S409。
[0135]在步骤S408中,编码设置控制单元27改变用于编码单元17的层结构的设置,以便于加入对应于步骤S402中检测到的最大帧速率的层,然后移动到步骤S409。
[0136]在步骤S409中,编码设置控制单元27确定覆盖步骤S402中检测到的最大压缩比的已编码数据是否被发送到中继服务器30。当正被发送到中继服务器30的已编码数据没有覆盖步骤402中检测到的最大压缩比时(步骤S409中的否),编码设置控制单元27移动到步骤S410。当已编码数据覆盖最大压缩比时(步骤S409中的是),编码设置控制单元27结束图21的流程图所表示的处理。
[0137]在步骤S410中,编码设置控制单元27确定是否可以加入对应于步骤S402中检测到的最大压缩比的层。当可以加入对应于最大压缩比的层时(步骤S410中的是),编码设置控制单元27移动到步骤S411。当不会加入对应于最大压缩比的层时(步骤S410中的否),编码设置控制单元27结束图21的流程图所表示的处理。
[0138]在步骤S411中,编码设置控制单元27改变用于编码单元17的层结构的设置,以便于加入对应于步骤S402中检测到的最大压缩比的层,然后结束图21的流程图所表示的处理。
[0139]本发明的具体实施例已经在上面描述;然而,本发明不限于上述实施例,并且在实施时,可以通过加入本发明的范围内的各种修改和改变来体现。换言之,在上述实施例中描述的TV会议系统1、终端10等的具体配置和操作仅为示例,并且根据使用和目的可以做出各种修改。
[0140]例如,根据上述实施例,终端10包括质量控制模块25,该质量控制模块25包括通知单元26和编码设置控制单元27。可替代地,诸如管理服务器40的另一个装置可以包括质量控制模块25的部分或全部功能。例如,关于其中管理服务器40包括通知单元26的配置,管理服务器40从接收终端10获取布局信息,基于该布局信息产生再现质量信息,并且通知发送终端10该再现质量信息。此外,关于其中管理服务器40包括编码设置控制单元27的配置,管理服务器40获取从接收终端10通知的再现质量信息,基于再现质量信息产生控制用于发送终端10的编码单元的设置的控制信息,并且将控制信号发送到发送终端10。
[0141]根据上述实施例,在视频图像上进行可伸缩编码,并且已编码视频图像数据在终端10之间发送和接收。可替代地,可以对音频数据和视频数据一起进行可伸缩编码,或者可以替代视频数据,对音频数据进行可伸缩编码,并且可以在终端10之间发送和接收已编码数据。在这种情况下,音频数据的质量可以包括例如声音的采样频率和声音的比特率。
[0142]此外,根据上述实施例,TV会议系统I例示为本发明被应用到的示范性通信系统,然而这并不是限制。例如,本发明可有效应用到各种通信系统,该通信系统为例如电话系统和汽车导航系统,该电话系统诸如IP(互联网协议)电话,在终端之间双向发送和接收该IP电话与音频数据,在该汽车导航系统中,地理数据、路线信息等从管理中心处的终端被分配到安装在车辆上的汽车导航装置。
[0143]此外,根据上述实施例,TV会议终端(终端)10例示为本发明被应用到的示范性通信系统,然而这并不是限制。本发明可有效应用到各种通信装置,诸如PC、平板终端、智能电话、电子黑板以及安装在车辆上的汽车导航装置,只要该通信装置具有对各种类型的数据进行可伸缩编码并发送已编码数据的功能,并且具有解码已编码数据和再现数据的功能。
[0144][引用列表]
[0145]专利文献
[0146]专利文献1:日本专利第4921488号
【主权项】
1.一种通信装置,所述通信装置配置为将通过可伸缩编码获得的已编码数据发送到至少一个其他通信装置,或从所述至少一个其他通信装置接收所述已编码数据,解码接收的已编码数据,并且再现和输出所述数据,所述通信装置包括: 通知单元,配置为通知所述至少一个其他通信装置表示正被再现和输出的数据的质量的再现质量信息,其中,从所述至少一个其他通信装置发送所述正被再现和输出的数据;以及 编码设置控制单元,配置为基于从所述至少一个其他通信装置通知的再现质量信息,控制用于编码要被发送到所述至少一个其他通信装置的所述已编码数据的设置,其中,从所述至少一个其他通信装置通知所述再现质量信息。2.根据权利要求1所述的通信装置,其中,所述编码设置控制单元配置为,如果从所述至少一个其他通信装置通知的所述再现质量信息所表示的质量低于被发送到所述至少一个其他通信装置的所述已编码数据的质量,改变用于编码要被发送到所述至少一个其他通信装置的所述已编码数据的设置,使得不包含超过从所述至少一个其他通信装置通知的所述再现质量信息所表示的质量的质量。3.根据权利要求1所述的通信装置,其中,所述编码设置控制单元配置为,在所述至少一个其他通信装置包括多个其他通信装置、且在所述多个其他通信装置之中共同的所述已编码数据被发送到所述多个其他通信装置的情况下,以及如果从所述多个其他通信装置通知的多组再现质量信息所表示的质量之中的最高质量低于被发送到所述多个其他通信装置的共同已编码数据的质量,改变用于编码要被发送到所述多个其他通信装置的所述共同已编码数据的设置,使得不包含超过所述最高质量的质量。4.根据权利要求1至3的任一项所述的通信装置,其中所述数据为视频图像数据,并且所述数据的质量包含所述视频图像数据的分辨率和帧速率中的至少任何一个。5.根据权利要求4所述的通信装置,其中所述已编码数据为通过使用H.264/SVC编码格式编码获得的数据。6.—种通信系统,在所述通信系统中,在多个通信装置之中发送/接收通过可伸缩编码获得的已编码数据,并且所述通信装置中的至少一个通信装置解码由另一个通信装置编码的已编码数据,所述通信系统包括: 通知单元,配置为通知通信装置表示正由另一个通信装置再现和输出的数据的质量的再现质量信息;以及 编码设置控制单元,配置为基于从所述另一个通信装置通知到所述通信装置的再现质量信息,控制用于编码要从所述通信装置发送的所述已编码数据的设置。7.一种通信控制方法,所述通信控制方法由通信装置执行,所述通信装置配置为将通过可伸缩编码获得的已编码数据发送到至少一个其他通信装置,或从所述至少一个其他通信装置接收所述已编码数据,解码接收的已编码数据,并且再现和输出所述数据,所述通信控制方法包括: 通知所述至少一个其他通信装置表示正被再现和输出的数据的质量的再现质量信息,其中,从所述至少一个其他通信装置发送正被再现和输出的数据;以及 基于从所述至少一个其他通信装置通知的再现质量信息,控制用于编码要被发送到所述至少一个其他通信装置的所述已编码数据的设置,其中,从所述至少一个其他通信装置通知所述再现质量信息。8.—种程序,所述程序由通信装置执行,所述通信装置配置为将通过可伸缩编码获得的已编码数据发送到至少一个其他通信装置,或从所述至少一个其他通信装置接收所述已编码数据,解码接收的已编码数据,并且再现和输出所述数据,所述程序使得所述通信装置实现以下功能: 通知所述至少一个其他通信装置表示正被再现和输出的数据的质量的再现质量信息的功能,正被再现和输出的数据从所述至少一个其他通信装置被发送;以及 基于从所述至少一个其他通信装置通知的再现质量信息,控制用于编码要被发送到所述至少一个其他通信装置的所述已编码数据的设置的功能,从所述至少一个其他通信装置通知所述再现质量信息。
【文档编号】H04N7/15GK106031164SQ201580010561
【公开日】2016年10月12日
【申请日】2015年1月15日
【发明人】永峰翔, 今井拓也, 森田健郎, 森田健一郎
【申请人】株式会社理光
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1