用于信息分享的方法、系统及机器可读介质与流程

文档序号:14560032阅读:175来源:国知局
用于信息分享的方法、系统及机器可读介质与流程

本申请涉及信息分享技术,具体涉及如何在各与会终端的视频编解码能力和/或需求存在差异的会议环境下、自适应地进行屏幕数据分享。



背景技术:

随着计算机和网络技术的发展,很多企业和公司都相应提出了远程协作的需求,而基于终端屏幕分享技术的远程会议成为了这些企业和公司的选择。

基于终端屏幕分享技术的远程会议,通常由信息发送终端(也称主讲终端)发起屏幕分享服务,通过网络连接的其他信息接收终端通过服务器远程接入享受服务,即可以接收信息发送终端分享的屏幕数据,达到信息分享目的,从而可以在异地出差等远程协作的应用场景下,提高协作效率和节省费用开支。

现有技术中,信息发送终端通常将屏幕数据按照其视频编码能力编码成单一的视频位流,由于在实际情况下信息发送终端的编码能力、与各信息接收终端的解码能力或者解码需求往往存在较大差异,导致某些信息接收终端无法根据接收到的视频位流顺利地解码还原会议的屏幕数据,从而无法分享信息发送终端提供的会议信息,无法达到预期的远程协作目的,影响协作效率。



技术实现要素:

本申请提供一种方法,包括:

至少根据会议环境数据确定屏幕编码参数,所述会议环境数据至少包括:信息发送终端的视频编码能力参数、以及各信息接收终端的视频解码配置信息;

获取至少包括屏幕数据的会议信息;

至少根据屏幕编码参数对所述屏幕数据进行分层视频编码,生成包括屏幕位流的多媒体位流;

将所述多媒体位流封装成相应信息类型的多媒体数据包,并发送给服务器。

附图说明

图1是本申请提供的第一种方法的实施例的流程图;

图2是本申请提供的第一种装置的实施例的示意图;

图3是本申请提供的第二种方法的实施例的流程图;

图4是本申请提供的向信息接收终端分发多媒体数据包的示意图;

图5是本申请提供的第二种装置的实施例的示意图;

图6是本申请提供的一种系统示例的示意图;

图7是本申请提供的第三种方法的实施例的流程图;

图8是本申请提供的第三种装置的实施例的示意图;

图9是本申请提供的另一种系统示例的示意图;

图10是本申请提供的第四种方法的实施例的流程图;

图11是本申请提供的第四种装置的实施例的示意图;

图12是本申请提供的第五种方法的实施例的流程图;

图13是本申请提供的第五种装置的实施例的示意图;

图14是本申请提供的第六种方法的实施例的流程图;

图15是本申请提供的第六种装置的实施例的示意图;

图16是本申请提供的第七种方法的实施例的流程图;

图17是本申请提供的第七种装置的实施例的示意图;

图18是本申请提供的第八种方法的实施例的流程图;

图19是本申请提供的第八种装置的实施例的示意图;

图20是本申请提供的第九种方法的实施例的流程图;

图21是本申请提供的第九种装置的实施例的示意图;

图22是本申请提供的一种系统的实施例的示意图。

具体实施方式

在下面的描述中阐述了很多具体细节以便于充分理解本申请。但是,本申请能够以很多不同于在此描述的其它方式来实施,本领域技术人员可以在不违背本申请内涵的情况下做类似推广,因此,本申请不受下面公开的具体实施的限制。

本申请的技术方案可以有不同的变更实施方式或者替代实施方式,本说明书将结合附图给出的示例对特定的实施方式进行详细说明。但是,本领域技术人员应该理解,本说明书的目的不是为了将本申请技术方案限定于本说明书公开的特定实施方式,而是为了覆盖与本申请技术方案一致的所有变更实施方式、等同实施方式和替代实施方式。

在本说明书中对“实施例”、“本实施例”、或者“示范实施例”等的引用,指明所描述的实施例可以包括具体的特征、结构或特性,但是并非要求每个实施例都需要包括该具体的特征、结构或特性。此外,当结合一个实施例描述具体的特征、结构或特性时,在本领域技术人员的知识范围内,可以结合其他实施例来实施这种特征、结构或特性(无论其是否被详细描述)。

本申请的实施例可以按照软件、硬件、固件、或其结合、或其他方式实现。本申请的实施例还可实现为存储在非永久性或永久性机器可读介质(例如:计算机可读介质)上的指令,所述指令可通过一个或多个处理器读取或执行。机器可读介质包括任何按机器可读形式存储或传送信息的存储设备、机制或其他物理结构。例如,机器可读介质可以包括只读存储器(rom)、随机访问存储器(ram)、磁盘存储介质、光存储介质、闪存设备以及其他。

在本说明书提供的附图中,一些结构或方法特征通常是按照具体的排列方式和/或顺序来展示的。但是应该理解,这些具体的排列方式和/或顺序并不是必需的。在一些实施例中,这些特征可以按照与附图不同的排列方式和/或顺序来组织。此外,在某一附图中包含的结构或方法特征,并不意味着在所有实施例中都要包含该特征,在一些实施例中,可以不包含该特征,或者该特征可以与其他特征相结合。

请参考图1,其为本申请提供的第一种方法的实施例的流程图。所述方法在提供会议信息的信息发送终端实施,所述信息发送终端也可以称为会议的主讲终端,其在显示屏幕上展示分享给各信息接收终端的图片、文档等内容,并至少将基于分层视频编码的屏幕数据分发或者通过服务器分发给接收会议信息的各信息接收终端。其中,信息发送终端和信息接收终端可以统称与会终端。

本实施例中的会议环境数据,是指与会议相关的、影响会议信息编码过程的数据,可以包括:信息发送终端的视频编码能力参数、各信息接收终端的视频解码配置信息、描述信息发送终端与服务器之间的传输链路状况的上行网络传输状况参数集、描述服务器至各信息接收终端的传输链路状况的各下行网络传输状况参数集、和/或其他数据。本实施例中的屏幕数据,是指根据按时间顺序采集的一系列屏幕图像帧得到的视频数据流。本实施例中的分层视频编码(scalablevideocoding—svc),是一种将视频流分割为多个解析度、帧率、和质量层的视频编码技术,其中的不同层可组合成不同的操作点(operationpoint—op),不同操作点对应的位流可以体现解析度、帧率、和/或质量的细分差异。

在执行图1所示的步骤101之前,通常可以由任一与会终端向服务器请求会议信息以建立会议,所述会议信息包括,会议发起人信息、起始时间、终止时间、会议地点、会议主题等。各与会终端通过和服务器握手进入会议,信息发送终端和各信息接收终端建立会话后,服务器生成对应会议的会话id(sessionid)。

本实施例提供的所述方法包括如下步骤:

步骤101、至少根据会议环境数据确定屏幕编码参数。

所述会议环境数据至少包括:信息发送终端的视频编码能力参数、以及各信息接收终端的视频解码配置信息。在根据会议环境数据确定屏幕编码参数值前,可以先获取信息发送终端的视频编码能力参数、以及各信息接收终端的视频解码配置信息。

信息发送终端的视频编码能力参数,表征信息发送终端的视频编码器的性能指标的上限,包括:视频解析度、帧率和码率。在具体实施时,可以读取预先设定的上述视频编码能力参数,例如,预先采用离线多次训练的方法设定的所述视频编码能力参数,或者根据视频编码器的规格说明书设定的所述视频编码能力参数;也可以利用视频编码器提供的接口,通过查询得到所述视频编码能力参数。

视频解码配置信息至少包括视频解析度和帧率,也可以包括码率。在具体实施时,也可以通过读取预先设定的配置信息来获取各信息接收终端的视频解码配置信息。为了增加灵活性,可以通过接收各信息接收终端经由服务器上报的视频解码能力参数,和/或,视频请求参数,并根据接收的上述信息确定各信息接收终端的视频解码配置信息。其中,视频解码能力参数、视频请求参数,分别至少包括:视频解析度和帧率,也可以包括码率。视频请求参数中的视频解析度,指信息接收终端所请求的解析度大小,其与信息接收终端的会议信息展示界面的大小、以及显示屏幕大小等因素相关,例如,智能电视显示屏对应的视频解析度可以达到4k或以上,手机显示屏对应的视频解析度通常为2k。对于信息接收终端没有上报码率的情况,在确定视频解码配置信息中的解析度和帧率后,可以根据会议的配置信息确定对应的码率,也可以根据已确定的解析度和帧率估算对应的码率。

具体的,信息接收终端可以将自己的视频解码能力参数或者视频请求参数上报给服务器,服务器继续上报给信息发送终端,信息发送终端根据接收到的信息确定相应信息接收终端的视频解码配置信息。信息接收终端也可以将自己的视频解码能力和视频请求参数都经由服务器上报给信息接收终端,信息发送终端可以遵循信息接收终端的视频请求参数需在其视频解码能力范围内这一原则,确定相应信息接收终端的视频解码配置信息。

例如:信息接收终端上报的视频解码能力为:视频解析度720p、帧率25fps和码率2mbps,其上报的视频请求参数为1080p、帧率25fps和码率4mbps,信息发送终端接收到上述信息后,可以判断出相应信息接收终端的视频解码能力无法满足其请求,因此可以取视频解码能力参数作为相应信息接收终端的视频解码配置信息,即:视频解析度720p、帧率25fps和码率2mbps。

优选地,所述会议环境数据还可以包括:描述所述信息发送终端至所述服务器的传输链路状况的上行网络传输状况参数集,和,描述所述服务器至各信息接收终端的传输链路状况的各下行网络传输状况参数集。所述上行网络传输状况参数集和各下行网络传输状况参数集中,分别至少包括:可用带宽,也可以包括:丢包率、传输时延等参数。在会议环境数据中包括网络传输状况,后续根据该数据确定屏幕编码参数(和视频编码参数),可以不仅适应与会终端的差异,还可以适应网络传输条件的差异。

所述上行网络传输状况参数集和下行网络传输状况参数集可以是根据相应传输链路的规格标称预先设定的,例如:服务器至信息接收终端之间为独占的10m传输链路,则可以设置相应下行网络传输状况参数集中的可用带宽为10mbps。优选地,为了获取更为准确的网络传输状况参数集,可以通过向服务器发送探测包,接收服务器上报的上行网络传输状况参数集;并接收服务器上报的所述各下行网络传输状况参数集。下面对这种实施方式进行说明。

信息发送终端可以在一段时间内(例如,5秒或者1秒)向服务器发送带有时序标记的探测包和总包数指示信息,服务器则统计这段时间的网络状态行为,包括探测包总数、接收到的探测包数目、丢失的探测包数目等,并根据统计信息计算丢包率、传输时延、以及估算可用带宽,从而得到上行网络传输状况参数集,并将该参数集上报给信息发送终端。同样的道理,服务器可以在一段时间内向各信息接收终端发送带有时序标记的探测包和总包数指示信息,各信息接收终端根据各自接收探测包的情况,计算得到相应的下行网络传输状况参数集,并上报给服务器,再由服务器上报给信息发送终端。从而信息发送终端获取了上行网络传输状况参数集和下行网络传输状况参数集。

经过上述过程,信息发送终端确定了会议环境数据。在此基础上,可以确定屏幕编码参数。

在会议期间,信息发送终端发送给服务器的会议信息至少包括屏幕数据,本实施例为了适应各信息接收终端的不同的视频解码配置,采用可分层视频编码技术(scalablevideocoding—svc),以使编码输出的屏幕位流中有对应各信息接收终端的各种分布,因此,本步骤根据上述会议环境数据确定用于控制针对屏幕数据进行svc视频编码的屏幕编码参数,屏幕编码参数包括:视频解析度、帧率、码率、以及分层编码参数。

其中,视频解析度、帧率、码率参数的确定,通常可以根据信息发送终端的视频编码能力参数确定对应信息发送终端编码能力的第一级别(level)、根据各信息接收终端的视频解码配置信息分别确定对应各信息接收终端解码能力的第二级别,先从各第二级别中选取最大级别,然后再从第一级别和所述最大级别中选取其中较小者,最后根据所述较小者确定屏幕编码参数中的视频解析度、帧率和码率。之所以选取较小者,是为了避免浪费信息发送终端的编码能力和传输带宽,以及避免信息发送终端无法产生屏幕位流。

确定屏幕编码参数中的视频解析度、帧率和码率后,可以根据各信息接收终端的视频解码配置信息确定屏幕编码参数中的分层编码参数,以实现针对不同信息接收终端的视频解码配置、在分层编码生成的屏幕位流中都有相应的分布。例如,两个信息接收终端的视频解码配置信息分别为:视频解析度1080p、帧率30fps、码率4mbps,以及视频解析度720p、帧率15fps、码率1.2mbps,那么屏幕编码参数中的分层编码参数至少包括:空间域(即:针对解析度)分为1080p和720p两层,时间域(即:针对帧率)分为30fps和15fps两层。

由此可见,在确定屏幕编码参数时,考虑了信息发送终端的视频编码能力和各信息接收终端的视频解码配置信息,从而为信息发送终端生成屏幕位流、以及各信息接收终端都可以顺利地解码还原会议信息提供了可能性。

在具体实施时,为了适应上行网络传输状况、避免造成上行链路拥塞以及丢包,在确定屏幕编码参数中的视频解析度、帧率和码率的过程中,还可以将会议环境数据中的上行网络传输状况参数集纳入考量范围内,对屏幕数据进行视频编码产生的码率要满足上行网路传输状况参数集的要求,即:至少满足码率小于上行网络传输状况参数集中的可用带宽。同样的道理,为了适应下行网络传输状况,避免造成下行链路拥塞以及丢包,在确定屏幕编码参数中的分层编码参数的过程中,还可以将各下行网络传输状况参数集纳入考量范围内,以实现针对不同信息接收终端的视频解码配置和下行链路状况、在分层编码生成的屏幕位流中都有相应的分布。

在具体实施时,为了增强信息接收终端的会议临场感、体现会议的交互体验,信息发送终端发送给服务器的会议信息不仅包括屏幕数据,还可以包括音频数据和/或视频数据,因此信息发送终端可以对通过麦克风等音频输入装置采集到的会议现场的音频数据进行编码、和/或对通过摄像装置采集到的视频数据(例如:会议现场的视频)进行编码,并将生成的相应位流与屏幕位流(统称多媒体位流)一起发送给服务器。

在发送给服务器的多媒体位流包括视频位流的应用场景下,本步骤可以至少根据会议环境数据和已经确定的屏幕编码参数进一步确定用于控制针对视频数据进行svc视频编码的视频编码参数。

与屏幕编码参数类似,视频编码参数也包括:视频解析度、帧率、码率、以及分层编码参数。可以采用与上述确定屏幕编码参数类似的方式确定视频编码参数,在考虑网络传输状况的应用场景下,对各种会议信息进行编码产生的码率要满足上行网络传输状况参数集中的可用带宽,例如:在会议信息包括屏幕数据、音频数据和视频数据的应用场景下,对这三类数据进行编码所产生的总码率应该小于上行网络传输状况参数集中的可用带宽,例如,上行网络传输状况参数集中的可用带宽为4mbps,这一条件约束了对各种会议信息进行编码的码率之和要在4mbps以内,以免造成上行链路的阻塞和丢包。

在具体实施时,通常屏幕数据作为主要会议信息,音频数据和视频数据是辅助信息,因此在采用上述方式确定视频编码参数时,还可以考虑该优先级关系,选取的视频编码参数中的视频解析度可以低于屏幕编码参数中的视频解析度,而且视频编码参数中的空间域和/或时间域的分层数目可以少于屏幕编码参数中的相关数目,也是可以的。

下面给出本实施例的一个具体例子。在本例子中,共有5个信息接收终端,会议环境数据中不仅包括与编解码相关的参数,还包括传输链路状况相关的参数,具体请参见表一。为了简化描述,在表一以及以下文字描述中采用简化描述方式,例如,1080p@30fps4mbps代表:视频解析度为1080p、帧率为30fps、码率为4mbps,1080p@30fps代表:视频解析度为1080p、帧率为30fp,其他类似表述方式的含义依此类推,不再赘述。

表一、会议环境数据示例

在所述具体例子中,根据表一所示的会议环境数据,确定的屏幕编码参数为:视频解析度为1080p、帧率为30fps,码率为4mbps,分层编码参数为,空间域分为1080p和720p两层,时间域分为30fps和15fps两层。根据表一所示的会议环境数据以及已确定屏幕编码参数,确定的视频编码参数为:视频解析度为720p、帧率为30fps,码率为2mbps,分层编码参数为,空间域分为720p和360p两层,时间域分为30fps和15fps两层。

在上述具体例子中,屏幕编码参数和视频编码参数中的分层编码参数仅包括空间域和时间域的分层设计,在其他实施方式中,还可以包括质量域(即:针对码率)的分层设计,也是可以的。

以上描述了确定屏幕编码参数(和视频编码参数)的实施方式。在具体实施时,可以仅在会议启动时确定屏幕编码参数(和视频解码参数),考虑到信息接收终端的请求可能动态变化(以及网络传输状况可能动态变化),因此在会议开始以后,即在会议期间,也可以根据需要采用上述方式重新确定屏幕编码参数(和视频编码参数)。

步骤102、获取至少包括屏幕数据的会议信息。

在会议期间,信息发送终端获取的会议信息至少包括屏幕数据。在具体实施时,可以利用操作系统提供的捕获窗口图像的api函数采集屏幕图像帧,或者,通过读取显示缓存(例如:framebuffer)中存储的屏幕图像帧,获取会议的屏幕数据。

优选地,考虑到信息发送终端在会议期间展示的屏幕数据中可能包含不适合信息接收终端分享的私密信息(例如,ppt讲演稿中备注栏内容、或者公司财务报表等信息),本实施例提供在信息发送终端一侧保护私密信息的实施方式,即本步骤获取的可以为不包含私密信息的屏幕数据。

通常使用信息发送终端的会议主讲人可以在会议开始前或者会议期间根据自己的需求采用圈画或者设置等方式,设置私密信息所在私密屏幕区域的位置信息。在会议期间,若检测到需要保护私密信息,则可以获取私密屏幕区域的位置信息,并根据已设置私密屏幕区域的位置信息,从采集到的屏幕数据中去除位于私密屏幕区域中的图像数据,例如,可以将位于私密屏幕区域中的每个像素的rgb值设置为(0,0,0),使得私密屏幕区域显示为黑色,或者设置为(255,255,255),使得私密屏幕区域显示为白色,也可以通过更改私密屏幕区域中像素的rgb值,采用预设图案填充私密屏幕区域,例如:斜线图案等。从采集的屏幕数据中去除位于私密屏幕区域中的图像数据后,得到的屏幕数据不再包含私密信息,从而也就不会通过会议信息的分发将私密信息泄露给信息接收终端,因此对于信息发送终端来说,起到了保护私密信息的作用。

优选地,为了向信息接收终端展示更多信息,信息发送终端在会议期间向信息接收终端分发屏幕数据的同时,还可以将预设的附加数据作为屏幕数据的一部分一并分发给各信息接收终端,即,本步骤获取的可以为包含附加数据的屏幕数据。所述附加数据,是指用于添加到屏幕数据中、以在信息接收终端的显示设备上作为屏幕数据的一部分显示的预设数据,包括:附加图像数据、附加视频数据、和/或其他数据。

具体的,在信息发送终端或者服务器上通常预先设置了附加数据、以及待替换屏幕区域的位置信息,因此可以在采集屏幕数据之前先获取这些信息,在采集屏幕数据之后,可以根据预先获取的待替换屏幕区域的位置信息,用预先获取的附加数据,例如:附加图像数据或者附加视频数据替换位于待替换屏幕区域中的屏幕数据。在具体实施时,如果预先获取的附加数据是附加视频数据,那么可以先将附加视频数据转换成一系列附加图像帧,然后用每个附加图像帧的数据依次替换屏幕数据的相应屏幕图像帧中、位于待替换屏幕区域中的屏幕数据。

执行上述替换操作后,相当于在分发给各信息接收终端的屏幕数据中叠加了附加数据,从而可以向各信息接收终端展示更多的信息。例如:附加数据数据展示的内容可以是广告宣传信息或者标志信息logo等,从而有助于运营广告商业方案。

在具体实施时,是否利用附加数据执行相应的替换操作,可以通过存储在服务器一侧的会议设置信息来控制,从而可以实现按需执行替换操作,增加实施的灵活性,例如:当需要执行替换操作时,会议设置信息中可以包含执行替换操作的指示信息,或者会议设置信息中可以包含执行替换操作的条件,例如,在10:00-12:00之间执行替换操作等。因此,在采集屏幕数据之前,可以向服务器获取本次会议的会议设置信息,在采集屏幕数据之后,若所述会议设置信息中包含执行替换操作的指示信息、或者当前满足所述会议设置信息中包含的执行替换操作的条件,则执行用附加数据替换待替换屏幕区域的屏幕数据的操作,否则可以不执行替换操作。

以上针对获取屏幕数据,分别提供了保护私密信息和在屏幕数据中携带附加数据的优选实施方式,在具体实施时,可以根据需要选择两者之一,也可以将这两种优选实施方式结合实施,即,在采集屏幕数据之后,可以先从中去除位于私密屏幕区域中的图像数据,然后再用附加数据替换其中位于待替换屏幕区域中的数据,并将经过上述处理后得到的屏幕数据作为待分发的屏幕数据,从而信息发送终端可以在保护私密数据的同时,向各信息接收终端展示更多的信息。当然,在会议期间的某些时段,如果既没有检测到需要保护私密数据、而且也无需执行附加数据的替换操作(例如:会议设置信息中没有指示或者不符合执行替换操作的条件),那么在这些会议时段内直接采集屏幕数据即可,不用执行针对屏幕数据的额外处理操作。

以上描述了获取屏幕数据的多种实施方式。优选地,信息发送终端通过服务器分发的会议信息还可以包括:音频数据和/或视频数据。对于包括视频数据的应用场景,可以通过摄像装置采集视频数据(例如:会议现场的视频数据);对于包括音频数据的应用场景,则可以通过麦克风等音频输入设备采集会议现场的音频数据。

步骤103、至少根据屏幕编码参数对所述屏幕数据进行分层视频编码,生成包括屏幕位流的多媒体位流。

本步骤可以根据在步骤101中确定的屏幕编码参数对步骤102中获取的屏幕数据进行分层视频编码(svc)。itumpeg-4和isoh.264等标准均提供对svc视频编码的扩展支持,因此本步骤可以遵循上述标准进行分层视频编码。采用svc编码方式可以提供空间域、时间域和质量域这三个不同维度的可分层编码,每个域由不同层(layer)组成,空间域、时间域和质量域分别对应解析度、帧率和码率的差异需求,从三者中分别选取某一层可组合成为一个操作点不同op对应的位流可表示或解析度、或帧率、或质量的细分差异,因此可以通过分层编码实现针对各信息接收终端的不同视频解码配置信息(和不同网络状况)的可伸缩性和可适应性能力。

仍沿用步骤101中给出的具体例子,采用已确定的屏幕编码参数对屏幕数据进行分层视频编码生成的屏幕位流中,在空间域至少包含分别对应1080p和720p的两层,在时间域至少包含分别对应30fps和15fps的两层。

优选地,本步骤还可以对步骤102中采集的音频数据进行编码,以生成音频位流。例如:可以遵循g.729或者g.711等标准对音频数据进行编码,产生的音频位流的码率通常比较小,例如:64kbps,因此在具体实施时,通常可以忽略音频位流对上行带宽的占用。

优选地,本步骤还可以根据在步骤101中确定的视频编码参数对步骤102中采集的视频数据进行分层视频编码,以生成视频位流。仍沿用步骤101-中给出的具体例子,采用已确定的视频编码参数对视频数据进行分层视频编码生成的视频位流中,在空间域至少包含分别对应720p和360p的两层,在时间域至少包含分别对应30fps和15fps的两层。

在具体实施时,本步骤生成的多媒体位流可以仅包含屏幕位流,也可以包含对应不同信息类型的一种以上位流,具体可以为:屏幕位流和音频位流,屏幕位流和视频位流,或者,屏幕位流和音频位流以及视频位流。

步骤104、将所述多媒体位流封装成相应信息类型的多媒体数据包,并发送给服务器。

本步骤针对步骤103生成的多媒体位流,执行封装操作(也称打包操作),从而生成相应信息类型的多媒体数据包,所述相应信息类型可以是:屏幕、音频或视频。具体的,可以将屏幕位流封装成一系列屏幕数据包,将音频位流封装成一系列音频数据包,将视频位流封装成一系列视频数据包,每个多媒体数据包都具有相应的信息类型标识。然后将封装好的多媒体数据包发送给服务器。

根据多媒体位流的不同,本步骤封装并发送给服务器的多媒体数据包可以仅包括屏幕数据包,也可以不仅包括屏幕数据包,还包括音频数据包和/或视频数据包。对于还包括音频数据包和/或视频数据包的实施方式,可以增强信息接收终端的会议临场感、体现会议的交互体验。

优选地,考虑到信息发送终端至服务器之间的上行链路可能发生拥塞,为了避免因为网络拥塞导致多媒体数据包发生不可控的丢包,在检测到网络拥塞的情况下,可以在执行封装操作后,基于当前网络传输状况进行流量控制,并将经由流量控制后的多媒体数据包发送给所述服务器。所述基于当前网络传输状况进行流量控制包括:根据所述当前网络传输状况调整发送时间间隔;或者,根据所述当前网络传输状况调整发送时间间隔,并至少根据预设的信息类型优先级执行丢弃部分多媒体数据包的处理。

具体的,可以定时或者实时向服务器发送探测包、并接收服务器计算并反馈的上行链路的网络状况信息,例如:传输时延、丢包率、和/或可用带宽等,若根据最近接收到的上行链路的网络状况信息判断网络处于拥塞状况,则可以调整多媒体数据包的发送时间间隔,以避免因为网络拥塞导致丢包。

如果调整发送时间间隔导致封装好的多媒体数据包无法全部发送出去,则可以根据预设的信息类型优先级执行丢弃部分多媒体数据包的处理。通常屏幕数据作为主要的会议信息,可以设置屏幕信息类型的优先级最高,视频数据和音频数据作为辅助的会议信息,则可以根据需要设置相应的优先级,例如:可以设置音频信息类型的优先级低于屏幕信息类型、但是高于视频信息类型,采用这种设置方式,可以优先丢弃视频数据包,然后丢弃音频数据包,如果仍不满足要求,则选择性地丢弃屏幕数据包,例如:丢弃非参考帧对应的屏幕数据包。采用流量控制,可以减少因为网络拥塞导致的丢包,或者根据优先级丢弃数据包,尽可能地保障在各种网络条件下,作为会议主要信息的屏幕数据可以被顺利地发送给服务器,有助于保证会议信息的分享质量。

在具体实施时,为了记录会议过程或者实现会议信息的再分享,本步骤在将多媒体位流封装成相应信息类型的多媒体数据包后,还可以将封装好的多媒体数据包按照预设格式写入会议媒体源文件中,并可以在会议期间将会议媒体源文件实时上传给服务器,或者在会议结束后将会议媒体源文件上传给服务器。

至此,通过上述步骤101-104,对本实施例提供的方法的实施方式进行了描述。通过上述描述可以看出,由于信息发送终端在生成承载会议信息的屏幕数据包的过程中,考虑了信息发送终端的视频编码能力参数、以及各信息接收终端的视频解码配置信息,并采用了视频分层编码技术,因此针对会议环境中的信息发送终端及各信息接收终端在编解码能力及需求上的差异,提供了自适应能力,为各信息接收终端顺利地解码还原信息发送终端提供的会议信息提供保障。

以上提供了本申请的第一种方法的实施例,下面提供与之相对应的第一种装置的实施例,所述装置通常部署于信息发送终端。请参看图2,其为本申请提供的第一种装置实施例示意图。由于装置实施例基本相似于方法实施例,所以描述得比较简单,相关之处参见方法实施例的部分说明即可。下述描述的装置实施例仅仅是示意性的。

本实施例的装置,包括:编码参数确定单元201,用于至少根据会议环境数据确定屏幕编码参数,所述会议环境数据至少包括:信息发送终端的视频编码能力参数、以及各信息接收终端的视频解码配置信息;会议信息获取单元202,用于获取至少包括屏幕数据的会议信息;多媒体编码单元203,用于至少根据屏幕编码参数对所述屏幕数据进行分层编码,生成包括屏幕位流的多媒体位流;数据包封装发送单元204,用于将所述多媒体位流封装成相应信息类型的多媒体数据包,并发送给服务器。

可选的,所述编码参数确定单元所采用的会议环境数据还包括:描述所述信息发送终端与所述服务器之间的传输链路状况的上行网络传输状况参数集,和,描述所述服务器至各信息接收终端的传输链路状况的各下行网络传输状况参数集。

可选的,所述会议信息获取单元获取的会议信息还包括:采集到的音频数据;

所述多媒体编码单元,还用于对所述音频数据进行编码得到音频位流。

可选的,所述编码参数确定单元,具体用于根据会议环境数据确定屏幕编码参数;以及,至少根据所述会议环境数据和所述屏幕编码参数确定视频编码参数;

所述会议信息获取单元获取的会议信息还包括:采集到的视频数据;

所述多媒体编码单元,还用于根据视频编码参数对所述视频数据进行分层视频编码生成的视频位流。

可选的,所述数据包封装发送单元,包括:

封装子单元,用于将所述多媒体位流封装成相应信息类型的多媒体数据包;

流控发送子单元,用于将基于当前网络传输状况进行流量控制后的所述多媒体数据包发送给所述服务器。

可选的,所述装置还包括:

视频解码配置信息确定单元,用于在所述编码参数确定单元确定屏幕编码参数之前,接收所述服务器上报的各信息接收终端的视频解码能力参数,和/或,视频请求参数,并根据接收的上述信息确定各信息接收终端的视频解码配置信息。

可选的,所述装置还包括:

上行网络参数确定单元,用于在所述编码参数确定单元确定屏幕编码参数之前,向所述服务器发送探测包,并接收所述服务器上报的上行网络传输状况参数集;

下行网络参数接收单元,用于在所述编码参数确定单元确定屏幕编码参数之前,接收所述服务器上报的所述各下行网络传输状况参数集。

可选的,所述装置还包括:

会议文件录制单元,用于将所述数据包封装发送单元封装好的多媒体数据包按照预设格式写入会议媒体源文件中;

会议文件上传单元,用于将所述会议媒体源文件上传给所述服务器。

可选的,所述装置还包括:私密配置信息获取单元,用于在所述会议信息获取单元获取至少包括屏幕数据的会议信息之前,获取私密信息所在私密屏幕区域的位置信息;

所述会议信息获取单元,包括:

屏幕数据采集子单元,用于采集屏幕数据;

私密信息去除子单元,用于根据所述私密屏幕区域的位置信息,从所述采集的屏幕数据中去除位于所述私密屏幕区域中的图像数据,得到不包含私密信息的屏幕数据。

可选的,所述装置还包括:附加配置信息获取单元,用于在所述会议信息获取单元获取至少包括屏幕数据的会议信息之前,获取预设的附加数据,以及待替换屏幕区域的位置信息;

所述会议信息获取单元,包括:

屏幕数据采集子单元,用于采集屏幕数据;

替换操作执行子单元,用于根据所述代替换屏幕区域的位置信息,用所述附加数据替换位于所述待替换屏幕区域中的屏幕数据,得到包含附加图像数据或附加视频数据的屏幕数据。

此外,与上述提供的第一种方法相对应,本申请还提供第二种方法。所述第二种方法通常在服务器上实施。请参考图3,其为本申请提供的第二种方法的实施例的流程图,本实施例与上述第一种方法实施例内容相同的部分不再赘述,下面重点描述不同之处。本实施例提供的所述方法包括如下步骤:

步骤301、接收信息发送终端发送的多媒体数据包,所述多媒体数据包中至少包括基于分层视频编码的屏幕数据包。

在接收信息发送终端发送的多媒体数据包之前,可以获取各信息接收终端的视频解码配置信息。具体的,可以通过读取预先设定的配置信息来获取各信息接收终端的视频解码配置信息;为了增加灵活性,也可以通过接收各信息接收终端上报的视频解码能力参数、和/或、视频请求参数,确定各信息接收终端的视频解码配置信息。在具体实施时,还可以将各信息接收终端上报的视频解码能力参数、和/或、视频请求参数发送给信息发送终端。

在接收信息发送终端发送的多媒体数据包之前,还可以获取对应各信息接收终端的各下行网络传输状况参数集。具体的,可以读取根据相应传输链路的规格标称预先设定的所述各下行网络传输状况参数集;为了获取更为准确的各下行网络传输状况参数集,可以向各信息接收终端分别发送探测包,并接收各信息接收终端分别上报的相应下行网络传输状况参数集。

具体实施时,可以在会议开始之前,获取各信息接收终端的视频解码配置信息(和各下行网络传输状况参数集),在会议开始后,本步骤则可以接收到信息发送终端发送的多媒体数据包,所述多媒体数据包中至少包括基于分层视频编码的屏幕数据包,还可以包括音频数据包、和/或、基于分层编码的视频数据包。

步骤302、针对每个信息接收终端执行下述操作:至少根据所述信息接收终端的视频解码配置信息确定对应屏幕数据的第一操作点,并将包括对应所述第一操作点的屏幕数据包的多媒体数据包发送给所述信息接收终端。

具体的,可以根据多媒体数据包中的指示信息或者信息发送终端提供的编码指示信息,获知多媒体数据包所承载的多媒体位流(至少包括屏幕位流)的分层信息,因此可以针对每个信息接收终端执行下述操作:根据所述信息接收终端的视频解码配置信息确定对应屏幕数据的第一操作点,然后从接收到的多媒体数据包中提取对应第一操作点的屏幕数据包,并将提取的屏幕数据包发送给所述信息接收终端。例如:多媒体数据包所承载的屏幕位流在空间域分为1080p和720p两个层,在时间域分为30fps和15fps两个层,而信息接收终端的视频解码配置信息为:1080p@15fps,那么可以确定第一操作点由空间域的1080p层和时间域的15fps层组成,因此可以提取对应于该操作点的屏幕数据包,并分发给该信息接收终端。

优选地,考虑到服务器至各信息接收终端间的下行传输链路的传输状况可能存在差异,为了适应这种网络异构情况,在针对每个信息接收终端确定第一操作点时,可以采用综合考虑相应信息接收终端的视频解码配置信息和相应的下行网络传输状况参数集的优选实施方式,所述网络传输状况参数集中至少包括可用带宽,还可以包括传输时延、丢包率等。例如,对于某一信息接收终端确定的第一操作点不仅要满足相应视频解码配置信息的要求,而且与第一操作点对应的码率还应该小于相应的下行网络传输状况参数集中的可用带宽。

如果接收到的多媒体数据包中不仅包括屏幕数据包,还包括音频数据包,服务器可以从中提取音频数据包,并在分发给每个信息接收终端的多媒体数据包中,除了包括对应于第一操作点的屏幕数据包之外,还可以包括提取的音频数据包。

如果接收到的多媒体数据包中不仅包括屏幕数据包,还包括基于分层视频编码的视频数据包,本步骤针对每个信息接收终端除了可以确定第一操作点,还可以确定第二操作点,即:至少根据所述信息接收终端的视频解码配置信息和相应的下行网络传输状况参数集、以及已确定的第一操作点,判断是否存在可分发的对应视频数据的第二操作点;当存在第二操作点时,不仅从多媒体数据包中提取对应第一操作点的屏幕数据包,还提取对应第二操作点的视频数据包,并将至少包括提取的屏幕数据包和视频数据包的多媒体数据包发送给相应的信息接收终端。

如果接收到的多媒体数据包中不仅包括屏幕数据包,还包括音频数据包和视频数据包,那么在采用上述实施方式时,还可以兼顾考虑相应信息类型的优先级设置,其中,屏幕数据作为主要的会议信息,优先级最高,音频和视频可以根据需要设置相应的优先级。例如:针对某一信息接收终端,在受限于下行传输链路的可用带宽、无法同时向其发送三种数据包的情形下,如果音频的优先级高于视频,则可以向所述信息接收终端发送对应于第一操作点的屏幕数据包以及音频数据包。

由此可见,服务器分发给信息接收终端的多媒体数据包,可以不仅包括屏幕数据包,还可以包括视频数据包、和/或音频数据包,从而可以增强信息接收终端的会议临场感、体现会议的交互体验。

此外需要说明的是,服务器针对每个信息接收终端确定第一操作点时,可以不仅根据相应信息接收终端的视频解码配置信息和相应的下行网络传输状况参数集,还可以参考相应信息接收终端的视频体验优先级设置。所述视频体验优先级设置包括:解析度优先、或者流畅度优先。

对于要求解析度优选的信息接收终端,在满足其视频解码配置信息和相应下行网络传输状况参数集的要求的前提下,服务器尽量选择对应高解析度的操作点作为第一操作点,并将对应第一操作点的屏幕数据包分发给所述信息接收终端,从而信息接收终端可以展现高清晰度的画质。

对于要求流畅度优先的信息接收终端,在满足其视频解码配置信息和相应下行网络传输状况参数集的要求的前提下,服务器尽量选择对应高帧率的操作点作为第一操作点,并将对应第一操作点的屏幕数据包分发给所述信息接收终端,从而信息接收终端可以展现高流畅度的播放过程。

各信息接收终端的视频体验优先级设置,可以都设置为相同的,例如:都设置为清晰度优先;也可以设置为不同的,即:针对部分信息接收终端设置为清晰度优先,其他信息接收终端设置为解析度优先。具体实施时,可以直接在服务器一侧设置各信息接收终端的视频体验优先级,也可以由各信息接收终端根据自己的需求进行设置,并在会议开始之前上报给服务器。

同样的道理,在判断是否存在可分发的对应视频数据的第二操作点时,同样可以将相应信息接收终端的视频体验优先级设置纳入考量范围之内。

下面,仍沿用在第一种方法实施例的步骤101中给出的具体例子,对本步骤向信息接收终端分发多媒体数据包的过程作进一步举例说明,请参见图4。信息发送终端采用svc技术对屏幕数据和视频数据进行分层视频编码,并对音频数据进行编码,然后将封装后的多媒体数据包发送至服务器,服务器根据各信息接收终端的视频编码配置信息和相应下行链路网络情况,分别发送相应的多媒体数据包至相应的信息接收终端。

其中,向下行链路可用带宽为8mbps的信息接收终端发送的多媒体数据包对应1080p@30fps4mbps的屏幕位流、720p@30fps2mbps的视频位流和64kbps的音频位流;向下行链路可用带宽为6mbps的信息接收终端发送的多媒体数据包可以分为两种情况,在解析度优先的情况下,发送的多媒体数据包对应1080p@30fps4mbps的屏幕位流、720p@15fps1mbps的视频位流和64kbps的音频位流,在流畅度优先的情况下,发送的多媒体数据包对应1080p@30fps4mbps的屏幕位流、360p@30fps0.5mbps的视频位流和64kbps的音频位流;向下行链路可用带宽为4mbps的信息接收终端发送的多媒体数据包与6mbps类似,不再赘述;向下行链路可用带宽为2mbps的信息接收终端发送的多媒体数据包对应720p@15fps1mbps的屏幕位流、360p@30fps0.5mbps的视频位流和64kbps的音频位流;然而,对于下行链路可用带宽为1.2mbps的信息接收终端,由于屏幕位流、视频位流和音频位流的最低码率分别对应1mbps、0.3mbps和64kbps,由于带宽受限,因此服务器向该信息接收终端发送的多媒体数据包对应720p@15fps1mbps的屏幕位流和64kbps的音频位流。

至此,通过上述步骤301-302对本实施例提供的方法的实施方式进行了详细描述。通过上述描述可以看出,由于在向信息接收终端分发屏幕数据包时,是基于相应信息接收终端的视频解码配置信息提取与相应操作点对应的屏幕数据包进行分发,因此本方法能够针对会议环境中各信息接收终端在解码能力或者需求上的差异,提供自适应能力,使各信息接收终端都可以根据接收到的屏幕数据包顺利地解码还原会议的屏幕数据,从而成功地分享信息发送终端提供的会议信息,达到预期的远程协作目的,提高协作效率。

此外,为了提供会议回放功能,本实施例还可以提供录制以及回放会议信息的扩展实施方式,下面进行详细说明。具体的,在上述步骤301接收信息发送终端发送的多媒体数据包后,可以将接收到的多媒体数据包按照预设格式写入会议媒体源文件中,从而在本地生成对应会议的会议媒体源文件。在具体实施时,也可以不在步骤301中将接收到的多媒体数据包按照预设格式写入会议媒体源文件中,而是接收由信息发送终端上传的会议媒体源文件并存储在本地,也是可以的。

在会议期间或者会议结束后,如果接收到会议回放终端针对所述会议的会议回放请求,则可以读取对应所述会议的会议媒体源文件,并至少根据所述会议回放终端的视频解码配置信息,确定对应屏幕数据的第三操作点,并将从所述媒体源文件中获取的、至少包括对应所述第三操作点的屏幕数据包的多媒体数据包发送给所述会议回放终端。

其中,所述会议回放终端可以是参与会议的与会终端之一,也可以是不同于各与会终端的其他终端。服务器可以根据会议回放终端在会议回放请求中携带的视频解码能力参数、和/或视频请求参数,确定会议回放终端的视频解码配置信息。

采用上述实施方式,不仅能够实现回放会议信息的功能,实现会议信息再分享的价值,而且由于在向会议回放终端提供包括屏幕数据包的多媒体数据包时,考虑了会议回放终端的视频解码配置信息,因此针对具有不同解码配置的会议回放终端,都可以提供对应相应操作点的屏幕数据包,保障会议回放终端可以顺利解码回放。

优选地,所述至少根据所述会议回放终端的视频解码配置信息,确定对应屏幕数据的第三操作点,包括:至少根据所述会议回放终端的视频解码配置信息以及相应的下行网络传输状况参数集,确定对应屏幕数据的第三操作点;其中,所述相应的下行网络传输状况参数集用于描述所述服务器至所述会议回放终端间的传输链路状况,其中至少包括:可用带宽。

采用上述优选实施方式,针对具有不同解码配置以及不同下行链路传输状况的会议回放终端,都可以提供对应相应操作点的屏幕数据包,保障数据的顺利传输、以及会议回放终端可以顺利解码回放。

以上提供了本申请的第二种方法的实施例,下面提供与之相对应的第二种装置的实施例,所述装置通常部署于服务器。请参看图5,其为本申请的第二种装置的实施例示意图。由于装置实施例基本相似于方法实施例,所以描述得比较简单,相关之处参见方法实施例的部分说明即可。下述描述的装置实施例仅仅是示意性的。

本实施例的装置,包括:数据包接收单元501,用于接收多媒体数据包,所述多媒体数据包中至少包括基于分层视频编码的屏幕数据包;操作点计算单元502,用于针对每个信息接收终端执行下述操作:至少根据所述信息接收终端的视频解码配置信息确定对应屏幕数据的第一操作点;数据包分发单元503,用于根据所述操作点计算单元确定的第一操作点,将包括对应所述第一操作点的屏幕数据包的多媒体数据包发送给相应的信息接收终端。

可选的,所述操作点计算单元,具体用于针对每个信息接收终端执行下述操作:至少根据所述信息接收终端的视频解码配置信息和相应的下行网络传输状况参数集确定对应屏幕数据的第一操作点。

可选的,所述数据包分发单元分发给相应信息接收终端的多媒体数据包还包括:音频数据包。

可选的,所述操作点计算单元,还用于至少根据所述信息接收终端的视频解码配置信息和相应的下行网络传输状况参数集、以及已确定的第一操作点,判断是否存在可分发的对应视频数据的第二操作点;

所述数据包分发单元在存在所述第二操作点时,分发给相应信息接收终端的多媒体数据包还包括:对应所述第二操作点的视频数据包。

可选的,所述装置还包括:

视频解码配置确定单元,用于在所述数据包接收单元接收多媒体数据包之前,接收各信息接收终端上报的视频解码能力参数,和/或,视频请求参数,并根据接收的上述信息确定各信息接收终端的视频解码配置信息。

可选的,所述装置还包括:

下行网络参数集接收单元,用于在所述数据包接收单元接收多媒体数据包之前,向各信息接收终端分别发送探测包,并接收各信息接收终端分别上报的相应下行网络传输状况参数集。

可选的,所述装置还包括:

会议录制单元,用于将接收到的多媒体数据包按照预设格式写入会议媒体源文件中;或者,

会议文件接收单元,用于接收所述信息发送终端上传的会议媒体源文件并存储。

可选的,所述装置还包括:

回放请求接收单元,用于接收会议回放终端发送的针对所述会议的会议回放请求;

回放信息发送单元,用于读取所述会议媒体源文件,并至少根据所述会议回放终端的视频解码配置信息,确定对应屏幕数据的第三操作点,并将从所述媒体源文件中获取的、至少包括对应所述第三操作点的屏幕数据包的多媒体数据包发送给所述会议回放终端。

请参见图6,其为本申请提供的一种系统示例的示意图。如图6所示,系统600包括上述第一种装置实施例所提供的装置601(在本实施例中称为信息发送装置)、上述第二种装置实施例所提供的装置602(在本实施例中称为信息分发装置)、以及用于接收所述信息分发装置602分发的多媒体数据包、并还原展示会议信息的n个信息接收终端603-1......603-n。

所述信息发送装置601包括:编码参数确定单元601-1、会议信息获取单元601-2、多媒体编码单元601-3以及数据包封装发送单元601-4,其中各单元的功能请参见之前提供的第一种装置实施例中的说明,此处不再赘述。所述信息分发装置602包括:数据包接收单元602-1、操作点计算单元602-2以及数据包分发单元602-3,其中各单元的功能请参见之前提供的第二种装置实施例中的说明,此处不再赘述。

所述信息发送装置601可以部署于信息发送终端,所述信息发送终端可以包括:个人电脑、或移动终端设备(例如:智能手机、平板电脑)等电子设备;所述信息分发装置602可以部署于服务器;所述信息接收终端可以包括:个人电脑、或移动终端设备等电子设备。

此外,本申请还提供第三种方法,所述方法通常在信息发送终端实施。请参考图7,其为本申请提供的第三种方法的实施例的流程图,本实施例与上述各方法实施例步骤相同的部分不再赘述,下面重点描述不同之处。本实施例提供的所述方法包括如下步骤:

步骤701、至少根据会议环境数据确定屏幕编码参数。

所述会议环境数据至少包括:信息发送终端的视频编码能力参数、以及各信息接收终端的视频解码配置信息。

步骤702、获取至少包括屏幕数据的会议信息。

步骤703、至少根据屏幕编码参数对所述屏幕数据进行分层视频编码,生成包括屏幕位流的多媒体位流。

步骤704、将所述多媒体位流封装成相应信息类型的多媒体数据包。

步骤705、针对每个信息接收终端执行下述操作:至少根据所述信息接收终端的视频解码配置信息确定对应屏幕数据的操作点,并将包括对应所述操作点的屏幕数据包的多媒体数据包发送给所述信息接收终端。

所述会议环境数据还包括:描述所述会议信息发送终端与各信息接收终端间的传输链路状况的下行网络传输状况参数集。

所述至少根据所述信息接收终端的视频解码配置信息确定对应屏幕数据的操作点,包括:至少根据所述信息接收终端的视频解码配置信息和相应的下行网络传输状况参数集确定对应屏幕数据的操作点。

以上提供了本申请的第三种方法的实施例,下面提供与之相对应的第三种装置的实施例,所述装置通常部署于信息发送终端。请参看图8,其为本申请提供的第三种装置的实施例示意图。由于装置实施例基本相似于方法实施例,所以描述得比较简单,相关之处参见方法实施例的部分说明即可。下述描述的装置实施例仅仅是示意性的。

本实施例的装置,包括:编码参数确定单元801,用于至少根据会议环境数据确定屏幕编码参数,所述会议环境数据至少包括:信息发送终端的视频编码能力参数、以及各信息接收终端的视频解码配置信息;会议信息获取单元802,用于获取至少包括屏幕数据的会议信息;多媒体编码单元803,用于至少根据屏幕编码参数对所述屏幕数据进行分层视频编码,生成包括屏幕位流的多媒体位流;数据包封装单元804,用于将所述多媒体位流封装成相应信息类型的多媒体数据包;操作点计算单元805,用于针对每个信息接收终端执行下述操作:至少根据所述信息接收终端的视频解码配置信息确定对应屏幕数据的操作点;数据包分发单元806,用于根据所述操作点计算单元确定的操作点,将包括对应所述第一操作点的屏幕数据包的多媒体数据包发送给相应的信息接收终端。

可选的,所述编码参数确定单元所采用的会议环境数据还包括:描述所述信息发送终端与各信息接收终端间的传输链路状况的下行网络传输状况参数集;

所述操作点计算单元,具体用于针对每个信息接收终端执行下述操作:至少根据所述信息接收终端的视频解码配置信息和相应的下行网络传输状况参数集确定对应屏幕数据的操作点。

请参见图9,其为本申请提供的另一种系统示例的示意图。如图9所示,系统900包括上述第三种装置实施例所提供的装置901(在本实施例中称为信息发送装置)、以及用于接收所述信息发送装置901分发的多媒体数据包、并还原展示会议信息的n个信息接收终端902-1......902-n。

所述信息发送装置901包括:编码参数确定单元901-1、会议信息获取单元901-2、多媒体编码单元901-3、数据包封装单元901-4、操作点计算单元901-5、以及数据包分发单元901-6,其中各单元的功能请参见之前提供的第三种装置实施例中的说明,此处不再赘述。

所述信息发送装置901可以部署于信息发送终端,所述信息发送终端可以包括:服务器、个人电脑、或移动终端设备(例如:智能手机、平板电脑)等电子设备;所述信息接收终端可以包括:个人电脑、或移动终端设备等电子设备。

此外,本申请还提供第四种方法,所述方法通常在服务器上实施。请参考图10,其为本申请提供的第四种方法的实施例的流程图,本实施例与上述各方法实施例步骤相同的部分不再赘述,下面重点描述不同之处。本实施例提供的所述方法包括如下步骤:

步骤1001、接收会议回放终端发送的会议回放请求。

在本步骤之前,可以接收信息发送终端上传的针对被请求会议的会议媒体源文件;或者,在所述被请求会议召开期间,将接收到的承载会议信息的多媒体数据包录制为会议媒体源文件。

步骤1002、通过读取针对被请求会议录制的会议媒体源文件,获取承载会议信息的多媒体数据包并发送给所述会议回放终端,以供其还原并展示会议信息。

所述会议媒体源文件中存储的承载会议信息的多媒体数据包至少包括:对采用分层视频编码技术生成的屏幕位流进行封装得到的屏幕数据包;

所述获取承载会议信息的多媒体数据包并发送给所述会议回放终端,包括:至少根据所述会议回放终端的视频解码配置信息,确定对应屏幕数据的操作点,并将从所述媒体源文件中获取的、至少包括对应所述操作点的屏幕数据包的多媒体数据包发送给所述会议回放终端。

以上提供了本申请的第四种方法的实施例,下面提供与之相对应的第四种装置的实施例。请参看图11,其为本申请提供的第四种装置的实施例示意图。由于装置实施例基本相似于方法实施例,所以描述得比较简单,相关之处参见方法实施例的部分说明即可。下述描述的装置实施例仅仅是示意性的。

本实施例的装置,包括:会议回放请求接收单元1101,用于接收会议回放终端发送的会议回放请求;会议回放信息发送单元1102,用于通过读取针对被请求会议录制的会议媒体源文件,获取承载会议信息的多媒体数据包并发送给所述会议回放终端,以供其还原并展示会议信息。

可选的,所述装置还包括:

会议文件接收单元,用于在所述会议回放请求接收单元接收所述会议回放请求之前,接收信息发送终端上传的针对所述被请求会议的会议媒体源文件并存储;或者,

会议文件录制单元,用于在所述会议回放请求接收单元接收所述会议回放请求之前,在所述被请求会议召开期间,将接收到的承载会议信息的多媒体数据包录制为所述会议媒体源文件。

可选的,所述会议媒体源文件中存储的承载会议信息的多媒体数据包至少包括:对采用分层视频编码技术生成的屏幕位流执行封装操作后得到的屏幕数据包;

所述会议回放信息发送单元,具体用于读取针对被请求会议录制的会议媒体源文件,并至少根据所述会议回放终端的视频解码配置信息,确定对应屏幕数据的第一操作点,并将从所述媒体源文件中获取的、至少包括对应所述第一操作点的屏幕数据包的多媒体数据包发送给所述会议回放终端。

此外,本申请还提供第五种方法,所述方法通常在信息发送终端。请参考图12,其为本申请提供的第五种方法的实施例的流程图,本实施例与上述各方法实施例步骤相同的部分不再赘述,下面重点描述不同之处。本实施例提供的所述方法包括如下步骤:

步骤1201、获取不包含私密信息的屏幕数据。

在执行本步骤之前,可以获取所述私密信息所在私密屏幕区域的位置信息。本步骤可以采集屏幕数据,并根据所述私密屏幕区域的位置信息,从所述采集的屏幕数据中去除位于所述私密屏幕区域中的图像数据,得到不包含私密信息的屏幕数据

步骤1202、对所述屏幕数据进行视频编码,生成屏幕位流。

步骤1203、将所述屏幕位流封装成多媒体数据包并分享给各信息接收终端。

以上提供了本申请的第五种方法的实施例,下面提供与之相对应的第五种装置的实施例。请参看图13,其为本申请提供的第五种装置的实施例示意图。由于装置实施例基本相似于方法实施例,所以描述得比较简单,相关之处参见方法实施例的部分说明即可。下述描述的装置实施例仅仅是示意性的。

本实施例的装置,包括:屏幕数据获取单元1301,用于获取不包含私密信息的屏幕数据;屏幕数据编码单元1302,用于对所述屏幕数据进行视频编码,生成屏幕位流;数据包封装发送单元1303,用于发送单元将所述屏幕位流封装成屏幕数据包并分享给各信息接收终端。

可选的,所述装置还包括:私密配置信息获取单元,用于在所述屏幕数据获取单元获取不包含私密信息的屏幕数据之前,获取私密信息所在私密屏幕区域的位置信息;

所述屏幕数据获取单元,包括:

屏幕数据采集子单元,用于采集屏幕数据;

私密信息去除子单元,用于根据所述私密屏幕区域的位置信息,从所述采集的屏幕数据中去除位于所述私密屏幕区域中的图像数据,得到所述不包含私密信息的屏幕数据。

此外,本申请还提供第六种方法,所述方法通常在信息发送终端实施。请参考图14,其为本申请提供的第六种方法的实施例的流程图,本实施例与上述各方法实施例步骤相同的部分不再赘述,下面重点描述不同之处。本实施例提供的所述方法包括如下步骤:

步骤1401、采集屏幕数据。

在执行本步骤之前,可以从服务器或者本地获取附加数据、和待替换屏幕区域的位置信息。其中,附加数据包括:附加图像数据、或者附加视频数据。

在执行本步骤之前,可以向服务器获取会议设置信息。

步骤1402、根据预先获取的待替换屏幕区域的位置信息,用预先获取的附加数据替换位于所述待替换屏幕区域中的屏幕数据。

在具体实施时,可以当所述会议设置信息中包含执行替换操作的指示信息、或者当前满足所述会议设置信息中包含的执行替换操作的条件时,执行本步骤1402,以及后续步骤。

步骤1403、对执行替换操作后的屏幕数据进行视频编码,生成屏幕位流。

步骤1404、将所述屏幕位流封装成屏幕数据包并分享给各信息接收终端。

以上提供了本申请的第六种方法的实施例,与之相对应的,下面提供本申请的第六种装置的实施例。请参看图15,其为本申请的第六种装置的实施例示意图。由于装置实施例基本相似于方法实施例,所以描述得比较简单,相关之处参见方法实施例的部分说明即可。下述描述的装置实施例仅仅是示意性的。

本实施例的装置,包括:屏幕数据采集单元1501,用于采集屏幕数据;替换操作执行单元1502,用于根据预先获取的待替换屏幕区域的位置信息,用预先获取的附加数据替换位于所述待替换屏幕区域中的屏幕数据;替换数据编码单元1503,用于对对执行替换操作后的屏幕数据进行视频编码,生成屏幕位流;屏幕数据包发送单元1504,用于将所述屏幕位流封装成屏幕数据包并分享给各信息接收终端。

可选的,所述装置还包括:替换配置信息获取单元,用于在采集屏幕数据之前,从服务器或者本地获取所述待替换屏幕区域的位置信息以及所述附加数据。

可选的,所述装置还包括:

会议设置信息获取单元,用于在采集屏幕数据之前,向服务器获取会议设置信息;

替换条件判断单元,用于在采集屏幕数据之后,判断所述会议设置信息中是否包含执行替换操作的指示信息、或者当前是否满足所述会议设置信息中包含的执行替换操作的条件,并在判断结果为是时,触发所述替换操作执行单元工作。

可选的,所述附加数据包括:附加图像数据或者附加视频数据。

此外,本申请还提供第七种方法,所述方法通常在信息接收终端实施。请参考图16,其为本申请提供的第七种方法的实施例的流程图,本实施例与上述各方法实施例步骤相同的部分不再赘述,下面重点描述不同之处。本实施例提供的所述方法包括如下步骤:

步骤1601、接收承载会议信息的屏幕数据包。

在执行本步骤之前,可以从服务器获取附加图像数据或附加视频数据、和待替换屏幕区域的位置信息。

在执行本步骤之前,可以向服务器获取会议设置信息。

步骤1602、对接收到的屏幕数据包执行解封装和视频解码操作,得到屏幕数据。

步骤1603、根据预先获取的待替换屏幕区域的位置信息,用预先获取的附加图像数据或附加视频数据替换位于所述待替换屏幕区域中的屏幕数据。

在具体实施时,可以当所述会议设置信息中包含执行替换操作的指示信息、或者当前满足所述会议设置信息中包含的执行替换操作的条件时,执行本步骤1603,以及后续步骤。采用这种实施方式,可以根据存储在服务器一侧的会议设置信息来控制是否执行替换操作,从而可以实现按需执行替换操作,增加实施的灵活性。

步骤1604、显示执行所述替换操作后的屏幕数据。

采用本实施例提供的方法,不仅可以在信息接收终端展示会议信息,而且还可以展示其他希望宣传或者推广的信息,从而可以丰富信息接收终端在屏幕上展示的内容。例如:附加数据展示的内容可以是广告宣传信息或者标志信息logo等,从而有助于运营广告商业方案。

以上提供了本申请的第七种方法的实施例,下面提供与之相对应的第七种装置的实施例。请参看图17,其为本申请提供的第七种装置的实施例示意图。由于装置实施例基本相似于方法实施例,所以描述得比较简单,相关之处参见方法实施例的部分说明即可。下述描述的装置实施例仅仅是示意性的。

本实施例的装置,包括:屏幕数据包接收单元1701,用于接收承载会议信息的屏幕数据包;解封装和解码单元1702,用于对接收到的屏幕数据包执行解封装和视频解码操作,得到屏幕数据;替换操作执行单元1703,用于根据预先获取的待替换屏幕区域的位置信息,用预先获取的附加数据替换位于所述待替换屏幕区域中的屏幕数据;屏幕数据显示单元1704,用于显示执行所述替换操作后的屏幕数据。

可选的,所述装置还包括:会议设置信息获取单元,用于在接收承载会议信息的屏幕数据包之前,向服务器获取会议设置信息;

替换条件判断单元,用于在得到屏幕数据之后,判断所述会议设置信息中是否包含执行替换操作的指示信息、或者当前是否满足所述会议设置信息中包含的执行替换操作的条件,并在判断结果为是时,触发所述替换操作执行单元工作。

可选的,所述附加数据包括:附加图像数据、或附加视频数据。

此外,本申请还提供第八种方法,所述方法通常在服务器上实施。请参考图18,其为本申请提供的第八种方法的实施例的流程图,本实施例与上述各方法实施例步骤相同的部分不再赘述,下面重点描述不同之处。本实施例提供的所述方法包括如下步骤:

步骤1801、根据会议的预定总时长计算距离会议结束的剩余时长信息。

例如:会议的预定总时长为2个小时,在会议开始后的预设时间点,如1.5小时的时候,服务器可以计算得到当前时间距离会议结束的剩余时长为30分钟。

步骤1802、将所述剩余时长信息发送给各与会终端。

服务器将在步骤1801计算得到的剩余时长信息发送给各与会终端,使各与会终端能够明确获知会议进度,有助于提高会议效率。

为了保证各与会终端的倒计时显示与服务器保持尽可能准确的时间同步,服务器可以按照预设的同步时间间隔,定期根据会议的预定总时长计算距离会议结束的剩余时长信息,并将每次计算得到的剩余时长信息发送给各与会终端。例如:可以每隔20分钟计算一次,并将计算结果发送给各与会终端。

优选地,为了更为明确地告知与会终端会议进度,服务器在将所述剩余时长信息发送给各与会终端之后,还可以按照预设的提醒时间间隔,例如:10分钟,向所述各与会终端发送基于图像和/或音频的会议进程提醒数据包,供各信息接收终端进行展示和/或播报。

进一步优选地,为了取得更好的提醒效果,服务器可以在检测到距离会议结束的剩余时长小于或者等于预设阈值时,执行所述按照预设的提醒时间间隔,向所述各与会终端发送基于图像和/或音频的会议进程提醒数据包的操作。例如:可以将预设阈值设置为30分钟,那么服务器可以在检测到距离会议结束的剩余时长小于或者等于30分钟时,再按照预设的提醒时间间隔,向各与会终端发送会议进程提醒数据包。

以上提供了本申请的第八种方法的实施例,下面提供与之相对应的第八种装置的实施例。请参看图19,其为本申请提供的第八种装置的实施例示意图。由于装置实施例基本相似于方法实施例,所以描述得比较简单,相关之处参见方法实施例的部分说明即可。下述描述的装置实施例仅仅是示意性的。

本实施例的装置,包括:剩余时长计算单元1901,用于根据会议的预定总时长计算距离会议结束的剩余时长信息;剩余时长发送单元1902,用于将所述剩余时长信息发送给各与会终端。

可选的,所述剩余时长计算单元,具体用于按照预设的同步时间间隔定期根据会议的预定总时长计算距离会议结束的剩余时长信息,并在计算后出发所述剩余时长发送单元发送。

可选的,所述装置还包括:

进程提醒信息发送单元,用于在将所述剩余时长信息发送给各与会终端之后,按照预设的提醒时间间隔,向所述各与会终端发送基于图像和/或音频的会议进程提醒数据包。

此外,本申请还提供第九种方法,所述方法通常在与会终端上实施。请参考图20,其为本申请提供的第九种方法的实施例的流程图,本实施例与上述各方法实施例步骤相同的部分不再赘述,下面重点描述不同之处。本实施例提供的所述方法包括如下步骤:

步骤2001、接收服务器发送的关于会议的剩余时长信息。

步骤2002、根据所述剩余时长信息,在会议屏幕的第一预设位置处进行倒计时显示。

本步骤根据接收到的剩余时长信息,在会议屏幕的第一预设位置处进行倒计时显示,例如:可以在会议屏幕的右上角或者右下角进行倒计时显示。

此外,如果接收到服务器发送的会议进程提醒数据包,则可以通过执行相应的视频和/或音频解码操作,在会议屏幕的第二预设位置处显示包含会议进程提醒信息的图像,和/或,通过音频输出设备播报会议进程提醒信息。例如:可以在会议屏幕的中央区域显示包含以下内容的图像“请注意会议进度”,也可以通过扬声器播报“请注意会议进度”或者类似语音信息。

以上提供了本申请的第九种方法的实施例,下面提供与之相对应的第九种装置的实施例。请参看图21,其为本申请提供的第九种装置的实施例示意图。由于装置实施例基本相似于方法实施例,所以描述得比较简单,相关之处参见方法实施例的部分说明即可。下述描述的装置实施例仅仅是示意性的。

本实施例的装置,包括:剩余时长接收单元2101,用于接收服务器发送的关于会议的剩余时长信息;倒计时显示单元2102,用于根据所述剩余时长信息,在会议屏幕的第一预设位置处进行倒计时显示。

可选的,所述装置还包括:

进程提醒信息接收单元,用于在根据所述剩余时长信息进行倒计时显示之后,接收所述服务器发送的会议进程提醒数据包;

进程提醒信息播放单元,用于根据所述会议进程提醒数据包,在会议屏幕的第二预设位置处显示包含会议进程提醒信息的图像,和/或,通过音频输出设备播报会议进程提醒信息。

上述提供的第八种方法实施例与第九种方法实施例相配合,可以提醒使用各与会终端的与会者关注会议进程,从而可以有效控制会议流程、提高会议效率。

此外,本申请还提供了一种系统的实施例,请参考图22,其示出了本申请提供的系统实施例的示意图。

系统2200,可以包括:处理器2201,与所述处理器耦合的系统控制单元2202,与所述系统控制单元耦合的系统内存(systemmemory)2203,与所述系统控制单元耦合的非易失存储器(nonvolatilememory—nvm)或存储设备2204,以及与所述系统控制单元耦合的网络接口2205。

所述处理器2201可以包括至少一个处理器,每个处理器可以是单核处理器或者多核处理器。所述处理器2201可以包括通用处理器和专用处理器(例如,图形处理器、应用处理器、基带处理器等)的任意组合。

所述系统控制单元2202可以包括任何相应的接口控制器,为所述处理器2201中的至少一个处理器,和/或,任何与所述系统控制单元2202通信的设备或组件,提供接口。

所述系统控制单元2202可以包括为所述系统内存2203提供接口的至少一个内存控制器。所述系统内存2203可以用于加载并存储数据和/或指令。所述系统内存2203可以包括任何易失性存储器,例如,动态随机存取存储器(dynamicrandomaccessmemory—dram)。

所述非易失存储器或存储设备2204可以包括至少一个有形的、永久性的计算机可读介质,所述计算机可读介质用于存储数据和/或指令。所述非易失存储器或存储设备2204可以包括任何形式的非易失存储器,例如,闪存(flashmemory),和/或,任何非易失存储设备,例如,至少一个硬盘驱动器(harddiskdrive—hdd)、至少一个光盘驱动器、和/或、至少一个数字多功能磁盘(digitalversatiledisk—dvd)驱动器。

所述系统内存2203和所述非易失存储器或存储设备2204可以分别存储有指令2207的暂时性副本和持久性副本。当所述指令2207中的指令被处理器2201中的至少一个处理器执行时,导致所述系统2200执行图1、图3、图7、图10、图12、图14、图16、图18、图20所示的任一方法。

所述网络接口2205可以包括为所述系统2200提供无线接口的收发器,所述系统2200可以通过无线接口实现跨网络的通信,和/或与其他设备通信。所述网络接口2205可以包括任何硬件和/或固件。所述网络接口2205可以包括提供多输入、多输出无线接口的多个天线。在具体实施时,所述网络接口2205可以为网络适配器、无线网络适配器、电话调制解调器、和/或无线调制解调器。

在具体实施时,所述处理器2201中的至少一个处理器可以与所述系统控制单元2202中的至少一个控制器的控制逻辑封装在一起。在具体实施时,所述处理器2201中的至少一个处理器可以与所述系统控制单元2202中的至少一个控制器的控制逻辑封装在一起,形成系统封装(systeminpackage—sip)。在具体实施时,所述处理器2201中的至少一个处理器可以与所述系统控制单元2202中的至少一个控制器的控制逻辑集成在同一个芯片上。在具体实施时,所述处理器2201中的至少一个处理器可以与所述系统控制单元2202中的至少一个控制器的控制逻辑集成在同一个芯片上,形成片上系统(systemonchip—soc)。

所述系统2200可以进一步包括输入/输出(i/o)设备2206。所述输入/输出设备2206可以包括供用户与所述系统2200进行交互的用户接口,和/或供外围组件和所述系统2200交互的外围组件接口。

在不同的实施方式中,用户接口可以包括但不局限于:显示器(例如,液晶显示器,触摸屏显示器等)、扬声器、麦克风、至少一个摄像装置(例如相机、和/或摄像机)、闪光灯、以及键盘。

在不同的实施方式中,外围组件接口可以包括但不局限于:非易失性存储器端口、音频插孔、以及电源接口。

在不同的实施方式中,所述系统2200可以部署于个人电脑、移动计算设备等电子设备上,所述移动计算设备可以包括但不局限于:笔记本电脑、平板电脑、移动电话、和/或其他智能设备等等。在不同的实施方式中,所述系统2200可以包括更多或更少的组件,和/或不同的架构。

本说明书可以包括多种以下所揭示的示范实施例。

在示范实施例1中,一种方法可以包括:至少根据会议环境数据确定屏幕编码参数,所述会议环境数据至少包括:信息发送终端的视频编码能力参数、以及各信息接收终端的视频解码配置信息;获取至少包括屏幕数据的会议信息;至少根据屏幕编码参数对所述屏幕数据进行分层视频编码,生成包括屏幕位流的多媒体位流;将所述多媒体位流封装成相应信息类型的多媒体数据包,并发送给服务器。

在示范实施例2中,示范实施例1所述的会议环境数据还包括:描述所述信息发送终端与所述服务器之间的传输链路状况的上行网络传输状况参数集,和,描述所述服务器至各信息接收终端的传输链路状况的各下行网络传输状况参数集。

在示范实施例3中,示范实施例1-2的任一实施例所述的会议信息还包括:采集的音频数据;所述生成的多媒体位流还包括:对所述音频数据进行编码得到的音频位流。

在示范实施例4中,示范实施例1-3的任一实施例所述的至少根据会议环境数据确定屏幕编码参数,包括:根据会议环境数据确定屏幕编码参数、以及至少根据所述会议环境数据和所述屏幕编码参数确定视频编码参数,所述的会议信息还包括:采集的视频数据,所述生成的多媒体位流还包括:根据视频编码参数对所述视频数据进行分层视频编码生成的视频位流。

在示范实施例5中,示范实施例1-4的任一实施例所述的将所述多媒体位流封装成相应信息类型的多媒体数据包,并发送给服务器,包括:将所述多媒体位流封装成相应信息类型的多媒体数据包,并将基于当前网络传输状况进行流量控制后的所述多媒体数据包发送给所述服务器。

在示范实施例6中,在示范实施例1-5的任一实施例所述的至少根据会议环境数据确定屏幕编码参数之前,包括:接收所述服务器上报的各信息接收终端的视频解码能力参数,和/或,视频请求参数,并根据接收的上述信息确定各信息接收终端的视频解码配置信息。

在示范实施例7中,在示范实施例1-6的任一实施例所述的至少根据会议环境数据确定屏幕编码参数之前,包括:向所述服务器发送探测包,并接收所述服务器上报的上行网络传输状况参数集;接收所述服务器上报的所述各下行网络传输状况参数集。

在示范实施例8中,示范实施例1-7的任一实施例还包括以下录制操作:将封装好的多媒体数据包按照预设格式写入会议媒体源文件中;并在会议结束后将所述会议媒体源文件上传给所述服务器。

在示范实施例9中,示范实施例1-8的任一实施例在所述获取至少包括屏幕数据的会议信息之前,包括:获取所述私密信息所在私密屏幕区域的位置信息;所述获取至少包括屏幕数据的会议信息,包括:采集屏幕数据,根据所述私密屏幕区域的位置信息,从所述采集的屏幕数据中去除位于所述私密屏幕区域中的图像数据,得到不包含私密信息的屏幕数据。

在示范实施例10中,示范实施例1-9的任一实施例在所述获取至少包括屏幕数据的会议信息之前,包括:获取预设的附加图像数据或附加视频数据,以及待替换屏幕区域的位置信息;所述获取至少包括屏幕数据的会议信息,包括:采集屏幕数据,根据所述代替换屏幕区域的位置信息,用所述附加图像数据或附加视频数据替换位于所述待替换屏幕区域中的屏幕数据,得到包含附加图像数据或附加视频数据的屏幕数据。

在示范实施例11中,一种装置可以包括:编码参数确定单元,用于至少根据会议环境数据确定屏幕编码参数,所述会议环境数据至少包括:信息发送终端的视频编码能力参数、以及各信息接收终端的视频解码配置信息;会议信息获取单元,用于获取至少包括屏幕数据的会议信息;多媒体编码单元,用于至少根据屏幕编码参数对所述屏幕数据进行分层编码,生成包括屏幕位流的多媒体位流;数据包封装发送单元,用于将所述多媒体位流封装成相应信息类型的多媒体数据包,并发送给服务器。

在示范实施例12中,示范实施例11所述的编码参数确定单元所采用的会议环境数据还包括:描述所述信息发送终端与所述服务器之间的传输链路状况的上行网络传输状况参数集,和,描述所述服务器至各信息接收终端的传输链路状况的各下行网络传输状况参数集。

在示范实施例13中,示范实施例11-12的任一实施例所述的会议信息获取单元获取的会议信息还包括:采集到的音频数据;所述多媒体编码单元,还用于对所述音频数据进行编码得到音频位流。

在示范实施例14中,示范实施例11-13的任一实施例所述的编码参数确定单元,具体用于根据会议环境数据确定屏幕编码参数、以及至少根据所述会议环境数据和所述屏幕编码参数确定视频编码参数;所述会议信息获取单元获取的会议信息还包括:采集到的视频数据;所述多媒体编码单元,还用于根据视频编码参数对所述视频数据进行分层视频编码生成的视频位流。

在示范实施例15中,示范实施例11-14的任一实施例所述的数据包封装发送单元,包括:封装子单元,用于将所述多媒体位流封装成相应信息类型的多媒体数据包;流控发送子单元,用于将基于当前网络传输状况进行流量控制后的所述多媒体数据包发送给所述服务器。

在示范实施例16中,示范实施例11-15的任一实施例还包括:视频解码配置信息确定单元,用于在所述编码参数确定单元确定屏幕编码参数之前,接收所述服务器上报的各信息接收终端的视频解码能力参数,和/或,视频请求参数,并根据接收的上述信息确定各信息接收终端的视频解码配置信息。

在示范实施例17中,示范实施例11-16的任一实施例还包括:上行网络参数确定单元,用于在所述编码参数确定单元确定屏幕编码参数之前,向所述服务器发送探测包,并接收所述服务器上报的上行网络传输状况参数集;下行网络参数接收单元,用于在所述编码参数确定单元确定屏幕编码参数之前,接收所述服务器上报的所述各下行网络传输状况参数集。

在示范实施例18中,示范实施例11-17的任一实施例还包括:会议文件录制单元,用于将所述数据包封装发送单元封装好的多媒体数据包按照预设格式写入会议媒体源文件中;会议文件上传单元,用于在会议结束后将所述会议媒体源文件上传给所述服务器。

在示范实施例19中,示范实施例11-18的任一实施例中,还包括:私密配置信息获取单元,用于在所述会议信息获取单元获取至少包括屏幕数据的会议信息之前,获取私密信息所在私密屏幕区域的位置信息;所述会议信息获取单元,包括:屏幕数据采集子单元,用于采集屏幕数据;私密信息去除子单元,用于根据所述私密屏幕区域的位置信息,从所述采集的屏幕数据中去除位于所述私密屏幕区域中的图像数据,得到不包含私密信息的屏幕数据。

在示范实施例20中,示范实施例11-19的任一实施例还包括:附加配置信息获取单元,用于在所述会议信息获取单元获取至少包括屏幕数据的会议信息之前,获取预设的附加数据,以及待替换屏幕区域的位置信息;所述会议信息获取单元,包括:屏幕数据采集子单元,用于采集屏幕数据;替换操作执行子单元,用于根据所述代替换屏幕区域的位置信息,用所述附加数据替换位于所述待替换屏幕区域中的屏幕数据,得到包含附加图像数据或附加视频数据的屏幕数据。

在示范实施例21中,一种方法可以包括:接收信息发送终端发送的多媒体数据包,所述多媒体数据包中至少包括基于分层视频编码的屏幕数据包;针对每个信息接收终端执行下述操作:至少根据所述信息接收终端的视频解码配置信息确定对应屏幕数据的第一操作点,并将包括对应所述第一操作点的屏幕数据包的多媒体数据包发送给所述信息接收终端。

在示范实施例22中,示范实施例21所述的至少根据所述信息接收终端的视频解码配置信息确定对应屏幕数据的第一操作点,包括:至少根据所述信息接收终端的视频解码配置信息和相应的下行网络传输状况参数集确定对应屏幕数据的第一操作点;其中所述相应的下行网络传输状况参数集用于描述所述服务器至所述信息接收终端间的传输链路状况。

在示范实施例23中,示范实施例21-22的任一实施例所述的接收的多媒体数据包中还包括:音频数据包;所述服务器分发给相应信息接收终端的多媒体数据包还包括:音频数据包。

在示范实施例24中,示范实施例21-23的任一实施例所述的接收的多媒体数据包中还包括:基于分层视频编码的视频数据包;所述针对每个信息接收终端执行的操作还包括:至少根据所述信息接收终端的视频解码配置信息和相应的下行网络传输状况参数集、以及已确定的第一操作点,判断是否存在可分发的对应视频数据的第二操作点;并当存在所述第二操作点时,所述发送给所述信息接收终端的多媒体数据包还包括:对应所述第二操作点的视频数据包。

在示范实施例25中,示范实施例21-24的任一实施例所述的服务器在针对每个信息接收终端确定所述第一操作点以及判断是否存在所述第二操作点时,所根据的信息还包括:所述信息接收终端的视频体验优先级设置。

在示范实施例26中,示范实施例21-25的任一实施例在所述接收信息发送终端发送的多媒体数据包之前,包括:接收各信息接收终端上报的视频解码能力参数,和/或,视频请求参数,并根据接收的上述信息确定各信息接收终端的视频解码配置信息。

在示范实施例27中,示范实施例21-26的任一实施例在所述接收信息发送终端发送的多媒体数据包之前,包括:向各信息接收终端分别发送探测包,并接收各信息接收终端分别上报的相应下行网络传输状况参数集。

在示范实施例28中,示范实施例21-27的任一实施还包括:将接收到的多媒体数据包按照预设格式写入会议媒体源文件中;或者,接收所述信息发送终端上传的会议媒体源文件并存储。

在示范实施例29中,示范实施例21-28的任一实施例还包括:接收会议回放终端发送的针对所述会议的会议回放请求;读取所述会议媒体源文件,并至少根据所述会议回放终端的视频解码配置信息,确定对应屏幕数据的第三操作点,并将从所述媒体源文件中获取的、至少包括对应所述第三操作点的屏幕数据包的多媒体数据包发送给所述会议回放终端。

在示范实施例30中,一种装置可以包括:数据包接收单元,用于接收多媒体数据包,所述多媒体数据包中至少包括基于分层视频编码的屏幕数据包;操作点计算单元,用于针对每个信息接收终端执行下述操作:至少根据所述信息接收终端的视频解码配置信息确定对应屏幕数据的第一操作点;数据包分发单元,用于根据所述操作点计算单元确定的第一操作点,将包括对应所述第一操作点的屏幕数据包的多媒体数据包发送给相应的信息接收终端。

在示范实施例31中,示范实施例30所述的操作点计算单元,具体用于针对每个信息接收终端执行下述操作:至少根据所述信息接收终端的视频解码配置信息和相应的下行网络传输状况参数集确定对应屏幕数据的第一操作点。

在示范实施例32中,示范实施例30-31的任一实施例所述的数据包分发单元分发给相应信息接收终端的多媒体数据包还包括:音频数据包。

在示范实施例33中,示范实施例30-32的任一实施例所述的操作点计算单元,还用于至少根据所述信息接收终端的视频解码配置信息和相应的下行网络传输状况参数集、以及已确定的第一操作点,判断是否存在可分发的对应视频数据的第二操作点;所述数据包分发单元在存在所述第二操作点时,分发给相应信息接收终端的多媒体数据包还包括:对应所述第二操作点的视频数据包。

在示范实施例34中,示范实施例30-33的任一实施例还包括:视频解码配置确定单元,用于在所述数据包接收单元接收多媒体数据包之前,接收各信息接收终端上报的视频解码能力参数,和/或,视频请求参数,并根据接收的上述信息确定各信息接收终端的视频解码配置信息。

在示范实施例35中,示范实施例30-34的任一实施例还包括:下行网络参数集接收单元,用于在所述数据包接收单元接收多媒体数据包之前,向各信息接收终端分别发送探测包,并接收各信息接收终端分别上报的相应下行网络传输状况参数集。

在示范实施例36中,示范实施例30-35的任一实施例还包括:会议录制单元,用于将接收到的多媒体数据包按照预设格式写入会议媒体源文件中;或者,会议文件接收单元,用于接收所述信息发送终端上传的会议媒体源文件并存储。

在示范实施例37中,示范实施例30-36的任一实施例还包括:回放请求接收单元,用于接收会议回放终端发送的针对所述会议的会议回放请求;回放信息发送单元,用于读取所述会议媒体源文件,并至少根据所述会议回放终端的视频解码配置信息,确定对应屏幕数据的第三操作点,并将从所述媒体源文件中获取的、至少包括对应所述第三操作点的屏幕数据包的多媒体数据包发送给所述会议回放终端。

在示范实施例38中,一种方法可以包括:至少根据会议环境数据确定屏幕编码参数,所述会议环境数据至少包括:信息发送终端的视频编码能力参数、以及各信息接收终端的视频解码配置信息;获取至少包括屏幕数据的会议信息;至少根据屏幕编码参数对所述屏幕数据进行分层视频编码,生成包括屏幕位流的多媒体位流;将所述多媒体位流封装成相应信息类型的多媒体数据包;针对每个信息接收终端执行下述操作:至少根据所述信息接收终端的视频解码配置信息确定对应屏幕数据的操作点,并将包括对应所述操作点的屏幕数据包的多媒体数据包发送给所述信息接收终端。

在示范实施例39中,示范实施例38所述的会议环境数据还包括:描述所述信息发送终端与各信息接收终端间的传输链路状况的下行网络传输状况参数集;所述至少根据所述信息接收终端的视频解码配置信息确定对应屏幕数据的操作点,包括:至少根据所述信息接收终端的视频解码配置信息和相应的下行网络传输状况参数集确定对应屏幕数据的操作点。

在示范实施例40中,一种装置可以包括:编码参数确定单元,用于至少根据会议环境数据确定屏幕编码参数,所述会议环境数据至少包括:信息发送终端的视频编码能力参数、以及各信息接收终端的视频解码配置信息;会议信息获取单元,用于获取至少包括屏幕数据的会议信息;多媒体编码单元,用于至少根据屏幕编码参数对所述屏幕数据进行分层视频编码,生成包括屏幕位流的多媒体位流;数据包封装单元,用于将所述多媒体位流封装成相应信息类型的多媒体数据包;操作点计算单元,用于针对每个信息接收终端执行下述操作:至少根据所述信息接收终端的视频解码配置信息确定对应屏幕数据的操作点;数据包分发单元,用于根据所述操作点计算单元确定的操作点,将包括对应所述第一操作点的屏幕数据包的多媒体数据包发送给相应的信息接收终端。

在示范实施例41中,示范实施例40所述的编码参数确定单元所采用的会议环境数据还包括:描述所述信息发送终端与各信息接收终端间的传输链路状况的下行网络传输状况参数集;所述操作点计算单元,具体用于针对每个信息接收终端执行下述操作:至少根据所述信息接收终端的视频解码配置信息和相应的下行网络传输状况参数集确定对应屏幕数据的操作点。

在示范实施例42中,一种方法可以包括:接收会议回放终端发送的会议回放请求;通过读取针对被请求会议录制的会议媒体源文件,获取承载会议信息的多媒体数据包并发送给所述会议回放终端,以供其还原并展示会议信息。

在示范实施例43中,在示范实施例42所述的接收会议回放终端发送的会议回放请求之前,包括:接收信息发送终端上传的针对所述被请求会议的会议媒体源文件并存储;或者,在所述被请求会议召开期间,将接收到的承载会议信息的多媒体数据包录制为所述会议媒体源文件。

在示范实施例44中,示范实施例42-43的任一实施例所述的会议媒体源文件中存储的承载会议信息的多媒体数据包至少包括:对采用分层视频编码技术生成的屏幕位流执行封装操作后得到的屏幕数据包;所述获取承载会议信息的多媒体数据包并发送给所述会议回放终端,包括:至少根据所述会议回放终端的视频解码配置信息,确定对应屏幕数据的操作点,并将从所述媒体源文件中获取的、至少包括对应所述操作点的屏幕数据包的多媒体数据包发送给所述会议回放终端。

在示范实施例45中,一种装置可以包括:会议回放请求接收单元,用于接收会议回放终端发送的会议回放请求;会议回放信息发送单元,用于通过读取针对被请求会议录制的会议媒体源文件,获取承载会议信息的多媒体数据包并发送给所述会议回放终端,以供其还原并展示会议信息。

在示范实施例46中,示范实施例45还包括:会议文件接收单元,用于在所述会议回放请求接收单元接收所述会议回放请求之前,接收信息发送终端上传的针对所述被请求会议的会议媒体源文件并存储;或者,会议文件录制单元,用于在所述会议回放请求接收单元接收所述会议回放请求之前,在所述被请求会议召开期间,将接收到的承载会议信息的多媒体数据包录制为所述会议媒体源文件。

在示范实施例47中,示范实施例45-46的任一实施例所述的会议媒体源文件中存储的承载会议信息的多媒体数据包至少包括:对采用分层视频编码技术生成的屏幕位流执行封装操作后得到的屏幕数据包;所述会议回放信息发送单元,具体用于读取针对被请求会议录制的会议媒体源文件,并至少根据所述会议回放终端的视频解码配置信息,确定对应屏幕数据的操作点,并将从所述媒体源文件中获取的、至少包括对应所述操作点的屏幕数据包的多媒体数据包发送给所述会议回放终端。

在示范实施例48中,一种方法可以包括:获取不包含私密信息的屏幕数据;对所述屏幕数据进行视频编码,生成屏幕位流;将所述屏幕位流封装成多媒体数据包并分享给各信息接收终端。

在示范实施例49中,示范实施例48还包括:在获取不包含私密信息的屏幕数据之前,获取所述私密信息所在私密屏幕区域的位置信息;所述获取不包含私密信息的屏幕数据,包括:采集屏幕数据;根据所述私密屏幕区域的位置信息,从所述采集的屏幕数据中去除位于所述私密屏幕区域中的图像数据,得到所述不包含私密信息的屏幕数据。

在示范实施例50中,一种装置可以包括:屏幕数据获取单元,用于获取不包含私密信息的屏幕数据;屏幕数据编码单元,用于对所述屏幕数据进行视频编码,生成屏幕位流;数据包封装发送单元,用于发送单元将所述屏幕位流封装成屏幕数据包并分享给各信息接收终端。

在示范实施例51中,示范实施例50还包括:私密配置信息获取单元,用于在所述屏幕数据获取单元获取不包含私密信息的屏幕数据之前,获取私密信息所在私密屏幕区域的位置信息;所述屏幕数据获取单元,包括:屏幕数据采集子单元,用于采集屏幕数据;私密信息去除子单元,用于根据所述私密屏幕区域的位置信息,从所述采集的屏幕数据中去除位于所述私密屏幕区域中的图像数据,得到所述不包含私密信息的屏幕数据。

在示范实施例52中,一种方法可以包括:采集屏幕数据;根据预先获取的待替换屏幕区域的位置信息,用预先获取的附加数据替换位于所述待替换屏幕区域中的屏幕数据;对执行替换操作后的屏幕数据进行视频编码,生成屏幕位流;将所述屏幕位流封装成屏幕数据包并分享给各信息接收终端。

在示范实施例53中,示范实施例52在采集屏幕数据之前,从服务器或者本地获取所述待替换屏幕区域的位置信息以及所述附加数据。

在示范实施例54中,示范实施例52-53的任一实施例在所述采集屏幕数据之前,包括:向服务器获取会议设置信息;在采集屏幕数据之后,若所述会议设置信息中包含执行替换操作的指示信息、或者当前满足所述会议设置信息中包含的执行替换操作的条件,则执行所述根据预先获取的待替换屏幕区域的位置信息,用预先获取的附加数据替换位于所述待替换屏幕区域中的屏幕数据的步骤,以及后续步骤。

在示范实施例55中,示范实施例52-54的任一实施例所述的附加数据包括:附加图像数据或者附加视频数据。

在示范实施例56中,一种装置可以包括:屏幕数据采集单元,用于采集屏幕数据;替换操作执行单元,用于根据预先获取的待替换屏幕区域的位置信息,用预先获取的附加数据替换位于所述待替换屏幕区域中的屏幕数据;替换数据编码单元,用于对对执行替换操作后的屏幕数据进行视频编码,生成屏幕位流;屏幕数据包发送单元,用于将所述屏幕位流封装成屏幕数据包并分享给各信息接收终端。

在示范实施例57中,示范实施例56还包括:替换配置信息获取单元,用于在采集屏幕数据之前,从服务器或者本地获取所述待替换屏幕区域的位置信息以及所述附加数据。

在示范实施例58中,示范实施例56-57的任一实施例还包括:会议设置信息获取单元,用于在采集屏幕数据之前,向服务器获取会议设置信息;替换条件判断单元,用于在采集屏幕数据之后,判断所述会议设置信息中是否包含执行替换操作的指示信息、或者当前是否满足所述会议设置信息中包含的执行替换操作的条件,并在判断结果为是时,触发所述替换操作执行单元工作。

在示范实施例59中,示范实施例56-58的任一实施例所述的附加数据包括:附加图像数据或者附加视频数据。

在示范实施例60中,一种方法可以包括:接收承载会议信息的屏幕数据包;对接收到的屏幕数据包执行解封装和视频解码操作,得到屏幕数据;根据预先获取的待替换屏幕区域的位置信息,用预先获取的附加数据替换位于所述待替换屏幕区域中的屏幕数据;显示执行所述替换操作后的屏幕数据。

在示范实施例61中,示范实施例60在接收承载会议信息的屏幕数据包之前,包括:向服务器获取会议设置信息;在得到屏幕数据之后,若所述会议设置信息中包含执行替换操作的指示信息、或者当前满足所述会议设置信息中包含的执行替换操作的条件,则执行所述根据预先获取的待替换屏幕区域的位置信息,用预先获取的附加数据替换位于所述待替换屏幕区域中的屏幕数据的步骤,以及后续步骤。

在示范实施例62中,示范实施例60-61的任一实施例所述的附加数据包括:附加图像数据、或者附加视频数据。

在示范实施例63中,一种装置可以包括:屏幕数据包接收单元,用于接收承载会议信息的屏幕数据包;解封装和解码单元,用于对接收到的屏幕数据包执行解封装和视频解码操作,得到屏幕数据;替换操作执行单元,用于根据预先获取的待替换屏幕区域的位置信息,用预先获取的附加数据替换位于所述待替换屏幕区域中的屏幕数据;屏幕数据显示单元,用于显示执行所述替换操作后的屏幕数据。

在示范实施例64中,示范实施例63还包括:会议设置信息获取单元,用于在接收承载会议信息的屏幕数据包之前,向服务器获取会议设置信息;

替换条件判断单元,用于在得到屏幕数据之后,判断所述会议设置信息中是否包含执行替换操作的指示信息、或者当前是否满足所述会议设置信息中包含的执行替换操作的条件,并在判断结果为是时,触发所述替换操作执行单元工作。

在示范实施例65中,示范实施例63-64的任一实施例所述的附加数据包括:附加图像数据、或附加视频数据。

在示范实施例66中,一种方法可以包括:根据会议的预定总时长计算距离会议结束的剩余时长信息;将所述剩余时长信息发送给各与会终端。

在示范实施例67中,示范实施例66所述的根据会议的预定总时长计算距离会议结束的剩余时长信息、以及将所述剩余时长信息发送给各与会终端的步骤,是按照预设的同步时间间隔定期执行的。

在示范实施例68中,示范实施例66-67的任一实施例在将所述剩余时长信息发送给各与会终端之后,还包括:按照预设的提醒时间间隔,向所述各与会终端发送基于图像和/或音频的会议进程提醒数据包。

在示范实施例69中,一种装置可以包括:剩余时长计算单元,用于根据会议的预定总时长计算距离会议结束的剩余时长信息;剩余时长发送单元,用于将所述剩余时长信息发送给各与会终端。

在示范实施例70中,示范实施例69所述的剩余时长计算单元,具体用于按照预设的同步时间间隔定期根据会议的预定总时长计算距离会议结束的剩余时长信息,并在计算后出发所述剩余时长发送单元发送。

在示范实施例71中,示范实施例69-70的任一实施例还包括:进程提醒信息发送单元,用于在将所述剩余时长信息发送给各与会终端之后,按照预设的提醒时间间隔,向所述各与会终端发送基于图像和/或音频的会议进程提醒数据包。

在示范实施例72中,一种方法可以包括:接收服务器发送的关于会议的剩余时长信息;根据所述剩余时长信息,在会议屏幕的第一预设位置处进行倒计时显示。

在示范实施例73中,示范实施例72在根据所述剩余时长信息进行倒计时显示之后,还包括:接收所述服务器发送的会议进程提醒数据包;根据所述会议进程提醒数据包,在会议屏幕的第二预设位置处显示包含会议进程提醒信息的图像,和/或,通过音频输出设备播报会议进程提醒信息。

在示范实施例74中,一种机器可读介质可以存储指令,所述指令被处理器读取执行时,执行示范实施例1-10的任一实施例所述的方法。

在示范实施例75中,一种机器可读介质可以存储指令,所述指令被处理器读取执行时,执行示范实施例21-29的任一实施例所述的方法。

在示范实施例76中,一种机器可读介质可以存储指令,所述指令被处理器读取执行时,执行示范实施例38-39的任一实施例所述的方法。

在示范实施例77中,一种机器可读介质可以存储指令,所述指令被处理器读取执行时,执行示范实施例42-44的任一实施例所述的方法。

在示范实施例78中,一种机器可读介质可以存储指令,所述指令被处理器读取执行时,执行示范实施例48-49的任一实施例所述的方法。

在示范实施例79中,一种机器可读介质可以存储指令,所述指令被处理器读取执行时,执行示范实施例52-55的任一实施例所述的方法。

在示范实施例80中,一种机器可读介质可以存储指令,所述指令被处理器读取执行时,执行示范实施例60-62的任一实施例所述的方法。

在示范实施例81中,一种机器可读介质可以存储指令,所述指令被处理器读取执行时,执行示范实施例66-68的任一实施例所述的方法。

在示范实施例82中,一种机器可读介质可以存储指令,所述指令被处理器读取执行时,执行示范实施例72-73的任一实施例所述的方法。

在示范实施例83中,一种系统可以包括:处理器;存储器,用于存储程序指令,所述程序指令在被所述处理器读取执行时,执行示范实施例1-10的任一实施例所述的方法。

在示范实施例84中,一种系统可以包括:处理器;存储器,用于存储指令,所述指令在被所述处理器读取执行时,执行示范实施例21-29的任一实施例所述的方法。

在示范实施例85中,一种系统可以包括:处理器;存储器,用于存储指令,所述指令在被所述处理器读取执行时,执行示范实施例38-39的任一实施例所述的方法。

在示范实施例86中,一种系统可以包括:处理器;存储器,用于存储指令,所述指令在被所述处理器读取执行时,执行示范实施例42-44的任一实施例所述的方法。

在示范实施例87中,一种系统可以包括:处理器;存储器,用于存储指令,所述指令在被所述处理器读取执行时,执行示范实施例48-49的任一实施例所述的方法。

在示范实施例88中,一种系统可以包括:处理器;存储器,用于存储指令,所述指令在被所述处理器读取执行时,执行示范实施例52-55的任一实施例所述的方法。

在示范实施例89中,一种系统可以包括:处理器;存储器,用于存储指令,所述指令在被所述处理器读取执行时,执行示范实施例60-62的任一实施例所述的方法。

在示范实施例90中,一种机器可读介质可以存储指令,所述指令被处理器读取执行时,执行示范实施例66-68的任一实施例所述的方法。

在示范实施例91中,一种机器可读介质可以存储指令,所述指令被处理器读取执行时,执行示范实施例72-73的任一实施例所述的方法。

本申请虽然以较佳实施例公开如上,但其并不是用来限定本申请,任何本领域技术人员在不脱离本申请的精神和范围内,都可以做出可能的变动和修改,因此本申请的保护范围应当以本申请权利要求所界定的范围为准。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1