多媒体会议中音频的控制方法和装置与流程

文档序号:21360944发布日期:2020-07-04 04:34阅读:203来源:国知局
多媒体会议中音频的控制方法和装置与流程

本申请涉及智能设备领域,具体而言,涉及一种多媒体会议中音频的控制方法和装置。



背景技术:

多媒体会议用于通过软件实现多人远程举行会议。目前多媒体会议在多人同时在线时,会将发言者的声音传输到其他所有多媒体会议的接入方,因此当多媒体会议中,如其中的两方需要进行单独交流,就需要退出当前正在进行的多媒体会议,这样的方式不仅操作繁琐,还容易错过会议中的重要信息。

针对现有技术中多媒体会议无法满足参会者进行单独沟通的问题,目前尚未提出有效的解决方案。



技术实现要素:

本申请实施例提供了一种多媒体会议中音频的控制方法和装置,可以解决现有技术中多媒体会议无法满足参会者进行单独沟通的问题。技术方案如下:

第一方面,本申请实施例提供了一种多媒体会议中音频的控制方法,包括:接收在多媒体会议窗口中的第一操作,多媒体会议窗口显示有接入多媒体会议的多个客户端;根据第一操作,从多个客户端中选定至少一个客户端;采集发送给选定的至少一个客户端的第一音频信息;将第一音频信息发送至服务器,使得服务器将第一音频信息发送至选定的至少一个客户端;接收服务器发送的第二音频信息,第二音频信息为多媒体会议过程产生的音频信息;播放第二音频信息。

可选的,接收在多媒体会议窗口的第二操作,取消对选定的至少一个客户端的选定。

可选的,第一操作为长按操作,在将第一音频信息发送至服务器,使得服务器将第一音频信息发送至选定的至少一个客户端之后,当长按操作结束时,取消对选定的至少一个客户端的选定。

可选的,接收服务器发送的第三音频信息;第三音频信息由接入多媒体会议的第三客户端所发送,且第三客户端根据其第一操作选定了当前客户端;对第二音频信息的音量参数和/或接收到的第三音频信息的音量参数进行调整;将接收到的第三音频信息与第二音频信息一同播放。

可选的,将第二音频信息的音量参数降低,和/或,将第三音频信息的第三音量参数调高,以使第二音频信息的音量参数低于第三音频信息的音量参数。

第二方面,本申请实施例提供了一种多媒体会议中音频的控制方法,包括:接收第一客户端发送的第一音频信息;确定第一客户端具有选定的第二客户端,将第一音频信息发送至第二客户端;确定第一客户端不具有选定的第二客户端,将第一音频信息发送至多媒体会议中除第一客户端之外的所有客户端。

可选的,在确定第一客户端具有选定的第二客户端之前,接收第一客户端发送的对第二客户端的选定信息;选定信息由第一客户端根据在多媒体会议窗口中的第一操作所确定;记录第一客户端对第二客户端的选定。

可选的,接收第一客户端发送的对第二客户端的取消选定信息;取消选定信息由第一客户端根据在多媒体会议窗口中的第二操作所确定;清除第一客户端对第二客户端的选定记录。

可选的,在接收第一客户端发送的第一音频信息的同时,接收第一客户端发送的对第二客户端的选定信息。

可选的,确定存在发送至第二客户端的第二音频信息;其中,第二音频信息与第一音频信息由接入多媒体会议的不同客户端发送;对第一音频信息的第一音量参数和/或第二音频信息的第二音量参数进行调整;将第二音频信息发送至第二客户端。

可选的,将第二音频信息的第二音量参数降低,和/或,将第一音频信息的第一音量参数调高,以使第二音量参数低于第一音量参数。

第三方面,本申请实施例提供了一种多媒体会议中音频的控制装置,包括:第一接收模块,用于接收在多媒体会议窗口中的第一操作,多媒体会议窗口显示有接入多媒体会议的多个客户端;选定模块,用于根据第一操作,从多个客户端中选定至少一个客户端;采集模块,用于采集发送给选定的至少一个客户端的第一音频信息;发送模块,用于将第一音频信息发送至服务器,使得服务器将第一音频信息发送至选定的至少一个客户端;第二接收模块,用于接收服务器发送的第二音频信息;第二音频信息为多媒体会议过程的音频信息;播放模块,用于播放第二音频信息。

第四方面,本申请实施例提供一种计算机存储介质,计算机存储介质存储有多条指令,指令适于由处理器加载并执行上述的方法步骤。

第五方面,本申请实施例提供一种电子设备,可包括:处理器和存储器;其中,存储器存储有计算机程序,计算机程序适于由处理器加载并执行上述的方法步骤。

在本申请实施例中,接收在多媒体会议窗口中的第一操作,多媒体会议窗口显示有接入多媒体会议的多个客户端;根据第一操作,从多个客户端中选定至少一个客户端;采集发送给选定的至少一个客户端的第一音频信息;将第一音频信息发送至服务器,使得服务器将第一音频信息发送至选定的至少一个客户端;接收服务器发送的第二音频信息,第二音频信息为多媒体会议过程产生的音频信息;播放第二音频信息。上述方案中,对多媒体会议中的至少一个客户端进行第一操作,并将音频信息发送至服务器,从而由服务器将音频信息仅发送至第一操作所选定的至少一个客户端,实现了多媒体会议中部分客户端之间的单独沟通,操作简单、便捷,解决了现有技术中多媒体会议无法满足参会者进行单独沟通的技术问题。

附图说明

此处所说明的附图用来提供对本申请的进一步理解,构成本申请的一部分,本申请的示意性实施例及其说明用于解释本申请,并不构成对本申请的不当限定。在附图中:

图1是根据本申请实施例的一种多媒体会议中音频的控制方法的流程图;

图2是根据本申请实施例的一种通过第一操作选择客户端的示意图;

图3是根据本申请实施例的另一种通过第一操作选择客户端的示意图;

图4是根据本申请实施例的另一种多媒体会议中音频的控制方法的流程图;

图5是根据本申请实施例的一种对多媒体会议中的音频信息进行处理的示意图;

图6是根据本申请实施例的一种音频处理方法的信息交互图;

图7是根据本申请实施例的一种多媒体会议中音频的控制装置的示意图;以及

图8是根据本申请实施例的另一种多媒体会议中音频的控制装置的示意图。

具体实施方式

为使本申请的目的、技术方案和优点更加清楚,下面将结合附图对本申请实施例方式作进一步地详细描述。

应当明确,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其它实施例,都属于本申请保护的范围。

下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本申请相一致的所有实施方式。相反,它们仅是如所附权利要求书中所详述的、本申请的一些方面相一致的装置和方法的例子。

在本申请的描述中,需要理解的是,术语“第一”、“第二”、“第三”等仅用于区别类似的对象,而不必用于描述特定的顺序或先后次序,也不能理解为指示或暗示相对重要性。对于本领域的普通技术人员而言,可以根据具体情况理解上述术语在本申请中的具体含义。此外,在本申请的描述中,除非另有说明,“多个”是指两个或两个以上。“和/或”,描述关联对象的关联关系,表示可以存在三种关系,例如,a和/或b,可以表示:单独存在a,同时存在a和b,单独存在b这三种情况。字符“/”一般表示前后关联对象是一种“或”的关系。

实施例1

根据本申请实施例,提供了一种多媒体会议中音频的控制方法的实施例,需要说明的是,在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行,并且,虽然在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于此处的顺序执行所示出或描述的步骤。

图1是根据本申请实施例的一种多媒体会议中音频的控制方法的流程图,多个客户端接入所述多媒体会议,如图1所示,该方法包括如下步骤:

步骤s102,接收在多媒体会议窗口中的第一操作,多媒体会议窗口显示有接入多媒体会议的多个客户端。

首先,需要说明的是,本申请中的多媒体会议可以是视频会议,同时传输视频以及音频,可以包含对参与视频会议的多方的视频和/或音频的传输,以及对多媒体文件的共享,也可以是音频会议,只进行音频的传输,具体形式本申请不做具体限定。多媒体会议所提供的交互界面可以显示各个参与方的视频/头像/客户端标识,也可以显示发言人共享的多媒体文件,还可以在二者之间切换或通过分屏的方式展示,具体显示方式本申请也不做具体限定。

在上述方案中,多媒体会议窗口显示有多媒体会议参与方对应的客户端画面,该客户端画面中可以包括该参与方的摄像头所获取的图像,或该客户端设置的默认图像,上述第一操作可以是在客户端的画面上进行的勾选、长按、点击等操作,也可以是在多媒体会议的成员列表中对客户端进行勾选、长按、点击等操作。

在多媒体会议窗口中的第一操作,是为了在接入多媒体会议的多个客户端中选择特定的客户端。图2是根据本申请实施例的一种通过第一操作选择客户端的示意图,结合图2所示,显示界面上显示了多媒体会议窗口,多媒体会议窗口中包括参与多媒体会议的客户端的画面,当用户在至少一个客户端的画面进行上述点击、长按或其他操作时,即对其中至少一个客户端进行了选择。

图3是根据本申请实施例的另一种通过第一操作选择客户端的示意图。当前的界面显示了主讲人发言时的ppt,在此基础上,可以调出右下角的会议人员列表,该会议人员列表中即包括参与多媒体会议的客户端,用户可以对需要单独沟通的客户端的标识进行勾选操作,实现对其中至少一个客户端进行选择。

步骤s104,根据第一操作,从多个客户端中选定至少一个客户端。

如前,在接收到第一操作后,将第一操作所指示的客户端作为选中的客户端。

仍结合图2所示,如果用户长按id为132465的客户端的画面,则该客户端被选中,再结合图3所示,如果用户勾选id132465,同样能使得该客户端被选中。

在至少一个客户端被选中之后,进行第一操作的用户的界面可以发出提示信息,以确定用户是否需要进行单独沟通,在用户确定需要单独沟通后进入步骤s106采集第一音频信息,以避免由于误操作所引起的音频信息的传输。例如,进行第一操作的用户的界面可以提示“是否与用户132465单独沟通”,当用户选择“是”时,再进入步骤s106。

步骤s106,采集发送给选定的至少一个客户端的第一音频信息。

上述第一音频信息由进行第一操作的客户端进行采集,该第一音频信息即为单独发送至被选中的至少一个客户端的音频信息。

步骤s108,将第一音频信息发送至服务器,使得服务器将第一音频信息发送至选定的至少一个客户端。

在一个可选的实施例中,在选定至少一个客户端时,将选定的至少一个客户端的标识发送至服务器,由服务器先进行记录。从而服务器在接收到第一音频信息时,根据之前对选定的至少一个客户端记录,将第一音频信息发送选定的至少一个客户端。这里,客户端的标识可以是客户端的id、ip地址或者客户端在多媒体会议中的昵称等。

在一个可选的实施例中,在将第一音频信息发送至服务器的同时,将选定的至少一个客户端的标识也发送至服务器,在服务器接收到第一音频信息后,由服务器根据选定的至少一个客户端的标识,将第一音频信息进行转发发送至选定的至少一个客户端。

客户端在加入视频会议后可以与服务器建立语音通信链路,客户端在将第一音频信息发送至服务器时,可以通过建立的语音通信链路对第一音频信息进行传输,具体的,在一种可选的实施例中,客户端通过麦克风采集第一音频信息并进行编码处理后,主动通过与服务器之间的语音通信链路传输至服务器,由服务器将第一音频信息传输至选定的至少一个客户端。在另一种可选的实施例中,客户端在采集到的第一音频信息后,向服务器发送通知消息,服务器将接收到的通知消息存储至预设的消息队列,服务器根据消息队列中的通知消息依次获取音频信息。当轮到当前客户端发送的通知消息时,服务器向当前客户端发送通知消息对应的响应信息,以允许客户端将第一音频信息发送至服务器。

步骤s1010,接收服务器发送的第二音频信息,第二音频信息为多媒体会议过程产生的音频信息。

具体的,多媒体会议过程的音频信息指在正常多媒体会议过程中,面向所有客户端的音频信息。这里,面向所有客户端指,发言的客户端的音频信息发送至除该发言的客户端之外的其他所有客户端。服务器接收到多媒体会议过程的音频信息后,将转发至除发言的客户端之外的其他所有客户端。

在一种可选的实施例中,在多媒体会议的主讲者发言的过程中,主讲者的发言会通过服务器传输至除主讲者的客户端之外的、参与多媒体会议的其他所有客户端。在一个客户端单独与另一个被选定的至少一个客户端进行沟通时,不影响其接收服务器发送的主讲者的音频信息,也即,其仍会接收到服务器发送的主讲者的音频信息。例如,在客户端甲单独与被选定的至少一个客户端乙进行沟通时,同时还能接收到客户端丙的面向多媒体会议的所有客户端音频信息。

步骤s1012,播放第二音频信息。

在上述方案中,在一个客户端单独向其他客户端发送音频信息时,不影响其接收并播放多媒体会议过程中的音频信息,从而使得即使多媒体会议中两个或多个客户端之间进行单独沟通,也不影响这些客户端接收多媒体会议过程中的音频信息,从而使得多媒体会议中的客户端之间不仅能够进行单独交流,也不会错过会议的重要信息。

由此可知,本申请上述实施例接收在多媒体会议窗口中的第一操作,多媒体会议窗口显示有接入多媒体会议的多个客户端;根据第一操作,从多个客户端中选定至少一个客户端;采集发送给选定的至少一个客户端的第一音频信息;将第一音频信息发送至服务器,使得服务器将第一音频信息发送至选定的至少一个客户端,接收服务器发送的第二音频信息,第二音频信息为多媒体会议过程产生的音频信息;播放第二音频信息。上述方案中,对多媒体会议中的至少一个客户端进行第一操作,并将第一操作所选定的至少一个客户端的标识和音频信息发送至服务器,从而由服务器将音频信息仅发送至选定的至少一个客户端,实现了多媒体会议中部分客户端之间的单独沟通,操作简单、便捷,解决了现有技术中多媒体会议无法满足参会者进行单独沟通的技术问题。

作为一种可选的实施例,上述方法还包括:接收在多媒体会议窗口的第二操作,取消对选定的至少一个客户端的选定。

上述步骤在接收到多媒体会议窗口中的第一操作之后执行,当接收到多媒体会议窗口的第二操作后,取消对所选客户端的选定。在取消对所选客户端的选定后,如果再次采集到音频信息,则该音频信息会被服务器发送至除采集音频信息的客户端之外,参与多媒体会议的所有客户端,即该音频信息将面向其他所有客户端,结束单独沟通,实现多媒体会议中从单独沟通到全员沟通的切换。

在一种可选的实施例中,结合图3所示,用户的第一选择操作为勾选了id132465,从而对id为132465的客户端进行了选定,当用户取消对id132465的勾选时,客户端即接收到了第二操作,从而取消对id为132465的客户端的选定。

作为一种可选的实施例,上述第一操作为长按操作,在将第一音频信息发送至服务器,使得服务器将第一音频信息发送至选定的至少一个客户端之后,上述方法还包括:当长按操作结束时,取消对选定的至少一个客户端的选定。

在上述方案中,第一操作为长按操作,当长按操作结束后,即取消对长按操作所选客户端的选定。

在一种可选的实施例中,结合图2所示的交互界面,为了与id为132465的客户端单独沟通,用户可以开始长按住id为132465的客户端的窗口对其进行选定,此时可以将id为132465的客户端的标识发送至服务器,以使服务器知晓被选定的至少一个客户端。然后用户开始讲话,在讲话结束后,用户手指抬起结束长按操作,此时将讲话的音频信息发送至服务器,服务器根据之前接收到的标识,将音频信息发送至选定的至少一个客户端,并取消对id为132465的客户端的选定。

上述方案通过长按操作实现对客户端的选定和取消选定,从而使得用户可以在长按选择需要单独沟通的客户端后说话,并在说话结束后停止长按,即可实现将语音信息发送至多媒体会议中的指定客户端的目的,简单、便捷。

作为一种可选的实施例,上述方法还包括:接收服务器发送的第三音频信息;第三音频信息由接入多媒体会议的第三客户端所发送,且第三客户端根据其第一操作选定了当前客户端;对第二音频信息的音量参数和/或接收到的第三音频信息的音量参数进行调整;将接收到的第三音频信息与第二音频信息一同播放。

具体的,上述当前客户端用于表示上述采集了第一音频信息,并接收了服务器发送的第二音频信息的客户端。上述第三音频信息指的是视频会议中,除当前客户端之外的其他客户端在通过第一操作选定当前客户端后,由服务器向当前客户端转发的音频信息,该第三音频信息有且仅有当前客户端能够接收到。

在上述方案中,当前客户端不仅可以主动选定其他客户端,并向选定的其他客户端发送音频信息,主动实现与其他客户端的单独沟通,还可以被其他客户端所选定,接收其他客户端指定向其发送端音频信息,被动实现与其他客户端的单独沟通。对于不同客户端来说,其选定客户端的操作方式一样,因此,在上述方案中也采用第一操作表示,其具体方式与前述实施例相同。

在当前客户端接收到多媒体会议过程的第二音频信息时,如果任意一个其他客户端选定当前客户端并指定向当前客户端发送第三音频信息,则当前客户端则会同时接收到第二音频信息和第三音频信息,从而出现音频冲突。在当前客户端处出现音频冲突时,当前客户端可以通过调整第二音频信息的音量参数和/或第三音频信息的音量参数对音频冲突进行处理。

作为一种可选的实施例,对第二音频信息音量参数和/或第三音频信息的音量参数进行调整,包括:将第二音频信息的音量参数降低,和/或,将第三音频信息的第三音量参数调高,以使第二音频信息的音量参数低于第三音频信息的音量参数。

在上述方案中,在当前客户端发生音频冲突时,降低多媒体会议过程的第二音频信息的音量,使其至小于第三音频信息的音量,甚至可以将第二音频信息的音量降低为零,以使得第二客户端能够更清楚的听取第三音频信息;还可以将第三音频信息的第三音量参数升高,使第三音量参数大于第二音量参数,进而也能够达到使得第二客户端能够更清楚的听取第三音频信息的效果。

实施例2

根据本申请实施例,提供了一种多媒体会议中音频的控制方法的实施例,需要说明的是,在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行,并且,虽然在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于此处的顺序执行所示出或描述的步骤。

图4是根据本申请实施例的一种多媒体会议中音频的控制方法的流程图,多个客户端接入所述多媒体会议,如图4所示,该方法包括如下步骤:

步骤s402,接收第一客户端发送的第一音频信息。

上述步骤由多媒体会议的服务器执行,该多媒体会议的服务器安装有多媒体会议软件,可以设置在云端,参与多媒体会议的客户端通过访问云端的服务器接入多媒体会议,也可以设置在多媒体会议其中一方的本地,例如会议主讲人的本地,其他参与多媒体会议的客户端通过网络访问主讲人本地服务器以加入多媒体会议。

本申请中的多媒体会议可以是视频会议,同时传输视频以及音频,可以包含对参与视频会议的多方的视频和/或音频的传输,以及对多媒体文件的共享,也可以是音频会议,只进行音频的传输,具体形式本申请不做具体限定。多媒体会议所提供的交互界面可以显示各个参与方的视频/头像/客户端标识,也可以显示发言人共享的多媒体文件,还可以在二者之间切换或通过分屏的方式展示,具体显示方式本申请也不做具体限定。

上述第一客户端可以是参与多媒体会议的任意一个的客户端,第一音频信息表示第一客户端发送至服务器的音频信息。第一客户端在接收到用户发送的音频信息后,将音频信息发送至服务器。在一种可选的实施例中,客户端通过麦克风采集声音并进行编码处理后,传输至服务器的接收端。

步骤s404,确定第一客户端具有选定的第二客户端,将第一音频信息发送至第二客户端。

上述第二客户端也可以是参与多媒体会议的任意一个客户端。第一客户端具有选定的第二客户端,用于表示第一客户端对第二客户端执行了实施例一的第一操作。即可以是在客户端的画面上进行的勾选、长按、点击等操作,也可以是在多媒体会议的成员列表中对客户端进行勾选、长按、点击等操作。

需要说明的是,第一客户端对第二客户端的选定,可以在第一客户端发送第一音频信息之前进行,例如,在第一客户端发送第一音频信息之前,可以对第二客户端进行勾选、长按、点击等操作,以告知服务器其所选定的第二客户端,然后再采集第一音频信息、向服务器发送第一音频信息,也可以在第一客户端发送第一音频信息之前,可以对第二客户端进行勾选、长按、点击等操作,选定第二客户端,然后再采集第一音频信息,同时向服务器发送第一音频信息和该选定的第二客户端的信息;还可以在第一客户端发送第一音频信息的同时对第二客户端进行选定,例如,第一客户端在执行长按第二客户端选定第二客户端的同时采集第一音频信息,从而第一客户端在向第二客户端发送第一音频信息的同时携带第二客户端的标识,以使服务器同时接收到第一音频信息和选定第二客户端的信息。

在一种可选的实施例中,用于进行客户端选定的第一操作会导致第一客户端生成转发标注,该转发标注可以是第一客户端选定的第二客户端的标识,例如第二客户端的id,第二客户端在多媒体会议中的昵称等。如果第一客户端需要将第一音频信息转发至指定的第二客户端,则需要对第二客户端进行选定。在该实施例中,服务器在接收到第一音频信息后,首先判断第一客户端是否具有转发标注。具体的,服务器存储有每个客户端的传输通道对应的转发标注位,该转发标注位用于存储客户端的转发标注,服务器通过查询第一客户端的转发标注位来确定第一客户端是否具有选定的第二客户端。

如果第一客户端具有选定的第二客户端,则说明第一客户端希望将第一音频信息转发至指定的第二客户端,因此服务器将第一音频信息转发至转发标注中指定的第二客户端。

需要说明的是,上述第二客户端的数量可以为一个或多个,也即第一客户端可以具有一个选定的第二客户端,也可以具有多个选定的第二客户端。

步骤s406,确定第一客户端不具有选定的第二客户端,将第一音频信息发送至多媒体会议中除第一客户端之外的所有客户端。

如果第一客户端不具有选定的第二客户端,则确定第一音频信息并不用于与多媒体会议中的某个客户端进行单独沟通,因此将第一音频信息直接转发至接入多媒体会议中、除第一客户端之外的其他所有客户端。

通过判断第一客户端是否具有选定的第二客户端,来确定将第一音频信息转发至其他所有的客户端,还是转发至指定的客户端,从而使得在多媒体会议中,不仅能够实现一个客户端对其他所有客户端进行发言,也能够实现一个客户端仅与其中指定的客户端进行沟通。

在上述方案中,如果当前服务器接收到了一个不具有选定的第二客户端的客户端发送的音频信息,并在将该音频信息传输转发至其他的所有客户端的过程中,又同时接收到了另一个不具有选定的第二客户端的客户端发送的音频信息,则可以向后发出音频信息的客户端发送提示信息,以提示其是否需要在发言前添加转发标注,以避免由于用于忘记添加转发标注而导致将音频信息发送至其他所有客户端的情况。

例如,在主讲人发言的过程中,客户端a需要与客户端b进行单独沟通,但忘记对客户端b进行选定,因此服务器在接收到主讲人的客户端发来的音频信息的同时,接收到了客户端a发送的音频信息。此时服务器向客户端a发出提示信息:请确认是否将该音频发送至会议中的所有用户,并提供可供客户端a选择的控件“是”和“否”,当用户在客户端a上选择是时,服务器将音频发送至多媒体会议中的所有其他客户端,而用户在客户端a上选择否时,等待客户端a选定其他客户端后,再根据客户端a选定的至少一个客户端对音频进行转发。

图5是根据本申请实施例的一种对多媒体会议中的音频信息进行处理的示意图。结合图5所示,该示例中具有示出了四个参与多媒体会议的客户端:client1、client2、client3以及client4,每个客户端都具有音频信息的发送端(audiosendstream)和音频信息的接收端(audiorevstream),其中,发送端用于通过麦克风采集音频信息并进行编码处理后,传输至服务器的接收端,接收端用于接收服务器传输的音频信息再进行解码播放。

服务器为上述四个客户端创建了多媒体会议room0,room0包括对应于每个客户端的处理模块,分别为对应于client1的ep1、对应于client2的ep2、对应于client3的ep3以及对应于client4的ep4。每个处理模块中均包括发送端、处理器接收端和客户端唯一标识,其中,处理模块中的发送端用于将音频流数据发送至客户端,处理模块中的接收端用于接收客户端发送的音频流数据,客户端唯一标识可以是用户id或设备物理地址,服务器通过该标识确定数据的转发链路。

room0中还包括排己过滤模块,该排己过滤模块将需要服务器转发的音频流数据进行处理,可以将音频流数据转发到除了发送方以外的其它所有客户端,避免发声方听到自己的回声。如果要限制多媒体会议中只能有一人发言,则可以在这里通过制定策略处理,例如:有多个音频流数据需要转发时,只转发其中音量最大的音频流数据,或是转发最近到达的音频流数据等。

room0中还包括选择过滤模块(audioselectfilter),在转发时确定客户端标注了指定要转发的客户端时,该选择过滤模块将音频流数据转发到指令客户端。

下面分别以client1没有选定其他客户端进行发言,和client4选定其他客户端后进行发言作为两种示例说明。

client1没有选定的其他客户端,也即client1没有进行转发标注,当client1发言时,client1中的发送端对音频信息进行编码得到音频流数据,并将音频流数据发送至ep1中的接收端。此时处理器判断client1是否选定的其他客户端,判断结果为client1不具有选定的其他客户端,因此ep1中的接收端将接收到的音频流数据携带上client1的标识发送至排己过滤模块,由排己过滤模块将client1的音频数据流转发至room0中除client1之外的其他所有客户端,即client2、client3以及client4,从而实现了client1的发言。

client4选定其他客户端后发言,当client4发言时,client4中的发送端对音频信息进行编码得到音频流数据,并将音频流数据发送至ep4中的接收端。此时处理器判断client4是否具有选定的其他客户端,判断结果为client4具有选定的其他客户端,且client4中的转发标注指示的是client3,因此ep1中的接收端将接收到的音频流数据携带上client4的标识发送至选择过滤模块,由选择过滤模块将client4的音频流数据发送至ep3的发送端,再由ep3的发送端将client4的音频流数据发送至client3的接收端,从而使room0中有且仅有client3能够收到client4的音频流数据。

上述方案可以应用于多媒体会议中,在不影响当前发言人发言的情况下,任意一个客户端需要与其它至少一个客户端沟通的情况,下面举例说明。

在一种可选的实施例中,在主讲人在发言时,客户端a需要与客户端b单独交流,客户端a可以添加标注信息为客户端b的id,则服务器在处理客户端a发送的音频信息时,会只将客户端a的音频信息发送至客户端b。同样的,当客户端b单独回复客户端a时,也需要添加标注信息为客户端a的id,则服务器在处理客户端b发送的音频信息时,会只将客户端b的音频信息发送至客户端a,从而完成了多媒体会议中两个客户端的单独沟通。

在另一种可选的实施例中,在主讲人发言时,客户端a需要向主讲人发送提示语音,而该提示语音无需让多媒体会议中的其他客户端听到,因此客户端a可以添加标注信息为主讲人的id,则服务器在处理客户端a发送的音频信息时,会只将客户端a的音频信息发送至主讲人的客户端。在该种情况下,多媒体会议中除主讲人本身,其他客户端均能接收到主讲人的音频信息,而只有主讲人能够接收到客户端a发送端提示语音,从而实现了对主讲人的远程提示。

由此可知,本申请上述实施例接收第一客户端发送的第一音频信息;确定第一客户端具有选定的第二客户端,将所述第一音频信息发送至所述第二客户端;确定所述第一客户端不具有选定的第二客户端,将所述第一音频信息发送至多媒体会议中除所述第一客户端之外的所有客户端。上述方案中,服务器通过判断发送音频信息的客户端是否具有选定的第二客户端,来确定对音频信息的转发方式,从而在发送音频信息的客户端具有选定的第二客户端的情况下,仅将音频信息转发至转发标注所确定的指定客户端,实现了多媒体会议中部分客户端之间的单独沟通,操作简单、便捷,解决了现有技术中多媒体会议无法满足参会者进行单独沟通的技术问题。

作为一种可选的实施例,在确定第一客户端具有选定的第二客户端之前,上述控制方法还包括:接收第一客户端发送的对第二客户端的选定信息;选定信息由第一客户端根据在多媒体会议窗口中的第一操作所确定;记录第一客户端对第二客户端的选定。

在上述方案中,多媒体会议窗口显示有多媒体会议参与方对应的客户端画面,该客户端画面中可以包括该参与方的摄像头所获取的图像,或该客户端设置的默认图像,上述第一操作可以是在客户端的画面上进行的勾选、长按、点击等操作,也可以是在多媒体会议的成员列表中对客户端进行勾选、长按、点击等操作。在接收到第一操作后,将第一操作所指示的客户端作为选中的客户端。

在多媒体会议窗口中的第一操作,是为了在接入多媒体会议的多个客户端中选择特定的客户端。图2是根据本申请实施例的一种通过第一操作选择客户端的示意图,结合图2所示,显示界面上显示了多媒体会议窗口,多媒体会议窗口中包括参与多媒体会议的客户端的画面,当用户在至少一个客户端的画面进行上述点击、长按或其他操作时,即对其中至少一个客户端进行了选择。

图3是根据本申请实施例的另一种通过第一操作选择客户端的示意图。当前的界面显示了主讲人发言时的ppt,在此基础上,可以调出右下角的会议人员列表,该会议人员列表中即包括参与多媒体会议的客户端,用户可以对需要单独沟通的客户端的标识进行勾选操作,实现对其中至少一个客户端进行选择。

作为一种可选的实施例,上述控制方法还包括:接收第一客户端发送的对第二客户端的取消选定信息;取消选定信息由第一客户端根据在多媒体会议窗口中的第二操作所确定;清除第一客户端对第二客户端的选定记录。

上述步骤在接收到多媒体会议窗口中的第一操作之后执行,当接收到多媒体会议窗口的第二操作后,清除第一客户端对第二客户端的选定记录。在清除第一客户端对第二客户端的选定记录后,如果再次采集到第一客户端发送的音频信息,则该音频信息会被服务器发送至除第一客户端之外,参与多媒体会议的其他所有客户端,即该音频信息将面向其他所有客户端,从而结束第一客户端与第二客户端的单独沟通,实现多媒体会议中从单独沟通到全员沟通的切换。

在一种可选的实施例中,结合图3所示,用户的第一选择操作为勾选了id132465,从而对id为132465的客户端进行了选定,当用户取消对id132465的勾选时,客户端即接收到了第二操作,从而取消对id为132465的客户端的选定。

作为一种可选的实施例,接收第一客户端发送的第一音频信息,其具体为:在接收第一客户端发送的第一音频信息的同时,接收第一客户端发送的对第二客户端的选定信息。

在上述方案中,第一客户端对第二客户端的选定信息是在第一客户端发送第一音频信息的同时发出,而并非在第一客户端发送第一音频信息之前发出。具体的,可以是第一客户端发送第一音频信息之前,可以对第二客户端进行勾选、长按、点击等操作,选定第二客户端,然后再采集第一音频信息,同时向服务器发送第一音频信息和该选定的第二客户端的信息;也可以在第一客户端发送第一音频信息的同时对第二客户端进行选定,例如,第一客户端在执行长按第二客户端选定第二客户端的同时采集第一音频信息,从而第一客户端在向第二客户端发送第一音频信息的同时携带第二客户端的标识,以使服务器同时接收到第一音频信息和选定第二客户端的信息。

在一种可选的实施例中,第一客户端在接收第一音频信息后,对第一音频信息进行编码得到第一音频信息对应的码流,然后将其所需要选定的第二客户端的标识信息与第一音频信息对应的码流打包后同时发送至服务器,从而使服务器在接收第一音频信息的同时,接收到第一客户端对第二客户端的选定信息。

作为一种可选的实施例,在确定第一客户端具有选定的第二客户端,将第一音频信息发送至第二客户端之后,上述控制方法还包括:确定存在发送至第二客户端的第二音频信息;其中,第二音频信息与第一音频信息由接入多媒体会议的不同客户端发送;对第一音频信息的第一音量参数和/或第二音频信息的第二音量参数进行调整;将第二音频信息发送至第二客户端。

上述第二音频信息可以有如下两种来源,第一种,第二音频信息可以是主讲人当前的音频信息,该音频信息由处理器转发至除主讲人之外的其他所有客户端,第二种,第二音频信息可以是除第一音频信息外,另外一个需要与第二客户端进行单独沟通的客户端发送的音频信息。当服务器根据第一客户端的转发标注将第一音频信息转发至第二客户端时,如果此时第二客户端还接收了其他客户端转发的第二音频信息,则第二客户端处会出现音频冲突。在上述方案中,当第二客户端处出现音频冲突时,处理器通过调整第一音频信息的第一音量参数和/或第二音频信息的第二音频信息的第一音量参数对音频冲突进行处理。

需要说明的是,当第二客户端发生音频冲突时,不仅可以基于处理器调整两个发生冲突的音频信息的音量参数,还可以由用户在第二客户端上自行调整两个发生冲突的音频信息的音量参数。

作为一种可选的实施例,对第一音频信息的第一音量参数和/或第二音频信息的第二音量参数进行调整,包括:将第二音频信息的第二音量参数降低,和/或,将第一音频信息的第一音量参数调高,以使第二音量参数低于第一音量参数。

在上述方案中,在第二客户端发生音频冲突时,降低多媒体会议过程的第二音频信息的音量,使其至小于第一音频信息的音量,甚至可以将第二音频信息的音量降低为零,以使得第二客户端能够更清楚的听取第一音频信息;还可以将第一音频信息的第一音量参数升高,使第一音量参数大于第二音量参数,进而也能够达到使得第二客户端能够更清楚的听取第一音频信息的效果。

图6是根据本申请实施例的一种音频处理方法的信息交互图,结合图6所示,本实施例中进行音频处理时,第一客户端a与服务器的交互步骤包括:

s61,在客户端a的多媒体会议界面按住指定客户端的画面,确定选中客户端b。

在上述步骤中,当用户在多媒体会议的界面进行对指定客户端进行长按时,选中客户端b。在该示例中,触发客户端a发送转发标注请求的操作为长按操作。

s62,客户端a发送请求至服务器添加指定客户端b的标识至转发标注。

s63,服务器保存客户端a的转发标注,该转发标注中包括客户端b的id。

s64,客户端a处的用户保持步骤s61中的长按操作并进行讲话。

s65,客户端a将音频流数据发送至服务器。

s66,服务器收到客户端a发送的音频流数据,并判断客户端a是否具有转发标注。

由于步骤s62中客户端a向服务器发送了转发标注请求,因此判断结果为客户端a具有转发标注。

s67,客户端a处的用户取消对客户端b的画面的长按。

s68,客户端a向服务器发送取消音频转发标注的请求。

s69,服务器将客户端a的标注请求置空。

实施例3

根据本申请实施例,还提供了一种多媒体会议中音频的控制装置,图7是根据本申请实施例的一种多媒体会议中音频的控制装置的示意图,多个客户端接入多媒体会议,如图7所示,该装置包括:

第一接收模块70,用于接收在多媒体会议窗口中的第一操作,多媒体会议窗口显示有接入多媒体会议的多个客户端。

选定模块72,用于根据第一操作,从多个客户端中选定至少一个客户端。

采集模块74,用于采集发送给选定的至少一个客户端的第一音频信息。

发送模块76,用于将第一音频信息发送至服务器,使得服务器将第一音频信息发送至选定的至少一个客户端。

第二接收模块78,用于接收服务器发送的第二音频信息;第二音频信息为多媒体会议过程产生的音频信息。

播放模块710,用于播放第二音频信息。

作为一种可选的实施例,上述装置还包括:第三接收模块,用于接收在多媒体会议窗口的第二操作,取消对选定的至少一个客户端的选定。

作为一种可选的实施例,第一操作为长按操作,上述装置还包括:取消模块,用于在将第一音频信息和选定的至少一个客户端的标识发送至服务器,使得服务器将第一音频信息发送至选定的至少一个客户端之后,当长按操作结束时,取消对选定的至少一个客户端的选定。

作为一种可选的实施例,上述装置还包括:第四接收模块,用于接收服务器发送的第三音频信息;所述第三音频信息由接入所述多媒体会议的第三客户端所发送,且所述第三客户端根据其第一操作选定了当前客户端;调整模块,用于对第二音频信息的音量参数和/或接收到的第三音频信息的音量参数进行调整;第二播放模块,用于将接收到的第三音频信息与第二音频信息一同播放。

作为一种可选的实施例,调整模块包括:调整子模块,用于将第二音频信息的音量参数降低,和/或,将所述第三音频信息的第三音量参数调高,以使第二音频信息的音量参数低于第三音频信息的音量参数。

本实施例的多媒体会议中音频的控制装置,可执行前述方法实施例1所提供的多媒体会议中音频的控制方法,可执行不限于该方法的任意组合实施步骤,具备该方法相应的功能和有益效果。

实施例4

根据本申请实施例,还提供了一种多媒体会议中音频的控制装置,图8是根据本申请实施例的一种多媒体会议中音频的控制装置的示意图,多个客户端接入多媒体会议,如图8所示,该装置包括:

第一接收模块80,用于接收第一客户端发送的第一音频信息。

第一发送模块82,用于确定第一客户端具有选定的第二客户端,将第一音频信息发送至第二客户端。

第二发送模块84,用于确定第一客户端不具有选定的第二客户端,将第一音频信息发送至多媒体会议中除第一客户端之外的所有客户端。

作为一种可选的实施例,上述装置还包括:第二接收模块,用于在确定第一客户端具有选定的第二客户端之前,接收第一客户端发送的对第二客户端的选定信息;选定信息由第一客户端根据在多媒体会议窗口中的第一操作所确定;记录模块,用于记录第一客户端对第二客户端的选定。

作为一种可选的实施例,上述装置还包括:第三接收模块,用于接收第一客户端发送的对第二客户端的取消选定信息;取消选定信息由第一客户端根据在多媒体会议窗口中的第二操作所确定;清除模块,用于清除第一客户端对第二客户端的选定记录。

作为一种可选的实施例,第一接收模块包括:接收子模块,用于在接收第一客户端发送的第一音频信息的同时,接收第一客户端发送的对第二客户端的选定信息。

作为一种可选的实施例,上述装置还包括:确定模块,用于确定存在发送至第二客户端的第二音频信息;其中,第二音频信息与第一音频信息由接入多媒体会议的不同客户端发送;调整模块,用于对第一音频信息的第一音量参数和/或第二音频信息的第二音量参数进行调整;第三发送模块,用于将第二音频信息发送至第二客户端。

作为一种可选的实施例,调整模块包括:调整子模块,用于将第二音频信息的第二音量参数降低,和/或,将第一音频信息的第一音量参数调高,以使第二音量参数低于第一音量参数。

需要说明的是,上述实施例提供的多媒体会议中音频的控制装置在执行多媒体会议中音频的控制时,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将设备的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。另外,上述实施例提供的多媒体会议中音频的控制装置与多媒体会议中音频的控制方法实施例属于同一构思,其体现实现过程详见方法实施例,这里不再赘述。

实施例5

本申请实施例还提供了一种计算机存储介质,所述计算机存储介质可以存储有多条指令,所述指令适于由处理器加载并执行如上述图1-图7所示实施例的方法步骤,具体执行过程可以参见图1-图7所示实施例的具体说明,在此不进行赘述。

存储介质所在设备可以是智能交互平板。

实施例6

根据本申请实施例,还提供了一种电子设备,包括:处理器和存储器;其中,所述存储器存储有计算机程序,所述计算机程序适于由所述处理器加载并执行实施例1中的方法步骤。

本领域内的技术人员应明白,本申请的实施例可提供为方法、系统、或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、cd-rom、光学存储器等)上实施的计算机程序产品的形式。

本申请是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

在一个典型的配置中,计算设备包括一个或多个处理器(cpu)、输入/输出接口、网络接口和内存。

存储器可能包括计算机可读介质中的非永久性存储器,随机存取存储器(ram)和/或非易失性内存等形式,如只读存储器(rom)或闪存(flashram)。存储器是计算机可读介质的示例。

计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(pram)、静态随机存取存储器(sram)、动态随机存取存储器(dram)、其他类型的随机存取存储器(ram)、只读存储器(rom)、电可擦除可编程只读存储器(eeprom)、快闪记忆体或其他内存技术、只读光盘只读存储器(cd-rom)、数字多功能光盘(dvd)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitorymedia),如调制的数据信号和载波。

还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括要素的过程、方法、商品或者设备中还存在另外的相同要素。

以上仅为本申请的实施例而已,并不用于限制本申请。对于本领域技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本申请的权利要求范围之内。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1