直播系统的制作方法

文档序号:11524765阅读:215来源:国知局

本发明涉及流媒体传输技术领域,尤其涉及一种直播系统。



背景技术:

近年来,全景摄像机(panoramacamera)开始进入大众视野,全景摄像机的视野范围比普通摄像机大,可以满足一个场所的全景录像。

但是,目前的全景摄像机只拍摄原始视频,需要在显示终端进行复杂计算,在进行直播时也需要配置高性能的本地服务器和直播平台服务器进行视频流推送,有的还需要经过二次转码,这种直播系统架构复杂、昂贵,适用性较差。



技术实现要素:

本发明的主要目的在于提供一种直播系统,旨在简化现有直播系统的架构、提高其适用性。

为实现上述目的,本发明提出的直播系统,包括全景相机及连接所述全景相机的app终端,所述全景相机包括:

多路图像传感器,将镜头拾取的图像画面转换为多路图像数字信号;

音频处理模块,对麦克风输入的音频数字信号进行编码、解码处理;

拼接模块,将所述多路图像传感器输入的多路图像数字信号和所述音频处理模块输入的音频数字信号拼接成全景视频;

信号处理模块,将所述拼接模块输入的全景视频推流至app终端进行直播预览。

进一步地,所述直播系统还包括连接所述全景相机的云端,所述拼接模块输出2k或4k全景视频,所述信号处理模块将所述拼接模块输入的2k或4k全景视频压缩后上传至所述云端。

进一步地,所述app终端包括参数设置模块,对所述全景相机的推流地址及其他直播参数进行设置。

进一步地,所述全景相机还包括通信模块,所述通信模块包括wifi单元、蓝牙单元、及rj45接口,所述全景相机通过所述wifi单元或蓝牙单元接收app终端的控制指令、向所述app终端传输2k全景视频流数据,通过所述rj45接口向所述云端上传4k全景视频数据。

进一步地,所述信号处理模块包括dsp处理器及与所述dsp处理器连接的第一存储器,所述第一存储器对所述dsp处理器压缩后的4k全景视频进行存储。

进一步地,所述信号处理模块还用于:

判断所述4k全景视频的存储和所述2k全景视频的推流之间是否存在冲突;

若是,向app终端推送包含存储选项和显示选项的提示框;

在收到app终端反馈的显示指令时,向所述app终端推送所述2k全景视频数据。

进一步地,所述app终端还包括推流模块,将所述dsp处理器推送来的所述2k全景视频数据推流至所述云端。

进一步地,该直播系统还包括一网络节点,所述全景相机通过所述rj45接口连接该网络节点,所述全景相机还包括4k直播开关;

在所述4k直播开关导通时,所述wifi单元或蓝牙单元断开与app终端之间的无线通信连接,所述dsp处理器通过所述rj45接口向所述网络节点推送4k全景视频数据;

所述网络节点依据全景相机的推流地址将接收到的4k全景视频数据实时上传至云端;

在所述4k直播开关断开时,所述通信模块断开与所述网络节点之间的有线连接,恢复与app终端之间的无线通信连接。

进一步地,该直播系统还包括一网络节点,所述全景相机通过所述rj45接口连接该网络节点,所述全景相机还包括4k直播开关;

在所述4k直播开关导通时,所述dsp处理器通过所述rj45接口向所述网络节点推送4k全景视频数据,同时通过所述wifi单元或蓝牙单元向所述app终端推送2k全景视频流;

所述网络节点依据所述全景相机的推流地址将接收到的4k全景视频数据实时上传至云端;

在所述4k直播开关断开时,所述通信模块断开与所述网络节点之间的有线连接。

进一步地,所述app终端实时获取所述全景相机与网络节点之间的推流信息。

进一步地,所述拼接模块包括fpga,所述dsp处理器将fpga输入的2k全景视频推流至所述网络节点,所述app终端与所述网络节点建立通信连接,从所述网路节点获取所述2k全景视频。

本发明的直播系统,包括全景相机及连接所述全景相机的app终端和云端,所述全景相机包括多路图像传感器、音频处理模块、拼接模块、及信号处理模块,通过拼接模块将多路图像传感器输入的多路图像数字信号和音频处理模块输入的音频数字信号拼接成2k或4k全景视频,然后通过信号处理模块将拼接模块输入的2k全景视频推流至app终端进行直播预览,或将所述拼接模块输入的4k全景视频压缩后上传至云端,在连接到云端的显示终端上直接进行观看。本发明的直播系统不需要在显示终端进行复杂的计算,也不需要配置高性能的本地服务器和直播平台服务器进行推流,简化了直播系统的架构,节约了成本,而且能够应用于多种场合,提高了适用性。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图示出的结构获得其他的附图。

图1为本发明的直播系统一实施例的结构示意图。

附图标号说明:

本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。

具体实施方式

应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。

本发明提出一种直播系统。

参照图1,图1为本发明的直播系统一实施例的结构示意图。

在本实施例中,该直播系统包括全景相机100及连接所述全景相机100的app终端200,所述全景相机100包括:

多路图像传感器10,将镜头拾取的图像画面转换为多路图像数字信号;

音频处理模块20,对麦克风输入的音频数字信号进行编码、解码处理;

拼接模块30,将所述多路图像传感器10输入的多路图像数字信号和所述音频处理模块20输入的音频数字信号拼接成全景视频;

信号处理模块40,将所述拼接模块30输入的全景视频推流至app终端200进行直播预览。

在本实施例中,该直播系统包括全景相机100及连接全景相机100的app终端200,主要利用全景相机100输出拼接好的2k或4k全景视频,并将所述2k全景视频推流至app终端200进行直播预览,将所述2k或4k全景视频上传至云端300,供连接至云端300的其他显示终端直接观看。

所述全景相机100包括相机本体(未图示)及设置于相机本体的多路图像传感器10、音频处理模块20、拼接模块30及信号处理模块40,所述相机本体可以采用热塑性材料注塑成型,也可以采用合金材料制成,所述相机本体上还设有多个镜头和麦克风60,所述多个镜头均匀分布于所述全景相机100的水平视野或竖直视野中,以抓取水平方向或竖直方向360度的视角,所述麦克风设有多个,均匀分布于所述相机本体形成一阵列,并随所述镜头一起旋转,以实现各个角度的声音拾取。

所述多个图像传感器10采用cmos图像传感器,优选sensorimx117,每一图像传感器10的输入端均连接至少一个镜头,每一图像传感器10通过一lvds接口与所述拼接模块30的输入接口连接,将所述多路图像传感器10转换后的多路图像数字信号输入所述拼接模块30。拼接模块30采用硬件处理处理方式,如现场可编程门阵列fpga芯片或复杂可编程逻辑器件cpld芯片,通过增大输出时的传输速率,在相同时间内输出单路或预设路数的数字信号,在其他实施例中还可以采用软件处理方式,如mcu等构件缓存区,将全部数据接收至所述缓存区后,通过对全部数据进行打包,将打包后的数据通过唯一的输出接口输出,本实施例的拼接模块30优选fpga31,对多路图像传感器10输入的多路图像数字信号进行拼接处理,也即将从多个输入接口输入的多路图像数字信号和音频数字信号通过增大传输速率的方式从一个输出接口输出全景视频数据,然后将所述全景视频数据推送给信号处理模块40进行编码、压缩、及ips处理。

所述音频处理模块20的输入端连接所述麦克风60、输出端连接所述拼接模块30,将麦克风60采集的声音模拟信号转换为音频数字信号后对所述音频数字信号进行编码、压缩,并在接收端进行信号解码,并将解码之后的数字信号通过pcm接口或iis接口传输至拼接模块30,在本实施例中,所述麦克风60的数量为四个,所述四个麦克风可以形成以阵列均匀分布于所述相机本体的同一位面,以便更好地对应用场景的声音信号进行捕捉和拾取,降低噪声的影响,在其他实施例中所述麦克风60还可以设置更多,以增强麦克风60拾取到的声音信号的强度,所述麦克风60将拾取到的声音模拟信号转换为音频数字信号传输至音频处理模块20进行编码、压缩和解压缩,所述音频处理模块20包括主编解码器21及连接所述主编解码器21的从编解码器23,所述主编解码器21连接其中两个麦克风60,所述从编解码器23连接另外两个麦克风60,对经ad转换器转换后的音频数字信号的传输进行编码、压缩,并在接收端对所述音频数字信号进行解码,所述从编解码器将解码后的音频数字信号传输至主编解码器21,由主编解码器21将解码之后的音频数字信号经过pcm接口输入至拼接模块30,拼接模块30利用fpga31将主编解码器21输入的音频数字信号处理成4路音频源文件,所述拼接模块30还包括一连接所述fpga31的第二存储器33,所述拼接模块30将所述音频源文件存储在所述第二存储器33中,在需要时从所述第二存储器33中调取,提高了音频信号传输的兼容性和安全性。

所述信号处理模块40主要对拼接模块30输入的2k或4k全景视频数据进行压缩、编码、或推送处理,在进行app终端200直播时,信号处理模块40将进行压缩和编码后的2k全景视频数据推流至app终端200进行直播预览。

在另一实施例中,所述直播系统还包括连接全景相机100的云端300,所述拼接模块30将所述多路图像传感器10输入的多路图像数字信号和所述音频处理模块20输入的音频数字信号拼接成2k或4k全景视频,所述信号处理模块40将压缩和编码后的4k全景视频数据或编码后的2k全景视频数据上传至云端300,供连接到云端300的其他显示终端进行观看。

本发明的直播系统不需要在显示终端进行复杂的计算,也不需要配置高性能的本地服务器和直播平台服务器进行推流,简化了直播系统的架构,节约了成本,而且能够应用于多种场合,提高了适用性。

进一步地,参照图1,所述app终端200包括:

参数设置模块210,对所述全景相机100的推流地址及其他直播参数进行设置。

在本实施例中,app终端用户首先需要在智能手机、平板、pda(personaldigitalassistant,个人数字助手)等终端设备上下载用于观看所述全景相机100直播的视频画面的app软件,所述app终端200能够与所述全景相机100建立通信连接,所述通信连接可以通过移动网络建立、也可以通过无线wifi建立、还可以通过无线蓝牙建立,所述app终端200与所述全景相机100建立通信连接后,由app终端200的参数设置模块210对全景相机100的推流地址和其他直播参数进行设置,实现方式可以是在app终端200与全景相机100连接成功后,在app终端200的显示页面上主动弹出全景相机100的参数设置界面,该参数设置界面包括全景相机100的推流地址及其他参数设置选项,如全景相机的抓取速度、拍摄质量、直播全景视频的分辨率、码率、码流数,以及全景相机100的饱和度参数等,在所述app终端200的显示界面上完成设置后,app终端200生成控制指令发送给全景相机100进行参数重置。

进一步地,参照图1,所述全景相机100还包括通信模块50,所述通信模块50包括wifi单元51、蓝牙单元55、及rj45接口53,所述全景相机100通过所述wifi单元51或蓝牙单元55接收app终端200的控制指令、向所述app终端200传输2k全景视频流数据,通过所述rj45接口53向所述云端300上传4k全景视频数据。

在本实施例中,在全景相机100的直播参数设置好之后,可以向全景相机100发送直播请求指令,全景相机100内设有通信模块50,该通信模块50一般为wifi单元51或蓝牙单元55,本实施例为了全景相机100能够直接向云端推送4k全景视频数据,在为全景相机100提供电源支持的电源棒上还设有rj45接口,全景相机100通过该rj45接口连接一网线,该网线的另一端连接一网络节点,通过该网络节点将所述4k全景视频数据上传至云端,在另一实施例中,在app终端200通过wifi或蓝牙与全景相机100建立无线通信连接后,全景相机100在接收到app终端200的控制命令和直播请求后,通过所述wifi单元51或蓝牙单元55向所述app终端传输2k全景视频流数据。

进一步地,参照图1,所述信号处理模块40包括dsp处理器41及与所述dsp处理器41连接的第一存储器43,所述第一存储器43对所述dsp处理器41压缩后的4k全景视频进行存储。

在本实施例中,信号处理模块40主要对拼接模块30输入的2k或4k全景视频数据进行编码、压缩、以及ips处理,并对处理后的4k全景视频数据进行存储,所述信号处理模块40包括dsp处理器41,dsp处理器41选择选择amba_dsp,核心编码器选择videoencodea12,所述信号处理模块40还包括第一存储器43,所述dsp处理器41连接所述第一存储器43,以便dsp处理器41对所述4k视频源文件进行压缩和编码处理后将其保存在所述第一存储器43内,所述第一存储器43可以是ddr、flash、或tf-card。

进一步地,参照图1,所述信号处理模块40还用于:

判断所述4k全景视频的存储和所述2k全景视频的推流之间是否存在冲突;

若是,向app终端200推送包含存储选项和显示选项的提示框;

在收到app终端200反馈的显示指令时,向所述app终端200推送所述2k全景视频数据。

在本实施例中,所述全景相机100设有一专门的dsp处理器41接收fpga31拼接好的4k全景视频数据和/或2k全景视频数据,由于dsp处理器41的编码能力有限,为了保证4k或2k全景视频数据的质量,一般情况下,在对所述4k全景视频数据和2k全景视频数据压缩后进行存储,但是如果app终端200用户请求同步直播时,所述dsp处理器41在所述4k全景视频数据的存储和所述2k全景视频的推流之间就会存在优先权顺序的冲突,此时,dsp处理器在app终端200发送的同步直播的指令与预设的有线存储的指令程序存在冲突时,dsp处理器41会通过通信模块50,也即wifi单元51或蓝牙单元55向终端用户推送包含存储选项和显示选项的提示框,此时在app终端200的显示界面上会显示供终端用户选择的提示复选框,如果用户选择显示选项,也即用户选择优先显示,app终端200在获取到用户对所述提示框进行的选择操作后将其生成显示指令反馈给dsp处理器41,dsp处理器41优先对所述2k全景视频数据进行编码,将进行编码后的2k全景视频数据推流至app终端。

进一步地,参照图1,所述app终端200还包括推流模块220,将所述dsp处理器41推送来的所述2k全景视频数据推流至所述云端300。

在本实施例中,所述app终端还包括推流模块220,该推流模块220可以将dsp处理器41推送来的2k全景视频数据通过移动网络,如4g网络、3g网络或5g网络上传至云端,以便供其他连接至所述云端的用户进行下载、在线预览、或在线播放等操作。

进一步地,参照图1,该直播系统还包括一网络节点400,所述全景相机100通过所述rj45接口连接该网络节点400,所述全景相机100还包括4k直播开关;

在所述4k直播开关导通时,所述wifi单元51或蓝牙单元55断开与app终端200之间的无线通信连接,所述dsp处理器41通过所述rj45接口向所述网络节点400推送4k全景视频数据;

所述网络节点400依据全景相机100的推流地址将接收到的4k全景视频数据实时上传至云端300;

在所述4k直播开关断开时,所述通信模块50断开与所述网络节点400之间的有线连接,恢复与app终端200之间的无线通信连接。

在本实施例中,所述全景相机100包括有电源棒模块,为所述全景相机100提供电源支持,所述电源棒模块的电量规格在5000mah以上,能够保证全景相机100持续工作2小时,所述电源棒模块包括电源开机键、4k直播开关、电源状态指示灯、工作状态指示灯、wifi指示灯、rj45接口,所述电源棒模快在供电状态时,所述电源状态指示灯显示绿色,否则不显示,电量过低时显示红色,并进行闪烁;所述全景相机100在工作状态时,所述工作状态指示灯显示绿色,在所述全景相机100出现故障或电源棒模块的电量过低时,所述工作状态指示灯显示红色;所述全景相机100通过电源棒模块上的rj45接口连接一网络节点400,所述网络节点400具有数据流的复制和转发功能,如路由器,将所述全景视频向云端300进行推送时,首先获取最初通过app终端200设置的全景相机100的推流地址,该过程可以在app终端200通过wifi或蓝牙连接到所述全景相机100,对所述全景相机100的参数进行同步设置,也可以在所述全景相机100通过rj45接口53连接所述网络节点400时进行设置,在全景相机100通过rj45接口53连接所述网络节点400时,还需要测试网线是否导通以便确定所述全景相机100可以通过网线向所述网路节点400传输4k全景视频数据。在全景相机100通过电源棒模块上的rj45接口53连接所述网络节点400,并开启所述电源棒模块上的4k直播开关时,所述全景相机100会获取到对所述4k直播开关执行的开启操作,此时,通信模块50也即wifi单元51或蓝牙单元55断开与app终端200之间的无线通信连接,dsp处理器41通过所述rj45接口53向所述网络节点400推送4k全景视频数据,所述网络节点400可以对获取的4k全景视频数据进行编码存储,或者直接依据所述推流地址将接收到的4k全景视频数据上传至云端,所述全景相机100将所述4k全景视频数据以rtmp/rtsp格式推送给所述网络节点400,再次按压所述4k直播开关,则直接关闭所述4k直播开关,在获取到所述4k直播开关执行的再次按压操作,也即关闭操作时,断开与所述网络节点400之间的有线连接,所述通信模块50通过wifi或蓝牙重新建立与app终端200之间的无线通信连接,以便全景相机100继续向所述app终端200推送2k全景视频数据流。

进一步地,参照图1,该直播系统还包括一网络节点400,所述全景相机100通过所述rj45接口连接该网络节点400,所述全景相机100还包括4k直播开关;

在所述4k直播开关导通时,所述dsp处理器41通过所述rj45接口向所述网络节点400推送4k全景视频数据,同时通过所述wifi单元51或蓝牙单元55向所述app终端200推送2k全景视频流;

所述网络节点400依据所述全景相机100的推流地址将接收到的4k全景视频数据实时上传至云端300;

在所述4k直播开关断开时,所述通信模块50断开与所述网络节点400之间的有线连接。

在本实施例中,所述全景相机100包括一电源棒模块,为所述全景相机100提供电源支持,所述电源棒模块的电量规格在5000mah以上,能够保证全景相机100持续工作2小时,所述电源棒模块包括电源开机键、4k直播开关、电源状态指示灯、工作状态指示灯、wifi指示灯、rj45接口53,所述电源棒模快在供电状态时,所述电源状态指示灯显示绿色,否则不显示,电量过低时显示红色,并进行闪烁;所述全景相机100在工作状态时,所述工作状态指示灯显示绿色,在所述全景相机100出现故障或电源棒模块的电量过低时,所述工作状态指示灯显示红色;所述全景相机100通过电源棒模块上的rj45接口53连接一网络节点400,所述网络节点400具有数据流的复制和转发功能,如路由器,将所述全景视频向云端300进行推送时,首先获取最初通过app终端200设置的全景相机100的推流地址,该过程可以在app终端200通过wifi或蓝牙连接到所述全景相机100,对所述全景相机100的参数进行设置时同步设置,也可以在所述全景相机100通过rj45接口53连接所述网络节点400时进行设置,在全景相机100通过rj45接口53连接所述网络节点400时,还需要测试网线是否导通以便确定所述全景相机100可以通过所述网线向所述网路节点400传输4k全景视频数据。在全景相机100通过电源棒模块上的rj45接口53连接所述网络节点400,并开启所述电源棒模块上的4k直播开关时,所述全景相机100会获取到对所述4k直播开关执行的开启操作,此时,dsp处理器41通过所述rj45接口53向所述网络节点400推送4k全景视频数据,同时所述dsp处理器41还向所述app终端200推送2k全景视频流数据,以便在将所述4k全景视频数据上传云端300的同时,还可以在app终端200实现直播预览,增加了全景相机的功能性,所述网络节点400可以对获取的4k全景视频数据进行编码存储,或者直接依据所述推流地址将接收到的4k全景视频数据上传至云端300,所述全景相机100将所述4k全景视频数据以rtmp/rtsp格式推送给所述网络节点400,再次按压所述4k直播开关,则直接关闭所述4k直播开关,在获取到所述4k直播开关执行的再次按压操作,也即关闭操作时,断开与所述网络节点之间的有线连接,所述dsp处理器41继续向所述app终端200推送2k全景视频流数据。

进一步地,参照图1,所述app终端200实时获取所述全景相机100与网络节点400之间的推流信息。

在本实施例中,所述全景相机100在通过有线网络向网络节点400推动4k全景视频数据的同时,通过无线通信方式向所述app终端200推送2k全景视频流数据,也即在全景相机100与所述网络节点400之间进行4k全景视频流的传输时,可以在所述app终端200实现传输进程、传输流量、传输时间、及全景相机100的剩余电量等推流信息的监控,以便根据所述推流信息及时作出响应,提高全景视频数据推流的效率和安全性。

进一步地,参照图1,所述拼接模块30包括fpga31,所述dsp处理器41将fpga31输入的2k全景视频推流至所述网络节点400,所述app终端200与所述网络节点400建立通信连接,从所述网路节点400获取所述2k全景视频。

在本实施例中,拼接模块30包括fpga对多路图像传感器10输入的图像数字信号和音频处理模块20输入的音频数字信号进行物理拼接,通过在fpga31内设定预设的数据通道及数据的传输速率,输出带有一路音频的2k或4k全景视频数据,所述全景相机100通过有线方式或无线方式与网络节点400建立通信连接,由dsp处理器将fpga输入的2k全景视频推流至所述网络节点400,所述app终端200通过与网络节点400建立通信连接,从所述网络节点400获取所述2k全景视频,可实现连接所述网络节点400的多个终端同时进行直播预览。

以上仅为本发明的优选实施例,并非因此限制本发明的专利范围,凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本发明的专利保护范围内。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1