网页中切换分辨率播放媒体文件的方法、装置及存储介质与流程

文档序号:19347259发布日期:2019-12-06 20:59阅读:410来源:国知局
网页中切换分辨率播放媒体文件的方法、装置及存储介质与流程

本公开涉及多媒体技术,尤其涉及一种网页中切换分辨率播放媒体文件的方法、装置及存储介质。



背景技术:

动态图像专家组(mpeg,movingpictureexpertsgroup)-4格式是目前广泛使用的容器格式,可以存储多种编码方式的视频数据和音频数据。

浏览器内嵌的播放器通过使用浏览器的超文本标记语言(html,hypertextmarkuplanguage)5媒体元素播放,在播放器通过浏览器的网页、或内嵌浏览器内核的应用程序(app,application)的网页播放媒体文件,然而相关技术只能提供对于流媒体文件的播放支持,对于网络中的mp4文件,由于其自身不是流媒体格式,除非预先进行格式转换,否则播放器无法通过浏览器或内嵌浏览器内核的app实现对媒体文件的流媒体方式播放,同时,在分辨率切换。

例如,相关技术采用将mp4文件转换流媒体格式,诸如flv(flashvideo)、超文本传输协议直播流(hls,httplivestreaming)等,然而,内容服务商仍然会存储原始的mp4文件,以便于在流媒体格式文件播放出现问题时及时回溯,同时存储mp4文件和转码文件,mp4文件业务的存储空间占用的成倍地增长,存储空间部署和流媒体业务的复杂度显著提升。



技术实现要素:

有鉴于此,本公开实施例提供一种网页中切换分辨率播放媒体文件的方法、装置及存储介质,能够通过网页播放非流媒体格式的媒体文件,克服了非流媒体封装格式文件需要完整下载后才可以独立播放的限制。

本公开实施例提供了一种网页中切换分辨率播放媒体文件的方法,包括:当内嵌于网页的播放器在播放原分辨率媒体文件的过程中,接收分辨率切换事件;响应于所述分辨率切换事件,请求待切换的目标分辨率媒体文件中的媒体数据;其中,所述原分辨率媒体文件和所述目标分辨率媒体文件采用非流媒体封装格式;基于所请求的媒体数据构造用于独立解码的分段媒体文件;通过所述网页的媒体源扩展接口,发送所述分段媒体文件给所述网页的媒体元素,所述分段媒体文件用于供所述媒体元素接续所述分辨率切换事件发生时所处的播放点进行播放。

本公开实施例提供一种网页中切换分辨率播放媒体文件的装置,包括:事件接收模块,用于当内嵌于网页的播放器在播放原分辨率媒体文件的过程中,接收分辨率切换事件;数据请求模块,用于响应于所述分辨率切换事件,请求待切换的目标分辨率媒体文件中的媒体数据;分段构造模块,用于基于所请求的媒体数据构造用于独立解码的分段媒体文件;媒体播放模块,用于通过所述网页的媒体源扩展接口,发送所述分段媒体文件给所述网页的媒体元素,所述分段媒体文件用于供所述媒体元素接续所述分辨率切换事件发生时所处的播放点进行播放。

又一方面,本公开实施例还提供了一种网页中切换分辨率播放媒体文件的装置,包括:

存储器,用于存储可执行指令;

处理器,用于执行所述存储器中存储的可执行指令实现本公开实施例提供的网页中切换分辨率播放媒体文件的方法。

又一方面,本公开实施例还提供了一种存储介质,存储有可执行指令,所述可执行指令被执行时,用于实现本公开实施例提供的网页中切换分辨率播放媒体文件的方法。

本公开实施例具有如下技术效果:

1)将非流媒体格式的媒体文件中的媒体数据所转换成的分段媒体文件,通过网页的媒体源扩展接口,发送给网页的媒体元素进行解码播放,实现了通过网页播放非流媒体格式的媒体文件,克服了非流媒体封装格式文件需要完整下载后才可以独立播放的限制。

2)媒体数据在前端的播放器完成向分段媒体文件的转换,对于后台服务器而言需要存储不同分辨率的媒体文件,而分段媒体文件不需要在服务器侧预先存储,实现了媒体文件以低存储空间占用方式的播放。

3)通过将不支持流媒体播放的媒体文件转换为支持流媒体格式的分段媒体文件的方式播放,当分辨率发生切换时,无需重新下载目标分辨率的媒体文件,使得画面能够无缝切换,避免产生黑屏现象,实现媒体文件的流畅播放。

附图说明

图1是本公开实施例提供的用于多媒体文件封装的容器的一个可选结构示意图;

图2是本公开实施例中mp4文件的一个可选的封装结构示意图;

图3是本公开实施例中媒体文件中的媒体数据容器存储媒体数据的一个可选的结构示意图;

图4是本公开实施例中fmp4文件的一个可选的封装结构示意图;

图5为本公开实施例网页中切换分辨率播放媒体文件的装置一个可选的组成示意图;

图6为本公开实施例网页中切换分辨率播放媒体文件的装置一个可选的组成示意图;

图7为本公开实施例提供的网页中切换分辨率播放媒体文件的方法的一个可选的流程示意图;

图8为本公开示例提供的封装分段媒体文件的一个可选的流程示意图;

图9是本公开实施例提供的播放器通过网页的媒体源扩展接口播放分段媒体文件的一个可选的示意图;

图10为本公开实施例提供的mp4文件转换为fmp4文件并通过媒体源扩展接口播放的一个示意图;

图11为本公开实施例提供的播放控制方法的一个可选的流程示意图。

具体实施方式

为了使本公开的目的、技术方案和优点更加清楚,下面将结合附图对本公开作进一步地详细描述,所描述的实施例不应视为对本公开的限制,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例,都属于本公开保护的范围。

除非另有定义,本文所使用的所有的技术和科学术语与属于本公开的技术领域的技术人员通常理解的含义相同。本文中所使用的术语只是为了描述具体的实施例的目的,不是旨在限制本公开。

对本公开进行进一步详细说明之前,对本公开实施例中涉及的名词和术语进行说明,本公开实施例中涉及的名词和术语适用于如下的解释。

1)媒体文件,以容器(box,也称为盒子)的方式存储进行编码的媒体数据(例如音频数据和视频数据中的至少一种)的文件,其中还包括用以表达媒体信息以保证媒体数据被正确解码的元数据。

例如,采用动态图像专家组(mpeg,movingpictureexpertsgroup)-4封装格式封装媒体数据的形成的媒体文件被称为mp4文件。典型地,mp4文件中存储高级视频编码(avc,advancedvideocoding,即h.264)或mpeg-4(part2)规范编码的视频数据和高级音频编码(aac,advancedaudiocoding)规范编码的音频数据,当然不排除视频和音频的其他编码方式。

2)容器(box),也称为盒子,由唯一的类型标识符和长度定义的面向对象的构件,参见图1,是本公开实施例提供的容器的一个可选的结构示意图,包括容器头部(boxheader)和容器数据(boxdata),其中填充有用于表达各种信息的二进制数据。

容器头部包括容量(size)和类型(type),容量指明了容器在媒体文件中所占用的长度,类型指明了容器的类型,参见图2,是本公开实施例提供的mp4文件的一个可选的封装结构示意图,mp4文件中涉及的基本容器类型包括文件类型容器(ftypbox)、元数据容器(moovbox)和媒体数据容器(mdatbox)。

容器数据部分可以存储具体的数据,此时容器称为“数据容器”,容器数据部分也可以进一步封装其他类型的容器,此时容器称为“容器的容器”。

3)轨道(track),也称为流(stream),媒体数据容器中按时间排序的相关的采样(sample),对于媒体数据来说,轨道表示一个视频帧序列或一个音频帧序列,还可以包括与视频帧序列同步的字幕轨,同一轨道中的一组连续的采样称为块(chunk)。

4)文件类型容器,媒体文件中用于存储文件的容量(即所占用字节的长度)和类型的容器,如图2所示,文件类型容器记为“ftypbox”,其中存储的二进制数据按照规范的字节长度描述了文件的类型和兼容性。

5)元数据容器,媒体文件中用于存储元数据(即描述媒体数据容器中存储的多媒体数据的数据)的容器,在mp4文件中的元数据容器中存储的二进制数据表达的信息称为媒体信息。

如图2所示,元数据容器的头部采用二进制数据表示容器的类型为“moovbox”,容器数据部分封装用于存储mp4文件的总体信息的mvhd容器,是独立于mp4文件的,并且与mp4文件的播放相关,包括时长、创建时间和修改时间等。

媒体文件的媒体数据容器中可以包括对应多个轨道的子容器,例如音频轨道容器(audiotrackbox)和视频轨道容器(videotrackbox),在音频轨道容器和视频轨道容器的子容器中都包括了相应轨道的媒体数据的引用和描述,必要的子容器包括:用于描述轨道的特性和总体信息(如时长、宽高)的容器(记为tkhdbox)、记录轨道的媒体信息(比如媒体类型和采样的信息)的容器(记为mdiabox)。

就mdiabox中封装的子容器而言,可以包括:记录轨道的相关属性和内容的容器(记为mdhdbox),记录媒体的播放过程信息的容器(记为hdlrbox),描述轨道中媒体数据的媒体信息的容器(记为minfbox);minfbox中又封装了用于解释如何定位媒体信息的子容器(记为dinfbox)、以及用于记录轨道中采样的所有时间信息(解码时间/显示时间)、位置信息和编解码等信息的子容器(记为stblbox)。

参见图3,是本公开实施例提供的媒体文件中的媒体数据容器存储媒体数据的结构示意图,利用从stblbox中二进制数据所识别出的媒体信息,可以解释采样的时间、类型、容量以及在媒体数据容器中的位置,下面说明stblbox中的各个子容器。

stsdbox包含了一个采样描述(sampledescription)表,根据不同的编码方案和存储数据的文件数目,每个媒体文件中可以有一个或多个描述表,通过描述表可以找到每个采样的描述信息,描述信息可以保证采样的正确的解码,不同的媒体类型存储不同的描述信息,例如,视频媒体而言描述信息就是图像的结构。

sttsbox存储了采样的时长信息,并提供表来映射时间(解码时间)和采样的序号,通过sttxbox,可以定位媒体文件中任何时间的采样;sttsbox中还使用其他的表来映射采样的容量和指针,表中每个条目提供了在同一个时间偏移量里面连续的采样的序号,以及采样的偏移量,递增这些偏移量,可以建立一个完整的时间-采样的映射表,计算公式如下:

dt(n+1)=dt(n)+stts(n)(1)

其中stts(n)是第n个采样的时长,dt(n)是第n个采样的显示时间,采样的排列是按照时间的顺序排序,这样偏移量永远是非负的,dt一般以0开始,以第i个采样的显示时间dt(i)为例,计算公式如下:

dt(i)=sum(forj=0toi-1ofdelta(j))(2)

所有偏移量的和是轨道中媒体数据的时长。

stssbox记录了媒体文件中的关键帧的序号。

stsbox记录了采样与存储采样的块的映射关系,通过表来映射采样的序号和块的序号之间的关系,通过查表可以找到包含指定采样的块。

stcobox定义了每个块在轨道中的位置,位置采用在媒体数据容器的起始字节的偏移量、以及相对于所述起始字节的长度(即容量)表示。

stszbox记录了媒体文件中每个采样的容量(即大小)。

6)媒体数据容器,媒体文件中用于存储多媒体数据的容器,例如,在mp4文件中媒体数据容器,如图3所示,采样是媒体数据容器中存储的单位,存储在媒体文件的块中,块和样本的长度可不相同。

7)分段媒体文件,媒体文件经过分割形成的子文件,每个分段媒体文件能够被独立解码。

以mp4文件为例,mp4文件中的媒体数据根据关键帧分割,分割后的媒体数据与对应的元数据封装形成分段mp4(fmp4,fragmentedmp4)文件,每个fmp4文件中的元数据能够保证媒体数据被正确解码。

例如,在将如图2所示的mp4文件转换为多个fmp4文件时,参见图4,是本公开实施例提供的fmp4文件的一个可选的封装结构示意图,一个mp4文件可以转换为多个fmp4文件,每个fmp4文件包括三个基本的容器:moov容器、moof容器和mdat容器。

moov容器包括了mp4文件级别的元数据,用来描述fmp4文件所来源的mp4文件中的全部媒体数据,例如mp4文件的时长、创建时间和修改时间等。

moof容器存储了分段级别的元数据,用于描述所在的fmp4文件中封装的媒体数据,保证fmp4中的媒体数据能够被解码。

1个moof容器和1个mdat容器组成分段mp4文件的1个分段,1个分段mp4文件中可以包括1个或多个这样的分段,每个分段中封装的元数据保证分段中封装的媒体数据能够被独立解码。

8)媒体资源扩展(mse,mediasourceextensions)接口,在网页中实现的面向播放器的接口,在网页中的加载期间通过浏览器的解释器解释、执行前端编程语言(例如javascript)而实现,向播放器提供调用超文本标记语言(html)媒体元素(mediaelement)的播放媒体流的功能,例如使用视频元素<video>、以及音频元素<audio>来实现视频/音频的播放功能。

9)流媒体格式,把媒体数据封装为流媒体的媒体文件,媒体文件不必完整下载、不需要额外转码,即可被解码播放,即,原生地支持一边下载,一边播放的封装技术。典型的流媒体格式的文件包括:基于http直播流(hls,httplivestreaming)技术的ts媒体文件分片,flv(flashvideo)文件等。

10)非流媒体格式,把媒体数据封装为媒体文件、且媒体文件完整下载后才可以被解码播放的封装技术,典型的非流媒体格式的文件包括:mp4文件,视窗媒体视频(wmv,windowsmediavideo)文件,高级串流格式(asf,advancedstreamingformat)文件等。

需要指出,mp4文件原生不支持流媒体形式的播放,但是通过在线转码后向播放器转码后的媒体流、或者部分下载的mp4文件的缺失部分填充无效的二进制数据(例如,在ftyp容器和moov容器完整下载的情况下,填充mdat容器的缺失部分以无效的二进制数据代替)也能实现一边下载一边播放的技术效果,本文中将这种原生不支持流媒体播放的文件的封装格式都称为非流媒体格式。

首先说明实现本公开实施例的网页中切换分辨率播放媒体文件的装置,网页中切换分辨率播放媒体文件的装置可以提供为硬件、软件或者软硬件结合的方式。

下面说明网页中切换分辨率播放媒体文件的装置的软件硬件结合的实施,参见图5,图5为本公开实施例网页中切换分辨率播放媒体文件的装置一个可选的组成示意图,网页中切换分辨率播放媒体文件的装置500可以是带有包括带有视频播放功能的移动电话、计算机、笔记本电脑、平板设备、个人数字助理等。图5所示的网页中切换分辨率播放媒体文件的装置500包括:至少一个处理器501、存储器502、至少一个网络接口504和用户接口503。网页中切换分辨率播放媒体文件的装置500中的各个组件通过总线系统505耦合在一起。可理解,总线系统505用于实现这些组件之间的连接通信。总线系统505除包括数据总线之外,还包括电源总线、控制总线和状态信号总线。但是为了清楚说明起见,在图5中将各种总线都标为总线系统505。

其中,用户接口503可以包括显示器、键盘、鼠标、轨迹球、点击轮、按键、按钮、触感板或者触摸屏等。

可以理解,存储器502可以是易失性存储器或非易失性存储器,也可包括易失性和非易失性存储器两者。其中,非易失性存储器可以是只读存储器(rom,readonlymemory)、可编程只读存储器(prom,programmableread-onlymemory)、可擦除可编程只读存储器(eprom,erasableprogrammableread-onlymemory)、电可擦除可编程只读存储器(eeprom,electricallyerasableprogrammableread-onlymemory);磁表面存储器可以是磁盘存储器或磁带存储器。易失性存储器可以是随机存取存储器(ram,randomaccessmemory),其用作外部高速缓存。通过示例性但不是限制性说明,许多形式的ram可用,例如静态随机存取存储器(sram,staticrandomaccessmemory)、同步静态随机存取存储器(ssram,synchronousstaticrandomaccessmemory)、动态随机存取存储器(dram,dynamicrandomaccessmemory)、同步动态随机存取存储器(sdram,synchronousdynamicrandomaccessmemory)。本公开实施例描述的存储器502旨在包括这些和任意其它适合类型的存储器。

本公开实施例中的存储器502包括但不限于:三态内容寻址存储器、静态随机存储器能够存储从服务器所获取的媒体文件数据以支持网页中切换分辨率播放媒体文件的装置500的操作。这些数据的示例包括:用于在网页中切换分辨率播放媒体文件的装置500上操作的任何计算机程序,如操作系统5021和应用程序5022;各类型媒体文件数据信息等。其中,操作系统5021包含各种系统程序,例如框架层、核心库层、驱动层等,用于实现各种基础业务以及处理基于硬件的任务。应用程序5022可以包含各种应用程序,例如带有网页中切换分辨率播放媒体文件的功能的客户端、或应用程序等。实现本公开实施例网页中切换分辨率播放媒体文件的方法的程序可以包含在应用程序5022中。

上述本公开实施例揭示的方法由处理器501实现。处理器501可能是一种集成电路芯片,具有信号的处理能力。在实现过程中,本公开实施例提供的网页中切换分辨率播放媒体文件的方法可以通过处理器501中的硬件的集成逻辑电路或者软件形式的操作完成。上述的处理器501可以是通用处理器、数字信号处理器(dsp,digitalsignalprocessor),或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。处理器501可以实现或者执行本公开实施例中的提供的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者任何常规的处理器等。结合本公开实施例所提供的方法的步骤,可以直接体现为硬件译码处理器执行完成,或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于存储介质中,该存储介质位于存储器502,处理器501读取存储器502中的信息,结合其硬件完成网页中切换分辨率播放媒体文件的方法。

在示例性实施例中,本公开实施例还提供了一种计算机可读存储介质,例如包括计算机程序的存储器502,上述计算机程序可由网页中切换分辨率播放媒体文件的装置500的处理器501执行,以完成的网页中切换分辨率播放媒体文件的方法。计算机可读存储介质可以是fram、rom、prom、eprom、eeprom、flashmemory、磁表面存储器、光盘、或cd-rom等存储器;也可以是包括上述存储器之一或任意组合的各种设备,如移动电话、计算机、平板设备、个人数字助理等。

下面说明网页中切换分辨率播放媒体文件的装置的纯硬件实施,实现本公开实施例的网页中切换分辨率播放媒体文件的装置可以被一个或多个应用专用集成电路(asic,applicationspecificintegratedcircuit)、dsp、可编程逻辑器件(pld,programmablelogicdevice)、复杂可编程逻辑器件(cpld,complexprogrammablelogicdevice)、现场可编程门阵列(fpga,field-programmablegatearray)或其他电子元件实现,用于执行实现本公开实施例提供的网页中切换分辨率播放媒体文件的方法。

下面说明网页中切换分辨率播放媒体文件的装置的纯软件实施,实现本公开实施例网页中切换分辨率播放媒体文件的装置可以被应用程序或插件,或者采用二者结合的方式实现。

作为示例,应用程序可以是专用于进行网页中切换分辨率播放媒体文件的的客户端,也可以是将网页中切换分辨率播放媒体文件的功能作为可选功能的客户端,通过安装相应的插件实现。

作为示例,插件可以实现为应用程序的功能升级安装包,在用于媒体播放的应用程序中叠加网页中切换分辨率播放媒体文件的的功能;也可以是媒体播放的网页中的元素,采用前端语言实现,通过被浏览器直接解释执行而在网页中实现网页中切换分辨率播放媒体文件的以及媒体播放的功能。

作为网页中切换分辨率播放媒体文件的装置的硬件实施或软件实施的示例,网页中切换分辨率播放媒体文件的装置可以提供为一系列在信号/信息/数据层面存在耦合关系的模块,下面将结合图6进行说明,参见图6,图6为本公开实施例网页中切换分辨率播放媒体文件的装置一个可选的组成示意图,示出了实现网页中切换分辨率播放媒体文件的装置包括的一系列模块,但是网页中切换分辨率播放媒体文件的装置的模块结构不仅限于图6所示,例如,可以对其中的模块根据所实现的不同功能而进一步拆分或者合并。下面对图6所示的模块实现的功能进行说明。

事件接收模块601,用于当内嵌于网页的播放器在播放原分辨率媒体文件的过程中,接收分辨率切换事件。

数据请求模块602,用于响应于所述分辨率切换事件,请求待切换的目标分辨率媒体文件中的媒体数据。

所述数据请求模块602,用于基于所述目标分辨率媒体文件的媒体信息所表示的视频帧的时间,确定所述目标分辨率媒体文件中的两个关键帧;其中,所述两个关键帧的解码时间为给定时段的端点时间,所述给定时段用于接续所述原分辨率文件的播放点;所述数据请求模块602,用于基于所述媒体信息所表示的媒体数据在所述目标分辨率文件中的位置,请求所述目标分辨率媒体文件中的媒体数据,所请求的媒体数据的解码时间位于所述给定时段。

分段构造模块603,用于基于所请求的媒体数据构造用于独立解码的分段媒体文件。

媒体播放模块604,用于通过所述网页的媒体源扩展接口,发送所述分段媒体文件给所述网页的媒体元素,所述分段媒体文件用于供所述媒体元素接续所述分辨率切换事件发生时所处的播放点进行播放。

其中,所述给定时段的时长小于或等于预加载时长,且所述预加载时长小于所述目标分辨率媒体文件的播放时长。

在一些实施例中,所述分段构造模块603,用于计算所述媒体数据对应的元数据,所计算的元数据承载有用于支持解码所述媒体数据的媒体信息;分段构造模块,用于将所计算的元数据、以及所述两个关键帧之间的媒体数据,填充到分段媒体文件的封装结构中,得到对应的分段媒体文件。

在一些实施例中,所述事件接收模块601,用于将所构建的分段媒体文件添加到媒体资源扩展接口中的媒体源对象;所述事件接收模块601,用于创建对应所述媒体源对象的虚拟地址;所述事件接收模块601,用于向所述网页的媒体元素传递所述虚拟地址,所述虚拟地址用于供所述媒体元素以所述媒体源对象为数据源进行播放。

在一些实施例中,所述媒体播放模块604,还用于当接收到所述分辨率切换事件时,继续基于原分辨率的分段媒体文件进行播放,直至,所述分段构造模块构造完成目标分辨率的分段媒体文件、并由媒体播放模块604通过所述媒体源扩展接口发送。由此,当进行分辨率切换时,播放器可以继续播放基于原分辨率的分段媒体文件,避免了由于分辨率的切换所造成的网页中切换分辨率播放媒体文件的的卡顿和画面丢失,提升了用户体验。

在一些实施例中,播放器响应于分辨率切换事件请求待切换的目标分辨率媒体文件中的媒体数据,并将所请求的媒体数据构造相应的能够独立解码的分段媒体文件。参见图7,图7为本公开实施例提供的网页中切换分辨率播放媒体文件的方法的一个可选的流程示意图,将结合图7示出的步骤进行说明。

在下文记载的一些示例中,以媒体文件为mpeg-4为例说明,根据mpeg-4的实施,可以轻易预见在其他非流媒体格式的实施。

步骤701,当内嵌于网页的播放器在播放原分辨率媒体文件的过程中,接收分辨率切换事件。

步骤702,播放器响应于所述分辨率切换事件,请求待切换的目标分辨率媒体文件中的媒体数据。其中,所述原分辨率媒体文件和所述目标分辨率媒体文件采用非流媒体封装格式。

播放器发送针对媒体文件中媒体数据的网络请求给服务器。

在一些实施例中,播放器可通过如下方式发送针对媒体文件中媒体数据的网络请求给服务器:

基于媒体文件的播放过程中实时的播放点,确定待播放的媒体文件中的两个关键帧;发送网络请求给服务器,所述网络请求用于请求获取媒体文件中所述两个关键帧之间的媒体数据。

对基于播放点确定两个关键帧进行说明。播放器在播放媒体文件的过程中,通过加载关键帧之间的数据实现媒体文件的播放,即播放器以两个关键帧之间的媒体数据为播放加载单元。就播放点而言,可以是通过连续播放媒体文件(也即在用户未加以干预的情况下自然播放)的方式到达的播放时刻,例如从第30分钟开始播放到第40分钟的播放点;也可以是通过跳转的方式(也即用户通过光标点击进度条实现页面跳转)到达媒体文件到达的播放时刻,例如原播放点为播放进度的20%,跳转后的播放点为播放进度的30%。

在实际应用中,基于播放点所确定的两个关键帧可以为媒体文件中相邻的两个关键帧,或者两个关键帧之间存在其它的一个或多个关键帧,而两个关键帧之间的关键帧的数量,可以根据浏览器的缓存性能(如可用缓存的容量)、网络性能(网络带宽)等确定,还可以依据实际需要进行设定。

在一些实施例中,针对播放点是通过连续播放媒体文件的方式到达的播放时刻的情况,根据播放点对应的视频帧是普通帧或关键帧的情况,说明确定两个关键帧(设为第一关键帧、以及解码时间第一关键帧之后的第二关键帧)的方式。

情况1)播放点所对应的视频帧为普通帧,由于播放器以两个关键帧之间的媒体数据为基本播放加载单位,因此,播放点之后、播放点之后的首个关键帧(解码时间晚于播放点的关键帧中距离播放点最近的关键帧)之前的媒体数据为已加载的媒体数据,而为了避免重复获取该部分已加载的媒体数据,给定时段的两个关键帧中的第一关键帧为:媒体文件中解码时间在播放点之后的首个关键帧;两个关键帧中的第二关键帧为:媒体文件中解码时间晚于第一关键帧的关键帧。

情况2)播放点所对应的视频帧为关键帧,两个关键帧中的第一关键帧为:播放点对应的关键帧,即与播放点时间对齐的关键帧;两个关键帧中的第二关键帧为:媒体文件中解码时间晚于第一关键帧的关键帧。

在上述情况1)中,将跨越播放点的关键帧作为媒体数据的端点,能够保证在播放点所对应的视频帧有足够的信息用于正确解码,不会出现因为缺少解码数据(即关键帧)而跳帧的情况。

在另一个实施例中,针对播放点是通过跳转的方式到达的播放时刻的情况,根据播放点对应的视频帧是普通帧或关键帧的情况,说明确定两个关键帧(设为第一关键帧、以及解码时间第一关键帧之后的第二关键帧)的方式。

情况1)播放点所对应的视频帧为普通帧,由于播放点是跳转到达的,因此播放点之前的首个关键帧、与播放点之间的媒体数据没有被加载,第一关键帧为:媒体文件中解码时间在播放点之前的首个关键帧,也即是媒体数据的时间(也即是,媒体信息所表示的序号与帧的解码时间的对应关系)中查找解码时间早于给定时段的起始时间、且距离起始时间最近的关键帧;两个关键帧中的第二关键帧为:媒体文件中解码时间晚于第一关键帧的关键帧。额外请求播放点至播放点之前的关键帧之间的媒体数据,可以保证跳转到任何播放点都能够正常解码,避免出现播放点对应普通帧时因为无法解码而跳帧的情况。

情况2)播放点所对应的视频帧为关键帧,第一关键帧为:播放点所对应的关键帧,也即是从媒体数据的时间(也即是,媒体信息所表示的序号与帧的解码时间的对应关系)中查找的解码时间对齐播放点时间的关键帧;两个关键帧中的第二关键帧为:媒体文件中解码时间晚于第一关键帧的关键帧。

上述情况1)中,将跨越播放点的关键帧作为媒体数据的端点,能够保证在播放点所对应的视频帧有足够的信息用于正确解码,不会出现因为缺少解码数据(即关键帧)而跳帧的情况。

在情况2)中,以对齐播放点的关键帧来界定待获取的媒体数据,在播放点能够被正确解码的前提下,最大程度减少了获取不必要的媒体数据的情况,减少了对连接和流量的占用,进而保证网页中非媒体播放业务的实时性。

在一些实施例中,播放器发送给服务器的网络请求携带所请求的两个关键帧之间的媒体数据的偏移量和容量,以使服务器从媒体文件中提取从所述偏移量开始,且符合所述容量的媒体数据,返回给播放器。因此,播放器在发送网络请求之前,需要根据从媒体文件的元数据中识别出的媒体信息(即视频/音频帧的位置、偏移量、解码时间等信息),确定媒体数据在媒体文件中的偏移量及容量。而确定偏移量及容量之前首先要从媒体文件的元数据中识别出媒体信息。

接下来对播放器识别媒体信息进行说明。在一些实施例中,播放器可通过如下方式从媒体文件中识别出媒体信息:根据设定的偏移量和容量,向服务器请求对应设定的偏移量和容量的媒体文件中的数据(即请求固定容量的数据),从服务器返回的数据中识别出元数据容器中的元数据,解析识别出的元数据,得到用于描述媒体文件的媒体数据容器中封装的媒体数据的媒体信息。

其中,设定的容量可以是根据已有的媒体文件的文件类型容器和元数据容器的容量统计得到,使得设定的容量能够覆盖设定比例(如全部)媒体文件的文件类型容器和元数据容器的容量的加和,确保当媒体文件的封装结构为顺序封装的文件类型容器、元数据容器和媒体数据容器时,能够通过一次请求得到完整的元数据容器中所封装的元数据,节约了网络传输时对连接的占用情况,进而避免了因为连接占用导致网页中非媒体播放业务因为无法使用连接而延迟响应的情况。

以媒体文件为mp4文件为例,播放器获取的元数据容器中封装的元数据即为mp4文件中的moovbox中封装的二进制数据,当mp4文件的封装结构为顺序封装的fytpbox、moovbox和mdatbox时,设定容量可以是根据已有mp4文件的ftypbox和moovbox容量统计得到,使设定容量能够覆盖设定比例(如全部)mp4文件的ftypbox和moovbox的二进制数据的加和,确保多数情况下一次即可从服务器请求到moovbox中包括完整的二进制数据。

在一些实施例中,播放器通过设定的偏移量及容量从服务器请求到的二进制数据中,从零字节开始的一段二进制数据是对应文件类型容器的,播放器通过读取容器头部得到文件类型容器的容量,通过读取第二个容器的头部得知下一个容器的类型及容量,当第二个容器的类型为元数据容器,且返回的二进制数据的容量不小于文件类型容器的容量及元数据容器容量的加和时,表明通过设定的偏移量及容量从服务器请求到的二进制数据中包含了元数据容器中封装的元数据;当第二个容器的类型为元数据容器,且返回的二进制数据的容量小于文件类型容器的容量及元数据容器容量的加和时,表明通过设定的偏移量及容量从服务器请求到的二进制数据中未包含元数据容器中封装的元数据。当播放器通过设定的偏移量及容量从服务器请求到的二进制数据未包含完整的元数据容器中的元数据时,播放器需要从服务器所返回的二进制数据中读取容器的容量,根据元数据容器的头部计算元数据容器的偏移量及容量,将计算得到的偏移量及容量携带在网络请求中以向服务器请求元数据,由服务器根据请求,从媒体文件中所计算得到的偏移量开始读取二进制数据、且读取的二进制数据符合计算得到的容量,向播放器返回数据。

举例说明,播放器从服务器所返回的二进制数据中读取容器的容量,根据元数据容器的头部计算元数据容器的偏移量及容量,涉及如下两种情况:

情况1)当从剩余的二进制数据(即返回的二进制数据中除文件类型容器的二进制数据之外的数据)读取的容器的类型为元数据容器,且剩余的二进制数据的容量小于元数据容器的容量时,计算元数据容器的容量与剩余二进制数据容量的差值作为二次请求的新的容量,以首次请求的偏移量和容量的加和作为新的偏移量,向服务器第二次请求二进制数据;

情况2)当从剩余的二进制数据读取的容器的类型为媒体数据容器时,计算媒体数据容器的容量与文件类型容器容量的加和为二次请求的新偏移量,以设定的容量(可以为能够覆盖元数据容器的容量的经验值)向服务器第二次请求二进制数据。

以媒体文件为mp4文件为例,播放器通过设定的偏移量及容量从服务器请求到的二进制数据未包含完整的moovbox的二进制数据,此时,播放器需要从服务器所返回的二进制数据中读取容器的类型和容量,确定moovbox在mp4文件中的偏移量和容量;

mp4文件的二进制数据,起始的字节总是对应ftypbox,从返回的二进制数据中识别出fytpbox的二进制数据,根据ftypbox的头部可以获知其长度,从而从剩余的二进制数据中,根据头部的规范长度读取下一个box的二进制数据,根据头部表示的容器类型,包括以下几种情况:

1)当从剩余的二进制数据(即返回的二进制数据中除fytpbox的二进制数据之外的数据)读取的容器的类型为moovbox,且剩余的二进制数据的容量不小于moovbox的容量时,根据所确定的偏移量和容量,从服务器获取mp4文件中以moovbox在mp4文件中的偏移量开始、且符合moovbox在mp4文件中的容量的moov数据;

2)当从剩余的二进制数据读取的容器的类型为moovbox,且剩余的二进制数据的容量小于moovbox的容量时,计算moovbox的容量与剩余二进制数据容量的差值作为二次请求的新的容量,以首次请求的偏移量和容量的加和作为二次请求的新的偏移量,向服务器第二次请求二进制数据;

3)当从剩余的二进制数据读取的容器的类型为mdatbox时,计算mdatbox的容量与ftypbox容量的加和作为二次请求的新偏移量,以设定的容量向服务器第二次请求二进制数据。

如此,无论媒体文件为何种封装结构,即无论媒体文件中文件类型容器、元数据容器和媒体数据容器的封装顺序如何,均能够保证播放器最多两次请求便可从服务器处得到元数据容器中的元数据,提高了元数据的获取效率。

举例说明,对于mp4文件,服务器返回的二进制数据,根据mp4文件的封装规范,从零字节开始的一段二进制数据是对应ftypbox的,而根据box的的头部的封装规范,可以从ftypbox的头部读取ftypbox的容量(即长度)以及完整的mp4文件的容量;假设ftypbox的容量为a(单位为字节),则从a+1开始读取后续容器的头部信息,获取后续容器的类型和容量,如果通过读取得到ftypbox后续的是moovbox,且剩余的二进制数据的容量(设定容量-ftypbox的容量)大于moovbox的容量,说明已经取回了moovbox的完整二进制数据,可以根据moovbox的偏移量及容量从剩余的二进制数据中提取moovbox中的元数据。

播放器从服务器处获取元数据容器中封装的元数据后,解析元数据容器中子容器的嵌套结构,根据子容器的嵌套结构读取出各子容器中的二进制数据;从所读取出的二进制数据解析出各子容器表征的媒体数据的媒体信息。在实际应用中,媒体信息可以包括媒体文件中视频帧和/或音频帧的偏移量、容量、解码时间等信息。

以媒体文件为mp4文件为例,元数据容器即为moovbox,参见图2,可知,moovbox中封装有mvhdbox和trackbox,其中,通过解析mvhdbox的二进制数据,可以得到mp4文件的创建时间、修改时间、时间度量标尺、可播放时长、默认音量等信息;moovbox中包括多个trackbox,记录了每个媒体轨道所特有的描述信息,如对于视频轨道videotrackbox,videotrackbox中多层嵌套了多个子容器,基于videotrackbox的嵌套结构,解析相应的二进制数据得到mp4文件的视频帧信息、以及所对应的画面信息。

在一些实施例中,播放器可通过如下方式对获取的元数据进行解析,得到媒体信息:顺序解析元数据容器二进制数据中对应容器头部的规范长度的二进制数据,得到所述元数据容器中子容器的容器类型、以及所述子容器的容器数据的长度;调用与所述子容器的容器类型相应类型的解析器,顺序解析未解析的数据中与所述容器数据的长度相应的二进制数据,得到所述容器数据所表示的媒体信息。

其中,播放器针对元数据容器中嵌套多个子容器的情况,每次读取二进制数据的偏移量都是已经识别出子容器长度的加和,所读取的二进制数据的长度符合容器头部的规范长度,从而可以解析出当前所处理子容器的类型和长度。

例如,首次读取时,从元数据容器的二进制数据的零字节开始读取二进制数据,且所读取的二进制数据的长度符合容器头部的规范长度,从而可以解析出第一个子容器的类型和长度;第二次读取时,以首次读取的子容器的长度为偏移量,开始读取二进制数据,且所读取的二进制数据的长度符合容器头部的规范长度,从而可以解析出第二个子容器的类型和长度。

通过上述方式读取二进制数据不会出现多读导致回退的情况,也不会出现及少读而二次读取的情况,解析的效率和正确率得以保证。

在一些实施例中,对元数据容器中嵌套的典型容器类型进行预标记,用于表示容器是直接用于封装二进制数据还是进一步封装有容器,例如对于图2示出的mvhdbox、audiotrackbox和videotrackbox等标记进一步封装有容器,对于图2示出的sttsbox、stsdbox等标记为直接封装有二进制数据。

对于标记为直接封装二进制数据的容器类型,设置与容器类型一一对应的解析器,解析器用于根据二进制数据解析出所表示的媒体信息;将解析出的子容器的容器类型与预标记的容器类型比对,涉及到以下两种情况。

情况1)当通过比对确定所述子容器的容器类型被预标记、且被预标记为用于直接封装二进制数据时,则调用与所述子容器的容器类型对应的解析器,通过所述解析器解析所述子容器中的容器数据,得到所述容器数据所表示的媒体信息。

情况2)当通过比对确定所述子容器的容器类型被预标记、且被预标记为用于继续封装容器时,根据所述媒体文件中容器头部的规范长度,递归解析所述子容器所对应的二进制数据,直至解析到所述子容器中所封装容器的容器类型被预标记、且被预标记为用于直接封装二进制数据,调用与子容器中所封装容器的容器类型相应的解析器,逐字节解析二进制数据,所解析二进制数据的长度与所述子容器中所封装容器的容器数据的长度对应,以得到所述子容器中所封装容器的容器数据所表示的媒体信息。

在一些实施例中,对解析元数据容器的过程中记录媒体信息的方式进行说明,在顺序解析元数据容器二进制数据中对应容器头部的规范长度的二进制数据,得到所述元数据容器中子容器的容器类型时,根据子容器与所归属的容器之间的嵌套关系、以及子容器与所封装的容器嵌套关系建立对象,当子容器的容器类型被预标记为用于直接封装二进制数据时,在对应所述子容器所建立的对象中存储包括有媒体信息的数组,所存储的媒体信息由所述子容器的容器数据表示。

例如,在图2中,当解析的子容器的类型为sttsbox时,由于sttsbox被预标记为直接封装二进制数据,在对应sttsbox所建立的对象中存储包括有媒体信息的数组,这里的媒体信息是sttsbox的容器数据所表示的时长信息。

在一些实施例中,对解析元数据容器的过程中记录子容器之间的嵌套关系的方式说明,在顺序解析元数据容器二进制数据中对应容器头部的规范长度的二进制数据,得到所述元数据容器中子容器的容器类型时,如果容器类型被预标记为直接封装二进制数据,则在被调用的所述解析器中记录所解析的子容器;将所记录的子容器的实例设置到子容器属性中,所述子容器属性包括于所述子容器所归属的容器,用于描述所述子容器与所归属的容器之间的嵌套关系。

例如,在图2中,当解析的子容器的类型为stsdbox时,由于stsdbox被预标记为直接封装二进制数据,在对应stsdbox所对应的解析器中记录stsdbox,将stsdbox的实例设置到stblbox子容器属性中,以此类推,最后在stsdbox的子容器属性中记录了stsdbox、sttsbox、stscbox等多个嵌套于stblbox的子容器。

在一些实施例中,通过比对确定所述子容器的容器类型没被预标记、或者被预标记为直接封装二进制数据但是没有调用到相应类型的解析器时,忽略解析子容器对应的二进制数据,根据所述子容器的长度,跳转到所述二进制数据中对应下一子容器的部分继续解析。

在实际应用中,媒体文件中会出现自定义的容器类型,通过跳转的方式不会影响元数据容器的整体解析的进度,同时通过设置解析器的方式,当元数据容器的容器类型发生变动时,通过对相应类型的解析器的增加、删除和修改,可以快速实现对最新的元数据容器的兼容解析,具有升级灵活快速的特点。

基于上述对媒体信息识别的说明,接下来对基于识别出的媒体信息确定媒体数据在媒体文件中的偏移量及容量进行说明,在一些实施例中,播放器可通过如下方式确定媒体数据在媒体文件中的偏移量及容量:基于识别出的媒体信息,确定媒体数据的视频帧(即第一关键帧及第二关键帧之间的视频帧)在媒体文件中的偏移量及容量、以及与视频帧对齐的音频帧在媒体文件中的偏移量及容量;根据所确定的偏移量及容量,确定包括上述视频帧和音频帧的目标区间(由最小偏移量和最大容量构成的区间)的偏移量及容量;其中,目标区间包括上述视频帧和音频帧。

这里,对本公开实施例中的音频帧与视频帧的对齐方式进行说明:以视频帧为基准,根据媒体数据的起始时间和时长,在视频帧定位时间同步的音频帧,保证媒体数据中第一个音频帧的解码起始时间不晚于第一个视频帧的解码起始时间,最后一个音频帧的解码时间不早于最后一个视频帧的解码结束时间,如此,能够克服媒体文件中视频、音频时长不一致的问题,保证每帧视频播放时会有同步的音频播放,不会出现有画面没声音的现象。

接下来对确定目标区间的偏移量和容量进行说明:通过两个关键帧中第一关键帧及第二关键帧之间的视频帧在媒体文件中的偏移量和容量,定位视频帧在元数据容器中的位置,通过与视频帧对齐的音频帧在媒体文件中的偏移量和容量,定位音频帧在元数据容器中的位置,取位置的上限和下限构成的区间为目标区间,即由最小偏移量和最大容量构成的区间;其中,位置的上限对应的偏移量和容量为目标区间的上限对应的偏移量和容量,位置的下限对应的偏移量和容量为目标区间的下限对应的偏移量和容量。在实际应用中,目标区间是目标分辨率媒体文件的媒体数据容器中存储视频帧和音频帧的最小区间,例如:第一关键帧和第二关键帧之间的视频帧在目标分辨率媒体文件的位置的偏移量,对应区间为[a,b](地址为升序),音频帧在目标分辨率媒体文件的位置的偏移量,对应区间为[c,d](地址为升序),那么,取位置的上限和下限构成的区间即为[min(a,c),max(b,d)]。如此,播放器发送携带目标区间的偏移量和容量的网络请求给服务器,以请求目标区间的媒体数据,服务器基于目标区间的偏移量和容量提取媒体文件中的媒体数据后一次性的返回目标区间的媒体数据,无须二次获取,减少了播放器的请求次数,提高了处理效率。

步骤703,基于所请求的媒体数据构造用于独立解码的分段媒体文件。

具体的,服务器接收到播放器的网络请求后进行解析,得到播放器所请求的媒体数据所对应的偏移量及容量,基于偏移量及容量从媒体文件中提取从偏移量开始,且符合容量的媒体数据。

服务器提取媒体数据后,可通过如下方式构造分段媒体文件:服务器根据媒体数据的媒体信息计算分段媒体文件级别的元数据,然后根据分段媒体文件的封装格式填充分段媒体文件级别的元数据以及媒体数据后得到分段媒体文件。

在一些实施例中,服务器并非对播放器请求的所有采用非流媒体格式的媒体文件都进行分段媒体文件的转换,例如服务器可针对特定媒体文件(如热点文件)才进行转换,服务器存储有待转换媒体文件(如热点文件)的标识,网络请求携带媒体文件的标识,服务器解析网络请求后得到媒体文件的标识,基于媒体文件的标识判断媒体文件是否为待转换媒体文件,当确定为待转换媒体文件时再进行媒体数据提取及分段媒体文件的构造,若基于媒体文件标识确定播放器所请求的媒体数据对应的媒体文件非待转换媒体文件,则不对提取的媒体数据构造分段媒体文件。

在一些实施例中,服务器并非对媒体文件中的所有媒体数据都进行分段媒体文件的构造,例如,服务器仅对媒体文件中特定部分(如媒体文件的后半段)的媒体数据进行分段媒体文件的构造。网络请求携带媒体数据在媒体文件中的偏移量及容量,用于供服务器基于所述偏移量及容量,定位所述媒体数据在媒体文件中的位置;当服务器基于定位得到的位置确认播放器所请求的媒体数据为媒体文件中的待转换媒体数据时,基于提取的媒体数据构造分段媒体文件,若服务器基于定位得到的位置确认播放器所请求的媒体数据并非待转换媒体数据,则直接返回媒体数据,不进行分段媒体文件的构造。

在一些实施例中,网络请求还可以携带鉴权信息,用于供服务器进行用户合法性的鉴权,例如鉴权信息可以为用户的登录信息(用户名、密码),服务器解析网络请求后基于用户的登录信息对用户的合法性进行鉴权,当服务器基于鉴权信息鉴权用户合法性通过时,返回基于提取的媒体数据所构造的分段媒体文件。

对根据分段媒体文件的封装格式填充分段媒体文件级别的元数据以及媒体数据后得到分段媒体文件进行说明。在一些实施例中,参见图8,图8为本公开示例提供的封装分段媒体文件的一个可选的流程示意图,将结合图8示出的步骤进行说明。

步骤801,将表示分段媒体文件的类型和兼容性的数据,填充到分段媒体文件的文件类型容器中。

例如,以封装形成如图4时所示的封装结构的fmp4文件为例,在fmp4文件的文件类型容器即ftypbox的头部填充容器的类型和长度(表示ftypbox的整体长度),在ftypbox的数据部分填充生成表示文件类型为fmp4以及兼容协议的数据(二进制数据)。

步骤802,将表示分段媒体文件的文件级别的元数据,填充到分段媒体文件的元数据容器中。

在一些实施例中,根据向分段媒体文件的封装结构待填充的媒体数据,根据分段媒体文件中的元数据容器的嵌套结构,计算填充嵌套结构所需要的描述媒体数据的元数据。

仍以图4为例,计算表示fmp4文件的文件级别的元数据,并填充到fmp4的元数据容器(即moovbox)中,在moovbox中嵌套有mvhd、track和视频扩展(mvex,movieextend)三个容器。

其中,mvhd容器中封装的元数据用于表示与分段媒体文件的播放相关的媒体信息,包括位置、时长、创建时间和修改时间等;track容器中嵌套的子容器表示媒体数据中相应轨道的引用和描述,例如track容器中嵌套有描述轨道的特性和总体信息(如时长、宽高)的容器(记为tkhdbox)、记录轨道的媒体信息(比如媒体类型和采样的信息)的容器(记为mdiabox)。

步骤803,将所提取的媒体数据、以及描述媒体数据的元数据,对应填充到分段媒体文件的分段容器中的媒体数据容器、以及分段级别的元数据容器中。

在一些实施例中,分段媒体文件中可以封装有一个或多个分段(fragment),对于待填充的媒体数据而言,可以填充到分段媒体文件的一个或分段的媒体数据容器(即mdatbox)中,每个分段中封装有分段级别的元数据容器(记为moofbox),其中填充的元数据用以描述分段中填充的媒体数据,使分段能够被独立解码。

结合图4,以将待填充的媒体数据填充到fmp4文件的封装结构的2个分段中为例,填充到每个分段媒体数据;计算需要填充到相应分段的分段级别的元数据容器(即moofbox)中的元数据,并对应填充到moofbox嵌套的子容器中,其中在moofbox的头部称为moofbox,其中填充的二进制数据用于表示容器的类型为“moofbox”以及moofbox的长度。

在步骤801至步骤803中填充数据到相应容器的一个实施例中,当执行填充操作时,调用类的写操作功能在所述子容器的内存缓冲区完成二进制数据的写入和合并,以及,返回所述类的实例,所返回的实例用于合并所述子容器与具有嵌套关系的子容器的合并。

作为填充数据的一个示例,建立用于实现封装功能的类mp4,将分段媒体文件中的每个子容器封装为类stream的静态方法;建立用于实现二进制数据操作功能的类stream,每个类stream提供0有一个内存缓冲区,用来保存待填充的二进制数据;通过stream提供的静态方法,转换待填充的多字节十进制数据到二进制数据;通过类stream的实例提供的写操作功能,在内存缓冲区完成待填充到子容器的二进制数据的合并以及填充;stream提供的静态方法返回一个新的stream实例,可以实现当前子容器与其他具有嵌套关系的子容器的合并。

步骤804,通过所述网页的媒体源扩展接口,发送所述分段媒体文件给所述网页的媒体元素,所述分段媒体文件用于供所述媒体元素接续所述分辨率切换事件发生时所处的播放点进行播放。

步骤704,通过所述网页的媒体源扩展接口,发送所述分段媒体文件给所述网页的媒体元素。其中,所述分段媒体文件用于供所述媒体元素接续所述分辨率切换事件发生时所处的播放点进行播放。在一些实施例中,播放器通过网页的媒体源扩展接口,发送分段媒体文件给网页的媒体元素进行播放可以包括:播放器将分段媒体文件添加到mse接口中的媒体源对象;调用mse创建对应媒体源对象的虚拟地址;向网页的媒体元素传递虚拟地址,虚拟地址用于供媒体元素以媒体源对象为数据源进行播放。这里的媒体元素可以为网页的video元素和/或audio元素,媒体元素通过虚拟地址获取媒体源对象进行播放。

参见图9,图9是本公开实施例提供的播放器通过网页的媒体源扩展接口播放分段媒体文件的一个可选的示意图,当播放器在网页中播放窗口(播放器对应播放窗口)接收到媒体文件的播放事件时,播放器通过mse执行mediasource方法创建媒体源(mediasource)对象;执行媒体源扩展接口中封装的addsourcebuffer方法创建mediasource对象的缓存,即源缓存(sourcebuffer)对象,一个mediasource对象拥有一个或多个sourcebuffer对象,每个sourcebuffer对象可以用于对应网页中的一个播放窗口,用于接收窗口中待播放的分段媒体文件。

在媒体文件的播放过程中,播放器中的解析器(parser)通过解析新获取的媒体数据,不断构造新的分段媒体文件,通过执行sourcebuffer对象的appendbuffer方法,添加分段媒体文件到同一个mediasource对象的sourcebuffer对象。

播放器将所构造的分段媒体文件添加到媒体资源扩展接口中的媒体源对象之后,调用媒体资源扩展接口创建对应媒体源对象的虚拟地址。例如,播放器执行媒体源扩展接口中封装的createobjecturl方法,创建对应媒体源对象的虚拟地址,即虚拟统一资源定位符(url,uniformresourcelocator),其中封装有blob类型的分段媒体文件。

此外,播放器将mediasource对象设置为虚拟url的源(src)属性,也就是将虚拟url与网页中的媒体元素如video/audio元素绑定,这个过程也称为将媒体源对象关联到网页中的媒体元素。

在本公开实施例中,添加到媒体源对象的分段媒体文件,也即是:当前播放的分段媒体文件。例如当前在播放分段媒体文件1,已经构造了后续的分段媒体文件2、3,则构造的分段媒体文件2、3将被添加到mse的sourcebuffer中进行预加载,相应的,播放器所获取的媒体数据对应的两个关键帧中的第一关键帧则是分段媒体文件1之后出现的第一个关键帧。

对于播放器向网页的媒体元素传递的虚拟地址,播放器中包括有调用媒体元素播放虚拟url的语句,例如:<audio>虚拟url。当网页解释网页中嵌入的播放器中对应的语句时,使得网页的媒体元素到虚拟url绑定的sourcebuffer对象中读取分段媒体文件,并解码播放。

下面,以播放器将mp4文件转换fmp4文件并通过媒体源扩展接口在网页播放的过程进行说明。

参见图10,图10为本公开实施例提供的mp4文件转换为fmp4文件并通过媒体源扩展接口播放的一个示意图,播放器基于媒体文件的真实地址(http://www.toutiao.com/a/b.mp4),从服务器请求获取mp4文件中部分的媒体数据,例如解码时间处于用于接续播放点的给定时段的数据。

播放器基于获取的媒体数据构造fmp4文件,然后添加到mediasource对象对应的sourcebuffer对象,由于虚拟url被绑定到mediasource对象,因此播放器调用audio/video元素的代码被执行时,audio/video元素从mediasource对象的sourcebuffer对象读取被不断添加的新的fmp4文件,并解码,实现媒体文件的连续播放。网页的媒体元素基于虚拟url进行媒体源对象的获取,进而实现媒体文件的播放,而非基于媒体文件的真实地址进行媒体数据获取,如此,实现了对媒体文件真实地址的保护。

接下来以播放器内嵌于网页,播放器使用网页的html5video元素+audio元素播放mp4文件为例,对本公开实施例的播放控制方法进行说明,根据mp4的实施,可以轻易应用于其它非流媒体格式。图11示出了本公开实施例提供的播放控制方法的一个可选的流程示意图,参见图11,本公开实施例提供的播放控制方法包括:

步骤1101:播放器根据设定的偏移量和容量,向服务器请求固定容量的mp4文件中的数据。

播放器通过发送携带设定的偏移量和容量的数据请求给服务器,以获取mp4文件中从零字节开始、且符合设定容量的二进制数据。以mp4文件的封装结构包括顺序封装的fytpbox、moovbox和mdatbox为例,设定容量可以是根据已有mp4文件的ftypbox和moovbox容量统计得到,使设定容量能够覆盖设定比例(如全部)mp4文件的ftypbox和moovbox的加和,确保一次即可从服务器请求完整的moovbox二进制数据。若通过一次请求未获取到完整的moov数据,则重新计算偏移量及容量,进而二次请求。

步骤1102:播放器接收服务器返回的数据,并从服务器返回的数据中识别出mp4文件的媒体信息。

mp4文件的媒体信息包括mp4文件中视频/音频帧的偏移量、容量、解码时间等信息。

在一些实施例中,播放器可通过如下方式实现mp4文件的媒体信息的识别:从服务器返回的数据中识别出fytpbox的二进制数据,并从剩余的二进制数据中读取容器的类型和容量;当读取的容器的类型为moovbox,且剩余的二进制数据的容量不小于moovbox的容量时,从剩余的二进制数据中解析出媒体信息。这里,对于服务器返回的二进制数据,开始的一段二进制数据必然是对应ftypbox的,根据ftypbox的封装规范,可以读取ftypbox的容量(即长度)以及完整的mp4文件的容量;例如ftypbox的容量a(单位为字节),则从a+1开始读取后续容器的头部信息,获取容器的类型和容量,如果是moovbox,且(设定容量-ftypbox的容量)大于moovbox的容量,说明已经取回了moovbox的完整二进制数据,可以根据封装结构进行解析二进制数据,还原出媒体信息。

在一些实施例中,当服务器返回的二进制数据未包括完整的moov数据时,从所获取的二进制数据中读取容器的容量,确定moovbox在mp4文件中的偏移量和容量;根据所确定的偏移量和容量,当从剩余的二进制数据读取的容器的类型为moovbox,且剩余的二进制数据的容量不小于moovbox的容量时,从服务器获取mp4文件中以moovbox在mp4文件中的偏移量开始、且符合moovbox在mp4文件中的容量的moov数据;当从剩余的二进制数据读取的容器的类型为moovbox,且剩余的二进制数据的容量小于moovbox的容量时,计算moovbox的容量与剩余二进制数据容量的差值作为二次请求的新的容量,以首次请求的偏移量和容量的加和作为新的偏移量,向服务器第二次请求二进制数据。

在实际应用中,存在mp4文件的封装结构为顺序封装的fytpbox、mdatbox、moovbox的情况,当从剩余的二进制数据读取的容器的类型为mdatbox时,计算mdatbox的容量与计算moovbox容量的加和为二次请求的新偏移量,以设定的容量向服务器第二次请求二进制数据。

步骤1103:在播放器通过网页播放mp4文件的过程中,根据识别出的媒体信息及当前的播放点定位mp4文件中的两个关键帧。

在本公开实施例中,播放器以两个关键帧之间的媒体数据(至少包括视频数据,还可进一步包括音频数据)为加载单元进行播放,也即播放器通过加载两个关键帧之间的媒体数据进行mp4文件播放,两个关键帧之间可以仅存在普通帧,即两个关键帧为相邻关键帧,两个关键帧之间亦可以存在其它关键帧。

以通过跳转的方式到达mp4文件的播放点为例进行说明,播放器定位第一关键帧为:mp4文件中解码时间在播放点之前的首个关键帧,定位第二关键帧为:mp4文件中解码时间晚于第一关键帧的关键帧。这里,播放点所对应的媒体文件的视频帧包括普通帧或关键帧两种情况,而当播放点所对应的视频帧刚好为关键帧时,mp4文件中解码时间在播放点之前的首个关键帧即为播放点所对应的关键帧,也即,此时播放器所请求的媒体数据中的第一个关键帧即为播放点所对应的关键帧。

播放器定位mp4文件中的两个关键帧包括:基于识别出的媒体信息及当前的播放点确定上述第一关键帧及第二关键帧的偏移量及容量,进而基于偏移量及容量向服务器请求第一关键帧及第二关键帧之间的媒体数据。

步骤1104:向服务器请求定位的两个关键帧之间的媒体数据。

在实际实施时,播放器向服务器发送网络请求,以请求mp4文件中定位的两个关键帧之间的媒体数据,网络请求中携带两个关键帧所对应的目标区间的偏移量及容量。

这里,播放器通过第一关键帧及第二关键帧之间的视频帧在mp4文件中的偏移量和容量,定位视频帧在mdat中的位置,通过与视频帧对齐的音频帧在mp4文件中的偏移量和容量,定位音频帧在mdat中的位置,取位置的上限和下限构成的区间为目标区间,位置的上限对应的偏移量和容量为目标区间的上限对应的偏移量和容量,位置的下限对应的偏移量和容量为目标区间的下限对应的偏移量和容量。

例如,媒体文件的时长为120秒,其中包含若干关键帧,当给定时间段为第20至40秒时,根据帧的解码时间与帧的序号的映射关系,首先查找是否有解码时间恰好处于第20秒的关键帧,如果存在,则解码时间恰好处于第20秒的关键帧作为第一关键帧;如果不存在,则查找解码时间早于第20秒、且距离起始时间第20秒最近的一个关键帧作为第一关键帧。

其次,查找是否有解码时间恰好处于第40秒的关键帧,如果存在,则解码时间恰好处于第40秒的关键帧作为第二关键帧;如果不存在,则查找解码时间晚于第40秒、且距离第40秒最近一个关键帧作为第二关键帧。

通过查找视频帧中的关键帧的方式,能够避免起始时间所对应的是普通帧而无法播放所发生跳帧的情况,同时最大程度减少了获取无用的数据,在网络传输时节约流量。

步骤1105:服务器提取mp4文件中所述两个关键帧之间的媒体数据,基于提取的媒体数据构造fmp4格式的分段媒体文件。

在实际实施时,服务器根据媒体数据的媒体信息计算分段媒体文件级别的元数据,然后根据fmp4格式的分段媒体文件的封装格式,填充分段媒体文件级别的元数据以及媒体数据后得到fmp4格式的分段媒体文件。

步骤1106:返回构造的分段媒体文件给播放器。

服务器实现mp4格式文件到fmp4格式的分段媒体文件的转换,将分段媒体文件推送到前端播放器,前端播放器不需要进行转换,播放负荷小,无需限制终端硬件能力,保证终端的续航。

步骤1107:播放器将分段媒体文件添加到mse接口中的媒体源对象。

步骤1108:播放器向网页的媒体元素传递虚拟地址。

虚拟地址用于供媒体元素(video元素+audio元素)以媒体源对象为数据源进行视频播放。

综上所述,本公开实施例具有以下有益效果:

1)将非流媒体格式的媒体文件中的媒体数据所转换成的分段媒体文件,通过网页的媒体源扩展接口,发送给网页的媒体元素进行解码播放,实现了通过网页播放非流媒体格式的媒体文件,克服了非流媒体封装格式文件需要完整下载后才可以独立播放的限制,同时实现了mpeg-4格式媒体文件以低存储空间占用方式的高效播放。

2)内嵌于网页的播放器在播放过程中,当分辨率发生切换时,画面能够无缝切换,避免产生黑屏现象,影响用户的正常使用。

以上所述,仅为本公开的具体实施方式,但本公开的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本公开揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本公开的保护范围之内。因此,本公开的保护范围应以所述权利要求的保护范围为准。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1