内容处理装置、内容处理方法以及程序与流程

文档序号:19160821发布日期:2019-11-16 01:20阅读:197来源:国知局
内容处理装置、内容处理方法以及程序与流程

本公开内容涉及内容处理装置、内容处理方法和程序,并且更具体地,涉及能够适当地编辑要分发的内容的内容处理装置、内容处理方法和程序。



背景技术:

在因特网流(例如,因特网协议电视(iptv))的标准化的过程中,通过超文本传输协议(http)流或实时流应用于视频点播(vod)流的方法已被标准化。

特别地,在iso/iec/mpeg中标准化的mpeg-dash(基于http的运动图像专家组动态自适应流传输)正引起关注(参见例如非专利文献1)。

顺便提及,常规地,在通过使用mpegdash的实时流分发音乐会、体育等事件之后,按需分发相同的视频数据。此时,在按需分发中,在某些情况下,由于演员、主持人等的意图,替换了用于实时分发的一部分数据。

例如,存在这样的情况,其中进行音乐艺术家等的表演的实时直播,并且实时播放将作为封装介质(例如,dvd和蓝光光盘)稍后被出售。然而,即使在这样的情况下,在大多数情况下分开地执行播放和封装介质的内容制作,并且播放视频和声音不像作为封装介质那样出售。这是因为封装介质本身是艺术家的作品,因此对质量的需求不断增长,因此除了使用实时记录的视频和声音本身之外,还需要在其上执行各种类型的编辑或处理。

同时,近来,实时分发已经经由因特网通过使用dash流等执行,并且在从流传输开始经过一段特定时间后或流传输结束后,按需分发相同的内容。注意,内容不仅可以是实际上实时记录的内容或者捕获的内容,还可以是通过即时地对来自广播站等的馈送进行dash分割而获得的内容。

例如,存在用于错过了实时(即时)分发的用户的追赶观看服务、对应于在云上记录的服务,等等。例如,在某些情况下,后一种情况通常被称为网络个人视频记录器(npvr)。

以相同的方式,假设音乐艺术家的表演也通过dash流传输实时分发,并根据需要按需分发。然而,存在这样的情况:艺术家不允许将实时分发的内容原样用作长时间段可见的内容,该内容对应于以上描述的封装介质。在这样的情况下,实时分发内容和封装介质被制作为在常规实时直播和封装介质中不同的内容项。在实时分发期过后,在分发服务器中设置用于实时分发然后在内容传送网络(cdn)中分发的数据变为非必要的数据,用于按需分发的不同数据现在必须设置在服务器中并且在cdn中传播。

实际上,实时分发的内容的细节(视频、声音)和按需分发的内容并非在所有的时间都不同,并且必须包括重叠的细节(视频、声音)。然而,对重叠部分执行向分发服务器的上载和向cdn的缓存的传送,并且因此产生通信成本。

此外,需要合理的时间来执行编辑、调整和处理用以完成按需分发的最终工作(在作为封装介质销售的级别上),并且实时分发的结束与按需分发的提供之间的时间间隔变得很长。

引用列表

专利文献

非专利文献1:iso/iec23009-1:2012informationtechnologydynamicadaptivestreamingoverhttp(dash)

非专利文献2:fdisiso/iec23009-5:201xserverandnetworkassisteddash(sand)



技术实现要素:

技术问题

如上所描述的,常规地,已经耗费时间编辑内容,并且因此存在适当地编辑要分发的内容的需求。

本公开内容是鉴于如上所描述的情况而作出的,并且能够适当地编辑要分发的内容。

问题的解决方案

根据本公开内容的一个方面的内容处理装置包括在线编辑单元,其将用于实时分发的内容数据存储在编辑缓冲器中,如果内容数据包括问题部分,则校正编辑缓冲器内的内容数据,用经校正的内容数据替换内容数据,并且分发经校正的内容数据。

根据本公开内容的一个方面的内容处理方法或程序包括以下步骤:将用于实时分发的内容数据存储在编辑缓冲器中,如果内容数据包括问题部分,则校正编辑缓冲器内的内容数据,用经校正的内容数据替换内容数据,并且分发经校正的内容数据。

在本公开内容的一个方面,将用于实时分发的内容数据存储在编辑缓冲器中,如果内容数据包括问题部分,则在编辑缓冲器内校正内容数据,用经校正的内容替换内容数据,并且分发经校正的内容数据。

发明的有益效果

根据本公开内容的一个方面,可以适当地编辑要分发的内容。

附图说明

[图1]图1是示出应用本技术的内容分发系统的一个实施方式的配置示例的框图。

[图2]图2是用于描述从生成实时分发数据到上载至dash分发服务器的处理的图。

[图3]图3是用于描述以片段为单位进行替换的图。

[图4]图4是用于描述执行离线编辑的处理的图。

[图5]图5是示出实时分发时的mpd的示例的图。

[图6]图6是示出实时分发时要被替换的片段的信息被添加到mpd的mpd的示例的图。

[图7]图7是示出mpd的示例的图。

[图8]图8是示出替换了片段的mpd的示例的图。

[图9]图9是示出片段时间线元素的示例的图。

[图10]图10是示出改变的片段时间线的示例的图。

[图11]图11是示出片段时间线的示例的图。

[图12]图12是用于描述替换通知sand消息的概念的图。

[图13]图13是示出sand消息的示例的图。

[图14]图14是示出资源状态元素的定义示例的图。

[图15]图15是用于描述视频自动处理和音频自动处理的图。

[图16]图16是用于描述校正级别的图。

[图17]图17是示出dash客户端单元的配置示例的框图。

[图18]图18是用于描述实时分发处理的流程图。

[图19]图19是用于描述视频自动处理的流程图。

[图20]图20是用于描述音频自动处理的流程图。

[图21]图21是用于描述dash客户端处理的流程图。

[图22]图22是用于描述离线编辑处理的流程图。

[图23]图23是用于描述替换数据生成处理的流程图。

[图24]图24是示出应用本技术的计算机的一个实施方式的配置示例的框图。

具体实施方式

在下文中,将参照附图详细描述应用本公开技术的具体实施方式。

<内容分发系统的配置示例>

图1是示出应用本技术的内容分发系统的一个实施方式的配置示例的框图。

如图1所示,内容分发系统11包括成像装置12-1至12-3、声音收集装置13-1至13-3、视频在线编辑单元14、音频在线编辑单元15、编码/dash处理单元16、dash分发服务器17、视频保存单元18、视频离线编辑单元19、音频保存单元20、音频离线编辑单元21和dash客户端单元22。此外,在内容分发系统11中,dash分发服务器17和dash客户端单元22经由网络23(例如,因特网)彼此连接。

例如,当在内容分发系统11中执行实时分发(直播)时,多个成像装置12和多个声音收集装置13(在图1的示例中为各自三个)用于对实时情况进行成像并从各个方向收集其声音。

例如,成像装置12-1至12-3中的每一个包括能够捕获视频的数码摄像装置。成像装置12-1至12-3捕获各个实时视频并将这些视频提供给视频在线编辑单元14和视频保存单元18。

例如,声音收集装置13-1至13-3中的每一个包括能够收集声音的麦克风。声音收集装置13-1至13-3收集各个实时声音并将这些声音提供给音频在线编辑单元15。

视频在线编辑单元14利用切换器或混合器对从各个成像装置12-1至12-3提供的视频执行选择或进行混合,并进一步向其添加各种效果等。此外,视频在线编辑单元14包括视频自动处理单元31,并且可以通过视频自动处理单元31校正在成像装置12-1至12-3执行成像之后获得的raw数据。然后,视频在线编辑单元14应用这样的编辑以生成用于分发的视频流,并将用于分发的视频流输出至编码/dash处理单元16,并且还将用于分发的视频流提供给视频保存单元18,以使视频保存单元18将其保存。

音频在线编辑单元15利用切换器或混合器对从各个声音收集装置13-1至13-3提供的声音执行选择或进行混合,并进一步向其添加各种效果等。此外,音频在线编辑单元15包括音频自动处理单元32,并且可以通过音频自动处理单元32校正在声音收集装置13-1至13-3收集声音之后获得的声音数据。然后,音频在线编辑单元15应用这样的编辑以生成用于分发的声音流,并将用于分发的声音流输出至编码/dash处理单元16,并且还将用于分发的声音流提供给音频保存单元20,以使音频保存单元20将其保存。

编码/dash处理单元16在必要时以多个比特率对从视频在线编辑单元14输出的用于分发的视频流和从音频在线编辑单元15输出的用于分发的声音流进行编码。因此,编码/dash处理单元16对用于分发的视频流和用于分发的声音流执行dash介质分割,并根据需要将视频流和声音流上载至dash分发服务器17。此时,编码/dash处理单元16生成媒体呈现描述(mpd)数据,作为用于控制视频和声音的分发的控制信息。此外,编码/dash处理单元16包括片段管理单元33。片段管理单元33可以监测数据的缺失等,并且如果存在问题,则可以将其反映到mpd或者以片段为单位替换数据,如稍后将参照图3描述的。

片段数据和mpd数据被上载至dash分发服务器17,并且dash分发服务器17经由网络23执行与dash客户端单元22的http通信。

视频保存单元18出于稍后进行编辑和制作的目的保存用于分发的视频流。此外,用于实时分发的原始流别同时保存在视频保存单元18中。另外,选择并用作用于实时分发的流的视频的信息(摄像装置数量等)也被记录在视频保存单元18中。

视频离线编辑单元19基于保存在视频保存单元18中的用于实时分发的流来产生用于按需分发的流。例如,由视频离线编辑单元19执行的编辑细节包括:使用摄像装置的从与实时分发时的角度不同的角度捕获的视频来替换部分数据,合成来自多个摄像装置的视频,以及执行在摄像装置(视频)切换时附加的效果处理。

音频保存单元20保存用于分发的声音流。

音频离线编辑单元21编辑保存在音频保存单元20中的用于分发的声音流。例如,由音频离线编辑单元21执行的编辑细节包括用单独记录的声音替换声音扰动的一部分,添加在实时表演中不存在的声音,以及添加效果处理。

该dash客户端单元22对经由网络23从dash分发服务器17分发的dash内容进行解码和再现,并且使dash客户端单元22的用户进行观看。注意,将参照图17描述dash客户端单元22的具体配置。

将参照图2来描述从实时分发数据的生成到上载至dash分发服务器17的处理。

例如,视频从多个成像装置12输入至视频在线编辑单元14,并且声音从多个声音收集装置13输入至音频在线编辑单元15。那些视频和声音经过处理(例如,切换)或效果处理,并且作为用于实时分发的视频和声音流输出。视频和声音流被提供给编码/dash处理单元16,并且还被保存在视频保存单元18和音频保存单元20中。此外,摄像装置选择信息也被保存在视频保存单元18中。

编码/dash处理单元16对视频和声音流进行编码,以生成dash数据,并且针对片段中的每一个执行isobmff分割,以将得到的数据上载至dash分发服务器17。此外,编码/dash处理单元16生成实时mpd并将其作为片段时间码信息输出。然后,dash分发服务器17根据实时mpd控制片每个段的分发。

此时,编码/dash处理单元16可以参考转换为dash片段的片段文件,并且如果存在问题部分,则重写mpd,以片段为单位替换编码数据。

例如,如图3中所示,片段#1、片段#2和片段#3是实时分发的。在片段#2中发生事故的情况下,利用另一片段#2'替换该片段#2。

将参照图4描述执行离线编辑的处理。

例如,可以根据用于实时分发的流生成用于替换向其添加编辑/调整的部分的介质片段,并且可以形成用于按需分发的dash流/数据。注意,因为紧急程度、重要性、内容附加值的改进等,可以在实时分发之后多次执行离线编辑。例如,可以通过离线编辑逐步编辑视频流和声音流的每个部分,并且在实时分发之后根据时间的流逝在更高的编辑级别上编辑视频流和声音流。

例如,由多个成像装置12捕获的视频从视频保存单元18读取到视频离线编辑单元19,并且由多个声音收集装置13收集的声音从音频保存单元20读取到音频离线编辑单元21。在视频离线编辑单元19和音频离线编辑单元21中,编辑部分然后通过使用编辑部分指定用户接口(ui)来进行指定,并且参考片段时间码信息和摄像装置选择信息进行调整。然后将经过这样的编辑的视频和声音被输出作为用于替换的流。

编码/dash处理单元16对用于替换的流进行编码以生成dash数据,重写mpd以生成应用替换的mpd,以及将应用替换的mpd上载至dash分发服务器17。在dash分发服务器17中,然后根据用于替换的mpd对片段中的每一个执行替换,并且控制分发。例如,当视频离线编辑单元19和音频离线编辑单元21执行编辑时,编码/dash处理单元16利用编辑的部分顺序地替换片段中的每一个。因此,dash分发服务器17可以在顺序地执行用编辑的部分替换的同时执行分发。

<通过mpd的替换片段>

图5示出了实时分发时的mpd的示例。图6示出了实时分发时要被替换的片段的信息被添加到mpd的mpd的示例的图。

如图5所示,通常在实时分发时,使用片段模板(segmenttemplate),并且包括在其中的自适应集(adaptationset)和表示通过使用基本url、片段模板和片段时间线来表达。注意,图5示出了视频的示例。

例如,片段模板的时间刻度属性的值是90000,自适应集的帧速率的值是30000/1001=29.97帧每秒(fps)。在图5所示的示例中,片段时间线中(segmenttimeline)指定的持续时间是“180180”。因此,每个片段是180180/90000=2.002秒,这对应于60帧的时间。

这里,每个片段的url是通过以下处理获得的:将位于时段(period)正下方的基本url和关于自适应集级别的基本url连接,并且还将所得到的url和下述url连接,该url是通过用从根据片段时间线的s元素计算的自顶部起经过的时间替换片段模板的$time$并且用提供给每个表示的带宽属性值(字符串)替换$bandwidth$而获得的。例如,id=“v0”的表示的第五片段的url是http://cdn1.example.com/video/250000/720720.mp4v(720720=180180*4;初始片段的文件名是“0.mp4v”。)

这里,添加了要替换的片段的信息。为此,将已改变的片段时间线元素定义为片段模板元素的从属元素。因此,图7的mpd可以表达为如图8所示。该示例适用于从第123片段到第179片段的57个片段被替换的情况。

此外,改变的片段时间线元素的定义如图9所示。

因此,客户端使用“video2/”作为针对从第123片段到第179片段的57个片段的用于url生成(自适应集级别)的基本url,获取的不是最初针对实时分发准备的片段而是在离线编辑后生成的要替换的片段,并将其再现。

例如,替换之后获得的第123片段的url被计算为180180*122=21981960,因此是http://cdn1.example.com/video2/250000/21981960.mp4v。

注意,对于替换后获得的片段,每个片段的长度并不需要与替换之前的片段的长度相同,并且可以被设置为在片段之间不同。例如,假设对于与视频的特性相对应的编码,期望在dash中部分地改变称为流接入点(sap,该片段的顶部需要是sap)的图像类型间隔。注意,同样在这样的情况下,要替换的一系列片段的数量和总长度(持续时间)需要与替换之前的数量和总长度一致。

例如,如图8所示,在总共57个片段被替换的情况下,并且在中间部分需要sap间隔变窄的部分的情况下,其他片段的持续时间必须通过对应于间隔变窄的一个或多个片段的部分来调整。因此,如图10所示,通过使用多个alts元素来表达一系列替换片段。

在图10所示的示例中,第123片段至第126片段和第132片段至第179片段具有与替换前的片段的持续时间相同的持续时间,第127片段至第129片段具有调整为替换前的长度的一半的长度,第130片段至第132片段具有调整为替换前的长度的1.5倍的长度。

注意,在提供替换片段之后从服务器上删除原始的片段的情况下,只有当改变的片段时间线被正确地解释的情况下,流可以被正确地再现。因此,为了指示改变的片段时间线元素被用于表达上述内容,将本质属性描述符(essentialpropertydescriptor)schemeiduri="urn:mpeg:dash:altsegment:20xx”添加到自适应集级别。

此外,如果针对现有的片段时间线元素另外定义了@altbaseurl属性而不是新定义改变的片段时间线元素,则对于通过片段时间线表达的一些片段,还可以将给予自适应集或表示的基本url更改为在替换之后获得的url。

图11示出在这样的情况下的片段时间线元素的示例。如图11所示,“video2/”被应用作为针对从第123片段到第179片段的57个片段的用于url生成(自适应集级别)的基本url。

接下来,将描述通过扩展以下mpeg标准(sand)将片段的信息(mpd)从dash分发服务器发送至cdn服务器的方法,该片段被通过离线编辑创建的片段替换(参见,例如,非专利文献2)。

图12是示出经由cdn(缓存)服务器24从dash分发服务器17向dash客户端单元22发送mpd和介质片段的概念的框图。

定义mpeg-sand标准是出于通过dash分发服务器17与cdn服务器24或dash客户端单元22之间的消息交换来提高数据分发的效率的目的。其中,在dash分发服务器17与cdn服务器24之间交换的消息被称为参数增强传送(ped)消息,并且在该实施方式中的片段替换通知的传输是ped消息中的一个。

注意,在目前的情况下,仅关于mpeg标准中的构架项提到ped消息,并且不限定特定的消息。此外,发送和接收ped消息的dash分发服务器17和cdn服务器24在sand标准中每个都被称为dash感知网络元件(dane)。

为了在dane之间交换sand消息,在sand标准中定义了以下两种方法。

第一方法是将具有用于获取sand消息的url的扩展http标头添加到例如对用于累积从下游dane到上游dane的介质片段的httpget请求的响应,通过接收响应的下游dane将httpget请求发送至该url,并且获取sand消息。

第二种方法是预先建立用于在dane之间交换sand消息的websocket通道,并且通过使用该通道发送消息的方法。

该实施方式可以通过使用这两种方法中的任何一种来实现其目的。然而,由于第一方法限于消息发送目的地发送用于获取媒体片段的请求的情况,因此期望通过第二方法发送消息。当然,即使通过第一方法发送消息,也可以获得特定范围内的效果。注意,假设在任何情况下都在xml文档中描述了sand消息本身。具体地,sand消息可以表达为如图13所示。

这里,在图13所示的<commonenvelope>中,可以添加发送者id和生成时间作为属性。例如,messageid的值表示sand消息的类型。这里,它是标准中未定义的新消息,在此假设为“为将来的iso使用保留”的值。

此外,在图14中示出资源状态元素(resourcestatus)的定义示例。

将参照图15描述视频自动处理和音频自动处理。

例如,在视频在线编辑单元14中,在成像装置12-1至12-3捕获图像之后获得的raw数据可以由视频自动处理单元31校正。类似地,在音频在线编辑单元15中,在声音收集装置13-1至13-3收集声音之后获得的pcm数据可以由音频自动处理单元32校正。

视频自动处理单元31将视频数据暂时存储在视频帧缓冲器中,并检测帧缓冲器中的视频数据是否存在问题部分,例如,成像时的异常视频噪声或被认为是视频导演不可接受的不可接受的场景片段等。然后,如果视频数据具有问题部分,则视频自动处理单元31通过填充或着色(shading)来校正问题部分中的视频数据。随后,视频自动处理单元31用校正的数据来替换问题数据以重写数据。此外,视频自动处理单元31可以在分发延迟范围中的时间内执行这样的处理。

音频自动处理单元32将音频数据暂时存储在音频样本缓冲器中,并且检测音频样本缓冲器中的音频数据是否具有问题部分,例如,异常声音或走调部分。然后,如果音频数据具有问题部分,则音频自动处理单元32通过去除异常声音或调整音调来校正问题部分中的音频数据。随后,音频自动处理单元32用校正的数据来替换问题数据以重写数据。此外,音频自动处理单元32可以在分发延迟范围中的时间内执行这样的处理。

将参照图16描述编辑级别。

首先,在实时分发中,视频自动处理单元31和音频自动处理单元32执行如参照图15所描述的自动校正,并且暂时校正不可接受的实时部分。

例如,同样在实时分发中,启用反映艺术家或内容提供者的意图的数据处理。然后,在实时分发之后,内容逐步更新并最终导致视频按需分发。因此,观看者可以观看通过流传输根据需要在该时间点更新的内容而没有时间间隔。

逐步内容更新使得能够增强内容的质量并且扩展功能。观看者可以观看更复杂的内容。例如,观看者可以享受从单个视点到多视点的各种角度。逐步内容更新使得阶梯计费模型能够建立。

换句话说,内容值按照实时分发、级别1到级别3的分发以及按需分发的顺序增加,因此可以执行适合于每个分发的定价。

这里,在实时分发中,包括自动校正的分发内容被定义为“由艺术家或视频导演认为不合适的不可接受的部分被暂时校正的版本”。视频自动处理对应于不合适的视频的“填充”或“着色”,并且可以执行摄像装置视频切换。音频自动处理可以对来自麦克风的异常声音进行处理或者处理走调部分。此外,这些类型的处理的时间大约是几秒,并且分发目标是申请并注册实时观看的人。

此外,在级别1的分发中,分发内容被定义为“不可接受的实时部分被简单地校正的版本”,并且例如是限于实时表演的参与者或观看者的服务。视频/音频处理只是对艺术家或视频导演的不可接受部分的简单校正。假设用于观看的视点的数量是单个视点,并且分发目标是参与实时表演并且想要立即再次观看或已经观看实时分发的人。此外,分发时段可以设置成实时表演后的几天。

此外,在级别2的分发中,分发内容被定义为“不可接受部分被校正并且对应于两个视点的版本”。例如,假设从此处详细精心制作了按需内容。视频/音频处理用于校正艺术家或视频导演不可接受的部分的版本。用于观看的视点的数量是两个,并且用户可以选择角度。此外,分发目标是作为艺术家的粉丝并且想要欣赏实时表演的人。此外,分发时段可以被设置成实时表演后的两周。

此外,在级别3的分发中,分发内容被定义为“关于不可接受部分的对应于多视点的完整版本”。换句话说,在最终的精心制作之前。视频/音频处理是对艺术家或视频导演的不可接受部分的完整校正,以及对人和皮肤的处理。用于观看的视点的数量是三个,并且用户可以选择角度。此外,分发目标是作为艺术家的粉丝并且想要享受实时表演或者想要比按需分发更早地观看的人。此外,分发时段可以被设置成实时表演后的四周。

此外,在按需分发中,分发内容被定义为“反映艺术家或视频导演的意图的最终产品”。换句话说,它是精心制作的最终版本。对全长视频和声音执行视频/音频处理。除主要内容外,还提供福利内容。用于观看的视点的数量是多个,有利地是三个或更多个,并且用户可以通过使用用户接口来选择角度。此外,分发目标是作为艺术家的粉丝并且也是普通音乐粉丝并且想要享受作为作品的实时表演的人。分发时段可以被设置成实时表演结束后的几个月。

图17是示出dash客户端单元22的配置示例的框图。

如图17所示,dash客户端单元22包括数据存储装置41、demux单元42、视频解码单元43、音频解码单元44、视频再现单元45和音频再现单元46。然后,dash客户端单元22可以经由图1的网络23从dash分发服务器17接收片段数据和mpd数据。

数据存储装置41暂时保存由dash客户端单元22从dash分发服务器17接收的片段数据和mpd数据。

demux单元42分离从数据存储装置41读取的片段数据,以便对片段数据进行解码,并将视频数据提供给视频解码单元43,并将音频数据提供给音频解码单元44。

视频解码单元43对视频数据进行解码,并将所得到的数据提供给视频再现单元45。音频解码单元44对音频数据进行解码,并将所得到的数据提供给音频再现单元46。

例如,视频再现单元45是显示器,并且再现并显示解码的视频。例如,音频再现单元46是扬声器,并且再现并输出解码的声音。

图18是用于描述由内容分发系统11执行的实时分发处理的流程图。

在步骤s11中,视频在线编辑单元14获取由成像装置12捕获的视频,并且音频在线编辑单元15获取由声音收集装置13收集的声音。

在步骤s12中,视频在线编辑单元14对视频执行在线编辑,并且音频在线编辑单元15对声音执行在线编辑。

在步骤s13中,视频在线编辑单元14将经过在线编辑的视频提供给视频保存单元18并将其保存。音频在线编辑单元15将经过在线编辑的声音提供给音频保存单元20并将其保存。

在步骤s14中,视频自动处理单元31和音频自动处理单元32确定是否需要执行自动处理。

在步骤s14中,如果视频自动处理单元31和音频自动处理单元32确定需要执行自动处理,则处理进行到步骤s15,并且执行自动处理。然后,在执行自动处理之后,处理返回到步骤s12,此后重复类似的处理。

同时,在步骤s14中,如果视频自动处理单元31和音频自动处理单元32确定不需要执行自动处理,则处理进行到步骤s16。在步骤s16中,编码/dash处理单元16对视频和声音流进行编码,生成dash数据,并针对每个片段执行isobmff分割。

在步骤s17中,编码/dash处理单元16将经过步骤s16中针对每个片段的isobmff分割的dash数据上载至dash分发服务器17。

在步骤s18中,确定分发是否终止。如果确定分发没有终止,则处理返回到步骤s11,此后重复类似的处理。同时,在步骤s18中,如果确定分发终止,则终止实时分发处理。

图19是用于描述在图18的步骤s15中执行的视频自动处理的流程图。

在步骤s21中,视频自动处理单元31将视频数据存储在帧缓冲器中。例如,由成像装置12实时捕获的视频信号经由ve在缓冲器中被存储成一组视频帧。

在步骤s22中,视频自动处理单元31确定是否检测到问题数据。例如,视频自动处理单元31参考帧缓冲器内的视频数据,并且检测视频数据是否包括异常视频噪声或不适当的场景片段。然后,在步骤s22中,如果确定检测到问题数据,则处理进行到步骤s23。

在步骤s23中,视频自动处理单元31识别问题数据。例如,视频自动处理单元31识别问题部分中的视频区域或目标像素或部分。

在步骤s24中,视频自动处理单元31将问题数据存储在缓冲器中。在步骤s25中,视频自动处理单元31校正缓冲器内的数据。例如,执行问题视频区域的校正(例如,填充或着色)。

在步骤s26中,视频自动处理单元31使用在步骤s25中校正的经校正的数据来重写具有的问题的原始数据以替换数据。然后终止视频自动处理。

图20是用于描述在图18的步骤s15中执行的音频自动处理的流程图。

在步骤s31中,音频自动处理单元32将音频数据存储在音频样本缓冲器中。例如,通过声音收集装置13实时收集的pcm音频经由pa在缓冲器中被存储成一组音频样本。

在步骤s32中,音频自动处理单元32确定是否检测到问题数据。例如,音频自动处理单元32检查音频样本缓冲器内的音频数据的波形,并且检测异常声音或走调部分。然后,在步骤s32中,如果确定检测到问题数据,则处理进行到步骤s33。

在步骤s33中,音频自动处理单元32识别问题数据。例如,音频自动处理单元32识别问题部分的音频样本部分。

在步骤s34中,音频自动处理单元32将问题数据存储在缓冲器中,并且在步骤s35中,校正缓冲器内的数据。例如,执行问题视频区域的校正(例如,填充或着色)。

在步骤s36中,音频自动处理单元32使用在步骤s35中校正的经校正数据重写具有问题的原始数据以替换数据。然后终止音频自动处理。

图21是用于描述由图17的dash客户端单元22执行的dash客户端处理的流程图。

在步骤s41中,dash客户端单元22经由图1的网络23执行与dash分发服务器17的http通信。

在步骤s42中,dash客户端单元22从dash分发服务器17获取片段数据和mpd数据,并使数据存储装置41暂时保存数据。

在步骤s43中,dash客户端单元22确定是否需要执行进一步的数据获取。然后,如果dash客户端单元22确定需要执行进一步的数据获取,则处理进行到步骤s44。dash客户端单元22确认关于dash分发服务器17的数据更新,并且处理返回到步骤s41。

同时,在步骤s43中,如果dash客户端单元22确定不需要执行进一步的数据获取,则处理进行到步骤s45。

在步骤s45中,demux单元42对从数据存储器41读取的片段数据进行解复用,将视频数据提供给视频解码单元43,并将音频数据提供给音频解码单元44。

在步骤s46中,视频解码单元43对视频数据进行解码,并且音频解码单元44对音频数据进行解码。

在步骤s47中,视频再现单元45再现由视频解码单元43解码的视频,并且音频再现单元46再现由音频解码单元44解码的声音。随后,终止dash客户端处理。

图22是用于描述离线编辑处理的流程图。

在步骤s51中,视频离线编辑单元19读取保存在视频保存单元18中的用于实时分发的流并编辑该流。

在步骤s52中,视频离线编辑单元19执行生成与实时分发时的数据结构相对应的替换片段的替换数据生成处理(图23)。

在步骤s53中,视频离线编辑单元19生成反映替换的mpd,并将mpd与替换片段一起设置在dash分发服务器17中。

在步骤s54中,确定是否需要执行进一步编辑。如果确定需要执行进一步编辑,则处理返回到步骤s51,并且重复类似的处理。同时,如果确定不需要执行进一步编辑,则终止离线编辑处理。

图23是用于描述在图22的步骤s52中执行的替换数据生成处理的流程图。

在步骤s61中,视频离线编辑单元19和音频离线编辑单元21从实时分发流中的视频和声音中提取要编辑的部分的时间码。

在步骤s62中,视频离线编辑单元19和音频离线编辑单元21通过使用当生成实时分发流的dash数据时保存的片段时间码信息来调整编辑的起点和终点,以便与片段的边界一致。

在步骤s63中,视频离线编辑单元19和音频离线编辑单元21根据保存的原始数据创建与要替换的片段对应的编辑流,并将编辑流提供给编码/dash处理单元16。

在步骤s64中,编码/dash处理单元16对编辑流执行dash分割,并且还在生成替换后mpd。

随后,终止替换数据生成处理,并且处理进行到图22的步骤s53。将在步骤s64中生成的用于替换的片段以及应用了替换的mpd上载至dash分发服务器17。

如上所述,该实施方式的内容分发系统11使得能够以片段为单位替换数据并且能够编辑视频和声音。然后,如果以一个或多个连续dash介质片段为单位执行替换,则不仅可以有效地替换分发服务器上的数据,还可以有效地替换由内容传送网络(cdn)缓存的数据,同时可以原样使用实时分发时的数据中的可用数据,并且可以将要获取的片段数据报告给流传输再现客户端。

因此,内容分发系统11可以在分发服务器中仅设置实时分发数据中的要通过后编辑替换的片段数据,并且可以用片段数据替换实时分发时的数据。此外,内容分发系统11可以将关于在替换之后获得的url的信息仅添加到在实时分发时使用的mpd被替换的片段,并且可以重复使用如原样可使用的实时分发时的数据的片段。另外,当替换dash分发服务器17上的片段时,内容分发系统11可以向cdn服务器24通知这样的替换信息作为更新信息。

注意,参考以上描述的各个流程图描述的处理不一定按照如流程图描述的顺序按顺序执行,并且包括要并行或单独执行的处理(例如,并行处理或按对象处理)。此外,程序可以由单cpu处理或者可以由多个cpu分发和处理。

此外,以上描述的一系列处理(内容处理方法)可以由硬件或软件执行。在通过软件执行一系列处理的情况下,构成软件的程序从记录程序的程序记录介质安装在计算机中,该计算机包括并入专用硬件中的计算机,或者例如,通过在其中安装各种程序可以执行各种功能的通用个人计算机。

图24是示出通过程序执行以上描述的一系列处理的计算机的硬件的配置示例的框图。

在计算机中,中央处理单元(cpu)101、只读存储器(rom)102、随机存取存储器(ram)103通过总线104彼此连接。

另外,输入/输出接口105连接至总线104。以下部件均连接至输入/输出接口105:输入单元106,其包括键盘、鼠标、麦克风等;输出单元107,其包括显示器、扬声器等;存储单元108,其包括硬盘、非易失性存储器等;通信单元109,其包括网络接口等;以及驱动器110,其驱动可移动介质111(例如,磁盘、光盘、磁光盘和半导体存储器)。

在如上所述配置的计算机中,cpu101经由输入/输出接口105和总线104将存储在例如存储单元108中的程序加载至ram103并且执行该程序,以执行以上所描述的一系列处理。

例如,由计算机(cpu101)执行的程序可以通过记录在作为封装介质的可移动介质111上来提供,封装介质包括磁盘(包括软盘)、光盘(cd-rom(光盘只读存储器)、dvd(数字多功能光盘)等)、磁光盘、半导体存储器等。可替选地,可以经由无线或有线传输介质(例如,局域网、因特网或数字卫星广播)来提供该程序。

然后,通过将可移动介质111安装到驱动器110,程序可以经由输入/输出接口105被安装在存储单元108中。此外,程序可以经由无线或有线传输介质通过通信单元109来接收,并且被安装在存储单元108中。此外,可以将程序预先安装在rom102或存储单元108中。

<配置的组合示例>

注意,本技术可以具有以下配置。

(1)一种内容处理装置,包括:

在线编辑单元,其

将用于实时分发的内容数据存储在编辑缓冲器中,

如果内容数据包括问题部分,则校正所述编辑缓冲器内的内容数据,

用经校正的内容数据替换内容数据,以及

分发经校正的内容数据。

(2)根据(1)所述的内容处理装置,还包括:

保存单元,其保存由所述在线编辑单元校正的内容数据;以及

离线编辑单元,其

从所述保存单元读取内容数据,以及

在多个编辑级别上编辑内容数据。

(3)根据(2)所述的内容处理装置,还包括:

编码处理单元,其

对每个预定片段的内容数据进行编码,以及

生成用于控制内容分发的控制信息,其中,

所述编码处理单元通过重写所述控制信息,以片段为单位,用由所述在线编辑单元编辑的内容数据或由所述离线编辑单元编辑的内容数据替换所述内容数据。

(4)根据(3)所述的内容处理装置,其中,

所述离线编辑单元

逐步编辑内容数据的每个部分,以及

在内容数据的实时分发之后,根据时间的流逝,在更高的编辑级别上编辑内容数据。

(5)根据(4)所述的内容处理装置,其中,

当所述离线编辑单元编辑内容数据时,所述编码处理单元针对每个片段用所编辑的部分顺序地执行替换。

(6)根据(3)至(5)中任一项所述的内容处理装置,其中,

所述控制信息用于用所述离线编辑单元针对每个片段编辑的内容数据进行替换,并且所述控制信息通过服务器和网络辅助dash(sand)的扩展从dash(http上的动态自适应流)分发服务器发送至内容传送网络(cdn)服务器。

(7)根据(6)所述的内容处理装置,其中,

所述cdn服务器被通知由所述离线编辑单元编辑的部分的替换信息,所述替换信息被包括在设置在所述cdn服务器中的内容数据中。

(8)一种内容处理方法,包括以下步骤:

将用于实时分发的内容数据存储在编辑缓冲器中;

如果所述内容数据包括问题部分,则校正所述编辑缓冲器内的内容数据;

用经校正的内容数据替换所述内容数据;以及

分发经校正的内容数据。

(9)一种使计算机执行内容处理的程序,所述内容处理包括以下步骤:

将用于实时分发的内容数据存储在编辑缓冲器中;

如果所述内容数据包括问题部分,则校正所述编辑缓冲器内的内容数据;

用经校正的内容数据替换所述内容数据;以及

分发经校正的内容数据。

注意,该实施方式不限于以上描述的实施方式并且可以在不脱离本公开内容的主旨的情况下进行各种改变。

附图标记列表

11内容分发系统

12成像装置

13声音收集装置

14视频在线编辑单元

15音频在线编辑单元

16编码/dash处理单元

17dash分发服务器

18视频保存单元

19视频离线编辑单元

20音频保存单元

21音频离线编辑单元

22dash客户端单元

23网络

31视频自动处理单元

32音频自动处理单元

33片段管理单

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1