数据处理方法、装置及系统与流程

文档序号:26750641发布日期:2021-09-25 02:23阅读:64来源:国知局
1.本发明涉及数据处理
技术领域
:,尤其涉及一种数据处理方法、装置及系统。
背景技术
::2.目前,随着互联网业务的发展以及网络带宽和速度的增加,由用户提供创作视频数据逐渐成为很多公司的重点业务。3.用户在向平台上传视频时,需要通过分片的形式上传。在视频上传完成后,平台并不能直接拿原视频进行播放的,通常要进行编码、加水印等一系列操作进行视频生产,才能保证视频数据的正常播放。极大地延长了生产时间,即用户在传完视频后,需要等待一段时间后才能在平台上播放。4.发明人发现,由于现有的视频上传、视频生产是串行执行的,导致了视频生产效率低,增加了视频观看用户的等待时间。技术实现要素:5.本发明实施例提供一种数据处理方法、装置及系统,以解决现有技术中由于视频上传、视频生产串行执行,导致的视频生产效率低,增加了视频观看用户的等待时间的问题。6.在本发明实施例的第一方面,提供了一种数据处理方法,应用于处理端设备,包括:7.在接收到目标视频数据的上传请求且已反馈所述上传请求的情况下,接收上传的分片视频数据,所接收的所述分片视频数据为所述目标视频数据经分片处理后得到;8.按照视频播放顺序,对接收到的所述分片视频数据进行实时分片重组,得到所述目标视频数据对应的重组数据;9.在接收到所述目标视频数据的视频读取请求的情况下,顺序获取所述目标视频数据对应的重组数据,并反馈所获取的所述重组数据作为所述视频读取请求的应答;10.其中,在反馈所述目标视频数据的上传请求的同时,向生产端设备发送通知消息,所述通知消息包括所述目标视频数据的状态为可获取状态。11.在本发明实施例的第二方面,提供了一种数据处理方法,应用于数据处理系统,所述数据处理系统包括:处理端设备、客户端设备以及生产端设备;12.所述客户端设备向所述处理端设备发送目标视频数据的上传请求;13.所述处理端设备针对所述上传请求进行反馈,同时向所述生产端设备发送通知消息,所述通知消息包括所述目标视频数据的状态为可获取状态;14.所述生产端设备根据所述通知消息,向所述处理端设备发送所述目标视频数据的视频读取请求;15.所述客户端设备根据所述处理端设备针对所述上传请求反馈的应答,向所述处理端设备上传分片视频数据,所上传的所述分片视频数据为所述目标视频数据经分片处理后得到;16.所述处理端设备按照视频播放顺序,对接收到的所述分片视频数据进行实时分片重组,得到所述目标视频数据对应的重组数据,在接收到所述视频读取请求的情况下,顺序获取所述目标视频数据对应的重组数据,并反馈所获取的所述重组数据作为所述视频读取请求的应答。17.在本发明实施例的第三方面,提供了一种数据处理装置,应用于处理端设备,包括:18.接收模块,用于在接收到目标视频数据的上传请求且已反馈所述上传请求的情况下,接收上传的分片视频数据,所接收的所述分片视频数据为所述目标视频数据经分片处理后得到;19.重组模块,用于按照视频播放顺序,对接收到的所述分片视频数据进行实时分片重组,得到所述目标视频数据对应的重组数据;20.处理模块,用于在接收到所述目标视频数据的视频读取请求的情况下,顺序获取所述目标视频数据对应的重组数据,并反馈所获取的所述重组数据作为所述视频读取请求的应答;21.其中,在反馈所述目标视频数据的上传请求的同时,向生产端设备发送通知消息,所述通知消息包括所述目标视频数据的状态为可获取状态。22.在本发明实施例的第四方面,提供了一种数据处理系统,所述数据处理系统包括:处理端设备、客户端设备以及生产端设备;23.所述客户端设备用于:向所述处理端设备发送目标视频数据的上传请求;24.所述处理端设备用于:针对所述上传请求进行反馈,同时向所述生产端设备发送通知消息,所述通知消息包括所述目标视频数据的状态为可获取状态;25.所述生产端设备用于:根据所述通知消息,向所述处理端设备发送所述目标视频数据的视频读取请求;26.所述客户端设备还用于:根据所述处理端设备针对所述上传请求反馈的应答,向所述处理端设备上传分片视频数据,所上传的所述分片视频数据为所述目标视频数据经分片处理后得到;27.所述处理端设备还用于:按照视频播放顺序,对接收到的所述分片视频数据进行实时分片重组,得到所述目标视频数据对应的重组数据,在接收到所述视频读取请求的情况下,顺序获取所述目标视频数据对应的重组数据,并反馈所获取的所述重组数据作为所述视频读取请求的应答。28.在本发明实施例的第五方面,还提供了一种电子设备,包括处理器、通信接口、存储器和通信总线,其中,处理器,通信接口,存储器通过通信总线完成相互间的通信;29.存储器,用于存放计算机程序;30.处理器,用于执行存储器上所存放的程序时,实现上述第一方面所述的数据处理方法。31.在本发明实施例的第六方面,还提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有指令,当其在计算机上运行时,使得计算机执行上述第一方面所述的数据处理方法。32.在本发明实施例的第七方面,还提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行上述第一方面所述的数据处理方法。33.本发明实施例至少包括以下技术效果:34.本发明实施例,在接收到目标视频数据的上传请求时,对上传请求进行反馈,同时向生产端设备发送可获取目标视频数据的通知消息,在接收到上传的对目标视频数据进行分片处理后得到的分片视频数据后,基于视频播放顺序,对接收到的分片视频数据进行实时分片重组,得到重组数据,根据接收到的目标视频数据的视频读取请求,顺序获取目标视频数据对应的重组数据并反馈,可以实现视频数据上传与生产的并行,节约从上传到生产的时间,实现视频快速生产,提升效率,降低视频观看用户的等待时间。附图说明35.为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍。36.图1为本发明实施例提供的数据处理方法的示意图一;37.图2为本发明实施例提供的数据处理方法对应的实施框图;38.图3为本发明实施例提供的数据处理方法的示意图二;39.图4为本发明实施例提供的数据处理装置的示意图;40.图5为本发明实施例提供的数据处理系统的示意图;41.图6为本发明实施例提供的电子设备的框图。具体实施方式42.下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行描述。43.本发明实施例通过将上传的分片视频数据经分片重组后实时传递至生产端设备,做到视频数据上传与生产的并行,可以提高视频生产效率,降低视频观看用户的等待时间。44.下面对本发明实施例提供的数据处理方法进行详细介绍,本发明实施例提供的数据处理方法应用于处理端设备,如图1所示,该方法包括:45.步骤101、在接收到目标视频数据的上传请求且已反馈所述上传请求的情况下,接收上传的分片视频数据,所接收的所述分片视频数据为所述目标视频数据经分片处理后得到;其中,在反馈所述目标视频数据的上传请求的同时,向生产端设备发送通知消息,所述通知消息包括所述目标视频数据的状态为可获取状态。46.处理端设备与客户端设备建立有通信连接,可以实现与客户端设备的交互。在接收到客户端设备发送的目标视频数据的上传请求时,若允许客户端设备上传目标视频数据,则可以针对上传请求向客户端设备进行反馈,以使得客户端设备根据处理端设备反馈的应答上传目标视频数据。47.针对客户端设备而言,在接收到处理端设备针对上传请求的反馈之后,可以进行目标视频数据的上传,在上传之前,需要对目标视频数据进行分片处理。处理端设备可以接收客户端设备上传的分片视频数据,且处理端设备所接收到的分片视频数据为目标视频数据经分片处理后得到。48.处理端设备在针对目标视频数据的上传请求进行反馈的同时,可以向生产端设备发送通知消息,用于通知生产端设备目标视频数据的状态为可获取状态,以使得生产端设备可以根据通知消息发送目标视频数据的视频读取请求。其中,这里的同时具体指在可接受的时间段范围内。49.步骤102、按照视频播放顺序,对接收到的所述分片视频数据进行实时分片重组,得到所述目标视频数据对应的重组数据。50.在接收到客户端设备上传的分片视频数据之后,可以按照视频播放顺序,对接收到的分片视频数据进行实时分片重组,通过实时分片重组,获取目标视频数据对应的重组数据。51.其中,也可以按照编解码顺序、格式转化顺序对接收到的视频数据进行实时分片重组,由于视频需要顺序播放,因此不论采用哪种顺序进行实时分片重组,重组结果均相同,即,视频播放顺序、编解码顺序、格式转化顺序都是一样的顺序。52.上述的实时分片重组,指的是在接收到可以进行重组的分片视频数据后,立即进行分片重组,实现数据重组的及时性。如存在分片视频数据1和分片视频数据3,则可以将二者重组,分片视频数据2的位置空缺。重组的过程即为确定分片视频数据的顺序标号,将分片视频数据聚合成顺序有效的数据的过程,可以理解为确定分片视频数据的次序、进行分片视频数据的有效拼接。53.步骤103、在接收到所述目标视频数据的视频读取请求的情况下,顺序获取所述目标视频数据对应的重组数据,并反馈所获取的所述重组数据作为所述视频读取请求的应答。54.处理端设备在接收到生产端设备发送的视频读取请求的情况下,可以根据视频读取请求,顺序获取目标视频数据对应的重组数据,然后将获取的重组数据反馈至生产端设备,以实现对视频读取请求的应答,进而可以实现将重组数据实时同步至生产端设备,由生产端设备进行视频生产,保证视频上传、视频生产的并行化。55.其中,通常情况下,生产端设备需要按照视频播放顺序依次请求不同的分片视频数据,以按照视频播放顺序进行视频生产,在此种情况下,处理端设备可以根据视频读取请求,按照视频播放顺序获取重组数据反馈至生产端设备。56.针对生产端设备同时请求多个分片视频数据的情况,可以依据重组数据的生成顺序获取目标视频数据对应的重组数据,例如,生产端设备同时请求分片视频数据1至分片视频数据5,在分片视频数据2和分片视频数据3到达且进行分片重组后,将重组数据反馈至生产端设备,在分片视频数据1到达且进行分片重组后,将重组数据反馈至生产端设备,在分片视频数据4和分片视频数据5到达且进行分片重组后,将重组数据反馈至生产端设备,实现依据重组数据的生成顺序获取目标视频数据对应的重组数据并实时反馈至生产端设备。57.针对生产端设备仅请求某一个分片视频数据的情况,则可以在该分片视频数据到达时对其进行分片重组,获取对应的重组数据反馈至生产端设备。针对生产端设备依次请求某几个分片视频数据的情况,可以根据请求顺序,获取重组数据并反馈至生产端设备。58.上述的生产端设备为处于空闲状态的生产端设备,处理端设备在发送通知消息时,可以筛选出处于空闲状态的生产端设备,向处于空闲状态的生产端设备发送通知消息,以使得接收通知消息的生产端设备获知目标视频数据为可获取状态,进而发送视频读取请求,以获取目标视频数据进行视频生产。59.本发明上述实施过程,在接收到目标视频数据的上传请求时,对上传请求进行反馈,同时向生产端设备发送可获取目标视频数据的通知消息,在接收到上传的对目标视频数据进行分片处理后得到的分片视频数据后,基于视频播放顺序,对接收到的分片视频数据进行实时分片重组,得到重组数据,根据接收到的生产端设备发送的目标视频数据的视频读取请求,顺序获取目标视频数据对应的重组数据并反馈,可以实现视频上传与生产的并行,节约从上传到生产的时间,实现视频快速生产,提升效率,降低视频观看用户的等待时间。60.在本发明一可选实施例中,所述顺序获取所述目标视频数据对应的重组数据,包括:61.若未获取到目标重组数据,则按预设的重试时间间隔重新获取所述目标重组数据,或者,阻塞所述视频读取请求,直到所述目标重组数据到达时取消阻塞,并获取所述目标重组数据;62.其中,所述目标重组数据为最后一个获取并反馈的所述重组数据后面的第一个所述重组数据。63.处理端设备在顺序获取目标视频数据对应的重组数据时,若未获取到目标重组数据,则可以基于重试或者阻塞获取目标重组数据,这里的目标重组数据指的是:最后一个获取并反馈的重组数据之后的第一个重组数据。64.其中,在基于重试获取目标重组数据时,需要按预设的重试时间间隔重新获取目标重组数据,这里的重试时间间隔为预先设定,且重试的次数需要小于设定的预设检测次数。在基于阻塞获取目标重组数据时,需要阻塞生产端设备发送的视频读取请求,等待目标重组数据的到来,在目标重组数据到达时,可以取消阻塞,并获取目标重组数据。65.本发明上述实施过程,在获取目标视频数据对应的重组数据时,针对未获取到目标重组数据的情况,可以基于重试或者阻塞的方式进行目标重组数据的获取,丰富了目标重组数据的获取方式。66.可选的,针对未获取到目标重组数据的情况,在按预设的重试时间间隔重新获取所述目标重组数据时,具体包括以下步骤:67.在接收到所述视频读取请求后的第一预设时长内,若未接收到所述上传的分片视频数据,则按照预设的重试时间间隔,重新检测是否接收到所述上传的分片视频数据,并记录重新检测的次数;当达到预设的重试时间间隔,且记录的次数小于预设检测次数时,重新检测是否接收到所述上传的分片视频数据;68.当记录的次数达到预设检测次数时,该方法还包括:69.阻塞所述视频读取请求,直到所述目标重组数据到达时取消阻塞,并获取所述目标重组数据。70.本实施例中,未获取到目标重组数据的情况为:在接收到视频读取请求后的第一预设时长内,未接收到上传的分片视频数据。此时,可以按照预设的重试时间间隔,重新检测是否接收到客户端设备上传的分片视频数据,并对重新检测的次数进行记录,若仍未接收到客户端设备上传的分片视频数据,当再次达到预设的重试时间间隔时,判断记录的重新检测的次数是否小于预设检测次数,若小于,则可以继续重新检测是否接收到客户端设备上传的分片视频数据,直至记录的重新检测的次数达到预设检测次数。其中,在经过小于预设检测次数的重新检测接收到目标重组数据时,则获取目标重组数据并停止检测。71.若在记录的次数达到预设检测次数时,仍未接收到目标视频数据,可以阻塞生产端设备发送的视频读取请求,以等待目标重组数据的到来,在目标重组数据到达时,可以取消阻塞,并获取已到达的目标视频数据。72.需要说明的是,由于处理端设备在针对上传请求反馈的同时向生产端设备发送通知消息,以使得生产端设备根据通知消息发送视频读取请求,因此会存在处理端设备已接收到视频读取请求但是还未接收到客户端设备上传的分片视频数据的情况,因此可以在接收到视频读取请求后,等待第一预设时长,若在第一预设时长内未接收到上传的分片视频数据,则可以按照预设的重试时间间隔,重新检测是否接收到客户端设备上传的分片视频数据,其中重试时间间隔的起点可以为接收到视频读取请求的时刻,此时重试时间间隔对应的时长大于第一预设时长。重试时间间隔的起点也可以为接收到视频读取请求且等待第一预设时长后对应的时刻。73.本发明上述实施过程,针对在接收到视频读取请求后的第一预设时长内,未接收到上传的分片视频数据的情况,可以按照预设的重试时间间隔,重新检测是否接收到客户端设备上传的分片视频数据,在重新检测的次数达到预设检测次数但还未获取目标重组数据的情况,可以基于阻塞机制等待目标重组数据的到来,在目标重组数据到达后,取消阻塞,实现基于重试和阻塞两种方式获取目标重组数据。74.可选的,针对未获取到目标重组数据的情况,对应于两种情况,第一种情况为:未接收到上传的分片视频数据,第二种情况为得到的目标视频数据对应的重组数据中不包括目标重组数据。75.针对第一种情况而言,在接收到视频读取请求后的第二预设时长内未接收到分片视频数据的情况下,可以阻塞视频读取请求进行等待,在目标重组数据到达时取消阻塞。针对第二种情况而言,在得到的目标视频数据对应的重组数据中不包括目标重组数据时,表明可以正常接收分片视频数据,此时可以阻塞视频读取请求进行等待,在目标重组数据到达时取消阻塞。76.需要说明的是,这里的第二预设时长可以小于第一预设时长,即在相对短的时间内未接收到分片视频数据时,可以先阻塞视频读取请求,在相对长的时间内未接收到分片视频数据时,可以进行分片视频数据的重新检测。第二预设时长也可以大于第一预设时长,即在相对短的时间内未接收到分片视频数据时,可以重新检测,在相对长的时间内未接收到分片视频数据时,阻塞视频读取请求。77.下面通过几个具体实例对获取目标重组数据的过程进行介绍。78.处理端设备在接收到生产端设备发送的视频读取请求时未接收到客户端设备上传的分片视频数据,此时等待第一预设时长(如3秒),若等待后未接收到上传的分片视频数据,则可以以接收视频读取请求的时刻为起点,经过重试时间间隔对应的时长(如4s)后,重新检测是否接收到上传的分片视频数据,若未接收到,则以当前时刻为起点,在经过重试时间间隔对应的时长后,重新检测是否接收到上传的分片视频数据,在经过小于预设检测次数的检测接收到目标重组数据时,则获取目标重组数据,若达到预设检测次数时仍未获取目标重组数据,则阻塞视频读取请求,直到目标重组数据到达时取消阻塞,获取目标重组数据。79.处理端设备在接收到生产端设备发送的视频读取请求时未接收到客户端设备上传的分片视频数据,此时等待第二预设时长(如2秒),若等待后仍未获取到目标重组数据,则可以阻塞视频读取请求进行等待,在目标重组数据到达时取消阻塞。80.处理端设备在接收到生产端设备发送的视频读取请求时,所接收到的目标视频数据对应的重组数据中不包括目标重组数据,则可以阻塞视频读取请求进行等待,在目标重组数据到达时取消阻塞。81.上述为基于重试和/或阻塞获取目标重组数据的过程,通过针对不同的情况采用对应的策略获取目标重组数据,丰富了目标重组数据的获取方式。82.在本发明一可选实施例中,该方法还包括:83.在接收到客户端设备发送的所述目标视频数据的上传请求后,生成用于区别所述目标视频数据的全局唯一标识;84.向所述客户端设备反馈所生成的全局唯一标识作为所述上传请求的应答,以接收携带所述全局唯一标识的所述分片视频数据;85.其中,在反馈所生成的全局唯一标识的同时,通知所述生产端设备所述目标视频数据的状态为可获取状态且所述目标视频数据的标识为所生成的全局唯一标识。86.本发明实施例中的处理端设备可以接收多个客户端设备以分片形式上传的视频,也可以仅接收某一个客户端设备以分片形式上传的视频,为了区分不同的视频,以保证分片重组的准确性,可以针对上传的每个视频分配一标识。87.即,处理端设备在接收到客户端设备发送的目标视频数据的上传请求后,可以基于接收到的上传请求,生成用于区别目标视频数据的全局唯一标识,在生成全局唯一标识之后,可以向客户端设备反馈所生成的全局唯一标识以作为对上传请求的应答,使得客户端设备可以根据获取的全局唯一标识,向处理端设备发送携带全局唯一标识的分片视频数据,处理端设备在接收到分片视频数据之后,可以根据分片视频数据中携带的全局唯一标识进行分片重组,保证分片重组的准确性。88.其中,处理端设备在向客户端设备反馈所生成的全局唯一标识的同时,可以向生产端设备(空闲状态的生产端设备)发送通知消息(通知消息中可以携带如下内容:目标视频数据为可获取状态,目标视频数据对应的全局唯一标识),以通知生产端设备目标视频数据的状态为可获取状态以及目标视频数据的标识为所生成的全局唯一标识。这里的同时具体指在可接受的时间段范围内。通过向生产端设备发送通知消息,可以使得生产端设备获知目标视频数据为可获取状态,并获知目标视频数据对应的全局唯一标识,进而可以基于通知消息向处理端设备发送携带全局唯一标识的视频读取请求。89.需要说明的是,处理端设备所接收的分片视频数据,在携带全局唯一标识的情况下,还可以携带目标视频数据的大小、当前分片视频数据对应的分片位置以及当前分片视频数据对应的分片大小,其中,这里的分片位置即为当前分片视频数据在目标视频数据中对应的位置,具体可以表现为当前分片视频数据在目标视频数据中对应的播放序号。在获取分片视频数据之后,还可以校验当前分片视频数据的完整性以及有效性,由于分片视频数据中携带有对应的分片大小,则可以根据携带的分片大小对实际接收到的分片视频数据进行校验;也可以根据已经接收到的分片视频数据的相关信息(包括分片视频数据的大小、分片视频数据对应的分片位置)、目标视频数据的大小以及当前分片视频数据的分片位置和分片大小来校验当前分片视频数据。在校验成功的情况下,根据当前分片视频数据对应的分片位置将当前分片视频数据实时写入目标缓存区域,其中目标缓存区域为目标视频数据对应的缓存区域,处理端设备可以根据目标视频数据的大小确定目标缓存区域,在接收到分片视频数据之后,将其写入目标缓存区域的相应位置,以便于进行分片重组。90.其中,客户端设备可以并发上传分片视频数据,也可以依次上传分片视频数据。针对处理端设备而言,若同步完成至少两个分片视频数据的接收,则可以根据每个分片视频数据对应的分片位置和分片大小,同步将至少两个分片视频数据实时写入目标缓存区域中,以进行分片重组。针对处理端设备依次接收分片视频数据的情况,则可以针对每个分片视频数据,在完成接收后,根据当前分片视频数据对应的分片位置和分片大小,将当前分片视频数据实时写入目标缓存区域,以进行分片重组。91.上述实施过程,通过基于上传请求生成目标视频数据对应的全局唯一标识,将生成的全局唯一标识反馈至客户端设备以及生产端设备,以便于生产端设备可以发送携带全局唯一标识的视频读取请求、客户端设备可以上传携带全局唯一标识的分片视频数据,以基于全局唯一标识保证分片重组的准确性,同时可以向生产端设备反馈对应的重组数据,使得生产端设备进行视频生产,保证目标视频数据上传与生产的并行。92.在本发明一可选实施例中,在接收到所述目标视频数据的视频读取请求的情况下,顺序获取所述目标视频数据对应的重组数据,包括:93.根据所述视频读取请求中携带的全局唯一标识,确定所述目标视频数据;94.调用http服务,顺序读取所述目标视频数据对应的数据流;95.将所读取的数据流转化为posix文件,并作为所述目标视频数据对应的重组数据。96.处理端设备在接收到生产端设备发送的目标视频数据的视频读取请求的情况下,可以根据视频读取请求中携带的全局唯一标识,确定生产端设备所请求的视频数据为目标视频数据。由于互联网使用的最通用的协议为http协议(hypertexttransferprotocol,超文本传输协议),在确定目标视频数据之后,可以调用http服务,以通过http服务顺序读取目标视频数据对应的数据流,实现通过http协议流出口输出目标视频数据对应的http数据流。97.在输出http数据流之后,再通过协议映射将http数据流转为posix(portableoperatingsysteminterface,可移植操作系统接口)文件。通过将http数据流转为posix文件,可以实现将网络数据转为用户态数据,从而支持处理工具的操作,这里的处理包括但不限于生产、归档、编码、数据签名计算、数据加解密等。这样对于处理工具而言,处理的是一个本地文件,但实际上此文件是源源不断从客户端设备处上传来的,可以实现在客户端设备上传数据的同时进行数据的处理。98.针对处理端设备而言,其包括模块a以及模块b,其中模块a用于缓存分片视频数据进行分片重组,且模块a可以提供http协议流出口。模块b用于接收视频读取请求,根据视频读取请求在模块a中拉取对应的http数据流,并将http数据流转化为posix文件反馈至生产端设备,实现将网络文件转为用户态文件,从而支持处理工具的操作。99.处理端设备通过两个模块巧妙地实现了将分片视频数据重组后实时传递给生产端设备,实现为上层生产业务提供数据,做到上传与生产的并行。100.本发明上述实施过程,通过基于生产端设备发送的携带全局唯一标识的视频读取请求,确定所请求的目标视频数据,可以保证向生产端设备反馈匹配的数据流,在确定目标视频数据之后,调用http服务,顺序读取目标视频数据对应的数据流,将读取的数据流转化为posix文件反馈至生产端设备,可以基于通用协议读取数据流,将网络数据转为用户态数据,使得生产端设备基于用户态数据进行视频生产。101.下面通过一具体实施过程对本发明实施例的数据处理方法进行介绍,如图2所示,客户端设备向处理端设备的模块c发送目标视频数据的上传请求,模块c针对接收到的上传请求生成目标视频数据对应的全局唯一标识,将全局唯一标识作为上传请求的应答反馈至客户端设备,模块c在反馈应答的同时,向处于空闲状态的生产端设备发送通知消息,通知生产端设备目标视频数据的状态为可获取状态且目标视频数据的标识为所生成的全局唯一标识。102.处理端设备的模块a接收客户端设备上传的分片视频数据,这里的分片视频数据为对目标视频数据进行分片处理后得到,根据分片视频数据中携带的目标视频数据的大小确定目标缓存区域,根据分片视频数据对应的分片位置和分片大小将分片视频数据写入目标缓存区域以进行分片重组,模块a可以向处理端设备的模块b提供读数据的http服务。103.处于空闲状态的生产端设备基于接收到的通知消息,向模块b发送携带全局唯一标识的视频读取请求,模块b在接收到视频读取请求之后,确定所请求的目标视频数据,调用http服务,顺序读取目标视频数据对应的数据流,将所读取的数据流转化为posix文件,并作为目标视频数据对应的重组数据,反馈至生产端设备。104.若目标视频数据对应的数据流中缺少数据,如缺少分片视频数据5,则模块b将依据其他分片视频数据生成的重组数据反馈至生产端设备,然后阻塞视频读取请求,等待分片视频数据5的到达,在分片视频数据5到达之后,可以解除阻塞,反馈分片视频数据5。105.上述实施过程,在向客户端设备反馈目标视频数据的上传请求的同时通知生产端设备,可以使得生产端设备基于通知发送视频读取请求,处理端设备接收上传的分片视频数据并实时分片重组、根据接收到的视频读取请求实时向生产端设备反馈重组数据,使得生产端设备实时进行视频生产,实现视频上传与生产的并行;且可以基于通用协议读取目标视频数据的数据流,将网络数据转为用户态数据,使得生产端设备基于用户态数据进行视频生产。106.以上为本发明实施例提供的数据处理方法的整体实施流程,在接收到目标视频数据的上传请求时,对上传请求进行反馈,同时向生产端设备发送可获取目标视频数据的通知消息,在接收到上传的对目标视频数据进行分片处理后得到的分片视频数据后,基于视频播放顺序,对接收到的分片视频数据进行实时分片重组,得到重组数据,根据接收到的目标视频数据的视频读取请求,顺序获取目标视频数据对应的重组数据并反馈,使得生产端设备进行实时视频生产,可以实现视频上传与生产的并行,节约从上传到生产的时间,实现视频快速生产,提升效率,降低观看用户的等待时间。107.进一步的,基于重试和/或阻塞的方式进行目标重组数据的获取,丰富了目标重组数据的获取方式。通过生成目标视频数据对应的全局唯一标识,将生成的全局唯一标识反馈至客户端设备以及生产端设备,以便于生产端设备可以发送携带全局唯一标识的视频读取请求、客户端设备可以上传携带全局唯一标识的分片视频数据,以基于全局唯一标识保证分片重组的准确性,同时可以向生产端设备反馈对应的重组数据,使得生产端设备进行视频生产,保证目标视频数据上传与生产的并行。通过调用http服务读取目标视频数据对应的数据流,将读取的数据流转化为posix文件反馈至生产端设备,可以基于通用协议读取数据流,将网络数据转为用户态数据,使得生产端设备基于用户态数据进行视频生产。108.本发明实施例提供的数据处理方法在应用于视频生产的情况下,还可以应用各种类型的数据处理,如数据归档、数据编码、数据签名计算、数据加解密等,针对视频生产而言,通过将上传视频与视频生产并行操作,可以极大地降低从上传到生产的时间,实现视频快速速生产,降低视频观看用户的等待时间。109.本发明实施例还提供一种数据处理方法,应用于数据处理系统,所述数据处理系统包括:处理端设备、客户端设备以及生产端设备,参见图3所示,该方法包括:110.步骤301、所述客户端设备向所述处理端设备发送目标视频数据的上传请求。111.处理端设备与客户端设备之间可实现交互,客户端设备可以向处理端设备发送目标视频数据的上传请求。112.步骤302、所述处理端设备针对所述客户端设备发送的所述上传请求进行反馈,同时向所述生产端设备发送通知消息,所述通知消息包括所述目标视频数据的状态为可获取状态。113.处理端设备在接收到客户端设备发送的目标视频数据的上传请求时,若允许客户端设备上传目标视频数据,则可以针对上传请求向客户端设备进行反馈,以使得客户端设备根据处理端设备的反馈上传目标视频数据。处理端设备在针对目标视频数据的上传请求进行反馈的同时,可以向处于空闲状态的生产端设备发送通知消息,用于通知生产端设备目标视频数据状态为可获取状态,以使得生产端设备可以根据通知消息发送目标视频数据的视频读取请求。其中,这里的同时具体指在可接受的时间段范围内。114.步骤303、所述生产端设备根据所述通知消息,向所述处理端设备发送所述目标视频数据的视频读取请求。115.生产端设备在接收到通知消息之后,确定目标视频数据为可获取状态,可以向处理端设备发送目标视频数据的视频读取请求。116.步骤304、所述客户端设备根据所述处理端设备针对所述上传请求反馈的应答,向所述处理端设备上传分片视频数据,所上传的所述分片视频数据为所述目标视频数据经分片处理后得到。117.客户端设备在接收到处理端设备针对上传请求的反馈之后,可以向处理端设备上传对目标视频数据进行分片后得到的分片视频数据。其中步骤303与步骤304无明显的先后顺序,若生产端设备先接收到通知消息,则生产端设备先发送视频读取请求,若客户端设备先接收到处理端设备反馈的应答,则客户端设备先上传分片视频数据,若生产端设备接收到通知消息时,客户端设备接收到处理端设备反馈的应答,则步骤303、步骤304可以同步执行。118.步骤305、所述处理端设备按照视频播放顺序,对接收到的所述分片视频数据进行实时分片重组,得到所述目标视频数据对应的重组数据,在接收到所述视频读取请求的情况下,顺序获取所述目标视频数据对应的重组数据,并反馈所获取的所述重组数据作为所述视频读取请求的应答。119.处理端设备在接收到客户端设备上传的分片视频数据之后,可以按照视频播放顺序,对接收到的分片视频数据进行实时分片重组,通过实时分片重组,获取目标视频数据对应的重组数据。也可以按照编解码顺序、格式转化顺序对接收到的视频数据进行实时分片重组,由于视频需要顺序播放,因此不论采用哪种顺序进行实时分片重组,重组结果均相同,即,视频播放顺序、编解码顺序、格式转化顺序都是一样的顺序。120.处理端设备在接收到生产端设备发送的视频读取请求的情况下,可以根据视频读取请求,顺序获取目标视频数据对应的重组数据,然后将获取的重组数据反馈至生产端设备,以实现对视频读取请求的应答,进而可以实现将重组数据实时同步至生产端设备,由生产端设备进行视频生产,保证视频上传、视频生产的并行化。121.本发明上述实施过程,处理端设备在接收到客户端设备发送的目标视频数据的上传请求时,对上传请求进行反馈,同时向生产端设备发送可获取目标视频数据的通知消息,在接收到上传的对目标视频数据进行分片处理后得到的分片视频数据后,基于视频播放顺序,对接收到的分片视频数据进行实时分片重组,得到重组数据,根据接收到的目标视频数据的视频读取请求,顺序获取目标视频数据对应的重组数据并反馈,使得生产端设备实时进行视频生产,可以实现视频上传与生产的并行,节约从上传到生产的时间,实现视频快速生产,提升效率,降低视频观看用户的等待时间。122.可选的,所述处理端设备在接收到所述客户端设备发送的所述目标视频数据的上传请求后,还包括:123.生成用于区别所述目标视频数据的全局唯一标识;124.向所述客户端设备反馈所生成的全局唯一标识作为所述上传请求的应答,以接收携带所述全局唯一标识的所述分片视频数据;125.其中,在反馈所生成的全局唯一标识的同时,通知所述生产端设备所述目标视频数据的状态为可获取状态且所述目标视频数据的标识为所生成的全局唯一标识。126.处理端设备在接收到客户端设备发送的目标视频数据的上传请求后,可以基于接收到的上传请求,生成用于区别目标视频数据的全局唯一标识,在生成全局唯一标识之后,可以向客户端设备反馈所生成的全局唯一标识以作为对上传请求的应答,使得客户端设备可以根据获取的全局唯一标识,向处理端设备发送携带全局唯一标识的分片视频数据,处理端设备在接收到分片视频数据之后,可以根据分片视频数据中携带的全局唯一标识进行分片重组,保证分片重组的准确性。127.其中,处理端设备在向客户端设备反馈所生成的全局唯一标识的同时,可以向生产端设备(空闲状态的生产端设备)发送通知消息,以通知生产端设备目标视频数据的状态为可获取状态以及目标视频数据的标识为所生成的全局唯一标识。这里的同时具体指在可接受的时间段范围内。通过向生产端设备发送通知消息,可以使得生产端设备获知目标视频数据为可获取状态,并获知目标视频数据对应的全局唯一标识,进而可以基于通知消息向处理端设备发送携带全局唯一标识的视频读取请求。128.由于,处理端设备向客户端设备、生产端设备反馈所生成的全局唯一标识,生产端设备所发送的视频读取请求中携带有全局唯一标识,处理端设备可以根据视频读取请求中携带的全局唯一标识,确定生产端设备所请求的视频数据为目标视频数据。由于互联网使用的最通用的协议为http协议,可以调用http服务,以通过http服务顺序读取目标视频数据对应的数据流,实现通过http协议流出口输出目标视频数据对应的http数据流。在输出http数据流之后,再通过协议映射将http数据流转为posix文件(posix文件即为目标视频数据对应的重组数据)反馈至生产端设备。通过将http数据流转为posix文件,可以实现将网络数据转为用户态数据,从而支持处理工具的操作。129.本发明上述实施过程,处理端设备通过基于客户端设备的上传请求生成目标视频数据对应的全局唯一标识,将生成的全局唯一标识反馈至客户端设备以及生产端设备,以便于生产端设备可以发送携带全局唯一标识的视频读取请求、客户端设备可以上传携带全局唯一标识的分片视频数据,以基于全局唯一标识保证分片重组的准确性,同时可以向生产端设备反馈对应的重组数据,使得生产端设备实时进行视频生产,保证目标视频数据上传与生产的并行。130.本发明实施例还提供一种数据处理装置,应用于处理端设备,如图4所示,包括:131.接收模块41,用于在接收到目标视频数据的上传请求且已反馈所述上传请求的情况下,接收上传的分片视频数据,所接收的所述分片视频数据为所述目标视频数据经分片处理后得到;132.重组模块42,用于按照视频播放顺序,对接收到的所述分片视频数据进行实时分片重组,得到所述目标视频数据对应的重组数据;133.处理模块43,用于在接收到所述目标视频数据的视频读取请求的情况下,顺序获取所述目标视频数据对应的重组数据,并反馈所获取的所述重组数据作为所述视频读取请求的应答;134.其中,在反馈所述目标视频数据的上传请求的同时,向生产端设备发送通知消息,所述通知消息包括所述目标视频数据的状态为可获取状态。135.可选的,所述处理模块包括:136.处理子模块,用于若未获取到目标重组数据,则按预设的重试时间间隔重新获取所述目标重组数据,或者,阻塞所述视频读取请求,直到所述目标重组数据到达时取消阻塞,并获取所述目标重组数据;137.其中,所述目标重组数据为最后一个获取并反馈的所述重组数据后面的第一个所述重组数据。138.可选的,所述处理子模块包括:139.第一处理单元,用于在接收到所述视频读取请求后的第一预设时长内,若未接收到所述上传的分片视频数据,则按照预设的重试时间间隔,重新检测是否接收到所述上传的分片视频数据,并记录重新检测的次数;当达到预设的重试时间间隔,且记录的次数小于预设检测次数时,重新检测是否接收到所述上传的分片视频数据;140.当记录的次数达到预设检测次数时,所述处理子模块还包括:141.第二处理单元,用于阻塞所述视频读取请求,直到所述目标重组数据到达时取消阻塞,并获取所述目标重组数据。142.可选的,所述装置还包括:143.生成模块,用于在接收到客户端设备发送的所述目标视频数据的上传请求后,生成用于区别所述目标视频数据的全局唯一标识;144.反馈模块,用于向所述客户端设备反馈所生成的全局唯一标识作为所述上传请求的应答,以接收携带所述全局唯一标识的所述分片视频数据;145.其中,在反馈所生成的全局唯一标识的同时,通知所述生产端设备所述目标视频数据的状态为可获取状态且所述目标视频数据的标识为所生成的全局唯一标识。146.可选的,所述处理模块包括:147.确定子模块,用于根据所述视频读取请求中携带的全局唯一标识,确定所述目标视频数据;148.读取子模块,用于调用http服务,顺序读取所述目标视频数据对应的数据流;149.转化子模块,用于将所读取的数据流转化为posix文件,并作为所述目标视频数据对应的重组数据。150.对于装置实施例而言,由于其与方法实施例基本相似,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。151.本发明实施例还提供一种数据处理系统,如图5所示,所述数据处理系统500包括:处理端设备501、客户端设备502以及生产端设备503;152.所述客户端设备502用于:向所述处理端设备501发送目标视频数据的上传请求;153.所述处理端设备501用于:针对所述客户端设备502发送的所述上传请求进行反馈,同时向所述生产端设备503发送通知消息,所述通知消息包括所述目标视频数据的状态为可获取状态;154.所述生产端设备503用于:根据所述通知消息,向所述处理端设备501发送所述目标视频数据的视频读取请求;155.所述客户端设备502还用于:根据所述处理端设备501针对所述上传请求反馈的应答,向所述处理端设备501上传分片视频数据,所上传的所述分片视频数据为所述目标视频数据经分片处理后得到;156.所述处理端设备501还用于:按照视频播放顺序,对接收到的所述分片视频数据进行实时分片重组,得到所述目标视频数据对应的重组数据,在接收到所述视频读取请求的情况下,顺序获取所述目标视频数据对应的重组数据,并反馈所获取的所述重组数据作为所述视频读取请求的应答。157.可选的,所述处理端设备501在接收到所述客户端设备发送的所述目标视频数据的上传请求后,还用于:158.生成用于区别所述目标视频数据的全局唯一标识;159.向所述客户端设备502反馈所生成的全局唯一标识作为所述上传请求的应答,以接收携带所述全局唯一标识的所述分片视频数据;160.其中,在反馈所生成的全局唯一标识的同时,通知所述生产端设备503所述目标视频数据的状态为可获取状态且所述目标视频数据的标识为所生成的全局唯一标识。161.可选的,在接收到所述视频读取请求的情况下,顺序获取所述目标视频数据对应的重组数据时,所述处理端设备501还用于:162.根据所述视频读取请求中携带的全局唯一标识,确定所述目标视频数据;163.调用http服务,顺序读取所述目标视频数据对应的数据流;164.将所读取的数据流转化为posix文件,并作为所述目标视频数据对应的重组数据。165.可选的,在顺序获取所述目标视频数据对应的重组数据时,所述处理端设备501还用于:166.若未获取到目标重组数据,则按预设的重试时间间隔重新获取所述目标重组数据,或者,阻塞所述视频读取请求,直到所述目标重组数据到达时取消阻塞,并获取所述目标重组数据;167.其中,所述目标重组数据为最后一个获取并反馈的所述重组数据后面的第一个所述重组数据。168.可选的,在若未获取到目标重组数据,则按预设的重试时间间隔重新获取所述目标重组数据时,所述处理端设备501还用于:169.在接收到所述视频读取请求后的第一预设时长内,若未接收到所述上传的分片视频数据,则按照预设的重试时间间隔,重新检测是否接收到所述上传的分片视频数据,并记录重新检测的次数;当达到预设的重试时间间隔,且记录的次数小于预设检测次数时,重新检测是否接收到所述上传的分片视频数据;170.当记录的次数达到预设检测次数时,所述处理端设备501还用于:171.阻塞所述视频读取请求,直到所述目标重组数据到达时取消阻塞,并获取所述目标重组数据。172.对于系统实施例而言,由于其与方法实施例基本相似,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。173.本发明实施例还提供了一种电子设备,如图6所示,包括处理器61、通信接口62、存储器63和通信总线64,其中,处理器61,通信接口62,存储器63通过通信总线64完成相互间的通信,存储器63,用于存放计算机程序;所述处理器61,用于执行存储器63上所存放的程序时,实现如下步骤:在接收到目标视频数据的上传请求且已反馈所述上传请求的情况下,接收上传的分片视频数据,所接收的所述分片视频数据为所述目标视频数据经分片处理后得到;按照视频播放顺序,对接收到的所述分片视频数据进行实时分片重组,得到所述目标视频数据对应的重组数据;在接收到所述目标视频数据的视频读取请求的情况下,顺序获取所述目标视频数据对应的重组数据,并反馈所获取的所述重组数据作为所述视频读取请求的应答;其中,在反馈所述目标视频数据的上传请求的同时,向生产端设备发送通知消息,所述通知消息包括所述目标视频数据的状态为可获取状态。处理器,在执行存储器上所存放的程序时,还可以实现本发明实施例中的其他步骤。174.上述电子设备提到的通信总线可以是外设部件互连标准(peripheralcomponentinterconnect,简称pci)总线或扩展工业标准结构(extendedindustrystandardarchitecture,简称eisa)总线等。该通信总线可以分为地址总线、数据总线、控制总线等。为便于表示,图中仅用一条粗线表示,但并不表示仅有一根总线或一种类型的总线。175.存储器可以包括随机存取存储器(randomaccessmemory,简称ram),也可以包括非易失性存储器(non‑volatilememory),例如至少一个磁盘存储器。可选的,存储器还可以是至少一个位于远离前述处理器的存储装置。176.上述的处理器可以是通用处理器,包括中央处理器(centralprocessingunit,简称cpu)、网络处理器(networkprocessor,简称np)等;还可以是数字信号处理器(digitalsignalprocessing,简称dsp)、专用集成电路(applicationspecificintegratedcircuit,简称asic)、现场可编程门阵列(field-programmablegatearray,简称fpga)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。177.在本发明提供的又一实施例中,还提供了一种计算机可读存储介质,该计算机可读存储介质中存储有指令,当其在计算机上运行时,使得计算机执行上述实施例中所述的数据处理方法。178.在本发明提供的又一实施例中,还提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行上述实施例中所述的数据处理方法。179.在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时,全部或部分地产生按照本发明实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一个计算机可读存储介质传输,例如,所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(dsl))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质,(例如,软盘、硬盘、磁带)、光介质(例如,dvd)、或者半导体介质(例如固态硬盘solidstatedisk(ssd))等。180.需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。181.本说明书中的各个实施例均采用相关的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于系统实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。182.以上所述仅为本发明的较佳实施例而已,并非用于限定本发明的保护范围。凡在本发明的精神和原则之内所作的任何修改、等同替换、改进等,均包含在本发明的保护范围内。当前第1页12当前第1页12
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1