一种动态纹理视频生成方法、装置、服务器及存储介质与流程

文档序号:18415632发布日期:2019-08-13 19:22阅读:86来源:国知局
一种动态纹理视频生成方法、装置、服务器及存储介质与流程
本发明涉及数据处理
技术领域
,具体涉及一种动态纹理视频生成方法、装置、服务器及存储介质。
背景技术
:为了增加图片的趣味性,可以对图片中的纹理部分(如水流部分、火焰部分、瀑布部分等)进行动态化处理,以得到与图像对应的一段具有动态纹理内容的视频。现有技术通常是利用采样和重构的思想并基于迭代-优化的方式对纹理图像进行动态化处理以得到与纹理图像对应的动态纹理视频,然而,此种方式往往存在如下问题:第一、因利用采样和重构思想实现对纹理图像的动态化处理,故通常会存在生成的动态纹理视频无法从时间和空间上有效表达图像纹理的问题;第二、因基于迭代-优化的方式实现对纹理图像的动态化处理,故通常会存在生成动态纹理视频效率低的问题。有鉴于此,提供一种动态纹理视频生成方法、装置、服务器及存储介质,以在保证生成的动态纹理视频能够从时间和空间上有效表达图像纹理的基础上,提高动态纹理视频的生成效率,是亟待解决的问题。技术实现要素:有鉴于此,本发明实施例提供一种动态纹理视频生成方法、装置、服务器及存储介质,以在保证生成的动态纹理视频能够从时间和空间上有效表达图像纹理的基础上,提高动态纹理视频的生成效率。为实现上述目的,本发明实施例提供如下技术方案:一种动态纹理视频生成方法,包括:接收输入的纹理图像;基于所述纹理图像和纹理图像生成模型生成纹理图像序列;所述纹理图像序列中的首个纹理图像是所接收的纹理图像,针对纹理图像序列中的任意两帧相邻的纹理图像,后一帧纹理图像是所述纹理图像生成模型对前一帧纹理图像的输出结果;其中,所述纹理图像生成模型是以卷积神经网络对纹理图像样本的输出结果趋于视频流样本中与该纹理图像样本对应的下一帧纹理图像为目标,训练所述卷积神经网络得到的;所述纹理图像样本为所述视频流样本中的纹理图像或所述卷积神经网络对所述视频流样本中的纹理图像的输出结果。一种动态纹理视频生成装置,包括:纹理图像接收单元,用于接收输入的纹理图像;纹理图像序列生成单元,用于基于所述纹理图像和纹理图像生成模型生成纹理图像序列;所述纹理图像序列中的首个纹理图像是所接收的纹理图像,针对纹理图像序列中的任意两帧相邻的纹理图像,后一帧纹理图像是所述纹理图像生成模型对前一帧纹理图像的输出结果;其中,所述纹理图像生成模型是以卷积神经网络对纹理图像样本的输出结果趋于视频流样本中与该纹理图像样本对应的下一帧纹理图像为目标,训练所述卷积神经网络得到的;所述纹理图像样本为所述视频流样本中的纹理图像或所述卷积神经网络对所述视频流样本中的纹理图像的输出结果。一种服务器,包括:至少一个存储器和至少一个处理器;所述存储器存储有程序,所述处理器调用所述存储器存储的程序,所述程序用于:接收输入的纹理图像;基于所述纹理图像和纹理图像生成模型生成纹理图像序列;所述纹理图像序列中的首个纹理图像是所接收的纹理图像,针对纹理图像序列中的任意两帧相邻的纹理图像,后一帧纹理图像是所述纹理图像生成模型对前一帧纹理图像的输出结果;其中,所述纹理图像生成模型是以卷积神经网络对纹理图像样本的输出结果趋于视频流样本中与该纹理图像样本对应的下一帧纹理图像为目标,训练所述卷积神经网络得到的;所述纹理图像样本为所述视频流样本中的纹理图像或所述卷积神经网络对所述视频流样本中的纹理图像的输出结果。一种存储介质,所述存储介质存储有适于处理器执行的程序,所述程序用于:接收输入的纹理图像;基于所述纹理图像和纹理图像生成模型生成纹理图像序列;所述纹理图像序列中的首个纹理图像是所接收的纹理图像,针对纹理图像序列中的任意两帧相邻的纹理图像,后一帧纹理图像是所述纹理图像生成模型对前一帧纹理图像的输出结果;其中,所述纹理图像生成模型是以卷积神经网络对纹理图像样本的输出结果趋于视频流样本中与该纹理图像样本对应的下一帧纹理图像为目标,训练所述卷积神经网络得到的;所述纹理图像样本为所述视频流样本中的纹理图像或所述卷积神经网络对所述视频流样本中的纹理图像的输出结果。本申请实施例提供一种动态纹理视频生成方法、装置、服务器及存储介质,通过接收输入的纹理图像,基于接收到的纹理图像和纹理图像生成模型生成纹理图像序列(所述纹理图像序列中的首个纹理图像是所接收的纹理图像,针对纹理图像序列中的任意两帧相邻的纹理图像,后一帧纹理图像是所述纹理图像生成模型对前一帧纹理图像的输出结果),使得可根据纹理图像序列生成动态纹理视频,从而实现了对接收到的纹理图像对应的动态纹理视频的生成,在保证生成的动态纹理视频能够从时间和空间上有效表达图像纹理的基础上,提高了动态纹理视频的生成效率。附图说明为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。图1为本申请实施例提供的一种动态纹理视频生成方法流程图;图2为本申请实施例提供的另一种动态纹理视频生成方法流程图;图3为本申请实施例提供的一种纹理图像序列的生成过程示意图;图4为本申请实施例提供的一种用于生成纹理图像生成模型的生成系统框架图;图5为本申请实施例提供的一种模型生成模块中的卷积神经网络的结构示意图;图6为本申请实施例提供的一种纹理图像生成模型构建方法流程图;图7为本申请实施例提供的一种确定所述输出结果到所述视频流样本的欧式距离的方法流程图;图8为本申请实施例提供的另一种纹理图像生成模型构建方法程图;图9为本申请实施例提供的又一种纹理图像生成模型构建方法流程图;图10为本发明实施例提供的动态纹理视频生成装置的结构框图;图11为本申请实施例提供的一种纹理图像生成模型训练单元的详细结构示意图;图12为服务器的硬件结构框图。具体实施方式下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。实施例:图1为本申请实施例提供的一种动态纹理视频生成方法流程图,该方法可应用于服务器(如动态纹理视频生成服务器,或者其他专门设置的服务设备),由服务器基于接收到的输入的纹理图像生成纹理图像序列,以便于可以通过生成的纹理图像序列生成动态纹理视频。如图1所示,该方法包括:s101、接收输入的纹理图像;可选的,服务器中设置有纹理图像生成模型,所述纹理图像生成模型以卷积神经网络对纹理图像样本的输出结果趋于视频流样本中与该纹理图像样本对应的下一帧纹理图像为目标,训练所述卷积神经网络得到。在本申请实施例中,优选的,纹理图像样本的个数为至少一个,所述纹理图像样本为所述视频流样本中的纹理图像或所述卷积神经网络对所述视频流样本中的纹理图像的输出结果。也就是说,本申请实施例可以采用多个纹理图像样本对卷积神经网络进行训练以生成纹理图像生成模型,并且,这多个纹理图像样本中可以既包括第一纹理图像样本(此处的第一纹理图像样本为视频流样本中的纹理图像),也可以包括第二纹理图像样本【此处的第二纹理图像样本是在对卷积神经网络进行训练的过程中,卷积神经网络对视频流样本中的纹理图像的输出结果(即,在对卷积神经网络进行训练的过程中,将视频流样本中的纹理图像作为输入信息输入至卷积神经网络所得到的输出结果)】。可选的,当纹理图像样本为所述视频流样本中的纹理图像时,将视频流样本中的与该纹理图像样本相邻的下一帧纹理图像,确定为视频流样本中与该纹理图像样本对应的下一帧纹理图像。比如,视频流样本由3个依次排序的纹理图像构成(视频流样本由纹理图像1、纹理图像2和纹理图像3构成,并且,纹理图像1、纹理图像2和纹理图像3依次排序);若纹理图像样本为视频流样本中的纹理图像1时,将视频流样本中的纹理图像2确定为视频流样本中与纹理图像样本对应的下一帧纹理图像。可选的,当纹理图像样本为卷积神经网络对所述视频流样本中的纹理图像的输出结果时,确定视频流样本中与该纹理图像相邻的下一帧纹理图像,进而将视频流样本中与所确定的下一帧纹理图像相邻的下一帧纹理图像作为视频流样本中与该纹理图像样本对应的下一帧纹理图像。比如,视频流样本由3个依次排序的纹理图像构成(视频流样本由纹理图像1、纹理图像2和纹理图像3构成,并且,纹理图像1、纹理图像2和纹理图像3依次排序);若纹理图像样本为卷积神经网络对视频流样本中的纹理图像1的输出结果时,将视频流样本中的纹理图像3确定为视频流样本中与纹理图像样本对应的下一帧纹理图像。在本申请实施例中,优选的,纹理图像生成模型的输入信息是一帧纹理图像,纹理图像生成模型对输入信息的输出结果也是一帧纹理图像,并且,从纹理图像序列生成的角度来看,纹理图像生成模型对输入信息的输出结果是与该输入信息相邻的下一帧纹理图像。也就是说,在生成纹理图像序列的过程中,若纹理图像生成模型的输入信息是待生成的纹理图像序列中的一帧纹理图像(在此称为目标帧纹理图像);那么,纹理图像生成模型对该输入信息的输出结果便是该待生成的纹理图像序列中的与该目标帧纹理图像相邻的下一帧纹理图像。在本申请实施例中,优选的,在接收到用户输入的纹理图像后,首先将接收到的用户输入的该纹理图像作为待生成的纹理图像序列中的首个纹理图像(即,待生成的纹理图像序列中的第一帧纹理图像);将纹理图像生成模型对第一帧纹理图像的输出结果,作为待生成的纹理图像序列中的与第一帧纹理图像相邻的下一帧纹理图像(即,待生成的纹理图像序列中的第二帧纹理图像);并将纹理图像生成模型对第二帧纹理图像的输出结果,作为待生成的纹理图像序列中的与第二帧纹理图像相邻的下一帧纹理图像(即,待生成的纹理图像序列中的第三帧纹理图像);并将纹理图像生成模型对该第三帧纹理图像的输出结果,作为待生成的纹理图像序列中的与该第三帧纹理图像相邻的下一帧纹理图像…以此类推,直至待生成的纹理图像序列中包括的纹理图像的帧数满足要求,便可不再继续执行。s102、基于所述纹理图像和纹理图像生成模型生成纹理图像序列;所述纹理图像序列中的首个纹理图像是所接收的纹理图像,针对纹理图像序列中的任意两帧相邻的纹理图像,后一帧纹理图像是所述纹理图像生成模型对前一帧纹理图像的输出结果。可选的,应用服务器接收到用户输入的纹理图像后,将该接收到的用户输入的纹理图像作为待生成的纹理图像序列中的首个纹理图像,进而根据该待生成的纹理图像序列中的首个纹理图像便可生成纹理图像序列,基于该生成的纹理图像序列便可生成动态纹理视频(该动态纹理视频便是与接收到的输入的纹理图像对应的动态纹理视频)。为了便于对本申请实施例提供的一种动态纹理视频生成方法的理解,现提供另一种动态纹理视频生成方法流程图,请参见图2。如图2所示,该方法包括:s201、接收输入的纹理图像,并将接收到的纹理图像作为待生成纹理图像序列中的首个纹理图像存入所述待生成纹理图像序列;s202、调用纹理图像生成模型,所述纹理图像生成模型是以卷积神经网络对纹理图像样本的输出结果趋于视频流样本中与该纹理图像样本对应的下一帧纹理图像为目标,训练所述卷积神经网络得到的,所述纹理图像样本为所述视频流样本中的纹理图像或所述卷积神经网络对所述视频流样本中的纹理图像的输出结果;可选的,将视频流样本中的纹理图像作为纹理图像样本,以及将卷积神经网络对视频流样本中的纹理图像的输出结果作为纹理图像样本来训练卷积神经网络的方式,使得训练得到的纹理图像生成模型捕获纹理图像的时间-空间信息以生成下一帧纹理图像,实现对图像纹理的时间-空间信息的有效表达,以提高纹理图像生成的精确性。s203、将所述待生成纹理图像序列中的最后一个纹理图像确定为所述纹理图像生成模型的输入信息,输入至所述纹理图像生成模型得到输出结果,并将所述输出结果作为所述待生成纹理图像序列中的最后一个纹理图像存入所述待生成纹理图像序列;s204、确定所述待生成纹理图像序列中的纹理图像的个数是否达到预设动态纹理视频生成条件;若否,执行步骤s203;若是,执行步骤s205;可选的,所述预设动态纹理视频生成条件包括预先设置的用于生成动态纹理视频的纹理图像的个数。也就是说,若确定待生成纹理图像序列中的纹理图像的个数达到预先设置的用于生成动态纹理视频的纹理图像的个数时,则说明所述待生成纹理图像序列中的纹理图像的个数达到预设动态纹理视频生成条件;若确定待生成纹理图像序列中的纹理图像的个数未达到预先设置的用于生成动态纹理视频的纹理图像的个数时,则说明所述待生成纹理图像序列中的纹理图像的个数未达到预设动态纹理视频生成条件。s205、将所述待生成纹理图像序列确定为用于生成动态纹理视频的纹理图像序列。可选的,基于步骤s205中的纹理图像序列便可生成与接收到的纹理图像对应的动态纹理视频。本申请实施例中,优选的,所述服务器可以向用户返回与其输入的纹理图像对应的用于生成动态纹理视频的纹理图像序列,也可以在基于生成的纹理图像序列生成相应的动态纹理视频后,向用户返回动态纹理视频。如图3所示,为本申请实施例提供的一种纹理图像序列的生成过程示意图。参见图3可知,本申请实施例中,服务器接收到用户输入的纹理图像1,将纹理图像1确定为待生成纹理图像序列中的首个纹理图像;将纹理图像1作为输入信息输入至纹理图像生成模型得到输出结果,将输出结果确定为待生成纹理图像序列中与纹理图像1相邻的下一帧纹理图像2;将纹理图像2作为输入信息输入至纹理图像生成模型得到输出结果,将输出结果确定为待生成纹理图像序列中与纹理图像2相邻的下一帧纹理图像3…一直到待生成纹理图像序列中的纹理图像的个数满足预设的动态纹理视频生成条件,则不再将纹理图像生成模型当前的输出结果作为输入信息输入至所述纹理图像生成模型。在本申请实施例中,优选的,将纹理图像生成模型对待生成纹理图像序列中当前最后一帧纹理图像的输出结果,作为待生成纹理图像序列中新的最后一帧纹理图像,实现了纹理图像序列生成过程中的前向传播,相对于现有技术采用的迭代-优化方式而言,有效提高了纹理图像序列的生成效率、即,提高了动态纹理视频的生成效率。图4为本申请实施例提供的一种用于生成纹理图像生成模型的生成系统框架图。如图4所示,所述生成系统包括:存储模块41、模型生成模块42、第一构建模块43、第二构建模块44以及合成模块45。其中,所述模型生成模块中设置有卷积神经网络,卷积神经网络用于将一帧纹理图像作为输入信息输入至所述卷积神经网络得到输出结果;存储模块不仅用于存储包括至少一个纹理图像的视频流样本,还用于存储卷积神经网络的输出结果。相应的,模型生成模块从存储模块中确定一张纹理图像作为卷积神经网络的输入信息输入至卷积神经网络,得到输出结果;第一构建模块用于接收所述卷积神经网络的输入信息和输出信息,并根据视频流样本构建第一损失函数;第二构建模块用于接收所述卷积神经网络的输入信息和输出信息,并基于接收到的输入信息和输出信息构建第二损失函数;合成模块用于接收第一构建模块构建的第一损失函数和第二构建模块构建的第二损失函数,并根据第一损失函数和第二损失函数构建联合损失函数,并基于构建的联合损失函数对所述卷积神经网络中的参数进行优化,以使得卷积神经网络生成接近真实的纹理图像。在本申请实施例中,优选的,第一构建模块为vgg19网络模块。图5为本申请实施例提供的一种模型生成模块中的卷积神经网络的结构示意图。如图5所示,卷积神经网络包括至少一个用于对视频流的时空信息进行捕获的控制门残差模块51,所述控制门残差模块51由并联的控制门支路61、卷积层支路62和加法层63构成,其中,所述控制门支路包括卷积模块71,所述卷积层支路包括至少一个串联的卷积模块71,所述卷积模块71包括卷积层81、实例化规一层82和激活函数层83。在本申请实施例中,优选的,控制门支路残差模块的支路结构请参见表1,其中,卷积层支路-1对应卷积层支路中串联的第一个卷积模块,卷积层支路-2对应卷积层支路中串联的第二个卷积模块。表1支路层类别尺寸步长通道数激活函数卷积层支路-1conv3148relu卷积层支路-2conv3148relu控制门支路conv3148relu加法层----在本申请实施例中,优选的,卷积神经网络中的卷积模块包括卷积层、实例化规一层和激活函数层(如图5所示,除第一个卷积模块和最后一个卷积模块不包含实例化规一层)。具体的,卷积神经网络的结构请参见表2。表2其中,relu为线性整流函数,tanh为反切函数。在本申请实施例中,基于上述实施例提供的卷积神经网络的结构,提供一种纹理图像生成模型构建方法,具体请参见图6。如图6所示,该方法包括:s601、获取视频流样本,所述视频流样本由至少一个依次排序的纹理图像构成;s602、确定纹理图像样本;s603、获取卷积神经网络对纹理图像样本的输出结果;s604、确定所述输出结果到所述视频流样本的欧式距离;图7为本申请实施例提供的一种确定所述输出结果到所述视频流样本的欧式距离的方法流程图。如图7所示,该方法包括:s701、确定由所述纹理图像样本与所述输出结果构成的格拉姆矩阵;假设纹理图像样本为输入帧xt,卷积神经网络对纹理图像样本xt的输出结果为生成帧分别将输入帧xt和生成帧输入到第一构建模块(vgg19网络)中,获取第一构建模块每个卷积模块的第一线性整流函数(relu)的输出,对应层名为:“relu1_1”,“relu2_1”,“relu3_1”,“relu4_1”和“relu5_1”。对于每一层l,输入为x,其特征记为φl(x),那么对于输入帧xt和生成帧生成时空-格拉姆矩阵为:其中,ml为特征φ(x)的长和宽的乘积,即ml=hl×wl。s702、确定用于表征所述视频流样本的平均格拉姆矩阵;可选的,对于视频流样本,使用平均格拉姆矩阵(在此称为平均的时空-格拉姆矩阵)表征,即:s703、通过最小化所述平均格拉姆矩阵和所述格拉姆矩阵的欧氏距离,构造用于表征所述输出结果到所述视频流样本的欧式距离的第一损失函数。可选的,通过最小化平均的时空-格拉姆矩阵和生成时空-格拉姆矩阵的欧氏距离构造第一损失函数。所述第一损失函数为:其中,|l|为特征数目,本方案中可以为5,nl为特征φl(x)的通道数。s605、以最小化所述欧式距离为训练目标,更新所述卷积神经网络的参数,直至递归卷积神经网络达到收敛,得到纹理图像生成模型。图8为本申请实施例提供的另一种纹理图像生成模型构建方法程图。如图8所示,该方法包括:s801、获取视频流样本,所述视频流样本由至少一个依次排序的纹理图像构成;s802、确定纹理图像样本;s803、获取卷积神经网络对纹理图像样本的输出结果;s804、确定所述输出结果到所述视频流样本的欧式距离;s805、确定所述视频流样本中与所述输出结果对应的下一帧纹理图像;s806、确定所述输出结果到所确定的下一帧纹理图像的映射距离;在本申请实施例中,优选的,所述确定所述输出结果到所确定的下一帧纹理图像的映射距离,包括:通过最小化所述输出结果到所确定的下一帧纹理图像的映射距离,构造用于表征所述输出结果到所确定的下一帧纹理图像的映射距离的第二损失函数。可选的,采用最小二程的对抗生成网络损失函数对模型生成模块和第一构建模块进行训练,目的是为了提升生成纹理图片的视觉质量。具体而言,对于第一构建模块d,其目标是判别输入的纹理图片样本是视频流样本中真实的纹理图片x,还是卷积神经网络生成的输出结果纹理图片其损失函数定义为:其中,ngt为输入真实图片的数目,ngen为输入生成图片的数目,f为卷积神经网络(即,生成网络)。对于模型生成模块中的卷积神经网络,其目标是生成出使得第一构建模块判别错误的纹理图片,具体的,第二损失函数定义为:s807、以最小化所述欧氏距离和映射距离的总和为训练目标,更新所述卷积神经网络的参数,直至递归卷积神经网络达到收敛,得到纹理图像生成模型。可选的,可以通过基于第一损失函数和第二损失函数构造联合损失函数,以对我们提出的卷积神经网络框架进行参数优化,使得该卷积神经网络能生成接近真实的动态纹理视频。可选的,联合损失函数为:其中λ=0.05,用于平衡第一损失函数和第二损失函数的贡献。图9为本申请实施例提供的又一种纹理图像生成模型构建方法流程图。如图9所示,该方法包括:s901、获取视频流样本,所述视频流样本由至少一个依次排序的纹理图像构成;s902、确定至少两个纹理图像样本;s903、分别获取卷积神经网络对每个纹理图像样本的输出结果;s904、分别确定每个所述输出结果到所述视频流样本的欧式距离;s905、基于所确定各个所述欧式距离,确定平均欧式距离;可选的,基于所确定的各个所述欧式距离确定平均欧式距离的方式包括:计算所确定的各个欧式距离的总和,利用计算得到的总和除以所述至少两个纹理图像样本中纹理图像样本的数量,所得的结果为平均欧式距离。可选的,在执行完成步骤s905后,可以以最小化所述平均欧式距离为训练目标,更新所述卷积神经网络的参数,直至递归卷积神经网络达到收敛,得到纹理图像生成模型。进一步的,在本申请实施例提供的一种纹理图像生成模型构建方法中,还可以执行步骤s906。s906、确定所述视频流样本中与所述输出结果对应的下一帧纹理图像;s907、确定所述输出结果到所确定的下一帧纹理图像的映射距离;s908、计算所确定的各个映射距离的平均映射距离;可选的,计算所确定的各个映射距离的平均映射距离的方式包括:计算所确定的各个映射距离的总和,利用计算得到的总和除以所述至少两个纹理图像样本中纹理图像样本的数量,所得的结果作为平均映射距离。s909、以最小化所述平均欧式距离和平均映射距离的总和为训练目标,更新所述卷积神经网络的参数,直至递归卷积神经网络达到收敛,得到纹理图像生成模型。可选的,若不执行步骤s906-s907,则以最小化所述平均欧式距离为训练目标,更新所述卷积神经网络的参数,直至递归卷积神经网络达到收敛,得到纹理图像生成模型;若执行步骤s906-s907则以最小化所述平均欧式距离和平均映射距离的总和为训练目标,更新所述卷积神经网络的参数,直至递归卷积神经网络达到收敛,得到纹理图像生成模型。本申请实施例提供一种动态纹理视频生成方法,通过接收输入的纹理图像,基于接收到的纹理图像和纹理图像生成模型生成纹理图像序列(所述纹理图像序列中的首个纹理图像是所接收的纹理图像,针对纹理图像序列中的任意两帧相邻的纹理图像,后一帧纹理图像是所述纹理图像生成模型对前一帧纹理图像的输出结果),使得可根据纹理图像序列生成动态纹理视频,从而实现了对接收到的纹理图像对应的动态纹理视频的生成,在保证生成的动态纹理视频能够从时间和空间上有效表达图像纹理的基础上,提高了动态纹理视频的生成效率。下面对本发明实施例提供的动态纹理视频生成装置进行介绍,下文描述的动态纹理视频生成装置可认为是,服务器为实现本发明实施例提供的动态纹理视频生成方法,所需设置的程序模块。下文描述的动态纹理视频生成装置内容,可与上文描述的动态纹理视频生成方法内容相互对应参照。图10为本发明实施例提供的动态纹理视频生成装置的结构框图,该装置可应用于服务器,参照图10,该动态纹理视频生成装置可以包括:纹理图像接收单元101,用于接收输入的纹理图像;纹理图像序列生成单元102,用于基于所述纹理图像和纹理图像生成模型生成纹理图像序列;所述纹理图像序列中的首个纹理图像是所接收的纹理图像,针对纹理图像序列中的任意两帧相邻的纹理图像,后一帧纹理图像是所述纹理图像生成模型对前一帧纹理图像的输出结果;其中,所述纹理图像生成模型是以卷积神经网络对纹理图像样本的输出结果趋于视频流样本中与该纹理图像样本对应的下一帧纹理图像为目标,训练所述卷积神经网络得到的;所述纹理图像样本为所述视频流样本中的纹理图像或所述卷积神经网络对所述视频流样本中的纹理图像的输出结果。本申请实施例提供的一种动态纹理视频生成装置还包括纹理图像生成模型训练单元。图11为本申请实施例提供的一种纹理图像生成模型训练单元的详细结构示意图,如图11所示,该纹理图像生成模型训练单元包括:视频流样本获取单元111,用于获取视频流样本,所述视频流样本由至少一个依次排序的纹理图像构成;纹理图像样本确定单元112,用于确定纹理图像样本;输出结果确定单元113,用于获取卷积神经网络对纹理图像样本的输出结果;欧式距离确定单元114,用于确定所述输出结果到所述视频流样本的欧式距离;递归单元115,用于以最小化所述欧式距离为训练目标,更新所述卷积神经网络的参数,直至递归卷积神经网络达到收敛,得到纹理图像生成模型。进一步的,本申请实施例提供的一种所述纹理图像生成模型训练单元还包括映射距离确定单元,所述映射距离确定单元,用于:确定所述视频流样本中与所述输出结果对应的下一帧纹理图像;确定所述输出结果到所确定的下一帧纹理图像的映射距离;所述递归单元,具体用于:以最小化所述欧氏距离和映射距离的总和为训练目标,更新所述卷积神经网络的参数,直至递归卷积神经网络达到收敛,得到纹理图像生成模型。可选的,所述欧式距离确定单元具体用于:确定由所述纹理图像样本与所述输出结果构成的格拉姆矩阵;确定用于表征所述视频流样本的平均格拉姆矩阵;通过最小化所述平均格拉姆矩阵和所述格拉姆矩阵的欧氏距离,构造用于表征所述输出结果到所述视频流样本的欧式距离的第一损失函数;可选的,所述映射单元具体用于:通过最小化所述输出结果到所确定的下一帧纹理图像的映射距离,构造用于表征所述输出结果到所确定的下一帧纹理图像的映射距离的第二损失函数。在本申请实施例中,优选的,所述纹理图像生成模型训练单元还包括平均欧式距离确定单元,所述平均欧式距离确定单元,用于基于所确定的分别与每个纹理图像样本对应的欧式距离,确定平均欧式距离;所述递归单元具体用于:以最小化所述平均欧式距离为训练目标,更新所述卷积神经网络的参数,直至递归卷积神经网络达到收敛,得到纹理图像生成模型。在本申请实施例中,优选的,所述纹理图像生成模型训练单元还包括平均映射距离确定单元,所述平均映射距离确定单元,用于基于所确定的分别与每个所述纹理图像样本对应的映射距离,确定平均映射距离;所述递归单元具体用于以最小化所述平均欧式距离和平均映射距离的总和为训练目标,更新所述卷积神经网络的参数,直至递归卷积神经网络达到收敛,得到纹理图像生成模型。在本申请实施例中,优选的,所述卷积神经网络包括至少一个用于对视频流的时空信息进行捕获的控制门残差模块,所述控制门残差模块由并联的控制门支路、卷积层支路和加法层构成;所述控制门支路包括卷积模块,所述卷积层支路包括至少一个串联的卷积模块;所述卷积模块包括卷积层、实例化规一层和激活函数层。本发明实施例提供的动态纹理视频生成装置可应用于服务器;可选的,图12示出了服务器的硬件结构框图,参照图12,服务器的硬件结构可以包括:至少一个处理器121,至少一个通信接口122,至少一个存储器123和至少一个通信总线124;在本发明实施例中,处理器121、通信接口122、存储器123、通信总线124的数量为至少一个,且处理器121、通信接口122、存储器3通过通信总线124完成相互间的通信;处理器121可能是一个中央处理器cpu,或者是特定集成电路asic(applicationspecificintegratedcircuit),或者是被配置成实施本发明实施例的一个或多个集成电路等;存储器123可能包含高速ram存储器,也可能还包括非易失性存储器(non-volatilememory)等,例如至少一个磁盘存储器;其中,存储器存储有程序,处理器可调用存储器存储的程序,所述程序用于:接收输入的纹理图像;基于所述纹理图像和纹理图像生成模型生成纹理图像序列;所述纹理图像序列中的首个纹理图像是所接收的纹理图像,针对纹理图像序列中的任意两帧相邻的纹理图像,后一帧纹理图像是所述纹理图像生成模型对前一帧纹理图像的输出结果;其中,所述纹理图像生成模型是以卷积神经网络对纹理图像样本的输出结果趋于视频流样本中与该纹理图像样本对应的下一帧纹理图像为目标,训练所述卷积神经网络得到的;所述纹理图像样本为所述视频流样本中的纹理图像或所述卷积神经网络对所述视频流样本中的纹理图像的输出结果。可选的,所述程序的细化功能和扩展功能可参照上文描述。本发明实施例还提供一种存储介质,该存储介质可存储有适于处理器执行的程序,所述程序用于:接收输入的纹理图像;基于所述纹理图像和纹理图像生成模型生成纹理图像序列;所述纹理图像序列中的首个纹理图像是所接收的纹理图像,针对纹理图像序列中的任意两帧相邻的纹理图像,后一帧纹理图像是所述纹理图像生成模型对前一帧纹理图像的输出结果;其中,所述纹理图像生成模型是以卷积神经网络对纹理图像样本的输出结果趋于视频流样本中与该纹理图像样本对应的下一帧纹理图像为目标,训练所述卷积神经网络得到的;所述纹理图像样本为所述视频流样本中的纹理图像或所述卷积神经网络对所述视频流样本中的纹理图像的输出结果。可选的,所述程序的细化功能和扩展功能可参照上文描述。本申请实施例提供一种动态纹理视频生成装置、服务器及存储介质,通过接收输入的纹理图像,基于接收到的纹理图像和纹理图像生成模型生成纹理图像序列(所述纹理图像序列中的首个纹理图像是所接收的纹理图像,针对纹理图像序列中的任意两帧相邻的纹理图像,后一帧纹理图像是所述纹理图像生成模型对前一帧纹理图像的输出结果),使得可根据纹理图像序列生成动态纹理视频,从而实现了对接收到的纹理图像对应的动态纹理视频的生成,在保证生成的动态纹理视频能够从时间和空间上有效表达图像纹理的基础上,提高了动态纹理视频的生成效率。本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可。对于实施例公开的装置而言,由于其与实施例公开的方法相对应,所以描述的比较简单,相关之处参见方法部分说明即可。专业人员还可以进一步意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。结合本文中所公开的实施例描述的方法或算法的步骤可以直接用硬件、处理器执行的软件模块,或者二者的结合来实施。软件模块可以置于随机存储器(ram)、内存、只读存储器(rom)、电可编程rom、电可擦除可编程rom、寄存器、硬盘、可移动磁盘、cd-rom、或
技术领域
内所公知的任意其它形式的存储介质中。对所公开的实施例的上述说明,使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本发明的核心思想或范围的情况下,在其它实施例中实现。因此,本发明将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。当前第1页12
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1