视频处理方法、装置、电子设备及存储介质与流程

文档序号:19658615发布日期:2020-01-10 20:47阅读:177来源:国知局
视频处理方法、装置、电子设备及存储介质与流程

本申请实施例涉及计算机技术领域,尤其涉及一种视频处理方法、装置、电子设备及存储介质。



背景技术:

近来,随着短视频行业的不断发展以及实时渲染技术的不断提高,用户在拍摄短视频的过程中,可以实时的对画面添加一些视觉特效,以增加短视频的观赏性。如,在拍摄人像画面短视频时,可以对画面中的人物添加一些贴妆素材特效,以提高人物美观度。

相关技术中,在短视频画面中添加的视觉特效的展示效果相对较为固定,若用户想要对该视觉特效的展示效果强度进行调整,可以通过更换其他的视觉特效,或通过调整该视觉特效对应的展示效果强度进度条,设置相应的展示效果强度参数来实现。

但是,目前方案中,用户在调整视觉特效的展示效果强度时,需要花时间进行更换操作或进行参数设置操作,使得用户调整视觉特效的展示效果强度的方式较为繁琐。



技术实现要素:

本申请实施例提供一种视频处理方法、装置、电子设备及存储介质,以解决相关技术中用户调整视觉特效的展示效果强度的方式较为繁琐的问题。

第一方面,本申请实施例提供了一种视频处理方法,该方法包括:

确定视频中的特效视频帧,所述特效视频帧的目标特征区域中设置有预设特效贴图;

在检测到所述目标特征区域中存在遮挡区域的情况下,修改所述目标特征区域中的特效贴图的展示效果。

可选的,提取所述特效视频帧对应的掩码图;

若所述掩码图的目标特征区域中存在所述遮挡区域,则根据所述特效视频帧对应的拓扑关系信息、所述掩码图和预设的合法关键点,确定所述特效视频帧的权重值;

根据所述特效视频帧和所述权重值,生成对应的替换视频帧;

将所述替换视频帧替换所述视频中对应的特效视频帧。

可选的,所述根据所述特效视频帧对应的拓扑关系信息、所述掩码图和预设的合法关键点,确定所述特效视频帧的权重值,包括:

根据所述拓扑关系信息、所述掩码图和所述合法关键点,将所述视频帧图像对应的掩码图映射至预设尺寸的空图层中;

在对所述空图层设置预设大小的透明度之后,根据所述空图层的通道信息,得到所述特效视频帧的权重值。

可选的,在根据所述拓扑关系信息、所述掩码图和所述合法关键点,将所述视频帧图像对应的掩码图映射至预设尺寸的空图层中之前,所述方法还包括:

获取所述预设尺寸的合法图像,所述合法图像中包括所述目标特征区域;

在所述合法图像的目标特征区域中,提取所述合法关键点。

可选的,在对所述空图层设置预设大小的透明度之后,根据所述空图层的通道信息,得到所述特效视频帧的权重值之后,所述方法还包括:

提取所述空图层中每个像素点的像素值;

根据每个所述像素点对应的像素值,确定移动面积值;

若所述移动面积值大于或等于预设阈值,则将所述特效视频帧中的所述特效贴图替换为其他特效贴图。

可选的,所述根据每个所述像素点对应的像素值,确定移动面积值,包括:

从所有像素点中,确定像素值大于或等于预设阈值的多个目标像素点;

将所述多个目标像素点的像素值之和,与所述目标像素点的数量之间的比值,作为所述移动面积值。

可选的,所述提取所述空图层中每个像素点的像素值,包括:

通过图形处理器将所述空图层发送至中央处理器;

通过所述中央处理器提取所述空图层中每个像素点的像素值。

可选的,若所述掩码图的目标特征区域中存在遮挡区域,则根据所述特效视频帧对应的拓扑关系信息、所述掩码图和预设的合法关键点,确定所述特效视频帧的权重值,包括:

若所述掩码图的目标特征区域中存在非掩码区域,则根据所述特效视频帧对应的拓扑关系信息、所述掩码图和所述预设的合法关键点,确定所述特效视频帧的权重值。

可选的,在若所述掩码图的目标特征区域中存在遮挡区域,则根据所述特效视频帧对应的拓扑关系信息、所述掩码图和预设的合法关键点,确定所述特效视频帧的权重值之前,所述方法还包括:

按照预设时间周期,提取所述视频中的多个视频帧;

采集所述视频帧中所述目标特征区域的多个目标关键点;

将所述多个目标关键点之间的相对位置矢量信息,作为所述拓扑关系信息。

可选的,在若所述掩码图的目标特征区域中存在遮挡区域,则根据所述特效视频帧对应的拓扑关系信息、所述掩码图和预设的合法关键点,确定所述特效视频帧的权重值之前,还包括:

按照预设倍数,增加所述掩码图的尺寸;

对所述掩码图进行模糊处理。

第二方面,本申请实施例提供了一种视频处理装置,该装置包括:

确定模块,用于确定视频中的特效视频帧,所述特效视频帧的目标特征区域中设置有预设特效贴图;

修正模块,用于在检测到所述目标特征区域中存在遮挡区域的情况下,修改所述目标特征区域中的特效贴图的展示效果。

可选的,所述修正模块包括:

第一提取子模块,用于提取所述特效视频帧对应的掩码图;

权重子模块,用于若所述掩码图的目标特征区域中存在所述遮挡区域,则根据所述特效视频帧对应的拓扑关系信息、所述掩码图和预设的合法关键点,确定所述特效视频帧的权重值;

生成子模块,用于根据所述特效视频帧和所述权重值,生成对应的替换视频帧;

替换子模块,用于将所述替换视频帧替换所述视频中对应的特效视频帧。

可选的,所述权重子模块包括:

映射单元,用于根据所述拓扑关系信息、所述掩码图和所述合法关键点,将所述视频帧图像对应的掩码图映射至预设尺寸的空图层中;

权重单元,用于在对所述空图层设置预设大小的透明度之后,根据所述空图层的通道信息,得到所述特效视频帧的权重值。

可选的,所述权重子模块还包括:

获取单元,用于获取所述预设尺寸的合法图像,所述合法图像中包括所述目标特征区域;

第一提取单元,用于在所述合法图像的目标特征区域中,提取所述合法关键点。

可选的,所述权重子模块还包括:

第二提取单元,用于提取所述空图层中每个像素点的像素值;

确定单元,用于根据每个所述像素点对应的像素值,确定移动面积值;

替换单元,用于若所述移动面积值大于或等于预设阈值,则将所述特效视频帧中的所述特效贴图替换为其他特效贴图。

可选的,所述确定单元具体用于:从所有像素点中,确定像素值大于或等于预设阈值的多个目标像素点;

将所述多个目标像素点的像素值之和,与所述目标像素点的数量之间的比值,作为所述移动面积值。

可选的,所述第二提取单元具体用于:

通过图形处理器将所述空图层发送至中央处理器;

通过所述中央处理器提取所述空图层中每个像素点的像素值。

可选的,所述权重子模块具体用于:

若所述掩码图的目标特征区域中存在非掩码区域,则根据所述特效视频帧对应的拓扑关系信息、所述掩码图和所述预设的合法关键点,确定所述特效视频帧的权重值。

可选的,所述修正模块还包括:

第二提取子模块,用于按照预设时间周期,提取所述视频中的多个视频帧;

采集子模块,用于采集所述视频帧中所述目标特征区域的多个目标关键点;

位置确定子模块,用于将所述多个目标关键点之间的相对位置矢量信息,作为所述拓扑关系信息。

可选的,所述修正模块还包括:

放大子模块,用于按照预设倍数,增加所述掩码图的尺寸;

模糊子模块,用于对所述掩码图进行模糊处理。

第三方面,本申请实施例还提供了一种电子设备,包括处理器、存储器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述计算机程序被所述处理器执行时实现如本申请提供的视频处理方法的步骤。

第四方面,本申请实施例还提供了一种存储介质,当所述存储介质中的指令由电子设备的处理器执行时,使得电子设备能够执行如本申请提供的视频处理方法的步骤。

第五方面,本申请实施例还提供了一种应用程序,所述应用程序由电子设备的处理器执行时,实现如本申请提供的视频处理方法的步骤。

在本申请实施例中,可以确定视频中的特效视频帧,特效视频帧的目标特征区域中设置有预设特效贴图;在检测到目标特征区域中存在遮挡区域的情况下,修改目标特征区域中的特效贴图的展示效果。本申请通过遮挡具有特效贴图的区域,来实现对该区域中的特效贴图进行实时的特效展示强度调整,用户可以通过用肢体或其他物体遮挡具有特效贴图的区域,来实现对该区域中的特效贴图进行实时的特效展示强度调整,整个调整过程只需要用户进行画面遮挡,不需要用户进行相关参数的设置,简化了特效展示强度调整的流程,提高了特效展示强度调整的流畅度。

上述说明仅是本申请技术方案的概述,为了能够更清楚了解本申请的技术手段,而可依照说明书的内容予以实施,并且为了让本申请的上述和其它目的、特征和优点能够更明显易懂,以下特举本申请的具体实施方式。

附图说明

通过阅读下文优选实施方式的详细描述,各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的,而并不认为是对本申请的限制。而且在整个附图中,用相同的参考符号表示相同的部件。在附图中:

图1是本申请实施例提供的一种视频处理方法的步骤流程图;

图2是本申请实施例提供的另一种视频处理方法的步骤流程图;

图3是本申请实施例提供的一种掩码图;

图4是本申请实施例提供的另一种视频处理方法的步骤流程图;

图5是本申请实施例提供的一种视频处理装置的框图;

图6是本申请一个实施例的电子设备的逻辑框图;

图7是本申请另一个实施例的电子设备的逻辑框图。

具体实施方式

下面将参照附图更详细地描述本申请的示例性实施例。虽然附图中显示了本申请的示例性实施例,然而应当理解,可以以各种形式实现本申请而不应被这里阐述的实施例所限制。相反,提供这些实施例是为了能够更透彻地理解本申请,并且能够将本申请的范围完整的传达给本领域的技术人员。

图1是本申请实施例提供的一种视频处理方法的步骤流程图,如图1所示,该方法可以包括:

步骤101,确定视频中的特效视频帧,所述特效视频帧的目标特征区域中设置有预设特效贴图。

在本申请实施例中,视频的拍摄可以通过移动终端的短视频应用,调用移动终端的摄像头进行实现,并且,在短视频应用中,预置了很多数量的特效贴图,用户可以选择对应的特效贴图,并附加在视频画面中,以增加视频画面的美观度。

具体的,可以通过实时的图形渲染技术,将特效贴图渲染至视频帧对应的空图层中,得到特效视频帧。

例如,对于人像视频画面来说,假设用户确定了眼部贴妆特效贴图a和唇部贴妆特效贴图b,则可以在视频的一个视频帧中,将眼部贴妆特效贴图a渲染至该视频帧的图层a中,将唇部贴妆特效贴图b渲染至该视频帧的图层b中,从而得到特效视频帧(a+a)和特效视频帧(b+b)。

步骤102,在检测到所述目标特征区域中存在遮挡区域的情况下,修改所述目标特征区域中的特效贴图的展示效果。

在本申请实施例中,可以通过检测目标特征区域中是否存在遮挡区域,来判断是否进一步进行对目标特征区域中预设特效贴图的展示效果进行调整的操作,若目标特征区域中存在遮挡区域,则进一步进行对目标特征区域中预设特效贴图的展示效果进行调整的操作;若目标特征区域中不存在遮挡区域,则忽略。

具体的,检测目标特征区域中是否存在遮挡区域,可以通过提取特效视频帧对应的掩码图(mask)进行实现,掩码图的确定,是通过选定的图像、图形或物体,对处理的图像(全部或局部)进行遮挡,来控制图像处理的区域或处理过程。其中,掩码图用于提取待处理图像中的感兴趣区,即用预先制作的感兴趣区掩码与待处理图像相乘,得到感兴趣区图像,感兴趣区内图像值保持不变,而区外图像值都为0。掩码图还具有屏蔽作用,用掩码对图像上某些区域作屏蔽,使其不参加处理或不参加处理参数的计算,或仅对屏蔽区作处理或统计。掩码图还可以实现结构特征提取,即用相似性变量或图像匹配方法检测和提取图像中与掩码相似的结构特征。

在具体实现中,在特效视频帧中,提取目标特征区域对应的掩码图,可以通过开源计算机视觉库(opencv,opensourcecomputervisionlibrary)中相关的提取掩码图的代码实现,通过在opencv中输入一张特效视频帧图像,并划分一个目标特征区域,即可输出得到目标特征区域对应的掩码图。对于视频中的人像处理来说,目标特征区域可以为人脸区域。

进一步的,若掩码图中检测到存在遮挡区域,则可以根据特效视频帧对应的拓扑关系信息、掩码图和预设的合法关键点,确定特效视频帧的权重值。

其中,在对人像进行处理的场景下,特效视频帧可以为人脸图像,人脸图像对应的拓扑关系信息的获取可以包括:通过人脸检测技术,选取人脸图像中的多个关键点,并在多个关键点的基础上,进一步确定拓展点以及多个关键点之间的网格拓扑连接关系,从而得到特效视频帧对应的拓扑关系信息。

另外,合法关键点的确定可以包括:选取一张标准人脸图像,应用人脸检测技术,选取标准人脸图像中的多个标准关键点,将多个标准关键点作为合法关键点。

在本申请实施例中,根据特效视频帧对应的拓扑关系信息、掩码图和预设的合法关键点,确定特效视频帧的权重值,具体包括:根据合法关键点和拓扑关系信息所表达的映射关系,将掩码图映射至预设大小的空图层中,在对空图层设置对应的透明度后,空图层记录了当前时刻以前,所有的渲染操作对特效视频帧中特效贴图的渲染结果,且该结果可以由空图层的通道信息反映出来。因此,可以通过空图层的通道信息,进一步确定特效视频帧的权重值。

进一步的,若仅有一个特效视频帧,则在确定了特效视频帧和特效视频帧的权重值之后,可以将特效视频帧中特效贴图的相关参数与权重值进行相乘,得到修改后的替换视频帧,其中替换视频帧相对于原有的特效视频帧,其中的特效贴图的特效展示强度发生了改变,根据权重值的不同,特效展示强度发生的改变包括但不限于增强、减弱、完全擦除等。

若有多个特效视频帧,则在确定了特效视频帧和特效视频帧的权重值之后,可以将多个特效视频帧进行加权混合(mix)处理,得到一个混合后的替换视频帧。混合后的替换视频帧中,具有多个特效贴图,且不同的特效贴图根据对应不同的权重值,在替换视频帧中具有不同的展示效果。

进一步的,将替换视频帧替换视频中对应的特效视频帧之后,在播放视频的过程中,视频中对应的特效贴图在权重值的作用下,发生了特效展示强度的改变,达到了对特效贴图进行特效展示强度修改的目的。

综上所述,本申请实施例提供的一种视频处理方法,可以确定视频中的特效视频帧,特效视频帧的目标特征区域中设置有预设特效贴图;在检测到目标特征区域中存在遮挡区域的情况下,修改目标特征区域中的特效贴图的展示效果。本申请通过遮挡具有特效贴图的区域,来实现对该区域中的特效贴图进行实时的特效展示强度调整,用户可以通过用肢体或其他物体遮挡具有特效贴图的区域,来实现对该区域中的特效贴图进行实时的特效展示强度调整,整个调整过程只需要用户进行画面遮挡,不需要用户进行相关参数的设置,简化了特效展示强度调整的流程,提高了特效展示强度调整的流畅度。

图2是本申请实施例提供的一种视频处理方法的步骤流程图,如图2所示,该方法可以包括:

步骤201,确定视频中的特效视频帧。

该步骤具体可以参照上述步骤101,此处不再赘述。

步骤202,提取所述特效视频帧对应的掩码图。

在本申请实施例中,掩码图(mask)的确定,是通过选定的图像、图形或物体,对处理的图像(全部或局部)进行遮挡,来控制图像处理的区域或处理过程。其中,掩码图用于提取待处理图像中的感兴趣区,即用预先制作的感兴趣区掩码与待处理图像相乘,得到感兴趣区图像,感兴趣区内图像值保持不变,而区外图像值都为0。掩码图还具有屏蔽作用,用掩码对图像上某些区域作屏蔽,使其不参加处理或不参加处理参数的计算,或仅对屏蔽区作处理或统计。掩码图还可以实现结构特征提取,即用相似性变量或图像匹配方法检测和提取图像中与掩码相似的结构特征。

在具体实现中,在特效视频帧中,提取目标特征区域对应的掩码图,可以通过开源计算机视觉库(opencv,opensourcecomputervisionlibrary)中相关的提取掩码图的代码实现,通过在opencv中输入一张特效视频帧图像,并划分一个目标特征区域,即可输出得到目标特征区域对应的掩码图。对于视频中的人像处理来说,目标特征区域可以为人脸区域。

参照图3,其示出了本申请实施例提供的一种掩码图,其中,图3展示了一个对人像图像的人脸区域20提取得到的掩码图10,且用户在拍摄人像图像时,用手指遮挡住了一部分面部区域,使得掩码图10中存在对应的手部遮挡区域30。在该掩码图10中,人脸区域20除去手部遮挡区域30之外的区域可以作为掩码区域,从而避免后期对人脸区域20中的贴妆特效进行的处理操作干扰到掩码区域。

步骤203、若所述掩码图的目标特征区域中存在所述遮挡区域,则根据所述特效视频帧对应的拓扑关系信息、所述掩码图和预设的合法关键点,确定所述特效视频帧的权重值。

在该步骤中,参照图3,若掩码图10中检测到存在遮挡区域30,则可以根据特效视频帧对应的拓扑关系信息、掩码图和预设的合法关键点,确定特效视频帧的权重值。

其中,在对人像进行处理的场景下,特效视频帧可以为人脸图像,人脸图像对应的拓扑关系信息的获取可以包括:通过人脸检测技术,选取人脸图像中的多个关键点,并在多个关键点的基础上,进一步确定拓展点以及多个关键点之间的网格拓扑连接关系,从而得到特效视频帧对应的拓扑关系信息。

另外,合法关键点的确定可以包括:选取一张标准人脸图像,应用人脸检测技术,选取标准人脸图像中的多个标准关键点,将多个标准关键点作为合法关键点。

在本申请实施例中,根据特效视频帧对应的拓扑关系信息、掩码图和预设的合法关键点,确定特效视频帧的权重值,具体包括:根据合法关键点和拓扑关系信息所表达的映射关系,将掩码图映射至预设大小的空图层中,在对空图层设置对应的透明度后,空图层记录了当前时刻以前,所有的渲染操作对特效视频帧中特效贴图的渲染结果,且该结果可以由空图层的通道信息反映出来。因此,可以通过空图层的通道信息,进一步确定特效视频帧的权重值。

步骤204、根据所述特效视频帧和所述权重值,生成对应的替换视频帧。

在该步骤中,若仅有一个特效视频帧,则在确定了特效视频帧和特效视频帧的权重值之后,可以将特效视频帧中特效贴图的相关参数与权重值进行相乘,得到修改后的替换视频帧,其中替换视频帧相对于原有的特效视频帧,其中的特效贴图的特效展示强度发生了改变,根据权重值的不同,特效展示强度发生的改变包括但不限于增强、减弱、完全擦除等。

若有多个特效视频帧,则在确定了特效视频帧和特效视频帧的权重值之后,可以将多个特效视频帧进行加权混合(mix)处理,得到一个混合后的替换视频帧。混合后的替换视频帧中,具有多个特效贴图,且不同的特效贴图根据对应不同的权重值,在替换视频帧中具有不同的展示效果。

步骤205、将所述替换视频帧替换所述视频中对应的特效视频帧。

在该步骤中,将替换视频帧替换视频中对应的特效视频帧之后,在播放视频的过程中,视频中对应的特效贴图在权重值的作用下,发生了特效展示强度的改变,达到了对特效贴图进行特效展示强度修改的目的。

综上所述,本申请实施例提供的一种视频处理方法,可以确定视频中的特效视频帧,特效视频帧的目标特征区域中设置有预设特效贴图;在检测到目标特征区域中存在遮挡区域的情况下,修改目标特征区域中的特效贴图的展示效果。本申请通过遮挡具有特效贴图的区域,来实现对该区域中的特效贴图进行实时的特效展示强度调整,用户可以通过用肢体或其他物体遮挡具有特效贴图的区域,来实现对该区域中的特效贴图进行实时的特效展示强度调整,整个调整过程只需要用户进行画面遮挡,不需要用户进行相关参数的设置,简化了特效展示强度调整的流程,提高了特效展示强度调整的流畅度。

图4是本申请实施例提供的另一种视频处理方法的步骤流程图,如图4所示,该方法可以包括:

步骤301、确定视频中的特效视频帧。

本步骤的实现方式与上述步骤101的实现过程类似,本申请实施例在此不再详述。

步骤302、提取所述特效视频帧对应的掩码图。

本步骤的实现方式与上述步骤202的实现过程类似,本申请实施例在此不再详述。

步骤303、按照预设倍数,增加所述掩码图的尺寸。

在本申请实施例中,由于视频中的画面是动态展示的,所以目标特征区域在画面中的位置也会不断改变,随着视频画面的动态改变。有可能会出现掩码图覆盖不了目标特征区域的情况出现,从而导致对特效贴图的修正不完整。

因此,在该步骤中,可以通过预设倍数,对掩码图的尺寸进行放大,从而使得在视频画面的动态改变过程中,掩码图能够一直完全覆盖目标特征区域。

例如,在具有人像画面的视频中,人往往会进行头部移动,如转头、点头等动作,在对人脸区域对应的掩码图的尺寸进行放大之后,可以保证画面中在转头的时候,人脸区域能够完全被掩码图覆盖到,从而避免发生对特效贴图的误处理。

步骤304、对所述掩码图进行模糊处理。

在本申请实施例中,在对中掩码图的尺寸进行放大处理之后,还可以对掩码图进行模糊处理,具体可以采用线性插值的方式进行模糊处理,其中,对掩码图进行模糊处理具体也可以为对掩码图的边缘进行羽化处理。对掩码图进行模糊处理的目的,是为了增强特效贴图的处理效果的柔和程度,避免对特效贴图的处理效果过于尖锐。

步骤305、按照预设时间周期,提取所述视频中的多个视频帧。

在该步骤中,可以从视频的起点开始,每隔预设时间周期提取一帧视频帧,直至提取到视频的终点,得到多个视频帧。另外,也可以按照预设时间周期,以随机的顺序在视频中进行视频帧提取,得到多个视频帧,本申请实施例对此不做限定。

步骤306、采集所述视频帧中所述目标特征区域的多个目标关键点。

在本申请实施例中,可以通过关键点检测技术,选取视频帧中目标特征区域的多个目标关键点。

如,针对于人像处理场景,可以通过人脸检测技术,选取人脸图像中的多个关键点,其中,这些关键点往往是人像中五官轮廓的位置点。

步骤307、将所述多个目标关键点之间的相对位置矢量信息,作为所述拓扑关系信息。

在该步骤中,在多个关键点的基础上,进一步确定与关键点相连的拓展点以及多个关键点之间的相对位置矢量信息,从而得到特效视频帧对应的拓扑关系信息。其中,拓展点以及多个关键点之间的相对位置矢量信息可以由图像设计师进行选取。

步骤308、若所述掩码图的目标特征区域中存在遮挡区域,则根据所述特效视频帧对应的拓扑关系信息、所述掩码图和预设的合法关键点,确定所述特效视频帧的权重值。

本步骤的实现方式与上述步骤203的实现过程类似,本申请实施例在此不再详述。

可选的,步骤308具体可以包括:

子步骤3081,若所述掩码图的目标特征区域中存在非掩码区域,则根据所述特效视频帧对应的拓扑关系信息、所述掩码图和所述预设的合法关键点,确定所述特效视频帧的权重值。

在本申请实施例中,若掩码图的目标特征区域中中存在像素点的值为0值的区域,则可以将像素点的值为0值的区域确定为非掩码区域,非掩码区域即用于反映遮挡区域,在掩码图中,非掩码区域以及目标特征区域之外的背景区域可以为透明。掩码区域即为感兴趣区域,掩码区域内图像的像素值值保持非0不变。

可选的,步骤308具体可以包括:

子步骤3082,获取所述预设尺寸的合法图像,所述合法图像中包括所述目标特征区域。

在该步骤中,在人像处理场景中,预设尺寸的合法图像可以为预设尺寸的一张标准人脸正面图,通过人脸识别技术,可以将标准人脸正面图中的人脸区域确定为目标特征区域。

子步骤3083,在所述合法图像的目标特征区域中,提取所述合法关键点。

在该步骤中,在人像处理场景中,通过人脸检测技术,可以从标准人脸正面图的人脸区域中,提取合法关键点,合法关键点可以为五官轮廓上的点。

子步骤3084,根据所述拓扑关系信息、所述掩码图和所述合法关键点,将所述视频帧图像对应的掩码图映射至预设尺寸的空图层中。

在该步骤中,拓扑关系信息可以包括,由关键点根据关键点之间的相对位置矢量所构建的网格图,其中关键点与关键点之间构成三角形网格,结合拓扑关系信息和合法关键点,可以将视频帧图像对应的掩码图以合法的方式映射至预设尺寸的空图层中,并将当前时刻以前,所有的渲染操作对特效视频帧中特效贴图的渲染结果,且该结果可以由空图层的通道信息反映出来。

子步骤3085,在对所述空图层设置预设大小的透明度之后,根据所述空图层的通道信息,得到所述特效视频帧的权重值。

在该步骤中,在对空图层设置预设大小的透明度之后,该空图层由之前的rgb(红色通道、绿色通道、蓝色通道)格式变为了rgba(红色通道、绿色通道、蓝色通道、透明通道)格式,使得特效视频帧的权重值可以根据空图层的通道信息得出。其中,透明度的大小值可以由图像设计师进行进行确定。

例如,假设用户确定了眼部贴妆特效贴图a和唇部贴妆特效贴图b,则可以在视频的一个视频帧中,将眼部贴妆特效贴图a渲染至该视频帧的图层a中,将唇部贴妆特效贴图b渲染至该视频帧的图层b中,从而得到特效视频帧(a+a)和特效视频帧(b+b)。

使用空图层的通道信息对特效视频帧(a+a)和特效视频帧(b+b)进行混合处理,得到对于的替换视频帧,包括:设特效视频帧(a+a)上像素颜色为colorca(u,v),其中,u,v为纹理坐标。特效视频帧(b+b)上像素颜色为colorcb(u,v);空图层中的透明通道的颜色为alpha(u,v),则替换视频帧中每个像素点的颜色colorc(u,v)=colorca(u,v)×alpha(u,v)+colorcb(u,v)×(1-alpha(u,v)),其中,alpha(u,v)可以作为特效视频帧(a+a)的权重值,(1-alpha(u,v))可以作为特效视频帧(b+b)的权重值。

子步骤3086,提取所述空图层中每个像素点的像素值。

可选的,子步骤3086具体可以包括:

子步骤a1,通过图形处理器将所述空图层发送至中央处理器。

在本申请实施例中,可以由图形处理器进行子步骤2086之前的其他步骤的操作,在开始进行对空图层中每个像素点的像素值的提取时,可以通过图形处理器将空图层发送至中央处理器,由中央处理器实现对空图层中每个像素点的像素值的提取,可以提升提取效率。

子步骤a2,通过所述中央处理器提取所述空图层中每个像素点的像素值。

在该步骤中,由中央处理器实现对空图层中每个像素点的像素值的提取,可以提升提取效率。

子步骤3087,根据每个所述像素点对应的像素值,确定移动面积值。

可选的,子步骤3087具体可以包括:

子步骤b1,从所有像素点中,确定像素值大于或等于预设阈值的多个目标像素点。

子步骤b2,将所述多个目标像素点的像素值之和,与所述目标像素点的数量之间的比值,作为所述移动面积值。

在本申请实施例中,根据每个所述像素点对应的像素值,确定移动面积值,具体包括:从所有的像素点中,选取像素值大于预设像素值的目标像素点,并将目标像素点的像素值进行加和,将加和结果处于目标像素点的数量,即可得到移动面积值(swipearea)。

子步骤3088,若所述移动面积值大于或等于预设阈值,则将所述特效视频帧中的所述特效贴图替换为其他特效贴图。

在本申请实施例中,移动面积可以用来反映特效视频帧的目标特征区域受遮挡区域的影响程度,因此,根据移动面积值,可以判断何时进行下一次特效贴图的修正,具体的,在对空图层设置对应的透明度后,空图层记录了当前时刻以前,所有的渲染操作对特效视频帧中特效贴图的渲染结果,在所述移动面积值大于或等于预设阈值的情况下,则可以将所述特效视频帧中的特效贴图替换为其他特效贴图。

例如,若存在两个特效贴图a和b,以及两个特效贴图a和b对应的特效视频帧(a+a)和特效视频帧(b+b),则在移动面积值大于或等于预设阈值的情况下,可以将特效视频帧(a+a)和特效视频帧(b+b)中的特效贴图a和b进行互换,已达到将特效视频帧(a+a)和特效视频帧(b+b)各自的权重值进行互换的目的,体现在视频画面中,即用户可以通过遮挡区域对目标特征区域的影响,达到将画面中的特效贴图a和b进行互换的效果。

另外,也可以将特效视频帧(a+a)和特效视频帧(b+b)中的特效贴图a和b替换为新的特效贴图c和d,得到特效视频帧(c+a)和特效视频帧(d+b),并将特效视频帧(a+a)和特效视频帧(b+b)各自的权重值赋予对应的特效视频帧(c+a)和特效视频帧(d+b)。体现在视频画面中,即用户可以通过遮挡区域对目标特征区域的影响,达到将画面中的特效贴图a和b替换为其他的特效贴图c和d的目的。

步骤309、根据所述特效视频帧和所述权重值,生成对应的替换视频帧。

本步骤的实现方式与上述步骤204的实现过程类似,本申请实施例在此不再详述。

步骤310、将所述替换视频帧替换所述视频中对应的特效视频帧。

本步骤的实现方式与上述步骤205的实现过程类似,本申请实施例在此不再详述。

综上所述,本申请实施例提供的另一种视频处理方法,可以确定视频中的特效视频帧,特效视频帧的目标特征区域中设置有预设特效贴图;在检测到目标特征区域中存在遮挡区域的情况下,修改目标特征区域中的特效贴图的展示效果。本申请通过遮挡具有特效贴图的区域,来实现对该区域中的特效贴图进行实时的特效展示强度调整,用户可以通过用肢体或其他物体遮挡具有特效贴图的区域,来实现对该区域中的特效贴图进行实时的特效展示强度调整,整个调整过程只需要用户进行画面遮挡,不需要用户进行相关参数的设置,简化了特效展示强度调整的流程,提高了特效展示强度调整的流畅度。

图5是本申请实施例提供的一种视频处理装置的框图,如图5所示,包括:

确定模块401,用于确定视频中的特效视频帧,所述特效视频帧的目标特征区域中设置有预设特效贴图;

修正模块402,用于在检测到所述目标特征区域中存在遮挡区域的情况下,修改所述目标特征区域中的特效贴图的展示效果。

可选的,所述修正模块包括:

第一提取子模块,用于提取所述特效视频帧对应的掩码图;

权重子模块,用于若所述掩码图的目标特征区域中存在所述遮挡区域,则根据所述特效视频帧对应的拓扑关系信息、所述掩码图和预设的合法关键点,确定所述特效视频帧的权重值;

生成子模块,用于根据所述特效视频帧和所述权重值,生成对应的替换视频帧;

替换子模块,用于将所述替换视频帧替换所述视频中对应的特效视频帧。

可选的,所述权重子模块包括:

映射单元,用于根据所述拓扑关系信息、所述掩码图和所述合法关键点,将所述视频帧图像对应的掩码图映射至预设尺寸的空图层中;

权重单元,用于在对所述空图层设置预设大小的透明度之后,根据所述空图层的通道信息,得到所述特效视频帧的权重值。

可选的,所述权重子模块还包括:

获取单元,用于获取所述预设尺寸的合法图像,所述合法图像中包括所述目标特征区域;

第一提取单元,用于在所述合法图像的目标特征区域中,提取所述合法关键点。

可选的,所述权重子模块还包括:

第二提取单元,用于提取所述空图层中每个像素点的像素值;

确定单元,用于根据每个所述像素点对应的像素值,确定移动面积值;

替换单元,用于若所述移动面积值大于或等于预设阈值,则将所述特效视频帧中的所述特效贴图替换为其他特效贴图。

可选的,所述确定单元具体用于:从所有像素点中,确定像素值大于或等于预设阈值的多个目标像素点;

将所述多个目标像素点的像素值之和,与所述目标像素点的数量之间的比值,作为所述移动面积值。

可选的,所述第二提取单元具体用于:

通过图形处理器将所述空图层发送至中央处理器;

通过所述中央处理器提取所述空图层中每个像素点的像素值。

可选的,所述权重子模块具体用于:

若所述掩码图的目标特征区域中存在非掩码区域,则根据所述特效视频帧对应的拓扑关系信息、所述掩码图和所述预设的合法关键点,确定所述特效视频帧的权重值。

可选的,所述修正模块还包括:

第二提取子模块,用于按照预设时间周期,提取所述视频中的多个视频帧;

采集子模块,用于采集所述视频帧中所述目标特征区域的多个目标关键点;

位置确定子模块,用于将所述多个目标关键点之间的相对位置矢量信息,作为所述拓扑关系信息。

可选的,所述修正模块还包括:

放大子模块,用于按照预设倍数,增加所述掩码图的尺寸;

模糊子模块,用于对所述掩码图进行模糊处理。

综上所述,本申请实施例提供的一种视频处理装置,通过确定视频中的特效视频帧,特效视频帧的目标特征区域中设置有预设特效贴图;在检测到目标特征区域中存在遮挡区域的情况下,修改目标特征区域中的特效贴图的展示效果。本申请通过遮挡具有特效贴图的区域,来实现对该区域中的特效贴图进行实时的特效展示强度调整,用户可以通过用肢体或其他物体遮挡具有特效贴图的区域,来实现对该区域中的特效贴图进行实时的特效展示强度调整,整个调整过程只需要用户进行画面遮挡,不需要用户进行相关参数的设置,简化了特效展示强度调整的流程,提高了特效展示强度调整的流畅度。

图6是根据一示例性实施例示出的一种电子设备600的框图。例如,电子设备600可以是移动电话,计算机,数字广播终端,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备,个人数字助理等。

参照图6,电子设备600可以包括以下一个或多个组件:处理组件602,存储器604,电力组件606,多媒体组件608,音频组件610,输入/输出(i/o)的接口612,传感器组件614,以及通信组件616。

处理组件602通常控制电子设备600的整体操作,诸如与显示,电话呼叫,数据通信,相机操作和记录操作相关联的操作。处理组件602可以包括一个或多个处理器620来执行指令,以完成上述的方法的全部或部分步骤。此外,处理组件602可以包括一个或多个模块,便于处理组件602和其他组件之间的交互。例如,处理组件602可以包括多媒体模块,以方便多媒体组件608和处理组件602之间的交互。

存储器604被配置为存储各种类型的数据以支持在电子设备600的操作。这些数据的示例包括用于在电子设备600上操作的任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。存储器604可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(sram),电可擦除可编程只读存储器(eeprom),可擦除可编程只读存储器(eprom),可编程只读存储器(prom),只读存储器(rom),磁存储器,快闪存储器,磁盘或光盘。

电源组件606为电子设备600的各种组件提供电力。电源组件606可以包括电源管理系统,一个或多个电源,及其他与为电子设备600生成、管理和分配电力相关联的组件。

多媒体组件608包括在所述电子设备600和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(lcd)和触摸面板(tp)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件608包括一个前置摄像头和/或后置摄像头。当电子设备600处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。

音频组件610被配置为输出和/或输入音频信号。例如,音频组件610包括一个麦克风(mic),当电子设备600处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器604或经由通信组件616发送。在一些实施例中,音频组件610还包括一个扬声器,用于输出音频信号。

i/o接口612为处理组件602和外围接口模块之间提供接口,上述外围接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。

传感器组件614包括一个或多个传感器,用于为电子设备600提供各个方面的状态评估。例如,传感器组件614可以检测到电子设备600的打开/关闭状态,组件的相对定位,例如所述组件为电子设备600的显示器和小键盘,传感器组件614还可以检测电子设备600或电子设备600一个组件的位置改变,用户与电子设备600接触的存在或不存在,电子设备600方位或加速/减速和电子设备600的温度变化。传感器组件614可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件614还可以包括光传感器,如cmos或ccd图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件614还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。

通信组件616被配置为便于电子设备600和其他设备之间有线或无线方式的通信。电子设备600可以接入基于通信标准的无线网络,如wifi,运营商网络(如2g、3g、4g或5g),或它们的组合。在一个示例性实施例中,通信组件616经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中,所述通信组件616还包括近场通信(nfc)模块,以促进短程通信。例如,在nfc模块可基于射频识别(rfid)技术,红外数据协会(irda)技术,超宽带(uwb)技术,蓝牙(bt)技术和其他技术来实现。

在示例性实施例中,电子设备600可以被一个或多个应用专用集成电路(asic)、数字信号处理器(dsp)、数字信号处理设备(dspd)、可编程逻辑器件(pld)、现场可编程门阵列(fpga)、控制器、微控制器、微处理器或其他电子元件实现,用于确定视频中的特效视频帧,特效视频帧的目标特征区域中设置有预设特效贴图;在检测到目标特征区域中存在遮挡区域的情况下,修改目标特征区域中的特效贴图的展示效果。

在示例性实施例中,还提供了一种包括指令的非临时性存储介质,例如包括指令的存储器604,上述指令可由电子设备600的处理器620执行以完成上述方法。例如,所述非临时性存储介质可以是rom、随机存取存储器(ram)、cd-rom、磁带、软盘和光数据存储设备等。

图7是根据一示例性实施例示出的一种电子设备700的框图。例如,电子设备700可以被提供为一服务器。参照图7,电子设备700包括处理组件722,其进一步包括一个或多个处理器,以及由存储器732所代表的存储器资源,用于存储可由处理组件722的执行的指令,例如应用程序。存储器732中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外,处理组件722被配置为执行指令,以执行获取视频中设置有预设特效贴图的特效视频帧;在特效视频帧中,提取目标特征区域对应的掩码图;若掩码图的目标特征区域中存在遮挡区域,则根据特效视频帧对应的拓扑关系信息、掩码图和预设的合法关键点,确定特效视频帧的权重值;根据特效视频帧和权重值,生成对应的替换视频帧;将替换视频帧替换视频中对应的特效视频帧。

电子设备700还可以包括一个电源组件726被配置为执行电子设备700的电源管理,一个有线或无线网络接口750被配置为将电子设备700连接到网络,和一个输入输出(i/o)接口758。电子设备700可以操作基于存储在存储器732的操作系统,例如windowsservertm,macosxtm,unixtm,linuxtm,freebsdtm或类似。

本申请实施例还提供一种应用程序,所述应用程序由电子设备的处理器执行时,实现如本申请提供的确定视频中的特效视频帧,特效视频帧的目标特征区域中设置有预设特效贴图;在检测到目标特征区域中存在遮挡区域的情况下,修改目标特征区域中的特效贴图的展示效果的方法。

本领域技术人员在考虑说明书及实践这里公开的申请后,将容易想到本申请的其它实施方案。本申请旨在涵盖本申请的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本申请的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本申请的真正范围和精神由下面的权利要求指出。

应当理解的是,本申请并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本申请的范围仅由所附的权利要求来限制。

当前第1页1 2 3 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1