确定特效视频的方法、装置、电子设备及存储介质与流程

文档序号:30410942发布日期:2022-06-15 09:29阅读:81来源:国知局
确定特效视频的方法、装置、电子设备及存储介质与流程

1.本公开实施例涉及视频处理技术领域,尤其涉及一种确定特效视频的方法、装置、电子设备及存储介质。


背景技术:

2.随着网络技术的发展,越来越多的应用程序进入了用户的生活,尤其是一系列可以拍摄短视频的软件,深受用户的喜爱。例如,用户可以通过应用软件拍摄视频,并将视频发布至特定的平台或分享给其他用户。
3.然而,在现有技术中,应用为用户提供的视频特效不够丰富,用户所拍摄的视频内容缺乏趣味性,同时,在视频拍摄的过程中并未考虑用户的个性化需求,从而降低了用户的使用体验。


技术实现要素:

4.本公开提供一种确定特效视频的方法、装置、电子设备及存储介质,不仅将用户的语音以可视化的形式呈现出来,增强了特效视频的趣味性,同时,将用户拍摄的待处理视频帧模糊处理,满足了用户的个性化需求。
5.第一方面,本公开实施例提供了一种确定特效视频的方法,包括:
6.响应于特效触发操作,确定与当前待处理视频帧相对应的模糊视频帧;以及,确定与所述当前待处理视频帧的音频信息相一致的音频特效;
7.将所述模糊视频帧作为当前特效视频帧的背景图像,将所述音频特效作为当前特效视频帧的前景图像;
8.通过对各待处理视频帧的特效视频帧拼接处理,得到目标特效视频。
9.第二方面,本公开实施例还提供了一种确定特效视频的装置,包括:
10.模糊视频帧确定模块,用于响应于特效触发操作,确定与当前待处理视频帧相对应的模糊视频帧;以及,确定与所述当前待处理视频帧的音频信息相一致的音频特效;
11.特效视频帧生成模块,用于将所述模糊视频帧作为当前特效视频帧的背景图像,将所述音频特效作为当前特效视频帧的前景图像;
12.目标特效视频生成模块,用于通过对各待处理视频帧的特效视频帧拼接处理,得到目标特效视频。
13.第三方面,本公开实施例还提供了一种电子设备,所述电子设备包括:
14.一个或多个处理器;
15.存储装置,用于存储一个或多个程序,
16.当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如本公开实施例任一所述的确定特效视频的方法。
17.第四方面,本公开实施例还提供了一种包含计算机可执行指令的存储介质,所述计算机可执行指令在由计算机处理器执行时用于执行如本公开实施例任一所述的确定特
效视频的方法。
18.本公开实施例的技术方案,响应于特效触发操作,确定出与当前待处理视频帧对应的模糊视频帧,以及与当前待处理视频帧的音频信息相一致的音频特效;将模糊视频帧作为背景图像,将音频特效作为前景图像,从而构建出当前特效视频帧,进一步的,将各特效视频帧进行拼接处理,得到目标特效视频,不仅将用户的语音以可视化的形式呈现出来,增强了特效视频的趣味性,同时,通过将用户拍摄的待处理视频帧模糊处理,满足了用户的个性化需求,提升了用户在制作特效视频过程中的使用体验。
附图说明
19.结合附图并参考以下具体实施方式,本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中,相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的,原件和元素不一定按照比例绘制。
20.图1为本公开实施例一所提供的一种确定特效视频的方法流程示意图;
21.图2为本公开实施例二所提供的一种确定特效视频的装置结构示意图;
22.图3为本公开实施例三所提供的一种电子设备的结构示意图。
具体实施方式
23.下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例,然而应当理解的是,本公开可以通过各种形式来实现,而且不应该被解释为限于这里阐述的实施例,相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是,本公开的附图及实施例仅用于示例性作用,并非用于限制本公开的保护范围。
24.应当理解,本公开的方法实施方式中记载的各个步骤可以按照不同的顺序执行,和/或并行执行。此外,方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本公开的范围在此方面不受限制。
25.本文使用的术语“包括”及其变形是开放性包括,即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”;术语“另一实施例”表示“至少一个另外的实施例”;术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。
26.需要注意,本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分,并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。需要注意,本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的,本领域技术人员应当理解,除非在上下文另有明确指出,否则应该理解为“一个或多个”。
27.本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的,而并不是用于对这些消息或信息的范围进行限制。
28.在介绍本技术方案之前,可以先对本公开实施例的应用场景进行示例性说明。例如,当用户通过应用软件拍摄视频,或者与其他用户进行视频通话时,可能希望使拍摄得到的视频内容更具趣味性,同时,某些用户对视频拍摄的画面可能有个性化需求(例如,某些患有社交恐惧症的用户不希望将自己的容貌等展示在视频中),可以理解为,这些用户希望将所拍摄画面中的全部内容或部分内容进行隐藏(例如,用户自身的面部图像),此时,可以
根据本实施例的技术方案,在将视频画面模糊处理的同时,在各视频帧上叠加用户的音频特效,从而得到画面内容更丰富、同时有效满足用户个性化需求的特效视频。
29.实施例一
30.图1为本公开实施例一所提供的一种确定特效视频的方法流程示意图,本公开实施例适用于在满足用户个性化需求的同时,生成更具趣味性的特效视频的情形,该方法可以由确定特效视频的装置来执行,该装置可以通过软件和/或硬件的形式实现,可选的,通过电子设备来实现,该电子设备可以是移动终端、pc端或服务器等。
31.如图1所示,所述方法包括:
32.s110、响应于特效触发操作,确定与当前待处理视频帧相对应的模糊视频帧;以及,确定与当前待处理视频帧的音频信息相一致的音频特效。
33.其中,执行本公开实施例提供的特效视频处理方法的装置,可以集成在支持特效视频处理功能的应用软件中,且该软件可以安装至电子设备中,可选的,电子设备可以是移动终端或者pc端等。应用软件可以是对图像/视频处理的一类软件,其具体的应用软件在此不再一一赘述,只要可以实现图像/视频处理即可。还可以是专门研发的应用程序,来实现添加特效并将特效进行展示的软件中,亦或是集成在相应的页面中,用户可以通过pc端中集成的页面来实现对特效视频的处理。
34.在本实施例中,在支持特效视频处理功能的应用软件或应用程序中,可以预先开发用于触发特效的控件,当检测到用户触发该控件时,即可对特效触发操作进行响应。
35.在本实施例中,当前待处理视频帧可以是安装有应用软件的电子设备在对特效触发操作进行响应时所拍摄的一帧图像,也可以是当前所播放的视频中的一帧图像,对应的,模糊视频帧即是对当前待处理视频帧进行模糊处理后所得到的一帧图像。
36.可以理解,模糊视频帧不会如待处理视频帧一样清晰地展示画面中的内容,而是会降低画面的清晰度,即,使画面产生模糊的视觉效果,从而隐藏各帧画面中的全部信息或部分信息。例如,将多帧包含有用户面部信息的待处理视频帧进行处理,得到相应的模糊视频帧后,仅通过模糊视频帧便无法准确识别出用户的容貌。
37.在实际应用过程中,确定模糊视频帧的方式有多种,可选的,为当前待处理视频帧中添加模糊滤镜,得到模糊视频帧;或,对当前待处理视频帧高斯模糊处理,得到模糊视频帧;或,将当前待处理视频帧输入至模糊处理模型中,得到模糊视频帧;或,若当前待处理视频帧中包括目标对象时,对目标对象模糊处理,得到模糊视频帧。下面对上述方式分别进行说明。
38.在第一种确定模糊视频帧的方式中,模糊滤镜可以是应用软件中预先开发的滤镜。具体来说,为待处理视频帧添加模糊滤镜后,可以使每帧图像的全部区域产生模糊效果,也可以使每帧图像中清晰度较高或对比度较为强烈的区域产生模糊效果,从而得到对应的模糊视频帧。本领域技术人员应当理解,当仅将图像中部分区域进行模糊处理时,可以通过平衡图像中不同区域像素点相关参数的方式来实现,本公开实施例在此不再赘述。
39.在第二种确定模糊视频的方式中,高斯模糊也称作高斯平滑,通过高斯模糊处理可以减少图像噪声并降低细节层次,这种模糊技术生成的图像,其视觉效果就像是经过一个毛玻璃在观察图像。基于此可以理解,将当前待处理视频帧经过高斯模糊处理后,同样可以得到相应的模糊视频帧。
40.在第三种确定模糊视频的方式中,模糊处理模型可以是预先训练好的神经网络模型,且可以集成在相关应用软件中,至少用于生成模糊视频帧。可以理解,模型的输入即是所获取的当前待处理视频帧,模型的输出即是相应的模糊视频帧。本领域技术人员应当理解,对于模糊处理模型来说,可以基于相对应的训练集和验证集进行训练,当模糊处理模型的损失函数收敛时,表明模型训练完毕可以在应用中进行集成,其具体的训练过程在本实施例中不再赘述。
41.在第四种确定模糊视频的方式中,可以预先在应用中设置目标对象,例如,将包含有特定用户面部信息的图像数据输入至应用中作为目标对象,进一步的,当应用响应于特效触发操作,并在显示界面中识别到特定用户的面部信息后,即可自动将当前待处理视频帧进行模糊化处理,得到相应的模糊视频帧。可以理解,在这种模式下,当显示界面中没有识别到目标对象时,则不会对各帧图像进行模糊化处理。
42.在本实施例中,在获取当前待处理视频帧的同时,为了将用户的声音以可视化的形式呈现在特效视频中,首先需要获取用户的音频信息。例如,在拍摄视频的同时通过电子设备上的麦克风采集用户发出的语音信息。可以理解,音频信息中至少包含用于表征音频内容或音频特点的音频特征。在实际应用过程中,音频特征还可以包括声纹频谱特征,对应的,音频特效还可以是如电声学奇异所显示的动态的频谱(如动态的波纹),当其精度达到一定数值时,通过声波频谱至少可以表征特定的用户以及该用户发出的语音信息;同时,当音频中的音量发生变化时,声纹语音中的动态波纹也会发生波动,当音量较高时,动态波纹的波动也越大,相应的,当音量较低时,动态波纹的波动也较小。需要说明的是,为了使最终生成的特效视频中的视觉效果和听觉效果相统一,声纹语音也需要与当前待处理视频帧的音频信息相一致。
43.进一步的,当应用对音频信息进行解析并得到音频特征后,即可构建出与音频信息的音频特征相对应的音频特效,其中,音频特效可以是展示于显示界面中的、用于表征音频特征的卡通贴图,如,预先构建的小动物卡通贴图,还可以是与声纹频谱对应的波纹,本领域技术人员应当理解,音频特效可以根据实际需求预先创建,如与国家相关的特征图案或更加形象化的音符图案等,本公开实施例在此不做具体的限定。
44.在本实施例中,音频特效的显示形式包括动态显示和/或静态显示。具体的,动态显示为基于动画显示音频特征,静态显示为音频特征在显示界面上静态展示。示例性的,当应用将预先构建的小动物卡通贴图进行动态显示时,该贴图会随着音频特征的变化在显示界面中不断地上下跳动,当应用将声纹频谱对应的波纹进行静态显示时,应用则会将多段波纹拼接为一整段并基于时间戳将其展示于显示界面上,可以理解,显示界面的尺寸通常是有限的,因此,任意时刻展示出来的也只是声纹频谱对应波纹中的一段,只有在应用检测到用户选择特定的时刻,或者,对波纹的展示区域执行拖动操作时,才会将与特定时刻或拖动操作相对应的一段波纹展示出来。
45.可选的,基于声纹特征提取模型对当前待处理视频帧所对应的音频信息进行处理,得到声纹语音。其中,声纹特征提取模型可以是预先训练好的模型,同样可以在应用中进行集成。可以理解,采集到用户的音频信息后,即可将其输入至声纹特征提取模型中,从而得到对应的声纹语音。当然,在实际应用过程中,声纹特征提取模型输入的声纹语音可以是拥有多种动画效果的声波频谱,例如,输出的声波频谱可以以多种形状或颜色进行呈现,
本领域技术人员应当理解,声纹语音所呈现的具体的视觉效果可以根据实际情况进行选择,本公开实施例在此不做具体的限定。
46.s120、将模糊视频帧作为当前特效视频帧的背景图像,将音频特效作为当前特效视频帧的前景图像。
47.在本实施例中,确定出模糊视频帧以及音频特效后,即可基于上述信息构建出特效视频帧。具体来说,在特效视频帧中包括背景图像以及前景图像,前景图像叠加显示于背景图像上,可以对背景图像全部区域或部分区域进行遮挡,从而使构建的特效视频帧更具层次感,下面对确定背景图像的过程进行说明。
48.可选的,在确定背景图像的过程中,可以确定与当前待处理视频帧相对应的叠加背景图像,以及叠加背景图像所对应的目标透明度;将叠加背景图像依据目标透明度,叠加在模糊视频帧上,作为背景图像。
49.其中,叠加背景图像可以是用户通过应用预先设置的图像,也可以是应用根据待处理视频帧的亮度、颜色等信息自动选择的图像。具体来说,可以是纯色的图像,如纯黑色或纯灰色的图像,当选择上述纯色图像作为叠加背景图像时,可以使最终得到的特效视频帧呈现的视觉效果较为柔和。可以理解,自动选择的图像与待处理视频帧所呈现的画面更加适配。
50.在实际应用的过程中,可以根据当前待处理视频帧中各像素点的像素值,确定像素均值;基于像素均值,确定与当前待处理视频帧相对应的叠加背景图像。例如,对当前待处理视频帧进行解析,从而确定出画面中各像素点的像素值,进一步的,将所有通道(r、g、b)的像素求均值,得到反映当前待处理视频帧平均亮度的像素均值,基于像素均值,即可确定出对应的颜色的图像作为叠加背景图像。可以理解为,基于像素均值确定出一幅纯色叠加背景图像。
51.为了使最终生成的特效视频呈现出更好视觉效果,在确定叠加背景图像的同时,还需要确定出该图像的目标透明度,同样的,用户可以通过应用预先设置目标透明度,应用也可以根据待处理视频帧的亮度、颜色等信息动态选择相应的目标透明度,本公开实施例在此不再赘述。最后,将叠加背景图像按照目标透明度叠加在模糊视频帧上之后,便得到特效视频帧的背景图像。还需要说明的是,叠加的背景图像设置有一定的透明度。
52.示例性的,当确定出模糊视频帧后,应用可以根据模糊视频帧自动选择一幅灰色的图像作为叠加背景图像,同时,根据用户预先设置的参数确定这幅灰色图像的目标透明度为50%,在此基础上,即可将灰色图像调整为50%透明度后叠加在模糊视频帧上,并将叠加后的图像作为背景图像。
53.在本实施例中,确定出背景图像后,即可将与背景信息对应的时刻相一致的音频特效作为前景图像,并叠加在背景图像上,从而构建出特效视频帧。本领域技术人员应当理解,当待处理视频帧有多个时,应用可以基于本实施例的方案为各待处理视频帧分别确定出相应的特效视频帧,本公开实施例在此不再赘述。
54.s130、通过对各待处理视频帧的特效视频帧拼接处理,得到目标特效视频。
55.在本实施例中,针对多个待处理视频帧确定出相应的多幅特效视频帧后,即可按照各待处理视频帧携带的时间戳确定出多幅特效视频帧对应的序列,从而根据序列将多幅特效视频帧进行拼接,得到目标特效视频。可以理解,在目标特效视频中,各待处理视频帧
中的内容会以模糊的视觉效果展示出来,同时,在画面上层的特定位置会显示相应时刻的声纹语音,即,将用户此刻的音频以可视化的形式呈现出来。
56.在本实施例中,由于将待处理视频帧模糊处理,仅显示声纹语音后,虽然满足了用户的个性化需求,却可能影响其他用户的视频观看体验,因此,为了提升特效视频对其他用户的吸引度,还可以在特效视频中添加目标人物模型,下面对这一过程进行说明。
57.具体来说,在前景图像中叠加目标人物模型;获取当前待处理视频帧中目标对象的肢体动作信息和/或面部表情;调整目标人物模型,与肢体动作和/或面部表情相匹配。
58.其中,目标人物模型可以是预先设置的静态或动态的3d模型,该模型至少可以呈现出拟人化的形象,例如,一个虚拟的卡通人物。同时,目标人物模型可以在前景图像中进行叠加,例如,将目标人物模型呈现在声纹语音的上方或下方。本领域技术人员应当理解,目标人物模型同样会对背景图像全部区域或部分区域进行遮挡,从而使构建的特效视频帧更具层次感。
59.在本实施例中,当目标人物模型为动态模型时,为了进一步提升特效视频的趣味性,还可以使特效视频中模型的动作与用户真实的动作相匹配。示例性的,在当前待处理视频帧中通过关键点识别技术确定出用户手臂抬起时,也需要对目标人物模型的手臂进行适应性调整,即,将虚拟人物的手臂抬起;在下一待处理视频帧中,若确定出用户手臂已经放下,则需要将虚拟人物的手臂适应性调整为放下。基于此,在最终生成的特效视频中,目标人物模型即可做出与用户实际动作基本一致的动作。需要说明的是,在实际应用过程中,应用还可以对待处理视频帧中用户的面部表情进行捕捉,从而适应性调整目标人物模型的表情,本公开实施例在此不再赘述。
60.可以理解为,在特效视频的任意一帧画面中,目标人物模型的肢体动作和/或面部表情,都与待处理视频帧中目标对象的肢体动作和/或面部表情相匹配。
61.在实际应用过程中,一方面,特效视频可以按照本实施例的方案实时生成,例如,在多个用户进行视频通话的过程中实时生成。另一方面,还可以对现有的视频进行后期处理而生成特效视频。下面对经后期处理所得到的特效视频进行说明。
62.具体的,若目标特效视频帧是在视频录制的模式下生成的,则确定与音频信息相对应的文字信息;在播放目标特效视频时,于播放界面的目标区域中显示文字信息。
63.具体来说,区别于多个用户之间的视频通话模式,视频录制模式是指用户自主拍摄视频的模式,在这种模式下,用户可以基于应用提供的功能拍摄特效视频,并对生成的特效视频执行进一步处理、存储或分享等操作。
64.当目标特效视频在视频录制模式下生成时,为了便于用户分享特效视频,提高应用的智能度,可以基于预先训练好的语音识别模型和/或语义识别模型确定与音频信息对应的文字信息,并将文字信息显示在播放界面的目标区域内,在这一过程中,为了避免文字信息被遮挡从而影响用户的观看体验,目标区域位于各待处理特效视频帧的前景图像中;同时,为了使文字信息不遮挡各帧特效图像中的声纹语音,也为了避免观看的用户对两种元素产生视觉上的混淆,还需要将与音频信息相对应的文字信息和声纹语音于播放界面中下区别显示,例如,将文字信息以白色、特定字体的形式显示在播放界面最下方,将声纹语音以水平形状、多种颜色叠加在背景图像中心位置,从而显示在播放界面的中央。
65.本领域技术人员应当理解,特效视频中各帧画面对应的音频信息可以存在差异,
基于此,播放界面中显示的文字信息也会随着视频播放而不断变化。通过在播放界面中显示与音频信息对应的文字信息,实现了自动为特效视频添加“字幕”的技术效果,避免了用户录入的音频信息不清晰,从而影响其他用户的特效视频观看体验的问题。
66.需要说明的是,当为目标特效视频生成对应的文字信息后,为了避免特效视频中音频信息、文字信息以及声纹语音三种元素出现不同步的现象,还可以调整音频信息、文字信息以及声纹语音同频显示。示例性的,预先在应用中开发用于调整上述三种元素时间戳的控件,当为特效视频中各帧画面对应的音频信息确定出相应的文字信息后,如果在所生成的特效视频中发现某一帧或多帧内文字信息与实际音频信息不同步时,则可以通过对控制文字信息时间戳的控件施加调整操作,从而调整某一帧或多帧特效图像对应的文字信息。可以理解,当特效视频中某一帧或多帧内声纹语音与实际音频不同步时,同样可以按照上述方式对其时间戳进行调整,本公开实施例在此不再赘述。
67.在本实施例中,应用还可以将与音频信息相关联的目标关键字展示于显示界面上。可选的,根据当前待处理视频帧之前的各历史待处理视频帧的历史音频信息,更新显示界面上的至少一个目标关键词。
68.具体来说,在确定出用户的音频信息后,应用可以基于预先训练好的语音处理模型对音频信息进行解析,并对其中的关键词进行提取。其中,关键词可以是音频信息中出现频次最高的一个或多个词汇,还可以是音频信息中出现的、与预先构建的关键词词库中的内容相一致的词汇,当然,在实际应用过程中,关键词还可以是音频信息中出现的当前热门词汇,或者,与某一领域相关专业词汇等,本领域技术人员应当理解,关键词的提取规则可以根据实际需求进行设置,本公开实施例在此不做具体的限定。
69.在本实施例中,当应用确定出音频信息中的关键词后,即可将关键词展示于显示界面中,其中,所展示的关键词至少用于实现对历史视频帧的定位功能。具体的,当检测到对触发目标关键词时,跳转至与目标关键词所对应的历史目标特效视频帧,并播放;其中,历史目标特效视频帧是基于对历史待处理视频帧特效处理后得到的视频帧。
70.可以理解为,当应用检测到用户针对于其中任意一个关键词的触发操作时,该关键词即是目标关键词,进一步的,应用可以将当前播放的特效视频帧自动跳转至包含有该关键词的历史特效视频帧,通过这种方式,使用户在后续回忆自己陈述与某一关键词相关联的内容时,可以快速定位出这段内容对应的特效视频帧。示例性的,在用户的音频信息中出现过“技术方案”这一词汇,同时,应用已确定该词汇为关键词并展示于显示界面中,在此基础上,当用户后续回放应用所生成的特效视频时,如果希望仅观看提到“技术方案”的那一部分特效视频,则可以对展示于显示界面的“技术方案”这一词汇进行点击,当应用检测到用户的触发操作后,即可自动跳转至首次出现“技术方案”这一词汇的历史特效视频帧,并从该帧开始继续播放。
71.本公开实施例的技术方案,响应于特效触发操作,确定出与当前待处理视频帧对应的模糊视频帧,以及与当前待处理视频帧的音频信息相一致的音频特效;将模糊视频帧作为背景图像,将音频特效作为前景图像,从而构建出当前特效视频帧,进一步的,将各特效视频帧进行拼接处理,得到目标特效视频,不仅将用户的语音以可视化的形式呈现出来,增强了特效视频的趣味性,同时,通过将用户拍摄的待处理视频帧模糊处理,满足了用户的个性化需求,提升了用户在制作特效视频过程中的使用体验。
72.实施例二
73.图2为本公开实施例二所提供的一种确定特效视频的装置结构示意图,如图2所示,所述装置包括:模糊视频帧确定模块210、特效视频帧生成模块220、以及目标特效视频生成模块230。
74.模糊视频帧确定模块210,用于响应于特效触发操作,确定与当前待处理视频帧相对应的模糊视频帧;以及,确定与所述当前待处理视频帧的音频信息相一致的音频特效。
75.特效视频帧生成模块220,用于将所述模糊视频帧作为当前特效视频帧的背景图像,将所述音频特效作为当前特效视频帧的前景图像。
76.目标特效视频生成模块230,用于通过对各待处理视频帧的特效视频帧拼接处理,得到目标特效视频。
77.在上述各技术方案的基础上,模糊视频帧确定模块210包括模糊视频帧确定单元以及音频特效确定单元。
78.模糊视频帧确定单元,用于为所述当前待处理视频帧中添加模糊滤镜,得到所述模糊视频帧;或,对所述当前待处理视频帧高斯模糊处理,得到模糊视频帧;或,将所述当前待处理视频帧输入至模糊处理模型中,得到所述模糊视频帧;或,若当前待处理视频帧中包括目标对象时,对所述目标对象模糊处理,得到模糊视频帧。
79.音频特效确定单元,用于基于声纹特征提取模型对所述当前待处理视频帧所对应的音频信息进行处理,得到所述音频特效。
80.在上述各技术方案的基础上,所述音频特效与音频信息的音频特征相对应;所述音频特征包括声纹频谱特征;所述音频特效的显示形式包括动态显示和/或静态显示,所述动态显示为基于动画显示音频特征,所述静态显示为所述音频特征在显示界面上静态展示。
81.在上述各技术方案的基础上,特效视频帧生成模块220包括叠加背景图像确定单元以及背景图像确定单元。
82.叠加背景图像确定单元,用于确定与所述当前待处理视频帧相对应的叠加背景图像,以及所述叠加背景图像所对应的目标透明度。
83.背景图像确定单元,用于将所述叠加背景图像依据所述目标透明度,叠加在所述模糊视频帧上,作为所述背景图像。
84.可选的,叠加背景图像确定单元,还用于根据所述当前待处理视频帧中各像素点的像素值,确定像素均值;基于所述像素均值,确定与所述当前待处理视频帧相对应的叠加背景图像。
85.在上述各技术方案的基础上,确定特效视频的装置还包括目标人物模型确定模块。
86.目标人物模型确定模块,用于在所述前景图像中叠加目标人物模型;获取所述当前待处理视频帧中目标对象的肢体动作信息和/或面部表情;调整所述目标人物模型,与所述肢体动作和/或所述面部表情相匹配。
87.在上述各技术方案的基础上,确定特效视频的装置还包括目标关键词更新模块。
88.目标关键词更新模块,用于根据当前待处理视频帧之前的各历史待处理视频帧的历史音频信息,更新显示界面上的至少一个目标关键词。
89.在上述各技术方案的基础上,确定特效视频的装置还包括跳转模块。
90.跳转模块,用于当检测到对触发目标关键词时,跳转至与所述目标关键词所对应的历史目标特效视频帧,并播放;其中,所述历史目标特效视频帧是基于对历史待处理视频帧特效处理后得到的视频帧。
91.在上述各技术方案的基础上,确定特效视频的装置还包括文字信息确定模块。
92.文字信息确定模块,用于若所述目标特效视频帧是在视频录制的模式下生成的,则确定与音频信息相对应的文字信息;在播放所述目标特效视频时,于播放界面的目标区域中显示所述文字信息;其中,所述目标区域位于各待处理特效视频帧的前景图像中。
93.在上述各技术方案的基础上,确定特效视频的装置还包括调整模块。
94.调整模块,用于调整所述音频信息、文字信息以及音频特效同频显示。
95.在上述各技术方案的基础上,确定特效视频的装置还包括区别显示模块。
96.区别显示模块,用于将与音频信息相对应的文字信息和音频特效于播放界面中下区别显示。
97.本实施例所提供的技术方案,响应于特效触发操作,确定出与当前待处理视频帧对应的模糊视频帧,以及与当前待处理视频帧的音频信息相一致的音频特效;将模糊视频帧作为背景图像,将音频特效作为前景图像,从而构建出当前特效视频帧,进一步的,将各特效视频帧进行拼接处理,得到目标特效视频,不仅将用户的语音以可视化的形式呈现出来,增强了特效视频的趣味性,同时,通过将用户拍摄的待处理视频帧模糊处理,满足了用户的个性化需求,提升了用户在制作特效视频过程中的使用体验。
98.本公开实施例所提供的确定特效视频的装置可执行本公开任意实施例所提供的确定特效视频的方法,具备执行方法相应的功能模块和有益效果。
99.值得注意的是,上述装置所包括的各个单元和模块只是按照功能逻辑进行划分的,但并不局限于上述的划分,只要能够实现相应的功能即可;另外,各功能单元的具体名称也只是为了便于相互区分,并不用于限制本公开实施例的保护范围。
100.实施例三
101.图3为本公开实施例三所提供的一种电子设备的结构示意图。下面参考图3,其示出了适于用来实现本公开实施例的电子设备(例如图3中的终端设备或服务器)300的结构示意图。本公开实施例中的终端设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、pda(个人数字助理)、pad(平板电脑)、pmp(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字tv、台式计算机等等的固定终端。图3示出的电子设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
102.如图3所示,电子设备300可以包括处理装置(例如中央处理器、图案处理器等)301,其可以根据存储在只读存储器(rom)302中的程序或者从存储装置306加载到随机访问存储器(ram)303中的程序而执行各种适当的动作和处理。在ram 303中,还存储有电子设备300操作所需的各种程序和数据。处理装置301、rom 302以及ram 303通过总线304彼此相连。编辑/输出(i/o)接口305也连接至总线304。
103.通常,以下装置可以连接至i/o接口305:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的编辑装置306;包括例如液晶显示器(lcd)、扬声器、振动器等的输出装置307;包括例如磁带、硬盘等的存储装置308;以及通信装置309。通信装置
309可以允许电子设备300与其他设备进行无线或有线通信以交换数据。虽然图3示出了具有各种装置的电子设备300,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
104.特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在非暂态计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置309从网络上被下载和安装,或者从存储装置306被安装,或者从rom 302被安装。在该计算机程序被处理装置301执行时,执行本公开实施例的方法中限定的上述功能。
105.本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的,而并不是用于对这些消息或信息的范围进行限制。
106.本公开实施例提供的电子设备与上述实施例提供的确定特效视频的方法属于同一发明构思,未在本实施例中详尽描述的技术细节可参见上述实施例,并且本实施例与上述实施例具有相同的有益效果。
107.实施例四
108.本公开实施例提供了一种计算机存储介质,其上存储有计算机程序,该程序被处理器执行时实现上述实施例所提供的确定特效视频的方法。
109.需要说明的是,本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑磁盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、rf(射频)等等,或者上述的任意合适的组合。
110.在一些实施方式中,客户端、服务器可以利用诸如http(hypertext transfer protocol,超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信,并且可以与任意形式或介质的数字数据通信(例如,通信网络)互连。通信网络的示例包括局域网(“lan”),广域网(“wan”),网际网(例如,互联网)以及端对端网络(例如,ad hoc端对端网络),以及任何当前已知或未来研发的网络。
111.上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。
112.上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:
113.响应于特效触发操作,确定与当前待处理视频帧相对应的模糊视频帧;以及,确定与所述当前待处理视频帧的音频信息相一致的音频特效;
114.将所述模糊视频帧作为当前特效视频帧的背景图像,将所述音频特效作为当前特效视频帧的前景图像;
115.通过对各待处理视频帧的特效视频帧拼接处理,得到目标特效视频。
116.可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码,上述程序设计语言包括但不限于面向对象的程序设计语言—诸如java、smalltalk、c++,还包括常规的过程式程序设计语言—诸如“c”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(lan)或广域网(wan)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
117.附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
118.描述于本公开实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。其中,单元的名称在某种情况下并不构成对该单元本身的限定,例如,第一获取单元还可以被描述为“获取至少两个网际协议地址的单元”。
119.本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:现场可编程门阵列(fpga)、专用集成电路(asic)、专用标准产品(assp)、片上系统(soc)、复杂可编程逻辑设备(cpld)等等。
120.在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦除可编程只读存储器(eprom或快闪存储器)、光纤、便捷式紧凑盘只读存储器(cd-rom)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
121.根据本公开的一个或多个实施例,【示例一】提供了一种确定特效视频的方法,该方法包括:
122.响应于特效触发操作,确定与当前待处理视频帧相对应的模糊视频帧;以及,确定与所述当前待处理视频帧的音频信息相一致的音频特效;
123.将所述模糊视频帧作为当前特效视频帧的背景图像,将所述音频特效作为当前特效视频帧的前景图像;
124.通过对各待处理视频帧的特效视频帧拼接处理,得到目标特效视频。
125.根据本公开的一个或多个实施例,【示例二】提供了一种确定特效视频的方法,该方法,还包括:
126.可选的,为所述当前待处理视频帧中添加模糊滤镜,得到所述模糊视频帧;或,
127.对所述当前待处理视频帧高斯模糊处理,得到模糊视频帧;或,
128.将所述当前待处理视频帧输入至模糊处理模型中,得到所述模糊视频帧;或,
129.若当前待处理视频帧中包括目标对象时,对所述目标对象模糊处理,得到模糊视频帧。
130.根据本公开的一个或多个实施例,【示例三】提供了一种确定特效视频的方法,该方法,还包括:
131.可选的,基于声纹特征提取模型对所述当前待处理视频帧所对应的音频信息进行处理,得到所述音频特效。
132.根据本公开的一个或多个实施例,【示例四】提供了一种确定特效视频的方法,该方法,还包括:
133.可选的,所述音频特效与音频信息的音频特征相对应;所述音频特征包括声纹频谱特征;所述音频特效的显示形式包括动态显示和/或静态显示,所述动态显示为基于动画显示音频特征,所述静态显示为所述音频特征在显示界面上静态展示。
134.根据本公开的一个或多个实施例,【示例五】提供了一种确定特效视频的方法,该方法,还包括:
135.可选的,确定与所述当前待处理视频帧相对应的叠加背景图像,以及所述叠加背景图像所对应的目标透明度;
136.将所述叠加背景图像依据所述目标透明度,叠加在所述模糊视频帧上,作为所述背景图像。
137.根据本公开的一个或多个实施例,【示例六】提供了一种确定特效视频的方法,该方法,还包括:
138.可选的,根据所述当前待处理视频帧中各像素点的像素值,确定像素均值;
139.基于所述像素均值,确定与所述当前待处理视频帧相对应的叠加背景图像。
140.根据本公开的一个或多个实施例,【示例七】提供了一种确定特效视频的方法,该方法,还包括:
141.可选的,在所述前景图像中叠加目标人物模型;
142.获取所述当前待处理视频帧中目标对象的肢体动作信息和/或面部表情;
143.调整所述目标人物模型,与所述肢体动作和/或所述面部表情相匹配。
144.根据本公开的一个或多个实施例,【示例八】提供了一种确定特效视频的方法,该
方法,还包括:
145.可选的,根据当前待处理视频帧之前的各历史待处理视频帧的历史音频信息,更新显示界面上的至少一个目标关键词。
146.根据本公开的一个或多个实施例,【示例九】提供了一种确定特效视频的方法,该方法,还包括:
147.可选的,当检测到对触发目标关键词时,跳转至与所述目标关键词所对应的历史目标特效视频帧,并播放;
148.其中,所述历史目标特效视频帧是基于对历史待处理视频帧特效处理后得到的视频帧。
149.根据本公开的一个或多个实施例,【示例十】提供了一种确定特效视频的方法,该方法,还包括:
150.可选的,若所述目标特效视频帧是在视频录制的模式下生成的,则确定与音频信息相对应的文字信息;
151.在播放所述目标特效视频时,于播放界面的目标区域中显示所述文字信息;
152.其中,所述目标区域位于各待处理特效视频帧的前景图像中。
153.根据本公开的一个或多个实施例,【示例十一】提供了一种确定特效视频的方法,该方法,还包括:
154.可选的,调整所述音频信息、文字信息以及音频特效同频显示。
155.根据本公开的一个或多个实施例,【示例十二】提供了一种确定特效视频的方法,该方法,还包括:
156.可选的,将与音频信息相对应的文字信息和音频特效于播放界面中下区别显示。
157.根据本公开的一个或多个实施例,【示例十三】提供了一种确定特效视频的装置,该装置包括:
158.模糊视频帧确定模块,用于响应于特效触发操作,确定与当前待处理视频帧相对应的模糊视频帧;以及,确定与所述当前待处理视频帧的音频信息相一致的音频特效;
159.特效视频帧生成模块,用于将所述模糊视频帧作为当前特效视频帧的背景图像,将所述音频特效作为当前特效视频帧的前景图像;
160.目标特效视频生成模块,用于通过对各待处理视频帧的特效视频帧拼接处理,得到目标特效视频。
161.以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开中所涉及的公开范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述公开构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
162.此外,虽然采用特定次序描绘了各操作,但是这不应当理解为要求这些操作以所示出的特定次序或以顺序次序执行来执行。在一定环境下,多任务和并行处理可能是有利的。同样地,虽然在上面论述中包含了若干具体实现细节,但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地,在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的
子组合的方式实现在多个实施例中。
163.尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题,但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反,上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1