特效视频确定方法、装置、电子设备及存储介质与流程

文档序号:30607747发布日期:2022-07-01 22:50阅读:62来源:国知局
特效视频确定方法、装置、电子设备及存储介质与流程

1.本发明实施例涉及计算机技术领域,尤其涉及一种特效视频确定方法、装置、电子设备及存储介质。


背景技术:

2.随着网络技术的发展,越来越多的应用程序进入了用户的生活,尤其是一系列可以拍摄短视频的软件,深受用户的喜爱。
3.目前,在基于拍摄短视频的软件拍摄相应的视频或者图像时,为了提高视频的趣味性,经常会做一些特效处理,但是现有的特效存在内容不够丰富,显示比较单一,从而存在使用户观看体验和使用体验较差的问题。


技术实现要素:

4.本发明提供一种特效视频确定方法、装置、电子设备及存储介质,以实现视频内容丰富性和趣味性的,进而提高用户使用体验的技术效果。
5.第一方面,本发明实施例提供了一种特效视频确定方法,该方法包括:
6.响应于特效触发操作,为目标对象添加虚拟特效模型;
7.根据采集到的音频信息,控制与所述目标对象相对应的虚拟特效模型的目标虚拟部位进行运动,以及将所述目标对象的目标实体部位调整为预设状态,得到目标特效视频。
8.第二方面,本发明实施例还提供了一种特效视频确定装置,该装置包括:
9.特效模型添加模块,用于响应于特效触发操作,为目标对象添加虚拟特效模型;
10.目标特效视频确定模块,根据采集到的音频信息,控制与所述目标对象相对应的虚拟特效模型的目标虚拟部位进行运动,以及将所述目标对象的目标实体部位调整为预设状态,得到目标特效视频。
11.第三方面,本发明实施例还提供了一种电子设备,所述电子设备包括:
12.一个或多个处理器;
13.存储装置,用于存储一个或多个程序,
14.当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如本发明实施例任一所述的特效视频确定方法。
15.第四方面,本发明实施例还提供了一种包含计算机可执行指令的存储介质,所述计算机可执行指令在由计算机处理器执行时用于执行如本发明实施例任一所述的特效视频确定方法。
16.本公开实施例的技术方案,通过响应于特效触发操作,为目标对象添加虚拟特效模型,根据采集到的音频信息,控制与目标对象相对应的虚拟特效模型的目标虚拟部位进行运动,以及将目标对象的目标实体部位调整为预设状态,得到目标特效视频,实现了对视频拍摄内容丰富性和趣味性,同时,还达到了腹语的效果。
附图说明
17.结合附图并参考以下具体实施方式,本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中,相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的,原件和元素不一定按照比例绘制。
18.图1为本公开实施例所提供的一种特效视频确定方法流程示意图;
19.图2为本公开实施例所提供的一种特效视频确定方法流程示意图;
20.图3为本公开实施例所提供的一种特效视频确定装置流程示意图;
21.图4为本公开实施例所提供的一种电子设备结构示意图。
具体实施方式
22.下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例,然而应当理解的是,本公开可以通过各种形式来实现,而且不应该被解释为限于这里阐述的实施例,相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是,本公开的附图及实施例仅用于示例性作用,并非用于限制本公开的保护范围。
23.应当理解,本公开的方法实施方式中记载的各个步骤可以按照不同的顺序执行,和/或并行执行。此外,方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本公开的范围在此方面不受限制。
24.本文使用的术语“包括”及其变形是开放性包括,即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”;术语“另一实施例”表示“至少一个另外的实施例”;术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。
25.需要注意,本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分,并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
26.需要注意,本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的,本领域技术人员应当理解,除非在上下文另有明确指出,否则应该理解为“一个或多个”。
27.本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的,而并不是用于对这些消息或信息的范围进行限制。
28.在介绍本技术方案之前,可以先对应用场景进行示例性说明。可以将本公开技术方案应用在任意需要特效展示的画面中,例如,短视频拍摄场景,或者,现有的任意视频拍摄场景。
29.在本公开实施例中,可以将实现此道具的算法部署在终端设备上。或者,集成在现有的视频拍摄软件上,以增加视频拍摄趣味性的效果。其具体的实施方式可以参见下述详细阐述。
30.图1为本公开实施例所提供的一种特效视频确定方法的流程示意图,本实施例可适用于在互联网所支持的任意图像展示场景中,用于对实时拍摄的视频进行特效处理,或者对录制的视频进行特效处理的情形,该方法可以由特效图像处理装置来执行,该装置可以通过软件和/或硬件的形式实现,该硬件可以是电子设备,如移动终端、pc端或服务器等。任意图像展示的场景通常是由客户端和服务器来配合实现的,本实施例所提供的方法可以由服务端来执行,客户端来执行,或者是客户端和服务端的配合来执行。
31.如图1,本实施例的方法包括:
32.s110、响应于特效触发操作,为目标对象添加虚拟特效模型。
33.其中,执行本公开实施例提供的特效图像处理方法的装置,可以集成在支持特效图像处理功能的应用软件中,且该软件可以安装至电子设备中,可选的,电子设备可以是移动终端或者pc端等。应用软件可以是对图像/视频处理的一类软件,其具体的应用软件在此不再一一赘述,只要可以实现图像/视频处理即可。还可以是专门研发的应用程序,来实现添加特效并特效展示的软件中,亦或是集成在相应的页面中,用户可以通过pc端中集成的页面来实现特效添加处理。
34.需要说明的是,可以将本技术方案开发为特效道具,集成在任意可以视频拍摄的软件中,例如,终端设备自带的摄像装置中。或者,相应的短视频拍摄软件中,在用户拍摄视频、直播或者生成趣味互动界面时,可以触发该特效道具,以生成特效视频。
35.其中,目标对象为入镜画面中的对象,或者,任意需要为其添加相应虚拟特效模型的对象。虚拟特效模型可以是将要添加的模型,该模型可以是开发阶段设计的任意卡通模型,或者,是任意宠物模型,该模型可以是以图像的形式展示,也可以是ar模型,还可以是三维模型。例如,预先制作了各种猫咪的ar特效模型。
36.具体的,用户可以触发相应的应用软件,并在进入主页面后,可以点击拍摄控件,进入拍摄页面。触发拍摄页面上显示的与该特效所对应的特效道具,若显示界面中包括目标对象,则可以为目标对象添加任意一个虚拟特效模型,也可以是,在用户未触发虚拟特效模型选择控件时,为目标对象添加默认的虚拟特效模型;如果用户选择虚拟特效模型,则可以为用户添加选择的虚拟特效模型。
37.在本实施例中,响应于特效触发操作包括下述至少一种:在检测到入镜画面中包括目标对象;检测到触发目标特效道具的控件;检测到入镜画面中目标对象的肢体动作与添加特效的肢体动作相一致;或,检测到语音信息触发特效添加唤醒词。
38.其中,控件可以是应用软件的显示界面上显示的按键,该按键的触发表征需要生成特效视频。该按键可以是物理按键也可以是虚拟按键。在实际应用中,若用户触发该按键,可以认为要生成与该特效道具相对应的特效视频。其中,添加的特效具体是什么可以与用户触发的特效相一致。还可以是,基于终端设备上部署的麦克风阵列采集语音信息,并对语音信息分析处理,若处理结果中包括添加特效的词汇,则说明触发了特效添加功能。基于语音信息的内容来确定是否添加特效的好处在于,避免用户与显示页面的交互,提高了特效添加的智能性。另一种实现方式可以是,根据移动终端的拍摄视野范围,确定视野范围内目标主体的肢体动作是否为预设的肢体动作相一致,若是,则说明触发了特效添加操作,例如,预设的肢体动作为“胜利”的姿势,若目标主体的肢体动作触发了胜利姿势,则说明触发了特效触发操作。亦或是,在触发了该特效道具之后,只要检测到拍摄装置的视野区域内中包括面部图像,则触发了特效触发操作,即只要检测到入镜画面中包括目标对象,则可以认为需要为目标对象添加相应的虚拟特效模型。
39.需要说明的是,在实际应用中,目标对象的数量可以是一个也可以是多个,例如,如果用户想要的特效视频仅仅是包括一个用户的,则可以在人流密度较低的环境下进行拍摄。当然,如果在人流密度较高的环境下进行拍摄时,可能入镜画面中的对象数量包括多个,如果将入镜画面中的多个对象均作为目标对象,则可以为所有的目标对象添加虚拟特
效模型。如果入镜画面中的对象有多个,但是只希望某个对象为目标对象,则可以预先对目标对象记性标记,以在拍摄目标对象的数量包括多个时,只为标记的目标对象添加虚拟特效模型。亦或是,将标注的目标对象显示在显示界面上,不显示其他对象。
40.在本实施例中,在所述为目标对象添加虚拟特效模型之前,还包括:从虚拟特效库中确定与所述目标对象相对应的虚拟特效模型;其中,所述虚拟特效库中包括至少一个待选择虚拟特效模型。
41.需要说明的是,在开发阶段,可以设置设计多个虚拟特效模型,并将其存储在虚拟特效库中。虚拟特效库中存储的各虚拟特效模型可以是人物模型、动物模型、卡通图案模型或者任意风景模型,可以将上述虚拟特效模型作为待选择虚拟特效模型。为目标对象添加的虚拟特效模型可以是待选择虚拟特效模型中的模型。
42.具体的,响应于特效触发操作后,可以从虚拟特效库中随机选择一个虚拟特效模型,并为目标对象进行添加。也可以是,设置一个默认虚拟特效模型,在检测到触发特效道具,并检测到显示界面中包括目标对象,同时,用户也未选择虚拟特效模型,则可以为目标对象添加默认的虚拟特效模型。另一种情况为,在检测到触发特效道具后,可以弹出虚拟模型选择菜单,用户可以触发该菜单中显示的虚拟特效模型,并为目标对象添加触发的虚拟特效模型。
43.在本技术方案中,所述从虚拟特效库中确定与所述目标对象相对应的虚拟特效模型,包括:根据所述目标对象的基本属性信息,确定与所述目标对象相对应的虚拟特效模型。
44.在实际应用中,为了使添加的虚拟特效模型与目标对象是最为适配的,可以从虚拟特效库中选择与目标对象适配的虚拟特效模型。
45.其中,基本属性信息可以是用户的基础信息,可选的,基础信息可以是与用户注册的头像信息相对应的,例如,头像是风景,则可以选择风景虚拟特效模型。如果头像为卡通图案,则可以从虚拟特效库中选择与卡通图案相对应的虚拟特效模型。
46.需要说明的,虚拟特效模型可以是开发阶段预先设置,也可以是根据实际需求实时生成的,可选的,在所述为目标对象添加虚拟特效模型之前,还包括:获取预先上传的待处理图像,并根据所述待处理图像中的至少一个显示对象,确定虚拟特效模型。
47.其中,待处理图像为用户预先拍摄的图像。该图像中可以包括拍摄的动植物等,还可以是风景。将待处理图像中的动植物作为显示对象。可以基于显示对象生成虚拟特效模型,实现了虚拟特效模型定制化的技术效果。
48.具体的,在为目标对象添加虚拟特效模型之前,可以触发图像上传控件,以将待处理图像上传至软件。该软件可以识别待处理图像中的显示对象,并重建与显示对象相对应虚拟特效模型。重建完成后,可以为目标对象添加虚拟特效模型。
49.在实际应用中,入境画面中的目标对象可以包括一个,也可以包括多个,当包括多个时,可以将所所有对象都作为目标对象,也可以根据预先设置的入选条件,确定目标对象。其具体的方式可以参见下述详细阐述。
50.可选的,目标对象的数量包括至少一个,为目标对象添加虚拟特效模型,包括:为至少一个目标对象分别添加相应的虚拟特效模型;或,为符合预设条件的目标对象添加虚拟特效模型;确定音频信息相对应的目标对象,并为目标对象添加虚拟特效模型,将与其他
目标对象所对应的虚拟特效模型透明显示。
51.在本实施例中,若目标对象的数量包括多个,则为目标对象添加虚拟特效模型可以是:可以为入镜画面中的多个目标对象对添加与其相对应的虚拟特效模型,或者添加相同的虚拟特效模型。其确定虚拟特效模型的具体方式可以参见上述详细阐述。可以将预先标注的对象作为目标对象,并为目标对象添加虚拟特效模型。另一种方式,实时获取显示界面中的各对象,并实时确定与音频信息相对应的目标对象。为将虚拟特效模型添加到与音频信息相对应的目标对象上。另一种方式为,在确定与每个目标对象相对应的虚拟特效模型后,可以实时获取音频信息,并将与音频信息相对应的目标对象的虚拟特效模型进行显示,将未发音的其他对象的虚拟特效模型透明显示。
52.s120、根据采集到的音频信息,控制与所述目标对象相对应的虚拟特效模型的目标虚拟部位进行运动,以及将所述目标对象的目标实体部位调整为预设状态,得到目标特效视频。
53.其中,目标虚拟部位为虚拟特效模型上的部位。目标实体部位为目标对象面部上的五官部位。可选的,目标虚拟部位为虚拟特效模型的嘴部部位。目标实体部位为目标对象的嘴部部位。预设状态可以是微笑状态、闭嘴状态中的任意一种状态。
54.具体的,在采集到音频信息后,可以控制与目标对象相对应的虚拟特效部位的嘴部部位张开闭合。同时,将目标对象的嘴部部位调整为微笑状态。嘴部部位调整为微笑状态,可以通过预先训练的神经网络来实现。基于上述方式,可以生成最终的目标特效视频。当检测到触发停止拍摄条件时,得到最终的目标特效视频。
55.在本实施例中,将目标实体部位调整为预设状态可以是:基于与所述预设状态相对应的实体部位调整模型将所述目标实体部位由第一状态调整为所述预设状态。
56.其中,实体部位调整模型为预先训练得到的,用于将面部图像中的目标实体部位由张开闭合状态,调整为微笑状态。第一状态为张开、微笑等任意表情所对应的嘴部状态。预设状态为模型训练时期望输出的状态,例如,预设状态为微笑状态等。
57.具体的,在目标对象说话时,可以控制目标虚拟部位进行运动,同时,将目标对象的目标实体部位调整为微笑状态。
58.示例性的,在目标对象发出音频信息时,可以基于虚拟模型的嘴部部位进行运动,同时,将目标对象的嘴部部位调整为微笑状态,以达到腹语的效果。
59.本公开实施例的技术方案,通过响应于特效触发操作,为目标对象添加虚拟特效模型,根据采集到的音频信息,控制与目标对象相对应的虚拟特效模型的目标虚拟部位进行运动,以及将目标对象的目标实体部位调整为预设状态,得到目标特效视频,实现了对视频拍摄内容丰富性和趣味性,同时,还达到了腹语的效果。
60.图2为本公开实施例所提供的一种特效视频确定方法流程示意图,在前述实施例的基础上,可以对“根据采集到的音频信息,控制与所述目标对象相对应的虚拟特效模型的目标虚拟部位进行运动,以及将所述目标对象的目标实体部位调整为预设状态,得到目标特效视频”进行进一步细化,其具体的实施方式可以参见本技术方案的详细阐述,其中,与上述实施例相同或者相应的技术术语在此不再赘述。
61.如2所示,所述方法包括:
62.s210、响应于特效触发操作,确定与所述目标对象相对应的特效添加位置,将所述
虚拟特效模型添加至所述特效添加位置处。
63.其中,所述特效添加位置包括所述目标对象肢体躯干上的任意位置,或与所述目标对象为中心的预设邻域的任意位置。可选的,任意位置可以是肩膀,还可以是距离用户躯干有一定距离的任意位置处。预设领域可以是距离用户边缘轮廓一定范围内的任意位置。
64.在本实施例中,确定与目标对象相对应的特效添加位置,将虚拟特效模型添加至特效添加位置处,包括:确定目标对象的手部信息,并在手部信息与预设手部姿态信息相一致时,确定特效添加位置为手部部位;将虚拟特效模型添加在手部部位处。
65.其中,手部姿态可以是手部处于打招呼的姿态。可以预先设置打招呼的多种姿态,并将其作为预设手部姿态。
66.具体的,实时检测目标对象的手部部位,在手部部位的姿态与预设手部姿态相一致,则确定特效添加位置为手部部位。可以将确定出的虚拟特效模型添加到手部部位上。此时,手部对于显示界面上的用户是不可视的。即,虚拟特效部位是遮挡手部部位上的。
67.s220、根据采集到的音频信息,控制与所述目标对象相对应的虚拟特效模型的目标虚拟部位进行运动。
68.可选的,当采集到音频信息时,控制与目标对象相对应的虚拟特效模型的目标虚拟部位进行运动;或,在检测到的音频信息中包括触发运动内容时,控制与目标对象相对应的虚拟特效模型的目标虚拟部位进行运动。
69.具体的,只要采集到音频信息时,就可以确定与该音频信息相对应的目标对象。可以驱动目标对象手部部位添加的虚拟特效模型的嘴部部位进行运动。还可以是:实时获取各目标对象的音频信息,并确定音频信息是否触发了嘴部运动内容,例如,触发的运动内容可以是腹语等词汇,则可以控制虚拟特效部位模型的目标虚拟部位进行运动。
70.在本技术方案中,控制与目标对象相对应的虚拟特效模型的目标虚拟部位进行运动,可以包括至少三种情况,接下来详细阐述每种情况对应的实现方式。第一种实现方式为:将目标虚拟部位隐藏显示,并基于预先训练得到的实体部位迁移模型,将目标实体部位迁移至目标虚拟部位,作为目标虚拟部位;其中,目标虚拟部位的运动信息与音频信息的口型信息相对应。
71.具体的,可以基于预先训练得到的实体部位迁移模型,对面部图像中目标对象的嘴部部位抠出,并将嘴部部位迁移至目标虚拟部位。此时,目标虚拟部位的运动信息与目标实体部位的口型信息相一致。
72.第二种实现方式可以是:获取所述目标实体部位的口型信息,并基于所述口型信息控制所述目标虚拟部位的运动;其中,所述目标虚拟部位的运动与所述口型信息相一致。
73.具体的,可以实时获取目标实体部位的口型信息,并控制虚拟特效模型中目标虚拟部位的运动信息与口型信息相一致,以达到音频信息是虚拟特效模型发出的效果。
74.第三种实现方式可以是:获取所述手部部位的运动信息,并基于所述运动信息控制所述目标虚拟部位进行运动。
75.具体的,可以实时检测手部部位的运动信息,在手部部位运动时,可以控制目标虚拟部位进行运动,以达到音频信息由目标虚拟部位发出的效果。
76.在实际应用中,可能出现用户虽然发出了音频信息,但是用户的手部部位并没有运动的情况,此时可以是:若未获取到手部部位的运动信息,则基于音频信息控制目标虚拟
部位进行运动;其中,目标虚拟部位的运动信息与音频信息的口型信息相对应。
77.具体的,可以基于音频信息和手部部位进行双驱动目标虚拟部位。可以立即额为,在检测到手部部位运动时,可以基于手部部位控制目标虚拟部位进行运动,以达到目标虚拟部位发出相应的音频信息。或者是,在未检测到手部部位运动时,可以直接基于音频信息控制目标虚拟部位进行运动。目标虚拟部位的运动信息与音频信息所对应的口型相对应。
78.s230、将目标对象的目标实体部位调整为预设状态。
79.具体的,在控制目标虚拟部位运动的过程中,可以将目标实体部位调整为微笑状态。
80.本公开实施例的技术方案,在响应于特效触发操作后,可以为目标对象添加虚拟特效模型,在采集到音频信息,可以将目标对象的嘴部部位迁移至虚拟特效模型的目标虚拟部位,并控制目标虚拟部位的运动信息与音频信息的口型信息相对应,进一步的,可以将目标对象的嘴部部位的状态调整为预设状态,实现了特效视频内容丰富性和趣味性,以达到腹语的效果。
81.图3为本公开实施例所提供的一种特效图像处理装置的结构框图,可执行本公开任意实施例所提供的特效图像处理方法,具备执行方法相应的功能模块和有益效果。如图3所示,该装置具体包括:特效模型添加模块310以及目标特效视频确定模块320。
82.其中,特效模型添加模块310,用于响应于特效触发操作,为目标对象添加虚拟特效模型;目标特效视频确定模块320,根据采集到的音频信息,控制与所述目标对象相对应的虚拟特效模型的目标虚拟部位进行运动,以及将所述目标对象的目标实体部位调整为预设状态,得到目标特效视频。
83.在上述技术方案的基础上,响应于特效触发操作包括下述至少一种:
84.在检测到入镜画面中包括目标对象;检测到触发目标特效道具的控件;检测到入镜画面中目标对象的肢体动作与添加特效的肢体动作相一致;或,检测到语音信息触发特效添加唤醒词。
85.在上述技术方案的基础上,特效模型添加模块还用于:从虚拟特效库中确定与所述目标对象相对应的虚拟特效模型;其中,所述虚拟特效库中包括至少一个待选择虚拟特效模型。
86.在上述技术方案的基础上,特效模型添加模块还用于:根据所述目标对象的基本属性信息,确定与所述目标对象相对应的虚拟特效模型。
87.在上述技术方案的基础上,特效模型添加模块还用于:获取预先上传的待处理图像,并根据所述待处理图像中的至少一个显示对象,确定虚拟特效模型。
88.在上述技术方案的基础上,所述目标对象的数量包括至少一个,特效模型添加模块还用于:
89.为所述至少一个目标对象分别添加相应的虚拟特效模型;或,为符合预设条件的目标对象添加虚拟特效模型;确定所述音频信息相对应的目标对象,并为所述目标对象添加虚拟特效模型,将与其他目标对象所对应的虚拟特效模型透明显示。
90.在上述技术方案的基础上,特效模型添加模块还用于:确定与所述目标对象相对应的特效添加位置,将所述虚拟特效模型添加至所述特效添加位置处;其中,所述特效添加位置包括所述目标对象肢体躯干上的任意位置,或与所述目标对象为中心的预设邻域的任
意位置。
91.在上述技术方案的基础上,特效模型添加模块还用于:确定所述目标对象的手部信息,并在所述手部信息与预设手部姿态信息相一致时,确定所述特效添加位置为手部部位;将所述虚拟特效模型添加在所述手部部位处。
92.在上述技术方案的基础上,目标特效视频确定模块还用于:当采集到音频信息时,控制与所述目标对象相对应的虚拟特效模型的目标虚拟部位进行运动;或,在检测到的音频信息中包括触发运动内容时,控制与所述目标对象相对应的虚拟特效模型的目标虚拟部位进行运动。
93.在上述技术方案的基础上,目标特效视频确定模块还用于:将所述目标虚拟部位隐藏显示,并基于预先训练得到的实体部位迁移模型,将所述目标实体部位迁移至所述虚拟部位,作为所述目标虚拟部位;其中,所述目标虚拟部位的运动信息与所述音频信息的口型信息相对应。
94.在上述技术方案的基础上,目标特效视频确定模块还用于:获取所述目标实体部位的口型信息,并基于所述口型信息控制所述目标虚拟部位的运动;其中,所述目标虚拟部位的运动与所述口型信息相一致。
95.在上述技术方案的基础上,目标特效视频确定模块还用于:获取所述手部部位的运动信息,并基于所述运动信息控制所述目标虚拟部位进行运动。
96.在上述技术方案的基础上,目标特效视频确定模块还用于:若未获取到所述手部部位的运动信息,则基于所述音频信息控制所述目标虚拟部位进行运动;其中,所述目标虚拟部位的运动信息与所述音频信息的口型信息相对应。
97.在上述技术方案的基础上,目标特效视频确定模块还用于:基于与所述预设状态相对应的实体部位调整模型将所述目标实体部位由第一状态调整为所述预设状态。
98.在上述技术方案的基础上,所述目标实体部位为所述目标对象的嘴部部位,所述目标虚拟部位为所述虚拟特效的嘴部部位,所述预设状态为嘴部部位闭合状态或微笑状态。
99.本公开实施例的技术方案,通过响应于特效触发操作,为目标对象添加虚拟特效模型,根据采集到的音频信息,控制与目标对象相对应的虚拟特效模型的目标虚拟部位进行运动,以及将目标对象的目标实体部位调整为预设状态,得到目标特效视频,实现了对视频拍摄内容丰富性和趣味性,同时,还达到了腹语的效果。
100.本公开实施例所提供的特效图像处理装置可执行本公开任意实施例所提供的特效图像处理方法,具备执行方法相应的功能模块和有益效果。
101.值得注意的是,上述装置所包括的各个单元和模块只是按照功能逻辑进行划分的,但并不局限于上述的划分,只要能够实现相应的功能即可;另外,各功能单元的具体名称也只是为了便于相互区分,并不用于限制本公开实施例的保护范围。
102.图4为本公开实施例所提供的一种电子设备的结构示意图。下面参考图4,其示出了适于用来实现本公开实施例的电子设备(例如图4中的终端设备或服务器)400的结构示意图。本公开实施例中的终端设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、pda(个人数字助理)、pad(平板电脑)、pmp(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字tv、台式计算机等等的固定终端。图4示出的
电子设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
103.如图4所示,电子设备400可以包括处理装置(例如中央处理器、图形处理器等)401,其可以根据存储在只读存储器(rom)402中的程序或者从存储装置406加载到随机访问存储器(ram)403中的程序而执行各种适当的动作和处理。在ram 403中,还存储有电子设备400操作所需的各种程序和数据。处理装置401、rom 402以及ram 403通过总线404彼此相连。编辑/输出(i/o)接口405也连接至总线404。
104.通常,以下装置可以连接至i/o接口405:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的编辑装置406;包括例如液晶显示器(lcd)、扬声器、振动器等的输出装置407;包括例如磁带、硬盘等的存储装置406;以及通信装置409。通信装置409可以允许电子设备400与其他设备进行无线或有线通信以交换数据。虽然图4示出了具有各种装置的电子设备400,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
105.特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在非暂态计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置409从网络上被下载和安装,或者从存储装置406被安装,或者从rom 402被安装。在该计算机程序被处理装置401执行时,执行本公开实施例的方法中限定的上述功能。
106.本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的,而并不是用于对这些消息或信息的范围进行限制。
107.本公开实施例提供的电子设备与上述实施例提供的特效图像处理方法属于同一发明构思,未在本实施例中详尽描述的技术细节可参见上述实施例,并且本实施例与上述实施例具有相同的有益效果。
108.本公开实施例提供了一种计算机存储介质,其上存储有计算机程序,该程序被处理器执行时实现上述实施例所提供的特效视频确定方法。
109.需要说明的是,本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑磁盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、rf(射频)等等,或者上述
的任意合适的组合。
110.在一些实施方式中,客户端、服务器可以利用诸如http(hypertext transfer protocol,超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信,并且可以与任意形式或介质的数字数据通信(例如,通信网络)互连。通信网络的示例包括局域网(“lan”),广域网(“wan”),网际网(例如,互联网)以及端对端网络(例如,ad hoc端对端网络),以及任何当前已知或未来研发的网络。
111.上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。
112.上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:
113.响应于特效触发操作,为目标对象添加虚拟特效模型;
114.根据采集到的音频信息,控制与所述目标对象相对应的虚拟特效模型的目标虚拟部位进行运动,以及将所述目标对象的目标实体部位调整为预设状态,得到目标特效视频。
115.可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码,上述程序设计语言包括但不限于面向对象的程序设计语言—诸如java、smalltalk、c++,还包括常规的过程式程序设计语言—诸如“c”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(lan)或广域网(wan)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
116.附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
117.描述于本公开实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。其中,单元的名称在某种情况下并不构成对该单元本身的限定,例如,第一获取单元还可以被描述为“获取至少两个网际协议地址的单元”。
118.本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:现场可编程门阵列(fpga)、专用集成电路(asic)、专用标准产品(assp)、片上系统(soc)、复杂可编程逻辑设备(cpld)等等。
119.在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可
读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦除可编程只读存储器(eprom或快闪存储器)、光纤、便捷式紧凑盘只读存储器(cd-rom)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
120.根据本公开的一个或多个实施例,【示例一】提供了一种特效视频确定方法,该方法包括:
121.响应于特效触发操作,为目标对象添加虚拟特效模型;
122.根据采集到的音频信息,控制与所述目标对象相对应的虚拟特效模型的目标虚拟部位进行运动,以及将所述目标对象的目标实体部位调整为预设状态,得到目标特效视频。
123.根据本公开的一个或多个实施例,【示例二】提供了一种特效视频确定方法,还包括:
124.可选的,响应于特效触发操作包括下述至少一种:
125.在检测到入镜画面中包括目标对象;检测到触发目标特效道具的控件;检测到入镜画面中目标对象的肢体动作与添加特效的肢体动作相一致;或,检测到语音信息触发特效添加唤醒词。
126.根据本公开的一个或多个实施例,【示例三】提供了一种特效视频确定方法,还包括:
127.可选的,在所述为目标对象添加虚拟特效模型之前,还包括:从虚拟特效库中确定与所述目标对象相对应的虚拟特效模型;其中,所述虚拟特效库中包括至少一个待选择虚拟特效模型。
128.根据本公开的一个或多个实施例,【示例四】提供了一种特效视频确定方法,还包括:
129.可选的,所述从虚拟特效库中确定与所述目标对象相对应的虚拟特效模型,包括:根据所述目标对象的基本属性信息,确定与所述目标对象相对应的虚拟特效模型。根据本公开的一个或多个实施例,【示例五】提供了一种特效视频确定方法,还包括:
130.可选的,在所述为目标对象添加虚拟特效模型之前,还包括:获取预先上传的待处理图像,并根据所述待处理图像中的至少一个显示对象,确定虚拟特效模型。
131.根据本公开的一个或多个实施例,【示例六】提供了一种特效视频确定方法,还包括:
132.可选的,所述目标对象的数量包括至少一个,所述为目标对象添加虚拟特效模型,包括:为所述至少一个目标对象分别添加相应的虚拟特效模型;或,为符合预设条件的目标对象添加虚拟特效模型;确定所述音频信息相对应的目标对象,并为所述目标对象添加虚拟特效模型,将与其他目标对象所对应的虚拟特效模型透明显示。
133.根据本公开的一个或多个实施例,【示例七】提供了一种特效视频确定方法,还包括:
134.可选的,所述为目标对象添加虚拟特效模型,包括:确定与所述目标对象相对应的特效添加位置,将所述虚拟特效模型添加至所述特效添加位置处;其中,所述特效添加位置
包括所述目标对象肢体躯干上的任意位置,或与所述目标对象为中心的预设邻域的任意位置。
135.根据本公开的一个或多个实施例,【示例八】提供了一种特效视频确定方法,还包括:
136.可选的,所述确定与所述目标对象相对应的特效添加位置,将所述虚拟特效模型添加至所述特效添加位置处,包括:
137.确定所述目标对象的手部信息,并在所述手部信息与预设手部姿态信息相一致时,确定所述特效添加位置为手部部位;将所述虚拟特效模型添加在所述手部部位处。
138.根据本公开的一个或多个实施例,【示例九】提供了一种特效视频确定方法,还包括:
139.可选的,所述根据采集到的音频信息,控制与所述目标对象相对应的虚拟特效模型的目标虚拟部位进行运动,包括:
140.当采集到音频信息时,控制与所述目标对象相对应的虚拟特效模型的目标虚拟部位进行运动;或,在检测到的音频信息中包括触发运动内容时,控制与所述目标对象相对应的虚拟特效模型的目标部位进行运动。
141.根据本公开的一个或多个实施例,【示例十】提供了一种特效视频确定方法,还包括:
142.可选的,将所述目标虚拟部位隐藏显示,并基于预先训练得到的实体部位迁移模型,将所述目标实体部位迁移至所述虚拟部位,作为所述目标虚拟部位;其中,所述目标虚拟部位的运动信息与所述音频信息的口型信息相对应。
143.根据本公开的一个或多个实施例,【示例十一】提供了一种特效视频确定方法,还包括:
144.可选的,所述控制与所述目标对象相对应的虚拟特效模型的目标虚拟部位进行运动,包括:
145.获取所述目标实体部位的口型信息,并基于所述口型信息控制所述目标虚拟部位的运动;其中,所述目标虚拟部位的运动与所述口型信息相一致。
146.根据本公开的一个或多个实施例,【示例十二】提供了一种特效视频确定方法,还包括:
147.可选的,所述虚拟特效模型位于所述目标对象的手部部位,所述控制与所述目标对象相对应的虚拟特效模型的目标虚拟部位进行运动,包括:获取所述手部部位的运动信息,并基于所述运动信息控制所述目标虚拟部位进行运动。
148.根据本公开的一个或多个实施例,【示例十三】提供了一种特效视频确定方法,还包括:
149.可选的,若未获取到所述手部部位的运动信息,则基于所述音频信息控制所述目标虚拟部位进行运动;其中,所述目标虚拟部位的运动信息与所述音频信息的口型信息相对应。
150.根据本公开的一个或多个实施例,【示例十四】提供了一种特效视频确定方法,还包括:
151.可选的,所述将所述目标对象的目标实体部位调整为预设状态,包括:
152.基于与所述预设状态相对应的实体部位调整模型将所述目标实体部位由第一状态调整为所述预设状态。
153.根据本公开的一个或多个实施例,【示例十五】提供了一种特效视频确定方法,还包括:
154.可选的,所述目标实体部位为所述目标对象的嘴部部位,所述目标虚拟部位为所述虚拟特效的嘴部部位,所述预设状态为嘴部部位闭合状态或微笑状态。
155.根据本公开的一个或多个实施例,【示例十六】提供了一种特效视频确定装置,该装置包括:
156.特效模型添加模块,用于响应于特效触发操作,为目标对象添加虚拟特效模型;
157.目标特效视频确定模块,根据采集到的音频信息,控制与所述目标对象相对应的虚拟特效模型的目标虚拟部位进行运动,以及将所述目标对象的目标实体部位调整为预设状态,得到目标特效视频。
158.以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开中所涉及的公开范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述公开构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
159.此外,虽然采用特定次序描绘了各操作,但是这不应当理解为要求这些操作以所示出的特定次序或以顺序次序执行来执行。在一定环境下,多任务和并行处理可能是有利的。同样地,虽然在上面论述中包含了若干具体实现细节,但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地,在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。
160.尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题,但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反,上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1