虚拟头像驱动显示方法、装置、电子设备及存储介质与流程

文档序号:18889520发布日期:2019-10-15 21:32阅读:190来源:国知局
虚拟头像驱动显示方法、装置、电子设备及存储介质与流程

本公开实施例涉及图像检测技术,尤其涉及一种虚拟头像驱动显示方法、装置、电子设备及存储介质。



背景技术:

随着图像处理技术的发展,图像处理的功能越来越强大。例如,基于图像的三维重建功能。随着用户的拍摄分享的需求不断提高,用户想要分享人脸生动的表情但又想保护人脸隐私,此时,可以通过生成一种与用户人脸表情实时对应的三维虚拟头像实现展现人脸生动的表情。

现有的三维虚拟头像展现方式是,通过获取用户头部对应的特征点的空间信息,并基于连续多张视频帧中这些特征点的空间信息,捕捉用户头部姿态(如动作和表情等),用于驱动预先构建的三维虚拟头像的姿态。

实际上,现有的空间信息,通常是通过多个不同空间位置的摄像头,同时获取头部在不同角度(每个角度之间的偏移量较大)下的图像,确定头部特征点的空间信息。为了能够展现与用户头部姿态(如动作和表情等)实时匹配的三维虚拟头像姿态,通常是针对实时拍摄的视频进行处理,而且是在一个角度下拍摄用户头部图像,无法直接获取用户头部在不同角度下的图像,仅能通过一张图像或者连续多张偏移角度很小的用户头部的图像驱动三维虚拟头像。由此,获取的头部特征点的空间信息不准确,从而导致驱动的三维虚拟头像的姿态不准确。



技术实现要素:

本公开实施例提供一种虚拟头像驱动显示方法、装置、电子设备及存储介质,可以准确获取用户头部的三维数据,实现准确通过三维虚拟头像描述用户三维姿态。

第一方面,本公开实施例提供了一种虚拟头像驱动显示方法,该方法包括:

在视频拍摄的过程中,在接收到三维虚拟头像生成指令时,调用三维数据采集功能程序,实时获取所述视频的视频帧中用户的头部三维数据;

在所述视频的各视频帧中,根据匹配的头部三维数据渲染生成三维虚拟头像进行显示,以实现在所述视频中驱动三维虚拟头像。

第二方面,本公开实施例还提供了一种虚拟头像驱动显示装置,该装置包括:

头部三维数据获取模块,用于在视频拍摄的过程中,在接收到三维虚拟头像生成指令时,调用三维数据采集功能程序,实时获取所述视频的视频帧中用户的头部三维数据;

虚拟头像显示模块,用于在所述视频的各视频帧中,根据匹配的头部三维数据渲染生成三维虚拟头像进行显示,以实现在所述视频中驱动三维虚拟头像。

第三方面,本公开实施例还提供了一种电子设备,该电子设备包括:

一个或多个处理器;

存储器,用于存储一个或多个程序;

当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如本公开实施例所述的虚拟头像驱动显示方法。

第四方面,本公开实施例还提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如本公开实施例所述的虚拟头像驱动显示方法。

本公开实施例通过使用三维数据采集功能程序获取实时拍摄的用户的头部三维数据,并根据头部三维数据,生成匹配的三维虚拟头像,实现获取用户的头部姿态的三维数据,增加头部姿态的特征数据,解决了现有技术中实时采集的用户头部的姿态数据的不准确不全面,导致驱动三维虚拟头像的不准确的问题,通过三维数据采集功能程序,直接获取用户头部三维数据,使头部的姿态数据的更加全面和准确,从而实现准确通过三维虚拟头像描述用户三维姿态,提高三维虚拟头像的更加准确和精细。

附图说明

图1是本公开实施例一中的一种虚拟头像驱动显示方法的流程图;

图2是本公开实施例二中的一种虚拟头像驱动显示方法的流程图;

图3是本公开实施例三中的一种虚拟头像驱动显示装置的结构示意图;

图4是本公开实施例四中的一种电子设备的结构示意图。

具体实施方式

下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例,然而应当理解的是,本公开可以通过各种形式来实现,而且不应该被解释为限于这里阐述的实施例,相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是,本公开的附图及实施例仅用于示例性作用,并非用于限制本公开的保护范围。

应当理解,本公开的方法实施方式中记载的各个步骤可以按照不同的顺序执行,和/或并行执行。此外,方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本公开的范围在此方面不受限制。

本文使用的术语“包括”及其变形是开放性包括,即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”;术语“另一实施例”表示“至少一个另外的实施例”;术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。

需要注意,本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分,并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。

需要注意,本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的,本领域技术人员应当理解,除非在上下文另有明确指出,否则应该理解为“一个或多个”。

本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的,而并不是用于对这些消息或信息的范围进行限制。

实施例一

图1为本公开实施例一中的一种虚拟头像驱动显示方法的流程图,本实施例可适用于实时获取用户的头部姿态数据,并生成匹配的三维虚拟头像的情况,该方法可以由虚拟头像驱动显示装置来执行,该装置可以采用软件和/或硬件的方式实现,该装置可以配置于电子设备中,例如移动终端,典型的移动终端包括手机、车载终端或平板电脑等。如图1所示,该方法具体包括如下步骤:

s110,在视频拍摄的过程中,在接收到三维虚拟头像生成指令时,调用三维数据采集功能程序,实时获取所述视频的视频帧中用户的头部三维数据。

其中,视频包括多个包含人物的头部的视频帧。在视频拍摄的过程中,可以实时获取视频的视频帧。实际上,一个视频帧中可以包括多个人物,可以选择任意一个作为目标识别对象,或者,确定每个人物的优先级,将优先级最高的人物作为目标识别对象。优先级的确定可以是基于面部面积确定,例如面部的面积最大的优先级最高,或者是基于面部的特征器官(如眼睛、鼻子或嘴巴等)的数目和/或总面积确定,例如面部的特征器官最多和/或总面积最大的优先级最高,此外,还可以通过其他方式确定优先级,对此,本公开实施例不作具体限制。

三维虚拟头像生成指令用于采集用户的头部三维数据并对应生成三维虚拟头像。示例性的,三维虚拟头像生成指令为用户对三维虚拟头像生成控件的点击指令。此外,还可以是其他具体的指令,如三维虚拟头像生成指令包括在跳转的虚拟对象选择页面中的选择点击指令,虚拟对象选择页面可以是用户输入的对三维虚拟头像生成控件的点击指令之后,生成的页面,对此,本公开实施例不做具体限制。

三维数据采集功能程序用于在一个拍摄角度进行拍摄的情况下,获取物体的三维数据。可以采用移动终端对视频进行拍摄,移动终端的操作系统不限于安卓系统或ios系统。可选的,所述三维数据采集功能程序包括增强现实功能程序。相应的,三维数据采集功能程序包括安卓系统下的增强现实功能程序,或者三维数据采集功能程序包括ios系统下的增强现实功能程序。其中,ios系统下的增强现实功能程序包括arkit。

三维虚拟头像用于表现与用户头部姿态匹配的虚拟的三维姿态,其中,姿态可以包括头部动作和面部表情。示例性的,虚拟头像可以是虚拟动物头像(如卡通猫),还可以是虚拟人物头像(如动漫人物)等,对此,本公开实施例不做具体限制。

头部三维数据用于表征用户的头部姿态。可选的,所述头部三维数据包括多个空间维度下的姿态数据,其中,所述姿态数据包括面部表情数据和头部动作数据。

其中,空间维度可以是多个相互正交的空间维度。姿态数据用于表征用户的动作姿态和表情姿态。示例性的,头部动作包括点头或摇头等,面部表情包括高兴、哭泣或愤怒等。

通过将头部三维数据配置为多个空间维度下的姿态数据,增加采集的用户的头部姿态的特征数据维度,从而使头部姿态数据更加全面,以使后续基于该头部三维数据驱动的三维虚拟头像,更加精细,以及更加准确。

可选的,所述头部三维数据包括52个空间维度下的姿态数据,所述头部三维数据包括基于blendshape技术表述的面部表情数据。

具体的,blendshape技术是一种动画技术,将面部的语义模型表述为简单的线性组合形式,使面部的拟合问题能够转化成各种形式的最优化问题。

示例性的,基于如下公式表述面部:

其中,b表示任意面部表情;b0表示自然表情,如无表情或者平和状态下的表情;bi表示表情基,也即表示在某个空间维度下的面部表情,xi为表情基bi的权重。n为空间维度的个数,例如,n为52,其中,n可以根据需要进行设定,对此,本公开实施例不做具体限制。

实际上,头部三维数据中的面部表情数据包括每个空间维度下的面部表情数据以及每个空间维度下的面部表情的权重信息。由此,可以确定用户在每个空间维度的面部表情的丰富度和重要性,据此,可以对用户的面部表情进行准确分类。也就是说,将采集的面部表情提取为多组52个维度下的特征数据,大大增加了面部表情的特征数据的范围,增加特征数据的代表性,从而提高面部表情识别的精准性。

通过blendshape技术描述面部表情数据,可以准确且精细的确定用户面部表情数据,提高面部表情的识别精度和准确率。

当接收到三维虚拟头像生成指令时,从当前系统时间开始,持续采集各视频帧对应的用户的头部三维数据,直至满足三维数据停止获取条件,其中,该三维数据停止获取条件可以包括录制视频,或者接收到三维虚拟头像停止生成指令等。

s120,在所述视频的各视频帧中,根据匹配的头部三维数据渲染生成三维虚拟头像进行显示,以实现在所述视频中驱动三维虚拟头像。

获取各视频帧对应的头部三维数据,并确定三维虚拟头像的渲染数据,进行渲染,生成三维虚拟头像,并在视频帧中显示。

具体的,可以根据用户的输入选择生成的三维虚拟头像的对象,例如,用户选择柴犬狗的形象,根据数据库中存储的预先设定的头部三维数据与渲染数据的对应关系,确定目标渲染数据。在视频帧中基于目标渲染数据生成三维虚拟头像,其中,三维虚拟头像的位置可以是随机的(如预先设定在视频帧的右下角),而后用户通过滑动操作拖动三维虚拟头像进行调整,或者直接根据用户的点击操作,在用户点击的位置处显示三维虚拟头像,此外,三维虚拟头像的位置还可以是其他确定方式,对此,本公开实施例不作具体限制。

三维虚拟头像的渲染可以通过渲染引擎实现。

在各视频帧均显示与匹配的当前用户姿态数据匹配的三维虚拟头像,实现三维虚拟头像在视频中随着用户的姿态改变而改变,从而实现基于用户头部姿态驱动该三维虚拟头像。

可选的,所述根据匹配的头部三维数据渲染生成三维虚拟头像,包括:将所述头部三维数据输入到预先训练的表情识别模型中,得到所述表情识别模型输出的用户表情类型;调用渲染程序,根据所述用户表情类型和所述头部三维数据,生成所述三维虚拟头像。

具体的,将头部三维数据输入到表情识别模型进行表情识别,可以快速准确确定表情类型。表情识别模型用于对头部三维数据进行分类,确定用户表情类型。具体的,表情识别模型为混合高斯模型。可选的,表情类型可以包括开心、悲伤、愤怒、苦恼或委屈等,对此,本公开实施例不作具体限制。

渲染程序用于确定渲染参数,以及基于渲染参数生成三维虚拟头像。

实际上,根据头部三维数据确定匹配的渲染参数的过程中,由于头部三维数据的特征数据较多,可以先对头部三维数据先进行分类,确定表情类型,并在匹配的表情类型的渲染数据中,查询匹配的渲染参数,提高渲染参数的查询速度。

此外,三维虚拟头像通常与真人不同,需要夸张的动画效果,由此,可以根据表情类型,预先配置三维虚拟头像的针对性特殊渲染参数,形成个性化的虚拟姿态,增加三维虚拟头像的灵活性,使三维虚拟头像更加真实。

可选的,在上述实施例的基础上,所述虚拟头像驱动显示方法,在实时获取所述视频的视频帧中用户的头部三维数据之后,还包括:将所述匹配的头部三维数据上传至电子设备,以使所述电子设备渲染生成匹配的三维虚拟头像。

电子设备包括服务器或终端设备,终端设备具体可以包括移动终端或计算机设备等。除了在移动终端中显示三维虚拟头像之外,还可以将头部三维数据直接上传至其他电子设备中进行处理。例如,在直播的应用场景中,本机设备将头部三维数据上传至服务器,服务器确定三维虚拟头像的渲染数据,并下发至其他终端设备中,以使其他终端设备在直播间中渲染生成三维虚拟头像并显示。此外,本机设备还可以直接将基于头部三维数据确定的渲染数据上传至电子设备。

通过将头部三维数据上传,以使其他电子设备获取头部三维数据并渲染匹配的三维虚拟头像进行显示,实现多设备实时展示三维虚拟头像,增加三维虚拟头像展示样式。

可选的,所述将所述匹配的头部三维数据上传至电子设备,包括:通过用户数据报协议将所述头部三维数据上传至电子设备。

其中,用户数据报协议(userdatagramprotocol,udp)可以是指无连接的传输层协议,用于快速传输用户数据,提高数据传输的实时性。

通过用户数据报协议将头部三维数据发送至其他电子设备中,使电子设备中实时获取头部三维数据,并渲染生成三维虚拟头像,从而实现在电子设备中实时驱动三维虚拟头像。

本公开实施例通过使用三维数据采集功能程序获取实时拍摄的用户的头部三维数据,并根据头部三维数据,生成匹配的三维虚拟头像,实现获取用户的头部姿态的三维数据,增加头部姿态的特征数据,解决了现有技术中实时采集的用户头部的姿态数据的不准确不全面,导致驱动三维虚拟头像的不准确的问题,通过三维数据采集功能程序,直接获取用户头部三维数据,使头部的姿态数据的更加全面和准确,从而实现准确通过三维虚拟头像描述用户三维姿态,提高三维虚拟头像的更加准确和精细。

实施例二

图2为本公开实施例中的一种移动终端与电子设备交互的示意图。如图2所示,该方法具体包括如下步骤:

在本公开实施例中移动终端采集用户的头部三维数据,并上传至电子设备,同时实现移动终端显示三维虚拟头像,以及电子设备显示三维虚拟头像。

s210,移动终端在视频拍摄的过程中,在接收到三维虚拟头像生成指令时,调用三维数据采集功能程序,实时获取所述视频的视频帧中用户的头部三维数据。

本公开实施例中的视频、三维虚拟头像生成指令、三维数据采集功能程序、视频帧、头部三维数据和三维虚拟头像等均可以参考上述实施例的描述。

s220,所述移动终端在所述视频的各视频帧中,根据匹配的头部三维数据渲染生成三维虚拟头像进行显示,以实现在所述视频中驱动三维虚拟头像。

s230,所述移动终端通过用户数据报协议将所述匹配的头部三维数据上传至电子设备。

s240,所述电子设备根据头部三维数据,渲染生成匹配的三维虚拟头像。

可选的,所述头部三维数据包括多个空间维度下的姿态数据,其中,所述姿态数据包括面部表情数据和头部动作数据。

可选的,所述根据匹配的头部三维数据渲染生成三维虚拟头像,包括:将所述头部三维数据输入到预先训练的表情识别模型中,得到所述表情识别模型输出的用户表情类型;调用渲染程序,根据所述用户表情类型和所述头部三维数据,生成所述三维虚拟头像。

可选的,所述头部三维数据包括52个空间维度下的姿态数据,所述头部三维数据包括基于blendshape技术表述的面部表情数据。

可选的,所述三维数据采集功能程序包括增强现实功能程序。

可选的,所述三维数据采集功能程序为arkit。

本公开实施例通过移动终端与电子设备的头部三维数据的实时传输,提高电子设备获取头部三维数据的速度,提高在电子设备中显示三维虚拟头像的效率,从而实现在电子设备中实时驱动三维虚拟头像。

实施例三

图3为本公开实施例三提供的一种虚拟头像驱动显示装置的结构示意图,本实施例可适用于实时获取用户的头部姿态数据,并生成匹配的三维虚拟头像的情况。该装置可以采用软件和/或硬件的方式实现,该装置可以配置于电子设备中,如终端设备,具体的如移动终端,典型的移动终端包括手机、车载终端或平板电脑等。如图3所示,该装置可以包括:头部三维数据获取模块310和虚拟头像显示模块320。

头部三维数据获取模块310,用于在视频拍摄的过程中,在接收到三维虚拟头像生成指令时,调用三维数据采集功能程序,实时获取所述视频的视频帧中用户的头部三维数据;

虚拟头像显示模块320,用于在所述视频的各视频帧中,根据匹配的头部三维数据渲染生成三维虚拟头像进行显示,以实现在所述视频中驱动三维虚拟头像。

本公开实施例通过使用三维数据采集功能程序获取实时拍摄的用户的头部三维数据,并根据头部三维数据,生成匹配的三维虚拟头像,实现获取用户的头部姿态的三维数据,增加头部姿态的特征数据,解决了现有技术中实时采集的用户头部的姿态数据的不准确不全面,导致驱动三维虚拟头像的不准确的问题,通过三维数据采集功能程序,直接获取用户头部三维数据,使头部的姿态数据的更加全面和准确,从而实现准确通过三维虚拟头像描述用户三维姿态,提高三维虚拟头像的更加准确和精细。

进一步的,所述头部三维数据包括多个空间维度下的姿态数据,其中,所述姿态数据包括面部表情数据和头部动作数据。

进一步的,所述虚拟头像显示模块320,包括:表情识别模型识别单元,用于将所述头部三维数据输入到预先训练的表情识别模型中,得到所述表情识别模型输出的用户表情类型;调用渲染程序,根据所述用户表情类型和所述头部三维数据,生成所述三维虚拟头像。

进一步的,所述虚拟头像驱动显示装置,还包括:三维数据上传模块,用于在实时获取所述视频的视频帧中用户的头部三维数据之后,将所述匹配的头部三维数据上传至电子设备,以使所述电子设备渲染生成匹配的三维虚拟头像。

进一步的,所述三维数据上传模块,包括:数据实时传输单元,用于通过用户数据报协议将所述头部三维数据上传至电子设备。

进一步的,所述头部三维数据包括52个空间维度下的姿态数据,所述头部三维数据包括基于blendshape技术表述的面部表情数据。

进一步的,所述三维数据采集功能程序包括增强现实功能程序。

本公开实施例提供的虚拟头像驱动显示装置,与前述实施例提供的虚拟头像驱动显示方法属于同一发明构思,未在本公开实施例中详尽描述的技术细节可参见前述实施例,并且本公开实施例提供的虚拟头像驱动显示装置与前述实施例提供的虚拟头像驱动显示方法具有相同的有益效果。

实施例四

下面参考图4,其示出了适于用来实现本公开实施例的电子设备(例如移动终端)400的结构示意图。本公开实施例中的终端设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、pda(个人数字助理)、pad(平板电脑)、pmp(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字tv、台式计算机等等的固定终端。图4示出的电子设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。

如图4所示,电子设备400可以包括处理装置(例如中央处理器、图形处理器等)401,其可以根据存储在只读存储器(rom)402中的程序或者从存储装置408加载到随机访问存储器(ram)403中的程序而执行各种适当的动作和处理。在ram403中,还存储有电子设备400操作所需的各种程序和数据。处理装置401、rom402以及ram403通过总线404彼此相连。输入/输出(i/o)接口405也连接至总线404。

通常,以下装置可以连接至i/o接口405:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置406;包括例如液晶显示器(lcd)、扬声器、振动器等的输出装置407;包括例如磁带、硬盘等的存储装置408;以及通信装置409。通信装置409可以允许电子设备400与其他设备进行无线或有线通信以交换数据。虽然图4示出了具有各种装置的电子设备400,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。

特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在非暂态计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置409从网络上被下载和安装,或者从存储装置408被安装,或者从rom402被安装。在该计算机程序被处理装置401执行时,执行本公开实施例的方法中限定的上述功能。

实施例五

本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑磁盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、rf(射频)等等,或者上述的任意合适的组合。

在一些实施方式中,客户端、服务器可以利用诸如http(hypertexttransferprotocol,超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信,并且可以与任意形式或介质的数字数据通信(例如,通信网络)互连。通信网络的示例包括局域网(“lan”),广域网(“wan”),网际网(例如,互联网)以及端对端网络(例如,adhoc端对端网络),以及任何当前已知或未来研发的网络。

上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。

上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:在视频拍摄的过程中,在接收到三维虚拟头像生成指令时,调用三维数据采集功能程序,实时获取所述视频的视频帧中用户的头部三维数据;在所述视频的各视频帧中,根据匹配的头部三维数据渲染生成三维虚拟头像进行显示,以实现在所述视频中驱动三维虚拟头像。

可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码,上述程序设计语言包括但不限于面向对象的程序设计语言—诸如java、smalltalk、c++,还包括常规的过程式程序设计语言—诸如“c”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(lan)或广域网(wan)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。

描述于本公开实施例中所涉及到的模块可以通过软件的方式实现,也可以通过硬件的方式来实现。其中,模块的名称在某种情况下并不构成对该模块本身的限定,例如,头部三维数据获取模块还可以被描述为“在视频拍摄的过程中,在接收到三维虚拟头像生成指令时,调用三维数据采集功能程序,实时获取所述视频的视频帧中用户的头部三维数据的模块”。

本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:现场可编程门阵列(fpga)、专用集成电路(asic)、专用标准产品(assp)、片上系统(soc)、复杂可编程逻辑设备(cpld)等等。

在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦除可编程只读存储器(eprom或快闪存储器)、光纤、便捷式紧凑盘只读存储器(cd-rom)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

根据本公开的一个或多个实施例,本公开提供了一种虚拟头像驱动显示方法,包括:

在视频拍摄的过程中,在接收到三维虚拟头像生成指令时,调用三维数据采集功能程序,实时获取所述视频的视频帧中用户的头部三维数据;

在所述视频的各视频帧中,根据匹配的头部三维数据渲染生成三维虚拟头像进行显示,以实现在所述视频中驱动三维虚拟头像。

根据本公开的一个或多个实施例,本公开提供的虚拟头像驱动显示方法中,所述头部三维数据包括多个空间维度下的姿态数据,其中,所述姿态数据包括面部表情数据和头部动作数据。

根据本公开的一个或多个实施例,本公开提供的虚拟头像驱动显示方法中,所述根据匹配的头部三维数据渲染生成三维虚拟头像,包括:将所述头部三维数据输入到预先训练的表情识别模型中,得到所述表情识别模型输出的用户表情类型;调用渲染程序,根据所述用户表情类型和所述头部三维数据,生成所述三维虚拟头像。

根据本公开的一个或多个实施例,本公开提供的虚拟头像驱动显示方法中,在实时获取所述视频的视频帧中用户的头部三维数据之后,还包括:将所述匹配的头部三维数据上传至电子设备,以使所述电子设备渲染生成匹配的三维虚拟头像。

根据本公开的一个或多个实施例,本公开提供的虚拟头像驱动显示方法中,所述将所述匹配的头部三维数据上传至电子设备,包括:通过用户数据报协议将所述头部三维数据上传至电子设备。

根据本公开的一个或多个实施例,本公开提供的虚拟头像驱动显示方法中,所述头部三维数据包括52个空间维度下的姿态数据,所述头部三维数据包括基于blendshape技术表述的面部表情数据。

根据本公开的一个或多个实施例,本公开提供的虚拟头像驱动显示方法,所述三维数据采集功能程序包括增强现实功能程序。

根据本公开的一个或多个实施例,本公开提供了一种虚拟头像驱动显示装置,包括:

头部三维数据获取模块,用于在视频拍摄的过程中,在接收到三维虚拟头像生成指令时,调用三维数据采集功能程序,实时获取所述视频的视频帧中用户的头部三维数据;

虚拟头像显示模块,用于在所述视频的各视频帧中,根据匹配的头部三维数据渲染生成三维虚拟头像进行显示,以实现在所述视频中驱动三维虚拟头像。

根据本公开的一个或多个实施例,本公开提供的虚拟头像驱动显示装置中,所述头部三维数据包括多个空间维度下的姿态数据,其中,所述姿态数据包括面部表情数据和头部动作数据。

根据本公开的一个或多个实施例,本公开提供的虚拟头像驱动显示装置中,所述虚拟头像显示模块,包括:表情识别模型识别单元,用于将所述头部三维数据输入到预先训练的表情识别模型中,得到所述表情识别模型输出的用户表情类型;调用渲染程序,根据所述用户表情类型和所述头部三维数据,生成所述三维虚拟头像。

根据本公开的一个或多个实施例,本公开提供的虚拟头像驱动显示装置,还包括:三维数据上传模块,用于在实时获取所述视频的视频帧中用户的头部三维数据之后,将所述匹配的头部三维数据上传至电子设备,以使所述电子设备渲染生成匹配的三维虚拟头像。

根据本公开的一个或多个实施例,本公开提供的虚拟头像驱动显示装置中,所述三维数据上传模块,包括:数据实时传输单元,用于通过用户数据报协议将所述头部三维数据上传至电子设备。

根据本公开的一个或多个实施例,本公开提供的虚拟头像驱动显示装置中,所述头部三维数据包括52个空间维度下的姿态数据,所述头部三维数据包括基于blendshape技术表述的面部表情数据。

根据本公开的一个或多个实施例,本公开提供的虚拟头像驱动显示装置,所述三维数据采集功能程序包括增强现实功能程序。

根据本公开的一个或多个实施例,本公开提供了一种电子设备,包括:

一个或多个处理器;

存储器,用于存储一个或多个程序;

当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如本公开提供的任一所述的虚拟头像驱动显示方法。

根据本公开的一个或多个实施例,本公开提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如本公开提供任一所述的虚拟头像驱动显示方法。

以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开中所涉及的公开范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述公开构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

此外,虽然采用特定次序描绘了各操作,但是这不应当理解为要求这些操作以所示出的特定次序或以顺序次序执行来执行。在一定环境下,多任务和并行处理可能是有利的。同样地,虽然在上面论述中包含了若干具体实现细节,但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地,在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。

尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题,但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反,上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1