一种虚拟现实头戴显示装置及其面部动作捕捉的方法与流程

文档序号:15345901发布日期:2018-09-04 22:45阅读:504来源:国知局

本发明涉及虚拟现实技术领域,具体涉及一种虚拟现实头戴显示装置,及应用于所述装置的面部动作捕捉的方法。



背景技术:

虚拟现实技术是一种可以创建和体验虚拟世界的计算机仿真系统,它利用计算机生成一种模拟环境,融合多源信息和交互式的三维动态视景,并提供视觉、触觉等多种实时反馈,使用户沉浸到该环境中。虚拟现实技术是仿真技术的一个重要方向,是仿真技术与计算机图形学、人机接口技术、多媒体技术、传感技术、网络技术等多种技术的集合,是一门富有挑战性的交叉技术前沿学科和研究领域。

随着虚拟现实技术的进步,出现了许多虚拟现实设备,头戴式虚拟现实显示设备就是其中的一种。现在市面上的虚拟现实头戴显示设备,使用户可以通过一对透镜看到一个虚拟的世界,这个体验对于用户来说是非常有沉浸感的,但是这些头戴显示设备往往会覆盖住用户面部的大部分,尤其是从前额到鼻子之间的部分,这使得用户的面部表情很难被捕捉到,而面部表情往往是视觉交流中非常重要的部分。

目前有一款名为veeso的产品,该产品可以跟踪用户面部表情的变化,把获得的表情重现在虚拟世界中的一个卡通人物脸上,但是卡通人物与真实的人脸差距较大,会降低真实感。



技术实现要素:

本发明的目的在于克服现有技术的不足,提供一种虚拟现实头戴显示装置,应用该装置的面部动作捕捉的方法,能够让虚拟现实系统实时捕捉用户的面部动作,并将用户真实的面部动作实时呈现在虚拟世界中。

为了达到上述目的,本发明采用的技术方案是:一种虚拟现实头戴显示装置,该头戴显示装置包括头戴基座、显示屏、透镜、第一连接杆、第二连接杆、遮光罩和摄像头;所述的遮光罩覆盖在用户面部与头戴基座、显示屏、透镜、第一连接杆、第二连接杆和摄像头的外围;所述的显示屏、透镜、遮光罩和摄像头均通过第一连接杆和/或第二连接杆与头戴基座连接固定。

进一步的,如上所述的头戴显示装置还包括多个摄像头,所述的摄像头分布在用户面部的周围,与面部距离3厘米到20厘米,并通过固定装置与头戴基座或者遮光罩连接固定。

进一步的,如上所述的摄像头用于拍摄面部动作;所述的摄像头中,有若干个分布在靠近用户眼睛的位置上,用于捕捉眼睛或瞳孔运动的摄像头。

进一步的,如上所述的头戴基座包括以下形式:头带、头箍或头盔。

进一步的,如上所述的头戴显示装置还包括多个通过固定装置与头戴基座或者遮光罩连接固定的led灯。

进一步的,如上所述的led灯根据虚拟世界中的环境模型自动调整各个不同位置的led灯的颜色和强度,模拟不同的环境光模型;所述的led灯包括可见光led灯、红外光led灯和紫外光led灯。

进一步的,在使用紫外光时,可以突出面部平时不可见的斑点,作为辅助跟踪面部动作的关键点。

进一步的,如上所述头戴显示装置还包括通过固定装置与头戴基座或者遮光罩连接固定的多个通风装置。

进一步的,如上所述多个通风装置根据虚拟世界中的环境模型自动调整各个不同位置的通风装置的风力,模拟不同的环境风模型。

一种应用于上述的虚拟现实头戴显示装置的面部动作捕捉的方法,首先,任意光源发出的光投射到用户的面部;接着,所述多个摄像头捕捉从面部反射的光,并形成视频发送到计算机;然后计算机把所述视频进行实时分析后重建面部动作模型。

进一步的,重建后的面部动作模型,既可以沿用原有的光照,也可以再次附加或应用源虚拟世界的照明模型。

进一步的,可以采用视频uv贴图的方式,把视频通过线性或非线性变换后映射到用户的面部模型上;所述面部模型预先根据用户面部的照片或视频生成。

进一步的,可以采用深度学习的分析方法,通过多次迭代以符合用户的实际面部模型。

与现有技术相比,本发明的有益效果是:该装置在使用时不会接触到用户面部除了额头之外的任何部分,解决了传统的虚拟现实设备佩戴时需要紧贴用户面部的问题,让用户使用时感觉更舒适和真实,也有利于摄像头捕捉用户的面部动作。本发明中面部动作捕捉的方法与该装置相结合,能够让虚拟现实系统实时捕捉用户的面部动作,并将用户真实的面部动作实时呈现在虚拟世界中,同时通风装置能为用户提供新鲜的空气以及模拟虚拟环境中的风,为用户营造出一个更有沉浸感的虚拟空间。

进行上述这些计算的计算机,可以采用台式机,笔记本电脑,可穿戴式电脑,内置在显示屏,内置在头戴基座,或内置在摄像头中,或由以上结合来使用。

附图说明

图1是本发明中实施例1的结构示意图;

图2是本发明中头戴基座的3个实施例;

图3是本发明中实施例2的结构示意图;

图4是本发明中led灯的位置示意图;

图5是本发明中通风装置的位置示意图;

图6是本发明中面部动作捕捉方法的工作流程示意图。

图中标号所示为:1.用户面部;2.头戴基座;20.头带;21.头箍;22.头盔;3.显示屏;4.透镜;5.第一连接杆;6.第二连接杆;7.遮光罩;8.摄像头;81.正对用户眼睛的摄像头;82和83.靠近用户眼睛的摄像头;9.led灯;10.通风装置。

具体实施方式

下面结合实施例参照附图进行详细说明,以便对本发明的技术特征及优点进行更深入的诠释。

实施例1

如图1所示,提供一种虚拟现实头戴显示装置,该头戴显示装置包括头戴基座2、显示屏3、透镜4、第一连接杆5、第二连接杆6、遮光罩7和摄像头8,其中,摄像头8包括正对用户眼睛的摄像头81;所述遮光罩7覆盖在用户面部1与头戴基座2、显示屏3、透镜4、第一连接杆5、第二连接杆6和摄像头8的外围;所述显示屏3、透镜4、遮光罩7和摄像头8均通过第一连接杆5和/或第二连接杆6与头戴基座2连接固定,上述连接方式可以是直接连接,也可以通过一个、两个或若干个连接杆进行固定连接。所述摄像头有3个,其中摄像头8表示左右共两个的摄像头,用于捕捉两侧面部动作;正对用户眼睛的摄像头81表示正前方的摄像头。进一步的,所述的摄像头8数量可以为2个或者2个以上,摄像头8是向内的,朝向着用户面部1(包括额,眉,眼睛,脸颊,下巴)。

如图2所示,所述头戴基座2可以是头带20,头箍21或者头盔22,其在使用时不会接触到用户面部除了额头之外的任何部分,解决了传统的虚拟现实设备佩戴时需要紧贴用户面部的问题,让用户使用时感觉更舒适和真实,也有利于摄像头捕捉用户的面部动作。

实施例2

如图3所示,该头戴显示装置与实施例1的结构相似,不同之处在于,包括10个摄像头8,摄像头8包括靠近用户眼睛的摄像头81,靠近用户眼睛的摄像头82和83;摄像头81、82和83用于捕捉前额、眉和眼睛周围的动作,以及眼睛或瞳孔的运动。其余摄像头均匀分布在用户面部1的周围,与用户面部1的距离为3厘米到20厘米,并通过固定装置与基座6或者遮光罩7连接固定。

在实际使用中,摄像头8的实际数量根据需要具体设定,数量大于或等于2个。

如图4和5所示,所述led灯9和通风装置10均通过固定装置与头戴基座2或者遮光罩7连接固定,所述led灯9和通风装置10的实际数量根据需要具体设定,不作具体限定,上述固定装置为常规设计,采用诸如螺纹连接或者卡扣扣合结构进行连接和固定。

实施例3

与实施例1相似,不同之处在于,本实施例不包含遮光罩7、led灯9或通风装置10,而是直接使用环境光,环境光即自然环境中本身存在的光。

工作原理

本发明装置的工作原理为,在使用本装置时,头戴基座2贴于用户的前额上部,固定在用户面部1与本装置的相对位置,保证本装置不会接触到用户面部1除了额头之外的任何部分,让用户使用时感觉更舒适,也有利于摄像头8捕捉用户面部1的动作。遮光罩7用于隔绝外部环境的光线,确保虚拟世界的显示效果,多个led灯9发出的光源投射在用户面部1,其颜色和亮度根据虚拟世界中的环境进行实时调整。例如,若虚拟世界中前方环境光线为较弱的白光,用户面部1正前方的led灯9发出低强度的白色光。多个摄像头8用于捕捉用户面部1的动作,通风装置10用于提供新鲜的空气以及模拟虚拟环境中的风。例如,若虚拟世界环境中的风从左前方吹来,则同时打开用户面部1左侧和前方的通风装置10,吹出相应风力的风。用户眼睛通过透镜4看到被放大后的显示屏3,结合led灯9和通风装置10进行实时调整,在用户的视觉范围内营造出一个更有沉浸感的虚拟空间。

面部动作捕捉方法,根据上述虚拟现实头戴显示装置,本发明还提供一种应用于虚拟现实头戴显示装置的面部动作捕捉的方法,多个摄像头8捕捉从用户面部1反射的光线,并形成视频流发送到计算机,其中正对用户眼睛的摄像头81、靠近用户眼睛的摄像头82和83捕捉眼睛和瞳孔的动作,然后计算机把所述图片或视频进行实时分析,重建面部动作模型,所述面部动作模型实时呈现在目标虚拟世界中。

对于上述图片或视频实时分析的计算方法来说,可以有不同层次(不同精度)的方法,其属于本领域技术人员所熟知的计算方法。低层次的方法可以采用视频二维映射(uv贴图)的方式,把视频通过线性或非线性变换后映射到用户的面部模型上,面部运动时,面部模型不改变,而表面纹理改变,所述面部模型预先根据用户面部1的照片或视频生成。高层次的方法可以采用不同的深度学习算法(cnn算法或fast-r-cnn算法等等),通过多次迭代以符合用户的实际面部模型,在此情况下,用户面部1的运动,会引起计算结果中面部模型和纹理的同时改变。

照明和面部动作模型的呈现方式,本发明中面部动作的呈现有两种方式——“固定”模式和“环境”模式。在“固定”模式中,led灯9的亮度固定,捕捉到的面部动作模型应用源虚拟世界的光照模型,再合并到目标虚拟世界中。在此模式下,led灯9除了可以使用可见光替代,还可以使用红外光或者紫外光,对用户不可见,但是可以突出皮肤的斑点或者纹理,做视频跟踪分析时更加容易。

在“环境”模式中,led灯9的亮度根据源虚拟世界的光照模型进行变换,捕捉到的面部动作模型再合并到目标虚拟世界时,不需要调整。在这种模式下,led灯9则必须使用可见光。

在远程会议的情况下,远程用户的面部动作模型与本地用户的面部动作模型融合并实时呈现在虚拟世界中,各地的用户可以看到实时的面部动作,结合第三方软硬件捕捉和传输的语音和肢体动作,从而为用户“面对面”的交流营造出一个更有沉浸感且更真实的虚拟空间。

在本发明装置中,显示屏3、透镜4和摄像头8、led灯9和通风装置10均为现有技术或材料,所属的技术人员根据所需的产品型号和规格,可以直接从市面购买或者订做。

通过以上实施例中的技术方案对本发明进行清楚、完整的描述,显然所描述的实施例为本发明一部分的实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1