1.本发明属于增强现实技术领域,具体涉及一种增强现实显示装置及其显示控制方法。
背景技术:
2.在vr/ar/mr设备领域中,术语inside out是指通过头戴设备上固定的传感器实现头戴设备的6dof定位追踪,而术语outside in是指通过外置固定在空间中的传感器实现头戴设备的6dof定位追踪。目前通过inside out实现头戴设备的6dof定位追踪的ar/vr/mr设备分为一体机(例如hololens/occulus quest)和连线分体机(例如magicleap/nreal)。
3.但是不论上述何种设备,它们都没有利用手机传感器实现6dof定位追踪的功能,而是另外再配置深度摄像头或者tof摄像头来实现6dof定位追踪的功能,并未充分利用智能手机的能力而是额外采用一套独立的设备会极大增加vr/ar/mr设备的成本。
技术实现要素:
4.为解决上述问题,本发明提供了一种增强现实显示装置,包括:
5.可调节框架,用于用户佩戴;所述可调节框架套设于用户头部;
6.安装槽,用于安装移动终端;所述安装槽设置于所述可调节框架的第一端;
7.增强现实显示屏,用于向用户提供增强现实显示画面;所述增强现实显示屏设置于所述可调节框架的第二端;
8.移动终端,用于控制所述增强现实显示屏;所述移动终端设置于所述安装槽中,且与所述增强现实显示屏相对;
9.其中,所述移动终端包括相对的第一面和第二面,所述移动终端的第一面上设置有显示模块而第二面上设置有图像采集模块,当所述移动终端适配安装于所述安装槽中时,所述显示模块与所述增强现实显示屏正相对;所述移动终端还包括处理模块,所述处理模块用于处理所述图像采集模块采集得到的实时图像并通过所述显示模块传送给所述增强现实显示屏后显示在所述增强现实显示屏上;所述处理模块分别与所述显示模块和所述图像采集模块连接;所述处理模块具体包括:
10.惯性测量单元,用于采集用户实时运动数据;
11.位姿处理单元,用于根据所述图像采集模块采集到的实时图像和相应时刻的所述实时运动数据确定所述移动终端的当前位姿;所述位姿处理单元与所述惯性测量单元连接;
12.图像处理单元,用于根据所述移动终端的当前位姿在所述增强现实显示屏上确定虚拟可视范围,以及在所述显示模块上生成虚拟图像,并将所述虚拟图像通过所述显示模块显示在所述增强现实显示屏上的所述虚拟可视范围中;所述图像处理单元与所述位姿处理单元连接。
13.优选地,所述处理模块包括:
14.特征点获取单元,用于获取所述实时图像中的特征点;
15.特征点处理单元,用于根据所述特征点获取单元中所述特征点分析所述特征点对应的覆盖区域,并根据分析结果将所述特征点输出至所述位姿处理单元;所述特征点处理模块分别连接所述图像采集模块和所述位姿处理单元;
16.所述位姿处理单元包括:
17.位姿确定单元,用于根据所述特征点对应的所述覆盖区域和对应时刻的所述实时运动数据确定所述移动终端的当前位姿;所述位姿确定单元与所述特征点处理单元和所述惯性测量单元连接。
18.优选地,所述图像处理单元包括:
19.虚拟角度信息生成单元,用于根据所述当前位姿构建以所述图像采集模块为原心的空间直角坐标系,确定所述图像采集模块的空间转动角度,以及所述空间转动角度与所述用户之间的夹角,并根据所述空间转动角度和所述夹角生成虚拟角度信息;所述虚拟角度信息生成单元与所述位姿处理单元连接;
20.第一虚拟图像生成单元,用于根据所述虚拟角度信息生成第一虚拟图像,并将所述第一虚拟图像输出至所述显示模块,并通过所述显示模块和所述增强现实显示屏显示所述第一虚拟图像;所述第一虚拟图像生成单元与所述虚拟角度信息生成单元连接。
21.优选地,所述虚拟角度信息的表达式为:
22.θ=(θ
x
,θ
y-α,θz),
23.其中,θ表示所述虚拟角度信息;θ
x
表示所述空间转动角度中的俯仰角;θy表示所述空间转动角度中的偏航角;α表示所述夹角;θz表示所述空间转动角度中的翻滚角。
24.优选地,所述图像处理单元包括:
25.虚拟位置信息生成单元,用于根据所述当前位姿构建以所述图像采集模块为原心的空间直角坐标系,选取用户眉心作为预设参考点,并根据所述移动终端与所述预设参考点之间的偏移量以及所述用户的瞳距生成虚拟位置信息;所述虚拟位置信息生成单元与所述位姿处理单元连接;
26.第二虚拟图像生成单元,用于根据所述虚拟位置信息生成第二虚拟图像,并将所述第二虚拟图像输出至所述显示模块,并通过所述显示模块和所述增强现实显示屏显示所述第二虚拟图像;所述第二虚拟图像生成单元与所述虚拟位置信息生成单元连接。
27.优选地,所述虚拟位置信息生成单元包括:
28.第一虚拟位置信息生成单元,用于根据所述当前位姿构建以所述图像采集模块为原心的所述空间直角坐标系,选取所述用户的眉心作为预设参考点,并根据所述图像采集模块与所述预设参考点之间的偏移量生成第一虚拟位置信息。
29.优选地,所述第一虚拟位置信息的表达式为:
30.χ
′
=(-b
x
,-by,-bz),
31.其中,χ
′
表示所述第一虚拟位置信息;b
x
表示所述偏移量在x轴上的投影;by表示所述偏移量在y轴上的投影;bz表示所述偏移量在z轴上的投影。
32.优选地,所述虚拟位置信息生成单元包括:
33.第二虚拟位置信息生成单元,用于根据所述用户的瞳距对所述第一虚拟位置信息调节生成第二虚拟位置信息,并将所述第二虚拟位置信息作为所述虚拟位置信息输出;
34.其中,所述第二虚拟位置信息包括左眼位置信息和右眼位置信息;所述第二虚拟位置信息的表达式为:
[0035][0036]
其中,χ
″1表示所述左眼位置信息;χ
″2表示所述右眼位置信息;b
x
表示所述偏移量在x轴上的投影;by表示所述偏移量在y轴上的投影;i表示所述用户的所述瞳距;bz表示所述偏移量在z轴上的投影。
[0037]
优选地,所述图像处理单元包括:
[0038]
第三虚拟图像生成单元,用于生成第三虚拟图像;
[0039]
虚拟视场角信息生成单元,用于根据所述第三虚拟图像的曲面边缘与所述用户之间的位置差值生成虚拟视场角信息;所述虚拟视场角信息生成单元与所述第三虚拟图像生成单元连接;
[0040]
第四虚拟图像生成单元,用于根据所述虚拟视场角信息生成第四虚拟图像,并将所述第四虚拟图像输出至所述显示模块,并通过所述显示模块和所述增强现实显示屏显示所述第四虚拟图像;所述第四虚拟图像生成单元与所述虚拟视场角信息生成单元连接。
[0041]
本发明还提供了一种增强现实显示装置显示控制方法,所述增强现实显示装置包括如上述中任一所述的增强现实显示装置,所述方法包括步骤:
[0042]
所述图像采集模块采集得到所述移动终端预设方向的实时图像;
[0043]
所述惯性测量单元采集得到用户实时运动数据;
[0044]
所述位姿处理单元根据所述实时图像和所述实时运动数据处理得到所述移动终端的当前位姿;
[0045]
在所述增强现实显示屏上确定虚拟可视范围,以及在所述显示模块上生成虚拟图像,并将所述虚拟图像通过所述显示模块显示在所述增强现实显示屏上的所述虚拟可视范围中
[0046]
所述图像处理单元根据所述当前位姿在所述增强现实显示屏上确定虚拟可视范围,以及在所述显示模块上生成虚拟图像;
[0047]
所述显示模块将所述虚拟图像显示在所述增强现实显示屏上的所述虚拟可视范围中。
[0048]
本技术提供的一种增强现实显示装置及其显示控制方法,将手机与ar/vr/mr的光学组件刚性地连接到一起,通过visual slam的技术获取手机在空间中的体姿,通过空间坐标换算获得人眼位置,并根据双眼体姿输出画面到光学组件上。
附图说明
[0049]
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
[0050]
图1是本发明提供的一种增强现实显示装置的结构示意图;
[0051]
图2是本发明提供的一种增强现实显示装置的结构示意图。
具体实施方式
[0052]
为使本发明的目的、技术方案和优点更加清楚明了,下面结合具体实施方式并参照附图,对本发明进一步详细说明。应该理解,这些描述只是示例性的,而并非要限制本发明的范围。此外,在以下说明中,省略了对公知结构和技术的描述,以避免不必要地混淆本发明的概念。
[0053]
如图1-2,在本技术实施例中,本发明提供了一种增强现实显示装置,包括:
[0054]
可调节框架1,用于用户佩戴;所述可调节框架1套设于用户头部;
[0055]
安装槽2,用于安装移动终端4;所述安装槽2设置于所述可调节框架1的第一端;
[0056]
增强现实显示屏3,用于向用户提供增强现实显示画面;所述增强现实显示屏3设置于所述可调节框架1的第二端;
[0057]
移动终端4,用于控制所述增强现实显示屏3;所述移动终端4设置于所述安装槽2中,且与所述增强现实显示屏3相对;
[0058]
其中,所述移动终端4包括相对的第一面和第二面,所述移动终端4的第一面上设置有显示模块而第二面上设置有图像采集模块,当所述移动终端4适配安装于所述安装槽2中时,所述显示模块与所述增强现实显示屏3正相对;所述移动终端4还包括处理模块,所述处理模块用于处理所述图像采集模块采集得到的实时图像并通过所述显示模块传送给所述增强现实显示屏3后显示在所述增强现实显示屏3上;所述处理模块分别与所述显示模块和所述图像采集模块连接;所述处理模块具体包括:
[0059]
惯性测量单元,用于采集用户实时运动数据;
[0060]
位姿处理单元,用于根据所述图像采集模块采集到的实时图像和相应时刻的所述实时运动数据确定所述移动终端4的当前位姿;所述位姿处理单元与所述惯性测量单元连接;
[0061]
图像处理单元,用于根据所述移动终端4的当前位姿在所述增强现实显示屏3上确定虚拟可视范围,以及在所述显示模块上生成虚拟图像,并将所述虚拟图像通过所述显示模块显示在所述增强现实显示屏3上的所述虚拟可视范围中;所述图像处理单元与所述位姿处理单元连接。
[0062]
当使用此增强现实显示装置时,可调节框架1佩戴于用户头部,可调节框架1呈环状,长度可以根据用户头部大小而调整。移动终端4通过图像采集模块采集实时图像,惯性测量单元采集实时运动数据,随后通过位姿处理单元和图像处理单元确定当前位姿,并根据当前位姿在所述增强现实显示屏3上确定虚拟可视范围,以及在所述显示模块上生成虚拟图像,并将所述虚拟图像通过所述显示模块显示在所述增强现实显示屏3上的所述虚拟可视范围中,用户通过增强现实显示屏3上观察到虚拟画面和现实环境实现虚拟画面和现实环境之间叠加融合,达到增强现实的目的。
[0063]
在本技术实施例中,所述处理模块包括:
[0064]
特征点获取单元,用于获取所述实时图像中的特征点;
[0065]
特征点处理单元,用于根据所述特征点获取单元中所述特征点分析所述特征点对应的覆盖区域,并根据分析结果将所述特征点输出至所述位姿处理单元;所述特征点处理
模块分别连接所述图像采集模块和所述位姿处理单元;
[0066]
所述位姿处理单元包括:
[0067]
位姿确定单元,用于根据所述特征点对应的所述覆盖区域和对应时刻的所述实时运动数据确定所述移动终端4的当前位姿;所述位姿确定单元与所述特征点处理单元和所述惯性测量单元连接。
[0068]
在本技术实施例中,处理模块包括特征点获取单元和特征点处理单元,而位姿处理单元包括位姿确定单元,特征点获取单元获取所述实时图像中的特征点;特征点处理单元根据所述特征点获取单元中所述特征点分析所述特征点对应的覆盖区域,并根据分析结果将所述特征点输出至所述位姿处理单元;位姿确定单元根据所述特征点对应的所述覆盖区域和对应时刻的所述实时运动数据确定所述移动终端4的当前位姿。
[0069]
在本技术实施例中,所述图像处理单元包括:
[0070]
虚拟角度信息生成单元,用于根据所述当前位姿构建以所述图像采集模块为原心的空间直角坐标系,确定所述图像采集模块的空间转动角度,以及所述空间转动角度与所述用户之间的夹角,并根据所述空间转动角度和所述夹角生成虚拟角度信息;所述虚拟角度信息生成单元与所述位姿处理单元连接;
[0071]
第一虚拟图像生成单元,用于根据所述虚拟角度信息生成第一虚拟图像,并将所述第一虚拟图像输出至所述显示模块,并通过所述显示模块和所述增强现实显示屏3显示所述第一虚拟图像;所述第一虚拟图像生成单元与所述虚拟角度信息生成单元连接。
[0072]
在本技术实施例中,图像处理单元包括虚拟角度信息生成单元和第一虚拟图像生成单元,虚拟角度信息生成单元可以根据所述当前位姿构建以所述图像采集模块为原心的空间直角坐标系,确定所述图像采集模块的空间转动角度,以及所述空间转动角度与所述用户之间的夹角,并根据所述空间转动角度和所述夹角生成虚拟角度信息;所述虚拟角度信息生成单元与所述位姿处理单元连接,第一虚拟图像生成单元可以根据所述虚拟角度信息生成第一虚拟图像,并将所述第一虚拟图像输出至所述显示模块,并通过所述显示模块和所述增强现实显示屏3显示所述第一虚拟图像;所述第一虚拟图像生成单元与所述虚拟角度信息生成单元连接。
[0073]
在本技术实施例中,所述虚拟角度信息的表达式为:
[0074]
θ=(θ
x
,θ
y-α,θz),
[0075]
其中,θ表示所述虚拟角度信息;θ
x
表示所述空间转动角度中的俯仰角;θy表示所述空间转动角度中的偏航角;α表示所述夹角;θz表示所述空间转动角度中的翻滚角。
[0076]
在本技术实施例中,所述图像处理单元包括:
[0077]
虚拟位置信息生成单元,用于根据所述当前位姿构建以所述图像采集模块为原心的空间直角坐标系,选取用户眉心作为预设参考点,并根据所述移动终端4与所述预设参考点之间的偏移量以及所述用户的瞳距生成虚拟位置信息;所述虚拟位置信息生成单元与所述位姿处理单元连接;
[0078]
第二虚拟图像生成单元,用于根据所述虚拟位置信息生成第二虚拟图像,并将所述第二虚拟图像输出至所述显示模块,并通过所述显示模块和所述增强现实显示屏3显示所述第二虚拟图像;所述第二虚拟图像生成单元与所述虚拟位置信息生成单元连接。
[0079]
在本技术实施例中,图像处理单元包括虚拟位置信息生成单元和第二虚拟图像生
成单元,虚拟位置信息生成单元可以根据所述当前位姿构建以所述图像采集模块为原心的空间直角坐标系,选取用户眉心作为预设参考点,并根据所述移动终端4与所述预设参考点之间的偏移量以及所述用户的瞳距生成虚拟位置信息;所述虚拟位置信息生成单元与所述位姿处理单元连接,第二虚拟图像生成单元可以根据所述虚拟位置信息生成第二虚拟图像,并将所述第二虚拟图像输出至所述显示模块,并通过所述显示模块和所述增强现实显示屏3显示所述第二虚拟图像;所述第二虚拟图像生成单元与所述虚拟位置信息生成单元连接。
[0080]
在本技术实施例中,所述虚拟位置信息生成单元包括:
[0081]
第一虚拟位置信息生成单元,用于根据所述当前位姿构建以所述图像采集模块为原心的所述空间直角坐标系,选取所述用户的眉心作为预设参考点,并根据所述图像采集模块与所述预设参考点之间的偏移量生成第一虚拟位置信息。
[0082]
在本技术实施例中,虚拟位置信息生成单元包括第一虚拟位置信息生成单元,第一虚拟位置信息生成可以根据所述当前位姿构建以所述图像采集模块为原心的所述空间直角坐标系,选取所述用户的眉心作为预设参考点,并根据所述图像采集模块与所述预设参考点之间的偏移量生成第一虚拟位置信息。
[0083]
在本技术实施例中,所述第一虚拟位置信息的表达式为:
[0084]
χ
′
=(-b
x
,-by,-bz),
[0085]
其中,χ
′
表示所述第一虚拟位置信息;b
x
表示所述偏移量在x轴上的投影;by表示所述偏移量在y轴上的投影;bz表示所述偏移量在z轴上的投影。
[0086]
在本技术实施例中,所述虚拟位置信息生成单元包括:
[0087]
第二虚拟位置信息生成单元,用于根据所述用户的瞳距对所述第一虚拟位置信息调节生成第二虚拟位置信息,并将所述第二虚拟位置信息作为所述虚拟位置信息输出;
[0088]
其中,所述第二虚拟位置信息包括左眼位置信息和右眼位置信息。
[0089]
在本技术实施例中,所述虚拟位置信息生成单元包括第二虚拟位置信息生成单元,第二虚拟位置信息生成单元根据所述用户的瞳距对所述第一虚拟位置信息调节生成第二虚拟位置信息,并将所述第二虚拟位置信息作为所述虚拟位置信息输出;所述第二虚拟位置信息包括左眼位置信息和右眼位置信息。
[0090]
在本技术实施例中,所述第二虚拟位置信息的表达式为:
[0091][0092]
其中,χ
″1表示所述左眼位置信息;χ
″2表示所述右眼位置信息;b
x
表示所述偏移量在x轴上的投影;by表示所述偏移量在y轴上的投影;i表示所述用户的所述瞳距;bz表示所述偏移量在z轴上的投影。
[0093]
在本技术实施例中,所述图像处理单元包括:
[0094]
第三虚拟图像生成单元,用于生成第三虚拟图像;
[0095]
虚拟视场角信息生成单元,用于根据所述第三虚拟图像的曲面边缘与所述用户之间的位置差值生成虚拟视场角信息;所述虚拟视场角信息生成单元与所述第三虚拟图像生成单元连接;
[0096]
第四虚拟图像生成单元,用于根据所述虚拟视场角信息生成第四虚拟图像,并将所述第四虚拟图像输出至所述显示模块,并通过所述显示模块和所述增强现实显示屏3显示所述第四虚拟图像;所述第四虚拟图像生成单元与所述虚拟视场角信息生成单元连接。
[0097]
在本技术实施例中,所述图像处理单元包括虚拟视场角信息生成单元和第四虚拟图像生成单元,虚拟视场角信息生成单元可以根据所述第三虚拟图像的曲面边缘与所述用户之间的位置差值生成虚拟视场角信息;所述虚拟视场角信息生成单元与所述第三虚拟图像生成单元连接;第四虚拟图像生成单元可以根据所述虚拟视场角信息生成第四虚拟图像,并将所述第四虚拟图像输出至所述显示模块,并通过所述显示模块和所述增强现实显示屏3显示所述第四虚拟图像;所述第四虚拟图像生成单元与所述虚拟视场角信息生成单元连接。
[0098]
本发明还提供了一种增强现实显示装置显示控制方法,所述增强现实显示装置包括如上述中所述的增强现实显示装置,所述方法包括步骤:
[0099]
所述图像采集模块采集得到所述移动终端4预设方向的实时图像;
[0100]
所述惯性测量单元采集得到用户实时运动数据;
[0101]
所述位姿处理单元根据所述实时图像和所述实时运动数据处理得到所述移动终端4的当前位姿;
[0102]
在所述增强现实显示屏3上确定虚拟可视范围,以及在所述显示模块上生成虚拟图像,并将所述虚拟图像通过所述显示模块显示在所述增强现实显示屏3上的所述虚拟可视范围中
[0103]
所述图像处理单元根据所述当前位姿在所述增强现实显示屏3上确定虚拟可视范围,以及在所述显示模块上生成虚拟图像;
[0104]
所述显示模块将所述虚拟图像显示在所述增强现实显示屏3上的所述虚拟可视范围中。
[0105]
本技术提供的一种增强现实显示装置及其显示控制方法,将手机与ar/vr/mr的光学组件刚性地连接到一起,通过visual slam的技术获取手机在空间中的体姿,通过空间坐标换算获得人眼位置,并根据双眼体姿输出画面到光学组件上。
[0106]
应当理解的是,本发明的上述具体实施方式仅仅用于示例性说明或解释本发明的原理,而不构成对本发明的限制。因此,在不偏离本发明的精神和范围的情况下所做的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。此外,本发明所附权利要求旨在涵盖落入所附权利要求范围和边界、或者这种范围和边界的等同形式内的全部变化和修改例。