增强现实设备的标定方法及装置、电子设备和存储介质与流程

文档序号:27037919发布日期:2021-10-24 06:32阅读:112来源:国知局
增强现实设备的标定方法及装置、电子设备和存储介质与流程

1.本公开涉及计算机技术领域,尤其涉及一种增强现实设备的标定方法及装置、电子设备和存储介质。


背景技术:

2.增强现实(ar,augmented reality)设备由于可以与真实场景实现交互,往往需要通过标定以实现虚拟对象和真实场景的对齐。例如,ar眼镜可以给用户的两只眼睛分别透射虚拟影像,以实现虚拟影像和真实场景的融合。为了使得ar眼镜中呈现的虚拟影像与真实场景实现对齐,需要对ar眼镜进行标定。
3.然而,相关技术中,为了对ar设备进行标定,往往需要特制的三维标定块、特制的标定板或者额外昂贵的辅助装置等。如何以较低成本便捷地对ar设备进行标定,成为目前一个亟待解决的问题。


技术实现要素:

4.为克服相关技术中存在的问题,本公开提出了一种增强现实设备的标定方案。
5.根据本公开的一方面,提供了一种增强现实设备的标定方法,包括:
6.获取标定对象在真实场景中的第一采集图像;根据所述第一采集图像,在所述ar设备中显示所述标定对象对应的预测图像;响应于针对所述ar设备的移动操作,在所述预测图像与所述标定对象匹配的情况下,获取所述标定对象在真实场景中的第二采集图像;基于所述第二采集图像,对所述ar设备进行标定。
7.在一种可能的实现方式中,所述根据所述第一采集图像,在所述ar设备中显示所述标定对象对应的预测图像,包括:根据所述第一采集图像,确定所述标定对象相对于所述ar设备的位姿;根据所述位姿,对所述标定对象在所述ar设备中的目标显示状态进行预测,并根据所述目标显示状态生成预测图像,其中,所述目标显示状态包括所述预测图像的目标显示位置和/或目标显示大小;在所述ar设备中显示所述预测图像。
8.在一种可能的实现方式中,所述第一采集图像包括至少两张采集图像;所述根据所述第一采集图像,确定所述标定对象相对于所述ar设备的位姿,包括:根据所述标定对象的角点在所述至少两张采集图像中的位置,通过三角化方法确定所述标定对象相对于所述ar设备的位姿。
9.在一种可能的实现方式中,所述第一采集图像包括至少一张采集图像;所述根据所述第一采集图像,确定所述标定对象相对于所述ar设备的位姿,包括:根据所述标定对象的预设尺寸,结合所述至少一张采集图像,通过多点透视成像方法确定所述标定对象相对于所述ar设备的位姿。
10.在一种可能的实现方式中,响应于所述目标显示状态包括目标显示位置,所述在所述ar设备中显示所述预测图像,包括:响应于针对所述ar设备的固定指示操作,将所述预测图像固定显示在所述ar设备的所述目标显示位置处。
11.在一种可能的实现方式中,所述获取所述标定对象在真实场景中的第二采集图像,包括:响应于针对所述ar设备的匹配确认操作,获取所述标定对象在真实场景中的第二采集图像;和/或,在所述ar设备处于非移动状态的持续时间达到预设时间阈值的情况下,获取所述标定对象在真实场景中的第二采集图像。
12.在一种可能的实现方式中,所述预测图像与所述标定对象匹配,包括:所述预测图像中的标定对象,与所述真实场景中的标定对象相互对齐;和/或,所述预测图像中标定对象的角点,与所述真实场景中标定对象的角点相互对齐。
13.在一种可能的实现方式中,所述方法还包括:在所述ar设备未进行所述移动操作,且所述预测图像与所述标定对象匹配的情况下,停止所述ar设备的标定。
14.根据本公开的一方面,提供了一种增强现实设备的标定装置,包括:
15.第一采集图像获取模块,用于获取标定对象在真实场景中的第一采集图像;预测模块,用于根据所述第一采集图像,在所述ar设备中显示所述标定对象对应的预测图像;第二采集图像获取模块,用于响应于针对所述ar设备的移动操作,在所述预测图像与所述标定对象匹配的情况下,获取所述标定对象在真实场景中的第二采集图像;标定模块,用于基于所述第二采集图像,对所述ar设备进行标定。
16.在一种可能的实现方式中,所述预测模块用于:根据所述第一采集图像,确定所述标定对象相对于所述ar设备的位姿;根据所述位姿,对所述标定对象在所述ar设备中的目标显示状态进行预测,并根据所述目标显示状态生成预测图像,其中,所述目标显示状态包括所述预测图像的目标显示位置和/或目标显示大小;在所述ar设备中显示所述预测图像。
17.在一种可能的实现方式中,所述第一采集图像包括至少两张采集图像;所述预测模块进一步用于:根据所述标定对象的角点在所述至少两张采集图像中的位置,通过三角化方法确定所述标定对象相对于所述ar设备的位姿。
18.在一种可能的实现方式中,所述第一采集图像包括至少一张采集图像;所述预测模块进一步用于:根据所述标定对象的预设尺寸,结合所述至少一张采集图像,通过多点透视成像方法确定所述标定对象相对于所述ar设备的位姿。
19.在一种可能的实现方式中,响应于所述目标显示状态包括目标显示位置,所述预测模块进一步用于:响应于针对所述ar设备的固定指示操作,将所述预测图像固定显示在所述ar设备的所述目标显示位置处。
20.在一种可能的实现方式中,所述第二采集图像获取模块用于:响应于针对所述ar设备的匹配确认操作,获取所述标定对象在真实场景中的第二采集图像;和/或,在所述ar设备处于非移动状态的持续时间达到预设时间阈值的情况下,获取所述标定对象在真实场景中的第二采集图像。
21.在一种可能的实现方式中,所述预测图像与所述标定对象匹配,包括:所述预测图像中的标定对象,与所述真实场景中的标定对象相互对齐;和/或,所述预测图像中标定对象的角点,与所述真实场景中标定对象的角点相互对齐。
22.在一种可能的实现方式中,所述装置还用于:在所述ar设备未进行所述移动操作,且所述预测图像与所述标定对象匹配的情况下,停止所述ar设备的标定。
23.根据本公开的一方面,提供了一种电子设备,包括:处理器;用于存储处理器可执行指令的存储器;其中,所述处理器被配置为调用所述存储器存储的指令,以执行上述方
法。
24.根据本公开的一方面,提供了一种计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令被处理器执行时实现上述方法。
25.在本公开实施例中,可以获取标定对象在真实场景中的第一采集图像,并根据第一采集图像,在ar设备中显示标定对象的预测图像,从而响应于针对ar设备的移动操作,在预测图像与第一采集图像匹配的情况下,获取标定对象在真实场景中的第二采集图像来对ar设备进行标定。通过上述过程,根据本公开实施例提供的ar设备的标定方法及装置、电子设备和存储介质,可以利用标定对象来简单便捷地实现ar设备的标定,降低ar设备的标定成本,提升标定效率和便捷程度。
26.应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,而非限制本公开。根据下面参考附图对示例性实施例的详细说明,本公开的其它特征及方面将变得清楚。
附图说明
27.此处的附图被并入说明书中并构成本说明书的一部分,这些附图示出了符合本公开的实施例,并与说明书一起用于说明本公开的技术方案。
28.图1示出根据本公开实施例的ar设备的标定方法的流程图。
29.图2示出根据本公开实施例的ar设备的标定方法的流程图。
30.图3示出根据本公开实施例的ar设备的标定装置的框图。
31.图4示出根据本公开一应用场景的示意图。
32.图5示出根据本公开一应用示例的示意图。
33.图6示出根据本公开实施例的一种电子设备800的框图。
34.图7示出根据本公开实施例的一种电子设备1900的框图。
具体实施方式
35.以下将参考附图详细说明本公开的各种示例性实施例、特征和方面。附图中相同的附图标记表示功能相同或相似的元件。尽管在附图中示出了实施例的各种方面,但是除非特别指出,不必按比例绘制附图。
36.在这里专用的词“示例性”意为“用作例子、实施例或说明性”。这里作为“示例性”所说明的任何实施例不必解释为优于或好于其它实施例。
37.本文中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,a和/或b,可以表示:单独存在a,同时存在a和b,单独存在b这三种情况。另外,本文中术语“至少一种”表示多种中的任意一种或多种中的至少两种的任意组合,例如,包括a、b、c中的至少一种,可以表示包括从a、b和c构成的集合中选择的任意一个或多个元素。
38.另外,为了更好地说明本公开,在下文的具体实施方式中给出了众多的具体细节。本领域技术人员应当理解,没有某些具体细节,本公开同样可以实施。在一些实例中,对于本领域技术人员熟知的方法、手段、元件和电路未作详细描述,以便于凸显本公开的主旨。
39.图1示出根据本公开一实施例的增强现实ar设备的标定方法的流程图,该方法可以应用于增强现实ar设备的标定装置,该ar设备的标定装置可以为终端设备、服务器或者
其他处理设备等。其中,终端设备可以为用户设备(user equipment,ue)、移动设备、用户终端、终端、蜂窝电话、无绳电话、个人数字助理(personal digital assistant,pda)、手持设备、计算设备、车载设备、可穿戴设备等。
40.在一些可能的实现方式中,该ar设备的标定方法也可以通过处理器调用存储器中存储的计算机可读指令的方式来实现。
41.如图1所示,在一种可能的实现方式中,所述ar设备的标定方法可以包括:
42.步骤s11,获取标定对象在真实场景中的第一采集图像。
43.其中,ar设备可以是实现ar功能且具有标定需求的任意设备,比如ar眼镜,ar头盔,ar一体机或是具有ar功能的智能设备如智能手机等。后续各公开实施例均以ar设备为ar眼镜为例进行描述,ar设备为其他设备的情况可以参考后续各公开实施例进行灵活扩展,不再一一赘述。
44.真实场景可以是ar眼镜所在的真实物理空间,ar眼镜可以通过设置在眼镜任意部位的图像采集设备,对真实场景中的对象进行图像采集,或是通过具有透视功能的镜片等对真实场景进行直接观察。
45.标定对象可以为处于真实场景中且用于辅助ar眼镜进行标定的任意对象,第一采集图像可以是ar眼镜对标定对象进行图像采集所得到的图像。在一些可能的实现方式中,ar眼镜可以通过设置在眼镜任意部位的图像采集设备,对标定对象进行图像采集,以得到标定对象的第一采集图像。图像采集的方式在本公开实施例中不做限制,可以根据实际情况灵活决定,在一些可能的实现方式中,可以通过设置在眼镜任意部位的单目视觉传感器,对标定对象进行单张图像的采集以得到第一采集图像;在一些可能的实现方式中,也可以通过设置在眼镜任意部位的双目视觉传感器,对标定对象进行多张图像的采集以得到多个第一采集图像等。
46.在一些可能的实现方式中,标定对象可以包括二维标定对象。二维标定对象可以是二维形式的任意标定对象,二维标定对象的实现形式可以根据实际情况灵活决定,不局限于下述各公开实施例。在一些可能的实现方式中,二维标定对象可以包括二维码和/或棋盘格等用于进行视觉标定的图像,在一个示例中,二维标定对象可以是用于进行视觉标定的apriltag标签。在一些可能的实现方式中,二维标定对象可以通过打印等方式呈现于真实场景的纸张上,比如打印一张或多张apriltag作为标定对象;在一些可能的实现方式中,二维标定对象也可以显示在真实场景中的显示设备上,比如通过电脑或手机的显示屏来显示apriltag来作为标定对象等。
47.步骤s12,根据第一采集图像,在ar设备中显示标定对象对应的预测图像。
48.其中,预测图像可以是标定对象在ar眼镜中所呈现的虚拟图像。在ar眼镜中显示的标定对象的预测图像,理论上来说应该与真实场景中的标定对象在视觉上实现重合。然而,由于ar眼镜处于标定阶段,虚拟对象与真实场景之间的对应关系可能不准确,因此预测图像在ar眼镜中显示的位置可能不准确,导致预测图像无法与真实场景中的标定对象对齐或重合。
49.根据标定对象在真实场景中的第一采集图像,可以对标定对象在真实场景中的位置和/或大小等进行预测,以得到预测图像,并在ar眼镜中进行显示。其中,预测的方式以及在ar眼镜中的显示位置和方式等均可以根据实际情况灵活决定,比如可以根据预测的标定
对象在真实场景中的位置,在ar眼镜的对应位置处显示该预测图像等。步骤s12的各种可能实现方式详见下述各公开实施例,在此先不做展开。
50.步骤s13,响应于针对ar设备的移动操作,在预测图像与第一采集图像匹配的情况下,获取标定对象在真实场景中的第二采集图像。
51.其中,针对ar眼镜的移动操作可以使ar眼镜发生移位。移动操作的实现方式在本公开实施例中不做限制,可以通过用户移动佩戴ar眼镜的头部来实现,或是用户通过手动调节ar眼镜的位置来实现等。
52.如上述公开实施例所述,预测图像在ar眼镜中显示的位置可能不准确,使得预测图像可能与真实场景中的标定对象之间存在位置上的偏差。因此,响应于针对ar眼镜的移动操作,ar眼镜中显示的预测图像相对于真实场景的位置也会发生变化,在一些可能的实现方式中,在ar眼镜移动到某个特定位置的情况下,ar眼镜中显示的预测图像可能会与标定对象实现匹配。其中,预测图像与标定对象的匹配,可以是预测图像与标定对象实现整体重合和/或对齐,也可以是预测图像的顶点或是某个部分与标定对象实现重合和/或对齐等。
53.在预测图像与标定对象匹配的情况下,可以获取标定对象在真实场景中的第二采集图像,即第二采集图像可以是在预测图像与标定对象匹配的情况下,对标定对象进行图像采集所得到的图像。获取第二采集图像的方式可以参考上述公开实施例中获取第一采集图像的方式,在此不再赘述。需要注意的是,第一采集图像与第二采集图像中的“第一”和“第二”仅用于区分在不同情况下获取的图像,并不限制图像获取的先后顺序或是图像的大小等。
54.步骤s14,基于第二采集图像,对ar设备进行标定。
55.如上述公开实施例所述,基于第一采集图像,可以对标定对象在真实场景中的位置进行预测,由于基于第一采集图像预测的位置并不准确,而第二采集图像则是在准确的预测位置下所采集到的标定对象的图像,因此,根据第二采集图像和第一采集图像之间的偏差,可以对ar眼镜与真实场景之间的位置变换关系进行修正,从而实现对ar眼镜的标定。标定的具体过程在本公开实施例中不做限制,任何应用于计算机视觉中的标定方法,均可以作为步骤s14的实现方式,在此不再一一列举和说明。
56.在本公开实施例中,可以获取标定对象在真实场景中的第一采集图像,并根据第一采集图像,在ar设备中显示标定对象的预测图像,从而响应于针对ar设备的移动操作,在预测图像与第一采集图像匹配的情况下,获取标定对象在真实场景中的第二采集图像来对ar设备进行标定。通过上述过程,根据本公开实施例提供的ar设备的标定方法及装置、电子设备和存储介质,可以利用标定对象来简单便捷地实现ar设备的标定,降低ar设备的标定成本,提升标定效率和便捷程度。
57.图2示出根据本公开一实施例的增强现实ar眼镜的标定方法的流程图,如图所示,在一种可能的实现方式中,步骤s12可以包括:
58.步骤s121,根据第一采集图像,确定标定对象相对于ar设备的位姿;
59.步骤s122,根据位姿,对标定对象在ar眼镜中的目标显示状态进行预测,并根据目标显示状态生成预测图像;
60.步骤s123,在ar设备中显示预测图像。
61.其中,标定对象相对于ar眼镜的位姿,可以是标定对象在真实场景中相对于ar眼镜的三维位置。根据第一采集图像确定标定对象的位姿的方式在本公开实施例中不做限制,任何基于二维图像进行三维定位的空间定位方式,均可以作为步骤s121的实现方式。步骤s121的一些可能的实现方式详见下述各公开实施例,在此先不做展开。
62.根据步骤s121确定的位姿,可以对标定对象在ar眼镜中的目标显示状态进行预测,来生成预测图像。其中,目标显示状态可以是标定对象在ar眼镜中显示的情况,包含的状态类型在本公开实施例中不做限制。在一些可能的实现方式中,目标显示状态可以包括预测图像的目标显示位置和/或目标显示大小。
63.其中,目标显示位置可以是预测图像在ar眼镜中进行呈现的位置,目标显示大小则可以是预测图像在ar眼镜中呈现的大小,目标显示大小可以与标定对象的真实大小一致或匹配,以使得通过ar眼镜观测到的预测图像可以与真实场景中的标定对象对齐和/或重合。
64.基于步骤s122确定的目标显示状态,可以通过步骤s123显示预测图像。在一种可能的实现方式中,可以在ar眼镜的目标显示位置处,以目标显示大小对预测图像进行显示。
65.通过步骤s121至步骤s123,可以根据第一采集图像来实现二维图像到三维空间的预测,来得到标定对应在真实场景中的位姿,并基于该位姿在ar眼镜中显示标定对象的预测图像,从而利用二维到三维空间之间的变换关系,简单便捷地实现标定对象的预测图像的呈现,减小标定过程中的计算量,提高整个标定过程的便捷程度。
66.在一种可能的实现方式中,第一采集图像可以包括至少两张采集图像,步骤s121可以包括:根据标定对象的角点在至少两张采集图像中的位置,通过三角化方法确定标定对象相对于ar设备的位姿。
67.其中,至少两张采集图像可以是ar眼镜在同一时刻下通过不同角度对真实场景中的标定对象进行图像采集所得到的图像。在一些可能的实现方式中,ar眼镜上可以在不同位置设置有多个图像采集设备,或是设置有双目或多目传感器等,在这种情况下,ar眼镜可以得到至少两张不同角度的采集图像来作为第一采集图像。
68.基于至少两张采集图像,可以根据标定对象在至少两张采集图像中的位置,通过三角化方法来确定标定对象相对于ar眼镜的位姿。
69.其中,三角化方法可以根据标定对象在至少两张采集图像中的视差,结合图像采集设备的相机参数,来对标定对象在真实场景中的三维位置进行计算。三角化方法的具体过程在本公开实施例中不做赘述。在一些可能的实现方式中,由于标定对象可以包括二维码或是棋盘格等二维标定对象,为了减小计算量,可以根据标定对象的角点在至少两张采集图像中的位置来进行三角化计算,其中,角点可以是二维码或是棋盘格中,可以具体检测出来的兴趣点。
70.在本公开实施例中,通过根据标定对象的角点在至少两张采集图像中的位置,通过三角化方法确定标定对象相对于ar设备的位姿,一方面可以有效减小位姿确定过程中的计算量,降低标定的难度,提高标定的效率;另一方面基于至少两张采集图像计算的位姿具有更高的精度,从而有效提升标定的精度,减少标定的次数,提高标定的效率。
71.在一种可能的实现方式中,第一采集图像可以包括至少一张采集图像,步骤s121可以包括:根据标定对象的预设尺寸,结合至少一张采集图像,通过多点透视成像方法确定
标定对象相对于ar设备的位姿。
72.其中,至少一张采集图像可以是ar眼镜采集到的一张或多张图像。在一些可能的实现方式中,ar眼镜上可以仅设置单个图像采集设备,或是设置多个图像采集设备但是仅使用其中某个图像采集设备,在这种情况下,ar眼镜可以得到单设备采集的至少一张图像来作为第一采集图像。
73.在一种可能的实现方式中,在至少一张图像包含单张图像的情况下,基于单张采集图像,可以根据标定对象的预设尺寸,通过多点透视成像(pnp,perspective

n

point)方法来确定标定对象相对于ar眼镜的位姿。
74.其中,标定对象的预设尺寸,可以是已知的标定对象在真实场景中的尺寸大小,由于pnp方法可以根据已知的三维点在真实场景中的位置,以及该三维点在对应的二维图像中的位置,推算出图像采集设备相对于真实场景中的姿态,因此根据标定对象的预设尺寸,结合标定对象在单张采集图像中的尺寸和位置,可以求解得到真实场景中的标定对象相对于ar眼镜的位姿。
75.在至少一张图像包含多张图像的情况下,可以通过上述公开实施例提出的基于单张采集图像确定位姿的方法,对多张图像分别进行处理以得到多个位姿求解结果,并基于这些位姿进行平均计算或加权平均计算,来得到真实场景中的标定对象相对于ar眼镜的位姿。
76.在本公开实施例中,通过根据标定对象的预设尺寸,结合至少一张采集图像,通过pnp方法确定标定对象相对于ar设备的位姿,可以基于至少一张第一采集图像确定标定对象在真实场景中的三维位姿,降低对ar设备的硬件要求,保障标定精度的同时降低标定的难度,提升整个方法的实用性和可行性。
77.在一种可能的实现方式中,步骤s123可以包括:响应于针对ar设备的固定指示操作,将预测图像固定显示在ar设备的目标显示位置处。
78.其中,固定指示操作可以是指示ar眼镜将预测图像进行固定显示的操作,固定指示操作的形式可以根据实际情况灵活设定,比如点击ar眼镜上的某个或某些按钮来执行固定指示操作,或是按照预设次数敲击ar眼镜的某个或某些部位来执行固定指示操作,预设次数的数值在本公开实施例中不做限制,可以为单次也可以为多次。
79.在一些可能的实现方式中,随着ar眼镜的移动,ar眼镜上显示的预测图像的位置可能会随之发生移动,而为了实现预测图像与真实场景中标定对象的匹配,需要将预测图像固定显示在预测的目标显示位置处。因此,在一种可能的实现方式中,可以响应于针对ar眼镜的固定指示操作,来将预测图像固定显示在ar眼镜的目标显示位置处。
80.通过响应于ar设备的固定指示操作,将预测图像固定显示在ar设备的目标显示位置处,可以便于后续实现预测图像和标定对象的匹配,提升标定过程的便捷性和可行性。
81.在一些可能的实现方式中,也可以对ar眼镜进行设置,使得ar眼镜可以直接将预测图像固定显示在ar眼镜的目标显示位置处,来减少用户的操作过程,进一步提升标定的便捷性。
82.在一些可能的实现方式中,步骤s13中预测图像与标定对象匹配可以包括:
83.预测图像中的标定对象,与真实场景中的标定对象相互对齐。和/或,
84.预测图像中标定对象的角点,与真实场景中标定对象的角点相互对齐。
85.其中,预测图像中的标定对象与真实场景中的标定对象相互对齐,可以是显示在ar眼镜中的预测图像内绘制的标定对象,与真实场景中的标定对象的图像,二者之间相互产生6自由度的重合对齐,这种匹配方式可以具有较高的精度,提升标定的精度。
86.而预测图像中标定对象的角点,与真实场景中标定对象的角度相互对齐,可以是显示在ar眼镜中的预测图像内的某个或某些2d点,与真实场景中标定对象中的某个或某些3d点,产生2自由度的重合对齐,这种匹配方式比较容易实现,提升标定的效率和可行性。
87.在一些可能的实现方式中,在预测图像与标定对象匹配的情况下,ar设备还可以输出提示以供用户知悉,提示的形式可以根据实际情况灵活选择,比如可以包括发出提示音、在显示界面显示提示文字或是显示提示的图像框等一种或多种方式。
88.通过上述不同的匹配方式,可以根据实际情况灵活确定预测图像是否与标定对象相互匹配,提升匹配的灵活度。
89.在一些可能的实现方式中,步骤s13中获取标定对象在真实场景中的第二采集图像,可以包括:
90.响应于针对ar设备的匹配确认操作,获取标定对象在真实场景中的第二采集图像。和/或,
91.在ar设备处于非移动状态的持续时间达到预设时间阈值的情况下,获取标定对象在真实场景中的第二采集图像。
92.其中,匹配确认操作可以是在预测图像与标定对象匹配的情况下向ar眼镜发出的确认操作,匹配确认操作的形式同样可以根据实际情况灵活设定,其各种实现形式可以参考上述公开实施例中提到的固定指示操作,在此不再赘述。需要注意的是,在同时包括固定指示操作和匹配确认操作的情况下,固定指示操作和匹配确认操作的操作应该存在差异,比如二者对应不同的点击按钮,或是对应不同的敲击次数和/或部位等。
93.响应于匹配确认操作,可以表明预测图像与标定对象匹配,在这种情况下可以获取标定对象在真实场景中的第二采集图像,获取第二采集图像的方式可以详见上述各公开实施例,在此不再赘述。
94.在一些可能的实现方式中,也可以在ar眼镜处于非移动状态的持续时间达到预设时间阈值的情况下,来确定预测图像与标定对象匹配,从而获取第二采集图像。其中,ar眼镜处于非移动状态可以是ar眼镜停止移动处于静止状态。如何确定ar眼镜是否处于非移动状态,确定方式可以根据实际情况灵活决定,不局限于下述各公开实施例。在一种可能的实现方式中,可以通过ar眼镜内置的姿态传感器或是定位接口等,来判断ar眼镜当前的运动状态,从而确定ar眼镜是否处于非移动状态。
95.预设时间阈值的时间长度则可以根据实际情况灵活决定,在本公开实施例中不做限制,比如可以为几秒到几十秒等。在一些可能的实现方式中,还可以在ar眼镜处于非移动状态的情况下,在ar眼镜中显示倒计时来对用户发出提醒,并在倒计时结束后自动获取第二采集图像。
96.通过响应于匹配确认操作获取第二采集图像,和/或,在ar设备处于非移动状态的持续时间达到预设时间阈值的情况下获取第二采集图像,通过上述过程,可以灵活地通过不同的方式来确定获取第二采集图像的时机,其中响应于匹配确认操作的方式可以更为准确地获取位置精确的第二采集图像,提升标定精度;而基于非移动状态的持续时间来获取
第二采集图像的方式,则可以减少用户的操作,提高标定的便捷性和可行性。
97.在一些可能的实现方式中,本公开实施例中提出的标定方法,可以重复进行以提升标定精度,即步骤s11至步骤s14的过程可以重复多次。在一些可能的实现方式中,可以在步骤s11至步骤s14的重复次数达到预设的次数阈值的情况下,停止标定,其中预设的次数阈值的数量可以根据实际情况灵活设定,比如3

10次等,在本公开实施例中不做限制。在一些可能的实现方式中,也可以通过用户手动确定或结束标定,比如点击ar眼镜上的某个或某些按钮,或是对ar眼镜的某些部位进行单次或多次敲击等来结束标定。
98.在一种可能的实现方式中,本公开实施例中提出的方法还可以包括:在ar设备未进行移动操作,且预测图像与标定对象匹配的情况下,停止ar设备的标定。
99.其中,ar眼镜未进行移动操作且预测图像与标定对象匹配,可以是在用户没有移动ar眼镜的情况下,ar眼镜显示的预测图像直接与标定对象匹配,在这种情况下,可以表明ar眼镜与真实场景中的位置变换关系是准确的,因此,可以停止对ar眼镜的标定。
100.停止ar眼镜的标定可以是通过用户手动确认,也可以是如上述公开实施例所述,在ar眼镜处于非移动状态的持续时间达到预设时间阈值的情况下确认可以停止标定,其实现方式可以根据实际情况灵活决定,在本公开实施例中不做限制。
101.通过在ar设备未进行移动操作且预测图像与标定对象匹配的情况下,停止ar设备的标定,可以基于实时观察的标定效果来判断是否可以终止标定,提升标定精度的同时,节省标定次数,提升标定效率。
102.图3示出根据本公开实施例的ar设备的标定装置20的框图,如图3所示,所述装置包括:
103.第一采集图像获取模块21,用于获取标定对象在真实场景中的第一采集图像。
104.预测模块22,用于根据第一采集图像,在ar设备中显示标定对象对应的预测图像。
105.第二采集图像获取模块23,用于响应于针对ar设备的移动操作,在预测图像与标定对象匹配的情况下,获取标定对象在真实场景中的第二采集图像。
106.标定模块24,用于基于第二采集图像,对ar设备进行标定。
107.在一种可能的实现方式中,预测模块用于:根据第一采集图像,确定标定对象相对于ar设备的位姿;根据位姿,对标定对象在ar设备中的目标显示状态进行预测,并根据目标显示状态生成预测图像,其中,目标显示状态包括预测图像的目标显示位置和/或目标显示大小;在ar设备中显示预测图像。
108.在一种可能的实现方式中,第一采集图像包括至少两张采集图像;预测模块进一步用于:根据标定对象的角点在至少两张采集图像中的位置,通过三角化方法确定标定对象相对于ar设备的位姿。
109.在一种可能的实现方式中,第一采集图像包括至少一张采集图像;预测模块进一步用于:根据标定对象的预设尺寸,结合至少一张采集图像,通过多点透视成像方法确定标定对象相对于ar设备的位姿。
110.在一种可能的实现方式中,响应于目标显示状态包括目标显示位置,预测模块进一步用于:响应于针对ar设备的固定指示操作,将预测图像固定显示在ar设备的目标显示位置处。
111.在一种可能的实现方式中,第二采集图像获取模块用于:响应于针对ar设备的匹
配确认操作,获取标定对象在真实场景中的第二采集图像;和/或,在ar设备处于非移动状态的持续时间达到预设时间阈值的情况下,获取标定对象在真实场景中的第二采集图像。
112.在一种可能的实现方式中,预测图像与标定对象匹配,包括:预测图像中的标定对象,与真实场景中的标定对象相互对齐;和/或,预测图像中标定对象的角点,与真实场景中标定对象的角点相互对齐。
113.在一种可能的实现方式中,装置还用于:在ar设备未进行移动操作,且预测图像与标定对象匹配的情况下,停止ar设备的标定。
114.在一些实施例中,本公开实施例提供的装置具有的功能或包含的模块可以用于执行上文方法实施例描述的方法,其具体实现可以参照上文方法实施例的描述,为了简洁,这里不再赘述。
115.应用场景示例
116.图4示出根据本公开一应用场景的示意图,如图4所示,在本公开应用示例中,光学透视ar眼镜可以通过半透射半反射镜片,将真实场景中标定对象(即图中打印出的apriltag)透射入人眼中,并将基于apriltag所产生的虚拟的预测图像反射入人眼中,产生ar效果。
117.本公开应用示例提出了一种ar眼镜的标定方法,可以对图4这一应用场景中的ar眼镜实现标定,图5示出根据本公开一应用示例的示意图,如图所示,本公开应用示例提出的ar眼镜的标定方法可以包括如下过程:
118.步骤s31,通过ar眼镜内置的相机,识别视野内真实场景中的标定对象(apriltag)相对于相机的位姿:
119.其中,在ar眼镜配置有至少左右两个相机的情况下,通过至少两个相机采集至少两个第一采集图像,并基于至少两个第一采集图像检测apriltag,然后根据apriltag的角点在至少两个第一采集图像中的位置,以及事先标定好的两个相机的内外参数,来通过三角化方法解算出apriltag相对于相机的位姿;
120.在ar眼镜仅配置一个相机,或者配置多个相机但仅使用一个相机的情况下,可以通过单个相机获取单个第一采集图像,基于单个第一采集图像检测apriltag,并通过事先测量好的apriltag的尺寸,结合pnp方法求解出apriltag相对于相机的位姿。
121.步骤s32,根据位姿,结合ar眼镜与人眼之间的位置变换参数,将标定对象对应的预测图像绘制在ar眼镜的显示界面中。
122.步骤s33,在ar眼镜中固定显示当前绘制的预测图像:
123.其中,用户可以通过点击某按钮的方式来固定住当前绘制的预测图像;在一个示例中,ar眼镜也可以自动固定当前绘制的预测图像。
124.步骤s34,用户移动头部来将绘制的预测图像与用户看到的真实场景中的apriltag进行对齐,并在对齐的情况下获取apriltag的第二采集图像:
125.其中,预测图像与apriltag的对齐,可以是将预测图像中apriltag的整体图像与真实场景中的apriltag进行对齐;也可以是将预测图像中apriltag的某个角点与真实场景中apriltag的角点进行对齐;
126.在一个示例中,用户可以通过点击ar眼镜自带的某按钮来确认预测图像与apriltag对齐;在一个示例中,也可以通过调用ar眼镜内置的姿态传感器或者定位接口,来
确认ar眼镜是否处于静止状态,在静止状态下可以认为预测图像与apriltag对齐,且ar眼镜可以在屏幕通过某种方式显示出倒计时,并在倒计时结束后程序自动获取第二采集图像。
127.步骤s35,返回步骤s32,在不同距离下观察绘制的预测图像是否与真实场景中的apriltag对齐,如果对齐则退出标定,否则重复执行步骤s32至步骤s35。
128.通过本公开应用示例,可以通过简单打印的apriltag图像实现ar眼镜的标定,省略额外其他的设备或装置,降低标定的成本,提升标定的可行性和便捷性;同时用户可以实时观察标定的效果来判断是否可以终止标定,节省标定的次数,提升标定的效率;而且对于某些仅配备单个相机的ar眼镜,也可以实现较高精度的标定,提升标定的通用性。
129.可以理解,本公开提及的上述各个方法实施例,在不违背原理逻辑的情况下,均可以彼此相互结合形成结合后的实施例,限于篇幅,本公开不再赘述。
130.本领域技术人员可以理解,在具体实施方式的上述方法中,各步骤的撰写顺序并不意味着严格的执行顺序而对实施过程构成任何限定,各步骤的具体执行顺序应当以其功能和可能的内在逻辑确定。
131.本公开实施例还提出一种计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令被处理器执行时实现上述方法。计算机可读存储介质可以是非易失性计算机可读存储介质。
132.本公开实施例还提出一种电子设备,包括:处理器;用于存储处理器可执行指令的存储器;其中,所述处理器被配置为调用所述存储器存储的指令,以执行上述方法。
133.本公开实施例还提供了一种计算机程序产品,包括计算机可读代码,当计算机可读代码在设备上运行时,设备中的处理器执行用于实现如上任一实施例提供的方法的指令。
134.本公开实施例还提供了另一种计算机程序产品,用于存储计算机可读指令,指令被执行时使得计算机执行上述任一实施例提供的方法的操作。
135.电子设备可以被提供为终端、服务器或其它形态的设备。
136.图6示出根据本公开实施例的一种电子设备800的框图。例如,电子设备800可以是移动电话,计算机,数字广播终端,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备,个人数字助理等终端。
137.参照图6,电子设备800可以包括以下一个或多个组件:处理组件802,存储器804,电源组件806,多媒体组件808,音频组件810,输入/输出(i/o)的接口812,传感器组件814,以及通信组件816。
138.处理组件802通常控制电子设备800的整体操作,诸如与显示,电话呼叫,数据通信,相机操作和记录操作相关联的操作。处理组件802可以包括一个或多个处理器820来执行指令,以完成上述的方法的全部或部分步骤。此外,处理组件802可以包括一个或多个模块,便于处理组件802和其他组件之间的交互。例如,处理组件802可以包括多媒体模块,以方便多媒体组件808和处理组件802之间的交互。
139.存储器804被配置为存储各种类型的数据以支持在电子设备800的操作。这些数据的示例包括用于在电子设备800上操作的任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。存储器804可以由任何类型的易失性或非易失性存储设备或者它
们的组合实现,如静态随机存取存储器(sram),电可擦除可编程只读存储器(eeprom),可擦除可编程只读存储器(eprom),可编程只读存储器(prom),只读存储器(rom),磁存储器,快闪存储器,磁盘或光盘。
140.电源组件806为电子设备800的各种组件提供电力。电源组件806可以包括电源管理系统,一个或多个电源,及其他与为电子设备800生成、管理和分配电力相关联的组件。
141.多媒体组件808包括在所述电子设备800和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(lcd)和触摸面板(tp)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件808包括一个前置摄像头和/或后置摄像头。当电子设备800处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
142.音频组件810被配置为输出和/或输入音频信号。例如,音频组件810包括一个麦克风(mic),当电子设备800处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器804或经由通信组件816发送。在一些实施例中,音频组件810还包括一个扬声器,用于输出音频信号。
143.i/o接口812为处理组件802和外围接口模块之间提供接口,上述外围接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。
144.传感器组件814包括一个或多个传感器,用于为电子设备800提供各个方面的状态评估。例如,传感器组件814可以检测到电子设备800的打开/关闭状态,组件的相对定位,例如所述组件为电子设备800的显示器和小键盘,传感器组件814还可以检测电子设备800或电子设备800一个组件的位置改变,用户与电子设备800接触的存在或不存在,电子设备800方位或加速/减速和电子设备800的温度变化。传感器组件814可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件814还可以包括光传感器,如互补金属氧化物半导体(cmos)或电荷耦合装置(ccd)图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件814还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。
145.通信组件816被配置为便于电子设备800和其他设备之间有线或无线方式的通信。电子设备800可以接入基于通信标准的无线网络,如无线网络(wifi),第二代移动通信技术(2g)或第三代移动通信技术(3g),或它们的组合。在一个示例性实施例中,通信组件816经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中,所述通信组件816还包括近场通信(nfc)模块,以促进短程通信。例如,在nfc模块可基于射频识别(rfid)技术,红外数据协会(irda)技术,超宽带(uwb)技术,蓝牙(bt)技术和其他技术来实现。
146.在示例性实施例中,电子设备800可以被一个或多个应用专用集成电路(asic)、数字信号处理器(dsp)、数字信号处理设备(dspd)、可编程逻辑器件(pld)、现场可编程门阵列(fpga)、控制器、微控制器、微处理器或其他电子元件实现,用于执行上述方法。
147.在示例性实施例中,还提供了一种非易失性计算机可读存储介质,例如包括计算机程序指令的存储器804,上述计算机程序指令可由电子设备800的处理器820执行以完成上述方法。
148.图7示出根据本公开实施例的一种电子设备1900的框图。例如,电子设备1900可以被提供为一服务器。参照图7,电子设备1900包括处理组件1922,其进一步包括一个或多个处理器,以及由存储器1932所代表的存储器资源,用于存储可由处理组件1922的执行的指令,例如应用程序。存储器1932中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外,处理组件1922被配置为执行指令,以执行上述方法。
149.电子设备1900还可以包括一个电源组件1926被配置为执行电子设备1900的电源管理,一个有线或无线网络接口1950被配置为将电子设备1900连接到网络,和一个输入输出(i/o)接口1958。电子设备1900可以操作基于存储在存储器1932的操作系统,例如微软服务器操作系统(windows server
tm
),苹果公司推出的基于图形用户界面操作系统(mac os x
tm
),多用户多进程的计算机操作系统(unix
tm
),自由和开放原代码的类unix操作系统(linux
tm
),开放原代码的类unix操作系统(freebsd
tm
)或类似。
150.在示例性实施例中,还提供了一种非易失性计算机可读存储介质,例如包括计算机程序指令的存储器1932,上述计算机程序指令可由电子设备1900的处理组件1922执行以完成上述方法。
151.本公开可以是系统、方法和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质,其上载有用于使处理器实现本公开的各个方面的计算机可读程序指令。
152.计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是(但不限于)电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:便携式计算机盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、静态随机存取存储器(sram)、便携式压缩盘只读存储器(cd

rom)、数字多功能盘(dvd)、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可读存储介质不被解释为瞬时信号本身,诸如无线电波或者其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波(例如,通过光纤电缆的光脉冲)、或者通过电线传输的电信号。
153.这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备,或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令,并转发该计算机可读程序指令,以供存储在各个计算/处理设备中的计算机可读存储介质中。
154.用于执行本公开操作的计算机程序指令可以是汇编指令、指令集架构(isa)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码,所述编程语言包括面向对象的编程语言—诸如smalltalk、c++等,以及常规的过程式编程语言—诸如“c”语言或类似的编程语言。计算机
可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络—包括局域网(lan)或广域网(wan)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。在一些实施例中,通过利用计算机可读程序指令的状态信息来个性化定制电子电路,例如可编程逻辑电路、现场可编程门阵列(fpga)或可编程逻辑阵列(pla),该电子电路可以执行计算机可读程序指令,从而实现本公开的各个方面。
155.这里参照根据本公开实施例的方法、装置(系统)和计算机程序产品的流程图和/或框图描述了本公开的各个方面。应当理解,流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合,都可以由计算机可读程序指令实现。
156.这些计算机可读程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理器,从而生产出一种机器,使得这些指令在通过计算机或其它可编程数据处理装置的处理器执行时,产生了实现流程图和/或框图中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储在计算机可读存储介质中,这些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式工作,从而,存储有指令的计算机可读介质则包括一个制造品,其包括实现流程图和/或框图中的一个或多个方框中规定的功能/动作的各个方面的指令。
157.也可以把计算机可读程序指令加载到计算机、其它可编程数据处理装置、或其它设备上,使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤,以产生计算机实现的过程,从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的指令实现流程图和/或框图中的一个或多个方框中规定的功能/动作。
158.附图中的流程图和框图显示了根据本公开的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或指令的一部分,所述模块、程序段或指令的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
159.该计算机程序产品可以具体通过硬件、软件或其结合的方式实现。在一个可选实施例中,所述计算机程序产品具体体现为计算机存储介质,在另一个可选实施例中,计算机程序产品具体体现为软件产品,例如软件开发包(software development kit,sdk)等等。
160.以上已经描述了本公开的各实施例,上述说明是示例性的,并非穷尽性的,并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下,对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择,旨在最好地解释各实施例的原理、实际应用或对市场中的技术的改进,或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1