由人触发的全息提醒的制作方法_4

文档序号:9383021阅读:来源:国知局
图案或条纹图案等已知图案的光)可经由例如IR光组件34被 投射到捕捉区域上。在撞击到捕捉区域中的一个或多个对象(或目标)的表面时,作为响 应,图案可变形。图案的这种变形可由例如3-D相机36和/或RGB相机38来捕捉并被分 析以确定从捕捉设备到一个或多个对象上的特定位置的物理距离。捕捉设备20可包括用 于产生准直光的光学器件。在一些实施例中,可使用激光投影仪来创建结构化光图案。光 投影仪可包括激光器、激光二极管和/或LED。
[0073] 在某些实施例中,可将两个或更多个不同的相机整合到一个集成捕捉设备中。例 如,深度相机和视频相机(例如RGB视频相机)可以被整合到共同的捕捉设备中。在一些 实施例中,可协同使用相同或不同类型的两个或更多个分开的捕捉设备。例如,可以使用深 度相机和分开的摄像机,可以使用两个摄像机,可以使用两个深度相机,可以使用两个RGB 相机,或者可以使用任何组合和数目的相机。在一个实施例中,捕捉设备20可包括可以从 不同的角度观察捕捉区域的两个或更多个在物理上分开的相机,以获取可以被解析以生成 深度信息的视觉立体数据。深度还可通过使用多个检测器(可以是单色、红外、RGB或任何 其它类型的检测器)捕捉图像并执行视差计算来确定。也可使用其它类型的深度图像传感 器来创建深度图像。
[0074] 如图3所描绘的,捕捉设备20可以包括一个或多个话筒40。该一个或多个话筒 40中的每一个都可以包括可以接收声音并将其转换成电信号的换能器或传感器。该一个或 多个话筒可包括话筒阵列,其中一个或多个话筒可以按预定布局排列。
[0075] 捕捉设备20可以包括可以与图像相机组件32可操作地通信的处理器42。处理 器42可包括标准处理器、专用处理器、微处理器等。处理器42可以执行指令,指令可以包 括用于存储过滤器或简档、接收和分析图像、确定是否已经发生特定情况的指令或任何其 它合适的指令。应当理解,至少一些图像分析和/或目标分析和跟踪操作可以由一个或多 个诸如捕捉设备20的捕捉设备内所包含的处理器来执行。
[0076] 捕捉设备20可包括存储器44,该存储器可存储可由处理器42执行的指令、由3D 相机或RGB相机捕捉的图像或图像帧、过滤器或简档、或任何其它合适的信息、图像等等。 在一个示例中,存储器44可包括随机存取存储器(RAM)、只读存储器(R0M)、高速缓存、闪 存、硬盘或任何其它合适的存储组件。如所描绘的,存储器44可以是与图像捕捉组件32和 处理器42进行通信的分开的组件。在另一实施例中,存储器44可被集成到处理器42和/ 或图像捕捉组件32中。在其他实施例中,捕捉设备20的组件32、34、36、38、40、42和44中 的部分或全部可被容纳在单个外壳中。
[0077] 捕捉设备20可以经由通信链路46与计算环境12进行通信。通信链路46可以是包 括例如USB连接、火线连接、以太网电缆连接等有线连接和/或诸如无线802. llb、802. llg、 802. I Ia或802. I In连接等无线连接。计算环境12可以向捕捉设备20提供时钟,可以使用 该时钟来通过通信链路46确定何时捕捉例如场景。在一个实施例中,捕捉设备20可将由 例如3D相机36和/或RGB相机38捕捉的图像经由通信链路46提供给计算环境12。
[0078] 如图3中所描绘的,计算环境12包括与应用196通信的图像和音频处理引擎194。 应用196可包括操作系统应用或诸如游戏应用的其他计算应用。图像和音频处理引擎194 包括虚拟数据引擎197、对象和姿势识别引擎190、结构数据198、处理单元191和存储器单 元192,所有都彼此通信。图像和音频处理引擎194处理从捕捉设备20接收的视频、图像和 音频数据。为了辅助对象的检测和/或跟踪,图像和音频处理引擎194可以利用结构数据 198以及对象和姿势识别引擎190。虚拟数据引擎197处理虚拟对象,并记录与在存储器单 元192中存储的真实世界环境的各种映射有关的虚拟对象的位置和定向。
[0079] 处理单元191可以包括用于执行对象、面部和语音识别算法的一个或多个处理 器。在一个实施例中,图像和音频处理引擎194可以将对象识别和面部识别技术应用于图 像或视频数据。例如,对象识别可以用于检测特定对象(例如足球、汽车、人或陆标),并且 面部识别可以用于检测特定人的面部。图像和音频处理引擎194可以将音频和语音识别技 术应用于音频数据。例如,音频识别可以用于检测特定声音。要检测的特定面部、语音、声 音和对象可以存储在存储器单元192中所包含的一个或多个存储器中。处理单元191可执 行存储在存储器单元192中的计算机可读指令以执行此处讨论的过程。
[0080] 图像和音频处理引擎194可以在执行对象识别时利用结构数据198。结构数据198 可以包括关于要跟踪的目标和/或对象的结构信息。例如,可以存储人类的骨架模型以帮 助识别身体部位。在另一示例中,结构数据198可以包括关于一个或多个无生命对象的结 构信息以便帮助识别所述一个或多个无生命对象。
[0081] 图像和音频处理引擎194还可以在执行姿势识别时利用对象和姿势识别引擎 190。在一个示例中,对象和姿势识别引擎190可以包括姿势过滤器的集合,每个姿势过滤 器都包括关于骨架模型可执行的姿势的信息。对象和姿势识别引擎190可将由捕捉设备20 所捕捉的数据(其形式为骨架模型以及与其相关联的移动)与姿势库中的姿势过滤器进行 比较来标识用户(其由骨架模型来表示)何时执行了一个或多个姿势。在一个示例中,图 像和音频处理引擎194可以使用对象和姿势识别引擎190来帮助解释骨架模型的移动以及 检测特定姿势的执行。
[0082] 在一些实施例中,可以用诸如IR回射标记之类的一个或多个标记来扩充所跟踪 的一个或多个对象,以便改进对象检测和/或跟踪。也可以使用平面基准图像、已编码AR 标记、QR码和/或条形码来改进对象检测和/或跟踪。一旦检测到一个或多个对象和/或 姿势,图像和音频处理引擎194可以向应用196报告所检测的每个对象或姿势的标识以及 相应的位置和/或定向(如果适用)。
[0083] 关于检测和跟踪对象的更多信息可在2009年12月18日提交的题为"Motion Detection Using Depth Images (使用深度图像的运动检测)"的美国专利申请 12/641,788,以及题为 "Device for Identifying and Tracking Multiple Humans over Time (用于随时间标识和跟踪多个人类的设备)"美国专利申请12/475, 308中找到,这两个 申请的全部内容通过引用结合于此。关于物体和姿势识别引擎190的更多信息可在2009 年4月13日提交的题为"Gesture Recognition System Architecture (姿势识别系统架 构)"的美国专利申请12/422, 661中找到,该申请的全部内容通过引用纳入于此。关于识 别姿势的更多信息可在于2009年2月23日提交的题为"Standard Gestures(标准姿势)" 的美国专利申请12/391,150以及于2009年5月29日提交的题为"Gesture Tool (姿势工 具)"的美国专利申请12/474, 655中找到,这两个申请的全部内容都通过引用并入本申请。
[0084] 图4A-4B描绘了其中可使用由人触发的全息提醒的各增强现实环境的各实施例。 在一些实施例中,HMD可被用于生成并向该HMD的最终用户显示增强现实环境,其中如果特 定人在该HMD的视野内或如果该特定人在该HMD的特定距离内则可显示与该特定人相关联 的提醒。
[0085] 图4A描绘了环境400的一个实施例,其中佩戴HMD 29的第一最终用户(即"Joe") 查看增强现实环境,该增强现实环境包括与该第一最终用户和该环境400内佩戴第二HMD 28的第二最终用户(即,"Tim")两者相关联的提醒25。如图所示,提醒25包括与第一 最终用户("Joe")相对应的、"与Tim谈论Sue的生日"的第一提醒以及与第二最终用户 ("Tim")相对应的、向Joe显示特定图片连同指向该图片(图像_123)的链接的第二提醒。 在此情况下,Joe可查看Tim的提醒中与Joe相关联的一个提醒。佩戴第二HMD 28的第二 最终用户可查看包括提醒24的第二增强现实环境。如图所示,提醒24包括"记得付给Joe 20美元"的第三提醒以及"向Joe显示图片(图像_123) "的第四提醒。从而,在HMD的增 强现实环境内显示的提醒可与该HMD的最终用户以及具有与该最终用户相对应的提醒的 其他人相关联。而且,HMD 29和第二HMD 28两者可在其各自的增强现实环境内显示相同 提醒。
[0086] 图4B描绘了环境400的一个实施例,其中佩戴HMD 29的第一最终用户(即"Joe") 查看包括提醒27的增强现实环境,而佩戴第二HMD 28的第二最终用户(即,"Tim")查看 包括提醒26的第二增强现实环境。如图所示,提醒27包括与具有对应于"高级程序员"的 工作头衔的人谈论整合问题且具有相应工作头衔的人(即,"Tim")已经被标识成在HMD 29 的一距离内的提醒。提醒26(如在HMD 28上所显示的)包括"与Joe谈论规范更新"的提 醒并且进一步包括相关提醒信息Joe在附近(或者在Tim的临近区域内)并且Joe从明 天开始将不在城里。从而,提醒可与作为个人或者作为属于特定组(例如,具有诸如程序员 或管理员等特定工作头衔的组的成员)的特定人相对应。
[0087] 图5是描述用于生成并显示由人触发的全息提醒的方法的一个实施例的流程图。 在一个实施例中,图5的过程可由诸如图1中的移动设备19的移动设备来执行。
[0088] 在步骤502,确定一个或多个提醒。该一个或多个提醒可基于输入到个人信息管理 器、任务管理器、电子邮件应用、日历应用、社交联网应用、在线数据库应用、软件缺陷跟踪 应用、问题跟踪应用和/或时间管理应用中或能从其访问的任务来确定。在一些情况下,该 一个或多个提醒可以使用能从在线数据库(例如,社交联网数据库)访问的信息自动生成。 例如,从与最终用户的朋友(或联系人)相关联的社交联网数据库或应用获取的生日信息 可被用来自动生成生日提醒而无需最终用户的干预。所述一个或多个提醒中的每一提醒可 与待完成的特定任务、与该特定任务相关联的一个或多个人、与该特定任务相关联的位置、 提醒频率(例如,一特定提醒每两周发出一次)和/或该特定任务的完成时间相对应。与 特定任务相关联的该一个或多个人可包括特定人,其中该特定人可被单独标识或被标识为 属于特定组(例如,具有特定工作头衔的组的成员,诸如程序员或管理员)。
[0089] 在一个实施例中,HMD的最终用户可使用膝上型计算机、台式计算机、移动电话或 其他计算设备将一个或多个提醒输入个人信息管理应用。该HMD的最终用户还可使用语音 命令和/或姿势将一个或多个提醒输入到该HMD上运行的个人信息管理应用中。例如,该 HMD的最终用户可发出诸如"当我看到我父母时提醒我关于音乐会的事"等语音命令。在一 个实施例中,该一个或多个提醒可包括与HMD的最终用户相对应的提醒,以及与环境内与 该最终用户相关联的其他人相对应的其他提醒(例如,该最终用户的老板具有与该最终用 户讨论项目的提醒)。用于确定一个或多个提醒的过程的一个实施例稍后参考图6A来描 述。
[0090] 在步骤504,确定要在环境内标识的一个或多个人。要在环境内标识的该一个或多 个人可包括与特定提醒相关联的一个或多个人。在一个示例中,如果该特定提醒包括恭喜 特定人受到了奖励,则要标识的该一个或多个人可包括该特定人。在一些情况下,可使用面 部识别技术来标识要标识的该一个或多个人。
[0091] 在步骤506,在该环境内检测该一个或多个人中的第二人。可使
当前第4页1 2 3 4 5 6 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1