骨架以外的姿势的制作方法

专利名称：骨架以外的姿势的制作方法
骨架以外的姿势
背景技术：
诸如计算机游戏、多媒体应用、办公应用等许多计算应用使用控制来允许用户操纵游戏角色或应用的其他方面。通常使用例如控制器、遥控器、键盘、鼠标等等来输入这样的控制。不幸的是，这些控制可能是难以学习的，由此造成了用户和这些游戏及应用之间的障碍。此外，这些控制可能与这些控制所用于的实际游戏动作或其他应用动作不同。例如， 使得游戏角色挥动棒球球棒的游戏控制可能不与挥动棒球球棒的实际运动相对应。

发明内容
此处所揭示的是用于接收反映用户的骨架移动或位置的数据以及附加数据(诸如控制器上的按钮按压)并根据该数据确定用户是否已执行一个或多个姿势的系统和方法。在一实施例中，计算设备从相机接收一系列图像。该相机可包括彩色相机(如红-绿-蓝，即RGB)、深度相机、以及三维(3D)相机。该数据可包括分开的深度图像和彩色图像、结合了深度和色彩信息的组合的图像、或其中标识了诸如被骨架映射的人等对象的经解析的图像。该数据捕捉由至少一个用户作出的运动或姿态。此外，由计算设备接收“附加数据”，诸如用户的控制器输入、用户穿戴的物品、在用户控制下的道具、或第二用户的移动或身体位置。计算设备合并用户位置数据和附加数据两者，以确定用户向系统做出的一个或多个输入。以上是发明内容，并且因此必然包含细节的简化、一般化及省略。本领域技术人员将明白，本发明内容只是说明性的并且决不旨在是限制性的。


参考附图来进一步描述根据本说明书的用于骨骼之外的姿势的系统、方法和计算机可读介质，附图中图IA和IB示出其中用户正在玩游戏的目标识别、分析及跟踪系统的示例实施例。图2示出了可在目标识别、分析和跟踪系统中使用的捕捉设备的示例实施例。图3A示出了可用于在目标识别、分析和跟踪系统中解释一个或多个姿势的计算环境的示例实施例。图IBB示出了可用于在目标识别、分析和跟踪系统中解释一个或多个姿势的计算环境的另一示例实施例。图4A示出了从图2的目标识别、分析和跟踪系统生成的用户的骨架映射。图4B示出了图2所示的姿势识别器架构的进一步细节。图5A和5B示出了可如何堆叠姿势过滤器来创建更复杂的姿势过滤器。图6A、6B、6C、6D和6E示出了用户502在美式足球视频游戏中可以作出的用以发出“安全接球”(fair catch)的信号的示例姿势。图7A、7B、7C、7D和7E示出了在解析图像数据的每一帧来产生用户的骨架图时图6A、6B、6C、6D和6E的示例“完全接球”姿势。图8A示出了正通过由捕捉设备捕捉的身体移动来对系统做出姿势输入并且正按下控制器上的按钮的用户。图8B示出了正通过各自由捕捉设备捕捉的相应身体移动来对系统做出组合的姿势的多个用户。图8C示出了正通过由捕捉设备捕捉的身体移动来对系统做出姿势输入并且控制由捕捉设备所捕捉的道具的用户。图9示出了由于向系统提供用户移动或基于用户的骨架映射的姿势之外的输入。图10示出用于骨架以外的姿势的示例系统架构。
具体实施例方式用户可通过执行一个或多个姿势来控制在诸如游戏控制台、计算机等计算环境上执行的应用。根据一个实施例，姿势可由例如捕捉设备来接收。例如，捕捉设备可捕捉场景的深度图像。在一个实施例中，捕捉设备可以确定场景中的一个或多个目标或对象是否对应于诸如用户等人类目标。为了确定场景中的目标或对象是否对应于人类目标，可对每个目标进行泛色填充并将其与人体模型的图案作比较。然后可扫描匹配人体模型的每一目标或对象来生成与其相关联的骨架模型。该骨架模型然后可被提供给计算环境，使得计算环境可跟踪该骨架模型，呈现与该骨架模型相关联的化身，以及可基于例如用户的已经从该骨架模型中识别出的姿势来确定要在计算环境上执行的应用中执行那些控制。姿势识别器引擎(其架构在下文中更完整地描述)被用于确定用户何时做出了某一姿势。图IA和IB示出其中用户18正在玩拳击游戏的目标识别、分析及跟踪系统的示例实施例。在一示例实施例中，目标识别、分析和跟踪系统10可用于识别、分析和/或跟踪诸如用户18等的人类目标。如图IA所示，目标识别、分析及跟踪系统10可包括计算环境12。计算环境12可以是计算机、游戏系统或控制台等等。根据一示例实施例，计算环境12可包括硬件组件和 /或软件组件，使得计算环境12可用于执行诸如游戏应用、非游戏应用等应用。如图IA所示，目标识别、分析及跟踪系统10还可包括捕捉设备20。捕捉设备20 可以是例如相机，该相机可用于在视觉上监视诸如用户18等一个或多个用户，以使得可以捕捉、分析并跟踪一个或多个用户所执行的姿势以执行应用中的一个或多个控制或动作， 如将在下面更详细地描述的。根据一个实施例，目标识别、分析及跟踪系统10可连接到可向诸如用户18等用户提供游戏或应用视觉和/或音频的视听设备16，如电视机、监视器、高清电视机(HDTV)等。 例如，计算环境12可包括诸如图形卡等视频适配器和/或诸如声卡等音频适配器，这些适配器可提供与游戏应用、非游戏应用等相关联的视听信号。视听设备16可从计算环境12接收视听信号，然后可向用户18输出与该视听信号相关联的游戏或应用视觉和/或音频。根据一个实施例，视听设备16可经由例如，S-视频电缆、同轴电缆、HDMI电缆、DVI电缆、VGA 电缆等连接到计算环境12。如图IA和IB所示，目标识别、分析及跟踪系统10可用于识别、分析和/或跟踪诸如用户18等人类目标。例如，可使用捕捉设备20来跟踪用户18，以使得可将用户18的移
5动解释为可用于影响由计算机环境12执行的应用的控制。因而，根据一个实施例，用户18 可移动他或她的身体来控制应用。如图IA和IB所示，在一示例实施例中，在计算环境12上执行的应用程序可以是用户18可能正在玩的拳击游戏。例如，计算环境12可使用视听设备16来向用户18提供拳击对手22的视觉表示。计算环境12还可使用视听设备16来提供用户18可通过他的或她的移动来控制的玩家化身M的视觉表示。例如，如图IB所示，用户18可在物理空间中挥拳来使得玩家化身M在游戏空间中挥拳。因此，根据一示例实施例，目标识别、分析和跟踪系统10的计算环境12和捕捉设备20可用于识别和分析用户18在物理空间中的重拳， 从而使得该重拳可被解释为对游戏空间中的玩家化身M的游戏控制。用户18的其他移动也可被解释为其他控制或动作，诸如上下快速摆动、闪避、滑步、格挡、直拳或挥动各种不同力度的拳等控制。此外，某些移动可被解释为可对应于除控制玩家化身M之外的动作的控制。例如，玩家可以使用移动来结束、暂停或保存游戏、选择级别、查看高分、与朋友交流等。在各示例实施例中，诸如用户18等人类目标可持有一物体。在这些实施例中，电子游戏的用户可手持物体从而可以使用玩家和物体的运动来调整和/或控制游戏的参数。 例如，可以跟踪并利用玩家手持球拍的运动来控制电子运动游戏中的屏幕上球拍。在另一示例实施例中，可以跟踪并利用玩家手持物体的运动来控制电子格斗游戏中的屏幕上武
ο根据其他示例实施例，目标识别、分析及跟踪系统10还可用于将目标移动解释为游戏领域之外的操作系统和/或应用控制。例如，事实上操作系统和/或应用的任何可控方面可由诸如用户18等目标的移动来控制。图2示出可在目标识别、分析及跟踪系统10中使用的捕捉设备20的示例实施例。 根据一示例实施例，捕捉设备20可被配置成经由任何合适的技术，包括例如飞行时间、结构化光、立体图像等来捕捉包括深度图像的带有深度信息的视频，该深度信息可包括深度值。根据一个实施例，捕捉设备20可将所计算的深度信息组织为“Z层”，或与从深度相机沿其视线延伸的Z轴垂直的层。如图2所示，捕捉设备20可包括图像相机组件22。根据一个示例实施例，图像相机组件22可以是可捕捉场景的深度图像的深度相机。深度图像可包括被捕捉的场景的二维O-D)像素区域，其中2-D像素区域中的每一个像素都可以(例如以厘米、毫米等等为单位)表示来自相机的被捕捉的场景中的物体的长度。如图2所示，根据一示例实施例，图像相机组件22可包括可用于捕捉场景的深度图像的顶光组件对、三维(3-D)相机沈、和RGB相机观。例如，在飞行时间分析中，捕捉设备20的顶光组件M可以将红外光发射到场景上，然后，可以使用传感器(未示出)，用例如3-D相机沈和/或RGB相机观，来检测从场景中的一个或多个目标和物体的表面反向散射的光。在某些实施例中，可以使用脉冲红外光，使得可以测量出射光脉冲和相应的入射光脉冲之间的时间差并将其用于确定从捕捉设备20到场景中的目标或物体上的特定位置的物理距离。附加地，在其他示例实施例中，可将出射光波的相位与入射光波的相位进行比较来确定相移。然后可以使用该相移来确定从捕捉设备到目标或物体上的特定位置的物理距
1 O
6
根据另一示例实施例，可使用飞行时间分析，通过经由包括例如快门式光脉冲成像在内的各种技术来分析反射光束随时间的强度变化以间接地确定从捕捉设备20到目标或物体上的特定位置的物理距离。在另一示例实施例中，捕捉设备20可使用结构化光来捕捉深度信息。在这一分析中，图案化光(即，被显示为诸如网格图案或条纹图案等已知图案的光)可经由例如顶光组件M被投影到场景上。在落到场景中的一个或多个目标或物体的表面上时，作为响应， 图案可变形。图案的这种变形可由例如3-D相机沈和/或RGB相机观来捕捉，然后可被分析来确定从捕捉设备到目标或物体上的特定位置的物理距离。根据另一实施例，捕捉设备20可包括两个或更多个物理上分开的相机，这些相机可从不同角度查看场景来获得可被解析以生成深度信息的视觉立体数据。捕捉设备20还可包括话筒30。话筒30可包括可接收声音并将其转换成电信号的换能器或传感器。根据一个实施例，话筒30可以被用来减少目标识别、分析及跟踪系统10 中的捕捉设备20和计算环境12之间的反馈。另外，话筒30可用于接收也可由用户提供的音频信号，以控制可由计算环境12执行的诸如游戏应用、非游戏应用等应用。在示例实施例中，捕捉设备20还可以包括可与图像相机组件22进行可操作的通信的处理器32。处理器32可包括可执行指令的标准处理器、专用处理器、微处理器等，这些指令可包括用于接收深度图像的指令、用于确定合适的目标是否可被包括在深度图像中的指令、用于将合适的目标转换成该目标的骨架表示或模型的指令、或任何其他合适的指令。捕捉设备20还可以包括存储器组件34，该存储器组件34可以存储可以由处理器 32执行的指令、由3-D相机或RGB相机捕捉到的图像或图像的帧、或任何其他合适的信息、 图像等等。根据一个示例实施例，存储器组件34可包括随机存取存储器(RAM)、只读存储器 (ROM)、高速缓存、闪存、硬盘或任何其他合适的存储组件。如图2所示，在一个实施例中，存储器组件34可以是与图像捕捉组件22和处理器32进行通信的单独的组件。根据另一实施例，存储器组件34可被集成到处理器32和/或图像捕捉组件22中。如图2所示，捕捉设备20可经由通信链路36与计算环境12进行通信。通信链路36可以是包括例如USB连接、火线连接、以太网电缆连接等的有线连接和/或诸如无线 802. lib,802. llg、802. Ila或802. Iln连接等的无线连接。根据一个实施例，计算环境12 可以经由通信链路36向捕捉设备20提供时钟，可以使用该时钟来确定何时捕捉例如场景。另外，捕捉设备20可以通过通信链路36向计算环境12提供深度信息和由例如 3-D相机沈和/或RGB相机观捕捉到的图像，以及可以由捕捉设备20生成的骨架模型。 计算环境12然后可使用该骨架模型、深度信息和捕捉的图像来例如识别用户姿势以及作为响应来控制诸如游戏或文字处理程序等应用。例如，如图2所示，计算环境12可包括姿势识别器引擎190。姿势识别器引擎190可包括姿势过滤器集合，每一姿势过滤器包括关于骨架模型(在用户移动时)可执行的姿势的信息。可将由相机26J8和设备20捕捉的骨架模型形式的数据以及与其相关联的移动同姿势识别器引擎190中的姿势过滤器进行比较来标识用户(如骨架模型所表示的)何时执行了一个或多个姿势。那些姿势可与应用的各种控制相关联。因此，计算环境12可使用姿势识别器引擎190来解释骨架模型的移动并基于该移动来控制应用。图3A示出了可用于实现图1A-2的计算环境12的计算环境的示例实施例。在这一实施例中，计算环境12包括诸如游戏控制台之类的多媒体控制台100。如图3A所示，多媒体控制台100具有含有一级高速缓存102、二级高速缓存104和闪存ROM(只读存储器)106 的中央处理单元(CPU) 101。1级高速缓存102和2级高速缓存104临时存储数据，并因此减少存储器访问周期数，由此改进处理速度和吞吐量。CPU 101可以设置成具有一个以上的内核，以及由此的附加的一级和二级高速缓存102和104。闪存ROM 106可存储在多媒体控制台100通电时引导过程的初始阶段期间加载的可执行代码。图形处理单元(GPU) 108和视频编码器/视频编解码器(编码器/解码器)114形成用于高速和高分辨率图形处理的视频处理流水线。数据经由总线从图形处理单元108输送到视频编码器/视频编解码器114。视频处理流水线向A/V(音频/视频)端口 140输出数据，以便传输到电视机或其他显示器。存储器控制器110连接到GPU 108以方便处理器访问各种类型的存储器112，诸如但不局限于RAM(随机存取存储器)。多媒体控制台100包括较佳地在模块118上实现的I/O控制器120、系统管理控制器122、音频处理单元123、网络接口控制器124、第一 USB主控制器126、第二 USB控制器 1 和前面板I/O子部件130。USB控制器126和1 用作外围控制器142⑴-142 O)、无线适配器148、和外置存储器设备146 (例如闪存、外置⑶/DVD ROM驱动器、可移动介质等) 的主机。网络接口 1 和/或无线适配器148提供对网络(例如，因特网、家庭网络等)的访问，并且可以是包括以太网卡、调制解调器、蓝牙模块、电缆调制解调器等的各种不同的有线或无线适配器组件中任何一种。提供系统存储器143来存储在引导过程期间加载的应用数据。提供介质驱动器 144，该介质驱动器可以包括DVD/CD驱动器、硬盘驱动器，或其他可移动介质驱动器等。介质驱动器144可以内置或外置于多媒体控制台100。应用数据可经由介质驱动器144访问， 以由多媒体控制台100执行、回放等。介质驱动器144经由诸如串行ATA总线或其他高速连接(例如IEEE 1394)等总线连接到I/O控制器120。系统管理控制器122提供涉及确保多媒体控制台100的可用性的各种服务功能。 音频处理单元123和音频编解码器132形成具有高保真度和立体声处理的对应的音频处理流水线。音频数据经由通信链路在音频处理单元123与音频编解码器132之间传输。音频处理流水线将数据输出到A/V端口 140以供外置音频播放器或具有音频能力的设备再现。前面板I/O子部件130支持暴露在多媒体控制台100的外表面上的电源按钮150 和弹出按钮152以及任何LED(发光二极管)或其他指示器的功能。系统供电模块136向多媒体控制台100的组件供电。风扇138冷却多媒体控制台100内的电路。CPU 101、GPU 108、存储器控制器110、和多媒体控制台100内的各种其他组件经由一条或多条总线互连，总线包括串行和并行总线、存储器总线、外围总线、和使用各种总线架构中任一种的处理器或局部总线。作为示例，这些架构可以包括外围部件互连(PCI) 总线、PCI-Express总线等。当多媒体控制台100通电时，应用数据可从系统存储器143加载到存储器112和/ 或高速缓存102、104中并在CPU 101上执行。应用可呈现在导航到多媒体控制台100上可用的不同媒体类型时提供一致的用户体验的图形用户界面。在操作中，介质驱动器144中包含的应用和/或其他媒体可从介质驱动器144启动或播放，以向多媒体控制台100提供附加功能。
多媒体控制台100可通过将该系统简单地连接到电视机或其他显示器而作为独立系统来操作。在该独立模式中，多媒体控制台100允许一个或多个用户与该系统交互、看电影、或听音乐。然而，随着通过网络接口 1 或无线适配器148可用的宽带连接的集成， 多媒体控制台100还可作为更大网络社区中的参与者来操作。当多媒体控制台100通电时，可以保留设定量的硬件资源以供多媒体控制台操作系统作系统使用。这些资源可包括存储器的保留量(例如，16MB)、CPU和GPU周期的保留量(例如，5% )、网络带宽的保留量(例如，Slcbs)，等等。因为这些资源是在系统引导时间保留的，所保留的资源对于应用视角而言是不存在的。具体而言，存储器保留优选地足够大，以包含启动内核、并发系统应用和驱动程序。CPU保留优选地为恒定，使得若所保留的CPU用量不被系统应用使用，则空闲线程将消耗任何未使用的周期。对于GPU保留，通过使用GPU中断来调度代码来将弹出窗口呈现为覆盖图以显示由系统应用程序生成的轻量消息(例如，弹出窗口)。覆盖图所需的存储器量取决于覆盖区域大小，并且覆盖图优选地与屏幕分辨率成比例缩放。在并发系统应用使用完整用户界面的情况下，优选使用独立于应用分辨率的分辨率。定标器可用于设置该分辨率，从而无需改变频率并引起TV重新同步。在多媒体控制台100引导且系统资源被保留之后，就执行并发系统应用来提供系统功能。系统功能被封装在上述所保留的系统资源中执行的一组系统应用中。操作系统内核标识是系统应用线程而非游戏应用线程的线程。系统应用优选地被调度为在预定时间并以预定时间间隔在CPU 101上运行，以便为应用提供一致的系统资源视图。进行调度是为了把由在控制台上运行的游戏应用所引起的高速缓存分裂最小化。当并发系统应用需要音频时，则由于时间敏感性而将音频处理异步地调度给游戏应用。多媒体控制台应用管理器(如下所述)在系统应用活动时控制游戏应用的音频水平 (例如，静音、衰减)。输入设备(例如，控制器142(1)和142( )由游戏应用和系统应用共享。输入设备不是保留资源，而是在系统应用和游戏应用之间切换以使其各自具有设备的焦点。应用管理器较佳地控制输入流的切换，而无需知晓游戏应用的知识，并且驱动程序维护有关焦点切换的状态信息。相机26J8和捕捉设备20可为控制台100定义额外的输入设备。图;3B示出了可用于实现图1A-2所示的计算环境12的计算环境220的另一示例实施例。计算环境220只是合适的计算环境的一个示例，并且不旨在对所公开的主题的使用范围或功能提出任何限制。也不应该把计算环境220解释为对所示出的任一组件或其组合有任何依赖性或要求。在某些实施例中，所描绘的各种计算元素可包括被配置成实例化本发明的各具体方面的电路。例如，本公开中使用的术语电路可包括被配置成通过固件或开关来执行功能的专用硬件组件。其他示例中，术语电路可包括由实施可用于执行功能的逻辑的软件指令配置的通用处理单元、存储器等。在其中电路包括硬件和软件的组合的示例实施例中，实施者可以编写体现逻辑的源代码，且源代码可以被编译为可以由通用处理单元处理的机器可读代码。因为本领域技术人员可以明白现有技术已经进化到硬件、软件或硬件/软件组合之间几乎没有差别的地步，因而选择硬件或是软件来实现具体功能是留给实现者的设计选择。更具体地，本领域技术人员可以明白软件进程可被变换成等价的硬
9件结构，而硬件结构本身可被变换成等价的软件进程。因此，对于硬件实现还是软件实现的选择是设计选择并留给实现者。在图;3B中，计算环境220包括计算机Ml，计算机通常包括各种计算机可读介质。 计算机可读介质可以是能由计算机241访问的任何可用介质，而且包含易失性和非易失性介质、可移动和不可移动介质。系统存储器222包括易失性和/或非易失性存储器形式的计算机存储介质，如只读存储器(ROM) 223和随机存取存储器(RAM06O。基本输入/输出系统224(BI0Q包含诸如在启动期间帮助在计算机Ml内的元件之间传输信息的基本例程， 基本输入/输出系统224￠10 通常储存储在ROM 223中。RAM 260通常包含处理单元259 可立即访问和/或目前正在操作的数据和/或程序模块。作为示例而非局限，图3B示出了操作系统225、应用程序226、其它程序模块227和程序数据228。计算机241也可以包括其他可移动/不可移动、易失性/非易失性计算机存储介质。仅作为示例，图3B示出了对不可移动、非易失性磁介质进行读写的硬盘驱动器238，对可移动、非易失性磁盘邪4进行读写的磁盘驱动器239，以及对诸如CD ROM或其它光学介质等可移动、非易失性光盘253进行读写的光盘驱动器M0。可在示例性操作环境中使用的其他可移动/不可移动、易失性/非易失性计算机存储介质包括但不限于，磁带盒、闪存卡、数字多功能盘、数字录像带、固态RAM、固态ROM等。硬盘驱动器238通常由例如接口 234等不可移动存储器接口连接至系统总线221，而磁盘驱动器239和光盘驱动器240通常由例如接口 235等可移动存储器接口连接至系统总线221。以上讨论并在图;3B中示出的驱动器及其相关联的计算机存储介质为计算机241 提供了对计算机可读指令、数据结构、程序模块和其他数据的存储。在图3B中，例如，硬盘驱动器238被示为存储操作系统258、应用程序257、其他程序模块256和程序数据255。注意，这些组件可以与操作系统225、应用程序226、其他程序模块227和程序数据2 相同， 也可以与它们不同。在此操作系统258、应用程序257、其他程序模块256以及程序数据255 被给予了不同的编号，以说明至少它们是不同的副本。用户可以通过输入设备，例如键盘 251和定点设备252——通常是指鼠标、跟踪球或触摸垫——向计算机241输入命令和信息。其他输入设备(未示出)可包括话筒、操纵杆、游戏手柄、圆盘式卫星天线、扫描仪等。 这些和其他输入设备通常通过耦合至系统总线的用户输入接口 236连接至处理单元259， 但也可以由其他接口和总线结构，例如并行端口、游戏端口或通用串行总线(USB)来连接。 相机沈、观和捕捉设备20可为控制台100定义额外的输入设备。监视器242或其他类型的显示设备也通过诸如视频接口 232之类的接口连接至系统总线221。除监视器之外，计算机还可以包括可以通过输出外围接口 233连接的诸如扬声器244和打印机243之类的其他外围输出设备。计算机241可以使用到一个或多个远程计算机(如远程计算机M6)的逻辑连接， 以在联网环境中操作。远程计算机246可以是个人计算机、服务器、路由器、网络PC、对等设备或其他常见的网络节点，且通常包括许多或所有以上相对于计算机241描述的元件，尽管在图:3B中仅示出了存储器存储设备M7。图:3B中所示的逻辑连接包括局域网(LAN) 245 和广域网(WAN049，但也可以包括其他网络。这些联网环境在办公室、企业范围计算机网络、内联网和因特网中是常见的。当用于LAN网络环境中时，计算机241通过网络接口或适配器245连接到LAN237。当在WAN联网环境中使用时，计算机241通常包括调制解调器250或用于通过诸如因特网等WAN 249建立通信的其他手段。调制解调器250，可以是内置的或外置的，可以经由用户输入接口 236或其他适当的机制，连接到系统总线221。在联网环境中，相对于计算机 241所描述的程序模块或其部分可被存储在远程存储器存储设备中。作为示例而非限制，图 3B示出了远程应用程序248驻留在存储器设备247上。应当理解，所示的网络连接是示例性的，并且可使用在计算机之间建立通信链路的其他手段。图4A描绘了可从捕捉设备20生成的用户的示例骨架映射。在该实施例中，标识出各个关节和骨骼每一手302、每一前臂304、每一肘306、每一二头肌308、每一肩310、每一髋312、每一大腿314、每一膝316、每一小腿318、每一足320、头322、躯干324、脊椎的顶部3 和底部328，以及腰330。在跟踪更多点的情况下，可标识出附加的特征，比如手指或脚趾的骨骼和关节，或脸部的各个特征，如鼻和眼。用户可通过移动他的身体创建姿势。姿势包括用户的运动或姿态，其可被捕捉为图像数据并解析其意义。姿势可以是动态的，包括运动，如模仿投球。姿势可以是静态姿态，如在一个人的躯干3M前面交叉握住他的前臂304。姿势也可结合道具，如通过挥动仿制的剑。姿势可包括多于一个身体部位，如拍双手302，或是较微小的运动，如撅起一个人的嘴唇。姿势可用于一般计算上下文中的输入。例如，手302或其他身体部位的各种运动可对应于常见的系统级任务，如在分层列表中向上或向下导航、打开文件、关闭文件和保存文件。姿势也可在视频游戏专用上下文中取决于游戏来使用。例如，对于驾驶游戏，手302 和脚320的各种运动可对应于在一方向上操控车辆、换挡、加速和刹车。用户可通过自己在原地行走或奔跑来生成对应于行走或奔跑的姿势。用户可另选地提起并放下每一腿312-320来在不移动的情况下模拟行走。系统可通过分析每一髋312 和每一大腿314来解析该姿势。当一个髋部-大腿角(如相对于垂直线测量的，其中站立的腿具有0°的髋部-大腿角，而向前水平伸展的腿具有90°的髋部-大腿角)超过相对于另一大腿的特定阈值时，可识别一步。行走或奔跑可在交替腿的某一数量的连续步之后被识别。两个最近的步之间的时间可被认为是一周期。在不满足阈值角度达某一数量的周期之后，系统可确定行走或奔跑姿势已停止。给定“行走或奔跑”姿势，应用可为与该姿势相关联的参数设定值。这些参数可包括上述阈值角度、发起行走或奔跑姿势所需的步数、结束姿势的没有发生步的周期数、以及确定姿势是行走还是奔跑的阈值周期。快周期可对应于奔跑，因为用户将快速地移动他的腿，而较慢的周期可对应于行走。姿势最初可以与一组默认参数相关联，应用可用其自己的参数来覆盖该组默认参数。在这一场景中，不迫使应用提供参数，而是应用可改为使用一组允许在没有应用定义的参数的情况下识别姿势的默认参数。有各种可以与姿势相关联的输出。可以有关于姿势是否正在发生的基线“是或否”。还可以有置信度水平，其对应于用户跟踪的移动对应于姿势的可能性。这可以是范围为0和1之间(包括端点)的浮点数的线性标度。在接收该姿势信息的应用不能接受假肯定作为输入的应用中，它可仅使用具有高置信度水平，如至少0.95的已识别的姿势。在应用必须识别姿势的每一实例的情况下，即使以假肯定为代价，它可使用至少具有低得多的置信度水平的姿势，如仅仅大于0. 2的那些姿势。姿势可具有在两个最近步之间的时间的输出，并且在仅注册了第一步的情况下，这可被设为保留值，如-1(因为任何两步之间的时间必须为正)。姿势也可具有关于在最近一步期间达到的最高大腿角的输出。另一示例性姿势是“脚跟提起跳”。在该姿势中，用户可通过将他的脚跟提离地面， 但保持他的脚趾着地来创建该姿势。另选地，用户可跳向空中，其中他的脚320完全离开地面。该系统可通过分析肩310、髋312和膝316的角度关系来解析该姿势的骨架，以查看它们是否是等于直立的对齐位置。然后，可监视这些点和较高3 和较低3 脊椎点来发现任何向上加速。足够的加速组合可触发跳跃姿势。给定该“脚跟提起跳”姿势，应用可为与该姿势相关联的参数设定值。参数可包括上述加速阈值，其确定用户的肩310、髋312和膝316的某种组合必须向上移动多快来触发该姿势；以及肩310、髋312和膝316之间仍可触发跳跃的最大对齐角。输出可包括置信度水平，以及用户在跳跃时的身体角度。基于将接收姿势的应用的细节来为姿势设定参数对于准确地标识姿势而言是重要的。正确地标识姿势以及用户的意图极大地有助于创建积极的用户体验。在姿势识别器系统太敏感、甚至手302的微小向前运动也被解释为投掷的情况下，用户可能变得沮丧，因为在他没有作出姿势的意图的情况下却识别出姿势，因此他缺乏对系统的控制。在姿势识别器系统不够敏感的情况下，系统可能未识别出用户作出投掷姿势的刻意尝试，从而类似地使用户感到沮丧。在敏感度范围的任一端，用户都会变得沮丧，因为他不能正确地向系统提供输入。对于姿势的另一参数可以是移动的距离。在用户的姿势控制虚拟环境中的化身的动作的情况下，该化身可以是手臂离球的长度。如果用户希望与该球交互并抓住它，则这可要求用户伸展他的手臂302-310到全长同时作出抓握姿势。在这一情形中，用户仅部分地伸展他的手臂302-310的类似的抓握姿势可能无法达到与球交互的结果。姿势或其一部分可将它必须在其中发生的空间体作为参数。在姿势包括身体移动的情况下，该空间体通常可相对于身体来表达。例如，对于惯用右手的用户的美式足球投掷姿势可仅在不低于右肩310a、且与投掷手臂3(^a-310a在头322的相同侧的空间体中识别。可能不必要定义空间体的所有边界，如对于该投掷姿势，其中从身体向外的边界留着不被定义，并且该空间体无限地向外延伸，或者延伸到正被监视的场景的边缘。图4B提供了图2的姿势识别器引擎190的一个示例性实施例的进一步细节。如图所示，姿势识别器引擎190可包括用于确定一个或多个姿势的至少一个过滤器418。过滤器418包括定义姿势426(以下称为“姿势”)以及该姿势的参数4 或元数据的信息。例如，包括一只手从身体背后越过身体前方的运动的投掷可被实现为包括表示用户的一只手从身体背后越过身体前方的移动的信息的姿势426，该移动将由深度相机来捕捉。然后可为该姿势4 设定参数426。在姿势似6是投掷的情况下，参数4 可以是该手必须达到的阈值速度、该手必须行进的距离(绝对的，或相对于用户的整体大小)、以及识别器引擎对发生姿势的置信度评级。姿势428的这些参数似6可以在各应用之间、在单个应用的各上下文之间、或在一个应用的一个上下文内随着时间而变化。过滤器可以是模块化的或是可互换的。在一个实施例中，过滤器具有多个输入和多个输出，这些输入中的每一个具有一类型，这些输出中的每一个具有一类型。在这一情形
12中，第一过滤器可用具有与第一过滤器相同数量和类型的输入和输出的第二过滤器来替换而不更改识别器引擎体系结构的其他方面。例如，可能具有用于驱动的第一过滤器，该第一过滤器将骨架数据作为输入并输出与该过滤器相关联的姿势正在发生的置信度和转向角。 在希望用第二驱动过滤器来替换该第一驱动过滤器的情况下(这可能是因为第二驱动过滤器更高效且需要更少的处理资源)，可以通过简单地用第二过滤器替换第一过滤器来这样做，只要第二过滤器具有同样的输入和输出——骨架数据类型的一个输入、以及置信度类型和角度类型的两个输出。过滤器不需要具有参数。例如，返回用户的高度的“用户高度”过滤器可能不允许可被调节的任何参数。备选的“用户高度”过滤器可具有可调节参数，比如在确定用户的高度时是否考虑用户的鞋、发型、头饰以及体态。对过滤器的输入可包括诸如关于用户的关节位置的关节数据，像在关节处相交的骨所形成的角度、来自场景的RGB色彩数据、以及用户的某一方面的变化速率等内容。来自过滤器的输出可包括诸如正作出给定姿势的置信度、作出姿势运动的速度、以及作出姿势运动的时间等内容。上下文可以是文化上下文，并且可以是环境上下文。文化上下文指的是使用系统的用户的文化。不同的文化可使用相似的姿势来赋予显著不同的含义。例如，希望叫另一个用户“看”或“使用他的眼睛”的美国用户可将他的食指放在他头上靠近他的眼睛的远端处。然而，对意大利用户而言，该姿势可被解释为对黑手党的引用。类似地，在单个应用的不同环境之中可能有不同的上下文。以涉及操作摩托车的第一人称射击游戏为例。当用户在走路时，将手指朝向地面握拳并向前且从身体向外伸出拳头可表示出拳姿势。当用户在驾驶上下文中时，相同的运动可表示“换挡”姿势。可能还有一个或多个菜单环境，其中用户可保存他的游戏、在他的人物装备之间选择或执行类似的不包括直接玩游戏的动作。在该环境中，该游戏姿势可具有第三个含义，如选择某样东西或前进到另一屏幕。姿势识别器引擎190可具有向姿势过滤器416提供功能的基础识别器引擎418。 在一实施例中，识别器引擎416实现的功能包括跟踪已识别的姿势和其他输入的随时间输入(input-over-time)存档、隐马尔可夫模型实现(其中模型化系统被假定为具有未知参数的马尔可夫过程一其中当前状态封装了确定将来状态所需的任何过去状态信息，因此不必为此目的而维护任何其它过去状态信息的过程，并且隐藏参数从可观察数据来确定)、以及求解姿势识别的特定实例所需的其他功能。过滤器418在基础识别器引擎416之上加载并实现，并且可利用引擎416提供给所有过滤器418的服务。在一实施例中，基础识别器引擎416处理所接收到的数据来确定它是否满足任何过滤器418的要求。由于这些诸如解析输入等所提供的服务是由基础识别器引擎416 —次性提供而非由每一过滤器418提供的，因此这一服务在一段时间内只需被处理一次而不是对该时间段对每一过滤器418处理一次，由此减少了确定姿势所需的处理。应用程序可使用姿势识别器引擎190所提供的过滤器418，或者它可提供其自己的过滤器418，该过滤器被插入到基础识别器引擎416中。在一实施例中，所有过滤器418 具有启用该插入特性的通用接口。此外，所有过滤器418可利用参数428，因此可使用如下所述的单个姿势工具来诊断并调节整个过滤器系统418。
13
这些参数4 可由姿势工具420为应用程序或应用程序的上下文来调节。在一实施例中，姿势工具420包括多个滑块422以及身体422的图表示，每一滑块4M对应于一参数428。当用相应的滑块422来调整参数4 时，身体4 可展示将用这些参数4 被识别为姿势的动作以及使用这些参数4 将不被识别为姿势的动作，如所标识的。姿势的参数 428的这一可视化提供了调试并细化调节姿势的有效手段。图5描绘了从堆叠的姿势或过滤器418创建的更复杂的姿势或过滤器418。姿势可堆叠在彼此之上。即，用户一次可表达多于一个的姿势。例如，并非在作出投掷姿势时不允许除了投掷之外的任何输入，也不要求用户除了该姿势的分量之外保持不动(例如，在作出仅涉及一条手臂的投掷姿势时站着不动)。在姿势堆叠时，用户可同时作出跳跃姿势和投掷姿势，并且这两个姿势都将被姿势引擎识别出。图5A描绘了根据堆叠范例的简单姿势过滤器418。I过滤器(IFilter) 502是可在每一姿势过滤器中使用的基本过滤器418。I过滤器(IFilter) 502取用户位置数据504，并输出姿势已发生的置信度水平506。它还将该位置数据504馈入方向盘(SteeringWheel) 过滤器508，该过滤器508取该位置数据作为输入，并输出用户正在转向的角度(例如，向用户当前方向右侧40度)510。图5B描绘了将过滤器418堆叠到图5A的姿势过滤器上的更复杂的姿势。除了 I 过滤器502和方向盘508之外，还存在I跟踪(ITracking)过滤器512，该过滤器从I过滤器502接收位置数据504，并输出用户通过姿势514所作出的进展量。I跟踪512还将位置数据504馈送到润滑油减轻(GreaseLightning) 516和E刹车(Ebrake) 518，这些是关于可在操作车辆时如使用紧急刹车作出的其他姿势的过滤器418。图6描绘了用户602在美式足球视频游戏中可以作出的用以发出“安全接球”(fair catch)信号的示例姿势。这些图描绘了各个时间点的用户，其中图6A是第一时间点，而图6E是最后一个时间点。这些图中的每一个可对应于深度相机402捕捉的图像数据的一个快照或帧，但不必是连续的图像数据帧，因为深度相机402能够比用户可覆盖该距离更快地捕捉帧。例如，该姿势可在3秒的时间段内发生，并且在深度相机以每秒40帧来捕捉数据的情况下，在用户602作出该安全接球姿势时它将捕捉60个图像数据帧。在图6A中，用户602以他的手臂604向下放于两侧开始。他然后将手臂举起超过肩膀，如图6B所描绘的，然后进一步向上到大约他的头部的水平，如图6C所描绘的。从那里，他将他的手臂604降下到肩膀水平，如图6D所描绘的，然后再一次将手臂举起到大约他的头部的水平，如图6E所描绘的。在系统捕捉用户602的这些位置而没有可发出该姿势被取消或正在作出另一姿势的信号的任何居间位置的情况下，可能会使得完全接球姿势过滤器输出用户602作出了完全接球姿势的高置信度水平。图7描绘了在解析每一图像数据帧来产生用户的骨架映射时图5的示例“安全接球”姿势。该系统在从用户的深度图像产生了骨架映射之后，现在可确定用户的身体如何随时间而移动，并且可从中解析姿势。在图7A中，用户的肩膀310在他的肘306上方，而肘306又在他的手302上方。 肩310、肘306和手302然后在图7B中处于一致水平。系统然后在图7C中检测到手302在肘上方，而肘在肩310上方。在图7D中，用户返回到图7B的位置，其中肩310、肘306和手 302处于一致水平。在该姿势的最终位置，图7E中示出，用户返回到图7C的位置，其中手302在肘上方，而肘在肩310上方。尽管捕捉设备20捕捉了一系列静止图像，使得在任何一个图像中用户看似为静止的，但用户在执行该姿势的过程中在移动(而非如上所述的静止姿势)。该系统能够取每一静止图像中的该一系列姿态，并从中确定用户正在作出的移动姿势的置信度水平。在执行姿势时，用户可能无法创建如他的右肩310a、右肘306a和右手30 所形成的角度，例如在140°和145°之间。因此，使用用于安全接球姿势426的过滤器418的应用可调谐相关联的参数4 来最佳地服务于应用的细节。例如，图7C和7E中的位置可在用户将其手302放在其肩310上方的任何时刻被识别出，而不关注肘306的位置。更严格的一组参数可能要求手302在头310上方，并且肘306既在肩310上方又在头322和手302 之间。另外，用于完全接球姿势426的参数4 可能要求用户在诸如1. 5秒等一段指定时间内从图7A的位置移动到图7E的位置，并且如果用户花费了多于1. 5秒来移动通过这些位置，则它将不被识别为完全接球418，并且可输出非常低的置信度水平。图8A-C示出用户使用骨架之外的姿势来对系统做出输入的示例。骨架之外的姿势可包括从捕捉设备捕捉到的用户位置或移动的组合(此处称为“用户位置数据”或“位置数据”)导出的输入连同从另一源(诸如控制器上的按钮的按压)导出的输入或捕捉到用户的场景中的物体的位置(此处称为“附加数据”)。图8A示出用户18通过由捕捉设备20捕捉的身体移动来对系统12进行姿势输入 (用户位置数据)，并且按下控制器802上的按钮(附加数据)。系统12可接收来自有线或无线控制器802的控制器输入。用户可通过经由控制器802上的按钮、摇杆或其它垫的输入来补充由捕捉设备20所捕捉的其通过其身体做出的动作或姿势。例如，在玩第一人称射击游戏时，用户18可用其手臂瞄准显示设备16所显示的一个位置。他可进一步在大致同一时间按下控制器802上的按钮。计算设备12可将用户18的瞄准且同时按压按钮识别为 “释放火力”姿势。图8B示出多个用户18正在通过由捕捉识别20捕捉的相应身体移动对系统12做出组合的姿势输入(其中，第一用户的姿势输入包括用户位置数据，而第二用户的姿势输入包括附加数据)。这两个用户正在通过改变他们组合的重心804来进行姿势输入。这可能是诸如在一种驾驶游戏中，其中两个用户18协作使他们的重心移向左或移向右来转向，或者是在一种平衡练习中，其中两个用户18调整他们的重心来使所显示的化身在横梁上保持平衡。两个用户以站立开始，产生重心80 ,并随后倾斜，这会调整重心804b。需要注意的是，任一用户都可通过他自己的移动来单方面调整组的重心，并且用户移动可彼此抵消， 使得重心保持静止(诸如在他们具有同样的质量的情形中，如果他们彼此完全相反地移动同样的距离的话)。多个用户可组合来做出多种多样的姿势。例如，他们可协作来做出大象的剪影，其中他们彼此靠近地站立，并且一个人将他的手臂举向侧面来模仿象鼻，而另一人放低他的手臂向侧面来模仿尾巴。图8C示出用户18通过由捕捉设备20捕捉的身体移动来对系统12进行姿势输入 (用户位置数据)，并且控制由捕捉手臂20捕捉的道具806(其它数据)。用户18能够控制物理短棍806。通过移动短棍，诸如用手挥动短棍，用户可做出挥剑的姿势。在一个实施例中，当用户挥动他的手但没有拿着短棍806，则不会识别挥剑姿势。
在另一实施例中，用户18能够使用他的物理环境作为道具。例如，当玩第一人称游戏时，用户可在其物理环境中的脚凳后面通过。这可被计算环境12识别为在第一人称射击者虚拟环境中蹲在附近的对象后。图9示出了由于向系统提供用户移动或基于用户的骨架映射的姿势之外的输入。操作902示出接收由捕捉设备捕捉的用户位置数据。远处的捕捉设备可以捕捉包含全部用户的场景，诸如从地面到天花板以及到用户所处房间的每侧的墙壁。捕捉设备也可以捕捉仅包含用户的部分的场景，诸如他或她坐在桌边时腹部以上的用户。操作904示出接收反映不是从用户的骨架映射中导出的输入的数据(附加数据)。 附加数据可包括诸如道具、用户穿着的衣服、由捕捉设备捕捉的场景中的物体、其他的一个或多个用户的用户位置数据、用户发出的声音、控制器或遥控输入、场景中的光的亮度和/ 或位置、用户与触敏设备的交互、以及用户的面部表情之类。道具可包括可由用户控制的物理对象，诸如图8B中的短棍806。用户穿着的衣服可包括用户穿着的衣服的类型(例如，T恤或长袖衫)、衣服的颜色(例如，蓝色的RGB值)、 或衣服的款式、设计或图案(例如，水平横条)。场景中的物体可包括用户的物理区域内由捕捉设备20捕捉到的家具，诸如桌子或长椅。第二用户或多个用户可包括人类用户或非人类用户，诸如用户的狗。用户发出的声音包括用户的发声或通过其它装置产生的声音，诸如通过用户把球掉在地上或拍手产生的声音。还可包括来自环境的声音，诸如用户的移动电话响铃的声音。控制器或遥控输入可包括按下按钮、摇杆、方向键、或由控制器或遥控器提供的其它的数字或模拟输入装置。场景中的光的量和/或位置可包括计算环境12所检测到的由诸如灯泡之类的光源照射出的光的量，以及其在场景中的相对或绝对位置。用户与触敏设备的交互可包括例如用户用他的手触摸与计算环境12通信的触敏表面。用户面部表情可包括用户做出的鬼脸，诸如伸出他的舌头，或做出的表情，诸如快乐或悲伤。在附加数据是可视的情形中，该数据可由捕捉设备20捕捉。在一个实施例中，从第二用户接收附加数据。这可包括，例如，用户用他的身体做出姿势或位置，同时第二用户在控制器802上输入按钮输入。在一个实施例中，接收位置数据和附加数据作为用户在大致同一时刻输入位置数据和附加数据的结果。在一个实施例中，附加数据包括道具，并且道具由多个用户操纵。例如，道具可包括模拟鼓套件，用户可击打鼓套件中的一个鼓，而第二用户可击打鼓套件中的另一个鼓。操作906示出了分析位置数据和附加数据，并确定对应于用户执行了系统所识别的输入的可能性的输出。在一个实施例中，分析位置数据和附加数据还包括确定位置数据和附加数据之间的等待时间。与用户在被捕捉设备20捕捉到的同时发出的声音相比，计算环境12可更快速地接收图像数据，因为光的速度超过了声音的速度。在这一等待时间会导致关于识别姿势输入的问题的情形中，诸如在接收审查的姿势需要非常精确地执行时，这可由计算环境 12来解决。例如，计算环境12可计算用户距离捕捉设备20的距离。基于该距离、光、声音或其它输入所穿过的介质(例如，空气)以及特定输入在该介质中传播的速度，计算环境12 可计算产生输入的时间。在一个实施例中，分析位置数据和附加数据并确定对应于用户执行了系统所识别的输入的可能性的输出进一步包括采用姿势过滤器和至少一个代表系统识别的输入的对应参数来分析位置数据和附加数据，并确定对应于用户执行了系统所识别的输入的可能性的输出。操作908示出将输出发送给应用。在当前操作由应用执行的情形中，输出可被发送给应用的组件，该组件采用经处理的用户输入并将其映射到应用内部的动作。图10示出用于骨架以外的姿势的示例系统架构。捕捉设备20捕捉用户18的位置或移动并将其提供给识别器引擎190。此外，识别器引擎190可接收来自键盘1002a、鼠标1002b和/或控制器1002c的输入。通过用户18的位置或移动的组合(位置数据)以及来自键盘1002a、鼠标1002b和/或控制器1002c的输入(附加数据)，姿势识别器引擎 190可产生对应于一个或多个系统识别的姿势的一个或多个输出。该一个或多个输出可被发送给输入映射器1004，该输入映射器1004根据那些接收的输出来确定什么输入已被提交给系统。输入映射器1004可进一步接收来自键盘1002a、鼠标1002b和/或控制器1002c 的不属于姿势的一部分的输入。这可以是不具有对应的用户位置和/或移动的输入，诸如按下键盘上的“向上”键以在显示于显示设备16上的列表中向上移。结论尽管已经结合各附图所示的较佳方面描述了本发明，但要理解，可使用其它相似方面或者可对所述方面进行修改或添加来执行本发明的相同功能而不脱离本发明。因此， 本发明不应该仅限于任何单个方面，而是应该在根据所附权利要求书的广度和范围内解释。例如，本文描述的各种过程可用硬件或软件、或两者的组合来实现。因此，所公开的各实施例的方法和装置或其某些方面或部分可采用包含在诸如软盘、CD-ROM、硬盘驱动器或任何其他机器可读存储介质等有形介质中的程序代码(即，指令)的形式。当程序代码被加载到诸如计算机等机器并由其执行时，该机器变为被配置成实施所公开的各实施例的装置。除了此处明确阐述的具体实现之外，考虑此处所公开的说明书，其它方面和实现将对本领域的技术人员是显而易见的。说明书和所示实现旨在仅被认为是示例。
权利要求
1.一种用于使用户(18)能够对应用做出混合姿势输入的方法，包括 接收与由捕捉设备00)捕捉的用户的移动或位置有关的第一数据(902)；接收附加数据，所述附加数据不是从由捕捉设备00)捕捉的用户的移动或位置导出的(904)；结合所述附加数据分析所述第一数据，并从其确定对应于用户执行了系统所识别的输入的可能性的输出(906)；以及向所述应用发送所述输出(908)。
2.如权利要求1所述的方法，其特征在于，所述附加数据包括一组中的一个，所述组包括道具、用户穿着的衣服、由所述捕捉设备捕捉的场景中的物体、其他的一个或多个用户、用户发出的声音、控制器或遥控输入、场景中的光的量和/或位置、用户与触敏设备的交互、以及用户的面部表情。
3.如权利要求1所述的方法，其特征在于，分析第一数据和附加数据进一步包括 确定所述第一数据和所述附加数据之间的等待时间。
4.如权利要求1所述的方法，其特征在于，所述附加数据是从第二用户处接收的。
5.如权利要求1所述的方法，其特征在于，所述第一数据和所述附加数据被接收作为用户在大致同一时刻输入所述第一数据和所述附加数据的结果。
6.如权利要求1所述的方法，其特征在于，所述附加数据包括道具，并且所述道具由多个用户操纵。
7.如权利要求1所述的方法，其特征在于，分析所述第一数据和附加数据并确定对应于用户执行了系统所识别的输入的可能性的输出包括采用姿势过滤器和至少一个代表所述系统所识别的输入的对应参数来分析所述第一数据和所述附加数据，并确定对应于用户执行了系统所识别的输入的可能性的输出。
8.一种用于使用户(18)能够对应用做出混合姿势输入的系统，包括 处理器(101)；存储计算机可读指令的至少一个存储器(11 ，当由所述处理器执行时，所述计算机可读指令使所述处理器执行操作，操作包括接收与由捕捉设备00)捕捉的用户的移动或位置有关的第一数据(902)； 接收附加数据，所述附加数据不是从由捕捉设备00)捕捉的用户的移动或位置导出的(904)；分析所述第一数据和所述附加数据，并确定对应于用户执行了系统所识别的输入的可能性的输出(906)；以及向所述应用发送所述输出(908)。
9.如权利要求8所述的系统，其特征在于，所述第一数据包括一组中的一个，所述组包括道具、用户穿着的衣服、由所述捕捉设备捕捉的场景中的物体、其他的一个或多个用户、用户发出的声音、控制器或遥控输入、场景中的光的量和/或位置、用户与触敏设备的交互、以及用户的面部表情。
10.如权利要求8所述的系统，其特征在于，用于分析所述第一数据和所述附加数据的组件进一步包括用于确定所述第一数据和所述附加数据之间的等待时间的组件。
11.如权利要求8所述的系统，其特征在于，所述附加数据是从第二用户处接收的。
12.如权利要求11所述的系统，其特征在于，所述附加数据包括所述第一用户和所述第二用户的重心。
13.如权利要求8所述的系统，其特征在于，所述第一数据和所述附加数据被接收作为用户在大致同一时刻输入所述第一数据和所述附加数据的结果。
14.如权利要求8所述的系统，其特征在于，所述附加数据包括道具，并且所述道具由多个用户操纵。
15.如权利要求8所述的系统，其特征在于，用于分析所述第一数据和附加数据并确定对应于用户执行了系统所识别的输入的可能性的输出的组件进一步包括用于采用姿势过滤器和至少一个代表所述系统所识别的输入的对应参数来分析所述第一数据和所述附加数据，并确定对应于用户执行了系统所识别的输入的可能性的输出的组件。
全文摘要
公开了用于骨架之外的姿势输入的系统、方法和计算机可读介质。系统的捕捉设备捕捉用户的移动或身体位置。此外，由计算设备接收非用户位置数据，诸如用户的控制器输入、用户穿戴的物品、在用户控制下的道具、或第二用户的移动或身体位置。系统合并用户位置数据和非用户位置数据两者，以确定用户向系统做出的一个或多个输入。
文档编号A63F13/00GK102448566SQ201080024900
公开日2012年5月9日 申请日期2010年5月29日 优先权日2009年5月29日
发明者G·N·斯努克, K·盖斯那, R·马尔科维奇, S·拉塔 申请人:微软公司