通用假设排列模型的生成与应用的制作方法

背景技术：

假设排列(hr–hypothesisranking)是用于改善多域多回合对话系统中的域检测和跟踪的准确性的方法。用于hr的语言模型通常与语言/区域相关，其中输入的识别取决于被训练以理解某种语言的对话系统。本申请针对的是该通用技术环境。

技术实现要素：

本公开的非限制性示例描述了通用假设排列模型的应用以对对话假设排列/重新排列。通过用于对话处理的应用的用户接口，接收输入。基于对接收到的输入的输入理解处理，生成多个对话假设。使用可适用于多个语言和区域的通用假设排列模型，对多个对话假设进行排列。对多个对话假设进行排列包括：使用通用假设排列模型来分析多个对话假设的与语言无关的特征以供策略确定。

本公开的其他非限制性示例包括可适用于多个语言和区域的通用假设排列模型的生成和管理。训练数据的语料库可以包括用于多种不同语言的数据，其中训练数据的语料库包括所存储的并且从以用多种不同语言接收到的用户输入获得的数据。训练数据的语料库可以被分析。基于分析训练数据的语料库，可以创建与语言无关的特征集合，其包括用于对对话假设进行排列的可选特征。可以生成通用假设排列模型。通用假设排列模型可适用于多个语言和区域。所生成的通用假设排列模型可以包括与语言无关的特征集合，其包括多个特征，其中任一特征可以被提取并且用作对对话假设进行排列的假设排列器(hr)的输入。输出多个对话假设的排列，以供策略确定，其中策略确定可以确定要输出的一个或多个排列后的对话假设。

提供本发明内容是为了以简化形式介绍将在以下具体实施方式中进一步描述的概念的选择。本发明内容不旨在标识所要求保护的主题的关键特征或必要特征，也不旨在用于限制所要求保护的主题的范围。示例的其他方面、特征和/或优点将部分地在下面的描述中得以阐述，并且一部分将通过描述而显而易见，或者可以通过本公开的实践而被知晓。

附图说明

参考以下附图对非限制性和非穷尽性示例进行描述。

图1是图示了其中可以实践本公开的方面的计算设备的示例的框图。

图2a和图2b是其中可以实践本公开的方面的移动计算设备的简化框图。

图3是其中可以实践本公开的方面的分布式计算系统的简化框图。

图4图示了可以在其上可以实践本公开的方面的一个或多个计算设备上实现的示例性系统。

图5是用于其中可以实践本公开的方面的对话处理的示例性系统。

图6是用于其中可以实践本公开的方面的输入处理的示例性方法。

图7是用于生成其中可以实践本公开的方面的通用假设排列模型的示例性方法。

具体实施方式

由于口头以及键入两者的自然语言交互成为一系列设备的主流，所以将相同应用和体验扩展到不同区域和语言对于输入理解处理至关重要。假设排列(fir)提高了商业多域对话系统中常见体系架构的准确性。通常，这样的系统首先在语言理解处理中相对于若干个可能域(例如，支持的域或不支持的域)例如，通过诸如口语理解(slu)部件之类的语言理解部件，对用户的话语进行分类。域是指关于接收到的输入的“意图”的逻辑分组。比如，从输入识别部件传播的可选方案可以与可以用于满足接收到的输入的意图的一个或多个应用/服务相关联。在域检测之后，接收到的输入的意图通过语言理解部件进行评估。作为示例，与意图关联的分类依赖于域。比如，如果与接收到的输入相关联的域是日历应用，则意图分类可以与对应于日历应用的动作、请求、问题等相关联。例如，接收到的输入的所标识的意图可以是安排与联系人的会议，其中安排在日历应用内发生。语言理解部件还执行时隙标记。时隙标记分析与接收到的输入相关联的实体数据，并且基于预测的域和意图来对应/标记实体数据的部分。语言理解部件(例如，slu)的输出是语义帧(sf)集合，每个域一个语义帧，该语义帧包含意图和时隙信息以及相关联的分数。对于语义框架，相关的知识数据(例如，外部资源应用评估、数据库命中、其他系统/服务的应用等)被获取并且附加到sf。sf的集合(assembly)和知识数据结果被称为对话假设。在这样的设置中，因为由于所造成的任何误差倾向于导致非常不正确的系统动作或响应，使得所造成的任何误差都会显著地更明显，所以域分类的准确性至关重要。

对话系统是一个或多个处理部件(诸如在一个或多个处理设备上操作的处理设备或软件部件)，以接收和处理会话或对话交换中的输入。对话系统的对话处理部件管理与用户的对话交换的历史和状态，以便引导会话或对话交换的一般流程。在这个过程中，对话部件分析作为上文所描述的输入理解处理的结果而提供的语义信息。hr是对话系统的对话管理器阶段内的域排列/重新排列机制，即，hr受益于对所有域进行完整的slu域、意图和时隙分析以及可用于提高域分类准确性的完整的会话上下文和相关的后端知识。研究表明对hr模型的输入特征可以与语言无关，该输入特征例如是语义空间中的导出特征，例如存在时隙标记而非标记的实际单词。因此，如果由对话系统处理的域集合在很大程度上是相同的，则示例性通用hr模型很好地概括跨不同语言(包括先前未看见的语言)操作的对话系统。

非限制性示例描述了可适用于与多个语言和区域一起使用的通用假设排列(hr)模型的生成和应用。在示例中，单个排列模型在所有语言-区域组合上进行训练，并且用于在生产中准确排列和评估由对话系统的对话部件生成的假设。示例性通用hr模型所使用的提取的输入特征集合在很大程度上与语言无关。测试数据表明示例性通用hr模型可以用来代替语言特定hr模型，仅损失很小的准确性，并且这样的模型也很好地概括了新的未看见的语言，通常实现超过2％的域准确性的绝对增益(可以通过训练语言特定hr模型实现60％的平均增益)。测试数据还表明：实现了通用hr模式对新语言的优化，而无需显著重新训练，从而便于将现有对话系统扩展到新的区域/环境。进一步，示例性通用hr模型降低了与区域相依对话建模相关联的开发和维护成本。因此，在一些示例中，通用hr模型避免基于来自用户话语的词法特征对假设进行排列，以避免排列模型重新计算已经由slu的语言理解部件进行的较低级词法分析，而且朝着不同语言/对话系统之间的可移植性努力。

因此，本公开提供了多种技术效果，其包括但不限于多回合对话系统中的输入和对话交换的语义处理增强、作为输出的假设的排列的处理和准确性改进、可跨多个平台实现的通用hr模型的可扩展性和可适用性、可以管理用于包括低资源语言的广泛多个语言/区域的对话交换/会话流程的通用hr模型、包括与使用多语言/区域特定语言模型相比较用于语言模型处理的维护开销在内的用于对话系统/服务的处理负荷的减少、以及控制用于对话处理的用户交互等等。

图1至图3以及相关联的描述提供了其中可以实践本发明的示例的多种操作环境的讨论。然而，相对于图1至图3所图示和讨论的设备和系统仅用于示例和说明的目的，并不限制可以用于实践本文中所描述的本发明的示例的大量计算设备配置。

图1是图示了其中可以实践本公开的示例的计算设备102(例如，移动处理设备)的物理部件的框图。在基本配置中，计算设备102可以包括至少一个处理单元104和系统存储器106。取决于计算设备的配置和类型，系统存储器106可以包括但不限于易失性存储装置(例如，随机存取存储器)、非易失性存储装置(例如，只读存储器)、闪存或这些存储器的任何组合。系统存储器106可以包括操作系统107以及适于运行软件程序/模块120(诸如，io管理器124、其他实用程序126和应用128之类)的一个或多个程序模块108。作为示例，系统存储器106可以存储用于执行的指令。系统存储器106的其他示例可以存储与应用相关联的数据。例如，操作系统107可以适于控制计算设备102的操作。进一步，本发明的示例可以结合图形库、其他操作系统或者任何其他应用程序来实践，并且不限于任何特定应用或系统。在图1中通过虚线122内的那些部件图示了这种基本配置。计算设备102可以具有附加特征或功能。例如，计算设备102还可以包括(可移除的和/或不可移除的)附加数据存储设备，诸如例如，磁盘、光盘或磁带。在图1中通过可移除存储设备109和不可移除存储设备110图示这种附加存储装置。

如上文所陈述的，若干个程序模块和数据文件可以被存储在系统存储器106中。当在处理单元104上执行时，程序模块108(例如，输入/输出(i/o)管理器124、其他实用程序126和应用128)可以执行过程，其包括但不限于本公开中所描述的操作的阶段中的一个或多个阶段。可以按照本发明的示例使用的其他程序模块可以包括电子邮件和联系人应用、文字处理应用、电子表格应用、数据库应用、幻灯片演示应用、绘图或计算机辅助应用、照片编辑应用、创作应用等。

进一步，可以在包括分立电子元件的电路中、在包含逻辑门的封装或集成电子芯片中、在利用微处理器的电路中或在包含电子元件或微处理器的单个芯片上实践本发明的示例。例如，本发明的示例可以经由片上系统(soc)来实践，其中图1中所图示的部件中的每个部件或许多部件可以集成到单个集成电路上。这样的soc设备可以包括一个或多个处理单元、图形单元、通信单元、系统虚拟化单元和各种应用功能，所有这些都作为单个集成电路集成(或“烧制”)到芯片基板上。当经由soc操作时，可以经由在单个集成电路(芯片)上与计算设备502的其他部件集成的专用逻辑来操作本文中所描述的功能。本公开的示例还可以使用能够执行逻辑运算(诸如例如，and、or和not)的其他技术来实践，这些技术包括但不限于机械技术、光学技术、流体技术和量子技术。此外，本发明的示例可以在通用计算机内或在任何其他电路或系统内实践。

计算设备102还可以具有一个或多个输入设备112，诸如键盘、鼠标、笔、声音输入设备、用于话音输入/识别的设备、触摸输入设备等。还可以包括一个或多个输出设备(诸如显示器、扬声器、打印机等)114。上述设备是示例，并且可以使用其他设备。计算设备104可以包括一个或多个通信连接116，其允许与其他计算设备118通信。合适的通信连接116的示例包括但不限于，rf发射机、接收机和/或收发机电路、通用串行总线(usb)、并行端口和/或串行端口。

本文中所使用的术语计算机可读介质可以包括计算机存储介质。计算机存储介质可以包括以用于存储信息(诸如计算机可读指令、数据结构或程序模块)的任何方法或技术实现的易失性和非易失性、可移除和不可移除介质。系统存储器106、可移除存储设备109以及不可移除存储设备110是所有的计算机存储介质的示例(即，存储器存储装置)。计算机存储介质可以包括ram、rom、电可擦除只读存储器(eeprom)、闪速存储器或其他存储器技术、cd-rom、数字多功能盘(dvd)或其他光学存储装置、盒式磁带、磁带、磁盘存储装置或其他磁性存储设备或可以用于存储信息并且可以由计算设备102访问的任何其他制品。任何这样的计算机存储介质可以是计算设备102的一部分。计算机存储介质不包括载波或其他传播或调制的数据信号。

通信介质可以通过计算机可读指令、数据结构、程序模块或调制的数据信号中的其他数据(诸如载波或其他传输机制)来体现，并且包括任何信息递送介质。术语“调制的数据信号”可以描述使得一个或多个特征以这样的方式被设置或改变以对信号中的信息进行编码的信号。作为示例而非限制，通信介质可以包括诸如有线网络或直接有线连接之类的有线介质以及诸如声学、射频(rf)、红外线以及其他无线介质之类的无线介质。

图2a和图2b图示了其中可以实践本发明的示例的移动计算设备200，例如，移动电话、智能电话、个人数据助理、平板个人电脑、平板手机、平板电脑、膝上型电脑等。例如，移动计算设备200可以被实现为执行应用和/或应用命令控件。应用命令控件涉及通过用户接口(ui)或图形用户接口(gui)与应用一起使用的命令的呈现和控制。在一个示例中，应用命令控件可以被专门编程以便与单个应用一起工作。在其他示例中，应用命令控件可以被编程为跨多于一个的应用工作。参照图2a，图示了用于实现示例的移动计算设备200的一个示例。在基本配置中，移动计算设备200是具有输入元件和输出元件两者的手持式计算机。移动计算设备200通常包括显示器205和允许用户将信息键入到移动计算设备200中的一个或多个输入按钮210。移动计算设备200的显示器205还可以用作输入设备(例如，触摸屏显示器)。如果被包括，则可选侧边输入元件215允许进一步的用户输入。侧边输入元件215可以是旋转开关、按钮或任何其他类型的手动输入元件。在可选示例中，移动计算设备200可以包含更多或更少的输入元件。例如，在一些示例中，显示器205可能不是触摸屏。在又一可选示例中，移动计算设备200是便携式电话系统，诸如蜂窝电话。移动计算设备200还可以包括可选小键盘235。可选小键盘235可以是物理小键盘或在触摸屏显示器或任何其他软输入面板(sip)上生成的“软”小键盘。在各种示例中，输出元件包括用于示出gui的显示器205、视觉指示器220(例如，发光二极管)和/或音频换能器225(例如，扬声器)。在一些示例中，移动计算设备200结合用于向用户提供触觉反馈的振动换能器。在又一示例中，移动计算设备200结合了输入和/或输出端口，诸如音频输入(例如，麦克风插孔)、音频输出(例如，耳机插孔)和视频输出(例如，hdmi端口)之类，以用于向外部设备发送信号或从外部设备接收信号。

图2b是图示了移动计算设备的一个示例的体系架构的框图。也就是说，移动计算设备200可以结合系统(即，体系架构)202来实现一些示例。在一个示例中，系统202被实现为能够运行一个或多个应用(例如，浏览器、电子邮件、日历排列、联系人管理器、消息传送客户端、游戏和媒体客户端/播放器)的“智能电话”。在一些示例中，系统202被集成为计算设备，诸如集成个人数字助理(pda)、输入板和无线电话。

一个或多个应用程序266可以被加载到存储器262中并且在操作系统264上或者与之相关联地运行。应用程序的示例包括电话拨号程序、电子邮件程序、个人信息管理(pevi)程序、文字处理程序、电子表格程序、互联网浏览器程序、消息传送程序等等。系统202还包括存储器262内的非易失性存储区域268。非易失性存储区域268可以用于存储如果系统202断电则不应该丢失的持久信息。应用程序266可以使用信息并且将该信息存储在非易失性存储区域268中，该信息诸如由电子邮件应用使用的电子邮件或其他消息等。同步应用(未示出)也驻留在系统202上，并且被编程为与驻留在主计算机上的对应同步应用进行交互，以保持存储在非易失性存储区域268中的信息与存储在主计算机处的对应信息同步。应当领会，其他应用可以被加载到存储器262中并且在本文中所描述的移动计算设备200上运行。

系统202具有电源270，其可以被实现为一个或多个电池。电源270还可以包括外部电源，诸如补充或对电池再充电的ac适配器或电动对接支架。

系统202可以包括外围设备端口230，其执行促进系统202和一个或多个外围设备之间的连接性的功能。去往和来自外围设备端口230的传输在操作系统(os)264的控制下进行。换句话说，由外围设备端口230接收的通信可以经由操作系统264散播到应用程序266，反之亦然。

系统202还可以包括无线电接口层272，其执行传送和接收射频通信的功能。无线电接口层272促进经由通信运营商或服务提供商在系统202和“外部世界”之间的无线连接性。去往和来自无线电接口层272的传输在操作系统264的控制下进行。换句话说，由无线电接口层272接收到的通信可以经由操作系统264散播到应用程序266，反之亦然。

视觉指示器220可以被用于提供视觉通知，和/或音频接口274可以被用于经由音频换能器225产生可听通知。在所图示的示例中，视觉指示器220是发光二极管(led)，而音频换能器225是扬声器。这些设备可以直接耦合到电源270，使得当其被激活时，即使处理器260和其他部件可能关闭以节省电池电力，它们仍然保持接通由通知机构所指示的持续时间。led可以被编程为无限期地保持接通，直到用户采取动作来指示设备的开机状态为止。音频接口274被用于向用户提供可听信号并且从用户接收可听信号。例如，除了被耦合到音频换能器225之外，音频接口274还可以被耦合到麦克风以接收可听输入，诸如以促进电话会话。如下文所描述的，按照本发明的示例，麦克风还可以用作音频传感器以促进对通知的控制。系统202还可以包括视频接口276，其使得车载相机230的操作能够记录静态图像、视频流等。

实现系统202的移动计算设备200可以具有附加特征或功能。例如，移动计算设备200还可以包括(可移除的和/或不可移除的)附加数据存储设备，诸如磁盘、光盘或磁带。图2b中通过非易失性存储区域268图示这种附加存储装置。

如上文所描述的，由移动计算设备200生成或捕获并且经由系统202存储的数据/信息可以在本地存储在移动计算设备200上，或者数据可以存储在任何数目的存储介质上，其可以经由无线电272或经由移动计算设备200和与移动计算设备200相关联的单独计算设备(例如，分布式计算网络(诸如互联网)中的服务器计算机)之间的有线连接通过设备来访问。应当领会，这样的数据/信息可以经由移动计算设备200、无线电272或分布式计算网络来访问。类似地，根据包括电子邮件和协作数据/信息共享系统在内的众所周知的数据/信息传送和存储装置，这些数据/信息可以容易地在计算设备之间传送以用于存储和使用。

图3图示了如上文所描述的用于向一个或多个客户端设备提供可靠地访问存储系统上的目标数据并且处理通信故障的应用的系统的体系架构的一个示例。与编程模块108、应用120和存储装置/存储器相关联地访问、交互或编辑的目标数据可以被存储在不同的通信信道或其他存储类型中。例如，如本文中所描述的，可以使用目录服务322、web门户324、邮箱服务326、即时消息传送存储库328或社交联网站点330来存储各种文档，应用128、io管理器124、其他实用程序126和存储系统可以使用这些类型的系统等中的任一个来实现数据利用。服务器320可以提供存储系统以供通过网络315在通用计算设备102和一个或多个移动设备200上操作的客户端使用。作为示例，网络315可以包括互联网或任何其他类型的局域网或广域网，并且客户端节点可以被实现为计算设备102，其在个人计算机中、平板计算设备中和/或由移动计算设备200(例如，移动处理设备)实现。客户端计算设备102或200的这些示例中的任一个示例可以从存储库316获得内容。

图4图示了根据本文中所描述的示例的可在一个或多个计算设备上实现的示例性系统400。所呈现的示例性系统400是相互依存的部件的组合，这些部件相互作用以基于用户示例操作来形成用于习得性(learned)程序生成的集成整体。系统400的部件可以是硬件部件或在系统400的硬件部件上实现和/或由其执行的软件。在示例中，系统400可以包括硬件部件(例如，asic、用于执行/运行操作系统(os)的其他设备)以及在硬件上运行的软件部件(例如，应用、应用编程接口、模块、虚拟机、运行时间库等)中的任一个。在一个示例中，示例性系统400可以提供用于软件部件运行的环境，遵守为操作而设置的约束，并且利用系统100的资源或设施，其中部件可以是在一个或多个处理设备上运行的软件(例如，应用、程序等)。例如，软件(例如，应用、操作指令、模块等)可以在诸如计算机、移动设备(例如，智能手机/电话、输入板)和/或任何其他电子设备之类的处理设备上运行。作为处理设备操作环境的示例，参考图1至图3的操作环境。在其他示例中，本文中所公开的系统的部件可以散布在多个设备上。比如，可以在客户端设备(例如，处理设备)上录入输入，并且可以从诸如一个或多个服务器设备之类的网络中的其他设备处理或访问信息。

本领域的技术人员应当领会，诸如系统400之类的系统的规模可以变化，并且可以包括比图4中所描述的部件更多或更少的部件。在一些示例中，系统400的部件之间的接口例如可以远程发生，其中系统400的部件可以散布在分布式网络的一个或多个设备上。在示例中，一个或多个数据存储库/存储装置或其他存储器与系统400相关联。例如，系统400的部件可以具有与其相关联的一个或多个数据存储装置/存储器/存储库。与系统400的部件相关联的数据可以被存储在其上以及由系统400的部件执行的处理操作/指令。系统400的部件可以与处理设备的os对接，以允许输入理解和对话流程/会话管理的处理。例如，系统400可以被配置为接收来自用户的输入并且处理接收到的输入以管理用户交互。涉及使得能够录入输入和接收输入以供处理的方面在使用领域中是公知的，并且在本公开中未进行描述。在一个示例中，系统400可以是诸如会话理解(cu)系统或对话系统之类的输入理解系统。然而，系统400具有处理装置，并且可以被配置为处理任何类型的输入，其包括但不限于语音/话音输入、文本输入、手势输入、手写输入等等。系统400可以是可扩展的并且可配置为在多种处理设备上操作，这些处理设备包括但不限于：台式计算机、膝上型计算机、诸如电话之类的移动处理设备、输入板、平板电脑、可穿戴式处理设备(例如，手表、眼镜、耳机等等)、车辆处理设备、以及具有至少一个处理器的任何其他设备等等。在一个示例中，系统400可以作为智能个人助理来操作。智能个人助理是移动软件代理，其可以基于用户输入、位置感知以及从多种在线来源访问信息的能力来为个人执行任务或服务。系统400可以与之进行操作的智能个人助理的示例包括但不限于silvia、s-voice、voicemate、googlenow、cortana、hidi和siri等等。然而，本领域技术人员应当认识到，输入理解处理示例不限于智能个人助理中的应用。示例性系统400包括会话理解部件406，其包括用户接口部件408、输入识别部件410、输入理解部件412、对话处理部件414，其中如图4所示，所标识的部件中的每个所标识的部件可以包括一个或多个附加部件。

系统400还可以包括一个或多个存储装置416，其可以存储与系统400的一个或多个部件的操作相关联的数据。存储装置416是任何物理存储器空间或虚拟存储器空间。存储装置416可以存储用于处理由系统400的部件执行的操作的任何数据、来自用于与用户交互的多回合对话处理的保留数据、用于执行处理操作的建模数据、以及知识数据等等。进一步，在示例中，系统400的部件可以在由系统400的部件进行的处理中利用知识数据。知识数据是系统400的部件可用于改进会话理解部件406中的任一对话理解部件的处理的任何数据，其中知识数据可以从系统400内部或外部的资源获得。在示例中，可以通过知识获取操作在一个或多个存储装置416中维持知识数据或者从系统400外部的一个或多个资源中检索知识数据。外部资源是在系统400之外存在并且可管理的任何资源(例如，系统、应用/服务等)。外部资源包括但不限于系统、可以由与系统400相同的组织管理的应用/服务(例如，诸如网络搜索服务、电子邮件应用、日历、设备管理服务、地址簿服务、信息服务等之类的组织提供的其他服务)以及由第三方托管或控制的服务和/或网站。例如，外部资源可以包括业务线(lob)管理服务、客户关系管理(crm)服务、调试服务、计费服务、工资服务等。外部资源还可以包括由第三方(诸如社交媒体网站、照片分享网站、视频和音乐流媒体网站、搜索引擎网站；体育、新闻或娱乐网站等)托管的其他网站和/或应用。外部资源可以提供鲁棒报告、分析、数据编译和/或存储服务等，而其他外部资源可以提供搜索引擎或对数据和信息、图像、视频等的其他访问。

处理设备402可以是包括至少一个处理器和至少一个存储器/存储装置的任何设备。处理设备402的示例可以包括但不限于：诸如台式计算机、服务器、电话、输入板、平板手机，平板电脑、膝上型电脑、手表之类的处理设备，以及诸如具有一个或多个电路的设备之类的任何其他电子部件集合。在一个示例中，处理设备402可以是运行可以通过对话交换与用户交互的应用/服务的用户的设备。在示例中，处理设备402可以经由网络404与会话理解部件406通信。在一个方面，网络404是诸如互联网的分布式计算网络。

会话理解部件406是用于管理用户与在处理设备上执行的处理设备或应用之间交互的部件的集合。会话理解部件406包括用户接口部件408、输入识别部件410、输入理解部件412、对话处理部件414。在示例中，会话理解部件406可以被存储，并且对一个或多个会话理解部件406的访问可以例如通过分布式网络而被分布。在可选示例中，会话理解部件406可以与在处理设备402上存储并且可执行的应用相关联。

用户接口部件408是一个或多个部件，其被配置为使得能够和与应用或服务相关联的应用或服务的用户进行交互。通过用户接口部件408，透明度和组织被带到这样的应用/服务的用户，其中用户可以通过用户接口元件与应用进行交互。作为示例，用户接口部件408可以包括在处理设备的显示器上生成并且显示一个或多个用户接口元件。作为另一示例，用户接口部件408可以生成使用文本到语音(tts)部件讲回给用户的自然语言响应。这可以结合显示用户接口元件或不显示这样的元件，例如，以免提免视操作模式或在没有显示器的形状因子上。例如，响应于将输入录入到设备中的用户动作，用户接口部件408可以接收并且处理该请求，以及发起动作以显示用于将输入录入到与应用程序/服务正在其上执行的处理设备相关联的应用/服务中的提示。用户接口部件408还可以作为用于显示由其他会话理解部件406(诸如输入识别部件410、输入理解部件412和对话处理部件414)所执行的后端处理的前端来执行。在示例中，用户接口定义文件可以包括用于管理和显示与用户接口部件408相关联的用户接口元件的编程指令或操作。

输入识别部件410是系统400的部件，其接收、处理和转换接收到的输入以进行识别。示例性输入识别部件412是多回合、多域统计模型，其由用于输入识别的一个或多个模型组成。当例如经由用户接口部件408接收到输入时，该输入被传送到输入识别部件410以进行处理。作为上文所描述的示例，由输入识别部件410处理的输入包括但不限于语音/话音输入(例如，话语)、文本输入、手势输入、以及手写输入等等。

输入识别部件410被配置为将接收到的输入处理成能够被系统400的部件理解的形式。作为示例，输入识别部件410可以将口头话语处理成文本。在示例中，输入识别部件410可以实现自动语音识别(asr)、计算机语音识别或者语音到文本(stt)等等，以将语音处理成文本以供系统400进行评估/附加处理。输入识别部件410可配置为生成用于识别接收到的输入的潜在可选方案集合。可选方案是由系统400的处理部件生成的结果，其是基于系统400的一个或多个部件的处理而被产生。在示例中，产生的可选方案是系统400如何理解输入的解释。比如，语音输入或话语可以被接收和评估，以生成诸如“我在家(i'mhome)”和“开车回家(drivehome)”的可选方案。也就是说，在处理接收到的话语时，输入识别部件410可以生成与系统400从接收到的话语中理解的可选方案有关的可选方案集合。针对接收到的输入，可以生成最佳可选方案列表，并且将其传播到例如输入理解部件412以供进一步处理。在示例中，输入识别部件410可以通过产生单词混淆网络(wcn)和/或网格来处理接收到的输入，该单词混淆网络(wcn)和/或网格可以被用于针对接收到的输入生成用于最高可选方案和后续可选方案。

在一些示例中，输入识别部件410可以包括排列器部件，其可以被用于评估由输入识别部件410生成的可选方案。在一个示例中，可以基于可选方案满足接收到的输入的意图的所确定的可能性，对所生成的可选方案进行排列。然而，部件可以以使得部件能够把可选方案区分开来的任何方式来分析和评估可选方案。在示例中，置信度值可以与所生成的可选方案中的每个所生成的可选方案相关联。比如，在接收到的话语被解释为“我在家”而另一个被解释为“开车回家”的示例中，可以对潜在可选方案中的每个潜在可选方案评估置信度值，其中置信度值指示输入识别部件410关于解释接收到的话语是具有怎样的置信。可选方案的比较可以包括统计建模和/或可选方案的排列，由此度量可以被应用于对所生成的可选方案进行排列。在一个示例中，机器学习处理被应用于对由输入识别部件410生成的可选方案或备用方案进行排列。

输入理解部件412分析与(从输入识别部件410接收的)传播的可选方案相关联的上下文，以便对传播的可选方案执行输入理解处理。输入理解部件412是多回合、多域统计模型，该模型由域、意图和时隙模型集合组成。作为示例，输入理解部件412可以是自然语言理解(nlu)部件或口语理解(slu)部件。然而，本领域技术人员应当认识到，输入理解部件412的操作不限于lu和slu。对于每个域，输入理解部件412例如使用支持向量机(svm)模型来生成域分数。这些域模型使用系统的先前回合所选的域作为上下文输入信号，这提高了域预测准确性。在域分类之后，然后意图例如使用多类svm意图模型来确定。进一步，使用条件随机字段(crf)序列标记器等等来标记实体(时隙)。输入理解部件412的输出是语义帧(sf)集合，每个域一个语义帧，其包含意图和时隙信息以及相关联的分数。在示例中，可以访问(例如，存储在存储器416中的)知识数据，并且被用于帮助输入理解部件412进行评分。在将分数指派给sf时，输入理解部件412可以使用一个或多个排列器。与输入理解部件412所生成的结果相关联的评分在本领域中是已知的。

对话处理部件414是管理与用户进行对话交换以便引导会话或对话交换的一般流程的历史和状态的一个或多个部件。为此，对话处理部件414分析作为上文所描述的输入理解处理的结果而被提供的语义信息。在示例中，对话处理部件414采用一个或多个模型(例如，统计模型或机器学习模型)来执行操作。比如，对话处理部件414可以被配置为执行与用于与sf相关联的数据的知识获取、对话假设的生成、用于假设排列(hr)的通用语言模型的应用、用于输出对接收到的输入的响应的策略确定以及在多回合对话交换或会话中与用户交互的状态的管理等有关的操作。对话处理部件414可以对由输入理解部件412生成的sf执行进一步的处理，该处理包括生成对话假设和所生成的对话假设的hr排列。sf集合以及知识数据结果被称为对话假设。hr是对话系统的对话管理阶段内的域排列/重新排列机构，即，hr受益于对所有域进行完整的slu域、意图和时隙分析，以及可用于提高域分类准确性的完整的会话上下文和相关的后端知识。在图5的描述中对关于由对话处理部件414执行的操作的进一步的细节进行详细描述。

图5是其中可以实践本公开方面的用于对话处理的示例性系统500。所提出的示例性系统500是相互依存的部件的组合，这些部件相互作用以基于用户示例操作来形成用于习得性程序生成的集成整体。系统500的部件可以是硬件部件或在系统500的硬件部件上实现和/或由其执行的软件。在示例中，系统500可以包括硬件部件(例如，asic、用于执行/运行操作系统(os)的其他设备)以及在硬件上运行的软件部件(例如，应用、应用编程接口、模块、虚拟机、运行时间库等)中的任一个。在一个示例中，示例性系统500可以提供用于软件部件运行的环境、遵守为操作而设置的约束，并且利用系统100的资源或设施，其中部件可以是在一个或多个处理设备上运行的软件(例如，应用、程序等)。比如，软件(例如，应用、操作指令、模块等)可以在诸如计算机、移动设备(例如，智能手机/电话、输入板)和/或任何其他电子设备之类的处理设备上运行。作为处理设备操作环境的示例，参考图1至图3的操作环境。在其他示例中，本文中所公开的系统的部件可以跨多个设备散布。比如，可以在客户端设备(例如，处理设备)上录入输入，并且可以从网络中的其他设备(诸如一个或多个服务器设备之类的)处理或访问信息。

本领域的技术人员应当领会，诸如系统500之类的系统的规模可以变化，并且可以包括比图5中所描述的部件更多或更少的部件。在一些示例中，系统500的部件之间的接口可以例如远程发生，其中系统500的部件可以跨分布式网络的一个或多个设备散布。在示例中，一个或多个数据存储库/存储装置或其他存储器与系统500相关联。例如，系统500的部件可以具有与其相关联的一个或多个数据存储装置/存储器/存储库。与系统500的部件相关联的数据可以被存储在其上以及由系统400的部件执行的处理操作/指令。系统500的部件可以与处理设备的os对接，以允许输入理解和对话流程/会话管理的处理。例如，系统500可以被配置为接收来自用户的输入并且处理接收到的输入，以管理用户交互。涉及使得能够录入输入和接收输入以供处理的方面在使用领域中是公知的，并且这些方面在本公开中没有被描述。在一个示例中，系统500可以是诸如会话理解(cu)系统或对话系统之类的输入理解系统。系统500可以包括自动语音识别(asr)部件502、口语理解部件504和对话处理部件506。作为示例，系统500的部件是图4的系统400中所描述的示例性会话理解部件406。图5的描述进一步提供了对话处理部件506的操作部件的描述。对话处理部件506可以包括知识获取部件508、特征提取部件510、假设排列器(hr)部件512和策略确定部件514。

asr部件502是在图4的描述中描述的输入识别部件410的示例。作为示例，asr部件502将接收到的作为口头话语的输入转换为文本，以供系统500理解和处理。asr应用建模(例如，声学建模和语言建模)不仅用于识别接收到的口头话语的词法方面，而且还用于标识讲话者。在示例中，asr部件502可以使用模型，其包括但不限于隐马尔可夫模型(hmm)、文档分类、统计机器翻译、机器学习处理等等。

slu部件504是在图4的描述中描述的输入理解部件412的示例。参考输入理解部件412的描述以获得关于由slu部件504执行的处理操作的进一步细节。作为示例，slu部件504执行包括域、意图和时隙模型集合的统计建模，以便能够开发多人/机器会话。在分析域、意图和时隙(例如，实体数据的时隙标记)中的每一个时，可以使用svm模型。然而，本领域技术人员应当认识到，可以在如本领域中已知的slu处理中实现其他类型的建模。slu部件504的输出是语义帧(sf)集合，每个确定的域一个语义帧，该语义帧包含意图和时隙信息以及相关联的评分/排列数据。sf被传播到对话处理部件506以供进一步处理。

对话处理部件506是管理与用户进行对话交换以便引导会话或对话交换的一般流程的历史和状态的部件的集合。为此，对话处理部件506分析由slu处理生成的诸如sf之类的语义信息。在示例中，对话处理部件506采用一个或多个模型(例如，统计或机器学习模型)来执行操作。对话处理部件506是在图4的描述中描述的对话处理部件414的示例。对话处理部件506可以包括知识获取部件508、特征提取部件510、假设排列器(hr)部件512和策略确定部件514。

知识提取部件508执行评估和分析sf数据的处理操作，以由sf中的每个sf生成一个或多个对话假设。为此，知识获取部件508可以从(例如，系统500内部或外部的)资源获取相关知识数据，并且将所获取的知识数据附加到sf，以便生成对话假设。内部资源包括系统500内部的知识数据，并且可以包括从一个或多个对话系统和/或对话理解应用的用户收集的日志数据、以及其他手动工程数据或众包数据。外部资源是在系统400之外存在并且可管理的任何资源(例如，系统、应用/服务等)。外部资源包括但不限于系统、可以由与系统500相同的组织管理的应用/服务(例如，由组织提供的其他服务，诸如网络搜索服务、电子邮件应用、日历、设备管理服务、地址簿服务、信息服务等)以及由第三方托管或控制的服务和/或网站。例如，外部资源可以包括业务线(lob)管理服务、客户关系管理(crm)服务、调试服务、计费服务、工资服务等。外部资源还可以包括由第三方托管的其他网站和/或应用，诸如社交媒体网站、照片分享网站、视频和音乐流媒体网站、搜索引擎网站、体育、新闻或娱乐网站等。外部资源可以提供鲁棒报告、分析、数据编辑和/或存储服务等，而其他外部资源可以提供搜索引擎或对数据和信息、图像、视频等的其他访问。作为知识获取处理的示例，名称数据/联系人可以在产生话语的用户的地址簿应用或联系人列表中被检查。诸如网络搜索/搜索结果之类的其他资源可以被提供并且用于评估诸如实体数据之类的对话假设的内容/数据。知识获取部件508可以将所生成的对话假设传播给特征提取部件510以供进一步处理。

特征提取部件510是执行操作以从所生成的对话假设中提取特征的处理部件。所提取的特征可以由对话处理部件506的假设排列器(hr)部件512用于对所生成的对话假设进行排列/重新排列(或评分/重新评分)。在示例中，针对每个对话假设，可以提取超过1,000个特征中的任一特征。这些特征包括但不限于在用户话语的该域的分析中指示特定实体标签的存在或不存在的二进制特征、该域的意图解释、规范化实体的存在(并非所有标记的实体都可能具有规范形式)、标记的实体的覆盖率(作为话语长度的百分比)等。其他提取的特征跨越一起被排列的所设置的假设，例如，特定实体标签是否出现在假设中的任一假设的任何地方。其他特征是上下文特征，诸如假设的域是否与来自先前回合的排列最高的域相匹配，假设与先前排列最高的假设共有多少个实体标记，以及先前回合的域的分数的完整列表。从后端域知识提取的特征包括是否可以针对该假设的域、意图和标记实体的组合生成结果等。在一些示例中，所提取的特征不会直接包含来自用户话语的单词或短语，例如，没有n-gram特征或词法特征。在这样的示例中，避免使用词法特征提供了避免hr排列模型重新计算已经由slu进行的较低级别词法分析以及提供语言之间的可移植性等益处。尽管一些特征(例如，作为话语长度的百分比的标记的实体的覆盖率)可能受到对话系统操作的语言的影响，但是特征可以以所有语言而被计算。另外，所提取的特征不能直接指示在其中部署hr模型的对话系统的语言或区域。因此，特征提取和最终hr处理可以被应用于包括不可预见或低资源语言的多个语言。这样，示例性会话系统或对话系统能够处理任何类型的输入数据并且是可扩展的和可展开的。在示例中，可以采用机器学习处理或其他类型的统计建模来提取用于对对话假设进行排列的特征。

所提取的特征被传播到hr部件512，以用于基于对多个对话假设的所提取的特征的评估来对对话假设进行排列/重新排列。为了对对话假设进行排列，hr部件512采用可适用于多个语言和区域的通用假设排列模型。在示例中，通用假设排列模型可在以不同语言操作的对话系统之间共享，并且甚至可以被用于以低资源语言(例如，少数语言或对其已经收集有限语言数据的新开发的区域市场)处理对话交换。hr部件512基于slu处理的完整视图、知识获取部件508获得的知识获取结果以及会话上下文(例如，会话/对话交换(诸如，回合1、回合2、回合n等)期间的回合处理)来对sf(诸如由slu部件504识别的域)的数据进行排列。通用语言模型基于训练数据的语料库来训练，以使得hr部件512能够可适于通过不同语言和区域工作。描述涉及训练数据，并且下文在图7的描述中提供了示例性通用假设排列模型的生成。

作为示例，hr模型可以包括梯度提升决策树(gbdt)模型。在特定对话系统内，hr模型为每个对话假设指派分数，其中对话假设的分数然后用于对话假设进行排列/排序。在示例中，可以基于所提取的特征使用机器学习处理或统计排列模型(例如，lambdarank)来优化hr模型分数。对于训练，如果其域与注解器所选择的域相匹配，则每个对话假设可以被指派分数/等级1，否则分数/等级可以小于1。然而，本领域技术人员应当认识到，与对话假设进行排列相关联的评分是可定制的，并且可以变化，例如多点尺度，其中5是“完美”(正确的域、意图和所有时隙)，4是“良好”(正确的域、意图和一些时隙)，3是“好的”(正确的域和意图)，一直到0，其是“糟糕”(不正确的域、意图和时隙)。

来自hr部件的hr处理的排列后的对话假设可以被传播到策略确定部件514。策略确定部件514执行与排列后的对话假设的评估和结果的输出有关的处理操作。结果可以包括所选择的响应或动作(例如，图5中示出的“结果1”)，其可以被传送回发起输入/话语的用户的处理设备。响应或动作可以包括一个或多个对话假设以及在管理与用户的会话中可能有用的其他数据。比如，策略确定部件可以向用户输出对话假设，可以呈现以供用户选择的多个对话假设，可以请求用户消除对话假设之间的歧义，可以请求更多信息等。在其他情况下，系统500可以通过启动应用或基于对话假设的排列结果的评估来处理用户请求来采取动作。为此，策略确定部件514可以参考提供用于管理与用户的会话的指令或规则的策略。为此，策略确定部件514可以采用统计模型或机器学习操作来输出对话处理的结果。

图5还图示了对话可以在系统500和用户之间继续。例如，在结果(例如，“结果1”)被传送到用户之后，系统500可以接收进一步的输入。系统500可以管理与用户的会话/对话交换的状态，以便来自先前回合的结果在与用户的继续会话中可能是有用的。在一些示例中，来自系统500的任何部件的处理的结果数据可以自与系统500的任何先前交互就存在。在示例中，日志数据可以由系统500维护和管理以基于来自特定用户或一个或多个其他用户的先前回合来进行智能处理。作为示例，机器学习操作可以被应用以基于接收到的输入来管理会话的状态。在一个示例中，除了在这种情况下之外，系统500的后续处理回合(例如，“回合2”)重复上文所描述的处理步骤，系统500的每个部件都获知先前结果(例如，结果1或由来自一个或多个用户的系统500维护的其他结果数据)。比如，结果1可以影响通过处理系统500的部件的模型执行的分析/处理。在示例中，后续接收的输入的处理可以包括由asr部件502、slu部件504、以及对话处理部件506中的一个或多个部件执行的处理，该对话处理部件506包括知识提取部件508、特征提取部件510、hr部件512和策略确定部件514。作为示例，当考虑回合n的可选对话假设的列表时，hr部件512可以使用从结果1提取的特征作为输入的一部分。对于每个后续接收的输入(例如，n个输入)，系统500可以生成结果(例如，结果n)。

图6是用于其中可以实践本公开的方面的输入处理的示例性方法600。作为示例，方法600可以由诸如图1至图5中所示的系统之类的示例性系统来执行。在示例中，方法600可以在设备上执行，该设备包括至少一个处理器，其被配置为存储和执行操作、程序或指令。然而，方法600不限于这样的示例。在至少一个示例中，方法600可以由分布式网络的一个或多个部件(比如，网络服务/分布式网络服务(例如，云服务))执行(例如，计算机实现的操作)。在示例中，在方法600中执行的操作可以与由系统和/或服务执行的操作相对应，该系统和/或服务执行计算机程序、应用编程接口(api)或机器学习处理等等。

方法600开始于操作602，其中通过用于对话处理的应用的用户接口(ui)接收输入。在示例中，可以接收输入并且由输入识别部件(诸如图4的输入识别部件408和如图5的描述中所描述的示例性asr部件502)进行处理。在示例中，操作602执行用于输入识别的操作并且可以将结果数据(例如，生成的可选方案)传播到输入理解部件以供进一步处理。

流程进行到操作604，其中执行操作以基于对接收到的输入的输入理解处理来生成多个对话假设。输入理解部件可以是图4的输入理解部件412和如图5的描述中所描述的示例性slu部件504。作为示例，操作604可以响应于接收到的输入，生成用于多个可能的可选方案中的每个可能的可选方案的sf数据以供考虑。所生成的sf数据可以被传播到对话处理部件(例如，图5中描述的知识获取部件508)以执行知识获取以分析由语言理解处理生成的语义帧数据。所执行的知识获取使用从至少一个数据库获得的知识数据来应用。可以基于对sf数据的评估和来自知识获取操作的知识数据的应用来生成对话假设。所生成的对话假设可以被进一步传播到附加对话处理部件以供进一步处理。

流程进行到操作606，其中执行操作以使用通用假设排列模型对多个对话假设进行排列。上文对可以应用的示例性通用假设排列模型进行了描述，其中通用假设排列模型可适用于多个语言和区域。例如，如在图5的描述中所描述的，操作606还可以包括对话处理部件506的一个或多个操作。排列(操作606)可以包括：使用通用假设排列模型来分析多个对话假设的与语言无关的特征以供策略确定。排列(操作606)还可以包括：提取用于多个对话假设中的每个对话假设的多个与语言无关的特征，以及基于使用通用假设排列模型的训练数据来分析所提取的特征来对多个对话假设进行评分。示例性训练数据包括用于多种不同语言的数据。排列后的对话假设可以被传播到策略确定部件，诸如图5的描述中描述的策略确定部件514。

在操作608中，在排列后的对话假设上执行策略确定，其输出排列后的多个对话假设中的一个或多个排列后的对话假设。在示例中，操作608可以将结果输出给系统/应用/服务的用户。

在示例中，方法600可以包括操作610，其中可以保留(例如，存储)数据并且用于管理系统/应用/服务和用户之间的会话流程的状态。

流程可以进行到判定操作612，其中确定是否接收到后续输入。如果未来接收到，则与方法600相关联的流程系统或服务可以保持空闲，直到接收到进一步输入为止。如果接收到后续输入，则流程分支“是”并且方法600的处理返回到操作602。在后续输入的处理中，示例性系统或服务可以利用所保留的数据来在选自由输入识别处理、输入理解处理和对话处理组成的组的至少一个期间增强后续输入的处理。

图7是用于生成其中可以实践本公开的方面的通用假设排列模型的示例性方法700。作为示例，方法700可以由诸如图1至图5中所示的系统之类的示例性系统来执行。在示例中，方法700可以在设备上执行，该设备包括至少一个处理器，其被配置为存储和执行操作、程序或指令。然而，方法700不限于这样的示例。在至少一个示例中，方法700可以由分布式网络的一个或多个部件(例如，网络服务/分布式网络服务(例如，云服务))执行(例如，计算机实现的操作)。在示例中，在方法700中执行的操作可以与由系统和/或服务执行的操作相对应，该系统和/或服务执行计算机程序、应用编程接口(api)或机器学习处理等。

流程从判定操作702开始，其中管理用于通用假设排列模型的训练数据的语料库。先前对示例性通用假设排列模型进行详细描述，其中通用假设排列模型可适用于多个语言和区域。操作702可以包括：分析训练数据的语料库，其中训练数据的语料库包括可以从以多种不同语言接收的用户输入获得的数据。在示例中，训练数据的语料库是为了训练目的可以被访问和不断更新的存储数据的集合。用于训练和测试的一个语料库或多个语料库可以包括从真实用户收集的接收的输入(包括口头话语或键入的输入)的日志。这样的训练数据还可以包括手动工程数据或众包数据的混合。本领域技术人员应当认识到，可以收集和分析附加数据或信息以包括在训练数据的语料库中。日志数据可以基于注解器判断、预先确定的信号(例如，启动应用或当用户关闭诸如个人数据助理之类的应用时)而被分割成会话，使用机器学习分类模型进行分割等。在示例中，示例日志数据可以包括来自多个语言的数据。比如，针对多个语言-区域，可以收集大致相等数量的训练数据。用于语言/区域的语料库可能跨越类似域进行分析和评估，每个域具有多个意图。在示例中，可以通过多个语言对话系统(例如，每个用于不同的语言)运行训练数据的语料库，直到特征提取处理。然后，可以从所生成的假设集合收集和存储特征。比如，用于多种不同语言的数据可以从存储在一个或多个处理设备的存储器中的两个或更多个语言特定的对话应用部件获得。对于会话内的第二回合和随后的回合，在没有现有的hr模型的情况下，上下文信号可以被视为具有最高slu域分数的先前回合假设中包含的域、意图和实体。这些信号被用作捕获的假设特征集合的一部分。这可能是针对自举问题的变通方法，fir模型当操作时可能影响后续回合时其看到的先前回合域选择。这可能产生具有hr模型所需的输入特征的训练示例集合，这些输入特征是作为监督信号的相关联的人类注解的域标签。在示例中，可以针对每个区域收集单独的训练语料库并且以相同的方式进行处理。所收集的和特征化的数据作为离线训练和测试集合用于hr模型训练和测试。

流程可以前进到操作704，其中生成示例性通用假设排列模型。如上文所标识的，通用排列模型可应用于包括低资源语言或即将出现的新区域市场语言在内的多个语言和区域。比如，与一个或多个通用假设排列模型相关联的处理操作可以适于评估以未知语言或区域接收的输入。操作704可以包括：基于所分析的训练数据的语料库来创建与语言无关的特征集合，其包括用于对对话假设进行排列的可选特征。如图4至图6所示，针对所生成的对话假设，可以提取特征，以与其他对话假设相比较来对对话假设进行评估和排列。作为示例，特征可以从训练数据的语料库的特征化的数据中选择以应用于对话假设。在应用通用假设排列模型的示例中，操作可以包括：从训练数据的与语言无关的特征集合中提取包括两个或更多个特征的可选特征集合，并且使用所提取的可选特征集合来分析多个对话假设的对话假设。

一旦生成通用假设排列模型，则流程可以前进到操作706，其中存储所生成的通用假设排列模型。作为示例，所生成的假设排列模型可以被存储在处理设备(例如，服务器设备)的存储器中以供在分布式网络中访问。在其他示例中，所生成的假设排列语言模型可以被合并到对话处理或会话理解应用或服务中，该应用或服务可分布以在多个不同的处理设备上进行操作。在一些示例中，针对形状因子应用，可以生成通用语言模型的不同版本。

流程可以进行到操作708，其中可以提供对通用假设排列模型的访问，或者可以在上文所讨论的对话处理或会话理解应用或服务中的一个或多个应用或服务内分布通用假设排列模型。在示例中，处理设备可以访问或存储可以包含通用假设排列模型的对话处理应用。比如，处理设备可以执行用于对话处理的应用，其中用于对话处理的应用的执行可以包括：显示图形用户接口。在一些示例中，用于对话处理的应用的执行可以包括：通过图形用户接口呈现可在处理设备上显示的和/或与执行用于对话处理的应用的处理设备的用户讲话的自然语言短语。

在本说明书中已经参考了“一个示例”或“一示例”，其意味着在至少一个示例中包括特定描述的特征、结构或特点。因此，这样的短语的使用可能是指不仅一个示例。进一步，所描述的特征、结构或特点可以以任何合适的方式在一个或多个示例中组合。

然而，相关领域的技术人员应当认识到，可以在没有具体细节中的一个或多个具体细节的情况下，或者使用其他方法、资源、材料等来实践这些示例。在其他实例中，众所周知的结构、资源、或操作没有被示出或详细描述，仅仅是为了观察示例的模糊方面。

虽然已经说明和描述了样本示例和应用，但是应当理解，示例不限于上文所描述的精确配置和资源。在不背离所要求保护的示例的范围的情况下，可以对在本文中所公开的方法和系统的布置、操作和细节做出对于本领域技术人员而言显而易见的各种修改、改变和变化。