跨域个性化词汇的学习方法及其电子装置与流程
一个或更多个实施例总体上涉及个人助理，并且特别地，涉及学习跨域个性化词汇并且在智能个人助理中自动生成结构变化释义(paraphrase)。
背景技术：
自然语言理解(nlu)对于个人助理至关重要。nlu帮助理解用户的话语并实现用户的意图。每个意图可以使用非常不同的话语以许多不同的方式表达。一个重要的可变性是由于部分内容(例如，附加状语、名词短语等)出现在话语中的不同部分以及此类内容的不同表达引起的。例如，对于话语“getmeapizzatohomebythisevening”，也可以这样表示：“bythiseveninggetmeapizzato”、“getmeapizzaforhomebeforethisevening”、“tohome,buymeapizzainthisevening”等。话语的这种可变性对于训练nlu引擎至关重要。否则，nlu引擎只能理解有限数量的固定格式，并且在许多情况下都无法实现用户的意图。
但是，对于每个特定的内容，都不能将其任意放入句子中。这样做的结果将改变整个话语的语义，或者使新的话语完全没有意义。例如，考虑示例：“getmeapizzatohomebythisevening”。可能有许多无效的话语“gettohomemeapizzabythisevening”，“gettohomebythiseveningapizza”等。因此，生成使部分内容出现在正确的地方的释义是很重要的。
最先进的方法/工具(例如api.ai等)或最先进的数字助理产品在很大程度上依赖于用户手动输入话语，以涵盖每种意图的结构变化释义。现有的释义生成工具可能会使用几种简单的基于语法的语句片段重排算法，从而导致不正确的释义。可惜的是，这些方法不能可扩展地支持话语的大量正确变化以生成用于nlu引擎的良好训练数据集。
智能个人助理(pa)是自动人工智能(ai)系统，可以从用户那里获取自然语言输入并执行用户所需的动作。为了使pa能够在各种领域中执行更多动作，某些pa还为开发人员提供了特殊的“技能框架”。使用此框架，开发人员可以向pa添加任何领域的特定技能，使其能够理解自然语言指令并在该领域中执行有用的动作。但是，pa能够理解域特定话语的程度受到技能开发人员提供给技能框架的示例话语的限制。开发人员提供的此类示例通常是受限制的，并且不能涵盖用户能提供给pa的通常使用一些偏爱的个人词汇的多种自然语言话语和释义。更重要的是，当前系统中的技能框架无法利用为一项特定技能提供的示例来增强pa对某些其他技能的词汇或自然语言的理解能力。
技术实现要素：
技术问题
一个或更多个实施例通常涉及学习跨域个性化词汇和在智能个人助理中生成结构变化释义。
技术问题的解决方案
在一个实施例中，一种用于操作电子装置的方法包括：检测第一自然语言(nl)输入；如果该nl输入包括至少一个唯一技能词，则从该第一nl输入确定技能；将该第一nl输入发送到定制技能解析器以确定技能意图，其中，该定制技能解析器是基于至少包括定制训练数据集的数据而训练过的，并且如果nl输入不包括至少一个唯一技能词，则将第一nl输入发送到用于确定第一nl输入的一般意图的通用解析器。
在一个实施例中，一种操作电子装置的方法，包括：基于第一技能，检测包括无法解析的第一字的第一话语；检测包括第二字而不是第一字的第二话语；通过基于第一技能解析第二话语来识别与第二话语相对应的意图；将第一话语以及所述意图一起添加到与第一技能相关联的训练数据中；以及通过使用训练数据来训练第一技能。
在一个实施例中，一种方法包括电子装置根据第一自然语言(nl)输入来确定技能。在成功确定技能后，第一nl输入被发送到定制技能解析器，以确定技能意图。定制技能解析器是基于包括至少定制训练数据集的数据而训练过的。在未成功确定技能的情况下，第一nl输入被发送到通用解析器以确定第一nl输入的一般意图。
在一个实施例中，一种电子装置包括存储指令的存储器。至少一个处理器执行包括过程的指令，该过程被配置为：从第一nl输入确定技能；在成功确定技能之后，将第一nl输入发送到定制技能解析器以确定技能意图，其中，定制技能解析器是基于至少包括定制训练数据集的数据而训练过的，并且未成功地确定技能之后，将第一nl输入发送到通用解析器以确定第一nl输入的一般意图。
在一个实施例中，一种非暂时性处理器可读介质，其包括程序，程序在由处理器执行时执行一种方法，该方法包括电子装置根据第一nl输入确定技能。在成功确定技能之后，第一nl输入被发送到定制技能解析器以确定技能意图。定制技能解析器是基于至少包括定制训练数据集的数据而训练过的。在未成功确定技能的情况下，第一nl输入被发送到通用解析器以确定第一nl输入的一般意图。
在又一个实施例中，一种用于智能辅助的方法，包括：为nl输入生成一个或更多个片段，其中每个片段基于其对nl输入的动作术语的从属性。主要片段是从一个或更多个片段中识别出的。第一替换短语是基于主要片段与一个或更多个片段中的每个非主要片段的连接而生成的。提供包括至少一部分输入和第一替换短语的输出。
根据以下详细描述，一个或更多个实施例的这些和其他方面以及优点将变得显而易见，当结合附图时，该详细描述以示例的方式示出了一个或更多个实施例的原理。
本发明的有益效果
本公开的各种实施例提供了一种跨域个性化词汇学习方案。
附图说明
为了更全面地理解实施例的性质和优点以及优选使用方式，应参考结合附图阐释的以下详细描述，其中：
图1示出了根据一些实施例的包括具有个人助理应用的电子装置的系统的架构的框图；
图2示出了根据一些实施例的示例词汇和释义迁移学习；
图3示出了根据一些实施例的用于个性化技能意图解析的处理的框图；
图4示出了根据一些实施例的用于更新个性化技能解析器的处理的框图；
图5a示出了根据一些实施例的用于迁移个性化词汇的处理的框图；
图5b示出了根据一些实施例的用于迁移个性化词汇的处理的另一框图；
图6示出了根据一些实施例的用于分段重述和交换的框图；
图7示出了根据一些实施例的用于话语分段处理的框图；
图8示出了根据一些实施例的话语分段的示例；
图9示出了根据一些实施例的用于分段重述和交换的处理的框图；
图10示出了根据一些实施例的重述片段的示例；
图11示出了根据一些实施例的重述的片段和来自重述的片段的组合释义的示例；
图12示出了根据一些实施例的用于交换的释义排名的框图；
图13示出了根据一些实施例的排名后的释义的示例；
图14a和图14b示出了根据一些实施例的重述和交换的话语以及排名后的释义的输出的示例；
图15示出了根据一些实施例的用于生成结构变化释义的过程的框图；以及
图16是示出包括实现一个或更多个实施例的计算系统的信息处理系统的高级框图。
具体实施方式
进行以下描述是为了说明一个或更多个实施例的一般原理，并不意味着限制本文所要求的发明构思。此外，本文描述的特定特征可以以各种可能的组合和排列中的每一种与其他描述的特征结合使用。除非本文另有明确定义，否则应给予所有术语最广泛的可能解释，包括从说明书中隐含的含义以及本领域技术人员所理解的含义和/或如字典、论文等所定义的含义。
应当注意的是，术语“至少一个”是指随后的要素中的一个或更多个要素。例如，“a，b，c或其组合中的至少一个”可以分别解释为：单独的“a”、“b”或“c”；或“a”和“b”组合在一起；或“b”和“c”组合在一起；“a”和“c”组合在一起；或“a”、“b”和“c”组合在一起。
该专利文件的一部分公开内容可能包含受版权保护的材料。因为专利文件或专利公开文件出现在专利和商标局的专利文件或记录中，所以版权所有者不反对任何人传真复制专利文件或专利公开文件，但除此之外保留所有版权权利。
一个或更多个实施例提供了在智能个人助理中学习跨域个性化词汇和生成结构变化释义的方法。一些实施例包括一种方法，该方法包括电子装置根据第一nl输入确定技能。在成功确定技能之后，第一nl输入被发送到定制技能解析器，以确定技能意图。定制技能解析器是基于至少包括定制训练数据集的数据而训练过的。在未成功确定技能的情况下，第一nl输入被发送到通用解析器，以确定第一nl输入的一般意图。
在一些实施例中，为了使个人助理(pa)(例如，图1中的pa129)学习由pa的最终用户使用的个性化词汇，可以为每个用户实现“个性化技能解析器”360(图3和图6)，其可以针对用户正在使用的技能集合解析技能特定话语的功能。一些实施例自动生成结构变化释义，并使用它们来训练nlu引擎。生成的结构变化释义可以大大丰富训练集的可变性，以便为pa129训练改进的nlu引擎。
在一些实施例中，生成的结构变化释义允许部分内容出现在话语或句子中的不同正确位置。一个或更多个实施例使用户针对每种意图手动生成这种结构变化话语自动化，因此降低了个人助理的技能开发成本。一些实施例提供了一种界面，该界面用于在用户希望产生其表达可变性的话语中输入用户指定的部分内容。在一个实施例中，通过将内容的一部分与话语的其他部分交换来产生话语释义的新结构。可以生成内容的每个部分的不同表达，并提供话语中详细内容的重述以生成更多的释义。在一个实施例中，还提供了生成的结构变化释义的排名。来自处理的输出可以直接用于训练现有的nlu引擎。
图1示出了架构系统100的功能框图，该架构系统100可以用于使用电子装置120(例如，移动电话装置、电视(tv)系统、相机、便携式摄像机、具有音视频功能的装置、平板电脑、平板装置、可穿戴装置、智能电器、智能相框、智能照明等)的pa，例如
在一个实施例中，音频输出123、显示器121、输入机构124、通信电路125和麦克风122所采用的所有应用可以由控制电路126互连和管理。在一个示例中，能够将音乐传输到其他调谐装置的手持音乐播放器可以集成到电子装置120中。
在一个实施例中，音频输出123可以包括用于向电子装置120的用户提供音频的任何合适的音频组件。例如，音频输出123可以包括内置在电子装置120中的一个或更多个扬声器(例如，单声道或立体声扬声器)。在一些实施例中，音频输出123可以包括远程连接到电子装置120的音频组件。例如，音频输出123可以包括可以通过有线(例如，通过插口连接到电子装置120)或无线(例如，
在一个实施例中，显示器121可以包括用于提供用户可见的显示器的任何合适的屏幕或投影系统。例如，显示器121可以包括被集成在电子装置120中的屏幕(例如，液晶显示器(lcd)屏幕、发光二极管(led)屏幕、有机led(oled)屏幕等)。作为另一个示例，显示器121可以包括可移动显示器或投影系统，用于在远离电子装置120(例如，视频投影仪)的表面上提供内容的显示。显示器121可以操作为在控制电路126的指导下显示内容(例如，关于通信操作的信息或关于可用媒体选择的信息)。
在一个实施例中，输入机构124可以是用于向电子装置120提供用户输入或指令的任何合适的机构或用户界面。输入机构124可以采用多种形式，例如，按钮、键盘、调谐钮、点击式转盘、鼠标、视觉指示器、遥控器、一个或更多个传感器(例如，相机或视觉传感器、光学传感器、接近传感器等)或触摸屏。输入机构124可以包括多触摸屏。
在一个实施例中，通信电路125可以是操作为连接到通信网络并将通信操作和媒体从电子装置120发送到通信网络内的其他装置的任何合适的通信电路。通信电路125可以操作为使用任何合适的通信协议与通信网络结合，通信协议例如为wi-fi(例如，ieee802.11协议)、
在一些实施例中，通信电路125可以操作为使用任何合适的通信协议来创建通信网络。例如，通信电路125可以使用短距离通信协议来创建短距离通信网络以连接到其他通信装置。例如，通信电路125可以操作为使用
在一个实施例中，控制电路126可以操作为控制电子装置120的操作和性能。控制电路126可以包括例如处理器、(例如，用于向电子装置120的其他组件发送指令的)总线、存储器、存储装置、或用于控制电子装置120的操作的任何其他合适的组件。在一些实施例中，处理器可以驱动显示器并处理从用户界面接收的输入。存储器和存储装置可以包括例如高速缓存、闪存、只读存储器(rom)和/或随机存取存储器(ram)/dram。在一些实施例中，存储器可以专用于存储(例如，用于诸如操作系统、用户界面功能和处理器功能的装置应用的)固件。在一些实施例中，存储器可以操作为存储与电子装置120与其执行通信操作的其他装置有关的信息(例如，保存与通信操作有关的联系人信息或存储与用户选择的不同媒体类型和媒体项目有关的信息)。
在一个实施例中，控制电路126可以操作为执行在电子装置120上实现的一个或更多个应用的操作。可以实现任何合适数量或类型的应用。尽管下面的讨论将列举不同的应用，但是应该理解，这些应用的一些或所有可以组合成一个或更多个应用。例如，电子装置120可以包括应用1-n127，其包括但不限于：自动语音识别(asr)应用、光学字符读取器(ocr)应用、对话应用、地图应用、媒体应用(例如quicktime、mobilemusic应用或mobilevideo应用)、社交网络应用(例如
在一些实施例中，电子装置120可以包括麦克风122。例如，电子装置120可以包括麦克风122，以允许用户在通信操作期间或者作为建立通信操作的手段或作为使用物理用户接口的替代方案来发送用于应用1-n127的语音控制和导航的音频(例如，语音音频)。麦克风122可以集成在电子装置120中，或者可以远程连接到电子装置120。例如，麦克风122可以集成在有线头戴式耳机中，麦克风122可以集成在无线头戴式受话器中，麦克风122可以集成到遥控器中，等等。
在一个实施例中，相机模块128包括一个或更多个相机装置，该相机装置包括用于捕获静止和视频图像的功能、编辑功能、用于发送、共享照片/视频等的通信互操作性等。
在一个实施例中，电子装置120可以包括适合于执行通信操作的任何其他组件。例如，电子装置120可以包括电源、端口或用于连接到主机装置的接口、辅助输入机构(例如，打开/关闭(on/off)开关)或任何其他合适的组件。
在本公开中，“技能”是指pa可以理解/解释/解析与专门领域有关的命令的专门领域。例如，在“图片库技能”中，pa可以理解“显示我的最新旅行照片”之类的命令。该技能也可以称为“领域”、“域”、“类别”和其他具有等同技术含义的术语。在一些实施例中，技能可以对应于应用。“意图”是指用户想要在领域或技能内实现的特定目标。例如，在“图片库技能”中，命令“显示我的最新旅行照片”指的是“显示图片”的意图，而命令“将我的最新旅行照片发送给我的妈妈”可能对应于不同的“分享图片”的意图。pa可以确定正在被特殊技能调用命令所使用的技能，例如在主要命令之前的“打开三星购物”；或者在命令本身中提到唯一的“技能调用短语/标识符”时通过字符串匹配来确定正在被特殊技能调用命令所使用的技能，例如话语“打开三星购物并搜索galaxys8”中的短语“三星购物”。在某些情况下，也可以通过使用机器学习算法训练的被称为“领域分类器”的特殊解析器来确定“技能”。
图2示出了根据一些实施例的示例词汇和释义迁移学习。在一些实施例中，针对pa(例如，图1中的pa129)可以存在不同的领域，例如智能家居技能210、音乐技能220、图片库技能230、购物技能240、餐厅技能250和航线技能260。在一个示例中，用户说出“将电视的亮度设置为中等”。(使用智能家居技能领域210的)pa可能无法理解该话语并回答“对不起，我没有理解”。然后，用户将话语重述为“将电视的亮度设置为50％”。然后，pa学习了这个新词汇，即“中等”等于“50％”，以便下次用户重新发出同一命令“将电视的亮度设置为中等”时，pa直接理解其意图。在一些实施例中，迁移学习205将学习到的对“中等”的释义“50％”从智能家居技能领域210共享或迁移到音乐技能领域220。从而，当用户说出“将音量设置为中等”时，(使用音乐技能领域220的)pa将音量设置更改为50％并回复“更改音量设置”。也就是说，在解析音乐技能领域220中的话语“将音量设置为中等”的情况下，字“中等”被解释为字“50％”的含义或者被字“50％”代替。
在另一个示例中，(使用图片库技能领域230的)pa可能无法理解“将我的旅行照片发送给我的妈妈”的输入并回答“对不起，我没有理解”。然后将输入重述为pa可以理解的“将旅行图片发送给我的妈妈”。在一些实施例中，迁移学习206将学习到的对“照片”的释义“图片”从图片库技能领域230共享或迁移到购物技能领域240。当用户说出“显示新galaxynote8的照片”时，(使用购物技能领域240的)pa根据迁移的学习206展示照片并回答“给您”。在又一个示例中，(使用餐厅技能领域250的)pa可能无法理解“下午早些时候买些比萨回家”的输入并回答“对不起，我无法理解”。然后将输入重述为pa可以理解的“下午2点买些比萨回家”。在一些实施例中，迁移学习207将从餐厅技能领域250学习到的对“下午2点”的释义“下午早些时候”共享或迁移到航线技能领域260。
创造性的pa可以理解制造商添加的一组固定的领域/技能(称为“默认/一般技能”)中的话语。此外，在部署之后，用户可以即时将许多新技能(通常由第三方开发的)添加到pa中。这些第三方技能称为“特殊技能”。图3示出了根据一些实施例的用于个性化技能意图解析300的处理的框图。可以理解，以下描述的操作可以由电子装置120或电子装置120的至少一个处理器(例如，控制电路126、pa129等)执行。用于个性化技能意图解析300的处理包括以下内容。
参照图3，在框310中，接收自然语言输入，例如话语/输入x'(例如，使用诸如图1的pa129之类的pa)。在框320中，确定话语x'是否对应于“特殊技能”(例如，通过与存储在装置或云服务器内的技能调用短语的字符串匹配)。如果确定话语x'对应于特殊技能(即，如果话语x'包括与该特殊技能相关联的至少一个唯一的技能词)，则用于个性化技能意图解析300的处理进行到框335。在框335中，确定用于话语x'的技能是否已经被添加到pa的用户个性化解析器。也就是说，电子装置120确定个性化解析器是否可用于确定意图并执行与技能相对应的动作。
如果确定与话语x'相对应的技能已经被添加到pa的用户的个性化解析器，则用于个性化技能意图解析300的处理进行到(个人技能处理框350的)框360，在该框360中个性化技能解析器被调用。如果确定与话语x'相对应的技能未添加到pa的个性化解析器，则用于个性化技能意图解析300的处理进行到(个人技能处理框350的)框355，在框355中使用更新个人技能解析器算法添加新技能调用关键字，然后处理进行到框360。
在一些实施例中，从用于个性化技能意图解析300的处理的框360进行到框365(在框365中，确定是否从个人技能解析器360找到了技能意图)。如果确定从个人技能解析器360找到了技能意图，则用于个性化技能意图解析300的处理进行到框380(在框380中，电子装置(例如，图1的电子装置120)执行与所确定的技能意图相对应的动作)，然后处理在框390处停止。如果确定未从个人技能解析器360找到技能意图，则用于个性化技能意图解析300的处理进行到框370(在框370中，通过调用学习个性化词汇算法来执行迁移词汇处理以将新的用户特有的词汇/训练数据添加到个性化技能解析器)。因此，电子装置可以基于随后的自然语言输入来定义新的用户特有的词汇和技能意图之间的映射。然后，处理在框390处停止。
在一些实施例中，如果确定话语x'不包括特殊技能调用短语，则用于个性化技能意图解析300的处理进行到框325(在框325中，意图(与任何单个用户不相关的一般技能)解析器被调用)。然后，用于个性化技能意图解析300的处理进行到框330(在框330中，确定是否找到了意图)。如果找到了意图，则用于个性化技能意图解析300的处理进行到框340(在框340中，电子装置(例如，图1的电子装置120)执行相应的动作)。如果在框330中未找到意图，则用于个性化技能意图解析300的处理在框390处停止。
pa中的每个“技能”都有一个相关联的训练数据集，我们称为“技能训练数据”。图4示出了根据一些实施例的用于更新个性化技能解析器框355的处理的框图。可以理解，以下描述的操作可以由电子装置120或电子装置120的至少一个处理器(例如，控制电路126、pa129等)执行。在框410中，一种新的定制技能(在320中确定的特殊技能)被输入到框420中并将其添加到用户正在使用的技能集s中。在框430中，用于更新个性化技能解析器的处理通过合并(合并仅是指构造包含来自集合s中的每个技能的技能训练集的话语的组合训练数据集)针对集合s中的每个技能的“技能训练集”来构建“组合技能训练集”t。在框440中，构造“用户特定的训练数据”u(由用户使用学习到的个性化词汇算法添加的)。例如，在图2中，当用户提供释义的话语“将电视的亮度设置为50％”205时，该话语被添加到“用户特有训练数据”u。在框450中，“个性化技能解析器”是使用“组合技能训练数据”t和“用户特有训练数据”u而训练的。
图5a示出了根据一些实施例的用于迁移个性化词汇处理框370的框图。可以理解，以下描述的操作可以由电子装置120或电子装置120的至少一个处理器(例如，控制电路126、pa129等)执行。在框510中，在个人技能解析器360中对话语x的意图解析失败(图3)(即，个人技能解析器360无法解析话语x)。在框520中，确定是否学习新词汇(例如，提示/询问用户他/她是否希望pa学会新的个人词汇)。如果确定不希望学习新词汇，则迁移个性化词汇处理框370进行到框570并停止(例如，用户对提示/查询回答“否”)。如果确定期望学习新词汇(例如，用户对提示/查询回答“是”)，则迁移个性化词汇处理框370进行到框530(在框530中，接收到x的释义话语y)。例如，在图2中，迁移学习205显示原始话语x为“将电视的亮度设置为中等”，而用户提供的释义话语y为“将电视的亮度设置为50％”。提示用户向x中的任何已标识出的词汇表外的字(例如，未知字)提供释义话语y。例如，当提示用户输入释义时，字“中等”被突出显示为词汇表外的字。在框535中，处理检查是否可以使用个人技能解析器360将y正确地解析为意图i(y)。如果不是，则处理声明失败，并且进行到框570并停止。否则，处理进行到个人技能解析器再训练处理540以进行到框550并将x和意图i(y)添加到“用户特有训练数据”u。在框560中，使用“组合技能训练数据”t和“用户特有训练数据”u来再训练个人技能解析器360。框560中的迁移个性化词汇处理继续进行以在用户正在使用的所有个性化技能s中迁移学习新的个性化词汇。也就是说，将新的个性化词汇应用于所有个性化技能s。在实施例中，可以对所有个性化技能s进行使用新的个性化词汇的训练。在另一个实施例中，关于新的个性化词汇的信息被添加到所有个性化技能s。然后，处理进行到框570并停止。
图5b示出了根据一些实施例的用于迁移个性化词汇处理框370的另一框图。可以理解，以下描述的操作可以由电子装置120或电子装置120的至少一个处理器(例如，控制电路126、pa129等)执行。在框545中，处理确定对应于话语y的技能s。在框546中，生成还包含用户提供的释义y的技能s内的x的释义的扩展集合p(x)。在框551中，对于p(x)中的每个释义z，处理将{z,意图(y)}添加到用户特有训练集u中。迁移个性化词汇处理框370进行到框560(在框560中，对个人技能解析器进行再训练，并且对所有被用户使用的个性化技能s迁移学习新的个性化词汇)。然后，处理进行到框570并停止。
图6示出了根据一些实施例的用于分段重述和交换处理600的框图。一些实施例生成结构变化释义，这意味着生成的释义就输入话语的细节结构而言具有不同的可变性。获得/接收自然语言话语610(例如，通过诸如图1的pa129之类的pa)并将其输入到框620中以进行话语分段。在框620中，话语分段生成输入话语610的片段并识别话语中每个片段的从属性。这里的从属性代表主要片段和从属片段之间的关系，其中组成部分的主要片段是较大组成部分的中心组织词(例如，名词短语中的主要名词或动词短语中的动词)，并且组成部分中的其余字要么直接或间接依赖于其主要片段。在框630中，片段重述和交换包括生成每个片段的重述并基于它们的从属性来交换片段。在框640中，生成的释义排名包括基于语言模型重述和交换后的释义的排名。框640的结果在框650中被输出为排名后的释义。然后，可以在迁移个性化词汇处理期间，将这些排名后的释义添加到用户特有训练集中，如框551所示。
图7示出了根据一些实施例的话语分段处理框620(图6)的框图。在一些实施例中，框620的话语分段处理具有以下输入：用户话语610和概率性上下文无关文法(pcfg)解析器710。在一个实施例中，pcfg解析器710计算出句子的语法结构，包括哪些词组作为片段以及片段之间的从属性。框620的话语分段处理使用pcfg解析器710生成输入话语610的解析树并识别出话语610的各个部分之间的从属关系。例如，其识别动词720、宾语730和附加状语740。根据识别出的动词720和宾语730，对话语610进行分段以生成输入话语610的主要片段(包括动词短语)750；并且附加状语740被分段以生成输入话语610的释义760(释义1-n)。
图8示出了根据一些实施例的话语分段800的示例。在该示例中，存在三个片段，包括主要片段810(“deliversomepizza”)和两个附加状语820(“tomyhome”840和“bynoon”850)。话语800包括动词835(“deliver”830)和宾语836“somepizza”。话语800用于描述一些实施例如何提供对如图10和图11所示的分段和重述的使用。
图9示出了根据一些实施例的用于分段重述和交换框630(图6)的处理的框图。在一些实施例中，分段、重述和交换处理包括框910的片段连接和框920的连接片段的释义的生成。对于框910的片段连接，输入包括一个或更多个动词短语和附加状语的输入话语的片段。框910的片段连接通过将每个动词短语与一个附加状语连接来生成重述形式，即非主要片段。对于框920的连接片段的释义的生成，一些实施例可以使用任何释义生成算法来重述非主要片段，并且使用任何释义生成算法来重述主要片段。对于附加状语交换，一些实施例对在框910中生成的片段进行置换以生成交换后的释义的列表。如果一组片段依赖于同一片段，则它们将在彼此之间交换以生成交换后的释义的列表。
图10示出了根据一些实施例的重述片段的示例。对于该示例，输入话语1010是“deliversomepizzatomyhomebynoon”。示例非主要片段1020是：“deliversomepizzatomyhome”和“deliversomepizzabynoon”，其中带下划线的词指的是非主要片段。主要片段1030是：“deliversomepizza”。对非主要片段1025进行重述处理的示例结果导致以下重述：“deliversomepizzaforhome”，“deliversomepizzabackhome”，“deliversomepizzatobringhome”，……，“deliversomepizzabeforenoon”，“deliversomepizzaatnoon”和“deliversomepizzaaroundnoon”……，其中带下划线的部分是重述后的非主要片段。对于主要片段1030的重述，重述的主要片段1035的示例是：“getmesomepizza”，“buyapizza”和“iwantapieceofpizza”……。片段的重述是由现有的释义算法生成的。
图11示出了根据一些实施例的重述片段1110和根据重述片段的组合释义1120的示例。重述片段用于替换话语中的原始片段以生成释义列表。在该示例中，重述片段1110是：“getmesomepizza”，“buyapizza”和“iwantsomepizza”……；“forhome”，“backhome”，以及“tobringhome”；和“beforenoon”，“atnoon”和“aroundnoon”……。根据重述片段的组合释义1120是：“getmesomepizzabackhomebynoon”，“bynoongetmesomepizzaandhome”，“iwantapizzabeforenoonbackhome”，“beforenooniwantapizzabackhome”，“tohomegetmesomepizzavianoon”，“buyapizzaforhomebeforenoon”，“forhomebuysomepizzabeforenoon”，“aroundnoonbuyapizzatohome”，“buyapizzabynoonbackhome”，以及“getmesomepizzabynoontohome”……。
图12示出了根据一些实施例的用于框640(图6)的交换后的释义的排名的框图。在一些实施例中，框640包括组合的释义排名，其将所生成的交换和重述的释义1220和语言模型1210作为输入。语言模型1210用于基于来自语言模型1210的似然性对每个生成的交换和重述的释义进行评分。在一些实施例中，在框1230中，提取重述的片段的词典中的片段的每个元组(tuple)的处理，使用语言模型1210以对每个置换后的元组的组合进行评分，在所有组合中选择最低的分数，将此分数标记为所选元组的分数，并通过对每个组合元祖的分数进行排名来得出所有交换后的释义的总体排名(排名后的释义650)。
图13示出了根据一些实施例的排名后的释义的示例。在“deliversomepizzatomyhomebynoon”的排名释义的示例1310中，排名最高的释义1320(从最高的开始)包括：“getmesomepizzabackhomebynoon”，“buyapizzaforhomebeforenoon”，“iwantapizzabeforenoonbackhome”，“beforenooniwantapizzabackhome”，“aroundnoonbuyapizzatohome”，“getmesomepizzabynoontohome”。低排名释义1330包括(从高到低)：“bynoongetmesomepizzaandhome”，“forhomebuysomepizzabeforenoon”，“tohomegetmesomepizzavianoon”，以及“buyapizzabynoonbackhome”。
图14a和图14b示出了根据一些实施例的重述和交换的话语的示例以及排名的释义的输出。对于“deliversomepizzatomyhomebynoon”的示例输入话语1410，动作术语1420为“deliver”，三个片段1430是：“deliversomepizza”，“tomyhome”和“bynoon”，而主要片段1440是“deliversomepizza”。在一些示例实施例中，短语的第一替换1450是对非主要片段的重述，其包括用“forhome”、“backhome”以及“tobringhome”替换“tomyhome”，以及用“beforenoon”、“atnoon”以及“aroundnoon”替换“bynoon”。
动作术语(“deliversomepizza”)的第二替换短语1460包括用“getmesomepizza”，“buyapizza”，“iwantsomepizza”等来重述主要片段。在一些实施例中，该示例重述和交换的话语(通过组合第一替换和第二替换)1470包括：“getmesomepizzabackhomebynoon”，“bynoongetmesomepizzaandhome”，“iwantapizzabeforenoonbackhome”，“beforenooniwantapizzabackhome”，“tohomegetmesomepizzavianoon”，“buyapizzaforhomebeforenoon”，“forhomebuysomepizzabeforenoon”，“aroundnoonbuyapizzatohome”，“buyapizzabynoonbackhome”和“getmesomepizzabynoontohome”等。
排名释义的最终输出1480可以包括高排名结果1490：“getmesomepizzabackhomebynoon”，“buyapizzaforhomebeforenoon”，“iwantapizzabeforenoonbackhome”，“beforenooniwantapizzabackhome”，“aroundnoonbuyapizzatohome”和“getmesomepizzabynoontohome”。排名释义的最终输出1480可以包括高排名结果1495：“bynoongetmesomepizzaandhome”，“forhomebuysomepizzabeforenoon”，“tohomegetmesomepizzavianoon”，“buyapizzabynoonbackhome”。
图15示出了根据一些实施例的用于生成结构变化释义的过程1500的框图。在框1510中，过程1500通过电子装置(例如，图1的电子装置120)基于来自第一nl输入的关键字确定技能。在框1520中，过程1500在成功确定技能之后，将第一nl输入发送到定制技能解析器(例如，图3的个人技能解析器360)以确定技能意图。在一些实施例中，在过程1500中，基于定制训练数据集和多个技能训练数据集的组合来训练定制技能解析器，并且多个技能训练数据集中的每个技能训练数据集包括特定于技能集中的独特技能的数据。在框1530中，在未成功确定技能的情况下，过程1500将第一nl输入发送到通用解析器(例如，图3的意图解析器325)，以确定第一nl输入的一般意图。在框1540中，在成功确定技能意图之后，过程1500将技能添加到技能集中。在框1550中，在未成功确定技能意图时，过程1500提示第二nl输入。在过程1500中，第二nl输入是第一nl输入的释义。
在一些实施例中，过程1500可以包括：将第二nl输入发送到定制技能解析器，以确定技能意图；基于第一nl输入和技能意图来更新定制训练数据集；以及基于多个定制技能训练数据集的组合和定制训练数据集两者来训练定制技能解析器。
在一些实施例中，过程1500可以包括从第一nl输入生成片段。在过程1500中，片段可以包括主要片段和一个或更多个非主要片段。过程1500可以进一步包括：根据片段生成多个重述，并且基于片段的从属性来交换片段以生成交换的重述。在一些实施例中，过程1500可以包括基于输入语言模型对多个重述和交换的重述进行排名。
在一些实施例中，在过程1500中，生成片段可以包括：生成第一nl输入和解析器的解析树，识别第一nl输入的各部分之间的从属关系，识别第一nl输入的细节，其中该细节至少包括一个动词、宾语和一个或更多个附加状语，基于至少一个动词和宾语生成第一nl输入的主要片段，并基于一个或更多个附加状语生成多个释义。
图16是示出包括实现一个或更多个实施例的计算系统的信息处理系统的高级框图。系统1600包括一个或更多个处理器1611(例如，asic、cpu等)，并且可以进一步包括电子显示装置1612(用于显示图形、文本和其他数据)、主存储器1613(例如，随机访问存储器(ram)、高速缓存装置等)、存储装置1614(例如硬盘驱动器)、可移动存储装置1615(例如可移动存储驱动器、可移动存储器、磁带驱动器、光盘驱动器、存储有计算机软件和/或数据的计算机可读介质)、用户界面装置1616(例如键盘、触摸屏、小键盘、定点装置)和通信接口1617(例如调制解调器、无线收发器(例如wi-fi、蜂窝网络)、网络接口(例如以太网卡)、通信端口或pcmcia插槽和卡)。
通信接口1617允许通过互联网1650、移动电子装置1651、服务器1652、网络1653等在计算机系统和外部装置之间传输软件和数据。系统1600还包括通信基础设施1618(例如，通信总线、交叉条或网络)，其中前述装置1617通过1617连接到该通信基础设施。
经由通信接口1617传送的信息可以是信号的形式，例如电子信号、电磁信号、光学信号或能够由通信接口1617经由携带信号的通信链路接收的其他信号，并且可以使用电线或电缆、光纤、电话线、蜂窝电话链路、射频(rf)链路和/或其他通信通道来实现。
在移动无线装置(例如，移动电话、平板电脑、可穿戴装置等)中的一个或更多个实施例的一种实现中，系统1600还包括图像捕获装置1620，例如相机128(图1)、音频捕获装置1619，例如麦克风122(图1)。系统1600还可以包括应用处理或处理器，例如mms1621、sms1622、电子邮件1623、社交网络接口(sni)1624、音频/视频(av)播放器1625、网络浏览器1626、图像捕获1627等。
在一个实施例中，系统1600包括个人意图学习处理1630，其可以实现类似于关于个人意图学习应用129(图1)所描述的处理，并且用于以上关于图5-图9所描述的处理。在一个实施例中，个人意图学习处理1630和操作系统1629可以被实现为驻留在系统1600的存储器中的可执行代码。在另一实施例中，个人意图学习处理1630可以以硬件、固件等形式来提供。
在一个实施例中，主存储器1613、存储装置1614和可移动存储装置1615可以以各自单独地或以任何组合的形式存储可以由一个或更多个处理器1611执行的用于上述实施例的指令。
如本领域技术人员所知道的，根据上述架构，上述示例架构可以以多种方式实现，例如由处理器执行的程序指令、软件模块、微代码、计算机可读介质上的计算机程序产品、模拟/逻辑电路、专用集成电路、固件、消费电子装置、av装置、无线/有线发射器、无线/有线接收器、网络、多媒体装置等。此外，所述架构的实施例可以采取完全硬件实施例、完全软件实施例或包含硬件和软件元素两者的形式。
已经参考根据一个或更多个实施例的方法、设备(系统)和计算机程序产品的流程图和/或框图描述了一个或更多个实施例。可以通过计算机程序指令来实现这样的图示/图表的每个框或其组合。计算机程序指令在被提供给处理器时，产生机器，使得经由处理器执行的指令创建用于实现流程图和/或框图中指定的功能/操作的装置。流程图/框图中的每个框可以表示实现一个或更多个实施例的硬件和/或软件模块或逻辑。在替代实施方式中，框中指出的功能可以不按图中指出的顺序发生或可以同时发生。
术语“计算机程序介质”、“计算机可用介质”、“计算机可读介质”和“计算机程序产品”通常用于指代诸如主存储器、辅助存储器、可移动存储驱动器、安装在硬盘驱动器上的硬盘之类的介质。这些计算机程序产品是用于向计算机系统提供软件的装置。该计算机可读介质允许计算机系统从该计算机可读介质读取数据、指令、消息或消息包以及其他计算机可读信息。例如，计算机可读介质可以包括非易失性存储器，诸如软盘、rom、闪存、磁盘驱动器存储器、cd-rom和其他永久性存储器。例如，对于在计算机系统之间传输信息(例如数据和计算机指令)是有用的。可以将计算机程序指令存储在计算机可读介质中，该计算机可读介质可以指导计算机、其他可编程数据处理设备或其他装置以特定方式运行，使得存储在计算机可读介质中的指令产生包括实现流程图和/或框图的一个框或多个框中指定的功能/动作的指令的产品。
可以将表示本文的框图和/或流程图的计算机程序指令加载到计算机、可编程数据处理设备或处理装置上，以使在其上执行的一系列操作产生计算机实现的过程。计算机程序(即计算机控制逻辑)存储在主存储器和/或辅助存储器中。也可以经由通信接口来接收计算机程序。这样的计算机程序在被执行时使计算机系统能够执行本文所讨论的实施例的特征。特别地，计算机程序在被执行时使处理器和/或多核处理器能够执行计算机系统的特征。这样的计算机程序代表计算机系统的控制器。一种计算机程序产品，包括有形存储介质，该有形存储介质可被计算机系统读取，并存储由计算机系统执行以执行一个或更多个实施例的方法的指令。
尽管已经参考实施例的某些版本描述了实施例；但是，其他版本也是可能的。因此，所附权利要求书的精神和范围不应限于这里包含的优选版本的描述。
- 还没有人留言评论。精彩留言会获得点赞！