面向目标对话的表示和推理的制作方法

文档序号:6491660阅读:373来源:国知局
专利名称:面向目标对话的表示和推理的制作方法
技术领域
本发明一般涉及计算机—用户的互动,尤其涉及计算机与用户之间的可称得上对话的这种互动,这种互动是通过使用任务抽象体系结合如下方法实现的,这些方法有在不确定性情况下根据语言的和非语言的信息推定用户目标并计算应当收集用来解决该不确定性的最重要信息的方法,和在抽象体系中对是前进还是返回作出判定的方法。
背景技术
通常,计算机—用户的互动注重于用户遵守计算机特性比计算机适应用户更多。例如,非计算机互动的用户(例如人与人的互动)通常结合语言和非语言信息进行交流,而计算机—用户互动一般做不到这一点。而是用户不得不以计算机更易理解的方式,诸如有限的语音输入、键盘来的文本输入和来自鼠标的指点、移动并点击的输入等,向计算机输入信息。结果,这种给计算机—用户接口带来的不自然性妨碍了使计算机更方便应用和进一步成为日常生活中直觉部分的努力。
对话中的交谈以人类间的联络为基础,各交谈有独特的需求、目标和信息。对话通常以获取、分享或批评信息开始,并表达需要或请求服务。总的来说,在不确定性情况下收集信息和作判定在对话中是关键部分。这是在计算机—用户对话中要获得更自然的计算机—用户互动存在困难的至少部分原因。
这种难度因着对话不只是的听觉模式联络而加剧。一方的非听觉模式的其它类型信息也能向另一方表明在对话中如何应对。例如,某人的外貌、行为、空间位置和道具(即,携带品),当确定怎样进行对话时,都可加以考虑。但是,涉及计算机—用户对话互动的现有技术一般不考虑用户的非语言信息。与计算机系统的大多数互动不考虑不确定性的互动讨论和经提问或经引导信息收集以检查各种信息源而增加的附加信息询问,这种信息源包含在用自然语言理解系统自动分析对话中的各种差别、交谈中发现的单词和短语、和各种视听提示。
因此,需要改进对话式计算机—用户的互动,以提供用户与计算机之间更直觉和更自然的联络。本发明是为了上述和其它原因而提出的。
发明概述本发明涉及使用任务抽象体系进行计算机—用户的互动,该任务抽象体系将用户目标组织到用户目标会话中精密配合的一组不同等级中。在一实施例中,用计算机实现的方法在抽象体系的当前等级接收或主动询问用户目标的相关信息(即,用户立场的计算机—用户互动目的),评估并细化目标。该方法通过例如对已收集到的信息执行概率推论以对替代用户目标分配概率并执行信息值分析以询问新的信息,来确定所接收的信息是否足够。如果该接收到的信息不够,那么就从用户接收更多的信息,进行推论,再次评估信息的足够性,集中到对分配给用户目标的一个或多个超前假设的概率进行判定—分析评估上。根据对当前信息的判定—分析评估,系统能寻求获得更多信息,设定当前等级所体现精度的目标,再进入到在该层中细化的下一等级的更具体目标的分析,或能在进入下一等级分析前寻求确认用户的目标。在一实施例中,由贝叶斯(Bayes)网络确定各等级替代目标的概率。在该实施例中,具有该超前概率的目标用来作这种判定。如果最高概率的子目标超过考虑到前进的成本和收益的判定分析所确定的前进阈值时,则进入该子目标继续,即当前等级前进到下一等级,并在该新的等级再次起动信息分析和获取。
应用任务抽象体系所获得的优点在已有技术中是找不到的。把用户目标分解成几个层次可自然收敛的路径上引导对话,使其往逐渐共同理解更细节的方向收敛。多等级还考虑到建立各等级不确定性的共同点,和在进入下一等级前在具体等级上对理解或不理解进行对话。所收集的信息可包含附加于语言信息的非语言信息,诸如用户的可视信息。
本发明的实施例包含计算机执行方法、计算机可读媒体和变化实施例的计算机化系统。通过参照附图的下面的详细说明,可清楚看到本发明其它实施例、优点和各个方面。
附图概述

图1为实施本发明实施例相关的操作环境图2为按照本发明实施例能使用的典型任务抽象体系的图;图3(a)为按照本发明实施例进行信息值分析收集任务抽象体系当前信息的方法的流程图;图3(b)为本发明实施例的典型贝叶斯网络图;图4(a)为表示本发明实施例的阈值p*前进和p*猜想的图;图4(b)为表示本发明实施例的阈值p*返回的图;图5为本发明实施例的任务抽象体系各级导航的流程图;图6为本发明实施例的系统图。
本发明的详细说明在下面对本发明的详细说明中,参照构成各部分的附图,通过图示具体实施例示出本发明的可实施性。这些实施例的说明足够详细,使本领域中的普通技术能够实施本发明,但这应当理解为其它实施例可加以利用,在不脱离本发明精神或范围可作逻辑、机械、电子或其它变化。因此,下面的说明不作为限定含义,而本发明的范围只能由所附权利要求书加以限定。
随后的详细说明的某些部分利用对计算机存储器中数据位的算法和符号表示加以提供。这些算法说明和表示是数据处理领域中技术人员使用的手段,能最有效地将它们工作的实质传给该领域中的其它技术人员。这里的算法通常认为是产生所需结果的步骤的自相容序列。这些步骤是要求对物理量进行处理的步骤。虽然非必需,但这些量通常取电或磁信号,能进行存储、传送、组合、比较和其它处理。
主要为了共同应用的原因,证明将这些信号称为位、值、元素、符号、字符、项、数码等是很方便的。但是,应当记住所有这些和类似的术语与适当的物理量相关,它们只是一些加给这些物理量的标记。除非有特别说明,下面的讨论表明,应当理解为在整个本发明中,讨论使用诸如处理、计算、估算、确定或显示等应用术语,涉及计算机系统或类似计算装置的运作和处理,该计算机系统或计算装置对计算机系统的寄存器和存储器中表示为物理(电子的)量的数据进行处理并将它们变换成计算机系统存储器或寄存器或其它这种信息存储、传输或显示装置中的类似表示物理量的其它数据。
操作环境参见图1,示出了与本发明实施例可实施相关的硬件和操作环境的图。图1的描述提供对本发明可实施相关的适当的计算机硬件和适当的计算环境进行说明。虽然不要求,但本发明是按照计算机可执行指令的总的前后文关系进行描述的,这些指令可以是如由个人计算机等执行的程序模块。通常,程序模块包含例行程序、程序、目标、构件、数据结构等,它们执行特定任务或实现特定的抽象数据类型。
而且,本领域中技术人员会看到本发明可用其它计算机系统配置来实施,包括手持装置、多处理器系统、基于微处理器或可编程的客户电子装置、网络PC、微计算机、主计算机等。本发明还可在分布式计算环境实施,其中任务由通过通信网络链接的远端处理装置执行。在分布式计算环境中,程序模块可位于本地和远端存储装置两者中。
图1实施本发明的典型硬件和操作环境包含以计算机20形式出现的通用计算装置,它包含处理单元21、系统存储器22和系统总线23,该总线23工作时耦连包含系统存储器的各种系统构件到处理单元21。可以只用一个或可用多个处理单元21,使计算机20的处理器包含单个中央处理单元(CPU),或通常称为并行处理环境的多个处理单元。计算机20可以是传统计算机、分布式计算机或任何其它类型的计算机,这一点本发明没有限制。
系统总线23可以是包含存储总线或存储控制器、外围总线和使用各种总线结构之一的本地总线的几种类型的任一种。系统存储器也可以简称为存储器,并包含只读存储器(ROM)24和随机存取存储器(RAM)25。包含基本例行程序帮助在计算机20的构件间传输信息的基本输入/输出系统(BIOS)26,例如在起动期间存储在ROM24中。计算机20进一步包含读写硬盘(未图示)用的硬盘驱动器27、读写可拆离的磁盘29的磁盘驱动器28和读写可拆离的如CD光盘31或其它光媒体用的光盘驱动器30。
硬盘驱动器27、磁盘驱动器28和光盘驱动器30分别通过硬盘驱动接口32、磁盘驱动接口33和光盘驱动接口34连接到系统总线23。这些驱动器和它们相联的计算机可读媒体向计算机20提供非易失性存储的计算机可读指令、数据结构、程序模块和其它数据。本领域中的技术人员应当理解,任何类型的能存储计算机可访问数据的计算机可读媒体都可在示例操作环境中使用,这些媒体可以是诸如盒式磁带、快擦除存储卡、数字视频盘、伯努利卡带(Bernoulli cartridge)、随机存取存储器(RAM)、只读存储器(ROM)等。
一些程序模块,包括操作系统35、一个或多个应用程序36、其它程序模块37和程序数据38等,可存储在硬盘、磁盘29、光盘31、ROM24或RAM25。用户通过如键盘40和指示装置42将命令和信息输入个人计算机20。其它输入装置(未图示)可以包含微音器、操纵杆、游戏板(game pad)、卫星天线、扫描器等。这些和其它输入装置常常通过与系统总线耦连的串行接口46连接到处理单元21,但也可用其它接口、如并行口、游戏口或通用串行总线(USB)等连接。监视器47或其它类型的显示器也可经接口,如视频适配器48连接到系统总线23。除了监视器外,计算机一般包含如扬声器和打印机等那样的其它外围输出装置(未图示)。
计算机20可使用逻辑连接到一个或多个远端计算机(如远端计算机49)在网络化环境中工作。这些逻辑连接借助耦连到计算机20(或部分)的通信装置来实现;本发明不限定特定类型的通信装置。远端计算机49可以是另一计算机、服务器、路由器、网络PC、客户机、同级装置或其它公用网络节点,通常包含上面描述的与计算机20相关的许多或全部构件,即便图1中只示出存储器存储装置50。图1描述的逻辑连接包含局域网(LAN)51和广域网(WAN)52。这样的网络环境常见于办公用网络、企业广域计算机网、企业内部互联网和国内网,它们是所有类型的网络。
当用在LAN网络环境中时,计算机20经网络接口或适配器53(是一种通信装置)连接到局域网51。当用在WAN网络环境中时,计算机20通常包含调制解调器54(一种通信装置)或任何其它类型的通信装置,用于在如国内网的广域网52建立通信。调制解调器54可以是内部的或外部的,经串行口接口46连接系统总线23。在网络化环境中,与个人计算机20或其部分相关描述的程序模块可存储在远端存储器存储装置中。应当看到,所示网络连接是示例性的,也可使用其它手段和通信装置建立计算机间的通信链路。
理解用户目标用任务抽象体系在本详细说明部分中,描述使用任务抽象体系的总体概念,该体系精确表示理解用户目标中的不同等级,提供给对话式计算机—用户的互动。在本发明的至少一些实施例中,任务抽象体系在获得改进的计算机—用户互动中发挥重要作用。

背景技术
部分中间接提到的那样,交谈的重要方面是对正在交流的信息或目标特性进行推理和判定。信息收集和根据不确定性作判定在对话中起关键作用。在用公式简洁表述区分问题用于澄清关键的不确定性和将交谈引入交换信息或提问题的适当详细等级方面,对不确定性的管理始终很重要。
要描述的任务抽象体系在本发明的至少某些实施例中用于计算机与用户对话时的不确定性管理,特别(而不限定)在联合活动的情况下。联合活动是语言心理学使用的术语,描述行为,该行为面向任务的社会事件受参与方、设置、尤其对各方考虑合理的贡献种类的制约。联合活动中的参与者假定它们分享一组活动信念,包括假定的其它参与方角色和的责职。例如,传达员的范畴是一种活动,其中,传达员用其它方希望该传达员熟悉的任务帮助其它方。也即,人们假定传达员的主要任务是以提示、合作的方式帮助它们获得它们的活动定义的目标。
现在参见图2,这里示出本发明实施例能使用的表示任务抽象体系的图。任务抽象体系200提供分解,将理解用户目标的问题分解为连续细化等级的诊断。该分解最终提供改进的计算机—用户互动。
任务抽象体系200如图2所示分成若干等级0...K,例如,第零级202。各级有一个或多个目标,例如,第1级的目标204和206。第0级202包含最抽象的目标,表明用户在体系200建模的计算机—用户互动环境中具有目标。一级中各目标在下一级中连续细化成两个或多个目标,直到目标在某一级目标不能再细化为止。
于是,通过在起始抽象级对用户目标进行推理,任务抽象体系200中的导航,提供一方式,用该方式寻找相对于进行导航的当前抽象级的适当信息,使这些级受到向下方式的导航时,将按照与人与人对话一致的方式寻找与用户目标相关的更具体的信息。在给定级收集的信息表示在图2中环形箭头,如级2的环形箭头208。
例如,在传达员范畴内,在大型合作校园中的大楼的传达员的联络中,第1级目标(即,级1的目标1...n)可包含需要调用短程运输工具去校园的另一部分;需要进入大楼;需要获取某些东西;需要丢掉某些东西;需要方向指示;要求回答信息询问;需要特定计划的帮助;要求经公共交通工具来往用的票证;要求发传真;要求张贴海报;要求除去海报。在本发明一实施例中,采用提供完全的目标组、另一目标、其它目标指出该列表中认为不清楚的目标。
目标的下一级,即级2,表示将高级目标细化到更具体的需要。例如,级2细化目标需要短程运输工具运行到校园的另一部分,在传达员范畴的背景下,这种细化包含到主校园的某个人处的短程运输工具;到辅助校园的某个人处的短程运输工具;到外部(离开场区)的某个人处的短程运输工具;到主校园的一组人位置处的短程运输工具;到辅助校园的某个人处的短程运输工具;到外部(离开场区)的一组人位置处的短程运输工具。下一目标级,即级3,可考虑对特定情况用短程运输工具的类型的附加说明,这种特定情况例如有用快车运送残疾人、运送高级管理人员等。
按照已说明的那样,将用户目标分解成几个细化的等级允许在自然收敛路径上引导对话,使其往往逐暂共同理解更多细节的方向收敛。多级还考虑建立各级不确定性相关的共同点,和在进到下一级前特定级对对理解或不理解进行对话。作为用户目标的自然对话部分,用户能被引向在某个级上隐性或显性确认或不确认错误理解,在进入下一级前减小不确定性。分解也将推定集中到各级的更可管理的模块。
随后的详细说明部分中将说明,在本发明的至少某些实施例中的交谈途径将集中到计算机—用户协作,通过提问最富信息的问题或在那级上收集最有价值的非语言证据和尽力确认那级上的目标,澄清各级的目标。在当前级上向讲话者的目标提供确认或高置信,系统能将它的证据传送到作分析的下一个更细化的级,并在那级上尽力细化它的置信,直到达到用户目标的结论。
细化目标(构成任务抽象体系)在大部分,描述本发明至少某些实施例提供构成任务抽象体系的方法,即目标被细化成其它目标的方法。但请注意,本发明不限定于此部分描述的方法。按照本领域中技术人员的理解,贝叶斯网络能将相关的多类信息融合在一起。这允许推定讲话(即,声音或语言信息)和如视频信息的非声音信息。贝叶斯网络产生各推定目标、给定输入信息及任何更抽象目标(如果有的话)的概率。利用概率使计算机能根据信息计算值导出问题(下文将说明)。
因此,在本发明一实施例中,贝叶斯网络构成任务层的不同等级。希望该网络考虑语言的和非语言的观察。非语言观察提供附加前后文信息,例如用户的外貌、位置、和运动轨迹的可视特征(例如,用于传达员的服务范畴,该传达员在大楼前台接待人们、处理问题和解决需求)。
语言证据(观察)本领域中技术人员能理解,在本发明的至少几个实施例中获得自然计算机—用户互动的一个方面是计算机访问用户的语言观察。用户的说话在句法、长度和特征方面可变化。因此,在详细描述的这部分,描述了按照本发明一实施例访问和处理语言证据。
首先,在需要的计算机—用户互动的环境(例如,已经描述的传达员范畴)中识别说话中唤起的词汇和短语组。这些词汇和短语作为基元是本领域中公知的。虽然本发明不要求,但自动的自然语言处理(NLP)可用来引入高级语言抽象,如句法的和语义的特征,作为贝叶斯模块中的观察变量。NLP是本领域中已知的。在一实施例中,所用的NLP是称为NLPwin的系统,由微软研究自然语言处理组(Microsoft Research Natural Language Processing Group)开发的。但本发明不限于此。
在“关于组合符号和统计实现语言的方法的研究集(Proceeding of theWorkshop on Combining Symbolic and Statistical Approaches toLanguage)”(1994),96-103页中,S.D.Richardson的“将统计处理用到基于规则的自然语言的分析程序(parser)”描述了NLPwin。具体而言,NLPwin建立在下面文章描述的系统基础上,即,《自然语言处理技术手册》(MarcelDekker 1999)(R.Dale等编者)(ISBN 0-8247-9000-6)中的George E.Heidorn的“智能写作助理器(Intelligent Writing Assistance)”;由Karen Jensen、George E.Heidorn和Stephen D.Richardson编辑的《自然语言处理PLNLP方法,由Kluwer Academic Publishers,Boston,1993)(ISBN 0792392795);S.D.Richardson、Lucy Vanderwende、William Dolan的用于自然语言分析的基于字典和基于采样的组合方法(MSR-TR-93-08,1993年6月);和S.D.Richardson、William Dolan、Lucy Vanderwende、MindNet的“获得和构成文本的语义信息”(MSR-TR-98-23,1998年5月29日)后二篇作进一步阐述。
在NLPwin中,系统通过按照5阶段分析处理说话产生句法、逻辑和语义提示以及高级语言抽象,它们能用来在目标间进行区分。在第1阶段,系统将输入的说话分段成各个权标,用语形结构分解言词并在在线字典中查找它们,字典包含为词组(multi-word)专门编制的源。在第2阶段,称为句法勾画,系统将说话解析成基于语法规则的句子组成单元。在第3阶段,称为语句像,系统利用从在线字典定义导出的编译分析精选的语义关系解决附属模糊性。前3个阶段提供带有句法提示的Bayesin模块。在第4阶段,系统解决首语重复基准并构筑说话的逻辑形式,通过对功能作用分配句子构件在语义曲线图中表示谓词变量关系,这些功能作用例如有深层主语和深层宾语。最后,NLPwin根据含义表确定说话中词的最适当的含义。
引导观察和交谈的信息值在详细说明的这部分,按照本发明实施例描述了通过信息值(VOI)(也描述为期望信息值(EVI)分析)收集信息。例如,在大部分中描述的收集信息的方法如已说明的那样,可表示为图2中环形前头208所示。即,在该部分描述的信息收集方法用来获得结合图2已描述的任务抽象体系当前级上的信息。
识别收集中最俱价值的附加观察,解决不确定性并增大客观世界中最终取得的动作值。这是判定—理论诊断(或分析)中重要的方面。信息值(VOI)分析,正如本领域中知道的那样,用于根据在任务分解层的某级上不同目标或子目标的推定概率和根据收集信息的代价以及用和不用新信息采取动作的代价和收益,识别最佳提问和观察。即,VOI考虑信息值和不确定性下观察的代价,产生估算先前未观察的一些不同证据的预期功效。为了对各个可进行观察计算VOI,期望的最佳判定功效与观察具有的各个值关联。如果进行观察,则分析对各值功效期望进行相加,并用找到不同值的概率加权。
本发明一实施例的VOI/EVI信息收集过程的方法流程图示于图3(a)。计算机执行的方法作为运行在计算机上的一个或多个程序按需要至少部分地实现,即,作为计算机的处理器从计算机可读媒体(如存储器)执行的程序。程序按需要可存储在可读设备的媒体(如软盘或CD-ROM),用于在另一计算机上分配、安装和执行。
在302,根据当前可获得信息对用户目标和子目标在任务抽象体系的当前级上确定推理。在304,如先前所述,判断获得一些先前未观察证据的预期功效以及获得该附加证据的预期代价。如果没有证据使得得到那件证据的代价小于信息的功效,则方法进到306并完成。要不然,方法进入308,经过如交谈收集最有用的信息(即,具有最大功率的证据)。在302进行另一推理,过程重复,直到收集任何附加证据件的代价大于它的功效。因此,图3(a)方法的优点是它采集最佳信息,以VOI分析为基础,使得当收集该信息的功效不大于它的获取代价时不再收集信息。
现在来描述考虑代价和收益的更公式化的途经。动作A*的直接作用值是它的期望功效,它描述为eu(A*)=maxA∑ju(Ai,Hj)p(Hj|E)
其中,u(Ai,Hj)是用户具有目标Hj时特定动作Ai的功效,p(Hj|E)是给定当前观察和背景证据组E时用户目标Hj的概率。因此,如果进行另一观察ex,那么动作A*’的新的期望功效是eu(A*’)=maxA∑ju(Ai,Hj)p(Hj|E,ex=ex,k)其中,ex可取不同的值ex,k,这取决于测试结果,因此,取观察ex的下一个值等于它的取具有这种观察的动作的期望实功效减去取没有这种观察的动作的期望功效,再减去取该观察的代价C(ex),即VOI(ex)=∑kp(ex,k|E)*[maxA∑ju(Ai,Hj)p(Hj|E,ex,k)-maxA∑ju(Ai,Hj)p(Hj|E)-C(ex).
如本领域中普通技术人员能理解的那样,精确计算VOI需要考虑所有可能的观察序列。但是,渴望的VOI,集中计算下一个最佳观察证据,总是等于有用的VOI近似值,能用在本发明的实例中。更具体地说,信息论的VOI能用来识别下一个语言和非语言的观察证据,解决任务抽象体系的当前级中的当前不确定性。因此,渴望的VOI分析用在任务抽象体系的各级中,控制提问和对访问非语言证据作决定。在估算各新的观察后,如结合图3(a)方法所描述的那样,系统更新任务层的级中不同目标或子目标的概率(即,进行推理),并重新计算VOI。
于是,在任务层的级中不断进行VOI计算,直到估算观察的期望代价超过观察的期望值和/或没有附加观察要做(未在图3(a)中描述),或直到更高级判定理论分析将系统推进到下一级,如下面部分详细描述的那样。
导航任务抽象体系中各级的导航在本详细描述部分,描述按照本发明实例在任务抽象体系各级间执行前进和后退(progression and retreat)的方法。在一实施例中,所描述的方法与图5所示流程的特定方法相关联,但本发明并不限定于此。在某些细级上对目标给定确认或强高置信,可适合进入更细化的分析级上继续执行推理、提问和确认目标。在对话的任何点,例如参与方之一可请求直接确认另一方的目标。但是,显性猜想可能是花费大的—最初对话中的低级猜想可能不自然,并传达给用户的感觉是与之对话的中介是匆忙的或简直没有考虑明显的提示。特别是,在人们对话的参与者通常理解提供证据的目标情况下,在提问目标的直接问题中会有大的代价。另外,中介可以根据备用目标的概率作隐性判定,在当前级上假设目标,随后收集信息。当用户没有给机会对判定对话时,错误猜想代价大。
给定这种背景,图5的方法提供一种任务抽象体系中各级导航的自然方式。计算机执行的方法至少部分地作为计算机上运行的一个或多个程序(即,用计算机的处理器从计算机可读媒体,如存储器执行的程序)按需要实现。程序按需要可存储在机器可读媒体上,如软盘或CD-ROM,用于配置、安装到另一计算机加以执行。
在500,方法在最顶级(级0起动。具体来说在该级的目标上起动。也就是说,当前级设置在任务层的第1级。在502,进行信息收集。即,信息收集与任务抽象体系的当前级相关,用于在计算机—用户互动的环境中评定用户目标。在502中还评定收集到信息的足够性;如果不够,则方法停留在502,收集附加的信息。502在一实施例中能由信息值分析来完成,正如前面详细说明的部分中所述。
在502接收到的信息可有多种类型;本发明对此不加限定。例如,可以是文本信息,音频信息,图象/视频信息等其它信息。通常通过与用户互动,特别是在音频信息(如,说话)的环境中进行信息的接收。于是,该方法第一用提问形式的信息(第二)提供给用户,然后等待用户的响应,这样来实现交谈。该方法安排的信息也可以是音频信息(如,讲话)、图象/视频信息(如,显示装置上的中介行为),以及其它信息。本发明对此不加限定。
正如本领域中普通技术人员能理解的那样,对给定级接收到的信息(因而与该级相关)还可与任务层的另一更细化的级相关。因此,在本发明的至少一些实施例中,对某个级接收到的信息可用于所有级,以便能产生适当的判定。
在502接收到的信息一旦确定为不够——例如,在信息值分析(VOI)的背景下,获得附加信息的期望代价大于该信息的期望功效——那么在一实施例中,在504中确定2个推理概率,虽然本发明对此不加限定,更详细的说明在下面进行。该推理概率在一实施例中使用贝叶斯网络产生。
在另一实施例中,执行近似判定分析,而不进行这里所述的完全判定分析,如本领域中普通技术人员知道的那样。这种分析顾及通过考虑一组目标的特定概率用最高概率引导动作。例如,开发一组概率阈引导动作,通过考虑进行动作,对动作前确认猜想、不确认而前进、继续收集信息和返回重访下一更高分析级的不确定性的代价和受益进行导出该概率阈。开发这种概率阈的方法类似于下面的共同待批、共同受让申请中描述的途径。该申请题为“指导消息传送和作业调度用自动服务的系统和方法(Systems and Methods for Directing AutomatedServices for Messaging and Scheduling)”(档案号No.1018.014US 1),申请号为No.09/295,146,1999年4月20日申请,正如本领域中普通技术人员知道的那样,这里通过参考加以结合。也就是说,如1999年4月20日递交申请中所述,确定概率阈的对象不是“无动作”对“动作相关的交谈”对“动作”,而是“进行动作”对“动作前确认”对“不确认而前进”对“继续收集信息”对返回重访下一更高分析级”。
504确定的推理概率通过参照图3(b)中贝叶斯网络图进行更详细的描述。请注意,正如本领域中普通技术人员知道的那样,为了图示清楚起见,图3(b)的贝叶斯网络未标明任何信息输入(即,语言或非语言的观察),而只是标明细化目标702、704和706(即,目标1…n)对相对不细化的(或更抽象的)目标700的依赖性。
也即,给定目标700和给定已评定的信息输入,则存在各目标702、704和706的推理概率ip,各目标是用户的实际目标。按照这种应用目的的定义,给定目标700的推理概率p1是目标1…n对应的推理概率ip1…ipn中的最大概率。推理概率ip1…ipn称为初始推理概率。换言之,具有抽象目标700所赋与最大似然的细化目标1…n,是具有最高对应ip的细化目标1…n。
通过参照图3(b)的贝叶斯网络也定义第2推理概率。第2推理概率是错误进入当前级而应当返回到前一级的概率。但是,在图3(b)的情况下,返回目标708是当前目标700的另一子目标。
也就是说,在图3(b)中,当前级的当前目标表示为目标700。该目标有n个子目标,如子目标702、704和706,它们全部位于任务抽象体系的下一级。目标700也有返回子目标708,它是返回到任务抽象体系的前级的目标。各子目标702、704和706具有推理概率,使得第1推理概率是具有最大似然的子目标的推理概率。于是,确定各子目标的初始推理概率,所选第1推理概率是具有最高概率的子目标的初始概率。第2推理概率是返回子目标708的推理概率。
回头看图5,在本发明一实施例中,通过贝叶斯网络实现对第1和第2推理·概率的确定,如结合图3(b)所描述的那样。接着,在506(和相继的510),第1推理概率的分析是针对两个阈前进阈和猜想阈,分别称为p*前进和p*猜想。
如果在506中确定第1推理概率大于p*前进,那么表示概率足够大,确保在508前进到抽象体系的下一级——即,具体而言,在当前级的最大似然目标(即,具有最高初始推理概率的目标)上,将体系的当前级推进到下一级。然后,方法返回到502,在该下一级收集信息。
如果第1推理概率不大于p*前进,那么方法就进到510,在这里,只是用用户来的确认确定概率是否大到确保前进到抽象体系的下一级。于是,在涉及前进到下一级的512,与用户交谈;如果确认,方法从514前进到508,前进到下一级,方法继续回到502,在该新级上收集信息。否则方法继续到516。
因此,如果第1推理概率既不大于p*前进也不大于p*猜想或者大于p*猜想但用户不确认级前进,就到达516,在516确定是否应当返回前级——如果第2推理概率大于能称为p*返回的阈,那么在518回到前级,方法返回到502,在该前级接收信息(在一实施例中,返回到前级时,提供适当的道歉或正当理由,确保对话的自然度)。否则方法回到502,在当前级接收附加信息。
下面参照图4(a)和4(b),进一步说明各种阈p*猜想、p*前进和p*返回的形成,这些图表明这些阈的内部关系。例如,在图4(a)中,映象表明,当第1推理概率从左至右增加时,进入不同的区402、404和406,这些区由p*猜想408和p*前进410分界。因此,如果推理概率小于p*猜想408,那么方法停留在当前级,因为概率位于区402。如果推理概率大于p*猜想408但小于p*前进410,那么进入与用户交谈是否进入下一级,因为概率位于区404。最后,如果推理概率大于p*前进410,那么自动进入下一级,因为概率位于区406。
同样,如图4(b)所示,映像450表明,由p*返回456分界,第2推理概率从左至右增加,进入不同区452和454。于是,如果第2推理概率小于p*返回456,那么方法停留在同一级,因为概率位于区452。如果第2推理概率大于p*返回456,那么方法回到前级,因为概率位于区454(在一实施例中,返回到前级时,提供适当的道歉或正当理由,确保对话的自然度)。本领域中普通技术人员能看到类似于图4(a),第3区能加到图4(b)用于后退到前级与用户交谈,同样,类似于图4(b),图4(a)的交谈区可移走。
各个阈p*猜想、p*前进和p*返回能由用户定义,或使用判定理论确定——即,各个阈能通过计算对上下关系敏感的代价计算确定。计算中用的代价能作成诸如用户匆忙等观察的函数,也能作成对话本身的观察函数,包含已经询问用户的问题数量等。例如,询问用户请求的一个问题开始可能付出代价小。但是,如果系统必须询问同一请求的多个问题,询问另一个问题可能比刚动作时代价大。
在下面的共同待批专利申请中描述了阈p*的一般设置和使用判定理论的具体设置,该专利申请的名称为“指导消息传送和作业调度用自动服务(DirectingAutomated Services for Messaging and Scheduling)”(档案号No.1018.014US1),申请号为No.09/295,146,1999年4月20日申请,这里通过参考加以结合。但本发明不限定于此。
图5的方法能概括为下面的描述。该方法执行代价—受益分析,根据某级中推定的目标概率,将前进的判定引导到下一个细级,或返回到前面审查的级。在该分析中,针对停留在分析的当前级继续根据VOI收集信息,考虑直接前进或询问问题的期望值,确认目标。评定不同对话结果的功效,利用计算前进的阈概率的近似判定分析寻求确认,或返回到前面访问的级。除通过考虑结果的功效进行推导外,这样的阈概率能直接评定。
具体使用3个阈,p*前进、p*猜想和p*返回。如果具有最高似然的目标概率不超过p*猜想或p*前进,则系统继续执行VOI以收集目标的附加信息。如果VOI成为不利或没有其它观察要做,则系统发出请求附加信息。如果当前级上最大似然目标超过p*前进,则系统将假定目标并转移到下一细级。如果最大似然超过p*猜想但不超过p*前进,则系统将与用户交谈确认或取消目标。在明确不确认目标之后,给那目标分配零概率,剩下可行目标的概率分布重新归一化。用于返回的p*阈用来作返回到更高细级的判定。在比级0更详细的级上目标澄清用的贝叶斯模块包含返回假设。如果所有子目标的概率减小且返回假设的似然比p*返回更大,则系统回到先前级。在这种情况下,系统对错误理解道歉,或在先前级继续VOI或如果VOI为不利则请求更多信息。
层中各级导航的更广义途径在本详细说明部分,描述层中各级导航的更广义判定分析的途径。即,在前面部分描述的层中各级导航与确定推理概率相关,并与根据那些推理概率超过或不超过某些阈而进行动作(对各级进行导航)相关。但是,如本领域中普通技术人员能理解的那样,在考虑与各结果关联的功效的情况下,这是一种称为根据不确定性计算理想动作的特定判定—分析方法。即,在前面部分的描述是现在要描述的各级导航更广义途径的特定实施例。
在更广义的途径中,首先通过例如本领域中已知的贝叶斯网络,确定体系的当前级上任务表示的所有目标的概率分布。再确定与该概率分布关联的最大期望值的动作。动作A*的直接动作值是它的期望功效,可表达为eu(A*)=maxA∑ju(Ai,Hj)p(Hj|E)其中,maxA表明用户具有目标Hj且p(Hj|E)是给定当前观察和背景证据组时E用户目标Hj的概率,则选择动作A使求和u(Ai,Hj)最大是特定动作Ai的功效。我们使用A*指具有最大期望功效的动作A,该功效通过对上式取arg maxa获得。
广义途径考虑的动作与前面部分描述的更具体的途径相同。即,确定前进到下一级、返回到前级功效和对各前进和返回交谈的各动作的期望。随后是概率分布中关联的最大期望值的动作。
另外,在附加实施例中,上面描述的判定理论途径包含所有动作,而不是仅包含各级导航。于是,判定理论途径用来在动作中进行选择得到更多隐含信息;得到更多显性信息;前进到下一级;返回到先前级;前进到有用户确认的下一级;返回到有用户确认的先前级。本领域中普通技术人员能理解,任何近似能用于判定进行的过程的任何方面,例如,使用单概率,例如本申请中别处描述的推理概率确定。因此,使用更通用的判定—理论途径选择动作,然后按其进行(实施)——该过程继续直到连续对话互动的代价超过受益,此时,可根据不确定性的最大期望功效的总目标进行某个动作。
系统在本详细描述部分,按照本发明实施例说明系统。结合图6描述该系统,图6是本发明一实施例的系统图。下面参见图6。
通用级上的判定引擎600接收用户输入602,在计算机—用户互动环境的情况下以叠代方式评定用户目标,向用户提供输出(这样使得例如选择并执行动作)。结果是评定用户目标630(在一实施例中可能是基于机构638执行的目标的动作),使该动作影响外部世界。判定引擎600对任务抽象分级体系进行导航,该体系包含一系列级,如已经描述的那样(例如,通过使用一个或多个贝叶斯网络),各级至少有先前级各目标的一个目标,以便评定用户目标。在一实施例中,判定引擎600虽然是处理器执行的来自计算机可读媒体的计算机程序,但本发明并不限定于此。
用户输入602能经若干不同机构输入到判定引擎600。例如,文本输入能通过键盘614检索;音频输入能通过微音器616检索;图像/视频信息能通过摄像机618检索;其它信息612能通过机构620检索。同样,用户输出604能由判定引擎600经若干不同机构输出。音频输出622能经扬声器626输出;图像/视频输出624能经显示装置(如监视器)628输出;其它可经其它机构636输出。但本发明并不限定于此。
根据目标630实现动作的机构638能够是利用例如扬声器626、显示装置628等输出机构或其它机构636之一的本身,但本发明并不限定于此。机构638根据由判定引擎600评定的目标630完成给外部世界632的目标。例如,在接待员范畴的情况下,在该范畴中,用户目标确定需要运输工具到另一校园,机构638可以是一种文本到讲话的引擎,经电话呼叫运输工具中心,请求运输工具。
非典型分析级在本详细说明部分中,提供非典型分析级。按照本申请中前面已描述的本发明其它实施例可使用这些非典型级。但本发明并不限定于此。
最初请注意,对上下关系敏感的功效能用于计算阈概率,信息值(VOI)能定义成诸如用户匆忙等观察或诸如用户已询问问题量等关于对话本身的观察的函数。
因此,在一实施例中,控制VOI用的专用类概率相关的代价能用于仔细考虑在细级上询问用户问题时,这些细级标记为非典型分析级。非典型分析级的一个例子是与要求运输工具运行到联合校园某地的高级目标相关联的第二级。该第二级可寻求发现某人是否需要专用类运输工具,包括需要能运输残疾人的车辆或高级管理人员用的专用运输工具。
标为非典型的级包含代表该级是不相关级的前提的特定目标状态。在大多数情况下,在该级上将用户与子目标相结合会不自然。于是,用于VOI分析的期望代价,通过考虑非典型结果是相关结果的概率,进行自动更新。给定证据的相关概率p(R/E)是分配给不相关状态的概率的补数。当相关概率增加时,询问的自然度增加,使提问惊讶程度小,因而提问代价小。
在一实施例中,提问的期望代价为相关级和不相关级的结果的代价和,再用推理概率加权,计算如下期望代价=p(R/E)代价(询问,相关)+1-p(R/E)(询问,不相关)其中,代价(询问,相关)是该级相关时对非典型情况提问的代价,代价(询问,不相关)是该级不相关时提问的代价。于是,该期望代价能用于VOI在非典型细级中显性提问(与集中于收集可视提示相比)。
结论虽然在这里示出和说明了特定的实施例,但本领域中普通技术人员将会看到,计算获得同样目的的结构可用来替代所示的特定实施例。本申请用来涵盖对本发明所作的任何改造和变化。因此,本发明将清楚地只用下面的权利要求书和其等效范围加以限定。
权利要求
1.一种计算机执行的方法,其特征在于,包含接收任务抽象分级体系的当前级相关的信息,以评定计算机—用户互动环境中的用户目标;根据判定分析途径确定所接收的信息足够性;当确定所接收的信息足够时,根据判定分析途径选择动作。
2.如权利要求1所述的计算机执行方法,其特征在于,其中,根据判定分析途径选择动作包含确定所述层的当前级上任务表示的目标的概率分布。
3.如权利要求2所述的计算机执行方法,其特征在于,其中,选择动作还包含确定概率分布的最大幅度。
4.如权利要求1所述的计算机执行方法,其特征在于,其中,根据判定分析途径选择动作包含确定推理概率;当确定推理概率超过前进阈时,将当前级推进到下一级。
5.如权利要求4所述的计算机执行方法,其特征在于,还包含继续接收当前级相关的信息直到用户目标已经评定。
6.如权利要求1所述的计算机执行方法,其特征在于,其中,级的任务抽象体分级体系至少包含一个确定相关概率和不相关概率的非典型级。
7.如权利要求1所述的计算机执行方法,其特征在于,其中,接收当前级相关信息包含接收任务抽象分级体系当前级相关信息,该任务抽象体系包含一系列级,各级至少包含先前级的至少一个目标的至少之一的各目标的至少一个目标。
8.如权利要求1所述的计算机执行方法,其特征在于,其中,接收信息包含接收信息类型组中至少一种信息类型,该信息类型组实质上包含文本信息类型;音频信息类型;图像/视频信息类型;其它信息类型。
9.如权利要求1所述的计算机执行方法,其特征在于,其中,接收信息包含与用户互动。
10.如权利要求9所述的计算机执行方法,其特征在于,其中,与用户互动包含最初向用户提供第2信息。
11.如权利要求10所述的计算机执行方法,其特征在于,其中,向用户提供第2信息包含向用户提供第2信息类型组中至少一个第2信息类型的第2信息,所述第2信息类型组实质上包含音频第2信息类型;图像/视频第2信息类型;其它第2信息类型。
12.如权利要求1所述的计算机执行方法,其特征在于,其中,确定所接收的信息足够性包含完成信息值分析。
13.如权利要求12所述的计算机执行方法,其特征在于,其中,完成信息值分析包含完成渴望信息值分析。
14.如权利要求12所述的计算机执行方法,其特征在于,其中,完成信息值分析包含确定接收附加信息的预期代价是否超过附加信息的预期收益。
15.如权利要求4所述的计算机执行方法,其特征在于,其中,确定推理概率包含确定下一级到当前级中各至少一个目标的各目标的初始推理概率;按照推理概率选择下一级到当前级中至少一个目标的具有最高推理概率的目标的初始推理概率。
16.如权利要求15所述的计算机执行方法,其特征在于,其中,确定下一级到当前级中各至少一个目标的初始推理概率包含通过使用贝叶斯网络确定下一级至当前级中各至少一个目标的初始推理概率。
17.如权利要求15所述的计算机执行方法,其特征在于,其中,将当前级推进到下一级包含推进下一级至当前级中至少一个目标的具有最高推理概率的目标。
18.如权利要求4所述的计算机执行方法,其特征在于,还包含在确定所接收的信息足够并相继在确定推理概率超过前进阈的情况下,将当前级推进到下一级;在确定推理概率超过交谈阈的情况下,与用户交谈是否进到下一级;在接收用户来的确认进到下一级的情况下,将当前级推进到下一级。
19.如权利要求4所述的计算机执行方法,其特征在于,其中,还包含在确定所接收的信息足够并相继在确定推理概率超过前进阈的情况下,将当前级推进到下一级;确定第2推理概率;和在确定第2推理概率超过返回阈的情况下,从当前级退回到先前级。
20.如权利要求19所述的计算机执行方法,其特征在于,其中,确定第2推理概率包含按照返回到先前级的目标概率确定第2推理概率。
21.如权利要求19所述的计算机执行方法,其特征在于,其中,确定第2推理概率包含利用贝叶斯网络确定第2推理概率。
22.一种计算机执行的方法,其特征在于,包含接收任务抽象分级体系的当前级相关的信息,以评定计算机—用户互动环境中的用户目标;通过完成信息值分析确定所接收的信息足够性;当确定所接收的信息足够时,确定推理概率;当确定推理概率超过前进阈时,将当前级推进到下一级;确定第2推理概率;当确定第2推理概率超过返回阈时,从当前级退回到先前级;继续接收当前级相关的信息,直到已评定用户目标。
23.如权利要求22所述的计算机执行方法,其特征在于,其中,接收当前级相关信息包含接收任务抽象分级体系当前级相关信息,该任务抽象体系包含一系列级,各级至少包含先前级的至少一个目标的至少之一的各个目标的至少一个目标。
24.如权利要求22所述的计算机执行方法,其特征在于,其中,接收信息包含与用户互动。
25.如权利要求22所述的计算机执行方法,其特征在于,其中,完成信息值分析包含确定接收附加信息的预期代价是否超过附加信息的预期收益。
26.如权利要求23所述的计算机执行方法,其特征在于,其中,确定推理概率包含利用贝叶斯网络确定下一级到当前级中各至少一个目标的初始推理概率;按照推理概率选择下一级到当前级中至少一个目标的具有最高推理概率的目标的初始推理概率。
27.如权利要求23所述的计算机执行方法,其特征在于,其中,将当前级推进到下一级包含推进到下一级至当前级中至少一个目标的具有最高推理概率的目标。
28.如权利要求22所述的计算机执行方法,其特征在于,还包含在确定所接收的信息足够并相继在确定推理概率超过前进阈的情况下,将当前级推进到下一级;在确定推理概率超过第2概率阈的情况下,与用户交谈是否进到下一级;在接收用户来的确认进到下一级的情况下,将当前级推进到下一级。
29.如权利要求22所述的计算机执行方法,其特征在于,其中,确定第2推理概率包含按照返回到先前级的目标概率利用贝叶斯网络确定第2推理概率。
30.一种已存储指令用于由处理器执行以完成一种方法的机器可读媒体,其特征在于,该方法包含接收任务抽象分级体系的当前级相关的信息,以评定计算机—用户互动环境文中的用户目标;确定所接收信息的足够性;当确定所接收的信息足够时,确定推理概率;当确定推理概率超过前进阈时,将当前级推进到下一级;继续接收当前级相关的信息,直到已评定用户目标。
31.如权利要求30所述的媒体,其特征在于,其中,接收当前级相关信息包含接收任务抽象分级体系当前级相关信息,该任务抽象体系包含一系列级,各级至少包含先前级的至少一个目标的至少之一的各个目标的至少一个目标。
32.如权利要求30所述的媒体,其特征在于,其中,接收信息包含与用户互动。
33.如权利要求30所述的媒体,其特征在于,其中,确定所接收的信息足够性包含完成信息值分析。
34.如权利要求33所述的媒体,其特征在于,其中,完成信息值分析包含完成渴望信息值分析。
35.如权利要求33所述的媒体,其特征在于,其中,完成信息值分析包含确定接收附加信息的预期代价是否超过附加信息的预期收益。
36.如权利要求30所述的媒体,其特征在于,其中,确定推理概率包含利用贝叶斯网络确定下一级到当前级中各至少一个目标的初始推理概率;按照推理概率选择下一级到当前级中至少一个目标的具有最高推理概率的目标的初始推理概率。
37.如权利要求36所述的媒体,其特征在于,其中,将当前级推进到下一级包含推进下一级至当前级中至少一个目标的具有最高推理概率的目标。
38.如权利要求30所述的媒体,其特征在于,还包含在确定所接收的信息足够并相继在确定推理概率超过前进阈的情况下,将当前级推进到下一级;在确定推理概率超过交谈阈的情况下,与用户交谈是否进到下一级;在接收用户来的确认进到下一级的情况下,将当前级推进到下一级。
39.如权利要求30所述的媒体,其特征在于,还包含在确定所接收的信息足够并相继在确定推理概率超过前进阈的情况下,将当前级推进到下一级;利用贝叶斯网络确定返回到先前级的目标的第2推理概率;在确定第2推理概率超过返回阈的情况下,从当前级退回到先前级。
40.一种已存储指令用于处理器执行以完成一种方法的设备可读媒体,其特征在于,该方法包含接收任务抽象分级体系的当前级相关的信息,以评定计算机—用户互动环境中的用户目标,任务抽象体系包含一系列级,各级包含先前级中至少一个目标之一的各目标的至少一个目标;通过完成信息值分析确定所接收的信息足够性;当确定所接收的信息足够时,利用贝叶斯网络确定下一级至当前级的各至少一个目标的推理概率;按照推理概率选择下一级至当前级中至少一个目标的具有最高推理概率的目标的初始推理概率;当确定推理概率超过前进阈时,将当前级推进到下一级;利用贝叶斯网络确定返回到先前级的目标的第2推理概率;当确定第2推理概率超过返回阈时,从当前级退回到先前级;继续接收当前级相关的信息,直到已评定用户目标。
41.如权利要求40所述的媒体,其特征在于,其中,接收信息包含与用户互动。
42.如权利要求40所述的媒体,其特征在于,其中,完成信息值分析包含确定接收附加信息的预期代价是否超过附加信息的预期收益。
43.如权利要求40所述的媒体,其特征在于,其中,将当前级推进到下一级包含推进到下一级至当前级中至少一个目标的具有最高推理概率的目标。
44.如权利要求40所述的媒体,其特征在于,还包含在确定所接收的信息足够并相继在确定推理概率超过前进阈的情况下,将当前级推进到下一级;在确定推理概率超过交谈阈的情况下,与用户交谈是否进到下一级;在接收用户来的确认进到下一级的情况下,将当前级推进到下一级。
45.一种计算机化系统,其特征在于,包含至少一个用户信息源;至少一个输出到用户用的目的地;工作时耦连到至少一个源和至少一个目的地的判定引擎,用于通过在级的任务抽象分级体系导以评定计算机—用户互动环境中用户的目标。
46.如权利要求45所述的系统,其特征在于,还包含根据判定引擎评定的用户目标提供动作的机构。
47.如权利要求45所述的系统,其特征在于,其中,至少一个源包含键盘、微音器和视频摄像机中的至少一个。
48.如权利要求45所述的系统,其特征在于,其中,至少一个目的地包含扬声器和显示装置中的至少一个。
49.如权利要求45所述的系统,其特征在于,其中,任务抽象体系包含一系列级,各级包含先前级中至少一个目标至少之一的各个目标的至少一个目标。
50.如权利要求45所述的系统,其特征在于,其中,判定引擎通过使用至少一个贝叶斯网络完成航行任务抽象体系导航。
51.如权利要求45所述的系统,其特征在于,其中,判定引擎包含来自计算机可读媒体的、由处理器执行的计算机程序。
52.一种计算机执行的方法,其特征在于,包含使用判定分析途径从与评定计算机—用户互动环境中用户目标相关的动作组中选择动作,该动作组包含获得信息、前进到任务抽象分级体系中下一级,和返回到任务抽象体系中先前级;实现所选动作;和重复到用户目标之一已评定且继续对话的代价超过收益。
53.如权利要求52所述的方法,其特征在于,其中,获得信息包含隐式获得信息和通过显式询问用户获得的信息。
54.如权利要求52所述的方法,其特征在于,其中,前进到下一级包含前进到获得用户确认后的下一级。
55.如权利要求52所述的方法,其特征在于,其中,返回到先前级包含返回到接着试图寻求用户确认的先前级。
全文摘要
本发明揭示了使用目标理解抽象体系与贝叶斯推理以用对话和观察动的判定理论分析相结合,通过与用户对话为设备提供递增量细化理解用户的目标。一种计算机执行方法接收用户目标相关的多种信息,包含在抽象体系的特定级上的可视和语言提示,以便对目标进行评定。该方法用信息值分析确定经作附加观察或利用询问用户相对于作判定以改变分析用户目标的精度级的清晰度所获得的附加信息的功效。通过这种分析,推理出关于用户目标的概率分布。这种概率分布与不同结果的功效的表示结合使用,以识别具有最大期望功效的提供信息和导航的动作。在一实施例中,推理主目标的概率,并用来推动判定进行,在例如在体系的相继级中有子目标时设定当前目标中特定子目标相关的情况下,作该判定。在一实施例中,概率能由贝叶斯网络确定。如果最高概率子目标超过前进阈(可由近似判定分析确定),那么在一实施例中,该子目标前进——即,当前级推进到相继的级,在该新的级开始收集信息。
文档编号G06F3/01GK1349636SQ00806924
公开日2002年5月15日 申请日期2000年6月2日 优先权日1999年6月4日
发明者E·霍维茨, T·比克 申请人:微软公司
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1