一种语音控制方法、装置及终端与流程

本发明涉及电子技术领域，更具体地说，涉及一种语音控制方法、装置及终端。

背景技术：

语音助手是一类可以通过语音交互来实现或替代部分用户在手机上的查询与操作的应用，是用于终端的语音控制程序。用户可以通过语音指令让语音助手完成一些事情，比如查天气，发短信给某人，打电话给某人等等。但现有的语音助手基本上只能做到系统级应用的操作，即只能调用对系统应用进行上述控制。在Android(安卓)系统平台，语音助手种类繁杂，各第三方应用开发的厂家/设计商也没为开发出来的各应用针对系统的语音助手添加特定的接口，以供语音助手接入调用。所以，现有语音助手并不能支持根据语音指令对系统中的第三方应用进行控制，例如不能根据语音指令控制微信做到“给某人发微信”，也不能做到根据语音指令控制QQ做到“给某人发QQ消息”。而这必然会极大的限制语音助手的功能，降低用户体验的满意度。

技术实现要素：

本发明要解决的技术问题在于：现有语音助手不能根据语音指令对系统中的第三方应用进行控制，针对该技术问题，提供一种语音控制方法、装置及终端。

为解决上述技术问题，本发明提供一种语音控制方法，所述方法包括：语音指令训练过程以及语音指令执行过程；

所述语音指令训练过程包括：

接收包含应用操作指示的语音学习指令；

对用户执行所述应用操作指示的操作过程进行学习得到执行脚本，所述执行脚本为系统模拟操作测试工具可识别的脚本；

将所述语音学习指令与所述执行脚本关联存储在语音助手学习表中；

所述语音指令执行过程包括：

接收包含待执行应用操作指示的待执行语音指令；

将所述语音助手学习表中具有与所述待执行应用操作指示相匹配的应用操作指示的语音学习指令所关联的执行脚本作为待执行脚本；

调用所述系统模拟操作测试工具运行所述待执行脚本执行所述待执行应用操作指示。

可选的，所述应用操作指示包含被操作应用的标识以及操作内容；

对用户执行所述应用操作指示的操作过程进行学习包括：

记录所述被操作应用的标识，并将用户对所述被操作应用执行所述操作内容的执行步骤依次进行记录；

根据记录所述标识和各执行步骤生成所述系统模拟操作测试工具可识别的执行脚本。

可选的，所述被操作应用的标识为所述被操作应用在系统中的安装包名称，所述系统中各应用的安装包名称各不相同。

可选的，所述被操作应用包括所述系统中的第三方应用。

可选的，所述操作内容包括：打开被操作应用并执行指定应用功能；

将用户对所述被操作应用执行所述操作内容的执行步骤依次进行记录包括：

通过目标定位方法依序检测用户执行各执行步骤时，在所述被操作应用的功能界面操作的目标对象，并获取对所述目标对象执行的动作；所述动作包括单击、双击、短按、长按、滑动中的至少一种。。

可选的，目标定位方法包括文本检测定位方法和色块检测定位方法中的至少一种。

可选的，所述系统模拟操作测试工具为Monkey测试工具。

进一步地，本发明还提供了一种语音控制装置，包括：

学习接口模块，用于接收包含应用操作指示的语音学习指令；

学习模块，用于对用户执行所述应用操作指示的操作过程进行学习得到执行脚本，所述执行脚本为系统模式操作测试工具系统模拟操作测试工具可识别的脚本；

存储控制模块，用于将所述语音学习指令与所述执行脚本关联存储在语音助手学习表中；

执行接口模块，用于接收包含待执行应用操作指示的待执行语音指令；

匹配模块，用于将所述将所述语音助手学习表中具有与所述待执行应用操作指示相匹配的应用操作指示的语音学习指令所关联的执行脚本作为待执行脚本；

执行模块，调用系统模拟操作测试工具运行所述待执行脚本执行所述应用操作指示。

可选的，所述应用操作指示包含被操作应用的标识以及操作内容；

所述学习模块用于记录所述被操作应用的标识，并将用户对所述被操作应用执行所述操作内容的执行步骤依次进行记录，根据记录的所述标识和各执行步骤生成所述系统模拟操作测试工具可识别的执行脚本。

进一步地，本发明还提供了一种包括前述语音控制装置的终端。

有益效果

本发明提供的语音控制方法、装置及终端，在语音助手的语音指令训练过程中，可以先接收包含应用操作指示的语音学习指令，然后对用户执行该应用操作指示的操作过程进行学习得到系统模拟操作测试工具可识别的执行脚本，并将该执行脚本与之前下发的语音学习指令关联存储在语音助手学习表中。在语音指令执行过程中，接收到用户下发的待执行语音指令后，将其与语音助手学习表中的各语音学习指令进行匹配，将匹配的语音学习指令所关联的执行脚本作为待执行脚本，调用系统模拟操作测试工具运行对该待执行脚本运行完成待执行应用操作指示的对应功能。本发明利用系统中的各应用(包含第三方应用和系统内置应用)都会对系统模拟操作测试工具开放调用接口的特性，先将执行各应用操作的过程学习记录为执行脚本，然后在需要执行该应用操作时通过语音指令触发调用系统模拟操作测试工具运行对应的执行脚本完成对应用的控制。也即本发明中的语音助手借助系统模拟操作测试工具可实现对系统内的第三方应用和系统内置应用的控制，提升了语音助手功能和智能性，并提升了用户体验的满意度。

附图说明

下面将结合附图及实施例对本发明作进一步说明，附图中：

图1为实现本发明各个实施例一个可选的终端的硬件结构示意图；

图2为本发明第一实施例提供的语音指令训练方法流程图；

图3为本发明第一实施例提供的语音指令执行方法流程图；

图4为本发明第二实施例提供的语音助手训练“给某XXXX发送一条内容为YYYY的微信消息”方法流程图；

图5为本发明第二实施例提供的语音助手执行“给某XXXX发送一条内容为YYYY的微信消息”方法流程图；

图6a为本发明第二实施例提供的移动终端界面的示意图；

图6b为本发明第二实施例提供的另一种移动终端界面的示意图；

图6c为本发明第二实施例提供的另一种移动终端界面的示意图；

图6d为本发明第二实施例提供的另一种移动终端界面的示意图；

图6e为本发明第二实施例提供的另一种移动终端界面的示意图；

图7为本发明第三实施例提供的终端示意图；

图8a为本发明第四实施例提供的移动终端界面的示意图；

图8b为本发明第四实施例提供的另一种移动终端界面的示意图；

图8c为本发明第四实施例提供的另一种移动终端界面的示意图。

具体实施方式

应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。

现在将参考附图描述实现本发明各个实施例的终端。在后续的描述中，使用用于表示元件的诸如“模块”或“接口”的后缀仅为了有利于本发明的说明，其本身并没有特定的意义。

终端可以以各种形式来实施。例如，本发明中描述的终端可以包括诸如移动电话、智能电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、导航装置等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。下面，假设终端是移动终端，然而，本领域技术人员将理解的是，除了特别用于移动目的的元件之外，根据本发明的实施方式的构造也能够应用于固定类型的终端。本实施例中的移动终端可以实现本发明各实施例中的语音控制装置。

图1为实现本发明各个实施例一个可选的移动终端的硬件结构示意图。

移动终端100可以包括无线通信单元110、A/V(音频/视频)输入单元120、用户输入单元130、感测单元140、输出单元150、存储器160、接口单元170、控制器180和电源单元190等等。图1示出了具有各种组件的移动终端，但是应理解的是，并不要求实施所有示出的组件，可以替代地实施更多或更少的组件，将在下面详细描述移动终端的元件。

无线通信单元110通常包括一个或多个组件，其允许移动终端100与无线通信系统或网络之间的无线电通信。例如，无线通信单元可以包括广播接收模块、移动通信模块、无线互联网模块、短程通信模块和位置信息模块中的至少一个，通过以上各通信模块对外实现对应的通信功能。

广播接收模块111经由广播信道从外部广播管理服务器接收广播信号和/或广播相关信息。广播信道可以包括卫星信道和/或地面信道。广播管理服务器可以是生成并发送广播信号和/或广播相关信息的服务器或者接收之前生成的广播信号和/或广播相关信息并且将其发送给终端的服务器。广播信号可以包括TV广播信号、无线电广播信号、数据广播信号等等。而且，广播信号可以进一步包括与TV或无线电广播信号组合的广播信号。广播相关信息也可以经由移动通信网络提供，并且在该情况下，广播相关信息可以由移动通信模块112来接收。广播信号可以以各种形式存在，例如，其可以以数字多媒体广播(DMB)的电子节目指南(EPG)、数字视频广播手持(DVB-H)的电子服务指南(ESG)等等的形式而存在。广播接收模块111可以通过使用各种类型的广播系统接收信号广播。特别地，广播接收模块111可以通过使用诸如多媒体广播-地面(DMB-T)、数字多媒体广播-卫星(DMB-S)、数字视频广播-手持(DVB-H)，前向链路媒体(MediaFLO@)的数据广播系统、地面数字广播综合服务(ISDB-T)等等的数字广播系统接收数字广播。广播接收模块111可以被构造为适合提供广播信号的各种广播系统以及上述数字广播系统。经由广播接收模块111接收的广播信号和/或广播相关信息可以存储在存储器160(或者其它类型的存储介质)中。

移动通信模块112将无线电信号发送到基站(例如，接入点等等)、外部终端以及服务器中的至少一个和/或从其接收无线电信号。这样的无线电信号可以包括语音通话信号、视频通话信号、或者根据文本和/或多媒体消息发送和/或接收的各种类型的数据。

无线互联网模块113支持移动终端的无线互联网接入。该模块可以内部或外部地耦接到终端。该模块所涉及的无线互联网接入技术可以包括WLAN(无线LAN)(Wi-Fi)、Wibro(无线宽带)、Wimax(全球微波互联接入)、HSDPA(高速下行链路分组接入)等等。

短程通信模块114是用于支持短程通信的模块。短程通信技术的一些示例包括蓝牙TM、射频识别(RFID)、红外数据协会(IrDA)、超宽带(UWB)、紫蜂TM等等。

位置信息模块115是用于检查或获取移动终端的位置信息的模块。位置信息模块的典型示例是GPS(全球定位系统)。根据当前的技术，GPS模块115计算来自三个或更多卫星的距离信息和准确的时间信息并且对于计算的信息应用三角测量法，从而根据经度、纬度和高度准确地计算三维当前位置信息。当前，用于计算位置和时间信息的方法使用三颗卫星并且通过使用另外的一颗卫星校正计算出的位置和时间信息的误差。此外，GPS模块115能够通过实时地连续计算当前位置信息来计算速度信息。

A/V输入单元120用于接收音频或视频信号。A/V输入单元120可以包括相机121和麦克风1220，相机121对在视频捕获模式或图像捕获模式中由图像捕获装置获得的静态图片或视频的图像数据进行处理。处理后的图像帧可以显示在显示模块151上。经相机121处理后的图像帧可以存储在存储器160(或其它存储介质)中或者经由无线通信单元110进行发送，可以根据移动终端的构造提供两个或更多相机121。麦克风122可以在电话通话模式、记录模式、语音识别模式等等运行模式中经由麦克风接收声音(音频数据)，并且能够将这样的声音处理为音频数据。处理后的音频(语音)数据可以在电话通话模式的情况下转换为可经由移动通信模块112发送到移动通信基站的格式输出。麦克风122可以实施各种类型的噪声消除(或抑制)算法以消除(或抑制)在接收和发送音频信号的过程中产生的噪声或者干扰。

用户输入单元130可以根据用户输入的命令生成键输入数据以控制移动终端的各种操作。用户输入单元130允许用户输入各种类型的信息，并且可以包括键盘、锅仔片、触摸板(例如，检测由于被接触而导致的电阻、压力、电容等等的变化的触敏组件)、滚轮、摇杆等等。特别地，当触摸板以层的形式叠加在显示模块151上时，可以形成触摸屏。

感测单元140检测移动终端100的当前状态，(例如，移动终端100的打开或关闭状态)、移动终端100的位置、用户对于移动终端100的接触(即，触摸输入)的有无、移动终端100的取向、移动终端100的加速或减速移动和方向等等，并且生成用于控制移动终端100的操作的命令或信号。例如，当移动终端100实施为滑动型移动电话时，感测单元140可以感测该滑动型电话是打开还是关闭。另外，感测单元140能够检测电源单元190是否提供电力或者接口单元170是否与外部装置耦接。感测单元140可以包括接近传感器141。

接口单元170用作至少一个外部装置与移动终端100连接可以通过的接口。例如，外部装置可以包括有线或无线头戴式耳机端口、外部电源(或电池充电器)端口、有线或无线数据端口、存储卡端口、用于连接具有识别模块的装置的端口、音频输入/输出(I/O)端口、视频I/O端口、耳机端口等等。其中，音频输入/输出(I/O)端口可以为麦克等声音采集器，采集用户输入的各种语音指令。

另外，当移动终端100与外部底座连接时，接口单元170可以用作允许通过其将电力从底座提供到移动终端100的路径或者可以用作允许从底座输入的各种命令信号通过其传输到移动终端的路径。从底座输入的各种命令信号或电力可以用作用于识别移动终端是否准确地安装在底座上的信号。输出单元150被构造为以视觉、音频和/或触觉方式提供输出信号(例如，音频信号、视频信号、警报信号、振动信号等等)。

输出单元150可以包括显示模块151、音频输出模块152、警报模块153等等。

显示模块151可以显示在移动终端100中处理的信息。例如，当移动终端100处于电话通话模式时，显示模块151可以显示与通话或其它通信(例如，文本消息收发、多媒体文件下载等等)相关的用户界面(UI)或图形用户界面(GUI)。当移动终端100处于视频通话模式或者图像捕获模式时，显示模块151可以显示捕获的图像和/或接收的图像、示出视频或图像以及相关功能的UI或GUI等等。

同时，当显示模块151和触摸板以层的形式彼此叠加以形成触摸屏时，显示模块151可以用作输入装置和输出装置。显示模块151可以包括液晶显示器(LCD)、薄膜晶体管LCD(TFT-LCD)、有机发光二极管(OLED)显示器、柔性显示器、三维(3D)显示器等等中的至少一种。这些显示器中的一些可以被构造为透明状以允许用户从外部观看，这可以称为透明显示器，典型的透明显示器可以例如为TOLED(透明有机发光二极管)显示器等等。根据特定想要的实施方式，移动终端100可以包括两个或更多显示模块(或其它显示装置)，例如，移动终端可以包括外部显示模块(未示出)和内部显示模块(未示出)。触摸屏可用于检测触摸输入压力以及触摸输入位置和触摸输入面积。

音频输出模块152可以在移动终端处于呼叫信号接收模式、通话模式、记录模式、语音识别模式、广播接收模式等等模式下时，将无线通信单元110接收的或者在存储器160中存储的音频数据转换音频信号并且输出为声音。而且，音频输出模块152可以提供与移动终端100执行的特定功能相关的音频输出(例如，呼叫信号接收声音、消息接收声音等等)。音频输出模块152可以包括扬声器、蜂鸣器等等。

警报模块153可以提供输出以将事件的发生通知给移动终端100。典型的事件可以包括呼叫接收、消息接收、键信号输入、触摸输入等等。除了音频或视频输出之外，警报模块153可以以不同的方式提供输出以通知事件的发生。例如，警报模块153可以以振动的形式提供输出，当接收到呼叫、消息或一些其它进入通信(incoming communication)时，警报模块153可以提供触觉输出(即，振动)以将其通知给用户。通过提供这样的触觉输出，即使在用户的移动电话处于用户的口袋中时，用户也能够识别出各种事件的发生。警报模块153也可以经由显示模块151或音频输出模块152提供通知事件的发生的输出。

存储器160可以存储由控制器180执行的处理和控制操作的软件程序等等，或者可以暂时地存储己经输出或将要输出的数据(例如，电话簿、消息、静态图像、视频等等)。而且，存储器160可以存储关于当触摸施加到触摸屏时输出的各种方式的振动和音频信号的数据。

存储器160可以包括至少一种类型的存储介质，所述存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如，SD或DX存储器等等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘等等。而且，移动终端100可以与通过网络连接执行存储器160的存储功能的网络存储装置协作。

控制器180通常控制移动终端的总体操作。例如，控制器180执行与语音通话、数据通信、视频通话等等相关的控制和处理。另外，控制器180可以包括用于再现(或回放)多媒体数据的多媒体模块181，多媒体模块181可以构造在控制器180内，或者可以构造为与控制器180分离。控制器180可以执行模式识别处理，以将在触摸屏上执行的手写输入或者图片绘制输入识别为字符或图像。

电源单元190在控制器180的控制下接收外部电力或内部电力并且提供操作各元件和组件所需的适当的电力。

这里描述的各种实施方式可以以使用例如计算机软件、硬件或其任何组合的计算机可读介质来实施。对于硬件实施，这里描述的实施方式可以通过使用特定用途集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理装置(DSPD)、可编程逻辑装置(PLD)、现场可编程门阵列(FPGA)、处理器、控制器、微控制器、微处理器、被设计为执行这里描述的功能的电子单元中的至少一种来实施，在一些情况下，这样的实施方式可以在控制器180中实施。对于软件实施，诸如过程或功能的实施方式可以与允许执行至少一种功能或操作的单独的软件模块来实施。软件代码可以由以任何适当的编程语言编写的软件应用程序(或程序)来实施，软件代码可以存储在存储器160中并且由控制器180执行。

至此，己经按照其功能描述了移动终端。下面，为了简要起见，将描述诸如折叠型、直板型、摆动型、滑动型移动终端等等的各种类型的移动终端中的滑动型移动终端作为示例。因此，本发明能够应用于任何类型的移动终端，并且不限于滑动型移动终端。

以下通过具体实施例进行详细说明。

第一实施例

本实施例提供的语音控制方法，语音控制装置(以下简称语音助手)可以先根据包含应用操作指示语音学习指令进行训练，学习用户或其他设备在终端上操作完成该应用操作指示的过程，该学习过程可以理解为一种录制过程，将即将完成的操作过程录制下来，然后转为系统模拟操作测试工具可以识别、运行的执行脚本。这样语音助手通过训练过程可以学习到对终端内的各种应用(包括第三方应用，但针对系统内置的应用适用)的各种操作过程，转换为执行脚本。应当理解的是，以上训练过程，语音助手可以在特定的训练模式下进行，在该模式下接收到的语音指令都可以认为是语音学习指令。在该模式外接收到的语音指令则可以认为都是待执行的语音指令，实施例称为待执行语音指令。

在语音指令执行过程中，语音助手接收用户下发的待执行语音指令后，可以与之前学习到的各语音学习指令进行匹配，进而匹配到对应的执行脚本，然后调用系统中的系统模拟操作测试工具运行该执行脚本，系统模拟操作测试工具可以根据该执行脚本模拟用户或其他设备在终端上执行对应的应用操作，例如打开微信给XXX发送信息等。因此本实施例中的语音助手可以实现对终端系统中为系统模拟操作测试工具开放有调用接口的所有应用的控制，其功能和智能性得到的强化，能提升用户体验的满意度。

本实施例中的系统模拟操作测试工具，是指可以模拟终端的各种输入操作实现对终端系统进行测试的工具。这类测试工具在不同的终端系统中都有设置。下面仅以Android系统的系统模拟操作测试工具——Monkey测试工具为示例进行说明。但应当理解的是，本实施例中的系统模拟操作测试工具并不限于Android系统的Monkey测试工具，具体可以根据当前终端系统的类型灵活设定。

Monkey测试是Android平台自动化测试的一种手段，可以运行在模拟器里或实际设备中。Monkey测试工具为Android SDK(Software Development Kit，软件开发工具包)中自带的工具。通过Monkey测试工具运行程序会产生一定数量或在一定时间内向系统发送伪随机的用户事件流(如按键输入、触摸屏输入、手势输入等)，模拟用户触摸屏幕、滑动、按键等操作来对设备上的程序进行压力测试，检测程序多久的时间会发生异常。虽然Monkey测试工具是向手机发送伪随机事件流，但是通过其具有的API(Application Programming Interface，应用程序编程接口)，可以用来运行Monkey执行脚本。

为了更好的理解本发明，下面对本实施例中语音助手的语音指令训练过程和语音指令执行过程分别进行示例说明。

参照图2所示，语音助手进行语音控制的语音指令训练方法包括：

步骤201，接收包含应用操作指示的语音学习指令。

本实施例中的学习过程可以是在训练模式下进行的，因此在步骤201之前，还可以包含进入训练模式的过程，在该训练模式下接收的语音指令为语音学习指令。

本实施例中的语音学习指令可以是用户下发的，也可以是其他专门用于学习阶段对各应用进行自动控制操作的设备下发的。

语音助手接收包含应用操作指示的语音学习指令后，开始训练过程。本实施例中，语音学习指令包含的应用操作指示包含：被操作应用的标识以及操作内容。被操作应用包括所述系统中的第三方应用，还包括系统内置应用。例如假设被操作应用为第三方应用QQ，具体为向XXX发送QQ消息，则被操作应用的标识为：QQ的标识，操作内容为：向XXX发送QQ消息。

本实施例中，应用的标识可以采用任意能唯一识别各应用的标识，例如，被操作应用的标识可以为被操作应用在系统中的安装包名称，因为在系统中(例如Android系统)不同应用的安装包的名称各不相同，因此可以采用各应用的安装包明作为各应用的标识。当然，也可以为各应用设置唯一编码作为识别各应用的标识。

步骤202，对用户执行应用操作指示的操作过程进行学习得到执行脚本，该执行脚本为系统模拟操作测试工具可识别的脚本。

本实施例中，语音助手通过对用户执行应用操作指示的操作过程进行学习，得到系统模拟操作测试工具可识别的执行脚本。在执行应用操作指示的执行主体为其他设备时，也可以对其他设备在终端上操作完成该应用操作指示的过程进行学习。

具体的，对用户执行应用操作指示的操作过程进行学习包括：

记录被操作应用的标识，并将用户对该被操作应用执行操作内容的执行步骤依次进行记录；

根据记录该标识和各执行步骤生成系统模拟操作测试工具可识别的执行脚本。

操作内容包括：打开被操作应用并执行指定应用功能。一般要实现应用操作指示，被操作应用都应先被启动，操作内容还可以只是打开或关闭某个被操作应用，不执行指定应用功能。例如假设被操作应用为第三方应用微信，应用操作指示为：打开微信朋友圈，则被操作应用的标识为：微信；操作内容为：打开微信并打开微信朋友圈；应用功能为：打开朋友圈。

记录执行步骤为：记录应用操作指示为“打开微信朋友圈”的被操作应用标识为微信；记录用户对该应用执行操作内容的过程：点击“微信”图标，打开微信应用主界面；点击“发现”图标进入发现功能界面；点击“朋友圈”图标进入朋友圈。对应于记录的标识和各步骤生成系统模拟操作测试工具可识别的执行脚本。

进一步的，将用户对该被操作应用执行操作内容的执行步骤依次进行记录包括：通过目标定位方法依序检测用户执行各执行步骤时，在该被操作应用的功能界面操作的目标对象，并获取对所述目标对象执行的动作，动作包括单击、双击、短按、长按、滑动中的至少一种。

目标定位方法包括文本检测定位方法和色块检测定位方法中的至少一种，还可以采用其他定位方法，例如采集用户操作时在屏幕上操作区域的坐标位置信息。文本检测定位方法具体为在检测识别TextView(文本框)对象后，获取其中的文本内容，用于识别文字信息。色块检测定位方法具体为检测识别像素RGB值和组合，用于识别图标等图像信息。

动作指用户对各功能界面操作的目标对象的动作，包括单击、双击、短按、长按、滑动中的至少一种。

以上述应用操作指示为“打开微信朋友圈”为例，训练过程为依序记录以下用户对该应用执行操作内容的过程：

点击“微信”图标，打开微信应用主界面；记录目标对象为“微信”应用，动作为单击。目标定位方法可以采用文本检测定位方法和/或色块检测定位方法。采用文本检测定位方法时，在系统菜单页面中识别“微信”字样，记录对应的动作为单击。采用色块检测定位方法时，在系统菜单页面中识别“微信”图标，记录该图标的像素颜色组合及对应的动作为单击。也可以同时采用这2中方法，同时识别“微信”字样及“微信”图标，记录对应的动作为单击。

点击“发现”图标进入发现功能界面；记录目标对象为“发现”功能，动作为单击。目标定位方法可以采用文本检测和/或色块检测定位方法，具体方法如上所述，还可以采用采集用户操作时在屏幕上操作区域的坐标位置信息的方法，因为例如“发现”等为微信应用提供的功能，在微信主界面上的位置是不变的，可以记录用户点击“发现”时在屏幕上点击位置的坐标区域。

点击“朋友圈”图标进入朋友圈。记录目标对象为“发现”功能，动作为单击。

语音助手在学习的过程中会对应用户的每一步操作的目标对象和动作进行记录生成执行脚本。执行脚本为系统模拟操作测试工具可识别的脚本。生成执行脚本的具体过程可参照现有技术。

步骤203，将语音学习指令与得到的执行脚本关联存储在语音助手学习表中。

将之前训练的语音学习指令及得到的执行脚本建立关联，存储在语音助手的学习表中。此时，一个语音学习指令的整个训练过程完成。

对不同应用的不同功能按照上述过程进行学习，可以得到对应的不同的执行脚本，将它们关联存储在语音助手学习表中。接收到用户下发的待执行语音指令并匹配到语音学习指令后，就可以调用系统模拟操作测试工具运行对应的执行脚本完成对应的功能。

参照图3所示，语音助手的语音指令执行过程包括：

步骤301，接收包含待执行应用操作指示的待执行语音指令。

本实施例中的执行过程可以是在执行模式下进行的，因此在步骤301之前，还可以包含进入执行模式的过程，在该执行模式下接收的语音指令为待执行语音指令。本实施例中的待执行语音指令可以是用户下发的，也可以是其他专门用于学习阶段对各应用进行自动控制操作的设备下发的。语音助手接收包含待执行应用操作指示的待执行语音指令，开始执行过程。

本实施例中，待执行语音指令包含的待执行应用操作指示同应用操作指示一致，包含：被操作应用的标识以及操作内容。例如待执行语音指令为：向XXX发送QQ消息，则被操作应用的标识为：QQ的标识，操作内容为：向XXX发送QQ消息。

步骤302，将待执行语音指令与语音助手学习表中的各语音学习指令进行匹配。

语音助手学习表中存储有之前语音助手学习过的各项语音学习指令和关联的执行脚本。在语音助手接收到待执行语音指令可以对待执行语音指令进行语义识别，识别待执行应用操作指示后，与语音学习指令的应用操作指示进行匹配，即将待执行语音指令与语音学习指令进行匹配。若匹配失败，则说明用户之前未进行该待执行语音指令的学习，无法执行该语音指令；若匹配成功，则说明用户之前已进行该待执行语音指令的学习，语音助手学习表中对应该待执行语音指令有执行脚本。

步骤303，判断匹配是否成功。若否，则匹配失败，转到步骤304；若是，则匹配成功，转到步骤305。

步骤304，提示用户此指令未学习。

提示用户此指令未学习，不可执行。还可以提示用户让语音助手进行学习。

步骤305，将语音助手学习表中具有与待执行应用操作指示相匹配的应用操作指示的语音学习指令所关联的执行脚本作为待执行脚本。

将与该待执行语音指令匹配成功的语音学习指令对应关联的执行脚本作为待执行脚本。从语音助手学习表中将该待执行脚本调用出来。

步骤306，调用系统模拟操作测试工具运行待执行脚本执行待执行应用操作指示。

系统模拟操作测试工具运行待执行脚本，重复用户执行应用操作指示时的每一步操作，包括在被操作应用的功能界面操作上寻找目标对象并重复用户对各目标对象执行的动作，不用用户手动进行。

本实施例提供的语音控制方法包括语音指令训练方法和语音指令执行方法，语音助手通过语音指令训练方法完成语音学习指令的训练过程；通过语音指令执行方法将接收的待执行语音指令与与之前学习到的各语音学习指令进行匹配，进而匹配到对应的执行脚本，然后调用系统中的系统模拟操作测试工具运行该执行脚本，执行对应的动作，完成语音学习指令的执行过程，实现对终端系统中为系统模拟操作测试工具开放有调用接口的所有应用的控制，其功能和智能性得到的强化，能提升用户体验的满意度。

第二实施例

为了便于理解本发明，本实施例以Android系统为例进行示例说明。此时的系统模拟操作测试工具为Monkey测试工具。假设接收到的语音学习指令包含的应用操作指示为“给某XXXX发送一条内容为YYYY的微信消息”。此时，语音助手进行语音指令训练完成该语音学习指令的训练过程参见图4所示，包括：

步骤401，添加一条“给某XXXX发送一条内容为YYYY的微信消息”的语音学习指令。

应用操作指示为“给某XXXX发送一条内容为YYYY的微信消息”，添加被操作应用标识为：微信的标识，操作内容为：给某XXXX发送一条内容为YYYY的微信消息。

步骤402，语音助手学习“给某XXXX发送一条内容为YYYY的微信消息”。

语音助手学习用户“给某XXXX发送一条内容为YYYY的微信消息”的过程。

用户具体操作如下：

用户在系统桌面上点击“微信”图标，打开微信应用，请参照图6a；点击微信应用下方的第二个图标“通讯录”，请参照图6b；寻找并点击“某XXXX”，请参照图6c，进入某XXXX的详细资料界面；点击“发消息”，请参照图6d；点击文本框；输入内容“YYYY”；点击“发送”，请参照图6e。

对应上述的用户操作，语音助手进行学习，具体如下：

打开微信App的安装包名“com.tencent.mm”，启动微信。启动应用的过程可以直接通过打开对应的安装包名来完成，也可以通过目标定位方法识别确定应用名称或图标并点击启动，因为系统模拟操作测试工具为系统工具，启动应用直接通过打开对应的安装包名来完成较为直接方便且不易出错。

通过目标定位方法识别确定“通讯录”并点击，其中，若目标定位方法是文本检测定位方法，则在应用界面上识别文本“通讯录”三个字符，若是色块检测定位方法，则识别通讯录图标及图标的四角坐标并对其范围做限定。

通过目标定位方法识别确定“某XXXX”并点击，如果当前屏幕内没有目标内容“某XXXX”，则使用TrackBall(轨迹球)滑动操作进行下滑，直到搜索到为止；点击文本内容“某XXXX”或色块区域所在的坐标范围。

通过目标定位方法确定“发消息”字符或图标所在的位置并点击。

通过目标定位方法确定文本框所在的坐标范围。

输入内容“YYYY”字符。

通过目标定位方法确定“发送”字符或图标所在的位置并点击。

语音助手对用户的每一步操作都进行如上所述的学习并生成对应的执行脚本。

步骤403，语音助手完成训练。

语音助手将语音指令“给某XXXX发送一条内容为YYYY的微信消息”与执行脚本建立关联，存入语音助手学习表中。

语音助手接收到包含的应用操作指示为“给某XXXX发送一条内容为YYYY的微信消息”的待执行语音指令，该待执行语音指令的执行流程图参见图5所示，包括：

步骤501，用户发出“给某XXXX发送一条内容为YYYY的微信消息”的语音指令给语音助手。

语音助手接收“给某XXXX发送一条内容为YYYY的微信消息”的语音指令，将其作为待执行语音指令。

步骤502，语音助手进行匹配，匹配过程包括识别和对比过程。

语音助手接收语音指令后，进行语义识别识别该待执行语音指令的具体内容为“给某XXXX发送一条内容为YYYY的微信消息”。

语音助手将该待执行语音指令与语音助手学习表中的各语音学习指令进行对比，对比成功后即可进而匹配到对应的执行脚本。

步骤503，语音助手调用Monkey执行“给某XXXX发送一条内容为YYYY的微信消息”对应的执行脚本。

语音助手从语音助手学习表中调用之前学习该语音指令时生成的执行脚本作为待执行脚本，调用Monkey运行待执行脚本完成“给某XXXX发送一条内容为YYYY的微信消息”这一语音指令。

本实施例提供的一种具体的语音控制方法，通过对用户“给某XXXX发送一条内容为YYYY的微信消息”的操作过程进行学习，得到对应的执行脚本，并关联存储在语音助手学习表中，在用户下发该语音指令时利用系统模拟操作测试工具完成对应的执行动作，不用用户手动操作，提高语音助手的功能和智能性。

第三实施例

参照图7，图7为本发明第三实施例提供的终端示意图。本实施例中的终端包括语音控制装置，可以是如图1所示的移动终端以及诸如数字TV、台式计算机等等的固定终端。本实施例中的语音控制装置包括：学习接口模块71，学习模块72，存储控制模块73，执行接口模块74，匹配模块75，执行模块76。其中，

学习接口模块71，用于接收包含应用操作指示的语音学习指令。

语音学习指令可以是用户下发的，也可以是其他专门用于学习阶段对各应用进行自动控制操作的设备下发的。本实施例中，语音学习指令包含的应用操作指示包含：被操作应用的标识以及操作内容。例如假设被操作应用为第三方应用QQ，具体为向XXX发送QQ消息，则被操作应用的标识为：QQ的标识，操作内容为：向XXX发送QQ消息。

学习模块72，用于对用户执行所述应用操作指示的操作过程进行学习得到执行脚本，该执行脚本为系统模拟操作测试工具可识别的脚本。

学习模块72通过对用户执行应用操作指示的操作过程进行学习，得到系统模拟操作测试工具可识别的执行脚本。在执行应用操作指示的执行主体为其他设备时，也可以对其他设备在终端上操作完成该应用操作指示的过程进行学习。

具体的，学习模块72用于记录被操作应用的标识，并将用户对该被操作应用执行操作内容的执行步骤依次进行记录，根据记录的标识和各执行步骤生成系统模拟操作测试工具可识别的执行脚本。操作内容可以包括：打开被操作应用并执行指定应用功能。一般要实现应用操作指示，被操作应用都应先被启动，操作内容还可以只是打开或关闭某个被操作应用，不执行指定应用功能。例如假设被操作应用为第三方应用微信，应用操作指示为：打开微信朋友圈，则被操作应用的标识为：微信；操作内容为：打开微信并打开微信朋友圈；应用功能为：打开朋友圈。

记录执行步骤为：记录应用操作指示为“打开微信朋友圈”的被操作应用标识为微信；记录用户对该应用执行操作内容的过程：点击“微信”图标，打开微信应用主界面；点击“发现”图标进入发现功能界面；点击“朋友圈”图标进入朋友圈。对应于记录的标识和各步骤生成系统模拟操作测试工具可识别的执行脚本。

进一步的，将用户对被操作应用执行操作内容的执行步骤依次进行记录包括：通过目标定位方法依序检测用户执行各执行步骤时，在被操作应用的功能界面操作的目标对象，并获取对目标对象执行的动作，动作包括单击、双击、短按、长按、滑动中的至少一种。

目标定位方法包括文本检测定位方法和色块检测定位方法中的至少一种，还可以采用其他定位方法，例如采集用户操作时在屏幕上操作区域的坐标位置信息。文本检测定位方法具体为在检测识别TextView(文本框)对象后，获取其中的文本内容，用于识别文字信息。色块检测定位方法具体为检测识别像素RGB值和组合，用于识别图标等图像信息。

动作指用户对各功能界面操作的目标对象的动作，包括单击、双击、短按、长按、滑动中的至少一种。以上述应用操作指示为“打开微信朋友圈”为例，训练过程为依序记录以下用户对该应用执行操作内容的过程：

点击“微信”图标，打开微信应用主界面；记录目标对象为“微信”应用，具体操作为单击。目标定位方法可以采用文本检测定位方法和/或色块检测定位方法。采用文本检测定位方法时，在系统菜单页面中识别“微信”字样，记录对应的动作为单击。采用色块检测定位方法检测时，在系统菜单页面中识别“微信”图标，记录该图标的像素颜色组合及对应的动作为单击。也可以同时采用这2中方法，同时识别“微信”字样及“微信”图标，记录对应的动作为单击。

点击“发现”图标进入发现功能界面；记录目标对象为“发现”功能，动作为单击。目标定位方法可以采用文本检测和/或色块检测定位方法，具体方法如上所述，还可以采用采集用户操作时在屏幕上操作区域的坐标位置信息的方法，因为“发现”功能等为微信应用提供的功能，在微信主界面上的位置是不变的，可以记录用户点击“发现”时在屏幕上点击位置的坐标区域。

点击“朋友圈”图标进入朋友圈。记录目标对象为“朋友圈”功能，动作为单击。

学习模块72在学习的过程中会对应用户的每一步操作的目标对象和动作进行记录生成执行脚本。执行脚本为系统模拟操作测试工具可识别的脚本。系统模拟操作测试工具指可以模拟终端的各种输入操作实现对终端系统进行测试的工具。这类测试工具在不同的终端系统中都有设置。生成执行脚本的具体过程可参照现有技术。

存储控制模块73，用于将语音学习指令与得到的执行脚本关联存储在语音助手学习表中。

存储控制模块73将之前训练的语音学习指令及得到的执行脚本建立关联，存储在语音助手的学习表中。此时，一个语音学习指令的整个训练过程完成。对不同应用的不同功能按照上述过程进行学习，可以得到对应的不同的执行脚本，将它们关联存储在语音助手学习表中。接收到用户下发的待执行语音指令并匹配到语音学习指令后，就可以调用系统模拟操作测试工具运行对应的执行脚本完成对应的功能。

执行接口模块74，用于接收包含待执行应用操作指示的待执行语音指令。

待执行语音指令可以是用户下发的，也可以是其他专门用于学习阶段对各应用进行自动控制操作的设备下发的。执行接口模块74负责接收包含待执行应用操作指示的待执行语音指令后，待执行语音指令包含的待执行应用操作指示同应用操作指示一致，包含：被操作应用的标识以及操作内容。例如待执行语音指令为：向XXX发送QQ消息，则被操作应用的标识为：QQ的标识，操作内容为：向XXX发送QQ消息。

匹配模块75，用于将语音助手学习表中具有与该待执行应用操作指示相匹配的应用操作指示的语音学习指令所关联的执行脚本作为待执行脚本。

语音助手学习表中包含之前语音助手学习过的各项语音学习指令和关联的执行脚本。匹配模块75在执行接口模块74接收到待执行语音指令可以对待执行语音指令进行语义识别，识别待执行应用操作指示后，与语音学习指令的应用操作指示进行匹配，即将待执行语音指令与语音学习指令进行匹配。若匹配失败，则说明用户之前未进行该待执行语音指令的学习，无法执行该语音指令；若匹配成功，则说明用户之前已进行该待执行语音指令的学习，将对应关联的执行脚本作为待执行脚本。

执行模块76，用于调用系统模拟操作测试工具运行该待执行脚本执行待执行应用操作指示。

执行模块76可调用系统模拟操作测试工具运行待执行脚本，重复用户执行应用操作指示时的每一步操作，包括在被操作应用的功能界面操作上寻找目标对象并重复用户对各目标对象执行的动作，不用用户手动进行。

学习接口模块71、学习模块72、存储控制模块73、执行接口模块74、匹配模块75及执行模块76可以通过终端中的控制器实现，上述各模块可以构造于控制器内。

本实施例提供包含语音控制装置的终端，通过语音控制装置完成语音学习指令的训练过程和执行过程，实现对终端中为系统模拟操作测试工具开放有调用接口的所有应用的控制，强化语音控制装置及终端的功能和智能性，能提升用户体验的满意度。

第四实施例

为了便于理解本发明，本实施例以第三实施例的终端在Android系统为例进行示例说明。此时的系统模拟操作测试工具为Monkey测试工具。假设接收到的语音学习指令包含的应用操作指示为“打开QQ动态中的同城服务”。此时，

学习接口模块71接收该语音学习指令，则应用操作指示为“打开QQ动态中的同城服务”，添加被操作应用标识为：QQ的标识，操作内容为：打开QQ动态中的同城服务。用户执行应用操作指示的操作过程具体为：

在系统桌面上点击“QQ”图标，请参照图6a；在QQ应用界面上点击“动态”图标，请参照图8a；在动态功能界面上寻找“同城服务”图标并点击，请参照图8b；进入“同城服务”界面，请参照图8c。学习模块72对上述用户操作过程进行训练，具体如下：

指定QQ的安装包名称为“com.tencent.mobileqq”，启动QQ，进入QQ主界面，请参照图8a；

通过目标定位方法识别确定“动态”字符或图标，记录对应的动作为单击，请参照图8b；

通过目标定位方法识别确定“同城服务”字符或图标，如果当前屏幕内没有目标内容“某XXXX”，则使用TrackBall(轨迹球)滑动操作进行下滑，直到搜索到为止；记录对应的动作为单击，进入“同城服务”界面，请参照图8c。学习模块72根据上述学习过程，记录用户每一步操作的目标对象和动作，生成执行脚本。存储控制模块73将语音学习指令“打开QQ动态中的同城服务”与得到的执行脚本关联存储在语音助手学习表中。此时，“打开QQ动态中的同城服务”的学习过程完成。

在执行接口模块74接收到用户发送的“打开QQ动态中的同城服务”待执行语音指令后，匹配模块75对待执行语音指令进行语义识别，识别指令的具体内容为“打开QQ动态中的同城服务”，将其与存储控制模块73中语音助手学习表里的语音学习指令进行对比匹配。匹配成功后，将语音学习指令“打开QQ动态中的同城服务”对应的执行脚本作为待执行脚本。执行模块76调用系统模拟操作测试工具即Monkey测试工具运行待执行脚本，执行上述训练过程中记录的各项操作的目标对象及动作，完成“打开QQ动态中的同城服务”的待执行语音指令。

本实施例提供包含语音控制装置各模块的终端，通过语音控制装置各模块完成语音学习指令的训练过程和执行过程，实现对终端中为系统模拟操作测试工具开放有调用接口的所有应用的控制，强化语音控制装置及终端的功能和智能性，提升用户体验的满意度。

需要说明的是，在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。

上述本发明实施例序号仅仅为了描述，不代表实施例的优劣。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端设备(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本发明各个实施例所述的方法。

上面结合附图对本发明的实施例进行了描述，但是本发明并不局限于上述的具体实施方式，上述的具体实施方式仅仅是示意性的，而不是限制性的，本领域的普通技术人员在本发明的启示下，在不脱离本发明宗旨和权利要求所保护的范围情况下，还可做出很多形式，这些均属于本发明的保护之内。