一种词向量的生成方法和装置与流程

本发明涉及互联网技术领域，尤其涉及一种词向量的生成方法和装置。

背景技术：

随着机器学习技术的发展，研究者们希望把机器学习算法用在语言模型中，用以提高语言模型研究和应用的进展，Word2Vec就是这样一种技术，使用Word2Vec可以将单词/词语转换成为一个指定维度的向量，称为词向量，这样，就可以把对文本内容的处理简化为向量空间中的向量运算，计算出向量在向量空间中的相似度，用来表示单词/词语在语义上的相似度。

然而，在现有的Word2Vec算法训练模型时，是一次性读入所有训练集数据，经过很长时间的训练，得到一个模型，该模型收集训练集合中的所有词汇，给每个词汇生成一个词向量。但是，训练集中缺少某个词时，就无法生成该词对应的词向量，那么，需要生成一个新词的词向量时，需要将含有新词的训练文本数据加入原有的训练集，重新训练，才能得到新词的词向量，这种方法重新训练需要较大的运算量并且非常耗时。

技术实现要素：

有鉴于此，本发明的主要目的在于提出一种词向量的生成方法和装置，旨在避免新分词加入时重新训练所需的运算量，缩短了新分词加入时生成词向量的时间。

为达到上述目的，本发明的技术方案是这样实现的：

第一方面，本发明实施例提供了一种词向量的生成方法，所述方法包括：对获取到的第一训练分词集进行文本深度表示模型word2vec处理，得到所述第一训练分词集中每个训练分词的词向量；接收新分词；其中，所述新分词不存在于所述第一训练分词集中；获取所述新分词的训练文本，对所述新分词的训练文本进行分词处理，得到所述新分词的训练分词，利用所述新分词和所述新分词的训练分词组成第二训练分词集；对所述第二训练分词集进行word2vec处理，得到所述第二训练分词集中每个训练分词的词向量；根据所述第一训练分词集中每个训练分词的词向量和所述第二训练分词集中每个训练分词的词向量，确定出所述新分词加入至所述第一训练分词集中的词向量。

进一步地，所述根据所述第一训练分词集中每个训练分词的词向量和所述第二训练分词集中每个训练分词的词向量，确定出所述新分词加入至所述第一训练分词集中的词向量，包括：从所述第二训练分词集中，选取出满足预设条件的训练分词；根据所述满足预设条件的训练分词在所述第一训练分词集中的词向量和所述满足预设条件的训练分词在所述第二训练分词集中的词向量，确定出所述新分词加入至所述第一训练分词集中的词向量。

进一步地，所述从所述第二训练分词集中，选取出满足预设条件的训练分词，包括：在所述第二训练分词集中，计算每个训练分词的词向量与新分词的词向量之间的相似度；根据所述每个训练分词的词向量与新分词的词向量之间的相似度，按照从大到小的顺序从所述第二训练分词集中选取出预设数目的训练分词。

进一步地，所述从所述第二训练分词集中，选取出满足预设条件的训练分词，包括：从所述第二训练分词集中，按照训练分词选取策略选取训练分词；其中，所述训练分词选取策略为：选取的训练分词的词向量与所述新分词的词向量之间的相似度大于预设值。

进一步地，所述根据所述满足预设条件的训练分词在所述第一训练分词集中的词向量和所述满足预设条件的训练分词在所述第二训练分词集中的词向量，确定出所述新分词加入至所述第一训练分词集中的词向量，包括：对所述满足预设条件的训练分词在所述第二训练分词集中的词向量进行加权平均计算，得到第一加权中心向量；计算所述新分词的词向量与所述第一加权中心向量之间的相似度；对所述满足预设条件的训练分词在所述第一训练分词集中的词向量进行加权平均计算，得到第二加权中心向量；基于相似度相等规则，根据所述新分词的词向量与所述第一加权中心向量之间的相似度和所述第二加权中心向量，确定出所述新分词加入至所述第一训练分词集中的词向量；其中，所述相似度相等规则为：所述新分词的词向量与所述第一加权中心向量之间的相似度等于所述新分词加入至所述第一训练分词集中的词向量与所述第二加权中心向量之间的相似度。

第二方面，本发明实施例提供了一种词向量的生成装置，所述装置包括：第一处理模块，用于对获取到的第一训练分词集进行文本深度表示模型word2vec处理，得到所述第一训练分词集中每个训练分词的词向量；接收模块，用于接收新分词；其中，所述新分词不存在于所述第一训练分词集中；获取模块，用于获取所述新分词的训练文本，对所述新分词的训练文本进行分词处理，得到所述新分词的训练分词，利用所述新分词和所述新分词的训练分词组成第二训练分词集；第二处理模块，用于对所述第二训练分词集进行word2vec处理，得到所述第二训练分词集中每个训练分词的词向量；确定模块，用于根据所述第一训练分词集中每个训练分词的词向量和所述第二训练分词集中每个训练分词的词向量，确定出所述新分词加入至所述第一训练分词集中的词向量。

进一步地，所述确定模块，包括：选取子模块，用于从所述第二训练分词集中，选取出满足预设条件的训练分词；确定子模块，用于根据所述满足预设条件的训练分词在所述第一训练分词集中的词向量和所述满足预设条件的训练分词在所述第二训练分词集中的词向量，确定出所述新分词加入至所述第一训练分词集中的词向量。

进一步地，所述选取子模块，具体用于在所述第二训练分词集中，计算每个训练分词的词向量与新分词的词向量之间的相似度；根据所述每个训练分词的词向量与新分词的词向量之间的相似度，按照从大到小的顺序从所述第二训练分词集中选取出预设数目的训练分词。

进一步地，所述选取子模块，具体用于从所述第二训练分词集中，按照训练分词选取策略选取训练分词；其中，所述训练分词选取策略为：选取的训练分词的词向量与所述新分词的词向量之间的相似度大于预设值。

进一步地，所述确定子模块，具体用于：对所述满足预设条件的训练分词在所述第二训练分词集中的词向量进行加权平均计算，得到第一加权中心向量；计算所述新分词的词向量与所述第一加权中心向量之间的相似度；对所述满足预设条件的训练分词在所述第一训练分词集中的词向量进行加权平均计算，得到第二加权中心向量；基于相似度相等规则，根据所述新分词的词向量与所述第一加权中心向量之间的相似度和所述第二加权中心向量，确定出所述新分词加入至所述第一训练分词集中的词向量；其中，所述相似度相等规则为：所述新分词的词向量与所述第一加权中心向量之间的相似度等于所述新分词加入至所述第一训练分词集中的词向量与所述第二加权中心向量之间的相似度。

本发明实施例所提供的一种词向量的生成方法和装置，对获取到的第一训练分词集进行word2vec处理，得到第一训练分词集中每个训练分词的词向量；接收新分词；其中，新分词不存在于第一训练分词集中；那么，为了将新分词加入第一训练分词集中，先获取新分词的训练文本，对新分词的训练文本进行分词处理，得到新分词的训练分词，利用新分词和新分词的训练分词组成第二训练分词集；然后对第二训练分词集进行word2vec处理，得到第二训练分词集中每个训练分词的词向量；这样，得到了第二训练分词集，最后，根据第一训练分词集中每个训练分词的词向量和第二训练分词集中每个训练分词的词向量，确定出新分词加入至第一训练分词集中的词向量，也就是说，在本发明实施例中，不需要将新分词加入至第一训练分词集中重新进行训练处理，只需要根据新分词得到第二训练分词集，就可以根据第一训练分词集中每个训练分词的词向量和第二训练分词集中每个训练分词的词向量，确定出新分词加入至第一训练分词集中的词向量，这样，避免新分词加入时重新训练所需的运算量，不用丢失原有的训练信息，缩短了新分词加入时生成词向量的时间，进而提高了word2vec的鲁棒性。

附图说明

图1为实现本发明各个实施例的一种可选的终端的硬件结构示意图；

图2为如图1所示的移动终端的无线通信系统示意图；

图3为本发明实施例一中的词向量的生成方法的流程示意图；

图4为本发明实施例二中的词向量的生成方法的一种可选的流程示意图；

图5为本发明实施例二中的词向量的生成方法的另一种可选的流程示意图；

图6为本发明实施例三中的词向量的生成装置的结构示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述。

现在将参考附图1来描述实现本发明各个实施例的终端。在后续的描述中，使用用于表示元件的诸如“模块”、“部件”或“单元”的后缀仅为了有利于本发明的说明，其本身并没有特定的意义。因此，"模块"与"部件"可以混合地使用。

终端可以以各种形式来实施。例如，本发明中描述的终端可以包括诸如移动电话、智能电话、笔记本电脑、数字广播接收器、个人数字助理(PDA)、平板电脑(PAD)、便携式多媒体播放器(PMP)、导航装置等等的终端以及诸如数字TV、台式计算机等等的固定终端。下面，假设终端是终端。然而，本领域技术人员将理解的是，除了特别用于移动目的的元件之外，根据本发明的实施方式的构造也能够应用于固定类型的终端。

图1为实现本发明各个实施例的一种可选的终端的硬件结构示意图。

如图1所示，终端100可以包括无线通信单元110、音频/视频(A/V)输入单元120、用户输入单元130、感测单元140、输出单元150、存储器160、接口单元170、控制器180和电源单元190等等。图1示出了具有各种组件的终端，但是应理解的是，并不要求实施所有示出的组件，可以替代地实施更多或更少的组件，将在下面详细描述终端的元件。

无线通信单元110通常包括一个或多个组件，其允许终端100与无线通信系统或网络之间的无线电通信。例如，无线通信单元可以包括广播接收模块111、移动通信模块112、无线互联网模块113、短程通信模块114和位置信息模块115中的至少一个。

广播接收模块111经由广播信道从外部广播管理服务器接收广播信号和/或广播相关信息。广播信道可以包括卫星信道和/或地面信道。广播管理服务器可以是生成并发送广播信号和/或广播相关信息的服务器或者接收之前生成的广播信号和/或广播相关信息并且将其发送给终端的服务器。广播信号可以包括TV广播信号、无线电广播信号、数据广播信号等等。而且，广播信号可以进一步包括与TV或无线电广播信号组合的广播信号。广播相关信息也可以经由移动通信网络提供，并且在该情况下，广播相关信息可以由移动通信模块112来接收。广播信号可以以各种形式存在，例如，其可以以数字多媒体广播(DMB)的电子节目指南(EPG)、数字视频广播手持(DVB-H)的电子服务指南(ESG)等等的形式而存在。广播接收模块111可以通过使用各种类型的广播系统接收信号广播。特别地，广播接收模块111可以通过使用诸如多媒体广播-地面(DMB-T)、数字多媒体广播-卫星(DMB-S)、数字视频广播-手持(DVB-H)，前向链路媒体(MediaFLO@)的数据广播系统、地面数字广播综合服务(ISDB-T)等等的数字广播系统接收数字广播。广播接收模块111可以被构造为适合提供广播信号的各种广播系统以及上述数字广播系统。经由广播接收模块111接收的广播信号和/或广播相关信息可以存储在存储器160(或者其它类型的存储介质)中。

移动通信模块112将无线电信号发送到基站(例如，接入点、节点B等等)、外部终端以及服务器中的至少一个和/或从其接收无线电信号。这样的无线电信号可以包括语音通话信号、视频通话信号、或者根据文本和/或多媒体消息发送和/或接收的各种类型的数据。

无线互联网模块113支持终端的无线互联网接入。该模块可以内部或外部地耦接到终端。该模块所涉及的无线互联网接入技术可以包括WLAN(无线LAN)(Wi-Fi)、Wibro(无线宽带)、Wimax(全球微波互联接入)、HSDPA(高速下行链路分组接入)等等。

短程通信模块114是用于支持短程通信的模块。短程通信技术的一些示例包括蓝牙TM、射频识别(RFID)、红外数据协会(IrDA)、超宽带(UWB)、紫蜂^TM等等。

位置信息模块115是用于检查或获取终端的位置信息的模块。位置信息模块115的典型示例是GPS。根据当前的技术，作为GPS的位置信息模块115计算来自三个或更多卫星的距离信息和准确的时间信息并且对于计算的信息应用三角测量法，从而根据经度、纬度和高度准确地计算三维当前位置信息。当前，用于计算位置和时间信息的方法使用三颗卫星并且通过使用另外的一颗卫星校正计算出的位置和时间信息的误差。此外，GPS模块115能够通过实时地连续计算当前位置信息来计算速度信息。

A/V输入单元120用于接收音频或视频信号。A/V输入单元120可以包括相机121和麦克风122，相机121对在视频捕获模式或图像捕获模式中由图像捕获装置获得的静态图片或视频的图像数据进行处理。处理后的图像帧可以显示在显示单元151上。经相机121处理后的图像帧可以存储在存储器160(或其它存储介质)中或者经由无线通信单元110进行发送，可以根据终端的构造提供两个或更多相机121。麦克风122可以在电话通话模式、记录模式、语音识别模式等等运行模式中经由麦克风122接收声音(音频数据)，并且能够将这样的声音处理为音频数据。处理后的音频(语音)数据可以在电话通话模式的情况下转换为可经由移动通信模块112发送到移动通信基站的格式输出。麦克风122可以实施各种类型的噪声消除(或抑制)算法以消除(或抑制)在接收和发送音频信号的过程中产生的噪声或者干扰。

用户输入单元130可以根据用户输入的命令生成键输入数据以控制终端的各种操作。用户输入单元130允许用户输入各种类型的信息，并且可以包括键盘、锅仔片、触摸板(例如，检测由于被接触而导致的电阻、压力、电容等等的变化的触敏组件)、滚轮、摇杆等等。特别地，当触摸板以层的形式叠加在显示单元151上时，可以形成触摸屏。

感测单元140检测终端100的当前状态，(例如，终端100的打开或关闭状态)、终端100的位置、用户对于终端100的接触(即，触摸输入)的有无、终端100的取向、终端100的加速或减速移动和方向等等，并且生成用于控制终端100的操作的命令或信号。例如，当终端100实施为滑动型移动电话时，感测单元140可以感测该滑动型电话是打开还是关闭。另外，感测单元140能够检测电源单元190是否提供电力或者接口单元170是否与外部装置耦接。感测单元140可以包括接近传感器141将在下面结合触摸屏来对此进行描述。

接口单元170用作至少一个外部装置与终端100连接可以通过的接口。例如，外部装置可以包括有线或无线头戴式耳机端口、外部电源(或电池充电器)端口、有线或无线数据端口、存储卡端口、用于连接具有识别模块的装置的端口、音频输入/输出(I/O)端口、视频I/O端口、耳机端口等等。识别模块可以是存储用于验证用户使用终端100的各种信息并且可以包括用户识别模块(UIM)、客户识别模块(SIM)、通用客户识别模块(USIM)等等。另外，具有识别模块的装置(下面称为"识别装置")可以采取智能卡的形式，因此，识别装置可以经由端口或其它连接装置与终端100连接。接口单元170可以用于接收来自外部装置的输入(例如，数据信息、电力等等)并且将接收到的输入传输到终端100内的一个或多个元件或者可以用于在终端和外部装置之间传输数据。

另外，当终端100与外部底座连接时，接口单元170可以用作允许通过其将电力从底座提供到终端100的路径或者可以用作允许从底座输入的各种命令信号通过其传输到终端的路径。从底座输入的各种命令信号或电力可以用作用于识别终端是否准确地安装在底座上的信号。输出单元150被构造为以视觉、音频和/或触觉方式提供输出信号(例如，音频信号、视频信号、警报信号、振动信号等等)。输出单元150可以包括显示单元151、音频输出模块152、警报单元153等等。

显示单元151可以显示在终端100中处理的信息。例如，当终端100处于电话通话模式时，显示单元151可以显示与通话或其它通信(例如，文本消息收发、多媒体文件下载等等)相关的用户界面(UI)或图形用户界面(GUI)。当终端100处于视频通话模式或者图像捕获模式时，显示单元151可以显示捕获的图像和/或接收的图像、示出视频或图像以及相关功能的UI或GUI等等。

同时，当显示单元151和触摸板以层的形式彼此叠加以形成触摸屏时，显示单元151可以用作输入装置和输出装置。显示单元151可以包括液晶显示器(LCD)、薄膜晶体管LCD(TFT-LCD)、有机发光二极管(OLED)显示器、柔性显示器、三维(3D)显示器等等中的至少一种。这些显示器中的一些可以被构造为透明状以允许用户从外部观看，这可以称为透明显示器，典型的透明显示器可以例如为TOLED(透明有机发光二极管)显示器等等。根据特定想要的实施方式，终端100可以包括两个或更多显示单元(或其它显示装置)，例如，终端可以包括外部显示单元(未示出)和内部显示单元(未示出)。触摸屏可用于检测触摸输入压力以及触摸输入位置和触摸输入面积。

音频输出模块152可以在终端处于呼叫信号接收模式、通话模式、记录模式、语音识别模式、广播接收模式等等模式下时，将无线通信单元110接收的或者在存储器160中存储的音频数据转换音频信号并且输出为声音。而且，音频输出模块152可以提供与终端100执行的特定功能相关的音频输出(例如，呼叫信号接收声音、消息接收声音等等)。音频输出模块152可以包括扬声器、蜂鸣器等等。

存储器160可以存储由控制器180执行的处理和控制操作的软件程序等等，或者可以暂时地存储已经输出或将要输出的数据(例如，电话簿、消息、静态图像、视频等等)。而且，存储器160可以存储关于当触摸施加到触摸屏时输出的各种方式的振动和音频信号的数据。

存储器160可以包括至少一种类型的存储介质，所述存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如，SD或DX存储器等等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘等等。而且，终端100可以与通过网络连接执行存储器160的存储功能的网络存储装置协作。

控制器180通常控制终端的总体操作。例如，控制器180执行与语音通话、数据通信、视频通话等等相关的控制和处理。另外，控制器180可以包括用于再现(或回放)多媒体数据的多媒体模块181，多媒体模块181可以构造在控制器180内，或者可以构造为与控制器180分离。控制器180可以执行模式识别处理，以将在触摸屏上执行的手写输入或者图片绘制输入识别为字符或图像。

电源单元190在控制器180的控制下接收外部电力或内部电力并且提供操作各元件和组件所需的适当的电力。

这里描述的各种实施方式可以以使用例如计算机软件、硬件或其任何组合的计算机可读介质来实施。对于硬件实施，这里描述的实施方式可以通过使用特定用途集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理装置(DSPD)、可编程逻辑装置(PLD)、现场可编程门阵列(FPGA)、处理器、控制器、微控制器、微处理器、被设计为执行这里描述的功能的电子单元中的至少一种来实施，在一些情况下，这样的实施方式可以在控制器180中实施。对于软件实施，诸如过程或功能的实施方式可以与允许执行至少一种功能或操作的单独的软件模块来实施。软件代码可以由以任何适当的编程语言编写的软件应用程序(或程序)来实施，软件代码可以存储在存储器160中并且由控制器180执行。

至此，已经按照其功能描述了终端。下面，为了简要起见，将描述诸如折叠型、直板型、摆动型、滑动型终端等等的各种类型的终端中的滑动型终端作为示例。因此，本发明能够应用于任何类型的终端，并且不限于滑动型终端。

如图1中所示的终端100可以被构造为利用经由帧或分组发送数据的诸如有线和无线通信系统以及基于卫星的通信系统来操作。

现在将参考图2描述其中根据本发明的移动终端能够操作的通信系统。

这样的通信系统可以使用不同的空中接口和/或物理层。例如，由通信系统使用的空中接口包括例如频分多址(FDMA)、时分多址(TDMA)、码分多址(CDMA)和通用移动通信系统(UMTS)(特别地，长期演进(LTE))、全球移动通信系统(GSM)等等。作为非限制性示例，下面的描述涉及CDMA通信系统，但是这样的教导同样适用于其它类型的系统。

参考图2，CDMA无线通信系统可以包括多个移动终端100、多个基站(BS)270、基站控制器(BSC)275和移动交换中心(MSC)280。MSC280被构造为与公共电话交换网络(PSTN)290形成接口。MSC280还被构造为与可以经由回程线路耦接到基站270的BSC275形成接口。回程线路可以根据若干已知的接口中的任一种来构造，所述接口包括例如E1/T1、ATM，IP、PPP、帧中继、HDSL、ADSL或xDSL。将理解的是，如图2中所示的系统可以包括多个BSC275。

每个BS270可以服务一个或多个分区(或区域)，由多向天线或指向特定方向的天线覆盖的每个分区放射状地远离BS270。或者，每个分区可以由用于分集接收的两个或更多天线覆盖。每个BS270可以被构造为支持多个频率分配，并且每个频率分配具有特定频谱(例如，1.25MHz,5MHz等等)。

分区与频率分配的交叉可以被称为CDMA信道。BS270也可以被称为基站收发器子系统(BTS)或者其它等效术语。在这样的情况下，术语“基站”可以用于笼统地表示单个BSC275和至少一个BS270。基站也可以被称为“蜂窝站”。或者，特定BS270的各分区可以被称为多个蜂窝站。

如图2中所示，广播发射器(BT)295将广播信号发送给在系统内操作的移动终端100。如图1中所示的广播接收模块111被设置在移动终端100处以接收由BT295发送的广播信号。在图2中，示出了几个全球定位系统(GPS)卫星300。卫星300帮助定位多个移动终端100中的至少一个。

在图2中，描绘了多个卫星300，但是理解的是，可以利用任何数目的卫星获得有用的定位信息。如图1中所示的GPS模块115通常被构造为与卫星300配合以获得想要的定位信息。替代GPS跟踪技术或者在GPS跟踪技术之外，可以使用可以跟踪移动终端的位置的其它技术。另外，至少一个GPS卫星300可以选择性地或者额外地处理卫星DMB传输。

作为无线通信系统的一个典型操作，BS270接收来自各种移动终端100的反向链路信号。移动终端100通常参与通话、消息收发和其它类型的通信。特定基站270接收的每个反向链路信号被在特定BS270内进行处理。获得的数据被转发给相关的BSC275。BSC提供通话资源分配和包括BS270之间的软切换过程的协调的移动管理功能。BSC275还将接收到的数据路由到MSC280，其提供用于与PSTN290形成接口的额外的路由服务。类似地，PSTN290与MSC280形成接口，MSC与BSC275形成接口，并且BSC275相应地控制BS270以将正向链路信号发送到移动终端100。

下面将基于上述终端硬件结构以及通信系统，提出本发明方法各个实施例。

下面结合附图和具体实施例对本发明的技术方案进一步详细阐述。

实施例一

基于前述的实施例，本发明实施例提供一种词向量的生成方法，该方法应用于词向量的生成装置，其中，该装置可以为设置于上述终端中，该词向量的生成方法所实现的功能可以通过终端中的处理器调用程序代码来实现，当然程序代码可以保存在计算机存储介质中，可见，该终端至少包括处理器和存储介质。

本实施例提供一种词向量的生成方法，图3为本发明实施例一中的词向量的生成方法的流程示意图，参考图3所示，上述词向量的生成方法包括：

S301：对获取到的第一训练分词集进行word2vec处理，得到第一训练分词集中每个训练分词的词向量；

具体来说，首先，采集现有的训练文本，现有的训练文本可以是从网页、贴吧、论坛等中采集到的，这里，尽可能多且广泛地采集现有训练文本，使得能够采集到涵盖尽可能大的现有的训练文本。

在获取到尽可能大的现有的训练文本之后，对现有的训练文本使用分词工具进行分词，得到现有训练文本的训练分词，利用现有训练文本的训练分词组成第一训练分词集，其中，之所以采集尽可能大的现有的训练文本，是因为只有尽可能大的现有的训练文本，才能够保证得到的第一训练分词集中的训练分词尽可能多。

另外，在获取到包含有足够多的训练分词的第一训练分词集之后，对第一训练分词集进行word2vec处理，可以得到第一训练分词集中每个训练分词的词向量，这样，第一训练分词集中每个训练分词都可以用一个词向量来表示，那么，可以通过计算训练分词的词向量之间的相似度来表示单词/词语在语义上的相似度。

这里，需要说明的是，第一训练分词集中每个训练分词的词向量均为n维的向量。

S302：接收新分词；

在具体实施过程中，经过S301之后，就获取到了第一训练分词集中每个训练分词的词向量，那么，当出现一个新分词时，由于新分词不存在于第一训练分词集中，所以，在接收到新分词之后，通过查找发现该新分词不存在于第一训练分词集中时，需要将新出现的新分词加入至第一训练分词集中，从而完善第一训练分词集。

S303：获取新分词的训练文本，对新分词的训练文本进行分词处理，得到新分词的训练分词，利用新分词和新分词的训练分词组成第二训练分词集；

在具体实施过程中，为了避免加入新分词时的重新训练，仍然能够达到将新分词加入至第一训练分词集的目的，在S303中，首先，根据新分词使用爬虫工具从网络服务器上抓取与新分词相关的语料库，将与新分词相关的语料库作为新分词的训练文本，然后，对新分词的训练文本使用分词工具进行分词处理，从而得到新分词的训练分词。

这样，新分词和新分词的训练分词便组成了第二训练分词集。

其中，上述分词工具包括：StandardAnalyzer，或者ChineseAnalyzer，或者CJKAnalyzer，这里，本发明实施例不限于此。

至此，便获取到包含有新分词的第二训练分词集。

S304：对第二训练分词集进行word2vec处理，得到第二训练分词集中每个训练分词的词向量；

在具体实施过程中，通过S303，获取到了包含有新分词的第二训练分词集，为了得到第二训练分词集中每个训练分词的词向量，那么，采用与对第一训练分词集相同的处理方式，对第二训练分词集进行word2vec处理，从而得到了第二训练分词集中每个训练分词的词向量；

也就是说，第二训练分词集中每个训练分词的词向量包括有新分词的词向量。

其中，第二训练分词集中每个训练分词的词向量均为n维的向量，可见，第一训练分词集中每个训练分词的词向量的维度与第二训练分词集中每个训练分词的词向量的维度是相等的。

S305：根据第一训练分词集中每个训练分词的词向量和第二训练分词集中每个训练分词的词向量，确定出新分词加入至第一训练分词集中的词向量。

具体来说，在获取到上述第一训练分词集中每个训练分词的词向量和第二训练分词集中每个训练分词的词向量之后，可以采用以下任意一种方式来确定出新分词加入至第一训练分词集中的词向量：

举例来说，可以通过筛选的方式筛选出第二训练分词集中的部分训练分词，基于上述第二训练分词集中的部分训练分词的词向量和该部分训练分词在第一训练分词集中的词向量来确定出新分词加入至第一训练分词集中的词向量，也可以基于上述第二训练分词集中的全部训练分词的词向量和该全部训练分词在第一训练分词集中的词向量来确定出新分词加入至第一训练分词集中的词向量；这里，本发明实施例不做具体限定。

这样，便确定出了新分词加入至第一训练分词集中的词向量，从而将新分词加入至第一训练分词集中，进而完善了第一训练分词集。

本发明实施例所提供的一种词向量的生成方法，对获取到的第一训练分词集进行word2vec处理，得到第一训练分词集中每个训练分词的词向量；接收新分词；其中，新分词不存在于第一训练分词集中；那么，为了将新分词加入第一训练分词集中，先获取新分词的训练文本，对新分词的训练文本进行分词处理，得到新分词的训练分词，利用新分词和新分词的训练分词组成第二训练分词集；然后对第二训练分词集进行word2vec处理，得到第二训练分词集中每个训练分词的词向量；这样，得到了第二训练分词集，最后，根据第一训练分词集中每个训练分词的词向量和第二训练分词集中每个训练分词的词向量，确定出新分词加入至第一训练分词集中的词向量，也就是说，在本发明实施例中，不需要将新分词加入至第一训练分词集中重新进行训练处理，只需要根据新分词得到第二训练分词集，就可以根据第一训练分词集中每个训练分词的词向量和第二训练分词集中每个训练分词的词向量，确定出新分词加入至第一训练分词集中的词向量，这样，避免新分词加入时重新训练所需的运算量，不用丢失原有的训练信息，缩短了新分词加入时生成词向量的时间，进而提高了word2vec的鲁棒性。

实施例二

基于前述的实施例，本实施例提供一种词向量的生成方法，该方法可以应用于终端，该词向量的生成方法所实现的功能可以通过终端中的处理器调用程序代码来实现，当然程序代码可以保存在计算机存储介质中，可见，该终端至少包括处理器和存储介质。

在上述实施例一的基础上，图4为本发明实施例二中的词向量的生成方法的一种可选的流程示意图，参考图4所示，S305可以包括：

S401：从第二训练分词集中，选取出满足预设条件的训练分词；

具体来说，针对从第二训练分词集中选取出满足预设条件的训练分词的方式有多种，这里，为了选取出满足预设条件的训练分词，在一种可选的实施例中，S401可以包括：

在第二训练分词集中，计算每个训练分词的词向量与新分词的词向量之间的相似度；根据每个训练分词的词向量与新分词的词向量之间的相似度，按照从大到小的顺序从第二训练分词集中选取出预设数目的训练分词。

具体来说，首先，采用余弦相似度算法，计算出第二训练分词集中每个训练分词的词向量与新分词的词向量之间的相似度，得到第二训练分词集中每个训练分词的词向量与新分词的词向量之间的相似度；然后，将得到的各相似度按照从大到小的顺序进行排序，然后按照从大到小的顺序选取出预设数目N的相似度对应的训练分词。

在另一种可选的实施例中，为了选取出满足预设条件的训练分词，S401还可以包括：

从第二训练分词集中，按照训练分词选取策略选取训练分词；

其中，训练分词选取策略为：选取的训练分词的词向量与新分词的词向量之间的相似度大于预设值。

在具体实施过程中，同样地，采用余弦相似度算法，计算出第二训练分词集中每个训练分词的词向量与新分词的词向量之间的相似度，得到第二训练分词集中每个训练分词的词向量与新分词的词向量之间的相似度；然后，将得到的各相似度与预设值进行比较，将相似度大于预设值所对应的训练分词选取出来。

这样，通过上述实施例就可以从第二训练分词集中选取出与新分词最相关的训练分词，那么利用这些训练分词来确定新分词加入至第一训练分词集中的词向量，不仅可以减少运算量，还可以提高word2vec的鲁棒性。

S402：根据满足预设条件的训练分词在第一训练分词集中的词向量和满足预设条件的训练分词在第二训练分词集中的词向量，确定出新分词加入至第一训练分词集中的词向量。

通过S401选取出满足预设条件的训练分词之后，可以在第一训练分词集中查找出该满足预设条件的训练分词，并确定出该满足预设条件的训练分词在第一训练分词中的词向量。

这里，需要说明的是，当上述满足预设条件的训练分词仅仅有一部分存在于第一训练分词集中时，可以基于该部分在第一训练分词集中的词向量和该部分在第二训练分词集中的词向量来确定出新分词加入至第一训练分词集中的词向量。

在S402中，为了确定出新分词加入至第一训练分词集中的词向量，在一种可选的实施例中，S402可以包括：

对满足预设条件的训练分词在第二训练分词集中的词向量进行加权平均计算，得到第一加权中心向量；计算新分词的词向量与第一加权中心向量之间的相似度；对满足预设条件的训练分词在第一训练分词集中的词向量进行加权平均计算，得到第二加权中心向量；基于相似度相等规则，根据新分词的词向量与第一加权中心向量之间的相似度和第二加权中心向量，确定出新分词加入至第一训练分词集中的词向量；

其中，上述相似度相等规则为：新分词的词向量与第一加权中心向量之间的相似度等于新分词加入至第一训练分词集中的词向量与第二加权中心向量之间的相似度。

下面举实例来对上述词向量的生成方法中的一个或多个实施例进行说明。

图5为本发明实施例二中的词向量的生成方法的另一种可选的流程示意图，参考图5所示，该词向量的生成方法包括：

S501：对现有的训练集T1(尽可能大)，使用分词工具分词，并训练得到每个词的word2vec词向量，形成一个模型M1。

S502：当出现一个新词W(即在模型M1中不存在的词)时，使用爬虫工具，在网页上抓取与新词相关的语料库。

S503：将步骤S502抓取的新语料库作为新的训练集T2，使用分词工具分词(确保新词不被分词器切分)，训练得到T2中的每个词的词向量，形成一个模型M2。

S504：在训练好的模型M2中，使用余弦相似度算法，计算M2中各个词的词向量与新词的词向量W之间的相似度，并选取出相似度大于相似度阈值的词，假设选取出N个词，N的取值取决于相似度阈值的设定大小，例如，设定阈值为p时，在M2中找出所有与新词的词向量W相近的词的词向量W'必须满足如下公式：

{Similarity(W,W')＞p,W'∈M2} (1)

其中，n为词向量的维度，W_i表示新词的词向量W的第i维坐标，W_i'为M2中每个词的第i维坐标。

由上述公式(1)和公式(2)可以得到大于p的词向量W'有N个。

S505：保存N个词向量W'。

S506：按照下述公式计算N个词向量W'的加权中心向量(该向量是在模型M2中的词向量)：

其中，N个词在模型M2中的向量分别为ω₁,ω₂,…,ω_N。

S507：按照下述公式计算新词的W与加权中心向量的相似度q：

S508：按照下述公式计算模型M1中相同的N个词的加权中心向量：

其中，N个相近词在模型M1中的向量分别为ω₁',ω₂',…,ω_N'，每个向量的权重采用步骤S506中的权重；

S509：从满足下述公式的模型M1中找到任意一个向量D：

其中，q为S507中计算得到的相似度，而此时得到的向量D即为新词在模型M1中的词向量。

实施例三

基于前述的方法实施例，本实施例提供一种词向量的生成装置，该装置可以设置于终端中，该装置中的第一处理模块、接收模块、获取模块、第二处理模块和确定模块，都可以通过终端中的处理器来实现，当然也可通过具体的逻辑电路实现；在具体实施例的过程中，处理器可以为中央处理器(CPU)、微处理器(MPU)、数字信号处理器(DSP)或现场可编程门阵列(FPGA)等。

本实施例所提供的词向量的生成装置，图6为本发明实施例三中的词向量的生成装置的结构示意图，如图6所示，该终端包括第一处理模块61、接收模块62、获取模块63、第二处理模块64和确定模块65，

其中，第一处理模块61，用于对获取到的第一训练分词集进行word2vec处理，得到第一训练分词集中每个训练分词的词向量；接收模块62，用于接收新分词；其中，新分词不存在于第一训练分词集中；获取模块63，用于获取新分词的训练文本，对新分词的训练文本进行分词处理，得到新分词的训练分词，利用新分词和新分词的训练分词组成第二训练分词集；第二处理模块64，用于对第二训练分词集进行word2vec处理，得到第二训练分词集中每个训练分词的词向量；确定模块65，用于根据第一训练分词集中每个训练分词的词向量和第二训练分词集中每个训练分词的词向量，确定出新分词加入至所述第一训练分词集中的词向量。

为了确定出新分词加入至所述第一训练分词集中的词向量，在一种可选的实施例中，上述确定模块65，包括：选取子模块，用于从第二训练分词集中，选取出满足预设条件的训练分词；确定子模块，用于根据满足预设条件的训练分词在第一训练分词集中的词向量和满足预设条件的训练分词在第二训练分词集中的词向量，确定出新分词加入至第一训练分词集中的词向量。

为了从第二训练分词集中选取出满足预设条件的训练分词，在一种可选的实施例中，上述选取子模块，具体用于在第二训练分词集中，计算每个训练分词的词向量与新分词的词向量之间的相似度；根据每个训练分词的词向量与新分词的词向量之间的相似度，按照从大到小的顺序从第二训练分词集中选取出预设数目的训练分词。

为了从第二训练分词集中选取出满足预设条件的训练分词，在一种可选的实施例中，上述选取子模块，具体用于从第二训练分词集中，按照训练分词选取策略选取训练分词；其中，训练分词选取策略为：选取的训练分词的词向量与新分词的词向量之间的相似度大于预设值。

在从第二训练分词集中选取出满足预设条件的训练分词之后，为了基于满足预设条件的训练分词确定出新分词加入至第一训练分词集中的词向量，在一种可选的实施例中，上述确定子模块，具体用于：对满足预设条件的训练分词在第二训练分词集中的词向量进行加权平均计算，得到第一加权中心向量；计算新分词的词向量与第一加权中心向量之间的相似度；对满足预设条件的训练分词在第一训练分词集中的词向量进行加权平均计算，得到第二加权中心向量；基于相似度相等规则，根据新分词的词向量与第一加权中心向量之间的相似度和第二加权中心向量，确定出新分词加入至第一训练分词集中的词向量；其中，上述相似度相等规则为：新分词的词向量与第一加权中心向量之间的相似度等于新分词加入至第一训练分词集中的词向量与第二加权中心向量之间的相似度。

这里需要指出的是：以上装置实施例项的描述，与上述方法描述是类似的，具有同方法实施例相同的有益效果，因此不做赘述。对于本发明装置实施例中未披露的技术细节，本领域的技术人员请参照本发明方法实施例的描述而理解，为节约篇幅，这里不再赘述。

这里需要指出的是：

应理解，说明书通篇中提到的“一个实施例”或“一实施例”意味着与实施例有关的特定特征、结构或特性包括在本发明的至少一个实施例中。因此，在整个说明书各处出现的“在一个实施例中”或“在一实施例中”未必一定指相同的实施例。此外，这些特定的特征、结构或特性可以任意适合的方式结合在一个或多个实施例中。应理解，在本发明的各种实施例中，上述各过程的序号的大小并不意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应对本发明实施例的实施过程构成任何限定。上述本发明实施例序号仅仅为了描述，不代表实施例的优劣。

需要说明的是，在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。

在本申请所提供的几个实施例中，应该理解到，所揭露的设备和方法，可以通过其它的方式实现。以上所描述的设备实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，如：多个单元或组件可以结合，或可以集成到另一个系统，或一些特征可以忽略，或不执行。另外，所显示或讨论的各组成部分相互之间的耦合、或直接耦合、或通信连接可以是通过一些接口，设备或单元的间接耦合或通信连接，可以是电性的、机械的或其它形式的。

上述作为分离部件说明的单元可以是、或也可以不是物理上分开的，作为单元显示的部件可以是、或也可以不是物理单元；既可以位于一个地方，也可以分布到多个网络单元上；可以根据实际的需要选择其中的部分或全部单元来实现本实施例方案的目的。

另外，在本发明各实施例中的各功能单元可以全部集成在一个处理单元中，也可以是各单元分别单独作为一个单元，也可以两个或两个以上单元集成在一个单元中；上述集成的单元既可以采用硬件的形式实现，也可以采用硬件加软件功能单元的形式实现。

本领域普通技术人员可以理解：实现上述方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成，前述的程序可以存储于计算机可读取存储介质中，该程序在执行时，执行包括上述方法实施例的步骤；而前述的存储介质包括：移动存储设备、只读存储器(Read Only Memory，ROM)、磁碟或者光盘等各种可以存储程序代码的介质。

或者，本发明上述集成的单元如果以软件功能模块的形式实现并作为独立的产品销售或使用时，也可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明实施例的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机、服务器、或者网络设备等)执行本发明各个实施例所述方法的全部或部分。而前述的存储介质包括：移动存储设备、ROM、磁碟或者光盘等各种可以存储程序代码的介质。

以上所述，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应以所述权利要求的保护范围为准。