情感词汇的识别方法及装置与流程

文档序号:12464657阅读:308来源:国知局
情感词汇的识别方法及装置与流程

本发明涉及一种信息识别技术领域,特别是涉及一种情感词汇的识别方法及装置。



背景技术:

随着网络技术的蓬勃发展,互联网已经越来越成为现代社会各种信息的载体,并逐渐倡导“以用户为中心,用户参与”的开放式架构理念。互联网上产生了大量包含用户评论的文本信息,这些文本信息表达了用户的各种情感色彩和情感倾向性,例如喜、怒、哀、乐和批评、赞扬等。进而潜在的用户就可以通过浏览这些主观色彩的评论来了解大众舆论对于某一事件或产品的看法或情感倾向。

为了对包含用户评论的文本信息进行有效的分析,需要从文本信息中识别出存在的情感词汇,目前可以预先选出一组情感种子集合,再将文本信息进行分词处理得到候选词汇,然后计算候选词汇与情感种子集合之间的相关度来判断候选词汇的情感倾向,进而识别出文本信息中存在的情感词汇。

然而,上述方法的识别结果很大程度上依赖情感种子集合的质量,需要预先收集大量的情感种子词,工作量较大,会造成情感词汇识别的成本较高,并且如果情感种子词选择的不合适,还会影响情感词汇识别的准确性。



技术实现要素:

有鉴于此,本发明提供了一种情感词汇的识别方法及装置,主要目的在于可以准确的识别出文本信息中存在的情感词汇。

依据本发明一个方面,提供了一种情感词汇的识别方法,该方法包括:

根据文本信息的情感倾向性,对所述文本信息进行正负向情感标记,以及对所述文本信息进行分词处理,得到多个情感候选词汇;

根据所述文本信息的正负向情感标记结果和卡方统计特征选择算法,从所述多个情感候选词汇中统计得到词汇卡方值大于或等于预设阈值的第一情感词汇候选集合;

根据所述文本信息的正负向情感标记结果和逻辑回归分类算法,计算所述第一情感词汇候选集合中每个情感候选词汇对应的情感倾向强度值;

将所述第一情感词汇候选集合中情感倾向强度值大于或等于预设强度阈值的情感候选词汇,确定为所述文本信息中存在的情感词汇。

具体地,所述根据所述文本信息的正负向情感标记结果和逻辑回归分类算法,计算所述第一情感词汇候选集合中每个情感候选词汇对应的情感倾向强度值,具体包括:

计算所述第一情感词汇候选集合中情感候选词汇的tf-idf值,作为所述情感候选词汇的特征值;

以所述情感候选词汇的特征值和所述文本信息的正负向情感标记结果作为计算参数,根据逻辑回归分类算法,计算所述第一情感词汇候选集合中每个情感候选词汇对应的情感倾向强度值。

进一步地,所述方法还包括:

根据所述文本信息的正负向情感标记结果和卡方统计特征选择算法,从所述多个情感候选词汇中统计得到词汇卡方值小于所述预设阈值的第二情感词汇候选集合;

利用知网的相似度计算方法,计算所述第二情感词汇候选集合中每个情感候选词汇对应的情感倾向强度值;

将所述第二情感词汇候选集合中情感倾向强度值大于或等于预设强度阈值的情感候选词汇,确定为所述文本信息中存在的情感词汇。

具体地,所述利用知网的相似度计算方法,计算所述第二情感词汇候选集合中每个情感候选词汇对应的情感倾向强度值,具体包括:

将所述第二情感词汇候选集合中的情感候选词汇与正向情感词汇集合中的每个正向情感词汇分别计算语义相似度,并计算所述语义相似度相加求和后的第一平均值,以及将所述情感候选词汇与负向情感词汇集合中的每个负向情感词汇分别计算语义相似度,并计算所述语义相似度相加求和后的第二平均值;

将所述第一平均值与所述第二平均值之差,确定为所述情感候选词汇的情感倾向强度值。

具体地,所述根据文本信息的情感倾向性,对所述文本信息进行正负向情感标记,具体包括:

计算文本信息中每个情感短语的情感倾向强度值加和后的平均值;

若所述平均值大于0,则对所述文本信息进行正向情感标记;

若所述平均值小于0,则对所述文本信息进行负向情感标记。

具体地,所述对所述文本信息进行分词处理,得到多个情感候选词汇,具体包括:

根据中文分词算法,对标记后的文本信息进行分词处理,得到多个词汇;

从所述多个词汇中过滤掉预定词性的词汇,得到多个情感候选词汇。

依据本发明另一个方面,提供了一种情感词汇的识别装置,该装置包括:

处理单元,用于根据文本信息的情感倾向性,对所述文本信息进行正负向情感标记,以及对所述文本信息进行分词处理,得到多个情感候选词汇;

统计单元,用于根据所述文本信息的正负向情感标记结果和卡方统计特征选择算法,从所述多个情感候选词汇中统计得到词汇卡方值大于或等于预设阈值的第一情感词汇候选集合;

计算单元,用于根据所述文本信息的正负向情感标记结果和逻辑回归分类算法,计算所述第一情感词汇候选集合中每个情感候选词汇对应的情感倾向强度值;

确定单元,用于将所述第一情感词汇候选集合中情感倾向强度值大于或等于预设强度阈值的情感候选词汇,确定为所述文本信息中存在的情感词汇。

具体地,所述计算单元,具体用于计算所述第一情感词汇候选集合中情感候选词汇的tf-idf值,作为所述情感候选词汇的特征值;

以所述情感候选词汇的特征值和所述文本信息的正负向情感标记结果作为计算参数,根据逻辑回归分类算法,计算所述第一情感词汇候选集合中每个情感候选词汇对应的情感倾向强度值。

进一步地,所述统计单元,还用于根据所述文本信息的正负向情感标记结果和卡方统计特征选择算法,从所述多个情感候选词汇中统计得到词汇卡方值小于所述预设阈值的第二情感词汇候选集合;

所述计算单元,还用于利用知网的相似度计算方法,计算所述第二情感词汇候选集合中每个情感候选词汇对应的情感倾向强度值;

所述确定单元,还用于将所述第二情感词汇候选集合中情感倾向强度值大于或等于预设强度阈值的情感候选词汇,确定为所述文本信息中存在的情感词汇。

具体地,所述计算单元包括:

计算模块,用于将所述第二情感词汇候选集合中的情感候选词汇与正向情感词汇集合中的每个正向情感词汇分别计算相似度,并计算所述相似度相加求和后的第一平均值,以及将所述情感候选词汇与负向情感词汇集合中的每个负向情感词汇分别计算语义相似度,并计算所述语义相似度相加求和后的第二平均值;

确定模块,用于将所述第一平均值与所述第二平均值之差,确定为所述情感候选词汇的情感倾向强度值。

具体地,所述处理单元,具体用于计算文本信息中每个情感短语的情感倾向强度值加和后的平均值;

若所述平均值大于0,则对所述文本信息进行正向情感标记;

若所述平均值小于0,则对所述文本信息进行负向情感标记。

具体地,所述处理单元,具体用于根据中文分词算法,对标记后的文本信息进行分词处理,得到多个词汇;

从所述多个词汇中过滤掉预定词性的词汇,得到多个情感候选词汇。

借由上述技术方案,本发明提供的一种情感词汇的识别方法及装置,与目前通过计算文本信息中的候选词汇与情感种子集合之间相似度来判断候选词汇的情感倾向的方式相比,本发明首先对文本信息进行正负向情感标记,并根据标记结果利用卡方统计特征选择算法,从文本信息的多个情感候选词汇中选取词汇卡方值大于或等于一定阈值的词汇,即选取出与情感倾向相关性较高的词汇,可以去除贡献度较低的词汇,进而达到降低特征维度的目的,从而保证了接下来再根据标记结果,利用逻辑回归分类算法计算这些选取出的词汇情感倾向强度值的准确性,最后根据预设强度阈值,识别出文本信息中存在的情感词汇,整个过程无需任何情感种子集合,工作量较小,可以节省情感词汇识别的成本,可以准确的识别出文本信息中存在的情感词汇。

上述说明仅是本发明技术方案的概述,为了能够更清楚了解本发明的技术手段,而可依照说明书的内容予以实施,并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂,以下特举本发明的具体实施方式。

附图说明

通过阅读下文优选实施方式的详细描述,各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的,而并不认为是对本发明的限制。而且在整个附图中,用相同的参考符号表示相同的部件。在附图中:

图1示出了本发明实施例提供的一种情感词汇的识别方法流程示意图;

图2示出了本发明实施例提供的另一种情感词汇的识别方法流程示意图;

图3示出了本发明实施例提供的一种情感词汇的识别整体流程示意图;

图4示出了本发明实施例提供的一种情感词汇的识别装置结构示意图;

图5示出了本发明实施例提供的另一种情感词汇的识别装置结构示意图。

具体实施方式

下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例,然而应当理解,可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反,提供这些实施例是为了能够更透彻地理解本公开,并且能够将本公开的范围完整的传达给本领域的技术人员。

本发明实施例提供了一种情感词汇的识别方法,可以准确的识别出文本信息中存在的情感词汇,如图1所示,该方法包括:

101、根据文本信息的情感倾向性,对文本信息进行正负向情感标记,以及对文本信息进行分词处理,得到多个情感候选词汇。

对于本发明实施例的执行主体可以为对文本信息进行情感词汇识别的装置,为了准确地从文本信息中识别出存在的情感词汇,需要对文本信息进行预处理,具体可以利用预先配置的分类器对文本信息进行情感倾向分类,得到该文本信息的情感倾向性,并进行相应的正负向情感标记;预处理过程还包括对文本信息进行分词处理,并依据得到的多个分词的词性,选出多个情感候选词汇,例如,从得到的多个分词中选取出动词、形容词、名词、状态词等词性的分词,作为情感候选词汇。

102、根据文本信息的正负向情感标记结果和卡方统计特征选择算法,从多个情感候选词汇中统计得到词汇卡方值大于或等于预设阈值的第一情感词汇候选集合。

其中,预设阈值可以由技术人员根据实际需要进行预先配置。

具体可以利用根据卡方统计特征选择算法编写的公式,计算每个情感候选词汇的词汇卡方值。例如,公式可以为

其中,cw表示情感候选词汇,Ci表示文本信息的情感类别(如正向情感类别、负向情感类别),A表示cw在情感类别为Ci的文本信息的出现概率,B表示包含cw但情感类别不是Ci的文本信息的概率,C表示属于情感类别为Ci的文本信息但不包含cw的概率,D表示属于情感类别不是Ci的文本信息且不包含cw的概率,N表示文本总数量,χ2(cw,Ci)为词汇cw与情感类别为Ci的文本信息之间的卡方统计量,并可以将其作为词汇cw的词汇卡方值。

通过上面的公式,从多个情感候选词汇中统计得到词汇卡方值大于或等于一定阈值的情感词汇候选集合,即选取出与情感倾向相关性较高的词汇集合,可以去除贡献度较低的词汇,进而达到降低特征维度的目的,从而保证了接下来再根据标记结果,利用逻辑回归分类算法计算这些选取出的词汇情感倾向强度值的准确性。

103、根据文本信息的正负向情感标记结果和逻辑回归分类算法,计算第一情感词汇候选集合中每个情感候选词汇对应的情感倾向强度值。

例如,定义文本信息为文档di,以及定义情感词汇候选集合为W={w1,w2……wv},其中v表示情感候选词汇的个数,假设文档di用一个词袋模型列向量表示,fij表示词汇wj对于文档di的重要性,如果wj在di文档中出现则fij>0,否则fij=0,fij值可以利用tf-idf(term frequency-inverse document frequency)方法计算获得,定义词汇wj的情感倾向强度值为pj,则情感词汇候选集合的情感倾向强度列向量为进而文档di的情感倾向强度值计算公式可以定义为:

若l(di)<0表示文档di情感倾向为负向情感,若l(di)>0表示文档di情感倾向为正向情感。根据文档di的正负向情感标记结果得到文档di情感倾向以及各个情感候选词汇的fij值之后,利用逻辑回归分类算法(Logistic Regression),反求情感词汇候选集合的情感倾向强度列向量进而得到情感词汇候选集合中每个情感候选词汇对应的情感倾向强度值。

104、将第一情感词汇候选集合中情感倾向强度值大于或等于预设强度阈值的情感候选词汇,确定为文本信息中存在的情感词汇。

其中,预设强度阈值可以根据实际需求进行配置。

在计算得到情感词汇候选集合中每个情感候选词汇对应的情感倾向强度值之后,可以根据预设强度阈值识别文本信息中存在的情感词汇,如果情感候选词汇的情感倾向强度值小于预设强度阈值,说明该词汇是情感倾向不明显的词汇,如果情感候选词汇的情感倾向强度值大于或等于预设强度阈值,说明该词汇的情感倾向明显,是文本信息中存在的情感词汇。

本发明实施例提供的一种情感词汇的识别方法,与目前通过计算文本信息中的候选词汇与情感种子集合之间相似度来判断候选词汇的情感倾向的方式相比,本发明实施例首先对文本信息进行正负向情感标记,并根据标记结果利用卡方统计特征选择算法,从文本信息的多个情感候选词汇中选取词汇卡方值大于或等于一定阈值的词汇,即选取出与情感倾向相关性较高的词汇,再利用逻辑回归分类算法计算这些选取出的词汇情感倾向强度值,最后根据预设强度阈值,识别出文本信息中存在的情感词汇,整个过程无需任何情感种子集合,工作量较小,可以节省情感词汇识别的成本,可以准确的识别出文本信息中存在的情感词汇。

为了更好的对上述图1所示的方法进行理解,作为对上述实施方式的细化和扩展,本发明实施例提供了另一种情感词汇的识别方法,如图2所示,该方法包括:

201、根据文本信息的情感倾向性,对文本信息进行正负向情感标记,以及对文本信息进行分词处理,得到多个情感候选词汇。

根据文本信息的情感倾向性,对文本信息进行正负向情感标记的过程具体可以包括:计算文本信息中每个情感短语的情感倾向强度值加和后的平均值;若平均值大于0,则对文本信息进行正向情感标记;若平均值小于0,则对文本信息进行负向情感标记。其中,情感短语可以包含情感词汇与情感修饰词,例如,情感短语可以为非常生气、很高兴等短语。具体可以利用现有的方式识别出文本信息中存在的各个情感短语,并计算每个情感短语的情感倾向强度值加和后的平均值,以便根据平均值判别文本信息的情感倾向性,由于情感短语除了包含情感词外,还可以包含对情感词的情感修饰词,进而能够更加表现出文本信息的情感倾向,因此,通过计算文本信息中包含的每个情感短语的情感倾向强度值加和后的平均值,判别得到文本信息的情感倾向更加准确。

对文本信息进行分词处理,得到多个情感候选词汇的过程具体可以包括:根据中文分词算法,对标记后的文本信息进行分词处理,得到多个词汇;从多个词汇中过滤掉预定词性的词汇,得到多个情感候选词汇。其中,中文分词算法可以为基于N最短路径和基于层叠隐马模型的分词方法,而预定词性可以为代词、介词、连词、助词、数词、量词等。在本发明实施例中,通过从分词处理后的多个词汇中过滤掉与情感倾向无关词性的词汇,可以提取与情感倾向相关的词汇,作为情感候选词汇,避免对与情感倾向无关词性的词汇进行进一步处理,可以提高整体的情感词汇的识别效率。

202a、根据文本信息的正负向情感标记结果和卡方统计特征选择算法,从多个情感候选词汇中统计得到词汇卡方值大于或等于预设阈值的第一情感词汇候选集合。

其中,预设阈值可以由技术人员根据实际需要进行预先配置。

具体可以利用根据卡方统计特征选择算法编写的公式,计算每个情感候选词汇的词汇卡方值。例如,公式可以为

其中,cw表示情感候选词汇,Ci表示文本信息的情感类别(如正向情感类别、负向情感类别),A、B、C、D的解释参考表1,具体地,A表示cw在情感类别为Ci的文本信息的出现概率,B表示包含cw但情感类别不是Ci的文本信息的概率,C表示属于情感类别为Ci的文本信息但不包含cw的概率,D表示属于情感类别不是Ci的文本信息且不包含cw的概率,N表示文本总数量,χ2(cw,Ci)为词汇cw与情感类别为Ci的文本信息之间的卡方统计量,并可以将其作为词汇cw的词汇卡方值。

表1

通过上面的公式,从多个情感候选词汇中统计得到词汇卡方值大于或等于一定阈值的情感词汇候选集合。

203a、计算第一情感词汇候选集合中情感候选词汇的tf-idf值,作为情感候选词汇的特征值。

具体可以利用根据tf-idf算法编写的公式,计算情感候选词汇的tf-idf值。例如,公式可以为

tf_idf(w)=tf(w)*idf(w)

其中,nw表示词语w在一篇文档中出现的次数,表示一篇文档中所有词语个数之和。|D|表示文档集的文档总数,|{Dj:w∈Dj}|表示包含词语w的文档个数,tf_idf(w)表示词语w的tf-idf值。

204a、以情感候选词汇的特征值和文本信息的正负向情感标记结果作为计算参数,根据逻辑回归分类算法,计算第一情感词汇候选集合中每个情感候选词汇对应的情感倾向强度值。

例如,定义文本信息为文档D={d1,d2…dn},以及定义情感词汇候选集合为W={w1,w2……wv},其中v表示情感候选词汇的个数,假设文档di用一个词袋模型列向量表示,fij表示词汇wj对于文档di的重要性,如果wj在di文档中出现则fij>0,否则fij=0。fij值可以为情感候选词汇的特征值,具体通过上述步骤203a计算得到,定义词汇wj的情感倾向强度值为pj,如果pj>0说明wj为正向情感词,如果pj<0说明wj为负向情感词,|pj|表示词汇wj情感倾向强度,该值越大,说明情感倾向强度越强。则情感词汇候选集合的情感倾向强度列向量为进而文档di的情感倾向强度值计算公式可以定义为:

若l(di)<0表示文档di情感倾向为负向情感,若l(di)>0表示文档di情感倾向为正向情感。根据文档di的正负向情感标记结果得到文档di情感倾向以及各个情感候选词汇的fij值之后,利用逻辑回归分类算法,反求情感词汇候选集合的情感倾向强度列向量进而得到情感词汇候选集合中每个情感候选词汇对应的情感倾向强度值,具体可以参照逻辑回归分类算法,给出预测函数如下:

其中,hθ(x)可以为分类函数,用来预测输入数据的判断结果,θ可以为词汇情感倾向强度,对应而x可以对应T代表转置运算。

逻辑代价函数定义如下:

Cost(hθ(x),y)为损失函数,表示预测的输出(h)与训练数据类别(y)之间的偏差,综合考虑所有训练数据的“损失”,其中,当文本信息为正向情感标记时,y=1,当文本信息为负向情感标记时,y=0。将损失函数求平均,记为J(θ)函数,表示所有训练数据预测值与实际类别的偏差,J(θ)函数的值越小表示预测函数越准确(即分类函数越准确),当J(θ)函数取最小值时θ为要求的最佳参数,具体可以利用梯度下降法(Gradient Descent),可得θ的更新过程为:

根据上述公式,为xj带入相应的特征值,求得词汇wj的情感倾向强度值θj

205a、将第一情感词汇候选集合中情感倾向强度值大于或等于预设强度阈值的情感候选词汇,确定为文本信息中存在的情感词汇。

在计算得到情感词汇候选集合中每个情感候选词汇对应的情感倾向强度值之后,可以根据预设强度阈值识别文本信息中存在的情感词汇,如果情感候选词汇的情感倾向强度值大于或等于预设强度阈值,说明该词汇的情感倾向明显,是文本信息中存在的情感词汇。

与步骤202a并列的步骤202b、根据文本信息的正负向情感标记结果和卡方统计特征选择算法,从多个情感候选词汇中统计得到词汇卡方值小于预设阈值的第二情感词汇候选集合。

具体地计算情感候选词汇卡方值的方法可以参考步骤202a中相应描述。对于本发明实施例,在第二情感词汇候选集合中保存的是与情感倾向相关性较低的词汇,但这些词汇中也可能存在情感词汇,因此,可以利用知网的相似度计算方法,找到这些存在的情感词汇,来进一步提高情感词汇识别的准确性,具体可以执行步骤203b至204b。

203b、利用知网的相似度计算方法,计算第二情感词汇候选集合中每个情感候选词汇对应的情感倾向强度值。

步骤203b具体可以包括:将第二情感词汇候选集合中的情感候选词汇与正向情感词汇集合中的每个正向情感词汇分别计算相似度,并计算相似度相加求和后的第一平均值,以及将情感候选词汇与负向情感词汇集合中的每个负向情感词汇分别计算语义相似度,并计算语义相似度相加求和后的第二平均值;将第一平均值与第二平均值之差,确定为情感候选词汇的情感倾向强度值。

知网中关于实词概念定义(DEF)项的描述包括四个方面:(1)第一基本义原;(2)其他基本义原;(3)关系义原;(4)符号义原。例如,给出任意实词概念S1和S2,依据上面四个方面的相似度分别为Sim1(S1,S2)、Sim2(S1,S2)、Sim3(S1,S2)、Sim4(S1,S2),则两个实词的语义相似度为:

其中,βi表示可调参数,分别描述了DEF项中四个方面的权重,β1234=1,β1≥β2≥β3≥β4,上式中通过β1对其他部分的语义相似度起限制作用,以突出第一基本义原的重要程度。

利用根据知网的相似度计算方法编写的公式,计算第二情感词汇候选集合中每个情感候选词汇对应的情感倾向强度值。例如,公式可以为

其中,Tendency(w)表示词汇w的情感倾向强度值,Sim(w,p)表示词汇w与正向词汇p的相似度,Pos表示正向情感词汇集合,Sim(w,n)表示词汇w与负向词汇n的相似度,Neg表示负向情感词汇集合。

204b、将第二情感词汇候选集合中情感倾向强度值大于或等于预设强度阈值的情感候选词汇,确定为文本信息中存在的情感词汇。

其中,预设强度阈值可以与步骤205a中的预设强度阈值相同,也可以根据实际需求配置与步骤205a中不同的强度阈值。

根据预设强度阈值识别文本信息中存在的情感词汇,如果情感候选词汇的情感倾向强度值大于或等于预设强度阈值,说明该词汇的情感倾向明显,是文本信息中存在的情感词汇。

对于本发明实施例的具体实现流程可以参见图3所示,对于文本信息可以首先进行分词、情感倾向标注等预处理,然后利用卡方统计特征选择算法进行过滤,得到的与情感倾向相关性较高的词汇利用逻辑回归分类算法进行情感词汇识别;被过滤掉的与情感倾向相关性较低的词汇利用知网的相似度计算方法进行情感词汇识别,最后将两种方式识别出的情感词汇进行汇总,得到该文本信息中存在的情感词汇。

本发明实施例提供的另一种文本信息的情感分析方法,与目前通过计算文本信息中的候选词汇与情感种子集合之间相似度来判断候选词汇的情感倾向的方式相比,本发明实施例根据文本信息的正负向情感标记结果利用卡方统计特征选择算法,从文本信息的多个情感候选词汇中选取词汇卡方值大于或等于一定阈值的词汇,即选取出与情感倾向相关性较高的词汇,再利用逻辑回归分类算法计算这些选取出的词汇情感倾向强度值,最后根据预设强度阈值,识别出文本信息中存在的情感词汇,整个过程无需任何情感种子集合,工作量较小,可以节省情感词汇识别的成本,可以准确的识别出文本信息中存在的情感词汇;并且可以利用知网的相似度计算方法,从被过滤掉的与情感倾向相关性较低的词汇中识别出存在的情感词汇,可以进一步提高情感词汇识别的准确性。

进一步地,作为图1所述方法的具体实现,本发明实施例提供了一种情感词汇的识别装置,如图4所示,所述装置包括:处理单元31、统计单元32、计算单元33、确定单元34。

处理单元31,可以用于根据文本信息的情感倾向性,对所述文本信息进行正负向情感标记,以及对所述文本信息进行分词处理,得到多个情感候选词汇。处理单元31为本装置中对文本信息进行预处理的主要功能模块,包括分词、情感倾向标注等预处理。

统计单元32,可以用于根据所述文本信息的正负向情感标记结果和卡方统计特征选择算法,从所述多个情感候选词汇中统计得到词汇卡方值大于或等于预设阈值的第一情感词汇候选集合。其中,预设阈值可以由技术人员根据实际需要进行预先配置。从多个情感候选词汇中统计得到词汇卡方值大于或等于一定阈值的情感词汇候选集合,即选取出与情感倾向相关性较高的词汇集合,可以去除贡献度较低的词汇,进而达到降低特征维度的目的,从而保证了接下来再根据标记结果,利用逻辑回归分类算法计算这些选取出的词汇情感倾向强度值的准确性。

计算单元33,可以用于根据所述文本信息的正负向情感标记结果和逻辑回归分类算法,计算所述第一情感词汇候选集合中每个情感候选词汇对应的情感倾向强度值。计算单元33为本装置中计算情感候选词汇对应情感倾向强度值的主要功能模块。

确定单元34,可以用于将所述第一情感词汇候选集合中情感倾向强度值大于或等于预设强度阈值的情感候选词汇,确定为所述文本信息中存在的情感词汇。如果情感候选词汇的情感倾向强度值大于或等于预设强度阈值,说明该词汇的情感倾向明显,是文本信息中存在的情感词汇

需要说明的是,本发明实施例提供的一种情感词汇的识别装置所涉及各功能单元的其他相应描述,可以参考图1中的对应描述,在此不再赘述。

本发明实施例提供的一种情感词汇的识别装置,包括:处理单元、统计单元、计算单元、确定单元等,与目前通过计算文本信息中的候选词汇与情感种子集合之间相似度来判断候选词汇的情感倾向的方式相比,本发明实施例首先对文本信息进行正负向情感标记,并根据标记结果利用卡方统计特征选择算法,从文本信息的多个情感候选词汇中选取词汇卡方值大于或等于一定阈值的词汇,即选取出与情感倾向相关性较高的词汇,再利用逻辑回归分类算法计算这些选取出的词汇情感倾向强度值,最后根据预设强度阈值,识别出文本信息中存在的情感词汇,整个过程无需任何情感种子集合,工作量较小,可以节省情感词汇识别的成本,可以准确的识别出文本信息中存在的情感词汇。

进一步地,作为图2所述方法的具体实现,本发明实施例提供了另一种情感词汇的识别装置,如图5所示,所述装置包括:处理单元41、统计单元42、计算单元43、确定单元44。

处理单元41,可以用于根据文本信息的情感倾向性,对所述文本信息进行正负向情感标记,以及对所述文本信息进行分词处理,得到多个情感候选词汇。

统计单元42,可以用于根据所述文本信息的正负向情感标记结果和卡方统计特征选择算法,从所述多个情感候选词汇中统计得到词汇卡方值大于或等于预设阈值的第一情感词汇候选集合。

计算单元43,可以用于根据所述文本信息的正负向情感标记结果和逻辑回归分类算法,计算所述第一情感词汇候选集合中每个情感候选词汇对应的情感倾向强度值。

确定单元44,可以用于将所述第一情感词汇候选集合中情感倾向强度值大于或等于预设强度阈值的情感候选词汇,确定为所述文本信息中存在的情感词汇。

所述计算单元43,具体可以用于计算所述第一情感词汇候选集合中情感候选词汇的tf-idf值,作为所述情感候选词汇的特征值;以所述情感候选词汇的特征值和所述文本信息的正负向情感标记结果作为计算参数,根据逻辑回归分类算法,计算所述第一情感词汇候选集合中每个情感候选词汇对应的情感倾向强度值。具体根据文本信息的正负向情感标记结果得到文本信息情感倾向以及各个情感候选词汇的特征值之后,利用逻辑回归分类算法,反求情感词汇候选集合的情感倾向强度。

所述统计单元42,还可以用于根据所述文本信息的正负向情感标记结果和卡方统计特征选择算法,从所述多个情感候选词汇中统计得到词汇卡方值小于所述预设阈值的第二情感词汇候选集合。对于本发明实施例,在第二情感词汇候选集合中保存的是与情感倾向相关性较低的词汇,但这些词汇中也可能存在情感词汇,因此,可以利用知网的相似度计算方法,找到这些存在的情感词汇,来进一步提高情感词汇识别的准确性。

所述计算单元43,还可以用于利用知网的相似度计算方法,计算所述第二情感词汇候选集合中每个情感候选词汇对应的情感倾向强度值。

所述确定单元44,还可以用于将所述第二情感词汇候选集合中情感倾向强度值大于或等于预设强度阈值的情感候选词汇,确定为所述文本信息中存在的情感词汇。

具体地,所述计算单元43包括:计算模块431、确定模块432。

计算模块431,可以用于将所述第二情感词汇候选集合中的情感候选词汇与正向情感词汇集合中的每个正向情感词汇分别计算相似度,并计算所述相似度相加求和后的第一平均值,以及将所述情感候选词汇与负向情感词汇集合中的每个负向情感词汇分别计算语义相似度,并计算所述语义相似度相加求和后的第二平均值。

确定模块432,可以用于将所述第一平均值与所述第二平均值之差,确定为所述情感候选词汇的情感倾向强度值。

所述处理单元41,具体可以用于计算文本信息中每个情感短语的情感倾向强度值加和后的平均值;若所述平均值大于0,则对所述文本信息进行正向情感标记;若所述平均值小于0,则对所述文本信息进行负向情感标记。由于情感短语除了包含情感词外,还可以包含对情感词的情感修饰词,进而能够更加表现出文本信息的情感倾向,因此,通过计算文本信息中包含的每个情感短语的情感倾向强度值加和后的平均值,判别得到文本信息的情感倾向更加准确。

所述处理单元41,具体还可以用于根据中文分词算法,对标记后的文本信息进行分词处理,得到多个词汇;从所述多个词汇中过滤掉预定词性的词汇,得到多个情感候选词汇。通过从分词处理后的多个词汇中过滤掉与情感倾向无关词性的词汇,可以提取与情感倾向相关的词汇,作为情感候选词汇,避免对与情感倾向无关词性的词汇进行进一步处理,可以提高整体的情感词汇的识别效率。

需要说明的是,本发明实施例提供的另一种情感词汇的识别装置所涉及各功能单元的其他相应描述,可以参考图2中的对应描述,在此不再赘述。

本发明实施例提供的另一种情感词汇的识别装置,包括:处理单元、统计单元、计算单元、确定单元等,与目前通过计算文本信息中的候选词汇与情感种子集合之间相似度来判断候选词汇的情感倾向的方式相比,本发明实施例根据文本信息的正负向情感标记结果利用卡方统计特征选择算法,从文本信息的多个情感候选词汇中选取词汇卡方值大于或等于一定阈值的词汇,即选取出与情感倾向相关性较高的词汇,再利用逻辑回归分类算法计算这些选取出的词汇情感倾向强度值,最后根据预设强度阈值,识别出文本信息中存在的情感词汇,整个过程无需任何情感种子集合,工作量较小,可以节省情感词汇识别的成本,可以准确的识别出文本信息中存在的情感词汇;并且可以利用知网的相似度计算方法,从被过滤掉的与情感倾向相关性较低的词汇中识别出存在的情感词汇,可以进一步提高情感词汇识别的准确性。

在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。

可以理解的是,上述方法及装置中的相关特征可以相互参考。另外,上述实施例中的“第一”、“第二”等是用于区分各实施例,而并不代表各实施例的优劣。

所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统,装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。

在此提供的算法和显示不与任何特定计算机、虚拟系统或者其它设备固有相关。各种通用系统也可以与基于在此的示教一起使用。根据上面的描述,构造这类系统所要求的结构是显而易见的。此外,本发明也不针对任何特定编程语言。应当明白,可以利用各种编程语言实现在此描述的本发明的内容,并且上面对特定语言所做的描述是为了披露本发明的最佳实施方式。

在此处所提供的说明书中,说明了大量具体细节。然而,能够理解,本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中,并未详细示出公知的方法、结构和技术,以便不模糊对本说明书的理解。

类似地,应当理解,为了精简本公开并帮助理解各个发明方面中的一个或多个,在上面对本发明的示例性实施例的描述中,本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而,并不应将该公开的方法解释成反映如下意图:即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说,如下面的权利要求书所反映的那样,发明方面在于少于前面公开的单个实施例的所有特征。因此,遵循具体实施方式的权利要求书由此明确地并入该具体实施方式,其中每个权利要求本身都作为本发明的单独实施例。

本领域那些技术人员可以理解,可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件,以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外,可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述,本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。

此外,本领域的技术人员能够理解,尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征,但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如,在下面的权利要求书中,所要求保护的实施例的任意之一都可以以任意的组合方式来使用。

本发明的各个部件实施例可以以硬件实现,或者以在一个或者多个处理器上运行的软件模块实现,或者以它们的组合实现。本领域的技术人员应当理解,可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的一种情感词汇的识别方法及装置中的一些或者全部部件的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如,计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上,或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到,或者在载体信号上提供,或者以任何其他形式提供。

应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制,并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中,不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中,这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。

当前第1页1 2 3 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1