一种短英文影评分类方法及装置与流程
本发明涉及网络科技领域，尤其涉及一种短英文影评分类方法及装置。
背景技术：
随着大数据时代的到来，在线评论数据量日趋庞大，海量数据及良莠不齐的评论质量使影评的效用研究具有更为现实的意义。电影评论深度挖掘的目标在于分析和评价蕴含在影评中所体现出的价值。发展至今，电影评论已从纸质影评发展到电子影评阶段。目前很多电影网站都提供电影评论作为观影的参考。将电影评论作为信息源，将消费者作为信息阅读者，信息源的语言特征和语义内容对信息阅读者的判断和行为表现有直接影响。
目前研究现状主要有以下方面：
基于tf-idf的传统分类方法，该方法简单快速，能够很好的完成提取文章中关键词的目标，结果比较符合实际，但该方法只单纯考虑词频，无法直接应用在影评文本中。
基于word2vec的传统分类方法，word2vec特征提取方法克服传统tf-idf方法在语序和语义方面表现不佳的问题，同时将tf-idf的高维稀疏向量空间降维到低维稠密向量空间，大大降低计算成本，但该方法存在情感词典无法有效考察文本的上下文语境信息的问题。
基于word2vec的stacking融合分类方法，stacking算法是1992年worlpert提出的stackedgeneralization的学习模型，对基分类器的学习结果进行再集成得到集成模型预测结果，既能集成各基分类器的训练结果，也能组合各种可能决定分类的相关信息，因此普遍认为其性能优于贝叶斯投票方法，但该方法存在短文本情感分类准确率较低的问题。
但现有传统分类方法中，大量使如svc、朴素贝叶斯、决策树、逻辑回归等算法，其普遍存在着数据过拟合的问题，使得影评二分类问题的准确率较低。
技术实现要素：
本发明的目的是提供一种短英文影评分类方法，为了提高影评二分类问题的准确率，使分类结果具有较好的准确性和鲁棒性。
为达到上述目的，一方面，本发明实施例提供一种短英文影评分类方法，包括：
获取待分类短英文影评文本的特征单词集；
通过预先训练的第一层分类模型对所述特征单词集进行预测分类得到第一预测结果集，将所述第一预测结果集进行拼接并取算数平均得到新测试集；
通过预先训练的第二层分类模型对所述新测试集进行预测得到第二预测结果集，对所述第二预测结果集进行最小-最大规范化处理，得到规范化结果集；
采用简单多数法对所述规范化结果集进行处理，得到所述待分类短英文影评的分类结果。
另一方面，本发明提供一种基短英文影评分类装置，包括：
获取单元，用于获取待分类短英文影评文本的特征单词集；
第一分类单元，用于通过预先训练的第一层分类模型对所述特征单词集进行预测分类得到第一预测结果集，将所述第一预测结果集进行拼接并取算数平均得到新测试集；
第二分类单元，用于通过预先训练的第二层分类模型对所述新测试集进行预测得到第二预测结果集，对所述第二预测结果集进行最小-最大规范化处理，得到规范化结果集；
结果确定单元，用于采用简单多数法对所述规范化结果集进行处理，得到所述待分类短英文影评的分类结果。
上述技术方案具有如下有益效果：本发明实施例提供的以上方案，采用改进stacking算法融合处理多个分类器的分类结果，最后采用最小-最大规范化与简单多数法对预测结果进行处理。结果表明，基于改进stacking算法的短英文影评分类方法具有较好的准确性和鲁棒性。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1是本发明实施例一种短英文影评分类方法的流程图；
图2是本发明实施例一种短英文影评分类装置的结构图；
图3是本发明实施例一种短英文影评分类装置中获取单元的结构图；
图4是本发明实施例一种短英文影评分类装置中第一模型训练单元的结构图；
图5是本发明实施例一种短英文影评分类装置中第二模型训练单元的结构图；
图6是本发明实施例一种短英文影评分类方法的流框架图；
图7是本发明实施例一种cbow模型图；
图8是本发明验证实施例中八种传统分类器的实验结果图；
图9是本发明验证实施例中基于word2vec的八种传统分类器实验详细数据图；
图10是本发明验证实施例中基于改进stacking算法中不同k值实验数据变化图；
图11是本发明验证实施例中基于改进stacking算法中不同k值实验数据结果图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
如图1所示，为本发明实施例一种短英文影评分类方法的流程图，包括以下步骤：
步骤101，获取待分类短英文影评文本的特征单词集。
优选地，所述获取待分类短英文影评文本的特征单词集，包括：获取待分类短英文影评文本；根据语料库对所待分类短英文影评文本进行数据清洗与去燥；通过word2vec特征提取法提取所述清洗与去燥后的待分类短英文影评文本中的特征单词，获得待分类短英文影评文本的特征单词集。
步骤102，通过预先训练的第一层分类模型对所述特征单词集进行预测分类得到第一预测结果集，将所述第一预测结果集进行拼接并取算数平均得到新测试集。
优选地，所述预先训练的第一层分类模型通过以下步骤获得：
采用随机森林算法、超随机树算法、梯度提升xgboost算法、迭代adaboost算法和分布式梯度提升lightgbm算法组成第一层分类模型；获取训练集数据和验证集数据；根据所述训练集数据以交叉验证法对上述每一个算法进行训练，获得预先训练的第一层分类模型；并通过预先训练的第一层分类模型对所述验证集数据进行预测得到第一训练结果集。
步骤103，通过预先训练的第二层分类模型对所述新测试集进行预测得到第二预测结果集，对所述第二预测结果集进行最小-最大规范化处理，得到规范化结果集。
优选地，所述预先训练的第二层分类模型通过以下步骤获得：
采用选择逻辑回归、线性核函数的交换虚拟通路svc和梯度提升树算法组成第二层分类模型；将所述第一训练结果集拼接后得到第二层模型的新训练集数据，根据所述新训练集数据对第二层分类模型算法依次进行训练，获得预先训练的第二层分类模型。
优选地，所述对第二预测结果集进行最小-最大规范化处理，具体包括：
根据以下公式对所述第二预测结果集中预测结果rij进行最小-最大规范化处理，得到最小-最大规范化处理后的预测结果r'ij：
其中，rij为第二层分类模型中第i个模型对第j个特征单词的预测结果，min(ri)为第二层分类模型中第i个模型对特征单词的预测结果的最小的分类概率，max(ri)为第二层分类模型中第i个模型对特征单词的预测结果的最大的分类概率；将ri看做一组乱序数值，min(ri)表示取ri中的最小值，同理max(ri)为最大值，举例假设ri＝[1,2,3,2,1,4,5,6]，则min(ri)＝1，max(ri)＝6，将最小-最大规范化处理后的预测结果r'ij组成规范化结果集。
步骤104，采用简单多数法对所述规范化结果集进行处理，得到所述待分类短英文影评的分类结果；
优选地，所述采用简单多数法对所述规范化结果集进行处理，得到所述待分类短英文影评的分类结果，具体包括：
根据以下公式对所述规范化结果集中的预测结果r'ij进行处理：
其中，rj表示第j个特征单词对应的分类结果，m表示第二层分类模型中的算法模型的个数；
若一半以上的特征单词对应的分类结果rj的类别为1时，判定所述待分类短英文影评的分类结果为1，否则所述待分类短英文影评的分类结果为0。
如图2所示，为本发明实施例一种短英文影评分类装置的结构图，所述装置包括：
获取单元21，用于获取待分类短英文影评文本的特征单词集；
第一分类单元22，用于通过预先训练的第一层分类模型对所述特征单词集进行预测分类得到第一预测结果集，将所述第一预测结果集进行拼接并取算数平均得到新测试集；
第二分类单元23，用于通过预先训练的第二层分类模型对所述新测试集进行预测得到第二预测结果集，对所述第二预测结果集进行最小-最大规范化处理，得到规范化结果集；
结果确定单元24，用于采用简单多数法对所述规范化结果集进行处理，得到所述待分类短英文影评的分类结果。
优选地，所述获取单元21包括：
文本获取模块211，用于用于获取待分类短英文影评文本；
文本处理模块212，用于根据语料库对所述待分类短英文影评文本进行数据清洗与去燥；
特征单词提取模块213，用于通过word2vec特征提取法提取所述清洗与去燥后的待分类短英文影评文本中的特征单词，获得待分类短英文影评文本的特征单词集。
优选地，所述第二分类单元23具体用于：
根据以下公式对所述第二预测结果集中预测结果rij进行最小-最大规范化处理，得到最小-最大规范化处理后的预测结果r'ij：
其中，rij为第二层分类模型中第i个模型对第j个特征单词的预测结果，min(ri)为第二层分类模型中第i个模型对特征单词的预测结果的最小的分类概率，max(ri)为第二层分类模型中第i个模型对特征单词的预测结果的最大的分类概率；将ri看做一组乱序数值，min(ri)表示取ri中的最小值，同理max(ri)为最大值，举例假设ri＝[1,2,3,2,1,4,5,6]，则min(ri)＝1，max(ri)＝6，将最小-最大规范化处理后的预测结果r'ij组成规范化结果集。。
优选地，所述结果确定单元24具体用于：
根据以下公式对所述规范化结果集中的预测结果r'ij进行处理：
其中，rj表示第j个特征单词对应的分类结果，m表示第二层分类模型中的算法模型的个数；
若一半以上的特征单词对应的分类结果rj的类别为1时，判定所述待分类短英文影评的分类结果为1，否则所述待分类短英文影评的分类结果为0。
优选地，所述装置还包括第一模型训练单元25，所述第一模型训练单元25包括：
第一模型构成模块251，用于采用随机森林算法、超随机树算法、梯度提升xgboost算法、迭代adaboost算法和分布式梯度提升lightgbm算法组成第一层分类模型；
数据获取模块252，用于获取训练集数据和验证集数据；
第一模型训练模块253，用于根据所述训练集数据以交叉验证法对上述每一个算法进行训练，获得预先训练的第一层分类模型；
训练数据处理模块254，用于通过预先训练的第一层分类模型对所述验证集数据进行预测得到第一训练结果集。
优选地，所述装置还包括第二模型训练单元26，所述第二模型训练单元26包括：
第二模型构成模块261，用于采用选择逻辑回归、线性核函数的交换虚拟通路svc和梯度提升树算法组成第二层分类模型；
数据拼接模块262，将所述第一训练结果集拼接后得到第二层模型的新训练集数据；
第二模型训练模块263，用于根据所述新训练集数据对第二层分类模型算法依次进行训练，获得预先训练的第二层分类模型。
本发明提出一种短英文影评分类方法，是基于改进stacking算法的分类方法，对影评语料库进行文本预处理，然后采用word2vec模型提取训练集的特征作为融合模型的输入。本发明所提出的基于改进stacking算法的分类方法采用三层结构。第一层分类模型采用随机森林算法、超随机树算法、xgboost算法、adaboost算法和lightgbm算法五种分类模型，数据提取特征后使用第一层分类模型的五种分类模型进行处理，其结果输入到第二层分类模型进行处理；第二层分类模型选择逻辑回归、线性核函数的svc和梯度提升树三种分类模型进行分类并将结果进行最小-最大规范化。第三层模型将第二层分类模型三种分类方法最小-最大规范化后的结果采用简单多数法得到最终结果。
在具体实施过程中，本发明采用一种浅层的神经网络模型word2vec特征提取方法。word2vec有两种神经网络结构，分别是cbow(continuousbagofwords)和sg(skip-gram)两种模型。本发明选取在中小型语料中表现更好的cbow模型，模型图如图6所示。
该模型的输入层是由输入上下文{x1,x2,...xi,...,xc}组成，其中xi＝{0,...,1,...,0}是被one-hot编码的v维向量，v是词汇表大小，窗口大小为c；隐藏层是n维的向量h；输出层是也被one-hot编码的输出单词y。输入向量通过一个v*n维的权重矩阵w连接到隐藏层；隐藏层通过一个n*v的权重矩阵w'连接到输出层。本文输出层采用softmax函数且实验随机初始化权重矩阵w与w'，如公式(1)(2)所示，其中，w1,w2,...,wc表示上下文单词，wi表示第i个输出单词，
本发明通过以下步骤确定最终权重矩阵w与w'。
第一步：计算隐藏层的输出。隐藏层h是c个上下文单词输入向量的加权平均，计算公式如公式(3)所示
第二步：计算输出层每个结点的输入。输出层每个节点输入的计算公式如公式(4)所示，其中
第三步：计算输出层的输出。将un作为softmax函数的输入，得到输出yj，如公式(5)所示。
第四步：定义损失函数。损失函数是给定上下文的输出单词的条件概率，如公式(6)所示，其中，n*表示目标单词在词汇表中的索引。
第五步：更新权重矩阵w'。隐藏层到输出层的权重矩阵w'的梯度计算公式如公式(7)所示，其中yj和tj分别是预测值和真实值的第j项，tj＝{0,1}，hi是隐藏层的第i项，w'ij是权重矩阵w'中的第i行第j列元素。
权重矩阵w'更新公式如公式(8)所示，其中，η是学习率，η>0。
第六步：更新权重矩阵w。隐藏层神经元的梯度计算公式如公式(9)所示。
故输入层到隐藏层的权重矩阵w的梯度公式如公式(10)所示，其中，wki表示w的第k行第i列元素，xk表示第k个上下文单词。
权重矩阵w更新公式如公式(11)所示，其中，
当所有样本训练完成后，样本的词向量空间如公式(12)(13)所示。
如图5所示，为本发明实施例一种短英文影评分类方法的流框架图，包括以下步骤：
模型融合层即第一层分类单元。假设第一层有n个模型，如随机森林算法、超随机树算法、梯度提升xgboost算法、迭代adaboost算法和分布式梯度提升lightgbm算法模型，将原始的训练集数据train采用k折交叉验证方法，n个模型重复采用其中的k-1组子集数据训练，对原始验证集数据预测得到pi(i＝1,2,......,n)，拼接后得到第二层分类模型的新训练集数据p，同时对特征单词test预测得到qi(i＝1,2,......,n)，拼接并取算数平均得到第二层模型的预测集q。
学习层即第二层分类单元。假设第二层有m个模型，如选择逻辑回归、线性核函数的交换虚拟通路svc和梯度提升树算法模型，顺序选择每个模型，然后利用模型融合层得到的新训练集数据p训练模型，训练完毕后，对模型融合层得到的预测集q进行预测，得到结果ri(i＝1,2,......,n)后进行最小-最大规范化。
在学习层对分类概率进行最小-最大规范化，可以放大其分类概率，增强分类效果。具体如下公式(14)所示。
对于每个rij，找到预测集结果ri＝[r1,r2,...,rv]t中最小的分类概率min(ri)和最大的分类概率max(ri)，根据公式(10)，其计算结果便被映射到区间[0,1]。其中rij为学习层第i个模型第j个测试样本的预测结果，m表示学习层的模型个数，v表示词汇表大小，j＝1,2,...,v。
模型第三层：结果处理层。将学习层最小-最大规范化后的预测结果ri(i＝1,2,...,m)采用简单多数法处理得到最终预测结果r。
简单多数法是选择分类结果超过一半的类别，即当一半以上的分类器预测为类别1，则集成后预测结果就是1，否则预测结果为0。具体如公式(15)所示，其中，rj表示第j个特征单词的影评分类结果，r'ij为学习层第i个模型第j个测试样本的预测结果，m表示学习层的模型个数。
为了验证改进stacking算法有效性，本发明不但采用改进stacking算法对imdb提供的测试集数据进行测试，还采用八种传统分类模型和stacking算法的方法分别进行实验并与本发明所提方法进行比较。
实验采用特征提取方法word2vec对imdb语料库进行特征抽取，并分别使用随机森林算法、超随机树算法、xgboost算法、adaboost算法、lightgbm算法、逻辑回归、梯度提升树和svc八种分类器对训练集进行训练并对测试集进行结果预测。本发明实验次数为10次，其平均实验结果如图7所示。
实验结果得知，采用svc分类器的效果最好，f1得分达到85.339％，准确率达到85.04％；同时采用随机森林分类器的效果最差，f1得分达到81.326％，准确率达到80.96％，具体实验结果如图8所示，图8中加粗数据表示八种传统分类器在数据集上的最佳度量值。
基于改进stacking算法的实验本发明实验次数为10次，其平均实验结果如图9、图10所示。stacking算法能够从原始数据中自动提取有用特征，在第一层模型进行特征提取，数据集经过第一层模型实现压缩处理，有效特征被提取传入第二层进行学习。
通过分析实验结果，本发明采用不确定性很大的决策树算法随机森林、超随机树和集成效果很好的xgboost、lightgbm、adaboost作为第一层融合分类器，其中前两种算法准确率和f1值偏低，与准确率和f1值较高的三种集成算法有一定的差异性。同时从减小误差的角度分析，前两种算法有效降低方差，三种集成算法有效降低偏差，具有互补性，可以增加模型的多样性。这样第一层模型既具有差异性，又具有较高的准确率。
为了降低过拟合的问题，第二层模型不需要过分复杂的算法。本文第二层模型采用效果相对最好的svc、逻辑回归算法和上述集成算法中性能中等的梯度提升树。广义线性逻辑回归模型原理简单，配合l1正则化可以进一步防止过拟合，选择有效特征，从第一层模型中剔除不必要的特征，节省运算开销。可以合理的学习第一层融合分类器的分类结果，用以提高分类准确率、降低误差和增强泛化能力。
模型第三层采用最小-最大规范化和简单多数法放大分类概率，发挥各个模型的优势，有效降低过拟合问题。
实验从交叉验证k＝2开始，随着k值的增加，准确率a呈上升趋势。当k＝11时，采用改进stacking算法的实验结果最好，准确率提高到86.28％，与最佳单模型svc相比，增长1.24％，与最佳stacking算法相比，增长0.08％。k值继续增加，准确率出现下降趋势。同时，mse降低到13.72％，与最佳单模型svc相比，降低1.24％，与最佳stacking算法相比，降低0.08％。此外，精确率p达到86.33％，与最佳单模型xgboost相比，增加1.39％，与最佳stacking算法相比，降低0.48％；召回率r提高到86.94％，与最佳单模型svc相比，增长0.83％，与最佳stacking算法相比，增长0.28％；f1得分达到86.50％，与最佳单模型相比，增长1.15％，与最佳stacking算法相比，增长0.09％。
同时，随着k值的不断增加，运行时间t呈线性增长的趋势，如图10所示。但改进stacking算法采用三层模型，与stacking算法相比，运行时间并未增加太多。
本发明算法并不只适用于影评分类，也可用于其他文本类信息情报场景中，未来可在优化算法方面展开深入研究，以进一步提升算法的准确率。
应该明白，公开的过程中的步骤的特定顺序或层次是示例性方法的实例。基于设计偏好，应该理解，过程中的步骤的特定顺序或层次可以在不脱离本公开的保护范围的情况下得到重新安排。所附的方法权利要求以示例性的顺序给出了各种步骤的要素，并且不是要限于所述的特定顺序或层次。
在上述的详细描述中，各种特征一起组合在单个的实施方案中，以简化本公开。不应该将这种公开方法解释为反映了这样的意图，即，所要求保护的主题的实施方案需要比清楚地在每个权利要求中所陈述的特征更多的特征。相反，如所附的权利要求书所反映的那样，本发明处于比所公开的单个实施方案的全部特征少的状态。因此，所附的权利要求书特此清楚地被并入详细描述中，其中每项权利要求独自作为本发明单独的优选实施方案。
为使本领域内的任何技术人员能够实现或者使用本发明，上面对所公开实施例进行了描述。对于本领域技术人员来说；这些实施例的各种修改方式都是显而易见的，并且本文定义的一般原理也可以在不脱离本公开的精神和保护范围的基础上适用于其它实施例。因此，本公开并不限于本文给出的实施例，而是与本申请公开的原理和新颖性特征的最广范围相一致。
上文的描述包括一个或多个实施例的举例。当然，为了描述上述实施例而描述部件或方法的所有可能的结合是不可能的，但是本领域普通技术人员应该认识到，各个实施例可以做进一步的组合和排列。因此，本文中描述的实施例旨在涵盖落入所附权利要求书的保护范围内的所有这样的改变、修改和变型。此外，就说明书或权利要求书中使用的术语“包含”，该词的涵盖方式类似于术语“包括”，就如同“包括，”在权利要求中用作衔接词所解释的那样。此外，使用在权利要求书的说明书中的任何一个术语“或者”是要表示“非排它性的或者”。
本领域技术人员还可以了解到本发明实施例列出的各种说明性逻辑块(illustrativelogicalblock)，单元，和步骤可以通过电子硬件、电脑软件，或两者的结合进行实现。为清楚展示硬件和软件的可替换性(interchangeability)，上述的各种说明性部件(illustrativecomponents)，单元和步骤已经通用地描述了它们的功能。这样的功能是通过硬件还是软件来实现取决于特定的应用和整个装置的设计要求。本领域技术人员可以对于每种特定的应用，可以使用各种方法实现所述的功能，但这种实现不应被理解为超出本发明实施例保护的范围。
本发明实施例中所描述的各种说明性的逻辑块，或单元都可以通过通用处理器，数字信号处理器，专用集成电路(asic)，现场可编程门阵列或其它可编程逻辑装置，离散门或晶体管逻辑，离散硬件部件，或上述任何组合的设计来实现或操作所描述的功能。通用处理器可以为微处理器，可选地，该通用处理器也可以为任何传统的处理器、控制器、微控制器或状态机。处理器也可以通过计算装置的组合来实现，例如数字信号处理器和微处理器，多个微处理器，一个或多个微处理器联合一个数字信号处理器核，或任何其它类似的配置来实现。
本发明实施例中所描述的方法或算法的步骤可以直接嵌入硬件、处理器执行的软件模块、或者这两者的结合。软件模块可以存储于ram存储器、闪存、rom存储器、eprom存储器、eeprom存储器、寄存器、硬盘、可移动磁盘、cd-rom或本领域中其它任意形式的存储媒介中。示例性地，存储媒介可以与处理器连接，以使得处理器可以从存储媒介中读取信息，并可以向存储媒介存写信息。可选地，存储媒介还可以集成到处理器中。处理器和存储媒介可以设置于asic中，asic可以设置于用户终端中。可选地，处理器和存储媒介也可以设置于用户终端中的不同的部件中。
在一个或多个示例性的设计中，本发明实施例所描述的上述功能可以在硬件、软件、固件或这三者的任意组合来实现。如果在软件中实现，这些功能可以存储与电脑可读的媒介上，或以一个或多个指令或代码形式传输于电脑可读的媒介上。电脑可读媒介包括电脑存储媒介和便于使得让电脑程序从一个地方转移到其它地方的通信媒介。存储媒介可以是任何通用或特殊电脑可以接入访问的可用媒体。例如，这样的电脑可读媒体可以包括但不限于ram、rom、eeprom、cd-rom或其它光盘存储、磁盘存储或其它磁性存储装置，或其它任何可以用于承载或存储以指令或数据结构和其它可被通用或特殊电脑、或通用或特殊处理器读取形式的程序代码的媒介。此外，任何连接都可以被适当地定义为电脑可读媒介，例如，如果软件是从一个网站站点、服务器或其它远程资源通过一个同轴电缆、光纤电缆、双绞线、数字用户线(dsl)或以例如红外、无线和微波等无线方式传输的也被包含在所定义的电脑可读媒介中。所述的碟片(disk)和磁盘(disc)包括压缩磁盘、镭射盘、光盘、dvd、软盘和蓝光光盘，磁盘通常以磁性复制数据，而碟片通常以激光进行光学复制数据。上述的组合也可以包含在电脑可读媒介中。
以上所述的具体实施方式，对本发明的目的、技术方案和有益效果进行了进一步详细说明，所应理解的是，以上所述仅为本发明的具体实施方式而已，并不用于限定本发明的保护范围，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。
- 还没有人留言评论。精彩留言会获得点赞！