基于深度学习的自然语言情感处理方法、装置和存储介质与流程

文档序号:32424848发布日期:2022-12-02 23:40阅读:来源:国知局

技术特征:
1.基于深度学习的自然语言情感处理方法,其特征在于,所述方法包括:对原始通信文本进行预处理,得不同中文语料对应的不同序列;采用bert-mlf模型对预处理后的中文语料序列进行特征提取,获得隐藏层输出,所述隐藏层输出包括每个序列对应的语义特征和最大池化后的方面特征;利用所述语义特征和所述方面特征进行所述bert-mlf模型的训练和测试;采用lstm网络对所述语义特征和所述方面特征进行深度特征提取,获得每个序列的深层语义特征;将所述深层语义特征经过全连接层,再进入softmax分类器进行分类,进行模型的训练和测试。2.根据权利要求1所述的基于深度学习的自然语言情感处理方法,其特征在于,所述对原始通信文本进行预处理,包括:根据原始通信文本构造中文词典;对所述中文词典进行前分词操作;构建数字化索引和文本映射关系字典;利用所述中文字典将原始通信文本向量化,得到不同中文语料对应的不同序列。3.根据权利要求2所述的基于深度学习的自然语言情感处理方法,其特征在于,所述根据原始通信文本构造中文词典,包括:利用jieba分词处理原始通信文本构造中文词典。4.根据权利要求2所述的基于深度学习的自然语言情感处理方法,其特征在于,利用所述中文字典将原始通信文本向量化,包括:利用cls、sep和向量化通信文本构造样本。5.根据权利要求1所述的基于深度学习的自然语言情感处理方法,其特征在于,所述采用bert-mlf模型对预处理后的中文语料序列进行特征提取,获得隐藏层输出,包括:对所述bert-mlf模型每一层的方面特征进行最大池化。6.根据权利要求1所述的基于深度学习的自然语言情感处理方法,其特征在于,所述利用所述语义特征和所述方面特征进行所述bert-mlf模型的训练和测试,包括:初始所述bert-mlf模型的参数;将所述语义特征和所述方面特征作为训练集和测试集输入所述bert-mlf模型,得到训练预测结果并计算分类损失;测试预测结果,若准确率提升则更新所述bert-mlf模型的参数。7.根据权利要求1所述的基于深度学习的自然语言情感处理方法,其特征在于,所述采用lstm网络对所述语义特征和所述方面特征进行深度特征提取,获得每个序列的深层语义特征,包括:对所述bert-mlf模型进行实例化;冻结所述bert-mlf模型的所有参数,在所述bert-mlf模型最后一层增加lstm模块;对所述语义特征和所述方面特征进行深度特征提取,获得每个序列的深层语义特征。8.基于深度学习的自然语言情感处理装置,其特征在于,所述装置包括:第一模块,用于对原始通信文本进行预处理,得不同中文语料对应的不同序列;第二模块,用于采用bert-mlf模型对预处理后的中文语料序列进行特征提取,获得隐
藏层输出,所述隐藏层输出包括每个序列对应的语义特征和最大池化后的方面特征;第三模块,用于利用所述语义特征和所述方面特征进行所述bert-mlf模型的训练和测试;第四模块,用于采用lstm网络对所述语义特征和所述方面特征进行深度特征提取,获得每个序列的深层语义特征;第五模块,用于将所述深层语义特征经过全连接层,再进入softmax分类器进行分类,进行模型的训练和测试。9.基于深度学习的自然语言情感处理装置,其特征在于,所述装置包括:至少一个处理器;至少一个存储器,所述存储器用于存储至少一个程序;当至少一个所述程序被至少一个所述处理器执行时实现如权利要求1-7中任一项所述的基于深度学习的自然语言情感处理方法。10.存储介质,其特征在于,所述存储介质存储有处理器可执行的程序,所述处理器可执行的程序被处理器执行时实现如权利要求1-7中任一项所述的基于深度学习的自然语言情感处理方法。

技术总结
本申请公开了基于深度学习的自然语言情感处理方法、装置和存储介质,本申请对原始通信文本进行预处理,得不同中文语料对应的不同序列;采用BERT-MLF模型对预处理后的中文语料序列进行特征提取,获得隐藏层输出,隐藏层输出包括每个序列对应的语义特征和最大池化后的方面特征;利用语义特征和方面特征进行BERT-MLF模型的训练和测试;采用LSTM网络对语义特征和方面特征进行深度特征提取,获得每个序列的深层语义特征;将深层语义特征经过全连接层,再进入Softmax分类器进行分类,进行模型的训练和测试。本申请减少了模型训练所需的有标签的数据量、所需时间和计算资源,具有更好的适应性,能在短时间内生成可靠的深度学习模型,提高了系统的实用价值。提高了系统的实用价值。提高了系统的实用价值。


技术研发人员:高正含 刘立峰 石宪 李振华 王文重
受保护的技术使用者:珠海高凌信息科技股份有限公司
技术研发日:2022.08.05
技术公布日:2022/12/1
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1