一种基于交互注意力网络的情感分析方法与流程

文档序号:37830594发布日期:2024-05-07 19:05阅读:10来源:国知局

本发明属于数据自然语言处理中的细粒度情感分析领域,涉及一种基于交互注意力网络的情感分析方法。


背景技术:

1、方面词在情感分类中有重要作用,并发展了各种方法,目的是通过生成基于特定方面词的表示来更加准确地建模上下文。然而,之前的研究常常忽略对方面词进行单独的建模,而只有当方面词的表示和上下文表示相匹配才能真正提高情感分类的效果。因此方面词和上下文内容都需要特殊处理,并且需要通过交互地注意力网络学习来学习上下文和方面中的注意力分数,最后分别生成方面和上下文的表示。通过这种设计,交互式注意网络模型能够很好地表示方面及其上下文,有助于情感分类。

2、在交互注意力网络中,虽然已经开始利用注意力机制学习上下文中不同部分与方面之间的关系。它的交互操作是通过将方面序列的隐藏层输出进行池化,然后再与上下文序列的隐藏层输出进行注意力计算;将上下文序列的隐藏层输出进行池化,然后再与方面序列的隐藏层输出进行注意力计算。虽然做到了一定程度的交互,但是大部分方面序列不仅仅是一个单词,如果把方面序列和上下文序列的隐藏层输出直接进行池化,这将损失掉上下文和方面序列的词级别的交互信息,这样得到的注意力分数也不是全面细致的,会影响最终的分类效果。


技术实现思路

1、本发明的目的是提供一种基于交互注意力网络的情感分析方法,解决交互注意力网络的不足,提升方面级别情感分析的精度。

2、本发明的技术方案如下:

3、一种基于交互注意力网络的情感分析算法,其特征在于:首先根据glove词向量模型对文本以及方面词进行词嵌入,将词语转变为向量,分别得到n*d的文本序列矩阵以及m*d的方面词序列矩阵;然后利用双向lstm挖掘上下文语义信息,构建文本表示以及方面表示,再将生成的方面与文本表示通过词级别双向注意力模块,从而得到方面与文本之间以及文本与方面之间的相互作用关系,由得到的相互注意力分数与原文本作用得到最终的文本表示,然后通过分类器,进行情感倾向预测。

4、本方法主要思想是建模上下文序列和方面序列之间词与词的关系,进行词与词之间的相互注意力计算,再利用两个注意力来学习方面和上下文中的重要的部分,再分别更新上下文序列和方面序列的表示。与现有基线方法相比,本方法具有更好的性能,并且结果优于普通的交互注意力模型。



技术特征:

1.一种基于交互注意力网络的情感分析方法,其特征在于:首先根据glove词向量模型对文本以及方面词进行词嵌入,将词语转变为向量,分别得到n*d的文本序列矩阵以及m*d的方面词序列矩阵;然后利用双向lstm挖掘上下文语义信息,构建文本表示以及方面表示,再将生成的方面与文本表示通过词级别双向注意力模块,从而得到方面与文本之间以及文本与方面之间的相互作用关系,由得到的相互注意力分数与原文本作用得到最终的文本表示,然后通过分类器,进行情感倾向预测。


技术总结
本发明涉及一种基于交互注意力网络的情感分析方法,首先根据Glove词向量模型对文本以及方面词进行词嵌入,将词语转变为向量,分别得到N*d的文本序列矩阵以及M*d的方面词序列矩阵;然后利用双向LSTM挖掘上下文语义信息,构建文本表示以及方面表示,再将生成的方面与文本表示通过词级别双向注意力模块,得到方面与文本之间以及文本与方面之间的相互作用关系,由得到的相互注意力分数与原文本作用得到最终的文本表示,然后通过分类器,进行情感倾向预测。与现有基线方法相比,本方法具有更好的性能,并且结果优于普通的交互注意力模型。

技术研发人员:张硕
受保护的技术使用者:北京航天长峰科技工业集团有限公司
技术研发日:
技术公布日:2024/5/6
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1