一种结合知识蒸馏与对比学习的情感增强继续训练方法

文档序号:36229769发布日期:2023-11-30 19:39阅读:来源:国知局

技术特征:

1.一种结合知识蒸馏与对比学习的情感增强继续训练方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的方法,其特征在于:s2中对教师网络训练数据处理的过程为:

3.根据权利要求1所述的方法,其特征在于:教师模型视觉编码器以及文本编码器均由12层的transformer模型组成。

4.根据权利要求1所述的方法,其特征在于:s3中基于输入数据,对教师模型进行对比学习以及情感知识学习的过程为:

5.根据权利要求1所述的方法,其特征在于,s4中对学生网络训练数据处理的过程为:

6.根据权利要求1所述的方法,其特征在于,s5中基于输入数据,对学生模型进行情感知识学习的过程为:


技术总结
一种结合知识蒸馏与对比学习的情感增强继续训练方法属于计算机视觉领域。首先利用现有文本情感分类模型及情感字典筛选得到大量具有明显情感倾向的图文对中组成大规模情感图文对数据集;然后应用大规模情感图文对数据集对教师网络进行训练,为了获得泛化性强的教师网络,使用情感自然语言监督方式,同时通过挖掘监督信号中的多粒度情感信息并融入到图片表征中,以增强视觉编码器的情感表达能力;将得到的教师网络视觉模块初始化学生网络同时可以为学生网络提供伪标签数据,并设计任务对学生模型进行针对训练进一步挖掘图片中细节情感信息;将学生网络应用至下游图像情感分类任务。本发明解决进行情感分析模型预测精确度较低以及适用性差的问题。

技术研发人员:毋立芳,邢乐豪,石戈,邓斯诺,李雪芬
受保护的技术使用者:北京工业大学
技术研发日:
技术公布日:2024/1/16
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1