基于注意力机制和语言模型学习的中文命名实体识别方法与流程

文档序号:17478082发布日期:2019-04-20 06:15阅读:来源:国知局

技术特征:

技术总结
本发明公开了一种基于注意力机制和语言模型学习的中文命名实体识别方法,该方法包括构建基于字的字典,对每个元素对应的ID号进行向量转换,通过restricted Self‑attention层进行组合,通过第一层Bi‑LSTM进行拼接组合并训练语言模型,通过第二层Bi‑LSTM进行拼接组合并采用条件随机场方法进行标签预测训练,将数据集进行随机排列并采用Adam优化方法进行多轮训练,利用神经网络对待识别的文本数据进行中文命名实体识别。本发明只基于字的特征,不需要进行分词和其他的词性、句法等人工特征,提高了方法的健壮性和鲁棒性;而且本发明对未登录词表现良好,且性能优良,可以很好的提高下游任务的性能。

技术研发人员:廖伟智;马攀;王宇;阴艳超
受保护的技术使用者:电子科技大学
技术研发日:2018.12.12
技术公布日:2019.04.19
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1