一种关键词抽取方法、装置、设备及存储介质与流程

文档序号:29446313发布日期:2022-03-30 11:04阅读:来源:国知局

技术特征:
1.一种关键词抽取方法,其特征在于,包括:获取待抽取关键词的文本数据;利用预先训练的关键词抽取模型从所述文本数据中抽取关键句,并利用所述关键词抽取模型从抽取出的关键句中抽取关键词;其中,所述关键词抽取模型采用训练文本以及从所述训练文本获取的关键句集、非关键句集、关键词集、非关键词集,以使将所述关键句集中的关键句预测为关键句的概率大于将所述非关键句集中的非关键句预测为关键句的概率,以及将所述关键词集中的关键词预测为关键词的概率大于将所述非关键词集中的非关键词预测为关键词的概率为目标训练得到。2.根据权利要求1所述的关键词抽取方法,其特征在于,所述利用所述关键词抽取模型从抽取出的关键句中抽取关键词,包括:利用所述关键词抽取模型从抽取出的关键句中获取若干候选关键词,其中,每个候选关键词为抽取出的关键句中长度在预设长度范围内的一个句子片段;利用所述关键词抽取模型预测所述若干候选关键词分别为关键词的概率,并根据所述若干候选关键词分别为关键词的概率,从所述若干候选关键词中确定关键词。3.根据权利要求2所述的关键词抽取方法,其特征在于,所述利用所述关键词抽取模型预测所述若干候选关键词分别为关键词的概率,包括:针对所述若干候选关键词中的每个候选关键词,利用所述关键词抽取模型,结合已确定出的关键词的信息,预测该候选关键词为关键词的概率。4.根据权利要求2所述的关键词抽取方法,其特征在于,所述利用所述关键词抽取模型预测所述若干候选关键词分别为关键词的概率,包括:利用所述关键词抽取模型,以抽取出的关键句的重要性为依据,对所述若干候选关键词进行排序,得到候选关键词序列;利用所述关键词抽取模型,获取所述候选关键词序列中各候选关键词分别对应的上下文向量,其中,所述上下文向量包含对应候选关键词在所述候选关键词序列中的上下文信息;针对所述候选关键词序列中的每个候选关键词,利用所述关键词抽取模型,以该候选关键词对应的上下文向量为依据,预测该候选关键词为关键词的概率。5.根据权利要求4所述的关键词抽取方法,其特征在于,所述利用所述关键词抽取模型,获取所述候选关键词序列中各候选关键词分别对应的上下文向量,包括:利用所述关键词抽取模型,获取所述候选关键词序列中各候选关键词的表征向量,其中,一候选关键词的表征向量包含该候选关键词包含的各子词在所述训练文本中的上下文信息;利用所述关键词抽取模型和所述候选关键词序列中各候选关键词的表征向量,获取所述候选关键词序列中各候选关键词分别对应的上下文向量。6.根据权利要求4所述的关键词抽取方法,其特征在于,所述利用所述关键词抽取模型,以该候选关键词对应的上下文向量为依据,预测该候选关键词为关键词的概率,包括:利用所述关键词抽取模型,以该候选关键词对应的上下文向量和历史关键词信息向量为依据,预测该候选关键词为关键词的概率,其中,所述历史关键词信息向量为已确定出的
各关键词分别对应的上下文向量的融合结果;所述关键词抽取方法还包括:针对所述候选关键词序列中的每个候选关键词,若根据该候选关键词为关键词的概率确定该候选关键词为关键词,则将该候选关键词对应的上下文向量与历史关键词信息向量融合,融合后向量作为新的历史关键词信息向量。7.根据权利要求1所述的关键词抽取方法,其特征在于,所述训练文本具有对应的参考关键词集;从所述训练文本中获取关键句集和非关键句集,包括:对所述训练文本进行分句处理,得到所述训练文本的每个句子;针对所述训练文本的每个句子,根据所述参考关键词集合与该句子的共有词在该句子中的出现情况和在语料集中的出现情况,确定该句子的得分;根据所述训练文本的各个句子的得分确定关键句,由确定出的关键句组成的句子集作为从所述训练文本获取的关键句集;将若干与所述参考关键词集合无交集的句子组成的句子集作为从所述训练文本获取的非关键句集。8.根据权利要求7所述的关键词抽取方法,其特征在于,从所述训练文本获取关键词集和非关键词集,包括:从所述关键句集中的关键句中获取若干候选关键词;将所述若干候选关键词中与所述参考关键词集中的关键词完全匹配的候选关键词确定为关键词,由确定出的关键词组成的词集作为从所述训练文本获取的关键词集;将所述若干候选关键词中与所述参考关键词集中的关键词不完全匹配的候选关键词确定为非关键词,由确定出的非关键词组成的词集作为从所述训练文本获取的非关键词集。9.根据权利要求8所述的关键词抽取方法,其特征在于,所述将所述若干候选关键词中与所述参考关键词集中的关键词不完全匹配的候选关键词确定为非关键词,包括:将所述若干候选关键词中与所述参考关键词集中的关键词不完全匹配,且与所述参考关键词集合中的关键词有交集的候选关键词确定为非关键词。10.根据权利要求1所述的关键词抽取方法,其特征在于,所述关键词抽取模型的训练过程包括:利用关键词抽取模型,预测所述训练文本中每个句子为关键句的概率,以得到所述关键句集中的每个句子为关键句的概率以及所述非关键句集中的每个句子为关键句的概率;根据所述关键句集中的每个句子为关键句的概率以及所述非关键句集中的每个句子为关键句的概率,确定关键句预测损失;预测从所述关键句集包含的关键句中获取的若干候选关键词分别为关键词的概率,以得到所述关键词集中的每个词为关键词的概率,以及所述非关键词集中的每个词为关键词的概率;根据所述关键词集中的每个词为关键词的概率,以及所述非关键词集中的每个词为关键词的概率,确定关键词预测损失;根据所述关键句预测损失和所述关键词预测损失,对关键词抽取模型进行参数更新。
11.一种关键词抽取装置,其特征在于,包括:文本获取模块和文本处理模块;所述文本获取模块,用于获取待抽取关键词的文本数据;所述文本处理模块,用于利用预先训练的关键词抽取模型从所述文本数据中抽取关键句,并利用所述关键词抽取模型从抽取出的关键句中抽取关键词;其中,所述关键词抽取模型采用训练文本以及从所述训练文本获取的关键句集、非关键句集、关键词集、非关键词集,以使将所述关键句集中的关键句预测为关键句的概率大于将所述非关键句集中的非关键句预测为关键句的概率,以及将所述关键词集中的关键词预测为关键词的概率大于将所述非关键词集中的非关键词预测为关键词的概率为目标训练得到。12.根据权利要求11所述的关键词抽取装置,其特征在于,所述文本处理模块在利用所述关键词抽取模型从抽取出的关键句中抽取关键词时,具体用于:利用所述关键词抽取模型从抽取出的关键句中获取若干候选关键词,其中,每个候选关键词为抽取出的关键句中长度在预设长度范围内的一个句子片段;利用所述关键词抽取模型预测所述若干候选关键词分别为关键词的概率,并根据所述若干候选关键词分别为关键词的概率,从所述若干候选关键词中确定关键词。13.根据权利要求12所述的关键词抽取装置,其特征在于,所述文本处理模块在利用所述关键词抽取模型预测所述若干候选关键词分别为关键词的概率时,具体用于:针对所述若干候选关键词中的每个候选关键词,利用所述关键词抽取模型,结合已确定出的关键词的信息,预测该候选关键词为关键词的概率。14.一种关键词抽取设备,其特征在于,包括:存储器和处理器;所述存储器,用于存储程序;所述处理器,用于执行所述程序,实现如权利要求1~10中任一项所述的关键词抽取方法的各个步骤。15.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时,实现如权利要求1~10中任一项所述的关键词抽取方法的各个步骤。

技术总结
本申请提供了一种关键词抽取方法、装置、设备及存储介质,其中,方法包括:获取待抽取关键词的文本数据;利用预先训练的关键词抽取模型从文本数据中抽取关键句,利用关键词抽取模型从关键句中抽取关键词。本申请中的关键词抽取模型以训练文本和从训练文本获取的关键句集、非关键句集、关键词集、非关键词集为训练数据,以使将关键句集中的关键句预测为关键句的概率大于将非关键句集中的非关键句预测为关键句的概率,以及使将关键词集中的关键词预测为关键词的概率大于将非关键词集中的非关键词预测为关键词的概率为目标训练得到,这种训练策略可训练得到性能较佳的模型,利用性能较佳的模型对文本数据进行关键词抽取,能够获得较好的抽取效果。较好的抽取效果。较好的抽取效果。


技术研发人员:闫莉 魏思 万根顺 高建清 刘聪 王智国 胡国平
受保护的技术使用者:科大讯飞股份有限公司
技术研发日:2021.12.14
技术公布日:2022/3/29
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1