意图识别方法和装置与流程

文档序号:36262516发布日期:2023-12-06 00:03阅读:25来源:国知局
意图识别方法和装置与流程

本技术涉及人工智能,尤其涉及一种意图识别方法和装置。


背景技术:

1、在智能客服等人机对话场景或者其他涉及到命令识别的场景中,经常需要对用户的输入信息进行意图识别,以便基于识别出的用户意图执行相关处理。

2、目前,一般利用训练出的意图识别模型识别用户输入信息中的用户意图。但是,目前训练出的意图识别模型普遍存在识别准确度不高的问题,从而影响到基于意图识别的人机对话等处理。


技术实现思路

1、一方面,本技术还提供了一种意图识别方法,包括:

2、获得待识别的用户输入信息;

3、利用意图识别模型,确定所述用户输入信息的用户意图;

4、其中,所述意图识别模型为基于预训练的意图分类模型,利用标注有样本意图的至少一个正样本和至少一个负样本,以最大化所述负样本的预测意图与所述负样本标注的样本意图之间的差距,且最小化所述正样本的预测意图与所述正样本标注的样本意图之间的差距为训练目标训练得到的;

5、所述正样本标注的样本意图为所述正样本真实的意图,所述负样本标注的样本意图非所述负样本真实的意图;

6、所述正样本的预测意图为基于所述意图分类模型确定出的所述正样本的意图,所述负样本的预测意图为基于所述意图分类模型确定出的所述负样本的意图。

7、在一种可能的实现方式中,所述最大化所述负样本的预测意图与所述负样本标注的样本意图之间的差距,包括:

8、最大化所述负样本的第一预测意图概率分布与所述负样本标注的样本意图之间的差距;

9、其中,所述负样本的第一预测意图概率分布为所述意图分类模型确定出的负样本在不同意图上的概率分布。

10、在又一种可能的实现方式中,所述最大化所述负样本的第一预测意图概率分布与所述负样本标注的样本意图之间的差距,包括:

11、最小化所述意图分类模型的第一损失函数值;

12、其中,所述第一损失函数通过如下方式得到:

13、以所述负样本标注的样本意图非所述负样本的真实意图为逻辑约束条件,确定所述负样本的第一预测意图概率分布满足所述逻辑约束条件的满足程度;

14、基于各负样本对应的满足程度,确定所述意图分类模型的第一损失函数值。

15、在又一种可能的实现方式中,所述正样本的预测意图与所述正样本标注的样本意图之间的差距,包括:

16、基于所述正样本的第二预测意图概率分布与所述正样本标注的样本意图,采用交叉熵损失函数确定出的所述意图分类模型的第二损失函数值;

17、其中,所述正样本的第二预测意图概率分布为所述意图分类模型确定出的所述正样本在不同意图上的概率分布。

18、在又一种可能的实现方式中,所述意图识别模型通过如下方式训练得到:

19、获得预训练的意图分类模型,所述意图分类模型为基于多个标注有实际意图的训练样本训练得到的分类模型;

20、对于每个负样本,将所述负样本输入到所述意图分类模型,得到所述意图分类模型预测出的所述负样本在不同意图上的第一预测意图概率分布;

21、对于每个正样本,将所述正样本输入到所述意图分类模型,得到所述意图分类模型预测出的所述正样本在不同意图上的第二预测意图概率分布;

22、基于各负样本的第一预测意图概率分布和标注的样本意图,确定所述意图分类模型的第一损失函数值,其中,负样本的第一预测意图概率分布与所述负样本标注的样本意图的差距越大,所述第一损失函数值越小;

23、基于各正样本的第二预测意图概率分布和标注的样本意图,确定所述意图分类模型的第二损失函数值,其中,所述正样本的第二预测意图概率分布与所述正样本标注的样本意图的差距越小,所述第二损失函数值越小;

24、基于所述第一损失函数值和第二损失函数值,确定所述意图分类模型的综合损失函数值;

25、如果所述综合损失函数值尚未收敛或者训练迭代次数未达到设定次数,调整所述意图分类模型的参数,返回执行将所述负样本以及正样本分别输入到所述意图分类模型的操作,直至所述综合损失函数收敛或者训练迭代次数达到设定次数。

26、在又一种可能的实现方式中,所述正样本为由会话客户端的用户输入的且所述用户确认所述会话客户端能够准确反馈意图的用户输入语句,所述正样本标注的样本意图为所述会话客户端针对所述正样本对应的用户输入语句反馈的意图;

27、所述负样本为由会话客户端的用户输入的且所述用户确认所述会话客户端未准确反馈意图的用户输入语句,所述负样本标注的样本意图为所述会话客户端针对所述负样本对应的用户输入语句反馈的意图。

28、在又一种可能的实现方式中,还包括:

29、获得至少一个会话客户端的用户输入的用户输入语句以及用户针对所述用户输入语句的意图识别结果反馈的结果反馈信息,所述用户输入语句的意图识别结果为所述会话客户端基于所述用户输入语句输出的意图识别结果,所述结果反馈信息用于表征所述会话客户端针对所述用户输入语句输出的意图识别结果是否准确;

30、如果所述用户输入语句对应的结果反馈信息表征所述用户输入语句的意图识别结果能够反映所述用户的真实意图,将所述用户输入语句确定为正样本,将所述用户输入语句的意图识别结果表征的用户意图确定为所述正样本标注的样本意图;

31、如果所述用户输入语句对应的结果反馈信息表征所述用户输入语句的意图识别结果未准确反映所述用户的真实意图,将所述用户输入语句确定为负样本,将所述用户输入语句的意图识别结果表征的用户意图确定为所述负样本标注的样本意图。

32、又一方面,本技术还提供了一种意图识别装置,包括:

33、信息获得单元,用于获得待识别的用户输入信息;

34、意图识别单元,用于利用意图识别模型,确定所述用户输入信息的用户意图;

35、其中,所述意图识别模型为基于预训练的意图分类模型,利用标注有样本意图的至少一个正样本和至少一个负样本,以最大化所述负样本的预测意图与所述负样本标注的样本意图之间的差距,且最小化所述正样本的预测意图与所述正样本标注的样本意图之间的差距为训练目标训练得到的;

36、所述正样本标注的样本意图为所述正样本真实的意图,所述负样本标注的样本意图非所述负样本真实的意图;

37、所述正样本的预测意图为基于所述意图分类模型确定出的所述正样本的意图,所述负样本的预测意图为基于所述意图分类模型确定出的所述负样本的意图。

38、在又一种可能的实现方式中,训练所述意图识别单元中的意图识别模型时,最大化所述负样本的预测意图与所述负样本标注的样本意图之间的差距,包括:

39、最大化所述负样本的第一预测意图概率分布与所述负样本标注的样本意图之间的差距;

40、其中,所述负样本的第一预测意图概率分布为所述意图分类模型确定出的负样本在不同意图上的概率分布。

41、在又一种可能的实现方式中,训练所述意图识别单元中的意图识别模型时,最大化所述负样本的第一预测意图概率分布与所述负样本标注的样本意图之间的差距,包括:最小化所述意图分类模型的第一损失函数值;

42、其中,所述第一损失函数通过如下方式得到:

43、以所述负样本标注的样本意图非所述负样本的真实意图为逻辑约束条件,确定所述负样本的第一预测意图概率分布满足所述逻辑约束条件的满足程度;

44、基于各负样本对应的满足程度,确定所述意图分类模型的第一损失函数值。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1