对话处理方法、装置、设备和介质与流程

文档序号:37036618发布日期:2024-02-20 20:29阅读:12来源:国知局
对话处理方法、装置、设备和介质与流程

本技术涉及通信,特别是涉及一种对话处理方法、装置、设备和介质。


背景技术:

1、随着通信技术的发展,对话系统应运而生。对话系统可以接收用户问题,并提供用户问题对应的答案信息。目前的对话系统通常利用llm(大语言模型,large languagemodel),获取用户问题对应的答案信息。

2、大语言模型是一种基于深度神经网络的自然语言处理技术,其首先在大规模的文本数据上进行预训练,从而学习通用的语言知识和表示;然后,在特定任务上进行微调(fine-tuning),来适应不同的下游应用。上述特定任务的例子可以包括:医疗健康领域的问诊系统中用到的医生回复生成任务,或者科技领域的客服系统用到的问答任务,等等。

3、随着大语言模型的规模不断增大,大语言模型需要占用大量的计算资源和存储空间。


技术实现思路

1、本技术实施例提供了一种对话处理方法,能够在节省大语言模型占用的计算资源和存储空间的情况下、提高答案信息的准确度。

2、相应的,本技术实施例还提供了一种对话处理装置、一种电子设备和一种机器可读介质,用以保证上述方法的实现及应用。

3、为了解决上述问题,本技术实施例公开了一种对话处理方法,所述方法包括:

4、接收当前轮用户问题;

5、对所述当前轮用户问题进行关键词提取,并对提取得到的关键词进行词性标注,以得到所述当前轮用户问题中关键词对应的词性;

6、根据所述当前轮用户问题中关键词对应的词性,确定所述当前轮用户问题对应的缺失信息;

7、根据所述缺失信息,对所述当前轮用户问题进行补全,以得到补全用户问题;

8、将大语言模型的前后关联功能关闭,并利用大语言模型对所述补全用户问题进行处理,以得到所述补全用户问题对应的答案信息;

9、对所述补全用户问题对应的答案信息进行输出。

10、本技术实施例还公开了一种对话处理装置,所述装置包括:

11、接收模块,用于接收当前轮用户问题;

12、关键词处理模块,用于对所述当前轮用户问题进行关键词提取,并对提取得到的关键词进行词性标注,以得到所述当前轮用户问题中关键词对应的词性;

13、缺失确定模块,用于根据所述当前轮用户问题中关键词对应的词性,确定所述当前轮用户问题对应的缺失信息;

14、补全模块,用于根据所述缺失信息,对所述当前轮用户问题进行补全,以得到补全用户问题;

15、答案确定模块,用于将大语言模型的前后关联功能关闭,并利用大语言模型对所述补全用户问题进行处理,以得到所述补全用户问题对应的答案信息;

16、答案输出模块,用于对所述补全用户问题对应的答案信息进行输出。

17、可选地,所述将大语言模型的前后关联功能关闭,包括:将大语言模型的历史记录参数的数据结构设置为空数组。

18、可选地,所述缺失确定模块包括:

19、句法分析模块,用于根据所述当前轮用户问题中关键词对应的词性,对所述当前轮用户问题进行句法分析,以得到所述当前轮用户问题的缺失句法成分对应的目标词性,作为所述当前轮用户问题对应的缺失信息。

20、可选地,所述缺失信息包括:所述当前轮用户问题的缺失句法成分对应的目标词性,则所述补全模块包括:

21、目标关键词确定模块,用于从历史用户问题中获取与所述目标词性相匹配的目标关键词;

22、组合模块,用于根据句法规则,对所述目标关键词与所述当前轮用户问题进行组合,以得到补全用户问题。

23、可选地,所述当前轮用户问题源自第一用户,所述装置还包括:保存历史用户问题对应的用户标识、所述历史用户问题中关键词、以及所述历史用户问题中关键词对应的词性之间的第一映射关系;

24、则所述目标关键词确定模块包括:

25、第一目标关键词确定模块,用于根据第一用户的用户标识和所述目标词性,在所述第一映射关系中进行查找,以得到所述目标词性对应的第一目标关键词。

26、可选地,所述装置还包括:保存历史用户问题中第一词性的第一关键词与第二词性的第二关键词之间的第二映射关系;

27、则所述目标关键词确定模块包括:

28、第二目标关键词确定模块,用于根据所述当前轮用户问题中已有关键词及所述目标词性,在所述第二映射关系中进行查找,以得到所述目标词性对应的第二目标关键词。

29、可选地,所述大语言模型为完成训练的模型,所述大语言模型的训练过程包括:预训练和微调训练;

30、所述微调训练包括:

31、获取训练样本;所述训练样本包括:问题样本和问题样本的标注值;所述标注值包括:问题样本的答案文本对应的答案编码;所述答案编码的长度值小于预设长度值;

32、根据所述训练样本,对完成预训练的大语言模型进行微调训练;完成微调训练的大语言模型用于表征用户问题与答案编码之间的对应关系。

33、可选地,所述答案确定模块包括:

34、模型处理模块,用于将所述补全用户问题输入完成训练的大语言模型,以得到所述大语言模型的输出结果;所述输出结果包括:目标答案编码;

35、转换模块,用于根据所述目标答案编码,在答案编码与答案文本之间的对应关系中进行查找,以得到所述目标答案编码对应的答案文本。

36、可选地,所述装置还包括:

37、问题选项确定模块,用于在所述大语言模型的输出结果为不是答案编码的情况下,从问题列表中确定出与所述当前轮用户问题相匹配的至少一个问题选项;

38、问题选项提供模块,用于向用户输出所述至少一个问题选项。

39、本技术实施例还公开了一种电子设备,包括:处理器;和存储器,其上存储有可执行代码,当所述可执行代码被执行时,使得所述处理器执行如本技术实施例所述的方法。

40、本技术实施例还公开了一种机器可读介质,其上存储有可执行代码,当所述可执行代码被执行时,使得处理器执行如本技术实施例所述的方法。

41、本技术实施例包括以下优点:

42、本技术实施例的技术方案中,将大语言模型的前后关联功能关闭,可以节省大语言模型的前后关联功能涉及的历史记录参数所占用的计算资源和存储空间,因此,本技术实施例能够节省大语言模型占用的计算资源和存储空间。

43、并且,本技术实施例提供了当前轮用户问题的补全功能。该补全功能的提供过程具体包括:对当前轮用户问题进行关键词提取,并对提取得到的关键词进行词性标注,以得到上述当前轮用户问题中关键词对应的词性;根据上述当前轮用户问题中关键词对应的词性,确定上述当前轮用户问题对应的缺失信息;根据上述缺失信息,对上述当前轮用户问题进行补全,以得到补全用户问题。由于本技术实施例在将大语言模型的前后关联功能关闭的情况下、提供了当前轮用户问题的补全功能,故本技术实施例能够根据完整性更高的补全用户问题提供答案信息,因此本技术实施例能够在节省大语言模型占用的计算资源和存储空间的情况下、提高答案信息的准确度。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1