一种对话处理方法、装置、设备及存储介质与流程

文档序号:32987412发布日期:2023-01-17 22:57阅读:30来源:国知局
一种对话处理方法、装置、设备及存储介质与流程

1.本发明涉及人工智能技术领域,尤其涉及一种对话处理方法、装置、设备及存储介质。


背景技术:

2.随着人工智能技术的发展,智能对话服务的应用场景不断扩大。
3.当前,智能对话服务具备与用户的对话能力,可以为用户提供智能问答服务,解答用户提出的问题。具体的,智能对话服务可以获得用户输入的想要咨询的问题,根据用户输入的问题来确定并输出相应的答案,为用户解答问题。
4.但是,智能对话服务的可靠性较差,可能导致用户体验较差。


技术实现要素:

5.本发明提供一种对话处理方法、装置、设备及存储介质,用以解决现有技术中智能对话服务的对话能力的可靠性较差,可能导致用户体验较差的缺陷,增强对话服务的可靠性,提升用户体验。
6.本发明提供一种对话处理方法,包括:获得待处理的问题文本;确定与所述问题文本对应的目标完整问题文本;确定与所述目标完整问题文本相匹配的目标候选答案;基于所述目标完整问题文本和所述目标候选答案,生成与所述问题文本对应的自然回复答案;输出与所述问题文本对应的自然回复答案。
7.可选的,所述确定与所述问题文本对应的目标完整问题文本,包括:确定所述问题文本是否为完整问题文本,以获得所述问题文本是否为完整问题文本的确定结果;基于所述确定结果,确定所述目标完整问题文本。
8.可选的,所述确定所述问题文本是否为完整问题文本,以获得所述问题文本是否为完整问题文本的确定结果,包括:将所述问题文本输入至训练好的问题分类模型,获得所述问题分类模型基于所述问题文本输出的所述确定结果;其中,所述问题分类模型是通过利用标注类别标识的第一问题文本,对预训练语言模型进行训练而获得的模型。
9.可选的,所述基于所述确定结果,确定所述目标完整问题文本,包括:在确定所述问题文本不是完整问题文本的情况下,获得与所述问题文本对应的上下文对话文本;将所述问题文本和所述上下文对话文本输入至训练好的问题改写模型,获得所述
问题改写模型基于所述问题文本和所述上下文对话文本输出的所述目标完整问题文本;其中,所述问题改写模型是通过利用训练数据对预训练语言模型进行训练而获得的模型,所述训练数据包括相对应的第一问题文本、第一上下文对话文本和完整问题文本。
10.可选的,所述基于所述确定结果,确定所述目标完整问题文本,包括:在确定所述问题文本为完整问题文本的情况下,将所述问题文本确定为所述目标完整问题文本。
11.可选的,所述基于所述目标完整问题文本和所述目标候选答案,生成与所述问题文本对应的自然回复答案,包括:将所述目标完整问题文本和所述目标候选答案输入至自然回复改写模型,获得所述自然回复改写模型输出的所述自然回复答案;其中,所述自然回复改写模型是通过利用训练数据对预训练语言模型进行训练而获得的模型,所述训练数据包括相对应的完整问题文本、答案文本和自然回复文本。
12.可选的,所述确定与所述目标完整问题文本相匹配的目标候选答案,包括:确定出与所述目标完整问题文本对应的候选答案;将所述目标完整问题文本和所述候选答案输入至答案决策模型,获得所述答案决策模型输出的置信度满足预设要求的所述候选答案;将置信度满足预设要求的所述候选答案确定为所述目标候选答案;其中,所述答案决策模型包括置信度评价层、答案排序层和答案输出层;所述置信度评价层用于确定所述候选答案匹配所述目标完整问题文本的置信度,所述置信度评价层是通过利用训练数据对预训练模型进行训练而获得的模型,所述训练数据包括完整问题文本和标注有置信度的答案文本;所述答案排序层用于按照所述候选答案匹配所述目标完整问题文本的置信度,对所述候选答案进行排序;所述答案输出层用于确定并输出置信度满足预设要求的所述候选答案。
13.本发明还提供一种对话处理装置,包括:第一获得单元、第一确定单元、第二确定单元、生成单元和输出单元;其中:所述第一获得单元,用于获得待处理的问题文本;所述第一确定单元,用于确定与所述问题文本对应的目标完整问题文本;所述第二确定单元,用于确定与所述目标完整问题文本相匹配的目标候选答案;所述生成单元,用于基于所述目标完整问题文本和所述目标候选答案,生成与所述问题文本对应的自然回复答案;所述输出单元,用于输出与所述问题文本对应的自然回复答案。
14.本发明还提供一种电子设备,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述程序时实现上述对话处理方法。
15.本发明还提供一种非暂态计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现上述对话处理方法。
16.本发明提供的对话处理方法、装置、设备及存储介质,可以获得待处理的问题文本;确定与问题文本对应的目标完整问题文本;确定与目标完整问题文本相匹配的目标候选答案;基于目标完整问题文本和目标候选答案,生成与问题文本对应的自然回复答案;输出与问题文本对应的自然回复答案。本发明通过确定与问题文本对应的目标完整问题文
本,可以有效提高问题内容表达的准确度,进而可以提高答案匹配的准确度,增强对话能力的可靠性,提升用户体验,促进用户进行多轮对话,增强用户粘性;且,本发明可以在获得目标完整问题文本和目标候选答案后,基于目标完整问题文本和目标候选答案,将目标候选答案改写为在用语和语句结构上,更接近人类语气习惯、礼貌客气、具有服务态度或使用敬语等可以提升用户体验的自然回复答案并进行输出,使得输出的答案回复内容可以更加接近人类语气习惯,增强对话能力的可靠性,提升用户体验,促进用户进行多轮对话,增强用户粘性。
附图说明
17.为了更清楚地说明本发明或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
18.图1是本发明实施例提供的对话处理方法的流程示意图之一;图2是本发明实施例提供的对话处理方法的流程示意图之二;图3是本发明实施例提供的对话处理方法的流程示意图之三;图4是本发明实施例提供的对话处理装置的结构示意图;图5是本发明实施例提供的电子设备的结构示意图。
具体实施方式
19.为使本发明的目的、技术方案和优点更加清楚,下面将结合本发明中的附图,对本发明中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
20.下面结合图1-图3描述本发明的对话处理方法。
21.如图1所示,本发明提出第一种对话处理方法,该方法可以包括以下步骤:s101、获得待处理的问题文本;其中,问题文本可以为用户想要获取答案的某个问题的文本内容。
22.可选的,本发明可以获得由用户直接输入的问题文本。
23.可选的,本发明可以获得用户通过非文本方式输入的问题信息,之后通过相应处理来从问题信息中提取出问题文本。比如,本发明可以获得用户通过语音输入的问题信息,之后通过语音识别来从问题信息中提取出问题文本;再比如,本发明可以获得用户通过图片输入的问题信息,之后通过图文识别技术从问题信息中提取出问题文本。
24.在实际应用中,用户在对话服务中输入一个想要获取答案的某个问题时,通常存在有两种情况,其中一种是,用户进行一次问题信息输入即输入完整问题,比如直接输入“明星xxx的最新发布歌曲名称是什么”;另一种情况是,用户通过多次问题信息输入来输入完整问题,每次进行的问题信息输入仅包含完整问题中的部分问题信息,比如,用户通过两次问题信息输入来输入完整问题“某个明星最近发布的歌曲名称”,第一次问题信息输入的是明星的名字,第二次问题信息输入的是“最近发布歌曲是什么”。
25.具体的,问题文本可以为用户为输入一个完整问题而进行的一次或多次问题信息输入中,某一次输入的问题信息中包含的文本内容。
26.可以理解的是,当用户进行一次问题信息输入即输入完整问题时,问题文本即属于完整问题;当用户通过多次问题信息输入来输入完整问题时,问题文本仅包含完整问题中的部分问题信息,此时问题文本即属于非完整问题。
27.可选的,当用户在一次问题信息输入中包括多个问题信息时,本发明可以从中提取出任意一个问题信息作为问题文本。
28.具体的,本发明可以对用户在一次问题信息输入中输入的问题信息进行词性标注和词性分析,划分出各问题信息,确定该次问题信息输入中输入的问题信息是否包含多个问题信息,如果是,则可以从中提取出任意一个问题信息作为问题文本;如果不是,则可以将该次问题信息输入中输入的问题信息作为问题文本。
29.可选的,问题文本也可以是由机器或电子设备输入的。比如,本发明可以在与机器人进行对话,为机器人提供智能对话服务时,获得由机器人输入的问题;再比如,当本发明应用于第一设备时,本发明可以获得与第一设备不同的第二设备所输入的问题文本。
30.s102、确定与问题文本对应的目标完整问题文本;需要说明的是,完整问题文本可以包含一个完整问题的全部文本内容,非完整问题文本仅包含一个完整问题中的部分文本内容。比如,完整问题文本可以为“某明星的最新发布歌曲是什么”,非完整问题文本可以包括“明星的名字”和“他的最新发布歌曲是什么”。
31.其中,目标完整问题文本即为问题文本对应的完整问题文本。
32.可选的,本发明可以按照用户在实际对话场景中常提出的问题,预先准备和设置多个完整问题文本,并存储在问题文本库中;此时,本发明可以在获得问题文本后,从问题文本框中查找与问题文本相匹配的完整问题文本,将查找到的完整问题文本确定为目标完整问题文本。
33.可选的,本发明可以在获得问题文本后,先行确定问题文本是否属于完整问题文本,之后再基于确定结果来确定问题文本对应的目标完整问题文本。
34.需要说明的是,本发明可以先行采集多个完整问题文本和多个非完整问题文本,分别对多个完整问题文本和多个非完整问题文本进行词性分析和词性标注,归纳完整问题文本的词性分布特征和非完整问题文本的词性分布特征,对完整问题文本的词性分布特征和非完整问题文本的词性分布特征进行分析比较,确定完整问题文本的词性分布特征和非完整问题文本的词性分布特征的区别特征。
35.可选的,本发明可以在获得问题文本后,对问题文本进行词性分析和词性标注,获得问题文本的词性分布特征,通过确定问题文本的词性分布特征是否包含非完整问题文本的词性分布特征,来确定问题文本是否属于完整问题文本;可选的,本发明可以在获得问题文本的词性分布特征后,通过确定问题文本的词性分布特征是否包含完整问题文本的词性分布特征,来确定问题文本是否属于非完整问题文本;可选的,如果完整问题文本的词性分布特征中包含有非完整问题文本的词性分布特征,则本发明可以仅利用完整问题文本的词性分布特征来确定问题文本是否属于完整问
题文本。
36.可选的,本发明可以在获得问题文本的词性分布特征后,根据完整问题文本的词性分布特征、非完整问题文本的词性分布特征、上述区别特征和问题文本的词性分布特征,来确定问题文本是否为完整问题文本。
37.具体的,本发明如果确定问题文本为完整问题文本,则可以直接将问题文本确定为目标完整问题文本;具体的,本发明如果确定问题文本不是完整问题文本,则可以确定问题文本的词性分布特征相对于完整问题文本所缺乏的词性特征,进而确定问题文本相对于完整问题文本所缺乏的信息;之后,本发明可以获得问题文本对应的上下文对话文本,从上下文对话文本中提取出问题文本相较于完整问题文本所缺乏的信息,将该信息补全到问题文本中,以获得目标完整问题文本。
38.在实际应用中,本发明在获得用户输入的问题文本后,可以先行在上述问题文本库中尝试查找与问题文本相匹配的完整问题文本,如果查找到,则可以直接将查找到的完整问题文本确定为目标完整问题文本;如果未查找到,则可以确定问题文本自身是否为完整问题文本,如果是,则可以直接将问题文本确定为目标完整问题文本,如果不是,则可以基于问题文本和相应的上下文对话文本来获得目标完整问题文本。
39.当然,本发明在获得用户输入的问题文本后,也可以先行确定问题文本自身是否为完整问题文本,如果是,则可以直接将问题文本确定为目标完整问题文本;如果不是,则可以在上述问题文本库中尝试查找与问题文本相匹配的完整问题文本,如果查找到,则可以直接将查找到的完整问题文本确定为目标完整问题文本;如果未查找到,则可以基于问题文本和相应的上下文对话文本来获得目标完整问题文本。
40.需要说明的是,本发明生成的与问题文本对应的目标完整问题文本,可以有效提高问题内容表达的准确度,进而可以提高答案匹配的准确度,增强对话能力的可靠性,增强用户体验和用户粘性。
41.s103、确定与目标完整问题文本相匹配的目标候选答案;其中,目标候选答案即为与目标完整问题文本相匹配的答案。
42.具体的,本发明可以在确定目标完整问题文本后,确定出与目标完整问题文本相匹配的目标候选答案。
43.具体的,本发明可以利用问答匹配方式,来确定与目标完整问题文本相匹配的目标候选答案。比如,当目标完整问题为“明星xxx的最新发布歌曲名称是什么”,目标候选答案可以为相应歌曲的名称。
44.可选的,本发明可以利用基于知识图谱的问答子系统,来确定与目标完整问题文本相匹配的目标候选答案;具体的,本发明可以将目标完整问题文本输入到该问答子系统中,获得由该问答子系统基于目标完整问题文本输出的答案,将该答案确定为目标候选答案;可选的,本发明可以利用基于段落检索-机器阅读理解的问答子系统,来确定与目标完整问题文本相匹配的目标候选答案;具体的,本发明可以将目标完整问题文本输入到该问答子系统中,获得由该问答子系统基于目标完整问题文本输出的答案,将该答案确定为目标候选答案;
可选的,本发明可以利用基于问答对匹配的问答子系统,来确定与目标完整问题文本相匹配的目标候选答案;具体的,本发明可以将目标完整问题文本输入到该问答子系统中,获得由该问答子系统基于目标完整问题文本输出的答案,将该答案确定为目标候选答案;可选的,本发明可以利用上述三种问答子系统中的至少一个问答子系统,来确定与目标完整问题文本相匹配的至少一个答案,之后从各答案中确定出与目标完整问题文本匹配度最高的答案,将匹配度最高的答案确定为目标候选答案;比如,本发明可以同时利用上述三种问答子系统,来确定与目标完整问题文本相匹配的多个答案,之后从该多个答案中确定出与目标完整问题文本匹配度最高的答案,将匹配度最高的答案确定为目标候选答案。
45.具体的,本发明可以由人工从各答案中确定出与目标完整问题文本匹配度最高的答案;具体的,本发明可以按照预定义的匹配度计算方式,分别计算各答案与目标完整问题文本的匹配度,之后确定出匹配度最高的答案,将匹配度最高的答案确定为目标候选答案;具体的,本发明也可以通过利用人工智能模型,从多个答案中确定出与完整问题文本确定出与目标完整问题文本匹配度最高的答案。
46.s104、基于目标完整问题文本和目标候选答案,生成与问题文本对应的自然回复答案;需要说明的是,现有的对话服务可以基于用户的问题回复相应的答案。但是,现有的对话服务在回复答案时,常常会仅回复答案内容,存在回复简单生硬、一问一答,可能导致用户体验差。比如,当用户输入问题“明星xxx今年多大了”时,现有的对话服务可能会直接回复“20岁”;再比如,当用户输入问题“明星xxx今年有发布新歌吗”,现有的对话服务可能会直接回复“没有”。具体的,本发明可以在确定目标候选答案后,对目标候选答案进行适当改写,将其改写为在用语和语句结构上,接近人类语气习惯、礼貌客气、具有服务态度或使用敬语等可以提升用户体验的回复语句。
47.其中,自然回复答案可以为在用语和语句结构上,接近人类语气习惯、礼貌客气、具有服务态度或使用敬语等可以提升用户体验的回复答案。比如,当用户输入问题“明星xxx今年多大了”时,本发明可以对上述答案“20岁”进行自然回复改写,生成自然回复答案“他20岁了呢”;再比如,当用户输入问题“明星xxx今年有发布新歌吗”,本发明可以对上述答案“没有”进行自然回复改写,生成自然回复答案“他今年还没有发布新歌”。
48.具体的,本发明可以预先由工作人员按照自然回复改写要求,生成自然回复文本模板。自然回复改写要求即为可以在用语和语句结构上接近人类语气习惯、礼貌客气、具有服务态度或使用敬语等可以提升用户体验。本发明可以在获得目标完整问题文本和目标候选答案后,在目标候选答案的基础上,按照自然回复文本模板的要求,从目标完整问题文本中提取出所需信息,并将目标候选答案和所需信息组合为自然回复语句,生成自然回复答案。
49.具体的,本发明可以训练出具有自然回复能力的语言模型,将目标完整问题文本
和目标候选答案输入到该语言模型中,由该语言模型基于目标完整问题文本和目标候选答案进行答案改写以生成自然回复语句,获得该语言模型输出的该自然回复语句,将该自然回复语句作为自然回复答案。
50.需要说明的是,本发明可以在获得目标完整问题文本和目标候选答案后,基于目标完整问题文本和目标候选答案,将目标候选答案改写为自然回复答案,使得输出的回复内容可以更加接近人类语气习惯,增强对话能力的可靠性,增强用户体验,促进用户进行多轮对话,增强用户粘性。
51.s105、输出与问题文本对应的自然回复答案。
52.具体的,本发明可以在获得自然回复答案后,输出自然回复答案,以解答用户通过问题文本提出的问题。
53.可选的,本发明可以通过文本、语音或图片等方式输出自然回复答案。比如,本发明可以直接以文本的形式输出自然回复答案,向用户提供答案;再比如,本发明可以先行将自然回复答案转换为相应的语音数据,之后再输出该语音数据。
54.需要说明的是,本发明通过上述步骤s101、s102、s103、s104和s105,可以获得问题文本,确定与问题文本对应的目标完整问题文本,有效提高问题内容表达的准确度,进而可以提高答案匹配的准确度,增强对话能力的可靠性,提升用户体验,促进用户进行多轮对话,增强用户粘性;且,本发明可以在获得目标完整问题文本和目标候选答案后,基于目标完整问题文本和目标候选答案,将目标候选答案改写为自然回复答案并进行输出,使得输出的答案回复内容可以更加接近人类语气习惯,增强对话能力的可靠性,提升用户体验,促进用户进行多轮对话,增强用户粘性。
55.本发明提出的对话处理方法,可以获得待处理的问题文本;确定与问题文本对应的目标完整问题文本;确定与目标完整问题文本相匹配的目标候选答案;基于目标完整问题文本和目标候选答案,生成与问题文本对应的自然回复答案;输出与问题文本对应的自然回复答案。本发明通过确定与问题文本对应的目标完整问题文本,可以有效提高问题内容表达的准确度,进而可以提高答案匹配的准确度,增强对话能力的可靠性,提升用户体验;且,本发明可以在获得目标完整问题文本和目标候选答案后,基于目标完整问题文本和目标候选答案,将目标候选答案改写为在用语和语句结构上,更接近人类语气习惯、礼貌客气、具有服务态度或使用敬语等可以提升用户体验的自然回复答案并进行输出,使得输出的答案回复内容可以更加接近人类语气习惯,增强对话能力的可靠性,提升用户体验,促进用户进行多轮对话,增强用户粘性。
56.基于图1,如图2所示,本发明提出第二种对话处理方法。在该方法中,步骤s102可以包括:s1021、确定问题文本是否为完整问题文本,以获得问题文本是否为完整问题文本的确定结果;具体的,本发明可以在获得问题文本后,确定问题文本是否为完整问题文本,获得相应的确定结果。
57.可选的,在本发明提出的其他对话处理方法中,步骤s1021可以包括:将问题文本输入至训练好的问题分类模型;获得问题分类模型基于问题文本输出的确定结果;
其中,问题分类模型是通过利用标注类别标识的第一问题文本,对预训练语言模型进行训练而获得的模型。
58.其中,问题分类模型为具备确定问题文本是否为完整问题文本的能力的自然语言模型。
59.其中,预训练语言模型可以为预训练的自然语言模型,需要说明的是,本发明可以采集多个完整问题文本和多个非完整问题文本,将标注有类别标识的完整问题文本作为正样本,将标注有类别标识的非完整问题文本作为负样本,使用正样本和负样本对预训练语言模型进行训练,直至满足一定的模型性能要求,获得训练好的问题分类模型。
60.具体的,本发明可以将问题文本输入到问题分类模型中,获得问题分类模型输出的问题文本为完整问题文本或非完整问题文本的确定结果。
61.其中,确定结果可以包括两种情况,一种情况为问题文本是完整问题文本,另一种情况为问题文本不是完整问题文本。
62.s1022、基于确定结果,确定目标完整问题文本。
63.具体的,本发明可以在获得问题文本是否为完整问题文本的确定结果后,基于该确定结果,来确定出与问题文本对应的目标完整问题文本。
64.可选的,在本发明提出的其他对话处理方法中,步骤s1022可以包括:在确定问题文本为完整问题文本的情况下,将问题文本确定为目标完整问题文本。
65.具体的,当确定结果为问题文本是完整问题文本时,本发明可以直接将问题文本确定为目标完整问题文本。
66.需要说明的是,本发明在确定问题文本是完整问题文本时,可以直接将问题文本确定为目标完整问题文本,无需对问题文本进行后续改写处理过程,可以在保障生成完整问题文本,保障问题内容表达准确度的情况下,有效避免对处理资源的无谓消耗,提高资源利用率。
67.可选的,在本发明提出的其他对话处理方法中,步骤s1022可以包括:在确定问题文本不是完整问题文本的情况下,获得与问题文本对应的上下文对话文本;将问题文本和上下文对话文本输入至训练好的问题改写模型;获得问题改写模型基于问题文本和上下文对话文本输出的目标完整问题文本;其中,问题改写模型是通过利用训练数据对预训练语言模型进行训练而获得的模型,训练数据包括相对应的第一问题文本、第一上下文对话文本和完整问题文本。
68.需要说明的是,当问题文本不是完整问题文本时,说明用户是通过多次问题信息输入来输入完整问题的。此时,问题文本中仅包括其中一次问题信息输入的、完整问题中的部分问题信息,本发明可以从用户在输入该完整问题时输入的其他问题信息中提取出完整问题的剩余问题信息。具体的,本发明可以先行获得问题文本在本次对话服务的当前所有对话文本中的上下文对话文本,从上下文对话文本中提取出完整问题的剩余问题信息,并基于问题文本和该剩余问题信息生成相应的完整对话文本。其中,本次对话服务的当前所有对话文本,可以包括对话服务方(如问答机器人)向输入问题文本的特定用户提供的本次
对话服务中,双方当前的所有对话文本。
69.具体的,上下文对话文本可以包括在本次对话服务的当前所有对话文本中,问题文本之前的n轮对话文本即上文对话文本,以及问题文本之后的m轮对话文本即下文对话文本。
70.可选的,n和m可以同时为正整数,比如,n可以为4,m可以为2;此时,本发明可以同时利用问题文本的上文对话文本和下文对话文本来生成目标完整对话文本。
71.可选的,n和m中的一个可以为0,另一个为正整数。当n为正整数,m为0时,本发明可以仅利用问题文本的上文对话文本来生成目标完整对话文本;当n为0,m为正整数时,本发明可以仅利用问题文本的下文对话文本来生成目标完整对话文本。
72.其中,问题改写模型可以是用于将问题文本改写为相应的完整问题文本即目标完整问题文本的自然语言模型。
73.具体的,问题改写模型可以基于问题文本及相应的上下文对话文本,将问题文本改写为相应的完整问题文本。
74.需要说明的是,本发明可以先行采集多个训练样本,通过利用训练样本对预训练的自然语言模型进行训练,来获得问题改写模型。具体的,每个训练样本中均可以包括相对应的问题文本、上下文对话文本和完整问题文本。
75.其中,第一问题文本即包括各训练样本中的问题文本,第一上下文对话文本即包括各训练样本中的上下文对话文本,完整问题文本即包括各训练样本中的完整问题文本。
76.具体的,在利用训练样本对自然语言模型进行训练过程中,可以使得自然语言模型学习基于问题文本和上下文对话文本,对问题文本进行问题改写的能力,以使得自然语言模型具备基于问题文本和上下文对话文本,将问题文本改写成相应的完整问题文本的能力。当自然语言模型的问题改写能力满足模型性能要求时,本发明可以将当前的自然语言模型确定为训练好的问题改写模型,并将训练好的问题改写模型应用到对用户的对话服务场景中。
77.需要说明的是,本发明利用训练好的问题改写模型来生成问题文本对应的完整问题文本,可以有效具备完整问题文本的生成能力,有效保障问题内容表达的准确度,进而可以提高答案匹配的准确度,增强对话能力的可靠性,提升用户体验,促进用户进行多轮对话,增强用户粘性。
78.还需要说明的是,本发明通过步骤s1021和s1022,可以有效具备完整问题文本的生成能力,有效保障问题内容表达的准确度,进而可以提高答案匹配的准确度,增强对话能力的可靠性,提升用户体验,促进用户进行多轮对话,增强用户粘性。
79.本发明提出的对话处理方法,可以有效具备完整问题文本的生成能力,有效保障问题内容表达的准确度,进而可以提高答案匹配的准确度,增强对话能力的可靠性,提升用户体验,促进用户进行多轮对话,增强用户粘性。
80.基于图1,本发明提出第三种对话处理方法。在该方法中,上述步骤s104可以包括:将目标完整问题文本和目标候选答案输入至自然回复改写模型,获得自然回复改写模型输出的自然回复答案;其中,自然回复改写模型是通过利用训练数据对预训练语言模型进行训练而获得的模型,训练数据包括相对应的完整问题文本、答案文本和自然回复文本。
81.其中,自然回复改写模型可以为具备自然语言处理能力的自然语言模型,该自然语言处理能力可以基于目标完整问题文本,将目标候选答案改写为自然回复答案。
82.具体的,自然回复改写模型可以具备将目标候选答案改写为指代回复类型或补全回复类型的自然回复答案。比如,当目标完整文本为“明星xxx今年多大了”,目标候选答案为“20岁”时,自然回复改写模型可以将目标候选答案改写为指代回复类型的自然回复答案“他20岁”;再比如,当目标完整文本为“明星xxx有新歌吗”,目标候选答案为新歌名称“yyy”时,自然回复改写模型可以将目标候选答案改写为补全回复类型的自然回复答案“明星xxx的新歌为yyy”。
83.需要说明的是,本发明通过将目标候选答案改写为指代回复类型或补全回复类型的自然回复答案,可以使得答复内容更加接近人类用语习惯,使得与用户的对话更加自然顺畅,可以有效增强对话能力的可靠性,提升用户体验,促进用户进行多轮对话,增强用户粘性。
84.需要说明的是,本发明可以采集多个训练样本,通过利用多个训练样本对预训练的自然语言模型进行训练,来获得自然回复改写模型。其中,每个训练样本均包括相对应的完整问题文本、答案文本和自然回复文本。
85.具体的,在利用训练样本对自然回复改写模型进行训练过程中,可以使得自然回复改写模型学习基于完整问题文本和答案文本,将答案文本改写为自然回复答案的能力,以使得自然回复改写模型具备基于完整问题文本和答案文本,将答案文本改写为自然回复答案的能力。当自然语言模型的答案改写能力满足模型性能要求时,本发明可以将当前的自然语言模型确定为训练好的自然回复改写模型,并将训练好的自然回复改写模型应用到对用户的对话服务场景中。
86.需要说明的是,本发明利用训练好的自然回复改写模型来生成自然回复答案,可以有效具备自然回复答案的改写及生成能力,有效使得输出的答案回复内容可以更加接近人类语气习惯,增强对话能力的可靠性,提升用户体验,促进用户进行多轮对话,增强用户粘性。
87.本发明提出的对话处理方法,可以通过训练好的自然回复改写模型来生成自然回复答案,有效具备自然回复答案的改写及生成能力,可以使得输出的答案回复内容更加接近人类语气习惯,增强对话能力的可靠性,提升用户体验,促进用户进行多轮对话,增强用户粘性。
88.基于图1,本发明提出第四种对话处理方法。在该方法中,步骤s103可以包括:确定出与目标完整问题文本对应的候选答案;将目标完整问题文本和候选答案输入至答案决策模型,获得答案决策模型输出的置信度满足预设要求的候选答案;将置信度满足预设要求的候选答案确定为目标候选答案;其中,答案决策模型包括置信度评价层、答案排序层和答案输出层;置信度评价层用于确定候选答案匹配目标完整问题文本的置信度,置信度评价层是通过利用训练数据对预训练模型进行训练而获得的模型,训练数据包括完整问题文本和标注有置信度的答案文本;答案排序层用于按照候选答案匹配目标完整问题文本的置信度,对候选答案进行排序;答案输出层用于确定并输出置信度满足预设要求的候选答案。
89.其中,答案决策模型可以为具备自然语言处理能力的自然语言模型,该自然语言处理能力可以基于完整问题文本和候选答案,确定出置信度满足要求的候选答案。
90.具体的,答案决策模型中可以包括置信度评价层、答案排序层和答案输出层。需要说明的是,本发明可以采集多个训练样本,利用多个训练样本对预训练模型进行训练,来获得置信度评价层。每个训练样本均可以包括完整问题文本和标注有置信度的答案文本。其中,置信度即为答案文本作为完整问题文本的答案的置信度。
91.其中,预训练模型可以为具有置信度评价能力的神经网络模型或其他类型的模型。
92.具体的,本发明可以在确定目标完整问题文本后,确定出与目标完整问题文本对应的多个候选答案;之后,将目标完整问题文本和多个候选答案输入到答案决策模型中,此时,置信度评价层可以分别生成各候选答案作为目标完整问题文本的答案的置信度;之后,答案排序层可以按照置信度的大小,对各候选答案进行排序;之后,答案输出层可以从排序的各候选答案中筛选出符合预设要求的候选答案,输出符合预设要求的候选答案。
93.具体的,预设要求可以由工作人员按照实际需求和实际情况进行制定,比如要求置信度不低于预设阈值,此时答案输出层可以先行确定出置信度不低于预设阈值的各候选答案,之后输出其中的任一个候选答案;再比如要求置信度最大,此时即可以先行确定出置信度最大的候选答案并进行输出。
94.具体的,本发明可以将答案决策模型输出的候选答案确定为目标候选答案。
95.需要说明的是,本发明基于多种问答子系统来获得多个候选答案,从多个候选答案中确定目标候选答案,可以有效增强目标候选答案的准确度和可靠度,从而提高对用户的答复内容的准确度和可靠性;且,本发明通过利用答案决策模型,从多个候选答案中筛选出置信度满足预设要求的候选答案作为目标候选答案,可以有效保障目标候选答案对目标完整问题文本的匹配度,有效保障答案回复内容的准确度,增强对话能力的可靠性,提升用户体验,促进用户进行多轮对话,增强用户粘性。
96.本发明提出的对话处理方法,基于多种问答子系统来获得多个候选答案,从多个候选答案中确定目标候选答案,可以有效增强目标候选答案的准确度和可靠度,从而提高对用户的答复内容的准确度和可靠性;且,本发明通过利用答案决策模型,从多个候选答案中筛选出置信度满足预设要求的候选答案作为目标候选答案,可以有效保障目标候选答案对目标完整问题文本的匹配度,有效保障答案回复内容的准确度,增强对话能力的可靠性,提升用户体验,促进用户进行多轮对话,增强用户粘性。
97.如图3所示,本发明提出第五种对话处理方法。在该方法中,本发明通过利用问题分类模型、问题改写模型、答案决策模型和自然回复改写模型,来生成与用户输入的问题文本对应的自然回复答案,以进一步增强对话能力的可靠性,提升用户体验,促进用户进行多轮对话,增强用户粘性。
98.具体的,本发明可以在与用户进行的当前对话服务中,获得用户输入的问题文本,确定问题文本是否为完整问题文本;在确定问题文本不是完整问题文本的情况下,在与该用户进行的当前对话服务的当前所有对话文本中,获得问题文本的上文对话文本即对话历史;具体的,本发明可以将问题文本和对话历史输入到问题改写模型中,获得问题改
写模型输出的目标完整问题文本;其中,本发明可以在确定问题文本不是完整问题文本的情况下,将用户输入的问题文本x = {x1,x2,

xn}和上文对话文本context ={q1, r1, q2, r2,

qn, rn}输入到问题改写模型中,获得问题改写模型输出的目标完整问题文本x’= {x’1,x’2,

x’n};其中,本发明可以利用下述函数来实现目标完整问题文本的生成:其中,intent表示通过ψ0()函数的问题分类模型对问题文本进行是否完整问题文本的判断,若输出为0表示该问题文本为完整问题文本,则表示不需要进行改写处理,如输出为1,则表示问题文本是需要进一步澄清的问题,需要通过ψ1()函数的问题改写模型结合context进行问题改写。
99.具体的,本发明可以将目标完整问题文本分别输入到基于知识图谱的问答子系统、基于段落检索-机器阅读的问答子系统和基于问答对匹配的问答子系统中,获得该三个问答子系统输出的与目标完整问题文本对应的至少一个候选答案;其中,基于知识图谱的问答子系统可以包括实体识别模块、实体链接模块和实体属性判断模块;基于段落检索-机器阅读的问答子系统可以包括搜索引擎模块、段落检索模块和机器阅读理解模块;基于问答对匹配的问答子系统可以包括问题粗排模块和问题精排模块;其中,在基于知识图谱的问答子系统中,可以首先通过实体识别模块得到相关的知识实体
퐸푛푡푖푡푦

퐸푛푡푖푡푦
=ψ2(x’);其中,ψ2()函数即为实体识别模块;之后,通过实体链接模块和实体属性判断模块得到相关的实体属性即为知识图谱中的答案answer1;具体的:
퐴푡푡푟푖푏푢푡푒
1,... ,
퐴푡푡푟푖푏푢푡푒푁
=ψ3(
퐸푛푡푖푡푦
);answer1=
푀푎푥
(ψ4(


,
퐴푡푡푟푖푏푢푡푒푀
);
퐴푡푡푟푖푏푢푡푒푀

퐴푡푡푟푖푏푢푡푒
1,...,
퐴푡푡푟푖푏푢푡푒푁
;其中,ψ3()函数为实体链接模块,
퐴푡푡푟푖푏푢푡푒
1,...,
퐴푡푡푟푖푏푢푡푒푁
表示知识实体
퐸푛푡푖푡푦
对应的n个属性内容;ψ4()函数表示实体属性判断模块,
퐴푡푡푟푖푏푢푡푒
m表示n个属性中的一个,max表示最大值函数。answer1表示通过知识图谱的问答子系统输出的top1答案即排序第一的答案。
100.其中,在基于段落检索-机器阅读的问答子系统中,首先通过搜索引擎模块检索到最相关的n个段落passage1,passage2,

, passagen,之后通过段落检索模块得到最相关的段落top passage,通过机器阅读理解模块得到最终的候选答案answer2;具体的:passage1,passage2,

,passagen =ψ5(


);top passage=
푀푎푥
(ψ6(


, passagem));passagem∈passage1,passage2,

,passagen;answer2=ψ7(top passage,


);
其中,ψ5()函数表示搜索引擎模块;passage1,passage2,
…ꢀ
passagen表示通过搜索引擎模块得到对应的n个相关段落,ψ6()函数表示段落检索模块,passagem表示n个段落中的一个,max表示最大值函数。top passage表示最相关的段落,ψ7()函数表示机器阅读理解模块,answer2表示通过阅读器得到的候选答案。
101.其中,在基于问答对匹配的问答子系统中,可以获得目标完整问题文本x’的候选答案answer 3。具体的:question1,question2,

,question

=
푀푎푥
(ψ8(


,question

));question

∈questionk;topquestion =
푀푎푥
(ψ9(


, question 푀
));question 푀
∈question 1

question 푁
;answer3=ψ10 (top question);其中,x
’ꢀ
= {x’1,x’2,

x’n},ψ8函数表示问题粗排模块,k为问题库中的问题数量;question 1,question 2,

,questionn表示通过问题粗排模块得到对应的n个相关候选问题,ψ9函数表示问题精排模块,questionm表示n个候选问题中的一个,max表示最大值函数。topquestion表示最相关的候选问题,ψ10()函数表示候选问题到候选答案的映射函数,answer 3表示通过映射后得到的候选答案。
102.具体的,本发明可以将目标完整问题文本,以及上述三个问答子系统所输出的候选答案,全部输入到答案决策模型中,获得答案决策模型输出的置信度满足预设要求的候选答案;本发明可以将该置信度满足预设要求的候选答案确定目标候选答案;具体的,本发明可以将目标完整问题答案、上述候选答案answer 1、answer 2和answer 3输入到答案决策模型中,获得答案决策模型输出的目标候选答案topanswer。具体的:topanswer=ψ11(answer 1, answer 2, answer 3);其中,ψ11()函数表示答案决策模型。
103.具体的,本发明可以将目标完整问题文本和目标候选答案输入到自然回复改写模型中,获得自然回复改写模型输出的自然回复答案;输出自然回复答案至用户处,为用户提供问题文本对应的答案内容response。具体的:response=ψ12(


, topanswer)。
104.其中,ψ12()函数表示自然回复改写模型。
105.本发明提出的对话处理方法,可以通过利用问题分类模型、问题改写模型、答案决策模型和自然回复改写模型,来生成与用户输入的问题文本对应的自然回复答案,以进一步增强对话能力的可靠性,提升用户体验,促进用户进行多轮对话,增强用户粘性。
106.下面对本发明提供的对话处理装置进行描述,下文描述的对话处理装置与上文描述的对话处理方法可相互对应参照。
107.如图4所示,本发明提出一种对话处理装置,包括:一种对话处理装置,包括:第一获得单元401、第一确定单元402、第二确定单元403、生成单元404和输出单元405;其中:第一获得单元401,用于获得待处理的问题文本;第一确定单元402,用于确定与问题文本对应的目标完整问题文本;第二确定单元403,用于确定与目标完整问题文本相匹配的目标候选答案;
生成单元404,用于基于目标完整问题文本和目标候选答案,生成与问题文本对应的自然回复答案;输出单元405,用于输出与问题文本对应的自然回复答案。
108.需要说明的是,第一获得单元401、第一确定单元402、第二确定单元403、生成单元404和输出单元405的具体处理过程及其带来的技术效果,可以分别参照本发明关于图1中步骤s101、s102、s103和s104的相关说明,不再赘述。
109.可选的,第一确定单元402,包括:第三确定单元和第四确定单元;第三确定单元,用于确定问题文本是否为完整问题文本,以获得问题文本是否为完整问题文本的确定结果;第四确定单元,用于基于确定结果,确定目标完整问题文本。
110.可选的,第三确定单元,包括:第一输入单元和第二获得单元;其中:第一输入单元,用于将问题文本输入至训练好的问题分类模型;第二获得单元,用于获得问题分类模型基于问题文本输出的确定结果;其中,问题分类模型是通过利用标注类别标识的第一问题文本,对预训练语言模型进行训练而获得的模型。
111.可选的,第四确定单元,包括:第三获得单元、第二输入单元和第四获得单元;第三获得单元,用于在确定问题文本不是完整问题文本的情况下,获得与问题文本对应的上下文对话文本;第二输入单元,用于将问题文本和上下文对话文本输入至训练好的问题改写模型;第四获得单元,用于获得问题改写模型基于问题文本和上下文对话文本输出的目标完整问题文本;其中,问题改写模型是通过利用训练数据对预训练语言模型进行训练而获得的模型,训练数据包括相对应的第一问题文本、第一上下文对话文本和完整问题文本。
112.可选的,第四确定单元,用于在确定问题文本为完整问题文本的情况下,将问题文本确定为目标完整问题文本。
113.可选的,生成单元404,包括:第三输入单元和第五获得单元,其中:第三输入单元,用于将目标完整问题文本和目标候选答案输入至自然回复改写模型;第五获得单元,用于获得自然回复改写模型输出的自然回复答案;其中,自然回复改写模型是通过利用训练数据对预训练语言模型进行训练而获得的模型,训练数据包括相对应的完整问题文本、答案文本和自然回复文本。
114.可选的,第二确定单元403,包括:第五确定单元、第四输入单元、第六获得单元和第六确定单元;第五确定单元,用于确定出与目标完整问题文本对应的候选答案;第四输入单元,用于将目标完整问题文本和候选答案输入至答案决策模型;第六获得单元,用于获得答案决策模型输出的置信度满足预设要求的候选答案;第六确定单元,用于将置信度满足预设要求的候选答案确定为目标候选答案;其中,答案决策模型包括置信度评价层、答案排序层和答案输出层;置信度评价层
用于确定候选答案匹配目标完整问题文本的置信度,置信度评价层是通过利用训练数据对预训练模型进行训练而获得的模型,训练数据包括完整问题文本和标注有置信度的答案文本;答案排序层用于按照候选答案匹配目标完整问题文本的置信度,对候选答案进行排序;答案输出层用于确定并输出置信度满足预设要求的候选答案。
115.本发明提出的对话处理装置,可以获得待处理的问题文本;确定与问题文本对应的目标完整问题文本;确定与目标完整问题文本相匹配的目标候选答案;基于目标完整问题文本和目标候选答案,生成与问题文本对应的自然回复答案;输出与问题文本对应的自然回复答案。本发明通过确定与问题文本对应的目标完整问题文本,可以有效提高问题内容表达的准确度,进而可以提高答案匹配的准确度,增强对话能力的可靠性,提升用户体验,促进用户进行多轮对话,增强用户粘性;且,本发明可以在获得目标完整问题文本和目标候选答案后,基于目标完整问题文本和目标候选答案,将目标候选答案改写为自然回复答案并进行输出,使得输出的答案回复内容可以更加接近人类语气习惯,增强对话能力的可靠性,提升用户体验,促进用户进行多轮对话,增强用户粘性。
116.图5示例了一种电子设备的实体结构示意图,如图5所示,该电子设备可以包括:处理器(processor)510、通信接口(communications interface)520、存储器(memory)530和通信总线540,其中,处理器510,通信接口520,存储器530通过通信总线540完成相互间的通信。处理器510可以调用存储器530中的逻辑指令,以执行对话处理方法,该方法包括:获得待处理的问题文本;确定与问题文本对应的目标完整问题文本;确定与目标完整问题文本相匹配的目标候选答案;基于目标完整问题文本和目标候选答案,生成与问题文本对应的自然回复答案;输出与问题文本对应的自然回复答案。
117.此外,上述的存储器530中的逻辑指令可以通过软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例方法的全部或部分步骤。而前述的存储介质包括:u盘、移动硬盘、只读存储器(rom,read-only memory)、随机存取存储器(ram,random access memory)、磁碟或者光盘等各种可以存储程序代码的介质。
118.又一方面,本发明还提供一种非暂态计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现以执行上述各方法提供的对话处理方法,该方法包括:获得待处理的问题文本;确定与问题文本对应的目标完整问题文本;确定与目标完整问题文本相匹配的目标候选答案;基于目标完整问题文本和目标候选答案,生成与问题文本对应的自然回复答案;输出与问题文本对应的自然回复答案。
119.以上所描述的装置实施例仅仅是示意性的,其中所述作为分离部件说明的单元可
以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下,即可以理解并实施。
120.通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件。基于这样的理解,上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在计算机可读存储介质中,如rom/ram、磁碟、光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行各个实施例或者实施例的某些部分所述的方法。
121.最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1