一种基于检索和生产混合问答的流程系统的制作方法

文档序号:14923571发布日期:2018-07-13 08:04阅读:393来源:国知局

本发明涉及一种流程系统,具体为一种基于检索和生产混合问答的流程系统,属于信息检索处理技术领域。



背景技术:

近些年来,问答机器人由于其广泛的应用场景和巨大的商业价值,受到越来越多的广大科技型公司和科研机构的重视,因此也出现了很多优秀的产品,如微软的小冰,apple的siri,google的谷歌助手。不像其他的传统电子app,人们不需要输入固定的命令语言(比如:“提交”、“购买”),而可以使用人类语言与app进行交流。

问答系统一直以来被认为是人工智能领域最难的问题之一。但是随着最近几年来各种问答社区和社交网站的出现,对话语料的数量出现了爆炸性的增长,并且硬件的发展使得计算机的计算力大大提高,这一切都为问答系统的发展提供了新的机遇。

问答系统可以分为基于垂直领域和开放领域两种,开放领域主要是闲聊类,垂直领域主要是助手类,当前建立对话机器人的主流技术主要是基于检索模型和生成模型两种。

在检索模型中,系统会根据所给的问题从question-answer数据库中找寻与该问题语义最相近的问句,然后返回该问句对应的答案,该方法的主要问题有两个:第一个是数据库中question-answer对数量有限,有可能检索不到用户提出的问题的答案。第二个问题是question-answer对是固定的,可能无法根据用户提出的问题得到完全对应的答案。

在生成模型中,对话系统会首先理解用户提出的问题,然后逐字的生成对应于该问题的答案。目前主流的方法是深度学习中seq2seq模型,该模型先用encoder端将问句编码为一个向量表示,再由decoder端将该向量表示解码为一个回复,该模型的主要问题是有可能生成的答案很容易是通用的、单调的回复(例如:“我不知道”、“好的”等),这样的回复包含的信息较少,没有实质性的意义。



技术实现要素:

本发明的目的就在于为了解决上述问题而提供一种基于检索和生产混合问答的流程系统。

本发明通过以下技术方案来实现上述目的:一种基于检索和生产混合问答的流程系统,包括

分类器,对一个query进行分类。

候选集,对于未能进行分类的问题,在检索系统找寻与该问题最接近的问题,筛选出来的候选句子集。

数据库,用于储存各种问题问句,便于找寻与所提问题语义最相近的问句

模型筛选,调用生成系统生成对应答案给出回复。

其中,所述分类器将所提问题分为“天气”、“新闻”、“笑话”、“航班/高铁”,“附近(地理位置)”和“其他”六种类型,所述候选集使用基于循环神经网络的自编码模型来得到每个句子的向量表达,所述候选集使用bm25评分方法进行问题与数据库内的句子进行相似度计算,所述模型筛选使用了基于seq2seq的模型进行生成系统的搭建。

一种基于检索和生产混合问答的流程系统,主要包括以下步骤:

步骤a,使用了基于卷积神经网络(cnn)的分类模型和基于正则表达式两种方法来构建query分类器。

步骤b,在建立检索系统时,选择了key-value内存数据库redis进行倒排索引搭建和问答语料存储,使用python实现了普通检索、扩展查询、bm25模型的相似度评价等功能,并使用tensorflow训练了自编码模型来解决检索时句子的语义识别问题。

步骤c,选择开源框架tensorflow进行对话模型以建立对话生成系统,tensorflow是google开发的人工智能框架平台,可用于图像和自然语言处理等多项深度学习领域。

优选的,为了能够对问题的分类具有极高的准确率,所述分类器能够感知问题的上下文,通过与问题的上下文结合。

优选的,为了能够提取问题中的重要属性进行实时查询,所述分类器使用基于深度学习的分类模型和正则表达式识别相结合的方法进行问题的分类。

优选的,为了解决检索系统搜索不精确的问题,所述候选集检索系统的问题匹配过程中建立倒排索引进行原语句检索和同义词的查询扩展检索。

优选的,为了使生成的句子更加具有逻辑性和结构性,所述步骤c中,对话模型使用seq2seq模型进行对话回复的生成,并在其中加入了attention机制,同时也在解码端加入了beamsearch机制。

本发明的有益效果是:该基于检索和生产混合问答的流程系统设计合理,分类器能够感知问题的上下文,通过与问题的上下文结合,能够对问题的分类具有极高的准确率,分类器使用基于深度学习的分类模型和正则表达式识别相结合的方法进行问题的分类,能够提取问题中的重要属性调用相应的api进行实时查询,具有较强的实时性,候选集检索系统的问题匹配过程中建立倒排索引进行原语句检索和同义词的查询扩展检索,能够搜索出来与问题最相近的句子,解决了检索系统搜索不精确的问题,步骤c中,对话模型使用seq2seq模型进行对话回复的生成,并在其中加入了attention机制,同时也在解码端加入了beamsearch机制,加入了attention机制和beamsearch的seq2seq模型生成的句子更加具有逻辑性和结构性,增加了回复的多样性。

附图说明

图1为本发明结构示意图。

具体实施方式

下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。

请参阅图1,一种基于检索和生产混合问答的流程系统,包括

分类器,对一个query进行分类。

候选集,对于未能进行分类的问题,在检索系统找寻与该问题最接近的问题,筛选出来的候选句子集。

数据库,用于储存各种问题问句,便于找寻与所提问题语义最相近的问句

模型筛选,调用生成系统生成对应答案给出回复。

其中,所述分类器将所提问题分为“天气”、“新闻”、“笑话”、“航班/高铁”,“附近(地理位置)”和“其他”六种类型,所述候选集使用基于循环神经网络的自编码模型来得到每个句子的向量表达,所述候选集使用bm25评分方法进行问题与数据库内的句子进行相似度计算,所述模型筛选使用了基于seq2seq的模型进行生成系统的搭建。

一种基于检索和生产混合问答的流程系统,主要包括以下步骤:

步骤a,使用了基于卷积神经网络(cnn)的分类模型和基于正则表达式两种方法来构建query分类器。

步骤b,在建立检索系统时,选择了key-value内存数据库redis进行倒排索引搭建和问答语料存储,使用python实现了普通检索、扩展查询、bm25模型的相似度评价等功能,并使用tensorflow训练了自编码模型来解决检索时句子的语义识别问题。

步骤c,选择开源框架tensorflow进行对话模型以建立对话生成系统,tensorflow是google开发的人工智能框架平台,可用于图像和自然语言处理等多项深度学习领域。

所述分类器能够感知问题的上下文,通过与问题的上下文结合,能够对问题的分类具有极高的准确率,所述分类器使用基于深度学习的分类模型和正则表达式识别相结合的方法进行问题的分类,能够提取问题中的重要属性调用相应的api进行实时查询,具有较强的实时性,所述候选集检索系统的问题匹配过程中建立倒排索引进行原语句检索和同义词的查询扩展检索,能够搜索出来与问题最相近的句子,解决了检索系统搜索不精确的问题,所述步骤c中,对话模型使用seq2seq模型进行对话回复的生成,并在其中加入了attention机制,同时也在解码端加入了beamsearch机制,加入了attention机制和beamsearch的seq2seq模型生成的句子更加具有逻辑性和结构性,增加了回复的多样性。

对于本领域技术人员而言,显然本发明不限于上述示范性实施例的细节,而且在不背离本发明的精神或基本特征的情况下,能够以其他的具体形式实现本发明。因此,无论从哪一点来看,均应将实施例看作是示范性的,而且是非限制性的,本发明的范围由所附权利要求而不是上述说明限定,因此旨在将落在权利要求的等同要件的含义和范围内的所有变化囊括在本发明内。不应将权利要求中的任何附图标记视为限制所涉及的权利要求。

此外,应当理解,虽然本说明书按照实施方式加以描述,但并非每个实施方式仅包含一个独立的技术方案,说明书的这种叙述方式仅仅是为清楚起见,本领域技术人员应当将说明书作为一个整体,各实施例中的技术方案也可以经适当组合,形成本领域技术人员可以理解的其他实施方式。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1