自然语言提问的理解方法、装置及电子设备与流程

文档序号:14571934发布日期:2018-06-01 22:46阅读:169来源:国知局
自然语言提问的理解方法、装置及电子设备与流程

本发明涉及自然语言处理技术领域,尤其是涉及一种自然语言提问的理解方法、装置及电子设备。



背景技术:

自然语言处理是一项被人类长期关注并研究的技术,目前该技术主要应用于多语言翻译、信息查询等多个领域,并且均有很好的进展,然而将自然语言处理直接运用在数据分析上国内尚无先例。

自然语言处理分为多种不同的技术流派,一开始,基于形式语言的自然语言处理方法居主流地位,但这种技术路线无法处理富于变化的表达方法,只能机械的按照某些写好的模板或规则对语言进行翻译或生成,显得非常生硬。之后,出现了将统计数学理论引入语言处理的方式,比如,当前谷歌翻译、百度翻译等大部分机器翻译系统均是在此类系统的基础上开发而成。这种基于统计理论的自然语言处理方法,可以有效的运用大量的语料库对模型进行训练,从而习得各种语言表达的变化形式。目前在多语言翻译上表现是很好的。但是这种技术路线仍然存在如下缺陷:

(1)如果某些场景没有大量的语料积累,其识别性能就大打折扣;

(2)通过统计方法训练出来的模型,不具有精确性,难以表达或解析准确的含义。

因此,现有的自然语言处理方法无法运用于一些很专业的场景,比如数据分析领域。



技术实现要素:

有鉴于此,本发明的目的在于提供一种自然语言提问的理解方法、装置及电子设备,能够对用户的自然语言提问信息进行准确的识别,并匹配出高准确度的数据结果,可以应用于数据分析领域等专业的场景。

第一方面,本发明实施例提供了一种自然语言提问的理解方法,包括:

获取用户端输入的自然语言提问信息;自然语言提问信息为与数据查询相关的提问信息;

对自然语言提问信息进行解析,得到最小解析单元;

基于最小解析单元以及预设指令集,生成自然语言提问信息对应的查询指令;

根据查询指令从预设知识库中进行检索,得到自然语言提问信息对应的数据结果;预设知识库根据用户提供的数据库数据、用户的输入信息数据和/或第三方数据生成。

结合第一方面,本发明实施例提供了第一方面的第一种可能的实施方式,其中,对自然语言提问信息进行解析,得到最小解析单元,具体包括:

对自然语言提问信息进行分词处理,得到多个分词片段;

对多个分词片段进行实体名词识别,得到最小解析单元;最小解析单元包括:属性最小解析单元、度量最小解析单元及时间修饰结构词。

结合第一方面,本发明实施例提供了第一方面的第二种可能的实施方式,其中,属性最小解析单元包括属性项、计算操作项、属性逻辑关系项中至少一项;度量最小解析单元包括度量项、度量逻辑关系项、计算修饰项中至少一项。

结合第一方面,本发明实施例提供了第一方面的第三种可能的实施方式,其中,基于最小解析单元以及预设指令集,生成自然语言提问信息对应的查询指令,具体包括:

根据最小解析单元推断自然语言提问信息所包含的数据查询逻辑;

根据数据查询逻辑,从预设指令集中提取相应指令进行组合,生成自然语言提问信息对应的查询指令。

结合第一方面,本发明实施例提供了第一方面的第四种可能的实施方式,其中,在根据查询指令从预设知识库中进行检索,得到自然语言提问信息对应的数据结果之前,还包括:

获取知识库样本数据;知识库样本数据包括:用户提供的数据库数据、用户的输入信息数据和/或第三方数据;

根据知识库样本数据,生成预设知识库。

结合第一方面,本发明实施例提供了第一方面的第五种可能的实施方式,其中,在根据查询指令从预设知识库中进行检索,得到自然语言提问信息对应的数据结果后,还包括:

将自然语言提问信息及其对应的数据结果添加至预设知识库中。

第二方面,本发明实施例提供一种自然语言提问的理解装置,包括:

信息获取模块,用于获取用户端输入的自然语言提问信息;自然语言提问信息为与数据查询相关的提问信息;

信息解析模块,用于对自然语言提问信息进行解析,得到最小解析单元;

指令生成模块,用于基于最小解析单元以及预设指令集,生成自然语言提问信息对应的查询指令;

检索模块,用于根据查询指令从预设知识库中进行检索,得到自然语言提问信息对应的数据结果;预设知识库根据用户提供的数据库数据、用户的输入信息数据和/或第三方数据生成。

结合第二方面,本发明实施例提供了第二方面的第一种可能的实施方式,其中,信息解析模块包括:

分词模块,用于对自然语言提问信息进行分词处理,得到多个分词片段;

识别模块,用于对多个分词片段进行实体名词识别,得到最小解析单元;最小解析单元包括:属性最小解析单元、度量最小解析单元及时间修饰结构词。

第三方面,本发明实施例还提供一种电子设备,包括存储器、处理器,存储器上存储有可在处理器上运行的计算机程序,处理器执行计算机程序时实现第一方面所述的方法的步骤。

第四方面,本发明实施例还提供一种具有处理器可执行的非易失的程序代码的计算机可读介质,程序代码使处理器执行第一方面所述的方法。

本发明实施例带来了以下有益效果:

在本发明实施例提供的自然语言提问的理解方法中,首先对自然语言提问信息进行解析,得到最小解析单元,然后基于最小解析单元以及预设的指令集,构造出该自然语言提问信息的查询语句,进而依据该查询语句从预先建立的知识库中进行检索,得到该提问信息对应的数据结果,该方法中,知识库的建立基于用户提供的数据库数据、用户的输入信息数据和/或第三方数据,可以为提问信息提供准确的、经过计算统计之后得到的数据结果,从而使得该方法可以应用于数据分析领域等专业的场景

本发明的其他特征和优点将在随后的说明书中阐述,并且,部分地从说明书中变得显而易见,或者通过实施本发明而了解。本发明的目的和其他优点在说明书、权利要求书以及附图中所特别指出的结构来实现和获得。

为使本发明的上述目的、特征和优点能更明显易懂,下文特举较佳实施例,并配合所附附图,作详细说明如下。

附图说明

为了更清楚地说明本发明具体实施方式或现有技术中的技术方案,下面将对具体实施方式或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施方式,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。

图1为本发明实施例提供的一种自然语言提问的理解方法的流程图;

图2为本发明实施例提供的另一种自然语言提问的理解方法的流程图;

图3为本发明实施例提供的另一种自然语言提问的理解方法的流程图;

图4为本发明实施例提供的另一种自然语言提问的理解方法的流程图;

图5为本发明实施例提供的另一种自然语言提问的理解方法的流程图;

图6为本发明实施例提供的一种自然语言提问的理解装置的结构示意图;

图7为本发明实施例提供的一种电子设备的结构示意图。

具体实施方式

为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合附图对本发明的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。

目前现有的自然语言处理方法存在如下缺陷:(1)如果某些场景没有大量的语料积累,其识别性能就大打折扣;(2)通过统计方法训练出来的模型,不具有精确性,难以表达或解析准确的含义。因此,无法运用于一些很专业的场景,比如数据分析领域。基于此,本发明实施例提供的一种自然语言提问的理解方法、装置及电子设备,能够对用户的自然语言提问信息进行准确的识别,并匹配出高准确度的数据结果,可以应用于数据分析领域等专业的场景。

为便于对本实施例进行理解,首先对本发明实施例所公开的一种自然语言提问的理解方法进行详细介绍。

实施例一:

本发明实施例提供一种自然语言提问的理解方法,可以应用于数据分析领域等相对专业的场景,参见图1所示,该方法包括以下几个步骤:

S101:获取用户端输入的自然语言提问信息;所述自然语言提问信息为与数据查询相关的提问信息。

具体实现的时候,用户可以通过语音或者打字等输入方式,利用搜索引擎的交互过程,给软件系统输入自然语言提问信息,比如“2016年之前年龄大于60(岁的)中国姓王的藏族男性(的)体重小于70kg的平均年龄”等。上述自然语言提问信息最终以文本的形式被服务器获取到,而且,该自然语言提问信息为与数据查询相关的提问信息。

S102:对自然语言提问信息进行解析,得到最小解析单元。

为了得到最终的与自然语言提问信息相对应的准确的数据结果,需要对该自然语言提问信息进行准确地分析理解,因此,在获取到用户输入的自然语言提问信息后,需要首先对该自然语言提问信息进行解析,得到最小解析单元。具体的解析过程包括以下步骤,参见图2所示:

S201:对自然语言提问信息进行分词处理,得到多个分词片段。

在具体实现的时候,首先对自然语言提问信息进行分词处理,也就是实体边界识别,将自然语言提问信息分割成多个分词片段,比如,上述问题“2016年之前年龄大于60(岁的)中国姓王的藏族男性(的)体重小于70kg的平均年龄”,经过分词处理后,可以得到“2016年之前”“年龄”“大于60(岁的)”“中国”“姓”“王的”“藏族”“男性(的)”“体重”“小于70kg的”“平均”“年龄”多个分词片段。

S202:对多个分词片段进行实体名词识别,得到最小解析单元。

在得到多个分词片段后,对每个分词片段进行实体名词识别,确定该自然语言提问信息对应的最小解析单元。其中,最小解析单元包括:属性最小解析单元、度量最小解析单元及时间修饰结构词。属性最小解析单元包括属性项、计算操作项、属性逻辑关系项中至少一项;度量最小解析单元包括度量项、度量逻辑关系项、计算修饰项中至少一项;结构词包括时间修饰词。

具体的,属性最小解析单元中的属性项表示该自然语言提问信息所属的分类;属性最小解析单元中的计算操作项表示计数、按拼音排名、按姓氏笔画排名等方式;属性最小解析单元中的属性逻辑关系项表示相似、不相似、包含、不包含等逻辑关系;度量最小解析单元中的度量项表示数值;度量最小解析单元中的度量逻辑关系项表示大于、小于、等于、大于等于、小于等于等数值大小关系;度量最小解析单元中的计算修饰项表示求和、平均(建议平均的用法规定为:平均xxx,不得使用xxx的平均值)、计数、标准差、方差、月增长率、周增长率、年增长率、排序、最大值、最小值、前N、倒数N等等;时间修饰结构词表示时间段、时间点、某点以前、某点以后、某点和某点之间,等等描述时间的词语。

需要说明的是,属性最小解析单元、度量最小解析单元及时间修饰结构词的判断的核心在于实体名词识别出的词是否可计算,比如,上述表示大于、小于、包含、不包含、标准差、增长率等含义的词汇均为可以进行计算的词,以这些可计算的词为依据进行后续的步骤,可以提高对自然语言提问信息理解的准确度,以及获得更加精确的数据结果,为数据分析领域提供更好的数据参考信息。

通过对用户输入的自然语言提问信息进行分词处理和实体名词识别,可以确定出该自然语言提问信息所对应的最小解析单元。比如:提问信息为“2017年8月华北地区动作电影的票房收入”,那么分词后,提取出的分词片段为:时间(2017年8月),地区(华北地区),动作电影的,票房收入。然后对上述分词片段进行实体名词识别,确定出该提问信息的最小解析单元和结构词;其中,时间(2017年8月)为时间修饰结构词;地区(华北地区)属于属性最小解析单元,动作电影属于属性最小解析单元;收入属于度量最小解析单元。

S103:基于最小解析单元以及预设指令集,生成自然语言提问信息对应的查询指令。

具体的,查询指令的生成过程包括以下步骤,参见图3所示:

S301:根据最小解析单元推断自然语言提问信息所包含的数据查询逻辑。

比如,对自然语言提问信息“2017年8月华北地区动作电影的票房收入”进行解析后,得到的最小解析单元包括:华北地区(属性最小解析单元)、动作电影(属性最小解析单元)、收入(度量最小解析单元);时间修饰结构词为:2017年8月;然后进一步根据这些词确定该提问信息所包含的数据查询逻辑。具体的,根据最小解析单元的含义和顺序,确定其在指令集中的组合逻辑。

问题类别不同的自然语言提问信息所对应数据查询逻辑是不同的。自然语言提问信息的问题类别常见的有:问数量类、问比率类、问排名类、问关系类等。其中,问数量类指某些特定时间段内或者某个时间点的度量值或属性值;问比率类指某个度量或某个属性的计数在不同时间段的比值、不同度量在同一时间段的比值等;问排名类指按照某种维度(该维度最终解析成过滤条件)对列(度量或属性)进行排序;问关系类中的关系是预定义的或者程序经数据训练习得的,比如最危险的、最有价值的、最相关的、同类的等等。

针对每种问题类别有不同的查询逻辑,比如,问数量类所对应的逻辑为:时间段或时间点|逻辑修饰1|数值1|逻辑修饰n|数值n|,问比率类所对应的组合方式为:时间段|逻辑修饰1|数值1|逻辑修饰n|数值n|分类A的|分类B的|逻辑修饰B|分类N的|数值2|逻辑修饰|计算修饰|数值1|增长率(计算修饰)等等,基于对提问信息的分类类别,确定出提问信息查询逻辑。

S302:根据数据查询逻辑,从预设指令集中提取相应指令进行组合,生成自然语言提问信息对应的查询指令。

比如,基于上述自然语言提问信息“2017年8月华北地区动作电影的票房收入”解析出的最小解析单元,以及上述数据查询逻辑,从预设指令集中提取出相应的指令,并按照数据查询逻辑进行组合,构造出该提问信息的查询指令,如:通过SQL或Cyper等结构化的查询语言,以2017年8月—华北地区—动作电影—票房收入这个顺序构造查询语句。上述顺序包含了构造查询语句的优先级排列方式,排在前面的优先级最高,该优先级排列方式根据前述的数据查询逻辑进行确定,通过上述数据查询逻辑所确定出的优先级进行语句构造和数据查询,可以减少数据的处理量,避免对不必要的数据进行处理而导致的耗时问题。

S104:根据查询指令从预设知识库中进行检索,得到自然语言提问信息对应的数据结果。

在根据所述查询指令从预设知识库中进行检索,得到所述自然语言提问信息对应的数据结果之前,还包括以下步骤,参见图4所示:

S401:获取知识库样本数据;所述知识库样本数据包括:用户提供的数据库数据、用户的输入信息数据和/或第三方数据。

S402:根据知识库样本数据,生成预设知识库。

具体的知识库生成过程不做具体限定,可以采用基于卷积神经网络的深度学习模型进行建立,也可以采用其它的方法。

为了提高查询结果的精确度,本发明实施例所提供的方法还包括以下步骤,参见图5所示:

S501:将自然语言提问信息及其对应的数据结果添加至预设知识库中。

通过上述步骤可以不断地更新预设知识库中的数据,使预设知识库中的内容越来越丰富,从而可以不断地提高提问信息的查询精确度。最终得到的数据结果会根据查询时间的不同以及知识库的不断更新,发生相应的变化,而并非预存好的答案。

在本发明实施例提供的自然语言提问的理解方法中,首先对自然语言提问信息进行解析,得到最小解析单元,然后基于最小解析单元以及预设的指令集,构造出该自然语言提问信息的查询语句,进而依据该查询语句从预先建立的知识库中进行检索,得到该提问信息对应的数据结果,该方法中,知识库的建立基于用户提供的数据库数据、用户的输入信息数据和/或第三方数据,可以为提问信息提供准确的、经过计算统计之后得到的数据结果,从而使得该方法可以应用于数据分析领域等专业的场景。

实施例二:

本发明实施例提供一种自然语言提问的理解装置,参见图6所示,该装置包括:信息获取模块61、信息解析模块62、指令生成模块63、检索模块64。

信息获取模块61,用于获取用户端输入的自然语言提问信息;自然语言提问信息为与数据查询相关的提问信息;信息解析模块62,用于对自然语言提问信息进行解析,得到最小解析单元;指令生成模块63,用于基于最小解析单元以及预设指令集,生成自然语言提问信息对应的查询指令;检索模块64,用于根据查询指令从预设知识库中进行检索,得到自然语言提问信息对应的数据结果;预设知识库根据用户提供的数据库数据、用户的输入信息数据和/或第三方数据生成。

具体的,信息解析模块62还包括:

分词模块621,用于对自然语言提问信息进行分词处理,得到多个分词片段;识别模块622,用于对多个分词片段进行实体名词识别,得到最小解析单元;最小解析单元包括:属性最小解析单元、度量最小解析单元及时间修饰结构词。

本发明实施例所提供的自然语言提问的理解装置中,各个模块与前述自然语言提问的理解方法具有相同的技术特征,因此,同样可以实现上述功能。本装置中的各个模块的具体工作过程参见上述方法实施例,在此不再赘述。

实施例三:

本发明实施例还提供一种电子设备,参见图7所示,该电子设备包括:处理器70,存储器71,总线72和通信接口73,所述处理器70、通信接口73和存储器71通过总线72连接;处理器70用于执行存储器71中存储的可执行模块,例如计算机程序。处理器执行计算机程序时实现如方法实施例所述的方法的步骤。

其中,存储器71可能包含高速随机存取存储器(RAM,RandomAccessMemory),也可能还包括非不稳定的存储器(non-volatile memory),例如至少一个磁盘存储器。通过至少一个通信接口73(可以是有线或者无线)实现该系统网元与至少一个其他网元之间的通信连接,可以使用互联网,广域网,本地网,城域网等。

总线72可以是ISA总线、PCI总线或EISA总线等。所述总线可以分为地址总线、数据总线、控制总线等。为便于表示,图7中仅用一个双向箭头表示,但并不表示仅有一根总线或一种类型的总线。

其中,存储器71用于存储程序,所述处理器70在接收到执行指令后,执行所述程序,前述本发明实施例任一实施例揭示的流过程定义的装置所执行的方法可以应用于处理器70中,或者由处理器70实现。

处理器70可能是一种集成电路芯片,具有信号的处理能力。在实现过程中,上述方法的各步骤可以通过处理器70中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器70可以是通用处理器,包括中央处理器(Central Processing Unit,简称CPU)、网络处理器(Network Processor,简称NP)等;还可以是数字信号处理器(Digital Signal Processing,简称DSP)、专用集成电路(Application Specific Integrated Circuit,简称ASIC)、现成可编程门阵列(Field-Programmable Gate Array,简称FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本发明实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本发明实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成,或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器,闪存、只读存储器,可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器71,处理器70读取存储器71中的信息,结合其硬件完成上述方法的步骤。

本发明实施例所提供的自然语言提问的理解方法的计算机程序产品,包括存储了处理器可执行的非易失的程序代码的计算机可读存储介质,所述程序代码包括的指令可用于执行前面方法实施例中所述的方法,具体实现可参见方法实施例,在此不再赘述。

所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的装置及电子设备的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。

附图中的流程图和框图显示了根据本发明的多个实施例方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分,所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。

在本发明的描述中,需要说明的是,术语“中心”、“上”、“下”、“左”、“右”、“竖直”、“水平”、“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此不能理解为对本发明的限制。此外,术语“第一”、“第二”、“第三”仅用于描述目的,而不能理解为指示或暗示相对重要性。

在本申请所提供的几个实施例中,应该理解到,所揭露的系统、装置和方法,可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,又例如,多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。

所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。

所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个处理器可执行的非易失的计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。

最后应说明的是:以上所述实施例,仅为本发明的具体实施方式,用以说明本发明的技术方案,而非对其限制,本发明的保护范围并不局限于此,尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,其依然可以对前述实施例所记载的技术方案进行修改或可轻易想到变化,或者对其中部分技术特征进行等同替换;而这些修改、变化或者替换,并不使相应技术方案的本质脱离本发明实施例技术方案的精神和范围,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应所述以权利要求的保护范围为准。

当前第1页1 2 3 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1