1.本技术涉及人工智能技术领域,尤其涉及基于人工智能的信息提取方法、装置、计算机设备及存储介质。
背景技术:2.信息提取是自然语言处理领域中一项基础的研究方向,作为基础任务辅助文本智能化处理。目前业界许多的金融公司或科技公司都有开源的信息提取服务,可以解决常用的一些信息提取需求,如人名、地名、公司名等实体,这对文本智能化处理,智能客服等领域有很大应用,提高了自动化进程,大大节省了人力成本。
3.目前的信息提取服务大多数都是通用领域的提取,实体覆盖度不够,不能适应用于一些特殊的业务。并且,在对应用于信息提取服务的模型进行增量训练时所需样本较多,标注成本较高,使得模型构建耗时较长,构建成本较高,且对于特定领域的信息提取的准确率较低。
技术实现要素:4.本技术实施例的目的在于提出一种基于人工智能的信息提取方法、装置、计算机设备及存储介质,以解决现有在对应用于信息提取服务的模型进行增量训练时所需样本较多,标注成本较高,使得模型构建耗时较长,构建成本较高,且对于特定领域的信息提取的准确率较低。的技术问题。
5.为了解决上述技术问题,本技术实施例提供一种基于人工智能的信息提取方法,采用了如下所述的技术方案:
6.获取目标领域的非结构化文本,并对所述非结构化文件进行数据预处理得到第一训练文本数据;
7.对所述第一训练文本数据进行实体标注处理,得到第二训练文本数据;
8.基于所述第二训练文本数据对预设的神经网络模型进行训练,得到训练后的神经网络模型;
9.获取与所述目标领域对应的目标实体关系模板;
10.基于所述第二训练文本数据与所述目标实体关系模板生成第三训练文本数据;
11.基于所述第三训练文本数据对所述训练后的神经网络模型进行二次训练得到相应的信息提取模型,并利用所述信息提取模型对待处理的文本数据进行信息提取。
12.进一步的,所述对所述第一训练文本数据进行实体标注处理,得到第二训练文本数据的步骤,具体包括:
13.获取预设的实体字典;
14.基于所述实体字典对所述非结构化文本进行实体标注处理,得到对应的第一标注数据;
15.接收第一用户输入的与所述非结构化文本对应的第二标注数据;
16.对所述第一训练文本数据、所述第一标注数据以及所述第二标注数据进行打包,生成所述第二训练文本数据。
17.进一步的,所述基于所述实体字典对所述非结构化文本进行实体标注处理,得到对应的第一标注数据的步骤,具体包括:
18.对所述非结构化文本进行分词处理,得到多个第一词语;
19.基于预设的并行处理指令,将所有所述第一词语与所述实体字典内的所有实体词进行匹配,从所有所述第一词语中筛选出与所述实体词存在匹配关系的第二词语;
20.确定各所述第二词语的实体类别信息;
21.基于所述实体类别信息对所有所述第二词语进行实体标注处理,得到所述第一标注数据。
22.进一步的,所述基于所述第二训练文本数据与所述目标实体关系模板生成第三训练文本数据的步骤,具体包括:
23.对所述第二训练文本数据进行实体提取,得到对应的实体数据;其中,所述实体数据中包括多个实体;
24.获取与所述目标实体关系模板对应的目标实体关系;
25.基于所述实体数据与所述目标实体关系模板,构建出符合所述目标实体关系的目标语句;
26.将所述目标语句作为所述第三训练文本数据。
27.进一步的,所述获取与所述目标领域对应的目标实体关系模板的步骤,具体包括:
28.调用预设的模板数据库;
29.获取所述非结构化文本的目标领域信息;
30.基于所述目标领域信息,从所述模板数据库中查询出与所述目标领域信息对应的第一实体关系模板;
31.将所述第一实体关系模板作为所述目标实体关系模板。
32.进一步的,所述基于人工智能的信息提取方法还包括:
33.判断是否接收到第二用户触发的实体关系模板修改请求;其中,所述实体关系模板修改请求携带领域信息;
34.从所述实体关系模板修改请求提取出所述领域信息;
35.从所述模板数据库中获取与所述领域信息对应的第二实体关系模板;
36.展示与所述第二实体关系模板对应的信息修改页面;
37.接收所述第二用户在所述信息修改页面输入的与所述第二实体关系模板对应的修改信息;
38.基于所述修改信息对所述第二实体关系模板进行修改处理,得到修改后的第三实体关系模板;
39.使用所述第三实体关系模板对所述模板数据库内的所述第二实体关系模板进行替换处理。
40.进一步的,所述利用所述信息提取模型对待处理的文本数据进行信息提取的步骤,具体包括:
41.获取待处理的文本数据;
42.将所述文本数据输入至所述信息提取模型中,通过所述信息提取模型对所述文本数据进行信息提取得到对应的目标实体信息;
43.接收所述信息提取模型返回的所述目标实体信息;
44.展示所述目标实体信息。
45.为了解决上述技术问题,本技术实施例还提供一种基于人工智能的信息提取装置,采用了如下所述的技术方案:
46.第一获取模块,用于获取目标领域的非结构化文本,并对所述非结构化文件进行数据预处理得到第一训练文本数据;
47.第一处理模块,用于对所述第一训练文本数据进行实体标注处理,得到第二训练文本数据;
48.训练模块,用于基于所述第二训练文本数据对预设的神经网络模型进行训练,得到训练后的神经网络模型;
49.第二获取模块,用于获取与所述目标领域对应的目标实体关系模板;
50.生成模块,用于基于所述第二训练文本数据与所述目标实体关系模板生成第三训练文本数据;
51.第二处理模块,用于基于所述第三训练文本数据对所述训练后的神经网络模型进行二次训练得到相应的信息提取模型,并利用所述信息提取模型对待处理的文本数据进行信息提取。
52.为了解决上述技术问题,本技术实施例还提供一种计算机设备,采用了如下所述的技术方案:
53.获取目标领域的非结构化文本,并对所述非结构化文件进行数据预处理得到第一训练文本数据;
54.对所述第一训练文本数据进行实体标注处理,得到第二训练文本数据;
55.基于所述第二训练文本数据对预设的神经网络模型进行训练,得到训练后的神经网络模型;
56.获取与所述目标领域对应的目标实体关系模板;
57.基于所述第二训练文本数据与所述目标实体关系模板生成第三训练文本数据;
58.基于所述第三训练文本数据对所述训练后的神经网络模型进行二次训练得到相应的信息提取模型,并利用所述信息提取模型对待处理的文本数据进行信息提取。
59.为了解决上述技术问题,本技术实施例还提供一种计算机可读存储介质,采用了如下所述的技术方案:
60.获取目标领域的非结构化文本,并对所述非结构化文件进行数据预处理得到第一训练文本数据;
61.对所述第一训练文本数据进行实体标注处理,得到第二训练文本数据;
62.基于所述第二训练文本数据对预设的神经网络模型进行训练,得到训练后的神经网络模型;
63.获取与所述目标领域对应的目标实体关系模板;
64.基于所述第二训练文本数据与所述目标实体关系模板生成第三训练文本数据;
65.基于所述第三训练文本数据对所述训练后的神经网络模型进行二次训练得到相
应的信息提取模型,并利用所述信息提取模型对待处理的文本数据进行信息提取。
66.与现有技术相比,本技术实施例主要有以下有益效果:
67.本技术实施例首先获取目标领域的非结构化文本,并对所述非结构化文件进行数据预处理得到第一训练文本数据;然后对所述第一训练文本数据进行实体标注处理,得到第二训练文本数据;之后基于所述第二训练文本数据对预设的神经网络模型进行训练,得到训练后的神经网络模型;后续获取与所述目标领域对应的目标实体关系模板;并基于所述第二训练文本数据与所述目标实体关系模板生成第三训练文本数据;最后基于所述第三训练文本数据对所述训练后的神经网络模型进行二次训练得到相应的信息提取模型,并利用所述信息提取模型对待处理的文本数据进行信息提取。本技术实施例通过利用机器方式自动对所述第一训练文本数据进行实体标注处理,可以减少人工标注的工作量,提高第二训练文本数据的生成效率,且保证了生成的训练文本数据的准确性。再利用目标领域对应的目标实体关系模板与第二训练文本数据构建第三训练文本数据,并利用第三训练文本数据对所述训练后的神经网络模型进行二次训练以得到能够准确对目标领域的文本进行实体提取的信息提取模型,提高了对于目标领域的信息提取的准确率。
附图说明
68.为了更清楚地说明本技术中的方案,下面将对本技术实施例描述中所需要使用的附图作一个简单介绍,显而易见地,下面描述中的附图是本技术的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
69.图1是本技术可以应用于其中的示例性系统架构图;
70.图2根据本技术的基于人工智能的信息提取方法的一个实施例的流程图;
71.图3是根据本技术的基于人工智能的信息提取装置的一个实施例的结构示意图;
72.图4是根据本技术的计算机设备的一个实施例的结构示意图。
具体实施方式
73.除非另有定义,本文所使用的所有的技术和科学术语与属于本技术的技术领域的技术人员通常理解的含义相同;本文中在申请的说明书中所使用的术语只是为了描述具体的实施例的目的,不是旨在于限制本技术;本技术的说明书和权利要求书及上述附图说明中的术语“包括”和“具有”以及它们的任何变形,意图在于覆盖不排他的包含。本技术的说明书和权利要求书或上述附图中的术语“第一”、“第二”等是用于区别不同对象,而不是用于描述特定顺序。
74.在本文中提及“实施例”意味着,结合实施例描述的特定特征、结构或特性可以包含在本技术的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例,也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是,本文所描述的实施例可以与其它实施例相结合。
75.为了使本技术领域的人员更好地理解本技术方案,下面将结合附图,对本技术实施例中的技术方案进行清楚、完整地描述。
76.如图1所示,系统架构100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以
包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
77.用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用,例如网页浏览器应用、购物类应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。
78.终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、电子书阅读器、mp3播放器(moving picture experts group audio layer iii,动态影像专家压缩标准音频层面3)、mp4(moving picture experts group audio layer iv,动态影像专家压缩标准音频层面4)播放器、膝上型便携计算机和台式计算机等等。
79.服务器105可以是提供各种服务的服务器,例如对终端设备101、102、103上显示的页面提供支持的后台服务器。
80.需要说明的是,本技术实施例所提供的基于人工智能的信息提取方法一般由服务器/终端设备执行,相应地,基于人工智能的信息提取装置一般设置于服务器/终端设备中。
81.应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
82.继续参考图2,示出了根据本技术的基于人工智能的信息提取方法的一个实施例的流程图。所述的基于人工智能的信息提取方法,包括以下步骤:
83.步骤s201,获取目标领域的非结构化文本,并对所述非结构化文件进行数据预处理得到第一训练文本数据。
84.在本实施例中,基于人工智能的信息提取方法运行于其上的电子设备(例如图1所示的服务器/终端设备),可以通过有线连接方式或者无线连接方式获取非结构化文本。需要指出的是,上述无线连接方式可以包括但不限于3g/4g/5g连接、wifi连接、蓝牙连接、wimax连接、zigbee连接、uwb(ultra wideband)连接、以及其他现在已知或将来开发的无线连接方式。具体地,获取目标领域的非结构化文本,并对所述非结构化文件进行数据预处理得到第一训练文本数据的步骤可包括:调用预设的文本数据库;基于所述目标领域,从所述文本数据库中查询出与所述目标领域对应的所述非结构化文本;对所述非结构化进行数据清洗处理,得到清洗后的文本;将所述清洗后的文本作为所述第一训练文本数据。其中,上述文本数据库为预先存储有各个领域的文本数据的数据库。另外,上述领域可为车险领域、寿险领域等等。
85.步骤s202,对所述第一训练文本数据进行实体标注处理,得到第二训练文本数据。
86.在本实施例中,上述对所述第一训练文本数据进行实体标注处理,得到第二训练文本数据的具体实施过程,本技术将在后续的具体实施例中对此进行进一步的细节描述,在此不作过多阐述。
87.步骤s203,基于所述第二训练文本数据对预设的神经网络模型进行训练,得到训练后的神经网络模型。
88.在本实施例中,上述神经网络模型具体可为预训练语言模型。通过将第二训练文本数据输入至神经网络模型进行训练,并获取该神经网络模型的模型指标数据,若模型指标数据满足预设的指标要求,则可判定对于该神经网络模型的初步训练完成,并得到训练后的的神经网络模型
89.步骤s204,获取与所述目标领域对应的目标实体关系模板。
90.在本实施例中,实体关系模板也称为prompt模板,prompt模板是为下游任务设计出来的一种输入形式或模板,它能够帮助预训练模型回忆起自己在预训练时学习到的东西。利用prompt设计模板或者范式,这种设计思路的好处是帮助预训练回忆起自己预训练学到的知识,也就是要下游任务迁就预训练,充分发挥预训练模型的潜能,而且利用prompt可以很灵活的增加模板或者范式扩充其它实体,增强了模型复用性,迁移能力更强,一个模型解决更多信息提取服务,节省了大量成本。其中,上述获取与所述目标领域对应的目标实体关系模板的具体实施过程,本技术将在后续的具体实施例中对此进行进一步的细节描述,在此不作过多阐述。
91.步骤s205,基于所述第二训练文本数据与所述目标实体关系模板生成第三训练文本数据。
92.在本实施例中,上述基于所述第二训练文本数据与所述目标实体关系模板生成第三训练文本数据的具体实施过程,本技术将在后续的具体实施例中对此进行进一步的细节描述,在此不作过多阐述。
93.步骤s206,基于所述第三训练文本数据对所述训练后的神经网络模型进行二次训练得到相应的信息提取模型,并利用所述信息提取模型对待处理的文本数据进行信息提取。
94.在本实施例中,可基于所述第三训练文本数据对所述训练后的神经网络模型进行调优得到相应的信息提取模型。其中,在调优过程中,如果prompt模板的识别效果不好时,还可以重新设计prompt模板,并利用新的prompt模板生成新的训练文本数据,利用新的训练文本数据对训练后的神经网络模型进行调优。另外,利用所述信息提取模型对待处理的文本数据进行信息提取的具体实施过程,本技术将在后续的具体实施例中对此进行进一步的细节描述,在此不作过多阐述。
95.本技术首先获取目标领域的非结构化文本,并对所述非结构化文件进行数据预处理得到第一训练文本数据;然后对所述第一训练文本数据进行实体标注处理,得到第二训练文本数据;之后基于所述第二训练文本数据对预设的神经网络模型进行训练,得到训练后的神经网络模型;后续获取与所述目标领域对应的目标实体关系模板;并基于所述第二训练文本数据与所述目标实体关系模板生成第三训练文本数据;最后基于所述第三训练文本数据对所述训练后的神经网络模型进行二次训练得到相应的信息提取模型,并利用所述信息提取模型对待处理的文本数据进行信息提取。本技术通过利用机器方式自动对所述第一训练文本数据进行实体标注处理,可以减少人工标注的工作量,提高第二训练文本数据的生成效率,且保证了生成的训练文本数据的准确性。再利用目标领域对应的目标实体关系模板与第二训练文本数据构建第三训练文本数据,并利用第三训练文本数据对所述训练后的神经网络模型进行二次训练以得到能够准确对目标领域的文本进行实体提取的信息提取模型,提高了对于目标领域的信息提取的准确率。
96.在一些可选的实现方式中,步骤s202包括以下步骤:
97.获取预设的实体字典。
98.在本实施例中,上述实体字段具体为与目标领域对应的目标字体字典。对于不同的领域,会预先收集每一个领域下的常用的领域实体词语并存储至一个字典内以得到与该
领域对应的实体字典,并生成字体字典与领域之间的关联关系,进而基于该关联关系对所有的实体字典进行存储。具体的,上述获取预设的实体字典的步骤包括:获取所述非结构化文本的目标领域信息;基于所述目标领域信息,从预存储的所有实体字典中筛选出与所述目标领域信息匹配的实体字典。
99.基于所述实体字典对所述非结构化文本进行实体标注处理,得到对应的第一标注数据。
100.在本实施例中,上述第一标注数据的标注方式为机器标注方式。上述基于所述实体字典对所述非结构化文本进行实体标注处理,得到对应的第一标注数据的具体实施过程,本技术将在后续的具体实施例中对此进行进一步的细节描述,在此不作过多阐述。
101.接收第一用户输入的与所述非结构化文本对应的第二标注数据。
102.在本实施例中,上述第二标注数据的标注方式为人工标注方式。在电子设备使用机器标注方式对所述非结构化文本进行实体标注处理后,还可由人工将非结构化文本在经过机器标注处理后遗漏的一些实体词或者标注错误的实体词进行标注,进而生成上述第二标注数据。
103.对所述第一训练文本数据、所述第一标注数据以及所述第二标注数据进行打包,生成所述第二训练文本数据。
104.在本实施例中,通过对所述第一训练文本数据、所述第一标注数据以及所述第二标注数据进行打包整合,将所述第一标注数据以及所述第二标注数据作为第一训练文本数据的标签,以生成相应的第二训练文本数据。
105.本技术通过获取预设的实体字典,然后基于所述实体字典对所述非结构化文本进行实体标注处理,得到对应的第一标注数据,后续接收第一用户输入的与所述非结构化文本对应的第二标注数据,进而对所述第一训练文本数据、所述第一标注数据以及所述第二标注数据进行打包,生成所述第二训练文本数据。本技术通过结合使用机器标注与人工标注的方式对非结构化文本进行实体标注处理以生成相应的训练数据,可以减少人工标注的工作量,提高训练文本数据的生成效率,且保证了生成的训练文本数据的准确性。
106.在本实施例的一些可选的实现方式中,所述基于所述实体字典对所述非结构化文本进行实体标注处理,得到对应的第一标注数据的步骤,包括以下步骤:
107.对所述非结构化文本进行分词处理,得到多个第一词语。
108.在本实施例中,可以调用现有的分词工具,例如jieba工具对所述非结构化文本进行分词处理,得到多个第一词语。
109.基于预设的并行处理指令,将所有所述第一词语与所述实体字典内的所有实体词进行匹配,从所有所述第一词语中筛选出与所述实体词存在匹配关系的第二词语。
110.在本实施例中,上述并行处理指令具体可为单指令流多数据流(single instruction multiple data,simd)指令。通过利用并行处理指令的并行计算能力来同时进行第一词语与实体字典内的每一个实体词的词语匹配处理,有助于进一步提高词语匹配的处理速率,从而提高生成获取第二词语的速度。
111.确定各所述第二词语的实体类别信息。
112.在本实施例中,可通过调用预设的实体类别数据表,再基于第二词语从实体类别数据表中查询出与第二词语对应的实体类别信息。其中,上述实体类别数据表为根据实际
的业务需求预设构建的存储有多个实体词语,以及与每一个实体词语一一对应的实体类别的数据表。
113.基于所述实体类别信息对所有所述第二词语进行实体标注处理,得到所述第一标注数据。
114.在本实施例中,对于每一个第二词语,可通过将第二词语的表现标注为该第二词语对应的实体类别信息,以完成对于该第二词语的标签标注处理。
115.本技术通过对所述非结构化文本进行分词处理,得到多个第一词语然后基于预设的并行处理指令,将所有所述第一词语与所述实体字典内的所有实体词进行匹配,从所有所述第一词语中筛选出与所述实体词存在匹配关系的第二词语,之后确定各所述第二词语的实体类别信息,进而基于所述实体类别信息对所有所述第二词语进行实体标注处理,得到所述第一标注数据。本技术基于并行处理指令以及实体字典的使用可以自动地进行对于非结构化文本的实体标注处理,提高了非结构化文本的实体标注的处理效率。
116.在一些可选的实现方式中,步骤s205包括以下步骤:
117.对所述第二训练文本数据进行实体提取,得到对应的实体数据;其中,所述实体数据中包括多个实体。
118.在本实施例中,可以使用现有的实体识别方法对对所述第二训练文本数据进行实体提取,得到对应的实体数据。
119.获取与所述目标实体关系模板对应的目标实体关系。
120.在本实施例中,举例地,假如目标实体关系模板的内容为:实体1与实体2是夫妻关系。则目标实体关系模板的目标实体关系为“夫妻”关系。
121.基于所述实体数据与所述目标实体关系模板,构建出符合所述目标实体关系的目标语句。
122.在本实施例中,可基于目标实体关系模板的目标实体关系,构造出所有实体数据为上述目标实体关系的语句,构造得到的语句即为上述目标语句。
123.将所述目标语句作为所述第三训练文本数据。
124.本技术通过对所述第二训练文本数据进行实体提取,得到对应的实体数据,然后获取与所述目标实体关系模板对应的目标实体关系,进而基于所述实体数据与所述目标实体关系模板,构建出符合所述目标实体关系的目标语句,并将所述目标语句作为所述第三训练文本数据。本技术通过基于目标实体关系模板对应的目标实体关系,利用所述第二训练文本数据与所述目标实体关系模板实现快速地生成第三训练文本数据,通过将现有的目标实体关系模板的知识进行利用以构建新的训练文本数据,可以解决训练数据不足的情况。
125.在一些可选的实现方式中,步骤s204包括以下步骤:
126.调用预设的模板数据库。
127.在本实施例中,上述模板数据库为根据实际的业务需求预先创建的存储有各个领域的领域信息,以及与各个领域分别对应的实体关系模板。期中,由于不同领域的实体之间的差别较大,所以,可以针对每个领域中的实体的特点创建相应的prompt模板,即针对不同的领域创建不同的prompt模板。其中,每个领域的实体对应于至少一个prompt模板。
128.获取所述非结构化文本的目标领域信息。
129.基于所述目标领域信息,从所述模板数据库中查询出与所述目标领域信息对应的第一实体关系模板。
130.在本实施例中,可先从模板数据库中确定出与该非结构化文本的目标领域信息匹配的领域信息,进而从模板数据库中查询出与该领域信息具有关联关系的第一实体关系模板。
131.将所述第一实体关系模板作为所述目标实体关系模板。
132.本技术通过调用预设的模板数据库,然后获取所述非结构化文本的目标领域信息,进而基于所述目标领域信息,从所述模板数据库中查询出与所述目标领域信息对应的第一实体关系模板,并将所述第一实体关系模板作为所述目标实体关系模板。本技术通过对模板数据库进行查询可以快速地查找出与目标领域匹配的目标实体关系模板,提高了目标实体关系模板获取的处理效率。
133.在本实施例的一些可选的实现方式中,上述电子设备还可以执行以下步骤:
134.判断是否接收到第二用户触发的实体关系模板修改请求。其中,所述实体关系模板修改请求携带领域信息。
135.在本实施例中,上述实体关系模板修改请求为第二用户触发的用于对模板数据库内的实体关系模板进行内容调整的请求。
136.从所述实体关系模板修改请求提取出所述领域信息。
137.在本实施例中,通过对所述实体关系模板修改请求进行解析,以从所述实体关系模板修改请求解析出所述领域信息。
138.从所述模板数据库中获取与所述领域信息对应的第二实体关系模板。
139.在本实施例中,可基于解析得到的领域信息对模板数据库进行查询处理,以从模板数据库中查询出与该领域信息对应的第二实体关系模板。
140.展示与所述第二实体关系模板对应的信息修改页面。
141.在本实施例中,上述信息修改页面为开发人员预先构建的可用于供用户进行实体关系模板的修改处理的页面。
142.接收所述第二用户在所述信息修改页面输入的与所述第二实体关系模板对应的修改信息。
143.在本实施例中,上述修改信息可包括第二用户对第二实体关系模板进行的信息增加、删减、替换等操作信息。
144.基于所述修改信息对所述第二实体关系模板进行修改处理,得到修改后的第三实体关系模板。
145.使用所述第三实体关系模板对所述模板数据库内的所述第二实体关系模板进行替换处理。
146.在本实施例中,通过将所述模板数据库内的所述第二实体关系模板替换为上述第三实体关系模板,以完成对于原始的第二实体关系模板的内容调整处理。
147.本技术当接收到第二用户触发的实体关系模板修改请求时,首先从所述实体关系模板修改请求提取出所述领域信息,然后从所述模板数据库中获取与所述领域信息对应的第二实体关系模板,并展示与所述第二实体关系模板对应的信息修改页面,之后接收所述第二用户在所述信息修改页面输入的与所述第二实体关系模板对应的修改信息,后续基于
所述修改信息对所述第二实体关系模板进行修改处理,得到修改后的第三实体关系模板,最后使用所述第三实体关系模板对所述模板数据库内的所述第二实体关系模板进行替换处理。本技术可以根据用户的业务需求对实体关系模板进行相应的内容调整,从而可以使调整后的实体关系模板达到业务预期效果,提高了用户的使用体验。
148.在本实施例的一些可选的实现方式中,步骤s206包括以下步骤:
149.获取待处理的文本数据。
150.在本实施例中,上述待处理的文本数据可指属于上述目标领域的待进行信息提取的文本数据。
151.将所述文本数据输入至所述信息提取模型中,通过所述信息提取模型对所述文本数据进行信息提取得到对应的目标实体信息。
152.接收所述信息提取模型返回的所述目标实体信息。
153.展示所述目标实体信息。
154.在本实施例中,对于上述目标实体信息的展示方式不作具体限定,可根据实际的业务需求进行设置,例如可以以文字的形式展示在当前界面。
155.本技术通过获取待处理的文本数据,然后将所述文本数据输入至所述信息提取模型中,通过所述信息提取模型对所述文本数据进行信息提取得到对应的目标实体信息,后续接收所述信息提取模型返回的所述目标实体信息,并展示所述目标实体信息。本技术通过使用预先训练好的信息提取模型来对待处理的文本数据进行信息提取处理,可以快速准确地生成与该待处理的文本数据对应的目标实体信息,保证了生成的目标实体信息的数据准确性。
156.需要强调的是,为进一步保证上述信息提取模型的私密和安全性,上述信息提取模型还可以存储于一区块链的节点中。
157.本技术所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(blockchain),本质上是一个去中心化的数据库,是一串使用密码学方法相关联产生的数据块,每一个数据块中包含了一批次网络交易的信息,用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
158.本技术实施例可以基于人工智能技术对相关的数据进行获取和处理。其中,人工智能(artificial intelligence,ai)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
159.人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、机器人技术、生物识别技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
160.本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机可读指令来指令相关的硬件来完成,该计算机可读指令可存储于一计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,前述的存储介质可为磁碟、光盘、只读存储记忆体(read-only memory,rom)等非易失性存储介质,或随
机存储记忆体(random access memory,ram)等。
161.应该理解的是,虽然附图的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,其可以以其他的顺序执行。而且,附图的流程图中的至少一部分步骤可以包括多个子步骤或者多个阶段,这些子步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,其执行顺序也不必然是依次进行,而是可以与其他步骤或者其他步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
162.进一步参考图3,作为对上述图2所示方法的实现,本技术提供了一种基于人工智能的信息提取装置的一个实施例,该装置实施例与图2所示的方法实施例相对应,该装置具体可以应用于各种电子设备中。
163.如图3所示,本实施例所述的基于人工智能的信息提取装置300包括:第一获取模块301、第一处理模块302、训练模块303、第二获取模块304、生成模块305以及第二处理模块306。其中:
164.第一获取模块301,用于获取目标领域的非结构化文本,并对所述非结构化文件进行数据预处理得到第一训练文本数据;
165.第一处理模块302,用于对所述第一训练文本数据进行实体标注处理,得到第二训练文本数据;
166.训练模块303,用于基于所述第二训练文本数据对预设的神经网络模型进行训练,得到训练后的神经网络模型;
167.第二获取模块304,用于获取与所述目标领域对应的目标实体关系模板;
168.生成模块305,用于基于所述第二训练文本数据与所述目标实体关系模板生成第三训练文本数据;
169.第二处理模块306,用于基于所述第三训练文本数据对所述训练后的神经网络模型进行二次训练得到相应的信息提取模型,并利用所述信息提取模型对待处理的文本数据进行信息提取。
170.在本实施例中,上述模块或单元分别用于执行的操作与前述实施方式的基于人工智能的信息提取方法的步骤一一对应,在此不再赘述。
171.在本实施例的一些可选的实现方式中,第一处理模块302包括:
172.第一获取子模块,用于获取预设的实体字典;
173.处理子模块,用于基于所述实体字典对所述非结构化文本进行实体标注处理,得到对应的第一标注数据;
174.接收子模块,用于接收第一用户输入的与所述非结构化文本对应的第二标注数据;
175.生成子模块,用于对所述第一训练文本数据、所述第一标注数据以及所述第二标注数据进行打包,生成所述第二训练文本数据。
176.在本实施例中,上述模块或单元分别用于执行的操作与前述实施方式的基于人工智能的信息提取方法的步骤一一对应,在此不再赘述。
177.在本实施例的一些可选的实现方式中,处理子模块包括:
178.第一处理单元,用于对所述非结构化文本进行分词处理,得到多个第一词语;
179.匹配单元,用于基于预设的并行处理指令,将所有所述第一词语与所述实体字典内的所有实体词进行匹配,从所有所述第一词语中筛选出与所述实体词存在匹配关系的第二词语;
180.确定单元,用于确定各所述第二词语的实体类别信息;
181.第二处理单元,用于基于所述实体类别信息对所有所述第二词语进行实体标注处理,得到所述第一标注数据。
182.本实施例中,上述模块或单元分别用于执行的操作与前述实施方式的基于人工智能的信息提取方法的步骤一一对应,在此不再赘述。
183.在本实施例的一些可选的实现方式中,生成模块305包括:
184.提取子模块,用于对所述第二训练文本数据进行实体提取,得到对应的实体数据;其中,所述实体数据中包括多个实体;
185.第二获取子模块,用于获取与所述目标实体关系模板对应的目标实体关系;
186.构建子模块,用于基于所述实体数据与所述目标实体关系模板,构建出符合所述目标实体关系的目标语句;
187.第一确定子模块,用于将所述目标语句作为所述第三训练文本数据。
188.在本实施例中,上述模块或单元分别用于执行的操作与前述实施方式的基于人工智能的信息提取方法的步骤一一对应,在此不再赘述。
189.在本实施例的一些可选的实现方式中,第二获取模块304包括:
190.调用子模块,用于调用预设的模板数据库;
191.第三获取子模块,用于获取所述非结构化文本的目标领域信息;
192.查询子模块,用于基于所述目标领域信息,从所述模板数据库中查询出与所述目标领域信息对应的第一实体关系模板;
193.第二确定子模块,用于将所述第一实体关系模板作为所述目标实体关系模板。
194.在本实施例中,上述模块或单元分别用于执行的操作与前述实施方式的基于人工智能的信息提取方法的步骤一一对应,在此不再赘述。
195.在本实施例的一些可选的实现方式中,基于人工智能的信息提取装置还包括:
196.判断模块,用于判断是否接收到第二用户触发的实体关系模板修改请求;其中,所述实体关系模板修改请求携带领域信息;
197.提取模块,用于从所述实体关系模板修改请求提取出所述领域信息;
198.第三获取模块,用于从所述模板数据库中获取与所述领域信息对应的第二实体关系模板;
199.展示模块,用于展示与所述第二实体关系模板对应的信息修改页面;
200.接收模块,用于接收所述第二用户在所述信息修改页面输入的与所述第二实体关系模板对应的修改信息;
201.修改模块,用于基于所述修改信息对所述第二实体关系模板进行修改处理,得到修改后的第三实体关系模板;
202.第三处理模块,用于使用所述第三实体关系模板对所述模板数据库内的所述第二实体关系模板进行替换处理。
203.在本实施例中,上述模块或单元分别用于执行的操作与前述实施方式的基于人工
智能的信息提取方法的步骤一一对应,在此不再赘述。
204.在本实施例的一些可选的实现方式中,第二处理模块306,包括:
205.第四获取子模块,用于获取待处理的文本数据;
206.输入子模块,用于将所述文本数据输入至所述信息提取模型中,通过所述信息提取模型对所述文本数据进行信息提取得到对应的目标实体信息;
207.接收子模块,用于接收所述信息提取模型返回的所述目标实体信息;
208.展示子模块,用于展示所述目标实体信息。
209.在本实施例中,上述模块或单元分别用于执行的操作与前述实施方式的基于人工智能的信息提取方法的步骤一一对应,在此不再赘述。
210.为解决上述技术问题,本技术实施例还提供计算机设备。具体请参阅图4,图4为本实施例计算机设备基本结构框图。
211.所述计算机设备4包括通过系统总线相互通信连接存储器41、处理器42、网络接口43。需要指出的是,图中仅示出了具有组件41-43的计算机设备4,但是应理解的是,并不要求实施所有示出的组件,可以替代的实施更多或者更少的组件。其中,本技术领域技术人员可以理解,这里的计算机设备是一种能够按照事先设定或存储的指令,自动进行数值计算和/或信息处理的设备,其硬件包括但不限于微处理器、专用集成电路(application specific integrated circuit,asic)、可编程门阵列(field-programmable gate array,fpga)、数字处理器(digital signal processor,dsp)、嵌入式设备等。
212.所述计算机设备可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。所述计算机设备可以与用户通过键盘、鼠标、遥控器、触摸板或声控设备等方式进行人机交互。
213.所述存储器41至少包括一种类型的可读存储介质,所述可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如,sd或dx存储器等)、随机访问存储器(ram)、静态随机访问存储器(sram)、只读存储器(rom)、电可擦除可编程只读存储器(eeprom)、可编程只读存储器(prom)、磁性存储器、磁盘、光盘等。在一些实施例中,所述存储器41可以是所述计算机设备4的内部存储单元,例如该计算机设备4的硬盘或内存。在另一些实施例中,所述存储器41也可以是所述计算机设备4的外部存储设备,例如该计算机设备4上配备的插接式硬盘,智能存储卡(smart media card,smc),安全数字(secure digital,sd)卡,闪存卡(flash card)等。当然,所述存储器41还可以既包括所述计算机设备4的内部存储单元也包括其外部存储设备。本实施例中,所述存储器41通常用于存储安装于所述计算机设备4的操作系统和各类应用软件,例如基于人工智能的信息提取方法的计算机可读指令等。此外,所述存储器41还可以用于暂时地存储已经输出或者将要输出的各类数据。
214.所述处理器42在一些实施例中可以是中央处理器(central processing unit,cpu)、控制器、微控制器、微处理器、或其他数据处理芯片。该处理器42通常用于控制所述计算机设备4的总体操作。本实施例中,所述处理器42用于运行所述存储器41中存储的计算机可读指令或者处理数据,例如运行所述基于人工智能的信息提取方法的计算机可读指令。
215.所述网络接口43可包括无线网络接口或有线网络接口,该网络接口43通常用于在所述计算机设备4与其他电子设备之间建立通信连接。
216.与现有技术相比,本技术实施例主要有以下有益效果:
217.本技术实施例中,首先获取目标领域的非结构化文本,并对所述非结构化文件进行数据预处理得到第一训练文本数据;然后对所述第一训练文本数据进行实体标注处理,得到第二训练文本数据;之后基于所述第二训练文本数据对预设的神经网络模型进行训练,得到训练后的神经网络模型;后续获取与所述目标领域对应的目标实体关系模板;并基于所述第二训练文本数据与所述目标实体关系模板生成第三训练文本数据;最后基于所述第三训练文本数据对所述训练后的神经网络模型进行二次训练得到相应的信息提取模型,并利用所述信息提取模型对待处理的文本数据进行信息提取。本技术实施例通过利用机器方式自动对所述第一训练文本数据进行实体标注处理,可以减少人工标注的工作量,提高第二训练文本数据的生成效率,且保证了生成的训练文本数据的准确性。再利用目标领域对应的目标实体关系模板与第二训练文本数据构建第三训练文本数据,并利用第三训练文本数据对所述训练后的神经网络模型进行二次训练以得到能够准确对目标领域的文本进行实体提取的信息提取模型,提高了对于目标领域的信息提取的准确率。
218.本技术还提供了另一种实施方式,即提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机可读指令,所述计算机可读指令可被至少一个处理器执行,以使所述至少一个处理器执行如上述的基于人工智能的信息提取方法的步骤。
219.与现有技术相比,本技术实施例主要有以下有益效果:
220.本技术实施例中,首先获取目标领域的非结构化文本,并对所述非结构化文件进行数据预处理得到第一训练文本数据;然后对所述第一训练文本数据进行实体标注处理,得到第二训练文本数据;之后基于所述第二训练文本数据对预设的神经网络模型进行训练,得到训练后的神经网络模型;后续获取与所述目标领域对应的目标实体关系模板;并基于所述第二训练文本数据与所述目标实体关系模板生成第三训练文本数据;最后基于所述第三训练文本数据对所述训练后的神经网络模型进行二次训练得到相应的信息提取模型,并利用所述信息提取模型对待处理的文本数据进行信息提取。本技术实施例通过利用机器方式自动对所述第一训练文本数据进行实体标注处理,可以减少人工标注的工作量,提高第二训练文本数据的生成效率,且保证了生成的训练文本数据的准确性。再利用目标领域对应的目标实体关系模板与第二训练文本数据构建第三训练文本数据,并利用第三训练文本数据对所述训练后的神经网络模型进行二次训练以得到能够准确对目标领域的文本进行实体提取的信息提取模型,提高了对于目标领域的信息提取的准确率。
221.通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本技术的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如rom/ram、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,空调器,或者网络设备等)执行本技术各个实施例所述的方法。
222.显然,以上所描述的实施例仅仅是本技术一部分实施例,而不是全部的实施例,附图中给出了本技术的较佳实施例,但并不限制本技术的专利范围。本技术可以以许多不同的形式来实现,相反地,提供这些实施例的目的是使对本技术的公开内容的理解更加透彻全面。尽管参照前述实施例对本技术进行了详细的说明,对于本领域的技术人员来而言,其依然可以对前述各具体实施方式所记载的技术方案进行修改,或者对其中部分技术特征进
行等效替换。凡是利用本技术说明书及附图内容所做的等效结构,直接或间接运用在其他相关的技术领域,均同理在本技术专利保护范围之内。