结构图生成方法、模型的训练方法、图谱生成方法及装置与流程

文档序号:30784113发布日期:2022-07-16 07:15阅读:186来源:国知局
结构图生成方法、模型的训练方法、图谱生成方法及装置与流程

1.本公开涉及数据处理技术领域,尤其涉及图谱、深度学习等技术领域。具体涉及结构图生成方法、结构图生成模型的训练方法、图谱生成方法、装置、电子设备、存储介质以及程序产品。


背景技术:

2.信息抽取技术在人工智能领域扮演着非常重要的角色,越来越多的人工智能领域的研究与应用依赖于信息抽取技术。例如,从开放领域信息中抽取内容来生成知识图谱,以丰富和补充知识库中的内容,以便应用于检索、人机交互等领域。还例如,从开放领域信息中抽取内容来生成事理图谱,能够清晰地梳理多个事件彼此之间的关联关系。如何从开放领域信息中准确、有效地进行信息抽取,成为一个研究重点。


技术实现要素:

3.本公开提供了一种结构图生成方法、结构图生成模型的训练方法、图谱生成方法、装置、电子设备、存储介质以及程序产品。
4.根据本公开的一方面,提供了一种结构图生成方法,包括:对待处理语句进行上下文编码,得到编码向量序列;基于所述编码向量序列,确定用于生成结构图的节点信息、拓扑结构信息和边信息,所述节点信息用于表征结构图的节点的属性信息,所述拓扑结构信息用于表征多个节点彼此之间是否存在边,所述边信息用于表征所述多个节点彼此之间的关联关系;以及基于所述节点信息、所述拓扑结构信息和所述边信息,生成针对所述待处理语句的目标结构图。
5.根据本公开的另一方面,提供了一种结构图生成模型的训练方法,其中,所述结构图生成模型包括上下文编码子模型、节点标签生成子模型、拓扑结构生成子模型和边标签生成子模型,所述结构图生成模型的训练方法包括:将与样本结构图相对应的样本语句输入至所述上下文编码子模型,得到样本编码向量序列,其中,所述样本结构图包括样本节点标签、样本拓扑结构标签以及样本边标签;将所述样本编码向量序列输入至所述节点标签生成子模型,得到样本节点信息;将所述样本语句输入至所述拓扑结构生成子模型,得到样本拓扑结构信息;将所述样本语句输入至所述边标签生成子模型,得到样本边信息;以及基于所述样本结构图、所述样本节点信息、所述样本拓扑结构信息和所述样本边信息,训练所述结构图生成模型,得到经训练的结构图生成模型。
6.根据本公开的另一方面,提供了一种图谱生成方法,包括:基于结构图生成目标图谱,其中,所述结构图是利用本公开的结构图生成方法生成的。
7.根据本公开的另一方面,提供了一种结构图生成装置,包括:编码模块,用于对待处理语句进行上下文编码,得到编码向量序列;确定模块,用于基于所述编码向量序列,确定用于生成结构图的节点信息、拓扑结构信息和边信息,其中,所述节点信息用于表征结构图的节点的属性信息,所述拓扑结构信息用于表征多个节点彼此之间是否存在边,所述边
信息用于表征所述多个节点彼此之间的关联关系;以及结构图生成模块,用于基于所述节点信息、所述拓扑结构信息和所述边信息,生成针对所述待处理语句的目标结构图。
8.根据本公开的另一方面,提供了一种结构图生成模型的训练装置,其中,所述结构图生成模型包括上下文编码子模型、节点标签生成子模型、拓扑结构生成子模型和边标签生成子模型,所述结构图生成模型的训练装置包括:第一输入模块,用于将与样本结构图相对应的样本语句输入至所述上下文编码子模型,得到样本编码向量序列,其中,所述样本结构图包括样本节点标签、样本拓扑结构标签以及样本边标签;第二输入模块,用于将所述样本编码向量序列输入至所述节点标签生成子模型,得到样本节点信息;第三输入模块,用于将所述样本语句输入至所述拓扑结构生成子模型,得到样本拓扑结构信息;第四输入模块,用于将所述样本语句输入至所述边标签生成子模型,得到样本边信息;以及训练模块,用于基于所述样本结构图、所述样本节点信息、所述样本拓扑结构信息和所述样本边信息,训练所述结构图生成模型,得到经训练的结构图生成模型。
9.根据本公开的另一方面,提供了一种图谱生成装置,包括:图谱生成模块,用于基于结构图生成目标图谱,其中,所述结构图是利用本公开所述的结构图生成装置生成的。
10.根据本公开的另一方面,提供了一种电子设备,包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如本公开的方法。
11.根据本公开的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行如本公开的方法。
12.根据本公开的另一方面,提供了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现如本公开的方法。
13.应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
14.附图用于更好地理解本方案,不构成对本公开的限定。其中:
15.图1示意性示出了根据本公开实施例的可以应用结构图生成方法及装置的示例性系统架构;
16.图2示意性示出了根据本公开实施例的结构图;
17.图3示意性示出了根据本公开实施例的结构图生成方法的流程图;
18.图4示意性示出了根据本公开实施例的结构图生成模型的示意图;
19.图5示意性示出了根据本公开实施例的生成目标结构图的示意图;
20.图6示意性示出了根据本公开实施例的结构图生成模型的训练方法的流程图;
21.图7示意性示出了根据本公开实施例的图谱生成方法的流程图;
22.图8示意性示出了根据本公开实施例的结构图生成装置的框图;
23.图9示意性示出了根据本公开实施例的结构图生成模型的训练装置的框图;
24.图10示意性示出了根据本公开实施例的图谱生成装置的框图;以及
25.图11示意性示出了根据本公开实施例的适于实现结构图生成方法的电子设备的
框图。
具体实施方式
26.以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
27.本公开提供了一种结构图生成方法、结构图生成模型的训练方法、图谱生成方法、装置、电子设备、存储介质以及程序产品。
28.根据本公开的实施例,提供一种结构图生成方法,可以包括:对待处理语句进行上下文编码,得到编码向量序列;基于编码向量序列,确定用于生成结构图的节点信息、拓扑结构信息和边信息,其中,节点信息用于表征结构图的节点的属性信息,拓扑结构信息用于表征多个节点彼此之间是否存在边,边信息用于表征多个节点彼此之间的关联关系;以及基于节点信息、拓扑结构信息和边信息,生成针对待处理语句的目标结构图。
29.在本公开的技术方案中,所涉及的用户个人信息的收集、存储、使用、加工、传输、提供、公开和应用等处理,均符合相关法律法规的规定,采取了必要保密措施,且不违背公序良俗。
30.在本公开的技术方案中,在获取或采集用户个人信息之前,均获取了用户的授权或同意。
31.图1示意性示出了根据本公开实施例的可以应用结构图生成方法及装置的示例性系统架构。
32.需要注意的是,图1所示仅为可以应用本公开实施例的系统架构的示例,以帮助本领域技术人员理解本公开的技术内容,但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。例如,在另一实施例中,可以应用结构图生成方法及装置的示例性系统架构可以包括终端设备,但终端设备可以无需与服务器进行交互,即可实现本公开实施例提供的结构图生成方法及装置。
33.如图1所示,根据该实施例的系统架构100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线和/或无线通信链路等等。
34.用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用,例如知识阅读类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端和/或社交平台软件等(仅为示例)。
35.终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
36.服务器105可以是提供各种服务的服务器,例如对用户利用终端设备101、102、103所浏览的内容提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的来自终端设备101、102、103的待处理语句等进行结构图生成等的处理,并生成目标结构图。
37.需要说明的是,本公开实施例所提供的结构图生成方法一般可以由终端设备101、
102、或103执行。相应地,本公开实施例所提供的结构图生成装置也可以设置于终端设备101、102、或103中。
38.或者,本公开实施例所提供的结构图生成方法一般也可以由服务器105执行。相应地,本公开实施例所提供的结构图生成装置一般可以设置于服务器105中。本公开实施例所提供的结构图生成方法也可以由不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群执行。相应地,本公开实施例所提供的结构图生成装置也可以设置于不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群中。
39.应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
40.应注意,以下方法中各个操作的序号仅作为该操作的表示以便描述,而不应被看作表示该各个操作的执行顺序。除非明确指出,否则该方法不需要完全按照所示顺序来执行。
41.根据本公开的实施例,结构图可以指一种信息抽取的通用中间表示形式。结构图可以是基于语句级别语料生成的,结构图可以为字级结构图。可以利用结构图生成“开放领域信息表示”,即短语结构图。
42.根据本公开的实施例,结构图可以包括节点和边。结构图还可以包括关于节点的节点信息,例如节点信息可以用于表征结构图的节点的属性信息。结构图中的边可以通过拓扑结构信息来确定,即利用拓扑结构信息可以确定两个节点之间是否存在边。结构图还可以包括关于边的边信息,边信息用于表征存在边的任意两个节点之间的关联关系。
43.图2示意性示出了根据本公开实施例的结构图。图2中,圆形框表示字节点;虚线椭圆框表示节点信息;虚线矩形框表示边信息;实线椭圆框表示短语节点。
44.如图2所示,结构图为关于“is that true”语句的字级结构图。结构图210的节点211包括节点“is”、“that”、和“true”。结构图的边212包括“is”与“that”两个节点之间的边、以及“is”与“true”两个节点之间的边。节点信息213包括例如关于节点“is”的例如表征会由此节点来生成派生节点的派生节点信息,例如“附加节点wether”。节点信息213还包括关于节点“that”的例如表征不会由此节点来生成派生节点的派生节点信息,例如“无附加”。边信息214可以包括表征例如“is”与“that”两个节点之间的关联关系的信息,例如“主谓”的信息。边信息214还可以包括表征例如“is”与“true”两个节点之间的关联关系的信息,例如“下一个词”的信息。
45.如图2所示,利用本公开实施例提供的结构图生成方法,可以将语句级别语料转换为字级结构图。进而可以对字级结构图中的节点进行短语组合来生成“开放领域信息表示”,例如短语结构图220。对“开放领域信息表示”进行变换可以得到图谱230,例如知识图谱或者事理图谱。
46.根据本公开的实施例,利用本公开实施例提供的结构图生成方法,能够提高对各类开放领域信息的初始处理阶段的处理效率和处理精度,进而提高后续的信息抽取能力和丰富图谱的领域范围。
47.图3示意性示出了根据本公开实施例的结构图生成方法的流程图。
48.如图3所示,该方法包括操作s310~s330。
49.在操作s310,对待处理语句进行上下文编码,得到编码向量序列。
50.在操作s320,基于编码向量序列,确定用于生成结构图的节点信息、拓扑结构信息和边信息。节点信息用于表征结构图的节点的属性信息,拓扑结构信息用于表征多个节点彼此之间是否存在边,边信息用于表征多个节点彼此之间的关联关系。
51.在操作s330,基于节点信息、拓扑结构信息和边信息,生成针对待处理语句的目标结构图。
52.根据本公开的实施例,待处理语句可以是句子级别的语料。待处理语句的类型不做限定,例如,可以是英文、中文或者其他语种的文本语料。
53.根据本公开的实施例,针对操作s310,对待处理语句进行上下文编码,得到编码向量序列可以包括:将待处理语句输入至上下文编码子模型中,得到编码向量序列。上下文编码子模型的结构不做限定,只要是在对待处理语句中的内容进行编码的同时,能够结合待处理语句中的内容的上下文语义进行上下文编码处理的深度学习模型即可。
54.根据本公开的实施例,待处理语句可以拆分为多个“字级”单文本,以中文为例待处理语句可以拆分为以字为单位的多个单文本,以英文为例待处理语句可以拆分为以单词为单位的多个单文本。目标结构图可以包括多个节点。多个节点与待处理语句中的多个单文本一一对应。编码向量序列可以包括多个编码向量。多个单文本与多个编码向量一一对应。
55.根据本公开的实施例,针对操作s320,对编码向量序列进行处理,确定用于生成结构图的节点信息、拓扑结构信息和边信息可以包括:将编码向量序列输入至节点标签生成子模型中,得到节点信息。将编码向量序列输入至拓扑结构生成子模型中,得到拓扑结构信息。将编码向量序列输入至边标签生成子模型中,得到边信息。节点标签生成子模型、拓扑结构生成子模型和边标签生成子模型的模型结构不做限定,只要是能够实现上述功能的深度学习模型即可。
56.根据本公开的实施例,针对操作s330,基于节点信息、拓扑结构信息和边信息,来生成针对待处理语句的目标结构图可以包括:待处理语句中的每个单文本为一个节点。可以为每个节点附上用于表征节点属性的节点信息。基于拓扑结构信息,确定待处理语句中的任意两个节点之间是否存在边,即,基于拓扑结构信息来生成边。并基于边信息,为存在边的两个节点附上用于表征这两个节点之间的关联关系的边信息。
57.根据本公开的实施例,可以利用深度学习模型来处理待处理语句,生成目标结构图。但是并不局限于此。还可以利用句法分析或者规则来基于待处理语句生成目标结构图。
58.根据本公开的实施例,利用深度学习模型来生成目标结构图,可以针对各种开放领域的数据进行处理,进而提高结构图生成范围。并且,还可以降低生成结构图的分析难度,提高分析精度,避免利用句法分析或者规则而导致的级联错误。
59.根据本公开的实施例,针对操作s320,基于编码向量序列,确定用于生成结构图的节点信息、拓扑结构信息和边信息,可以包括:对编码向量序列进行第一变换处理,得到拓扑结构表示。基于拓扑结构表示,确定拓扑结构信息。对编码向量序列进行第二变换处理,得到关系表示。基于关系表示,确定边信息。基于编码向量序列,确定节点信息。
60.根据本公开的实施例,第一变换处理可以是双线性变换处理或者双仿射变换处理。
61.根据本公开的实施例,第二变换处理可以是双线性变换处理或者双仿射变换处理。
62.根据本公开的实施例,提供一种基于神经网络的结构图生成方法,利用结构图生成模型来处理待处理语句,生成针对待处理语句的目标结构图。
63.图4示意性示出了根据本公开实施例的结构图生成模型的示意图。
64.如图4所示,结构图生成模型可以包括上下文编码子模型m410、节点标签生成子模型m420、拓扑结构生成子模型m430和边标签生成子模型m440。
65.如图4所示,可以将待处理语句d410输入至上下文编码子模型m410中,得到包含上下文信息的编码向量序列d420。可以将编码向量序列d420输入至节点标签生成子模型m420,得到节点信息d430。可以将编码向量序列d410输入至拓扑结构生成子模型m430中,得到拓扑结构信息d440。将编码向量序列d420输入至边标签生成子模型m440中,得到边信息d450。
66.根据本公开的实施例,上下文编码子模型可以包括rnn(recurrent neural network,循环神经网络)、lstm(long short-term memory,长短期记忆网络)、gru(gate recurrent unit,门循环单元)、cnn(convolutional neural networks,卷积神经网络)、bert(bidirectional encoder representation drom transformers,双向编码器表示模型)、ernie(enhanced representation drom knowledge integration,知识增强语义表示模型)中的一种或多种。
67.如图4所示,节点标签生成子模型m420可以包括属性处理模块m421。可以将编码向量序列d420输入至属性处理模块m421中,生成节点信息d430。即,可以利用属性处理模块对编码向量序列进行节点属性处理,得到关于节点属性的节点信息。根据本公开的实施例,属性处理模块可以包括:级联的节点全连接层和节点激活层。节点激活层可以包括softmax激活函数或者sigmoid激活函数。
68.如图4所示,拓扑结构生成子模型m430可以包括级联的第一变换模块m431和拓扑生成模块m432。可以利用第一变换模块m431对编码向量序列d420进行第一变换处理,得到拓扑结构表示。利用拓扑生成模块m432基于拓扑结构表示,确定拓扑结构信息d440。
69.根据本公开的实施例,第一变换模块可以包括:双线性变换函数或者双仿射变换函数。但是并不局限于此。还可以包括其他任意双变换运算函数。
70.根据本公开的实施例,拓扑生成模块可以包括:级联的拓扑全连接层和拓扑激活层。拓扑激活层可以包括softmax激活函数或者sigmoid激活函数。
71.如图4所示,边标签生成子模型m440可以包括级联的第二变换模块m441和边标签生成模块m442。可以利用第二变换模块m441对编码向量序列d420进行第二变换处理,得到关系表示。利用边标签生成模块n442基于关系表示,确定边信息d450。
72.根据本公开的实施例,第二变换模块可以包括:双线性变换函数或者双仿射变换函数。但是并不局限于此。还可以包括其他任意双变换运算函数。
73.根据本公开的实施例,边标签生成模块可以包括:级联的边标签全连接层和边标签激活层。边标签激活层可以包括softmax激活函数或者sigmoid激活函数。
74.根据本公开的实施例,对编码向量序列进行第一变换处理,得到拓扑结构表示,可以包括:针对待处理语句中的任意两个节点,从编码向量序列中确定与两个节点相对应的
编码向量对。对编码向量对进行第一变换处理,得到关于两个节点之间的拓扑结构表示。
75.例如,针对待处理语句中的任意两个字节点,字节点i和字节点j,从编码向量序列中确定与字节点i相对应的编码向量i,与字节点j相对应的编码向量j,由编码向量i和编码向量j组成编码向量对。利用第一变换处理模块对编码向量对进行双仿射变换处理,得到关于字节点i和字节点j两个字节点之间的第一邻接张量,即拓扑结构表示。利用拓扑生成模块处理拓扑结构表示,生成对字节点i和字节点j两个字节点之间是否存在边加以指示的结果,例如输出0至1之间的概率值,并将大于预定阈值例如0.8的概率值作为存在边的拓扑结构信息,将小于或者等于预定阈值的概率值作为不存在边的拓扑结构信息。
76.根据本公开的实施例,对编码向量序列进行第二变换处理,得到关系表示,可以包括:针对待处理语句中的任意两个节点,从编码向量序列中确定与两个节点相对应的编码向量对。基于边信息的类别数量,对编码向量对进行第二变换处理,得到关于两个节点之间的关系表示。
77.例如,针对待处理语句中的任意两个字节点,字节点i和字节点j,从编码向量序列中确定与字节点i相对应的编码向量i,与字节点j相对应的编码向量j,由编码向量i和编码向量j组成编码向量对。基于边信息的类别数量,利用第二变换处理模块对编码向量对进行双仿射变换处理,得到字节点i和字节点j两个字节点之间的第二邻接张量,即关系表示。利用边标签模块处理关系表示,生成针对字节点i和字节点j两个字节点之间关于所有边信息类别的边信息结果,将置信度最大的边信息类别对应的边信息结果作为边信息。
78.图5示意性示出了根据本公开实施例的生成目标结构图的示意图。图5中,圆形框表示节点;虚线椭圆框表示节点信息;虚线矩形框表示边信息。
79.如图5所示,得到针对待处理语句“is that true”的多个节点510各自的节点信息520、用于表征多个节点彼此之间是否存在边的拓扑结构信息530、以及用于表征两个节点之间的关联关系的边信息540。
80.如图5所示,可以将节点信息520、拓扑结构信息530、以及边信息540进行组合,生成针对待处理语句“is that true”的目标结构图。
81.根据本公开的实施例,用于表征节点属性的节点信息,可以包括节点词性信息、用于表征是否生成派生节点的派生节点信息中的一种或多种。节点词性信息可以包括例如名词、动词、形容词等词性信息,还可以包括例如主语、谓语等词性信息。用于表征是否派生节点的派生节点信息可以包括例如是否附加节点“whether”的派生节点信息。
82.根据本公开的实施例,边信息可以包括多个节点彼此之间的关联关系。可以基于边信息和拓扑结构信息,将不存在边的两个节点之间的边信息删除,保留存在边的两个节点之间的边信息,最终生成目标结构图。
83.图6示意性示出了根据本公开实施例的结构图生成模型的训练方法的流程图。
84.如图6所示,该方法包括操作s610~s650。
85.在操作s610,将与样本结构图相对应的样本语句输入至上下文编码子模型,得到样本编码向量序列。
86.在操作s620,将样本编码向量序列输入至节点标签生成子模型,得到样本节点信息。
87.在操作s630,将样本语句输入至拓扑结构生成子模型,得到样本拓扑结构信息。
88.在操作s640,将样本语句输入至边标签生成子模型,得到样本边信息。
89.在操作s650,基于样本结构图、样本节点信息、样本拓扑结构信息和样本边信息,训练结构图生成模型,得到经训练的结构图生成模型。
90.根据本公开的实施例,结构图生成模型包括上下文编码子模型、节点标签生成子模型、拓扑结构生成子模型和边标签生成子模型。
91.根据本公开的实施例,样本结构图包括样本节点标签、样本拓扑结构标签以及样本边标签。
92.根据本公开的实施例,针对操作s650,基于样本结构图、样本节点信息、样本拓扑结构信息和样本边信息,训练结构图生成模型,得到经训练的结构图生成模型,可以采用多任务学习(multi-task learning)方式,具体包括:将样本节点标签和样本节点信息输入至节点损失函数中,得到节点损失值。将样本拓扑结构标签和样本拓扑结构信息输入至拓扑结构损失函数中,得到拓扑结构损失值。将样本边标签和样本边信息输入至边损失函数中,得到边损失值。加权求和节点损失值、拓扑结构损失值和边损失值,得到综合损失值。基于综合损失值,调整结构图生成模型的参数,直至综合损失值收敛。将综合损失值收敛时的模型作为经训练的结构图生成模型。
93.利用本公开实施例提供的结构图生成模型的训练方法,可以利用拓扑结构信息、边信息与节点信息彼此之间的关联性,对上下文编码子模型、节点标签生成子模型、拓扑结构生成子模型和边标签生成子模型进行联合训练,在提升训练速度的同时,提高经训练的结构图生成模型的精度。
94.图7示意性示出了根据本公开实施例的图谱生成方法的流程图。
95.如图7所示,该方法包括操作s710。
96.在操作s710,基于结构图生成目标图谱。结构图是利用结构图生成方法生成的。
97.根据本公开的实施例,基于结构图生成目标图谱,还可以包括:基于结构图中的拓扑结构信息和边信息,对结构图中的多个节点进行节点组合,生成短语结构图。对短语结构图进行信息抽取,生成目标图谱。
98.根据本公开的实施例,目标图谱可以包括知识图谱、事理图谱中的一种或多种。
99.根据本公开的实施例,可以利用组合模型对结构图进行节点组合,生成短语结构图。组合模型可以包括深度学习模型,只要是能够对结构图进行处理,生成短语结构图的深度学习模型即可。但是并不局限于此。还可以按照规则合并结构图中的部分节点,形成短语节点,进而得到短语结构图。
100.根据本公开的实施例,可以利用信息抽取器对短语结构图进行信息抽取,生成目标图谱。信息抽取器可以包括深度学习模型,只要是能够对短语结构图进行处理,生成目标图谱的深度学习模型即可。
101.根据本公开的实施例,利用结构图来生成目标图谱,应用于信息抽取技术领域,可以在知识图谱的构建过程中,补全知识图谱的内容,提高知识图谱的丰富性。还可以在事理图谱的构建过程中,提高梳理多个事件之间的关联关系的能力。
102.综上所述,利用本公开实施例提供的结构图生成方法,可以快速、准确地处理不同领域的待处理语句,生成结构图。将结构图应用于图谱生成领域,提高新领域图谱的生成速度。
103.图8示意性示出了根据本公开实施例的结构图生成装置的框图。
104.如图8所示,结构图生成装置800可以包括编码模块810、确定模块820、以及结构图生成模块830。
105.编码模块810,用于对待处理语句进行上下文编码,得到编码向量序列。
106.确定模块820,用于基于编码向量序列,确定用于生成结构图的节点信息、拓扑结构信息和边信息。节点信息用于表征结构图的节点的属性信息,拓扑结构信息用于表征多个节点彼此之间是否存在边,边信息用于表征多个节点彼此之间的关联关系。
107.结构图生成模块830,用于基于节点信息、拓扑结构信息和边信息,生成针对待处理语句的目标结构图。
108.根据本公开的实施例,确定模块可以包括第一变换单元、第二变换单元、第一确定单元、第二确定单元、以及第三确定单元。
109.第一变换单元,用于对编码向量序列进行第一变换处理,得到拓扑结构表示。
110.第二变换单元,用于对编码向量序列进行第二变换处理,得到关系表示。
111.第一确定单元,用于基于编码向量序列,确定节点信息。
112.第二确定单元,用于基于拓扑结构表示,确定拓扑结构信息。
113.第三确定单元,用于基于关系表示,确定边信息。
114.根据本公开的实施例。待处理语句包括多个节点,编码向量序列包括多个编码向量,多个节点与多个编码向量一一对应。
115.根据本公开的实施例,第一变换单元可以包括第一确定子单元、以及第一变换子单元。
116.第一确定子单元,用于针对待处理语句中的任意两个节点,从编码向量序列中确定与两个节点相对应的编码向量对。
117.第一变换子单元,用于对编码向量对进行第一变换处理,得到关于两个节点之间的拓扑结构表示。
118.根据本公开的实施例,第二变换单元可以包括第二确定子单元、以及第二变换子单元。
119.第二确定子单元,用于针对待处理语句中的任意两个节点,从编码向量序列中确定与两个节点相对应的编码向量对。
120.第二变换子单元,用于基于边信息的类别数量,对编码向量对进行第二变换处理,得到关于两个节点之间的关系表示。
121.根据本公开的实施例,第一确定单元包括属性处理子单元。
122.属性处理子单元,用于通过对编码向量序列进行节点属性处理,确定节点信息。
123.根据本公开的实施例,节点信息包括以下至少一项:节点词性信息、用于表征是否生成派生节点的派生节点信息。
124.图9示意性示出了根据本公开实施例的结构图生成模型的训练装置的框图。
125.如图9所示,结构图生成模型的训练装置900可以包括第一输入模块910、第二输入模块920、第三输入模块930、第四输入模块940、以及训练模块950。
126.第一输入模块910,用于将与样本结构图相对应的样本语句输入至上下文编码子模型,得到样本编码向量序列。样本结构图包括样本节点标签、样本拓扑结构标签以及样本
边标签。结构图生成模型包括上下文编码子模型、节点标签生成子模型、拓扑结构生成子模型和边标签生成子模型。
127.第二输入模块920,用于将样本编码向量序列输入至节点标签生成子模型,得到样本节点信息。
128.第三输入模块930,用于将样本语句输入至拓扑结构生成子模型,得到样本拓扑结构信息。
129.第四输入模块940,用于将样本语句输入至边标签生成子模型,得到样本边信息。
130.训练模块950,用于基于样本结构图、样本节点信息、样本拓扑结构信息和样本边信息,训练结构图生成模型,得到经训练的结构图生成模型。
131.图10示意性示出了根据本公开实施例的图谱生成装置的框图。
132.如图10所示,图谱生成装置10可以包括图谱生成模块1010。
133.图谱生成模块1010,用于基于结构图生成目标图谱。结构图是利用结构图生成装置生成的。
134.根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
135.根据本公开的实施例,一种电子设备,包括:至少一个处理器;以及与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行如本公开实施例的方法。
136.根据本公开的实施例,一种存储有计算机指令的非瞬时计算机可读存储介质,其中,计算机指令用于使计算机执行如本公开实施例的方法。
137.根据本公开的实施例,一种计算机程序产品,包括计算机程序,计算机程序在被处理器执行时实现如本公开实施例的方法。
138.图11示出了可以用来实施本公开的实施例的示例电子设备1100的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
139.如图11所示,设备1100包括计算单元1101,其可以根据存储在只读存储器(rom)1102中的计算机程序或者从存储单元1108加载到随机访问存储器(ram)1103中的计算机程序,来执行各种适当的动作和处理。在ram 1103中,还可存储设备1100操作所需的各种程序和数据。计算单元1101、rom 1102以及ram 1103通过总线1104彼此相连。输入/输出(i/o)接口1105也连接至总线1104。
140.设备1100中的多个部件连接至i/o接口1105,包括:输入单元1106,例如键盘、鼠标等;输出单元1107,例如各种类型的显示器、扬声器等;存储单元1108,例如磁盘、光盘等;以及通信单元1109,例如网卡、调制解调器、无线通信收发机等。通信单元1109允许设备1100通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
141.计算单元1101可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元1101的一些示例包括但不限于中央处理单元(cpu)、图形处理单元(gpu)、各种专用的
人工智能(ai)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(dsp)、以及任何适当的处理器、控制器、微控制器等。计算单元1101执行上文所描述的各个方法和处理,例如结构图生成方法、结构图生成模型的训练方法、或者图谱生成方法。例如,在一些实施例中,结构图生成方法、结构图生成模型的训练方法、或者图谱生成方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元1108。在一些实施例中,计算机程序的部分或者全部可以经由rom 1102和/或通信单元1109而被载入和/或安装到设备1100上。当计算机程序加载到ram 1103并由计算单元1101执行时,可以执行上文描述的结构图生成方法、结构图生成模型的训练方法、或者图谱生成方法的一个或多个步骤。备选地,在其他实施例中,计算单元1101可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行结构图生成方法、结构图生成模型的训练方法、或者图谱生成方法。
142.本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(fpga)、专用集成电路(asic)、专用标准产品(assp)、芯片上系统的系统(soc)、复杂可编程逻辑设备(cpld)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
143.用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
144.在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦除可编程只读存储器(eprom或快闪存储器)、光纤、便捷式紧凑盘只读存储器(cd-rom)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
145.为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,crt(阴极射线管)或者lcd(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
146.可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算
系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(lan)、广域网(wan)和互联网。
147.计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,也可以是分布式系统的服务器,或者是结合了区块链的服务器。
148.应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
149.上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1