学习分离表征的图卷积神经网络构建方法及装置与流程

文档序号:18319644发布日期:2019-08-03 10:20阅读:233来源:国知局
学习分离表征的图卷积神经网络构建方法及装置与流程

本发明涉及社交网络分析技术领域,特别涉及一种学习分离表征的图卷积神经网络构建方法及装置。



背景技术:

目前,以图卷积网络为代表的图神经网络,是用于处理社交网络、信息网络等复杂图结构数据的新一代端到端深度学习技术。然而,现有的图神经网络默认图中的边的形成都是由同一个单一因子推动的,因此无法捕捉实际数据背后的多样化成因。



技术实现要素:

本发明旨在至少在一定程度上解决相关技术中的技术问题之一。

为此,本发明的一个目的在于提出一种学习分离表征的图卷积神经网络构建方法,该方法可以生成能全面精确地描述图中各个数据点的多个侧面的表征。

本发明的另一个目的在于提出一种学习分离表征的图卷积神经网络构建装置。

为达到上述目的,本发明一方面实施例提出了一种学习分离表征的图卷积神经网络构建方法,包括:对输入图的形成过程进行概率建模,生成描述多个可能导致一条边形成的潜在因子的概率生成模型;通过所述概率生成模型在每一个卷积层中使用可导的动态em算法(expectation-maximization,最大期望算法)进行推理,获取每个节点的各个邻居所对应的因子,以将邻居节点分离;在所述每一个卷积层中,根据不同因子的所述邻居节点构建出描述所述每个节点不同侧面的表征。

本发明实施例的学习分离表征的图卷积神经网络构建方法,考虑一张图形成背后的多个因子,将这些因子分离,获得更精确全面的表征,并在分离各个因子时,仍保留图神经网络支持端到端学习、归纳学习的优点,在分离各个因子后,可以根据各个因子生成能全面精确地描述图中各个数据点的多个侧面的表征。

另外,根据本发明上述实施例的学习分离表征的图卷积神经网络构建方法还可以具有以下附加的技术特征:

进一步地,在本发明的一个实施例中,还包括:叠加多个所述每一个卷积层,以利用预设的高阶拓扑结构。

进一步地,在本发明的一个实施例中,每个侧面对应一个已被分离的因子。

进一步地,在本发明的一个实施例中,所述输入图的因子为复数多个。

为达到上述目的,本发明另一方面实施例提出了一种学习分离表征的图卷积神经网络构建装置,包括:建模模块,用于对输入图的形成过程进行概率建模,生成描述多个可能导致一条边形成的潜在因子的概率生成模型;推理模块,用于通过所述概率生成模型在每一个卷积层中使用可导的动态em算法进行推理,获取每个节点的各个邻居所对应的因子,以将邻居节点分离;构建模块,用于在所述每一个卷积层中,根据不同因子的所述邻居节点构建出描述所述每个节点不同侧面的表征。

本发明实施例的学习分离表征的图卷积神经网络构建装置,考虑一张图形成背后的多个因子,将这些因子分离,获得更精确全面的表征,并在分离各个因子时,仍保留图神经网络支持端到端学习、归纳学习的优点,在分离各个因子后,可以根据各个因子生成能全面精确地描述图中各个数据点的多个侧面的表征。

另外,根据本发明上述实施例的学习分离表征的图卷积神经网络构建装置还可以具有以下附加的技术特征:

进一步地,在本发明的一个实施例中,还包括:叠加模块,用于叠加多个所述每一个卷积层,以利用预设的高阶拓扑结构。

进一步地,在本发明的一个实施例中,每个侧面对应一个已被分离的因子。

进一步地,在本发明的一个实施例中,所述输入图的因子为复数多个。

本发明附加的方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本发明的实践了解到。

附图说明

本发明上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解,其中:

图1为根据本发明一个实施例的学习分离表征的图卷积神经网络构建方法的流程图;

图2为根据本发明一个具体实施例的学习分离表征的图卷积神经网络构建方法的流程图;

图3为根据本发明一个实施例的学习分离表征的图卷积神经网络构建装置的结构示意图。

具体实施方式

下面详细描述本发明的实施例,所述实施例的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的,旨在用于解释本发明,而不能理解为对本发明的限制。

下面参照附图描述根据本发明实施例提出的学习分离表征的图卷积神经网络构建方法及装置,首先将参照附图描述根据本发明实施例提出的学习分离表征的图卷积神经网络构建方法。

图1是本发明一个实施例的学习分离表征的图卷积神经网络构建方法的流程图。

如图1所示,该学习分离表征的图卷积神经网络构建方法包括以下步骤:

在步骤s101中,对输入图的形成过程进行概率建模,生成描述多个可能导致一条边形成的潜在因子的概率生成模型。

可以理解的是,如图2所示,首先,对输入的图的形成过程进行概率建模,建立的概率生成模型描述了多个可能导致一条边形成的潜在因子。

具体地,基于概率生成模型的推理模块,在给定图中一个节点和它的邻居后,能够无监督地发现推动各条边形成的潜在因子、并将邻居们根据其对应的因子进行归类或分离。

其中,在本发明的一个实施例中,输入图的因子为复数多个。

在步骤s102中,通过概率生成模型在每一个卷积层中使用可导的动态em算法进行推理,获取每个节点的各个邻居所对应的因子,以将邻居节点分离。

可以理解的是,如图2所示,在每一个卷积层中,根据建立的概率生成模型,使用可导的动态em算法进行推理,推理一个节点的各个邻居所对应的因子,据此将邻居们分离。

在步骤s103中,在每一个卷积层中,根据不同因子的邻居节点构建出描述每个节点不同侧面的表征。

可以理解的是,如图2所示,在每一个卷积层中,根据上一步中得到的不同因子对应的邻居,构建出描述该节点不同侧面的表征,每个侧面对应一个已被分离的因子。

具体地,本发明实施例提出了一种新的应用了因子分离技术的图卷积层,该图卷积层能够给每个节点输出能精确全面地描述其多个侧面的表征。也就是说,本发明实施例图卷积层应用了因子分离技术,在进行因子分离后,应用多个图卷积操作来并行、独立地处理和各个因子对应的信息。

其中,因子分离技术是在给定图中一个节点和它的邻居后,一种能够无监督地发现推动各条边形成的潜在因子、并将邻居们根据其对应的因子进行归类/分离的技术。

在具体应用时,在推荐系统中,自动生成更为全面精确的用户画像等;并在推荐系统中,用户、物品等个体之间的交互自然而然地形成了一张图,通过本发明实施例的方法能够更加精确全面地捕捉到用户的复数多个兴趣点或需求点。

进一步地,在本发明的一个实施例中,本发明实施例的方法还包括:叠加多个每一个卷积层,以利用预设的高阶拓扑结构。

可以理解的是,本发明实施例通过叠加多个上述的卷积层,来有效利用图中的高阶拓扑结构。

具体地,本发明实施例提出了一种叠加了多个上述新的图卷积层的图卷积神经网络,能够进一步地利用图中的高阶拓扑结构等额外信息。也就是说,本发明实施例的图卷积神经网络叠加了多个上述新的图卷积层,以进一步地利用图中的高阶拓扑结构等额外信息。

综上,本发明实施例主要针对在进行图卷积时试图发现并分离多个因子所带来的挑战,提出针对性的措施,以期改进后的图卷积神经网络能输出能更精确、全面描述数据点的表征:

(1)挑战一:图数据通常不会标注出推动一条边形成的具体因子。本发明实施例为此提出一种基于概率生成模型的无监督技术,以推理出每条边对应的潜在因子。

(2)挑战二:如何在进行复杂推理的同时保持图神经网络的两大优点——支持端到端学习、支持归纳学习(将结果外推到没见过的新数据点)。本发明实施例为此将概率推理过程描述成一种可求导的(以支持端到端)、动态执行的(以支持归纳)em算法。

根据本发明实施例提出的学习分离表征的图卷积神经网络构建方法,考虑了促成一张图形成的因子可能是有复数多个,可以无监督地推理出潜在的多个因子,并将它们分离,并在分离各个因子后,可以据此生成能全面精确地描述图中各个数据点的多个侧面的表征,从而考虑了推动一张图形成的因子数量可能是复数多个的,通过在进行图卷积时分离这些不同的因子,进而获得了能更加精确全面地描述图中每一个数据点的多个不同侧面的表征。

其次参照附图描述根据本发明实施例提出的学习分离表征的图卷积神经网络构建装置。

图3是本发明一个实施例的学习分离表征的图卷积神经网络构建装置的结构示意图。

如图3所示,该学习分离表征的图卷积神经网络构建装置10包括:建模模块100、推理模块200和构建模块300。

其中,建模模块100用于对输入图的形成过程进行概率建模,生成描述多个可能导致一条边形成的潜在因子的概率生成模型。推理模块200用于通过概率生成模型在每一个卷积层中使用可导的动态em算法进行推理,获取每个节点的各个邻居所对应的因子,以将邻居节点分离。构建模块300用于在每一个卷积层中,根据不同因子的邻居节点构建出描述每个节点不同侧面的表征。本发明实施例的装置10可以根据各个因子生成能全面精确地描述图中各个数据点的多个侧面的表征。

进一步地,在本发明的一个实施例中,本发明实施例的装置10还包括:叠加模块。其中,叠加模块,用于叠加多个每一个卷积层,以利用预设的高阶拓扑结构。

进一步地,在本发明的一个实施例中,每个侧面对应一个已被分离的因子。

进一步地,在本发明的一个实施例中,输入图的因子为复数多个。

需要说明的是,前述对学习分离表征的图卷积神经网络构建方法实施例的解释说明也适用于该实施例的学习分离表征的图卷积神经网络构建装置,此处不再赘述。

根据本发明实施例提出的学习分离表征的图卷积神经网络构建装置,考虑了促成一张图形成的因子可能是有复数多个,可以无监督地推理出潜在的多个因子,并将它们分离,并在分离各个因子后,可以据此生成能全面精确地描述图中各个数据点的多个侧面的表征,从而考虑了推动一张图形成的因子数量可能是复数多个的,通过在进行图卷积时分离这些不同的因子,进而获得了能更加精确全面地描述图中每一个数据点的多个不同侧面的表征。

在本发明的描述中,需要理解的是,术语“中心”、“纵向”、“横向”、“长度”、“宽度”、“厚度”、“上”、“下”、“前”、“后”、“左”、“右”、“竖直”、“水平”、“顶”、“底”“内”、“外”、“顺时针”、“逆时针”、“轴向”、“径向”、“周向”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此不能理解为对本发明的限制。

此外,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本发明的描述中,“多个”的含义是至少两个,例如两个,三个等,除非另有明确具体的限定。

在本发明中,除非另有明确的规定和限定,术语“安装”、“相连”、“连接”、“固定”等术语应做广义理解,例如,可以是固定连接,也可以是可拆卸连接,或成一体;可以是机械连接,也可以是电连接;可以是直接相连,也可以通过中间媒介间接相连,可以是两个元件内部的连通或两个元件的相互作用关系,除非另有明确的限定。对于本领域的普通技术人员而言,可以根据具体情况理解上述术语在本发明中的具体含义。

在本发明中,除非另有明确的规定和限定,第一特征在第二特征“上”或“下”可以是第一和第二特征直接接触,或第一和第二特征通过中间媒介间接接触。而且,第一特征在第二特征“之上”、“上方”和“上面”可是第一特征在第二特征正上方或斜上方,或仅仅表示第一特征水平高度高于第二特征。第一特征在第二特征“之下”、“下方”和“下面”可以是第一特征在第二特征正下方或斜下方,或仅仅表示第一特征水平高度小于第二特征。

在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。

尽管上面已经示出和描述了本发明的实施例,可以理解的是,上述实施例是示例性的,不能理解为对本发明的限制,本领域的普通技术人员在本发明的范围内可以对上述实施例进行变化、修改、替换和变型。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1