图神经网络传播模型确定方法和系统与流程

1.本技术涉及图神经网络技术，更具体地讲，涉及一种图神经网络传播模型确定方法和系统。


背景技术：

2.在现实生活领域和科学研究领域中，通常可利用图(graph)来表示数据，图是一种对单独实体之间的复杂交互进行建模的普遍形式，并且在社交网络分析、推荐系统、药物分发等领域具有广泛的应用。例如，可以利用图来表示交通网络，利用图来表示社交网络，利用图来表示知识图谱，利用图来表示分子结构等。图可包括图节点和边，其中，边表示两个或更多个图节点之间的关系。基于图设计不同的神经网络，解决不同的任务，这是图神经网络(graph neural network，gnn)研究的问题。图神经网络是一类对图进行操作的深度学习模型，并且基于图神经网络的机器学习模型可称为图神经网络模型。
3.消息传播(message-passing)是图神经网络的基本框架。在这样的框架下，如何给一个学习任务设计传播模型(propagation model)，即，选择用什么样子的邻接矩阵与不同层之间相互如何作用，通常是一个需要手动设计的复杂问题。尽管现有的手动设计的传播模型从多个方面增了图神经网络表象性，但是各种各样的现实应用的不同需求可能不能通过固定的传播模型得到满足。例如，在稀疏连接的图或具有少量标记的节点的图中，可能需要长距离的传播来使更多节点的特征平滑，而在密集图中，同一传播模型可能导致过度平滑并且因此无法区分节点表示。
4.因此，需要一种能够针对不同的图数据任务自动且快速找出其最适合传播模型的方法。


技术实现要素：

5.根据本公开的示例性实施例，提供了一种图神经网络传播模型确定方法，所述方法包括：基于预设的包括多个候选传播矩阵的候选传播矩阵集，构建与图数据集对应的超网络，其中，所述超网络包括多个层，层与层之间具有多个候选传播路径，各层之间的候选传播路径通过该候选传播路径上所使用的候选传播矩阵来指示，并且对候选传播路径的选择通过与该候选传播路径对应的路径权重来确定；确定所述超网络的最优传播路径，并基于所述最优传播路径获得所述图数据集的最优图神经网络传播模型；基于所述图数据集，对所述最优图神经网络传播模型进行训练；以及利用经过训练的图神经网络传播模型获得所述图数据集的各个图节点的嵌入表示。
6.可选地，确定最优传播路径的步骤可包括：确定所述超网络的最优网络路径权重集合，并基于所述最优网络路径权重集合获得所述最优传播路径。
7.可选地，可使用以下表达式(1)来构建所述超网络：
8.h
(l)
＝∑
j＜lfjl
(h
(j)
)，...(1)
9.其中，
[0010][0011]
其中，表示所述超网络的第l层的输出，n表示所述图数据集中的节点的数量并且d
l
表示针对所述图数据集的特征的数量，h
(j)
表示所述超网络中在所述第l层之前的第j层的输出并且l和j均是正整数，表示候选传播矩阵集中的第k个候选传播矩阵，表示候选传播矩阵集中的候选传播矩阵的数量，是所述超网络的第l层与第j层之间的所有候选传播路径中的使用第k个候选传播矩阵的候选传播路径的路径权重，层路径权重集合是所述超网络的第l层与第j层之间的所有候选传播路径的路径权重的集合，并且网络路径权重集合是所述超网络中的所有候选传播路径的路径权重的集合，表示与mk相关联的隐藏权重矩阵，σ(
·
)是激活函数，且k为正整数，f
jl
(
·
)表示对所述超网络的第l层与第j层之间的所有候选传播路径上所使用的候选传播矩阵与对应路径权重进行组合的混合运算函数，f
jl
(h
(j)
)表示从第j层的输出到第l层的传播步骤。
[0012]
可选地，确定所述超网络的最优网络路径权重集合的步骤可包括基于以下表达式(3)来确定所述超网络的最优网络路径权重集合α
*
：
[0013][0014]
其中，w表示针对所述图数据集的图神经网络传播模型的模型参数集合并且包括所述隐藏权重矩阵，是训练损失函数并指示使用训练数据集对基于模型参数集合w和网络路径权重集合α的图神经网络传播模型进行模型训练所获得的损失，是验证损失函数并指示使用验证数据集对基于模型参数集合w
*
(α)和网络路径权重集合α的图神经网络传播模型进行验证所获得的损失，w
*
(α)指示基于网络路径权重集合α使最小的图神经网络传播模型的模型参数集合，α
*
指示基于模型参数集合w
*
(α)使最小的最优网络路径权重集合，其中，所述训练数据集和所述验证数据集可以是所述图数据集的子数据集。
[0015]
可选地，获得最优传播路径的步骤可包括：确定初始网络路径权重集合和初始模型参数集合；对所述初始网络路径权重集合和初始模型参数集合进行至少一次迭代更新操作，并使用最终更新得到的网络路径权重集合来确定最优传播路径。每次迭代更新操作可包括以下步骤：使用由当前网络路径权重集合的各个层路径权重集合中的最大路径权重构成的最大路径权重集合来采样获得超网络的当前传播路径；基于所述训练损失函数沿获得的传播路径对当前模型参数集合进行更新；基于所述验证损失函数沿获得的传播路径对最大路径权重集合进行更新，并基于更新后的最大路径权重集合中的路径权重来更新当前网络路径权重集合中的对应权重。
[0016]
根据本发明的另一实施例，提供了一种图神经网络传播模型确定系统，所述系统包括：超网络构建装置，被配置为基于预设的包括多个候选传播矩阵的候选传播矩阵集，构建与图数据集对应的超网络，其中，所述超网络包括多个层，层与层之间具有多个候选传播
路径，各层之间的候选传播路径通过该候选传播路径上所使用的候选传播矩阵来指示，并且对候选传播路径的选择通过与该候选传播路径对应的路径权重来确定；模型确定装置，被配置为确定所述超网络的最优传播路径，并基于所述最优传播路径获得所述图数据集的最优图神经网络传播模型；以及训练装置，被配置为基于所述图数据集，对所述最优图神经网络传播模型进行训练，处理装置，被配置为利用经过训练的图神经网络传播模型获得所述图数据集的各个图节点的嵌入表示。
[0017]
可选地，模型确定装置可被配置为确定所述超网络的最优网络路径权重集合，并基于所述最优网络路径权重集合来获得所述最优传播路径。
[0018]
可选地，超网络构建装置可被配置为使用以下表达式(1)来构建所述超网络：
[0019]h(l)
＝∑
j＜lfjl
(h
(j)
)，...(1)
[0020]
其中，
[0021][0022]
其中，表示所述超网络的第l层的输出，n表示所述图数据集中的节点的数量并且d
l
表示针对所述图数据集的特征的数量，h
(j)
表示所述超网络中在所述第l层之前的第j层的输出并且l和j均是正整数，表示候选传播矩阵集中的第k个候选传播矩阵，表示候选传播矩阵集中的候选传播矩阵的数量，是所述超网络的第l层与第j层之间的所有候选传播路径中的使用第k个候选传播矩阵的候选传播路径的路径权重，层路径权重集合是所述超网络的第l层与第j层之间的所有候选传播路径的路径权重的集合，并且网络路径权重集合是所述超网络中的所有候选传播路径的路径权重的集合，表示与mk相关联的隐藏权重矩阵，σ(
·
)是激活函数，且k为正整数，f
jl
(
·
)表示对所述超网络的第l层与第j层之间的所有候选传播路径上所使用的候选传播矩阵与对应路径权重进行组合的混合运算函数，并f
jl
(h
(j)
)表示从第j层的输出到第l层的传播步骤。
[0023]
可选地，模型确定装置可被配置为基于以下表达式(3)来确定所述超网络的最优网络路径权重集合α
*
：
[0024][0025]
其中，w表示针对所述图数据集的图神经网络传播模型的模型参数集合并且包括所述隐藏权重矩阵，是训练损失函数并指示使用训练数据集对基于模型参数集合w和网络路径权重集合α的图神经网络传播模型进行模型训练所获得的损失，是验证损失函数并指示使用验证数据集对基于模型参数集合w
*
(α)和网络路径权重集合α的图神经网络传播模型进行验证所获得的损失，w
*
(α)指示基于网络路径权重集合α使最小的图神经网络传播模型的模型参数集合，α
*
指示基于模型参数集合w
*
(α)使最小的最优网络路径权重集合，其中，所述训练数据集和所述验证数据集可以是所述图数据集的子数据集。
[0026]
可选地，模型确定装置可被配置为通过以下操作获得最优传播路径：确定初始网络路径权重集合和初始模型参数集合；对所述初始网络路径权重集合和初始模型参数集合进行至少一次迭代更新操作，并使用最终更新得到的网络路径权重集合来确定最优传播路径。每次迭代更新操作可包括以下步骤：使用由当前网络路径权重集合的各个层路径权重集合中的最大路径权重构成的最大路径权重集合来采样获得超网络的当前传播路径；基于所述训练损失函数沿获得的传播路径对当前模型参数集合进行更新；基于所述验证损失函数沿获得的传播路径对最大路径权重集合进行更新，并基于更新后的最大路径权重集合中的路径权重来更新当前网络路径权重集合中的对应权重。
[0027]
根据本发明的另一实施例，提供了一种存储指令的计算机可读存储介质，其中，当所述指令被至少一个计算装置运行时，促使所述至少一个计算装置执行前述图神经网络传播模型确定方法。
[0028]
根据本发明的另一实施例，提供了一种包括至少一个计算装置和至少一个存储指令的存储装置的系统，其中，所述指令在被所述至少一个计算装置运行时，促使所述至少一个计算装置执行前述图神经网络传播模型确定方法。
[0029]
有益效果
[0030]
通过应用根据本发明的示例性实施例的图神经网络传播模型确定方法和系统，能够自动且快速地为不同任务设计传播模型。
附图说明
[0031]
从下面结合附图对本发明实施例的详细描述中，本发明的这些和/或其他方面和优点将变得更加清楚并更容易理解，其中：
[0032]
图1是示出根据本公开的示例性实施例的图神经网络传播模型确定系统的框图；
[0033]
图2是示出根据本公开的示例性实施例的图神经网络传播模型确定方法的流程图。
[0034]
在整个附图中，应注意，相同的参考标号用于表示相同或相似的元件、特征和结构。
具体实施方式
[0035]
为了使本领域技术人员更好地理解本发明，下面结合附图和具体实施方式对本发明的示例性实施例作进一步详细说明。
[0036]
图1是示出根据本公开的示例性实施例的图神经网络传播模型确定系统100的框图。
[0037]
参照图1，根据本公开的示例性实施例的图神经网络传播模型确定系统100可包括超网络构建装置110、模型确定装置120、训练装置130以及处理装置140。
[0038]
根据本发明的示例性实施例的超网络构建装置110可基于预设的包括多个候选传播矩阵的候选传播矩阵集，针对给定数据任务(例如，图数据集)构建与其相应的超网络。这里，所述超网络可包括多个层(每个层可视为超网络中的节点)，层与层之间可相互连接或者也可不连接(例如，跳过连接)。层与层之间的连接是用于图神经网络的消息传播的传播路径，并且该连接使用邻接矩阵来指示两层之间的运算关系(即，如何相互作用)。
[0039]
在本发明的示例性实施例中，所构建的超网络的层与层之间可存在多个候选传播路径，各层之间的候选传播路径可通过该候选传播路径上所使用的候选传播矩阵来指示，并且对候选传播路径的选择通过与该候选传播路径对应的路径权重来确定。例如，当候选传播矩阵集包括5个候选传播矩阵时，在所述超网络的两层之间可存在5条候选传播路径，每条传播路径使用所述5个候选传播矩阵之一，可通过对所述5条候选传播路径分配的权重来确定选择使用哪条/哪些候选传播路径作为所述两层之间的连接(即，选择哪个/哪些候选传播矩阵构成两层之间要使用的邻接矩阵)。
[0040]
仅作为示例，超网络构建装置110可使用以下表达式(1)来构建所述超网络：
[0041]h(l)
＝∑
j＜lfjl
(h
(j)
)，...(1)
[0042]
其中，
[0043][0044]
其中，表示所述超网络的第l层的输出，n表示所述图数据集中的节点的数量并且d
l
表示针对所述图数据集的特征的数量，h
(j)
表示所述超网络中在所述第l层之前的第j层的输出并且l和j均是正整数，表示候选传播矩阵集中的第k个候选传播矩阵，表示候选传播矩阵集中的候选传播矩阵的数量，是所述超网络的第l层与第j层之间的所有候选传播路径中的使用第k个候选传播矩阵的候选传播路径(下文中也可称为第k个候选传播路径)的路径权重，层路径权重集合是所述超网络的第l层与第j层之间的所有候选传播路径的路径权重的集合，并且网络路径权重集合是所述超网络中的所有候选传播路径的路径权重的集合，表示与mk相关联的隐藏权重矩阵，σ(
·
)是激活函数，且k为正整数。f
jl
(
·
)表示对所述超网络的第l层与第j层之间的所有候选传播路径上使用的候选传播矩阵与对应路径权重进行组合的混合运算函数，f
jl
(h
(j)
)表示从第j层的输出到第l层的传播步骤。
[0045]
此外，在本发明的示例性实施例中，所述候选传播矩阵集可以是针对图数据集的类型预设的，例如，可根据图数据集的类型确定该类型所适用的所有邻接矩阵作为该图数据集的候选传播矩阵集中的候选传播矩阵。
[0046]
例如，当所述图数据集是同质图(普通图结构，该图的节点和边都没有属性)或异质图(该图的节点和边有属性)时，可使用适用于所述同质图或异质图的所有邻接矩阵来构建针对所述图数据集的候选传播矩阵集。除此之外，所述候选传播矩阵集还可包括单位矩阵从而允许不同的传播长度。
[0047]
又例如，当所述图数据集是多图(即，一个节点有多个图来描述其对应交互)时，可使用适用于所述多图中的每个图的邻接矩阵来分别构建候选传播矩阵集。例如，以推荐系统和时空数据集为例，其包含两个不同尺寸的图，则可分别构建针对这两个尺寸的图的两个候选传播矩阵集。在这种情况下，从第j层到第l层的传播步骤f
jl
(h
(j)
)可进一步如下式(3)表示：
[0048]
[0049]
这里，是3维张量，n1和n2分别是所述两个尺寸的图中的实体的数量，d是特征的数量，和分别是针对上述两个数据集的候选传播矩阵集，和分别是这两个候选传播矩阵集中的矩阵的数量，表示候选传播矩阵集中的第k1个候选传播矩阵，表示候选传播矩阵集中的第k2个候选传播矩阵，是所述超网络的第l层与第j层之间的所有候选传播路径中的使用候选传播矩阵和候选传播矩阵的候选传播路径的路径权重，
×1，
×2和
×3分别表示张量与矩阵的模1、模2和模3乘积，表示与候选传播矩阵和候选传播矩阵相关联的隐藏权重矩阵。
[0050]
应该理解，以上举例仅是为了便于理解而示出的示例，本技术不限于此。能够适用于不同类型的图数据集的邻接矩阵对于本领域技术人员而言是已知的，因此为了简明将不再详述。此外，应该理解，设置候选传播矩阵集的方式不限于此，还可根据实际需求在候选传播矩阵集中添加其他类型的可用邻接矩阵，或者也可从其删除部分邻接矩阵以降低计算复杂度。
[0051]
在如上完成超网络的构建之后，根据本发明的示例性实施例的模型构建装置120可确定所述超网络的最优传播路径，并基于所述最优传播路径获得所述图数据集的最优图神经网络传播模型。
[0052]
在本发明的示例性实施例中，由于可通过路径权重指示对候选传播路径的选择，因此，模型构建装置120可确定所述超网络的最优网络路径权重集合，并基于所述最优网络路径权重集合获得所述最优传播路径。
[0053]
具体来说，模型构建装置120可基于以下表达式(3)来确定所述超网络的最优网络路径权重集合α
*
：
[0054][0055]
在上述式(4)中，w表示针对所述图数据集的图神经网络传播模型的模型参数集合并且可包括所述隐藏权重矩阵以及其他所需超参数(例如，偏差参数)，是训练损失函数并指示使用训练数据集对基于模型参数集合w和网络路径权重集合α的图神经网络传播模型进行模型训练所获得的损失，是验证损失函数并指示使用验证数据集对基于模型参数集合w
*
(α)和网络路径权重集合α的图神经网络传播模型进行验证所获得的损失，w
*
(α)指示基于网络路径权重集合α(即，α固定)使最小的图神经网络传播模型的模型参数集合，α
*
指示基于模型参数集合w
*
(α)(即，w
*
固定)使最小的最优网络路径权重集合。这里，所述训练数据集和所述验证数据集可以是所述图数据集的子数据集。
[0056]
从表达式(4)可知，确定最优网络路径权重集的处理实际隐含了两级优化。首先，可基于训练数据集对基于模型参数集合w和路径权重集合α的图神经网络传播模型进行训
练并获得使训练损失函数最小的模型参数集合w
*
，然后基于验证数据集对使用模型参数集合w
*
和路径权重集合α的图神经网络传播模型进行验证，由此可将使验证损失函数最小的路径权重集合α
*
确定为最优路径权重集合。然而，当直接利用上述表达式(4)寻找最优网络路径权重集合α
*
时，搜索过程可能相当复杂，可能难以快速方便地搜索到最优网络路径权重集合α
*
并由此获得最优传播路径。
[0057]
仅作为示例，模型确定装置110可使用以下算法1来更快地确定最优网络路径权重集合，并由此获得最优图神经网络传播模型。
[0058][0059]
如以上算法1中所示，在构建了超网络(步骤1)之后，当确定其最优网络路径权重集合时，模型确定装置110可首先确定初始网络路径权重集合α和初始模型参数集合w(步骤2)。这里，模型确定装置110可通过随机初始化来获得初始网络路径权重集合α和初始模型参数集合w，然而本技术不限于此，还可使用其他方式确定初始网络路径权重集合α和初始模型参数集合w，只要其能够实现本技术的发明构思的目的即可。
[0060]
之后，模型确定装置110可对所述初始网络路径权重集合α和初始模型参数集合w进行至少一次迭代更新操作，并使用最终更新得到的网络路径权重集合和模型参数集合作为最优网络路径权重集合α
*
以及对应的最优模型参数集合w
*
，从而确定最优传播路径(步骤3至步骤7)。
[0061]
更具体地，在每次迭代更新操作中，模型确定装置110可首先使用由当前网络路径权重集合的各个层路径权重集合α
jl
中的最大路径权重构成的最大路径权重集合来采样获得超网络的当前传播路径(步骤4)，这样，可在任意两层之间仅选择一条传播路径(即，仅选择一个候选传播矩阵作为该两层之间的邻接矩阵)。这里然后，模型确定装置110可基于所述训练损失函数沿获得的传播路径对当前模型参数集合w进行更新(步骤5)，基于所述验证损失函数沿获得的传播路径按照对
最大路径权重集合进行更新(步骤6)，并还基于更新后的最大路径权重集合中的路径权重来更新当前网络路径权重集合中的对应权重，由此实现对当前网络路径权重集合的更新。更新后的网络路径权重集合和模型参数集合可被用于下一次迭代更新。这里，应该理解，上述步骤5和步骤6的顺序不限于此，这两个步骤还可同时执行，或者按照与列出的顺序不同的顺序执行。此外，上述算法1例示的对网络路径权重集合和模型参数集合更新的具体方法仅是为了便于解释而举例列出的，还可使用其他方式来实现上述更新过程，只要更新结果符合本技术的技术构思的目的即可。
[0062]
此外，应该理解以上算法1中的各个步骤中使用的算法或方法仅是为了使本领域技术人员便于理解和实施而列举的示例，本技术不限于此，还可使用各种其他合适的算法或方法来进行替换或补充。
[0063]
返回参照图1，在确定了最优图神经网络传播模型之后，训练装置130可基于所述图数据集，对所述图神经网络传播模型进行训练。之后，处理装置140可利用经过训练的图神经网络传播模型获得所述图数据集的各个图节点的嵌入表示。
[0064]
图2是示出根据本公开的示例性实施例的图神经网络传播模型确定方法200的流程图。
[0065]
如图2所示，在步骤s210，可基于预设的包括多个候选传播矩阵的候选传播矩阵集，通过超网络构建装置110构建与图数据集对应的超网络。这里，所述超网络可包括多个层，层与层之间可具有多个候选传播路径，各层之间的候选传播路径可通过该候选传播路径上所使用的候选传播矩阵来指示，并且对候选传播路径的选择可通过与该候选传播路径对应的路径权重来确定。
[0066]
在步骤s220，模型确定单元120可确定所述超网络的最优传播路径，并基于所述最优传播路径获得所述图数据集的最优图神经网络传播模型。
[0067]
然后，在步骤s230，可基于所述图数据集，通过训练装置130对所述最优图神经网络传播模型进行训练。
[0068]
最后，在步骤s240，可由处理装置140利用经过训练的图神经网络传播模型获得所述图数据集的各个图节点的嵌入表示。
[0069]
以上已结合图1详细描述了根据本公开的示例性实施例的图神经网络传播模型确定系统100的上述组成元件所执行的详细操作的具体过程，因此为了简明，在此将不再赘述。
[0070]
此外，作为示例，上述图神经网络传播模型可被应用于以下场景中的至少一个场景：金融反欺诈场景、商品推荐场景、以及社交网络分析场景。在金融反欺诈场景下，所述图数据集可包括用户转账数据集，该数据集的对应标签集中的标签可表示是否存在欺诈用户或是否存在欺诈交易；在商品推荐场景下，所述图数据集可包括用户针对商品的行为数据集，该数据集的对应标签集中的标签可表示用户与商品之间是否存在关联，在社交网络分析场景下，所述图数据集可包括用户之间的行为数据集，该数据集的对应标签集中的标签可表示用户之间是否存在关联。然而，应该理解，以上各个场景仅是示例，本发明的图神经网络传播模型确定方法和系统还可应用于各种其他使用图的场景中。
[0071]
通过应用根据本发明的示例性实施例的图神经网络传播模型确定方法和系统，能够自动且快速地为不同任务设计传播模型。
[0072]
以上已参照图1至图2描述了根据本公开的示例性实施例的图神经网络传播模型确定方法和系统。然而，应理解的是：附图中示出的装置和系统可被分别配置为执行特定功能的软件、硬件、固件或上述项的任意组合。例如，这些系统、装置可对应于专用的集成电路，也可对应于纯粹的软件代码，还可对应于软件与硬件相结合的模块。此外，这些系统或装置所实现的一个或多个功能也可由物理实体设备(例如，处理器、客户端或服务器等)中的组件来统一执行。
[0073]
此外，上述方法可通过记录在计算机可读存储介质上的指令来实现，例如，根据本技术的示例性实施例，可提供一种存储指令的计算机可读存储介质，其中，当所述指令被至少一个计算装置运行时，促使所述至少一个计算装置执行以下步骤：基于预设的包括多个候选传播矩阵的候选传播矩阵集，构建与图数据集对应的超网络，其中，所述超网络包括多个层，层与层之间具有多个候选传播路径，各层之间的候选传播路径通过该候选传播路径上所使用的候选传播矩阵来指示，并且对候选传播路径的选择通过与该候选传播路径对应的路径权重来确定；确定所述超网络的最优传播路径，并基于所述最优传播路径获得所述图数据集的最优图神经网络传播模型；基于所述图数据集，对所述最优图神经网络传播模型进行训练；以及利用经过训练的图神经网络传播模型获得所述图数据集的各个图节点的嵌入表示。
[0074]
上述计算机可读存储介质中存储的指令可在诸如客户端、主机、代理装置、服务器等计算机设备中部署的环境中运行，应注意，所述指令还可用于执行除了上述步骤以外的附加步骤或者在执行上述步骤时执行更为具体的处理，这些附加步骤和进一步处理的内容已经在参照图1至图2进行相关方法的描述过程中提及，因此这里为了避免重复将不再进行赘述。
[0075]
应注意，根据本公开示例性实施例的图神经网络传播模型确定系统可完全依赖计算机程序或指令的运行来实现相应的功能，即，各个装置在计算机程序的功能架构中与各步骤相应，使得整个系统通过专门的软件包(例如，lib库)而被调用，以实现相应的功能。
[0076]
另一方面，当图1所示的系统和装置以软件、固件、中间件或微代码实现时，用于执行相应操作的程序代码或者代码段可以存储在诸如存储介质的计算机可读介质中，使得至少一个处理器或至少一个计算装置可通过读取并运行相应的程序代码或者代码段来执行相应的操作。
[0077]
例如，根据本技术示例性实施例，可提供一种包括至少一个计算装置和至少一个存储指令的存储装置的系统，其中，所述指令在被所述至少一个计算装置运行时，促使所述至少一个计算装置执行下述步骤：基于预设的包括多个候选传播矩阵的候选传播矩阵集，构建与图数据集对应的超网络，其中，所述超网络包括多个层，层与层之间具有多个候选传播路径，各层之间的候选传播路径通过该候选传播路径上所使用的候选传播矩阵来指示，并且对候选传播路径的选择通过与该候选传播路径对应的路径权重来确定；确定所述超网络的最优传播路径，并基于所述最优传播路径获得所述图数据集的最优图神经网络传播模型；基于所述图数据集，对所述最优图神经网络传播模型进行训练；以及利用经过训练的图神经网络传播模型获得所述图数据集的各个图节点的嵌入表示。
[0078]
具体说来，上述系统可以部署在服务器或客户端中，也可以部署在分布式网络环境中的节点上。此外，所述系统可以是pc计算机、平板装置、个人数字助理、智能手机、web应
用或其他能够执行上述指令集合的装置。此外，所述系统还可包括视频显示器(诸如，液晶显示器)和用户交互接口(诸如，键盘、鼠标、触摸输入装置等)。另外，所述系统的所有组件可经由总线和/或网络而彼此连接。
[0079]
这里，所述系统并非必须是单个系统，还可以是任何能够单独或联合执行上述指令(或指令集)的装置或电路的集合体。所述系统还可以是集成控制系统或系统管理器的一部分，或者可被配置为与本地或远程(例如，经由无线传输)以接口互联的便携式电子装置。
[0080]
在所述系统中，所述至少一个计算装置可包括中央处理器(cpu)、图形处理器(gpu)、可编程逻辑装置、专用处理器系统、微控制器或微处理器。作为示例而非限制，所述至少一个计算装置还可包括模拟处理器、数字处理器、微处理器、多核处理器、处理器阵列、网络处理器等。计算装置可运行存储在存储装置之一中的指令或代码，其中，所述存储装置还可以存储数据。指令和数据还可经由网络接口装置而通过网络被发送和接收，其中，所述网络接口装置可采用任何已知的传输协议。
[0081]
存储装置可与计算装置集成为一体，例如，将ram或闪存布置在集成电路微处理器等之内。此外，存储装置可包括独立的装置，诸如，外部盘驱动、存储阵列或任何数据库系统可使用的其他存储装置。存储装置和计算装置可在操作上进行耦合，或者可例如通过i/o端口、网络连接等互相通信，使得计算装置能够读取存储在存储装置中的指令。
[0082]
以上描述了本技术的各示例性实施例，应理解，上述描述仅是示例性的，并非穷尽性的，本技术不限于所披露的各示例性实施例。在不偏离本技术的范围和精神的情况下，对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。因此，本技术的保护范围应该以权利要求的范围为准。