数据处理方法、装置、计算机设备及存储介质与流程

文档序号:29522731发布日期:2022-04-06 23:53阅读:60来源:国知局
数据处理方法、装置、计算机设备及存储介质与流程

1.本技术涉及计算机技术领域,特别涉及一种数据处理方法、装置、计算机设备及存储介质。


背景技术:

2.随着计算机技术的发展,尽管传统的深度学习方法被应用在提取欧式空间数据的特征方面取得了较大的成功,但许多实际应用场景中的数据(例如图数据)是从非欧式空间生成的,因此,图神经网络(graph neural networks,gnn)逐渐成为了一项研究热点。图神经网络是指用于处理图数据的神经网络结构,其中,图数据是指包括节点和边的数据结构,例如,社交网络中的每个账号可对应于图神经网络中的一个节点,当账号a和账号b具有好友关系时,在图神经网络中账号a和账号b各自所对应的节点之间具有一条相连的边。
3.图神经网络能够用于处理节点分类任务,即基于各个节点的图数据,能够识别出来每个节点所属的类别,例如,图神经网络能够处理社交网络中的账号分类任务。由于在图神经网络的训练阶段,针对不同类别提供的标注集合中所包含的标注节点的数量是不尽相同的,并且各个标注集合中所包含的标注节点在图神经网络中的位置分布也是不均衡的,导致图神经网络在处理节点分类任务时,针对不同类别的预测能力存在明显差异,例如,针对类别1的识别准确度普遍较高,但针对类别2的识别准确度普遍较低。因此,亟需一种能够提高图神经网络识别准确度的方法。


技术实现要素:

4.本技术实施例提供了一种数据处理方法、装置、计算机设备及存储介质,能够提高图神经网络的识别准确度。该技术方案如下:
5.一方面,提供了一种数据处理方法,该方法包括:
6.基于图神经网络中多个标注节点的位置信息,获取所述多个标注节点各自的冲突水平参数,所述冲突水平参数用于表征所述标注节点在对应的标注类别中所处的拓扑位置;
7.基于所述多个标注节点各自的冲突水平参数,获取所述多个标注节点各自的目标权重,所述目标权重用于表征基于所述拓扑位置为所述标注节点所引入的加权影响因子;
8.基于所述多个标注节点各自的目标权重,调整所述图神经网络的参数,得到目标图神经网络,所述目标图神经网络用于识别所述图神经网络中各个节点所属的类别。
9.一方面,提供了一种数据处理装置,该装置包括:
10.第一获取模块,用于基于图神经网络中多个标注节点的位置信息,获取所述多个标注节点各自的冲突水平参数,所述冲突水平参数用于表征所述标注节点在对应的标注类别中所处的拓扑位置;
11.第二获取模块,用于基于所述多个标注节点各自的冲突水平参数,获取所述多个标注节点各自的目标权重,所述目标权重用于表征基于所述拓扑位置为所述标注节点所引
入的加权影响因子;
12.参数调整模块,用于基于所述多个标注节点各自的目标权重,调整所述图神经网络的参数,得到目标图神经网络,所述目标图神经网络用于识别所述图神经网络中各个节点所属的类别。
13.在一种可能实施方式中,所述第一获取模块包括:
14.随机游走单元,用于对所述多个标注节点中的任一标注节点,从所述标注节点进行随机游走,得到所述标注节点的概率矩阵,所述概率矩阵用于表征所述标注节点在随机游走时停止至所述图神经网络中任一节点的概率分布;
15.第一获取单元,用于基于所述标注节点的概率矩阵,获取所述标注节点的冲突期望,所述冲突期望用于表征服从所述概率分布的任一节点在随机游走停止时遇到相异类别的可能性的数学期望,所述相异类别为除了所述标注节点所对应的标注类别之外的类别;
16.确定单元,用于将所述标注节点的冲突期望确定为所述标注节点的冲突水平参数。
17.在一种可能实施方式中,所述第一获取单元用于:
18.对任一所述相异类别所对应的任一目标标注节点,确定从所述目标标注节点开始进行随机游走并停止在服从所述概率分布的任一节点的终止概率;
19.将任一所述相异类别中各个目标标注节点的各个终止概率相加,得到第一数值;
20.将所述第一数值除以任一所述相异类别所包含的目标标注节点的数量,得到第二数值;
21.将各个所述相异类别对应的各个第二数值相加,得到第三数值;
22.将服从所述概率分布的各个节点所对应的各个第三数值的数学期望确定为所述标注节点的冲突期望。
23.在一种可能实施方式中,在所述图神经网络中包含的节点数量大于数量阈值的情况下,每个标注节点的概率矩阵基于所述图神经网络中的部分节点采样得到。
24.在一种可能实施方式中,所述第二获取模块包括:
25.第二获取单元,用于对所述多个标注节点中的任一标注节点,获取所述标注节点的余弦退火值,所述余弦退火值用于表征所述标注节点在对应标注类别中冲突水平参数的排序情况;
26.第三获取单元,用于基于所述标注节点的余弦退火值、最小权重阈值和最大权重阈值,获取所述标注节点的目标权重。
27.在一种可能实施方式中,所述第二获取单元用于:
28.确定所述标注节点在对应标注类别中冲突水平参数的排序次序;
29.基于所述排序次序和所述标注类别中包含的标注节点的数量,获取所述标注节点的余弦退火值。
30.在一种可能实施方式中,所述第三获取单元用于:
31.将所述余弦退火值加一,得到第四数值;
32.将所述第四数值与所述最大权重阈值与所述最小权重阈值之间的差值相乘,得到第五数值;
33.将所述第五数值的二分之一与所述最小权重阈值相加,得到所述标注节点的目标
权重。
34.在一种可能实施方式中,所述参数调整模块用于:
35.基于所述图神经网络,确定所述多个标注节点中每个标注节点分别对应于多种类别的多个预测概率,所述预测概率用于表征所述标注节点对应于每种类别的可能性;
36.基于所述多个标注节点各自的多个预测概率、所述多个标注节点各自的标注类别以及所述多个标注节点各自的目标权重,获取本次迭代的损失函数值;
37.响应于所述损失函数值不符合停止条件,迭代调整所述图神经网络的参数,直到所述损失函数值符合所述停止条件,停止迭代,得到所述目标图神经网络。
38.在一种可能实施方式中,所述图神经网络中的各个节点对应于社交网络中的各个账号;各个节点所属的类别对应于各个账号所属的账号类别。
39.在一种可能实施方式中,所述图神经网络中的各个节点对应于具有引用关系的各个文章;各个节点所属的类别对应于各个文章所属的文章类别。
40.一方面,提供了一种计算机设备,该计算机设备包括一个或多个处理器和一个或多个存储器,该一个或多个存储器中存储有至少一条计算机程序,该至少一条计算机程序由该一个或多个处理器加载并执行以实现如上述任一种可能实现方式的数据处理方法。
41.一方面,提供了一种存储介质,该存储介质中存储有至少一条计算机程序,该至少一条计算机程序由处理器加载并执行以实现如上述任一种可能实现方式的数据处理方法。
42.一方面,提供一种计算机程序产品或计算机程序,所述计算机程序产品或所述计算机程序包括一条或多条程序代码,所述一条或多条程序代码存储在计算机可读存储介质中。计算机设备的一个或多个处理器能够从计算机可读存储介质中读取所述一条或多条程序代码,所述一个或多个处理器执行所述一条或多条程序代码,使得计算机设备能够执行上述任一种可能实施方式的数据处理方法。
43.本技术实施例提供的技术方案带来的有益效果至少包括:
44.通过在图神经网络的调参过程中,确定每个标注节点的冲突水平参数,以衡量每个标注节点的拓扑位置,并在冲突水平参数的基础上,为每个标注节点分配自身的目标权重,将这一目标权重投入到调参过程中,以调节处于不同拓扑位置的不同标注节点各自在调参过程中产生的影响,如为拓扑位置靠近类别中心的标注节点分配较大目标权重,为拓扑位置靠近类别边界的标注节点分类较小权重,从而能够改善由于图神经网络普遍存在的类别不均衡现象,提高图神经网络的识别准确度。
附图说明
45.为了更清楚地说明本技术实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本技术的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还能够根据这些附图获得其他的附图。
46.图1是本技术实施例提供的一种数据处理方法的实施环境示意图;
47.图2是本技术实施例提供的一种数据处理方法的流程图;
48.图3是本技术实施例提供的一种数据处理方法的流程图;
49.图4是本技术实施例提供的一种数据处理方法的原理性示意图;
50.图5是本技术实施例提供的一种模型性能对比结果图;
51.图6是本技术实施例提供的一种数据处理装置的结构示意图;
52.图7是本技术实施例提供的一种计算机设备的结构示意图;
53.图8是本技术实施例提供的一种计算机设备的结构示意图。
具体实施方式
54.为使本技术的目的、技术方案和优点更加清楚,下面将结合附图对本技术实施方式作进一步地详细描述。
55.本技术中术语“第一”“第二”等字样用于对作用和功能基本相同的相同项或相似项进行区分,应理解,“第一”、“第二”、“第n”之间不具有逻辑或时序上的依赖关系,也不对数量和执行顺序进行限定。
56.本技术中术语“至少一个”是指一个或多个,“多个”的含义是指两个或两个以上,例如,多个第一位置是指两个或两个以上的第一位置。
57.人工智能(artificial intelligence,ai)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。换句话说,人工智能是计算机科学的一个综合技术,它企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法,使机器具有感知、推理与决策的功能。
58.人工智能技术是一门综合学科,涉及领域广泛,既有硬件层面的技术也有软件层面的技术。人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、语音处理技术、自然语言处理技术以及机器学习/深度学习、自动驾驶、智慧交通等几大方向。
59.机器学习(machine learning,ml)是一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能。机器学习是人工智能的核心,是使计算机具有智能的根本途径,其应用遍及人工智能的各个领域。机器学习和深度学习通常包括人工神经网络、置信网络、强化学习、迁移学习、归纳学习、示教学习等技术。
60.随着人工智能技术研究和进步,人工智能技术在多个领域展开研究和应用,例如常见的智能家居、智能穿戴设备、虚拟助理、智能音箱、智能营销、无人驾驶、自动驾驶、无人机、机器人、智能医疗、智能客服、车联网、自动驾驶、智慧交通等,相信随着技术的发展,人工智能技术将在更多的领域得到应用,并发挥越来越重要的价值。
61.本技术实施例提供的技术方案涉及人工智能的机器学习等技术,尽管传统的深度学习算法被应用在提取欧氏空间数据的特征方面取得了巨大的成功,但许多实际应用场景中的数据是从非欧式空间生成的,传统的深度学习算法在处理非欧式空间数据上的表现却仍难以使人满意。例如,在电子商务中,一个基于图(graph)数据的学习系统能够利用用户(user)和产品(item)之间的交互来做出非常准确的推荐,但图数据的复杂性使得传统的深度学习算法在处理时面临着巨大的挑战。这是因为图数据是不规则的,每个图数据都包含
一个大小可变的无序节点,图数据中的每个节点都有不同数量的相邻节点,导致一些重要的操作(例如卷积)在图像(image)上很容易计算,但不再适合直接用于图数据。此外,传统的深度学习算法的一个核心假设是数据样本(也称为样例)之间彼此独立;然而,对于图数据来说情况并非如此,图数据中的每个节点都会有边与图数据中其他节点相关,这些信息可用于捕获节点(即数据样本)之间的相互依赖关系。
62.近年来,深度学习算法在图数据上的扩展逐渐成为一项研究热点,技术人员借鉴了卷积网络、循环网络和深度自动编码器的思想,定义和设计了用于处理图数据的神经网络结构,即图神经网络(graph neural networks,gnn)。本技术实施例涉及一种能够提高gnn识别准确度的方法,下面进行详述。
63.以下,介绍本技术实施例所涉及的术语。
64.图数据(graph):指包括节点和边的数据结构,在gnn训练过程中图数据代表样例通过边连接的这种抽象的数据结构,与图像(image)是完全不同的数据结构。例如,社交网络中的每个账号可对应于gnn中的一个节点,当账号a和账号b具有好友关系时,在gnn中账号a和账号b各自所对应的节点之间具有一条相连的边。
65.图神经网络(graph neural networks,gnn):用于处理图数据的神经网络结构。例如,图神经网络包括但不限于:图卷积网络(graph convolution networks,gcn)、图注意力网络(graph attention network,gat)、个性化神经预测传播网络(personalized propagation of neural predictions,ppnp)、车比雪夫图卷积网络(chebyshev spectral graph convolutional network,chebnet)、采样-传播网络(sample and aggregate network,sage)、简化图卷积网络(simplifying graph convolutional network,sgc)等。
66.节点分类系统:用于处理节点分类任务的gnn可称为一个节点分类系统,节点分类系统的输入是一个节点以及其关联的图结构数据,输出是预设的几个类别中一个,即计算机所识别出的输入节点所属的类别。
67.拓扑结构:指节点之间的连接关系组成的抽象结构。
68.类别不均衡:指节点分类系统对于不同类别的预测能力存在明显差异的现象,以账号分类系统为例,如果一个gnn总是在识别头部网红账号时准确度较高、识别腰部网红账号时准确度较低,说明这一gnn发生了类别不均衡的现象。
69.数量不均衡(quantity-imbalance):是指由于不同类别的标注节点所构成的标注集合中的节点数量差异所引起的类别不均衡,这里的节点数量是指每个类别的标注集合中包含的标注节点的数量。
70.拓扑不均衡(topology-imbalance):是指由于不同类别的标注节点所构成的标注集合中的节点位置差异所引起的类别不均衡,这里的节点位置是指每个类别的标注集合中包含的标注节点的拓扑位置,例如,是靠近属于本类别的各个节点的拓扑结构的中心,还是靠近属于本类别的各个节点的拓扑结构的边界。
71.标注集合:指图中有标签的节点集合,也即每个类别下的标注节点所构成的节点集合,一般作为训练集合。
72.无标注集合:指图中无标签的节点集合,也即在图中所有无标注的节点所构成的节点集合,一般作为测试集合。
73.在gnn节点分类系统中,基于各个节点的图数据,能够识别出来每个节点所属的类
别,例如,gnn节点分类系统能够处理社交网络中的账号分类任务。由于在gnn的训练阶段,针对不同类别提供的标注集合中所包含的标注节点的数量是不尽相同的,并且各个标注集合中所包含的标注节点在gnn中的位置分布也是不均衡的,导致gnn在处理节点分类任务时,针对不同类别的预测能力存在明显差异,例如,针对类别1的识别准确度普遍较高,但针对类别2的识别准确度普遍较低,也即gnn节点分类系统普遍存在类别不均衡的现象。因此,亟需一种能够提高gnn识别准确度的方法,以改善gnn节点分类系统中存在的类别不均衡现象。
74.图1是本技术实施例提供的一种数据处理方法的实施环境示意图。参见图1,在该实施环境中涉及终端110和服务器120。
75.终端110用于向服务器120提供图数据,例如,以社交网络为例,终端110上安装和运行有社交应用,用户在终端110上登录该应用程序上的账号,并操作该账号关注多个其他账号,那么将会产生该账号对应的图数据。可选地,终端是智能手机、平板电脑、笔记本电脑、台式计算机、智能音箱、智能手表等,但并不局限于此。
76.终端110与服务器120能够通过有线或无线通信方式进行直接或间接地连接,本技术在此不做限制。
77.服务器120用于提供数据处理服务,例如,服务器120采集各个终端110对应的各个账号的账号标识以及每个账号所关注的所有其他账号的账号标识,并以此为基础构建账号关系图,账号关系图中的每个节点代表一个账号,采用边相连的两个节点之间具有好友关系(如互相关注),利用上述账号关系图能够实现账号分类任务。
78.需要说明的是,上述过程仅以社交网络下的账号分类场景为例进行说明,在另外一些示例性场景下,服务器120采集各个文章(如参考文献)之间的引用关系,并以此为基础构建文章关系图,文章关系图中的每个节点代表一篇文章,采用边相连的两个节点之间具有引用关系(如文章a为文章b的参考文献),利用上述文章关系图能够实现文章分类任务。
79.可选地,服务器120包括一台服务器、多台服务器、云计算平台或者虚拟化中心中的至少一种。例如,服务器120承担主要计算工作,终端110承担次要计算工作;或者,服务器120承担次要计算工作,终端110承担主要计算工作;或者,终端110和服务器120两者之间采用分布式计算架构进行协同计算。
80.在一些实施例中,服务器是独立的物理服务器,或者是多个物理服务器构成的服务器集群或者分布式系统,或者是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、cdn(content delivery network,内容分发网络)以及大数据和人工智能平台等基础云计算服务的云服务器。
81.本领域技术人员可以知晓,上述终端110的数量可以更多或更少。比如上述终端110可以仅为一个,或者上述终端110为几十个或几百个,或者更多数量。本技术实施例对终端110的数量和设备类型不加以限定。
82.图2是本技术实施例提供的一种数据处理方法的流程图。参见图2,该实施例应用于计算机设备,以计算机设备为服务器为例进行说明,该实施例包括下述步骤:
83.201、服务器基于图神经网络中多个标注节点的位置信息,获取该多个标注节点各自的冲突水平参数,该冲突水平参数用于表征该标注节点在对应的标注类别中所处的拓扑位置。
84.其中,该图神经网络是指任一用于处理图数据的神经网络结构,包括但不限于:gcn、gat、ppnp、cheb、sage、sgc等,本技术实施例不对该图神经网络的结构进行具体限定。
85.示意性地,在账号分类场景下,图神经网络代表了平台账号之间的社交网络,该图神经网络中的各个节点对应于社交网络中的各个账号,各个节点所属的类别对应于各个账号所属的账号类别,该图神经网络中节点与节点之间的连接关系代表了社交网络中账号与账号之间的关联关系,例如,该关联关系包括但不限于:好友关系、单向关注关系、双向关注关系、3天内互相评论过、近一周内互相评论过等。
86.示意性地,在文章分类场景下,图神经网络代表了文库内的文章之间的引用关系,该图神经网络中的各个节点对应于具有引用关系的各个文章,各个节点所属的类别对应于各个文章所属的文章类别,该图神经网络中节点与节点之间的连接关系代表了文章与文章之间的引用关系,例如,该引用关系是指:文章a为文章b的参考文献。
87.在一些实施例中,服务器获取该图神经网络的训练样本集,该训练样本集中包括多个标注集合,每个标注集合对应于一个标注类别,每个标注集合中包括属于对应标注类别的多个标注节点,接着,基于所有节点(包括标注节点和未标注节点)的图数据,构建节点关系图。在该节点关系图的基础上,结合给定的多个初始化的模型参数,生成该图神经网络,其中,这些模型参数的初始值由技术人员进行指定,或者,使用服务器预设的默认值。
88.在一些实施例中,服务器利用随机游走方法来获取每个标注节点的冲突水平参数,随机游走过程是指从节点关系图中的任一个标注节点开始出发,向与该标注节点相邻的其他节点随机进行游走,直到在某一节点停止游走,停止游走时位于的节点包括但不限于:该标注节点(即有可能在随机游走后又回到了原点)、其他标注节点或者未标注节点,从该标注节点出发并在任何节点停止游走的终止概率能够构成一个概率矩阵,这一概率矩阵能够表征该标注节点的随机游走过程所服从的概率分布。
89.在一些实施例中,服务器对每个标注节点,获取该标注节点的概率矩阵,并对每个标注节点所服从的概率分布,能够基于该概率矩阵,获取到一个冲突期望,这一冲突期望即可作为该标注节点的冲突水平参数。这一冲突期望能够衡量该标注节点和来自相异类别的其他标注节点产生的影响力冲突情况,从而能够侧面反映出该标注节点在自身所属的标注类别中所处的拓扑位置,也即是说,当一个标注节点的冲突期望越大时,代表该标注节点在自身类别影响力较大的子图范围内遇到了比较强烈的冲突,说明该标注节点更加靠近于拓扑意义上的类别边界,反之,当一个标注节点的冲突期望越小时,代表该标注节点在自身类别影响力较大的子图范围内遇到了比较平缓的冲突,说明该标注节点更加靠近于拓扑意义上的类别中心。关于冲突期望的获取方式将在下一实施例中进行详述,这里不做说明。
90.202、服务器基于该多个标注节点各自的冲突水平参数,获取该多个标注节点各自的目标权重,该目标权重用于表征基于该拓扑位置为该标注节点所引入的加权影响因子。
91.在一些实施例中,在获取到用于衡量每个标注节点的拓扑位置的冲突水平参数之后,为了修正由于拓扑不均衡所引发的类别不均衡的现象,应当增加靠近拓扑结构上类别中心的标注节点对于图神经网络的训练影响,并减少靠近拓扑结构上类别边界的标注节点对于图神经网络的训练影响。这是由于如果某一标注节点靠近拓扑结构上的类别边界,通常情况下这一标注节点是位于两个不同类别的交界处,因此是比较容易产生误判情况的,从而应该赋予这类标注节点较小的目标权重,反之,如果某一标注节点靠近拓扑结构上的
类别中心,通常情况下这一标注节点是远离不同类别的交界处的,因此不容易产生误判情况,从而应该赋予这类标注节点较大的目标权重。关于目标权重的获取方式将在下一实施例中进行详述,这里不做说明。
92.在上述过程中,基于每个标注节点各自的冲突水平参数,为每个标注节点分配不同的目标权重,这一目标权重能够用于调节每个标注节点各自对于损失函数的贡献程度,从而指导整体图神经网络的迭代训练过程,以改善由于拓扑不均衡所固有带来的类别不均衡现象。
93.203、服务器基于该多个标注节点各自的目标权重,调整该图神经网络的参数,得到目标图神经网络,该目标图神经网络用于识别该图神经网络中各个节点所属的类别。
94.在一些实施例中,服务器能够基于每个标注节点的目标权重,对每个标注节点各自在损失函数中提供的贡献值进行加权,从而能够增加靠近拓扑结构上类别中心的标注节点对于图神经网络的训练影响,并减少靠近拓扑结构上类别边界的标注节点对于图神经网络的训练影响,以对图神经网络所构成的节点分类系统的拓扑不平衡现象进行校正,从而能够在多轮迭代训练之后,提升训练所得的目标图神经网络针对各个类别的识别准确度。关于迭代训练的方式将在下一实施例中进行详述,这里不做说明。
95.上述所有可选技术方案,能够采用任意结合形成本公开的可选实施例,在此不再一一赘述。
96.本技术实施例提供的方法,通过在图神经网络的调参过程中,确定每个标注节点的冲突水平参数,以衡量每个标注节点的拓扑位置,并在冲突水平参数的基础上,为每个标注节点分配自身的目标权重,将这一目标权重投入到调参过程中,以调节处于不同拓扑位置的不同标注节点各自在调参过程中产生的影响,如为拓扑位置靠近类别中心的标注节点分配较大目标权重,为拓扑位置靠近类别边界的标注节点分类较小权重,从而能够改善由于图神经网络普遍存在的类别不均衡现象,提高图神经网络的识别准确度。
97.图3是本技术实施例提供的一种数据处理方法的流程图。参见图3,该实施例应用于计算机设备,以计算机设备为服务器为例进行说明,该实施例包括下述步骤:
98.301、服务器获取图神经网络中的多个标注节点以及该多个标注节点各自对应的标注类别。
99.其中,该图神经网络是指任一用于处理图数据的神经网络结构,包括但不限于:gcn、gat、ppnp、cheb、sage、sgc等,本技术实施例不对该图神经网络的结构进行具体限定。
100.示意性地,在账号分类场景下,图神经网络代表了平台账号之间的社交网络,该图神经网络中的各个节点对应于社交网络中的各个账号,各个节点所属的类别对应于各个账号所属的账号类别,该图神经网络中节点与节点之间的连接关系代表了社交网络中账号与账号之间的关联关系,例如,该关联关系包括但不限于:好友关系、单向关注关系、双向关注关系、3天内互相评论过、近一周内互相评论过等。
101.示意性地,在文章分类场景下,图神经网络代表了文库内的文章之间的引用关系,该图神经网络中的各个节点对应于具有引用关系的各个文章,各个节点所属的类别对应于各个文章所属的文章类别,该图神经网络中节点与节点之间的连接关系代表了文章与文章之间的引用关系,例如,该引用关系是指:文章a为文章b的参考文献。
102.在一些实施例中,服务器获取该图神经网络的训练样本集,该训练样本集中包括
多个标注集合,每个标注集合对应于一个标注类别,每个标注集合中包括属于对应标注类别的多个标注节点,接着,基于所有节点(包括标注节点和未标注节点)的图数据,构建节点关系图。在该节点关系图的基础上,结合给定的多个初始化的模型参数,生成该图神经网络,其中,这些模型参数的初始值由技术人员进行指定,或者,使用服务器预设的默认值。例如,该训练样本集包括但不限于:cora、citeseer、pubmed等学术引用网络,以及photo、computers等商品共同购买图网络,或者其他不同的图数据实例数据集,本技术实施例对此不进行具体限定。
103.需要说明的是,本技术实施例仅以服务器端训练图神经网络为例进行说明,但该数据处理方法也可以由终端独立执行,即终端侧独立完成对图神经网络的训练过程,该服务器和该终端均为计算机设备的示例性说明,本技术实施例不对图神经网络的训练过程在何种设备上执行进行具体限定。
104.302、对该多个标注节点中的任一标注节点,服务器从该标注节点进行随机游走,得到该标注节点的概率矩阵,该概率矩阵用于表征该标注节点在随机游走时停止至该图神经网络中任一节点的概率分布。
105.在一些实施例中,服务器在获取每个标注节点的概率矩阵时,基于随机游走算法,对每个标注节点获取该标注节点在随机游走时停止至节点关系图中每个节点的终止概率,基于停止至所有节点的各个终止概率,即可生成该概率矩阵,并保证该概率矩阵中的每个终止概率都服从相同的概率分布。
106.在一些实施例中,基于图神经网络的节点分类系统划分为:传导式节点分类系统和推导式节点分类系统。传导式节点分类系统是指所有已知类别的标注节点和需要预测的未标注节点都会在训练过程中出现,在这种情况下类别信息将主要通过节点关系图中的边从标注节点传导到未标注节点,通常情况下传导式节点分类系统的图神经网络中包含的节点数量较少,例如,在该图神经网络中包含的节点数量小于或等于数量阈值的情况下,属于传导式节点分类系统。而推导式节点分类系统则是指需要预测的未标注节点不一定会在训练过程中出现,通常情况下推导式节点分类系统中包含的节点数量较多、图结构较大,例如,在该图神经网络中包含的节点数量大于数量阈值的情况下,属于推导式节点分类系统。其中,该数量阈值为大于或等于1的整数。
107.在一些实施例中,针对传导式节点分类系统,服务器对每个标注节点获取到的概率矩阵中,将记录从该标注节点出发随机游走至节点关系图中所有节点的终止概率,从而能够提升传导式节点分类系统的训练准确度。
108.在一些实施例中,针对推导式节点分类系统,服务器对该图神经网络采样得到部分节点,并在对每个标注节点获取到的概率矩阵中,仅记录从该标注节点出发随机游走至节点关系中的该部分节点的终止概率,换言之,每个标注节点的概率矩阵基于该图神经网络中的部分节点采样得到,这样能够针对大图场景下节点分类系统进行训练加速,以节约服务器的计算资源,提高服务器的计算效率。
109.303、服务器基于该标注节点的概率矩阵,获取该标注节点的冲突期望,该冲突期望用于表征服从该概率分布的任一节点在随机游走停止时遇到相异类别的可能性的数学期望。
110.其中,该相异类别为除了该标注节点所对应的标注类别之外的类别。
111.在一些实施例中,由于通常该标注节点会具有一个或多个相异类别,而每个相异类别都对应于一个标注集合,每个相异类别的标注集合内的标注节点称为目标标注节点,对任一该相异类别所对应的任一目标标注节点,服务器执行如下子步骤3031-3035:
112.3031、服务器确定从任一该目标标注节点开始进行随机游走并停止在服从该概率分布的任一节点的终止概率。
113.在一些实施例中,由于服务器在执行上述步骤302中获取每个标注节点的概率矩阵时,会针对所有类别的所有标注节点都获取各自的概率矩阵,而目标标注节点在本质上是指相异类别的标注节点,因此,对于服从该概率分布的任一节点,服务器从该目标标注节点的概率矩阵中,能够获取到从该目标标注节点开始随机游走并停止在服从该概率分布的任一节点的终止概率。
114.在一个示例中,假设该标注节点为v,标注节点v在随机游走停止时服从的概率分布表示为p
v,:
,标注节点v所属的标注类别为yv(也即标注节点v的真实标签),k是图神经网络总体设计的类别数量,k为大于或等于1的整数,针对第j个相异类别,cj表示第j个相异类别的标注集合(包含属于第j个相异类别的所有目标标注节点),那么从属于第j个相异类别的第i个目标标注节点开始随机游走,并停止在服从该概率分布p
v,:
的任一节点x的终止概率表示为p
i,x
,其中,x~p
v,:
,i∈cj,j∈[1,k]且j≠yv。
[0115]
3032、服务器将任一该相异类别中各个目标标注节点的各个终止概率相加,得到第一数值。
[0116]
在一些实施例中,由于该相异类别所对应的标注集合中包含多个目标标注节点,服务器对每个目标标注节点都执行上述步骤3031,获取到随机游走至服从该概率分布的同一节点的终止概率,因此对多个目标标注节点能够获取到多个终止概率,将该多个终止概率相加,得到第一数值。
[0117]
基于上述示例的基础上,该第一数值能够表示为如下表达式:
[0118]
3033、服务器将该第一数值除以任一该相异类别所包含的目标标注节点的数量,得到第二数值。
[0119]
在一些实施例中,由于第一数值是指该相异类别中所有目标标注节点随机游走至服从该概率分布的同一节点的终止概率之和,通过将该第一数值除以该相异类别所包含的目标标注节点的数量,得到该第二数值,使得该第二数值能够反映出该相异类别对该节点的总体影响力水平,其中,该相异类别所包含的目标标注节点的数量,也称为该相异类别所对应标注集合的集合大小。
[0120]
基于上述示例的基础上,该第二数值能够表示为如下表达式:
[0121]
3034、服务器将各个该相异类别对应的各个第二数值相加,得到第三数值。
[0122]
在一些实施例中,由于第二数值是针对每个相异类别计算的反映该相异类别对该节点的总体影响力水平,那么对多个相异类别能够计算出多个第二数值,将多个相异类别各自对应的多个第二数值相加,即可得到第三数值,该第三数值能够反映出来所有相异类别对该节点的综合影响力水平。
[0123]
基于上述示例的基础上,该第三数值能够表示为如下表达式:
[0124][0125]
3035、服务器将服从该概率分布的各个节点所对应的各个第三数值的数学期望确定为该标注节点的冲突期望。
[0126]
在一些实施例中,由于服从该概率分布的节点有多个,因此,而对每个节点都能够求得一个对应的第三数值,对服从该概率分布的所有节点各自对应的第三数值,能够获取到一个数学期望,将该数学期望确定为该标注节点的冲突期望,能够反映出该标注节点相对于对应标注类别中其他节点的拓扑位置反映,换言之,能够反映出该标注节点在对应标注类别中所有节点所形成的拓扑结构中靠近中心还是边界。
[0127]
基于上述示例的基础上,标注节点v的冲突期望tv能够表示为如下公式:
[0128][0129]
304、服务器将该标注节点的冲突期望确定为该标注节点的冲突水平参数,该冲突水平参数用于表征该标注节点在对应的标注类别中所处的拓扑位置。
[0130]
在一些实施例中,服务器对每个标注节点,通过上述步骤3031-3035获取到每个标注节点的冲突期望,将每个标注节点的冲突期望作为每个标注节点的冲突水平参数,这是由于如果冲突期望的取值较大,代表从该标注节点开始随机游走停止时有较大概率遇到相异类别的目标标注节点,也即该标注节点是很容易与相异类别发生冲突的节点,代表该标注节点的拓扑位置更靠近所属标注类别的边界,反之,如果冲突期望的取值较小,代表从该标注节点开始随机游走停止时有较小概率遇到相异类别的目标标注节点,也即该标注节点是不容易与相异类别发生冲突的节点,代表该标注节点的拓扑位置更靠近所属标注类别的中心。
[0131]
在上述步骤302-304中,服务器基于图神经网络中多个标注节点的位置信息,获取该多个标注节点各自的冲突水平参数,由于该冲突水平参数能够表征标注节点在对应标注类别所处的拓扑位置,换言之能够反映该标注节点在自身标注类别中相较于其他节点的相对位置,那么这一冲突水平参数能够指示对每个标注节点在训练过程中的影响程度是应该放大还是缩小,为了改善由于拓扑不均衡而引发的类别不均衡现象,需要增加靠近拓扑结构上类别中心的标注节点对于图神经网络的训练影响,并减少靠近拓扑结构上类别边界的标注节点对于图神经网络的训练影响。
[0132]
305、服务器获取该标注节点的余弦退火值,该余弦退火值用于表征该标注节点在对应标注类别中冲突水平参数的排序情况。
[0133]
在一些实施例中,服务器将该标注类别中所有标注节点的冲突水平参数进行从小到大排序,并确定当前的该标注节点在对应的该标注类别中冲突水平参数的排序次序;基于该排序次序和该标注类别中包含的标注节点的数量,获取该标注节点的余弦退火值。
[0134]
在一些实施例中,服务器在确定该排序次序时,调用rank()排序函数对该标注类别所对应的标注集合内所有标注节点的冲突水平参数进行从小到大排序。
[0135]
在一些实施例中,服务器在获取该余弦退火值时,将该排序次序除以该标注类别
中包含的标注节点的数量,得到第一系数,将该目标系数与圆周率π相乘,得到第二系数,将该第二系数的余弦值确定为该余弦退火值。
[0136]
在一个示例中,假设当前的标注节点为v,标注节点v的冲突水平参数为tv,那么冲突水平参数tv的排序次序表示为rank(tv),该标注节点v的余弦退火值的表达式如下:
[0137][0138]
其中,cos()表示余弦函数,rank()表示排序函数,|
·
|表示该标注节点v所属标注类别的标注集合l的集合大小,也即标注集合l的l1范数。
[0139]
306、服务器基于该标注节点的余弦退火值、最小权重阈值和最大权重阈值,获取该标注节点的目标权重,该目标权重用于表征基于该拓扑位置为该标注节点所引入的加权影响因子。
[0140]
在一些实施例中,服务器将该余弦退火值加一,得到第四数值;将该第四数值与该最大权重阈值与该最小权重阈值之间的差值相乘,得到第五数值;将该第五数值的二分之一与该最小权重阈值相加,得到该标注节点的目标权重。
[0141]
可选地,该最小权重阈值或最大权重阈值为技术人员设定的可调参数,可选地,该最小权重阈值或最大权重阈值为服务器预设的权重规划的默认最小值或默认最大值,本技术实施例不对最小权重阈值或最大权重阈值的来源进行具体限定。
[0142]
基于上述示例的基础上,假设最小权重阈值为w
min
,最大权重阈值为w
max
,那么该标注节点v的目标权重wv表示为如下公式:
[0143][0144]
其中,为余弦退火值,为第四数值,为第五数值。
[0145]
在上述步骤305-306中,服务器基于该多个标注节点各自的冲突水平参数,获取该多个标注节点各自的目标权重,这一目标权重能够用于调节每个标注节点各自对于损失函数的贡献程度,通过基于余弦退火机制来规划各个标注节点的训练权重,以对整体训练样本集进行节点级别的权重调整,从而指导整体图神经网络的迭代训练过程,以改善由于拓扑不均衡所固有带来的类别不均衡现象。此外,通过余弦退火机制能够有效避免极端值对于训练结果的影响,将所有标注节点按照冲突水平参数的排序次序来进行训练权重的规划。
[0146]
307、服务器确定该标注节点分别对应于多种类别的多个预测概率,该预测概率用于表征该标注节点对应于每种类别的可能性。
[0147]
在上述步骤307中,服务器基于该图神经网络,确定该多个标注节点中每个标注节点分别对应于多种类别的多个预测概率,换言之,服务器对每个标注节点都获取多个预测概率,基于该多个预测概率,能够确定出该标注节点的预测类别。
[0148]
在一些实施例中,服务器选择该多个预测概率中的最大预测概率所属的类别作为该标注节点的预测类别。
[0149]
在一些实施例中,服务器按照预测概率从大到小的顺序进行排序,从排序位于前目标位的预测概率中,随机选择一个预测概率所属的类别作为该标注节点的预测类别,例如,该前目标位是前3位。
[0150]
在一些实施例中,服务器确定大于概率阈值的一个或多个预测概率,从该一个或多个预测概率中随机选择一个预测概率所属的类别作为该标注节点的预测类别,其中,该概率阈值为任一大于或等于0且小于或等于1的数值,例如该概率阈值为0.8。
[0151]
在一些实施例中,针对具有不同网络结构的图神经网络,获取每个标注节点各自的多个预测概率的方式也是不尽相同的。
[0152]
以传导式节点分类系统为例,假设以表示传导式学习的图神经网络,以x表示向图神经网络输入的节点特征,a表示向图神经网络输入的拓扑特征,θ表示图神经网络可学习的模型参数,g表示图神经网络所输出的预测类别对应的预测概率,那么g的表达式如下:
[0153][0154]
其中,softmax()表示指数归一化函数。
[0155]
以推导式节点分类系统为例,由于推导式节点分类系统的图神经网络中包含的节点数量较多,图数据结构的规模较大,因此直接基于上述步骤302来获取从每个标注节点出发随机游走至节点关系图中所有节点的终止概率,以计算该概率矩阵p的方式,会带来较大的计算开销和计算代价,如上述步骤302中所提供的另一种实施方式,针对推导式节点分类系统,每个标注节点的概率矩阵基于该图神经网络中的部分节点采样得到,从而针对大图场景下节点分类系统进行训练加速,以节约服务器的计算资源,提高服务器的计算效率。
[0156]
在上述推导式节点分类系统中,假设以表示推导式学习的图神经网络,以x表示向图神经网络输入的节点特征,θ

表示图神经网络可学习的模型参数,g

表示图神经网络所输出的预测类别对应的预测概率,那么g

的表达式如下:
[0157][0158]
其中,softmax()表示指数归一化函数。
[0159]
308、服务器基于多个标注节点各自的多个预测概率、该多个标注节点各自的标注类别以及该多个标注节点各自的目标权重,获取本次迭代的损失函数值。
[0160]
在一些实施例中,对属于同一标注类别所对应标注集合内的每个标注节点,服务器基于该多个预测概率,确定该标注节点所属的预测类别,确定方式参见上述步骤307中的描述。接着,获取该预测类别所对应的预测概率的对数值,将该对数值、该标注节点所属的标注类别以及该标注节点的目标权重相乘,得到调节损失值,将属于该标注集合内的所有标注节点的调节损失值求和,得到目标和值,将该目标和值除以该标注集合的集合大小所得数值的相反数获取为本次迭代的损失函数值。由于在获取上述损失函数值的过程中,针对每个标注节点的交叉熵损失,采用了各自的目标权重进行加权,相当于在交叉熵损失的
基础上加上了考虑拓扑位置的影响因子(即目标权重),能够改善图神经网络中由于拓扑不均衡所带来的类别不均衡现象。
[0161]
示意性地,针对传导式节点分类系统,以表示传导式学习的图神经网络,以x表示向图神经网络输入的节点特征,a表示向图神经网络输入的拓扑特征,θ表示图神经网络可学习的模型参数,g表示图神经网络所输出的预测类别对应的预测概率,softmax()表示指数归一化函数,那么基于目标权重调节的交叉熵损失函数loss的表达式如下:
[0162][0163][0164]
其中,yv表示标注节点v的标注类别(即真实类别),l表示全部标注节点所组成的标注集合,|l|表示标注集合l的集合大小即l1范数,v为标注集合l内的任一标注节点,wv表示标注节点v的目标权重,gv表示图神经网络针对标注节点v输出的预测类别所对应的预测概率。
[0165]
示意性地,针对推导式节点分类系统,以表示推导式学习的图神经网络,以x表示向图神经网络输入的节点特征,θ

表示图神经网络可学习的模型参数,g

表示图神经网络所输出的预测类别对应的预测概率,softmax()表示指数归一化函数,那么基于目标权重调节的交叉熵损失函数loss的表达式如下:
[0166][0167][0168]
其中,表示基于该图神经网络中的部分节点采样得到的概率矩阵,yv表示标注节点v的标注类别(即真实类别),l表示表示全部标注节点所组成的标注集合,|l|表示标注集合l的集合大小即l1范数,v为标注集合l内的任一标注节点,w
′v表示标注节点v的目标权重,g
′v表示图神经网络针对标注节点v输出的预测类别所对应的预测概率。
[0169]
在上述过程中,针对推导式节点分类系统,通过将节点信息表示的学习过程与节点特征在节点关系图上的传播过程进行解耦,避免了将大图结构作为图神经网络的直接输入,从而能够将本技术实施例涉及的数据处理方法快速部署到超大规模的图结构中,甚至能够在千万节点级别的微软学术图(microsoft academic graph,mag)引用图网络上成功部署这一数据处理方法,以改善mag引用图网络的类别不均衡问题。
[0170]
309、服务器响应于该损失函数值不符合停止条件,迭代调整该图神经网络的参数,直到该损失函数值符合该停止条件,停止迭代,得到该目标图神经网络。
[0171]
其中,该目标图神经网络用于识别该图神经网络中各个节点所属的类别。
[0172]
在一些实施例中,该停止条件为损失函数值小于损失阈值,其中,该损失阈值为任一大于或等于0且小于或等于1的数值。若本次迭代的损失函数值大于或等于该损失阈值,
不符合停止条件,则服务器迭代调整该图神经网络的参数,并重新执行上述步骤302-308,直到任一次迭代的损失函数值小于该损失阈值时,符合停止条件,那么停止迭代,得到该目标图神经网络,这一目标图神经网络能够投入到节点分类任务的应用中。
[0173]
在一些实施例中,该停止条件为迭代次数大于迭代阈值,其中,该迭代阈值为任一大于或等于1的整数。若本次迭代的迭代次数小于或等于该迭代阈值,不符合停止条件,则服务器迭代调整该图神经网络的参数,并重新执行上述步骤302-308,直到任一次迭代的迭代次数大于迭代阈值时,符合停止条件,那么停止迭代,得到该目标图神经网络。
[0174]
在一些实施例中,该停止条件为损失函数值小于损失阈值或者迭代次数大于迭代阈值。若本次迭代的损失函数值大于或等于该损失阈值且迭代次数小于或等于该迭代阈值,不符合停止条件,则服务器迭代调整该图神经网络的参数,并重新执行上述步骤302-308,直到任一次迭代的损失函数值小于该损失阈值,或者迭代次数大于迭代阈值时,符合停止条件,那么停止迭代,得到该目标图神经网络。
[0175]
在上述步骤307-309中,服务器基于该多个标注节点各自的目标权重,调整该图神经网络的参数,得到目标图神经网络,相当于引入了图节点的再加权(re-weighting node,rn)机制,以改善图神经网络中由于拓扑不均衡而引起的类别不均衡现象。
[0176]
上述所有可选技术方案,能够采用任意结合形成本公开的可选实施例,在此不再一一赘述。
[0177]
本技术实施例提供的方法,通过在图神经网络的调参过程中,确定每个标注节点的冲突水平参数,以衡量每个标注节点的拓扑位置,并在冲突水平参数的基础上,为每个标注节点分配自身的目标权重,将这一目标权重投入到调参过程中,以调节处于不同拓扑位置的不同标注节点各自在调参过程中产生的影响,如为拓扑位置靠近类别中心的标注节点分配较大目标权重,为拓扑位置靠近类别边界的标注节点分类较小权重,从而能够改善由于图神经网络普遍存在的类别不均衡现象,提高图神经网络的识别准确度。
[0178]
图4是本技术实施例提供的一种数据处理方法的原理性示意图,如401所示,在应用本技术实施例的方法进行改进之前,左侧部分401中的所有方形节点实际上属于同一类别1,而所有圆形节点实际上属于另一类别2。其中圆形节点b、方形节点r1和方形节点r2三者为标注节点,其余节点均为未标注节点。可以看出,方形节点r1实际上是位于两种不同类别1和2的拓扑结构的交界处,即方形节点r1的拓扑位置更加靠近对应类别1的边界,因此,与方形节点r1较为接近两个圆形节点x是受到影响力冲突较大的未标注节点,而两个方形节点y则是由于距离类别1的中心r2距离较远,因此两个方形节点y是属于影响力不充分的未标注节点。在左侧部分401中节点的底色代表传统图神经网络的预测类别,黑色底色的节点代表预测类别为类别1,白色底色的节点代表预测类别为类别2,显然能够看出来,位于上方的圆形节点x实际上属于类别2(应该是白色底色),但被错误地识别成了类别1(但被误判为黑色底色),因此存在误判情况,识别准确度较差。
[0179]
而右侧部分402则代表了应用本技术实施例的方法进行改进之后,通过图节点再加权机制,向靠近类别1中心的方形节点r2赋予较大目标权重(图中表现为节点面积增大),向靠近类别2中心的圆形节点b赋予较大目标权重,此外,向远离类别2中心的方形节点r1赋予较小目标权重(图中表现为节点面积缩小),能够使得改进后的图神经网络能够准确地将位于上方的圆形节点x划分至类别2,从而降低了误判情况,提高了识别准确度。
[0180]
上述数据处理方法可适用于各类图节点分类系统,其中,图节点分类系统是指依赖于节点本身的特征以及与其关联的拓扑特征所作出的节点类别预测。例如,可适用于基于社交网络的广告推荐场景,通过将该数据处理方法部署于基于用户的账号的关联关系构成的社交网络,以改善基于图结构的用户画像识别准确度(即账号分类准确度),从而能够精准进行个性化兴趣挖掘,实现更加精准地广告推荐。又例如,可适用于基于引用网络的文章自动分类场景,即通过类似的方法能够提升文章自动分类的准确度,进而提升基于引用关系而进行自动文章分类系统的性能整体表现和类别均衡表现。
[0181]
本技术实施例提供的方法,能够通过检测节点间的影响力冲突,即获取每个标注节点的冲突水平参数,从而计算每个标注节点的目标权重,并利用目标权重对每个标注节点在损失函数中的贡献部分进行加权,能够改善社交网络等图结构中不对称的拓扑结构所导致的类别不均衡现象,从而提升节点分类系统的性能表现和综合能力,改善用户体验和用户友好程度。
[0182]
进一步地,应用该数据处理方法的图节点分类系统,既不会影响图节点分类系统的原始性能,换言之,引入拓扑类别不平衡修正技术之后,图节点分类系统的整体性能指标不会受到损害;而且还能够进一步提升图节点分类系统的类别均衡表现,尤其大大改善了由于不对称的拓扑结构带来的类别不均衡的问题;此外,还能够兼容不同架构的基础图神经网络以及不同风格的图数据,从而降低了迁移难度和再开发难度。
[0183]
进一步地,应用该数据处理方法改进所得的目标图神经网络,能够重新部署在服务端以进行用户请求响应,例如,用户将其想要预测的节点信息(即节点特征)和图信息(即拓扑特征)输入到目标图神经网络,训练好的目标图神经网络即可自动化地根据输入的节点特征和拓扑特征,来预测输入节点所属的类别,并在预测过程中能够修正由于不对称的拓扑结构带来的类别不均衡问题,从而在保证图节点分类系统的整体性能不降低的前提下,返回类别均衡的预测结果。
[0184]
针对上述传统的图神经网络和改进后的目标图神经网络,引入如下两种模型性能衡量指标:1)加权平均f1值(weighted-f1,w-f):是指图节点分类系统在不同类别间按照标注节点的频率加权的平均f1值,是关注图节点分类系统的整体性能的指标;2)平均f1值(macor-f1,m-f):是指图节点分类系统在不同类别间直接平均的f1值,是评价图节点分类系统的类别平衡的性能指标。
[0185]
图5是本技术实施例提供的一种模型性能对比结果图,如图5所示,501部分代表了在reddit社交网络图上进行tinl(topology-imbalance node learning,拓扑不平衡的节点学习)时,针对20*k、50*k和100*k这三种不同标注比例和采样方案下的系统性能对比,白色柱形表示未使用图节点再加权rn机制时的性能指标,阴影柱形表示使用rn机制时的性能指标,能够看出来在使用rn机制后能够显示提升系统在reddit社交网络图上的综合性能,其中,纵坐标使用的性能指标为w-f所占的百分比(w-f%)。同理,502部分代表了在reddit社交网络图上进行tinl和qinl(quantity-imbalance node learning,数量不平衡的节点学习)时,针对20*k、50*k和100*k这三种不同标注比例和采样方案下的系统性能对比;503部分代表了在论文引用图mag上进行tinl时,针对20*k、50*k和100*k这三种不同标注比例和采样方案下的系统性能对比;504部分代表了在论文引用图mag上进行tinl和qinl时,针对20*k、50*k和100*k这三种不同标注比例和采样方案下的系统性能对比。显然可见,应用
本技术实施例提供的数据处理方法即rn机制,能够在各类应用场景和各种标注比例下均有效提升系统性能和整体效果,进而能够优化用户的使用体验。
[0186]
进一步地,引入rn机制后还能够提升图节点分类系统的类别表现的均衡性,使得分类系统对于拓扑结构不理想的类别中的节点,也能够做出更加合理的预测,补齐了节点分类系统预测能力的短板,从而提升了用户在使用系统对于这些特定类别的节点做出预测时的体验。
[0187]
进一步地,本技术实施例涉及的数据处理方法,能够适用于多种图神经网络以及不同领域的图数据结构(如下表1所示),从而降低在不同图数据或者不同图神经网络间进行迁移的难度和工作量。
[0188]
表1
[0189]
[0190][0191]
图6是本技术实施例提供的一种数据处理装置的结构示意图,请参考图6,该装置包括:
[0192]
第一获取模块601,用于基于图神经网络中多个标注节点的位置信息,获取该多个标注节点各自的冲突水平参数,该冲突水平参数用于表征该标注节点在对应的标注类别中所处的拓扑位置;
[0193]
第二获取模块602,用于基于该多个标注节点各自的冲突水平参数,获取该多个标注节点各自的目标权重,该目标权重用于表征基于该拓扑位置为该标注节点所引入的加权影响因子;
[0194]
参数调整模块603,用于基于该多个标注节点各自的目标权重,调整该图神经网络
的参数,得到目标图神经网络,该目标图神经网络用于识别该图神经网络中各个节点所属的类别。
[0195]
本技术实施例提供的装置,通过在图神经网络的调参过程中,确定每个标注节点的冲突水平参数,以衡量每个标注节点的拓扑位置,并在冲突水平参数的基础上,为每个标注节点分配自身的目标权重,将这一目标权重投入到调参过程中,以调节处于不同拓扑位置的不同标注节点各自在调参过程中产生的影响,如为拓扑位置靠近类别中心的标注节点分配较大目标权重,为拓扑位置靠近类别边界的标注节点分类较小权重,从而能够改善由于图神经网络普遍存在的类别不均衡现象,提高图神经网络的识别准确度。
[0196]
在一种可能实施方式中,基于图6的装置组成,该第一获取模块601包括:
[0197]
随机游走单元,用于对该多个标注节点中的任一标注节点,从该标注节点进行随机游走,得到该标注节点的概率矩阵,该概率矩阵用于表征该标注节点在随机游走时停止至该图神经网络中任一节点的概率分布;
[0198]
第一获取单元,用于基于该标注节点的概率矩阵,获取该标注节点的冲突期望,该冲突期望用于表征服从该概率分布的任一节点在随机游走停止时遇到相异类别的可能性的数学期望,该相异类别为除了该标注节点所对应的标注类别之外的类别;
[0199]
确定单元,用于将该标注节点的冲突期望确定为该标注节点的冲突水平参数。
[0200]
在一种可能实施方式中,该第一获取单元用于:
[0201]
对任一该相异类别所对应的任一目标标注节点,确定从该目标标注节点开始进行随机游走并停止在服从该概率分布的任一节点的终止概率;
[0202]
将任一该相异类别中各个目标标注节点的各个终止概率相加,得到第一数值;
[0203]
将该第一数值除以任一该相异类别所包含的目标标注节点的数量,得到第二数值;
[0204]
将各个该相异类别对应的各个第二数值相加,得到第三数值;
[0205]
将服从该概率分布的各个节点所对应的各个第三数值的数学期望确定为该标注节点的冲突期望。
[0206]
在一种可能实施方式中,在该图神经网络中包含的节点数量大于数量阈值的情况下,每个标注节点的概率矩阵基于该图神经网络中的部分节点采样得到。
[0207]
在一种可能实施方式中,基于图6的装置组成,该第二获取模块602包括:
[0208]
第二获取单元,用于对该多个标注节点中的任一标注节点,获取该标注节点的余弦退火值,该余弦退火值用于表征该标注节点在对应标注类别中冲突水平参数的排序情况;
[0209]
第三获取单元,用于基于该标注节点的余弦退火值、最小权重阈值和最大权重阈值,获取该标注节点的目标权重。
[0210]
在一种可能实施方式中,该第二获取单元用于:
[0211]
确定该标注节点在对应标注类别中冲突水平参数的排序次序;
[0212]
基于该排序次序和该标注类别中包含的标注节点的数量,获取该标注节点的余弦退火值。
[0213]
在一种可能实施方式中,该第三获取单元用于:
[0214]
将该余弦退火值加一,得到第四数值;
[0215]
将该第四数值与该最大权重阈值与该最小权重阈值之间的差值相乘,得到第五数值;
[0216]
将该第五数值的二分之一与该最小权重阈值相加,得到该标注节点的目标权重。
[0217]
在一种可能实施方式中,该参数调整模块603用于:
[0218]
基于该图神经网络,确定该多个标注节点中每个标注节点分别对应于多种类别的多个预测概率,该预测概率用于表征该标注节点对应于每种类别的可能性;
[0219]
基于该多个标注节点各自的多个预测概率、该多个标注节点各自的标注类别以及该多个标注节点各自的目标权重,获取本次迭代的损失函数值;
[0220]
响应于该损失函数值不符合停止条件,迭代调整该图神经网络的参数,直到该损失函数值符合该停止条件,停止迭代,得到该目标图神经网络。
[0221]
在一种可能实施方式中,该图神经网络中的各个节点对应于社交网络中的各个账号;各个节点所属的类别对应于各个账号所属的账号类别。
[0222]
在一种可能实施方式中,该图神经网络中的各个节点对应于具有引用关系的各个文章;各个节点所属的类别对应于各个文章所属的文章类别。
[0223]
上述所有可选技术方案,能够采用任意结合形成本公开的可选实施例,在此不再一一赘述。
[0224]
需要说明的是:上述实施例提供的数据处理装置在处理图数据时,仅以上述各功能模块的划分进行举例说明,实际应用中,能够根据需要而将上述功能分配由不同的功能模块完成,即将计算机设备的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。另外,上述实施例提供的数据处理装置与数据处理方法实施例属于同一构思,其具体实现过程详见数据处理方法实施例,这里不再赘述。
[0225]
图7是本技术实施例提供的一种计算机设备的结构示意图,如图7所示,以计算机设备为终端700为例进行说明,此时由终端700独立完成图神经网络的迭代训练过程。可选地,该终端700的设备类型包括:智能手机、平板电脑、mp3播放器(moving picture experts group audio layer iii,动态影像专家压缩标准音频层面3)、mp4(moving picture experts group audio layer iv,动态影像专家压缩标准音频层面4)播放器、笔记本电脑或台式电脑。终端700还可能被称为用户设备、便携式终端、膝上型终端、台式终端等其他名称。
[0226]
通常,终端700包括有:处理器701和存储器702。
[0227]
可选地,处理器701包括一个或多个处理核心,比如4核心处理器、8核心处理器等。可选地,处理器701采用dsp(digital signal processing,数字信号处理)、fpga(field-programmable gate array,现场可编程门阵列)、pla(programmable logic array,可编程逻辑阵列)中的至少一种硬件形式来实现。在一些实施例中,处理器701包括主处理器和协处理器,主处理器是用于对在唤醒状态下的数据进行处理的处理器,也称cpu(central processing unit,中央处理器);协处理器是用于对在待机状态下的数据进行处理的低功耗处理器。在一些实施例中,处理器701集成有gpu(graphics processing unit,图像处理器),gpu用于负责显示屏所需要显示的内容的渲染和绘制。一些实施例中,处理器701还包括ai(artificial intelligence,人工智能)处理器,该ai处理器用于处理有关机器学习的计算操作。
[0228]
在一些实施例中,存储器702包括一个或多个计算机可读存储介质,可选地,该计算机可读存储介质是非暂态的。可选地,存储器702还包括高速随机存取存储器,以及非易失性存储器,比如一个或多个磁盘存储设备、闪存存储设备。在一些实施例中,存储器702中的非暂态的计算机可读存储介质用于存储至少一个程序代码,该至少一个程序代码用于被处理器701所执行以实现本技术中各个实施例提供的数据处理方法。
[0229]
在一些实施例中,终端700还可选包括有:外围设备接口703和至少一个外围设备。处理器701、存储器702和外围设备接口703之间能够通过总线或信号线相连。各个外围设备能够通过总线、信号线或电路板与外围设备接口703相连。具体地,外围设备包括:射频电路704、显示屏705、摄像头组件706、音频电路707、定位组件708和电源709中的至少一种。
[0230]
外围设备接口703可被用于将i/o(input/output,输入/输出)相关的至少一个外围设备连接到处理器701和存储器702。在一些实施例中,处理器701、存储器702和外围设备接口703被集成在同一芯片或电路板上;在一些其他实施例中,处理器701、存储器702和外围设备接口703中的任意一个或两个在单独的芯片或电路板上实现,本实施例对此不加以限定。
[0231]
射频电路704用于接收和发射rf(radio frequency,射频)信号,也称电磁信号。射频电路704通过电磁信号与通信网络以及其他通信设备进行通信。射频电路704将电信号转换为电磁信号进行发送,或者,将接收到的电磁信号转换为电信号。可选地,射频电路704包括:天线系统、rf收发器、一个或多个放大器、调谐器、振荡器、数字信号处理器、编解码芯片组、用户身份模块卡等等。可选地,射频电路704通过至少一种无线通信协议来与其它终端进行通信。该无线通信协议包括但不限于:城域网、各代移动通信网络(2g、3g、4g及5g)、无线局域网和/或wifi(wireless fidelity,无线保真)网络。在一些实施例中,射频电路704还包括nfc(near field communication,近距离无线通信)有关的电路,本技术对此不加以限定。
[0232]
显示屏705用于显示ui(user interface,用户界面)。可选地,该ui包括图形、文本、图标、视频及其它们的任意组合。当显示屏705是触摸显示屏时,显示屏705还具有采集在显示屏705的表面或表面上方的触摸信号的能力。该触摸信号能够作为控制信号输入至处理器701进行处理。可选地,显示屏705还用于提供虚拟按钮和/或虚拟键盘,也称软按钮和/或软键盘。在一些实施例中,显示屏705为一个,设置终端700的前面板;在另一些实施例中,显示屏705为至少两个,分别设置在终端700的不同表面或呈折叠设计;在再一些实施例中,显示屏705是柔性显示屏,设置在终端700的弯曲表面上或折叠面上。甚至,可选地,显示屏705设置成非矩形的不规则图形,也即异形屏。可选地,显示屏705采用lcd(liquid crystal display,液晶显示屏)、oled(organic light-emitting diode,有机发光二极管)等材质制备。
[0233]
摄像头组件706用于采集图像或视频。可选地,摄像头组件706包括前置摄像头和后置摄像头。通常,前置摄像头设置在终端的前面板,后置摄像头设置在终端的背面。在一些实施例中,后置摄像头为至少两个,分别为主摄像头、景深摄像头、广角摄像头、长焦摄像头中的任意一种,以实现主摄像头和景深摄像头融合实现背景虚化功能、主摄像头和广角摄像头融合实现全景拍摄以及vr(virtual reality,虚拟现实)拍摄功能或者其它融合拍摄功能。在一些实施例中,摄像头组件706还包括闪光灯。可选地,闪光灯是单色温闪光灯,
或者是双色温闪光灯。双色温闪光灯是指暖光闪光灯和冷光闪光灯的组合,用于不同色温下的光线补偿。
[0234]
在一些实施例中,音频电路707包括麦克风和扬声器。麦克风用于采集用户及环境的声波,并将声波转换为电信号输入至处理器701进行处理,或者输入至射频电路704以实现语音通信。出于立体声采集或降噪的目的,麦克风为多个,分别设置在终端700的不同部位。可选地,麦克风是阵列麦克风或全向采集型麦克风。扬声器则用于将来自处理器701或射频电路704的电信号转换为声波。可选地,扬声器是传统的薄膜扬声器,或者是压电陶瓷扬声器。当扬声器是压电陶瓷扬声器时,不仅能够将电信号转换为人类可听见的声波,也能够将电信号转换为人类听不见的声波以进行测距等用途。在一些实施例中,音频电路707还包括耳机插孔。
[0235]
定位组件708用于定位终端700的当前地理位置,以实现导航或lbs(location based service,基于位置的服务)。可选地,定位组件708是基于美国的gps(global positioning system,全球定位系统)、中国的北斗系统、俄罗斯的格雷纳斯系统或欧盟的伽利略系统的定位组件。
[0236]
电源709用于为终端700中的各个组件进行供电。可选地,电源709是交流电、直流电、一次性电池或可充电电池。当电源709包括可充电电池时,该可充电电池支持有线充电或无线充电。该可充电电池还用于支持快充技术。
[0237]
在一些实施例中,终端700还包括有一个或多个传感器710。该一个或多个传感器710包括但不限于:加速度传感器711、陀螺仪传感器712、压力传感器713、指纹传感器714、光学传感器715以及接近传感器716。
[0238]
在一些实施例中,加速度传感器711检测以终端700建立的坐标系的三个坐标轴上的加速度大小。比如,加速度传感器711用于检测重力加速度在三个坐标轴上的分量。可选地,处理器701根据加速度传感器711采集的重力加速度信号,控制显示屏705以横向视图或纵向视图进行用户界面的显示。加速度传感器711还用于游戏或者用户的运动数据的采集。
[0239]
在一些实施例中,陀螺仪传感器712检测终端700的机体方向及转动角度,陀螺仪传感器712与加速度传感器711协同采集用户对终端700的3d动作。处理器701根据陀螺仪传感器712采集的数据,实现如下功能:动作感应(比如根据用户的倾斜操作来改变ui)、拍摄时的图像稳定、游戏控制以及惯性导航。
[0240]
可选地,压力传感器713设置在终端700的侧边框和/或显示屏705的下层。当压力传感器713设置在终端700的侧边框时,能够检测用户对终端700的握持信号,由处理器701根据压力传感器713采集的握持信号进行左右手识别或快捷操作。当压力传感器713设置在显示屏705的下层时,由处理器701根据用户对显示屏705的压力操作,实现对ui界面上的可操作性控件进行控制。可操作性控件包括按钮控件、滚动条控件、图标控件、菜单控件中的至少一种。
[0241]
指纹传感器714用于采集用户的指纹,由处理器701根据指纹传感器714采集到的指纹识别用户的身份,或者,由指纹传感器714根据采集到的指纹识别用户的身份。在识别出用户的身份为可信身份时,由处理器701授权该用户执行相关的敏感操作,该敏感操作包括解锁屏幕、查看加密信息、下载软件、支付及更改设置等。可选地,指纹传感器714被设置终端700的正面、背面或侧面。当终端700上设置有物理按键或厂商logo时,指纹传感器714
能够与物理按键或厂商logo集成在一起。
[0242]
光学传感器715用于采集环境光强度。在一个实施例中,处理器701根据光学传感器715采集的环境光强度,控制显示屏705的显示亮度。具体地,当环境光强度较高时,调高显示屏705的显示亮度;当环境光强度较低时,调低显示屏705的显示亮度。在另一个实施例中,处理器701还根据光学传感器715采集的环境光强度,动态调整摄像头组件706的拍摄参数。
[0243]
接近传感器716,也称距离传感器,通常设置在终端700的前面板。接近传感器716用于采集用户与终端700的正面之间的距离。在一个实施例中,当接近传感器716检测到用户与终端700的正面之间的距离逐渐变小时,由处理器701控制显示屏705从亮屏状态切换为息屏状态;当接近传感器716检测到用户与终端700的正面之间的距离逐渐变大时,由处理器701控制显示屏705从息屏状态切换为亮屏状态。
[0244]
本领域技术人员能够理解,图7中示出的结构并不构成对终端700的限定,能够包括比图示更多或更少的组件,或者组合某些组件,或者采用不同的组件布置。
[0245]
图8是本技术实施例提供的一种计算机设备的结构示意图,该计算机设备800可因配置或性能不同而产生比较大的差异,该计算机设备800包括一个或一个以上处理器(central processing units,cpu)801和一个或一个以上的存储器802,其中,该存储器802中存储有至少一条计算机程序,该至少一条计算机程序由该一个或一个以上处理器801加载并执行以实现上述各个实施例提供的数据处理方法。可选地,该计算机设备800还具有有线或无线网络接口、键盘以及输入输出接口等部件,以便进行输入输出,该计算机设备800还包括其他用于实现设备功能的部件,在此不做赘述。
[0246]
在示例性实施例中,还提供了一种计算机可读存储介质,例如包括至少一条计算机程序的存储器,上述至少一条计算机程序可由终端中的处理器执行以完成上述各个实施例中的数据处理方法。例如,该计算机可读存储介质包括rom(read-only memory,只读存储器)、ram(random-access memory,随机存取存储器)、cd-rom(compact disc read-only memory,只读光盘)、磁带、软盘和光数据存储设备等。
[0247]
在示例性实施例中,还提供了一种计算机程序产品或计算机程序,包括一条或多条程序代码,该一条或多条程序代码存储在计算机可读存储介质中。计算机设备的一个或多个处理器能够从计算机可读存储介质中读取该一条或多条程序代码,该一个或多个处理器执行该一条或多条程序代码,使得计算机设备能够执行以完成上述实施例中的数据处理方法。
[0248]
本领域普通技术人员能够理解实现上述实施例的全部或部分步骤能够通过硬件来完成,也能够通过程序来指令相关的硬件完成,可选地,该程序存储于一种计算机可读存储介质中,可选地,上述提到的存储介质是只读存储器、磁盘或光盘等。
[0249]
以上所述仅为本技术的可选实施例,并不用以限制本技术,凡在本技术的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本技术的保护范围之内。
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1