一种融合节点属性的深度社团发现方法

1.本发明涉及作图分割问题的技术领域，尤其是一种融合节点属性的深度社团发现方法。


背景技术：

2.社团结构是广泛存在于网络中的重要结构特征，在社团内部的节点之间连接紧密，社团之间的节点连接稀疏。社团发现是通过对网络中节点之间的相互作用和潜在的信息进行分析，从介观角度挖掘网络数据中隐藏的社团结构的过程。社团发现为探索复杂网络的潜在特征提供了有效工具，对理解网络组织结构、分析网络潜在特性、发现网络隐藏规律和交互模式等具有重要的理论和现实意义。节点属性作为网络中重要的信息，结合网络属性有助于挖掘更准确的社团结构。
3.虽然已经提出了许多社区检测方法并取得了合理的结果，但我们仍然面临着以下三大挑战:第一，随机模型和模块化最大化模型都是线性模型，只能捕捉网络的线性结构。然而，已经证明现实世界中的网络结构是复杂的，最好将其视为高度非线性。其次，众所周知，计算特征值需要很高的计算空间。因此，可扩展性是一个主要的瓶颈。第三，如何有效地整合不同类型的信息来检测社区还有待解决。大多数算法只利用了拓扑信息，而忽略了重要的属性信息。日常生活中的网络在每个节点中都有丰富的属性信息，这些属性可以用来提高社区检测的效率。属性信息的加入可以补充拓扑信息，缓解网络稀疏问题。


技术实现要素：

4.本发明的目的是提出一种融合节点属性的深度社团发现方法，利用深度神经网络挖掘非线性结构，同时结合节点属性信息得到更准确的社团结构。
5.一种融合节点属性的深度社团发现方法，包括如下步骤：
6.第一步：构建模块度矩阵：模块度的值越大代表社团结构越清晰，社团的划分越好，通过最大化模块度可以得到网络的社团结构；
7.第二步：构建深度自编码器捕捉网络结构：通过重构模块度矩阵，在隐层的最后一层输出h中保存网络的非线性社团结构；
8.第三步：结合节点属性信息；当拥有相同属性的节点划分到不同社团，将执行一个惩罚，同时利用融合链接关系数据和节点内容数据进行社团发现。
9.优选的是，本发明构建模块度矩阵的具体过程为：
10.模块度被定义为社团内连接边的比例减去在同样社团结构下任意两个节点之间连接边的比例的期望值：
11.12.其中，是网络中边的总数量，代表如果网络中的边是随机放置时节点v
i
和v
j
之间的期望边数，w
i
(w
j
)代表节点v
i
(v
j
)的度，δ(c
i
,c
j
) 为克罗内克函数；引入模块矩阵b∈r
n
×
n
，n为网络中节点的个数，r为实数集，模块度矩阵的元素模块度写为：
13.q＝tr(h
t
bh) s.t.tr(h
t
h)＝n
ꢀꢀ
(6)
14.矩阵h为社团指示矩阵，矩阵每行最大值所对应的社团就是节点所属的社团，h
ij
代表节点i隶属于社团j的概率，h
t
为矩阵h的转置矩阵。
15.优选的是，本发明构建深度自编码器捕捉网络结构的具体过程为：
16.动编码器的目标是最小化输出数据和输入数据之间的重建误差，以便最后的隐藏层可以最大程度地保留原始输入数据的特征。本发明将模块度矩阵作为深度自编码器的输入，通过重构捕获模块度矩阵中的非线性结构：
[0017][0018]
其中，θ＝{w
(1)
,w
(2)
,b
(1)
,b
(2)
}为超参数集合；b为模块度矩阵，矩阵元素通过重构模块度矩阵，在隐层的最后一层输出h中保存网络的非线性社团结构。
[0019]
优选的是，本发明结合节点属性信息的具体过程为：
[0020]
假设两个节点v
i
和v
j
在内容属性方面具有高度相似性s
ij
，那么它们有很大的概率属于同一个社团，两个节点v
i
和v
j
的社团指示矩阵向量也应该相似；
[0021]
构造属性相似矩阵s，节点v
i
和v
j
之间属性的相似性用s
ij
表示，其中，我们利用余弦相似度来计算两个节点之间的属性相似度：
[0022][0023]
其中，t
i
为节点属性矩阵的第i行，代表节点v
i
的属性特征向量；
[0024]
对于每个节点v
i
，基于属性相似性，搜索和节点v
i
拥有最相近属性相似度的k个节点；如果节点v
i
是节点v
j
的k
‑
近邻，那么节点v
j
也应该是节点v
i
的k
‑
近邻，所有属性近邻图是对称的；在相似度矩阵中保留节点v
i
与它k
‑
近邻之间的相似度值s
ij
，其他非近邻对应的元素设为0；
[0025]
在得到属性相似度矩阵s后，在自动编码器中引入一个图正则项来融合属性信息；假设如果节点v
i
和v
j
具有高属性相似性s
ij
，那么它们的嵌入向量h
i
和h
j
也应该是相似的：
[0026][0027]
其中，拉普拉斯矩阵l＝d
‑
s，d为对角矩阵；将图形正则化项并入重建损失函数，得到sada最终的损失函数:
[0028][0029]
其中α为控制正则化项权重的参数。通过优化得到矩阵h，h每一行最大值对应的社团即为节点属于的社团，从而获得最终的社团结构。
[0030]
在过去的几十年里，已经提出了许多社团发现算法。其中，随机模型和基于模块度模型尤为流行。随机模型的本质是将网络映射到低维空间，然后检测潜在空间中的社团结构。基于模块度模型通过对模块度矩阵的特征值分解获得结构特征表示，然后在特征值对应的特征向量上应用k
‑
均值聚类算法得到社团结构，这相当于模块度矩阵的低秩重构。尽管随机模型和基于模块度模型的工作机制不同，但它们本质上是将网络映射到一个低维空间，然后在新空间中聚类节点得到社团结构。自动编码器作为无监督的深度神经网络模型，目标是最小化输出数据和输入数据之间的重构误差，在隐藏层的最后一层输出可以最大限度地保留原始数据的特征。自动编码器和基于模块度模型都旨在获得相应矩阵的低维近似。然而，自动编码器可以捕捉节点之间的非线性关系，并且具有较小的复杂性。为了充分利用自动编码器的优势，本发明旨在基于深度自编码器提出一种社团发现方法，同时实现结构和节点属性信息的融合。利用深度神经网络挖掘非线性结构，同时结合节点属性信息得到更准确的社团结构。
附图说明
[0031]
图1是各算法在人工数据集上社团发现结果的对比图。
具体实施方式
[0032]
自编码器的目标是重构原始输入，使输出与输入尽可能接近。这样，隐藏层的输出可以看作是原始数据的低维表示，从而最大程度提取原始数据中包含的特征。自编码器包含两个对称的组件：编码器和解码器。一个基本的自编码器可以看作一个三层的神经网络，由输入层、隐藏层和输出层构成。
[0033]
给定一个输入数据x
i
，编码器将原始数据x
i
映射为隐藏层的输出编码 h
i
，h
i
可以被看作是x
i
的低维嵌入表示：
[0034]
h
i
＝σ(w
(1)
x
i
+b
(1)
)
ꢀꢀ
(1)
[0035]
然后解码器对输入数据进行重构，是重构的输出数据：
[0036][0037]
输入数据经过编码和解码后，得到了输入数据的重构表示。其中，θ＝{w
(1)
,w
(2)
,b
(1)
,b
(2)
}是参数集合，w
(1)
，w
(2)
分别为编码器和解码器的权重矩阵，b
(1)
，b
(2)
分别为编码器和解码器的偏置向量。σ(
·
)是非线性激活函数，如sigmoid函数tanh函数等。自编码器通过最小化输入数据与重构数据之间的误差而得到输入数据的特征表达：
[0038][0039]
为了捕获拓扑结构和节点属性的高度非线性，本章将多个非线性函数组成编码器和解码器，通过对数据进行多层的抽象学习，学习不同抽象层次的特征。
[0040][0041]
其中，k代表隐藏层层数，为节点i的低维特征表示。
[0042]
更进一步，本发明其中基于网络表示学习的社团发现方法详细过程可描述如下：
[0043]
第一步：构建模块度矩阵
[0044]
模块度被定义为社团内连接边的比例减去在同样社团结构下任意两个节点之间连接边的比例的期望值：
[0045][0046]
其中，是网络中边的总数量，代表如果网络中的边是随机放置时节点v
i
和v
j
之间的期望边数，w
i
(w
j
)代表节点v
i
(v
j
)的度，δ(c
i
,c
j
)为克罗内克函数。通过引入模块矩阵b∈r
n
×
n
，模块度矩阵的元素模块度可以写为：
[0047]
q＝tr(h
t
bh) s.t.tr(h
t
h)＝n
ꢀꢀ
(6)
[0048]
矩阵h每行最大值所对应的社团就是节点所属的社团，h
ij
代表节点i隶属于社团j的概率。模块度的值越大代表社团结构越清晰，社团的划分越好。因此通过最大化模块度可以得到网络的社团结构。
[0049]
最大模块度的问题可以转化为利用低秩近似重构模块度矩阵。在矩阵重构中，特征值分解与自动编码器高度相关。因此，最大模块度的问题可以看作是使用低秩近似的模块化矩阵重构。因此，我们将模块度矩阵b作为自编码器的输入可以在隐藏的最后一层获得理想的网络表示嵌入空间。
[0050]
第二步：构建深度自编码器捕捉网络结构
[0051]
动编码器的目标是最小化输出数据和输入数据之间的重建误差，以便最后的隐藏层可以最大程度地保留原始输入数据的特征。本发明将模块度矩阵作为深度自编码器的输入，通过重构捕获模块度矩阵中的非线性结构：
[0052][0053]
其中，θ＝{w
(1)
,w
(2)
,b
(1)
,b
(2)
}为超参数集合。b为模块度矩阵，矩阵元素通过重构模块度矩阵，在隐层的最后一层输出h中保存网络的非线性社团结构。
[0054]
第三步：结合节点属性信息；
[0055]
本发明假设如果两个节点v
i
和v
j
在内容属性方面具有高度相似性s
ij
，那么它们有很大的概率属于同一个社团。因此它们的社团指示矩阵向量也应该相似。基于这一假设，本发明通过在节点上构造成对约束，并引入一种新的图正则化来将节点属性信息纳入自动编码器。受拉普拉斯特征映射方法的启发，当拥有相同属性的节点划分到不同社团，将执行一个惩罚。因此框架同时利用融合链接关系数据和节点内容数据进行社团发现。
[0056]
首先构造属性相似矩阵s，节点v
i
和v
j
之间属性的相似性用s
ij
表示，其中，我们利用余弦相似度来计算两个节点之间的属性相似度：
[0057][0058]
其中，t
i
为节点属性矩阵的第i行，代表节点v
i
的属性特征向量。
[0059]
基于这种相似性，我们利用k
‑
近邻一致性构造了一个属性近邻图，它解决了节点内容空间的流形结构。对于每个节点v
i
，首先基于属性相似性，搜索和节点v
i
拥有最相近属性相似度的k个节点。如果节点v
i
是节点v
j
的k
‑
近邻，那么节点v
j
也应该是节点v
i
的k
‑
近邻，所有属性近邻图是对称的。最后在相似度矩阵中保留节点v
i
与它k
‑
近邻之间的相似度值 s
ij
，其他非近邻对应的元素设为0。通过改进后的属性相似度不仅反映了节点之间属性的相似度，更是保存了节点之间的流行结构。
[0060]
在得到属性相似度矩阵s后，我们在自动编码器中引入一个图正则项来融合属性信息。我们假设如果节点v
i
和v
j
具有高属性相似性s
ij
，那么它们的嵌入向量h
i
和h
j
也应该是相似的：
[0061][0062]
其中，拉普拉斯矩阵l＝d
‑
s，d为对角矩阵。最后将图形正则化项并入重建损失函数，得到sada最终的损失函数:
[0063][0064]
其中α为控制正则化项权重的参数。通过优化得到矩阵h，h每一行最大值对应的社团即为节点属于的社团，从而获得最终的社团结构。
[0065]
下面结合实验对本发明作进一步详细说明。
[0066]
我们采用girvan和newman提出的人工网络来评估本发明的有效性。人工网络由128个节点组成，共分为4个社团。每个社团32个节点。节点的平均度为16，并与其他社团节点共享z条连接。z的值越高，社团结构越模糊，社团发现的难度越大。我们在不同z取值的人工网络上进行实验，采用标准化互信息nmi作为衡量社团发现算法性能的指标。图1显示了和其他社团发现算法相比，在人工数据集上的社团发现结果。实验表明，在所有的情况下，本发明都取得了最优的社团发现结果，特别是当z值变大，社团发现难度增加时，本发明仍然能够获得清晰的社会结构。