增强社交网络安全社交机器人账号检测与防御方法及装置

本发明涉及社交机器人账号检测及网络安全防护领域，尤其涉及一种增强社交网络安全社交机器人账号检测与防御方法及装置。

背景技术：

1、随着twitter、微博和facebook等在线社交网络(osns)的发展，这些平台已成为大多数人日常生活的重要组成部分，成为信息和交流的主要渠道。然而，随着它们在社交生态中的影响力不断扩大，也带来了一些威胁。其中一个主要威胁是社交机器人的出现。这些社交机器人通常由自动程序或特定平台的api(application programming interface，应用程序编程接口)控制，被广泛用于虚假投票、转发垃圾邮件等活动。鉴于这些恶意社交机器人对在线社区造成的不良的效应，亟需有效的社交机器人检测模型。

2、现有的社交机器人的检测方法可分为三类：

3、第一类是基于传统机器学习技术的方法，它们利用诸如支持向量机或随机森林的分类器对社交网络上的账号特征进行操作。虽然这些方法可能有效，但通常需要精密的特征工程，并可能难以适应不断变化的社交机器人行为。

4、第二类是基于众包的方法，利用人类的集体智慧来识别潜在的机器人用户。尽管此方法可以精准地识别难以捉摸的社交机器人，但可能无法很好地适应大数据集，且耗时耗力。

5、第三类方法是基于图卷积神经网络(gcns)的方法。图卷积神经网络利用卷积操作处理图形数据，能够通过局部节点特征的聚合来学习复杂的网络结构，从而捕捉社交网络中节点之间的依赖关系。在迭代过程中，每个节点根据其邻居节点的信息更新自身的特征表示，这种策略使得gcns在提取社交网络特征和检测社交机器人方面表现出高效的性能[1]。虽然图卷积神经网络(gcns)在检测社交机器人方面取得了进展，但它们对对抗性攻击表现出一定的敏感度。已有的研究[2-4]表明，gcns在面对图结构的完整性、节点属性的保真度以及节点间连结关系的一致性时，会展现出脆弱性，容易受到攻击导致基本的分类能力失效。这种脆弱性同样影响到依赖gcns处理社交网络数据的社交机器人检测模型，这些模型在应对恶意篡改图数据的网络攻击时同样会受到影响，丧失基本的检测性能，因而会造成社交媒体平台上潜在“僵尸账号”和“水军账号”泛滥，网络管理失控。

6、因此，考虑网络的脆弱性，提出一种增强社交网络安全的社交机器人账号检测与防御装置，基于改进的社交机器人检测模型，提高其应对网络攻击的防御性，增加了网络环境的安全性，使得社交平台管理员可以应用此工具，提升网络账号监管和对垃圾信息的清除能力，确保平台安全可控。

技术实现思路

1、本发明提供了一种增强社交网络安全社交机器人账号检测与防御方法及装置，本发明通过对抗训练和重加权机制优化社交机器人检测模型的鲁棒性，以应对恶意社交机器人在社交网络中的活动，加强对网络平台的监管和检测，对网络攻击加强清洁和抵御能力，详见下文描述：

2、第一方面、一种增强社交网络安全社交机器人账号检测与防御方法，所述方法包括：

3、部署一基于图节点注入的对抗攻击策略，用以模拟新社交机器人节点的注入；

4、将筛选后的有效扰动节点添加至社交网络图中，创建含有对抗性扰动的社交网络图；

5、在获取所有新增节点后，将其与原始训练样本集合并，构建新的对抗训练样本集；启动社交机器人检测模型的对抗训练过程，并引入重加权机制；

6、构建复合损失函数，融合原始样本的训练损失与新增节点的对抗损失；在完成对抗训练并获得增强鲁棒性的社交机器人检测模型后，用于识别和检测潜在的社交机器人账户。

7、其中，所述部署一基于图节点注入的对抗攻击策略，用以模拟新社交机器人节点的注入为：

8、设置并启动噪声样本过滤器，监测并筛选出干扰社交机器人检测模型分类能力的新注入节点，以确保在对抗攻击中有效扰乱检测模型的新注入机器人节点被保留。

9、其中，所述将筛选后的有效扰动节点添加至社交网络图中，创建含有对抗性扰动的社交网络图为：

10、在下一次节点注入对抗攻击阶段，社交机器人检测模型接收更新之后的社交网络图，继续应用过滤标准以保持数据质量。

11、进一步地，所述重加权机制为：

12、在每次迭代训练阶段，从原始图中随机选择社交机器人节点与新增节点进行配对，采用l2范数定量测量社交机器人检测模型对配对样本在迭代过程中输出的差异，并据此计算每个新增节点的权重值；对权重值进行归一化处理，确定每个新增节点在随后迭代训练阶段中的相对重要性。

13、其中，所述复合损失函数为：

14、

15、其中，v表示用户集合，v为集合中的用户，bg为新注入的社交机器人节点，θ表示社交机器人检测模型f(·)的参数，y∈{0,1}表示节点的真实标签，l(·)是损失函数，通常为交叉熵损失函数，αg表示为新增节点分配的权重。

16、第二方面、一种增强社交网络安全社交机器人账号检测与防御装置，所述装置包括：处理器和存储器，所述存储器中存储有程序指令，所述处理器调用存储器中存储的程序指令以使装置执行第一方面中的任一项所述的方法。

17、第三方面、一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序包括程序指令，所述程序指令被处理器执行时使所述处理器执行第一方面中的任一项所述的方法。

18、本发明提供的技术方案的有益效果是：

19、1、本发明通过创新性地设计了一个扰动图迭代更新机制和噪声过滤机制，显著降低了对抗训练过程中的计算资源需求，这一机制使得在计算资源有限的条件下，依然能够有效生成高质量的对抗性节点；

20、2、本发明引入了对新增节点的重加权策略，有效地扩展了社交机器人检测模型的决策边界，这种策略减少了因数据不平衡导致的模型训练偏差，从而提升了检测模型的训练效果和泛化能力，便于在不同的社交平台上应用；

21、3、本发明设计复合损失函数对原始样本和新增节点的学习进行平衡，并通过调整超参数进一步实现，增强了社交机器人账号检测模型对于新增节点的识别和学习能力，增强模型对于结构扰动攻击的抵御能力；

22、4、本发明提高了社交机器人检测模型在多种网络攻击场景下的防御能力，增强了模型在实际应用中的安全性和鲁棒性，这一改进确保了模型能够在复杂的网络环境中提供可靠的检测服务。

技术特征：

1.一种增强社交网络安全社交机器人账号检测与防御方法，其特征在于，所述方法包括：

2.根据权利要求1所述的一种增强社交网络安全社交机器人账号检测与防御方法，其特征在于，所述部署一基于图节点注入的对抗攻击策略，用以模拟新社交机器人节点的注入为：

3.根据权利要求1所述的一种增强社交网络安全社交机器人账号检测与防御方法，其特征在于，所述将筛选后的有效扰动节点添加至社交网络图中，创建含有对抗性扰动的社交网络图为：

4.根据权利要求1所述的一种增强社交网络安全社交机器人账号检测与防御方法，其特征在于，所述重加权机制为：

5.根据权利要求1所述的一种增强社交网络安全社交机器人账号检测与防御方法，其特征在于，所述复合损失函数为：

6.一种增强社交网络安全社交机器人账号检测与防御装置，其特征在于，所述装置包括：处理器和存储器，所述存储器中存储有程序指令，所述处理器调用存储器中存储的程序指令以使装置执行权利要求1-5中的任一项所述的方法。

7.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机程序，所述计算机程序包括程序指令，所述程序指令被处理器执行时使所述处理器执行权利要求1-5中的任一项所述的方法。

技术总结
本发明公开了一种增强社交网络安全社交机器人账号检测与防御方法及装置，方法包括：部署一基于图节点注入的对抗攻击策略，用以模拟新社交机器人节点的注入；将筛选后的有效扰动节点添加至社交网络图中，创建含有对抗性扰动的社交网络图；在获取所有新增节点后，将其与原始训练样本集合并，构建新的对抗训练样本集；启动社交机器人检测模型的对抗训练过程，并引入重加权机制；构建复合损失函数，融合原始样本的训练损失与新增节点的对抗损失；在完成对抗训练并获得增强鲁棒性的社交机器人检测模型后，用于识别和检测潜在的社交机器人账户。装置包括：处理器和存储器。本发明加强对网络平台的监管和检测，对网络攻击加强清洁和抵御能力。

技术研发人员：刘安安,谢燕蔚,王岚君,靳国庆,张勇东
受保护的技术使用者：天津大学
技术研发日：
技术公布日：2024/2/29