一种基于扩散模型的人脸识别系统安全性测试方法

本发明属于人脸识别，具体涉及一种基于扩散模型的人脸识别系统安全性测试方法。

背景技术：

1、随着深度学习技术的发展，人脸识别系统作为人工智能最为成熟的应用领域，已经大规模落地并服务于人们的日常生活，例如刷脸支付、入住登记、身份核验、人证比对等等生活场景中。但是，在大规模商业化的同时，人脸识别技术也面临更多方面的威胁。

2、研究发现，这些基于深度神经网络的模型容易受到添加到原始干净图像中的对抗性扰动的影响。这些精心设计的扰动图像，也称为对抗性样本，对抗性本可以使得特定的深度学习模型产生错误的分类。因此，对抗性样本可以被用来检测深度学习模型是否存在安全问题。

3、现有技术中基于梯度的方法无法生成不可察觉的对抗性样本，并且其性能取决于攻击的阈值，而基于补丁的方法合成的对抗性补丁通常具有特定的颜色和纹理模式，更容易被区分，同样难以实现隐匿性，基于隐匿性的方法，通常无法获得很好的攻击性能。上述方法都无法在攻击性能和不可察觉之间到达令人满意的效果。因此，如何生成同时拥有较高的攻击性能和不可察觉性的对抗性样本用于检验人脸识别系统的安全性，从而验证人脸识别系统的识别结果可信性，具有重要的意义。

技术实现思路

1、为了解决现有技术中存在的上述问题，本发明提供了一种基于扩散模型的人脸识别系统安全性测试方法。本发明要解决的技术问题通过以下技术方案实现：

2、本发明提供了一种基于扩散模型的人脸识别系统安全性测试方法包括：

3、利用预设的编码器对源图像进行编码，得到源图像潜在编码；

4、根据所述源图像得到对应的身份敏感区域图像，利用所述预设的编码器对所述身份敏感区域图像进行编码，得到身份敏感区域图像潜在编码；

5、利用条件潜在扩散模型对所述源图像潜在编码进行逐步前向扩散处理和逐步反向去噪处理，生成对抗性样本；其中，在每一步反向去噪处理过程中，将所述身份敏感区域图像潜在编码作为约束条件得到去噪数据，对所述去噪数据添加语义对抗性扰动，将具有语义对抗性扰动的去噪数据作为下一步反向去噪处理的输入数据；

6、将所述对抗性样本输入待测人脸识别系统进行识别，根据识别结果确定所述人脸识别系统的安全性。

7、与现有技术相比，本发明的有益效果在于：

8、本发明的基于扩散模型的人脸识别系统安全性测试方法，利用条件潜在扩散模型，在扩散模型的潜在空间而不是原始像素空间中生成语义对抗性扰动，而且以身份敏感区域为约束条件，能够在生成高质量的不可察觉的对抗性样本的同时到达最好的攻击性能，利用该对抗性样本对人脸识别系统的安全性进行测试，提高了人脸识别系统的识别结果的可信性。

9、上述说明仅是本发明技术方案的概述，为了能够更清楚了解本发明的技术手段，而可依照说明书的内容予以实施，并且为了让本发明的上述和其他目的、特征和优点能够更明显易懂，以下特举较佳实施例，并配合附图，详细说明如下。

技术特征：

1.一种基于扩散模型的人脸识别系统安全性测试方法，其特征在于，包括：

2.根据权利要求1所述的基于扩散模型的人脸识别系统安全性测试方法，其特征在于，所述源图像为所述待测人脸识别系统能够识别的人脸图像。

3.根据权利要求1所述的基于扩散模型的人脸识别系统安全性测试方法，其特征在于，根据所述源图像得到对应的身份敏感区域图像，包括：

4.根据权利要求3所述的基于扩散模型的人脸识别系统安全性测试方法，其特征在于，所述身份敏感区域图像为人脸区域图像。

5.根据权利要求1所述的基于扩散模型的人脸识别系统安全性测试方法，其特征在于，在每一步反向去噪处理过程中，将所述身份敏感区域图像潜在编码作为约束条件得到去噪数据的过程表示为：

6.根据权利要求5所述的基于扩散模型的人脸识别系统安全性测试方法，其特征在于，所述具有语义对抗性扰动的去噪数据，表示为：

7.根据权利要求1所述的基于扩散模型的人脸识别系统安全性测试方法，其特征在于，所述语义对抗性扰动的生成过程，包括：

8.根据权利要求7所述的基于扩散模型的人脸识别系统安全性测试方法，其特征在于，所述目标图像为期望所述待测人脸识别系统误判的人脸图像。

9.根据权利要求7所述的基于扩散模型的人脸识别系统安全性测试方法，其特征在于，所述语义对抗性扰动，表示为：

技术总结
本发明涉及一种基于扩散模型的人脸识别系统安全性测试方法，包括：利用预设的编码器对源图像进行编码，得到源图像潜在编码；根据源图像得到对应的身份敏感区域图像，利用预设的编码器对身份敏感区域图像进行编码，得到身份敏感区域图像潜在编码；利用条件潜在扩散模型对源图像潜在编码进行逐步前向扩散处理和逐步反向去噪处理，生成对抗性样本；将对抗性样本输入待测人脸识别系统进行识别，根据识别结果确定人脸识别系统的安全性。本发明方法利用条件潜在扩散模型，能够在生成高质量的不可察觉的对抗性样本的同时到达最好的攻击性能，利用该对抗性样本对人脸识别系统的安全性进行测试，提高了人脸识别系统的识别结果的可信性。

技术研发人员：刘德成,王西军,彭春蕾,王楠楠,胡瑞敏
受保护的技术使用者：西安电子科技大学
技术研发日：
技术公布日：2024/4/17