一种人脸识别呈现攻击的检测系统的制作方法

本发明人脸识别安全，具体而言，涉及一种人脸识别呈现攻击的检测系统。

背景技术：

1、随着物联网与人工智能技术的交互融合发展，人脸识别应用的产业化也呈现井喷式的发展趋势。近几年，人脸识别应用已经逐步超过指纹识别，成为生物识别的主导技术，与其他身份鉴别方法相比，人脸识别具有直接、友好、方便等优点，其应用前景非常广阔，覆盖了智能安防、金融交易、公共交通、营销零售、医疗教育等多个行业领域，人脸支付、人脸开卡、人脸登录、vip人脸识别、人脸签到、人脸考勤、人脸闸机、安防监控等应用逐渐遍布我们的生活。

2、但是人脸识别在为科技进步和生活水平提高带来显著推动的同时，越来越多潜藏的风险威胁也逐渐暴露出来，原因主要在于人脸识别模型在设计时并未多角度考虑攻击者的呈现攻击而暴露出大量的安全问题，导致数据泄露、信息篡改甚至财产损失等严重的应用安全，呈现攻击常见的有模型数据投毒、模型窃取后进行更改和置换、人脸识别系统容易被二维或三维的生物呈现欺骗和攻击等等，人脸识别的安全性仍有待提高。

技术实现思路

1、本发明的目的在于提供一种人脸识别呈现攻击的检测系统，通过采集多维的人脸图像信息并进行异常检测和过滤可以有效防止模型数据投毒的攻击，并通过黑盒检测和白盒检测可以验证人脸识别模型的正确性，防止模型用错或模型被攻击者窃取更改、逆向破解后用来欺骗、攻击系统，从而提高人脸识别模型的安全性。

2、本发明的实施例是这样实现的：

3、第一方面，本申请实施例提供一种人脸识别呈现攻击的检测系统，包括：

4、人脸图像信息采集前端，用于接收用户的人脸识别请求并通过采集设备获取人脸多维图像信息，所述人脸多维图像信息包括3d人脸信息、活体信息及环境信息；

5、安全传输模块，用于将所述人脸图像信息采集前端获取的人脸多维图像信息传输到人脸安全检测和识别后端；

6、人脸安全检测和识别后端，用于调用预训练的人脸识别模型，并对预训练的人脸识别模型进行黑盒检测和白盒检测的安全检测，将通过安全检测的人脸识别模型对所述人脸多维图像信息进行人脸识别，得到人脸识别结果；

7、系统监测模块，用于对所述人脸图像信息采集前端、所述安全传输模块、所述人脸安全检测和识别后端及三者之间的通信进行实时安全监测。

8、在本发明的一些实施例中，所述3d人脸信息包括通过3d摄像头采集的rgbd深度人脸图像信息，所述活体信息包括人脸的动作信息，所述环境信息包括人脸的位置信息及光影信息。

9、在本发明的一些实施例中，所述人脸安全检测和识别后端包括：

10、模型调用模块，用于从本地或远程调用预先训练好的人脸识别神经网络模型；

11、模型安全检测模块，用于对所述模型调用模块调用的人脸识别神经网络模型进行黑盒检测和白盒检测；

12、人脸识别模块，用于使用黑盒检测和白盒检测均通过的人脸识别模型对人脸多维图像信息进行人脸识别，并返回人脸识别结果。

13、在本发明的一些实施例中，所述模型安全检测模块具体包括黑盒检测子模块，所述黑盒检测子模块用于生成黑盒检测数据集并通过黑盒检测数据集对调用的人脸识别神经网络模型进行黑盒检测，并根据黑盒水印检测的精度判断模型的黑盒安全检测是否通过。

14、在本发明的一些实施例中，所述模型安全检测模块具体还包括白盒检测子模块，所述白盒检测子模块用于将白盒水印嵌入参数嵌入到调用的人脸识别神经网络模型，然后计算出所述人脸识别神经网络模型的白盒水印私有参数，将计算得到的白盒水印私有参数和预设的白盒水印私有参数进行对比，根据对比结果判断模型的白盒安全检测是否通过。

15、在本发明的一些实施例中，所述人脸安全检测和识别后端具体还包括用于对人脸图像信息采集前端获取的人脸多维图像信息进行检测和过滤的异常信息检测过滤模块。

16、在本发明的一些实施例中，所述系统监测模块通过动态机器学习规则对所述人脸图像信息采集前端、所述安全传输模块、所述人脸安全检测和识别后端及三者之间的网络通信行为进行实时检测分析，实现人脸识别全生命周期的安全监测管理。

17、相对于现有技术，本发明的实施例至少具有如下优点或有益效果：

18、本发明的实施例提出了一种人脸识别呈现攻击的检测系统，其通过人脸图像信息采集前端接收用户的人脸识别请求的同时采集3d人脸信息、活体信息及环境信息等人脸多维图像信息，可以采集到更多更细节更复杂的人脸数据，再通过人脸安全检测和识别后端对采集到的多维人脸图像信息进行异常检测和过滤等处理可以有效防止模型数据投毒的攻击，然后在基于人脸多维图像信息进行人脸识别时对调用的人脸识别模型进行黑盒检测和白盒检测的安全检测，可以验证模型的正确性，防止模型用错或模型被攻击者窃取更改、逆向破解后用来欺骗、攻击系统，从而提高人脸识别模型的安全性；且通过系统监测模块对人脸识别全进行生命周期的安全监测管理，检测出人脸识别过程中的异常设备/请求、异常行为，可进一步保障整个人脸识别系统的安全性。

技术特征：

1.一种人脸识别呈现攻击的检测系统，其特征在于，包括：

2.如权利要求1所述的一种人脸识别呈现攻击的检测系统，其特征在于，所述3d人脸信息包括通过3d摄像头采集的rgbd深度人脸图像信息，所述活体信息包括人脸的动作信息，所述环境信息包括人脸的位置信息及光影信息。

3.如权利要求2所述的一种人脸识别呈现攻击的检测系统，其特征在于，所述人脸安全检测和识别后端包括：

4.如权利要求3所述的一种人脸识别呈现攻击的检测系统，其特征在于，所述模型安全检测模块具体包括黑盒检测子模块，所述黑盒检测子模块用于生成黑盒检测数据集并通过黑盒检测数据集对调用的人脸识别神经网络模型进行黑盒检测，并根据黑盒水印检测的精度判断模型的黑盒安全检测是否通过。

5.如权利要求4所述的一种人脸识别呈现攻击的检测系统，其特征在于，所述模型安全检测模块具体还包括白盒检测子模块，所述白盒检测子模块用于将白盒水印嵌入参数嵌入到调用的人脸识别神经网络模型，然后计算出所述人脸识别神经网络模型的白盒水印私有参数，将计算得到的白盒水印私有参数和预设的白盒水印私有参数进行对比，根据对比结果判断模型的白盒安全检测是否通过。

6.如权利要求5所述的一种人脸识别呈现攻击的检测系统，其特征在于，所述人脸安全检测和识别后端具体还包括用于对人脸图像信息采集前端获取的人脸多维图像信息进行检测和过滤的异常信息检测过滤模块。

7.如权利要求6所述的一种人脸识别呈现攻击的检测系统，其特征在于，所述系统监测模块通过动态机器学习规则对所述人脸图像信息采集前端、所述安全传输模块、所述人脸安全检测和识别后端及三者之间的网络通信行为进行实时检测分析，实现人脸识别全生命周期的安全监测管理。

技术总结
本发明提出了一种人脸识别呈现攻击的检测系统，涉及人脸识别安全技术领域。该系统通过人脸图像信息采集前端接收用户的人脸识别请求的同时采集3D人脸信息、活体信息及环境信息等人脸多维图像信息，可以采集到更复杂的人脸数据，再通过人脸安全检测和识别后端对多维人脸图像信息进行异常检测和过滤处理可以有效防止模型数据投毒的攻击；在基于人脸多维图像信息进行人脸识别时对调用的人脸识别模型进行黑盒检测和白盒检测的安全检测，可以验证模型的正确性，防止模型用错或模型被攻击者窃取更改、破解后用来欺骗、攻击系统，提高人脸识别模型的安全性；且通过系统监测模块对人脸识别全进行生命周期的安全监测管理，进一步保障人脸识别系统的安全性。

技术研发人员：刘继顺,张艳,邹春明,张韩,边珊
受保护的技术使用者：公安部第三研究所
技术研发日：
技术公布日：2024/1/13