一种保护隐私的视频内容审核系统、方法、设备和介质与流程

本发明涉及多媒体审查，具体涉及一种保护隐私的视频内容审核系统、方法、设备和介质。

背景技术：

1、随着移动互联网和智能终端技术的发展，网络中的视频数据呈爆发式增长，大量的视频内容被持续创作和传播，在主流视频分享平台，每日的视频点击率可达上亿次。越来越多的视频内容不断占领人们的生活，成为民众获取信息的重要来源。因此，内容审查的必要性和紧迫性日益凸显，如何使信息网络系统内容安全并及时发现隐患，已成为政府、媒体等机构信息化健康发展所要考虑的重要事情之一。

2、为了更好地监管网络内容，目前已经建成了各种用于视频内容审查的系统和平台，采用系统自动化审核加人工复审的方式，提高视频内容审查的效率。但是，由于目前内容审核主流技术是利用智能算法对视频内容进行分类和识别，这对视频内容审核服务提供商提出了较高的要求：一方面对视频内容进行自动化审查需要大量计算资源支撑，因此视频内容审核服务通常运行在具有高计算能力的云平台，而普通的企业和组织内部不具备智能算力支撑的云平台；另一方面，随着视频审核的场景增加，内容审核的算法模型也需要不断更新，因此需要有专业的技术团队支持，而不是依赖于企业组织内部的人员。综合上述两方面的因素，目前较为可行的内容审核是通过远程服务的方式将待审核视频接入，审核完毕后向用户反馈结果。

3、在远程检测审查的过程中，大量包含敏感信息的视频数据需要在网络中传输，并且在不可控的第三方平台计算处理，带来了隐私信息泄露的风险。为了数据安全法和个人信息保护法等法律的对于数据隐私安全保护的要求，部分平台采用视频匿名化机制或者图像混淆操作来保护数据隐私，但是这些方法会导致视频审核准确率大幅下降。因此，目前亟需一种方法能够即提供强有力的隐私保护能力，又能保证视频审核结果的准确性。

4、因此，设计一种保护隐私的视频内容审核系统和方法具有重要意义。

技术实现思路

1、本发明提供一种保护隐私的视频内容审核系统、方法、设备和介质，该技术方案较好的平衡了数据隐私保护和视频内容审核两方面的需求，在保护数据隐私的同时采用智能算法模型对视频内容检测审核，本发明的技术方案如下：

2、一种保护隐私的视频内容审核系统，包括视频数据采集端和视频数据审核端，所述视频数据采集端包括视频获取模块、视频编码模块、视频缓存模块和视频推送模块，所述视频数据审核端包括数据接入模块、视频存储模块、视频解码模块、视频审核模块、视频处理模块和配置模块；

3、所述视频获取模块用于获取原始视频数据，对原始视频数据进行预处理，得到视频帧数据，将所述视频帧数据提交至视频编码模块；

4、所述视频编码模块用于对视频帧数据进行编码；

5、所述视频缓存模块用于将编码后的视频帧数据按照排序存储；

6、所述视频推送模块用于将视频缓存模块中的视频帧数据推送至视频数据审核端；

7、所述数据接入模块用于与所述视频推送模块交互，获取视频帧数据并将视频帧数据提交至所述视频存储模块；

8、所述视频存储模块用于接收并存储待审核的视频帧数据；

9、所述视频解码模块对应于所述视频编码模块，用于对视频帧数据解码；

10、所述视频审核模块用于检测视频帧数据；

11、所述视频处理模块用于在视频帧数据检测后对原始视频数据进行处理；

12、所述配置模块用于实现视频审核模块和视频处理模块之间的交互。

13、优选的，所述视频审核模块包括多个特征提取子模块和智能审查子模块，所述特征提取子模块用于提取视频帧数据中的特征，所述智能审查子模块用于根据所述特征训练视频内容审核模型。

14、另外，本发明还包括一种保护隐私的视频内容审核方法，应用如上述的视频内容审核系统，所述方法包括以下步骤：

15、步骤s100、采集原始视频数据，预处理所述原始视频数据，得到视频帧数据；

16、步骤s200、对视频帧数据进行编码，将编码后的视频帧数据推送到视频数据审核端；

17、步骤s300、在视频数据审核端，对视频帧数据进行解码，并提交至视频审核模块进行检测；

18、步骤s400、对解码后的视频帧数据进行内容审核，得到视频检测结果；

19、步骤s500、根据视频检测结果对原始视频数据进行处理。

20、优选的，在步骤s100中，采集待审核的原始视频数据、预处理所述原始视频数据，得到视频帧数据，包括如下步骤：

21、步骤s101、从目标系统中采集原始视频数据；

22、步骤s102、对原始视频数据进行编号，每条原始视频数据均具备唯一编号；

23、步骤s103、对原始视频数据进行预处理，具体是从原始视频数据中提取视频帧数据。

24、优选的，在步骤s200中，对视频帧数据进行编码，将编码后的视频帧数据推送到视频数据审核端，包括如下步骤：

25、步骤s201、将视频帧数据利用编码器进行编码，生成压缩处理的视频帧数据；

26、步骤s202、将编码后的视频帧数据存储至视频缓存模块中；

27、步骤s203、通过数据推送模块将视频数据推送至视频数据审核端，删除视频缓存模块中的视频帧数据。

28、优选的，在步骤s300中，在视频数据审核端，对视频帧数据进行解码，并提交至视频审核模块进行检测，包括如下步骤：

29、步骤s301、视频接入模块将待审核的视频帧数据提交至视频存储模块中；

30、步骤s302、从视频存储模块中，按照配置好的优先级顺序，依次获取视频帧数据，并将所述视频帧数据提交至视频解码模块中；

31、步骤s303、视频解码模块采用解码器对视频帧数据进行解码运算，得到重构后的视频帧数据；

32、步骤s304、将重构后的视频帧数据提交至视频审核模块进行检测。

33、优选的，在步骤s400中，对解码后的视频帧数据进行内容审核，得到视频检测结果，包括如下步骤：

34、步骤s401、对解码后的视频帧数据进行多视角特征提取，得到视频帧数据的多视角特征；

35、步骤s402、将所述多视角特征进行融合，得到融合特征；

36、步骤s403、基于机器学习算法和融合特征训练视频内容审核模型，基于所述视频内容审核模型对视频帧数据进行内容审核，得到视频检测结果。

37、优选的，在步骤s500中，根据视频检测结果对原始视频数据进行处理，包括如下步骤：

38、步骤s501、根据视频检测结果在视频处理模块中匹配预先设置的处理规则；

39、步骤s502、根据处理规则对视频检测结果进行通报；

40、步骤s503、根据处理规则对原始视频数据进行销毁或者存证处理。

41、另外，本发明还包括一种保护隐私的视频内容审核设备，包括：

42、储存器，用于储存计算机程序；

43、处理器，用于运行所述计算机程序，以执行如上述的视频内容审核方法。

44、另外，本发明还包括一种计算机存储介质，存储有计算机程序，所述计算机程序被处理器执行时实现如上述的视频内容审核方法。

45、应用本发明的技术方案，具有以下有益效果：

46、本发明方法能够在保证内容审核结果准确可靠的情况下，能够同时最大限度保护视频内容的隐私信息不被泄露，保证了被审核数据的安全性。相比于现有的视频内容审核系统，本发明系统不需要额外的硬件支撑，能够适配主流的审核系统部署运行模式，具有广泛的适配性。

47、除了上面所描述的目的、特征和优点之外，本发明还有其它的目的、特征和优点。下面将参照图，对本发明作进一步详细的说明。