视频鉴黄方法、系统、存储介质及其计算机设备与流程

1.本发明涉及视频数据处理技术领域，尤其涉及一种视频鉴黄方法、系统、存储介质及其计算机设备。


背景技术：

2.随着互联网的发展，网络环境也将日益复杂化，视频鉴黄的工作量剧增，如何提高视频鉴黄的工作效率是当今优化网络环境的一个重大问题。
3.现有的视频鉴黄技术包括两种，一种是采用以涉黄概率最高的某一帧为整个视频的涉黄概率，由于其仅将涉黄概率最高的一个帧作为判定单位，难免具有一定的差异性；另一种是计算整个视频所有关键帧涉黄概率平均值，这种方法将整段视频的涉黄概率给平均化，当某一时间段的涉黄概率较低时，则将整段视频的涉黄概率拉低，从而不容易鉴定出涉黄视频。
4.综上可知，现有的方法在实际使用上，存在着较多的问题，所以有必要加以改进。


技术实现要素：

5.针对上述的缺陷，本发明的目的在于提供一种视频鉴黄方法，系统、存储介质及其计算机设备，能够提高视频鉴黄的准确率和检出率。
6.为了实现上述目的，本发明提供一种视频鉴黄方法，包括步骤：
7.将待鉴视频按预设的时间点均匀提取出n个关键帧，n为大于1的整数；
8.计算每一所述关键帧的涉黄概率；
9.将所述待鉴视频均等划分成至少两个时间段，并分别统计各所述时间段内全部的所述关键帧的涉黄概率平均值；
10.分析出所述至少两个时间段的所述涉黄概率平均值的最高值，将所述待鉴视频的整体涉黄概率取值为所述最高值。
11.根据本发明所述的视频鉴黄方法，所述计算每一所述关键帧的涉黄概率的步骤进一步包括：
12.通过基于深度学习的色情图片检测模型分别判断并计算每一所述关键帧的所述涉黄概率。
13.根据本发明所述的视频鉴黄方法，所述分析出所述至少两个时间段的所述涉黄概率平均值的最高值，将所述待鉴视频的整体涉黄概率取值为所述最高值的步骤进一步包括：
14.分析出所述至少两个时间段的所述涉黄概率平均值的最高值；
15.计算出所述至少两个时间段的所述涉黄概率平均值的平均值；
16.判断所述至少两个时间段的所述涉黄概率平均值的所述最高值与所述平均值之差；
17.若所述最高值与所述平均值之差达到第一阈值，将所述最高值过滤，并重新执行
所述分析出所述至少两个时间段的所述涉黄概率平均值的最高值的步骤；
18.若所述最高值与所述平均值之差未达到第一阈值，将所述待鉴视频的整体涉黄概率取值为所述最高值。
19.根据本发明所述的视频鉴黄方法，所述将所述待鉴视频的整体涉黄概率取值为所述最高值的步骤之后包括：
20.判断所述待鉴视频的所述整体涉黄概率是否达到第二阈值；
21.若所述待鉴视频的所述整体涉黄概率达到第二阈值，鉴定所述待鉴视频为涉黄视频。
22.本发明还提供一种视频鉴黄系统，包括有：
23.关键帧提取单元，用于将待鉴视频按预设的时间点均匀提取出n个关键帧，n为大于1的整数；
24.概率计算单元，用于判断并计算每一所述关键帧的涉黄概率；
25.分段统计单元，用于将所述待鉴视频均等划分成至少两个时间段，并分别统计各所述时间段内全部的所述关键帧的涉黄概率平均值；
26.结果分析单元，用于分析出所述至少两个时间段的所述涉黄概率平均值的最高值，将所述待鉴视频的整体涉黄概率取值为所述最高值。
27.根据本发明所述的视频鉴黄系统，所述概率计算单元用于通过基于深度学习的色情图片检测模型分别判断并计算每一所述关键帧的所述涉黄概率。
28.根据本发明所述的视频鉴黄系统，所述结果分析单元进一步包括：
29.分析子单元，分析出所述至少两个时间段的所述涉黄概率平均值的最高值；
30.计算子单元，计算出所述至少两个时间段的所述涉黄概率平均值的平均值；
31.判断子单元，判断所述至少两个时间段的所述涉黄概率平均值的所述最高值与所述平均值之差；
32.取值子单元，若所述最高值与所述平均值之差达到第一阈值，将所述最高值过滤，并重新执行所述分析出所述至少两个时间段的所述涉黄概率平均值的最高值的步骤；若所述最高值与所述平均值之差未达到第一阈值，将所述待鉴视频的整体涉黄概率取值为所述最高值。
33.根据本发明所述的视频鉴黄系统，所述结果分析单元还包括：
34.鉴定子单元，用于判断所述待鉴视频的所述整体涉黄概率是否达到第二阈值，若所述待鉴视频的所述整体涉黄概率达到第二阈值，鉴定所述待鉴视频为涉黄视频。
35.本发明还提供一种存储介质，用于存储一种用于任意一种所述的视频鉴黄方法的计算机程序。
36.本发明还提供一种计算机设备，包括存储介质、处理器以及存储在所述存储介质上并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现任一项所述的视频鉴黄方法。
37.本发明所述的基于分时间段涉黄概率的视频鉴黄方法、系统、存储介质及其计算机设备通过分时间段计算视频涉黄概率，相比于以涉黄概率最高的某一帧为整个视频的涉黄概率，减少了误判；相比于计算整个视频所有关键帧涉黄概率平均值，提高了涉黄视频的检出。
附图说明
38.图1为本发明视频鉴黄方法的流程图；
39.图2为本发明优选视频鉴黄方法的流程图；
40.图3为本发明视频鉴黄系统的结构示意图；
41.图4为本发明优选视频鉴黄系统的结构示意图；
42.图5是本发明计算机设备及存储介质的示意图。
具体实施方式
43.为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。
44.需要说明的，本说明书中针对“一个实施例”、“实施例”、“示例实施例”等的引用，指的是描述的该实施例可包括特定的特征、结构或特性，但是不是每个实施例必须包含这些特定特征、结构或特性。此外，这样的表述并非指的是同一个实施例。进一步，在结合实施例描述特定的特征、结构或特性时，不管有没有明确的描述，已经表明将这样的特征、结构或特性结合到其它实施例中是在本领域技术人员的知识范围内的。
45.此外，在说明书及后续的权利要求当中使用了某些词汇来指称特定组件或部件，所属领域中具有通常知识者应可理解，制造商可以用不同的名词或术语来称呼同一个组件或部件。本说明书及后续的权利要求并不以名称的差异来作为区分组件或部件的方式，而是以组件或部件在功能上的差异来作为区分的准则。在通篇说明书及后续的权利要求书中所提及的“包括”和“包含”为一开放式的用语，故应解释成“包含但不限定于”。以外，“连接”一词在此系包含任何直接及间接的电性连接手段。间接的电性连接手段包括通过其它装置进行连接。
46.图1为本发明视频鉴黄方法的流程图，包括步骤有：
47.步骤s101，将待鉴视频按预设的时间点均匀提取出n个关键帧，n为大于1的整数。
48.优选的是，将所述待鉴视频按每一秒提取出一个所述关键帧，但本发明不限于于此。具体的，可以设置该预设的时间点为每1秒、每5秒或者每10秒等的时间节点，根据整段视频的时长通过上述的时间节点从视频中提取出两个以上的所述关键帧，该关键帧为该对应视频对应时间点的一格镜头，即每一关键帧就是一幅静止的画面。
49.步骤s102，计算每一所述关键帧的涉黄概率。
50.具体通过现有的对于图像的鉴黄技术对每一所述关键帧进行判断并计算出相应的涉黄概率；本实施例优选的是，所述步骤s102进一步包括：
51.通过基于深度学习的色情图片检测模型以分别判断并计算每一所述关键帧的所述涉黄概率。优选采用现有的基于雅虎开源的open_nsfw(一种基于深度学习的色情图片检测模型)来判断出每一关键帧的涉黄概率。
52.步骤s103，将所述待鉴视频均等划分成至少两个时间段，并分别统计各所述时间段内全部的所述关键帧的涉黄概率平均值。
53.通过将整段待鉴视频均等平分为两个及两个以上独立的时间段，并分别统计出每一个独立的时间段内全部的关键帧的涉黄概率平均值。
54.步骤s104，分析出所述至少两个时间段的所述涉黄概率平均值的最高值，将所述待鉴视频的整体涉黄概率取值为所述最高值。优选的是，所述时间段为15秒，但本发明不限于此，还可以是5秒、10秒、20秒等。
55.多个的时间段内的关键帧的涉黄概率平均值必定不同，而对于整段待鉴视频的鉴黄分析则与其中某一段涉黄概率平均值最高的时间段相关，因此通过对整段视频的分段再根据最高的涉黄概率平均值作为待鉴视频的整体涉黄概率，能够提高视频鉴黄的准确率和检出率。
56.下面以一段60秒的待鉴视频为例，设所述预设的时间点为每1秒，并将该待鉴视频均等划分出四个时间段，则本实施例的基于分时间段涉黄概率的视频鉴黄系统的具体执行流程如下：
57.将总长为60秒的待鉴视频以每秒提取出一个关键帧，总共提取出了60个所述关键帧；
58.基于雅虎开源的open_nsfw，分别判断出这60个关键帧的涉黄概率；
59.对每15秒的15个关键帧涉黄概率计算平均值；
60.取最高的一个平均值作为整个视频鉴黄的概率。
61.上述执行结果以下表示例：
62.时间段(s)涉黄概率平均值(％)0-1567.816-3057.631-4590.846-6087.6最终视频的鉴黄结果90.8
63.图2为本发明优选视频鉴黄方法的流程图，包括步骤有：
64.步骤s201，将待鉴视频按预设的时间点均匀提取出n个关键帧，n为大于1的整数。优选的是，将所述待鉴视频按每一秒提取出一个所述关键帧，但本发明不限于于此。
65.步骤s202，计算每一所述关键帧的涉黄概率。优选的是，通过基于深度学习的色情图片检测模型以分别判断并计算每一所述关键帧的所述涉黄概率。
66.步骤s203，将所述待鉴视频均等划分成至少两个时间段，并分别统计各所述时间段内全部的所述关键帧的涉黄概率平均值。
67.步骤s204，分析出所述至少两个时间段的所述涉黄概率平均值的最高值。
68.步骤s205，计算出所述至少两个时间段的所述涉黄概率平均值的平均值。
69.步骤s206，判断所述至少两个时间段的所述涉黄概率平均值的所述最高值与所述平均值之差，若是则执行步骤s207，否则执行步骤s208。
70.步骤s207，若所述最高值与所述平均值之差达到第一阈值，将所述最高值过滤，并重新执行所述步骤s204。
71.步骤s208，若所述最高值与所述平均值之差未达到第一阈值，将所述待鉴视频的整体涉黄概率取值为所述最高值。
72.如果所述至少两个时间段的所述涉黄概率平均值的所述最高值与所述平均值之差达到第一阈值，可能所述最高值过于特殊，不能正确代表所述所述待鉴视频的整体涉黄
概率，所以过滤之，并重新分析出所述至少两个时间段的所述涉黄概率平均值的下一格的最高值，如此循环直至所述最高值与所述平均值之差未达到第一阈值，以提升待鉴视频的整体涉黄概率的准确性。
73.优选的是，所述步骤s208之后还可包括：
74.判断所述待鉴视频的所述整体涉黄概率是否达到第二阈值。
75.若所述待鉴视频的所述整体涉黄概率达到第二阈值，鉴定所述待鉴视频为涉黄视频，并作出过滤等预定处理。
76.本系统在视频鉴黄过程中，分时间段计算关键帧的涉黄概率的平均值，最后以最高的涉黄概率平均值作为整个视频涉黄概率，能够提高视频鉴黄的准确率和检出率。
77.图3为本发明视频鉴黄系统的结构示意图，所述视频鉴黄系统100包括有关键帧提取单元10、概率计算单元20、分段统计单元30和结果分析单元40，其中：
78.所述关键帧提取单元10，用于将待鉴视频按预设的时间点均匀提取出n个关键帧，n为大于1的整数。优选的是，将所述待鉴视频按每一秒提取出一个所述关键帧，但本发明不限于于此。具体的，可以设置该预设的时间点为每1秒、每5秒或者每10秒等的时间节点，根据整段视频的时长通过上述的时间节点从视频中提取出两个以上的所述关键帧，该关键帧为该对应视频对应时间点的一格镜头，即每一关键帧就是一幅静止的画面。
79.所述概率计算单元20，用于判断并计算每一所述关键帧的涉黄概率。具体通过现有的对于图像的鉴黄技术对每一所述关键帧进行判断并计算出相应的涉黄概率；本实施例优选的是，通过基于深度学习的色情图片检测模型以分别判断并计算每一所述关键帧的所述涉黄概率。优选采用现有的基于雅虎开源的open_nsfw(一种基于深度学习的色情图片检测模型)来判断出每一关键帧的涉黄概率。
80.所述分段统计单元30，用于将所述待鉴视频均等划分成至少两个时间段，并分别统计各所述时间段内全部的所述关键帧的涉黄概率平均值。通过将整段待鉴视频均等平分为两个及两个以上独立的时间段，并分别统计出每一个独立的时间段内全部的关键帧的涉黄概率平均值。
81.所述结果分析单元40，用于分析出所述至少两个时间段的所述涉黄概率平均值的最高值，将所述待鉴视频的整体涉黄概率取值为所述最高值。优选的是，所述时间段为15秒，但本发明不限于此，还可以是5秒、10秒、20秒等。多个的时间段内的关键帧的涉黄概率平均值必定不同，而对于整段待鉴视频的鉴黄分析则与其中某一段涉黄概率平均值最高的时间段相关，因此通过对整段视频的分段再根据最高的涉黄概率平均值作为待鉴视频的整体涉黄概率，能够提高视频鉴黄的准确率和检出率。
82.图4为本发明优选视频鉴黄系统的结构示意图，所述视频鉴黄系统100包括有关键帧提取单元10、概率计算单元20、分段统计单元30和结果分析单元40，其中：
83.所述关键帧提取单元10，用于将待鉴视频按预设的时间点均匀提取出n个关键帧，n为大于1的整数。优选的是，将所述待鉴视频按每一秒提取出一个所述关键帧，但本发明不限于于此。
84.所述概率计算单元20，用于判断并计算每一所述关键帧的涉黄概率。优选的是，通过基于深度学习的色情图片检测模型以分别判断并计算每一所述关键帧的所述涉黄概率。
85.所述分段统计单元30，用于将所述待鉴视频均等划分成至少两个时间段，并分别
统计各所述时间段内全部的所述关键帧的涉黄概率平均值。通过将整段待鉴视频均等平分为两个及两个以上独立的时间段，并分别统计出每一个独立的时间段内全部的关键帧的涉黄概率平均值。
86.所述结果分析单元40，用于分析出所述至少两个时间段的所述涉黄概率平均值的最高值，将所述待鉴视频的整体涉黄概率取值为所述最高值。优选的是，所述结果分析单元40进一步包括：
87.分析子单元41，分析出所述至少两个时间段的所述涉黄概率平均值的最高值。
88.计算子单元42，计算出所述至少两个时间段的所述涉黄概率平均值的平均值。
89.判断子单元43，判断所述至少两个时间段的所述涉黄概率平均值的所述最高值与所述平均值之差。
90.取值子单元44，若所述最高值与所述平均值之差达到第一阈值，将所述最高值过滤，并重新执行所述分析出所述至少两个时间段的所述涉黄概率平均值的最高值的步骤。若所述最高值与所述平均值之差未达到第一阈值，将所述待鉴视频的整体涉黄概率取值为所述最高值。
91.如果所述至少两个时间段的所述涉黄概率平均值的所述最高值与所述平均值之差达到第一阈值，可能所述最高值过于特殊，不能正确代表所述所述待鉴视频的整体涉黄概率，所以过滤之，并重新分析出所述至少两个时间段的所述涉黄概率平均值的下一格的最高值，如此循环直至所述最高值与所述平均值之差未达到第一阈值，以提升待鉴视频的整体涉黄概率的准确性。
92.更好的是，所述结果分析单元还包括：
93.鉴定子单元45，用于判断所述待鉴视频的所述整体涉黄概率是否达到第二阈值，若所述待鉴视频的所述整体涉黄概率达到第二阈值，鉴定所述待鉴视频为涉黄视频，并作出过滤等预定处理。
94.本发明还提供一种存储介质，用于存储如图1ˉ图2所述任意一种敏感词过滤方法的计算机程序。例如计算机程序指令，当其被计算机执行时，通过该计算机的操作，可以调用或提供根据本申请的方法和/或技术方案。而调用本申请的方法的程序指令，可能被存储在固定的或可移动的存储介质中，和/或通过广播或其他信号承载媒体中的数据流而被传输和/或被存储在根据程序指令运行的计算机设备的存储介质中。在此，根据本申请的一个实施例包括一个如图5所示的计算机设备400，所述计算机设备400优选包括用于存储计算机程序的存储介质200和用于执行计算机程序的处理器300，其中，当该计算机程序被该处理器300执行时，触发该计算机设备400执行基于前述多个实施例中的方法和/或技术方案。
95.需要注意的是，本申请可在软件和/或软件与硬件的组合体中被实施，例如，可采用专用集成电路(asic)、通用目的计算机或任何其他类似硬件设备来实现。在一个实施例中，本申请的软件程序可以通过处理器执行以实现上文步骤或功能。同样地，本申请的软件程序(包括相关的数据结构)可以被存储到计算机可读记录介质中，例如，ram存储器，磁或光驱动器或软磁盘及类似设备。另外，本申请的一些步骤或功能可采用硬件来实现，例如，作为与处理器配合从而执行各个步骤或功能的电路。
96.根据本发明的方法可以作为计算机实现方法在计算机上实现、或者在专用硬件中实现、或以两者的组合的方式实现。用于根据本发明的方法的可执行代码或其部分可以存
储在计算机程序产品上。计算机程序产品的示例包括存储器设备、光学存储设备、集成电路、服务器、在线软件等。优选地，计算机程序产品包括存储在计算机可读介质上以便当所述程序产品在计算机上执行时执行根据本发明的方法的非临时程序代码部件。
97.在优选实施例中，计算机程序包括适合于当计算机程序在计算机上运行时执行根据本发明的方法的所有步骤的计算机程序代码部件。优选地，在计算机可读介质上体现计算机程序。
98.综上所述，本发明所述的基于分时间段涉黄概率的视频鉴黄方法、系统、存储介质及其计算机设备通过分时间段计算视频涉黄概率，相比于以涉黄概率最高的某一帧为整个视频的涉黄概率，减少了误判；相比于计算整个视频所有关键帧涉黄概率平均值，提高了涉黄视频的检出。
99.当然，本发明还可有其它多种实施例，在不背离本发明精神及其实质的情况下，熟悉本领域的技术人员当可根据本发明作出各种相应的改变和变形，但这些相应的改变和变形都应属于本发明所附的权利要求的保护范围。
100.本发明还提供a1、一种视频鉴黄方法，包括步骤：
101.将待鉴视频按预设的时间点均匀提取出n个关键帧，n为大于1的整数；
102.计算每一所述关键帧的涉黄概率；
103.将所述待鉴视频均等划分成至少两个时间段，并分别统计各所述时间段内全部的所述关键帧的涉黄概率平均值；
104.分析出所述至少两个时间段的所述涉黄概率平均值的最高值，将所述待鉴视频的整体涉黄概率取值为所述最高值。
105.a2、根据a1所述的视频鉴黄方法，所述将待鉴视频按预设的时间点均匀提取出n个关键帧的步骤包括：
106.将所述待鉴视频按每一秒提取出一个所述关键帧。
107.a3、根据a1所述的视频鉴黄方法，所述计算每一所述关键帧的涉黄概率的步骤进一步包括：
108.通过基于深度学习的色情图片检测模型分别判断并计算每一所述关键帧的所述涉黄概率。
109.a4、根据a1所述的视频鉴黄方法，所述时间段为15秒。
110.a5、根据a1所述的视频鉴黄方法，所述分析出所述至少两个时间段的所述涉黄概率平均值的最高值，将所述待鉴视频的整体涉黄概率取值为所述最高值的步骤进一步包括：
111.分析出所述至少两个时间段的所述涉黄概率平均值的最高值；
112.计算出所述至少两个时间段的所述涉黄概率平均值的平均值；
113.判断所述至少两个时间段的所述涉黄概率平均值的所述最高值与所述平均值之差；
114.若所述最高值与所述平均值之差达到第一阈值，将所述最高值过滤，并重新执行所述分析出所述至少两个时间段的所述涉黄概率平均值的最高值的步骤；
115.若所述最高值与所述平均值之差未达到第一阈值，将所述待鉴视频的整体涉黄概率取值为所述最高值。
116.a6、根据a1所述的视频鉴黄方法，所述将所述待鉴视频的整体涉黄概率取值为所述最高值的步骤之后包括：
117.判断所述待鉴视频的所述整体涉黄概率是否达到第二阈值；
118.若所述待鉴视频的所述整体涉黄概率达到第二阈值，鉴定所述待鉴视频为涉黄视频。
119.b7、一种视频鉴黄系统，包括有：
120.关键帧提取单元，用于将待鉴视频按预设的时间点均匀提取出n个关键帧，n为大于1的整数；
121.概率计算单元，用于判断并计算每一所述关键帧的涉黄概率；
122.分段统计单元，用于将所述待鉴视频均等划分成至少两个时间段，并分别统计各所述时间段内全部的所述关键帧的涉黄概率平均值；
123.结果分析单元，用于分析出所述至少两个时间段的所述涉黄概率平均值的最高值，将所述待鉴视频的整体涉黄概率取值为所述最高值。
124.b8、根据权利要求7所述的视频鉴黄系统，所述关键帧提取单元用于将所述待鉴视频按每一秒提取出一个所述关键帧。
125.b9、根据权利要求7所述的视频鉴黄系统，所述概率计算单元用于通过基于深度学习的色情图片检测模型分别判断并计算每一所述关键帧的所述涉黄概率。
126.b10、根据权利要求7所述的视频鉴黄系统，所述时间段为15秒。
127.b11、根据权利要求7所述的视频鉴黄系统，所述结果分析单元进一步包括：
128.分析子单元，分析出所述至少两个时间段的所述涉黄概率平均值的最高值；
129.计算子单元，计算出所述至少两个时间段的所述涉黄概率平均值的平均值；
130.判断子单元，判断所述至少两个时间段的所述涉黄概率平均值的所述最高值与所述平均值之差；
131.取值子单元，若所述最高值与所述平均值之差达到第一阈值，将所述最高值过滤，并重新执行所述分析出所述至少两个时间段的所述涉黄概率平均值的最高值的步骤；若所述最高值与所述平均值之差未达到第一阈值，将所述待鉴视频的整体涉黄概率取值为所述最高值。
132.b12、根据权利要求7所述的视频鉴黄系统，所述结果分析单元还包括：
133.鉴定子单元，用于判断所述待鉴视频的所述整体涉黄概率是否达到第二阈值，若所述待鉴视频的所述整体涉黄概率达到第二阈值，鉴定所述待鉴视频为涉黄视频。
134.c13、一种存储介质，用于存储一种用于执行a1-6中任意一种所述的视频鉴黄方法的计算机程序。
135.d14、一种计算机设备，包括存储介质、处理器以及存储在所述存储介质上并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现a1-6任一项所述的视频鉴黄方法。