一种基于延时传送的直播色情内容审核系统及方法与流程

背景技术：

随着直播行业的快速发展，越来越多的人开始作为主播进入直播行业，在不断丰富观众多样化观看需求的同时，也造成直播行业内主播生产的直播内容良莠不齐，例如，某些主播为了提高人气，铤而走险，在直播平台上传播淫秽色情内容，不但违反法律，而且在社会上造成极为恶劣的影响，因此，直播平台都会引入大量的审核人员，对直播平台上的直播内容进行监控。但是，人工审核效率低，成本高，审核人员的工作负荷大，有时难以及时发现色情内容，随着直播内容的快速增长，直播平台在直播内容审核方面面临巨大的压力。

技术实现要素：

针对现有技术中存在的缺陷，本发明的主要目的在于提供一种基于延时传送的直播色情内容审核系统，本发明的另一目的在于提供一种基于延时传送的直播色情内容审核方法，能够减少直播平台在直播视频的审核环节的人员投入，降低人工成本，在确保较高的审核准确率的同时，提高审核效率。

本发明提供一种基于延时传送的直播色情内容审核系统，通过客户端与直播网站的直播内容服务器进行视频传输，所述系统包括采集模块、抽样模块、分析模块和内容审核系统服务器；

采集模块，其包括缓存队列，采集模块用于采集直播视频，将采集到的直播视频存入缓存队列，并将缓存队列中预设时长的直播视频发送到直播内容服务器；

抽样模块，用于从缓存队列中按照直播视频的采集时间顺序依次提取视频帧作为关键帧，相邻关键帧的时间间隔为预设的抽样间隔；

分析模块，用于持续地从抽样模块获取关键帧，对关键帧进行图像分析，将包括敏感特征的关键帧发送到内容审核系统服务器；

内容审核系统服务器，其包括控制模块和数据库，控制模块用于将接收的关键帧存入数据库，将审核人员判定为非色情内容的关键帧删除，将判定为色情内容的关键帧所对应的直播视频的停止播出信息发送到直播内容服务器。

在上述技术方案的基础上，所述缓存模块、抽样模块和分析模块均设于客户端中。

在上述技术方案的基础上，敏感特征从预先收集的人体裸露敏感部位样本中训练得到；

所述分析模块包括肤色检测单元和特征检测单元；

肤色检测单元用于对所述关键帧平滑去噪，通过皮肤检测模型筛选出包括人体皮肤的关键帧；

特征检测单元用于将肤色检测单元筛选出的关键帧与敏感特征进行比较，将包括敏感特征的关键帧发送到内容审核系统服务器。

在上述技术方案的基础上，所述分析模块还包括人头检测单元，所述人头检测单元用于对肤色检测单元筛选出的关键帧与人眼特征进行比较，人眼特征从预先收集的人头样本中训练得到，对包括人眼特征的关键帧进行标记；

特征检测单元还用于筛选出包括可疑的敏感特征的关键帧，判定未标记的所述关键帧包括敏感特征；判断标记的所述关键帧中人眼特征和敏感特征所在的区域是否相同，若是，判定该关键帧不包括敏感特征；若否，判定该关键帧包括敏感特征。

在上述技术方案的基础上，皮肤检测模型包括人体肤色检测算法、形态学分析和连通域分析。

本发明还提供一种基于延时传送的直播色情内容审核方法，其特征在于，包括步骤：

S1.采集模块采集直播视频，将采集到的直播视频存入缓存队列；

S2a.采集模块将缓存队列中预设时长的直播视频发送到直播内容服务器；

S2b.抽样模块从缓存队列中按照直播视频的采集时间顺序依次提取视频帧作为关键帧，相邻关键帧的时间间隔为预设的抽样间隔，进入S3；

S3.分析模块持续地从抽样模块获取关键帧，对关键帧进行图像分析，将包括敏感特征的关键帧发送到内容审核系统服务器；

S4.控制模块将接收的关键帧存入数据库，将审核人员判定为非色情内容的关键帧删除，将判定为色情内容的关键帧所对应的直播视频的停止播出信息发送到直播内容服务器。

在上述技术方案的基础上，步骤S2b具体包括：

S2b.1抽样模块从缓存队列里的直播视频中分别获取起始视频帧和当前视频帧的采集时间，将起始视频帧作为上次抽样视频帧；

S2b.2计算直播视频的时长，所述时长的计算依据公式：时长＝当前视频帧的采集时间-上次抽样视频帧的采集时间；

S2b.3判断所述时长是否达到或者超过预设的抽样间隔，若是，进入S2b.4；若否，进入S2b.5；

S2b.4从直播视频中提取一视频帧作为关键帧，该关键帧的采集时间与上次抽样视频帧的采集时间的时间间隔为预设的抽样间隔；

S2b.5从缓存队列里的直播视频中获取当前视频帧的采集时间；

S2b.6判断当前视频帧的采集时间与上次抽样视频帧的采集时间是否相同，若是，结束；若否，进入S2b.2。

在上述技术方案的基础上，所述分析模块包括肤色检测单元、特征检测单元和人头检测单元；肤色检测单元包括皮肤检测模型；人头检测单元包括人眼特征，人眼特征从预先收集的人头样本中训练得到；

步骤S3包括：

S3.1从抽样模块获取一关键帧作为当前关键帧；

S3.2肤色检测单元对当前关键帧平滑去噪，通过皮肤检测模型判断当前关键帧是否包括人体皮肤，若是，进入S3.3；若否，进入S3.6；

S3.3特征检测单元将当前关键帧与敏感特征进行比较，筛选出包括可疑的敏感特征的关键帧；人头检测单元将当前关键帧与人眼特征进行比较，对包括人眼特征的关键帧进行标记，特征检测单元判定未标记的所述关键帧包括敏感特征；

S3.4特征检测单元判断标记的所述关键帧中人眼特征和敏感特征所在的区域是否相同，若是，进入S3.8；若否，进入S3.5；

S3.5特征检测单元将当前关键帧发送到内容审核系统服务器；

S3.6判断抽样模块中是否有当前关键帧的下一个关键帧，若是，进入S3.7；若否，结束；

S3.7将下一个关键帧作为更新后的关键帧，进入S3.2；

S3.8判定该关键帧不包括敏感特征。

在上述技术方案的基础上，步骤S4包括：

控制模块将接收的关键帧存入数据库，统计存储的所述关键帧的总数；

判断所述关键帧的总数是否达到预设的审核阈值，若是，将所有关键帧发送给审核人员；若否，忽略该总数；

将审核人员判定为非色情内容的关键帧删除，将判定为色情内容的关键帧所对应的直播视频的停止播出信息发送到直播内容服务器。

与现有技术相比，本发明的优点如下：

(1)本发明采用自动检测结合人工复检的方式，能够减少直播平台在直播视频的审核环节的人员投入，降低人工成本，减轻审核人员的工作负荷，而且误检率极低，在确保较高的审核准确率的同时，提高审核效率。

(2)本发明将直播视频存入缓存队列，从缓存队列里的直播视频中筛选出包括敏感特征的关键帧，同时，直播视频被发送到直播内容服务器，直播内容服务器根据接收到的停止播出信息，不播出判定为色情内容的关键帧所对应的直播视频，由于缓存队列的延时作用，能够及时阻断色情内容的传播。

(3)本发明将直播视频存入缓存队列，由于对关键帧的提取和分析都在客户端进行，只将包括敏感特征的关键帧发送到内容审核系统服务器，然后进行人工审核，因此，极大地降低了客户端和内容审核系统服务器之间的视频传输量和传输时间，而且减轻了内容审核系统服务器的负荷，进一步提高了审核效率，降低直播平台的成本。

附图说明

图1是本发明实施例基于延时传送的直播色情内容审核系统示意图；

图2是本发明实施例基于延时传送的直播色情内容审核方法流程图；

图3是步骤S2b的具体流程图；

图4是步骤S3的具体流程图。

附图标记：

采集模块1，抽样模块2，分析模块3，内容审核系统服务器4，控制模块41，数据库42。

具体实施方式

术语说明：

延时传送：将视频帧缓存在服务器中，达到一定的缓存时间再传送给用户。

图像处理：通过获取图像，对图像进行特征提取、特征变换、图像识别等操作，从图像中抽取某些有用的度量、数据或信息。

直播色情内容：在直播平台上进行直播的主播，以人体裸露为主要诉求的讯息，其目的在于挑逗引发直播观众性欲的，都属于直播色情内容。

下面结合附图及具体实施例对本发明作进一步的详细描述。

参见图1所示，本发明实施例提供一种基于延时传送的直播色情内容审核系统，通过客户端与直播网站的直播内容服务器进行视频传输，本系统包括采集模块1、抽样模块2、分析模块3和内容审核系统服务器4。

采集模块1，其包括缓存队列，采集模块1用于采集直播视频，将采集到的直播视频存入缓存队列，并将缓存队列中预设时长的直播视频发送到直播内容服务器。

抽样模块2，用于从缓存队列中按照直播视频的采集时间顺序依次提取视频帧作为关键帧，相邻关键帧的时间间隔为预设的抽样间隔。

分析模块3，用于持续地从抽样模块2获取关键帧，对关键帧进行图像分析，将包括敏感特征的关键帧发送到内容审核系统服务器4。

分析模块3包括肤色检测单元和特征检测单元。

肤色检测单元用于对关键帧平滑去噪，通过皮肤检测模型筛选出包括人体皮肤的关键帧。

皮肤检测模型包括人体肤色检测算法、形态学分析和连通域分析。

人体肤色检测算法主要是根据人体皮肤在YCrCb颜色空间中呈近似椭圆的模型分布，通过对大量肤色样本的统计，拟合出满足肤色椭圆模型的参数，后续判断时，只需判断该位置的颜色信息是否在此椭圆模型中。

初步检测出的肤色区域可能出现空洞和不连续的情况，肤色区域也不是特别完整，通过形态学分析，可以对这些空洞和不连续进行填充，最终得到具有连通团块的掩膜图像，形态学分析包括腐蚀和膨胀操作。

连通域分析用于检测掩膜图像中的连通团块的面积，删掉面积小的连通团块，面积小的连通团块可能是光照变化带来的误检，删除后对后续分析影响不大。

特征检测单元用于将肤色检测单元筛选出的关键帧与敏感特征进行比较，将包括敏感特征的关键帧发送到内容审核系统服务器4。

由于一般的直播色情内容包括人体裸露敏感部位，本发明使用人体皮肤掩膜可以排除大部分的非色情直播内容，显著提高分析模块3的筛选效率。

敏感特征从预先收集的人体裸露敏感部位样本中训练得到。

敏感特征可以采用Adaboost迭代算法训练得到人体裸露敏感部位的模型作为敏感特征，结合人体皮肤掩膜，将训练得到的敏感特征在关键帧中进行滑动对比，得到人体皮肤掩膜中是否包括敏感特征。

由于人体乳房部位与人体眼睛区域比较容易产生误检，为了提高分析模块3的准确率，可以增加一个人头检测单元，通过对头部的检测，可以排除由于双眼导致的误检。

具体的，分析模块3还包括人头检测单元，人头检测单元用于对肤色检测单元筛选出的关键帧与人眼特征进行比较，人眼特征从预先收集的人头样本中训练得到，人头检测单元对包括人眼特征的关键帧进行标记。

对大量直播场景中的人头样本采用Adaboost迭代算法进行训练，得到一个人头的模型作为人眼特征，将人眼特征在关键帧中进行滑动对比，检测关键帧中是否有人头及人眼。

特征检测单元还用于筛选出包括可疑的敏感特征的关键帧，判定未标记的关键帧包括敏感特征；判断标记的关键帧中人眼特征和敏感特征所在的区域是否相同，若是，判定该关键帧不包括敏感特征；若否，判定该关键帧包括敏感特征。

本发明可以通过肤色检测单元筛选出包括人体皮肤的关键帧，然后通过特征检测单元将该关键帧与敏感特征进行比较，将包括敏感特征的关键帧发送到内容审核系统服务器4，或者，通过肤色检测单元筛选出包括人体皮肤的关键帧，分别通过人头检测单元和特征检测单元对包括人体皮肤的关键帧进行进一步筛选，对于仅包括敏感特征的关键帧，判定该关键帧包括敏感特征；对于同时包括人眼特征和敏感特征的关键帧，比较人眼特征和敏感特征所在的区域是否相同，若是，判定该关键帧不包括敏感特征；若否，判定该关键帧包括敏感特征。

缓存模块、抽样模块2和分析模块3均设于客户端中。

本发明将直播视频存入缓存队列，从缓存队列里的直播视频中筛选出包括敏感特征的关键帧，同时，直播视频被发送到直播内容服务器，直播内容服务器根据接收到的停止播出信息，不播出判定为色情内容的关键帧所对应的直播视频，由于缓存队列的延时作用，能够及时阻断色情内容的传播。

内容审核系统服务器4，其包括控制模块41和数据库42，控制模块41用于将接收的关键帧存入数据库42，将审核人员判定为非色情内容的关键帧删除，将判定为色情内容的关键帧所对应的直播视频的停止播出信息发送到直播内容服务器。

本发明将直播视频存入缓存队列，由于对关键帧的提取和分析都在客户端进行，只将包括敏感特征的关键帧发送到内容审核系统服务器4，然后进行人工审核，因此，极大地降低了客户端和内容审核系统服务器4之间的视频传输量和传输时间，而且减轻了内容审核系统服务器4的负荷，进一步提高了审核效率，降低直播平台的成本。

参见图2所示，本发明实施例提供一种基于延时传送的直播色情内容审核方法，包括步骤：

S1.采集模块1采集直播视频，将采集到的直播视频存入缓存队列。

S2a.采集模块1将缓存队列中预设时长的直播视频发送到直播内容服务器。

S2b.抽样模块2从缓存队列中按照直播视频的采集时间顺序依次提取视频帧作为关键帧，相邻关键帧的时间间隔为预设的抽样间隔，进入S3，且步骤S2a和S2b同时进行。

参见图3所示，步骤S2b具体包括：

S2b.1抽样模块2从缓存队列里的直播视频中分别获取起始视频帧和当前视频帧的采集时间，将起始视频帧作为上次抽样视频帧。

S2b.2计算直播视频的时长，时长的计算依据公式：时长＝当前视频帧的采集时间-上次抽样视频帧的采集时间。

S2b.3判断时长是否达到或者超过预设的抽样间隔，若是，进入S2b.4；若否，进入S2b.5。

S2b.4从直播视频中提取一视频帧作为关键帧，该关键帧的采集时间与上次抽样视频帧的采集时间的时间间隔为预设的抽样间隔。

S2b.5从缓存队列里的直播视频中获取当前视频帧的采集时间。

S2b.6判断当前视频帧的采集时间与上次抽样视频帧的采集时间是否相同，若是，结束；若否，进入S2b.2。

S3.分析模块3持续地从抽样模块2获取关键帧，对关键帧进行图像分析，将包括敏感特征的关键帧发送到内容审核系统服务器4。

分析模块3包括肤色检测单元、特征检测单元和人头检测单元；肤色检测单元包括皮肤检测模型；人头检测单元包括人眼特征，人眼特征从预先收集的人头样本中训练得到。

皮肤检测模型包括人体肤色检测算法、形态学分析和连通域分析。

人体肤色检测算法主要是根据人体皮肤在YCrCb颜色空间中呈近似椭圆的模型分布，通过对大量肤色样本的统计，拟合出满足肤色椭圆模型的参数，后续判断时，只需判断该位置的颜色信息是否在此椭圆模型中。

初步检测出的肤色区域可能出现空洞和不连续的情况，肤色区域也不是特别完整，通过形态学分析，可以对这些空洞和不连续进行填充，最终得到具有连通团块的掩膜图像，形态学分析包括腐蚀和膨胀操作。

连通域分析用于检测掩膜图像中的连通团块的面积，删掉面积小的连通团块，面积小的连通团块可能是光照变化带来的误检，删除后对后续分析影响不大。

参见图4所示，步骤S3包括：

S3.1从抽样模块2获取一关键帧作为当前关键帧。

S3.2肤色检测单元对当前关键帧平滑去噪，通过皮肤检测模型判断当前关键帧是否包括人体皮肤，若是，进入S3.3；若否，进入S3.6。

S3.3特征检测单元将当前关键帧与敏感特征进行比较，筛选出包括可疑的敏感特征的关键帧；人头检测单元将当前关键帧与人眼特征进行比较，对包括人眼特征的关键帧进行标记，特征检测单元判定未标记的关键帧包括敏感特征。

S3.4特征检测单元判断标记的关键帧中人眼特征和敏感特征所在的区域是否相同，若是，进入S3.8；若否，进入S3.5。

S3.5特征检测单元将当前关键帧发送到内容审核系统服务器4。

S3.6判断抽样模块2中是否有当前关键帧的下一个关键帧，若是，进入S3.7；若否，结束。

S3.7将下一个关键帧作为更新后的关键帧，进入S3.2；

S3.8判定该关键帧不包括敏感特征。

S4.控制模块41将接收的关键帧存入数据库42，将审核人员判定为非色情内容的关键帧删除，将判定为色情内容的关键帧所对应的直播视频的停止播出信息发送到直播内容服务器。

步骤S4包括：

控制模块41将接收的关键帧存入数据库42，统计存储的关键帧的总数。

判断关键帧的总数是否达到预设的审核阈值，若是，将所有关键帧发送给审核人员；若否，忽略该总数。

将审核人员判定为非色情内容的关键帧删除，将判定为色情内容的关键帧所对应的直播视频的停止播出信息发送到直播内容服务器。

审核人员根据情况对主播进行处罚，轻则警告，重则直接封禁直播间，彻底阻断色情内容的传播。

本发明采用自动检测结合人工复检的方式，能够减少直播平台在直播视频的审核环节的人员投入，降低人工成本，减轻审核人员的工作负荷，而且误检率极低，在确保较高的审核准确率的同时，提高审核效率，净化直播网络，为观众提供更好、更优质的内容。

本发明不局限于上述实施方式，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也视为本发明的保护范围之内。本说明书中未作详细描述的内容属于本领域专业技术人员公知的现有技术。