端侧检测方法、装置、电子设备及存储介质与流程

本发明涉及信息审核应用中的图像分析及数据分析，更具体地说，涉及一种端侧检测方法、装置、电子设备及存储介质。

背景技术：

1、现阶段，随着社会对互联网信息的关注，对端侧的内容呈现进行定时检测成为异常风险管控的必要措施。

2、目前主要依赖人工巡检的方式进行审核，这就导致审核效率低、无法及时处理异常风险，导致风险管控成本较高。

技术实现思路

1、有鉴于此，为解决上述问题，本发明提供一种端侧检测方法、装置、电子设备及存储介质，技术方案如下：

2、一种端侧检测方法，所述方法包括：

3、获取已创建的检测任务的任务参数，所述任务参数包括检测方式和检测异常类型；

4、按照所述检测方式对所述检测任务进行调度，以获得端侧的目标内容；

5、调用已生成的、与所述检测异常类型相匹配的检测策略对所述目标内容进行检测，得到所述检测任务的检测结果。

6、优选的，所述检测任务包括图像检测任务，所述按照所述检测方式对所述检测任务进行调度，以获得端侧的目标内容，包括：

7、若所述检测方式为云手机，控制云手机平台开启虚拟设备以模拟端侧的用户浏览行为，并获得所述云手机平台截图输出的页面内容；

8、若所述检测方式为源码解析，利用源码解析技术对端侧的页面源码进行解析，以获得解析得到的页面内容。

9、优选的，所述调用已生成的、与所述检测异常类型相匹配的检测策略对所述目标内容进行检测，得到所述检测任务的检测结果，包括：

10、若所述检测异常类型为置灰检测，获取所述目标内容的图像色彩饱和度，并根据所述图像色彩饱和度检测所述目标内容中的彩色区域，以获得置灰检测结果；

11、若所述检测异常类型为人物检测，调用人物检测模型对所述页面内容进行人物检测，以得到人物检测结果，所述人物检测模型的结构包括依次连接的前处理部分、检测部分、对齐部分、特征提取部分、特征搜索部分和后处理部分；

12、若所述检测异常类型为ocr检测，调用ocr检测模型对所述页面内容进行ocr检测，以得到ocr检测结果，所述ocr检测模型的结构包括依次连接的db文本检测部分、检测框矫正部分、crnn文本识别部分；

13、若所述检测异常类型为涉黄检测，调用涉黄模型对所述页面内容进行涉黄检测，以得到涉黄检测结果，所述涉黄模型的结构包括依次连接的centernetv2人体检测部分和resnet的分类器；

14、若所述检测异常类型为渲染异常检测，调用单阶段人脸检测器对所述页面内容进行人脸检测，并对比人脸检测获得的同屏相同人脸数量与预设的数量阈值得到渲染异常检测结果。

15、优选的，所述检测任务包括日志检测任务，所述按照所述检测方式对所述检测任务进行调度，以获得端侧的目标内容，包括：

16、若所述检测方式为日志检测，检测端侧所对应服务端的日志，以流式计算的方式读取所述日志，并按照所述服务端的业务类型筛选输出所述日志中的日志内容。

17、优选的，所述调用已生成的、与所述检测异常类型相匹配的检测策略对所述目标内容进行检测，得到所述检测任务的检测结果，包括：

18、若所述检测异常类型为敏感信息检测，对所述日志内容与预设的敏感数据库进行文本相似度检测，并对比文本相似度检测获得的重合度与预设的重合度阈值得到敏感信息检测结果；

19、若所述检测异常类型为内容打散异常，对所述日志内容进行主题重复度检测，并对比主题重复度检测获得的主题的出现频率与预设的频率阈值得到内容打散异常检测结果；

20、若所述检测异常类型为内容位置异常，对所述日志内容的出现位置进行排序检测，并根据排序检测获得的排序位置得分得到内容位置异常检测结果。

21、优选的，所述任务参数还包括检测频率、异常通知阈值和业务方，所述方法还包括：

22、按照所述检测频率执行所述按照所述检测方式对所述检测任务进行调度，以获得端侧的目标内容这一步骤、以及执行所述调用已生成的、与所述检测异常类型相匹配的检测策略对所述目标内容进行检测，得到所述检测任务的检测结果这一步骤，以获得多次检测结果；

23、确定所述多次检测结果中的异常检测结果，并在所述异常检测结果满足所述异常通知阈值的情况下，向业务方输出消息通知。

24、优选的，所述方法还包括：

25、获取所述检测任务的任务状态，并输出至运营管理平台。

26、一种端侧检测装置，所述装置包括：

27、任务获取模块，用于获取已创建的检测任务的任务参数，所述任务参数包括检测方式和检测异常类型；

28、任务调度模块，用于按照所述检测方式对所述检测任务进行调度，以获得端侧的目标内容；

29、任务检测模块，用于调用已生成的、与所述检测异常类型相匹配的检测策略对所述目标内容进行检测，得到所述检测任务的检测结果。

30、一种电子设备，所述电子设备包括：至少一个存储器和至少一个处理器；所述存储器存储有应用程序，所述处理器调用所述存储器存储的应用程序，所述应用程序用于实现所述的端侧检测方法。

31、一种存储介质，所述存储介质存储有计算机程序代码，所述计算机程序代码执行时实现所述的端侧检测方法。

32、相较于现有技术，本发明实现的有益效果为：

33、本发明提供一种端侧检测方法、装置、电子设备及存储介质，首先获取已创建的检测任务的任务参数，该任务参数包括检测方式和检测异常类型；进而按照检测方式对检测任务进行调度，以获得端侧的目标内容；进一步调用已生成的、与检测异常类型相匹配的检测策略对目标内容进行检测，得到检测任务的检测结果。本发明可以主动快速、及时地检测端侧内容呈现的异常问题，弥补了人工检测的不足，将异常风险管控成本降到最低、大幅降低了审核人力成本。

技术特征：

1.一种端侧检测方法，其特征在于，所述方法包括：

2.根据权利要求1所述的方法，其特征在于，所述检测任务包括图像检测任务，所述按照所述检测方式对所述检测任务进行调度，以获得端侧的目标内容，包括：

3.根据权利要求2所述的方法，其特征在于，所述调用已生成的、与所述检测异常类型相匹配的检测策略对所述目标内容进行检测，得到所述检测任务的检测结果，包括：

4.根据权利要求1所述的方法，其特征在于，所述检测任务包括日志检测任务，所述按照所述检测方式对所述检测任务进行调度，以获得端侧的目标内容，包括：

5.根据权利要求4所述的方法，其特征在于，所述调用已生成的、与所述检测异常类型相匹配的检测策略对所述目标内容进行检测，得到所述检测任务的检测结果，包括：

6.根据权利要求1所述的方法，其特征在于，所述任务参数还包括检测频率、异常通知阈值和业务方，所述方法还包括：

7.根据权利要求1所述的方法，其特征在于，所述方法还包括：

8.一种端侧检测装置，其特征在于，所述装置包括：

9.一种电子设备，其特征在于，所述电子设备包括：至少一个存储器和至少一个处理器；所述存储器存储有应用程序，所述处理器调用所述存储器存储的应用程序，所述应用程序用于实现权利要求1-7任意一项所述的端侧检测方法。

10.一种存储介质，其特征在于，所述存储介质存储有计算机程序代码，所述计算机程序代码执行时实现权利要求1-7任意一项所述的端侧检测方法。

技术总结
本发明提供一种端侧检测方法、装置、电子设备及存储介质，首先获取已创建的检测任务的任务参数，该任务参数包括检测方式和检测异常类型；进而按照检测方式对检测任务进行调度，以获得端侧的目标内容；进一步调用已生成的、与检测异常类型相匹配的检测策略对目标内容进行检测，得到检测任务的检测结果。本发明可以主动快速、及时地检测端侧内容呈现的异常问题，弥补了人工检测的不足，将异常风险管控成本降到最低、大幅降低了审核人力成本。

技术研发人员：骆迅,宋施恩,姚广,祁晗
受保护的技术使用者：湖南快乐阳光互动娱乐传媒有限公司
技术研发日：
技术公布日：2024/1/14