内容审核方法、装置、电子设备及存储介质与流程

本申请涉及计算机技术领域，尤其涉及一种内容审核方法、装置、电子设备及存储介质。

背景技术：

本部分旨在为权利要求书中陈述的本申请的实施方式提供背景或上下文。此处的描述不因为包括在本部分中就承认是现有技术。

随着互联网技术的发展和技术革新，信息传播的速度大幅度增快，数据量呈指数级暴增，同时数据质量参差不齐，给用户带来不好的影响。为了保证正常运营，内容平台需要对通过平台发布的内容进行审核。现有的内容审核方式为，在显示设备上显示待审核内容，由审核人员进行审核，并根据审核情况对发布违禁内容的用户进行警告、断流等操作，降低违禁内容带来的危害。实际应用中，通常显示设备上会同时显示多个待审核内容，这样审核人员可同时对多个待审核内容进行审核，提高审核效率。

技术实现要素：

但是，现有技术中显示设备上同时显示的待审核内容的数量一般是固定的，而不同审核人员使用的显示设备的显示屏尺寸是不同的。当审核人员使用较大的显示设备且审核人员具备同时审核更多内容的能力时，若仅显示较少的待审核内容，会降低审核效率；而当审核人员使用的显示设备较小时，又可能存在因单个待审核内容的显示区域过小，导致内容清晰度较低的问题，降低了审核质量。

针对上述技术问题，非常需要一种改进的方法，能够根据显示设备的显示分辨率自适应调整显示的待审核内容的数量，在保证审核质量的同时提升审核效率。

一方面，本申请一实施例提供了一种内容审核方法，包括：

获取显示设备的显示分辨率；

根据所述显示分辨率，在审核页面中显示目标数量个内容容器；

在所述审核页面显示的每个内容容器内显示一个待审核内容，并针对所述待审核内容确定内容审核结果。

可选地，所述根据所述显示分辨率，在审核页面中显示目标数量个内容容器，具体包括：

根据所述显示分辨率，获得至少两个候选数量并显示，所述候选数量为所述审核页面中可显示的内容容器的数量，所述候选数量中的最大值不大于最大内容容器数量，所述最大内容容器数量是基于最小内容容器尺寸和所述显示分辨率确定的；

将被选中的候选数量确定为目标数量；

在所述审核页面中显示所述目标数量个内容容器。

可选地，所述在所述审核页面显示的每个内容容器内显示一个待审核内容，具体包括：

在所述审核页面的指定区域内的各个内容容器中分别显示一个违规分数高于第一分数阈值的待审核内容，在所述指定区域以外的各个内容容器中分别显示一个违规分数不高于第一分数阈值的待审核内容；或者

按照各个待审核内容的违规分数对目标数量个待审核内容进行排序，按照排序结果和所述目标数量个内容容器在所述审核页面内的排布顺序，确定各个内容容器对应的待审核内容，在各个内容容器内分别显示对应的待审核内容；

其中，各个待审核内容的违规分数是基于已训练的内容审核模型获得的。

可选地，所述指定区域内的内容容器的尺寸大于所述指定区域以外的内容容器的尺寸。

可选地，所述方法还包括：

响应针对任一内容容器的移动操作，将所述任一内容容器移动到目标位置，并依次更新其它内容容器在所述审核页面中的位置。

可选地，所述在审核页面中显示目标数量个内容容器，具体包括：

在审核页面的视觉舒适区域内显示目标数量个内容容器，其中，所述视觉舒适区域大小是根据人眼舒适视角和人眼到显示设备的距离确定的。

可选地，当待审核内容为待审核视频时，所述待审核内容的显示模式包括视频模式和截图模式，所述在所述审核页面显示的每个内容容器内显示一个待审核内容，具体包括：

若当前的显示模式为视频模式，则在所述审核页面显示的每个内容容器内播放一个待审核视频；

若当前的显示模式为截图模式，则每隔预设时长对目标数量个待审核视频进行截图操作，在所述审核页面显示的每个内容容器内显示一个待审核视频的截图图像。

可选地，当待审核内容为待审核视频时，所述待审核内容的显示模式包括视频模式和截图模式，所述在所述审核页面显示的每个内容容器内显示一个待审核内容，具体包括：

针对目标数量个待审核视频中的任一待审核视频，若所述任一待审核视频对应的显示模式为视频模式，则在所述任一待审核视频对应的内容容器内播放所述任一待审核视频，若所述任一待审核视频对应的显示模式为截图模式，则每隔预设时长对所述任一待审核视频进行截图操作，在所述任一待审核视频对应的内容容器内显示所述任一待审核视频的截图图像。

可选地，所述方法还包括：

根据针对各个待审核视频的显示模式的设置操作，确定各个待审核视频对应的显示模式；或者

将违规分数高于第二分数阈值的待审核内容的显示模式设置为视频模式，将违规分数不高于第二分数阈值的待审核内容的显示模式设置为截图模式。

可选地，所述待审核内容的审核模式包括键盘模式，所述针对所述待审核内容确定内容审核结果，具体包括：

当键盘模式关闭时，在获得焦点的内容容器对应的第一预设区域内显示各个类别标签对应的标注控件和类别标签与快捷键的对应关系，响应针对任一标注控件的点击事件或针对任一类别标签对应的快捷键的触发事件，将所述获得焦点的内容容器内的待审核内容的标签设置为所述任一类别标签；

当键盘模式开启时，在所述审核页面中的第二预设区域内显示类别标签与快捷键的对应关系，响应针对任一类别标签对应的快捷键的触发事件，将获得焦点的内容容器内的待审核内容的标签设置为所述任一类别标签。

可选地，当待审核内容为待审核图片时，所述方法还包括：

识别出相同的待审核图片；

当确定出所述相同的待审核图片中的任一待审核图片对应的类别标签时，将与所述任一待审核图片相同的待审核图片的标签设置为所述任一待审核图片对应的类别标签。

可选地，所述待审核内容的显示模式包括放大模式，所述方法还包括：

当放大模式开启时，对获得焦点的内容容器内的待审核内容进行放大显示；

当放大模式关闭时，响应针对放大快捷键的触发操作，对获得焦点的内容容器内的待审核内容进行放大显示。

一方面，本申请一实施例提供了一种内容审核装置，包括：

获取模块，用于获取显示设备的显示分辨率；

显示模块，用于根据所述显示分辨率，在审核页面中显示目标数量个内容容器，在所述审核页面显示的每个内容容器内显示一个待审核内容；

审核模块，用于针对所述待审核内容确定内容审核结果。

可选地，所述显示模块，具体用于：

根据所述显示分辨率，获得至少两个候选数量并显示，所述候选数量为所述审核页面中可显示的内容容器的数量，所述候选数量中的最大值不大于最大内容容器数量，所述最大内容容器数量是基于最小内容容器尺寸和所述显示分辨率确定的；

将被选中的候选数量确定为目标数量；

在所述审核页面中显示所述目标数量个内容容器。

可选地，所述显示模块，具体用于：

在所述审核页面的指定区域内的各个内容容器中分别显示一个违规分数高于第一分数阈值的待审核内容，在所述指定区域以外的各个内容容器中分别显示一个违规分数不高于第一分数阈值的待审核内容；或者

按照各个待审核内容的违规分数对目标数量个待审核内容进行排序，按照排序结果和所述目标数量个内容容器在所述审核页面内的排布顺序，确定各个内容容器对应的待审核内容，在各个内容容器内分别显示对应的待审核内容；

其中，各个待审核内容的违规分数是基于已训练的内容审核模型获得的。

可选地，所述指定区域内的内容容器的尺寸大于所述指定区域以外的内容容器的尺寸。

可选地，所述装置还包括移动模块，用于响应针对任一内容容器的移动操作，将所述任一内容容器移动到目标位置，并依次更新其它内容容器在所述审核页面中的位置。

可选地，所述显示模块，具体用于在审核页面的视觉舒适区域内显示目标数量个内容容器，其中，所述视觉舒适区域大小是根据人眼舒适视角和人眼到显示设备的距离确定的。

可选地，当待审核内容为待审核视频时，所述待审核内容的显示模式包括视频模式和截图模式，所述显示模块，具体用于：

若当前的显示模式为视频模式，则在所述审核页面显示的每个内容容器内播放一个待审核视频；

若当前的显示模式为截图模式，则每隔预设时长对目标数量个待审核视频进行截图操作，在所述审核页面显示的每个内容容器内显示一个待审核视频的截图图像。

可选地，当待审核内容为待审核视频时，所述待审核内容的显示模式包括视频模式和截图模式，所述显示模块，具体用于：

针对目标数量个待审核视频中的任一待审核视频，若所述任一待审核视频对应的显示模式为视频模式，则在所述任一待审核视频对应的内容容器内播放所述任一待审核视频，若所述任一待审核视频对应的显示模式为截图模式，则每隔预设时长对所述任一待审核视频进行截图操作，在所述任一待审核视频对应的内容容器内显示所述任一待审核视频的截图图像。

可选地，所述显示模块还用于：

根据针对各个待审核视频的显示模式的设置操作，确定各个待审核视频对应的显示模式；或者

将违规分数高于第二分数阈值的待审核内容的显示模式设置为视频模式，将违规分数不高于第二分数阈值的待审核内容的显示模式设置为截图模式。

可选地，所述待审核内容的审核模式包括键盘模式，所述审核模块，具体用于：

当键盘模式关闭时，在获得焦点的内容容器对应的第一预设区域内显示各个类别标签对应的标注控件和类别标签与快捷键的对应关系，响应针对任一标注控件的点击事件或针对任一类别标签对应的快捷键的触发事件，将所述获得焦点的内容容器内的待审核内容的标签设置为所述任一类别标签；

当键盘模式开启时，在所述审核页面中的第二预设区域内显示类别标签与快捷键的对应关系，响应针对任一类别标签对应的快捷键的触发事件，将获得焦点的内容容器内的待审核内容的标签设置为所述任一类别标签。

可选地，当待审核内容为待审核图片时，所述装置还包括批量标注模块，用于：

识别出相同的待审核图片；

当确定出所述相同的待审核图片中的任一待审核图片对应的类别标签时，将与所述任一待审核图片相同的待审核图片的标签设置为所述任一待审核图片对应的类别标签。

可选地，所述待审核内容的显示模式包括放大模式，所述装置还包括放大显示模块，用于：

当放大模式开启时，对获得焦点的内容容器内的待审核内容进行放大显示；

当放大模式关闭时，响应针对放大快捷键的触发操作，对获得焦点的内容容器内的待审核内容进行放大显示。

一方面，本申请一实施例提供了一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其中，处理器执行计算机程序时实现上述任一种方法的步骤。

一方面，本申请一实施例提供了一种计算机可读存储介质，其上存储有计算机程序指令，该计算机程序指令被处理器执行时实现上述任一种方法的步骤。

一方面，本申请一实施例提供了一种计算机程序产品，所述计算机程序产品包括存储在计算机可读存储介质上的计算机程序，所述计算机程序包括程序指令，所述程序指令被处理器执行时实现上述任一种方法的步骤。

本申请实施例提供的内容审核方法、装置、电子设备及存储介质，能够根据审核人员使用的显示设备的显示分辨率，自适应调整审核页面中显示的待审核内容的数量，以满足不同审核人员的审核需求，营造更舒适的审核环境，同时在审核人员视觉承受范围内增加了待审核内容的数量，提升了审核人员的操作效率以及使用体验，从而提高了审核人员的审核效率。进一步地，本申请实施例的方法还提供了键盘模式、放大模式等操作方式，审核人员可根据自己的操作习惯设置审核操作方式，以提高审核效率。

附图说明

通过参考附图阅读下文的详细描述，本申请示例性实施方式的上述以及其他目的、特征和优点将变得易于理解。在附图中，以示例性而非限制性的方式示出了本申请的若干实施方式，其中：

图1为本申请实施例提供的内容审核方法的应用场景示意图；

图2为本申请一实施例提供的内容审核方法的流程示意图；

图3a为本申请一实施例提供的审核页面的一个示意图；

图3b为本申请一实施例提供的针对存在违规情况的待审核内容的操作示意图；

图4为本申请一实施例提供的在审核页面中显示目标数量个内容容器的方法流程图；

图5a为本申请一实施例提供的按违规分数分区域显示待审核内容的界面示意图；

图5b为本申请一实施例提供的按违规分数排序显示待审核内容的界面示意图；

图6为本申请一实施例提供的视觉舒适区域在审核页面中对应的位置的示意图；

图7a为本申请一实施例提供的键盘模式关闭时审核页面的一个界面示意图；

图7b为本申请一实施例提供的键盘模式开启时审核页面的一个界面示意图；

图7c为本申请一实施例提供的放大模式开启时审核页面的一个界面示意图；

图8为本申请一实施例提供的内容审核装置的结构示意图；

图9为本申请一实施例提供的电子设备的结构示意图。

具体实施方式

下面将参考若干示例性实施方式来描述本申请的原理和精神。应当理解，给出这些实施方式仅仅是为了使本领域技术人员能够更好地理解进而实现本申请，而并非以任何方式限制本申请的范围。相反，提供这些实施方式是为了使本申请更加透彻和完整，并且能够将本申请的范围完整地传达给本领域的技术人员。

本领域技术人员知道，本申请的实施方式可以实现为一种系统、装置、设备、方法或计算机程序产品。因此，本申请可以具体实现为以下形式，即：完全的硬件、完全的软件(包括固件、驻留软件、微代码等)，或者硬件和软件结合的形式。

在本文中，需要理解的是，附图中的任何元素数量均用于示例而非限制，以及任何命名都仅用于区分，而不具有任何限制含义。

为了方便理解，下面对本申请实施例中涉及的名词进行解释：

多媒体内容：是指多种媒体的综合，一般包括文本、声音和图像等多种媒体形式。本申请实施例中的多媒体内容，包括但不限于；视频、音频(如广播剧)、电子书等。

视频直播：是指利用互联网及流媒体技术进行直播，视频因结合了图像、文字、声音等丰富的元素，声形并茂，效果极佳，逐渐成为互联网主流的表达方式。视频内容通过真实、生动的传播，营造出强烈的现场感，吸引眼球，达成印象深刻，记忆持久的传播效果。由于视频直播内容为持续不断的展示，因此视频直播计数单位为：路。

显示分辨率：也被称为屏幕分辨率，是指屏幕图像的精密度，是指显示设备所能显示的像素点有多少，例如显示分辨率为1440×900的显示设备的每一行可显示1440个像素点，每一列可显示900个像素点，即一共可显示1440×900个像素点。由于屏幕上的点、线和面都是由像素点组成的，显示设备可显示的像素点越多，画面就越精细，同样的屏幕区域内能显示的信息也越多，所以分辨率是个非常重要的性能指标。在显示分辨率一定的情况下，显示设备的尺寸越小图像越清晰，反之，显示设备的大小固定时，显示分辨率越高图像越清晰。

内容容器：是指页面中承载待审核的多媒体内容的容器。例如，可使用html5实现页面中各个容器的布局。

下面参考本申请的若干代表性实施方式，详细阐释本申请的原理和精神。

发明概述

本申请的发明人发现，现有技术中显示设备上同时显示的待审核内容的数量一般是固定的，而不同审核人员使用的显示设备的显示屏尺寸是不同的。当审核人员使用较大的显示设备且审核人员具备同时审核更多内容的能力时，若仅显示较少的待审核内容，会降低审核效率；而当审核人员使用的显示设备较小时，又可能存在因单个待审核内容的显示区域过小，导致内容清晰度较低的问题，降低了审核质量。

为了解决上述问题，本申请提供了一种内容审核方法，能够根据审核人员使用的显示设备的显示分辨率，自适应调整显示的待审核内容的数量，保证审核效率最大化。上述内容审核方法，具体包括如下步骤：获取显示设备的显示分辨率；根据所述显示分辨率，在审核页面中显示目标数量个内容容器；在所述审核页面显示的每个内容容器内显示一个待审核内容，并针对所述待审核内容确定内容审核结果。上述内容审核方法，能够根据审核人员使用的显示设备的显示分辨率，自适应调整显示的待审核内容的数量，以满足不同审核人员的审核需求，营造了更舒适的审核环境，同时在审核人员视觉承受范围内增加了待审核内容的数量，提升了审核人员的操作效率以及使用体验，从而提高了审核人员的审核效率。

在介绍了本申请的基本原理之后，下面具体介绍本申请的各种非限制性实施方式。

应用场景总览

参考图1，其为本申请实施例提供的内容审核方法的应用场景示意图。该应用场景包括用户终端101(包括用户终端101-1、用户终端101-2、……用户终端101-n)，服务器102和审核人员使用的审核终端103(包括审核终端103-1、审核终端103-2、……审核终端103-m)。其中，用户终端101和服务器102之间可通过有线或无线的通信网络连接，审核终端103和服务器102之间可通过有线或无线的通信网络连接。用户终端101包括但不限于桌面计算机、移动电话、移动电脑、平板电脑、媒体播放器、智能可穿戴设备、智能电视、车载设备、个人数字助理(personaldigitalassistant，pda)等电子设备。审核终端103包括但不限于桌面计算机、移动电脑、平板电脑等包含或可外接显示设备的电子设备。服务器102可以是独立的物理服务器，也可以是多个物理服务器构成的服务器集群或者分布式系统，还可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、cdn、以及大数据和人工智能平台等基础云计算服务的云服务器。

用户可通过用户终端101向内容平台对应的服务器102上传多媒体内容，以在内容平台上发布多媒体内容，用户也可以通过用户终端101观看内容平台上发布的多媒体内容。在接收到用户终端101上传的多媒体内容后，服务器102可以先对多媒体内容进行审核，确定审核通过后再发布该多媒体内容。具体审核过程可以包括：服务器102将待审核内容发送给审核终端103，审核终端103向审核人员展示待审核内容，审核人员对待审核内容进行审核，确定待审核内容对应的内容审核结果，并将内容审核结果反馈给服务器102，内容审核结果可包括是否通过审核以及未通过审核的原因等信息。服务器102对通过审核的多媒体内容进行发布，对于未通过审核的多媒体内容可通知上传该多媒体内容的用户，告知其审核未通过的原因。

当然，对于实时直播的多媒体内容，如直播视频，由于观众端(即观众使用的用户终端)可实时观看主播端(即主播使用的用户终端)上传到服务器102的直播视频，因此服务器102将直播端实时上传的直播视频同步发送到观众端和审核终端103，由审核人员审核直播视频是否存在违规的情况，当违规等级较低时，可通过服务器102向主播端发送警告信息或提示信息等，以提醒主播不要违规；当违规等级较高或主播屡次违规不改正时，可通过服务器102直接对主播端进行断流操作，即禁止主播端进行视频直播。

示例性方法

下面结合图1的应用场景，来描述根据本申请示例性实施方式的内容审核方法。需要注意的是，上述应用场景仅是为了便于理解本申请的精神和原理而示出，本申请的实施方式在此方面不受任何限制。相反，本申请的实施方式可以应用于适用的任何场景。

参考图2，本申请实施例提供了的一种内容审核方法，可应用于图1所示的审核终端，具体可包括以下步骤：

s201、获取显示设备的显示分辨率。

其中，显示设备是指审核终端内置的显示屏或审核终端外接的显示器，审核终端通过显示设备向审核人员展示审核页面以及审核页面中的内容。不同显示设备具有不同的显示分辨率，具体地，可通过调用系统api(applicationprogramminginterface，应用程序接口)获取到显示设备的显示分辨率，例如通过getsystemmetrics函数就可以获取显示设备的显示分辨率。

s202、根据显示分辨率，在审核页面中显示目标数量个内容容器。

具体实施时，可预先设置每种显示分辨率对应的目标数量。具体地，显示分辨率和目标数量正相关，即显示分辨率越高，对应的目标数量越大，例如显示分辨率1440×900对应的目标数量为12个，显示分辨率1920×1080对应的目标数量为16个，针对其他可能的显示分辨率所对应的目标数量，此处不再一一列举。

实际应用中，存在很多种显示分辨率的显示设备，为此可设置多个分辨率等级，不同的分辨率等级对应不同的目标数量。其中，分辨率等级的划分可根据实际应用需求设定，本申请实施例不作限定。

例如，第一分辨率等级为：l<1440，第二分辨率等级为：1440≤l≤1920，第三分辨率等级为：l>1920，其中，l为显示设备每一行显示的像素点个数。此时，可设定第一分辨率等级对应的目标数量为12，第二分辨率等级对应的目标数量为16，第三分辨率等级对应的目标数量为38。在上述设置参数下，当显示设备每一行显示的像素点个数小于1440时，在审核页面中显示12个内容容器；当显示设备每一行显示的像素点个数处于1440～1902之间时，在审核页面中显示16个内容容器；当显示设备每一行显示的像素点个数大于1920时，在审核页面中显示38个内容容器。

当然，也可以根据显示分辨率实时计算在审核页面中显示的内容容器的目标数量。例如，可预设一个内容容器的尺寸参数，尺寸参数包括内容容器每一行所占的像素点个数m和每一列所占的像素点个数n，则内容容器的尺寸参数为m×n，显示设备的显示分辨率为m×n，则根据显示分辨率为m×n和尺寸参数m×n，确定一个审核页面中可以排布的内容容器的数量。

s203、在审核页面显示的每个内容容器内显示一个待审核内容，并针对待审核内容确定内容审核结果。

其中，待审核内容包括但不限于图片、视频(包括普通视频和直播视频)等。

参考图3a，其给出了审核页面的一个示例。审核页面30中包括内容展示区域301和设置区域302，内容展示区域301用于显示内容容器303，每一个内容容器303内显示一个待审核内容。图3a中使用的显示设备的显示分辨率为1440×900，该显示分辨率对应的目标数量为12，则在内容展示区域301内显示12个内容容器303，并在每个内容容器303内显示一个待审核内容，可同时展示12个待审核内容，这样，审核人员即可同时对12路待审核内容进行审核，提高审核效率。图3a只是给出了同时显示12个内容容器的一种页面布局方式，实际应用中也可以采用其他的页面布局方式，本申请实施例不作限定。此外，设置区域302内还提供了设置审核页面中显示的内容容器数量的路数设置控件304，路数即审核页面中显示的内容容器数量，审核人员可通过点击路数设置控件304中的下拉按钮，选择其它的路数，例如，若审核人员觉得12个内容容器太少，则可选择显示16个内容容器。

审核人员对在审核页面中显示多个待审核内容同时进行审核，并输入针对待审核内容的内容审核结果。内容审核结果可以包括表示待审核内容是否违规的标签，还可以包括对违规内容的处理方式。

参考图3a，审核人员同时对12路待审核内容进行审核时，可根据审核情况，为每个待审核内容设置对应的标签。若审核人员判断待审核内容不存在违规情况，可为该待审核内容打上“正常”的标签；若审核人员判断待审核内容存在一定的违规情况但不太确定时，可为该待审核内容打上“嫌疑”的标签，以待后续观察；若审核人员判断待审核内容存在比较明显的违规情况时，可为该待审核内容打上“高危”的标签，“高危”标签的待审核内容需要审核人员重点关注。这样，审核人员可重点关注携带“高危”标签和“嫌疑”标签的待审核内容，协助审核人员更合理的分配消耗在每个待审核内容上的时间和精力，提高了审核效率和审核质量。

参考图3b，当审核人员发现待审核内容存在违规情况时，可选中该待审核内容，此时待审核内容对应的内容容器内会显示操作列表305。以直播视频审核为例，操作列表305中可提供“断流”、“警告”、“提示”、“忽略”等操作，审核人员可根据审核情况选择一种操作方式；当审核人员认为直播视频存在违规情况但违规等级降低时，可点击“警告”或“提示”，此时审核终端向服务器发送警告信息或提示信息，服务器将警告信息或提示信息发送给该直播视频对应的直播端，以提示直播端的主播不要违规；当审核人员认为直播视频存在违规情况、且违规等级较高或屡次违规时，可点击“断流”，此时审核终端向服务器发送针对该直播视频的主播端的断流信息，服务器直接对该直播视频的主播端进行断流操作，即禁止主播端进行视频直播。其中，选中待审核内容的方式可以是鼠标悬停在待审核内容对应的内容容器上，或者通过键盘上的方向键控制焦点窗口移动至需要选中的内容容器上。进一步地，审核人员点击操作列表305中“断流”、“警告”、“提示”、“忽略”等控件后，会弹出各个控件对应的详情窗口，详情窗口中会提供“色情”、“广告”、“暴恐”、“涉政”、“违禁”等多种违规原因选项供审核人员选择，审核人员还可以手动填写违规原因，审核人员选择或填写好违规原因后，可点击详情窗口中的确定控件，审核终端将审核人员选择或填写好违规原因，发送给服务器，并由服务器转发给对应的用户终端。

本申请实施例的内容审核方法，能够根据审核人员使用的显示设备的显示分辨率，自适应调整审核页面中显示的待审核内容的数量，以满足不同审核人员的审核需求，营造更舒适的审核环境，同时在审核人员视觉承受范围内增加了待审核内容的数量，提升了审核人员的操作效率以及使用体验，从而提高了审核人员的审核效率。

在一种可能的实施方式中，参考图4，步骤s202具体包括以下步骤：

s401、根据显示分辨率，获得至少两个候选数量并显示，其中，候选数量为审核页面中可显示的内容容器的数量。

s402、将被选中的候选数量确定为目标数量。

s403、在审核页面中显示目标数量个内容容器。

具体实施时，每种显示分辨率或每个分辨率等级对应一组候选数量，每一组候选数量中包含至少两个候选数量。每种显示分辨率或每个分辨率等级对应一个最大内容容器数量，最大内容容器数量是基于最小内容容器尺寸和显示分辨率确定的。针对每种显示分辨率或每个分辨率等级，其对应的一组候选数量中的最大值不大于其对应的最大内容容器数量。

例如，假设最小内容容器尺寸取7×4cm。一般显示分辨率1280×800的显示设备的尺寸大约为12英寸左右，以常见的16:9分辨率为例，12英寸的显示设备的长是26.56cm，宽是14.94cm，因此显示分辨率1280×800的显示设备最多可容纳12个内容容器，即对应的最大内容容器数量为12。一般显示分辨率1440×900的显示设备的尺寸大约为15.4英寸，以常见的16:9分辨率为例，其对应的长是34cm，宽是19.17cm，因此显示分辨率1440×900的显示设备最多可容纳16个内容容器，即对应的最大内容容器数量为16。一般显示分辨率1920×1080的显示设备的尺寸大约为23英寸，以常见的16:9分辨率为例，其对应的长是50.9cm，宽是28.6cm，因此显示分辨率1920×1080的显示设备最多可容纳49个内容容器，即对应的最大内容容器数量为49。上述是几种常见的显示分辨率的显示设备对应的尺寸数据以及对应的最大内容容器数量，计算其它型号的显示设备对应的最大内容容器数量的方式类似，不再一一列举。

基于上述数据，显示分辨率1280×800对应的候选数量可以是不大于12的值，如6、8、10、12等；显示分辨率1440×900对应的候选数量可以是不大于16的值，如10、12、16等；显示分辨率1920×1080对应的候选数量可以是不大于49的值，如16、24、38、48等。

具体实施时，还可以结合各种型号的显示设备的数据，划分多个分辨率等级，不同的分辨率等级对应不同的候选数量。例如，第一分辨率等级为：l<1440，第二分辨率等级为：1440≤l≤1920，第三分辨率等级为：l>1920，其中，l为显示设备每一行显示的像素点个数。此时，可设定第一分辨率等级对应的候选数量包括：6、8、10、12等，第二分辨率等级对应的候选数量包括：10、12、16、38等，第三分辨率等级对应的候选数量包括：12、16、38、48、56等。当显示设备的显示分辨率为1600×900时，属于第二分辨率等级，此时审核终端在审核页面中显示第二分辨率等级对应的多个候选数量，10、12、16、38，审核人员可从中任选一个候选数量，作为目标数量，当审核人员选择的候选数量为12时，在审核页面中显示12个内容容器，当审核人员选择的候选数量为38时，在审核页面中显示38个内容容器。

具体实施时，最小内容容器尺寸是根据人眼最佳分辨视角确定的。研究表明，人眼视觉在10度是敏感区，10～20度可以正确识别信息，20～30度对动态东西比较敏感。为此，可根据视距和人眼最佳分辨视角，利用弧长公式，计算出人眼能够正确识别内容的最小区域在显示设备上对应的范围，从而确定出最小内容容器尺寸，其中，视距为审核人员的人眼到显示设备的距离。例如，当视距为30～50cm，人眼最佳分辨视角为：垂直方向视角为10度，水平方向的视角为20度时，人眼能够正确识别内容的最小区域在显示设备上对应的范围在8.6×4.8cm到5.4cm×3cm之间，具体实施时，可取上述范围的中位值7×4cm作为最小内容容器尺寸。

通过图4所示的实施方式，审核终端向审核人员提供了多种可选择的审核页面布局方式，使得审核人员可根据自身的审核能力，选择合适的内容容器数量，提高审核人员的操作体验。

上述任一实施方式的基础上，为了提高审核人员的审核效率，可基于已训练的内容审核模型获得各个待审核内容的违规分数以及违规等级，并显示在审核页面中，为审核人员提供参考，使得审核人员可以重点关注违规等级较高的待审核内容，以辅助提高审核人员的审核效率。

其中，内容审核模型是基于机器学习、训练样本集等训练得到的，其能够判断待审核内容中是否存在违规内容并给出违规分数，其中训练样本集中包括已标注的违规分数和违规等级的待审核内容。针对不同类型的待审核内容，需要基于不同的训练样本集训练不同的内容审核模型，例如：基于图片样本集训练可识别违规图像的图像审核模型，基于视频样本集训练可识别违规视频的视频审核模型，基于音频样本集训练可识别违规音频的音频审核模型。具体训练过程采用机器学习领域常规的训练手段，不再赘述。

在结合违规分数的基础上，本申请实施例提供了多种显示待审核内容的方式，以辅助提高审核人员的审核效率。

第一种显示方式：按违规分数分区域显示。

具体地，审核终端可在审核页面的指定区域内的各个内容容器中分别显示一个违规分数高于第一分数阈值的待审核内容，在指定区域以外的各个内容容器中分别显示一个违规分数不高于第一分数阈值的待审核内容。其中，指定区域可以是审核页面中较为醒目的区域，如内容展示区域301的顶部区域或中心区域等，具体可根据应用需求设定，本申请实施例不作限定。

其中，第一分数阈值可根据实际应用需求设定。例如，当第一分数阈值为50时，违规分数高于50的待审核内容在指定区域的内容容器中显示。

实际应用中，指定区域的大小可根据违规分数高于第一分数阈值的待审核内容的数量进行调整。例如，第一分数阈值为50，当违规分数高于50的待审核内容较少时，指定区域设定的小一些，当违规分数高于50的待审核内容较多时，可扩大指定区域。

进一步地，指定区域内的内容容器的尺寸可大于指定区域以外的内容容器的尺寸，这样指定区域内每个待审核内容对应的分辨率会更高。一方面，大尺寸的内容容器使得显示的待审核内容的分辨率更高，使得审核人员能够更清楚的观看待审核内容，从而提高审核准确度，另一方面，也更能够引起审核人员的注意。

参考图5a，为按违规分数分区域显示时的界面示意图。图5a中，将内容展示区域301的顶部区域设置为指定区域306，基于内容审核模型确定出4个违规分数高于50的待审核内容，在指定区域306内的内容容器中显示这4个待审核内容，其他待审核内容在指定区域306以外的内容容器中显示。指定区域306内的内容容器的尺寸大于指定区域306以外的内容容器的尺寸。

第二种显示方式：按违规分数排序显示。

具体地，审核终端可按照各个待审核内容的违规分数对目标数量个待审核内容进行排序，按照排序结果和目标数量个内容容器在审核页面内的排布顺序，确定各个内容容器对应的待审核内容，在各个内容容器内分别显示对应的待审核内容。

具体实施时，可以按照各个待审核内容的违规分数，对目标数量个待审核内容进行降序排列，也可以进行升序排列。参考图5b，审核人员可通过排序模式选择控件307选择按违规分数降序排列或按违规分数升序排列，在图5b对应的示例中，审核人员选择的是按违规分数降序排列，因此按照违规分数从高到低的顺序，依次将各个待审核内容排布到内容容器内，违规分数最高的待审核内容在第一行第一列的内容容器内显示，违规分数次高的待审核内容在第一列第二行的内容容器内显示，以此类推。

在上述任一实施方式的基础上，步骤s203中，在审核页面中显示目标数量个内容容器，具体包括：在审核页面的视觉舒适区域内显示目标数量个内容容器，其中，视觉舒适区域大小是根据人眼舒适视角和人眼到显示设备的距离确定的。

研究表明，当图像在垂直方向视角20度，水平方向视角36度时，会有非常好的临场感，也不需要频繁转动眼球而造成疲倦。为此，可根据人眼舒适视角(垂直方向视角为20度，水平方向的视角为36度)和视距，利用弧长公式，计算出视觉舒适区域在显示设备上的大小范围，其中，视距为审核人员的人眼到显示设备的距离。例如，当视距为30～50cm时，视觉舒适区域在显示设备上的大小范围在18.2cm×10.4cm到30.9cm×17.2cm之间。参考图6，视觉舒适区域可以是内容展示区域601内的中心区域602，或者左上角区域603，或者和右下角区域604。

在上述任一实施方式的基础上，审核终端可响应针对任一内容容器的移动操作，将任一内容容器移动到目标位置，并依次更新其它内容容器在审核页面中的位置。

为此，审核人员可通过鼠标或手指触控的方式拖拽内容容器的方式，将审核页面中的任一内容容器移动到期望的目标位置。例如，审核人员可将需要重点关注的待审核内容移动至指定区域或视觉舒适区域中，将不需要重点关注的待审核内容移动至非指定区域或非视觉舒适区域中，这样，审核人员可根据自身需求和实际审核情况，自由调整任一待审核内容的显示位置，降低审核人员的视觉疲劳，提高审核效率。

在上述任一实施方式的基础上，当待审核内容为待审核视频时，本申请实施例提供了视频模式和截图模式这两种显示模式，审核人员可根据实际情况选择合适的显示模式，以辅助审核人员提高审核效率。

参考图3a，当待审核内容为视频时，审核人员可通过显示模式选择控件308选择显示模式。当审核人员选择的是视频模式时，审核终端在审核页面显示的每个内容容器内播放一个待审核视频。当审核人员选择的显示模式为截图模式时，审核终端每隔预设时长对各个待审核视频进行截图操作，获得各个待审核视频对应的截图图像，并在审核页面显示的每个内容容器内显示一个待审核视频的截图图像。其中，每个截图图像在内容容器内的显示时长可以等于预设时长。

具体实施时，审核人员可设置截图模式对应的预设时长，以满足不同的审核强度。例如，当预设时长为5秒时，审核终端每间隔5秒，对各个待审核视频分别进行截图操作，获得各个待审核视频对应的截图图像，在各个待审核视频对应的内容容器内显示对应的截图图像，且每个截图图像在内容容器内持续显示5秒，即审核人员只能看到待审核视频中每隔5秒的截图图像，无法看到完整的视频。

视频模式下，审核人员可以不间断地对待审核视频中每个时刻的内容进行审核，审核准确率更高，漏审率更小，但是审核工作强度也越大。截图模式下，只显示待审核视频的截图图像，因此审核人员审核工作强度相对较小。

需要说明的是，当审核人员通过显示模式选择控件308选择显示模式时，所有内容容器对应的显示模式均一致，例如，审核人员通过显示模式选择控件308选择的是视频模式，则所有内容容器的显示模式均为视频模式，若选择的是截图模式，则所有内容容器的显示模式均为截图模式。

实际应用中，每个待审核视频的情况都不同，针对一些高危的待审核视频需要持续关注，而针对一些出现违规情况的概率较低的待审核视频只需要投入较少的关注度。为此，审核人员可分别设置各个待审核视频对应的显示模式。

具体实施时，审核终端可根据针对各个待审核视频的显示模式的设置操作，确定各个待审核视频对应的显示模式。

参考图3b，当审核人员需要修改某一待审核视频的显示模式时，可选中该待审核视频，此时待审核视频对应的内容容器内会显示操作列表305，若该待审核视频当前的显示模式为视频模式，则操作列表305中会显示“切换为截图模式”的控件309，审核人员点击“切换为截图模式”的控件309，即可将该待审核视频的显示模式切换为截图模式。当然，若待审核视频当前的显示模式为截图模式，则选中该待审核视频后显示的操作列表305中会显示“切换为视频模式”的控件，审核人员点击“切换为视频模式”的控件，即可将该待审核视频的显示模式切换为视频模式。

具体实施时，审核终端还可以根据违规分数自动确定各个待审核内容对应的显示模式，具体地：将违规分数高于第二分数阈值的待审核内容的显示模式设置为视频模式，将违规分数不高于第二分数阈值的待审核内容的显示模式设置为截图模式。其中，第二分数阈值可根据实际应用需求设定，本申请实施例不做限定。

通过内容审核模型给出的违规分数，自动确定各个待审核内容对应的显示模式，向审核人员提供更优更高效的显示模式，可提高审核人员的操作效率。

基于此，在审核页面的内容容器内显示待审核视频时，针对任一待审核视频，若该待审核视频对应的显示模式为视频模式，则在该待审核视频对应的内容容器内播放该待审核视频，若该待审核视频对应的显示模式为截图模式，则每隔预设时长对该待审核视频进行截图操作，在该待审核视频对应的内容容器内显示该待审核视频的截图图像。

根据各个待审核视频的实际情况，选择合适的显示模式来显示待审核视频，使得审核人员能够更合理的分配对各个待审核视频的关注度，重点审核高危的待审核视频，提高审核质量，同时也降低了审核人员的疲劳度。

在上述任一实施方式的基础上，本申请实施例的方法还提供了键盘模式这种审核模式，审核人员可选择开启键盘模式或关闭键盘模式。

当键盘模式关闭时，审核终端在获得焦点的内容容器对应的第一预设区域内显示各个类别标签对应的标注控件和类别标签与快捷键的对应关系，并响应针对任一标注控件的点击事件或针对任一类别标签对应的快捷键的触发事件，将获得焦点的内容容器内的待审核内容的标签设置为任一类别标签。

当键盘模式开启时，审核终端在审核页面的第二预设区域内显示类别标签与快捷键的对应关系，并响应针对任一类别标签对应的快捷键的触发事件，将获得焦点的内容容器内的待审核内容的标签设置为任一类别标签。

审核终端可将审核人员为待审核内容设置的类别标签作为内容审核结果发送给服务器。

其中，类别标签可以根据违禁内容的类别划分预先设定，例如可包括“正常”、“色情”、“广告”、“暴恐”、“涉政”、“违禁”等标签。类别标签与快捷键的对应关系也可以预先设定好，例如：“正常”类别标签对应的快捷键为键盘上的数字按键“0”、“色情”类别标签对应的快捷键为键盘上的数字按键“1”。

具体实施时，当审核终端检测到鼠标悬停在待审核内容对应的内容容器上时，可确定该内容容器获得焦点；或者，审核人员可通过键盘上的方向键控制焦点窗口移动至任一内容容器上，此时可确定焦点窗口移动至的内容容器获得焦点。

参考图7a，为键盘模式关闭时审核页面的一个界面示意图。当审核人员将鼠标移动至图7a中的待审核内容7对应的内容容器701上时，内容容器701获得焦点，则审核终端在内容容器701对应的第一预设区域702内显示各个类别标签对应的标注控件703和类别标签与快捷键的对应关系，例如，第一预设区域702内的“0-正常”即为类别标签“正常”对应的标注控件，“0-正常”所揭示的对应关系为“正常”类别标签对应的快捷键为键盘上的数字按键“0”。此时，若审核人员认为待审核内容7为广告，则点击第一预设区域702内的“2-广告”标注控件，审核终端响应针对“2-广告”标注控件的点击事件，将获得焦点的内容容器701内的待审核内容7的标签设置为“广告”；或者，审核人员按下键盘上的数字按键“2”，审核终端响应针对类别标签“广告”对应的快捷键的触发事件，将获得焦点的内容容器701内的待审核内容7的标签设置为“广告”。

参考图7b，为键盘模式开启时审核页面的一个界面示意图。当键盘模式开启时，在审核页面的第二预设区域704内显示类别标签与快捷键的对应关系。当审核人员将鼠标移动至任一内容容器上时，该内容容器附近的区域内不会显示标注控件和对应关系，此时，审核人员可参考第二预设区域704内显示的对应关系，通过按下键盘上的快捷键为该待审核内容设置对应的标签。需要说明的是，只要键盘模式处于开启状态，第二预设区域704内的对应关系就会持续显示，而当键盘模式处于关闭状态时，第二预设区域704内的对应关系处于隐藏状态，具体可参考图7a。

审核人员可通过开启或关闭键盘模式改变审核操作，以便根据自己的操作习惯设置审核操作方式，以提高审核效率。此外，开启键盘模式后，审核人员只需要按下类别标签对应的快捷键，就可以对待审核内容进行标注，实现了单手操作，这不仅解放了审核人员的一只手，也有利于残障审核人员进行操作。

当待审核内容为待审核图片时，本申请实施例的内容审核方法还包括如下步骤：识别出相同的待审核图片；当确定出相同的待审核图片中的任一待审核图片对应的类别标签时，将与任一待审核图片相同的待审核图片的标签设置为任一待审核图片对应的类别标签。

具体实施时，可提取各个待审核图片的图像特征，计算任意两个待审核图片的图像特征之间的距离值，若距离值小于距离阈值，则确定这两个待审核图片为相同的图片。其中，可基于已训练的图像识别模型提取各个待审核图片的图像特征，或者基于常见的图像处理方法提取各个待审核图片的图像特征，本申请实施例不作限定。

当确定出待审核图片1、待审核图片3、待审核图片10为相同的图片时，若确定待审核图片1、待审核图片3、待审核图片10中的任一图片的类别标签为“正常”，则直接将其他两个待审核图片的标签设置为“正常”。这样，审核终端可对相同的待审核图片自动进行批量标注处理，可缩减审核人员的处理时间，提高审核效率。

在上述任一实施方式的基础上，为了进一步提高审核准确度，审核终端还提供了放大模式，审核人员可选择开启放大模式或关闭放大模式。

当放大模式开启时，审核终端对获得焦点的内容容器内的待审核内容进行放大显示。

当放大模式关闭时，审核终端响应针对放大快捷键的触发操作，对获得焦点的内容容器内的待审核内容进行放大显示。

其中，放大快捷键是在键盘上预先设定好的按键，例如可以是ctrl键。如果审核人员按下键盘上的放大快捷键时，审核页面中存在获得焦点的内容容器，则审核终端对该获得焦点的内容容器内的待审核内容进行放大显示。如果按下键盘上的放大快捷键时审核页面中不存在获得焦点的内容容器，则不会对任何待审核内容进行放大显示。放大后的待审核内容可在审核页面中的任一区域内显示，例如可在审核页面中的中心位置显示。

参考图7c，为放大模式开启时审核页面的一个界面示意图。当审核人员将鼠标移动至图7c中的待审核内容7对应的内容容器701上时，内容容器701获得焦点，则审核终端可在显示区域705内对待审核内容7进行放大显示，这样审核人员可以查看到分辨率更高、清晰度更高的待审核内容，以提高审核准确度。

审核人员可通过开启或关闭放大模式改变审核操作，以便根据自己的操作习惯设置审核操作方式，以提高审核效率。

示例性设备

在介绍了本申请示例性实施方式的方法之后，接下来对本申请示例性实施方式的内容审核装置进行介绍。

如图8所示，为本申请实施例提供的内容审核装置的结构示意图。在一个实施例中，内容审核装置80包括：获取模块801、显示模块802和审核模块803。

获取模块801，用于获取显示设备的显示分辨率；

显示模块802，用于根据显示分辨率，在审核页面中显示目标数量个内容容器，在审核页面显示的每个内容容器内显示一个待审核内容；

审核模块803，用于针对待审核内容确定内容审核结果。

可选地，显示模块801具体用于：

根据显示分辨率，获得至少两个候选数量并显示，候选数量为审核页面中可显示的内容容器的数量，候选数量中的最大值不大于最大内容容器数量，最大内容容器数量是基于最小内容容器尺寸和显示分辨率确定的；

将被选中的候选数量确定为目标数量；

在审核页面中显示目标数量个内容容器。

可选地，显示模块801具体用于：在审核页面的指定区域内的各个内容容器中分别显示一个违规分数高于第一分数阈值的待审核内容，在指定区域以外的各个内容容器中分别显示一个违规分数不高于第一分数阈值的待审核内容；或者按照各个待审核内容的违规分数对目标数量个待审核内容进行排序，按照排序结果和目标数量个内容容器在审核页面内的排布顺序，确定各个内容容器对应的待审核内容，在各个内容容器内分别显示对应的待审核内容；其中，各个待审核内容的违规分数是基于已训练的内容审核模型获得的。

可选地，指定区域内的内容容器的尺寸大于指定区域以外的内容容器的尺寸。

可选地，本申请实施例的内容审核装置80还包括移动模块，用于响应针对任一内容容器的移动操作，将任一内容容器移动到目标位置，并依次更新其它内容容器在审核页面中的位置。

可选地，显示模块801具体用于在审核页面的视觉舒适区域内显示目标数量个内容容器，其中，视觉舒适区域大小是根据人眼舒适视角和人眼到显示设备的距离确定的。

可选地，当待审核内容为待审核视频时，待审核内容的显示模式包括视频模式和截图模式，显示模块801具体用于：

若当前的显示模式为视频模式，则在审核页面显示的每个内容容器内播放一个待审核视频；

若当前的显示模式为截图模式，则每隔预设时长对目标数量个待审核视频进行截图操作，在审核页面显示的每个内容容器内显示一个待审核视频的截图图像。

可选地，当待审核内容为待审核视频时，待审核内容的显示模式包括视频模式和截图模式，显示模块801具体用于：

针对目标数量个待审核视频中的任一待审核视频，若任一待审核视频对应的显示模式为视频模式，则在任一待审核视频对应的内容容器内播放任一待审核视频，若任一待审核视频对应的显示模式为截图模式，则每隔预设时长对任一待审核视频进行截图操作，在任一待审核视频对应的内容容器内显示任一待审核视频的截图图像。

可选地，显示模块801还用于：根据针对各个待审核视频的显示模式的设置操作，确定各个待审核视频对应的显示模式；或者将违规分数高于第二分数阈值的待审核内容的显示模式设置为视频模式，将违规分数不高于第二分数阈值的待审核内容的显示模式设置为截图模式。

可选地，待审核内容的审核模式包括键盘模式，审核模块803具体用于：

当键盘模式关闭时，在获得焦点的内容容器对应的第一预设区域内显示各个类别标签对应的标注控件和类别标签与快捷键的对应关系，响应针对任一标注控件的点击事件或针对任一类别标签对应的快捷键的触发事件，将获得焦点的内容容器内的待审核内容的标签设置为任一类别标签；

当键盘模式开启时，在审核页面中的第二预设区域内显示类别标签与快捷键的对应关系，响应针对任一类别标签对应的快捷键的触发事件，将获得焦点的内容容器内的待审核内容的标签设置为任一类别标签。

可选地，当待审核内容为待审核图片时，本申请实施例的内容审核装置80还包括批量标注模块，用于：

识别出相同的待审核图片；

当确定出相同的待审核图片中的任一待审核图片对应的类别标签时，将与任一待审核图片相同的待审核图片的标签设置为任一待审核图片对应的类别标签。

可选地，待审核内容的显示模式包括放大模式，本申请实施例的内容审核装置80还包括放大显示模块，用于：

当放大模式开启时，对获得焦点的内容容器内的待审核内容进行放大显示；

当放大模式关闭时，响应针对放大快捷键的触发操作，对获得焦点的内容容器内的待审核内容进行放大显示。

本申请实施例提供的内容审核装置，与上述内容审核方法采用了相同的发明构思，能够取得相同的有益效果，在此不再赘述。

基于与上述内容审核方法相同的发明构思，本申请实施例还提供了一种电子设备，该电子设备具体可以为图1中的审核终端。如图9所示，该电子设备90可以包括处理器901和存储器902。

处理器901可以是通用处理器，例如中央处理器(cpu)、数字信号处理器(digitalsignalprocessor，dsp)、专用集成电路(applicationspecificintegratedcircuit，asic)、现场可编程门阵列(fieldprogrammablegatearray，fpga)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件，可以实现或者执行本申请实施例中公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者任何常规的处理器等。结合本申请实施例所公开的方法的步骤可以直接体现为硬件处理器执行完成，或者用处理器中的硬件及软件模块组合执行完成。

存储器902作为一种非易失性计算机可读存储介质，可用于存储非易失性软件程序、非易失性计算机可执行程序以及模块。存储器可以包括至少一种类型的存储介质，例如可以包括闪存、硬盘、多媒体卡、卡型存储器、随机访问存储器(randomaccessmemory，ram)、静态随机访问存储器(staticrandomaccessmemory，sram)、可编程只读存储器(programmablereadonlymemory，prom)、只读存储器(readonlymemory，rom)、带电可擦除可编程只读存储器(electricallyerasableprogrammableread-onlymemory，eeprom)、磁性存储器、磁盘、光盘等等。存储器是能够用于携带或存储具有指令或数据结构形式的期望的程序代码并能够由计算机存取的任何其他介质，但不限于此。本申请实施例中的存储器902还可以是电路或者其它任意能够实现存储功能的装置，用于存储程序指令和/或数据。

示例性程序产品

本申请实施例提供了一种计算机可读存储介质，用于储存为上述电子设备所用的计算机程序指令，其包含用于执行本申请任一示例性实施方式中的内容审核方法的程序。

上述计算机存储介质可以是计算机能够存取的任何可用介质或数据存储设备，包括但不限于磁性存储器(例如软盘、硬盘、磁带、磁光盘(mo)等)、光学存储器(例如cd、dvd、bd、hvd等)、以及半导体存储器(例如rom、eprom、eeprom、非易失性存储器(nandflash)、固态硬盘(ssd))等。

在一些可能的实施方式中，本申请的各个方面还可以实现为一种计算机程序产品，其包括程序代码，当该计算机程序产品在服务器设备上运行时，该计算机程序产品用于使服务器设备执行本说明书上述“示例性方法”部分中描述的根据本申请各种示例性实施方式的内容审核方法中的步骤。

所述计算机程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。

根据本申请的实施方式的用于即时通信应用的计算机程序产品，其可以采用便携式紧凑盘只读存储器(cd-rom)并包括程序代码，并可以在服务器设备上运行。然而，本申请的程序产品不限于此，在本文件中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。

可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括——但不限于——电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。

可读介质上包含的程序代码可以用任何适当的介质传输，包括——但不限于——无线、有线、光缆、rf等等，或者上述的任意合适的组合。

可以以一种或多种程序设计语言的任意组合来编写用于执行本申请操作的程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如java、c++等，还包括常规的过程式程序设计语言—诸如“c”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络——包括局域网(lan)或广域网(wan)—连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。

应当注意，尽管在上文详细描述中提及了装置的若干单元或子单元，但是这种划分仅仅是示例性的并非强制性的。实际上，根据本申请的实施方式，上文描述的两个或更多单元的特征和功能可以在一个单元中具体化。反之，上文描述的一个单元的特征和功能可以进一步划分为由多个单元来具体化。

此外，尽管在附图中以特定顺序描述了本申请方法的操作，但是，这并非要求或者暗示必须按照该特定顺序来执行这些操作，或是必须执行全部所示的操作才能实现期望的结果。附加地或备选地，可以省略某些步骤，将多个步骤合并为一个步骤执行，和/或将一个步骤分解为多个步骤执行。

虽然已经参考若干具体实施方式描述了本申请的精神和原理，但是应该理解，本申请并不限于所公开的具体实施方式，对各方面的划分也不意味着这些方面中的特征不能组合以进行受益，这种划分仅是为了表述的方便。本申请旨在涵盖所附权利要求的精神和范围内所包括的各种修改和等同布置。