一种内容检测方法、装置及电子设备与流程

本申请涉及计算机技术领域，尤其涉及一种内容检测方法、装置及电子设备。

背景技术：

在互联网安全领域，各网络对象(例如网络地址)对应的内容的安全检测是重要的研究课题之一。

目前，采取全量爬取所有需要检测的网络地址对应的内容并检测的方式，可以理解，如果需要检测的网络地址的数量较少，全量爬取并检测很容易实现；但是，如果需要检测的网络地址的数量很大，全量爬取并检测一次需要耗费的计算资源、时间成本和人工成本都很高，检测效率低下。

技术实现要素：

本申请实施例提供了一种内容检测方法、装置及电子设备，以提高检测网络对象对应的内容的效率。

为解决上述技术问题，本申请实施例是这样实现的：

第一方面，提出了一种内容检测方法，所述方法包括：

获取待检测的网络对象的相关信息；

基于所述网络对象的相关信息，确定所述网络对象的风险标签；

基于与所述风险标签匹配的检测策略，对所述网络对象对应的内容进行安全检测，不同风险标签对应的检测策略不同。

第二方面，提出了一种内容检测装置，所述装置包括：

信息获取模块，用于获取待检测的网络对象的相关信息；

标签确定模块，用于基于所述网络对象的相关信息，确定所述网络对象的风险标签；

第一检测模块，用于基于与所述风险标签匹配的检测策略，对所述网络对象对应的内容进行安全检测，不同风险标签对应的检测策略不同。

第三方面，提出了一种电子设备，包括：

处理器；以及

被安排成存储计算机可执行指令的存储器，所述可执行指令在被执行时使所述处理器执行以下操作：

获取待检测的网络对象的相关信息；

基于所述网络对象的相关信息，确定所述网络对象的风险标签；

基于与所述风险标签匹配的检测策略，对所述网络对象对应的内容进行安全检测，不同风险标签对应的检测策略不同。

第四方面，提出了一种计算机可读存储介质，所述计算机可读存储介质存储一个或多个程序，所述一个或多个程序当被包括多个应用程序的电子设备执行时，使得所述电子设备执行以下操作：

获取待检测的网络对象的相关信息；

基于所述网络对象的相关信息，确定所述网络对象的风险标签；

基于与所述风险标签匹配的检测策略，对所述网络对象对应的内容进行安全检测，不同风险标签对应的检测策略不同。

由以上本申请实施例提供的技术方案可见，本申请实施例提供的方案至少具备如下一种技术效果：由于是先确定出网络对象的风险标签，然后基于与网络对象的风险标签匹配的检测策略，对该网络对象对应的内容进行安全检测，且不同风险标签对应的检测策略不同，而不是每次都对所有网络对象对应的内容都进行检测，这使得单次检测的数据量相对减少，因此可以减少资源消耗、缩短检测时间，进而可以提高网络对象对应的内容的效率。

附图说明

此处所说明的附图用来提供对本申请的进一步理解，构成本申请的一部分，本申请的示意性实施例及其说明用于解释本申请，并不构成对本申请的不当限定。在附图中：

图1是本说明书实施例提供的内容检测方法的一种流程示意图。

图2是本说明书实施例提供的内容检测方法的另一种流程示意图。

图3是本说明书实施例提供的内容检测方法的另一种流程示意图。

图4是本说明书实施例提供的内容检测方法的一种详细流程示意图。

图5是本说明书实施例提供的一种电子设备的结构示意图。

图6是本说明书实施例提供的内容检测装置的一种结构示意图。

图7是本说明书实施例提供的内容检测装置的另一种结构示意图。

图8是本说明书实施例提供的内容检测装置的另一种流程示意图。

具体实施方式

为使本申请的目的、技术方案和优点更加清楚，下面将结合本申请具体实施例及相应的附图对本申请技术方案进行清楚、完整地描述。显然，所描述的实施例仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。

为了提高检测网络对象对应的内容的效率，本说明书实施例提供一种内容检测方法及装置，该方法和装置可以应用于需要对网络对象对应的内容进行检测的检测系统中。例如，当网络对象为某一电商平台的商户的网络地址时，该方法和装置可以应用于电商平台的商户的网络地址对应的内容的检测系统中。

下面结合附图1至图4对本说明书实施例提供的一种内容检测方法进行详细的说明。

如图1所示，本说明书实施例提供的一种内容检测方法，可以包括如下步骤：

步骤102、获取待检测的网络对象的相关信息。

网络对象，是指可以提供网络内容的网络对象，例如网络地址、社交类应用的用户、应用市场中的应用，等等。如果网络对象为网络地址，对应提供的网络内容可以是网络地址对应的网页中的内容；如果网络对象为社交类应用的用户，对应提供的网络内容可以是用户在该社交应用中发布的文章、视频等；如果网络对象为应用市场中的应用，对应提供的网络内容可以是应用的安装文件。

网络对象的相关信息可以包括但不限于描述该网络对象本身特性的信息和/或描述该网络对象的所有者(或者说主体)特性的信息。

例如，如果网络对象为电商平台的商户的网络地址，那么该网络对象的相关信息可以包括网络地址的访问流量信息、网络地址的创建时间信息、网络地址对应的内容的历史检测信息等描述该网络地址本身特性的信息，以及商户所属的行业类型、商户的交易量、商户的信誉级别、用户对商户的评价信息、商户的类型(例如是否属于商务拓展商户(businessdevelopment，bd)等描述网络对象的所有者——商户的特性的信息。

如果网络对象为社交应用的用户，那么该网络对象的相关信息可以包括用户的地理位置、用户的性别、用户在社交应用中发布的历史内容所属的行业、用户在社交应用中发布的历史内容的类型、用户是否发布过违规内容等信息等描述网络对象的特性的信息。

如果网络对象为应用市场中的应用，那么该网络对象的相关信息可以包括应用的类型、应用的下载量、用户对应用的评价信息等描述网络对象本身特性的信息，以及应用开发者开发的其他应用的下载量、应用开发者开发的其他应用的类型、用户对应用开发者开发的其他应用的评价信息和应用开发者的信誉记录等描述网络对象的所有者特性的信息。

在一个例子中，步骤102可以在指定的时间也可以按照一定的周期去获取网络对象的相关信息，获取网络对象的相关信息可以较长，这是因为网络对象的相关信息中的部分信息随时间的推移发生变化的可能性较小，所以可以以一个较长的周期去获取。另外，可以理解，步骤102中获取的网络对象的相关信息可以按照获取时间逐渐累积保存，对于一些不易发生变化的相关信息，可以获取一次之后长期使用，这使得步骤102一次获取的数据量相对较少，因此不会影响检测网络对象对应的内容的效率。

步骤104、基于所述网络对象的相关信息，确定所述网络对象的风险标签。

风险标签可以用于表征网络对象对应存在的风险程度的高低。在本说明书实施例中，网络对象的风险标签可以由至少一个风险指标按预设的逻辑关系组合而成，或者说风险标签可以包含按照预设逻辑关系组合的至少一个风险指标。其中，预设逻辑关系包括但不限于“与”和“或”等逻辑关系。

作为一个例子，当所述网络对象为预设电商平台中的商户的网络地址时，上述风险指标可以是以下指标中的任一种：所述网络地址对应的商户是否在白名单中、所述网络地址的访问热度、所述网络地址是否为新增网络地址、所述网络地址对应的商户的行业类型、所述网络地址对应的商户的交易量、所述网络地址对应的商户是否为bd商户和所述网络地址对应的商户是否存在整改记录，等等。

继续以所述网络对象为预设电商平台中的商户的网络地址为例，网络对象的风险标签例如可以是“网络地址的访问热度大于1万每天和网络地址对应的商户不是白名单中的商户”，或者可以是“网络地址对应的商户的交易量不为零和所述网络地址对应的商户不是bd商户”，等等。

步骤106、基于与所述风险标签匹配的检测策略，对所述网络对象对应的内容进行安全检测，不同风险标签对应的检测策略不同。

可选地，在步骤106之前，本说明书实施例提供的内容检测方法还可以包括：预先配置与所述风险标签匹配的检测策略，不同的风险标签对应的检测策略可以不同。

其中，检测策略可以包括检测周期、检测深度、检测范围和具体的内容检测规则等。举例来说，当网络对象为网络地址时，检测深度可以是网络地址对应的网页页面的层级深度，譬如对于一个网站来说，进入首页之后，点击首页中的选项按钮之后可以进入下一层级的多个页面，再点击下一层级的页面中的选项按钮等还可以进一步地进入更下一层级的其他页面；检测范围可以是需要抓取内容的网页页面的数量等。

在网络对象对应的内容的安全领域，大量的风险一般集中在少数网络对象上，如在电商平台中，新增的网络地址和商户的风险一般较高，而一些存在很久并且规模较大的商户风险较低，网络地址热度特别高的信息暴露风险高，等等。因此，可以基于风险标签对网络对象进行分类，并针对代表不同风险程度的风险标签，配置不同的检测策略，具体的，当一个风险标签代表的风险程度高时，可以配置相对严格的检测策略，反之，当一个风险标签代表的风险程度高时，可以配置较相对宽松的检测策略。

以检测策略包括检测周期为例，如果所述网络对象为预设电商平台中的商户的网络地址，则当网络地址的风险标签为“网络地址的访问热度高于预设值和网络地址对应的商户不是白名单中的商户”时，与该风险标签匹配的检测策略可以是一天检测一次；当网络地址的风险标签为“网络地址的访问量为零和网络地址为新建地址”时，与该风险标签匹配的检测策略可以是三天检测一次。

可以理解，假设某电商平台需要对100万个网络地址对应的内容进行安全检测，如果采用相关技术，则每天检测都要获取这100个网址对应的内容进行检测，数据量很大，非常耗时。而如果应用本说明书实施例提供的内容检测方法，由于依据风险标签对网络对象的风险进行了分类，然后针对不同风险标签的网络对象，采用不同的检测策略，因此可以不必每天都获取这100万个网络地址对应的内容，而是基于与网络地址的风险标签匹配的检测策略，每天获取100万个网络地址的部分网络地址对应的内容进行检测，这减少了每天需要检测的数据量，缩短了检测时间，提高了检测效率。

具体实现时，如果检测策略中包含检测周期，则步骤106可以包括：确定最近一次对所述网络对象对应的内容进行安全检测的历史时间；基于所述检测策略中包含的检测周期和所述历史时间，对所述网络对象对应的内容进行安全检测。

进一步地，如果所述网络对象为网络地址，上述基于所述检测策略中包含的检测周期和所述历史时间，对所述网络对象对应的内容进行安全检测，可以包括：基于所述检测策略中包含的检测周期和所述历史时间，确定爬取所述网络对象对应的内容的爬取时间；在到达所述爬取时间后，爬取所述网络对象对应的内容(如果未到达爬取时间则不爬取)；对爬取的所述网络对象对应的内容进行安全检测。其中，爬取步骤可以由爬虫技术实现，爬取到的内容可以是文本，也可以是图片或视频等。

更进一步地，检测策略还可以包括爬取深度(与上文中的检测深度相对应)、爬取范围(与上文中的检测范围相对应)和内容检测规则，所述在到达所述爬取时间后，爬取所述网络对象对应的内容，包括：在到达所述爬取时间后，基于所述爬取深度和所述爬取范围，爬取所述网络对象对应的内容；基于所述内容检测规则，对爬取的所述网络对象对应的内容进行安全检测。其中，内容检测规则也可以预先配置，内容检测规则可以是相关技术中的检测规则，本说明书实施例对此不做限定。

总之，本说明书实施例提供的一种内容检测方法，由于是先确定出网络对象的风险标签，然后基于与网络对象的风险标签匹配的检测策略，对该网络对象对应的内容进行安全检测，且不同风险标签对应的检测策略不同，而不是每次都对所有网络对象对应的内容都进行检测，这使得单次检测的数据量相对减少，因此可以减少资源消耗、缩短检测时间，进而可以提高网络对象对应的内容的效率。

可选地，在另一实施例中，本说明书实施例提供的一种内容检测方法，还可以包括：按照固定检测周期对所述网络对象对应的内容进行安全检测。其中，固定检测周期大于相关技术中对所有需要检测的网络对象进行全量检测的周期。

例如，如果相关技术中对所有需要检测的网络对象进行全量检测的周期为1天，则上述固定检测周期可以为5天或一周。

本说明书实施例的目的在于提供一个兜底的内容安全检测方案，以一个较长的周期对需要检测的网络对象进行全量检测，防止漏检某些网络对象对应的内容。

可选地，如图2所示，在另一实施例中，在上述步骤106之前，本说明书实施例提供的一种内容检测方法，还可以包括：

步骤108、判断是否到达固定检测周期对应的检测时间；如果是，执行步骤110；否则，执行上述步骤106。

其中，固定检测周期大于相关技术中对所有需要检测的网络对象进行全量检测的周期。

步骤110、按所述固定检测周期对应的检测策略对所述网络对象对应的内容进行安全检测。

本说明书实施例的目的不仅在于提供一个兜底的内容安全检测方案，以防止漏检某些网络对象对应的内容，还在于防止按固定检测周期检测与按照与网络对象匹配的检测策略检测发生冲突，对网络对象的内容做出重复检测，造成资源浪费。

可选地，如图3所示，在上述任一实施例的基础上，本说明书实施例提供的一种内容检测方法，还可以包括：

步骤112、如果检测出所述网络对象对应的内容中包含违反预设安全规则的信息，对所述网络对象和/或所述网络对象的提供者进行审核。

作为一个例子，如果网络对象为社交应用的用户，那么违反预设安全规则的信息例如可以是诈骗信息、赌博信息等。

作为一个例子，如果网络对象为电商平台的商户的网络地址，网络对象的提供者即为该商户。

步骤114、在审核确定所述网络对象和/或所述网络对象的提供者存在安全问题时，采取预设措施对所述网络对象和/或所述网络对象的提供者进行处理。

作为一个例子，如果网络对象为电商平台的商户的网络地址，预设措施可以是下架或整改等。

本说明书实施例提供的一种内容检测方法，不仅可以提高检测网络对象对应的内容的效率，还可以在检测出网络对象对应的内容中存在违反预设安全规则信息时，进一步地对网络对象和/或网络对象的提供者进行审核，并在审核存在安全问题时，进一步地采取预设措施进行处理。

为了更清楚地理解是本说明书实施例提供的一种内容检测方法，下面以图4所示的一个更为详细的流程示意图，对本说明书实施例提供的内容检测方法进行说明，在该实施例中，网络对象为电商平台的商户的网络地址。

如图4所示，本说明书实施例提供的内容检测方法可以应用于内容检测系统400中，该系统400包括：信息管理平台41、数据分析平台42、策略管理平台43、定时任务启动平台44、爬虫种子管理平台45、内容爬取系统46、内容检测系统47、审核系统48和处理系统49。

继续参考图4，本说明书实施例提供的一种内容检测方法可以包括如下步骤：

步骤401、数据分析平台42从信息管理平台41获取网络对象的相关信息。

步骤402、数据分析平台42基于网络对象的相关信息，分析确定网络对象的标签。

步骤404、数据分析平台42将网络对象的风险标签发送至策略管理平台43。

步骤405、策略管理平台43针对不同的风险标签配置不同的检测策略。

步骤406、定时任务启动平台44启动定时检测任务；例如，在每天的固定时间启动定时检测任务。

步骤407、爬虫种子管理平台45从策略管理平台43获取与网络地址的风险标签匹配的检测策略，并基于检测策略确定在该次定时检测任务中是否需要对该网络地址对应的内容进行检测；如果需要，执行步骤408；如果不需要，等待下次定时检测任务的启动。

步骤408、爬虫种子管理平台45针对需要进行内容检测的网络地址生成爬虫种子。

步骤409、爬虫种子管理平台45将爬虫种子发送给内容爬取系统46。

步骤410、内容爬取系统46利用爬虫种子爬取需要进行内容检测的网络地址对应的内容并发送至内容检测系统47。

步骤411、内容检测系统47基于检测策略，对需要进行内容检测的网络地址对应的内容进行检测，将检测出的内容中包含违反预设安全规则的信息的网络地址发送至审核系统48。

步骤412，审核系统48接收到的网络地址和/或该网络地址对应的商户进行审核，并在审核确定网络地址和/或该网络地址对应的商户存在安全问题时，通知处理系统49采取预设措施对网络地址和/或该网络地址对应的商户进行下架等处理。

以上是对本说明书提供一种内容检测方法的说明，下面对本说明书提供的电子设备进行介绍。

图5是本说明书的一个实施例提供的电子设备的结构示意图。请参考图5，在硬件层面，该电子设备包括处理器，可选地还包括内部总线、网络接口、存储器。其中，存储器可能包含内存，例如高速随机存取存储器(random-accessmemory，ram)，也可能还包括非易失性存储器(non-volatilememory)，例如至少1个磁盘存储器等。当然，该电子设备还可能包括其他业务所需要的硬件。

处理器、网络接口和存储器可以通过内部总线相互连接，该内部总线可以是isa(industrystandardarchitecture，工业标准体系结构)总线、pci(peripheralcomponentinterconnect，外设部件互连标准)总线或eisa(extendedindustrystandardarchitecture，扩展工业标准结构)总线等。所述总线可以分为地址总线、数据总线、控制总线等。为便于表示，图5中仅用一个双向箭头表示，但并不表示仅有一根总线或一种类型的总线。

存储器，用于存放程序。具体地，程序可以包括程序代码，所述程序代码包括计算机操作指令。存储器可以包括内存和非易失性存储器，并向处理器提供指令和数据。

处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行，在逻辑层面上形成内容检测装置。处理器，执行存储器所存放的程序，并具体用于执行以下操作：

获取待检测的网络对象的相关信息；

基于所述网络对象的相关信息，确定所述网络对象的风险标签；

基于与所述风险标签匹配的检测策略，对所述网络对象对应的内容进行安全检测，不同风险标签对应的检测策略不同。

上述如本说明书图1所示实施例揭示的内容检测方法可以应用于处理器中，或者由处理器实现。处理器可能是一种集成电路芯片，具有信号的处理能力。在实现过程中，上述方法的各步骤可以通过处理器中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器可以是通用处理器，包括中央处理器(centralprocessingunit，cpu)、网络处理器(networkprocessor，np)等；还可以是数字信号处理器(digitalsignalprocessor，dsp)、专用集成电路(applicationspecificintegratedcircuit，asic)、现场可编程门阵列(field－programmablegatearray，fpga)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本说明书一个或多个实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本说明书一个或多个实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成，或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器，闪存、只读存储器，可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器，处理器读取存储器中的信息，结合其硬件完成上述方法的步骤。

该电子设备还可执行图1的内容检测方法，本说明书在此不再赘述。

当然，除了软件实现方式之外，本说明书的电子设备并不排除其他实现方式，比如逻辑器件抑或软硬件结合的方式等等，也就是说以下处理流程的执行主体并不限定于各个逻辑单元，也可以是硬件或逻辑器件。

本说明书实施例还提出了一种计算机可读存储介质，该计算机可读存储介质存储一个或多个程序，该一个或多个程序包括指令，该指令当被包括多个应用程序的便携式电子设备执行时，能够使该便携式电子设备执行图1所示实施例的方法，并具体用于执行以下操作：

获取待检测的网络对象的相关信息；

基于所述网络对象的相关信息，确定所述网络对象的风险标签；

基于与所述风险标签匹配的检测策略，对所述网络对象对应的内容进行安全检测，不同风险标签对应的检测策略不同。

图6是本说明书提供的内容检测装置600的结构示意图。请参考图6，在一种软件实施方式中，内容检测装置600可包括：信息获取模块601、标签确定模块602和第一检测模块603。

信息获取模块601，用于获取待检测的网络对象的相关信息。

网络对象，是指可以提供网络内容的网络对象，例如网络地址、社交类应用的用户、应用市场中的应用，等等。

网络对象的相关信息可以包括但不限于描述该网络对象本身特性的信息和/或描述该网络对象的所有者(或者说主体)特性的信息。

标签确定模块602，用于基于所述网络对象的相关信息，确定所述网络对象的风险标签。

风险标签可以用于表征网络对象对应存在的风险程度的高低。在本说明书实施例中，网络对象的风险标签可以由至少一个风险指标按预设的逻辑关系组合而成，或者说风险标签可以包含按照预设逻辑关系组合的至少一个风险指标。其中，预设逻辑关系包括但不限于“与”和“或”等逻辑关系。

第一检测模块603，用于基于与所述风险标签匹配的检测策略，对所述网络对象对应的内容进行安全检测，不同风险标签对应的检测策略不同。

可选地，本说明书实施例提供的内容检测方法还可以包括：配置模块，用于预先配置与所述风险标签匹配的检测策略。

具体的，当一个风险标签代表的风险程度高时，可以配置相对严格的检测策略，反之，当一个风险标签代表的风险程度高时，可以配置较相对宽松的检测策略。

其中，检测策略可以包括检测周期、检测深度、检测范围和具体的内容检测规则等。

具体实现时，如果检测策略中包含检测周期，则第一检测模块603可以用于：确定最近一次对所述网络对象对应的内容进行安全检测的历史时间；基于所述检测策略中包含的检测周期和所述历史时间，对所述网络对象对应的内容进行安全检测。

进一步地，如果所述网络对象为网络地址，第一检测模块603可以用于：基于所述检测策略中包含的检测周期和所述历史时间，确定爬取所述网络对象对应的内容的爬取时间；在到达所述爬取时间后，爬取所述网络对象对应的内容(如果未到达爬取时间则不爬取)；对爬取的所述网络对象对应的内容进行安全检测。其中，爬取步骤可以由爬虫技术实现，爬取到的内容可以是文本，也可以是图片或视频等。

更进一步地，检测策略还可以包括爬取深度(与上文中的检测深度相对应)、爬取范围(与上文中的检测范围相对应)和内容检测规则，第一检测模块603可以用于：在到达所述爬取时间后，基于所述爬取深度和所述爬取范围，爬取所述网络对象对应的内容；基于所述内容检测规则，对爬取的所述网络对象对应的内容进行安全检测。其中，内容检测规则也可以预先配置，内容检测规则可以是相关技术中的检测规则，本说明书实施例对此不做限定。

本说明书实施例提供的内容检测装置600，由于是先确定出网络对象的风险标签，然后基于与网络对象的风险标签匹配的检测策略，对该网络对象对应的内容进行安全检测，且不同风险标签对应的检测策略不同，而不是每次都对所有网络对象对应的内容都进行检测，这使得单次检测的数据量相对减少，因此可以减少资源消耗、缩短检测时间，进而可以提高网络对象对应的内容的效率。

可选地，在另一实施例中，本说明书实施例提供的内容检测装置600，还可以包括：第二监测模块，用于按照固定检测周期对所述网络对象对应的内容进行安全检测。其中，固定检测周期大于相关技术中对所有需要检测的网络对象进行全量检测的周期。

本说明书实施例的目的在于提供一个兜底的内容安全检测方案，以一个较长的周期对需要检测的网络对象进行全量检测，防止漏检某些网络对象对应的内容。

可选地，如图7所示，在另一实施例中，本说明书实施例提供的内容检测装置600，还可以包括：判断模块604和第二检测模块605。

判断模块604，用于判断是否到达固定检测周期对应的检测时间；如果是，触发第二检测模块605；否则，触发第一检测模块603。

其中，固定检测周期大于相关技术中对所有需要检测的网络对象进行全量检测的周期。

第二检测模块605，用于按所述固定检测周期对应的检测策略对所述网络对象对应的内容进行安全检测。

本说明书实施例的目的不仅在于提供一个兜底的内容安全检测方案，以防止漏检某些网络对象对应的内容，还在于防止按固定检测周期检测与按照与网络对象匹配的检测策略检测发生冲突，对网络对象的内容做出重复检测，造成资源浪费。

可选地，如图8所示，在上述任一实施例的基础上，本说明书实施例提供的内容检测装置600，还可以包括：审核模块606和处理模块607。

审核模块606，用于如果检测出所述网络对象对应的内容中包含违反预设安全规则的信息，对所述网络对象和/或所述网络对象的提供者进行审核。

处理模块607，用于在审核确定所述网络对象和/或所述网络对象的提供者存在安全问题时，采取预设措施对所述网络对象和/或所述网络对象的提供者进行处理。

本说明书实施例提供的内容检测装置600，不仅可以提高检测网络对象对应的内容的效率，还可以在检测出网络对象对应的内容中存在违反预设安全规则信息时，进一步地对网络对象和/或网络对象的提供者进行审核，并在审核存在安全问题时，进一步地采取预设措施进行处理。

需要说明的是，内容检测装置600能够实现图1的方法实施例的方法，相关之处可参考图1所示实施例的内容检测方法，此处不再赘述。

总之，以上所述仅为本说明书的较佳实施例而已，并非用于限定本说明书的保护范围。凡在本说明书一个或多个实施例的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本说明书一个或多个实施例的保护范围之内。

上述实施例阐明的系统、装置、模块或单元，具体可以由计算机芯片或实体实现，或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的，计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。

计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(pram)、静态随机存取存储器(sram)、动态随机存取存储器(dram)、其他类型的随机存取存储器(ram)、只读存储器(rom)、电可擦除可编程只读存储器(eeprom)、快闪记忆体或其他内存技术、只读光盘只读存储器(cd-rom)、数字多功能光盘(dvd)或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体(transitorymedia)，如调制的数据信号和载波。

还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制时，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。

本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于系统实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。