视频直播内容过滤方法及装置、计算设备与流程

本发明涉及图像检测领域，具体涉及一种视频直播内容过滤方法及装置、计算设备。

背景技术：

随着科技的发展，以及用户消费升级时代的到来，直播作为一种新的表达方式，越来越多的被用户接受，并迅猛发展。直播是由主播在主播端录制视频，将视频发送给服务器，再由服务器将视频分发给观看直播的客户端，以供用户在客户端观看直播视频。

直播发展迅猛，各种各样的直播层次不穷，直播的质量也良莠不齐。因此，需要对直播内容进行过滤，去除不良的直播内容，避免对用户造成不良影响。现有技术在对直播内容进行过滤时，一般是在服务器对所有的直播内容进行过滤。这样使得服务器同时处理多个直播内容，服务器承受的压力很大，成本开销巨大，也会导致用户在观看直播时受到影响。

因此，需要一种视频直播内容过滤方法，以减轻服务器压力，减少服务器开销。

技术实现要素：

鉴于上述问题，提出了本发明以便提供一种克服上述问题或者至少部分地解决上述问题的视频直播内容过滤方法及装置、计算设备。

根据本发明的一个方面，提供了一种视频直播内容过滤方法，其包括：

接收主播端发送的主播所在直播间对应的视频直播内容；

当至少一个客户端进入该直播间时，在至少一个客户端安装过滤器；其中，在至少一个客户端安装至少一个过滤器；

将视频直播内容分发给至少一个客户端，以供至少一个客户端利用安装的至少一个过滤器对视频直播内容进行评分；

接收至少一个客户端返回的至少一个第一评分，并根据至少一个第一评分确定是否对视频直播内容进行过滤处理。

可选地，在至少一个客户端进入该直播间时，在至少一个客户端安装过滤器进一步包括：

统计进入该直播间的客户端的个数；

若客户端的个数小于或等于过滤器的种类总数量，在至少一个客户端分别安装不同种类的至少一个过滤器；

若客户端的个数大于过滤器的种类总数量，在至少一个客户端安装相同或不同种类的至少一个过滤器。

可选地，将视频直播内容分发给至少一个客户端，以供至少一个客户端利用安装的至少一个过滤器对视频直播内容进行评分进一步包括：

针对安装有相同种类的过滤器的多个客户端，从该多个客户端中选取一个或多个客户端作为评分用客户端；

将视频直播内容分发给选取的评分用客户端，以供该评分用客户端利用预先安装的至少一个过滤器对视频直播内容进行评分。

可选地，将视频直播内容分发给至少一个客户端，以供至少一个客户端利用预先安装的至少一个过滤器对视频直播内容进行评分进一步包括：

针对安装有相同种类的过滤器的多个客户端，将该多个客户端作为一组评分用客户端；

对视频直播内容包含的帧图像进行分组处理；其中，分组个数与一组评分用客户端的个数一致；

将分组处理后的各组帧图像分发给一组评分用客户端；其中，每个评分用客户端利用预先安装的至少一个过滤器对一组帧图像进行评分。

可选地，接收至少一个客户端返回的至少一个第一评分，并根据至少一个第一评分确定是否对视频直播内容进行过滤处理进一步包括：

接收至少一个客户端返回的至少一个第一评分，并根据至少一个第一评分统计得到视频直播内容的第二评分；

根据第二评分确定是否对视频直播内容进行过滤处理。

可选地，方法还包括：

根据各个过滤器的过滤内容，预先对每个过滤器设置对应的权重参数；

接收至少一个客户端返回的至少一个第一评分，并根据至少一个第一评分统计得到视频直播内容的第二评分进一步包括：

接收至少一个客户端返回的至少一个第一评分及对应的权重；

将至少一个第一评分与其对应权重参数的乘积进行累加，计算累加结果的平均值，得到视频直播内容的第二评分。

可选地，根据第二评分确定是否对视频直播内容进行过滤处理进一步包括：

判断第二评分是否低于预设阈值；

若是，则确定对视频直播内容进行过滤处理。

可选地，方法还包括：

在至少一个客户端退出该直播间时，对已安装的过滤器进行卸除处理。

根据本发明的另一方面，提供了一种视频直播内容过滤装置，其包括：

接收模块，适于接收主播端发送的主播所在直播间对应的视频直播内容；

安装模块，适于当至少一个客户端进入该直播间时，在至少一个客户端安装过滤器；其中，在至少一个客户端安装至少一个过滤器；

评分模块，适于将视频直播内容分发给至少一个客户端，以供至少一个客户端利用安装的至少一个过滤器对视频直播内容进行评分；

过滤模块，适于接收至少一个客户端返回的至少一个第一评分，并根据至少一个第一评分确定是否对视频直播内容进行过滤处理。

可选地，安装模块进一步适于：

统计进入该直播间的客户端的个数；

若客户端的个数小于或等于过滤器的种类总数量，在至少一个客户端分别安装不同种类的至少一个过滤器；

若客户端的个数大于过滤器的种类总数量，在至少一个客户端安装相同或不同种类的至少一个过滤器。

可选地，评分模块进一步适于：

针对安装有相同种类的过滤器的多个客户端，从该多个客户端中选取一个或多个客户端作为评分用客户端；

将视频直播内容分发给选取的评分用客户端，以供该评分用客户端利用预先安装的至少一个过滤器对视频直播内容进行评分。

可选地，评分模块进一步适于：

针对安装有相同种类的过滤器的多个客户端，将该多个客户端作为一组评分用客户端；

对视频直播内容包含的帧图像进行分组处理；其中，分组个数与一组评分用客户端的个数一致；

将分组处理后的各组帧图像分发给一组评分用客户端；其中，每个评分用客户端利用预先安装的至少一个过滤器对一组帧图像进行评分。

可选地，过滤模块进一步适于：

接收至少一个客户端返回的至少一个第一评分，并根据至少一个第一评分统计得到视频直播内容的第二评分；

根据第二评分确定是否对视频直播内容进行过滤处理。

可选地，装置还包括：

权重设置模块，适于根据各个过滤器的过滤内容，预先对每个过滤器设置对应的权重参数；

过滤模块进一步适于：

接收至少一个客户端返回的至少一个第一评分及对应的权重；

将至少一个第一评分与其对应权重参数的乘积进行累加，计算累加结果的平均值，得到视频直播内容的第二评分。

可选地，过滤模块进一步适于：

判断第二评分是否低于预设阈值；若是，则确定对视频直播内容进行过滤处理。

可选地，装置还包括：

卸除模块，适于在至少一个客户端退出该直播间时，对已安装的过滤器进行卸除处理。

根据本发明的又一方面，提供了一种计算设备，包括：处理器、存储器、通信接口和通信总线，处理器、存储器和通信接口通过通信总线完成相互间的通信；

存储器用于存放至少一可执行指令，可执行指令使处理器执行上述视频直播内容过滤方法对应的操作。

根据本发明的再一方面，提供了一种计算机存储介质，存储介质中存储有至少一可执行指令，可执行指令使处理器执行如上述视频直播内容过滤方法对应的操作。

根据本发明提供的视频直播内容过滤方法及装置、计算设备，接收主播端发送的主播所在直播间对应的视频直播内容；当至少一个客户端进入该直播间时，在至少一个客户端安装过滤器；其中，在至少一个客户端安装至少一个过滤器；将视频直播内容分发给至少一个客户端，以供至少一个客户端利用安装的至少一个过滤器对视频直播内容进行评分；接收至少一个客户端返回的至少一个第一评分，并根据至少一个第一评分确定是否对视频直播内容进行过滤处理。本发明在客户端进入直播间时，在客户端安装过滤器，由客户端利用过滤器对视频直播内容进行评分，减轻了服务器承受的压力，使得对视频直播内容的过滤由服务器转移到客户端，节省了服务器的开销。且本发明利用观看直播用户较多的特点，可以在多个客户端安装不同的过滤器，使得多个不同过滤器分别对视频直播内容进行评分，可以使评分更加准确。

上述说明仅是本发明技术方案的概述，为了能够更清楚了解本发明的技术手段，而可依照说明书的内容予以实施，并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂，以下特举本发明的具体实施方式。

附图说明

通过阅读下文优选实施方式的详细描述，各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的，而并不认为是对本发明的限制。而且在整个附图中，用相同的参考符号表示相同的部件。在附图中：

图1示出了根据本发明一个实施例的视频直播内容过滤方法的流程图；

图2示出了根据本发明另一个实施例的视频直播内容过滤方法的流程图；

图3示出了根据本发明一个实施例的视频直播内容过滤装置的功能框图；

图4示出了根据本发明另一个实施例的视频直播内容过滤装置的功能框图；

图5示出了根据本发明一个实施例的一种计算设备的结构示意图。

具体实施方式

下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例，然而应当理解，可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了能够更透彻地理解本公开，并且能够将本公开的范围完整的传达给本领域的技术人员。

图1示出了根据本发明一个实施例的视频直播内容过滤方法的流程图。如图1所示，视频直播内容过滤方法具体包括如下步骤：

步骤S101，接收主播端发送的主播所在直播间对应的视频直播内容。

主播可以利用其主播端录制视频直播内容，同时实时地发送其录制的视频直播内容。接收到主播端发送的视频直播内容，同时标记该视频直播内容对应的直播间为主播所在的直播间。

步骤S102，当至少一个客户端进入该直播间时，在至少一个客户端安装过滤器。

在至少一个客户端进入到该直播间后，统计进入该直播间的客户端的个数。根据统计的客户端的个数，在至少一个客户端安装过滤器。其中，在至少一个客户端安装至少一个过滤器。具体的，若客户端的个数小于或等于过滤器的种类总数量，在至少一个客户端分别安装不同种类的至少一个过滤器。如客户端包括客户端1，客户端2，过滤器包括A过滤器、B过滤器，则客户端1安装A过滤器、客户端2安装B滤器；或者，客户端包括客户端1，客户端2，过滤器包括A过滤器、B过滤器、C过滤器，客户端1安装A过滤器、客户端2安装C过滤器或客户端1安装B过滤器、客户端2安装C过滤器等。若客户端的个数大于过滤器的种类总数量，在至少一个客户端安装相同或不同种类的至少一个过滤器。客户端包括客户端1，客户端2，客户端3，过滤器包括A过滤器、B过滤器，客户端1安装A过滤器、客户端2安装B滤器，客户端3安装A过滤器。具体哪个客户端安装哪个种类过滤器可以随机设置，此处不做限定。

不同种类过滤器中包含不同的算法、从不同维度、不同数据类型等多方面进行计算，对视频直播内容进行评分。过滤器的大小设置在几k左右，方便对客户端进行安装。具体安装方式根据实施情况进行设置，此处不做设定。

步骤S103，将视频直播内容分发给至少一个客户端，以供至少一个客户端利用安装的至少一个过滤器对视频直播内容进行评分。

在至少一个客户端进入该直播间后，可以对应的将标记该直播间的视频直播内容分发给至少一个客户端，客户端利用安装的至少一个过滤器可以对视频直播内容进行对应的评分。

步骤S104，接收至少一个客户端返回的至少一个第一评分，并根据至少一个第一评分确定是否对视频直播内容进行过滤处理。

接收至少一个客户端返回的至少一个第一评分，根据至少一个第一评分的高低，对视频直播内容进行相应的处理。如当至少一个第一评分过低时，对视频直播内容进行过滤处理，不再继续向该直播间的所有客户端分发视频直播内容。考虑直播观看用户一般人数较多，接收到多个客户端返回的多个第一评分时，可以对多个第一评分进行统计，如多个第一评分分值均较低时，或计算所有第一评分的平均分值，当平均分值较低时，对视频直播内容进行过滤处理，不再继续向进入该直播间的所有客户端分发视频直播内容。具体确定是否对视频直播内容进行过滤处理的方式此处不做限定。

根据本发明提供的视频直播内容过滤方法，接收主播端发送的主播所在直播间对应的视频直播内容；当至少一个客户端进入该直播间时，在至少一个客户端安装过滤器；其中，在至少一个客户端安装至少一个过滤器；将视频直播内容分发给至少一个客户端，以供至少一个客户端利用安装的至少一个过滤器对视频直播内容进行评分；接收至少一个客户端返回的至少一个第一评分，并根据至少一个第一评分确定是否对视频直播内容进行过滤处理。本发明在客户端进入直播间时，在客户端安装过滤器，由客户端利用过滤器对视频直播内容进行评分，减轻了服务器承受的压力，使得对视频直播内容的过滤由服务器转移到客户端，节省了服务器的开销。且本发明利用观看直播用户较多的特点，可以在多个客户端安装不同的过滤器，使得多个不同过滤器分别对视频直播内容进行评分，可以使评分更加准确。

图2示出了根据本发明另一个实施例的视频直播内容过滤方法的流程图。如图2所示，视频直播内容过滤方法具体包括如下步骤：

步骤S201，接收主播端发送的主播所在直播间对应的视频直播内容。

步骤S202，当至少一个客户端进入该直播间时，在至少一个客户端安装过滤器。

以上步骤参照图1实施例步骤S101-S102的描述，在此不再赘述。

步骤S203，针对安装有相同种类的过滤器的多个客户端，从该多个客户端中选取一个或多个客户端作为评分用客户端。

步骤S204，将视频直播内容分发给选取的评分用客户端，以供该评分用客户端利用预先安装的至少一个过滤器对视频直播内容进行评分。

针对安装有相同种类的过滤器的多个客户端，从该多个客户端中选取一个或多个客户端作为评分用客户端。如客户端1，客户端6，客户端8均安装了A过滤器，考虑到同一种类过滤器对视频直播内容评分均相同，不需要使用多个安装相同种类过滤器的客户端都进行评分，可以从中仅选取客户端1作为评分用客户端即可。或者可以选取客户端1和客户端6作为评分用客户端，以预防客户端1可能出现问题导致无法评分的情况。然后将视频直播内容分发给选取的评分用客户端，以供该评分用客户端利用预先安装的至少一个过滤器对视频直播内容进行评分。

步骤S205，针对安装有相同种类的过滤器的多个客户端，将该多个客户端作为一组评分用客户端。

步骤S206，对视频直播内容包含的帧图像进行分组处理。

步骤S207，将分组处理后的各组帧图像分发给一组评分用客户端，每个评分用客户端利用预先安装的至少一个过滤器对一组帧图像进行评分。

针对安装有相同种类的过滤器的多个客户端，将该多个客户端作为一组评分用客户端。如客户端1，客户端6，客户端8均安装了A过滤器。客户端1，客户端6，客户端8作为一组评分用客户端。然后对视频直播内容包含的帧图像进行分组处理。其中，分组个数与一组评分用客户端的个数一致。如将6帧图像中的第1，2帧图像分为一组，第3，4帧图像分为一组，第5，6帧图像分为一组。将分组处理后的各组帧图像分发给一组评分用客户端。第1，2帧图像分发给客户端1，第3，4帧图像分发给客户端6，第5，6帧图像分发给客户端8，由每个评分用客户端利用预先安装的至少一个过滤器对一组帧图像进行评分。客户端1利用A过滤器对第1，2帧图像评分，客户端6利用A过滤器对第1，2帧图像评分，客户端8利用A过滤器对第5，6帧图像评分。这样可以提高客户端评分的速度，减轻客户端的压力。

进一步，具体分组处理时各组包含的帧图像的帧数量可以相同，也可以不同。当不同种类过滤器对应的各组评分用客户端的客户端数不一致时，如安装A过滤器客户端3个，安装B过滤器客户端4个，为方便对帧图像分组，可以从安装B过滤器客户端选取3个作为B过滤器评分用客户端；或者，也可以将帧图像对应不同的过滤器分成不同的组，对于A过滤器分为3组，对于B过滤器分为4组，分别分发给对应的客户端，以供每个评分用客户端利用预先安装的至少一个过滤器对一组帧图像进行评分。需要注意的是，在分组处理后，各评分用客户端依然接收服务器分发的完整的视频直播内容，但各评分用客户端仅对分组分发的帧图像进行评分，但不需要对完整的视频直播内容进行评分。

在具体实施时，可以选择使用步骤S203-S204对视频直播内容进行评分，或者选择使用步骤S205-S207对视频直播内容进行评分，具体选择使用哪种方式根据实施情况进行设置，此处不做限定。

步骤S208，根据至少一个第一评分统计得到视频直播内容的第二评分。

根据过滤器种类的不同，可以预先对每个过滤器设置对应的权重参数。如A过滤器权重0.2，B过滤器权重0.4等。对应的，根据过滤器具体的过滤内容的重要性设置权重参数，重要性高的权重参数较高，重要性低的权重参数较低。

接收至少一个客户端返回的至少一个第一评分，以及根据客户端安装的过滤器种类得到对应的权重。将至少一个第一评分与其对应权重参数的乘积进行累加，计算累加结果的平均值，得到视频直播内容的第二评分。

步骤S209，判断第二评分是否低于预设阈值。

根据第二评分确定是否对视频直播内容进行过滤处理，判断第二评分低于预设阈值，则执行步骤S210，否则，不对该视频直播内容进行处理，继续分发该视频直播内容给各个客户端，供各个客户端观看。

步骤S210，确定对视频直播内容进行过滤处理。

第二评分低于预设阈值，不再继续向该直播间的所有客户端分发视频直播内容，客户端均无法继续观看视频直播内容。

步骤S211，在至少一个客户端退出该直播间时，对已安装的过滤器进行卸除处理。

考虑到客户端可能下次进入的不是该直播间，每个直播间对应的视频直播内容可能存在如类型、数据不同等问题，在该直播间安装的过滤器可能不适用于其他直播间的情况，或者，为客户端节省存储空间考虑，在至少一个客户端退出该直播间时，对已安装的过滤器进行卸除处理。

该步骤为可选步骤，也可以对已安装的过滤器不进行卸除处理，方便在用户下次进入该直播间时可以直接对视频直播内容进行评分。

根据本发明提供的视频直播内容过滤方法，在分发视频直播内容时，对于多个安装有相同种类的过滤器的客户端，可以从中选取一个或多个客户端作为评分用客户端，仅利用这些评分用客户端进行评分，避免重复评分；或者也可以将安装有相同种类的过滤器的多个客户端作为一组评分用客户端，对视频直播内容包含的帧图像进行分组，每个评分用客户端利用预先安装的至少一个过滤器对一组帧图像进行评分，充分利用多个客户端的优势，减轻客户端压力。在得到第一评分后，根据第一评分，以及过滤器种类对应的权重参数，计算得到第二评分。根据第二评分的高低，来确定对视频直播内容是否进行过滤处理。本发明利用客户端安装过滤器对视频直播内容进行评分，减轻了服务器承受的压力，使得对视频直播内容的过滤由服务器转移到客户端，节省了服务器的开销。且本发明利用观看直播用户较多的特点，可以在多个客户端安装不同的过滤器，使得多个不同过滤器分别对视频直播内容进行评分，可以使评分更加准确。

图3示出了根据本发明一个实施例的视频直播内容过滤装置的功能框图。如图3所示，视频直播内容过滤装置包括如下模块：

接收模块310，适于接收主播端发送的主播所在直播间对应的视频直播内容。

主播可以利用其主播端录制视频直播内容，同时实时地发送其录制的视频直播内容。接收模块310接收到主播端发送的视频直播内容，同时标记该视频直播内容对应的直播间为主播所在的直播间。

安装模块320，适于当至少一个客户端进入该直播间时，在至少一个客户端安装过滤器。

在至少一个客户端进入到该直播间后，安装模块320统计进入该直播间的客户端的个数。安装模块320根据统计的客户端的个数，在至少一个客户端安装过滤器。其中，安装模块320在至少一个客户端安装至少一个过滤器。具体的，若客户端的个数小于或等于过滤器的种类总数量，安装模块320在至少一个客户端分别安装不同种类的至少一个过滤器。如客户端包括客户端1，客户端2，过滤器包括A过滤器、B过滤器，则安装模块320在客户端1安装A过滤器、客户端2安装B滤器；或者，客户端包括客户端1，客户端2，过滤器包括A过滤器、B过滤器、C过滤器，安装模块320在客户端1安装A过滤器、客户端2安装C过滤器或客户端1安装B过滤器、客户端2安装C过滤器等。若客户端的个数大于过滤器的种类总数量，安装模块320在至少一个客户端安装相同或不同种类的至少一个过滤器。客户端包括客户端1，客户端2，客户端3，过滤器包括A过滤器、B过滤器，安装模块320在客户端1安装A过滤器、客户端2安装B滤器，客户端3安装A过滤器。具体哪个客户端安装哪个种类过滤器可以随机设置，此处不做限定。

不同种类过滤器中包含不同的算法、从不同维度、不同数据类型等多方面进行计算，对视频直播内容进行评分。过滤器的大小设置在几k左右，方便对客户端进行安装。具体安装方式根据实施情况进行设置，此处不做设定。

评分模块330，适于将视频直播内容分发给至少一个客户端，以供至少一个客户端利用安装的至少一个过滤器对视频直播内容进行评分。

评分模块330在至少一个客户端进入该直播间后，可以对应的将标记该直播间的视频直播内容分发给至少一个客户端，客户端利用安装的至少一个过滤器可以对视频直播内容进行对应的评分。

在将视频直播内容分发给至少一个客户端时，可以采用以下不同方式：

针对安装有相同种类的过滤器的多个客户端，评分模块330从该多个客户端中选取一个或多个客户端作为评分用客户端。如客户端1，客户端6，客户端8均安装了A过滤器，考虑到同一种类过滤器对视频直播内容评分均相同，不需要使用多个安装相同种类过滤器的客户端都进行评分，评分模块330可以从中仅选取客户端1作为评分用客户端即可。或者评分模块330可以选取客户端1和客户端6作为评分用客户端，以预防客户端1可能出现问题导致无法评分的情况。然后评分模块330将视频直播内容分发给选取的评分用客户端，以供该评分用客户端利用预先安装的至少一个过滤器对视频直播内容进行评分。

或者，针对安装有相同种类的过滤器的多个客户端，评分模块330将该多个客户端作为一组评分用客户端。如客户端1，客户端6，客户端8均安装了A过滤器。客户端1，客户端6，客户端8作为一组评分用客户端。然后评分模块330对视频直播内容包含的帧图像进行分组处理。其中，分组个数与一组评分用客户端的个数一致。如评分模块330将6帧图像中的第1，2帧图像分为一组，第3，4帧图像分为一组，第5，6帧图像分为一组。评分模块330将分组处理后的各组帧图像分发给一组评分用客户端。第1，2帧图像分发给客户端1，第3，4帧图像分发给客户端6，第5，6帧图像分发给客户端8，由每个评分用客户端利用预先安装的至少一个过滤器对一组帧图像进行评分。客户端1利用A过滤器对第1，2帧图像评分，客户端6利用A过滤器对第1，2帧图像评分，客户端8利用A过滤器对第5，6帧图像评分。这样可以提高客户端评分的速度，减轻客户端的压力。

进一步，评分模块330具体分组处理时各组包含的帧图像的帧数量可以相同，也可以不同。当不同种类过滤器对应的各组评分用客户端的客户端数不一致时，如安装A过滤器客户端3个，安装B过滤器客户端4个，为方便对帧图像分组，评分模块330可以从安装B过滤器客户端选取3个作为B过滤器评分用客户端；或者，评分模块330也可以将帧图像对应不同的过滤器分成不同的组，对于A过滤器分为3组，对于B过滤器分为4组，分别分发给对应的客户端，以供每个评分用客户端利用预先安装的至少一个过滤器对一组帧图像进行评分。需要注意的是，评分模块330在分组处理后，各评分用客户端依然接收服务器分发的完整的视频直播内容，但各评分用客户端仅对分组分发的帧图像进行评分，但不需要对完整的视频直播内容进行评分。

过滤模块340，适于接收至少一个客户端返回的至少一个第一评分，并根据至少一个第一评分确定是否对视频直播内容进行过滤处理。

过滤模块340接收至少一个客户端返回的至少一个第一评分，根据至少一个第一评分的高低，对视频直播内容进行相应的处理。如当至少一个第一评分过低时，过滤模块340对视频直播内容进行过滤处理，不再继续向该直播间的所有客户端分发视频直播内容。考虑直播观看用户一般人数较多，过滤模块340接收到多个客户端返回的多个第一评分时，可以对多个第一评分进行统计，如多个第一评分分值均较低时，或计算所有第一评分的平均分值，当平均分值较低时，过滤模块340对视频直播内容进行过滤处理，不再继续向进入该直播间的所有客户端分发视频直播内容。具体确定是否对视频直播内容进行过滤处理的方式此处不做限定。

根据本发明提供的视频直播内容过滤装置，接收主播端发送的主播所在直播间对应的视频直播内容；当至少一个客户端进入该直播间时，在至少一个客户端安装过滤器；其中，在至少一个客户端安装至少一个过滤器；将视频直播内容分发给至少一个客户端，以供至少一个客户端利用安装的至少一个过滤器对视频直播内容进行评分；接收至少一个客户端返回的至少一个第一评分，并根据至少一个第一评分确定是否对视频直播内容进行过滤处理。本发明在客户端进入直播间时，在客户端安装过滤器，由客户端利用过滤器对视频直播内容进行评分，减轻了服务器承受的压力，使得对视频直播内容的过滤由服务器转移到客户端，节省了服务器的开销。且本发明利用观看直播用户较多的特点，可以在多个客户端安装不同的过滤器，使得多个不同过滤器分别对视频直播内容进行评分，可以使评分更加准确。进一步，在分发视频直播内容时，对于多个安装有相同种类的过滤器的客户端，可以从中选取一个或多个客户端作为评分用客户端，仅利用这些评分用客户端进行评分，避免重复评分；或者也可以将安装有相同种类的过滤器的多个客户端作为一组评分用客户端，对视频直播内容包含的帧图像进行分组，每个评分用客户端利用预先安装的至少一个过滤器对一组帧图像进行评分，充分利用多个客户端的优势，减轻客户端压力。

图4示出了根据本发明另一个实施例的视频直播内容过滤装置的功能框图。如图4所示，与图3不同之处在于，视频直播内容过滤装置还包括：

权重设置模块350，适于根据各个过滤器的过滤内容，预先对每个过滤器设置对应的权重参数。

权重设置模块350根据过滤器种类的不同，可以预先对每个过滤器设置对应的权重参数。如A过滤器权重0.2，B过滤器权重0.4等。对应的，根据过滤器具体的过滤内容的重要性设置权重参数，重要性高的权重设置模块350设置权重参数较高，重要性低的权重设置模块350设置权重参数较低。

过滤模块340进一步适于接收至少一个客户端返回的至少一个第一评分，以及根据客户端安装的过滤器种类得到对应的权重。过滤模块340将至少一个第一评分与其对应权重参数的乘积进行累加，计算累加结果的平均值，得到视频直播内容的第二评分。

过滤模块340根据第二评分确定是否对视频直播内容进行过滤处理，当过滤模块340判断第二评分低于预设阈值，则不再继续向该直播间的所有客户端分发视频直播内容，客户端均无法继续观看视频直播内容。否则，过滤模块340不对该视频直播内容进行处理，继续分发该视频直播内容给各个客户端，供各个客户端观看。

卸除模块360，适于在至少一个客户端退出该直播间时，对已安装的过滤器进行卸除处理。

考虑到客户端可能下次进入的不是该直播间，每个直播间对应的视频直播内容可能存在如类型、数据不同等问题，在该直播间安装的过滤器可能不适用于其他直播间的情况，或者，为客户端节省存储空间考虑，卸除模块360在至少一个客户端退出该直播间时，对已安装的过滤器进行卸除处理。

卸除模块360为可选模块，本装置也可以对已安装的过滤器不进行卸除处理，方便在用户下次进入该直播间时可以直接对视频直播内容进行评分。

根据本发明提供的视频直播内容过滤装置，在得到第一评分后，根据第一评分，以及过滤器种类对应的权重参数，计算得到第二评分。根据第二评分的高低，来确定对视频直播内容是否进行过滤处理。本发明利用客户端安装过滤器对视频直播内容进行评分，减轻了服务器承受的压力，使得对视频直播内容的过滤由服务器转移到客户端，节省了服务器的开销。且本发明利用观看直播用户较多的特点，可以在多个客户端安装不同的过滤器，使得多个不同过滤器分别对视频直播内容进行评分，可以使评分更加准确。

本申请还提供了一种非易失性计算机存储介质，所述计算机存储介质存储有至少一可执行指令，该计算机可执行指令可执行上述任意方法实施例中的视频直播内容过滤方法。

图5示出了根据本发明一个实施例的一种计算设备的结构示意图，本发明具体实施例并不对计算设备的具体实现做限定。

如图5所示，该计算设备可以包括：处理器(processor)502、通信接口(Communications Interface)504、存储器(memory)506、以及通信总线508。

其中：

处理器502、通信接口504、以及存储器506通过通信总线508完成相互间的通信。

通信接口504，用于与其它设备比如客户端或其它服务器等的网元通信。

处理器502，用于执行程序510，具体可以执行上述视频直播内容过滤方法实施例中的相关步骤。

具体地，程序510可以包括程序代码，该程序代码包括计算机操作指令。

处理器502可能是中央处理器CPU，或者是特定集成电路ASIC(Application Specific Integrated Circuit)，或者是被配置成实施本发明实施例的一个或多个集成电路。计算设备包括的一个或多个处理器，可以是同一类型的处理器，如一个或多个CPU；也可以是不同类型的处理器，如一个或多个CPU以及一个或多个ASIC。

存储器506，用于存放程序510。存储器506可能包含高速RAM存储器，也可能还包括非易失性存储器(non-volatile memory)，例如至少一个磁盘存储器。

程序510具体可以用于使得处理器502执行上述任意方法实施例中的视频直播内容过滤方法。程序510中各步骤的具体实现可以参见上述视频直播内容过滤实施例中的相应步骤和单元中对应的描述，在此不赘述。所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的设备和模块的具体工作过程，可以参考前述方法实施例中的对应过程描述，在此不再赘述。

在此提供的算法和显示不与任何特定计算机、虚拟系统或者其它设备固有相关。各种通用系统也可以与基于在此的示教一起使用。根据上面的描述，构造这类系统所要求的结构是显而易见的。此外，本发明也不针对任何特定编程语言。应当明白，可以利用各种编程语言实现在此描述的本发明的内容，并且上面对特定语言所做的描述是为了披露本发明的最佳实施方式。

在此处所提供的说明书中，说明了大量具体细节。然而，能够理解，本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中，并未详细示出公知的方法、结构和技术，以便不模糊对本说明书的理解。

类似地，应当理解，为了精简本公开并帮助理解各个发明方面中的一个或多个，在上面对本发明的示例性实施例的描述中，本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而，并不应将该公开的方法解释成反映如下意图：即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说，如下面的权利要求书所反映的那样，发明方面在于少于前面公开的单个实施例的所有特征。因此，遵循具体实施方式的权利要求书由此明确地并入该具体实施方式，其中每个权利要求本身都作为本发明的单独实施例。

本领域那些技术人员可以理解，可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件，以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外，可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述，本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。

此外，本领域的技术人员能够理解，尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征，但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如，在下面的权利要求书中，所要求保护的实施例的任意之一都可以以任意的组合方式来使用。

本发明的各个部件实施例可以以硬件实现，或者以在一个或者多个处理器上运行的软件模块实现，或者以它们的组合实现。本领域的技术人员应当理解，可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的视频直播内容过滤的装置中的一些或者全部部件的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如，计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上，或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到，或者在载体信号上提供，或者以任何其他形式提供。

应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制，并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中，不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中，这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。