一种用于鉴别视频直播中异常直播信息的方法和设备与流程

本申请涉及计算机领域，尤其涉及一种用于鉴别视频直播中异常直播信息的技术。

背景技术：

随着互联网技术和智能终端多屏化的飞速发展，视频直播行业得到了迅猛的发展，无论是电视、pc还是手机，我们都能够接触到视频直播的内容。在视频直播行业飞速发展的背后，却不时的出现“直播造娃娃”、“直播飙车”等挑战法律和社会伦理底线的直播内容，因此，视频直播中非法直播内容的鉴别就显得极为重要。

现有技术中，对直播平台的非法直播内容的管理通过管理员对直播间进行人肉巡逻，首先，管理员根据是否接到用户举报，若是则进入举报的直播间巡查，若没有接到举报则接着随机选择一个直播间进行巡查；然后，根据巡查结果进行相应的处理，若巡查结果有非法直播内容，则警告或者关闭该直播间，然后继续根据用户举报进行巡查或者随机选择一个直播间进行巡查，若巡查结果没有非法直播内容，则根据用户举报进行巡查。由于视频直播通过管理员人肉巡逻，这样的检测几乎是所有的直播内容进行的普查，缺少差异性对待且需要巨大的人力投入，当视频直播平台扩大时，管理员的数量亦成为制约平台的因素，导致在浪费人力资源的同时又缺少了对游走在非法直播内容的边缘直播的特定排查力度，造成成本高且扩展性低；又由于通过人肉巡查对非法直播内容进行的排查缺少实时性，导致实时性差，同时，对是视频直播的鉴别也只能以抽查的方式进行，导致对非法直播视频的处理效率低。

因此，现有技术中通过管理员对直播平台的非法直播内容进行人肉巡逻，导致实时性差、效率低、成本高且扩展性低。

技术实现要素：

本申请的目的是提供一种用于鉴别视频直播中异常直播信息的方法与设备，以解决现有技术中通过管理员对直播平台的非法直播内容进行人肉巡逻，导致实时性差、效率低、成本高且扩展性低的问题。

根据本申请的一个方面，提供了用于鉴别视频直播中异常直播信息的方法，包括：

检测处于第一鉴别模式的视频直播是否满足切换至第二鉴别模式的触发条件；

当满足所述触发条件，将所述视频直播切换至所述第二鉴别模式，并按所述第二鉴别模式对应的图像抓取频率抓取所述视频直播的直播图像帧；

根据所述直播图像帧确定所述视频直播是否包含异常直播信息。

进一步地，所述当满足所述触发条件，将所述视频直播切换至所述第二鉴别模式，并按所述第二鉴别模式对应的图像抓取频率抓取所述视频直播的直播图像帧包括：

当满足所述触发条件，将所述视频直播切换至所述第二鉴别模式；

确定所述第二鉴别模式对应的图像抓取频率；

按所述第二鉴别模式对应的图像抓取频率抓取所述视频直播的直播图像帧。

根据本申请的另一方面，还提供了一种用于鉴别视频直播中异常直播信息的设备，包括：

切换检测装置，用于检测处于第一鉴别模式的视频直播是否满足切换至第二鉴别模式的触发条件；

切换装置，用于当满足所述触发条件，将所述视频直播切换至所述第二鉴别模式，并按所述第二鉴别模式对应的图像抓取频率抓取所述视频直播的直播图像帧；

异常确定装置，用于根据所述直播图像帧确定所述视频直播是否包含异常直播信息。

进一步地，所述切换装置包括：

切换单元，用于当满足所述触发条件，将所述视频直播切换至所述第二鉴别模式；

频率确定单元，用于确定所述第二鉴别模式对应的图像抓取频率；

抓取单元，用于按所述第二鉴别模式对应的图像抓取频率抓取所述视频直播的直播图像帧。

与现有技术相比，本申请提供的一种用于鉴别视频直播中异常直播信息的方法和设备，通过检测处于第一鉴别模式的视频直播是否满足切换至第二鉴别模式的触发条件；当满足所述触发条件，将所述视频直播切换至所述第二鉴别模式，并按所述第二鉴别模式对应的图像抓取频率抓取所述视频直播的直播图像帧；根据所述直播图像帧确定所述视频直播是否包含异常直播信息，实现了对视频直播的不同鉴别模式的切换，同时按所述第二鉴别模式对应的图像抓取频率抓取所述视频直播的直播图像帧，并根据所述直播图像帧确定所述视频直播是否包含异常直播信息，以待对所述视频直播中的异常直播信息进行处理，减少了人工参与，从而降低了人工参与的成本，并增加了所述视频直播中的异常直播信息鉴别的持久高效；进一步地，当满足所述触发条件，将所述视频直播切换至所述第二鉴别模式；确定所述第二鉴别模式对应的图像抓取频率；按所述第二鉴别模式对应的图像抓取频率抓取所述视频直播的直播图像帧，实现了对处于所述第二鉴别模式下的所述视频直播的直播图像帧的抓取，避免了人工巡查，有效地提高了对所述视频直播的直播图像帧的抓取和处理的实时性。

附图说明

通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本申请的其它特征、目的和优点将会变得更明显：

图1示出根据本申请一个方面的一种用于鉴别视频直播中异常直播信息的方法流程示意图；

图2示出根据本申请一个方面的一个优选实施例的一种用于鉴别视频直播中异常直播信息的鉴别模式的切换方法流程示意图；

图3示出根据本申请一个方面的一个优选实施例的一种用于鉴别视频直播中异常直播信息的直播图像帧的抓取方法流程示意图；

图4示出根据本申请一个方面的一个优选实施例的一种用于鉴别视频直播中异常直播信息的图片鉴别方法流程示意图；

图5示出根据本申请一个方面的一个优选实施例的一种用于鉴别视频直播中异常直播信息的方法流程示意图；

图6示出根据本申请一个方面的一种用于鉴别视频直播中异常直播信息的设备的结构示意图；

图7示出根据本申请一个方面的一个优选实施例的一种用于鉴别视频直播中异常直播信息的设备的结构示意图。

附图中相同或相似的附图标记代表相同或相似的部件。

具体实施方式

下面结合附图对本申请作进一步详细描述。

图1示出根据本申请一个方面的一种用于鉴别视频直播中异常直播信息的方法流程示意图。该方法包括步骤s11、步骤s12和步骤s13，其中，所述步骤s11检测处于第一鉴别模式的视频直播是否满足切换至第二鉴别模式的触发条件；所述步骤s12当满足所述触发条件，将所述视频直播切换至所述第二鉴别模式，并按所述第二鉴别模式对应的图像抓取频率抓取所述视频直播的直播图像帧；所述步骤s13根据所述直播图像帧确定所述视频直播是否包含异常直播信息。

需要说明的是，所述第一鉴别模式可以是包括但不限于包括常规鉴别模式。在本申请的一个优选实施例中，优选所述常规鉴别模式为所述第一鉴别模式。在本领域技术人员应能理解，所述常规鉴别模式仅为所述第一鉴别模式的一个优选实施例，其他现有的或今后可能出现的所述第一鉴别模式如可适用于本申请，也应包含在本申请保护范围以内，并在此以引用方式包含于此。

需要说明的是，所述第二鉴别模式可以是包括但不限于包括超级鉴别模式。在本申请的一个优选实施例中，优选所述常规鉴别模式为所述第二鉴别模式。在本领域技术人员应能理解，所述超级鉴别模式仅为所述第二鉴别模式的一个优选实施例，其他现有的或今后可能出现的所述第二鉴别模式如可适用于本申请，也应包含在本申请保护范围以内，并在此以引用方式包含于此。

需要说明的是，所述异常直播信息可以是包括但不限于包括错误直播信息、非法直播信息、异常视频直播信息等，所述非法直播信息包括非法言论直播信息、非法边缘直播信息、非法视频直播信息等。在本申请的一个优选实施例中，优选所述异常直播信息为非法直播信息，当然，在本领域技术人员应能理解，所述非法直播信息仅为所述异常直播信息的一个优选实施例，其他现有的或今后可能出现的所述异常直播信息如可适用于本申请，也应包含在本申请保护范围以内，并在此以引用方式包含于此。

在本申请的实施例中，所述步骤s11检测处于第一鉴别模式的视频直播是否满足切换至第二鉴别模式的触发条件；所述步骤s12当满足所述触发条件，将所述视频直播切换至所述第二鉴别模式，并按所述第二鉴别模式对应的图像抓取频率抓取所述视频直播的直播图像帧；所述步骤s13根据所述直播图像帧确定所述视频直播是否包含异常直播信息，实现了对视频直播的不同鉴别模式的切换，同时按所述第二鉴别模式对应的图像抓取频率抓取所述视频直播的直播图像帧，并根据所述直播图像帧确定所述视频直播是否包含异常直播信息，以待对所述视频直播中的异常直播信息进行处理，减少了人工参与，从而降低了人工参与的成本，并增加了所述视频直播中的异常直播信息鉴别的持久高效。

在本申请的优选实施例中，在所述步骤s11之前需要对直播间的所述视频直播进行数据化处理，首先，通过给每个直播间设置一个标识id，用于在视频直播鉴别模式下唯一标识该直播间的所述视频直播；接着，记录每个标识id下的直播间的直播流量变化情况，由于所述直播流量和观看人数成正比，因此可以用直播流量的变化来表示观看人数的变化，当有非法直播信息进行直播时，出于各种心态的观看者会增加，用变化情况来表征直播间观看人数的变化；然后，每个标识id对应一个标志位n，这个标志位用来表示该标识id处于白名单状态、灰名单状态和黑名单状态中的情况，其中，所述白名单用于标识那些已经报备过直播的视频直播，例如元宵晚会或者体育赛事等视频直播，所述灰名单用于标识那些已经被警告过的视频直播或者游走在非法视频直播边缘的视频直播，所述黑名单用于标记那些已有过违规记录的视频直播；最后，当标志位默认为0，表示当前直播间不处于任何的名单之中；当标志位为1时，表示当前直播间处于白名单中；当标志位为2时，表示当前直播间处于灰名单中；当标志位为3时，表示当前直播间处于黑名单中。

需要说明的是，在实现对直播间的视频直播的鉴别模式切换之前，需要通过获取直播间对应的直播流量的变化情况来进行是否切换直播间的判定，故需要对每个直播间进行直播流量的计算则，则在本申请的一个优先实施例中选择qt,i来表示标识id为i的直播间在t时刻的直播流量，当然，在本领域技术人员应能理解，qt,i仅为表示每个直播间进行直播流量的一个优选实施例，其他现有的或今后可能出现的用于表示直播间在任意时刻的直播流量的算法如可适用于本申请，也应包含在本申请保护范围以内，并在此以引用方式包含于此。

接着本申请的上述优选实施例，直播间对应的视频直播平台都有特定的流量监控系统，用于记录历史的直播流量并监控当前的直播流量，用qt,i表示id为i的直播间在t时刻的直播流量，由于直播间正常的直播流量变化情况和历史直播流量变化不会存在太大的差别，当一个直播间的直播流量出现大幅度增长且有异于历史增长情况的变化时，此时在该直播间就有可能出现非法直播信息的信号。在此，可以根据直播流量的历史数据计算出一个正常情况下的直播流量增长率的上限，在本申请的一个优选实施例中，所述直播流量增长率计算如下：

其中，pt,i表示标识id为i的直播间在t时刻的直播流量增长率，

表示标识id为i的直播间在时刻t-t到时刻t之间的时间段内的直播流量之和，

表示标识id为i的直播间在时刻t-2t到时刻t-t之间的时间段内的直播流量之和，其中，t为直播间对应的视频直播平台中的流量监控系统的配置值，该配置值t可以根据实际直播间的特定需求进行相应地调整；用qmax,i表示标识id为i的直播间的直播流量阈值，pmax,i表示标识id为i的直播间的直播流量增长率阈值。

进一步地，所述步骤s11检测处于第一鉴别模式的视频直播是否满足切换至第二鉴别模式的触发条件中的所述触发条件包括以下至少任一项：

所述视频直播的直播流量超过预定的直播流量阈值；

所述视频直播的直播流量的流量增长率超过预定的直播流量增长率阈值；

所述视频直播的直播流量超过所述第一鉴别模式的预定的直播流量上限阈值；

所述视频直播的直播流量的流量增长率超过所述第一鉴别模式的预定的直播流量增长率下限阈值；

所述视频直播的直播流量超过所述第二鉴别模式的预定的直播流量阈值；

所述视频直播的直播流量的流量增长率超过所述第二鉴别模式的预定的直播流量增长率阈值。

接着本申请的上述实施例，所述步骤s12中的触发条件可以为以下至少任一项：所述视频直播的直播流量qt,i超过预定的直播流量阈值qmax,i；若所述视频直播的直播流量的流量增长率pt,i超过预定的直播流量增长率阈值pmax,i；所述视频直播的直播流量qt,i超过所述常规鉴别模式的预定的直播流量上限阈值q^上限max,i；所述视频直播的直播流量的流量增长率pt,i超过所述常规鉴别模式的预定的直播流量增长率下限阈值p^下限max,i；所述视频直播的直播流量qt,i超过所述超级鉴别模式的预定的直播流量阈值q^超级max,i；所述视频直播的直播流量的流量增长率pt,i超过所述超级鉴别模式的预定的直播流量增长率阈值p^超级max,i。

进一步地，所述步骤s12包括：当满足所述触发条件，将所述视频直播切换至所述第二鉴别模式，并按所述第二鉴别模式对应的图像抓取频率抓取所述视频直播的直播图像帧；具体地，所述步骤s12包括：当满足所述触发条件，且所述目标视频的状态为灰名单状态、黑名单状态或待定状态，将所述视频直播切换至所述第二鉴别模式，并按所述第二鉴别模式对应的图像抓取频率抓取所述视频直播的直播图像帧。

接着本申请的上述优选实施例，下面将以下述触发条件为例进行视频直播的鉴别模式的切换；优选地所述触发条件为：当标识id为i的直播间的直播流量增长率pt,i小于pmax,i时，表示所述标识id为i的直播间的视频直播处于正常情况下，则采用常规鉴别模式对所述视频直播进行鉴别；当标识id为i的直播间的直播流量增长率pt,i大于pmax,i时，表示所述标识id为i的直播间的视频直播处于非正常模式，则采用超级鉴别模式对所述视频直播进行鉴别；即若标识id为i的直播间的直播流量处于正常状态时，则启动常规鉴别模式，若标识id为i的直播间的直播流量处于非正常状态时，则启动超级鉴别模式，其中，所述常规鉴别模式与所述超级鉴别模式的区别在于具有不同的所述图像抓取频率。

例如，图2示出根据本申请一个方面的一个优选实施例的一种用于鉴别视频直播中异常直播信息的鉴别模式的切换方法流程示意图，该切换方法包括步骤s21、步骤s22、步骤s23、步骤s24和步骤s25。其中，所述步骤s21，启动常规鉴别模式；所述步骤s22，判断直播流量增长率是否达到上限阈值，若是则执行步骤s23，若否则执行步骤s24；所述步骤s23，判断所述目标视频是否在白名单中，若是则执行步骤s24，若否则执行步骤s25；所述步骤s24，继续常规鉴别模式；所述步骤s25，启动超级鉴别模式；进一步地，在所述步骤s23中，判断所述目标视频是否在白名单中，若否则将所述视频直播切换至所述超级鉴别模式，其中，所述目标视频的状态不在所述白名单状态中的情况至少包括以下任一项：会名单状态、黑名单状态或待定状态；更进一步地，在所述步骤s25中，基于所述超级鉴别模式对应的图像抓取频率抓取所述视频直播的直播图像帧，若处于所述超级鉴别模式下t1之后，若无异常直播信息，则自动切换为所述常规模式，其中，t1为视频直播平台配置的运行超级鉴别模式的超级鉴别时间，该超级鉴别时间t1可以根据实际直播间的特定需求进行适应性配置。

进一步地，所述步骤s12包括：当满足所述触发条件，将所述视频直播切换至所述第二鉴别模式，并按所述第二鉴别模式对应的图像抓取频率抓取所述视频直播的直播图像帧；具体地，所述步骤s12还包括：当满足所述触发条件，且所述目标视频的状态为白名单状态，保持所述视频直播处于所述第一鉴别模式。

接着本申请的上述优选实施例，当满足所述触发条件：直播流量增长率pt,i已达到上限阈值pmax,i，且所述目标视频的状态为白名单状态，则继续保持所述视频直播处于所述常规鉴别模式下，如图2所示。

进一步地，所述步骤s12包括：当满足所述触发条件，将所述视频直播切换至所述第二鉴别模式，并按所述第二鉴别模式对应的图像抓取频率抓取所述视频直播的直播图像帧；具体地，所述步骤s12包括：当满足所述触发条件，将所述视频直播切换至所述第二鉴别模式；确定所述第二鉴别模式对应的图像抓取频率；按所述第二鉴别模式对应的图像抓取频率抓取所述视频直播的直播图像帧。

接着本申请的上述优选实施例，在所述步骤s12中，若满足所述优选地触发条件时，其中，所述优选地触发条件为：满足图2中所述的直播流量增长率达到上限阈值且所述视频直播不处于白名单状态，则将所述视频直播由所述常规鉴别模式切换至所述超级鉴别模式；其中，所述常规鉴别模式与所述超级鉴别模式的区别在于具有不同的所述图像抓取频率。当所述视频直播处于常规鉴别模式下时，以视频直播平台中的常规模式对应的图像抓取周期t2从所述视频直播中抓取直播图像帧，其中，t2为所述视频直播对应的直播间的所述视频直播平台配置的抓取处于常规鉴别模式下的直播图像帧的图像抓取频率的倒数，t2可以根据不同的所述视频直播平台而配置不同的常规图像抓取周期的值；在满足上述优选地触发条件时，所述视频直播由所述常规鉴别模式切换至所述超级鉴别模式；接着，需要确定所述超级鉴别模式对应的图像抓取周期t3，其中，t3根据所述超级鉴别模式下的直播流量的变化情况和所述视频直播处于不同的名单状态的情况进行动态地调整抓取直播图像帧的图像抓取频率的倒数；然后所述步骤s12按照所述超级鉴别模式对应的图像抓取周期t3抓取所述视频直播的直播图像帧。

例如，图3示出根据本申请一个方面的一个优选实施例的一种用于鉴别视频直播中异常直播信息的直播图像帧的抓取方法流程示意图，其中，所述抓取方法包括步骤s31、步骤s32、步骤s33和步骤s34。其中，所述步骤s31，抓取视频直播的直播图像帧；所述步骤s32，判断是否满足切换至超级鉴别模式对应的触发条件，若否则执行步骤s33，若是则执行步骤s34；所述步骤s33，按设定的t2时间间隔抓取直播图像帧；所述步骤s34，调整抓取时间间隔至超级鉴别模式对应的图像抓取周期t3。

进一步地，所述步骤s12中的所述确定所述第二鉴别模式对应的图像抓取频率包括：

根据所述第一鉴别模式对应的图像抓取频率确定所述第二鉴别模式对应的图像抓取频率，其中，所述第二鉴别模式对应的图像抓取频率大于所述第一鉴别模式对应的图像抓取频率。

接着本申请的上述优选实施例，所述常规鉴别模式对应的图像抓取周期为t2，所述第二鉴别模式对应的图像抓取周期为t3，其中，所述超级鉴别模式对应的图像抓取周期t3的计算如下：

其中，n为每个标识id的直播间对应的标志位，在所述超级鉴别模式下标志位n定义为大于等于2的正整数，pt,i为所述直播间当前对应所述视频直播的直播流量的流量增长率，由此可见，所述第二鉴别模式对应的图像抓取周期为t3小于所述常规鉴别模式对应的图像抓取周期为t2，则有所述第二鉴别模式对应的图像抓取频率大于所述第一鉴别模式对应的图像抓取频率。

进一步地，所述步骤s12中的所述确定所述第二鉴别模式对应的图像抓取频率包括：

根据所述第一鉴别模式对应的图像抓取频率，以及所述直播视频的状态或当前流量增长信息，确定所述第二鉴别模式对应的图像抓取频率，其中，所述第二鉴别模式对应的图像抓取频率大于所述第一鉴别模式对应的图像抓取频率。

需要说明的是，所述直播视频的状态可以是包括但不限于包括白名单状态、灰名单状态、黑名单状态即待定状态等。当然，其他现有的或今后可能出现的所述直播视频的状态如可适用于本申请，也应包含在本申请保护范围以内，并在此以引用方式包含于此。

需要说明的是，所述直播视频的当前流量增长信息可以是包括但不限于包括当前流量增长率及当前流量增长数量等。当然，其他现有的或今后可能出现的所述直播视频的当前流量增长信息如可适用于本申请，也应包含在本申请保护范围以内，并在此以引用方式包含于此。

例如，在所述步骤s12中，所述直播视频在常规模式下对应的图像抓取周期t2为7秒，所述视频直播处于灰名单状态，则所述标识id的直播间对应的标志位n为2，所述直播间当前对应所述视频直播的直播流量的流量增长率pt,i为1.5，则基于所述超级鉴别模式对应的图像抓取周期t3的计算公式：

得到，所述超级鉴别模式对应的图像抓取周期t3为2秒。

进一步地，所述步骤s13包括：根据所述直播图像帧确定所述视频直播是否包含异常直播信息；具体地，所述步骤s13包括：获取所述直播图像帧对应的第一鉴别结果与第二鉴别结果；根据所述第一鉴别结果与所述第二鉴别结果，确定所述视频直播是否包含异常直播信息。

需要说明的是，所述本申请的对所述直播图像帧进行的图像鉴别算法可以是包括但不限于包括：基于颜色图像鉴别算法及基于轮廓图像鉴别算法等。当然，其他现有的或今后可能出现的所述直播图像帧进行的图像鉴别算法如可适用于本申请，也应包含在本申请保护范围以内，并在此以引用方式包含于此。

接着本申请的上述优选实施例，为了减小误判概率在所述步骤s13中通过两级鉴别来对所述直播图像帧进行图片鉴别，其中，所述两级鉴别分别为一级鉴别和二级鉴别，且所述一级鉴别和所述二级鉴别采用不同的图片鉴别技术，以达到减少误判概率，所述二级鉴别可以通过人工鉴别，在采用图片鉴别技术之后得到的第二鉴别结果后，采用人工鉴别模式的二级鉴别亦能有效地减少人工的投入，从而提高图片处理效率。在所述步骤s13中，先获取经过两级鉴别之后的所直播图像帧对应的第一鉴别结果与第二鉴别结果；然后根据所述第一鉴别结果与所述第二鉴别结果，确定所述视频直播是否包含非法直播信息，其中，在本申请的优选实施例中，将所述异常直播信息优选为所述非法直播信息。

进一步地，所述步骤s13中的获取所述直播图像帧对应的第一鉴别结果与第二鉴别结果包括：

获取所述直播图像帧对应的第一鉴别结果；

当所述第一鉴别结果为所述视频直播包含异常直播信息，获取所述直播图像帧对应的第二鉴别结果。

接着本申请的上述优选实施例，所述步骤s13中通过一级鉴别对所述直播图像帧进行初次鉴别后，若所述第一鉴别结果为所述视频直播包含非法直播信息，则将所述非法直播信息通过二级鉴别进行图片鉴别，以得到所述非法直播信息对应的直播图像帧对应的第二鉴别结果，达到减小误判的概率，如图4所示，图4示出根据本申请一个方面的一个优选实施例的一种用于鉴别视频直播中异常直播信息的图片鉴别方法流程示意图，该图片鉴别方法包括步骤s41、步骤s42和步骤s43。其中，所述步骤s41，对所述视频直播的直播图像帧进行一级鉴别；所述步骤s42，确定一级鉴别之后对应的包含非法直播信息的第一鉴别结果；所述步骤s43，对包含非法直播信息的所述视频直播的直播图像帧进行二级鉴别，以确定第二鉴别结果。

进一步地，所述方法还包括：

当所述第一鉴别结果为所述视频直播包含异常直播信息，设置所述视频直播的状态为灰名单状态；或

当所述第二鉴别结果为所述视频直播包含异常直播信息，设置所述视频直播的状态为黑名单状态。

接着本申请的上述优选实施例，在所述步骤s13中将经过一级鉴别之后的非法直播信息对应的所述视频直播加入到灰名单中，并将所述视频直播标志位n设置为2；或，在所述步骤s13中将经过一级鉴别之后的非法直播信息对应的所述视频直播加入到黑名单中，并将所述视频直播标志位n设置为3，并对所述视频直播对应的直播间进行警告或者封号等处理。

图5示出根据本申请一个方面的一个优选实施例的一种用于鉴别视频直播中异常直播信息的方法流程示意图。该方法包括步骤s501、步骤s502、步骤s503、步骤s504、步骤s505、步骤s506、步骤s507、步骤s508和步骤s509。其中，所述步骤s501，对直播间及对应的视频直播进行数据化处理；所述步骤s502，启动常规鉴别模式；所述步骤s503，判断视频直播对应的直播流量是否突增，若否则执行步骤s504，若是则执行步骤s505；所述步骤s504，继续常规鉴别模式，在所述步骤s504中的常规鉴别模式下，也会将抓取的直播图像帧转至步骤s507中的一级鉴别的；所述步骤s505，判断所述视频直播是否在白名单中，若是则执行步骤s504，若否则执行步骤s506；所述步骤s506，启动超级鉴别模式；所述步骤s507，对所述视频直播的直播图像帧进行一级鉴别；所述步骤s508，处理第一鉴别结果并启动二级鉴别；所述步骤s509，处理第二鉴别结果。

图6示出根据本申请一个方面的一种用于鉴别视频直播中异常直播信息的设备的结构示意图。该设备包括切换检测装置11、切换装置12和异常确定装置13，其中，所述切换检测装置11检测处于第一鉴别模式的视频直播是否满足切换至第二鉴别模式的触发条件；所述切换装置12当满足所述触发条件，将所述视频直播切换至所述第二鉴别模式，并按所述第二鉴别模式对应的图像抓取频率抓取所述视频直播的直播图像帧；所述异常确定装置13根据所述直播图像帧确定所述视频直播是否包含异常直播信息。

在此，所述设备1包括但不限于客户设备、网络设备以及客户设备与网络设备通过网络相集成所构成的设备。所述网络设备包括一种能够按照事先设定或存储的指令，自动进行数值计算和信息处理的电子设备，其硬件包括但不限于微处理器、专用集成电路(asic)、可编程门阵列(fpga)、数字处理器(dsp)、嵌入式设备等。所述网络包括但不限于互联网、广域网、城域网、局域网、vpn网络、无线自组织网络(adhoc网络)等。优选地，所述设备1还可以是运行于所述用户设备与网络设备通过网络相集成所构成的设备上的脚本程序。当然，本领域技术人员应能理解上述设备1仅为举例，其他现有的或今后可能出现的所述设备1如可适用于本申请，也应包含在本申请保护范围以内，并在此以引用方式包含于此。

上述各装置之间是持续不断工作的，在此，本领域技术人员应理解“持续”是指上述各装置分别实时地或者按照设定的或实时调整的工作模式要求。

需要说明的是，所述第一鉴别模式可以是包括但不限于包括常规鉴别模式。在本申请的一个优选实施例中，优选所述常规鉴别模式为所述第一鉴别模式。在本领域技术人员应能理解，所述常规鉴别模式仅为所述第一鉴别模式的一个优选实施例，其他现有的或今后可能出现的所述第一鉴别模式如可适用于本申请，也应包含在本申请保护范围以内，并在此以引用方式包含于此。

需要说明的是，所述第二鉴别模式可以是包括但不限于包括超级鉴别模式。在本申请的一个优选实施例中，优选所述常规鉴别模式为所述第二鉴别模式。在本领域技术人员应能理解，所述超级鉴别模式仅为所述第二鉴别模式的一个优选实施例，其他现有的或今后可能出现的所述第二鉴别模式如可适用于本申请，也应包含在本申请保护范围以内，并在此以引用方式包含于此。

需要说明的是，所述异常直播信息可以是包括但不限于包括错误直播信息、非法直播信息、异常视频直播信息等，所述非法直播信息包括非法言论直播信息、非法边缘直播信息、非法视频直播信息等。在本申请的一个优选实施例中，优选所述异常直播信息为非法直播信息，当然，在本领域技术人员应能理解，所述非法直播信息仅为所述异常直播信息的一个优选实施例，其他现有的或今后可能出现的所述异常直播信息如可适用于本申请，也应包含在本申请保护范围以内，并在此以引用方式包含于此。

在本申请的实施例中，所述切换检测装置11检测处于第一鉴别模式的视频直播是否满足切换至第二鉴别模式的触发条件；所述切换装置12当满足所述触发条件，将所述视频直播切换至所述第二鉴别模式，并按所述第二鉴别模式对应的图像抓取频率抓取所述视频直播的直播图像帧；所述异常确定装置13根据所述直播图像帧确定所述视频直播是否包含异常直播信息，实现了对视频直播的不同鉴别模式的切换，同时按所述第二鉴别模式对应的图像抓取频率抓取所述视频直播的直播图像帧，并根据所述直播图像帧确定所述视频直播是否包含异常直播信息，以待对所述视频直播中的异常直播信息进行处理，减少了人工参与，从而降低了人工参与的成本，并增加了所述视频直播中的异常直播信息鉴别的持久高效。

在本申请的优选实施例中，在所述切换检测装置11之前需要对直播间的所述视频直播进行数据化处理，首先，通过给每个直播间设置一个标识id，用于在视频直播鉴别模式下唯一标识该直播间的所述视频直播；接着，记录每个标识id下的直播间的直播流量变化情况，由于所述直播流量和观看人数成正比，因此可以用直播流量的变化来表示观看人数的变化，当有非法直播信息进行直播时，出于各种心态的观看者会增加，用变化情况来表征直播间观看人数的变化；然后，每个标识id对应一个标志位n，这个标志位用来表示该标识id处于白名单状态、灰名单状态和黑名单状态中的情况，其中，所述白名单用于标识那些已经报备过直播的视频直播，例如元宵晚会或者体育赛事等视频直播，所述灰名单用于标识那些已经被警告过的视频直播或者游走在非法视频直播边缘的视频直播，所述黑名单用于标记那些已有过违规记录的视频直播；最后，当标志位默认为0，表示当前直播间不处于任何的名单之中；当标志位为1时，表示当前直播间处于白名单中；当标志位为2时，表示当前直播间处于灰名单中；当标志位为3时，表示当前直播间处于黑名单中。

需要说明的是，在实现对直播间的视频直播的鉴别模式切换之前，需要通过获取直播间对应的直播流量的变化情况来进行是否切换直播间的判定，故需要对每个直播间进行直播流量的计算则，则在本申请的一个优先实施例中选择qt,i来表示标识id为i的直播间在t时刻的直播流量，当然，在本领域技术人员应能理解，qt,i仅为表示每个直播间进行直播流量的一个优选实施例，其他现有的或今后可能出现的用于表示直播间在任意时刻的直播流量的算法如可适用于本申请，也应包含在本申请保护范围以内，并在此以引用方式包含于此。

接着本申请的上述优选实施例，直播间对应的视频直播平台都有特定的流量监控系统，用于记录历史的直播流量并监控当前的直播流量，用qt,i表示id为i的直播间在t时刻的直播流量，由于直播间正常的直播流量变化情况和历史直播流量变化不会存在太大的差别，当一个直播间的直播流量出现大幅度增长且有异于历史增长情况的变化时，此时在该直播间就有可能出现非法直播信息的信号。在此，可以根据直播流量的历史数据计算出一个正常情况下的直播流量增长率的上限，在本申请的一个优选实施例中，所述直播流量增长率计算如下：

其中，pt,i表示标识id为i的直播间在t时刻的直播流量增长率，

表示标识id为i的直播间在时刻t-t到时刻t之间的时间段内的直播流量之和，

表示标识id为i的直播间在时刻t-2t到时刻t-t之间的时间段内的直播流量之和，其中，t为直播间对应的视频直播平台中的流量监控系统的配置值，该配置值t可以根据实际直播间的特定需求进行相应地调整；用qmax,i表示标识id为i的直播间的直播流量阈值，pmax,i表示标识id为i的直播间的直播流量增长率阈值。

进一步地，所述切换检测装置11中的所述触发条件包括以下至少任一项：

所述视频直播的直播流量超过预定的直播流量阈值；

所述视频直播的直播流量的流量增长率超过预定的直播流量增长率阈值；

所述视频直播的直播流量超过所述第一鉴别模式的预定的直播流量上限阈值；

所述视频直播的直播流量的流量增长率超过所述第一鉴别模式的预定的直播流量增长率下限阈值；

所述视频直播的直播流量超过所述第二鉴别模式的预定的直播流量阈值；

所述视频直播的直播流量的流量增长率超过所述第二鉴别模式的预定的直播流量增长率阈值。

接着本申请的上述实施例，所述切换检测装置11中的触发条件可以为以下至少任一项：所述视频直播的直播流量qt,i超过预定的直播流量阈值qmax,i；若所述视频直播的直播流量的流量增长率pt,i超过预定的直播流量增长率阈值pmax,i；所述视频直播的直播流量qt,i超过所述常规鉴别模式的预定的直播流量上限阈值q^上限max,i；所述视频直播的直播流量的流量增长率pt,i超过所述常规鉴别模式的预定的直播流量增长率下限阈值p^下限max,i；所述视频直播的直播流量qt,i超过所述超级鉴别模式的预定的直播流量阈值q^超级max,i；所述视频直播的直播流量的流量增长率pt,i超过所述超级鉴别模式的预定的直播流量增长率阈值p^超级max,i。

进一步地，所述切换装置12用于：

当满足所述触发条件，且所述目标视频的状态为灰名单状态、黑名单状态或待定状态，将所述视频直播切换至所述第二鉴别模式，并按所述第二鉴别模式对应的图像抓取频率抓取所述视频直播的直播图像帧。

接着本申请的上述优选实施例，下面将以下述触发条件为例进行视频直播的鉴别模式的切换；优选地所述触发条件为：当标识id为i的直播间的直播流量增长率pt,i小于pmax,i时，表示所述标识id为i的直播间的视频直播处于正常情况下，则采用常规鉴别模式对所述视频直播进行鉴别；当标识id为i的直播间的直播流量增长率pt,i大于pmax,i时，表示所述标识id为i的直播间的视频直播处于非正常模式，则采用超级鉴别模式对所述视频直播进行鉴别；即若标识id为i的直播间的直播流量处于正常状态时，则启动常规鉴别模式，若标识id为i的直播间的直播流量处于非正常状态时，则启动超级鉴别模式，其中，所述常规鉴别模式与所述超级鉴别模式的区别在于具有不同的所述图像抓取频率。

例如，图2示出根据本申请一个方面的一个优选实施例的一种用于鉴别视频直播中异常直播信息的鉴别模式的切换方法流程示意图，该切换方法包括步骤s21、步骤s22、步骤s23、步骤s24和步骤s25。其中，所述步骤s21，启动常规鉴别模式；所述步骤s22，判断直播流量增长率是否达到上限阈值，若是则执行步骤s23，若否则执行步骤s24；所述步骤s23，判断所述目标视频是否在白名单中，若是则执行步骤s24，若否则执行步骤s25；所述步骤s24，继续常规鉴别模式；所述步骤s25，启动超级鉴别模式；进一步地，在所述步骤s23中，判断所述目标视频是否在白名单中，若否则将所述视频直播切换至所述超级鉴别模式，其中，所述目标视频的状态不在所述白名单状态中的情况至少包括以下任一项：会名单状态、黑名单状态或待定状态；更进一步地，在所述步骤s25中，基于所述超级鉴别模式对应的图像抓取频率抓取所述视频直播的直播图像帧，若处于所述超级鉴别模式下t1之后，若无异常直播信息，则自动切换为所述常规模式，其中，t1为视频直播平台配置的运行超级鉴别模式的超级鉴别时间，该超级鉴别时间t1可以根据实际直播间的特定需求进行适应性配置。

进一步地，所述步切换装置12还用于：

当满足所述触发条件，且所述目标视频的状态为白名单状态，保持所述视频直播处于所述第一鉴别模式。

接着本申请的上述优选实施例，当满足所述触发条件：直播流量增长率pt,i已达到上限阈值pmax,i，且所述目标视频的状态为白名单状态，则继续保持所述视频直播处于所述常规鉴别模式下，如图2所示。

进一步地，所述切换装置12包括：切换单元(未示出)、频率确定单元(未示出)和抓取单元(未示出)，其中，所述切换单元(未示出)用于：当满足所述触发条件，将所述视频直播切换至所述第二鉴别模式；所述频率确定单元(未示出)用于：确定所述第二鉴别模式对应的图像抓取频率；所述抓取单元(未示出)用于：按所述第二鉴别模式对应的图像抓取频率抓取所述视频直播的直播图像帧。

接着本申请的上述优选实施例，在所述切换装置12中，若满足所述优选地触发条件时，其中，所述优选地触发条件为：满足图2中所述的直播流量增长率达到上限阈值且所述视频直播不处于白名单状态，则将所述视频直播由所述常规鉴别模式切换至所述超级鉴别模式；其中，所述常规鉴别模式与所述超级鉴别模式的区别在于具有不同的所述图像抓取频率。当所述视频直播处于常规鉴别模式下时，以视频直播平台中的常规模式对应的图像抓取周期t2从所述视频直播中抓取直播图像帧，其中，t2为所述视频直播对应的直播间的所述视频直播平台配置的抓取处于常规鉴别模式下的直播图像帧的图像抓取频率的倒数，t2可以根据不同的所述视频直播平台而配置不同的常规图像抓取周期的值；在满足上述优选地触发条件时，所述视频直播由所述常规鉴别模式切换至所述超级鉴别模式；接着，需要确定所述超级鉴别模式对应的图像抓取周期t3，其中，t3根据所述超级鉴别模式下的直播流量的变化情况和所述视频直播处于不同的名单状态的情况进行动态地调整抓取直播图像帧的图像抓取频率的倒数；然后所述抓取单元(未示出)按照所述超级鉴别模式对应的图像抓取周期t3抓取所述视频直播的直播图像帧。

例如，图3示出根据本申请一个方面的一个优选实施例的一种用于鉴别视频直播中异常直播信息的直播图像帧的抓取方法流程示意图，其中，所述抓取方法包括步骤s31、步骤s32、步骤s33和步骤s34。其中，所述步骤s31，抓取视频直播的直播图像帧；所述步骤s32，判断是否满足切换至超级鉴别模式对应的触发条件，若否则执行步骤s33，若是则执行步骤s34；所述步骤s33，按设定的t2时间间隔抓取直播图像帧；所述步骤s34，调整抓取时间间隔至超级鉴别模式对应的图像抓取周期t3。

进一步地，所述频率确定单元(未示出)用于：

根据所述第一鉴别模式对应的图像抓取频率确定所述第二鉴别模式对应的图像抓取频率，其中，所述第二鉴别模式对应的图像抓取频率大于所述第一鉴别模式对应的图像抓取频率。

接着本申请的上述优选实施例，所述常规鉴别模式对应的图像抓取周期为t2，所述第二鉴别模式对应的图像抓取周期为t3，其中，所述超级鉴别模式对应的图像抓取周期t3的计算如下：

其中，n为每个标识id的直播间对应的标志位，在所述超级鉴别模式下标志位n定义为大于等于2的正整数，pt,i为所述直播间当前对应所述视频直播的直播流量的流量增长率，由此可见，所述第二鉴别模式对应的图像抓取周期为t3小于所述常规鉴别模式对应的图像抓取周期为t2，则有所述第二鉴别模式对应的图像抓取频率大于所述第一鉴别模式对应的图像抓取频率。

进一步地，所述频率确定单元(未示出)用于：

根据所述第一鉴别模式对应的图像抓取频率，以及所述直播视频的状态或当前流量增长信息，确定所述第二鉴别模式对应的图像抓取频率，其中，所述第二鉴别模式对应的图像抓取频率大于所述第一鉴别模式对应的图像抓取频率。

需要说明的是，所述直播视频的状态可以是包括但不限于包括白名单状态、灰名单状态、黑名单状态即待定状态等。当然，其他现有的或今后可能出现的所述直播视频的状态如可适用于本申请，也应包含在本申请保护范围以内，并在此以引用方式包含于此。

需要说明的是，所述直播视频的当前流量增长信息可以是包括但不限于包括当前流量增长率及当前流量增长数量等。当然，其他现有的或今后可能出现的所述直播视频的当前流量增长信息如可适用于本申请，也应包含在本申请保护范围以内，并在此以引用方式包含于此。

例如，在所述切换装置12中，所述直播视频在常规模式下对应的图像抓取周期t2为7秒，所述视频直播处于灰名单状态，则所述标识id的直播间对应的标志位n为2，所述直播间当前对应所述视频直播的直播流量的流量增长率pt,i为1.5，则基于所述超级鉴别模式对应的图像抓取周期t3的计算公式：

得到，所述超级鉴别模式对应的图像抓取周期t3为2秒。

需要说明的是，所述本申请的对所述直播图像帧进行的图像鉴别算法可以是包括但不限于包括：基于颜色图像鉴别算法及基于轮廓图像鉴别算法等。当然，其他现有的或今后可能出现的所述直播图像帧进行的图像鉴别算法如可适用于本申请，也应包含在本申请保护范围以内，并在此以引用方式包含于此。

进一步地，所述异常确定装置13包括结果获取单元(未示出)和异常确定单元(未示出)，其中，所述结果获取单元(未示出)用于：获取所述直播图像帧对应的第一鉴别结果与第二鉴别结果；所述异常确定单元(未示出)用于：根据所述第一鉴别结果与所述第二鉴别结果，确定所述视频直播是否包含异常直播信息。

接着本申请的上述优选实施例，为了减小误判概率在所述异常确定装置13中通过两级鉴别来对所述直播图像帧进行图片鉴别，其中，所述两级鉴别分别为一级鉴别和二级鉴别，且所述一级鉴别和所述二级鉴别采用不同的图片鉴别技术，以达到减少误判概率，所述二级鉴别可以通过人工鉴别，在采用图片鉴别技术之后得到的第二鉴别结果后，采用人工鉴别模式的二级鉴别亦能有效地减少人工的投入，从而提高图片处理效率。在所述结果获取单元(未示出)中，先获取经过两级鉴别之后的所直播图像帧对应的第一鉴别结果与第二鉴别结果；然后在所述异常确定单元(未示出)中根据所述第一鉴别结果与所述第二鉴别结果，确定所述视频直播是否包含非法直播信息，其中，在本申请的优选实施例中，将所述异常直播信息优选为所述非法直播信息。

进一步地，所述结果获取单元(未示出)包括第一结果获取子单元(未示出)和第二结果获取子单元(未示出)，其中，所述第一结果获取子单元(未示出)用于：获取所述直播图像帧对应的第一鉴别结果；所述第二结果获取子单元(未示出)用于：当所述第一鉴别结果为所述视频直播包含异常直播信息，获取所述直播图像帧对应的第二鉴别结果。

接着本申请的上述优选实施例，所述异常确定装置13中通过一级鉴别对所述直播图像帧进行初次鉴别后，若所述第一鉴别结果为所述视频直播包含非法直播信息，则将所述非法直播信息通过二级鉴别进行图片鉴别，以得到所述非法直播信息对应的直播图像帧对应的第二鉴别结果，达到减小误判的概率，如图4所示，图4示出根据本申请一个方面的一个优选实施例的一种用于鉴别视频直播中异常直播信息的图片鉴别方法流程示意图，该图片鉴别方法包括步骤s41、步骤s42和步骤s43。其中，所述步骤s41，对所述视频直播的直播图像帧进行一级鉴别；所述步骤s42，确定一级鉴别之后对应的包含非法直播信息的第一鉴别结果；所述步骤s43，对包含非法直播信息的所述视频直播的直播图像帧进行二级鉴别，以确定第二鉴别结果。

进一步地，所述设备还用于：

当所述第一鉴别结果为所述视频直播包含异常直播信息，设置所述视频直播的状态为灰名单状态；或

当所述第二鉴别结果为所述视频直播包含异常直播信息，设置所述视频直播的状态为黑名单状态。

接着本申请的上述优选实施例，在所述异常确定装置13中将经过一级鉴别之后的非法直播信息对应的所述视频直播加入到灰名单中，并将所述视频直播标志位n设置为2；或，在所述异常确定装置13中将经过一级鉴别之后的非法直播信息对应的所述视频直播加入到黑名单中，并将所述视频直播标志位n设置为3，并对所述视频直播对应的直播间进行警告或者封号等处理。

图7示出根据本申请一个方面的一个优选实施例的一种用于鉴别视频直播中异常直播信息的设备的结构示意图。该设备1包括直播间数据化模块、常规鉴别模式模块、超级鉴别模式模块、一级鉴别模块、二级鉴别模块和数据信息记录模块。其中，所述直播间数据化模块用于：对直播间的所述视频直播进行数据化处理；所述常规鉴别模式模块用于：对直播间的所述视频直播进行常规鉴别；所述超级鉴别模式模块用于：对满足触发条件后的直播间的所述视频直播进行超级鉴别；所述一级鉴别模块用于：对常规鉴别模式和超级鉴别模式下的所述视频直播的直播图像帧进行初级图片鉴别；所述二级鉴别模块用于：当一级鉴别结果中出现非法直播信息时对第一鉴别结果及其对应的直播图像帧进行二级鉴别；所述数据信息记录模块用于：记录将直播间的所述视频直播数据化后的数据化信息、一级鉴别模块对应的第一鉴别结果及二级鉴别模块对应的第二鉴别结果；进一步地，当经过两级鉴别之后，基于第一鉴别结果和第二鉴别结果对直播间进行相应的处理。

与现有技术相比，本申请提供的一种用于鉴别视频直播中异常直播信息的方法和设备，通过检测处于第一鉴别模式的视频直播是否满足切换至第二鉴别模式的触发条件；当满足所述触发条件，将所述视频直播切换至所述第二鉴别模式，并按所述第二鉴别模式对应的图像抓取频率抓取所述视频直播的直播图像帧；根据所述直播图像帧确定所述视频直播是否包含异常直播信息，实现了对视频直播的不同鉴别模式的切换，同时按所述第二鉴别模式对应的图像抓取频率抓取所述视频直播的直播图像帧，并根据所述直播图像帧确定所述视频直播是否包含异常直播信息，以待对所述视频直播中的异常直播信息进行处理，减少了人工参与，从而降低了人工参与的成本，并增加了所述视频直播中的异常直播信息鉴别的持久高效；进一步地，当满足所述触发条件，将所述视频直播切换至所述第二鉴别模式；确定所述第二鉴别模式对应的图像抓取频率；按所述第二鉴别模式对应的图像抓取频率抓取所述视频直播的直播图像帧，实现了对处于所述第二鉴别模式下的所述视频直播的直播图像帧的抓取，避免了人工巡查，有效地提高了对所述视频直播的直播图像帧的抓取和处理的实时性。

需要注意的是，本申请可在软件和/或软件与硬件的组合体中被实施，例如，可采用专用集成电路(asic)、通用目的计算机或任何其他类似硬件设备来实现。在一个实施例中，本申请的软件程序可以通过处理器执行以实现上文所述步骤或功能。同样地，本申请的软件程序(包括相关的数据结构)可以被存储到计算机可读记录介质中，例如，ram存储器，磁或光驱动器或软磁盘及类似设备。另外，本申请的一些步骤或功能可采用硬件来实现，例如，作为与处理器配合从而执行各个步骤或功能的电路。

另外，本申请的一部分可被应用为计算机程序产品，例如计算机程序指令，当其被计算机执行时，通过该计算机的操作，可以调用或提供根据本申请的方法和/或技术方案。而调用本申请的方法的程序指令，可能被存储在固定的或可移动的记录介质中，和/或通过广播或其他信号承载媒体中的数据流而被传输，和/或被存储在根据所述程序指令运行的计算机设备的工作存储器中。在此，根据本申请的一个实施例包括一个装置，该装置包括用于存储计算机程序指令的存储器和用于执行程序指令的处理器，其中，当该计算机程序指令被该处理器执行时，触发该装置运行基于前述根据本申请的多个实施例的方法和/或技术方案。

对于本领域技术人员而言，显然本申请不限于上述示范性实施例的细节，而且在不背离本申请的精神或基本特征的情况下，能够以其他的具体形式实现本申请。因此，无论从哪一点来看，均应将实施例看作是示范性的，而且是非限制性的，本申请的范围由所附权利要求而不是上述说明限定，因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本申请内。不应将权利要求中的任何附图标记视为限制所涉及的权利要求。此外，显然“包括”一词不排除其他单元或步骤，单数不排除复数。装置权利要求中陈述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第一，第二等词语用来表示名称，而并不表示任何特定的顺序。