待审核内容的分流方法、装置、服务器及计算机存储介质与流程

1.本技术涉及计算机技术领域，特别涉及一种待审核内容的分流方法、装置、服务器及计算机存储介质。


背景技术：

2.在审核系统中，待审核的内容都是用户产生的。比如在视频评论场景下，正常情况下，用户的评论都进入视频评论正常通道，进行正常审核。
3.但是，在视频做活动时，比如视频做热度比拼，评论数最多的视频up主即为获胜者，并且有丰厚的奖励。在此场景下，某些视频的up主（指在视频网站、论坛、ftp站点上传视频音频文件的人。up是upload（上传）的简称，是一个日本传入的网络词汇）就会雇佣大量水军（指在网络中针对特定内容发布特定信息的、被雇佣的网络写手。伪装成普通网民或消费者，通过发布、回复和传播博文等对正常用户产生影响）进行评论刷量，此时水军会发送大量重复或者无意义的评论，大量涌入审核系统。水军刷的评论也会进入视频评论正常通道，会严重干扰其他正常视频或活动视频下正常用户发送的评论的审核速度，影响产品的用户体验。也会增加审核人员的工作量。


技术实现要素：

4.有鉴于此，本技术提供一种待审核内容的分流方法、装置、服务器及计算机存储介质，用于快速区分待审核内容，并对待审核内容进行分流，提高用户体验，减轻审核人员的工作量。
5.本技术第一方面提供了一种待审核内容的分流方法，包括：实时监测每一个用户每分钟进入审核的待审核内容的数量；针对每一个所述用户，根据所述用户每分钟进入审核的待审核内容的数量，判断所述用户是否存在灌水行为；若判断出所述用户存在灌水行为，则将所述用户已进入审核的待审核内容以及后续进入审核的待审核内容，分流至灌水通道；若判断出所述用户不存在灌水行为，则将所述用户已进入审核的待审核内容以及后续进入审核的待审核内容，分流至正常审核通道。
6.可选的，所述针对每一个所述用户，根据所述用户每分钟进入审核的待审核内容的数量，判断所述用户是否存在灌水行为之后，还包括：若判断出所述用户存在灌水行为，则为所述用户账号设置灌水行为标签；其中，所述若判断出所述用户存在灌水行为，则将所述用户已进入审核的待审核内容以及后续进入审核的待审核内容，分流至灌水通道，包括：将所述用户已进入审核的待审核内容分流至灌水通道；并针对每一个后续进入审核的待审核内容，获取所述后续进入审核的待审核内容所属用户账号中的标签；
若所述后续进入审核的待审核内容所属用户账号中的标签为灌水行为标签，则将所述后续进入审核的待审核内容分流至灌水通道。
7.可选的，所述灌水行为标签分为第一灌水行为标签、第二灌水行为标签和第三灌水行为标签；所述针对每一个所述用户，根据所述用户每分钟进入审核的待审核内容的数量，判断所述用户是否存在灌水行为，包括：针对每一个所述用户，根据所述用户每分钟进入审核的待审核内容的数量，判断所述用户进入审核的待审核内容的数量是否满足预设的命中规则；若判断出所述用户进入审核的待审核内容的数量满足所述预设的命中规则，则确定所述用户存在灌水行为；其中，所述预设的命中规则包括：第一命中子规则、第二命中子规则和第三命中子规则；所述若判断出所述用户存在灌水行为，则为所述用户账号设置灌水行为标签，包括：若判断出所述用户进入审核的待审核内容的数量满足所述第一命中子规则，则为所述用户账号设置第一灌水行为标签；若判断出所述用户进入审核的待审核内容的数量满足所述第二命中子规则，则为所述用户账号设置第二灌水行为标签；若判断出所述用户进入审核的待审核内容的数量满足所述第三命中子规则，则为所述用户账号设置第三灌水行为标签。
8.可选的，所述待审核内容的分流方法，还包括：在为所述用户账号设置灌水行为标签之后，每隔第一预设时间取消所述用户账号的灌水行为标签；其中，所述灌水行为标签包括第一灌水行为标签、第二灌水行为标签以及第三灌水行为标签。
9.可选的，所述待审核内容的分流方法，还包括：若在第二预设时间内，所述用户仍存在持续灌水行为，则延迟取消所述用户账号的灌水行为标签。
10.本技术第二方面提供了一种待审核内容的分流装置，包括：监测单元，用于实时监测每一个用户每分钟进入审核的待审核内容的数量；判断单元，用于针对每一个所述用户，根据所述用户每分钟进入审核的待审核内容的数量，判断所述用户是否存在灌水行为；分流单元，用于若所述判断单元判断出，所述用户存在灌水行为，则将所述用户已进入审核的待审核内容以及后续进入审核的待审核内容，分流至灌水通道；所述分流单元，还用于若所述判断单元判断出，所述用户不存在灌水行为，则将所述用户已进入审核的待审核内容以及后续进入审核的待审核内容，分流至正常审核通道。
11.可选的，所述待审核内容的分流装置，还包括：设置单元，用于若所述判断单元判断出，所述用户存在灌水行为，则为所述用户账号设置灌水行为标签；其中，所述分流单元用于若所述判断单元判断出，所述用户存在灌水行为，则将所述用户已进入审核的待审核内容以及后续进入审核的待审核内容，分流至灌水通道时，包括：第一分流子单元，用于将所述用户已进入审核的待审核内容分流至灌水通道；
获取单元，用于并针对每一个后续进入审核的待审核内容，获取所述后续进入审核的待审核内容所属用户账号中的标签；第二分流子单元，用于若所述后续进入审核的待审核内容所属用户账号中的标签为灌水行为标签，则将所述后续进入审核的待审核内容分流至灌水通道。
12.可选的，所述灌水行为标签分为第一灌水行为标签、第二灌水行为标签和第三灌水行为标签；所述判断单元，包括：判断子单元，用于针对每一个所述用户，根据所述用户每分钟进入审核的待审核内容的数量，判断所述用户进入审核的待审核内容的数量是否满足预设的命中规则；确定单元，用于若所述判断子单元判断出，所述用户进入审核的待审核内容的数量满足所述预设的命中规则，则确定所述用户存在灌水行为；其中，所述预设的命中规则包括：第一命中子规则、第二命中子规则和第三命中子规则；所述设置单元，包括：若判断出所述用户进入审核的待审核内容的数量满足所述第一命中子规则，则为所述用户账号设置第一灌水行为标签；若判断出所述用户进入审核的待审核内容的数量满足所述第二命中子规则，则为所述用户账号设置第二灌水行为标签；若判断出所述用户进入审核的待审核内容的数量满足所述第三命中子规则，则为所述用户账号设置第三灌水行为标签。
13.可选的，所述待审核内容的分流装置，还包括：取消单元，用于在为所述用户账号设置灌水行为标签之后，每隔第一预设时间取消所述用户账号的灌水行为标签；其中，所述灌水行为标签包括第一灌水行为标签、第二灌水行为标签以及第三灌水行为标签。
14.可选的，所述待审核内容的分流装置，还包括：延迟单元，用于若在第二预设时间内，所述用户仍存在持续灌水行为，则延迟取消所述用户账号的灌水行为标签。
15.本技术第三方面提供了一种服务器，包括：一个或多个处理器；存储装置，其上存储有一个或多个程序；当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器实现如第一方面任意一项所述的待审核内容的分流方法。
16.本技术第四方面提供了一种计算机存储介质，其上存储有计算机程序，其中，所述计算机程序被处理器执行时实现如第一方面任意一项所述的待审核内容的分流方法。
17.由以上方案可知，本技术提供一种待审核内容的分流方法、装置、服务器及计算机存储介质，所述待审核内容的分流方法包括：首先，实时监测每一个用户每分钟进入审核的待审核内容的数量；然后，针对每一个所述用户，根据所述用户每分钟进入审核的待审核内容的数量，判断所述用户是否存在灌水行为；若判断出所述用户存在灌水行为，则将所述用户已进入审核的待审核内容以及后续进入审核的待审核内容，分流至灌水通道；若判断出所述用户不存在灌水行为，则将所述用户已进入审核的待审核内容以及后续进入审核的待审核内容，分流至正常审核通道。从而达到快速区分待审核内容，并对待审核内容进行分
流，提高用户体验，并减轻审核人员的工作量的目的。
附图说明
18.为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据提供的附图获得其他的附图。
19.图1为本技术实施例提供的一种待审核内容的分流方法的具体流程图；图2为本技术另一实施例提供的一种待审核内容的分流方法的流程图；图3为本技术另一实施例提供的一种待审核内容的分流方法的流程图；图4为本技术另一实施例提供的一种待审核内容的分流装置的示意图；图5为本技术另一实施例提供的一种实现待审核内容的分流方法的服务器的示意图。
具体实施方式
20.下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
21.需要注意，本技术中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分，并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系，而术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个
……”
限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
22.本技术实施例提供了一种待审核内容的分流方法，如图1所示，具体包括以下步骤：s101、实时监测每一个用户每分钟进入审核的待审核内容的数量。
23.具体的，在本技术的具体实现过程中，实现该步骤的模块可以采用但不限于redis的hash（哈希表）数据结构，key设置为用户的用户账号，field设置为时间戳，value设置为进入审核的待审核内容的数量。
24.可以理解的是，为了保证效率还可以设置一个时间范围，如只监测6小时内的待审核内容的数量。
25.s102、针对每一个用户，根据用户每分钟进入审核的待审核内容的数量，判断用户是否存在灌水行为。
26.其中，灌水行为是指在网络中针对特定内容发布特定信息的、被雇佣的网络写手，伪装成普通网民或消费者，通过发布、回复和传播博文等对正常用户产生影响的行为。
27.具体的，在本技术的具体实现过程中，可以设定一个阈值如每分钟30条，若超过这
个阈值，则确定用户存在灌水行为。
28.具体的，若判断出用户存在灌水行为，则执行步骤s103；若判断出用户不存在灌水行为，则执行步骤s104。
29.可选的，在本技术的另一实施例中，步骤s102的一种实施方式，如图2所示，包括：s201、针对每一个用户，根据用户每分钟进入审核的待审核内容的数量，判断用户进入审核的待审核内容的数量是否满足预设的命中规则。
30.具体的，若判断出用户进入审核的待审核内容的数量满足预设的命中规则，则执行步骤s202。
31.s202、确定用户存在灌水行为。
32.s103、将用户已进入审核的待审核内容以及后续进入审核的待审核内容，分流至灌水通道。
33.在本技术的具体实现过程中，为实现准确的将后续进入审核的待审核内容分流至灌水通道，在判断出用户存在灌水行为之后，待审核内容的分流方法的一种实施方式，还包括：为存在灌水行为的用户的用户账号设置灌水行为标签。
34.在为存在灌水行为的用户的用户账号设置灌水行为标签后，步骤s103的一种实施方式，如图3所示，包括：s301、将存在灌水行为的用户已进入审核的待审核内容分流至灌水通道。
35.s302、并针对每一个后续进入审核的待审核内容，获取后续进入审核的待审核内容所属用户账号中的标签。
36.s303、若后续进入审核的待审核内容所属用户账号中的标签为灌水行为标签，则将后续进入审核的待审核内容分流至灌水通道。
37.s104、将用户已进入审核的待审核内容以及后续进入审核的待审核内容，分流至正常审核通道。
38.在本技术的具体实现过程中，预设的命中规则还可以分为多种命中规则，例如：第一命中子规则、第二命中子规则和第三命中子规则，还可以将灌水行为标签分为第一灌水行为标签、第二灌水行为标签和第三灌水行为标签，若判断出用户进入审核的待审核内容的数量满足第一命中子规则，则为用户账号设置第一灌水行为标签；若判断出用户进入审核的待审核内容的数量满足第二命中子规则，则为用户账号设置第二灌水行为标签；若判断出用户进入审核的待审核内容的数量满足第三命中子规则，则为用户账号设置第三灌水行为标签。
39.其中，第一命中子规则可以是但不限于用户的用户账号连续1分钟发布评论超过5条，则为用户账号设置第一灌水行为标签，其标签内容为轻度灌水的标签；第二命中子规则可以是但不限于用户的用户账号连续5分钟发布评论超过50条，则为用户账号设置第二灌水行为标签，其标签内容为中度灌水的标签；第三命中子规则可以是但不限于用户的用户账号连续30分钟发布评论超过500条，则为用户账号设置第三灌水行为标签，其标签内容为重度灌水的标签。
40.需要说明的是，若同时命中多个规则，则优先生效灌水行为最严重的标签。
41.可以理解的是，上述实施例仅是以三种命中子规则作为举例说明，在本技术的实际应用过程中，还可以采用四种命中子规则、七种命中子规则、十一种命中子规则等，此处
不做限定。
42.还需要说明的是，在本技术的具体实现过程中，还可以有多个灌水通道，或是灌水通道中分为多个子通道，那么就可以为不同等级的灌水标签，分配不同的灌水通道/灌水子通道。使得后续审核人员进行审核时更加的便捷。
43.可选的，在本技术的另一实施例中，待审核内容的分流方法的一种实施方式，还包括：在为用户账号设置灌水行为标签之后，每隔第一预设时间取消用户账号的灌水行为标签。
44.其中，灌水行为标签包括第一灌水行为标签、第二灌水行为标签以及第三灌水行为标签。
45.需要说明的是，第一预设时间可以由技术人员、相关有权限人员进行设置、更改，此处不做限定。
46.可选的，在本技术的另一实施例中，待审核内容的分流方法的一种实施方式，还包括：若在第二预设时间内，用户仍存在持续灌水行为，则延迟取消用户账号的灌水行为标签。
47.需要说明的是，第二预设时间可以由技术人员、相关有权限人员进行设置、更改，此处不做限定。
48.由以上方案可知，本技术提供一种待审核内容的分流方法：首先，实时监测每一个用户每分钟进入审核的待审核内容的数量；然后，针对每一个用户，根据用户每分钟进入审核的待审核内容的数量，判断用户是否存在灌水行为；若判断出用户存在灌水行为，则将用户已进入审核的待审核内容以及后续进入审核的待审核内容，分流至灌水通道；若判断出用户不存在灌水行为，则将用户已进入审核的待审核内容以及后续进入审核的待审核内容，分流至正常审核通道。从而达到快速区分待审核内容，并对待审核内容进行分流，提高用户体验，并减轻审核人员的工作量的目的。
49.本技术另一实施例提供了一种待审核内容的分流装置，如图4所示，具体包括：监测单元401，用于实时监测每一个用户每分钟进入审核的待审核内容的数量。
50.判断单元402，用于针对每一个用户，根据用户每分钟进入审核的待审核内容的数量，判断用户是否存在灌水行为。
51.分流单元403，用于若判断单元402判断出，用户存在灌水行为，则将用户已进入审核的待审核内容以及后续进入审核的待审核内容，分流至灌水通道。
52.分流单元403，还用于若判断单元402判断出，用户不存在灌水行为，则将用户已进入审核的待审核内容以及后续进入审核的待审核内容，分流至正常审核通道。
53.本技术上述实施例公开的单元的具体工作过程，可参见对应的方法实施例内容，如图1所示，此处不再赘述。
54.可选的，在本技术的另一实施例中，待审核内容的分流装置的一种实施方式，还包括：设置单元，用于若判断单元判断出，用户存在灌水行为，则为用户账号设置灌水行为标签。
55.其中，分流单元用于若判断单元判断出，用户存在灌水行为，则将用户已进入审核的待审核内容以及后续进入审核的待审核内容，分流至灌水通道时，包括：第一分流子单元，用于将用户已进入审核的待审核内容分流至灌水通道。
56.获取单元，用于并针对每一个后续进入审核的待审核内容，获取后续进入审核的待审核内容所属用户账号中的标签。
57.第二分流子单元，用于若后续进入审核的待审核内容所属用户账号中的标签为灌水行为标签，则将后续进入审核的待审核内容分流至灌水通道。
58.本技术上述实施例公开的单元的具体工作过程，可参见对应的方法实施例内容，如图3所示，此处不再赘述。
59.可选的，在本技术的另一实施例中，灌水行为标签分为第一灌水行为标签、第二灌水行为标签和第三灌水行为标签；判断单元402的一种实施方式，包括：判断子单元，用于针对每一个用户，根据用户每分钟进入审核的待审核内容的数量，判断用户进入审核的待审核内容的数量是否满足预设的命中规则。
60.确定单元，用于若判断子单元判断出，用户进入审核的待审核内容的数量满足预设的命中规则，则确定用户存在灌水行为。
61.其中，预设的命中规则包括：第一命中子规则、第二命中子规则和第三命中子规则；设置单元，包括：若判断出用户进入审核的待审核内容的数量满足第一命中子规则，则为用户账号设置第一灌水行为标签。
62.若判断出用户进入审核的待审核内容的数量满足第二命中子规则，则为用户账号设置第二灌水行为标签。
63.若判断出用户进入审核的待审核内容的数量满足第三命中子规则，则为用户账号设置第三灌水行为标签。
64.本技术上述实施例公开的单元的具体工作过程，可参见对应的方法实施例内容，如图2所示，此处不再赘述。
65.可选的，在本技术的另一实施例中，待审核内容的分流装置的一种实施方式，还包括：在为用户账号设置灌水行为标签之后，每隔第一预设时间取消用户账号的灌水行为标签；其中，灌水行为标签包括第一灌水行为标签、第二灌水行为标签以及第三灌水行为标签。
66.本技术上述实施例公开的单元的具体工作过程，可参见对应的方法实施例内容，此处不再赘述。
67.可选的，在本技术的另一实施例中，待审核内容的分流装置的一种实施方式，还包括：若在第二预设时间内，用户仍存在持续灌水行为，则延迟取消用户账号的灌水行为标签。
68.本技术上述实施例公开的单元的具体工作过程，可参见对应的方法实施例内容，此处不再赘述。
69.由以上方案可知，本技术提供一种待审核内容的分流装置：首先，监测单元401实
时监测每一个用户每分钟进入审核的待审核内容的数量；然后，判断单元402针对每一个用户，根据用户每分钟进入审核的待审核内容的数量，判断用户是否存在灌水行为；若判断单元402判断出用户存在灌水行为，则分流单元403将用户已进入审核的待审核内容以及后续进入审核的待审核内容，分流至灌水通道；若判断单元402判断出用户不存在灌水行为，则分流单元403将用户已进入审核的待审核内容以及后续进入审核的待审核内容，分流至正常审核通道。从而达到快速区分待审核内容，并对待审核内容进行分流，提高用户体验，并减轻审核人员的工作量的目的。
70.本技术另一实施例提供了一种服务器，如图5所示，包括：一个或多个处理器501。
71.存储装置502，其上存储有一个或多个程序。
72.当所述一个或多个程序被所述一个或多个处理器501执行时，使得所述一个或多个处理器501实现如上述实施例中任意一项所述的待审核内容的分流方法。
73.本技术另一实施例提供了一种计算机存储介质，其上存储有计算机程序，其中，计算机程序被处理器执行时实现如上述实施例中任意一项所述的待审核内容的分流方法。
74.在本技术公开的上述实施例中，应该理解到，所揭露的装置和方法，也可以通过其它的方式实现。以上所描述的装置和方法实施例仅仅是示意性的，例如，附图中的流程图和框图显示了根据本公开的多个实施例的装置、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分，所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现方式中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个连续的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或动作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
75.另外，在本公开各个实施例中的各功能模块可以集成在一起形成一个独立的部分，也可以是各个模块单独存在，也可以两个或两个以上模块集成形成一个独立的部分。所述功能如果以软件功能模块的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本公开的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，直播设备，或者网络设备等)执行本公开各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：u盘、移动硬盘、只读存储器(rom，read
‑
only memory)、随机存取存储器(ram，random access memory)、磁碟或者光盘等各种可以存储程序代码的介质。
76.专业技术人员能够实现或使用本技术。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的，本文中所定义的一般原理可以在不脱离本技术的精神或范围的情况下，在其它实施例中实现。因此，本技术将不会被限制于本文所示的这些实施例，而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。