一种房间违规审核方法、装置、设备、存储介质及产品与流程

本申请实施例涉及直播，尤其涉及一种房间违规审核方法、装置、设备、存储介质及产品。

背景技术：

1、直播间、语音房是当下社交应用的主流娱乐方式，但是部分直播房间往往存在一些违规行为，为了保证用户的直播体验，需要对违规房间进行审核并对违规房间进行限制。

2、传统违规房间审核一般通过审核模型对房间中产生的音频、图像、文字信息进行判断，确定房间是否违规。这些违规房间审核方式一般是使用一个分类模型对输入的信息进行分类，根据分类结果判断房间是否违规。这类方法通常只是对单个用户产生的单条数据进行审核，房间审核效果较差。

技术实现思路

1、本申请实施例提供一种房间违规审核方法、装置、设备、存储介质及产品，以解决相关技术中针对单个用户产生的单条数据进行审核，房间审核效果较差的技术问题，有效提高对房间的审核准确度，提高房间审核效果。

2、在第一方面，本申请实施例提供了一种房间违规审核方法，包括：

3、基于黑名单列表确定待审核房间中的在线黑名单用户，并基于所述在线黑名单用户从所述待审核房间中确定嫌疑房间；

4、获取所述嫌疑房间的房间音频信息，并从所述房间音频信息中确定嫌疑音频；

5、基于所述嫌疑音频对所述嫌疑房间进行违规审核。

6、在第二方面，本申请实施例提供了一种房间违规审核装置，包括房间确定模块、音频确定模块和房间审核模块，其中：

7、所述房间确定模块，配置为基于黑名单列表确定待审核房间中的在线黑名单用户，并基于所述在线黑名单用户从所述待审核房间中确定嫌疑房间；

8、所述音频确定模块，配置为获取所述嫌疑房间的房间音频信息，并从所述房间音频信息中确定嫌疑音频；

9、所述房间审核模块，配置为基于所述嫌疑音频对所述嫌疑房间进行违规审核。

10、在第三方面，本申请实施例提供了一种房间违规审核设备，包括：存储器以及一个或多个处理器；

11、所述存储器，用于存储一个或多个程序；

12、当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如第一方面所述的房间违规审核方法。

13、在第四方面，本申请实施例提供了一种存储计算机可执行指令的非易失性存储介质，所述计算机可执行指令在由计算机处理器执行时用于执行如第一方面所述的房间违规审核方法。

14、在第五方面，本申请实施例提供了一种计算机程序产品，该计算机程序产品包括计算机程序，该计算机程序存储在计算机可读存储介质中，设备的至少一个处理器从计算机可读存储介质读取并执行计算机程序，使得设备执行如第一方面所述的房间违规审核方法。

15、本申请实施例通过根据黑名单列表确定待审核房间中的在线黑名单用户，根据在线黑名单用户从待审核房间中确定嫌疑房间，并获取嫌疑房间的房间音频信息，从各个嫌疑房间的房间音频信息中确定嫌疑音频，并基于嫌疑音频对嫌疑房间进行违规审核，通过在线黑名单用户对待审核房间进行初步筛选确定嫌疑房间，并根据嫌疑房间的房间音频信息进行二次筛选，确定嫌疑音频，可基于嫌疑音频准确对嫌疑房间进行违规审核，从直播房间的语音信息中确定存在违规可能的嫌疑音频，有效提高对房间的审核准确度，提高房间审核效果。

技术特征：

1.一种房间违规审核方法，其特征在于，包括：

2.根据权利要求1所述的房间违规审核方法，其特征在于，所述基于黑名单列表确定待审核房间中的在线黑名单用户，并基于所述在线黑名单用户从所述待审核房间中确定嫌疑房间，包括：

3.根据权利要求2所述的房间违规审核方法，其特征在于，所述房间嫌疑分数基于所述待审核房间中各个所述在线黑名单用户的用户权重之和与所述在线用户的在线用户数量的比值确定。

4.根据权利要求1所述的房间违规审核方法，其特征在于，所述获取所述嫌疑房间的房间音频信息，包括：

5.根据权利要求1所述的房间违规审核方法，其特征在于，所述从所述房间音频信息中确定嫌疑音频，包括：

6.根据权利要求5所述的房间违规审核方法，其特征在于，所述确定所述房间音频信息的音频嫌疑分数，包括：

7.根据权利要求1-6任一项所述的房间违规审核方法，其特征在于，所述基于黑名单列表确定待审核房间中的在线黑名单用户之前，还包括：

8.一种房间违规审核装置，其特征在于，包括房间确定模块、音频确定模块和房间审核模块，其中：

9.一种房间违规审核设备，其特征在于，包括：存储器以及一个或多个处理器；

10.一种存储计算机可执行指令的非易失性存储介质，其特征在于，所述计算机可执行指令在由计算机处理器执行时用于执行如权利要求1-7任一项所述的房间违规审核方法。

11.一种计算机程序产品，包括计算机程序，其特征在于，所述计算机程序被处理器执行时实现权利要求1-7任一项所述的房间违规审核方法。

技术总结
本申请实施例提供了一种房间违规审核方法、装置、设备、存储介质及产品。本申请实施例提供的技术方案通过根据黑名单列表确定待审核房间中的在线黑名单用户，根据在线黑名单用户从待审核房间中确定嫌疑房间，并获取嫌疑房间的房间音频信息，从各个嫌疑房间的房间音频信息中确定嫌疑音频，并基于嫌疑音频对嫌疑房间进行违规审核，通过在线黑名单用户对待审核房间进行初步筛选确定嫌疑房间，并根据嫌疑房间的房间音频信息进行二次筛选，确定嫌疑音频，可基于嫌疑音频准确对嫌疑房间进行违规审核，从直播房间的语音信息中确定存在违规可能的嫌疑音频，有效提高对房间的审核准确度，提高房间审核效果。

技术研发人员：常恒毅,马东鹏,项伟
受保护的技术使用者：百果园技术（新加坡）有限公司
技术研发日：
技术公布日：2024/1/14