即时通信消息内容处理方法、装置、电子设备及存储介质与流程

本公开涉及人工智能，特别涉及计算机视觉、自然语言处理以及内容风控等领域的即时通信消息内容处理方法、装置、电子设备及存储介质。

背景技术：

1、目前，即时通信技术发展迅速，在方便了用户沟通的同时，也出现了大量的风险隐患，如可能造成违法类或违规类的风险消息内容的传播等，因此需要进行内容风控，即需要对即时通信消息内容进行审核和拦截等。

技术实现思路

1、本公开提供了即时通信消息内容处理方法、装置、电子设备及存储介质。

2、一种即时通信消息内容处理方法，包括：

3、获取来自发送方设备的即时通信消息内容；

4、采用第一审核策略对所述即时通信消息内容进行首次审核，响应于确定首次审核通过，将所述即时通信消息内容发送给接收方设备，否则，对所述即时通信消息内容进行拦截；

5、采用相比于所述第一审核策略更为复杂的第二审核策略，对所发送的所述即时通信消息内容进行二次审核，响应于确定二次审核未通过，向所述接收方设备发送撤回指令，用于指示所述接收方设备执行针对所述即时通信消息内容的撤回操作。

6、一种即时通信消息内容处理装置，包括：消息获取模块、第一审核模块以及第二审核模块；

7、所述消息获取模块，用于获取来自发送方设备的即时通信消息内容；

8、所述第一审核模块，用于采用第一审核策略对所述即时通信消息内容进行首次审核，响应于确定首次审核通过，将所述即时通信消息内容发送给接收方设备，否则，对所述即时通信消息内容进行拦截；

9、所述第二审核模块，用于采用相比于所述第一审核策略更为复杂的第二审核策略，对所发送的所述即时通信消息内容进行二次审核，响应于确定二次审核未通过，向所述接收方设备发送撤回指令，用于指示所述接收方设备执行针对所述即时通信消息内容的撤回操作。

10、一种电子设备，包括：

11、至少一个处理器；以及

12、与所述至少一个处理器通信连接的存储器；其中，

13、所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行如以上所述的方法。

14、一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使计算机执行如以上所述的方法。

15、一种计算机程序产品，包括计算机程序/指令，所述计算机程序/指令被处理器执行时实现如以上所述的方法。

16、应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

技术特征：

1.一种即时通信消息内容处理方法，包括：

2.根据权利要求1所述的方法，其中，

3.根据权利要求2所述的方法，其中，

4.根据权利要求3所述的方法，其中，

5.根据权利要求2所述的方法，其中，

6.根据权利要求5所述的方法，其中，

7.根据权利要求4或6所述的方法，还包括：

8.根据权利要求5所述的方法，还包括：

9.根据权利要求1～6以及权利要求8中的任一项所述的方法，其中，

10.根据权利要求9所述的方法，其中，

11.根据权利要求9所述的方法，其中，

12.根据权利要求9所述的方法，其中，

13.根据权利要求1～6以及权利要求8中的任一项所述的方法，其中，

14.一种即时通信消息内容处理装置，包括：消息获取模块、第一审核模块以及第二审核模块；

15.根据权利要求14所述的装置，其中，

16.根据权利要求15所述的装置，其中，

17.根据权利要求16所述的装置，其中，

18.根据权利要求15所述的装置，其中，

19.根据权利要求18所述的装置，其中，

20.根据权利要求17或19所述的装置，其中，

21.根据权利要求18所述的装置，其中，

22.根据权利要求14～19以及权利要求21中的任一项所述的装置，其中，

23.根据权利要求22所述的装置，其中，

24.根据权利要求22所述的装置，其中，

25.根据权利要求22所述的装置，其中，

26.根据权利要求14～19以及权利要求21中的任一项所述的装置，其中，

27.一种电子设备，包括：

28.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使计算机执行权利要求1-13中任一项所述的方法。

29.一种计算机程序产品，包括计算机程序/指令，所述计算机程序/指令被处理器执行时实现权利要求1-13中任一项所述的方法。

技术总结
本公开提供了即时通信消息内容处理方法、装置、电子设备及存储介质，涉及计算机视觉、自然语言处理以及内容风控等人工智能领域。其中的方法可包括：获取来自发送方设备的即时通信消息内容；采用第一审核策略对即时通信消息内容进行首次审核，响应于确定首次审核通过，将即时通信消息内容发送给接收方设备，否则，对即时通信消息内容进行拦截；采用相比于第一审核策略更为复杂的第二审核策略，对所发送的即时通信消息内容进行二次审核，响应于确定二次审核未通过，向接收方设备发送撤回指令，用于指示接收方设备执行针对即时通信消息内容的撤回操作。应用本公开所述方案，可降低通信延迟，并可尽可能地减少风险消息内容的传播等。

技术研发人员：刘灏哲
受保护的技术使用者：北京百度网讯科技有限公司
技术研发日：
技术公布日：2024/1/13