异常信息识别方法、装置和计算机可读存储介质与流程

本公开涉及计算机，特别涉及一种异常信息识别方法、异常信息识别装置和计算机可读存储介质。

背景技术：

1、在数字化时代，网络信息的传播速度空前迅速。但是，与快速传播同时伴随的是异常信息(如虚假信息、有害信息等)的盛行。这种现象给社会治理、企业声誉、甚至公众的生命安全都带来了挑战。因此，通过信息检测技术检测网络信息中的异常信息显得尤为重要。

2、在相关技术中，异常信息检测技术包括文本模式识别、情感分析等。

技术实现思路

1、本公开的发明人发现上述相关技术中存在如下问题：误判率较高，导致异常信息的识别效果差。

2、鉴于此，本公开提出了一种异常信息识别技术方案，能够降低误判率，从而提高异常信息的识别效果。

3、根据本公开的一些实施例，提供了一种异常信息识别方法，包括：获取待识别信息的至少一条相关网络信息，以生成第一相关内容；根据第一相关内容，确定待识别信息的第一识别结果；在异常信息样本库中，获取待识别信息的第二相关内容；根据第二相关内容，确定待识别信息的第二识别结果；根据第一识别结果和第二识别结果，确定最终识别结果，用于识别待识别信息是否为异常信息。

4、在一些实施例中，确定最终识别结果包括：根据第一相关内容和第二相关内容，确定最终识别结果。

5、在一些实施例中，第一相关内容的信息来源的可信程度越高，第一识别结果对最终识别结果的影响越大；第二相关内容的信息来源的可信程度越高，第二识别结果对最终识别结果的影响越大。

6、在一些实施例中，确定最终识别结果包括：从多个候选异常信息识别模型中，确定出与待识别信息匹配的第一异常信息识别模型；利用第一异常信息识别模型处理待识别信息，以确定第三识别结果；根据第三识别结果，确定最终识别结果。

7、在一些实施例中，确定最终识别结果包括：将第一识别结果、第二识别结果以及第三识别结果输入机器学习模型中，以输出最终识别结果。

8、在一些实施例中，生成第一相关内容包括：对至少一条相关网络信息进行结构化处理，以生成第一相关内容，第一相关内容包括相关网络信息的标题信息、发布时间信息、摘要信息中的至少一项。

9、在一些实施例中，至少一条相关网络信息包括多条相关网络信息，生成第一相关内容包括：根据多条相关网络信息中与待识别信息相关程度最高的，生成第一相关内容。

10、在一些实施例中，获取待识别信息的第二相关内容包括：将异常信息样本库与待识别信息相关程度最高的异常信息样本，确定为第二相关内容。

11、在一些实施例中，获取待识别信息的第二相关内容包括：根据待识别信息的特征向量和异常信息样本库中异常信息样本的特征向量，确定待识别信息与异常信息样本的相关程度。

12、在一些实施例中，确定待识别信息的第二识别结果包括：将第二相关内容作为待识别信息的上下文信息输入第二异常信息识别模型，以输出第二识别结果。

13、在一些实施例中，第一相关内容利用第一智能体生成，第一识别结果利用第一智能体确定，第二相关内容利用第二智能体获取，第二识别结果利用第二智能体确定。

14、根据本公开的另一些实施例，提供一种异常信息识别装置，包括：第一获取单元，用于获取待识别信息的至少一条相关网络信息，以生成第一相关内容；第一识别单元，用于根据第一相关内容，确定待识别信息的第一识别结果；第二获取单元，用于在异常信息样本库中，获取待识别信息的第二相关内容；第二识别单元，用于根据第二相关内容，确定待识别信息的第二识别结果；确定单元，用于根据第一识别结果和第二识别结果，确定最终识别结果，用于识别待识别信息是否为异常信息。

15、在一些实施例中，确定单元根据第一相关内容和第二相关内容，确定最终识别结果。

16、在一些实施例中，第一相关内容的信息来源的可信程度越高，第一识别结果对最终识别结果的影响越大；第二相关内容的信息来源的可信程度越高，第二识别结果对最终识别结果的影响越大。

17、在一些实施例中，异常信息识别装置还包括：第三识别单元，用于从多个候选异常信息识别模型中，确定出与待识别信息匹配的第一异常信息识别模型，利用第一异常信息识别模型处理待识别信息，以确定第三识别结果，根据第三识别结果，确定最终识别结果。

18、在一些实施例中，确定单元将第一识别结果、第二识别结果以及第三识别结果输入机器学习模型中，以输出最终识别结果。

19、在一些实施例中，第一获取单元对至少一条相关网络信息进行结构化处理，以生成第一相关内容，第一相关内容包括相关网络信息的标题信息、发布时间信息、摘要信息中的至少一项。

20、在一些实施例中，至少一条相关网络信息包括多条相关网络信息，第一获取单元根据多条相关网络信息中与待识别信息相关程度最高的，生成第一相关内容。

21、在一些实施例中，第二获取单元将异常信息样本库与待识别信息相关程度最高的异常信息样本，确定为第二相关内容。

22、在一些实施例中，第二获取单元根据待识别信息的特征向量和异常信息样本库中异常信息样本的特征向量，确定待识别信息与异常信息样本的相关程度。

23、在一些实施例中，第二识别单元将第二相关内容作为待识别信息的上下文信息输入第二异常信息识别模型，以输出第二识别结果。

24、在一些实施例中，第一相关内容利用第一智能体生成，第一识别结果利用第一智能体确定，第二相关内容利用第二智能体获取，第二识别结果利用第二智能体确定。

25、根据本公开的又一些实施例，提供一种异常信息识别装置，包括：存储器；和耦接至存储器的处理器，处理器被配置为基于存储在存储器装置中的指令，执行上述任一个实施例中的异常信息识别方法。

26、根据本公开的再一些实施例，提供一种非易失性计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现上述任一个实施例中的方法。

27、在上述实施例中，分别根据在线的相关内容和离线的相关内容，对待识别信息进行异常信息识别，并将两种识别结果进行融合，以确定待识别信息是否为异常信息。这样，通过在线识别和离线识别的协同工作确保了从多方面、多层次对信息进行分析，从而提高了异常信息识别效果。

技术特征：

1.一种异常信息识别方法，包括：

2.根据权利要求1所述的异常信息识别方法，其中，所述确定所述最终识别结果包括：

3.根据权利要求2所述的异常信息识别方法，其中：

4.根据权利要求1所述的异常信息识别方法，其中，所述确定最终识别结果包括：

5.根据权利要求4所述的异常信息识别方法，其中，所述确定最终识别结果包括：

6.根据权利要求1-5任一项所述的异常信息识别方法，其中，所述生成第一相关内容包括：

7.根据权利要求1-5任一项所述的异常信息识别方法，其中，所述至少一条相关网络信息包括多条相关网络信息，

8.根据权利要求1-5任一项所述的异常信息识别方法，其中，所述获取所述待识别信息的第二相关内容包括：

9.根据权利要求8所述的异常信息识别方法，其中，所述获取所述待识别信息的第二相关内容包括：

10.根据权利要求9所述的异常信息识别方法，其中，所述确定所述待识别信息的第二识别结果包括：

11.根据权利要求1-5任一项所述的异常信息识别方法，其中，所述第一相关内容利用第一智能体生成，所述第一识别结果利用所述第一智能体确定，所述第二相关内容利用第二智能体获取，所述第二识别结果利用所述第二智能体确定。

12.一种异常信息识别装置，包括：

13.一种异常信息识别装置，包括：

14.一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现权利要求1-11任一项所述的异常信息识别方法。

技术总结
本公开涉及一种异常信息识别方法、装置和计算机可读存储介质，涉及计算机技术领域。该异常信息识别方法，包括：获取待识别信息的至少一条相关网络信息，以生成第一相关内容；根据第一相关内容，确定待识别信息的第一识别结果；在异常信息样本库中，获取待识别信息的第二相关内容；根据第二相关内容，确定待识别信息的第二识别结果；根据第一识别结果和第二识别结果，确定最终识别结果，用于识别待识别信息是否为异常信息。本公开的技术方案能够降低误判率，从而提高异常信息的识别效果。

技术研发人员：舒斯达,詹旻玥,于祥,黄冰亮,金亮,李彤
受保护的技术使用者：抖音视界有限公司
技术研发日：
技术公布日：2024/2/25