数据异常检测方法、装置、电子设备及存储介质与流程

文档序号:37379360发布日期:2024-03-22 10:31阅读:13来源:国知局
数据异常检测方法、装置、电子设备及存储介质与流程

本技术涉及数据分析,具体涉及数据异常检测方法、装置、电子设备及存储介质。


背景技术:

1、时序数据是针对同一业务按照时间顺序记录的数据集合,可以描述业务随时间变化的趋势。在现有的监控体系中,时序数据是最常见的监控数据类型,并且在故障发现过程中扮演着重要角色。无论是基础系统指标还是业务指标,都需要基于时序数据来进行异常监控,以判断对应的系统或业务是否在正常运行。

2、相关技术中,通常通过设置阈值的方式针对时序数据进行异常检测。具体的,预先设置一个固定的阈值,当时序数据的数据值超出该阈值时认为出现数据异常。

3、相关技术的问题在于,时序数据所对应的影响因素较多,例如节假日、天气、临时活动等因素都会影响时序数据,固定的阈值难以适应不同因素的影响,不利于提高数据异常检测的准确性。


技术实现思路

1、本技术实施例提供一种数据异常检测方法、装置、电子设备及存储介质,不依赖于固定的阈值进行判断,针对不同变化趋势类型的时序数据可以通过对应的目标异常检测模型进行异常检测,有利于提高数据异常检测的准确性。

2、本技术实施例第一方面提供一种数据异常检测方法,上述方法包括:

3、获取待检测时序数据;

4、分析上述待检测时序数据的变化趋势,得到上述待检测时序数据对应的目标数据变化趋势类型;

5、对上述待检测时序数据进行特征提取,得到上述待检测时序数据对应的目标数据特征;

6、根据上述目标数据变化趋势类型从多个已训练的异常检测模型中,获取用于检测上述目标数据变化趋势类型下时序数据的目标异常检测模型;

7、根据上述目标异常检测模型和上述目标数据特征,获取上述待检测时序数据对应的第一异常检测结果。

8、本技术实施例第二方面提供一种数据异常检测装置,上述装置包括:

9、数据获取模块,用于获取待检测时序数据;

10、变化趋势分析模块,用于分析上述待检测时序数据的变化趋势,得到上述待检测时序数据对应的目标数据变化趋势类型;

11、特征提取模块,用于对上述待检测时序数据进行特征提取,得到上述待检测时序数据对应的目标数据特征;

12、模型获取模块,用于根据上述目标数据变化趋势类型从多个已训练的异常检测模型中,获取用于检测上述目标数据变化趋势类型下时序数据的目标异常检测模型;

13、异常检测模块,用于根据上述目标异常检测模型和上述目标数据特征,获取上述待检测时序数据对应的第一异常检测结果。

14、在一些可选的实施例中,上述变化趋势分析模块包括:

15、数据输入单元,用于将上述待检测时序数据输入已训练的时序数据变化趋势确定模型;

16、变化趋势类型获取单元,用于获取上述时序数据变化趋势确定模型输出的目标数据变化趋势类型。

17、在一些可选的实施例中,上述装置还包括:

18、无监督识别模块,用于根据预设的无监督异常检测模型对上述待检测时序数据进行异常识别;

19、结果确定模块,用于若上述无监督异常检测模型识别出上述待检测时序数据无异常,则将数据正常作为上述第一异常检测结果,且不触发上述异常检测模块执行上述根据上述目标异常检测模型和上述目标数据特征,获取上述待检测时序数据对应的第一异常检测结果;

20、检测触发模块,用于若上述无监督异常检测模型识别出上述待检测时序数据异常,则触发上述异常检测模块执行上述根据上述目标异常检测模型和上述目标数据特征,获取上述待检测时序数据对应的第一异常检测结果。

21、在一些可选的实施例中,上述特征提取模块包括:

22、统计特征提取单元,用于根据预设的多个统计特征提取窗口对上述待检测时序数据进行特征提取,得到上述待检测时序数据对应的多种统计特征;

23、拟合特征提取单元,用于根据预设的多个拟合特征提取窗口对上述待检测时序数据进行特征提取,得到上述待检测时序数据对应的多种拟合特征;

24、分类特征提取单元,用于根据预设的多个分类特征提取窗口对上述待检测时序数据进行特征提取,得到上述待检测时序数据对应的多种分类特征;

25、特征映射单元,用于将各上述统计特征、各上述拟合特征以及各上述分类特征的值映射到预设的同一数据取值区间,得到上述目标数据特征。

26、在一些可选的实施例中,上述装置还包括:

27、目标异常检测模型训练模块,用于获取待训练的目标异常检测模型;获取训练时序数据以及上述训练时序数据对应的数据标注结果,其中,上述训练时序数据的数据变化趋势类型为上述目标数据变化趋势类型;对上述训练时序数据进行特征提取,得到上述训练时序数据对应的训练数据特征;将上述训练数据特征输入上述目标异常检测模型,以获取上述目标异常检测模型输出的训练检测结果;根据上述数据标注结果和上述训练检测结果,对上述目标异常检测模型的模型参数进行调整,并继续执行上述将上述训练数据特征输入上述目标异常检测模型的步骤,直至满足预设训练结束条件,以得到已训练的目标异常检测模型。

28、在一些可选的实施例中,上述装置还包括:

29、结果输出模块,用于向目标对象输出上述第一异常检测结果;

30、反馈获取模块,用于响应于上述目标对象基于上述第一异常检测结果的反馈操作,获取上述第一异常检测结果对应的异常检测反馈结果;

31、模型更新模块,用于若上述第一异常检测结果与上述异常检测反馈结果不一致,则根据上述异常检测反馈结果和上述待检测时序数据生成新的训练时序数据,将上述新的训练时序数据加入到上述目标异常检测模型的训练数据中,以根据更新后的上述训练数据更新上述目标异常检测模型。

32、在一些可选的实施例中,上述装置还包括:

33、数据上传模块,用于将上述待检测时序数据发送到预设的检测校验平台,以触发上述检测校验平台判断得到上述待检测时序数据的第二异常检测结果;

34、异常检测结果获取模块,用于获取上述第二异常检测结果;

35、检测可靠性指标生成模块,用于基于上述第一异常检测结果和上述第二异常检测结果,生成检测可靠性指标,其中,上述检测可靠性指标用于指示上述目标异常检测模型的检测可靠性。

36、本技术实施例第三方面提供一种电子设备,包括存储器和处理器,上述存储器存储有多条指令;上述处理器从上述存储器中加载指令,以执行本技术实施例第一方面提供的数据异常检测方法中的步骤。

37、本技术实施例第四方面提供一种计算机可读存储介质,上述计算机可读存储介质存储有多条指令,上述指令适于处理器进行加载,以执行本技术实施例第一方面提供的数据异常检测方法中的步骤。

38、采用本技术实施例的方案,可以获取待检测时序数据;分析上述待检测时序数据的变化趋势,得到上述待检测时序数据对应的目标数据变化趋势类型;对上述待检测时序数据进行特征提取,得到上述待检测时序数据对应的目标数据特征;根据上述目标数据变化趋势类型从多个已训练的异常检测模型中,获取用于检测上述目标数据变化趋势类型下时序数据的目标异常检测模型;根据上述目标异常检测模型和上述目标数据特征,获取上述待检测时序数据对应的第一异常检测结果。

39、由于在本技术实施例中,在数据异常检测过程中,无需为时序数据设置阈值,且不是根据预设的固定阈值判断时序数据是否出现异常。而是根据待检测时序数据对应的目标数据变化趋势类型确定目标异常检测模型,从而根据目标异常检测模型进行数据异常检测。如此,可以适应不同因素影响下的不同场景,有利于提高数据异常检测的准确性。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1