本发明实施例涉及数据监控,尤其涉及一种数据监控系统。
背景技术:
1、数据作为企业的宝贵资产,起到了非常重要的作用,但是数据的产出往往是经过了一系列的复杂流程,可能存在一些内因(数据生产中的隐藏故障)或者外因(流量攻击、作弊等)的数据问题,如何及时发现数据的异常,及时止损,成为了数据质量保障流程中最重要的一环。
2、目前,需要各个领域企业对应的运维人员对数据进行监控,但是对于新运维人员在对数据不是特别了解的情况下,无法准确的配置相关的数据监控策略实现对数据的准确监控,大大降低了数据监控的准确率。
技术实现思路
1、鉴于此,本发明实施例提供一种数据监控系统,该系统能够通过数据类型为待监控数据配置相对应的数据监控策略,以便于利用数据监控策略实现对数据的准确监控,有效缓解了因人为配置数据监控策略与监控的数据不匹配所造成的数据监控准确率低的问题。
2、第一方面,本发明实施例提供一种数据监控系统,其中,该数据监控系统包括:依次连接的数据输入模块、数据筛选模块、数据监控策略模块和算法引擎模块;
3、数据输入模块,用于接收用户输入的数据筛选信息,将数据筛选信息发送至数据筛选模块;
4、数据筛选模块,用于基于数据筛选信息获取待监控数据,将待监控数据发送至数据监控策略模块;
5、数据监控策略模块,用于基于待监控数据确定数据类型,从算法引擎模块中确定与数据类型匹配的数据监控策略,基于数据监控策略对待监控数据进行数据监控;其中,算法引擎模块中预先存储有对数据进行检测的多种不同的检测算法,以及与每种检测算法对应的数据类型。
6、在一个可能的实施方式中,数据监控系统还包括与数据输入模块、数据筛选模块和数据监控策略模块连接的数据处理模块;
7、数据输入模块,还用于接收用户输入的数据处理信息,并将数据处理信息发送至数据处理模块;
8、数据筛选模块,还用于将待监控数据发送至数据处理模块;
9、数据处理模块,用于基于数据处理信息对待监控数据进行数据处理,并将数据处理后的待监控数据发送至数据监控策略模块。
10、在一个可能的实施方式中,数据监控系统还包括与数据监控策略模块连接的策略调取模块;
11、策略调取模块,用于按照数据更新频率定时向数据监控策略模块发送启动指令,以触发数据监控策略模块进行数据监控。
12、在一个可能的实施方式中,算法引擎模块至少为两个;
13、多个算法引擎模块中的任一目标算法引擎模块,用于接收检测算法操作指令,对数据操作指令进行解析,得到数据操作指令中携带的检测算法操作信息,并将检测算法操作信息上传至操作行为数据表;
14、各个算法引擎模块,还用于按照第一预设轮询时间定时轮询获取操作行为数据表中的检测算法操作信息,基于检测算法操作信息进行检测算法操作;其中,检测算法操作为检测算法更新操作、检测算法部署操作或检测算法下线操作。
15、在一个可能的实施方式中,多个算法引擎模块,还用于监测到数据监控策略中包括预设训练的检测算法的情况下,获取待监控数据的历史数据,基于历史数据对预设训练的检测算法进行算法训练。
16、在一个可能的实施方式中,数据监控策略模块,还用于在待监控数据具有周期性的情况下,确定数据类型为周期数据类型,基于后期数据类型确定数据监控策略为第一数据监控策略,基于第一数据监控策略对待监控数据进行数据监控。
17、在一个可能的实施方式中,数据监控系统还包括与数据监控策略模块连接的报警模块;
18、数据监控策略模块,还用于利用同比检测算法对待监控数据进行同比检测计算,得到同比检测结果值,利用环比检测算法对待监控数据进行环比检测计算,得到环比检测结果值,利用prophet预测算法对待监控数据进行预测检测计算,得到预测检测结果值,在同比检测结果值超过同比检测结果阈值范围、环比检测结果值超过环比检测结果阈值范围,以及预测检测结果值超过预测检测结果阈值范围的情况下,生成第一数据异常监控报警信息,向报警模块发送第一数据异常监控报警信息对应的第一报警触发信号;
19、报警模块,用于显示第一报警触发信号触发的第一报警提示;其中,第一报警提示用于表征待监控数据异常。
20、在一个可能的实施方式中,数据监控策略模块,还用于在待监控数据具有平稳性的情况下,确定数据类型为平稳数据类型,基于平稳数据类型确定数据监控策略为第二数据监控策略,基于述第二数据监控策略对待监控数据进行数据监控。
21、在一个可能的实施方式中,数据监控策略模块,还用于利用箱体检测算法对待监控数据进行箱体检测计算,得到箱体检测结果值,利用高斯异常检测算法对待监控数据进行高斯检测计算,得到高斯检测结果值,在箱体检测结果值超过箱体检测结果阈值范围,以及高斯检测结果值超过高斯检测结果阈值范围的情况下,生成第二数据异常监控报警信息,向报警模块发送第二数据异常监控报警信息对应的第二报警触发信号;
22、报警模块,用于显示第二报警触发信号触发的第二报警提示;其中,第二报警提示用于表征待监控数据异常。
23、在一个可能的实施方式中,数据监控策略模块,还用于在待监控数据不具有平稳性的情况下,数据类型为非平稳数据类型,基于非平稳数据类型确定数据监控策略为第三数据监控策略,基于第三数据监测策略对待监控数据进行数据监控。
24、在一个可能的实施方式中,数据监控策略模块,还用于利用随机森林算法对待监控数据进行随机检测计算,得到随机检测结果,在随机检测结果为异常检测结果的情况下,生成第三数据异常监控报警信息,向报警模块发送第三数据异常监控报警信息对应的第三报警触发信号;
25、报警模块,用于显示第三报警触发信号触发的第三报警提示;其中,第三报警提示用于表征待监控数据异常。
26、在一个可能的实施方式中,数据监控系统还包括与数据筛选模块连接的数据监控策略选取模块;
27、数据监控策略选取模块,用于接收用户响应于算法引擎模块中针对至少一个检测算法的选取操作,向数据筛选模块发送数据发送请求;
28、数据筛选模块,用于接收数据发送请求,向数据监控策略选取模块发送待监控数据;
29、数据监控策略选取模块,还用于接收待监控数据,基于至少一个检查算法对待监控数据进行数据监控。
30、本发明实施例提供的数据监控系统,该数据监控系统包括:依次连接的数据输入模块、数据筛选模块、数据监控策略模块和算法引擎模块;数据输入模块,用于接收用户输入的数据筛选信息,将数据筛选信息发送至数据筛选模块;数据筛选模块,用于基于数据筛选信息获取待监控数据,将待监控数据发送至数据监控策略模块;数据监控策略模块,用于基于待监控数据确定数据类型,从算法引擎模块中确定与数据类型匹配的数据监控策略,基于数据监控策略对待监控数据进行数据监控。本发明在基于数据筛选信息获取到待监控数据后能够通过待监控数据的数据类型为待监控数据配置相对应的数据监控策略,以便于利用数据监控策略实现对数据的准确监控,有效缓解了因人为配置数据监控策略与监控的数据不匹配所造成的数据监控准确率低的问题。