基于人工智能的系统告警方法、装置、计算机设备和介质与流程

文档序号:27394972发布日期:2021-11-15 22:49阅读:199来源:国知局
基于人工智能的系统告警方法、装置、计算机设备和介质与流程

1.本技术涉及人工智能技术领域,特别是涉及一种基于人工智能的系统告警方法、装置、计算机设备和介质。


背景技术:

2.随着互联网技术的迅猛发展,互联网业务处理逻辑也越发复杂,从而对业务系统的监控检查以及告警提出来更高的要求。
3.在传统方式中,告警处理通常是基于任务状态告警,或者是任务结果数据量的简单验证检测,检查过程或者告警过程通常较为简单,系统检查告警处理过程并未结合具体的业务场景,检查项的设置并不完善,从而将存在检查遗漏等现象的发生,进而将使得告警处理并不准确。


技术实现要素:

4.基于此,有必要针对上述技术问题,提供一种能够提升告警处理准确性的基于人工智能的系统告警方法、装置、计算机设备和介质。
5.一种基于人工智能的系统告警方法,所述方法包括:
6.获取目标调度系统的调度任务数据,调度任务数据包括调度处理流程和/或待调度数据;
7.根据调度处理流程和/或待调度数据,确定对应的待调度任务的检查配置数据;
8.基于检查配置数据,对调度处理流程和/或待调度数据进行检查,生成对应的检查结果;
9.基于检查结果,对待调度任务进行告警处理。
10.在其中一个实施例中,上述方法还包括:
11.获取预先设置的脚本文件,脚本文件中包括各检查项的检查配置数据;
12.根据调度处理流程和/或待调度数据,确定对应待调度任务的检查配置数据,包括:
13.基于脚本文件,以及调度处理流程和/或待调度数据,确定对应待调度任务的检查配置数据。
14.在其中一个实施例中,调度处理流程包括数据抽取、数据加工以及数据下发;上述方法还包括:
15.从数据源中抽取待调度数据至数据湖,并对数据湖中的待调度数据进行数据加工;
16.基于检查配置数据,对调度处理流程和/或待调度数据进行检查,生成对应的检查结果,包括:
17.基于检查配置数据,对数据湖中的加工后的待调度数据进行检查,生成对应的检查结果。
18.在其中一个实施例中,基于检查配置数据,对调度处理流程和/或待调度数据进行检查,生成对应的检查结果,包括:
19.按照检查配置数据,对调度处理流程和/或待调度数据进行主键重复性、空值率以及数据增长率波动中至少一项进行检查,并生成对应的检查结果。
20.在其中一个实施例中,基于检查配置数据,对调度处理流程和/或待调度数据进行检查,生成对应的检查结果,包括:
21.基于检查配置数据,确定对调度处理流程和/或待调度数据进行检查的宏变量;
22.根据宏变量,对调度处理流程和/或待调度数据进行检查,并生成对应的检查结果。
23.在其中一个实施例中,上述方法还包括:
24.将调度任务数据、检查配置数据以及检查结果中的至少一个上传至区块链节点中进行存储。
25.一种基于人工智能的系统告警装置,所述装置包括:
26.调度任务数据获取模块,用于获取目标调度系统的调度任务数据,调度任务数据包括调度处理流程和/或待调度数据;
27.检查配置数据确定模块,用于根据调度处理流程和/或待调度数据,确定对应的待调度任务的检查配置数据;
28.检查模块,用于基于检查配置数据,对调度处理流程和/或待调度数据进行检查,生成对应的检查结果;
29.告警模块,用于基于检查结果,对待调度任务进行告警处理。
30.在其中一个实施例中,上述装置还包括:
31.脚本文件获取模块,用于获取预先设置的脚本文件,脚本文件中包括各检查项的检查配置数据;
32.检查配置数据确定模块用于基于脚本文件,以及调度处理流程和/或待调度数据,确定对应待调度任务的检查配置数据。
33.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现上述任一实施例所述方法的步骤。
34.一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现上述任一实施例所述的方法的步骤。
35.上述基于人工智能的系统告警方法、装置、计算机设备和介质,通过获取目标调度系统的调度任务数据,调度任务数据包括调度处理流程和/或待调度数据,然后根据调度处理流程和/或待调度数据,确定对应的待调度任务的检查配置数据,进一步基于检查配置数据,对调度处理流程和/或待调度数据进行检查,生成对应的检查结果,并基于检查结果,对待调度任务进行告警处理。从而,可以基于调度处理流程和/或待调度数据,生成对应待调度任务的检查配置数据,并进行检查与告警处理,使得检查处理更具针对性,可以提升检查的覆盖率以及检查的准确性,进而可以提升报告告警的准确性。
附图说明
36.图1为一个实施例中基于人工智能的系统告警方法的应用场景图;
37.图2为一个实施例中基于人工智能的系统告警方法的流程示意图;
38.图3为一个实施例中基于人工智能的系统告警装置的结构框图;
39.图4为一个实施例中计算机设备的内部结构图。
具体实施方式
40.为了使本技术的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本技术进行进一步详细说明。应当理解,此处描述的具体实施例仅仅用以解释本技术,并不用于限定本技术。
41.本技术提供的基于人工智能的系统告警方法,可以应用于如图1所示的应用环境中。其中,终端102通过网络与服务器104进行通信。具体地,终端102可以与用户交互,并基于用户的指示,请求进行告警检测,并发送至服务器104.服务器104可以获取目标调度系统的调度任务数据,调度任务数据包括调度处理流程和/或待调度数据,然后根据调度处理流程和/或待调度数据,确定对应的待调度任务的检查配置数据。进一步,服务器104可以基于检查配置数据,对调度处理流程和/或待调度数据进行检查,生成对应的检查结果,并基于检查结果,对待调度任务进行告警处理。其中,终端102可以但不限于是各种个人计算机、笔记本电脑、智能手机、平板电脑和便携式可穿戴设备,服务器104可以用独立的服务器或者是多个服务器组成的服务器集群来实现。
42.在一个实施例中,如图2所示,提供了一种基于人工智能的系统告警方法,以该方法应用于图1中的服务器为例进行说明,包括以下步骤:
43.步骤s202,获取目标调度系统的调度任务数据,调度任务数据包括调度处理流程和/或待调度数据。
44.其中,调度任务数据可以是指目标调度系统中执行调度任务时所相关的数据,可以包括但不限于待调度任务的调度处理流程和/或待调度数据。
45.在本实施例中,基于调度系统的不同,调度处理流程可以并不相同,例如,在某一具体场景中,调度处理流程可以包括但不限于数据抽取、数据加工以及数据下发等处理过程。待调度数据可以基于数据请求方请求的不同而不同,例如,对于保险业务领域,可以是请求获取保险订单数据、保险交易数据等,而对于医疗领域,待调度数据可以包括医疗数据,如个人健康档案、处方、检查报告等数据。
46.在本实施例中,服务器在检测到目标调度系统的调度任务时,可以获取其对应的系统数据,并进行后续的处理。
47.步骤s204,根据调度处理流程和/或待调度数据,确定对应的待调度任务的检查配置数据。
48.其中,检查配置数据是指用于对待调度任务进行检查的数据,其可以包括多个检查配置项。
49.在本实施例中,检查配置项可以包括全量检查、增量检查、空值率检查、字段检查、具体待调度数据的检查等。本领域技术人员可以理解的是,此处仅为举例说明,在其他实施例中,可以包括更多的检查项,本技术对此不作限制。
50.在本实施例中,服务器可以基于待调度任务的调度处理流程和/或待调度数据,确定对应待调度任务的检查项,并生成对应的检查配置数据。
51.在本实施例中,检查配置数据可以是数据表,数据表中记载了各检查配置项以及检查处理流程,服务器可以基于生成的检查配置数据执行相应的数据处理过程。
52.步骤s206,基于检查配置数据,对调度处理流程和/或待调度数据进行检查,生成对应的检查结果。
53.具体地,服务器生成对应的检查配置数据后,可以基于检查配置数据中的各配置项,对待调度任务的调度处理流程和/或待调度数据进行检查处理,并生成对应的检查结果。
54.在本实施例中,服务器对待调度任务的调度处理流程和/或待调度数据进行检查处理可以是按照待调度任务的调度处理流程进行的检查,例如,当待调度任务执行到数据抽取阶段时,则进行数据抽取阶段的检查,并生成对应的检查结果,当待调度任务执行到数据加工阶段时,则进行数据加工阶段的检查,并生成对应的结果,数据下发的处理同理。
55.步骤s208,基于检查结果,对待调度任务进行告警处理。
56.在本实施例中,服务器可以根据检查结果,确定检查是否通过。
57.在本实施例中,当检查结果确定检查通过时,服务器可以不进行告警处理,当服务器确定检查不通过时,则生成告警信息,并发送至运维端,以提示对应的运维人员。
58.在本实施例中,告警处理可以是在待调度任务执行的各个处理阶段执行的,例如,当服务器基于数据抽取阶段的检查结果,确定检查不通过时,则服务器可以在数据抽取阶段进行告警处理,并停止调度任务的继续执行。同理,当服务器基于数据加工阶段的检查结果,确定检查不通过时,则服务器可以在数据加工阶段进行告警处理,并停止调度任务的继续自行。
59.在本实施例中,根据调度处理流程的不同,或者是待调度数据的不同,对检查结果是否通过的判定可以不同,例如,在数据抽取阶段,可以是通过对抽取到的数据量进行检查,判定数据量达到预设要求确定检查通过,数据量低于预设要求,检查不通过。
60.在一个具体的应用场景中,当交易对象需要获取交易所的交易数据时,可以通过调度系统进行请求数据的调用。具体地,服务器可以根据请求获取对应请求的交易数据,对经过处理后发送至请求方,即交易对象。
61.在本实施例中,服务器在获取并对交易数据进行处理的过程中,可以结合数据处理流程以及交易数据进行检查处理,例如,服务器可以基于处理流程和/或交易数据,确定对应的检查配置数据,进而基于检查配置数据,对处理流程中的各流程步骤,和/或交易数据进行检查,并进行处理,以进行告警处理。例如,处理流程可以包括数据抽取流程,服务器可以对数据抽取流程的执行前、执行中以及执行后所对应的交易数据均进行检查处理,并进行告警。
62.上述基于人工智能的系统告警方法中,通过获取目标调度系统的调度任务数据,调度任务数据包括调度处理流程和/或待调度数据,然后根据调度处理流程和/或待调度数据,确定对应的待调度任务的检查配置数据,进一步基于检查配置数据,对调度处理流程和/或待调度数据进行检查,生成对应的检查结果,并基于检查结果,对待调度任务进行告警处理。从而,可以基于调度处理流程和/或待调度数据,生成对应待调度任务的检查配置数据,并进行检查与告警处理,使得检查处理更具针对性,可以提升检查的覆盖率以及检查的准确性,进而可以提升报告告警的准确性。
63.在其中一个实施例中,上述方法还可以包括:获取预先设置的脚本文件,脚本文件中包括各检查项的检查配置数据。
64.其中,脚本文件是指通过各不同的编写语言所编写的文件,脚本文件中可以包括各检查项的检查配置数据。
65.在本实施例中,用户可以通过终端对各检查项的检查配置数据进行编写,并生成脚本文件,使得后续在使用的时候,可以通过读取脚本文件,选择不同的检查项,并生成对应的检查配置数据。例如,终端编写的脚本文件中可以包括全量检查、增量检查、空值率检查、字段检查等各检查项的检查配置数据。服务器可以根据调度处理流程和/或待调度数据,确定对应各调度处理流程或者是待调度数据的目标检查项,并从脚本文件中获取对应目标检查项的检查配置数据,以得到对应待调度任务的检查配置数据。
66.在本实施例中,根据调度处理流程和/或待调度数据,确定对应待调度任务的检查配置数据,可以包括:基于脚本文件,以及调度处理流程和/或待调度数据,确定对应待调度任务的检查配置数据。
67.具体地,服务器可以根据调度处理流程和/或待调度数据,并结合脚本文件,筛选出对应各流程步骤或者是待调度数据的检查配置数据,并生成对应待调度任务的检查配置数据。
68.上述实施例中,通过设置脚本文件,使得在生成检查配置数据的时候,可以基于脚本文件生成,可以提升检查配置数据生成效率。并且,通过设置脚本文件,在后续需要更改检查项的时候,可以直接对脚本文件进行更改,相比于传统方式中将检查项写入各个调度任务的执行代码程序中,降低了调度任务与检查项之间强耦合性,有利于简化后续的数据维护。
69.在其中一个实施例中,如前文所述,调度处理流程可以包括数据抽取、数据加工以及数据下发。
70.在本实施例中,上述方法还可以包括:从数据源中抽取待调度数据至数据湖,并对数据湖中的待调度数据进行数据加工。
71.在本实施例中,服务器可以基于待调度任务,从数据源获取对应的待调度数据,并存储至数据湖中,以使得后续数据处理时,可以从数据湖中获取数据并进行处理。
72.在本实施例中,数据湖可以包括多种不同种类的数据库,例如hive、hbase、es等,数据湖可以存储来自不同数据源的数据集合,是一个集中式存储库。数据湖中可以进行任意规模存储结构化、半结构化、非结构化和二进制数据,可以管理各类数据的相关要素,包括但不限于数据源、数据格式、连接信息、数据schema、权限管理等。
73.在本实施例中,服务器可以基于预先设置的数据加工要求,对数据湖中存储的待调度数据进行数据加工,如数据标准化、数据验证、数据加解密等。
74.在本实施例中,基于检查配置数据,对调度处理流程和/或待调度数据进行检查,生成对应的检查结果,可以包括:基于检查配置数据,对数据湖中的加工后的待调度数据进行检查,生成对应的检查结果。
75.在本实施例中,服务器可以基于生成的检查配置数据,对数据湖中的待调度数据进行检查处理,如数据加工前的检查,数据加工后的检查等,并生成对应的检查结果。
76.上述实施例中,通过将抽取出的待调度数据存储指数据湖中,并在数据湖中进行
待调度数据的检查,可以实现对来自不同数据源以及不同存储格式的数据进行检查处理,可以提升数据检查的覆盖率,提升数据检查的效率。
77.在其中一个实施例中,基于检查配置数据,对调度处理流程和/或待调度数据进行检查,生成对应的检查结果,可以包括:按照检查配置数据,对调度处理流程和/或待调度数据进行主键重复性、空值率以及数据增长率波动中至少一项进行检查,并生成对应的检查结果。
78.在本实施例中,待调度数据可以是通过键值对的形式存储的,服务器可以对待调度数据中键值对的主键进行重复性检查,以确定是否存在主键的重复。
79.齐总,空值率是指数据中的空值或者是0的比率。服务器可以遍历待调度数据,并对待调度数据中的控制以及0数据进行统计计算,确定其对应的空值率。
80.在本实施例中,服务器可以对空值率进行判定,确定是否达到一定数值,并在确定达到一定数值时,确定检查不通过,并进行告警。例如,服务器可以基于历史数据,确定的空值率阈值为20%,当服务器对待调度数据进行空值率计算,确定空值率为30%时,则服务器可以确定待调度数据的空值率大于空值率阈值,确定空值较多,不符合要求,确定检查不通过,并进行告警。
81.同理,服务器通过周期对数据源中的数据进行调度时候,可以对数据源中抽取到的数据的增量数据进行增长波动的检查,检查其在本周期内的增长数据与上一增长周期的增长数据的增长量,并在确定该增长量超过预设阈值时,确定检查不通过,并进行告警。例如,对于债券类业务的数据,服务器基于数据表中抽取出的数据可知,在本周期内,债券销售增长为20%,而上周期销售增长为5%,则可以确定在本周期内的增长数据与上一增长周期的增长数据的增长量为15%。服务器可以根据设置的预设阈值,判定该增长量是否满足要求,例如,预设阈值为10%,则可以确定该增长量15%>10%,可能存在增长虚空,则服务器可以确定检查不通过,并进行告警。
82.在其中一个实施例中,基于检查配置数据,对调度处理流程和/或待调度数据进行检查,生成对应的检查结果,可以包括:基于检查配置数据,确定对调度处理流程和/或待调度数据进行检查的宏变量;根据宏变量,对调度处理流程和/或待调度数据进行检查,并生成对应的检查结果。
83.在本实施例中,服务器可以设置宏变量,并基于宏变量实现检查条件的动态更新。例如,在服务器检查过程中,需要检查昨天的数据量是否满足要求,则服务器可以设置日期为yyyy

mm

dd,并设置宏变量{yesterday},服务器可以将该数据渲染成昨天的数据。
84.在本实施例中,服务器还可以设置一些其他的宏变量,如{ds},表示上一周期调度时间,{next_ds}本周期调度时间;{ds_nodash}上一周期调度时间;{next_ds_nodash}本周期调度时间;{prev_ds}上上一周期调度时间;{prev_ds_nodash}上上一周期调度时间;{ts}上一周期调度时间;{ts_nodash}上一周期调度时间;{ts_nodash_with_tz}上一周期调度时间;{yesterday_ds}上一周期调度时间的昨天;{yesterday_ds_nodash}上一周期调度时间的昨天;{tomorrow_ds}上一周期调度时间的明天;{tomorrow_ds_nodash}上一周期调度时间明天。
85.在本实施例中,服务器可以基于检查配置数据,确定检查配置数据中对应调度处理流程和/或待调度数据的宏变量,并进行后续的检查处理。
86.上述实施例中,通过设置宏变量,并基于宏变量进行检查处理,使得可以对调度处理流程和/或待调度数据进行检查的时候,可以实现动态更新检查,可以无需添加额外信息以实现动态更新检查,可以提升检查的可扩展性。
87.在其中一个实施例中,上述方法还可以包括:将调度任务数据、检查配置数据以及检查结果中的至少一个上传至区块链节点中进行存储。
88.其中,区块链是指分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(block chain),本质上是一个去中心化的数据库,是一串使用密码学方法相关联产生的数据块,每一个数据块中包含了一批次网络交易的信息,用于验证其信息的有效性(防伪)和生成下一个区块。
89.具体地,区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
90.在本实施例中,服务器可以将调度任务数据、检查配置数据以及检查结果中的一个或者多个数据上传并存储于区块链的节点中,以保证数据的私密性和安全性。
91.上述实施例中,通过将调度任务数据、检查配置数据以及检查结果中至少一个上传至区块链并存储于区块链的节点中,从而可以保障存储至区块链节点中数据的私密性,可以提升数据的安全性。
92.在其中一个实施例中,上述数据处理过程可以基于人工智能技术对相关的数据进行获取和处理。其中,人工智能(artificial intelligence,ai)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
93.人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、机器人技术、生物识别技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
94.应该理解的是,虽然图2的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,图2中的至少一部分步骤可以包括多个子步骤或者多个阶段,这些子步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些子步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
95.在一个实施例中,如图3所示,提供了一种基于人工智能的系统告警装置,包括:调度任务数据获取模块100、检查配置数据确定模块200、检查模块300以及告警模块400,其中:
96.调度任务数据获取模块100,用于获取目标调度系统的调度任务数据,调度任务数据包括调度处理流程和/或待调度数据。
97.检查配置数据确定模块200,用于根据调度处理流程和/或待调度数据,确定对应待调度任务的检查配置数据。
98.检查模块300,用于基于检查配置数据,对调度处理流程和/或待调度数据进行检查,生成对应的检查结果。
99.告警模块400,用于基于检查结果,对待调度任务进行告警处理。
100.在其中一个实施例中,上述装置还可以包括:
101.脚本文件获取模块,用于获取预先设置的脚本文件,脚本文件中包括各检查项的检查配置数据。
102.检查配置数据确定模块用于基于脚本文件,以及调度处理流程和/或待调度数据,确定对应待调度任务的检查配置数据。
103.在其中一个实施例中,调度处理流程可以包括数据抽取、数据加工以及数据下发。
104.在本实施例中,上述装置还可以包括:
105.抽取与加工模块,用于从数据源中抽取待调度数据至数据湖,并对数据湖中的待调度数据进行数据加工。
106.在本实施例中,检查模块300用于基于检查配置数据,对数据湖中的加工后的待调度数据进行检查,生成对应的检查结果。
107.在其中一个实施例中,检查模块300按照检查配置数据,对调度处理流程和/或待调度数据进行主键重复性、空值率以及数据增长率波动中至少一项进行检查,并生成对应的检查结果。
108.在其中一个实施例中,检查模块300,可以包括:
109.宏变量确定子模块,用于基于检查配置数据,确定对调度处理流程和/或待调度数据进行检查的宏变量。
110.检查结果生成模块,用于根据宏变量,对调度处理流程和/或待调度数据进行检查,并生成对应的检查结果。
111.在其中一个实施例中,上述装置还可以包括:
112.存储模块,用于将调度任务数据、检查配置数据以及检查结果中的至少一个上传至区块链节点中进行存储。
113.关于基于人工智能的系统告警装置的具体限定可以参见上文中对于基于人工智能的系统告警方法的限定,在此不再赘述。上述基于人工智能的系统告警装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中,也可以以软件形式存储于计算机设备中的存储器中,以便于处理器调用执行以上各个模块对应的操作。
114.在一个实施例中,提供了一种计算机设备,该计算机设备可以是服务器,其内部结构图可以如图4所示。该计算机设备包括通过系统总线连接的处理器、存储器、网络接口和数据库。其中,该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统、计算机程序和数据库。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的数据库用于存储调度任务数据、检查配置数据以及检查结果等数据。该计算机设备的网络接口用于与外部的终端通过网络连接通信。该计算机程序被处理器执行时以实现一种基于人工智能的系统告警方法。
115.本领域技术人员可以理解,图4中示出的结构,仅仅是与本技术方案相关的部分结构的框图,并不构成对本技术方案所应用于其上的计算机设备的限定,具体的计算机设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
116.在一个实施例中,提供了一种计算机设备,包括存储器和处理器,该存储器存储有
计算机程序,该处理器执行计算机程序时实现以下步骤:获取目标调度系统的调度任务数据,调度任务数据包括调度处理流程和/或待调度数据;根据调度处理流程和/或待调度数据,确定对应待调度任务的检查配置数据;基于检查配置数据,对调度处理流程和/或待调度数据进行检查,生成对应的检查结果;基于检查结果,对待调度任务进行告警处理。
117.在其中一个实施例中,处理器执行计算机程序时还可以实现以下步骤:获取预先设置的脚本文件,脚本文件中包括各检查项的检查配置数据。
118.在本实施例中,处理器执行计算机程序时实现根据调度处理流程和/或待调度数据,确定对应待调度任务的检查配置数据,可以包括:基于脚本文件,以及调度处理流程和/或待调度数据,确定对应待调度任务的检查配置数据。
119.在其中一个实施例中,调度处理流程可以包括数据抽取、数据加工以及数据下发。
120.在本实施例中,处理器执行计算机程序时还可以实现以下步骤:从数据源中抽取待调度数据至数据湖,并对数据湖中的待调度数据进行数据加工。
121.在本实施例中,处理器执行计算机程序时实现基于检查配置数据,对调度处理流程和/或待调度数据进行检查,生成对应的检查结果,可以包括:基于检查配置数据,对数据湖中的加工后的待调度数据进行检查,生成对应的检查结果。
122.在其中一个实施例中,处理器执行计算机程序时实现基于检查配置数据,对调度处理流程和/或待调度数据进行检查,生成对应的检查结果,可以包括:按照检查配置数据,对调度处理流程和/或待调度数据进行主键重复性、空值率以及数据增长率波动中至少一项进行检查,并生成对应的检查结果。
123.在其中一个实施例中,处理器执行计算机程序时实现基于检查配置数据,对调度处理流程和/或待调度数据进行检查,生成对应的检查结果,可以包括:基于检查配置数据,确定对调度处理流程和/或待调度数据进行检查的宏变量;根据宏变量,对调度处理流程和/或待调度数据进行检查,并生成对应的检查结果。
124.在其中一个实施例中,处理器执行计算机程序时还可以实现以下步骤:将调度任务数据、检查配置数据以及检查结果中的至少一个上传至区块链节点中进行存储。
125.在一个实施例中,提供了一种计算机可读存储介质,其上存储有计算机程序,计算机程序被处理器执行时实现以下步骤:获取目标调度系统的调度任务数据,调度任务数据包括调度处理流程和/或待调度数据;根据调度处理流程和/或待调度数据,确定对应待调度任务的检查配置数据;基于检查配置数据,对调度处理流程和/或待调度数据进行检查,生成对应的检查结果;基于检查结果,对待调度任务进行告警处理。
126.在其中一个实施例中,计算机程序被处理器执行时还可以实现以下步骤:获取预先设置的脚本文件,脚本文件中包括各检查项的检查配置数据。
127.在本实施例中,计算机程序被处理器执行时实现根据调度处理流程和/或待调度数据,确定对应待调度任务的检查配置数据,可以包括:基于脚本文件,以及调度处理流程和/或待调度数据,确定对应待调度任务的检查配置数据。
128.在其中一个实施例中,调度处理流程可以包括数据抽取、数据加工以及数据下发。
129.在本实施例中,计算机程序被处理器执行时还可以实现以下步骤:从数据源中抽取待调度数据至数据湖,并对数据湖中的待调度数据进行数据加工。
130.在本实施例中,计算机程序被处理器执行时实现基于检查配置数据,对调度处理
流程和/或待调度数据进行检查,生成对应的检查结果,可以包括:基于检查配置数据,对数据湖中的加工后的待调度数据进行检查,生成对应的检查结果。
131.在其中一个实施例中,计算机程序被处理器执行时实现基于检查配置数据,对调度处理流程和/或待调度数据进行检查,生成对应的检查结果,可以包括:按照检查配置数据,对调度处理流程和/或待调度数据进行主键重复性、空值率以及数据增长率波动中至少一项进行检查,并生成对应的检查结果。
132.在其中一个实施例中,计算机程序被处理器执行时实现基于检查配置数据,对调度处理流程和/或待调度数据进行检查,生成对应的检查结果,可以包括:基于检查配置数据,确定对调度处理流程和/或待调度数据进行检查的宏变量;根据宏变量,对调度处理流程和/或待调度数据进行检查,并生成对应的检查结果。
133.在其中一个实施例中,计算机程序被处理器执行时还可以实现以下步骤:将调度任务数据、检查配置数据以及检查结果中的至少一个上传至区块链节点中进行存储。
134.本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一非易失性计算机可读取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。其中,本技术所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用,均可包括非易失性和/或易失性存储器。非易失性存储器可包括只读存储器(rom)、可编程rom(prom)、电可编程rom(eprom)、电可擦除可编程rom(eeprom)或闪存。易失性存储器可包括随机存取存储器(ram)或者外部高速缓冲存储器。作为说明而非局限,ram以多种形式可得,诸如静态ram(sram)、动态ram(dram)、同步dram(sdram)、双数据率sdram(ddrsdram)、增强型sdram(esdram)、同步链路(synchlink)dram(sldram)、存储器总线(rambus)直接ram(rdram)、直接存储器总线动态ram(drdram)、以及存储器总线动态ram(rdram)等。
135.以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
136.以上所述实施例仅表达了本技术的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本技术构思的前提下,还可以做出若干变形和改进,这些都属于本技术的保护范围。因此,本技术专利的保护范围应以所附权利要求为准。
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1