数据实时监控方法、装置、设备及存储介质与流程

文档序号:26734354发布日期:2021-09-22 22:04阅读:67来源:国知局
数据实时监控方法、装置、设备及存储介质与流程

1.本发明涉及数据分析领域,尤其涉及一种数据实时监控方法、装置、设备及存储介质。


背景技术:

2.随着互联网技术的发展,实时计算技术已逐步应用于互联网公司的实际业务中,业务可以通过实时活动数据,对业务作出及时的调整,从而提升运营效率以及进行风险控制。
3.传统的风险控制系统采用的都是t+1离线数据的计算方式,时效性较低,当天的数据需要次日才能知晓,这对于活动的效果监控和风险控制来说显然是不够的,不仅时效性低,而且存在较大风险。


技术实现要素:

4.本发明的主要目的在于解决数据监控时效性低导致平台运行风险高的技术问题。
5.本发明第一方面提供了一种数据实时监控方法,包括:
6.创建生产环境与实时计算平台之间的消息传输通道,并通过所述消息传输通道接收所述生产环境产生的实时数据;
7.对所述实时数据进行预处理,得到预警监控维度的聚合数据;
8.对所述聚合数据进行多层逻辑运算,得到预警监控指标数据;
9.实时监测所述预警监控指标数据是否满足预置预警条件,若满足,则向所述预警条件对应的预警对象发送预警消息。
10.可选的,在本发明第一方面的第一种实现方式中,在所述创建生产环境与实时计算平台之间的消息传输通道之前,还包括:
11.通过预置的维度表获取任务,异步获取目标维度数据,所述目标维度数据用于指示与预警监控维度相关的业务指标数据;
12.采用热存储导入机制,将所述目标维度数据导入热存储数据仓库;
13.异步读取所述热存储数据仓库中的目标维度数据,并将所述目标维度数据存入缓存,得到目标维度表。
14.可选的,在本发明第一方面的第二种实现方式中,所述创建生产环境与实时计算平台之间的消息传输通道,并通过所述消息传输通道接收所述生产环境产生的实时数据包括:
15.订阅生产环境待监控的数据源,并创建所述数据源与实时计算平台之间的消息传输通道;
16.监听所述消息传输通道传输的实时消息,并通过所述消息传输通道接收所述生产环境产生的实时数据。
17.可选的,在本发明第一方面的第三种实现方式中,所述对所述实时数据进行预处
理,得到预警监控维度的聚合数据包括:
18.创建所述实时数据对应的数据源表,并将所述实时数据存入所述数据源表;
19.按照预警监控维度,对所述数据源表与所述缓存中的所述目标维度表进行关联查询,得到关联查询结果,并将所述关联查询结果与所述数据源表聚合,得到第一聚合数据;
20.对所述第一聚合数据进行数据清洗,得到符合目标存储格式要求的第二聚合数据。
21.可选的,在本发明第一方面的第四种实现方式中,所述对所述聚合数据进行多层逻辑运算,得到预警监控指标数据包括:
22.采用多种预置实时计算算子,分别计算所述第二聚合数据对应的预警监控指标,得到多个预警监控指标数据;
23.将各所述预警监控指标数据输出至目标数据库,并采用列式存储方法存储所述预警监控指标数据。
24.可选的,在本发明第一方面的第五种实现方式中,所述实时监测所述预警监控指标数据是否满足预置预警条件,若满足,则向所述预警条件对应的预警对象发送预警消息包括:
25.读取多条预置预警条件,并根据各所述预警条件确定所述预警条件对应的预警监控指标数据;
26.动态监测所述预警监控指标是否满足对应的预警条件,若满足,则向所述预警条件对应的预警对象发送预警消息。
27.可选的,在本发明第一方面的第六种实现方式中,在所述实时监测所述预警监控指标数据是否满足预置预警条件,若满足,则向所述预警条件对应的预警对象发送预警消息之后,还包括:
28.读取预置用户画像模型,并将所述预警监控指标数据实时输入所述用户画像模型;
29.通过所述用户画像模型分别判断各用户是否符合所述预警监控指标数据中的各条预警监控指标,得到分别符合所述各条预警监控指标的用户列表;
30.将各所述预警监控指标对应的标签添加至所述用户列表中各用户的画像数据中,并输出各所述标签及各所述标签对应的用户列表。
31.本发明第二方面提供了一种数据实时监控装置,包括:
32.创建模块,用于创建生产环境与实时计算平台之间的消息传输通道,并通过所述消息传输通道接收所述生产环境产生的实时数据;
33.聚合模块,用于对所述实时数据进行预处理,得到预警监控维度的聚合数据;
34.运算模块,用于对所述聚合数据进行多层逻辑运算,得到预警监控指标数据;
35.预警模块,用于实时监测所述预警监控指标数据是否满足预置预警条件,若满足,则向所述预警条件对应的预警对象发送预警消息。
36.可选的,在本发明第二方面的第一种实现方式中,所述数据实时监控装置还包括:
37.获取模块,用于通过预置的维度表获取任务,异步获取目标维度数据,所述目标维度数据用于指示与预警监控维度相关的业务指标数据;
38.热存储模块,用于采用热存储导入机制,将所述目标维度数据导入热存储数据仓
库;
39.缓存模块,用于异步读取所述热存储数据仓库中的目标维度数据,并将所述目标维度数据存入缓存,得到目标维度表。
40.可选的,在本发明第二方面的第二种实现方式中,所述创建模块具体用于:
41.订阅生产环境待监控的数据源,并创建所述数据源与实时计算平台之间的消息传输通道;
42.监听所述消息传输通道传输的实时消息,并通过所述消息传输通道接收所述生产环境产生的实时数据。
43.可选的,在本发明第二方面的第三种实现方式中,所述聚合模块具体用于:
44.创建所述实时数据对应的数据源表,并将所述实时数据存入所述数据源表;
45.按照预警监控维度,对所述数据源表与所述缓存中的所述目标维度表进行关联查询,得到关联查询结果,并将所述关联查询结果与所述数据源表聚合,得到第一聚合数据;
46.对所述第一聚合数据进行数据清洗,得到符合目标存储格式要求的第二聚合数据。
47.可选的,在本发明第二方面的第四种实现方式中,所述运算模块具体用于:
48.采用多种预置实时计算算子,分别计算所述第二聚合数据对应的预警监控指标,得到多个预警监控指标数据;
49.将各所述预警监控指标数据输出至目标数据库,并采用列式存储方法存储所述预警监控指标数据。
50.可选的,在本发明第二方面的第五种实现方式中,所述预警模块具体用于:
51.读取多条预置预警条件,并根据各所述预警条件确定所述预警条件对应的预警监控指标数据;
52.动态监测所述预警监控指标是否满足对应的预警条件,若满足,则向所述预警条件对应的预警对象发送预警消息。
53.可选的,在本发明第二方面的第六种实现方式中,所述数据实时监控装置还包括:
54.模型读取模块,用于读取预置用户画像模型,并将所述预警监控指标数据实时输入所述用户画像模型;
55.模块判断模块,用于通过所述用户画像模型分别判断各用户是否符合所述预警监控指标数据中的各条预警监控指标,得到分别符合所述各条预警监控指标的用户列表;
56.模型输出模块,用于将各所述预警监控指标对应的标签添加至所述用户列表中各用户的画像数据中,并输出各所述标签及各所述标签对应的用户列表。
57.本发明第三方面提供了一种数据实时监控设备,包括:存储器和至少一个处理器,所述存储器中存储有指令;所述至少一个处理器调用所述存储器中的所述指令,以使得所述数据实时监控设备执行上述的数据实时监控方法。
58.本发明的第四方面提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有指令,当其在计算机上运行时,使得计算机执行上述的数据实时监控方法。
59.本发明提供的技术方案中,为了提高数据监控的时效性,创建待监控的生产环境与实时计算平台之间的消息传输通道,也就是订阅式的消息队列,通过实时接收消息队列传输的数据,进行多维度的数据预处理,得到实时监控指标计算所需的聚合数据,再通过对
聚合数据的多层逻辑运算,得到监控指标数据,从而实现监控预警。本发明能基于实时计算技术,实时监控业务场景中的数据,从而提高平台运行的安全性及稳定性。
附图说明
60.图1为本发明实施例中数据实时监控方法的第一个实施例示意图;
61.图2为本发明实施例中数据实时监控方法的第二个实施例示意图;
62.图3为本发明实施例中数据实时监控装置的第一个实施例示意图;
63.图4为本发明实施例中数据实时监控装置的第二个实施例示意图;
64.图5为本发明实施例中数据实时监控设备的一个实施例示意图。
具体实施方式
65.本发明实施例提供了一种数据实时监控方法、装置、设备及存储介质。本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”、“第三”、“第四”等(如果存在)是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的实施例能够以除了在这里图示或描述的内容以外的顺序实施。此外,术语“包括”或“具有”及其任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
66.为便于理解,下面对本发明实施例的具体流程进行描述,请参阅图1,本发明实施例中数据实时监控方法的第一个实施例包括:
67.101、创建生产环境与实时计算平台之间的消息传输通道,并通过所述消息传输通道接收所述生产环境产生的实时数据;
68.可以理解的是,本发明的执行主体可以为数据实时监控装置,还可以是终端或者服务器,具体此处不做限定。本发明实施例以服务器为执行主体为例进行说明。
69.本实施例中,topic是生产环境与实时计算平台之间进行消息传输的通道,在物联网平台中,服务端和设备端通过topic来实现消息通信。jms(java message service,java消息服务)支持的两种消息传递模型:队列(queue)和主题(topic),其中,topic实现了分发和订阅,当你分发一个消息时,所有订阅这个消息的服务都能得到这个消息,所以从0到许多个订阅者都能得到一个消息的拷贝,只有在消息代理收到消息时,至少有一个有效订阅时者的情况下,才能得到这个消息的拷贝。通过消息队列进行消息传输,能够保证数据的实时性。
70.本实施例中,生产环境是指线上环境,是用户使用的服务器环境,它能产生用户使用过程中的真实数据,这些数据将用于实时计算,从而监控真实数据所产生的各种指标是否正常,进而达到风险控制的目的。
71.可选的,在一实施例中,在步骤101之前,还包括:
72.通过预置的维度表获取任务,异步获取目标维度数据,所述目标维度数据用于指示与预警监控维度相关的业务指标数据;
73.采用热存储导入机制,将所述目标维度数据导入热存储数据仓库;
74.异步读取所述热存储数据仓库中的目标维度数据,并将所述目标维度数据存入缓存,得到目标维度表。
75.本可选实施例中,维度表(目标维度表)可以看作是分析数据的窗口,维度表中包含事实数据表中事实记录的特性,有些特性提供描述性信息,有些特性指定如何汇总事实数据表数据,以便为分析者提供有用的信息,维度表包含帮助汇总数据的特性的层次结构。维度表包含了事实表中指定属性的相关详细信息,比如,目标维度数据可以为详细的产品属性,客户属性,存储信息等。一个典型的例子是,把逻辑业务比作一个立方体,产品维、时间维、地点维分别作为不同的坐标轴,而坐标轴的交点就是一个具体的事实。也就是说事实表是多个维度表的一个交点。
76.本可选实施例中,我们经常会有这样的需求,需要以原始数据流作为基础,然后关联大量的外部表来补充一些属性。例如,我们在订单数据中,希望能得到订单收货人所在省的名称,一般来说订单中会记录一个省的id,那么需要根据id去查询外部的维度表补充省名称属性。为了提高维度表的时效性,采用热存储关联方式做维度表的关联查询,具体的实现方式是将维度数据导入热存储,通过异步io查询热存储,利用cache机制将维度数据缓存在内存中。当我们在关联维度表时,先去查询缓存,如果缓存中不存在这条数据,再去查询热存储数据仓库,再将查询到的数据插入到缓存中。这样能使维度表的查询速度更快,从而提高实时计算的时效性。
77.可选的,在一实施例中,步骤101具体包括:
78.订阅生产环境待监控的数据源,并创建所述数据源与实时计算平台之间的消息传输通道;
79.监听所述消息传输通道传输的实时消息,并通过所述消息传输通道接收所述生产环境产生的实时数据。
80.本可选实施例中,在发布

订阅消息系统中,消息被持久化到一个topic中。与点对点消息系统不同的是,消费者可以订阅一个或多个topic,消费者可以消费该topic中所有的数据,同一条数据可以被多个消费者消费,数据被消费后不会立马删除。在发布

订阅消息系统中,消息的生产者称为发布者,消息的消费者称为订阅者。本发明的发布者为生产环境,订阅者为实时计算平台。
81.本可选实施例中,在接收生产环境产生的实时数据之前,需要对即将要进行监控的数据源进行订阅,通过发布

订阅消息系统可以进行消息处理,优选的,本方案采用kafka平台进行消息处理,kafka是由apache软件基金会开发的一个开源流处理平台,是一种高吞吐量的分布式发布订阅消息系统,它可以处理数据消费者在网站中的所有动作流数据。
82.102、对所述实时数据进行预处理,得到预警监控维度的聚合数据;
83.本实施例中,接收到消息通道传回的实时数据之后,需要对数据进行一系列的预处理,才能得到满足预警监控目的的指标计算要求的数据。而这一系列的预处理包括了对数据进行抽取、清洗、转换和加载,也就是数据仓库技术里的etl过程,目的是将分散、凌乱、标准不一的数据聚合到一起,为决策提供分析依据。
84.本实施例中,在获取维度表数据源时,可以支持hive和hbase的数据源,但这两部分数据同样是离线数据,可以通过离线任务写入到mysql当作维度表数据源读入到实时计算平台。hive是基于hadoop的一个数据仓库工具,用来进行数据提取、转化、加载,hive数据
仓库工具能将结构化的数据文件映射为一张数据库表,并提供sql查询功能,能将sql语句转变成mapreduce任务来执行。而hbase是一个分布式的、面向列的开源数据库,是一个高可靠性、高性能、面向列、可伸缩的分布式存储系统,利用hbase技术可在廉价服务器上搭建起大规模结构化存储集群。
85.可选的,在一实施例中,步骤102具体包括:
86.创建所述实时数据对应的数据源表,并将所述实时数据存入所述数据源表;
87.按照预警监控维度,对所述数据源表与所述缓存中的所述目标维度表进行关联查询,得到关联查询结果,并将所述关联查询结果与所述数据源表聚合,得到第一聚合数据;
88.对所述第一聚合数据进行数据清洗,得到符合目标存储格式要求的第二聚合数据。
89.本可选实施例中,etl过程包括数据的维度关联查询,查询方法就是根据源数据(事实表)在热存储机制所保存的维度表中查询符合目标预警监控维度的维度表,再将查询到的维度表和事实表聚合,得到完整数据。例如我的预警监测维度是以时间维度,那么就根据事实表查询时间维度表,再将时间维度表对应时间的事实表中的数据整合成聚合数据,就能得到我们监控所需要的完整数据。为了做进一步筛选,对数据进行清洗,以满足目标存储格式要求。
90.103、对所述聚合数据进行多层逻辑运算,得到预警监控指标数据;
91.本实施例中,得到完整的聚合数据之后,计算运营/风控关注的指标数据,从而进行数据监控。其中,实时计算平台可以满足不同的数据监控需求,并提供可视化的界面配置风险指标参数,不同的指标参数通过不同的运算方法得到,因此,不对逻辑运算方法做进一步的限定。
92.本实施例中,多层逻辑运算包括自定义的函数计算,例如,我要监控某一产品的销售情况,那么则根据现有的数据(聚合数据),制定销售额/销售量的计算函数,通过计算函数得到预警监控指标数据,也就是被监控的产品的实时销售额/销售量,为进一步的数据预警做好准备。
93.104、实时监测所述预警监控指标数据是否满足预置预警条件,若满足,则向所述预警条件对应的预警对象发送预警消息。
94.本实施例中,得到预警监控指标数据之后,是预警条件的匹配,支持多平台预警条件配置,实时计算平台将数据实时计算出来后,提供实时计算数据调用接口,风控预警平台、数据实时展示平台或运营平台等可以通过实时计算数据调用接口实时调用指标数据进行定制化的处理,从而提高运营效率或数据风险控制能力。另外,预警监控需求也可以通过实时计算平台制定预警规则对数据进行监控。
95.本发明实施例中,为了提高数据监控的时效性,创建待监控的生产环境与实时计算平台之间的消息传输通道,也就是订阅式的消息队列,通过实时接收消息队列传输的数据,进行多维度的数据预处理,得到实时监控指标计算所需的聚合数据,再通过对聚合数据的多层逻辑运算,得到监控指标数据,从而实现监控预警。本发明能基于实时计算技术,实时监控业务场景中的数据,从而提高平台运行的安全性及稳定性。
96.请参阅图2,本发明实施例中数据实时监控方法的第二个实施例包括:
97.201、创建生产环境与实时计算平台之间的消息传输通道,并通过所述消息传输通
道接收所述生产环境产生的实时数据;
98.202、对所述实时数据进行预处理,得到预警监控维度的聚合数据;
99.203、采用多种预置实时计算算子,分别计算所述第二聚合数据对应的预警监控指标,得到多个预警监控指标数据;
100.204、将各所述预警监控指标数据输出至目标数据库,并采用列式存储方法存储所述预警监控指标数据;
101.205、实时监测所述预警监控指标数据是否满足预置预警条件,若满足,则向所述预警条件对应的预警对象发送预警消息。
102.本实施例中,实时计算算子是指flink技术中的算子,flink是由apache软件基金会开发的开源流处理框架,其核心是用java和scala编写的分布式流数据流引擎。flink以数据并行和流水线方式执行任意流数据程序,flink的流水线运行时系统可以执行批处理和流处理程序。
103.本实施例中,优选的,还可以采用flink

sql实时计算算子,flink

sql是flink实时计算的简化计算模型,支持union、join、projection、difference、intersection及window等大多数传统数据库支持的操作,提供大量的算子操作,主要完成例如查询、聚合操作等。能够满足多种逻辑运算,并且速度提高。
104.本实施例中,在得到预警监控所需的指标数据后,采用列式存储方法(如clickhouse和tidb数据库)存储目标数据,具备较快的查询效率,因此对于查询效率的任务来说,优势比较明显,还可供对外做数据查询接口。
105.可选的,在一实施例中,步骤205具体包括:
106.读取多条预置预警条件,并根据各所述预警条件确定所述预警条件对应的预警监控指标数据;
107.动态监测所述预警监控指标是否满足对应的预警条件,若满足,则向所述预警条件对应的预警对象发送预警消息。
108.本可选实施例中,不同的预警条件对应不同的预警监控指标数据,例如运营制定的预警条件可能是某一时段内购买某一产品的用户数量是否超过某一阈值,如果超过了,就马上安排仓库补货,避免出现商品断货的情况。那么,通过预警条件的制定,就能确定对应的监控指标,并进一步对指标数据进行动态监测,实时的检测平台发回的消息,从而提高运营的效率。
109.可选的,在一实施例中,步骤205之后,还包括:
110.读取预置用户画像模型,并将所述预警监控指标数据实时输入所述用户画像模型;
111.通过所述用户画像模型分别判断各用户是否符合所述预警监控指标数据中的各条预警监控指标,得到分别符合所述各条预警监控指标的用户列表;
112.将各所述预警监控指标对应的标签添加至所述用户列表中各用户的画像数据中,并输出各所述标签及各所述标签对应的用户列表。
113.本可选实施例中,指标数据除了用于风险监测预警,还能用于完善用户画像,使实际业务的投放更精准、更及时。本实施例中,实时计算平台还可将实时用户画像与机器学习进行结合,由实时平台处理线上生产数据,经过复杂维度的指标计算,将计算结果实时写入
到已经训练好的机器学习模型中,做实时个性化推荐。同时,还可对用户实时打标签,运营可以配置实时用户群数据,方便业务的投放。
114.本发明实施例中,为了提高实时计算的时效性,从多角度考虑数据的处理速度,在指标计算方面,采用实时计算技术中的多种算子进行多层逻辑运算,使运算速度提高,在数据存储方面,采用列式存储方法,使数据的存取速度提高。本发明实施例能够高效地对实时数据进行运算,从而提高平台风控或运营的效率。
115.上面对本发明实施例中数据实时监控方法进行了描述,下面对本发明实施例中数据实时监控装置进行描述,请参阅图3,本发明实施例中数据实时监控装置第一个实施例包括:
116.创建模块301,用于创建生产环境与实时计算平台之间的消息传输通道,并通过所述消息传输通道接收所述生产环境产生的实时数据;
117.聚合模块302,用于对所述实时数据进行预处理,得到预警监控维度的聚合数据;
118.运算模块303,用于对所述聚合数据进行多层逻辑运算,得到预警监控指标数据;
119.预警模块304,用于实时监测所述预警监控指标数据是否满足预置预警条件,若满足,则向所述预警条件对应的预警对象发送预警消息。
120.可选的,在一实施例中,所述数据实时监控装置还包括:
121.获取模块305,用于通过预置的维度表获取任务,异步获取目标维度数据,所述目标维度数据用于指示与预警监控维度相关的业务指标数据;
122.热存储模块306,用于采用热存储导入机制,将所述目标维度数据导入热存储数据仓库;
123.缓存模块307,用于异步读取所述热存储数据仓库中的目标维度数据,并将所述目标维度数据存入缓存,得到目标维度表。
124.可选的,在一实施例中,所述创建模块301具体用于:
125.订阅生产环境待监控的数据源,并创建所述数据源与实时计算平台之间的消息传输通道;
126.监听所述消息传输通道传输的实时消息,并通过所述消息传输通道接收所述生产环境产生的实时数据。
127.可选的,在一实施例中,所述聚合模块302具体用于:
128.创建所述实时数据对应的数据源表,并将所述实时数据存入所述数据源表;
129.按照预警监控维度,对所述数据源表与所述缓存中的所述目标维度表进行关联查询,得到关联查询结果,并将所述关联查询结果与所述数据源表聚合,得到第一聚合数据;
130.对所述第一聚合数据进行数据清洗,得到符合目标存储格式要求的第二聚合数据。
131.本发明实施例中,为了提高数据监控的时效性,创建待监控的生产环境与实时计算平台之间的消息传输通道,也就是订阅式的消息队列,通过实时接收消息队列传输的数据,进行多维度的数据预处理,得到实时监控指标计算所需的聚合数据,再通过对聚合数据的多层逻辑运算,得到监控指标数据,从而实现监控预警。本发明能基于实时计算技术,实时监控业务场景中的数据,从而提高平台运行的安全性及稳定性。
132.请参阅图4,本发明实施例中数据实时监控装置的第二个实施例包括:
133.创建模块301,用于创建生产环境与实时计算平台之间的消息传输通道,并通过所述消息传输通道接收所述生产环境产生的实时数据;
134.聚合模块302,用于对所述实时数据进行预处理,得到预警监控维度的聚合数据;
135.运算模块303,用于对所述聚合数据进行多层逻辑运算,得到预警监控指标数据;
136.预警模块304,用于实时监测所述预警监控指标数据是否满足预置预警条件,若满足,则向所述预警条件对应的预警对象发送预警消息。
137.可选的,在一实施例中,所述运算模块303具体用于:
138.采用多种预置实时计算算子,分别计算所述第二聚合数据对应的预警监控指标,得到多个预警监控指标数据;
139.将各所述预警监控指标数据输出至目标数据库,并采用列式存储方法存储所述预警监控指标数据。
140.可选的,在一实施例中,所述预警模块304具体用于:
141.读取多条预置预警条件,并根据各所述预警条件确定所述预警条件对应的预警监控指标数据;
142.动态监测所述预警监控指标是否满足对应的预警条件,若满足,则向所述预警条件对应的预警对象发送预警消息。
143.可选的,在一实施例中,所述数据实时监控装置还包括:
144.模型读取模块308,用于读取预置用户画像模型,并将所述预警监控指标数据实时输入所述用户画像模型;
145.模块判断模块309,用于通过所述用户画像模型分别判断各用户是否符合所述预警监控指标数据中的各条预警监控指标,得到分别符合所述各条预警监控指标的用户列表;
146.模型输出模块310,用于将各所述预警监控指标对应的标签添加至所述用户列表中各用户的画像数据中,并输出各所述标签及各所述标签对应的用户列表。
147.本发明实施例中,为了提高实时计算的时效性,从多角度考虑数据的处理速度,在指标计算方面,采用实时计算技术中的多种算子进行多层逻辑运算,使运算速度提高,在数据存储方面,采用列式存储方法,使数据的存取速度提高。本发明实施例能够高效地对实时数据进行运算,从而提高平台风控或运营的效率。
148.上面图3和图4从模块化功能实体的角度对本发明实施例中的数据实时监控装置进行详细描述,下面从硬件处理的角度对本发明实施例中数据实时监控设备进行详细描述。
149.图5是本发明实施例提供的一种数据实时监控设备的结构示意图,该数据实时监控设备500可因配置或性能不同而产生比较大的差异,可以包括一个或一个以上处理器(central processing units,cpu)510(例如,一个或一个以上处理器)和存储器520,一个或一个以上存储应用程序533或数据532的存储介质530(例如一个或一个以上海量存储设备)。其中,存储器520和存储介质530可以是短暂存储或持久存储。存储在存储介质530的程序可以包括一个或一个以上模块(图示没标出),每个模块可以包括对数据实时监控设备500中的一系列指令操作。更进一步地,处理器510可以设置为与存储介质530通信,在数据实时监控设备500上执行存储介质530中的一系列指令操作。
150.数据实时监控设备500还可以包括一个或一个以上电源540,一个或一个以上有线或无线网络接口550,一个或一个以上输入输出接口560,和/或,一个或一个以上操作系统531,例如windows serve,mac os x,unix,linux,freebsd等等。本领域技术人员可以理解,图5示出的数据实时监控设备结构并不构成对数据实时监控设备的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。
151.本发明还提供一种数据实时监控设备,所述数据实时监控设备包括存储器和处理器,存储器中存储有计算机可读指令,计算机可读指令被处理器执行时,使得处理器执行上述各实施例中的所述数据实时监控方法的步骤。
152.本发明还提供一种计算机可读存储介质,该计算机可读存储介质可以为非易失性计算机可读存储介质,该计算机可读存储介质也可以为易失性计算机可读存储介质,所述计算机可读存储介质中存储有指令,当所述指令在计算机上运行时,使得计算机执行所述数据实时监控方法的步骤。
153.所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统,装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
154.所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:u盘、移动硬盘、只读存储器(read

only memory,rom)、随机存取存储器(random access memory,ram)、磁碟或者光盘等各种可以存储程序代码的介质。
155.以上所述,以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1