基于类SQL引擎的数据处理方法与流程

文档序号:13446449阅读:443来源:国知局

本发明涉及计算机数据处理技术,尤其涉及一种基于类sql引擎的数据处理方法。



背景技术:

随着计算机网络技术的快速发展和日益复杂化,公司网络中it资源的管理越来越依赖于专业的管理软件。长期以来,大部分的投入主要用于解决从无到有的基础设施和系统的建设,忽视了系统建设完成以后的运行维护,粗放型的管理与业务风险防范要求不相适应,这将对业务正常稳定的运行构成严峻挑战。

如何最大程度减少操作失误,最大程度减少it资源不可用,更有效地降低业务系统运行维护成本,更规范地保障业务运行维护的合规性,更快速地提升业务服务的效率,更充分地利用现有资源,是负责运行维护管理工作的单位在构建it资源管理体系时需要重点考虑的课题。

企业it系统越来越多,网络、设备和产品越来越复杂,业务越来越依赖于稳定可靠的系统运行,公司内部和外部用户对it部门的支持服务和协调管理也提出了更高的要求,这就产生了it资源监控设备。it资源监控设备主要监控服务器的进程、cpu、硬盘、内存、网络端口等和网络交换机、路由器的流量、端口等状态。it资源监控设备的作用就是管理软硬件的使用情况,它包括运行状态监控和设备管理两部分,前者是监控服务器、ups等重要设备的运行状态,后者是管理记录电脑的配置。通过这个设备能够帮助运行维护管理人员全面了解网络中it资源的状态。

在监控模型中,数据采集是监控数据的主要入口,往往需要对采集来的原始数据进行处理。适合的it资源数据算法对整体的网络系统管理越来越重要,这是因为在较大规模的网络系统环境中,由于节点、应用众多,业务服务种类繁多,服务、应用、节点三者之间会产生大量的交差关系,如果没有一个适合的数据处理算法,整体系统的数据分析很难得到一个令人满意的速度和结果,后续对整个网络系统的管理和优化也就无从开展。

目前业界提出了一些监控数据处理的算法,主要有以下两类,分析如下:

1、通过硬编码进行数据运算。

在计算机程序或文本编辑中,硬编码是一种将可变变量用一个固定值来代替的方法。用这种方法编译后,如果以后需要更改此变量就非常困难了。大部分程序语言里,可以将一个固定数值定义为一个标记,然后用这个特殊标记来取代变量名称。当标记名称改变时,变量名不变,这样,当重新编译整个程序时,所有变量都不再是固定值,这样就更容易实现改变变量的目的。尽管通过编辑器的查找替换功能也能实现整个变量名称的替换,但也很有可能出现多换或者少换的情况,而在计算机程序中,任何小错误的出现都是不可接受的。

实现逻辑:

1)预先对每种模型几乎每个指标都写一个函数到代码里。

2)采集器对被监控端发起原始数据采集。

3)传入原始数据作为参数,调用每种模型每种指标对应的函数。

4)获得转换后的数据。

优点:因为对每种模型的绝大部分指标完全通过代码进行数据处理,所以不需要写任何配置文件,适合编程初学者。

缺点:因为每种模型每种指标都需要写代码实现,所以代码量巨大,大到几十万的数量级,从而不易维护。

2.对计算方法做各种抽象,写各种处理器。

对计算方法做各种抽象,写各种处理器,通过不同处理器的配合进行数据的层层转换,最终得到需要的数据。

实现逻辑:

1)预先对四则运算、单位转换、不同子资源采集到的数据的列与列之间的运算分别抽象成处理器,写处理器的代码。

2)预先把指标采集方法抽象成公式,把对应的处理器写到配置文件里。

3)装载配置文件。

4)采集器对被监控端发起原始数据采集。

5)采集器根据配置依次调用不同的处理器。

6)采集器获得处理后的数据。

优点:因为是对每种算法分别写了一种处理器,所以对一种处理器的修改不影响另外一种处理器。

缺点:因为对同类运算做了抽象,和第一种方法相比,代码量显然少了很多,但代码量仍然很大,大到万行的数量级。另外因为用到了各种不同的处理器,所以配置文件也显得复杂。

本发明公开的算法能够较好地对整体系统的监控数据进行分析处理,xxx。并且由于本算法根本上不同于上述各分析方法,也就避免了它们的缺点:

1)以整体系统为全局,增加了配置管理功能,可以比较简单的对配置功能进行修改。

2)本算法把修改功能从引擎中松耦合出来,所以可以让修改更快捷。

3)本算法改进了数据的处理方法,占用内存小,让处理速度更高效。



技术实现要素:

本发明提供一种基于类sql引擎的数据处理方法,以解决现有技术的数据处理方法代码量大,配置复杂,不易维护的问题。本发明是通过如下技术方案实现的:

一种基于类sql引擎的数据处理方法,包括如下步骤:

步骤1:根据采集的原始数据和需要的数据配置类sql公式,并将所述类sql公式写入配置文件;

步骤2:装载所述配置文件;

步骤3:数据采集器对被监控端进行原始数据采集,并把采集到的原始数据和所述配置文件发送给类sql处理引擎;

步骤4:所述类sql处理引擎对所述配置文件中的类sql公式进行语法解析,然后根据所述类sql公式对所述采集器采集到的原始数据进行运算,并将运算结果返回给所述采集器。

本发明与现有技术相比,具备如下优点和有益效果:

本发明公开的基于类sql引擎的数据处理方法以整体系统为全局,能够较好地对整体系统的监控数据进行分析处理,并增加了配置管理功能,可以比较简单地对配置功能进行修改,其次,把修改功能从引擎中松耦合出来,能够让修改更快捷,再者,改进了数据处理方法,占用内存小,让处理速度更高效。

附图说明

图1是基于类sql引擎的数据处理方法的流程示意图。

具体实施方式

为使本发明的目的、技术方案和优点更加清楚明白,下面结合实施例和附图,对本发明作进一步的详细说明。

如图1所示,本发明提供的基于类sql引擎的数据处理方法包括如下步骤:

步骤1:根据采集的原始数据和需要的数据配置类sql公式,并将类sql公式写入配置文件;

步骤2:装载配置文件;

步骤3:数据采集器对被监控端进行原始数据采集,并把采集到的原始数据和配置文件发送给类sql处理引擎;

步骤4:类sql处理引擎对配置文件中的类sql公式进行语法解析,然后根据类sql公式对采集器采集到的原始数据进行运算,并将运算结果返回给采集器。

本发明应用举例:

1、通过除法进行从byte到mb的数据转换:

selectrawifoutpacket/(1024*1024)asifoutpacket

2、对分区总容量求和后转换成gb:

假设原始数据为:

partitionindexpartitionsize

c1024000

d1024000

公式为:select(sum(partitionsize)/1024)astotalpartitionsize

则利用公式处理后的数据为:

totalpartitionsize2000

3、按列对表格数据进行运算:

假设有两个分区,分别为c、d,

采集回来的数据为:

partitionindexpartitionsizeusedpartitionfullsize

c2048001024000

d5120001024000

对于这种表格数据,使用如下类sql表达式处理

selectpartitionindex,partitionsizeused/partitionfullsizeaspartitionusedrate

使用类sql表达式处理后的数据为:

partitionindexpartitionusedrate

c0.20

d0.50

上述实施例仅为优选实施例,并不用以限制本发明的保护范围,凡是在本发明的精神和原则之内所作的任何修改、等同替换和改进等,均应包含在本发明的保护范围之内。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1