本发明涉及云平台的监控技术领域,具体涉及一种私有化云平台的监控数据处理方案,特别是一种适用于私有化云平台的监控数据采集、加密、传输、接收、校验、过滤、存储、备份及定期清理的处理机制。
背景技术:
云平台运行过程中,不同的资源关注不同的性能,针对这些性能指标,监控系统每隔一段时间就需要刷新下这些性能指标数据;并且随着资源的增多,这些数据的数据量增长相当迅速。这就需要一种安全有效的数据处理方式来保证这些监控数据的有效性及安全性。
技术实现要素:
本发明要解决的技术问题是:本发明针对以上问题,提供一种私有化云平台的监控数据处理方案,一种适用于私有化云平台的监控数据采集、加密、传输、接收、校验、过滤、存储、备份及定期清理的处理机制,旨在为私有化云平台提供一种安全、高效监控数据的处理方案。通过本发明,可以为云平台资源监控提供可靠、有效的监控数据,为监控曲线的展示及告警提供有效的数据基础。
本发明所采用的技术方案为:
一种私有化云平台的监控数据处理方案,所述方案首先约定好统一的监控数据格式化格式,然后通过对称加密的方式,对格式化的数据进行加密,将加密后的信息再放到监控数据;
加密后的数据发送到统一的rabbitmq消息队列中;
服务端监听到消息队列中的数据后,一方面接收完整的消息并进行验证,为告警提供数据基础;另一方面,经过过滤器,验证并保存过滤后的数据,为监控曲线提供数据基础;
最后,通过定时任务,对完整的数据进行备份;对于使用数据,进行定期清理。
MQ全称为Message Queue,消息队列(MQ)是一种应用程序对应用程序的通信方法。应用程序通过读写出入队列的消息(针对应用程序的数据)来通信,而无需专用连接来链接它们。消息传递指的是程序之间通过在消息中发送数据进行通信,而不是通过直接调用彼此来通信,直接调用通常是用于诸如远程过程调用的技术。排队指的是应用程序通过 队列来通信。队列的使用除去了接收和发送应用程序同时执行的要求。
RabbitMQ是一个在AMQP基础上完整的,可复用的企业消息系统。
所述方案实现步骤如下:
(一)数据的采集
(二)数据的加密及格式化发送
采用对称加密的方式,并规定了数据的格式,加密时,对数据的每个字段都进行加密;
(三)数据的传输
采用统一的消息队列进行传输,本发明采用rabbitmq作为统一的消息队列;
(四)数据的接收及过滤
监听消息队列,获取队列中的数据,通过设置的过滤规则对消息进行初步过滤;
(五)数据校验
采用对称加密的方式,将数据再加密一次,以验证数据的有效性;
(六)数据存储
(七)数据的备份及定时清理
对详细的数据进行定期备份和清理操作。
所述数据的采集包含两种方式,一种是数据拉取方式,支持SNMP/TELNET/HTTP等协议;另一种是数据推送的方式,通过运行在相关虚拟机/物理机上的监控代理,采集资源的性能数据。
所述数据存储支持多种数据库存储,并且将监控曲线的数据与告警的数据进行分离,监控曲线的数据根据不同的规则分别存在不同的表中,方便按照不同的曲线进行展示。
本发明的有益效果为:
本发明采用统一的数据格式及对称加密,能够有效的减少无效数据,保证数据的安全性和可靠性;采用rabbitmq消息队列,能够提高监控数据的传输效率;告警数据与监控展示数据分离,并对监控展示数据使用过滤器进行过滤,减少展示数据的数据量,提高数据的查询展示效率;定期备份提高数据的安全性,定期清理提高当前数据的处理效率。
附图说明
图1为本发明流程图。
具体实施方式
下面根据说明书附图,结合具体实施方式对本发明进一步说明:
实施例1:
一种私有化云平台的监控数据处理方案,所述方案首先约定好统一的监控数据格式化格式,然后通过对称加密的方式,对格式化的数据进行加密,将加密后的信息再放到监控数据;
加密后的数据发送到统一的rabbitmq消息队列中;
服务端监听到消息队列中的数据后,一方面接收完整的消息并进行验证,为告警提供数据基础;另一方面,经过过滤器,验证并保存过滤后的数据,为监控曲线提供数据基础;
最后,通过定时任务,对完整的数据进行备份;对于使用数据,进行定期清理。
实施例2
在实施例1的基础上,本实施例所述方案实现步骤如下:
(一)数据的采集
(二)数据的加密及格式化发送
采用对称加密的方式,并规定了数据的格式,加密时,对数据的每个字段都进行加密;
(三)数据的传输
采用统一的消息队列进行传输,本发明采用rabbitmq作为统一的消息队列;
(四)数据的接收及过滤
监听消息队列,获取队列中的数据,通过设置的过滤规则对消息进行初步过滤;
(五)数据校验
采用对称加密的方式,将数据再加密一次,以验证数据的有效性;
(六)数据存储
(七)数据的备份及定时清理
对详细的数据进行定期备份和清理操作。
实施例3
在实施例2的基础上,本实施例所述数据的采集包含两种方式,一种是数据拉取方式,支持SNMP/TELNET/HTTP等协议;另一种是数据推送的方式,通过运行在相关虚拟机/物理机上的监控代理,采集资源的性能数据。
实施例4
在实施例2或3的基础上,本实施例所述数据存储支持多种数据库存储,并且将监控曲线的数据与告警的数据进行分离,监控曲线的数据根据不同的规则分别存在不同的表中,方便按照不同的曲线进行展示。
实施方式仅用于说明本发明,而并非对本发明的限制,有关技术领域的普通技术人员,在不脱离本发明的精神和范围的情况下,还可以做出各种变化和变型,因此所有等同的技术方案也属于本发明的范畴,本发明的专利保护范围应由权利要求限定。