一种基于UDP的海量事件实时数据收集方法及装置与流程

本发明涉及数据统计和分析技术领域，尤其涉及一种基于udp的海量事件实时数据收集方法及装置。

背景技术：

为了适应行业的发展,现在的项目都有许多个应用微服务组成，由于对数据统计和分析的需求越来越强烈,已经是必不可少的一部分,所以必须对应用微服务加以监控,如果这些监控全部人工完成,显然不太可能。

技术实现要素：

本发明实施例提供一种基于udp的海量事件实时数据收集方法及装置，以自由的配置监控系统，进行海量事件数据的收集。

一方面，本发明实施例提供了一种基于udp的海量事件实时数据收集方法，所述方法包括：

将应用服务的开发代码通过用户数据报协议udp发送到数据聚合器brubeck；

将利用brubeck收集的数据发送到graphite；

利用collectd从本地或者远程收集数据发送到graphite；

将graphite获取的数据写入磁盘；

利用可视化面板crafana从graphite获取数据，并作为统一的门户用来显示数据。

另一方面，本发明实施例提供了一种基于udp的海量事件实时数据收集装置，所述装置包括：

数据聚合器brubeck单元，用于接收通过用户数据报协议udp发送的应用服务的开发代码；

graphite单元，用于作为路由，收集利用brubeck收集的数据和利用collectd从本地或者远程收集的数据，并将graphite获取的数据写入磁盘；

可视化面板crafana单元，用于从graphite获取数据，并作为统一的门户用来显示数据。

上述技术方案具有如下有益效果：可以自由的配置监控系统，构建多维度报表，可以进行海量事件数据的收集,并且具有容错性。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本发明实施例一种基于udp的海量事件实时数据收集方法流程图；

图2为本发明实施例一种基于udp的海量事件实时数据收集装置结构示意图；

图3为本发明应用实例一种基于udp的海量事件实时devop数据收集原理示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

如图1所示，为本发明实施例一种基于udp的海量事件实时数据收集方法流程图，所述方法包括：

101、将应用服务的开发代码通过用户数据报协议udp发送到数据聚合器brubeck；

102、将利用brubeck收集的数据发送到graphite；

103、利用collectd从本地或者远程收集数据发送到graphite；

104、将graphite获取的数据写入磁盘；

105、利用可视化面板crafana从graphite获取数据，并作为统一的门户用来显示数据。

优选地，所述将利用brubeck收集的数据发送到graphite，具体包括：将利用brubeck收集的数据通过传输控制协议tcp发送到graphite。udp:是一个简单的面向数据包的传输层协议，只把应用程序传给ip层的数据报发送出去。graphite:开源实时、显示时间序列度量数据的图形系统，就像一个数据库一样，接受度量数据，然后以实时方式查询、转换、组合这些度量数据。crafana:一个可视化面板，非常漂亮的图表和布局展示，可以混搭多种风格。collectd：是一个守护进程，收集系统上的信息。

优选地，所述将graphite获取的数据写入磁盘，具体包括：

将graphite获取的数据中不符合预设条件规范的丢掉，符合预设条件规范的写入磁盘。

优选地，将graphite获取的数据中不符合预设条件规范的丢掉，符合预设条件规范的通过结构化的文件存储whisper写入磁盘。

优选地，所述方法还包括：

使用基于moira构建的系统，通过触发器比对获取的数据，并在评估达不到预设指标时发送报警消息。

对应于上述方法实施例，如图2所示，为本发明实施例一种基于udp的海量事件实时数据收集装置结构示意图，所述装置包括：

数据聚合器brubeck单元21，用于接收通过用户数据报协议udp发送的应用服务的开发代码；

graphite单元22，用于作为路由，收集利用brubeck收集的数据和利用collectd从本地或者远程收集的数据，并将graphite获取的数据写入磁盘；

可视化面板crafana单元23，用于从graphite获取数据，并作为统一的门户用来显示数据。

优选地，所述graphite单元22，用于作为路由，具体通过传输控制协议tcp收集利用brubeck收集的数据。

优选地，所述graphite单元22，具体用于将graphite获取的数据中不符合预设条件规范的丢掉，符合预设条件规范的写入磁盘。

优选地，所述graphite单元22，进一步具体用于将graphite获取的数据中不符合预设条件规范的丢掉，符合预设条件规范的通过结构化的文件存储whisper写入磁盘。

优选地，所述装置还包括：

moira单元24，用于使用基于moira构建的系统，通过触发器比对获取的数据，并在评估达不到预设指标时发送报警消息。

如图3所示，为本发明应用实例一种基于udp的海量事件实时devop数据收集原理示意图(devops:是一组过程、方法与系统的统称,提倡开发和it运维之间高度协同，从而在完成高频率部署的同时，提高生产环境的可靠行、稳定性、弹性和安全性)，其可以自由的配置监控系统，可以把所有应用服务(apps)的开发代码都通过udp发送到数据聚合器brubeck，数据聚合器brubeck通过tcp发送数据到graphite；所有的数据都使用collectd收集；collectd会从本地或者远程收集数据发送到graphite。graphite作为一个路由收集所有聚合器发送过来的数据以及路由到这些节点，并且在路由时会检查所有监控数据，不符合规范就会被丢掉；获取的数据使用whisper结构化的文件存储)写入磁盘。crafana(可视化面板)从graphite获取数据，并且作为统一的门户用来显示监控数据；对于每个服务开发者可以构建自己独有的报表；然后使用二维图形会显示来自应用的监控数据。除了crafana，本发明应用实例还用一个基于graphite的数据分析sla(服务等级协议)的python进程。使用slam查看文档对比graphite的数据，并且评估服务的可用性是不是达到了指标。

对于报警本发明应用实例可以使用基于moira构建的强大系统。并且使用redis集群作为主要数据库。使本发明应用实例的系统具有良好的容错能力。由于其依据一些触发器来对比监控数据，所以它具备每分钟处理gb级别的数据。

本发明应用实例为一种基于udp的海量事件实时devop数据收集装置，对事件产生的数据进行统计和分析，可以自由的配置监控系统，构建多维度报表，可以进行海量事件数据的收集，并且具有容错性。

应该明白，公开的过程中的步骤的特定顺序或层次是示例性方法的实例。基于设计偏好，应该理解，过程中的步骤的特定顺序或层次可以在不脱离本公开的保护范围的情况下得到重新安排。所附的方法权利要求以示例性的顺序给出了各种步骤的要素，并且不是要限于所述的特定顺序或层次。

在上述的详细描述中，各种特征一起组合在单个的实施方案中，以简化本公开。不应该将这种公开方法解释为反映了这样的意图，即，所要求保护的主题的实施方案需要比清楚地在每个权利要求中所陈述的特征更多的特征。相反，如所附的权利要求书所反映的那样，本发明处于比所公开的单个实施方案的全部特征少的状态。因此，所附的权利要求书特此清楚地被并入详细描述中，其中每项权利要求独自作为本发明单独的优选实施方案。

为使本领域内的任何技术人员能够实现或者使用本发明，上面对所公开实施例进行了描述。对于本领域技术人员来说；这些实施例的各种修改方式都是显而易见的，并且本文定义的一般原理也可以在不脱离本公开的精神和保护范围的基础上适用于其它实施例。因此，本公开并不限于本文给出的实施例，而是与本申请公开的原理和新颖性特征的最广范围相一致。

上文的描述包括一个或多个实施例的举例。当然，为了描述上述实施例而描述部件或方法的所有可能的结合是不可能的，但是本领域普通技术人员应该认识到，各个实施例可以做进一步的组合和排列。因此，本文中描述的实施例旨在涵盖落入所附权利要求书的保护范围内的所有这样的改变、修改和变型。此外，就说明书或权利要求书中使用的术语“包含”，该词的涵盖方式类似于术语“包括”，就如同“包括，”在权利要求中用作衔接词所解释的那样。此外，使用在权利要求书的说明书中的任何一个术语“或者”是要表示“非排它性的或者”。

本领域技术人员还可以了解到本发明实施例列出的各种说明性逻辑块(illustrativelogicalblock)，单元，和步骤可以通过电子硬件、电脑软件，或两者的结合进行实现。为清楚展示硬件和软件的可替换性(interchangeability)，上述的各种说明性部件(illustrativecomponents)，单元和步骤已经通用地描述了它们的功能。这样的功能是通过硬件还是软件来实现取决于特定的应用和整个系统的设计要求。本领域技术人员可以对于每种特定的应用，可以使用各种方法实现所述的功能，但这种实现不应被理解为超出本发明实施例保护的范围。

本发明实施例中所描述的各种说明性的逻辑块，或单元都可以通过通用处理器，数字信号处理器，专用集成电路(asic)，现场可编程门阵列或其它可编程逻辑装置，离散门或晶体管逻辑，离散硬件部件，或上述任何组合的设计来实现或操作所描述的功能。通用处理器可以为微处理器，可选地，该通用处理器也可以为任何传统的处理器、控制器、微控制器或状态机。处理器也可以通过计算装置的组合来实现，例如数字信号处理器和微处理器，多个微处理器，一个或多个微处理器联合一个数字信号处理器核，或任何其它类似的配置来实现。

本发明实施例中所描述的方法或算法的步骤可以直接嵌入硬件、处理器执行的软件模块、或者这两者的结合。软件模块可以存储于ram存储器、闪存、rom存储器、eprom存储器、eeprom存储器、寄存器、硬盘、可移动磁盘、cd-rom或本领域中其它任意形式的存储媒介中。示例性地，存储媒介可以与处理器连接，以使得处理器可以从存储媒介中读取信息，并可以向存储媒介存写信息。可选地，存储媒介还可以集成到处理器中。处理器和存储媒介可以设置于asic中，asic可以设置于用户终端中。可选地，处理器和存储媒介也可以设置于用户终端中的不同的部件中。

在一个或多个示例性的设计中，本发明实施例所描述的上述功能可以在硬件、软件、固件或这三者的任意组合来实现。如果在软件中实现，这些功能可以存储与电脑可读的媒介上，或以一个或多个指令或代码形式传输于电脑可读的媒介上。电脑可读媒介包括电脑存储媒介和便于使得让电脑程序从一个地方转移到其它地方的通信媒介。存储媒介可以是任何通用或特殊电脑可以接入访问的可用媒体。例如，这样的电脑可读媒体可以包括但不限于ram、rom、eeprom、cd-rom或其它光盘存储、磁盘存储或其它磁性存储装置，或其它任何可以用于承载或存储以指令或数据结构和其它可被通用或特殊电脑、或通用或特殊处理器读取形式的程序代码的媒介。此外，任何连接都可以被适当地定义为电脑可读媒介，例如，如果软件是从一个网站站点、服务器或其它远程资源通过一个同轴电缆、光纤电缆、双绞线、数字用户线(dsl)或以例如红外、无线和微波等无线方式传输的也被包含在所定义的电脑可读媒介中。所述的碟片(disk)和磁盘(disc)包括压缩磁盘、镭射盘、光盘、dvd、软盘和蓝光光盘，磁盘通常以磁性复制数据，而碟片通常以激光进行光学复制数据。上述的组合也可以包含在电脑可读媒介中。

以上所述的具体实施方式，对本发明的目的、技术方案和有益效果进行了进一步详细说明，所应理解的是，以上所述仅为本发明的具体实施方式而已，并不用于限定本发明的保护范围，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。