一种支撑分布式架构的全链路应用监控方法与装置与流程

本发明涉及计算机领域，特别是指一种支撑分布式架构的全链路应用监控方法与装置。

背景技术：

目前的企业应用监控是分层的，资源层、中间件层、应用层、业务层都有各自的监控。随着越来越多的组件的引进，以及业务系统复杂度的增加，割裂的监控系统不足够找到问题的根本原因。现有的应用监控系统，采用固定配置的采集方式无法适应容器的快速变化，采集数据采用固定的数据结构进行存储，在分布式架构的复杂场景下，难以应对多种查询方式，导致问题排查效率低，服务无法及时恢复。

针对现有技术中应用监控系统问题排查效率低，服务无法及时恢复的问题，目前尚未有有效的解决方案。

技术实现要素：

有鉴于此，本发明实施例的目的在于提出一种支撑分布式架构的全链路应用监控方法与装置，能够全链路跟踪从入口处开始到流经的所有系统的所有节点，将多个层面的数据进行汇聚，都通过可视化的方式串起来，快速定位系统问题。

基于上述目的，本发明实施例提供了一种支撑分布式架构的全链路应用监控方法，包括：

从被监控系统中采集数据并发送到服务监听端口；

获取服务监听端口的采集数据，并通过时间序列建立高维度数据模型，所述高维度数据模型用于数据查询、绘制与生成告警信息；

根据告警信息进行告警与告警信息控制。

在一些实施方式中，所述从被监控系统中采集的数据包括以下至少之一：容器应用程序的日志、容器监控数据、主机监控数据、文件；将所述数据发送到服务监听端口的同时，还发送容器采集器的标准输出与标准错误输出到服务监听端口。

在一些实施方式中，所述时间序列通过一个度量值名字与一套键值对进行识别；所述数据查询、绘制为使用规则表达式表达查询条件并根据所述高维度数据模型获得查询结果。

在一些实施方式中，所述规则表达式用于以下至少之一：

在任意维度上将数据切片或切块，并获得基于指定关键字的时间序列；

将数据聚合，并获得基于指定关键字的资源占用情况。

在一些实施方式中，所述资源占用情况为内存使用率。

在一些实施方式中，所述生成告警信息为使用规则表达式表达指定的查询条件，根据所述高维度数据模型获得查询结果，所述高维度数据模型根据查询结果生成或不生成告警信息。

在一些实施方式中，所述根据告警信息进行告警为通过路由将告警信息发送至指定的接收器。

在一些实施方式中，所述告警信息控制包括以下至少之一：

将反应相同实例影响的多个告警信息组合为一个；

停止发送由于已发送告警信息引发的其他错误的告警信息；

在特定条件下不发送任何告警信息。

在一些实施方式中，所述告警信息控制通过路由树、配置文件与用户接口进行配置。

基于上述目的，本发明实施例的另一方面还提供了一种电子设备，包括至少一个处理器；以及，与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行上述方法。

从上面所述可以看出，本发明实施例提供的支撑分布式架构的全链路应用监控方法与装置通过使用从被监控系统中采集数据并发送到服务监听端口、获取服务监听端口的采集数据，并通过时间序列建立高维度数据模型，所述高维度数据模型用于数据查询、绘制与生成告警信息、根据告警信息进行告警与告警信息控制的技术手段，能够全链路跟踪从入口处开始到流经的所有系统的所有节点，将多个层面的数据进行汇聚，都通过可视化的方式串起来，快速定位系统问题。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本发明提供的支撑分布式架构的全链路应用监控方法的流程图；

图2为本发明提供的执行所述支撑分布式架构的全链路应用监控方法的电子设备的一个实施例的硬件结构图。

具体实施方式

为使本发明的目的、技术方案和优点更加清楚明白，以下结合具体实施例，并参照附图，对本发明实施例进一步详细说明。

需要说明的是，本发明实施例中所有使用“第一”和“第二”的表述均是为了区分两个相同名称非相同的实体或者非相同的参量，可见“第一”“第二”仅为了表述的方便，不应理解为对本发明实施例的限定，后续实施例对此不再一一说明。

基于上述目的，本发明实施例的第一个方面，提出了一种能够针对不同用户或不同类型的节点进行支撑分布式架构的全链路应用监控的支撑分布式架构的全链路应用监控方法的第一个实施例。图1示出的是本发明提供的支撑分布式架构的全链路应用监控方法的第一个实施例的流程示意图。

如图1所示，支撑分布式架构的全链路应用监控方法包括：

步骤s101，从被监控系统中采集数据并发送到服务监听端口；

步骤s103，获取服务监听端口的采集数据，并通过时间序列建立高维度数据模型，所述高维度数据模型用于数据查询、绘制与生成告警信息；

步骤s105，根据告警信息进行告警与告警信息控制。

在一些实施方式中，所述从被监控系统中采集的数据包括以下至少之一：容器应用程序的日志、容器监控数据、主机监控数据、文件；将所述数据发送到服务监听端口的同时，还发送容器采集器的标准输出与标准错误输出到服务监听端口。

在一些实施方式中，所述时间序列通过一个度量值名字与一套键值对进行识别；所述数据查询、绘制为使用规则表达式表达查询条件并根据所述高维度数据模型获得查询结果。

在一些实施方式中，所述规则表达式用于以下至少之一：

在任意维度上将数据切片或切块，并获得基于指定关键字的时间序列；

将数据聚合，并获得基于指定关键字的资源占用情况。

在一些实施方式中，所述资源占用情况为内存使用率。

在一些实施方式中，所述生成告警信息为使用规则表达式表达指定的查询条件，根据所述高维度数据模型获得查询结果，所述高维度数据模型根据查询结果生成或不生成告警信息。

在一些实施方式中，所述根据告警信息进行告警为通过路由将告警信息发送至指定的接收器。

在一些实施方式中，所述告警信息控制包括以下至少之一：

将反应相同实例影响的多个告警信息组合为一个；

停止发送由于已发送告警信息引发的其他错误的告警信息；

在特定条件下不发送任何告警信息。

在一些实施方式中，所述告警信息控制通过路由树、配置文件与用户接口进行配置。

容器采集器本身是一个容器，使用busybox作为其核心，它可以将来自容器应用程序的日志、容器监控数据、主机监控数据发送到某个服务监听端口，比如单一json对象或者通过httpapi可获得的流式端点。采集器不仅要实现容器的标准输出(stdout)和标准错误输出(stderr)，还要实现文件的采集。

全链路监控数据存储的特点是高维度数据模型，时间序列是通过一个度量值名字和一套键值对识别。通过提供灵活的查询语言允许查询和绘制数据。它采用了先进的度量标准类型，比如汇总，从指定时间跨度的总数构建比率，执行规则表达式、展现结果，如果某些条件判断结果为真的时候，将会触发报警。时序存储对外提供以下能力：

1)切片和切块

提供一种查询语言，＝可以对任何维度的数据切片和切块。如果对一个给定名字的所有容器感兴趣，可以使用一个表达式像container_memory_usage_bytes{name＝"test-server"}，这个将仅仅显示name＝＝"test-server"的时间序列。

时序存储支持正则表达式，匹配完整的脚本语法如下：

container_memory_usage_bytes{name＝～"^keyword"}

时序存储可以使用任何维度过滤，可以是获取一个给定的主机，给定的环境和给定的区域上所有容器的指标。

2)聚合

和graphite类似，时序存储支持聚合函数但是维度更加丰富。使用以下表达式可按预期汇总你所有"keyword-*"的内存使用率：

sum(container_memory_usage_bytes{name＝～"^keyword"})

如果在多个区域有服务并且配置了区域名作为一个额外的标签对，使用以下表达式也可以保存维度来展示每个名字和区域的内存使用率：

avg(container_memory_usage_bytes{name＝～"^keyword"})by(name,zone)

报警规则基于时序存储的语法表达式的报警条件，并发送报警通知到外部服务。报警规则通过以下格式定义：

其中，for子句使得时序存储等待第一个传进来的向量元素(例如高http错误的实例)，并计数一个警报。如果元素是active，但是没有firing的，就处于pending状态。labels子句允许指定一组附加的标签附到警报上。现有的任何标签都会被覆盖，标签值可以被模板化。annotations子句指定另一组未查明警报实例的标签，它们被用于存储更长的其他信息，例如警报描述或者链接，注释值可以被模板化。

处理由监控服务器等客户端发来的警报，之后需要删除重复、分组，并将它们通过路由发送到正确的接收器，比如电子邮件、短信等。告警规则引擎还支持沉默和警报抑制的机制。告警规则引擎提供以下能力：

1)分组

分组是指当出现问题时，告警模块会收到一个单一的通知，但当系统宕机时，很有可能成百上千的警报会同时生成，分组机制为了应对较大的服务中断情况，如果在告警规则中配置为每一个服务实例都发送警报的话，那么会造成数百警报被发送至告警模块。通过分组，只会看到单一的报警页面，同时仍然能够清楚的看到哪些实例受到影响，因此，通过配置告警模块将警报分组打包，并发送一个相对看起来紧凑的通知。

分组警报、警报时间，以及接收警报的receiver在配置文件中通过路由树配置。

2)抑制

抑制是指当警报发出后，停止重复发送由此警报引发其他错误的警报的机制。当警报被触发，通知整个集群不可达，可以配置告警模块忽略由该警报触发而产生的所有其他警报，这可以防止通知数百或数千与此问题不相关的其他警报。

抑制机制可以通过告警模块的配置文件来配置。

3)沉默

沉默是一种简单的特定时间静音提醒的机制。沉默是通过匹配器来配置，就像路由树一样。传入的警报会匹配路由树节点，如果匹配，将不会为此警报发送通知。

沉默机制可以通过告警模块的ui进行配置。

从上述实施例可以看出，本发明实施例提供的支撑分布式架构的全链路应用监控方法通过使用从被监控系统中采集数据并发送到服务监听端口、获取服务监听端口的采集数据，并通过时间序列建立高维度数据模型，所述高维度数据模型用于数据查询、绘制与生成告警信息、根据告警信息进行告警与告警信息控制的技术手段，能够全链路跟踪从入口处开始到流经的所有系统的所有节点，将多个层面的数据进行汇聚，都通过可视化的方式串起来，快速定位系统问题。

基于上述目的，本发明实施例的第二个方面，提出了一种执行所述支撑分布式架构的全链路应用监控方法的电子设备的一个实施例。

所述执行所述支撑分布式架构的全链路应用监控方法的电子设备包括至少一个处理器；以及与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行如上所述任意一种方法。

如图2所示，为本发明提供的执行所述实时通话中的语音处理方法的电子设备的一个实施例的硬件结构示意图。以如图2所示的电子设备为例，在该电子设备中包括一个处理器201以及一个存储器202，并还可以包括：输入装置203和输出装置204。

处理器201、存储器202、输入装置203和输出装置204可以通过总线或者其他方式连接，图2中以通过总线连接为例。

存储器202作为一种非易失性计算机可读存储介质，可用于存储非易失性软件程序、非易失性计算机可执行程序以及模块，如本申请实施例中的所述支撑分布式架构的全链路应用监控方法对应的程序指令/模块。处理器201通过运行存储在存储器202中的非易失性软件程序、指令以及模块，从而执行服务器的各种功能应用以及数据处理，即实现上述方法实施例的支撑分布式架构的全链路应用监控方法。

存储器202可以包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需要的应用程序；存储数据区可存储根据支撑分布式架构的全链路应用监控装置的使用所创建的数据等。此外，存储器202可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、或其他非易失性固态存储器件。在一些实施例中，存储器202可选包括相对于处理器201远程设置的存储器，这些远程存储器可以通过网络连接至节点。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。

输入装置203可接收输入的数字或字符信息，以及产生与支撑分布式架构的全链路应用监控装置的用户设置以及功能控制有关的键信号输入。输出装置204可包括显示屏等显示设备。

所述一个或者多个模块存储在所述存储器202中，当被所述处理器201执行时，执行上述任意方法实施例中的支撑分布式架构的全链路应用监控方法。

所述执行所述支撑分布式架构的全链路应用监控方法的电子设备的任何一个实施例，可以达到与之对应的前述任意方法实施例相同或者相类似的效果。

本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关硬件来完成，所述的程序可存储于一计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。其中，所述的存储介质可为磁碟、光盘、只读存储记忆体(read-onlymemory，rom)或随机存储记忆体(randomaccessmemory，ram)等。所述计算机程序的实施例，可以达到与之对应的前述任意方法实施例相同或者相类似的效果。

此外，典型地，本公开所述的装置、设备等可为各种电子终端设备，例如手机、个人数字助理(pda)、平板电脑(pad)、智能电视等，也可以是大型终端设备，如服务器等，因此本公开的保护范围不应限定为某种特定类型的装置、设备。本公开所述的客户端可以是以电子硬件、计算机软件或两者的组合形式应用于上述任意一种电子终端设备中。

此外，根据本公开的方法还可以被实现为由cpu执行的计算机程序，该计算机程序可以存储在计算机可读存储介质中。在该计算机程序被cpu执行时，执行本公开的方法中限定的上述功能。

此外，上述方法步骤以及系统单元也可以利用控制器以及用于存储使得控制器实现上述步骤或单元功能的计算机程序的计算机可读存储介质实现。

此外，应该明白的是，本文所述的计算机可读存储介质(例如，存储器)可以是易失性存储器或非易失性存储器，或者可以包括易失性存储器和非易失性存储器两者。作为例子而非限制性的，非易失性存储器可以包括只读存储器(rom)、可编程rom(prom)、电可编程rom(eprom)、电可擦写可编程rom(eeprom)或快闪存储器。易失性存储器可以包括随机存取存储器(ram)，该ram可以充当外部高速缓存存储器。作为例子而非限制性的，ram可以以多种形式获得，比如同步ram(dram)、动态ram(dram)、同步dram(sdram)、双数据速率sdram(ddrsdram)、增强sdram(esdram)、同步链路dram(sldram)以及直接rambusram(drram)。所公开的方面的存储设备意在包括但不限于这些和其它合适类型的存储器。

本领域技术人员还将明白的是，结合这里的公开所描述的各种示例性逻辑块、模块、电路和算法步骤可以被实现为电子硬件、计算机软件或两者的组合。为了清楚地说明硬件和软件的这种可互换性，已经就各种示意性组件、方块、模块、电路和步骤的功能对其进行了一般性的描述。这种功能是被实现为软件还是被实现为硬件取决于具体应用以及施加给整个系统的设计约束。本领域技术人员可以针对每种具体应用以各种方式来实现所述的功能，但是这种实现决定不应被解释为导致脱离本公开的范围。

结合这里的公开所描述的各种示例性逻辑块、模块和电路可以利用被设计成用于执行这里所述功能的下列部件来实现或执行：通用处理器、数字信号处理器(dsp)、专用集成电路(asic)、现场可编程门阵列(fpga)或其它可编程逻辑器件、分立门或晶体管逻辑、分立的硬件组件或者这些部件的任何组合。通用处理器可以是微处理器，但是可替换地，处理器可以是任何传统处理器、控制器、微控制器或状态机。处理器也可以被实现为计算设备的组合，例如，dsp和微处理器的组合、多个微处理器、一个或多个微处理器结合dsp核、或任何其它这种配置。

结合这里的公开所描述的方法或算法的步骤可以直接包含在硬件中、由处理器执行的软件模块中或这两者的组合中。软件模块可以驻留在ram存储器、快闪存储器、rom存储器、eprom存储器、eeprom存储器、寄存器、硬盘、可移动盘、cd-rom、或本领域已知的任何其它形式的存储介质中。示例性的存储介质被耦合到处理器，使得处理器能够从该存储介质中读取信息或向该存储介质写入信息。在一个替换方案中，所述存储介质可以与处理器集成在一起。处理器和存储介质可以驻留在asic中。asic可以驻留在用户终端中。在一个替换方案中，处理器和存储介质可以作为分立组件驻留在用户终端中。

在一个或多个示例性设计中，所述功能可以在硬件、软件、固件或其任意组合中实现。如果在软件中实现，则可以将所述功能作为一个或多个指令或代码存储在计算机可读介质上或通过计算机可读介质来传送。计算机可读介质包括计算机存储介质和通信介质，该通信介质包括有助于将计算机程序从一个位置传送到另一个位置的任何介质。存储介质可以是能够被通用或专用计算机访问的任何可用介质。作为例子而非限制性的，该计算机可读介质可以包括ram、rom、eeprom、cd-rom或其它光盘存储设备、磁盘存储设备或其它磁性存储设备，或者是可以用于携带或存储形式为指令或数据结构的所需程序代码并且能够被通用或专用计算机或者通用或专用处理器访问的任何其它介质。此外，任何连接都可以适当地称为计算机可读介质。例如，如果使用同轴线缆、光纤线缆、双绞线、数字用户线路(dsl)或诸如红外线、无线电和微波的无线技术来从网站、服务器或其它远程源发送软件，则上述同轴线缆、光纤线缆、双绞线、dsl或诸如红外先、无线电和微波的无线技术均包括在介质的定义。如这里所使用的，磁盘和光盘包括压缩盘(cd)、激光盘、光盘、数字多功能盘(dvd)、软盘、蓝光盘，其中磁盘通常磁性地再现数据，而光盘利用激光光学地再现数据。上述内容的组合也应当包括在计算机可读介质的范围内。

公开的示例性实施例，但是应当注公开的示例性实施例，但是应当注意，在不背离权利要求限定的本公开的范围的前提下，可以进行多种改变和修改。根据这里描述的公开实施例的方法权利要求的功能、步骤和/或动作不需以任何特定顺序执行。此外，尽管本公开的元素可以以个体形式描述或要求，但是也可以设想多个，除非明确限制为单数。

应当理解的是，在本文中使用的，除非上下文清楚地支持例外情况，单数形式“一个”(“a”、“an”、“the”)旨在也包括复数形式。还应当理解的是，在本文中使用的“和/或”是指包括一个或者一个以上相关联地列出的项目的任意和所有可能组合。

上述本公开实施例序号仅仅为了描述，不代表实施例的优劣。

本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成，也可以通过程序来指令相关的硬件完成，所述的程序可以存储于一种计算机可读存储介质中，上述提到的存储介质可以是只读存储器，磁盘或光盘等。

所属领域的普通技术人员应当理解：以上任何实施例的讨论仅为示例性的，并非旨在暗示本公开的范围(包括权利要求)被限于这些例子；在本发明实施例的思路下，以上实施例或者不同实施例中的技术特征之间也可以进行组合，并存在如上所述的本发明实施例的不同方面的许多其它变化，为了简明它们没有在细节中提供。因此，凡在本发明实施例的精神和原则之内，所做的任何省略、修改、等同替换、改进等，均应包含在本发明实施例的保护范围之内。