日志采集器的管控方法、平台、电子设备及存储介质与流程

文档序号:19786570发布日期:2020-01-24 13:39阅读:297来源:国知局
日志采集器的管控方法、平台、电子设备及存储介质与流程

本发明涉及计算机应用技术领域,尤其涉及大数据技术,具体涉及一种日志采集器的管控方法、平台、电子设备及存储介质。



背景技术:

日志采集主要用于对各个系统或者应用产生的日志(log)信息进行采集,日志信息中通常包括运行状态、指标以及用户的各种信息,内容非常丰富,能够有助于对相应的系统或者应用进行分析。所以,日志采集是一项非常重要的工作。

现有技术的日志采集过程通过部署日志采集器来实现对日志的采集。通常情况下,由用户手动部署日志采集器,并手动修改其配置文件来完成日志数据的采集与传输任务。但是,随着业务日志的规模化增长,对海量日志的采集及传输任务的智能化管控需求越来越迫切,手动配置日志采集任务的效率低下,实现较为困难。



技术实现要素:

本发明提供了一种日志采集器的管控方法、平台、电子设备及存储介质,用于智能化地为日志采集器配置日志采集任务,提高日志采集的配置效率。

本申请提供一种日志采集器的管控方法,所述方法包括:

接收日志采集器发送的注册请求;所述注册请求中携带所述日志采集器所在的主机的标识信息;

为所述日志采集器配置配置文件和配置版本号;所述配置文件中包括为所述日志采集器配置的任务的标识信息;所述配置版本号用于标识为所述日志采集器配置的任务的更新次数;

向对应的所述日志采集器发送所述配置文件和所述配置版本号,以供所述日志采集器加载所述配置文件,以执行相应的任务。

进一步可选地,如上所述的方法中,为所述日志采集器配置对应的配置文件和配置版本号,包括:

为所述日志采集器配置任务标识和对应的任务版本号;

基于为所述日志采集器配置的所述任务标识和对应的所述任务版本号,生成对应的所述配置文件;

配置所述日志采集器的配置版本号。

进一步可选地,如上所述的方法中,为所述日志采集器配置对应的配置文件和配置版本号之后,所述方法还包括:

建立所述主机的标识信息、所述任务标识、以及所述任务版本号之间的对应关系;并存储在数据库关系表中;和/或

将所述主机的标识信息和对应的所述配置文件存储在缓存中。

进一步可选地,如上所述的方法中,为所述日志采集器配置对应的配置文件和配置版本号之后,所述方法还包括:

根据任务的更新需求,更新所述任务标识及对应的所述任务版本号;

基于更新的所述任务标识及对应的所述任务版本号,更新需要执行更新后的任务的所述日志采集器对应的所述配置文件和所述配置版本号;

更新所述数据库关系表中需要执行更新后的任务的所述日志采集器对应的所述对应关系,和/或所述缓存中对应的所述配置文件。

进一步可选地,如上所述的方法中,向对应的所述日志采集器发送所述配置文件和所述配置版本号之后,所述方法还包括:

接收所述日志采集器按照预设周期发送的心跳消息,所述心跳消息中携带所述主机的标识信息以及所述配置版本号;

根据所述主机的标识信息,获取本地记录的所述配置版本号;

检测本地记录的所述配置版本号与所述心跳消息中携带的所述配置版本号是否一致;

若不一致,根据所述主机的标识信息从所述缓存中获取对应的更新后的所述配置文件;

向对应的所述日志采集器发送更新后的所述配置文件和本地记录的所述配置版本号,以供所述日志采集器加载更新后的所述配置文件,以执行相应的任务。

进一步可选地,如上所述的方法中,所述心跳消息中还携带有各所述任务的运行指标和/或所述日志采集器的进程的运行指标;所述方法还包括:

根据所述日志采集器连续多次所述心跳消息中的各所述任务的运行指标和/或进程的所述运行指标,绘制可视化指标动态信息;显示所述可视化指标动态信息;和/或

根据所述日志采集器中的各所述任务的运行指标和/或进程的运行指标,以及预设的报警条件,判断是否需要触发报警;若需要,根据预设的报警方式,发出报警。

进一步可选地,如上所述的方法中,向对应的所述日志采集器发送所述配置文件和所述配置版本号之后,所述方法还包括:

若预设时间长度内未接收到所述日志采集器发送的心跳消息,发出重启提示消息,以提示用户重启所述日志采集器。

本申请还提供了一种日志采集器的管控平台,所述平台包括:

接收模块,用于接收日志采集器发送的注册请求;所述注册请求中携带所述日志采集器所在的主机的标识信息;

配置模块,用于为所述日志采集器配置配置文件和配置版本号;所述配置文件中包括为所述日志采集器配置的任务的标识信息;所述配置版本号用于标识为所述日志采集器配置的任务的更新次数;

发送模块,用于向对应的所述日志采集器发送所述配置文件和所述配置版本号,以供所述日志采集器加载所述配置文件,以执行相应的任务。

本申请还提供了一种电子设备,包括:

至少一个处理器;以及

与所述至少一个处理器通信连接的存储器;其中,

所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如上任一项所述的方法。

本申请还提供一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行如上任一项所述的方法。

本申请还提供了一种日志采集器的管控方法,所述方法包括:

接收日志采集器发送的注册请求;所述注册请求中携带所述日志采集器所在的主机的标识信息和任务的标识信息;

根据所述任务的标识信息为所述日志采集器配置配置文件;

向对应的所述日志采集器发送所述配置文件,以供所述日志采集器加载所述配置文件,以执行相应的任务。

上述申请中的一个实施例具有如下优点或有益效果:通过日志采集器的管控平台,可以智能化地为每个注册的日志采集器配置日志采集任务,并向相应的日志采集器传输送配置文件和配置版本号,以供日志采集器加载配置文件,以执行相应的任务,克服了现有技术中手动配置日志任务效率低下的问题,进而能够智能化地自动在线部署及传输日志采集任务,能够适用于大规模的日志采集场景,有效地提高日志采集任务的配置效率。根据本申请实施例的技术方案,克服了现有技术中手动配置日志采集任务效率低下的问题,本申请中,通过智能化地自动在线部署及传输日志采集任务,能够适用于大规模的日志采集场景,有效地提高日志采集任务的配置效率。

进一步地,本申请实施例的技术方案,能够建立主机的标识信息、任务标识、以及任务版本号之间的对应关系;并存储在数据库关系表中,以便于对日志采集器和其执行的任务进行集中化管理,方便后续的查询和使用。且上述实施例中,还可以将主机的标识信息和对应的配置文件存储在缓存中,以便于后续需要向日志采集器下发配置文件时,能够及时获取到,提高了日志配置文件下发的效率。

进一步地,本申请实施例的技术方案,还能够根据任务的更新需求,更新任务标识对应的所述配置文件以及对应的所述任务版本号;并基于更新的任务标识及对应的任务版本号,更新需要执行更新后的任务的日志采集器对应的配置文件和配置版本号,能够针对新更新的任务,及时更新所有相关信息,便于后续的准确使用。

进一步地,本申请实施例的技术方案,还能够基于日志采集器的心跳消息,检测是否需要向日志采集器下发更新的配置文件,并在需要时下发,能够保证所有更新的配置文件能够及时准确地下发给日志采集器。

进一步地,本申请实施例的技术方案,还能提供日志采集器的各任务的运行指标和/或进程的运行指标的可视化的动态信息,以可视化地方式展示所有运行指标,能够有效地增强用户的使用体验。而且,上述实施例中,还可以在某些运行指标达到预设报警条件时,发出报警,能够有效地提高使用的安全性。

进一步地,本申请实施例的技术方案,还能够在预设时间长度内未接收到日志采集器发送的心跳消息,提示重启日志采集器,以在日志采集器出现问题的时候,及时重启日志采集器,对日志采集器的管理效率非常高。

上述可选方式所具有的其他效果将在下文中结合具体实施例加以说明。

附图说明

附图用于更好地理解本方案,不构成对本申请的限定。其中:

图1是根据本申请第一实施例的示意图。

图2为本实施例的日志采集器的管控方法的一种应用架构图。

图3是根据本申请第二实施例的示意图。

图4是根据本申请第三实施例的示意图。

图5是用来实现本申请实施例的日志采集器的管控的方法的电子设备的框图。

具体实施方式

以下结合附图对本申请的示范性实施例做出说明,其中包括本申请实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本申请的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。

图1是根据本申请第一实施例的示意图,详细描述日志采集器的管控方法一实施例的流程。如图1所示,本实施例的日志采集器的管控方法,具体可以包括如下步骤:

s101、接收日志采集器发送的注册请求;该注册请求中携带日志采集器所在的主机的标识信息;

本实施例的日志采集器的管控方法的执行主体为日志采集器的管控平台,该日志采集器的管控平台用于对日志采集器进行智能化管理和控制,如可以智能化地自动为日志采集器发送日志采集任务的配置文件等等。本实施例的日志采集器的管控平台可以为一个独立的电子设备,或者也可以为软件集成的应用,能够对分布在各个主机上的日志采集器进行管控。

本实施例中,日志采集器具体应用在主机上,每一个主机可以运行一个日志采集器。本实施例中对日志采集器的管理可以以用户为维度来进行管理。例如,图2为本实施例的日志采集器的管控方法的一种应用架构图。如图2所示,该日志采集器的管控平台可以维护用户1、用户2,…..用户m等多个用户的所有日志采集器,本实施例中以一个用户可以维护多个日志采集器n为例,每个用户维护的每个日志采集器运行在一个主机上,应用架构如图2的架构所示。

本实施例中,日志采集器的安装可以在线下来进行,例如用户可以在日志采集器的管控平台上配置日志采集器的安装命令,然后用户可以手动在其维护的多个主机上分别复制日志采集器的管控平台上配置的日志采集器的安装命令,并在各个主机上粘贴并运行该安装命令,从而在各个主机上安装了该日志采集器。可选地,本实施例中,为同一用户的各个主机配置的安装命令中还可以携带有token字段,该token字段用于实现日志采集器的管控平台对该用户的各日志采集器的认证。

在同一用户维护的各主机安装了日志采集器后,各日志采集器可以向日志采集器的管控平台发送注册请求,同时在该注册请求中携带有该日志采集器所在的主机的标识信息。本实施例中的主机的标识信息可以为主机的ip、主机的id以及主机的hostname中的至少一个。也就是说,本实施例中通过主机的标识信息来标识该主机上运行的日志采集器。

日志采集器的管控平台接收到该注册请求后,根据该注册请求中的主机的标识信息,便可以得知该注册请求为哪个主机上的日志采集器发送的注册请求。

可选地,日志采集器的管控平台接收到每个日志采集器发送的注册请求后,可以将各注册请求中主机的标识信息持久化地存储在用户信息数据库中,以统一对各主机上的日志采集器进行综合管理和控制。具体地,在用户信息数据库中的存储格式可以为用户id、用户对应的主机的标识信息等。

可选地,本实施例的日志采集器的注册请求中还可以携带有token字段。对应地,日志采集器的管控平台接收到注册请求后,验证为该用户配置的token字段,与该用户维护的主机上的日志采集器发送的注册请求中的token字段是否一致,若一致,则认证成功,可以后续继续为该日志采集器发送配置文件。否则,若不一致,则认证不成功,此时可以认为该主机被不合法使用,篡改了token字段;或者用户误操作删除了token字段导致认证失败。

需要说明的是,此时在用户信息数据库中,除了存储用户id、用户对应的主机的标识信息之后,还需要增加存储用户对应的token字段。其中每一个用户所维护的主机的数量可以为多个,此时同一用户对应的主机的标识信息可以为多个。

s102、为日志采集器配置配置文件和配置版本号;该配置文件中包括为日志采集器配置的任务的标识信息;该配置版本号用于标识为所述日志采集器配置的任务的更新次数;

本实施例中,同一任务若仅有一个版本时,此时任务的标识信息可以仅包括任务标识。而若同一任务具有不同的版本时,此时任务的标识信息包括任务标识和任务版本号。

例如,在任务的标识信息包括任务标识和任务版本号时,该步骤具体实现时,可以包括:为日志采集器配置任务标识和对应的任务版本号;基于为日志采集器配置的任务标识和对应的任务版本号,生成对应的配置文件;也就是说,该配置文件中包括该日志采集器需要执行的每个任务的任务标识以及对应的任务版本号。另外,为了保证采集任务的正常执行,该配置文件中还可以包括每个任务的参数信息,来限定任务执行的条件、方式等等信息。本实施例中,每次为日志采集器配置任务后,还要同步配置日志采集器的配置版本号,如可以采用字段configversion来标识,用于标识为日志采集器配置的任务的更新次数。该配置版本号的初始值等于初次为对应的日志采集器配置配置文件时,配置的任务的数量。之后,每更新配置文件中一个任务,该配置版本号就累加1。如批量为某个日志采集器增加n个任务,那该日志采集器的configverison就要+n;批量删除m个任务,那该日志采集器的configversion就要+m。本实施例中,需要在日志采集器的管控平台存储每个日志采集器的配置版本号,并在每次配置本版号发生更新时,及时更新存储的该配置版本号,具体存储时,可以存储主机的标识信息和配置版本号的对应关系,以标识该主机的标识信息对应的日志采集器所对应的配置版本号。可选地,该对应关系也可以存储在用户信息数据库,在每个用户维护的每个主机的标识信息下,记录该主机上运行的日志采集器的配置版本号。总之,能够在日志采集器的管控平台上记录主机的标识信息和对应的配置版本号即可。

在任务的标识信息仅包括任务标识时,去除所有的任务版本号即可,其余参考上述实施例的记载,实现更为简单。

本实施例中,可以在日志采集器的管控平台上设置可视化界面,用户可以通过可视化界面配置任务信息。也就是说,该日志采集器的管控平台可以接收用户通过人机接口模块输入的配置任务信息,以实现为日志采集器配置任务信息,或者也可以发送请求的方式向日志采集器的管控平台发送配置任务信息。例如,本实施例中,配置任务信息可以包括为每个日志采集器配置任务标识以及任务的版本号,同时还可以配置任务的名称以及其他备注信息等等。其中任务标识可以用于唯一标识一个任务,可以采用汉字、数字以及字母中的任意一个或者组合来标识。其中,任务版本号用于标识同一任务被执行增加或者修改的操作更新的次数。任务每被更新一次,对应的任务版本号需要更新一次,本实施例中,以任务每被更新一次,对应的任务版本号累加1为例,实际应用中,也可以采用其他的方式,来标识任务被更新了。同时,每更新一次任务,对应地需要执行该更新的任务的日志采集器的配置文件也需要更新。

基于上述实施例中为每个日志采集器配置的任务标识、任务版本号的标识,可以生成每个日志采集器的配置文件,该配置文件用于限定日志采集器执行采集任务的信息,如采集每个任务标识和任务版本号对应的任务中符合哪些参数的日志,采集的日志的存储格式,采集的日志发送的地址等等。

可选地,本实施例中,在步骤s102为日志采集器配置配置文件和配置版本号之后,还可以包括:建立主机的标识信息、任务标识、以及任务版本号之间的对应关系;并将对应关系存储在数据库关系表中;和/或将主机的标识信息和对应的配置文件存储在缓存中。

即本实施例中,在日志采集器的管控平台中还维护有一个数据库关系表,在该数据库关系表中,将主机的标识信息、任务标识以及任务版本号按照对应关系存储。同时,还可以将每一个主机的标识信息和对应的配置文件存储在缓存中,以便于在需要获取配置文件时,根据主机的标识信息便可以从缓存中获取该日志采集器对应的配置文件。

需要说明的是,本实施例中,虽然同一任务具有多个任务版本号,但是在为各主机的日志采集器配置任务时,并不一定配置最新的任务,可以为各日志采集器选择配置任意一个任务版本号对应的任务,并建立相应的对应关系。

可选地,本实施例中,还可以对日志采集器分组,为每组中的多个日志采集器配置相同的配置任务,对应地,接收到的注册请求包括多个日志采集器的注册请求。此时为日志采集器配置配置文件和配置版本号,具体可以表现为:对接收到注册请求的多个日志采集器进行分组;然后为每个分组配置任务标识、对应的任务版本号,从而实现为每个日志采集器配置任务标识、对应的任务版本号。当然,本实施例中,还需要为每个分组的日志采集器配置分组标识;对应地,可以建立分组标识和对应的日志采集器的主机标识信息的对应关系,并存储在另一数据库关系表中。此时对应地,在前一数据库关系表中,可以将分组标识、任务标识以及任务版本号按照对应关系存储,以标识分组标识相同的日志采集器分组都对应相同的任务的同一的任务版本号。

s103、向对应的日志采集器发送配置文件和配置版本号,以供日志采集器加载配置文件,以执行相应的任务。

同时,日志采集器需要存储该配置版本号,以便于后续向日志采集器的管控平台发送心跳消息时使用。

本实施例中,无论是为每个日志采集器配置一个独立的日志采集任务,还是对日志采集器分组,为每组日志采集器配置相同的日志采集任务,都可以为每个日志采集器配置到任务标识和对应的任务版本号、以及对应的配置版本号。然后向对应的日志采集器发送配置文件和配置版本号,由日志采集器存储对应的配置版本号,并并加载对应的配置文件,以执行配置文件中限定的日志采集任务。

其中,当对日志采集器分组,为每个分组配置相同的日志采集任务时,按照相同的方式,向分组中的每个日志采集器发送相同的配置文件和配置版本号即可。

进一步可选地,本实施例中,用户在日志采集器的管控平台上配置任务信息时,可以将用户通过管控平台可视化配置的任务信息,转换成日志采集器的配置文件格式的字符串,作为对应日志采集器的配置文件存储至缓存中。

本实施例的日志采集器的管控方法,按照上述方式,通过日志采集器的管控平台,可以智能化地为每个注册的日志采集器配置日志采集任务,并向相应的日志采集器传输送配置文件和配置版本号,以供日志采集器加载配置文件,以执行相应的任务,克服了现有技术中手动配置日志采集任务效率低下的问题,本实施例中,通过智能化地自动在线部署及传输日志采集任务,能够适用于大规模的日志采集场景,有效地提高日志采集任务的配置效率。

进一步可选地,在上述实施例的步骤s102为日志采集器配置配置文件和配置版本号之后,还可以还包括如下步骤:

(a1)根据任务的更新需求,更新任务标识及对应的任务版本号;

(b1)建立任务标识、更新后的任务版本号以及需要执行更新后的配置文件的所述日志采集器所在的主机的标识信息之间的对应关系,并存储在数据库关系表中;和/或将任务标识和更新后的任务版本号对应的配置文件更新在缓存中。

本实施例中的日志采集任务并不是一成不变的,例如,在研发需求的促动下,当需要采集新参数下的日志数据,或者不需要采集日志数据时,都可以对日志采集任务进行更新,由工作人员配置任务的更新需求,具体在任务更新需求中需要标识对应的任务标识,并通过人机接口模块输入至日志采集器的管控平台,此时该日志采集器的管控平台可以根据任务的更新需求,更新任务标识及对应的任务版本号;并基于更新的任务标识及对应的任务版本号,更新需要执行更新后的任务的日志采集器对应的配置文件和配置版本号。这里的更新包括新增任务、删除任务以及修改任务等等,对于新增任务和修改任务,更新对应的任务版本号均可以通过累加1的方式实现。既然任务发生更新,则必有部分日志采集器需要执行更新的配置任务,此时还需要根据用户的配置,确定哪些日志采集器需要执行更新后的任务,并对应更新需要执行更新后的任务的日志采集器对应的配置文件和配置版本号。其中,也包括删除某些任务标识对应的任务,此时可以相当于该任务为空,此时也需要更新执行有该任务的日志采集器的配置文件。进一步地,还需要更新存储在数据库关系表中需要执行更新后的任务的日志采集器对应的对应关系,和/或缓存中对应的配置文件。但是此时,还没有向对应的日志采集器发送对应的配置文件。

图3是根据本申请第二实施例的示意图,详细描述日志采集器的管控方法另一实施例的流程。如图3所示,本实施例的日志采集器的管控方法,在上述图1所示实施例的步骤s103向对应的日志采集器发送任务标识、配置文件和任务版本号之后,具体可以包括如下步骤:

s301、接收日志采集器按照预设周期发送的心跳消息,该心跳消息中携带主机的标识信息以及配置版本号;

可选地,本实施例中心跳消息中还可以携带有日志采集器正在执行的任务的任务标识,或者还可以携带有任务的版本号等信息。

需要说明的是,若日志采集器同时执行多个任务时,心跳消息中可以携带多个任务中每个任务的任务标识及对应的任务版本号。

本实施例中各日志采集器向日志采集器的管控平台发送心跳消息的周期可以为每分钟一次,也可以根据实际需求,设置为其他时长。

s302、根据主机的标识信息,获取本地记录的配置版本号;

例如,在日志采集器的管控平台本地,记录有主机的标识信息和对应的配置版本号的对应关系,根据该主机的标识信息,从而可以获取本地记录的配置版本号。

s303、检测本地记录的配置版本号与心跳消息中携带的配置版本号是否一致;若不一致,执行步骤s304;否则若一致,暂不执行任何操作,结束。

由于日志采集器的管控平台根据任务更新需求,对任务进行更新后,并未及时下发任务的配置文件,因此,在接收到心跳消息后,可以检测同一日志采集器在本地记录的配置版本号与心跳消息中携带的配置版本号是否一致,若一致,表示该日志采集器中不需要更新任务,此时可以暂不执行任何操作。而若不一致,则表示日志采集器中需要更新的任务。

s304、根据主机的标识信息从缓存中获取对应的更新后的配置文件;执行步骤s305;

可选地,若缓存中记录的配置文件失效,此时还可以根据日志采集器的主机的标识信息,从数据库关系表中获取该主机的标识信息对应的所有任务标识及对应的任务版本号,然后基于该主机的标识信息所对应的所有任务的标识及对应的任务版本号,重新生成该日志采集器的配置文件。

s305、向对应的日志采集器发送更新后的配置文件和本地记录的配置版本号,以供日志采集器加载更新后的配置文件,以执行相应的任务。本实施例中,在接收到日志采集器的心跳消息后,检测到该日志采集器有需要更新的配置文件时,从缓存中获取对应的配置文件,并和对应的本地的配置版本号一起发送给日志采集器,以供日志采集器存储配置版本号,便于下次发送心跳消息时使用。同时加载更新后的配置文件,以执行更新后相应的任务。

同理,可选地,在步骤s304之后,步骤s305之前,若日志采集器的管控平台配置的配置文件的格式不能在日志采集器上运行时,此时还需要将配置文件的格式转换为能够在日志采集器上运行的格式,

进一步可选地,本实施例的心跳消息中还携带有各任务的运行指标和/或日志采集器的进程的运行指标;如各任务的运行指标可以包括传输字节数、错误信息等。日志采集器的进程的运行指标可以包括cpu占用率、内存占用率等。此时对应地日志采集器的管控方法,还可以基于心跳消息中的运行指标,执行如下任一操作:

(a2)根据日志采集器连续多次心跳消息中的各任务的运行指标和/或进程的运行指标,绘制可视化指标动态信息;显示可视化指标动态信息;和/或

(b2)根据日志采集器中的各任务的运行指标和/或进程的运行指标,以及预设的报警条件,判断是否需要触发报警;若需要,根据预设的报警方式,发出报警。

本实施例中设置每个日志采集器按照预设的周期如每分钟向日志采集器的管控平台发送一次心跳消息,相应地,日志采集器的管控平台可以获取到日志采集器的每分钟的各任务的运行指标和/或进程的运行指标。然后日志采集器可以将接收到的日志采集器连续一段时间的各任务的运行指标和进程的运行指标分别绘制成表格或者动态图,作为对应的可视化指标动态信息;并可以显示显示可视化指标动态信息,以供工作人员查看,即使了解各日志采集器的运行状态。

进一步地,本实施例中的心跳中包括各任务的运行指标和/或进程的运行指标,实际应用中,还可以利用这些指标设置报警条件,如某个任务的传输字节数达到预设值时发出报警,或者日志采集器的进程的cpu占用率达到预设比例时发出报警等等,日志采集器的管控平台根据心跳中的各任务的运行指标和/或进程的运行指标检测是否满足报警条件,若满足,则发出报警。在配置报警条件时,还可以填写接收报警信息的邮箱和电话号码,这样,在发出报警时,可以向对应的邮箱或者电话号码发出报警信息。

进一步可选地,在上述实施例中,向对应的日志采集器发送配置文件和配置版本号之后,还可以包括:若预设时间长度内未接收到日志采集器发送的心跳消息,发出重启提示消息,以提示用户重启日志采集器。

具体地,可以根据实际需求来配置预设时间长度,例如,该预设时间长度可以取发送心跳消息的周期的两倍或者三倍或者还可以设置为大于心跳周期的其他数值,例如,心跳消息每分钟发送一次时,该预设时间长度可以取5分钟、10分钟或者其他数值。本实施例中,日志采集器的管控平台若在预设时间长度内未接收到日志采集器发送的心跳消息,发出重启提示消息,工作人员看到重启提示消息后,在日志采集器侧重启日志采集器。重启后的日志采集器继续执行之前接收到的配置文件对应的任务,并按照预设的周期向日志采集器的管控平台发送心跳消息。日志采集器的管控平台在接收到心跳消息后,在有更新的任务时,下发更新的配置文件给日志采集器。日志采集器的管控平台和每个日志采集器按照该流程工作,实现对每个日志采集器的管控,保证每个日志采集器执行相应的日志采集任务。整个过程不需要用户在各日志采集器上手动部署配置文件,能够有效地提高日志采集的配置效率。

例如,本实施例中通过上述步骤s102和s103可以实现在日志采集器侧的任务的启动,通过上述步骤(a1)可以实现任务暂停的配置,并在接收到相应日志采集的心跳消息后,发送给日志采集器,以供日志采集器暂停执行任务。因此,本实施例中,日志采集器的管控平台可以灵活地控制日志采集器上的采集任务,实现非常方便。

进一步可选地,本实施例的日志采集器的管控平台还能够接收外部的查询请求,例如,该查询请求可以为用户通过人机接口发送的,该查询请求中可以携带日志采集器所在的主机的标识信息,日志采集器的管控平台可以从数据库关系中查询该主机的标识信息对应的所有任务的标识,以获取主机的标识信息所在的日志采集在执行哪些任务。并展示。进一步从数据库关系中查询该主机的标识信息对应的所有的任务版本号,并展示。或者本实施例的查询请求中可以携带任务标识,此时日志采集器的管控平台可以从数据库关系中查询执行该任务标识的所有日志采集器的主机的标识信息,以获取哪些日志采集执行该任务标识对应的任务。或者本实施例的查询请求中可以携带任务标识以及对应的任务版本号,此时日志采集器的管控平台可以从数据库关系中查询执行该任务标识的该任务版本号的所有日志采集器的主机的标识信息,以获取哪些日志采集执行该任务标识的该任务版本号对应的任务。或者本实施例的查询请求中可以携带日志采集器的分组标识,此时日志采集器的管控平台可以获取该分组标识对应的所有日志采集的主机的标识信息,并展示,以得知该分组标识下都有哪些日志采集器。或者本实施例的查询请求中可以携带其他的标识信息,例如具体可以携带主机的标识信息、任务标识、任务版本号以及分组标识等中的至少一种,来实现信息查询。本实施例的日志采集器的管控平台,能够提供丰富的查询功能,提供任意的日志采集器相关的信息以及任务相关的信息的查询,使用非常方便。

进一步可选地,在本申请的另一个使用场景中,还可以预先在日志采集器的管控平台配置一些任务标识、任务的版本信息等任务信息。在用户维护的多个主机上安装日志采集器时,用户在每个主机配置日志采集器的安装命令时,可以在安装命令后增加一个任务标识列表参数,如taskidlist参数,用于标识该主机上运行的日志采集器要执行的任务的标识信息,本实施例中若同一任务只有一个版本,此时的任务标识信息可以仅包括任务的标识,若同一任务具有多个版本,这里的任务标识信息包括任务的标识和任务版本号。此时该场景中,可以包括如下步骤:

(a3)日志采集器的管控平台接收日志采集器的注册请求,该注册请求中携带任务的标识信息;

(b3)日志采集器的管控平台根据各任务的标识信息生成对应的配置文件;

(c3)日志采集器的管控平台向日志采集器发送对应的配置文件,以供日志采集器加载配置文件,执行相应的任务。

本实施例中,日志采集器在向日志采集器的管控平台发送注册请求时,同时在注册请求中携带任务的标识信息。同理,本实施例中,注册请求中携带的任务的标识信息可以为一个,也可以为两个或者多个。

当然,该场景的方案可以与上述图1和图2方案结合使用,此时,步骤(b3)首次生成该日志采集器的配置文件的同时,还需要对应配置其配置版本号,并在首次向日志采集器发送对应的配置文件的同时,发送给配置版本号。后续还可以继续在日志采集器的管控平台侧为该日志采集器配置任务,按照上述实施例来实现,详细参考上述实施例的记载,在此不再赘述。当然,实际应用中,后续也可以不为该日志采集器配置任务,该日志采集器仅执行安装时的几个设定的任务,在此不做限制。

进一步地,上述实施例的日志采集器的管控方法,能够建立主机的标识信息、任务标识、以及任务版本号之间的对应关系;并存储在数据库关系表中,以便于对日志采集器和其执行的任务进行集中化管理,方便后续的查询和使用。且上述实施例中,还可以将主机的标识信息和对应的配置文件存储在缓存中,以便于后续需要向日志采集器下发配置文件时,能够及时获取到,提高了日志配置文件下发的效率。

进一步地,上述实施例的日志采集器的管控方法,还能够根据任务的更新需求,更新任务标识对应的所述配置文件以及对应的所述任务版本号;并基于更新的任务标识及对应的任务版本号,更新需要执行更新后的任务的日志采集器对应的配置文件和配置版本号,能够针对新更新的任务,及时更新所有相关信息,便于后续的准确使用。

进一步地,上述实施例的日志采集器的管控方法,还能够基于日志采集器的心跳消息,检测是否需要向日志采集器下发更新的配置文件,并在需要时下发,能够保证所有更新的配置文件能够及时准确地下发给日志采集器。

进一步地,上述实施例的日志采集器的管控方法中,还能提供日志采集器的各任务的运行指标和/或进程的运行指标的可视化的动态信息,以可视化地方式展示所有运行指标,能够有效地增强用户的使用体验。而且,上述实施例中,还可以在某些运行指标达到预设报警条件时,发出报警,能够有效地提高使用的安全性。

进一步地,上述实施例的实施例的日志采集器的管控方法中,还能够在预设时间长度内未接收到日志采集器发送的心跳消息,提示重启日志采集器,以在日志采集器出现问题的时候,及时重启日志采集器,对日志采集器的管理效率非常高。

图4是根据本申请第三实施例的示意图,详细描述本申请的日志采集器的管控平台400的结构。如图4所示,本实施例的日志采集器的管控平台400,具体可以包括:

接收模块401用于接收日志采集器发送的注册请求;注册请求中携带日志采集器所在的主机的标识信息;

配置模块402用于为日志采集器配置配置文件和配置版本号;配置文件中包括为日志采集器配置的任务的标识信息;配置版本号用于标识为日志采集器配置的任务的更新次数;

发送模块403用于对应的日志采集器发送配置文件和配置版本号,以供日志采集器加载配置文件,以执行相应的任务。

进一步可选地,本实施例的日志采集器的管控平台400中,配置模块402用于:

为日志采集器配置任务标识和对应的任务版本号;

基于为日志采集器配置的任务标识和对应的任务版本号,生成对应的配置文件;

更新日志采集器的配置版本号。

进一步可选地,本实施例的日志采集器的管控平台400还包括:

建立模块404用于建立主机的标识信息、任务标识、以及任务版本号之间的对应关系;并存储在数据库关系表中;和/或

存储模块405用于将主机的标识信息和对应的配置文件存储在缓存中。

进一步可选地,本实施例的日志采集器的管控平台400还包括更新模块406,用于:

根据任务的更新需求,更新任务标识及对应的任务版本号;

基于更新的任务标识及对应的任务版本号,更新需要执行更新后的任务的日志采集器对应的配置文件和配置版本号;

更新数据库关系表中需要执行更新后的任务的日志采集器对应的对应关系,和/或缓存中对应的所述配置文件。

进一步可选地,本实施例的日志采集器的管控平台400还包括获取模块407和检测模块408;

接收模块401用于接收日志采集器按照预设周期发送的心跳消息,心跳消息中携带主机的标识信息以及配置版本号;

获取模块407用于根据主机的标识信息,获取本地记录的配置版本号;

检测模块408用于检测本地记录的配置版本号与心跳消息中携带的配置版本号是否一致;

获取模块407还用于若不一致,根据主机的标识信息从缓存中获取对应的更新后的配置文件;可选地,若缓存中数据失效,还可以根据对应关系,获取该主机的标识信息对应的所有任务标识和任务版本号,生成配置文件;

发送模块403用于向对应的日志采集器发送更新后的配置文件和本地记录的配置版本号,以供日志采集器加载更新后的配置文件,以执行相应的任务。

进一步可选地,本实施例的日志采集器的管控平台400中,心跳消息中还携带有各任务的运行指标和/或日志采集器的进程的运行指标;此时本实施例的日志采集器的管控平台400还包括:

绘制模块409用于根据日志采集器连续多次心跳消息中的各任务的运行指标和/或进程的运行指标,绘制可视化指标动态信息;

显示模块410用于显示可视化指标动态信息;

和/或本实施例的日志采集器的管控平台400还包括:

报警处理模块411用于根据日志采集器中的各任务的运行指标和/或进程的运行指标,以及预设的报警条件,判断是否需要触发报警;若需要,根据预设的报警方式,发出报警。

进一步可选地,本实施例的日志采集器的管控平台400中,还包括:

重启提示模块412用于若预设时间长度内未接收到日志采集器发送的心跳消息,发出重启提示消息,以提示用户重启日志采集器。

需要说明的是,图4所述实施例中以包括上述所有可选方案为例来描述本发明的技术方案。实际应用中,上述所有可选方案可以以可以结合的方式,任意组合形成本申请的可选方案,在此不再张一一举例赘述。

本实施例的日志采集器的管控平台400,通过采用上述模块实现日志采集器的管控的实现原理以及技术效果与上述相关方法实施例相同,详细可以参考上述相关方法实施例的记载,在此不再赘述。

根据本申请的实施例,本申请还提供了一种电子设备和一种可读存储介质。

如图5所示,是根据本申请实施例的日志采集器的管控方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本申请的实现。

如图5所示,该电子设备包括:一个或多个处理器501、存储器502,以及用于连接各部件的接口,包括高速接口和低速接口。各个部件利用不同的总线互相连接,并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理,包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如,耦合至接口的显示设备)上显示gui的图形信息的指令。在其它实施方式中,若需要,可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样,可以连接多个电子设备,各个设备提供部分必要的操作(例如,作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图5中以一个处理器501为例。

存储器502即为本申请所提供的非瞬时计算机可读存储介质。其中,所述存储器存储有可由至少一个处理器执行的指令,以使所述至少一个处理器执行本申请所提供的日志采集器的管控方法。本申请的非瞬时计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行本申请所提供的日志采集器的管控方法。

存储器502作为一种非瞬时计算机可读存储介质,可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块,如本申请实施例中的日志采集器的管控方法对应的程序指令/模块(例如,附图4所示的接收模块401、配置模块402和发送模块403)。处理器y01通过运行存储在存储器502中的非瞬时软件程序、指令以及模块,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例中的日志采集器的管控方法。

存储器502可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储根据日志采集器的管控的电子设备的使用所创建的数据等。此外,存储器502可以包括高速随机存取存储器,还可以包括非瞬时存储器,例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中,存储器502可选包括相对于处理器501远程设置的存储器,这些远程存储器可以通过网络连接至日志采集器的管控的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。

日志采集器的管控方法的电子设备还可以包括:输入装置503和输出装置504。处理器501、存储器502、输入装置503和输出装置504可以通过总线或者其他方式连接,图5中以通过总线连接为例。

输入装置503可接收输入的数字或字符信息,以及产生与日志采集器的管控的电子设备的用户设置以及功能控制有关的键信号输入,例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置504可以包括显示设备、辅助照明装置(例如,led)和触觉反馈装置(例如,振动电机)等。该显示设备可以包括但不限于,液晶显示器(lcd)、发光二极管(led)显示器和等离子体显示器。在一些实施方式中,显示设备可以是触摸屏。

此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用asic(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令,并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的,术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如,磁盘、光盘、存储器、可编程逻辑装置(pld)),包括,接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。

为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,crt(阴极射线管)或者lcd(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(lan)、广域网(wan)和互联网。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。

根据本申请实施例的技术方案,通过日志采集器的管控平台,可以智能化地为每个注册的日志采集器配置日志采集任务,并向相应的日志采集器传输送配置文件和配置版本号,以供日志采集器加载配置文件,以执行相应的任务,克服了现有技术中手动配置日志采集任务效率低下的问题,本申请中,通过智能化地自动在线部署及传输日志采集任务,能够适用于大规模的日志采集场景,有效地提高日志采集任务的配置效率。

进一步地,本申请实施例的技术方案,能够建立主机的标识信息、任务标识、以及任务版本号之间的对应关系;并存储在数据库关系表中,以便于对日志采集器和其执行的任务进行集中化管理,方便后续的查询和使用。且上述实施例中,还可以将主机的标识信息和对应的配置文件存储在缓存中,以便于后续需要向日志采集器下发配置文件时,能够及时获取到,提高了日志配置文件下发的效率。

进一步地,本申请实施例的技术方案,还能够根据任务的更新需求,更新任务标识对应的所述配置文件以及对应的所述任务版本号;并基于更新的任务标识及对应的任务版本号,更新需要执行更新后的任务的日志采集器对应的配置文件和配置版本号,能够针对新更新的任务,及时更新所有相关信息,便于后续的准确使用。

进一步地,本申请实施例的技术方案,还能够基于日志采集器的心跳消息,检测是否需要向日志采集器下发更新的配置文件,并在需要时下发,能够保证所有更新的配置文件能够及时准确地下发给日志采集器。

进一步地,本申请实施例的技术方案,还能提供日志采集器的各任务的运行指标和/或进程的运行指标的可视化的动态信息,以可视化地方式展示所有运行指标,能够有效地增强用户的使用体验。而且,上述实施例中,还可以在某些运行指标达到预设报警条件时,发出报警,能够有效地提高使用的安全性。

进一步地,本申请实施例的技术方案,还能够在预设时间长度内未接收到日志采集器发送的心跳消息,提示重启日志采集器,以在日志采集器出现问题的时候,及时重启日志采集器,对日志采集器的管理效率非常高。

应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本申请公开的技术方案所期望的结果,本文在此不进行限制。

上述具体实施方式,并不构成对本申请保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等,均应包含在本申请保护范围之内。

当前第1页1 2 3 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1