一种指标数据获取方法及装置与流程

文档序号:20768660发布日期:2020-05-15 19:21阅读:277来源:国知局
一种指标数据获取方法及装置与流程

本申请涉及数据处理技术领域,特别是涉及一种指标数据获取方法及装置。



背景技术:

在日常的工作和生活中,经常需要从不同数据源中获取业务数据并在终端进行展现,以帮助用户更直观地了解业务数据的价值,以及帮助企业进行风险预警等。但是,目前还没有将数据源中的业务数据获取到终端进行展现的方法,因此,本领域急需一种从数据源端到可视化展示终端的指标数据获取方法。



技术实现要素:

有鉴于此,本申请提供了一种指标数据获取方法及装置,用以将数据源端的指标数据获取到终端进行展示,该方案如下:

一种指标数据获取方法,包括:

获取数据源的接口地址和指标标识,指标标识为数据源产生的指标数据的标识;

从数据源的接口地址获取指标标识对应的指标数据,并将指标数据添加至预设的指标库中;

接收来自终端的指标数据获取请求,其中,指标数据获取请求中包含目标指标标识,目标指标标识为指标数据获取请求所请求的指标数据对应的标识;

从指标库获取目标指标标识对应的目标指标数据;

将目标指标数据发送至终端进行展示。

优选地,将指标数据添加至预设的指标库中,包括:

按指标库的数据格式标准,将指标数据处理成满足数据格式标准的指标数据,并将处理后的指标数据存储至指标库中。

优选地,还包括:

在获取到目标指标标识对应的目标指标数据,将目标指标标识对应的目标指标数据处理成满足终端展示需求的指标数据,将处理后的指标数据作为目标指标数据。

优选地,从数据源的接口地址获取指标标识对应的指标数据,包括:

根据数据源的接口地址,从存储的数据源服务目录信息中获取数据源对应的数据更新频率;

按与数据源对应的数据更新频率匹配的数据采集频率从数据源采集指标标识对应的指标数据。

优选地,指标标识为多个,每个指标标识对应一个数据源;

从数据源的接口地址获取指标标识对应的指标数据,包括:

采用多个数据采集器从多个指标标识分别对应的数据源采集指标标识对应的指标数据,其中,每个数据采集器采集至少一个数据源的指标数据。

一种指标数据获取装置,包括:信息获取模块、指标数据获取模块、接收模块、目标指标数据获取模块和发送模块;

信息获取模块,用于获取数据源的接口地址和指标标识,指标标识为数据源产生的指标数据的标识;

指标数据获取模块,用于从数据源的接口地址获取指标标识对应的指标数据,并将指标数据添加至预设的指标库中;

接收模块,用于接收来自终端的指标数据获取请求,其中,指标数据获取请求中包含目标指标标识,目标指标标识为指标数据获取请求所请求的指标数据对应的标识;

目标指标数据获取模块,用于从指标库获取目标指标标识对应的目标指标数据;

发送模块,用于将目标指标数据发送至终端进行展示。

优选地,指标数据获取模块在将指标数据添加至预设的指标库中时具体用于:按指标库的数据格式标准,将指标数据处理成满足数据格式标准的指标数据,并将处理后的指标数据存储至指标库中。

优选地,还包括:处理模块;

处理模块,用于在获取到目标指标标识对应的目标指标数据,将目标指标标识对应的目标指标数据处理成满足终端展示需求的指标数据,将处理后的指标数据作为目标指标数据。

优选地,指标数据获取模块,包括:数据更新频率获取单元和指标数据采集单元;

数据更新频率获取单元,用于根据数据源的接口地址,从存储的数据源服务目录信息中获取数据源对应的数据更新频率;

指标数据采集单元,用于按与数据源对应的数据更新频率匹配的数据采集频率从数据源采集指标标识对应的指标数据。

优选地,指标标识为多个,每个指标标识对应一个数据源;

指标数据获取模块具体用于:采用多个数据采集器从多个指标标识分别对应的数据源采集指标标识对应的指标数据,其中,每个数据采集器采集至少一个数据源的指标数据。

经由上述的技术方案可知,本申请提供的指标数据获取方法,能够从数据源的接口地址获取指标标识对应的指标数据并存入预设的指标库,进而基于来自终端的指标数据获取请求中的目标指标标识,从指标库中获取目标指标标识对应的目标指标数据,并将目标指标数据发送至终端进行展示。本申请能够将数据源产生的指标数据获取至指标库中,并将指标库中目标指标标识对应的目标指标数据发送至终端进行展示,使得用户能够更直观地了解数据源产生的指标数据,用户体验更好。

附图说明

为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。

图1为本申请实施例提供的一种指标数据获取方法流程图;

图2为本申请实施例提供的一种指标数据获取装置的结构示意图;

图3为本申请实施例提供的一种指标数据获取设备的硬件结构框图。

具体实施方式

下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。

本申请实施例提供了一种指标数据获取方法及装置。其中,指标数据获取装置可运行于后台服务器/平台中。

运行于后台服务器/平台中的指标数据获取装置可为服务器/平台的功能模块或组件。上述后台服务器或平台可以是一台服务器,也可以是由若干台服务器组成的服务器集群,或者是一个云计算服务中心。

本申请实施例提供的指标数据获取方法可以应用于具有数据处理能力的应用服务器。接下来,对本申请实施例提供的指标数据获取方法进行介绍。

请参阅图1,示出了一种指标数据获取方法的流程示意图,该方法可以包括:

步骤s100、获取数据源的接口地址和指标标识。

其中,指标标识为数据源产生的指标数据的标识。

可选的,应用服务器可以在后端接入多种数据源,并将配置好的各数据源的接口地址预先存储至该应用服务器中。此外,本申请实施例还可以在应用服务器中预先存储数据源与指标配置信息的对应关系。

上述指标配置信息可以包括指标名称、指标标识、指标类型和指标组。当然,根据实际需要,指标配置信息还可以为其他。

基于此,一种较优的方案中,可以预先存储数据源与指标标识的对应关系,例如,数据源1对应指标a,数据源2对应指标b和c,数据源3对应指标d。从而本步骤可以获取应用服务器中预先存储的数据源的接口地址以及各数据源分别产生的指标数据的标识。这里,指标数据可以为数据源产生的业务数据。示例性的,指标数据为系统1对应的交易量数据(指标标识为指标a)或成功率数据(指标标识为指标b)等。

上述数据源产生的指标数据从不同层面来讲属于不同的指标数据。其中,从部署层面来说,数据源产生的指标数据为多云部署数据,那么数据源为多云部署数据源,例如私有云的业务系统、公有云的生产系统、互联网、数据集成平台等;从数据本身的层面来说,数据源产生的指标数据为异构数据,那么数据源为异构数据源,例如关系型数据库、非关系型数据库、文本文件、实时数据流、数据查询接口等。

根据生产系统中的数据更新频率,上述异构数据还可以进一步划分为实时增量数据、定时增量数据、批量数据以及全量更新数据等。

步骤s110、从数据源的接口地址获取指标标识对应的指标数据,并将指标数据添加至预设的指标库中。

按照获取指标数据的方式划分,数据源产生的指标数据可以包括联机业务数据和批量业务数据。其中,联机业务数据可以通过联机接口获取,批量业务数据可以通过nft(一种数据传输组件)获取。这里,批量业务数据为诸如报表类数据文件等规模较大的数据。

从数据源的接口地址获取指标标识对应的指标数据后,可以将获取的指标数据添加至预设的指标库中。这里,预设指标库后,该指标库可以用于存储数据源产生的指标数据,其中,指标库中存储的指标数据为基于终端展示需求实时获取的。

上述“实时”是指基于终端展示需求,指标库中至少部分指标数据以设定频率实时更新,例如设定频率为5秒,则每隔5秒,指标库中存储的交易量数据将发生更新,示例性的,第1秒交易量数据为100万,第6秒交易量数据为120万,第11秒交易量数据为130万。

需要说明的是,针对不同指标库中的不同指标,设定频率可以相同可以不同。

还需要说明的是,在获取指标数据时,需要数据源端明确指标数据的字段、含义、更新周期及准备期限等信息,从而获取的指标数据可以分类存储至指标库,例如以不同的机构层面、业务层面、渠道层面等分类存储指标数据。

步骤s120、接收来自终端的指标数据获取请求。

其中,指标数据获取请求中包含目标指标标识,目标指标标识为指标数据获取请求所请求的指标数据对应的标识。

终端需要展示指标数据时,可以将指标数据获取请求发送至应用服务器。这里,指标数据获取请求可以为url(uniformresourcelocator,统一资源定位符)地址,目标指标标识可以作为一个参数传入url地址中。

上述url地址为应用服务器的地址,从而终端可以从该url地址对应的应用服务器获取指标数据并展示。

需要说明的是,一个指标数据获取请求可以对应有一个或多个目标指标标识。

步骤s130、从指标库获取目标指标标识对应的目标指标数据。

本申请实施例中,目标指标标识对应的目标指标数据为指标库中已经存储的指标数据,从而本步骤可以从指标库获取到目标指标标识对应的目标指标数据。

若终端需要展示的指标数据是未在指标库存储的指标数据,例如终端需要展示指标b对应的指标数据,而指标库中未存储该指标b对应的指标数据,则需要步骤s100在后端接入指标b对应数据源,并在应用服务器预先配置好指标b对应数据源的接口地址,从而终端再发送包含指标b的指标数据获取请求,以从指标库获取指标b对应的目标指标数据。

需要说明的是,本步骤从指标库获取目标指标数据的频率可以等于或慢于步骤s110从数据源获取指标数据并添加至指标库的频率。

步骤s140、将目标指标数据发送至终端进行展示。

可选的,终端可以通过直连取数的方式得到目标指标数据,还可以通过代理取数的方式得到目标指标数据。这里,直连取数是指通过应用服务器的接口获取目标指标数据,代理取数是指预先在终端所在服务器安装代理程序,通过查询应用服务器的接口将指标数据存储至终端所在服务器的本地数据库,从而终端可以从本地数据库获取指标数据并展示。

需要说明的是,上述步骤s100-步骤s110与步骤s120-步骤s140之间可以是同步进行的,即应用服务器从后端数据源端获取指标数据的同时,还可以响应终端的指标数据获取请求,并发送目标指标数据至终端。

本申请提供的指标数据获取方法,能够从数据源的接口地址获取指标标识对应的指标数据并存入预设的指标库,进而基于来自终端的指标数据获取请求中的目标指标标识,从指标库中获取目标指标标识对应的目标指标数据,并将目标指标数据发送至终端进行展示。本申请能够将数据源产生的指标数据获取至指标库中,并将指标库中目标指标标识对应的目标指标数据发送至终端进行展示,使得用户能够更直观地了解数据源产生的指标数据,用户体验更好。

本申请的一个实施例,对步骤s110,将指标数据添加至预设的指标库中的过程进行说明。

应当理解,从数据源获取的指标标识对应的指标数据的格式、数据量大小等不统一,例如从数据源获取的指标a对应的交易量数据对应的报文较长,而从数据源获取的指标b对应的成功率数据对应的报文较短,若将不统一的各指标数据均存入指标库,将不便于指标库对指标数据进行统一管理。

基于此,可以在将指标数据添加至预设的指标库之前,按指标库的数据格式标准,将获取的指标数据处理成满足数据格式标准的指标数据,并将处理后的指标数据存储至指标库中。

可选的,数据格式标准可以根据实际情况确定。本申请实施例提供了三种数据格式标准,但是并不限于该三种数据格式标准。

第一种:若获取的指标数据对应的数据报文较长(即数据报文的数据量较大),则通过过滤、屏蔽或裁剪的方式得到设定长度的数据报文。

第二种:若获取的指标数据不符合存入指标库的设定格式标准,则需要将不符合存入指标库的设定格式标准的指标数据处理为符合设定格式标准的指标数据。例如获取的指标数据为嵌套多层的数组,则可以将该嵌套多层的数组处理为符合设定格式标准的一维数组、二维数组或多维数组。

第三种:数据格式标准为上述第一种和第二种的组合,即从数据源获取的指标数据在存入指标库前需要进行上述第一种和第二种处理。

本实施例中,在将指标数据添加至预设的指标库之前,将指标数据处理成满足数据格式标准的指标数据,便于指标库对从数据源获取的指标数据进行统一管理。

考虑到从指标库获取的目标指标数据需要满足终端的展示需求才可以进行展示,并且在终端展示目标指标数据时,同一个画面上目标指标数据的展示粒度、单位等保持一致才可以进行展示对比。

基于此,在步骤s130,从指标库获取目标指标标识对应的目标指标数据之后,还可以将目标指标标识对应的目标指标数据处理成满足终端展示需求的指标数据,并将处理后的指标数据作为目标指标数据,从而在步骤s140可以将目标指标数据(处理后的指标数据)发送至终端进行展示。

可选的,本实施例中对目标指标标识对应的目标指标数据进行处理的方式可以有多种,这里提供但不限于以下四种。

第一种:若终端需要将多个指标数据进行组合展示,则对目标指标标识对应的目标指标数据进行多指标组合。例如,若终端需要展示系统1的交易量数据和成功率数据,则在分别获取系统1的交易量数据、系统1的成功率数据后,可以将其进行组合,得到系统1的交易量数据和成功率数据。

第二种:若终端需要对指标数据进行数学计算后展示,则对目标指标标识对应的目标指标数据进行数学计算,例如加、减、乘和除。

第三种:根据终端对展示目标指标数据的刷新频率的需求,对目标指标标识对应的目标指标数据进行伪实时处理。例如,10分钟获取一个目标指标数据,但是终端想要一分钟刷新一次目标指标数据,那么可以对获取的目标指标数据进行伪实时处理,从而终端可以更加动态地展示目标指标数据。

第四种:对目标指标标识对应的目标指标数据进行手工修正。

本实施例中,将目标指标标识对应的目标指标数据处理成满足终端展示需求的指标数据,即本实施例能够根据用户意图处理目标指标数据,用户体验更好,并且本实施例还可以在终端展示目标指标数据时,将同一个画面上的目标指标数据的展示粒度、单位等保持一致,便于进行展示对比。

以下对步骤s110,从数据源的接口地址获取指标标识对应的指标数据的过程进行说明。

在一可选实施例中,可以在应用服务器预先存储数据源服务目录信息,该数据源服务目录信息可以包括数据源的基本信息,该数据源的基本信息至少包括步骤s100中提及的数据源的接口地址和数据源对应的数据更新频率。可选的,数据源的基本信息还可以包括:数据源名称、数据源类型数据源编码、数据源使用范围、数据源参数和数据源模式等信息。

基于此,步骤s110,从数据源的接口地址获取指标标识对应的指标数据的过程可以包括:

s1、根据数据源的接口地址,从存储的数据源服务目录信息中获取数据源对应的数据更新频率。

数据源服务目录信息中数据源的接口地址和数据源对应的数据更新频率存在对应关系,那么本步骤可以根据数据源的接口地址,从数据源服务目录信息中获取数据源对应的数据更新频率。

s2、按与数据源对应的数据更新频率匹配的数据采集频率从数据源采集指标标识对应的指标数据。

可选的,数据采集频率可以与数据源对应的数据更新频率相同,也可以不同。

可选的,可以通过数据采集器从数据源采集指标标识对应的指标数据。

在一可选实施例中,若步骤s110从数据源的接口地址获取指标标识对应的指标数据时,指标标识为多个,且每个指标标识对应一个数据源,即指标标识与数据源一一对应,那么可以采用一个数据采集器逐一采集每个指标标识对应的指标数据,还可以采用多个数据采集器并行采集多个指标标识分别对应的指标数据。

需要说明的是,针对数据采集器的个数为多个的情况,若数据采集器的个数与指标标识的个数相同,那么一个数据采集器采集一个指标标识对应的指标数据,即一个数据采集器采集一个数据源的指标数据;若数据采集器的个数小于指标标识的个数,那么至少存在一个数据采集器需要采集至少两个指标标识对应的指标数据,即至少存在一个数据采集器采集至少两个数据源的指标数据。

本领域技术人员应当理解,数据源在实时产生指标数据的过程中,可能会定时清理指标数据,例如数据源1每5年清理一次指标数据,那么2019年时数据源1中不会存储2000年的指标数据。

在一可选实施例中,若终端需要展示的指标数据是数据源中被清理的指标数据,且该被清理的指标数据已在本地数据库存储,那么可以通过手动导入的方式,将本地数据库的被清理的指标数据导入至指标库中,进而终端可以从指标库获取该被清理的指标数据。仍以上述示例为例,若终端需要展示上述数据源1在2000年产生的交易量数据,且在本地数据库存储了该数据源1在2000年时产生的交易量数据,那么可以将本地数据库中数据源1对应的2000年的交易量数据导入指标库中,进而终端可以从指标库获取数据源1在2000年产生的交易量数据。

本申请实施例还提供了一种指标数据获取装置,下面对本申请实施例提供的指标数据获取装置进行描述,下文描述的指标数据获取装置与上文描述的指标数据获取方法可相互对应参照。

请参阅图2,示出了本申请实施例提供的指标数据获取装置的结构示意图,如图2所示,该指标数据获取装置可以包括:信息获取模块201、指标数据获取模块202、接收模块203、目标指标数据获取模块204和发送模块205。

信息获取模块201,用于获取数据源的接口地址和指标标识,指标标识为数据源产生的指标数据的标识。

指标数据获取模块202,用于从数据源的接口地址获取指标标识对应的指标数据,并将指标数据添加至预设的指标库中。

接收模块203,用于接收来自终端的指标数据获取请求。

其中,指标数据获取请求中包含目标指标标识,目标指标标识为指标数据获取请求所请求的指标数据对应的标识。

目标指标数据获取模块204,用于从指标库获取目标指标标识对应的目标指标数据。

发送模块205,用于将目标指标数据发送至终端进行展示。

本申请提供的指标数据获取装置,能够从数据源的接口地址获取指标标识对应的指标数据并存入预设的指标库,进而基于来自终端的指标数据获取请求中的目标指标标识,从指标库中获取目标指标标识对应的目标指标数据,并将目标指标数据发送至终端进行展示。本申请能够将数据源产生的指标数据获取至指标库中,并将指标库中目标指标标识对应的目标指标数据发送至终端进行展示,使得用户能够更直观地了解数据源产生的指标数据,用户体验更好。

在一种可能的实现方式中,上述指标数据获取模块在将指标数据添加至预设的指标库中时具体用于:按指标库的数据格式标准,将指标数据处理成满足数据格式标准的指标数据,并将处理后的指标数据存储至指标库中。

在一种可能的实现方式中,本申请实施例提供的指标数据获取装置还可以包括:处理模块。

处理模块,用于在获取到目标指标标识对应的目标指标数据,将目标指标标识对应的目标指标数据处理成满足终端展示需求的指标数据,将处理后的指标数据作为目标指标数据。

在一种可能的实现方式中,上述指标数据获取模块可以包括:数据更新频率获取单元和指标数据采集单元。

数据更新频率获取单元,用于根据数据源的接口地址,从存储的数据源服务目录信息中获取数据源对应的数据更新频率。

指标数据采集单元,用于按与数据源对应的数据更新频率匹配的数据采集频率从数据源采集指标标识对应的指标数据。

在一种可能的实现方式中,上述指标标识为多个,每个指标标识对应一个数据源。

上述指标数据获取模块具体用于:采用多个数据采集器从多个指标标识分别对应的数据源采集指标标识对应的指标数据,其中,每个数据采集器采集至少一个数据源的指标数据。

本申请实施例还提供了一种指标数据获取设备,请参阅图3,示出了该指标数据获取设备的硬件结构框图,该指标数据获取设备的硬件结构可以包括:至少一个处理器301,至少一个通信接口302,至少一个存储器303和至少一个通信总线304;

在本申请实施例中,处理器301、通信接口302、存储器303、通信总线304的数量为至少一个,且处理器301、通信接口302、存储器303通过通信总线304完成相互间的通信;

处理器301可能是一个中央处理器cpu,或者是特定集成电路asic(applicationspecificintegratedcircuit),或者是被配置成实施本发明实施例的一个或多个集成电路等;

存储器303可能包含高速ram存储器,也可能还包括非易失性存储器(non-volatilememory)等,例如至少一个磁盘存储器;

其中,存储器303存储有程序,处理器301可调用存储器303存储的程序,所述程序用于:

获取数据源的接口地址和指标标识,指标标识为数据源产生的指标数据的标识;

从数据源的接口地址获取指标标识对应的指标数据,并将指标数据添加至预设的指标库中;

接收来自终端的指标数据获取请求,其中,指标数据获取请求中包含目标指标标识,目标指标标识为指标数据获取请求所请求的指标数据对应的标识;

从指标库获取目标指标标识对应的目标指标数据;

将目标指标数据发送至终端进行展示。

可选的,所述程序的细化功能和扩展功能可参照上文描述。

本申请实施例还提供一种可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时,实现如上述指标数据获取方法。

最后,还需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可。

对所公开的实施例的上述说明,使本领域专业技术人员能够实现或使用本申请。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本申请的精神或范围的情况下,在其它实施例中实现。因此,本申请将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1