一种数据获取方法和装置与流程

文档序号:31748433发布日期:2022-10-11 18:22阅读:79来源:国知局
一种数据获取方法和装置与流程

1.本发明涉及数据处理技术领域,特别是涉及一种数据获取方法和一种数据获取装置。


背景技术:

2.现有技术中,在企业需要生成数据报表时,通常可以向多个不同的数据平台获取数据。例如,在需要了解企业仓储资源信息时,可以向企业资源系统(erp,enterprise resourceplanning)获取仓储资源信息。在需要了解企业财务信息时,可以向企业财务系统获取企业财务信息。对于需要不同企业相互协同,例如,集团获取下属所有企业的财务信息,若干企业互相分享特定数据等情况下,则还可能涉及向较多不同系统获取数据的情况。通常来说,不同数据平台可以具有不同的数据获取方式,为了获取不同数据平台的数据,需要针对不同数据平台配置数据获取信息。在需要为多个不同企业配置数据获取信息的情况下,配置过程较为复杂,需要花费较多时间。


技术实现要素:

3.鉴于上述问题,提出了本发明实施例以便提供一种克服上述问题或者至少部分地解决上述问题的一种数据获取方法和一种数据获取装置。
4.为了解决上述问题,本发明实施例公开了一种数据获取方法,其应用于数据调用平台,所述方法包括:
5.接收数据调用方的第一数据获取请求;所述第一数据获取请求包括项目信息;
6.根据所述项目信息,在至少一个预设的数据平台中,查找存储有所述数据调用方所要调用数据的目标数据平台;
7.根据所述项目信息以及预先存储的所述目标数据平台的数据获取格式,生成第二数据获取请求;
8.采用所述第二数据获取请求,向所述目标数据平台调取所述项目信息对应的目标数据;
9.向所述数据调用方发送所述目标数据。
10.可选地,所述根据所述项目信息,在至少一个预设的数据平台中,查找存储有所述数据调用方所要调用数据的目标数据平台的步骤,包括:
11.在预设的数据项清单存储的数据平台信息中,查找所述项目信息对应的目标平台信息;
12.将所述目标平台信息对应的数据平台,作为存储有所述数据调用方所要调用数据的目标数据平台。
13.可选地,所述在预设的数据项清单存储的数据平台信息中,查找所述项目信息对应的目标平台信息的步骤,包括:
14.识别所述项目信息是否为标准化项目信息;
15.若所述项目信息不为标准化项目信息,将所述项目信息转换为含义相同的标准化项目信息;
16.在预设的数据项清单存储的数据平台信息中,查找所述标准化项目信息对应的目标平台信息。
17.可选地,所述向所述数据调用方发送目标数据的步骤,包括:
18.若所述目标数据来自至少两个目标数据平台,将所述目标数据转换为标准化目标数据;
19.检测所述标准化目标数据中是否存在重复数据;
20.若存在重复数据,删除所述标准化目标数据中的重复数据;
21.向所述数据调用方发送所述标准化目标数据。
22.可选地,所述向所述数据调用方发送目标数据的步骤,包括:
23.采用预设的数据项清单,确定所述项目信息对应的目标数据是否为敏感数据;
24.在所述目标数据为敏感数据的情况下,采用所述数据项清单存储的脱敏规则,对所述目标数据进行脱敏处理,生成脱敏数据;
25.向所述数据调用方发送所述脱敏数据。
26.可选地,所述方法还包括:
27.采用预设周期,检测所述目标数据平台是否更新数据;
28.若所述目标数据平台更新数据,采用所述第二数据获取请求,在所述目标数据平台的更新数据中,获取所述目标更新数据。
29.可选地,所述方法还包括:
30.提取所述数据平台中的数据库名称、数据表名称、数据表字段名称中的至少一种,生成数据项清单。
31.本发明实施例还公开了一种数据获取装置,其应用于数据调用平台,所述装置包括:
32.请求接收模块,用于接收数据调用方的第一数据获取请求;所述第一数据获取请求包括项目信息;
33.平台查找模块,用于根据所述项目信息,在至少一个预设的数据平台中,查找存储有所述数据调用方所要调用数据的目标数据平台;
34.请求生成模块,用于根据所述项目信息以及预先存储的所述目标数据平台的数据获取格式,生成第二数据获取请求;
35.数据获取模块,用于采用所述第二数据获取请求,向所述目标数据平台调取所述项目信息对应的目标数据;
36.发送模块,用于向所述数据调用方发送所述目标数据。
37.可选地,所述平台查找模块包括:
38.平台信息查找子模块,用于在预设的数据项清单存储的数据平台信息中,查找所述项目信息对应的目标平台信息;
39.平台确定子模块,用于将所述目标平台信息对应的数据平台,作为存储有所述数据调用方所要调用数据的目标数据平台。
40.可选地,所述平台信息查找子模块包括:
41.信息识别单元,用于识别所述项目信息是否为标准化项目信息;
42.转换单元,用于若所述项目信息不为标准化项目信息,将所述项目信息转换为含义相同的标准化项目信息;
43.平台信息查找单元,用于在预设的数据项清单存储的数据平台信息中,查找所述标准化项目信息对应的目标平台信息。
44.可选地,所述发送模块包括:
45.数据转换子模块,用于若所述目标数据来自至少两个目标数据平台,将所述目标数据转换为标准化目标数据;
46.重复检测子模块,用于检测所述标准化目标数据中是否存在重复数据;
47.删除子模块,用于若存在重复数据,删除所述标准化目标数据中的重复数据;
48.第一发送子模块,用于向所述数据调用方发送所述标准化目标数据。
49.可选地,所述发送模块包括:
50.敏感数据确定自模块,用于采用预设的数据项清单,确定所述项目信息对应的目标数据是否为敏感数据;
51.脱敏子模块,用于在所述目标数据为敏感数据的情况下,采用所述数据项清单存储的脱敏规则,对所述目标数据进行脱敏处理,生成脱敏数据;
52.第二发送子模块,用于向所述数据调用方发送所述脱敏数据。
53.可选地,所述装置还包括:
54.更新检测模块,用于采用预设周期,检测所述目标数据平台是否更新数据;
55.更新数据获取模块,用于若所述目标数据平台更新数据,采用所述第二数据获取请求,在所述目标数据平台的更新数据中,获取所述目标更新数据。
56.可选地,所述装置还包括:
57.清单生成模块,用于提取所述数据平台中的数据库名称、数据表名称、数据表字段名称中的至少一种,生成数据项清单。
58.本发明实施例还公开了一种电子设备,包括:
59.一个或多个处理器;和
60.其上存储有指令的一个或多个机器可读介质,当由所述一个或多个处理器执行时,使得所述电子设备执行如本发明实施例所述的一个或多个的方法。
61.本发明实施例还公开了一个或多个机器可读介质,其上存储有指令,当由一个或多个处理器执行时,使得所述处理器执行如本发明实施例所述的一个或多个的方法。
62.本发明实施例包括以下优点:
63.通过本发明实施例的数据获取方法,接收数据调用方的第一数据获取请求;所述第一数据获取请求包括项目信息;根据所述项目信息,在至少一个预设的数据平台中,查找存储有所述数据调用方所要调用数据的目标数据平台;根据所述项目信息以及预先存储的所述目标数据平台的数据获取格式,生成第二数据获取请求;采用所述第二数据获取请求,向所述目标数据平台调取所述项目信息对应的目标数据;向所述数据调用方发送所述目标数据。从而可以通过数据调用平台根据所述第一数据获取请求中的项目信息,为所述数据调用方生成满足目标数据平台要求的第二数据获取请求,向数据平台获取目标数据,数据调用方无需针对不同的数据平台调整数据获取方式,而可以采用统一的数据获取方式获取
多个不同数据平台的数据,有效地提高了数据获取的效率,且配置方式简便。
附图说明
64.图1是本发明的一种数据获取方法实施例的步骤流程图;
65.图2是本发明的另一种数据获取方法实施例的步骤流程图;
66.图3是本发明的一种数据项清单的示意图;
67.图4是本发明实施例的一种数据项清单列表的示意图;
68.图5是本发明实施例的一种数据项清单集合列表的示意图;
69.图6是本发明的一种数据获取装置实施例的结构框图。
具体实施方式
70.为使本发明的上述目的、特征和优点能够更加明显易懂,下面结合附图和具体实施方式对本发明作进一步详细的说明。
71.本发明实施例的核心构思之一在于,针对数据平台数量较多且需要配置数据获取信息的数据调用方较多的情况下,通过设置一数据调用平台,并通过数据调用平台为多个数据调用方同时提供数据调用服务,从而数据调用方可以无需分别为不同的数据平台分别配置不同的数据获取方式,而可以只发送第一数据获取请求,由所述数据调用平台完成对目标数据平台的确定,并根据目标数据平台的数据获取格式,生成满足目标数据平台要求的数据获取请求,向目标数据平台获取目标数据,并向用户返回所述目标数据,有效地提高了数据获取的效率。
72.参照图1,示出了本发明的一种数据获取方法实施例的步骤流程图,具体可以包括如下步骤:
73.步骤101,接收数据调用方的第一数据获取请求;所述第一数据获取请求包括项目信息;
74.在本发明实施例中,可以设置一数据调用平台。所述数据调用平台可以用于向至少一个数据平台调取数据。由此,在所述数据调用需要向数据平台获取数据时,可以向所述数据调用平台发送第一数据获取请求。从而所述数据调用平台可以接收所述数据调用方的第一数据获取请求。
75.其中,所述第一数据获取请求可以包括至少一个项目信息。所述项目信息可以用于指定所述数据调用方所需要获取的数据。具体地,所述项目信息可以包含数据的类型信息、数据对应的关键字段信息、数据对应的时间范围信息等,本发明对此不做限制。
76.步骤102,根据所述项目信息,在至少一个预设的数据平台中,查找存储有所述数据调用方所要调用数据的目标数据平台;
77.在本发明实施例中,可以预设有至少一个数据平台,每一数据平台存储可以存储有数据。所述数据调用方发送的第一数据获取请求中可以包含项目信息,而并未包含数据平台的信息,因此,所述数据调用平台需要根据所述项目信息,在至少一个预设的数据平台中,查找存储有所述数据调用方所要调用数据的目标数据平台。
78.在具体实现中,所述数据调用平台可以预先存储有所述项目信息与所述数据平台之间的映射关系。所述数据调用平台可以根据所述映射关系,查找所述数据平台存储的数
据中是否可能包含符合所述项目信息要求的相关数据。例如,查找所述数据平台中的数据表名是否包含所述项目信息指定的关键字段,查找所述数据平台存储的数据的类型是否为所述项目信息指定的类型,查找所述数据平台存储的数据的时间范围是否满足所述项目信息指定的时间范围等。若所述确定至少一个数据平台中有符合所述项目信息要求的相关数据,则可以将该至少一个数据平台作为存储有所述数据调用方所要调用数据的目标数据平台。
79.作为本发明的一种示例,所述数据调用平台可以获取第一数据获取请求,并在所述第一数据获取请求中提取得到项目信息为a公司的财务信息,且时间范围为1月份。其后,所述数据调用平台可以根据所述项目信息与所述数据平台之间的映射关系,确定可以在数据平台a中获取得到1月份a公司的财务信息,从而确定所述目标数据平台为数据平台a。
80.步骤103,根据所述项目信息以及预先存储的所述目标数据平台的数据获取格式,生成第二数据获取请求;
81.在本发明实施例中,在向数据平台获取数据时,通常需要采用符合所述数据平台要求的数据获取格式,生成相应的数据获取请求,以使所述数据平台可以正确地得知所述项目信息,并可以相应地的返回目标数据。然而,所述数据平台的数据获取格式通常可以不同。由此,所述数据调用平台可以预先存储所述数据平台的数据获取格式。在确定所述目标数据平台之后,可以采用根据所述项目信息以及所述目标数据平台对应的数据获取格式,生成第二数据获取请求,以满足所述目标数据平台的要求。
82.在具体实现中,所述数据平台通常需要采用查询语句,在所述数据平台中查找所述查询语句相应的数据。由此,所述目标数据平台的数据获取格式可以为所述目标数据平台的查询语句格式,所述数据调用平台可以采用所述目标数据平台的查询语句格式,所述项目信息所包含的关键字段、数据类型、时间范围等信息,生成第二数据获取请求。
83.步骤104,采用所述第二数据获取请求,向所述目标数据平台调取所述项目信息对应的目标数据;
84.在本发明实施例中,在确定所述第二数据获取请求之后,可以采用所述第二数据获取请求,向所述目标数据平台调取所述项目信息对应的目标数据,从而所述数据调用平台可以获取得到所述数据调用方所需要的目标数据。
85.在具体实现中,所述数据调用平台可以存储有所述数据平台的调用接口信息,在确定所述目标数据平台之后,可以向所述目标数据平台对应的调用接口发送所述第二数据获取请求。所述目标数据平台可以响应所述第二数据获取请求,在其自身的数据库中查找所述第二数据获取请求中的项目信息对应的目标数据,并向所述数据调用平台发送,从而所述数据调用平台可以调取所述项目信息对应的目标数据。
86.步骤105,向所述数据调用方发送目标数据。
87.在本发明实施例中,所述数据调用平台可以向所述数据调用方返回所述目标数据。从而对于所述数据调用方来说,其可以获取得到所述第一数据获取请求对应的目标数据,且无需针对不同的数据平台进行额外的设置。而数据调用所需要的信息可以统一至所述数据调用平台,而不需要分别为不同的数据调用方分别配置数据获取所需要的信息。
88.通过本发明实施例的数据获取方法,接收数据调用方的第一数据获取请求;所述第一数据获取请求包括项目信息;根据所述项目信息,在至少一个预设的数据平台中,查找
存储有所述数据调用方所要调用数据的目标数据平台;根据所述项目信息以及预先存储的所述目标数据平台的数据获取格式,生成第二数据获取请求;采用所述第二数据获取请求,向所述目标数据平台调取所述项目信息对应的目标数据;向所述数据调用方发送所述目标数据。从而可以通过数据调用平台根据所述第一数据获取请求中的项目信息,为所述数据调用方生成满足目标数据平台要求的第二数据获取请求,向数据平台获取目标数据,数据调用方无需针对不同的数据平台调整数据获取方式,而可以采用统一的数据获取方式获取多个不同数据平台的数据,有效地提高了数据获取的效率,且配置方式简便。
89.参照图2,示出了本发明的一种数据获取方法实施例的步骤流程图,具体可以包括如下步骤:
90.步骤201,接收数据调用方的第一数据获取请求;所述第一数据获取请求包括项目信息;
91.在本发明实施例中,可以设置一数据调用平台。所述数据调用平台可以用于向至少一个数据平台调取数据。由此,在所述数据调用需要向数据平台获取数据时,可以向所述数据调用平台发送第一数据获取请求。从而所述数据调用平台可以接收所述数据调用方的第一数据获取请求。
92.其中,所述第一数据获取请求可以包括至少一个项目信息。所述项目信息可以用于指定所述数据调用方所需要获取的数据。具体地,所述项目信息可以包含数据的类型信息、数据对应的关键字段信息、数据对应的时间范围信息等,本发明对此不做限制。
93.步骤202,在预设的数据项清单存储的数据平台信息中,查找所述项目信息对应的目标平台信息;
94.在本发明实施例中,可以预设有至少一个数据平台,每一数据平台存储可以存储有数据。所述数据调用方发送的第一数据获取请求中可以包含项目信息,而并未包含数据平台的信息,因此,所述数据调用平台需要根据所述项目信息,在至少一个预设的数据平台中,查找存储有所述数据调用方所要调用数据的目标数据平台。
95.在本发明实施例中,所述数据调用平台可以预先存储有数据项清单。所述数据项清单可以存储有项目信息与平台信息之间的对应关系。由此,所述数据调用平台在获取所述第一数据获取请求的项目信息之后,可以根据所述数据项清单,查找所述项目信息对应的目标平台信息。
96.在具体实现中,所述数据项清单可以采用列表的方式记录项目信息与平台信息之间的对应关系,从而所述数据项清单可以包含至少一个数据项。具体地,所述数据项清单中的每一数据项可以包括有数据项名称信息、类型信息、字段信息、数据项备注信息、数据平台信息、数据表名信息等。从而所述数据调用平台可以查找与所述项目信息匹配的数据项,并将所述数据项中的数据平台信息作为目标平台信息。
97.可选地,所述数据项中还可以包含数据项编码信息。所述数据调用方可以获取所述数据项清单。若数据调用方根据所述数据项清单,确定自身所要调用数据对应的数据项,则所述数据调用方发送的第一数据获取请求中可以包含所述数据项编码信息,所述数据调用平台可以根据所述数据项编码信息,确定所述第一数据获取请求对应的数据项,并将该数据项记载的数据平台信息作为目标数据平台信息,而可以提高查找目标数据平台的效率。
98.作为本发明的一种示例,图3为本发明的一种数据项清单的示意图。所述数据项清单可以包含a公司档案相关信息,该数据项清单中可以包含一数据项,该数据项可以包括数据项名称“公司编码”、数据平台信息“a公司财务系统”、数据表名信息“档案信息表”、类型信息“字符”。所述第一数据获取请求中包含的项目信息可以为“a公司”以及“公司编码”,则所述数据调用平台可以在所述数据项清单中进行检索,查找同时包含“a公司”以及“公司编码”的数据项,并确定该数据项记载的数据平台信息为“a公司财务系统”,从而可以确定所述目标数据平台信息为“a公司财务系统”,还可以确定所要获取的数据项存储于目标数据平台“a公司财务系统”的数据表“档案信息表”中。
99.在本发明的一种实施例中,为了便于后续的维护以及便于数据调用方进行区别,可以针对一数据平台,采用至少一个数据项清单存储其可以获取的数据的相关信息。从而每一数据平台可以对应具有至少一个数据项清单。同时,还可以为所述数据项清单分配相应的清单信息。所述清单信息可以用于描述所述数据项清单,例如所述数据项清单的名称信息、清单备注信息、数据平台信息等。由此,所述数据调用方在确定自身所需要的数据所在的数据平台的情况下,所述第一数据获取请求中的项目信息还可以包含清单信息。从而所述数据调用平台可以根据所述清单信息,确定目标数据平台信息。
100.可选地,所述清单信息中还可以包含清单编码信息。所述数据调用方可以获取所述数据项清单。若数据调用方根据所述数据项清单,确定自身所要调用数据对应的数据项清单,则所述数据调用方发送的第一数据获取请求中可以包含所述清单编码信息,所述数据调用平台可以根据所述清单编码信息,确定所述第一数据获取请求对应的数据项清单,并将该数据项清单对应的数据平台信息作为目标数据平台信息,而可以提高查找目标数据平台的效率。
101.作为本发明的一种示例,图4为本发明实施例的一种数据项清单列表的示意图。所述数据项清单列表中可以包含一数据项清单。所述数据项清单为a公司档案,其对应的清单信息可以包括数据平台信息“a公司财务系统”、名称信息“a公司档案”、清单备注信息“a公司名录”、清单编码信息“a001”。其后,若所述第一数据获取请求中的项目信息包含清单编码信息“a001”,则所述数据调用平台可以直接确定所述数据调用方需要调用a公司档案,并确定目标数据平台信息为a公司财务系统。
102.在本发明的一种实施例中,根据实际需要,还可以将所述数据平台对应的至少一个数据项清单合并为一数据平台清单集合。所述数据平台清单集合中可以包含所述数据平台对应的所有数据项清单。同时,可以为所述数据平台清单集合分配相应的集合名称信息、网络地址信息、访问端口信息等数据平台关联信息,以便于数据调用平台采用数据平台关联信息访问数据平台,同时便于数据调用方进行查阅以及维护。由此,所述数据调用方在确定自身所需要的数据所在的数据平台的情况下,所述第一数据获取请求中还可以包含数据平台关联信息。从而所述数据调用平台可以根据所述数据平台关联信息,直接确定目标数据平台信息。
103.可选地,所述平台关联信息中还可以包含平台编码信息。所述平台编码信息为所述数据项清单集合对应数据平台的编码信息。所述数据调用方可以获取所述数据项清单集合。若数据调用方根据所述数据项清单集合,确定自身所要调用数据对应的数据项清单集合,则所述数据调用方发送的第一数据获取请求中可以包含所述平台编码信息,所述数据
调用平台可以根据所述平台编码信息,确定所述第一数据获取请求对应的数据平台信息,并将其作为目标数据平台信息,而可以提高查找目标数据平台的效率。
104.作为本发明的一种示例,图5为本发明实施例的一种数据项清单集合列表的示意图。所述数据项清单集合列表可以包含一数据项清单集合,所述数据项清单集合为a公司的财务系统。其对应的平台相关信息可以包括来源名称“a公司”、平台名称“a公司财务系统”,平台编码信息“aaaa”、网络地址信息“1.1.1.1”、以及访问端口信息“8080”。其后,若所述第一数据获取请求中记载有平台编码信息“aaaa”,则可以直接确定所述目标数据平台信息为a公司的财务系统。
105.在本发明一种实施例中,不同的数据平台中可以存储有相同或者相近的数据项。例如,数据平台a中存储有a公司的财务信息,数据平台b中存储有b公司的财务信息。从而所述数据获取请求中的一项目信息可能与多个数据项清单中的数据项匹配。在此情况下,可以将所有匹配的数据项对应的数据平台作为目标数据平台,也可以进一步确定所述数据获取请求对应的数据项。例如,可以根据所述数据调用方历史数据获取记录,确定所述数据调用方可能需要的数据项;也可以进一步向所述数据调用方发送提示信息,提示所述数据调用方进一步确定所述数据获取请求对应的数据项,本发明对此不做限制。
106.在本发明一种实施例中,所述数据调用平台还可以存储有权限信息,所述权限信息可以记载有所述数据调用方可以获取的数据项。从而所述数据调用平台在接收到所述数据获取请求时,可以进一步确定所述数据获取请求对应的数据调用方是否具有获取所述数据项的权限。
107.具体地,所述权限信息可以记载所述数据调用方可以访问的数据项清单、数据项、时间范围等,本发明对此不做限制。
108.在本发明的一种实施例中,所述在预设的数据项清单存储的数据平台信息中,查找所述项目信息对应的目标平台信息的步骤,包括:
109.s11,识别所述项目信息是否为标准化项目信息;
110.在本发明实施例中,所述数据调用平台中存储的数据项清单中,所述数据项中的信息可以采用标准描述方式进行存储。若所述第一数据获取请求中的项目信息同样采用所述数据项中的信息使用的标准描述方式,则可以认为所述项目信息为标准化项目信息,若所述项目信息未采用标准描述方式,则可以认为所述项目信息不为标准化项目信息。
111.例如,若所述数据项中的信息为“公司人员”,则可以认为该信息的标准描述方式为“公司人员”。若所述项目信息为“公司成员”,其与标准描述方式不相同,可以认为其不为标准化项目信息。
112.s12,若所述项目信息不为标准化项目信息,将所述项目信息转换为含义相近的标准化项目信息;
113.在本发明实施例中,为了确保项目信息可以较好地匹配到所述数据项清单中的数据项,以确定目标数据平台信息。若所述项目信息不为标准化项目信息,可以将所述项目信息转换为含义相近,且为标准描述方式的标准化项目信息,再查找所述标准化项目信息对应的目标数据平台信息。
114.在具体实现中,所述数据调用平台可以预先存储至少一种项目信息与标准化项目信息之间的映射关系。由此,在获取所述第一数据获取请求中的项目信息之后,可以根据项
目信息与标准化项目信息之间的映射关系,将所述项目信息转换为所述标准化项目信息。
115.在具体实现中,所述数据调用平台可以比较所述项目信息与采用标准描述方式记载的数据项中的信息之间的余弦距离、欧式距离、最小编辑距离等方式,确定所述项目信息与所述数据项中的信息之间的文本相似度,并将与所述项目信息相似度较高的数据项中的信息作为所述项目信息对应的标准化项目信息。
116.s13,在预设的数据项清单存储的数据平台信息中,查找所述标准化项目信息对应的目标平台信息。
117.在本发明实施例中,在将所述项目信息转换为标准化项目信息后,所述标准化项目信息以及所述数据项中的信息皆可以采用标准描述方式表达,由此,可以在数据项清单中查找是否存在数据项的信息与所述标准化项目信息相匹配,从而确定所述标准化项目信息对应的数据项,所述数据项记载的平台信息作为目标平台信息。
118.在本发明的一种实施例中,所述方法还包括:
119.s21,提取所述数据平台中的数据平台名称、数据表名称、数据表字段信息中的至少一种,生成数据项清单。
120.在本发明实施例中,所述数据平台可以采用至少一个数据表的方式存储数据。且所述数据平台可以记载有自身的名称、至少一个数据表的名称、以及数据表中记载的字段的名称。数据调用方可以根据数据表名称、数据表字段信息等信息,确定所要提取的数据。由此,为了便于所述数据调用平台确定第一数据获取请求对应的目标数据平台,所述数据调用平台可以提取所述数据平台中的数据平台名称、数据表名称、数据表字段信息中的至少一种,生成数据项清单。
121.可选地,所述数据平台还可以记载所述数据平台中数据的类型信息、数据的时间范围等信息,便于更加准确地为数据调用方提供目标数据。还可以为所述数据项清单生成清单编码信息、为数据项生成数据项编码信息、为所述数据平台生成平台编码信息,从而在数据调用方确定自身所要调用的数据项、数据项清单、或者数据平台的情况下,可以根据实际需要,生成记载有所述清单编码信息、所述数据项编码信息、或所述平台编码信息的第一数据获取请求,进一步提高数据的获取效率。
122.在本发明实施例中,所述数据平台可以预先设置有信息的标准描述方式。所述数据平台中的数据平台名称、数据表名称、数据表字段信息等信息,可能未采用标准描述方式记载,导致数据调用方后续调用数据可能存在困难。在此情况下,所述数据调用平台在生成所述数据项清单时,可以将所述数据平台名称、数据表名称、数据表字段信息等信息转换为标准描述方式,再存储于所述数据项清单中。便于提高后续数据调用获取数据的效率。
123.在本发明的一种实施例中,所述数据平台可以获取的数据以及数据的获取方式可能发生变化。为了保持所述数据调用平台可以较好地为数据调用方提供其所需要的数据,可以对其存储的数据项清单进行更新。由此,可以向所述数据平台发送数据清单更新请求。所述清单更新请求用于获取所述数据平台的端口信息、数据平台名称、数据表名称、数据表字段信息中的至少一种。
124.在具体实现中,可以设定一更新周期,并采用所述更新周期,定期发送所述清单更新请求,从而完成所述数据项清单的自动更新。在所述端口信息、数据平台名称、数据表名称、数据表字段信息中的至少一种无法自动更新的情况下,则可以采用手动发送的清单更
新请求的方式,更新所述数据项清单。也可以根据实际需要,基于数据平台中数据的更新情况,手动编辑所述数据项清单,以完成对数据项清单的更新。
125.步骤203,将所述目标平台信息对应的数据平台,作为存储有所述数据调用方所要调用数据的目标数据平台;
126.在本发明实施例中,在确定所述目标平台信息之后,可以将所述目标平台信息对应的数据平台作为存储有所述数据调用方所要调用数据的目标数据平台,以便后续进一步向所述目标数据平台获取数据。
127.步骤204,根据所述项目信息以及预先存储的所述目标数据平台的数据获取格式,生成第二数据获取请求;
128.在本发明实施例中,在向数据平台获取数据时,通常需要采用符合所述数据平台要求的数据获取格式,生成相应的数据获取请求,以使所述数据平台可以正确地得知所述项目信息,并可以相应地的返回目标数据。然而,所述数据平台的数据获取格式通常可以不同。由此,所述数据调用平台可以预先存储所述数据平台的数据获取格式。在确定所述目标数据平台之后,可以采用根据所述项目信息以及所述目标数据平台对应的数据获取格式,生成第二数据获取请求,以满足所述目标数据平台的要求。
129.在具体实现中,所述数据平台通常需要采用查询语句,在所述数据平台中查找所述查询语句相应的数据。由此,所述目标数据平台的数据获取格式可以为所述目标数据平台的查询语句格式,所述数据调用平台可以采用所述目标数据平台的查询语句格式,所述项目信息所包含的关键字段、数据类型、时间范围等信息,生成第二数据获取请求。
130.步骤205,采用所述第二数据获取请求,向所述目标数据平台调取所述项目信息对应的目标数据;
131.在本发明实施例中,在确定所述第二数据获取请求之后,可以采用所述第二数据获取请求,向所述目标数据平台调取所述项目信息对应的目标数据,从而所述数据调用平台可以获取得到所述数据调用方所需要的目标数据。
132.在具体实现中,所述数据调用平台可以存储有所述数据平台的调用接口信息,在确定所述目标数据平台之后,可以向所述目标数据平台对应的调用接口发送所述第二数据获取请求。所述目标数据平台可以响应所述第二数据获取请求,在其自身的数据库中查找所述第二数据获取请求中的项目信息对应的目标数据,并向所述数据调用平台发送,从而所述数据调用平台可以调取所述项目信息对应的目标数据。
133.步骤206,向所述数据调用方发送目标数据。
134.在本发明实施例中,所述数据调用平台可以向所述数据调用方返回所述目标数据。从而对于所述数据调用方来说,其可以获取得到所述第一数据获取请求对应的目标数据,且无需针对不同的数据平台进行额外的设置。而数据调用所需要的信息可以统一至所述数据调用平台,而不需要分别为不同的数据调用方分别配置数据获取所需要的信息。
135.在本发明的一种实施例中,所述向所述数据调用方发送目标数据的步骤,包括:
136.s31,若所述目标数据来自至少两个目标数据平台,所述目标数据转换为标准化目标数据;
137.在本发明实施例中,所述第一数据获取请求中的项目信息对应的目标数据平台可能具有至少两个,则所述数据调用平台需要生成至少两个第二数据获取请求,并分别向所
述第二数据获取请求对应的目标数据平台调取目标数据。此时,可以对所述目标数据进行整合后,再向所述数据调用方发送。在此情况下,由于所述目标数据来自不同的目标数据平台,则所述目标数据平台可能并未采用标准描述方式记载数据。由此,可以首先将所述目标数据转换为标准描述方式,得到标准化目标数据。
138.作为本发明的一种示例,若数据平台a中记载有公司电话号码02012345678,数据平台b中记载公司电话号码020-12345678。而标准描述方式为(xxx)xxxxxxxx,则可以将数据平台a记载的公司电话号码02012345678转换为(020)12345678,将据平台b中记载公司电话号码020-12345678转换为(020)12345678,得到标准化目标数据。
139.s32,检测所述标准化目标数据中是否存在重复数据;
140.在本发明实施例中,所述目标数据平台存储的数据可能存在部分相同,则所述标准化目标数据中可能存在重复数据。为了避免数据调用方获取的目标数据存在混乱的情况,可以对所述目标数据中的重复数据进行处理后,再将处理后的标准化目标数据发送给所述数据调用方。由此,可以检测所述标准化目标数据中是否存在重复数据。
141.s32,若存在重复数据,删除所述标准化目标数据中的重复数据;
142.在本发明实施例中,若存在重复数据,则为了避免数据调用方获取的目标数据存在混乱的情况,可以删除所述标准化目标数据中的重复数据,使标准化目标数据中不存在重复。
143.s33,向所述数据调用方发送所述标准化目标数据。
144.在本发明实施例中,在将所述目标数据转换为标准化目标数据,且删除其中的重复数据之后,可以向所述数据调用方发送所述标准化目标数据,使所述数据调用方可以获取得到质量较好的标准化目标数据。
145.在具体实现中,所述数据调用方可能存在自身的数据使用习惯,从而所述数据调用方可能有自定义的数据描述方式,则此时根据实际需要,在删除重复数据之后,可以将所述标准化目标数据转换为数据调用方自定义的数据描述方式,以满足数据调用方的数据使用需求。
146.在本发明的一种实施例中,所述方法还包括:
147.s31,确定所述目标数据是否包含敏感信息;
148.在本发明实施例中,所述目标数据中可能包含不可随意分享的敏感数据,例如,人名信息、联系方式信息、身份标识信息等。在此情况下,需要对所述目标数据进行处理后,才可以将所述目标数据发送给数据调用方。由此,可以确定所述目标数据是否包含敏感信息。
149.在具体实现中,可以在所述数据项清单中记载所述数据项的敏感程度。在所述数据项具有较高的敏感程度的情况下,可以确定所述数据项对应获取到的目标数据包含敏感信息。也可以采用关键字检测的方式,检测所述目标数据中是否包含敏感信息。
150.s32,在所述目标数据包含敏感信息的情况下,对所述目标数据进行脱敏处理。
151.在本发明实施例中,在所述目标数据包含敏感信息的情况下,对所述目标数据进行脱敏处理,对目标数据中的敏感信息进行遮蔽,或者删除目标数据中的敏感信息,确保敏感信息不会随意传输至数据调用方处。
152.在具体实现中,所述数据调用平台可以存储有至少一个数据脱敏处理规则,所述数据脱敏处理规则可以通用于大多数目标数据。也可以针对不同数据项对应的目标数据,
分别设置特定的数据脱敏处理规则,并将数据脱敏规则存储于所述数据项清单中。
153.作为本发明的一种示例,对于数据项手机号码,可以设置相应的数据脱敏处理规则,从而在获取得到目标数据后,可以将目标数据中手机号码的中间四位替换为星号,从而完成对所述目标数据的脱敏处理。
154.在具体实现中,可以为所述数据调用方设置不同的敏感信息查阅程度。在所述数据调用方具有较高的敏感信息查阅程度的情况,可以认为所述数据调用方可以查看敏感信息,而不需要对目标数据进行脱敏处理。在所述数据调用方具有较低的敏感信息查阅程度的情况下,可以认为所述数据调用方不可以查看所述敏感信息,则需要对所述目标数据进行脱敏处理。
155.在本发明的一种实施例中,所述方法还包括:
156.s41,采用预设周期,检测所述第二数据获取请求对应的目标数据平台是否更新数据;
157.在本发明实施例中,数据调用方可能需要定期地向数据平台获取数据,则数据调用方发送的第一数据获取请求可以用于定期地获取项目信息对应的数据。
158.在此情况下,所述数据调用平台可以创建一定期数据获取任务,在确定目标数据平台之后,可以采用预设周期,检测所述第二数据获取请求对应的目标数据平台是否更新数据,以确定是否需要获取更新数据。
159.s42,若所述目标数据平台更新数据,采用所述第二数据获取请求,在所述目标数据平台的更新数据中,获取所述目标更新数据。
160.在本发明实施例中,若所述第二数据获取请求对应的目标数据平台更新数据,则所述数据调用平台可以根据所述第一数据获取请求中的项目信息,生成第二数据获取请求。并采用所述第二数据获取请求,在所述目标数据平台的更新数据中,获取所述目标更新数据。其后可以向所述数据调用方发送所述目标更新数据,使所述数据调用方在目标数据平台更新数据的情况下,可以及时获得更新的数据。
161.通过本发明实施例的数据获取方法,接收数据调用方的第一数据获取请求;所述第一数据获取请求包括项目信息;在预设的数据项清单存储的数据平台信息中,查找所述项目信息对应的目标平台信息;将所述目标平台信息对应的数据平台,作为存储有所述数据调用方所要调用数据的目标数据平台;根据所述项目信息以及预先存储的所述目标数据平台的数据获取格式,生成第二数据获取请求;采用所述第二数据获取请求,向所述目标数据平台调取所述项目信息对应的目标数据;向所述数据调用方发送所述目标数据。从而可以通过数据调用平台根据所述第一数据获取请求中的项目信息,为所述数据调用方生成满足目标数据平台要求的第二数据获取请求,向数据平台获取目标数据,数据调用方无需针对不同的数据平台调整数据获取方式,而可以采用统一的数据获取方式获取多个不同数据平台的数据,有效地提高了数据获取的效率,且配置方式简便。
162.需要说明的是,对于方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本发明实施例并不受所描述的动作顺序的限制,因为依据本发明实施例,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作并不一定是本发明实施例所必须的。
163.参照图6,示出了本发明的一种数据获取装置实施例的结构框图,其应用于数据调用平台,具体可以包括如下模块:
164.请求接收模块601,用于接收数据调用方的第一数据获取请求;所述第一数据获取请求包括项目信息;
165.平台查找模块602,用于根据所述项目信息,在至少一个预设的数据平台中,查找存储有所述数据调用方所要调用数据的目标数据平台;
166.请求生成模块603,用于根据所述项目信息以及预先存储的所述目标数据平台的数据获取格式,生成第二数据获取请求;
167.数据获取模块604,用于采用所述第二数据获取请求,向所述目标数据平台调取所述项目信息对应的目标数据;
168.发送模块605,用于向所述数据调用方发送所述目标数据。
169.在本发明一种实施例中,所述平台查找模块包括:
170.平台信息查找子模块,用于在预设的数据项清单存储的数据平台信息中,查找所述项目信息对应的目标平台信息;
171.平台确定子模块,用于将所述目标平台信息对应的数据平台,作为存储有所述数据调用方所要调用数据的目标数据平台。
172.在本发明一种实施例中,所述平台信息查找子模块包括:
173.信息识别单元,用于识别所述项目信息是否为标准化项目信息;
174.转换单元,用于若所述项目信息不为标准化项目信息,将所述项目信息转换为含义相同的标准化项目信息;
175.平台信息查找单元,用于在预设的数据项清单存储的数据平台信息中,查找所述标准化项目信息对应的目标平台信息。
176.在本发明一种实施例中,所述发送模块包括:
177.数据转换子模块,用于若所述目标数据来自至少两个目标数据平台,将所述目标数据转换为标准化目标数据;
178.重复检测子模块,用于检测所述标准化目标数据中是否存在重复数据;
179.删除子模块,用于若存在重复数据,删除所述标准化目标数据中的重复数据;
180.第一发送子模块,用于向所述数据调用方发送所述标准化目标数据。
181.在本发明一种实施例中,所述发送模块包括:
182.敏感数据确定自模块,用于采用预设的数据项清单,确定所述项目信息对应的目标数据是否为敏感数据;
183.脱敏子模块,用于在所述目标数据为敏感数据的情况下,采用所述数据项清单存储的脱敏规则,对所述目标数据进行脱敏处理,生成脱敏数据;
184.第二发送子模块,用于向所述数据调用方发送所述脱敏数据。
185.在本发明一种实施例中,所述装置还包括:
186.更新检测模块,用于采用预设周期,检测所述目标数据平台是否更新数据;
187.更新数据获取模块,用于若所述目标数据平台更新数据,采用所述第二数据获取请求,在所述目标数据平台的更新数据中,获取所述目标更新数据。
188.在本发明一种实施例中,所述装置还包括:
189.清单生成模块,用于提取所述数据平台中的数据库名称、数据表名称、数据表字段名称中的至少一种,生成数据项清单。
190.对于装置实施例而言,由于其与方法实施例基本相似,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
191.本发明实施例还提供了一种电子设备,包括:
192.一个或多个处理器;和
193.其上存储有指令的一个或多个机器可读介质,当由所述一个或多个处理器执行时,使得所述电子设备执行本发明实施例所述的方法。
194.本发明实施例还提供了一个或多个机器可读介质,其上存储有指令,当由一个或多个处理器执行时,使得所述处理器执行本发明实施例所述的方法。
195.本说明书中的各个实施例均采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似的部分互相参见即可。
196.本领域内的技术人员应明白,本发明实施例的实施例可提供为方法、装置、或计算机程序产品。因此,本发明实施例可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、cd-rom、光学存储器等)上实施的计算机程序产品的形式。
197.本发明实施例是参照根据本发明实施例的方法、终端设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理终端设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理终端设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
198.这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理终端设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
199.这些计算机程序指令也可装载到计算机或其他可编程数据处理终端设备上,使得在计算机或其他可编程终端设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程终端设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
200.尽管已描述了本发明实施例的优选实施例,但本领域内的技术人员一旦得知了基本创造性概念,则可对这些实施例做出另外的变更和修改。所以,所附权利要求意欲解释为包括优选实施例以及落入本发明实施例范围的所有变更和修改。
201.最后,还需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者终端设备不仅包
括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者终端设备所固有的要素。在没有更多限制的情况下,由语句“包括一个
……”
限定的要素,并不排除在包括所述要素的过程、方法、物品或者终端设备中还存在另外的相同要素。
202.以上对本发明所提供的一种数据获取方法和一种数据获取装置,进行了详细介绍,本文中应用了具体个例对本发明的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本发明的方法及其核心思想;同时,对于本领域的一般技术人员,依据本发明的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本发明的限制。
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1