本发明涉及数据处理,尤其涉及一种异构系统间实时数据传输方法和系统。
背景技术:
1、在全员绩效管理系统中,经常需要将外围系统数据集成到多维数据集内部,并且也需要将多维数据集的数据传递给外围系统。特别是在填报场景下,一些风险控制系统或者bi工具等第三方系统需要实时获取用户录入数据。
2、传统的数据库多通过cdc和binlog等机制来获取,相对比较复杂,并且不能在传输之前对数据进行加工处理,无法实现多维数据的交互。
3、目前多维数据集的交互,通常情况下,多通过重新编码开发的方式完成,需要对原有系统侵入式的修改,使得整个配置的周期延长。
技术实现思路
1、本发明的目的在于提供一种异构系统间实时数据传输方法和系统,旨在解决现有的多维数据交互的配置周期较长的问题。
2、为实现上述目的,第一方面,本发明提供了一种异构系统间实时数据传输系统,包括参数池、数据处理及传输子系统和触发子系统,所述参数池、所述数据处理及传输子系统和所述触发子系统依次连接;所述数据处理及传输子系统包括数据采集组件、数据处理组件和数据输出组件,所述数据采集组件、所述数据处理组件和所述数据输出组件均与所述触发子系统连接;
3、所述参数池,用于对设置的目标系统信息、多维数据范围和配置参数进行管理;
4、所述数据采集组件,用于采集多维数据集,并基于所述配置参数对所述多维数据集进行预处理,得到二维数据;
5、所述数据处理组件,用于对所述二维数据进行后处理,得到数据源;
6、所述数据输出组件,基于所述多维数据范围将所述数据源发送给目标系统;
7、所述触发子系统,用于触发所述数据采集组件、所述数据处理组件和所述数据输出组件工作。
8、其中,所述数据处理组件包括数据采集模块、过滤模块和拉平模块,所述数据采集模块、所述过滤模块和所述拉平模块依次连接;
9、所述数据采集模块,用于采集多维数据集;
10、所述过滤模块,基于所述配置参数对所述多维数据集进行过滤,得到过滤数据集;
11、所述拉平模块,基于所述配置参数将所述过滤数据集拉平,得到二维数据。
12、其中,所述数据处理组件包括关联合并模块、汇总模块和计算模块,所述关联合并模块、所述汇总模块和计算模块依次连接;
13、所述关联合并模块,用于将所述二维数据关联合并,得到合并数据;
14、所述汇总模块,用于将所有合并数据汇总,得到汇总数据;
15、所述计算模块,用于对所述汇总数据进行计算,得到数据源。
16、其中,所述数据输出组件包括源采集模块、目标采集模块和传输模块,所述源采集模块和所述目标采集模块分别与所述传输模块连接;
17、所述源采集模块,用于采集所述数据源;
18、所述目标采集模块,基于所述目标系统信息配置目标系统;
19、所述传输模块,基于所述多维数据范围将所述数据源发送给所述目标系统。
20、其中,所述传输模块包括匹配单元、转换单元和传输单元,所述匹配单元、所述转换单元和所述传输单元依次连接;
21、所述匹配单元,用于将所述数据源与所述目标系统系统进行匹配,得到匹配结果;
22、所述转换单元,用于在所述匹配结果为匹配不成功时,对所述数据源进行格式转换,得到转换数据;
23、所述传输单元,用于在所述匹配结果为匹配成功时,将所述数据源发送给所述目标系统;在所述匹配结果为匹配不成功时,将所述转换数据发送给所述目标系统。
24、其中,所述触发子系统包括界面创建组件、触控显示组件和触发组件,所述界面创建组件、所述触控显示组件和所述触发组件依次连接;
25、所述界面创建组件,用于创建预制界面;
26、所述触控显示组件,用于对所述预制界面进行显示,并记录所述预制界面的操作流程;
27、所述触发组件,基于所述操作流程触发所述数据采集组件、所述数据处理组件和所述数据输出组件工作。
28、第二方面,本发明提供了一种异构系统间实时数据传输方法,包括以下步骤:
29、通过参数池对设置的目标系统信息、多维数据范围和配置参数进行管理;
30、通过触发子系统控制数据采集组件采集多维数据集,并基于所述配置参数对所述多维数据集进行预处理,得到二维数据;
31、通过触发子系统控制数据处理组件对所述二维数据进行后处理,得到数据源;
32、通过触发子系统控制数据输出组件基于所述多维数据范围将所述数据源发送给目标系统。
33、本发明的一种异构系统间实时数据传输系统,通过参数池对设置的目标系统信息、多维数据范围和配置参数进行管理;通过触发子系统控制数据采集组件采集多维数据集,并基于所述配置参数对所述多维数据集进行预处理,得到二维数据;通过触发子系统控制数据处理组件对所述二维数据进行后处理,得到数据源;通过触发子系统控制数据输出组件基于所述多维数据范围将所述数据源发送给目标系统,全过程不需要对原有系统侵入式的修改,解决了现有的多维数据交互的配置周期较长的问题。
1.一种异构系统间实时数据传输系统,其特征在于,
2.如权利要求1所述的异构系统间实时数据传输系统,其特征在于,
3.如权利要求2所述的异构系统间实时数据传输系统,其特征在于,
4.如权利要求3所述的异构系统间实时数据传输系统,其特征在于,
5.如权利要求4所述的异构系统间实时数据传输系统,其特征在于,
6.如权利要求5所述的异构系统间实时数据传输系统,其特征在于,
7.一种异构系统间实时数据传输方法,应用于权利要求6所述的异构系统间实时数据传输系统,其特征在于,包括以下步骤: