数据同步的同步方法、装置及计算机存储介质与流程

文档序号:18704259发布日期:2019-09-17 23:25阅读:157来源:国知局
数据同步的同步方法、装置及计算机存储介质与流程

本发明涉及云存储技术领域,尤其是涉及一种数据同步的同步方法、装置及计算机存储介质。



背景技术:

随着公司业务的逐渐增加,通过建立业务数据库将公司各项业务的数据进行收集和维护,当公司总部获取各个分公司的业务数据信息时或者采集方对各个公司的业务做大数据采集时,需要使公司总部或者采集方的数据库与各个公司的业务数据库保持同步。

目前,在实现采集方与业务方的数据同步时,一般使用开源软件,通过人为手动界面拖拽的方式,将业务方数据库中的表与目标数据库中的表关联起来,将业务方某个表中的数据导入目标数据库对应的表中,来实现业务方数据库与目标数据库的同步,或者也可以应用开源软件对业务方数据库和目标数据库进行脚本编辑,来实现业务方数据库与目标数据库表到表的同步。然而,当多个业务线同时接入,并且表数众多时,这种重复性的手动复制粘贴工作会花费大量人力和时间,如果业务方改变,还需要手动更改数据库的连接信息,而且在调度管理平台上会有大量表到表的同步,而这种大量重复性的手动工作和调度作业容易造成业务方数据库与目标数据库同步失败。



技术实现要素:

本发明提供了一种数据同步的同步方法、装置及计算机存储介质,主要在于能够实现业务方数据库与目标数据同步的同步,由此避免了大量重复性的人为手动操作,节省了人力和物力,提高了业务方数据库与目标数据库同步的效率和精确度。

根据本发明的第一个方面,提供一种数据同步的方法,包括:

接收数据同步的触发指令,所述触发指令携带有业务方数据库中待同步数据表的标识信息;

根据所述待同步数据表的标识信息从预先创建的业务方信息中查询所述待同步数据表所属业务方数据库,以及所述待同步数据表对应目标数据库的连接信息,所述预先创建的业务方信息中记录有各个业务方数据库中需要同步的数据表的标识信息以及各个数据表对应目标数据库的连接信息;

根据所述待同步数据表所属业务方数据库,以及所述待同步数据表对应目标数据库的连接信息,按照预先设置的同步调度参数将业务方数据库中的待同步数据表同步至所述目标数据库中。

进一步地,在所述根据所述待同步数据表的标识信息从预先创建的业务方信息中查询所述待同步数据表所属业务方数据库,以及所述待同步数据表对应目标数据库的连接信息之前,所述方法还包括:

获取各个业务方数据库在创建数据表时为每个数据表生成的标识信息;

根据各个业务方上传的数据同步任务,统计数据同步任务中各个业务方需要同步的数据表以及各个数据表对应目标数据库的连接信息;

将所述各个业务方需要同步的数据表以及各个数据表对应目标数据库的连接信息生成业务方信息。

进一步地,所述根据各个业务方上传的数据同步任务,统计数据同步任务中各个业务方需要同步的数据表以及各个数据表对应目标数据库的连接信息包括:

通过解析所述各个业务方上传的数据同步任务,得到各个业务方需要同步的数据表的同步信息,所述同步信息至少包括数据表在业务方数据库中的标识信息以及数据表对应目标数据库的连接信息;

根据所述各个业务方需要同步的数据表的同步信息,统计数据同步任务中各个业务方需要同步的数据表以及各个数据表对应目标数据库的连接信息。

进一步地,所述各个数据表对应目标数据库的连接信息记录有数据表对应目标数据库的多个连接字段,所述将所述各个业务方需要同步的数据表以及各个数据表对应目标数据库的连接信息生成业务方信息包括:

按照所述各个业务方需要同步的数据表的标识信息,查找各个数据表对应目标数据库的多个连接字段;

将所述各个数据表对应目标数据库的多个连接字段息生成业务方信息。

进一步地,在所述将所述各个业务方需要同步的数据表以及各个数据表对应目标数据库的连接信息生成业务方信息之后,所述方法包括:

按照预设时间间隔监控所述各个业务方上传的数据同步任务,根据所述各个业务方上传的数据同步任务,更新所述业务方信息。

进一步地,在所述根据所述待同步数据表所属业务方数据库,以及所述待同步数据表对应目标数据库的连接信息,按照预先设置的同步调度参数将业务方数据库中的待同步数据表同步至所述目标数据库中之前,所述方法还包括:

根据所述待同步数据表对应数据量的大小,确定所述待同步数据表的数据量级别;

根据所述待待同步数据表的数据量级别,设置所述待同步数据表对应的同步调度参数。

进一步地,所述同步调度参数包括同步时间参数、同步调度时间级别参数以及同步节点权重参数,所述根据所述待待同步数据表的数据量级别,设置所述待同步数据表对应的同步调度参数包括:

根据所述待同步数据表的数据量级别预估待同步数据表完成同步任务所需要的时间,设置所述待同步数据表的同步时间参数;

根据所述待同步数据表的数据量级别预估待同步数据表在同步任务中调度的单位时间,设置所述待同步数据表的同步调度时间级别参数;

根据所述待同步数据表的数据量级别预估待同步数据表在同步任务中需要开启同步节点数量,设置所述待同步数据表的同步节点权重参数。

根据本发明的第二个方面,提供一种数据同步的同步装置,包括:

接收单元,用于接收数据同步的触发指令,所述触发指令携带有业务方数据库中待同步数据表的标识信息;

查询单元,用于根据所述待同步数据表的标识信息从预先创建的业务方信息中查询所述待同步数据表所属业务方数据库,以及所述待同步数据表对应目标数据库的连接信息,所述预先创建的业务方信息中记录有各个业务方数据库中需要同步的数据表的标识信息以及各个数据表对应目标数据库的连接信息;

同步单元,用于根据所述待同步数据表所属业务方数据库,以及所述待同步数据表对应目标数据库的连接信息,按照预先设置的同步调度参数将业务方数据库中的待同步数据表同步至所述目标数据库中。

进一步地,所述装置还包括:

获取单元,用于在所述根据所述待同步数据表的标识信息从预先创建的业务方信息中查询所述待同步数据表所属业务方数据库,以及所述待同步数据表对应目标数据库的连接信息之前,获取各个业务方数据库在创建数据表时为每个数据表生成的标识信息;

统计单元,用于根据各个业务方上传的数据同步任务,统计数据同步任务中各个业务方需要同步的数据表以及各个数据表对应目标数据库的连接信息;

生成单元,用于将所述各个业务方需要同步的数据表以及各个数据表对应目标数据库的连接信息生成业务方信息。

进一步地,所述统计单元包括:

解析模块,用于通过解析所述各个业务方上传的数据同步任务,得到各个业务方需要同步的数据表的同步信息,所述同步信息至少包括数据表在业务方数据库中的标识信息以及数据表对应目标数据库的连接信息;

统计模块,用于根据所述各个业务方需要同步的数据表的同步信息,统计数据同步任务中各个业务方需要同步的数据表以及各个数据表对应目标数据库的连接信息。

进一步地,所述各个数据表对应目标数据库的连接信息记录有数据表对应目标数据库的多个连接字段,所述生成单元包括:

查找模块,用于按照所述各个业务方需要同步的数据表的标识信息,查找各个数据表对应目标数据库的多个连接字段;

生成模块,用于将所述各个数据表对应目标数据库的多个连接字段息生成业务方信息。

进一步地,所述装置还包括:

更新单元,用于在所述将所述各个业务方需要同步的数据表以及各个数据表对应目标数据库的连接信息生成业务方信息之后,按照预设时间间隔监控所述各个业务方上传的数据同步任务,根据所述各个业务方上传的数据同步任务,更新所述业务方信息。

进一步地,所述装置还包括:

确定单元,用于在所述根据所述待同步数据表所属业务方数据库,以及所述待同步数据表对应目标数据库的连接信息,按照预先设置的同步调度参数将业务方数据库中的待同步数据表同步至所述目标数据库中之前根据所述待同步数据表对应数据量的大小,确定所述待同步数据表的数据量级别;

设置单元,用于根据所述待待同步数据表的数据量级别,设置所述待同步数据表对应的同步调度参数。

进一步地,所述同步调度参数包括同步时间参数、同步调度时间级别参数以及同步节点权重参数,所述设置单元包括:

第一设置模块,用于根据所述待同步数据表的数据量级别预估待同步数据表完成同步任务所需要的时间,设置所述待同步数据表的同步时间参数;

第二设置模块,用于根据所述待同步数据表的数据量级别预估待同步数据表在同步任务中调度的单位时间,设置所述待同步数据表的同步调度时间级别参数;

第三设置模块,用于根据所述待同步数据表的数据量级别预估待同步数据表在同步任务中需要开启同步节点数量,设置所述待同步数据表的同步节点权重参数。

依据本发明又一个方面,提供了一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现数据同步的方法的步骤。

依据本发明再一个方面,提供了一种计算机存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现数据同步的方法的步骤。

本发明提供的一种数据同步的同步方法、装置及计算机存储介质,通过预先创建各个业务方书库中数据表的标识信息以及各个业务方数据库提供给数据表对应目标数据库的连接信息,在接收到数据同步的触发指令后,根据待同步数据表的标识信息从预先创建的业务方信息中查询待同步数据表所属业务方数据库,以及目标数据库的连接信息,进而便于将业务方数据库中待同步数据表同步至目标数据库中。与目前通过人为手动界面拖拽的方式来实现数据同步的方法相比,本发明能够将待同步表的标识标识、待同步数据表所属业务方数据库以及提供给待同步数据表对应目标数据库的连接信息作为动态变量进行传递,实现数据表在业务方数据库与目标数据同步之间的快速同步,由此避免了大量重复性的人为手动操作,节省了大量人力和物力,提高了业务方数据库与目标数据库同步的效率和精确度。

附图说明

此处所说明的附图用来提供对本发明的进一步理解,构成本申请的一部分,本发明的示意性实施例及其说明用于解释本发明,并不构成对本发明的不当限定。在附图中:

图1示出了本发明实施例提供的一种数据同步的同步方法流程图;

图2示出了本发明实施例提供的另一种数据同步的同步方法流程图;

图3示出了本发明实施例提供的一种数据同步的同步装置的结构示意图;

图4示出了本发明实施例提供的另一种数据同步的同步装置的结构示意图。

具体实施方式

下文中将参考附图并结合实施例来详细说明本发明。需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。

如背景技术,目前,通常由技术人员通过手动界面拖拽的方式,来实现业务方数据库与目标数据库的同步,或者也可以应用开源软件对业务方数据库和目标数据库进行脚本编辑,来实现业务方数据库与目标数据库表到表的同步。然而,当多个业务线同时接入,并且表数众多时,这种重复性的手动复制粘贴工作会花费大量人力和时间,如果业务方改变,还需要手动更改数据库的连接信息,而且在调度管理平台上会有大量表到表的同步,而这种大量重复性的手动工作和调度作业容易造成业务方数据库与目标数据库同步失败。

为了解决上述问题,本发明实施例提供了一种数据同步的同步方法,如图1所示,所述方法包括:

101、接收数据同步的触发指令。

对于本发明实施例,数据同步的触发指令可以是人工操作的指令,也可以是设置间隔时间来自动执行的指令,这里的触发指令中携带有业务方数据库中待同步数据表的标识信息,通过数据同步的触发指令可以实现业务方数据库中待同步数据表的数据同步。

其中,业务方数据库中的待同步数据可以为数据库在存储运营过程产生的数据,例如,服务器生成的产数据,客户端输入的用户信息数据等,还可以为平台中记录用户行为的日志数据,例如,用户浏览网页的数据,用户购买商品的数据等,这里不进行限定。待同步数据表的标识信息可以数据表的名称、表地址、表中关键字段等,这里不进行限定,通过待同步数据表的标识信息可以从业务方数据库中查找到相应待同步数据表。

102、根据所述待同步数据表的标识信息从预先创建的业务方信息中查询所述待同步数据表所属业务方数据库,以及所述待同步数据表对应目标数据库的连接信息。

其中,预先创建的业务方信息中记录有各个业务方需要同步的数据表的标识信息以及各个数据表对应目标数据库的连接信息,这里的目标数据库通常为向业务方提供数据同步需求的需求业务方的数据库,在进行数据同步之前,业务方数据库会向需求业务方索取各个数据表对应目标数据库的连接信息,该连接信息可以包括但不局限于目标数据库的用户名、ip地址以及数据库类型等,通过目标数据库的连接信息可以实现业务方数据库与目标数据库之间的数据同步。

对于本发明实施例,系统内部触发数据库的同步指令后,系统查询业务方信息,由于业务方预先建立存储在系统的数据库中并且包括各个业务方需要同步的数据表的标识信息,以及各个数据表对应目标数据库的连接信息,系统可以根据待同步数据表的标识信息,查询业务方信息,获取待同步数据表所属业务方数据库,根据该业务方数据库,获取待同步数据表对应目标数据库的连接信息,将获取的待同步数据表的标识信息、待同步数据表所属业务方数据库以及待同步数据表对应目标数据库的连接信息作为动态变量进行参数传递。

由于传统的业务方数据库与目标数据库的同步都是通过手动配置连接各个业务方数据库和目标数据库,在待同步数据表过多的情况下,需要进行大量的手动配置工作,但通过系统定时对预先配置的业务方信息进行轮询,将待同步数据表的标识信息、待同步数据表所属业务方数据库以及待同步数据表对应目标数据库的连接信息作为动态变量进行参数传递,并根据动态变量执行数据同步任务,实现业务方数据库与目标数据库之间的数据同步,可以大大减少人力和提高同步效率,例如,系统每次可以读取50个表,如果待同步数据表中一共存在10000张表,则较手动配置的方式相比,处理速度将会提高50倍。

103、根据所述待同步数据表所属业务方数据库,以及所述待同步数据表对应目标数据库的连接信息,按照预先设置的同步调度参数将业务方数据库中的待同步数据表同步至所述目标数据库中。

对于本发明实施例,同步调度参数可以包括同步时间参数、同步调度时间级别参数以及同步节点权重参数,同步时间参数为预估业务方同步数据完成同步所需要的时间,例如,配置1小时内完成业务方同步数据的同步,同步调度时间级别参数为业务方同步数据在同步过程中调度的单位时间,例如,5分钟级别、10分钟级别、30分钟级别、1小时级别、3小时级别以及1天级别,同步节点权重参数为同步过程中需要同时开启的节点数量,例如,同时开启5台服务器或者10台服务器进行数据同步。

本发明提供的一种数据同步的同步方法,通过预先创建各个业务方书库中数据表的标识信息以及各个业务方数据库提供给数据表对应目标数据库的连接信息,在接收到数据同步的触发指令后,根据待同步数据表的标识信息从预先创建的业务方信息中查询待同步数据表所属业务方数据库,以及目标数据库的连接信息,进而便于将业务方数据库中国待同步数据表同步至目标数据库中。与目前通过人为手动界面拖拽的方式相比,本发明能够将待同步表的标识标识、待同步数据表所属业务方数据库以及提供给待同步数据表对应目标数据库的连接信息作为动态变量进行传递,实现数据表在业务方数据库与目标数据同步之间的快速同步,由此避免了大量重复性的人为手动操作,节省了大量人力和物力,提高了业务方数据库与目标数据库同步的效率和精确度。

进一步的,为了更好的说明上述数据同步的同步过程,作为对上述实施例的细化和扩展,本发明实施例提供了另一种数据同步的同步方法,如图2所示,所述方法包括:

201、接收数据同步的触发指令。

对于本发明实施例,数据表的同步任务通常都是业务方在上传数据同步任务后执行的,并且该数据同步任务并非是随时执行,可以是通过工作人员根据数据同步任务的累积量来触发数据同步的指令,当然还可以设置间隔时间自动触发数据同步的指令,每次触发数据同步的指令可以作为一个调度,一次调度可以实现数据同步的数据量可以根据间隔时间的长短进行设置,如果间隔时间较长,可以设置一次调度大量的数据表,如果间隔时间较短,可以设置一次调度少量的数据表,这里不进行限定。

例如,各个业务方上传的数据同步任务中存在10000个待同步的数据表,系统每隔30分钟便开始轮询待同步数据表,如果以50个待同步数据表为第一个调度,系统按照待同步表的表标识排列顺序先读取前50个待同步数据表的标识信息,进一步根据待同步数据表的标识信息执行数据数据同步任务,之后,系统继续查询第51到第100个待同步数据表,作为第二个调度重复上述操作,以此类推,实现业务方数据库与目标数据库的同步。

202、获取各个业务方数据库在创建数据表时为每个数据表生成的标识信息。

对于本发明实施例,由于业务方在实际处理业务过程中会生成大量的数据表,为了更好地对数据表进行整理或者后续的处理,业务方会在创建数据表的时候对数据表进行标识,生成标识信息,例如,对每个生成的数据表进行编号,或者对每个数据表命名,或者对每个数据表设置分区字段等,这里不进行限定。

通过对业务方数据库中的数据表进行标识,便于业务方对数据表执行各种处理操作,从而提高数据操作的灵活性。

203、根据各个业务方上传的数据同步任务,统计数据同步任务中各个业务方需要同步的数据表以及各个数据表对应目标数据库的连接信息。

由于各个业务方在业务操作过程中需要其他业务方数据的辅助,所以在各个业务方生成大量数据表后,可能随时都需要将数据同步至其他需求业务方,以便于更好地实现资源共享,所以各个业务方在有需求的情况下都会上传数据同步任务,以实现各个业务方之间数据资源的共享。

对于本发明实施例,数据同步任务具体可以记录业务方需要同步的数据表信息,以及数据表需要同步的目标业务方信息等,在各个业务方上传数据同步任务后,通过统计数据同步任务中各个业务方需要同步的数据表以及各个数据表对应目标数据库的连接信息,可以了解到各个业务方需要同步任务中的同步信息,以便于更好的调度数据同步任务,提高数据同步效率。

具体地,可以通过解析各个业务方上传的数据同步任务,得到各个业务方需要同步的数据表的同步信息,该同步信息至少包括数据表在业务方数据库中的标识信息以及数据表对应目标数据库的连接信息;然后根据各个业务方需要同步的数据表的同步信息,统计数据同步任务中各个业务方需要同步的数据表以及各个数据表对应目标数据库的连接信息。

204、将所述各个业务方需要同步的数据表以及各个数据表对应目标数据库的连接信息生成业务方信息。

对本发明实施例,各个待同步数据表对应目标数据库的连接信息记录有待同步数据表对应目标数据库的多个连接字段,具体可以按照各个业务方数据库中数据表的标识信息,查找各个数据表对应目标数据库的多个连接字段;进一步将各个数据表对应目标数据库的多个连接字段息生成业务方信息。

205、按照预设时间间隔监控所述各个业务方上传的数据同步任务,根据所述各个业务方上传的数据同步任务,更新所述业务方信息。

其中,预设时间间隔可以自行设置,例如,半个小时、一个小时等,为了保证业务方上传的数据同步任务可以尽快执行,避免数据同步任务的积压,可以将预设时间间隔设置的时间较短,当然也可以根据实际数据同步的任务量来确定时间间隔的大小。

对于本发明实施例,通过按照预设时间间隔监控各个业务方上传的数据同步任务,更新业务方信息,可以更好的实现数据同步的时效性,在数据同步任务上传后可以尽快执行数据同步。

206、根据所述待同步数据表的标识信息从预先创建的业务方信息中查询所述待同步数据表所属业务方数据库,以及所述待同步数据表对应目标数据库的连接信息。

对于本发明实施例,具体可以通过将待同步数据表的标识信息、待同步数据表所属业务方数据库以及业务方数据库提供给待同步数据表对应目标数据库的连接信息作为动态变量传递至同步软件,该预设同步软件可以为kettle,本发明不进行具体限定,同步软件根据接收到的业务方数据库以及待同步数据表对应目标数据库的连接信息,连接业务方数据库与目标数据库,之后将业务方数据库中待同步数据表的数据信息加载到系统的内存中,最后通过网络将待同步数据表的数据信息传输至对应的目标数据库,实现将业务方数据库中数据表同步至目标数据库中。

207、根据所述待同步数据表对应数据量的大小,确定所述待同步数据表的数据量级别。

对于本发明实施例,由于业务方在上传数据同步任务之后,为了便于业务方对待同步数据表的同步任务进行管理,业务方会预先对待同步数据表对应的数据量进行统计,从而确定待同步数据表的数据量级别。

例如,可以将统计数据量大于1000条的数据划分为一级,说明数据量较多,通常需要同步的时间较长,将统计数据量为500-1000条的数据划分为二级,说明数据量中等,需要同步的时间居中统计数据量小于5000条的数据划分为三级,说明数据量较少,通常需要同步的时间较少,这里对数据量级别的划分规则不进行限定,具体根据实际情况可以划分更多的数据量级别。

208、根据所述待待同步数据表的数据量级别,设置所述待同步数据表对应的同步调度参数。

对于本发明实施例,待同步数据表对应的同步调度参数可以包括同步时间参数、同步调度时间级别参数以及同步节点权重参数,同步时间参数为预估待同步数据表完成同步所需要的时间,例如,配置1小时内完成待同步数据表的同步,同步调度时间级别参数为待同步数据表在同步过程中调度的单位时间,例如,5分钟级别、10分钟级别、30分钟级别、1小时级别、3小时级别以及1天级别,同步节点权重参数为待同步数据表在同步过程中需要同时开启的节点数量,例如,同时开启5台服务器或者10台服务器进行数据同步。

对于本发明实施例,具体根据待同步数据表的数据量级别,设置待同步数据表对应的同步调度参数包括如下步骤:根据待同步数据表的数据量级别预估待同步数据表完成同步任务所需要的时间,设置待同步数据表的同步时间参数;根据待同步数据表的数据量级别预估待同步数据表在同步任务中调度的单位时间,设置待同步数据表的同步调度时间级别参数;根据待同步数据表的数据量级别预估待同步数据表在同步任务中需要开启同步节点数量,设置待同步数据表的同步节点权重参数。

以同步调度参数中的同步调度时间级别参数举例进行说明,具体在针对不同数据量级别的设置待同步数据表对应的同步调度时间级别参数的过程中,如果待同步数据表的数据量级别为一级,可以认为待同步数据表的数据量较大,需要耗费长时间来完成数据同步,所以可以将待同步数据表的同步调度时间级别可以设置1小时级别或者3小时级别等,如果待同步数据表的数据量级别为二级,可以认为待同步数据表的数据量居中,需要耗费中等时间来完成数据同步,所以可以将待同步数据表的同步调度时间级别设置为1小时级别或者30分钟级别等,如果待同步数据表的数据量级别为三级,可以认为待同步数据表的数据量较少,需要短时间即可完成数据同步,所以可以将待同步数据表的同步调度时间级别设置为5分钟级别或10分钟级别等。

209、根据所述待同步数据表所属业务方数据库,以及所述待同步数据表对应目标数据库的连接信息,按照预先设置的同步调度参数将业务方数据库中的待同步数据表同步至所述目标数据库中。

由于在接收数据同步指令后,业务方会预先统计待同步数据表的同步信息,如统计哪些数据表需要进行同步,待同步数据表对应目标数据库的连接信息,以及同步的截止时间限制等等,进一步根据统计得到的同步信息设置同步调度参数,即完成数据同步所需要的时间、同步调度时间级别以及同步节点权重参数业务方,例如,业务方要求在3日内完成15个数据表的数据同步任务,这里设置同步调度参数为同步时间参数为3天,同步调度时间级别参数为1天级别,同步节点权重参数为5台服务器,每台服务器每日分配至少1个数据表完成数据同步任务,进一步按照预先设置的同步调度参数实现将业务方中的待同步数据表同步至目标数据库。

进一步地,作为图1的具体实现,本发明实施例提供了一种数据同步的同步装置,如图3所示,所述装置包括:

接收单元31,可以用于接收数据同步的触发指令,所述触发指令携带有业务方数据库中待同步数据表的标识信息。

查询单元32,可以用于根据所述待同步数据表的标识信息从预先创建的业务方信息中查询所述待同步数据表所属业务方数据库,以及所述待同步数据表对应目标数据库的连接信息,所述预先创建的业务方信息中记录有各个业务方数据库中需要同步的数据表的标识信息以及各个数据表对应目标数据库的连接信息。

同步单元33,可以用于根据所述待同步数据表所属业务方数据库,以及所述待同步数据表对应目标数据库的连接信息,按照预先设置的同步调度参数将业务方数据库中的待同步数据表同步至所述目标数据库中。

本发明提供的一种数据同步的装置,通过预先创建各个业务方书库中数据表的标识信息以及各个业务方数据库提供给数据表对应目标数据库的连接信息,在接收到数据同步的触发指令后,根据待同步数据表的标识信息从预先创建的业务方信息中查询待同步数据表所属业务方数据库,以及目标数据库的连接信息,进而便于将业务方数据库中国待同步数据表同步至目标数据库中。与目前通过人为手动界面拖拽的方式相比,本发明能够将待同步表的标识标识、待同步数据表所属业务方数据库以及提供给待同步数据表对应目标数据库的连接信息作为动态变量进行传递,实现数据表在业务方数据库与目标数据同步之间的快速同步,由此避免了大量重复性的人为手动操作,节省了大量人力和物力,提高了业务方数据库与目标数据库同步的效率和精确度。

作为图3中所示数据同步的装置的进一步说明,图4是根据本发明实施例另一种数据同步的装置的结构示意图,如图4所示,所述装置还包括:

获取单元34,可以用于在所述根据所述待同步数据表的标识信息从预先创建的业务方信息中查询所述待同步数据表所属业务方数据库,以及所述待同步数据表对应目标数据库的连接信息之前,获取各个业务方数据库在创建数据表时为每个数据表生成的标识信息;

统计单元35,可以用于根据各个业务方上传的数据同步任务,统计数据同步任务中各个业务方需要同步的数据表以及各个数据表对应目标数据库的连接信息;

生成单元36,可以用于将所述各个业务方需要同步的数据表以及各个数据表对应目标数据库的连接信息生成业务方信息。

进一步地,所述装置还包括:

更新单元37,可以用于在所述将所述各个业务方需要同步的数据表以及各个数据表对应目标数据库的连接信息生成业务方信息之后,按照预设时间间隔监控所述各个业务方上传的数据同步任务,根据所述各个业务方上传的数据同步任务,更新所述业务方信息。

进一步地,所述装置还包括:

确定单元38,可以用于在所述根据所述待同步数据表所属业务方数据库,以及所述待同步数据表对应目标数据库的连接信息,按照预先设置的同步调度参数将业务方数据库中的待同步数据表同步至所述目标数据库中之前根据所述待同步数据表对应数据量的大小,确定所述待同步数据表的数据量级别;

设置单元39,可以用于根据所述待待同步数据表的数据量级别,设置所述待同步数据表对应的同步调度参数。

进一步地,所述统计单元35包括:

解析模块351,可以用于通过解析所述各个业务方上传的数据同步任务,得到各个业务方需要同步的数据表的同步信息,所述同步信息至少包括数据表在业务方数据库中的标识信息以及数据表对应目标数据库的连接信息;

统计模块352,可以用于根据所述各个业务方需要同步的数据表的同步信息,统计数据同步任务中各个业务方需要同步的数据表以及各个数据表对应目标数据库的连接信息。

进一步地,所述各个数据表对应目标数据库的连接信息记录有数据表对应目标数据库的多个连接字段,所述生成单元36包括:

查找模块361,可以用于按照所述各个业务方需要同步的数据表的标识信息,查找各个数据表对应目标数据库的多个连接字段;

生成模块362,可以用于将所述各个数据表对应目标数据库的多个连接字段息生成业务方信息。

进一步地,所述同步调度参数包括同步时间参数、同步调度时间级别参数以及同步节点权重参数,所述设置单元39包括:

第一设置模块391,可以用于根据所述待同步数据表的数据量级别预估待同步数据表完成同步任务所需要的时间,设置所述待同步数据表的同步时间参数;

第二设置模块392,可以用于根据所述待同步数据表的数据量级别预估待同步数据表在同步任务中调度的单位时间,设置所述待同步数据表的同步调度时间级别参数;

第三设置模块393,可以用于根据所述待同步数据表的数据量级别预估待同步数据表在同步任务中需要开启同步节点数量,设置所述待同步数据表的同步节点权重参数。

需要说明的是,本实施例提供的一种数据同步的装置所涉及各功能单元的其他相应描述,可以参考图1和图2中的对应描述,在此不再赘述。

基于上述如图1和图2所示方法,相应的,本实施例还提供了一种存储介质,其上存储有计算机程序,该程序被处理器执行时实现上述如图1和图2所示的数据同步的方法。

基于这样的理解,本申请的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是cd-rom,u盘,移动硬盘等)中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施场景所述的方法。

基于上述如图1、图2所示的方法,以及图3、图4所示的虚拟装置实施例,为了实现上述目的,本申请实施例还提供了一种计算机设备,具体可以为个人计算机、服务器、网络设备等,该实体设备包括存储介质和处理器;存储介质,用于存储计算机程序;处理器,用于执行计算机程序以实现上述如图1和图2所示的数据同步的方法。

可选地,该计算机设备还可以包括用户接口、网络接口、摄像头、射频(radiofrequency,rf)电路,传感器、音频电路、wi-fi模块等等。用户接口可以包括显示屏(display)、输入单元比如键盘(keyboard)等,可选用户接口还可以包括usb接口、读卡器接口等。网络接口可选的可以包括标准的有线接口、无线接口(如蓝牙接口、wi-fi接口)等。

本领域技术人员可以理解,本实施例提供的数据同步的的实体设备结构并不构成对该实体设备的限定,可以包括更多或更少的部件,或者组合某些部件,或者不同的部件布置。

存储介质中还可以包括操作系统、网络通信模块。操作系统是管理上述计算机设备硬件和软件资源的程序,支持信息处理程序以及其它软件和/或程序的运行。网络通信模块用于实现存储介质内部各组件之间的通信,以及与该实体设备中其它硬件和软件之间通信。

通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到本申请可以借助软件加必要的通用硬件平台的方式来实现,也可以通过硬件实现。通过应用本申请的技术方案,与目前现有技术相比,本发明能够将待同步表的标识、待同步数据表所属业务方数据库以及提供给待同步数据表对应目标数据库的连接信息作为动态变量进行传递,实现数据表在业务方数据库与目标数据同步之间的快速同步,由此避免了大量重复性的人为手动操作,节省了大量人力和物力,提高了业务方数据库与目标数据库同步的效率和精确度。

本领域技术人员可以理解附图只是一个优选实施场景的示意图,附图中的模块或流程并不一定是实施本申请所必须的。本领域技术人员可以理解实施场景中的装置中的模块可以按照实施场景描述进行分布于实施场景的装置中,也可以进行相应变化位于不同于本实施场景的一个或多个装置中。上述实施场景的模块可以合并为一个模块,也可以进一步拆分成多个子模块。

上述本申请序号仅仅为了描述,不代表实施场景的优劣。以上公开的仅为本申请的几个具体实施场景,但是,本申请并非局限于此,任何本领域的技术人员能思之的变化都应落入本申请的保护范围。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1