一种json数据快速同步及控制的方法及系统装置与流程

文档序号:14609185发布日期:2018-06-05 20:27阅读:来源:国知局
一种json数据快速同步及控制的方法及系统装置与流程

技术特征:

1.一种json数据快速同步及控制的方法,其特征在于,所述方法包括:

配置文件编辑模块获取同步数据的同步需求文件,创建配置文件;

配置文件解析模块读取所述配置文件,解析识别每个同步数据的json数据源与唯一的目标数据库,并建立数据库连接;

json数据读取模块获取解析的所述json数据源读取json数据,按照配置中的数据字段映射关系生成批量同步的SQL语句;

关系型数据库写入模块根据所述数据库连接,批量写入json数据至目标数据库;

数据同步过程控制模块对上述数据同步方法过程进行控制。

2.根据权利要求1所述的一种json数据快速同步及控制的方法,其特征在于,所述json数据为字符型的数据,所述json数据源包含但不限于.txt文件、.json文件、.js文件。

3.根据权利要求2所述的一种json数据快速同步及控制的方法,其特征在于,所述配置文件包含json数据源文件信息、目标数据库信息和字段映射关系。

4.根据权利要求3所述的一种json数据快速同步及控制的方法,其特征在于,所述json数据源文件包含的json数据格式为数组形式,并且数组的每个元素为一个json对象,每个json对象包含相同的数据属性。

5.根据权利要求4所述的一种json数据快速同步及控制的方法,其特征在于,所述目标数据库为关系型数据库,数据存储在每个数据表中,数据表依托于数据库,数据表包含数据行与列,数据列即字段,关系型数据包含但不限于Oracle、MySql、SQL Server、MariaDB。

6.根据权利要求5所述的一种json数据快速同步及控制的方法,其特征在于,还包括日志记录与统计模块实时记录同步过程中的参数、指标。

7.一种json数据快速同步及控制的系统,其特征在于,所述系统包括:

配置文件编辑模块,用于对配置文件进行编辑、修改,修改后,重新启动同步系统即生效;

配置文件解析模块,用于自动读取配置文件,并进行准确解析,识别每个同步数据的源数据与目标数据库,并建立连接;

json数据读取模块,用于自动读取json数据源,按照配置文件的数据字段映射关系生成批量同步的SQL语句;

关系型数据库写入模块,用于根据所述数据库连接,批量写入json数据至目标数据库;

数据同步过程控制模块,用于启动同步程序后,对同步过程进行控制;

日志记录与统计模块,用于实时记录同步过程中的参数、指标。

8.一种json数据快速同步及控制的系统装置,其特征在于,所述系统装置包括:

配置文件编辑模块,用于对配置文件进行编辑、修改,修改后,重新启动同步系统即生效;

配置文件解析模块,用于自动读取配置文件,并进行准确解析,识别每个同步数据的源数据与目标数据库,并建立连接;

json数据读取模块,用于自动读取json数据源,按照配置文件的数据字段映射关系生成批量同步的SQL语句;

关系型数据库写入模块,用于根据所述数据库连接,批量写入json数据至目标数据库;

数据同步过程控制模块,用于启动同步程序后,对同步过程进行控制;

日志记录与统计模块,用于实时记录同步过程中的参数、指标;

所述系统装置还包括存储器、处理器、总线,所述存储器同所述处理器通过总线进行数据连接,所述存储器存储有多条操作指令,所述处理器加载所述操作指令并执行,实现权力要求1-6所述的方法。

当前第2页1 2 3 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1