大容量数据移行方法及装置与流程

文档序号:30582056发布日期:2022-06-29 12:51阅读:来源:国知局

技术特征:
1.一种大容量数据移行方法,其特征在于,所述方法包含:根据移行需求生成移行表清单,并提取源数据库与目标数据库的连接信息和目标数据库的格式要求;根据所述移行表清单、源数据库与目标数据库的连接信息生成建表脚本并于目标数据库中执行;根据所述源数据库的连接信息和所述移行表清单提取对应数据生成提取数据文件,通过所述格式要求对所述提取数据文件进行格式转制和数据清洗获得移行数据文件;将所述移行数据文件导入所述目标数据库。2.根据权利要求1所述的大容量数据移行方法,其特征在于,根据所述移行表清单、源数据库与目标数据库的连接信息生成建表脚本并于目标数据库中执行包含:根据所述移行表清单和所述目标数据库的连接信息访问源数据库生成目标数据库建表脚本;将所述目标数据库建表脚本于目标数据库中执行。3.根据权利要求1所述的大容量数据移行方法,其特征在于,根据所述源数据库的连接信息和所述移行表清单提取对应数据生成提取数据文件包含:根据移行需求获得导出的数据文件的文件格式;根据所述源数据库的连接信息和所述移行表清单提取对应的导出数据,根据所述文件格式将所述导出数据转换生成提取数据文件。4.根据权利要求3所述的大容量数据移行方法,其特征在于,所述文件格式包含utf或gbk。5.根据权利要求1所述的大容量数据移行方法,其特征在于,通过所述格式要求对所述提取数据文件进行格式转制和数据清洗获得移行数据文件包含:根据所述格式要求获得非法字符描述清单,根据所述非法字符描述清单对所述提取数据文件进行数据清洗获得待转制文本;根据所述格式要求将所述待转制文本转换为目标数据库对应的文本格式获得移行数据文件。6.根据权利要求5所述的大容量数据移行方法,其特征在于,根据所述格式要求将所述待转制文本转换为目标数据库对应的文本格式获得移行数据文件包含:获取源数据库与目标数据库之间的字段映射关系,根据所述字段映射关系将所述待转制文本转换为目标数据库对应的文本格式获得移行数据文件。7.根据权利要求1至6中任一项所述的大容量数据移行方法,其特征在于,所述源数据库为sqlserver数据库,所述目标数据库为gauss数据库。8.一种大容量数据移行装置,其特征在于,所述装置包含:提取模块、执行模块、处理模块和导入模块;所述提取模块用于根据移行需求生成移行表清单,并提取源数据库与目标数据库的连接信息和目标数据库的格式要求;所述执行模块用于根据所述移行表清单、源数据库与目标数据库的连接信息生成建表脚本并于目标数据库中执行;所述处理模块用于根据所述源数据库的连接信息和所述移行表清单提取对应数据生
成提取数据文件,通过所述格式要求对所述提取数据文件进行格式转制和数据清洗获得移行数据文件;所述导入模块用于将所述移行数据文件导入所述目标数据库。9.一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至7任一所述方法。10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有由计算机执行权利要求1至7任一所述方法的计算机程序。

技术总结
本申请提供了一种大容量数据移行方法及装置,涉及数据处理领域,可应用于金融领域和其他领域,所述方法包含:根据移行需求生成移行表清单,并提取源数据库与目标数据库的连接信息和目标数据库的格式要求;根据所述移行表清单、源数据库与目标数据库的连接信息生成建表脚本并于目标数据库中执行;根据所述源数据库的连接信息和所述移行表清单提取对应数据生成提取数据文件,通过所述格式要求对所述提取数据文件进行格式转制和数据清洗获得移行数据文件;将所述移行数据文件导入所述目标数据库。据库。据库。


技术研发人员:屠方轫 朱义毅 林振溪 李冰
受保护的技术使用者:中国工商银行股份有限公司
技术研发日:2022.03.24
技术公布日:2022/6/28
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1