一种数据迁移方法、装置、电子设备以及存储介质与流程

文档序号:29856587发布日期:2022-04-30 09:32阅读:来源:国知局

技术特征:
1.一种数据迁移方法,其特征在于,应用于数据迁移服务系统,所述方法包括:在第一集群中的源实例产生新的数据时,将所述新的数据作为所述源实例对应的待迁移数据;对于所述待迁移数据中各个类型的数据,采用预设同步方式,通过同步管道将所述数据存储到与数据的类型匹配的队列中;将各个所述队列中的数据输出到第二集群中的目标实例。2.根据权利要求1所述的方法,其特征在于,所述各个类型的数据包括正常数据和异常数据;对于所述待迁移数据中各个类型的数据,采用预设同步方式,通过同步管道将所述数据存储到与数据的类型匹配的队列中,包括:对于所述待迁移数据中的正常数据,采用预设同步方式,通过同步管道将所述正常数据存储到第一队列中;对于所述待迁移数据中的异常数据,采用预设同步方式,通过同步管道将所述异常数据存储到第二队列中。3.根据权利要求1所述的方法,其特征在于,在将各个所述队列中的数据输出到第二集群中的目标实例后,所述方法还包括:在所述源实例的索引文件的总数量、所有文件的总数量以及每个索引文件中文件的数量,与所述目标实例的相应参数一致,且所述同步管道中输入文件的数量与输出文件的数量一致时,确定数据迁移成功。4.根据权利要求1所述的方法,其特征在于,所述方法还包括:检测所述同步管道的运行状态是否正常;通过同步管道将所述数据存储到与数据的类型匹配的队列中,包括:在所述同步管道的运行状态正常时,通过同步管道将所述数据存储到与数据的类型匹配的队列中。5.根据权利要求1所述的方法,其特征在于,在通过同步管道将所述数据存储到与数据的类型匹配的队列的过程中,所述方法还包括:根据所述源实例的索引文件的总数量、所有文件的总数量以及每个索引文件中文件的数量中的一者或多者,分别与所述目标实例的相应参数的对比结果,得到数据迁移进度;输出所述数据迁移进度。6.根据权利要求1所述的方法,其特征在于,在通过同步管道将所述数据存储到与数据的类型匹配的队列的过程中,所述方法还包括:获取所述第一集群中的源实例的master节点状态,和所述第二集群中的目标实例的master节点状态;通过同步管道将所述数据存储到与数据的类型匹配的队列中,包括:在所述源实例的master节点状态和所述目标实例的master节点状态均表示未重新选主时,通过同步管道将所述数据存储到与数据的类型匹配的队列中。7.根据权利要求1所述的方法,其特征在于,在通过同步管道将所述数据存储到与数据的类型匹配的队列之前,所述方法还包括:对所述第一集群中的源实例、所述第二集群中的目标实例以及所述第一队列与所述第二队列所在的存储系统的存活状态进行检测;
通过同步管道将所述数据存储到与数据的类型匹配的队列中,包括:在所述源实例、所述目标实例以及所述存储系统各自的存活状态均检测通过时,通过同步管道将所述数据存储到与数据的类型匹配的队列。8.根据权利要求1所述的方法,其特征在于,对于所述待迁移数据中各个类型的数据,采用预设同步方式,通过同步管道将所述数据存储到与数据的类型匹配的队列中,包括:将全量同步、增量同步以及全量加增量同步中的任意一种方式确定为目标同步方式;对于所述待迁移数据中各个类型的数据,采用所述目标同步方式,通过同步管道将所述数据存储到与数据的类型匹配的队列中。9.一种数据迁移装置,其特征在于,应用于数据迁移服务系统,所述装置包括:第一确定模块,用于在第一集群中的源实例产生新的数据时,将所述新的数据作为所述源实例对应的待迁移数据;存储模块,用于对于所述待迁移数据中各个类型的数据,采用预设同步方式,通过同步管道将所述数据存储到与数据的类型匹配的队列中;第一输出模块,用于将各个所述队列中的数据输出到第二集群中的目标实例。10.一种终端设备,其特征在于,包括处理器、通信接口、存储器和通信总线,其中,处理器,通信接口,存储器通过通信总线完成相互间的通信;存储器,用于存放计算机程序;处理器,用于执行存储器上所存放的程序时,实现权利要求1至8任一所述的数据迁移方法中的步骤。11.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如权利要求1至8中任一所述的数据迁移方法中的步骤。

技术总结
本申请提供了一种数据迁移方法、装置、电子设备以及存储介质。所述方法应用于数据迁移服务系统,所述方法包括:在第一集群中的源实例产生新的数据时,将所述新的数据作为所述源实例对应的待迁移数据;对于所述待迁移数据中各个类型的数据,采用预设同步方式,通过同步管道将所述数据存储到与数据的类型匹配的队列中;将各个所述队列中的数据输出到第二集群中的目标实例。通过该数据迁移方法,可以在第一集群中的源实例产生新的数据时,立即将新产生的数据同步迁移到第二集群中的目标实例中,实现了ElasticSearch集群之间的数据的实时迁移。移。移。


技术研发人员:王金贺 刘明伟 刘竹青 任昊文 张凌志 姜唯 敖知琪 陈禹旭
受保护的技术使用者:南方电网数字电网研究院有限公司
技术研发日:2022.01.20
技术公布日:2022/4/29
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1