一种增量数据同步方法、装置、设备及可读存储介质与流程

文档序号:30580230发布日期:2022-06-29 11:46阅读:来源:国知局

技术特征:
1.一种增量数据同步方法,其特征在于,包括:控制源数据库开启cdc,并禁用所述cdc中的捕获作业,以使所述源数据库中日志的状态被标记为待复制状态;从所述源数据库中获取当前次扫描对应的表结构信息,将所述当前次扫描对应的表结构信息与上次扫描时对应的表结构信息进行对比,以获取表结构变化信息,且将所述表结构变化信息发送至目的数据库;利用fn_dblog从所述源数据库的日志中扫描获取所述当前次扫描对应的日志,并对所述当前次扫描对应的日志进行解析,获取增量数据,并将所述增量数据发送至所述目的数据库。2.根据权利要求1所述的增量数据同步方法,其特征在于,在利用所述fn_dblog对最后一次扫描对应的日志进行解析,获取增量数据之后,还包括:获取被标记为待复制状态的日志,并将所述日志的状态从待复制状态修改为已分发状态。3.根据权利要求1所述的增量数据同步方法,其特征在于,还包括:判断所述源数据库中日志的大小是否超过预设阈值;若是,则将所述日志的状态从待复制状态修改为已分发状态。4.根据权利要求1所述的增量数据同步方法,其特征在于,利用fn_dblog从所述源数据库的日志中扫描获取所述当前次扫描对应的日志,包括:根据设置的结束lsn、预设查询条数及上次扫描时对应的最大lsn,利用所述fn_dblog从所述源数据库的日志中扫描获取所述当前次扫描对应的日志;其中,当所述当前次扫描为第一次扫描时,则所述上次扫描时对应的最大lsn为设置的初始lsn。5.根据权利要求1所述的增量数据同步方法,其特征在于,还包括:若确定所述表结构变化信息出现错误,则进行报错。6.根据权利要求1所述的增量数据同步方法,其特征在于,还包括:将所述表结构变化信息及所述增量数据存储在本地日志文件中;将所述表结构变化信息和所述增量数据分别发送至目的数据库,包括:定时从所述本地日志文件中获取所述表结构变化信息及所述增量数据,并将获取到的所述表结构变化信息及所述增量数据分别发送至所述目的数据库;其中,所述表结构变化信息先于所述增量数据发送至所述目的数据库。7.根据权利要求6所述的增量数据同步方法,其特征在于,将所述表结构变化信息及所述增量数据分别发送至所述目的数据库,包括:将所述表结构变化信息及所述增量数据分别传入消息中间件,以通过所述消息中间件将所述表结构变化信息及所述增量数据分别传输至所述目的数据库所在的目的端,由所述目的端从所述消息中间件中分别拉取所述表结构变化信息及所述增量数据并分别加载到所述目的数据库中。8.一种增量数据同步装置,其特征在于,包括:控制模块,用于控制源数据库开启cdc,并禁用所述cdc中的捕获作业,以使所述源数据库中日志的状态被标记为待复制状态;第一获取模块,用于从所述源数据库中获取当前次扫描对应的表结构信息,将所述当
前次扫描对应的表结构信息与上次扫描时对应的表结构信息进行对比,以获取表结构变化信息,且将所述表结构变化信息发送至目的数据库;第二获取模块,用于利用fn_dblog从所述源数据库的日志中扫描获取所述当前次扫描对应的日志,并对所述当前次扫描对应的日志进行解析,获取增量数据,并将所述增量数据发送至所述目的数据库。9.一种增量数据同步设备,其特征在于,包括:存储器,用于存储计算机程序;处理器,用于执行所述计算机程序时实现如权利要求1至7任一项所述的增量数据同步方法的步骤。10.一种可读存储介质,其特征在于,所述可读存储介质中存储有计算机程序,所述计算机程序被处理器执行时实现如权利要求1至7任一项所述的增量数据同步方法的步骤。

技术总结
本申请公开了一种增量数据同步方法、装置、设备及可读存储介质,方法包括:控制源数据库开启CDC,禁用CDC中的捕获作业;从源数据库中获取当前次扫描对应的表结构信息,将当前次扫描的表结构信息与上次扫描时对应的表结构信息进行对比,以获取表结构变化信息,且将表结构变化信息发送至目的数据库;利用fn_dblog从源数据库的日志中扫描获取当前次扫描对应的日志,对当前次扫描对应的日志进行解析,获取增量数据,将增量数据发送至目的数据库。本申请公开的技术方案,结合CDC和fn_dblog进行增量数据的同步,以防止日志被截断,同时能识别表结构变化信息,且由于无需依赖自增字段,因此,可有效且可靠地进行增量数据同步。可有效且可靠地进行增量数据同步。可有效且可靠地进行增量数据同步。


技术研发人员:邓光超 高传集 江燕 孙思清 方建勋 肖雪
受保护的技术使用者:浪潮云信息技术股份公司
技术研发日:2022.03.29
技术公布日:2022/6/28
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1