一种数据处理方法、装置、电子设备和计算机存储介质与流程

文档序号:31872801发布日期:2022-10-21 20:04阅读:来源:国知局

技术特征:
1.一种数据处理方法,其特征在于,包括:确定映射关系队列,所述映射关系队列中包含处理模块所提交的日志号与内存表所提交的序列号之间的映射关系;确定出所述内存表所提交的最大序列号,并从所述映射关系队列中查询出所述最大序列号所对应的日志号;将所述日志号以及所述最大序列号的组合存储至所述内存表所对应的数据文件中;在故障重启的情况下,遍历内存中所包含的多个数据文件,并将最大的日志号发送至所述处理模块;所述最大的日志号用于供所述处理模块将所述最大的日志号作为快照点,并根据所述快照点进行数据回放。2.根据权利要求1所述的方法,其特征在于,所述处理模块包括raft模块,所述确定映射关系队列,包括:确定待提交的数据以及所述待提交的数据对应的日志号,所述日志号由所述raft模块根据历史所提交的数据所确定;将所述待提交的数据存储至内存,并根据历史所存储的数据确定出所述待提交的数据对应的序列号;建立所述日志号与所述序列号之间的映射关系,并由多个所述映射关系组成映射关系队列。3.根据权利要求1所述的方法,其特征在于,所述确定出所述内存表所提交的最大序列号,包括:确定所述内存表中按照时间顺序排列的,最新存储的数据所对应的序列号为最大序列号。4.根据权利要求1所述的方法,其特征在于,所述将所述日志号以及所述最大序列号的组合存储至所述内存表所对应的数据文件中,包括:在所述内存表持久化到硬盘的情况下,将所述日志号以及所述最大序列号的组合存储至所述内存表所对应的数据文件中。5.一种数据处理装置,其特征在于,包括:第一确定模块,用于确定映射关系队列,所述映射关系队列中包含处理模块所提交的日志号与内存表所提交的序列号之间的映射关系;第二确定模块,用于确定出所述内存表所提交的最大序列号,并从所述映射关系队列中查询出所述最大序列号所对应的日志号;存储模块,用于将所述日志号以及所述最大序列号的组合存储至所述内存表所对应的数据文件中;处理模块,用于在故障重启的情况下,遍历内存中所包含的多个数据文件,并将最大的日志号发送至所述处理模块;所述最大的日志号用于供所述处理模块将所述最大的日志号作为快照点,并根据所述快照点进行数据回放。6.根据权利要求5所述的装置,其特征在于,所述处理模块包括raft模块,所述第一确定模块具体用于确定待提交的数据以及所述待提交的数据对应的日志号,所述日志号由所述raft模块根据历史所提交的数据所确定;将所述待提交的数据存储至内存,并根据历史所存储的数据确定出所述待提交的数据对应的序列号;建立所述日志号与所述序列号之间
的映射关系,并由多个所述映射关系组成映射关系队列。7.根据权利要求5所述的装置,其特征在于,所述第二确定模块具体用于确定所述内存表中按照时间顺序排列的,最新存储的数据所对应的序列号为最大序列号,并从所述映射关系队列中查询出所述最大序列号所对应的日志号。8.根据权利要求5所述的装置,其特征在于,所述存储模块具体用于在所述内存表持久化到硬盘的情况下,将所述日志号以及所述最大序列号的组合存储至所述内存表所对应的数据文件中。9.一种电子设备,其特征在于,包括处理组件以及存储组件;所述存储组件存储一个或多个计算机指令;所述一个或多个计算机指令用以被所述处理组件调用执行,实现如权利要求1-4任一项所述的数据处理方法。10.一种计算机存储介质,其特征在于,存储有计算机程序,所述计算机程序被计算机执行时,实现如权利要求1-4任一项所述的数据处理方法。

技术总结
本申请实施例提供了一种数据处理方法、装置、电子设备和计算机存储介质。其中,确定映射关系队列,所述映射关系队列中包含处理模块所提交的日志号与内存所提交的序列号之间的映射关系;确定出内存表所提交的最大序列号,并从所述映射关系队列中查询出所述最大序列号所对应的日志号;将所述日志号以及所述最大序列号的组合存储至所述内存表所对应的数据文件中;在故障重启的情况下,遍历内存中所包含的多个数据文件,并将最大的日志号发送至处理模块;所述最大的日志号用于供处理模块将所述最大的日志号作为快照点,并根据所述快照点进行数据回放。本实施例中,不仅能够提高快照点的准确度,还有利于减少处理模块的资源损耗。还有利于减少处理模块的资源损耗。还有利于减少处理模块的资源损耗。


技术研发人员:洪俊望
受保护的技术使用者:北京达佳互联信息技术有限公司
技术研发日:2022.06.01
技术公布日:2022/10/20
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1