一种数据处理方法及系统与流程

文档序号:32889498发布日期:2023-01-12 22:45阅读:来源:国知局

技术特征:
1.一种数据处理方法,其特征在于,包括:数据采集节点获取分配的数据分片中存储数据的元数据信息,并发送至所述数据采集节点对应的信息管理节点;所述信息管理节点接收元数据信息;所述信息管理节点将所述元数据信息存储在关联的信息缓存库中;所述信息管理节点将所述关联的信息缓存库中的元数据信息周期性同步至信息数据库中。2.根据权利要求1所述的方法,其特征在于,所述数据采集节点获取分配的数据分片中存储数据的元数据信息,包括:当检测到所述数据分片中存储数据发生定义变更引起的元数据信息变更时,所述信息管理节点生成所述数据分片中存储数据的元数据采集任务,并发送至所述数据分片对应的采集组;所述采集组中目标采集节点接收所述元数据采集任务;所述目标采集节点在所述采集组中选择所述数据采集节点,并向所述数据采集节点分配所述元数据采集任务;所述数据采集节点根据所述元数据采集任务在所述数据分片中采集存储数据的元数据信息。3.根据权利要求2所述的方法,其特征在于,所述目标采集节点在所述采集组中选择所述数据采集节点,包括:所述目标采集节点获取所述采集组中处于工作模式的节点;所述目标采集节点在所述处于工作模式的节点中选择所述数据采集节点。4.根据权利要求3所述的方法,其特征在于,还包括:所述目标采集节点根据所述采集组包括的节点的节点状态信息,调整所述采集组包括的节点的模式类型,所述模式类型包括工作模式或静默模式,所述节点状态信息包括:所述采集组的节点的负载状态或者所述采集组中节点的故障状态。5.根据权利要求1所述的方法,其特征在于,所述信息数据库的数量有多个,各所述信息数据库中存储的数据相同。6.根据权利要求1所述的方法,其特征在于,所述方法还包括:所述信息管理节点获取数据查询请求;所述信息管理节点根据所述数据查询请求在所述信息管理节点关联的信息缓存库和所述其他信息管理节点关联的信息缓存库中进行查询,其中,所述信息管理节点对应的采集组和所述其他信息管理节点对应的采集组不同,所述信息管理节点对应的采集组包括所述信息管理节点对应的数据采集节点;在查询结果为空的情况下,所述信息管理节点根据所述数据查询请求在所述信息数据库中进行查询。7.根据权利要求1所述的方法,其特征在于,还包括:在所述信息管理节点为目标管理节点的情况下,所述目标管理节点获取所述其他信息管理节点的故障状态;在存在故障状态为故障的其他信息管理节点的情况下,所述目标管理节点将故障的其
他信息管理节点对应的采集组,分配到故障状态为正常的其他信息管理节点,以使所述故障状态为正常的其他信息管理节点接收所述故障的其他信息管理节点对应的采集组上报的元数据信息。8.一种数据处理系统,其特征在于,应用于权利要求1-7任一项所述的数据处理方法,包括:数据采集节点、信息管理节点、所述信息管理节点关联的信息缓存库和信息数据库;数据采集节点,用于获取分配的数据分片中存储数据的元数据信息,并发送至对应的信息管理节点;所述信息管理节点,用于接收元数据信息;所述信息管理节点,用于将所述元数据信息存储在关联的信息缓存库中;所述信息管理节点,用于将所述关联的信息缓存库中的元数据信息周期性同步至所述信息数据库中。9.根据权利要求8所述的数据处理系统,其特征在于,还包括:采集组,所述采集组包括目标采集节点和所述数据采集节点;所述信息管理节点,用于当检测到所述数据分片中存储数据的元数据信息变更时,生成元数据采集任务,并发送至所述数据分片对应的采集组;所述目标采集节点,用于接收所述元数据采集任务;所述目标采集节点,用于在所述采集组中选择所述数据采集节点,并向所述数据采集节点分配所述元数据采集任务;所述数据采集节点,用于根据所述元数据采集任务在所述数据分片中采集存储数据的元数据信息。10.根据权利要求8所述的数据处理系统,其特征在于,所述信息管理节点为目标管理节点,还包括:其他信息管理节点;所述目标管理节点,用于获取所述其他信息管理节点的故障状态;所述目标管理节点,用于在存在故障状态为故障的其他信息管理节点的情况下,将故障的其他信息管理节点对应的采集组,分配到故障状态为正常的其他信息管理节点,以使所述故障状态为正常的其他信息管理节点接收所述故障的其他信息管理节点对应的采集组上报的元数据信息。

技术总结
本发明公开了一种数据处理方法及系统,其中,所述数据处理方法,包括:数据采集节点获取分配的数据分片中存储数据的元数据信息,并发送至数据采集节点对应的信息管理节点;信息管理节点接收元数据信息;信息管理节点将元数据信息存储在关联的信息缓存库中;信息管理节点将关联的信息缓存库中的元数据信息周期性同步至信息数据库中。通过上述技术方案,本发明提高了信息数据库对元数据的处理性能,提高了信息数据库的健壮性。信息数据库的健壮性。信息数据库的健壮性。


技术研发人员:凡刚 严俊
受保护的技术使用者:金篆信科有限责任公司
技术研发日:2022.10.31
技术公布日:2023/1/11
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1