数据管理的方法、装置、系统及存储介质与流程

文档序号:36645809发布日期:2024-01-06 23:29阅读:20来源:国知局
数据管理的方法、装置、系统及存储介质与流程

本技术涉及通信领域,特别涉及一种数据管理的方法、装置、系统及存储介质。


背景技术:

1、数据库是互联网技术(internet technology,it)系统的核心资产,it系统使用数据库来存储数据。通过建立相隔较远的两个数据库,该两个数据库相互容灾,使该两个数据库内保存的数据一致,从而保证it系统中的数据安全性。这样当其中一处数据库因意外(如火灾或地震等)停止工作,另一处数据库继续提供服务。

2、为了便于说明,将该两个数据库分别称为第一数据库和第二数据库,在it系统的结构化查询语言(structured query language,sql)接入层设置代理模块,it系统接收用于存储数据的sql语句,it系统的代理模块基于该sql语句同时向第一数据库和第二数据库存储相同的数据。如此,使第一数据库中保存的数据和第二数据库中保存的数据保持一致。

3、目前需要对sql接入层进行改造,使sql接入层包括代理模块,使代理模块基于接收的sql语句同步向两个数据库存储相同数据,然而对sql接入层的改造难度大,运营成本高且维护困难。


技术实现思路

1、本技术提供了一种数据管理的方法、装置、系统及存储介质,以降低运营成本以及维护难度。所述技术方案如下:

2、第一方面,本技术提供了一种数据管理的方法,在所述方法中,获取第一描述信息,第一描述信息用于描述第一行组,第一行组是第一存储系统在指定时间段内保存的行组,第一行组包括至少一行数据。基于第一描述信息将第一行组保存到第二存储系统中。

3、由于第一描述信息用于描述第一行组,第一行组是第一存储系统在指定时间段内保存的行组,如此能够基于第一描述信息获取第一存储系统保存的第一行组。也就是说,在第一存储系统执行完用于保存第一行组的过程后,获取第一描述信息,基于第一描述信息从第一存储系统中得到第一行组,向第二存储系统中保存第一行组,保证第一存储系统中的数据和第二存储系统中的数据保持一致。这样对于第一存储系统保存数据的过程,不会修改该过程,即不用修改第一存储系统的sql接入层,从而降低运营成本以及维护难度。

4、在一种可能的实现方式中,第一描述信息包括第一事务的事务信息,第一事务是第一存储系统在指定时间段内执行完的事务。确定所述第一事务;从第一存储系统已产生的描述信息中,选择包括第一事务的事务信息的第一描述信息。由于第一事务是第一存储系统在指定时间段内执行完的事务,如此基于第一事务可以得到第一存储系统在指定时间段内新增的第一描述信息,从而基于第一描述信息得到第一存储系统在指定时间段内新增的第一行组。

5、在另一种可能的实现方式中,获取第一事务集合,第一事务集合包括第一存储系统在指定时间段的结束时刻执行的事务,且第一事务集合用于反映第一存储系统在该结束时刻之前已执行完的事务。基于第一事务集合确定第一事务。由于第一事务集合用于反映第一存储系统在该结束时刻之前已执行完的事务,从而通过第一事务集合能够准确地得到第一存储系统在指定时间段内执行完的第一事务。

6、在另一种可能的实现方式中,获取第二事务集合,第二事务集合包括第一存储系统在指定时间段的起始时刻执行的事务,且第二事务集合用于反映第一存储系统在该起始时刻之前已执行完的事务。基于第一事务集合和第二事务集合确定第一事务。由于第一事务集合用于反映第一存储系统在该结束时刻之前已执行完的事务,第二事务集合用于反映第一存储系统在该起始时刻之前已执行完的事务,从而通过第一事务集合和第二事务集合能够准确地得到第一存储系统在指定时间段内执行完的第一事务。

7、在另一种可能的实现方式中,基于行组范围,从第一存储系统已产生的描述信息中选择至少一个描述信息,该行组范围包括第一存储系统在指定时间段内操作的行组,至少一个描述信息中的每个描述信息包括的组标识对应的行组属于行组范围。从至少一个描述信息中,选择包括第一事务的事务信息的第一描述信息。

8、由于通过该行组范围选择至少一个描述信息,再从该至少一个描述信息中选择包括第一事务的事务信息的第一描述信息,这样在选择第一描述信息的过程中可以减少需要分析的描述信息数量,提高得到第一描述信息的效率。

9、在另一种可能的实现方式中,第一描述信息包括第一行组对应的数据片段的存储位置,该数据片段包括第一行组中的数据,第一存储系统和第二存储系统为相同类型的存储系统。基于该存储位置,获取该数据片段。向第二存储系统发送文件,该文件包括数据片段,该文件用于触发第二存储系统保存该数据片段。

10、由于第一存储系统和第二存储系统为相同类型的存储系统,所以第一存储系统保存第一行组的方式和第二存储系统保存第一行组的方式应当相同。由于该文件包括该数据片段,这样可以使第二存储系统保存该数据片段,使第一存储系统保存第一行组的方式和第二存储系统保存第一行组的方式相同,避免出现存储错误。

11、在另一种可能的实现方式中,该文件还包括第一行状态信息,第一行状态信息用于指示第一行组中未被删除的数据,该文件还用于触发第二存储系统保存第一行状态信息或基于第一行状态信息从该数据片段中删除第一行组中被删除的数据。如此,通过第一行状态信息,使第一存储系统保存的第一行组和第二存储系统保存的第一行组保持一致。

12、在另一种可能的实现方式中,该文件还包括第一行组的组标识和/或第一行组中的每列数据对应的列标识,该文件还用于触发第二存储系统基于第一行组的组标识和该每列数据对应的列标识获取第二描述信息,第二描述信息用于描述第一行组。由于第二描述信息用于描述第一行组,这样便于第二存储系统基于第二描述信息恢复第一行组。

13、在另一种可能的实现方式中,该文件还包括该每列数据对应的统计信息,第二描述信息还包括该每列数据对应的统计信息。该每列数据的统计信息可用于帮助第二存储系统从数据表中快速查询所需要的数据,该数据表为第一行组属于的数据表,即可提高查询数据的效率。

14、在另一种可能的实现方式中,第一描述信息包括第一行组的组标识和第一行组对应的数据片段的存储位置,该数据片段包括第一行组中的数据。基于该组标识和该存储位置,获取第一行组。向第二存储系统发送插入语句,该插入语句包括第一行组中的每行数据,该插入语句用于触发第二存储系统保存第一行组中的每行数据。由于获取的插入语句包括第一行组中的每行数据,这样第二存储系统接收该插入语句,通过执行该插入语句,便可快速向第一行组保存在第二存储系统中。

15、在另一种可能的实现方式中,获取第三描述信息,第三描述信息用于描述第一存储系统在指定时间段内从第二行组中删除的至少一行数据,第二行组为第一存储系统中保存的一个行组,第二存储系统保存有第二行组。基于第三描述信息,删除第二存储系统中保存的至少一行数据。由于第一存储系统在指定时间段删除该至少一行数据,基于第三描述信息,删除第二存储系统中保存的至少一行数据,从而保证第一存储系统保存的数据和第二存储系统保存的数据保持一致。

16、在另一种可能的实现方式中,第一存储系统和第二存储系统是相同类型的存储系统,第三描述信息包括第二行组的组标识和第二行状态信息,第二行状态信息用于指示至少一行数据。由于第二行状态信息用于指示至少一行数据,这样向第二存储系统发送第三描述信息,从而第二存储系统可以基于第三描述信息删除该至少一行数据,保证第一存储系统保存的数据和第二存储系统保存的数据保持一致。

17、在另一种可能的实现方式中,第三描述信息包括第二行组的组标识和第二行状态信息,第二行状态信息用于指示至少一行数据。基于该组标识和第二行状态信息,获取该至少一行数据中的每行数据的行标识。向第二存储系统发送删除语句,该删除语句包括该每行数据的行标识,该删除语句用于触发第二存储系统删除该至少一行数据。由于第一存储系统在指定时间段删除该至少一行数据,该删除语句包括该至少一行数据中的每行数据的行标识,这样第二存储系统基于该删除语句删除第二存储系统中保存的至少一行数据,从而保证第一存储系统保存的数据和第二存储系统保存的数据保持一致。

18、在另一种可能的实现方式中,第一存储系统为数据库系统或数据仓库系统,第二存储系统为数据库系统或数据仓库系统。

19、在另一种可能的实现方式中,第一行组中的每行数据是指定业务的数据。指定业务可以为关键业务,这样可以通过第二存储系统对关键业务的数据进行备份。

20、第二方面,本技术提供了一种数据管理的方法,在所述方法中,接收第一行组,第一行组是第一存储系统基于第一描述信息得到的,第一描述信息用于描述第一行组,第一行组是第一存储系统在指定时间段内保存的行组,第一行组包括至少一行数据。向第二存储系统保存第一行组。

21、由于第一描述信息用于描述第一行组,第一行组是第一存储系统在指定时间段内保存的行组,接收第一行组并向第二存储系统保存第一行组,保证第一存储系统中的数据和第二存储系统中的数据保持一致。由于第一行组是在第一存储系统保存第一行组后基于第一描述信息从第一存储系统中得到的,这样不用改变第一存储系统保存数据的过程,即不用修改第一存储系统的sql接入层,从而降低运营成本以及维护难度。

22、在一种可能的实现方式中,第一存储系统和所述第二存储系统是相同类型的系统。接收文件,该文件包括第一行组对应的数据片段,该数据片段包括第一行组中的至少一行数据。向第二存储系统保存该数据片段。

23、由于第一存储系统和第二存储系统为相同类型的存储系统,所以第一存储系统保存第一行组的方式和第二存储系统保存第一行组的方式应当相同。由于该文件包括该数据片段,这样可以使第二存储系统保存该数据片段,使第一存储系统保存第一行组的方式和第二存储系统保存第一行组的方式相同,避免出现存储错误。

24、在另一种可能的实现方式中,生成第二描述信息,第二描述信息用于描述第一行组。通过第二存储系统保存第二描述信息。由于第二描述信息用于描述第一行组,这样便于第二存储系统基于第二描述信息恢复第一行组。

25、在另一种可能的实现方式中,该文件还包括第一行组的组标识和/或第一行组中的每列数据对应的列标识,第二描述信息包括第一行组的组标识和该数据片段的存储位置,该存储位置是基于该每列数据对应的列标识得到的。

26、在另一种可能的实现方式中,该文件还包括第一行组中的每列数据对应的统计信息,第二描述信息还包括该每列数据对应的统计信息。该每列数据的统计信息可用于帮助第二存储系统从数据表中快速查询所需要的数据,该数据表为第一行组属于的数据表,即可提高查询数据的效率。

27、在另一种可能的实现方式中,该文件还包括第一行状态信息,第一行状态信息用于指示第一行组中未被删除的数据。通过第二存储系统保存第一行状态信息;或者,基于第一行状态信息从该数据片段中删除第一行组中被删除的数据。如此,通过第一行状态信息,使第一存储系统保存的第一行组和第二存储系统保存的第一行组保持一致。

28、在另一种可能的实现方式中,接收插入语句,该插入语句包括第一行组中的每行数据。向第二存储系统保存第一行组中的每行数据。由于插入语句包括第一行组中的每行数据,这样通过执行该插入语句,便可快速向第一行组保存在第二存储系统中,提高保存效率。

29、在另一种可能的实现方式中,接收第三描述信息,第三描述信息用于描述第一存储系统在所述指定时间段内从第二行组中删除的至少一行数据,第二行组为第一存储系统中保存的一个行组,第二存储系统保存有第二行组。基于第三描述信息删除第二存储系统中保存的至少一行数据。由于第一存储系统在指定时间段删除该至少一行数据,基于第三描述信息,删除第二存储系统中保存的至少一行数据,可以保证第一存储系统保存的数据和第二存储系统保存的数据保持一致。

30、在另一种可能的实现方式中,接收删除语句,该删除语句包括第二行组的至少一行数据中的每行数据的行标识,第二行组的至少一行数据是第一存储系统在该指定时间段内删除的数据,第二行组为第一存储系统中保存的一个行组,第二存储系统保存有第二行组。基于该每行数据的行标识,从第二存储系统中删除该每行数据。由于删除语句包括第一存储系统在指定时间段删除第二行组的每行数据的行标识,这样基于删除语句,可快速删除第二存储系统中保存的至少一行数据,提高删除效率。

31、在另一种可能的实现方式中,第一行组中的每行数据为指定业务的数据。

32、在另一种可能的实现方式中,第一存储系统为数据库系统或数据仓库系统,第二存储系统为数据库系统或数据仓库系统。

33、第三方面,本技术提供了一种数据管理的方法,在所述方法中,第一存储系统获取第一描述信息,第一描述信息用于描述第一行组,第一行组是第一存储系统在指定时间段内保存的行组,第一行组包括至少一行数据。第一存储系统基于第一描述信息向第二存储系统发送第一行组。第二存储系统保存第一行组。

34、由于第一描述信息用于描述第一行组,第一行组是第一存储系统在指定时间段内保存的行组,如此第一存储系统能够基于第一描述信息获取第一存储系统保存的第一行组。也就是说,在第一存储系统保存第一行组后,获取第一描述信息,基于第一描述信息从第一存储系统中获取第一行组,向第二存储系统中保存第一行组。这样不用改变第一存储系统保存数据的过程,即不用修改第一存储系统的sql接入层,从而降低运营成本以及维护难度。

35、在一种可能的实现方式中,第一描述信息包括第一事务的事务信息,第一事务是第一存储系统在指定时间段内执行完的事务。第一存储系统确定所述第一事务;从第一存储系统已产生的描述信息中,选择包括第一事务的事务信息的第一描述信息。由于第一事务是第一存储系统在指定时间段内执行完的事务,如此基于第一事务可以得到第一存储系统在指定时间段内新增的第一描述信息,基于第一描述信息得到第一存储系统在指定时间段内新增的第一行组。

36、在另一种可能的实现方式中,第一描述信息包括第一行组对应的数据片段的存储位置,该数据片段包括第一行组中的数据,第一存储系统和第二存储系统为相同类型的存储系统。第一存储系统基于该存储位置,获取该数据片段。向第二存储系统发送文件,该文件包括该数据片段。第二存储系统保存该数据片段。由于该文件包括该数据片段,这样可以使第二存储系统保存该数据片段,保证第一存储系统保存第一行组的方式和第二存储系统保存第一行组的方式相同,避免出现存储错误。

37、在另一种可能的实现方式中,第一描述信息包括第一行组的组标识和第一行组对应的数据片段的存储位置,该数据片段包括第一行组中的数据。第一存储系统基于该组标识和该存储位置,获取所述第一行组;向第二存储系统发送插入语句,该插入语句包括第一行组中的每行数据。第二存储系统保存第一行组中的每行数据。由于第一存储系统获取的插入语句包括第一行组中的每行数据,这样第二存储系统接收该插入语句,通过执行该插入语句,便可快速向第一行组保存在第二存储系统中,提高保存数据的效率。

38、第四方面,本技术提供了一种数据管理的装置,用于执行第一方面或第一方面的任意一种可能的实现方式中的方法。具体地,所述装置包括用于执行第一方面或第一方面的任意一种可能的实现方式中的方法的单元。

39、第五方面,本技术提供了一种数据管理的装置,用于执行第二方面或第二方面的任意一种可能的实现方式中的方法。具体地,所述装置包括用于执行第二方面或第二方面的任意一种可能的实现方式中的方法的单元。

40、第六方面,本技术提供了一种计算设备集群,包括至少一个计算设备,每个计算设备包括处理器和存储器;所述至少一个计算设备的处理器用于执行所述至少一个计算设备的存储器中存储的指令,以使得所述计算设备集群执行第一方面或第一方面的任意可能的实现方式中的方法。

41、第七方面,本技术提供了一种计算设备集群,包括至少一个计算设备,每个计算设备包括处理器和存储器;所述至少一个计算设备的处理器用于执行所述至少一个计算设备的存储器中存储的指令,以使得所述计算设备集群执行第二方面或第二方面的任意可能的实现方式中的方法。

42、第八方面,本技术提供了一种包含指令的计算机程序产品,当所述指令被计算设备集群运行时,使得所述计算设备集群执行上述第一方面、第二方面、第一方面任意可能的实现方式或第二方面任意可能的实现方式的方法。

43、第九方面,本技术提供了一种计算机可读存储介质,用于存储计算机程序,所述计算机程序被计算设备集群执行时,所述计算设备集群执行上述第一方面、第二方面、第一方面任意可能的实现方式或第二方面任意可能的实现方式的方法。

44、第十方面,本技术提供了一种芯片,包括存储器和处理器,存储器用于存储计算机指令,处理器用于从存储器中调用并运行该计算机指令,以执行上述第一方面、第二方面、第一方面任意可能的实现方式或第二方面任意可能的实现方式的方法。

45、第十一方面,本技术提供了一种数据管理的系统,所述系统包括第四方面所述的装置和第五方面所述的装置;或者,所述系统包括第六方面所述的计算设备集群和第七方面所述的计算设备集群。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1