一种数据处理系统、方法、装置、电子设备及存储介质与流程

文档序号:37352128发布日期:2024-03-18 18:33阅读:20来源:国知局
一种数据处理系统、方法、装置、电子设备及存储介质与流程

本发明涉及大数据,尤其涉及一种数据处理系统、方法、装置、电子设备及存储介质。


背景技术:

1、分布式系统(distributed system)是建立在网络之上的软件系统,通常由多部设备构成,上述设备可以是计算机、服务器等,各设备之间通过网络相互连接。各设备也被称为是分布式系统中的节点,各节点均包含处理器以及内存,具有独立的数据处理功能。

2、随着分布式技术的发展,大多企业会基于分布式架构设置应用程序,并将应用程序的不同功能分布在不同的节点进行执行,同时应用程序的一种功能可能也需要多个不同节点执行。示例性的,执行扫码支付功能时,需要图像解析、调用相应银行卡接口以及转账能功能节点参与该流程。由于多个节点参与功能实现,保证各参与计算的各节点的数据一致性显得十分重要。

3、相关技术中,通常使用tcc(try、confirm、cancel,预提交,确定提交,取消提交)架构、2pc(two-phase commit,二阶段提交)架构等来保证各节点的强一致性。强一致性指的是当更新操作完成后,在任何适合时刻所有的用户或进程查询到的都是最近一次成功更新的数据。强一致性通常需要较高的运维成本,对于非强一致性的应用场景,如仅要求最终一致性(在一段时间后,节点间的数据会最终达到一致状态)的应用场景,显得运维成本过高。


技术实现思路

1、有鉴于此,本发明实施例提供了一种数据处理系统、方法、装置、电子设备及存储介质,以降低业务的运维成本。

2、根据本发明的一方面,提供了一种数据处理系统,所述系统包括:第一目标设备、第二目标设备以及一致性校验模块;

3、所述第一目标设备,用于接收目标请求,按照所述目标请求执行所述第一目标设备对应的第一数据处理任务;按照所述目标请求向所述第二目标设备发送调用请求;将第一请求数据记录至预设第一数据库;所述第一请求数据与所述目标请求对应;

4、所述第二目标设备,用于按照所述调用请求执行所述第二目标设备对应的第二数据处理任务;将第二请求数据记录至预设第二数据库;所述第二请求数据与所述调用请求对应;

5、所述一致性校验模块,用于在从所述预设第一数据库中查找到所述第一请求数据的情况下,在所述预设第二数据库中查找所述第二请求数据;在未查找到所述第二请求数据的情况下,重新调用所述第二目标设备执行所述第二数据处理任务。

6、在一种可能的实施例中,所述一致性校验模块,用于在查找到所述第二请求数据的情况下,确定所述第一目标设备与所述第二目标设备数据一致。

7、根据本发明的另一方面,提供了一种数据处理方法,应用于数据处理系统中的第一目标设备,所述数据处理系统中还包括第二目标设备以及一致性校验模块,所述方法包括:

8、接收目标请求;

9、按照所述目标请求执行所述第一目标设备对应的第一数据处理任务;

10、按照所述目标请求向所述第二目标设备发送调用请求;以使所述第二目标设备按照所述调用请求执行所述第二目标设备对应的第二数据处理任务,并将第二请求数据记录至预设第二数据库;所述第二请求数据与所述调用请求对应;

11、将第一请求数据记录至预设第一数据库,所述第一请求数据与所述目标请求对应;以使所述一致性校验模块在从所述预设第一数据库中查找到所述第一请求数据的情况下,在所述预设第二数据库中查找所述第二请求数据,在未查找到所述第二请求数据的情况下,重新调用所述第二目标设备执行所述第二数据处理任务。

12、根据本发明的另一方面,提供了一种数据处理方法,应用于数据处理系统中的第二目标设备,所述数据处理系统中还包括第一目标设备以及一致性校验模块,所述方法包括:

13、接收调用请求;所述调用请求为所述第一目标设备发送至所述第二目标设备的;

14、按照所述调用请求执行所述第二目标设备对应的第二数据处理任务;

15、将第二请求数据记录至预设第二数据库,所述第二请求数据与所述调用请求对应;以使所述一致性校验模块在从预设第一数据库中查找到第一请求数据的情况下,在所述预设第二数据库中查找所述第二请求数据,在未查找到所述第二请求数据的情况下,重新调用所述第二目标设备执行所述第二数据处理任务;所述第一请求数据为所述第一目标设备接收目标请求,按照所述目标请求执行所述第一目标设备对应的第一数据处理任务后存储至所述预设第一数据库中的数据,所述第一请求数据与所述目标请求对应。

16、在一种可能的实施例中,所述方法还包括:

17、在接收到所述一致性校验模块发送的调用信息的情况下,重新执行所述第二数据处理任务。

18、根据本发明的另一方面,提供了一种数据处理方法,应用于数据处理系统中的一致性校验模块,所述数据处理系统中还包括第一目标设备以及第二目标设备,所述方法包括:

19、在从预设第一数据库中查找到第一请求数据的情况下,在预设第二数据库中查找第二请求数据;所述第一请求数据为所述第一目标设备接收目标请求,按照所述目标请求执行所述第一目标设备对应的第一数据处理任务后存储至所述预设第一数据库中的数据,所述第一请求数据与所述目标请求对应;所述第二请求数据为所述第二目标设备按照调用请求执行所述第二目标设备对应的第二数据处理任务后存储至所述预设第二数据库中的,所述调用请求为所述第一目标设备发送至所述第二目标设备的;

20、在未查找到所述第二请求数据的情况下,重新调用所述第二目标设备执行所述第二数据处理任务。

21、根据本发明的另一方面,提供了一种数据处理装置,应用于数据处理系统中的第一目标设备,所述数据处理系统中还包括第二目标设备以及一致性校验模块,所述装置包括:

22、第一接收模块,用于接收目标请求;

23、第一执行模块,用于按照所述目标请求执行所述第一目标设备对应的第一数据处理任务;

24、发送模块,用于按照所述目标请求向所述第二目标设备发送调用请求;以使所述第二目标设备按照所述调用请求执行所述第二目标设备对应的第二数据处理任务,并将第二请求数据记录至预设第二数据库;所述第二请求数据与所述调用请求对应;

25、第一存储模块,用于将第一请求数据记录至预设第一数据库,所述第一请求数据与所述目标请求对应;以使所述一致性校验模块在从所述预设第一数据库中查找到所述第一请求数据的情况下,在所述预设第二数据库中查找所述第二请求数据,在未查找到所述第二请求数据的情况下,重新调用所述第二目标设备执行所述第二数据处理任务。

26、根据本发明的另一方面,提供了一种数据处理装置,应用于数据处理系统中的第二目标设备,所述数据处理系统中还包括第一目标设备以及一致性校验模块,所述装置包括:

27、第二接收模块,用于接收调用请求;所述调用请求为所述第一目标设备发送至所述第二目标设备的;

28、第二执行模块,用于按照所述调用请求执行所述第二目标设备对应的第二数据处理任务;

29、第二存储模块,用于将第二请求数据记录至预设第二数据库,所述第二请求数据与所述调用请求对应;以使所述一致性校验模块在从预设第一数据库中查找到第一请求数据的情况下,在所述预设第二数据库中查找所述第二请求数据,在未查找到所述第二请求数据的情况下,重新调用所述第二目标设备执行所述第二数据处理任务;所述第一请求数据为所述第一目标设备接收目标请求,按照所述目标请求执行所述第一目标设备对应的第一数据处理任务后存储至所述预设第一数据库中的数据,所述第一请求数据与所述目标请求对应。

30、根据本发明的另一方面,提供了一种数据处理装置,应用于数据处理系统中的一致性校验模块,所述数据处理系统中还包括第一目标设备以及第二目标设备,所述装置包括:

31、查找模块,用于在从预设第一数据库中查找到第一请求数据的情况下,在预设第二数据库中查找第二请求数据;所述第一请求数据为所述第一目标设备接收目标请求,按照所述目标请求执行所述第一目标设备对应的第一数据处理任务后存储至所述预设第一数据库中的数据,所述第一请求数据与所述目标请求对应;所述第二请求数据为所述第二目标设备按照调用请求执行所述第二目标设备对应的第二数据处理任务后存储至所述预设第二数据库中的,所述调用请求为所述第一目标设备发送至所述第二目标设备的;

32、调用模块,用于在未查找到所述第二请求数据的情况下,重新调用所述第二目标设备执行所述第二数据处理任务。

33、根据本发明的另一方面,提供了一种电子设备,包括:

34、处理器;以及

35、存储程序的存储器,

36、其中,所述程序包括指令,所述指令在由所述处理器执行时使所述处理器执行上述任一项所述的数据处理方法。

37、根据本发明的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使计算机执行上述任一项所述的数据处理方法。

38、本发明实施例中提供的一个或多个技术方案,第一目标设备按照目标请求执行完其对应的数据处理任务后,将该次请求的相关数据存储至对应的数据库,第二目标设备在执行完其对应的数据处理任务后将该次请求的相关数据存储至对应的数据库,一致性校验模块通过在数据库中查询第一目标设备与第二目标设备存储的请求相关数据是否同时存在即可确定第一目标设备与第二目标设备数据是否具备最终一致性,由于参与数据处理的设备仅需将请求相关数据进行存储,一致性校验模块仅需执行两个数据库查询操作即可确定设备的数据是否具备最终一致性,与强一致性架构相比,需要处理的数据较少,实现较为便利,进而降低了非强一致性的业务的运维成本。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1