一种请求调度方法、系统、装置及电子设备与流程

本技术涉及数据处理，特别是涉及一种请求调度方法、系统、装置及电子设备。

背景技术：

1、随着数据化时代的快速发展，人们可以通过网络平台获取到所需的资源信息，例如，视频播放、小说观看以及图片浏览。通常，网络平台在接收到用户的网络请求后，会通过预先设置的服务集群内所部署的容器实例对所接收到的网络请求进行处理，从而，反馈用户所需的资源信息。

2、然而，随着用户所需的资源信息的需求量增加，导致服务集群在同一时间所需处理的网络请求的数量大大增加，导致该服务集群处理上述网络请求的效率降低。

技术实现思路

1、本技术实施例的目的在于提供一种请求调度方法、系统、装置及电子设备，以实现调整各个服务集群所需处理的网络请求的数量，从而，均衡各个服务集群所需处理的网络请求，进而，提高网络请求的处理效率。具体技术方案如下：

2、本技术实施例提供的第一方面，首先提供了一种请求调度方法，应用于请求调度系统的主管理服务器，所述系统包括多个私有云集群；所述方法包括：

3、获取每个私有云集群的当前负载指标；

4、确定所述多个私有云集群中，当前负载指标超过预设负载指标的私有云集群，作为超载服务集群；

5、根据所述超载服务集群的当前负载指标与预设负载指标的差距，从所述超载服务集群所接收到的网络请求中，确定待分配的目标网络请求；

6、若存在剩余服务集群，则将所述目标网络请求分配至各个剩余服务集群；其中，所述剩余服务集群为：当前负载指标未超过预设负载指标的私有云集群。

7、可选的，一种具体实现方式中，所述系统还包括公有云集群；所述方法还包括：

8、在所述系统中不存在所述剩余服务集群时，将所述目标网络请求发送至所述公有云集群。

9、可选的，一种具体实现方式中，若所述多个私有云集群中不存在所述超载服务集群，所述方法还包括：

10、确定所述多个私有云集群所接收到的网络请求的总数量；

11、基于所述总数量与所述多个私有云集群的数量的比值，确定所述多个私有云集群所接收到的网络请求的指定数量；

12、确定所述多个私有云集群中，所接收到的网络请求的数量超过所述指定数量的私有云集群，作为指定服务集群；

13、针对每个指定服务集群，从该指定服务集群所接收到的网络请求中，确定目标数量个网络请求，作为待分配的指定网络请求；其中，所述目标数量为：该指定服务集群所接收到的网络请求的数量与所述指定数量的差值；

14、将所确定的各个指定网络请求分配至各个目标服务集群；其中，所述目标服务集群为：所述多个私有云集群中，除所述指定服务集群之外的私有云集群。

15、可选的，一种具体实现方式中，所述获取每个私有云集群的当前负载指标，包括：

16、按照预设周期，获取每个私有云集群的当前负载指标。

17、可选的，一种具体实现方式中，所述将所述目标网络请求分配至各个剩余服务集群，包括：

18、将所述目标网络请求平均分配至各个剩余服务集群；

19、或者，

20、按照负载均衡原理，基于各个剩余服务集群的当前负载指标与预设负载指标的差距，将所述目标网络请求分配至各个剩余服务集群。

21、可选的，一种具体实现方式中，所述当前负载指标包括当前所接收到的网络请求的第一数量、当前所占用的计算资源以及当前单位时间内接收到的网络请求的第二数量中的至少一个。

22、在本技术实施例提供的第二方面，还提供了一种一种请求调度系统，所述系统包括主管理服务器和多个私有云集群；

23、所述主管理服务器，用于获取每个私有云集群的当前负载指标；确定所述多个私有云集群中，当前负载指标超过预设负载指标的私有云集群，作为超载服务集群；根据所述超载服务集群的当前负载指标与预设负载指标的差距，从所述超载服务集群所接收到的网络请求中，确定待分配的目标网络请求；确定所述系统中是否存在剩余服务集群；若存在，则将所述目标网络请求分配至各个剩余服务集群；若不存在，则将所述目标网络请求发送至所述公有云集群；

24、其中，所述剩余服务集群为：当前负载指标未超过预设负载指标的私有云集群；

25、所述剩余服务集群，用于接收所分配至的所述目标网络请求，并响应。

26、可选的，一种具体实现方式中，所述系统还包括公有云集群；

27、所述主管理服务器，还用于在所述系统中不存在所述剩余服务集群时，将所述目标网络请求发送至所述公有云集群；

28、所述公有云集群，用于接收所述主管理服务器所发送的所述目标网络请求并响应。

29、可选的，一种具体实现方式中，若所述多个私有云集群中不存在所述超载服务集群；

30、所述主管理服务器，用于确定所述多个私有云集群所接收到的网络请求的总数量；基于所述总数量与所述多个私有云集群的数量的比值，确定所述多个私有云集群所接收到的网络请求的指定数量；确定所述多个私有云集群中，所接收到的网络请求的数量超过所述指定数量的私有云集群，作为指定服务集群；针对每个指定服务集群，从该指定服务集群所接收到的网络请求中，确定目标数量个网络请求，作为待分配的指定网络请求；将所确定的各个指定网络请求分配至各个目标服务集群；其中，所述目标数量为：该指定服务集群所接收到的网络请求的数量与所述指定数量的差值；所述目标服务集群为：所述多个私有云集群中，除所述指定服务集群之外的私有云集群；

31、所述每个目标服务集群，用于接收所分配至的各个指定网络请求，并响应。

32、可选的，一种具体实现方式中，所述主管理服务器，还用于按照预设周期，获取每个私有云集群的当前负载指标。

33、可选的，一种具体实现方式中，所述主管理服务器，还用于将所述目标网络请求平均分配至各个剩余服务集群；或者，按照负载均衡原理，基于各个剩余服务集群的当前负载指标与预设负载指标的差距，将所述目标网络请求分配至各个剩余服务集群。

34、可选的，一种具体实现方式中，所述当前负载指标包括当前所接收到的网络请求的第一数量、当前所占用的计算资源以及当前单位时间内接收到的网络请求的第二数量中的至少一个。

35、在本技术实施例提供的第三方面，还提供了一种请求调度装置，应用于请求调度系统的主管理服务器，所述系统包括多个私有云集群；所述装置包括：

36、负载获取模块，用于获取每个私有云集群的当前负载指标；

37、超载确定模块，用于确定所述多个私有云集群中，当前负载指标超过预设负载指标的私有云集群，作为超载服务集群；

38、目标网络请求确定模块，用于根据所述超载服务集群的当前负载指标与预设负载指标的差距，从所述超载服务集群所接收到的网络请求中，确定待分配的目标网络请求；

39、第一分配模块，用于若存在剩余服务集群，则将所述目标网络请求分配至各个剩余服务集群；其中，所述剩余服务集群为：当前负载指标未超过预设负载指标的私有云集群。

40、可选的，一种具体实现方式中，所述系统还包括公有云集群；所述装置还包括：

41、第二分配模块，用于在所述系统中不存在所述剩余服务集群时，将所述目标网络请求发送至所述公有云集群。

42、可选的，一种具体实现方式中，若所述多个私有云集群中不存在所述超载服务集群，所述装置还包括：

43、总数量确定模块，用于确定所述多个私有云集群所接收到的网络请求的总数量；

44、指定数量确定模块，用于基于所述总数量与所述多个私有云集群的数量的比值，确定所述多个私有云集群所接收到的网络请求的指定数量；

45、指定服务集群确定模块，用于确定所述多个私有云集群中，所接收到的网络请求的数量超过所述指定数量的私有云集群，作为指定服务集群；

46、指定网络请求确定模块，用于针对每个指定服务集群，从该指定服务集群所接收到的网络请求中，确定目标数量个网络请求，作为待分配的指定网络请求；其中，所述目标数量为：该指定服务集群所接收到的网络请求的数量与所述指定数量的差值；

47、第三分配模块，用于将所确定的各个指定网络请求分配至各个目标服务集群；其中，所述目标服务集群为：所述多个私有云集群中，除所述指定服务集群之外的私有云集群。

48、可选的，一种具体实现方式中，所述负载获取模块，具体用于：

49、按照预设周期，获取每个私有云集群的当前负载指标。

50、可选的，一种具体实现方式中，所述第一分配模块，具体用于：

51、将所述目标网络请求平均分配至各个剩余服务集群；

52、或者，

53、按照负载均衡原理，基于各个剩余服务集群的当前负载指标与预设负载指标的差距，将所述目标网络请求分配至各个剩余服务集群。

54、可选的，一种具体实现方式中，所述当前负载指标包括当前所接收到的网络请求的第一数量、当前所占用的计算资源以及当前单位时间内接收到的网络请求的第二数量中的至少一个。

55、在本技术实施例提供的第四方面，还提供了一种电子设备，包括处理器、通信接口、存储器和通信总线，其中，处理器，通信接口，存储器通过通信总线完成相互间的通信；存储器，用于存放计算机程序；处理器，用于执行存储器上所存放的程序时，实现上述第一方面提供的任一请求调度方法。

56、在本技术实施例的又一方面，还提供了一种计算机可读存储介质，所述计算机可读存储介质内存储有计算机程序，所述计算机程序被处理器执行时实现上述第一方面提供的任一请求调度方法。

57、在本技术实施例的又一方面，还提供了一种包含指令的计算机程序产品，当其在计算机上运行时，使得计算机执行上述第一方面提供的任一请求调度方法。

58、本技术实施例提供的方案，应用于请求调度系统的主管理服务器，该系统包括多个私有云集群。主管理服务器在对该请求调度系统中的各个服务集群所需处理的网络请求进行调度时，首先，可以获取每个私有云集群的当前负载指标，这样，便可以确定上述多个私有云集群中，当前负载指标超过预设负载指标的私有云集群，作为超载服务集群。从而，根据上述超载服务集群的当前负载指标与预设负载指标的差距，从上述超载服务集群所接收到的网络请求中，确定待分配的目标网络请求。这样，若在上述请求调度系统中多个私有云集群中，若存在当前负载指标未超过预设负载指标的剩余服务集群时，主管理服务器可以将上述目标网络请求分配至各个剩余服务集群中。

59、基于此，应用本技术实施例提供的方案，由于每个私有云集群均存在所能支持的最大负载，即在该最大负载下，该私有云集群可以正常运行，并及时处理所接收到的各个网络请求。因此，可以根据每个私有云集群的最大负载，预先针对该私有云集群设置预设负载指标。这样，便可以通过确定每个私有云集群当前负载指标是否超过预设负载指标，来确定该私有云集群是否需要进行请求调度。从而，在该私有云集群的当前负载指标超过预设负载指标时，可以基于该私有云集群的当前负载指标与预设负载指标的差距，及时调整各个私有云集群所需处理的网络请求的数量，从而，提高网络请求的处理效率。