一种基于多云融合以及云服务的负载均衡方法及装置与流程

文档序号:34725100发布日期:2023-07-07 19:49阅读:26来源:国知局
一种基于多云融合以及云服务的负载均衡方法及装置与流程

本发明属于云服务的,尤其涉及一种基于多云融合以及云服务的负载均衡方法及装置。


背景技术:

1、saas是software-as-a-service(软件即服务)的简称,随着互联网技术的发展和应用软件的成熟,在21世纪开始兴起的一种完全创新的软件应用模式。它是一种通过internet提供软件的模式,厂商将应用软件统一部署在自己的服务器上,客户可以根据自己实际需求,通过互联网向厂商定购所需的应用软件服务,按定购的服务多少和时间长短向厂商支付费用,并通过互联网获得厂商提供的服务。

2、saas通过不同地域的服务器集群为客户提供不同的服务。为了优化服务器集群的运行情况,往往需通过负载均衡技术将客户端的服务请求均匀分配到集群内各服务节点上,接收到服务请求的服务器将独立完成对客户端的服务。服务器集群负载均衡的目的是根据集群内各节点的负载情况和运行情况,按照一定的算法将服务请求分配到相应的服务节点上,从而提高服务请求的处理速度。

3、然而,目前的负载调度算法多为轮询算法或者最小连接算法。轮询算法与最小连接算法均无法很好地结合服务器实际运行情况进行综合判断,导致服务器容易出现过载等情况。


技术实现思路

1、有鉴于此,本发明实施例提供了一种基于多云融合以及云服务的负载均衡方法、负载均衡的装置、负载均衡服务器以及计算机可读存储介质,以解决轮询算法与最小连接算法均无法很好地结合服务器实际运行情况进行综合判断,导致服务器容易出现过载等情况的技术问题。

2、本发明实施例的第一方面提供了一种基于多云融合以及云服务的负载均衡方法,所述负载均衡方法包括:

3、响应于接收到的服务请求,识别所述服务请求的请求类型,并根据所述请求类型确定所述服务请求的处理难度指数;

4、获取多个待选服务器各自对应的选择概率以及资源数据,并根据所述选择概率和所述资源数据计算多个所述待选服务器各自对应的当前处理能力指数;所述选择概率是指待选服务器在预设次数内被选定为目标服务器的概率;

5、根据所述处理难度指数和所述当前处理能力指数,计算多个所述待选服务器各自对应的处理效率;

6、根据所述处理效率,在多个待选服务器中筛选目标服务器,并通过所述目标服务器处理所述服务请求。

7、进一步地,所述响应于接收到的服务请求,识别所述服务请求的请求类型,并根据所述请求类型确定所述服务请求的处理难度指数的步骤,包括:

8、响应于接收到的服务请求,识别所述服务请求的请求类型;所述请求类型包括动态请求和静态请求,所述动态请求是指需服务器进行数据处理的请求,所述静态请求是指无需服务器进行数据处理的请求;

9、若所述请求类型为动态请求,则确定所述服务请求为第一处理难度指数;

10、若所述请求类型为静态请求,则确定所述服务请求为第二处理难度指数。

11、进一步地,所述资源数据包括当前请求处理量、多个历史时段各自对应的磁盘占用率、多个历史时段各自对应的处理器使用率、多个历史时段各自对应的请求响应时间和当前网络使用率;

12、所述获取多个待选服务器各自对应的选择概率以及资源数据,并根据所述选择概率和所述资源数据计算多个所述待选服务器各自对应的当前处理能力指数的步骤,包括:

13、将所述选择概率、当前请求处理量、多个历史时段各自对应的磁盘占用率、多个历史时段各自对应的处理器使用率、多个历史时段各自对应的请求响应时间和当前网络使用率代入如下公式一,得到所述当前处理能力指数;

14、公式一:

15、

16、其中,m表示所述当前处理能力指数,n表示所述当前请求处理量,p表示所述选择概率,ti表示第i个历史请求的所述多个历史时段各自对应的请求响应时间,cx表示第x个历史时段内的所述多个历史时段各自对应的磁盘占用率,sk表示第k个历史时段内的所述多个历史时段各自对应的处理器使用率,f表示所述当前网络使用率。

17、进一步地,所述根据所述处理难度指数和所述当前处理能力指数,计算多个所述待选服务器各自对应的处理效率的步骤,包括:

18、将多个所述待选服务器各自对应所述处理难度指数与所述当前处理能力指数相除,得到多个所述待选服务器各自对应所述处理效率。

19、进一步地,所述根据所述处理效率,在多个待选服务器中筛选目标服务器,并通过所述目标服务器处理所述服务请求的步骤,包括:

20、在多个所述待选服务器中,筛选所述处理效率大于第一阈值的第一待选服务器;

21、若未筛选到所述第一待选服务器,则等待预设时长后重新执行所述在多个所述待选服务器中,筛选所述处理效率大于阈值的第一待选服务器的步骤以及后续步骤;

22、若筛选到单个所述第一待选服务器,则将所述第一待选服务器作为所述目标服务器,并通过所述目标服务器处理所述服务请求;

23、若筛选到多个所述第一待选服务器,则将最大处理效率对应的第一待选服务器作为所述目标服务器,并通过所述目标服务器处理所述服务请求。

24、进一步地,所述根据所述处理效率,在多个待选服务器中筛选目标服务器,并通过所述目标服务器处理所述服务请求的步骤,包括:

25、计算多个所述待选服务器之间的均衡度;所述均衡度用于评价多个所述待选服务器之间处理效率的均衡程度;

26、若所述均衡度大于第二阈值,则获取处于预设距离范围内的第二待选服务器,所述预设距离范围是指以请求发送端为原点的距离范围;

27、在多个所述第二待选服务器中,筛选所述处理效率大于第一阈值的第三待选服务器;

28、在多个所述第三待选服务器中,将最大处理效率对应的第三待选服务器作为所述目标服务器,并通过所述目标服务器处理所述服务请求;

29、若所述均衡度不大于所述第二阈值,则计算多个服务器集群各自对应的平均处理效率;

30、在最大平均处理效率对应的服务器集群中,将最大处理效率对应的第四待选服务器作为所述目标服务器,并通过所述目标服务器处理所述服务请求。

31、进一步地,在所述响应于接收到的服务请求,识别所述服务请求的请求类型,并根据所述请求类型确定所述服务请求的处理难度指数的步骤之前,还包括:

32、匹配当前时段对应的负载均衡频率;其中,所述负载均衡频率是基于历史时段内的服务请求量设定的频率;

33、若所述负载均衡频率小于第三阈值,则采用最小连接调度;

34、若所述负载均衡频率不小于所述第三阈值,则按照所述负载均衡频率执行所述响应于接收到的服务请求,识别所述服务请求的请求类型,并根据所述请求类型确定所述服务请求的处理难度指数的步骤以及后续步骤。

35、本发明实施例的第二方面提供了一种负载均衡的装置,包括:

36、识别单元,用于响应于接收到的服务请求,识别所述服务请求的请求类型,并根据所述请求类型确定所述服务请求的处理难度指数;

37、获取单元,用于获取多个待选服务器各自对应的选择概率以及资源数据,并根据所述选择概率和所述资源数据计算多个所述待选服务器各自对应的当前处理能力指数;所述选择概率是指待选服务器在预设次数内被选定为目标服务器的概率;

38、计算单元,用于根据所述处理难度指数和所述当前处理能力指数,计算多个所述待选服务器各自对应的处理效率;

39、筛选单元,用于根据所述处理效率,在多个待选服务器中筛选目标服务器,并通过所述目标服务器处理所述服务请求。

40、本发明实施例的第三方面提供了一种负载均衡服务器,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现上述第一方面所述方法的步骤。

41、本发明实施例的第四方面提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述第一方面所述方法的步骤。

42、本发明实施例与现有技术相比存在的有益效果是:本发明通过响应于接收到的服务请求,识别所述服务请求的请求类型,并根据所述请求类型确定所述服务请求的处理难度指数;获取多个待选服务器各自对应的选择概率以及资源数据,并根据所述选择概率和所述资源数据计算多个所述待选服务器各自对应的当前处理能力指数;所述选择概率是指待选服务器在预设次数内被选定为目标服务器的概率;根据所述处理难度指数和所述当前处理能力指数,计算多个所述待选服务器各自对应的处理效率;根据所述处理效率,在多个待选服务器中筛选目标服务器,并通过所述目标服务器处理所述服务请求。上述方案,通过服务请求类型确定服务请求的处理难度指数,通过待选服务器的选择概率以及资源数据确定当前处理能力指数,并根据处理难度指数和当前处理能力指数确定待选服务器各自的处理效率,以根据处理效率选择目标服务器。由于本发明基于多个维度(请求类型、选择概率以及资源数据)综合判断待选服务器的处理效率,使得均衡负载更加贴合实际情况,故可以很好地避免服务器出现过载等情况。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1