负载均衡方法、装置、电子设备和介质与流程

本申请涉及计算机，尤其涉及负载均衡方法、装置、电子设备和介质。

背景技术：

1、随着互联网计算机技术的快速发展，基于http协议的应用服务成为了主流，面对海量互联网用户的http流量冲击，促生了http负载均衡领域的技术发展，其主要的功能是保证http服务的高可用和高性能。

2、目前，负载均衡技术方案分为静态负载均衡和动态负载均衡两种类型，其中，静态负载均衡具有固定的负载分配策略，无法根据系统的实时负载情况进行适应性调整；而动态负载均衡可以根据系统的实时负载情况现动态调整，具有更高的灵活性和高效性，其中，动态负载均衡算法一般包括轮询法、加权轮询法以及源地址哈希法。虽然现有的动态负载均衡算法在提供高可用性和性能方面取得了很大进展，但仍然存在一些不足之处。对于轮询法，当服务性能参差不齐时，平均分配流量会导致性能差的服务响应缓慢，导致服务稳定性下降；通过源地址哈希取模计算，同样也是采取均分流量的策略，会出现性能好的服务资源浪费，性能差的服务稳定性下降；加权轮询法在面对实际服务资源性能动态变化的场景，按照既定的静态权重分配流量，会出现流量分配不均的问题。

技术实现思路

1、本申请旨在至少解决现有技术中存在的技术问题之一。为此，本申请提出一种负载均衡方法，通过服务节点的性能指标确定评分值，基于评分值的负载均衡方式可以更智能地分配服务请求，提高整体系统性能和资源利用率，并优化服务节点的利用，提供更高效、可靠的服务。

2、本申请还提出一种负载均衡装置、电子设备和存储介质。

3、根据本申请第一方面实施例的负载均衡方法，包括：

4、基于各服务节点对历史服务请求的响应信息，确定各服务节点的性能指标；

5、基于所述性能指标与所述历史服务请求的请求持续时间，确定各服务节点的评分参数；

6、基于所述评分参数和各服务节点对所述历史服务请求的调用成功率，确定各服务节点的评分值；所述评分值用于表征服务节点的服务性能；

7、基于所述评分值确定至少一个第一目标服务节点，以将当前接收到的至少一个服务请求转发至所述第一目标服务节点。

8、本申请实施例通过服务节点的性能指标确定评分值，基于评分值的负载均衡方式可以更智能地分配服务请求，提高整体系统性能和资源利用率，并优化服务节点的利用，提供更高效、可靠的服务。

9、根据本申请的一个实施例，所述性能指标包括垃圾回收时间、cpu使用率、内存使用率以及硬盘每秒输入输出的次数；

10、所述基于所述性能指标与所述历史服务请求的请求持续时间，确定各服务节点的评分参数，包括：

11、对各服务节点的所述垃圾回收时间、所述cpu使用率、所述内存使用率、所述硬盘每秒输入输出的次数以及所述请求持续时间，进行归一化处理；

12、获取归一化后的所述垃圾回收时间、所述cpu使用率、所述内存使用率、所述硬盘每秒输入输出的次数以及所述请求持续时间的乘积，将所述乘积作为各服务节点的评分参数。

13、根据本申请的一个实施例，所述基于所述评分参数和各服务节点对所述历史服务请求的调用成功率，确定各服务节点的评分值，包括：

14、获取各服务节点的所述评分参数与各服务节点的所述调用成功率之间的比值；

15、将所述比值作为各服务节点的评分值。

16、根据本申请的一个实施例，所述基于所述评分值确定至少一个第一目标服务节点，以将当前接收到的至少一个服务请求转发至所述第一目标服务节点，包括：

17、确定各服务节点的评分值的排序结果；

18、基于所述排序结果和所述服务请求的总数量，确定至少一个所述第一目标服务节点以及每个所述第一目标服务节点的所述服务请求的待分配数量；

19、基于每个所述第一目标服务节点的所述服务请求的待分配数量，向所述第一目标服务节点转发至少一个服务请求。

20、根据本申请的一个实施例，所述基于各服务节点对历史服务请求的响应信息，确定各服务节点的性能指标，包括：

21、对所述响应信息的消息头字段进行解析；所述消息头字段携带所述服务节点的性能指标；

22、从解析结果中获取各服务节点的性能指标。

23、根据本申请的一个实施例，所述基于所述评分值确定至少一个第一目标服务节点，以将当前接收到的至少一个服务请求转发至所述第一目标服务节点之后，还包括：

24、获取所述第一目标服务节点的健康检测信息；

25、基于所述健康检测信息，确定故障服务节点以及所述故障服务节点的故障类型；

26、基于所述故障类型，调整所述故障服务节点处理所述服务请求的数量。

27、根据本申请的一个实施例，所述基于所述故障类型，调整所述故障服务节点处理所述服务请求的数量，包括：

28、确定所述故障类型为第一类型，则获取所述故障服务节点的服务请求处理量，将超出所述服务请求处理量的服务请求转发至备份节点或至少一个第二目标服务节点；其中，所述服务请求处理量小于所述故障服务节点的服务请求的待分配数量；

29、确定所述故障类型为第二类型，则将所述故障服务节点从负载均衡池中移除，并将所述故障服务节点的服务请求转发至备份服务节点或至少一个第二目标服务节点。

30、根据本申请第二方面实施例的负载均衡装置，包括：

31、获取模块，用于基于各服务节点对历史服务请求的响应信息，确定各服务节点的性能指标；

32、评分参数确定模块，用于基于所述性能指标与所述历史服务请求的请求持续时间，确定各服务节点的评分参数；

33、评分值确定模块，用于基于所述评分参数和各服务节点对所述历史服务请求的调用成功率，确定各服务节点的评分值；所述评分值用于表征服务节点的服务性能；

34、转发模块，用于基于所述评分值确定至少一个第一目标服务节点，以将当前接收到的至少一个服务请求转发至所述第一目标服务节点。

35、根据本申请第三方面实施例的电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现如上述任一种所述负载均衡方法。

36、根据本申请第四方面实施例的非暂态计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现如上述任一种所述负载均衡方法。

37、本申请实施例中的上述一个或多个技术方案，至少具有如下技术效果之一：

38、更智能地分配服务请求，提高整体系统性能和资源利用率，并优化服务节点的利用，提供更高效、可靠的服务；

39、实现动态分配流量的目的，提升http应用服务的稳定性和可靠性。

40、本申请的附加方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本申请的实践了解到。

技术特征：

1.一种负载均衡方法，其特征在于，包括：

2.根据权利要求1所述的负载均衡方法，其特征在于，所述性能指标包括垃圾回收时间、cpu使用率、内存使用率以及硬盘每秒输入输出的次数；

3.根据权利要求1所述的负载均衡方法，其特征在于，所述基于所述评分参数和各服务节点对所述历史服务请求的调用成功率，确定各服务节点的评分值，包括：

4.根据权利要求1所述的负载均衡方法，其特征在于，所述基于所述评分值确定至少一个第一目标服务节点，以将当前接收到的至少一个服务请求转发至所述第一目标服务节点，包括：

5.根据权利要求1所述的负载均衡方法，其特征在于，所述基于各服务节点对历史服务请求的响应信息，确定各服务节点的性能指标，包括：

6.根据权利要求1所述的负载均衡方法，其特征在于，所述基于所述评分值确定至少一个第一目标服务节点，以将当前接收到的至少一个服务请求转发至所述第一目标服务节点之后，还包括：

7.根据权利要求6所述的负载均衡方法，其特征在于，所述基于所述故障类型，调整所述故障服务节点处理所述服务请求的数量，包括：

8.一种负载均衡装置，其特征在于，包括：

9.一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现如权利要求1至7任一项所述的负载均衡方法。

10.一种非暂态计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至7任一项所述的负载均衡方法。

技术总结
本申请涉及计算机技术领域，提供一种负载均衡方法、装置、电子设备和介质，该方法包括：基于各服务节点对历史服务请求的响应信息，确定各服务节点的性能指标；基于性能指标与历史服务请求的请求持续时间，确定各服务节点的评分参数；基于评分参数和各服务节点对历史服务请求的调用成功率，确定各服务节点的评分值；评分值用于表征服务节点的服务性能；基于评分值确定至少一个第一目标服务节点，以将当前接收到的至少一个服务请求转发至第一目标服务节点。本申请通过服务节点的性能指标确定评分值，基于评分值的负载均衡方式可以更智能地分配服务请求，提高整体系统性能和资源利用率，并优化服务节点的利用，提供更高效、可靠的服务。

技术研发人员：刘泉泉,宋云报,明霄鸣,孙会良
受保护的技术使用者：美云智数科技有限公司
技术研发日：
技术公布日：2024/1/16