流量负载均衡方法、装置、电子设备及程序产品与流程

本公开涉及大数据领域，更具体地涉及一种流量负载均衡方法、装置、设备、介质和程序产品。

背景技术：

1、目前大多数银行对服务的负载均衡主要采用如下流程，首先建立各个应用的流量监控系统，实时对应用流量进行监控，当流量达到告警峰值时，即刻通知应用方按照事前制定的扩容计划进行扩容。在应用内则采用常用的流量分发、拥塞控制这些手段平衡容器的负载。这种负载均衡方式较为简单，执行也比较快速，是大多数系统采用的负载均衡方案。

2、在现有技术中，计算服务极限并发量仅仅只能靠实际的峰值到来时观测容器的服务并发量，然而当新版本对服务进行改造时，这种观测并发量可能会变化，导致这个观测量不准。除此之外，不容类型的容器，例如不同公司提供的不同的硬件服务器，观测到的极限并发量也不相同，这在扩容时很难通过并发量来推测实际需要的容器资源，而仅仅只能靠专家估计需要的扩容容量，进行扩容。

技术实现思路

1、鉴于上述问题，本公开提供了一种的流量负载均衡方法、装置、设备、介质和程序产品。

2、根据本公开的第一个方面，提供了一种流量负载均衡方法，包括：预测业务中每个服务在服务从属应用的容器中的预测流量；计算服务在服务从属应用的容器中的可以达到的最大并行流量；获取最大等待时间，最大等待时间为进入容器的流量从进入容器到被判定为超时丢弃流量的时间；根据预测流量、最大并行流量以及最大等待时间，计算应用所需要的容器数量；根据容器数量对业务进行扩容。

3、根据本公开的实施例，根据预测流量、最大并行流量以及最大等待时间，计算应用所需要的容器数量包括：获取预测流量达到最大并行流量的第一时间点；获取预测流量在未扩容情况下被完全执行的第二时间点；根据最大等待时间、第二时间点，计算预测流量下降到最大并行流量的第三时间点；根据第二时间点、第三时间点、预测流量以及最大并行流量计算超出容器负载的均值流量；根据均值流量和最大并行流量计算应用所需要的容器数量。

4、根据本公开的实施例，根据预测流量、最大并行流量以及最大等待时间，计算应用所需要的容器数量包括：获取预测流量开始增加的第四时间点以及当前的瞬时时间点；根据预测流量、最大并行流量、最大等待时间、第四时间点以及瞬时时间点计算超出容器负载的均值流量；根据均值流量和最大并行流量计算应用所需要的容器数量。

5、根据本公开的实施例，计算服务在服务从属应用的容器中的可以达到的最大并行流量包括：确定完成业务所需要的多个资源，资源包括数据库连接资源、cpu资源、内存资源以及容器网络资源中任一项；获取容器在每个资源上可以使用的资源最大值；获取服务在每个资源上的使用量；将资源最大值除以资源使用量得到资源极限并发量；选择多个资源极限并发量中的最小值作为最大并行流量。。

6、根据本公开的实施例，获取业务在每个资源上的使用量包括：通过冒烟测试获得业务在每个资源上的使用量，或，获取业务历史运行数据，根据历史运行数据计算业务在每个资源上的使用量。

7、根据本公开的实施例，预测业务中每个服务在服务从属应用的容器中的预测流量包括：在监测到业务的流量增加速度达到预设阈值的情况下，通过差分自回归移动平均模型预测服务在容器中的瞬时并发流量的变化情况，获得预测流量。

8、根据本公开的实施例，流量负载均衡方法还包括在监测到业务的流量递减至增加之前时，回撤应用扩容时所增加的容器。

9、根据本公开的实施例，根据容器数量对业务进行扩容包括：获取应用的现有容器数量；将应用所需要的容器数量减去应用的现有容器数量作为增加容器数；对应用扩充增加容器数个数的容器。

10、本公开的第二方面提供了一种流量负载均衡装置，包括：预测模块，用于预测业务中每个服务在服务从属应用的容器中的预测流量；第一计算模块，用于计算服务在服务从属应用的容器中的可以达到的最大并行流量；获取模块，用于获取最大等待时间，最大等待时间为进入容器的流量从进入容器到被判定为超时丢弃流量的时间；第二计算模块，用于根据预测流量、最大并行流量以及最大等待时间，计算应用所需要的容器数量；扩容模块，用于根据容器数量对业务进行扩容。

11、本公开的第三方面提供了一种电子设备，包括：一个或多个处理器；存储器，用于存储一个或多个程序，其中，当一个或多个程序被一个或多个处理器执行时，使得一个或多个处理器执行上述流量负载均衡方法。

12、本公开的第四方面还提供了一种计算机可读存储介质，其上存储有可执行指令，该指令被处理器执行时使处理器执行上述流量负载均衡方法。

13、本公开的第五方面还提供了一种计算机程序产品，包括计算机程序，该计算机程序被处理器执行时实现上述流量负载均衡方法。

14、根据本公开的实施例，本公开提供的流量负载均衡方法、装置、设备、介质和程序产品至少具有以下有益效果之一：将实际生产过程中消息队列机制中存在弹性时间窗口，本公开将最大等待时间，也即弹性的时间窗口所能达到的最大时间，加入到容器数量的计算因素中，更加精确地计算出实际所需扩容的容器数量，不会产生多余的分配容器。采用了arima模型进行流量的预测，预测结果更为精准。

技术特征：

1.一种流量负载均衡方法，包括：

2.根据权利要求1所述的流量负载均衡方法，所述根据所述预测流量、所述最大并行流量以及所述最大等待时间，计算所述应用所需要的容器数量包括：

3.根据权利要求1所述的流量负载均衡方法，所述根据所述预测流量、所述最大并行流量以及所述最大等待时间，计算所述应用所需要的容器数量包括：

4.根据权利要求1所述的流量负载均衡方法，所述计算所述服务在服务从属应用的容器中的可以达到的最大并行流量包括：

5.根据权利要求4所述的流量负载均衡方法，所述获取所述业务在每个所述资源上的使用量包括：

6.根据权利要求1所述的流量负载均衡方法，所述预测业务中每个服务在服务从属应用的容器中的预测流量包括：

7.根据权利要求6所述的流量负载均衡方法，还包括：

8.根据权利要求1所述的流量负载均衡方法，所述根据所述容器数量对所述业务进行扩容包括：

9.一种流量负载均衡装置，包括：

10.一种电子设备，包括：

11.一种计算机可读存储介质，其上存储有可执行指令，该指令被处理器执行时使处理器执行根据权利要求1～8中任一项所述的方法。

12.一种计算机程序产品，包括计算机程序，所述计算机程序被处理器执行时实现根据权利要求1～8中任一项所述的方法。

技术总结
本公开提供了一种流量负载均衡方法，可以应用于大数据技术领域。该流量负载均衡方法包括：预测业务中每个服务在服务从属应用的容器中的预测流量；计算服务在服务从属应用的容器中的可以达到的最大并行流量；获取最大等待时间，最大等待时间为进入容器的流量从进入容器到被判定为超时丢弃流量的时间；根据预测流量、最大并行流量以及最大等待时间，计算应用所需要的容器数量；根据容器数量对业务进行扩容。本公开还提供了一种流量负载均衡装置、设备、存储介质和程序产品。

技术研发人员：宁顺宇,罗伟,吴延生,曾光
受保护的技术使用者：中国工商银行股份有限公司
技术研发日：
技术公布日：2024/1/22