一种针对服务集群的容量评估方法、装置、电子设备和存储介质与流程

文档序号:37257522发布日期:2024-03-12 20:33阅读:13来源:国知局
一种针对服务集群的容量评估方法、装置、电子设备和存储介质与流程

本发明涉及计算机,尤其涉及一种针对服务集群的容量评估方法、装置、电子设备和存储介质。


背景技术:

1、在集群式服务架构中,集群容量是保证向用户提供稳定服务的重要指标,超出集群容量有可能会导致系统拥塞,此时向用户提供的服务质量变差;而远低于集群容量运行服务有可能会导致系统运行效率低下,服务成本升高;因此服务提供方或开发方需要了解服务集群的容量以避免出现系统拥塞或系统运行效率低下的问题。现有技术中,一般通过压力测试的方法来评估服务集群容量,然而这种方法会存在很多缺点,例如需要为了压力测试而对服务进行改造并配置压测资源,导致成本提高;在线上环境中进行压力测试,会存在影响下游服务的风险;以及,当服务迭代变更后,服务容量会发生改变且需要重新压测。


技术实现思路

1、根据本公开的第一方面,提供了一种针对服务集群的容量评估方法,包括:

2、获取目标服务集群的容量评估模型;

3、基于针对所述目标服务集群预设的服务延时阈值、预设的处理单元处理资源利用率阈值以及所述容量计算评估模型,确定所述目标服务集群的容量值;

4、其中,所述目标服务集群配置有多个用于提供服务的服务资源,每个所述服务资源包括用于针对所述目标服务集群进行处理的处理单元;所述处理单元处理资源执行与所述目标服务集群有关的处理;所述容量值表征所述目标服务集群的最大吞吐量;所述容量评估模型是基于所述目标服务集群的历史数据训练得到的;,所述历史数据包括服务延时的历史数据、处理单元处理资源利用率的历史数据和吞吐量的历史数据;所述容量评估模型包括第一容量评估模型和第二容量评估模型,所述第一容量评估模型是基于所述处理单元处理资源利用率的历史数据和所述吞吐量的历史数据训练得到的;所述第二容量评估模型基于所述服务延时的历史数据、所述处理单元处理资源利用率的历史数据和所述吞吐量的历史数据训练而得到的。

5、根据本公开的第二方面,提供了一种针对服务集群的容量评估装置,包括:

6、获取模块,用于获取目标服务集群的容量评估模型;

7、确定模块,用于基于针对所述目标服务集群预设的服务延时阈值、预设的处理资源利用率阈值以及所述容量评估模型,确定所述目标服务集群的容量值;

8、其中,所述目标服务集群配置有多个用于提供服务的服务资源,每个所述服务资源包括用于针对所述目标服务集群进行处理的处理资源;所述容量值表征所述目标服务集群的最大吞吐量;所述容量评估模型是基于所述目标服务集群的历史数据训练得到的,所述历史数据包括服务延时的历史数据、处理资源利用率的历史数据和吞吐量的历史数据;所述容量评估模型包括第一容量评估模型和第二容量评估模型,所述第一容量评估模型是基于所述处理资源利用率的历史数据和所述吞吐量的历史数据训练得到的;所述第二容量评估模型基于所述服务延时的历史数据、所述处理资源利用率的历史数据和所述吞吐量的历史数据训练得到的。

9、根据本公开的第三方面,提供了一种电子设备,包括:

10、处理器;以及

11、存储程序的存储器,

12、其中,所述程序包括指令,所述指令在由所述处理器执行时使所述处理器执行根如前所述的方法。

13、根据本公开的第四方面,提供了一种存储介质,存储有计算机指令,所述计算机指令用于使所述计算机执行如前所述的方法。

14、本公开提供一种针对服务集群的容量评估方法、装置、电子设备和存储介质,基于目标服务集群的服务延时、处理资源利用率和吞吐量的历史数据,训练得到容量评估模型,根据为目标服务集群预先设定的服务延时阈值和处理资源利用率阈值,基于所训练好的容量评估模型来评估容量值,一方面,不需要对服务集群架构进行改造或申请额外的资源,另一方面,评估过程与服务集群的业务相互独立,不会影响下游服务,此外,当服务发生变化时或为服务设置的服务延时阈值和处理资源利用率阈值发生变化的时候,可以根据训练好的容量评估模型快速获得容量评估结果。因此,采用本公开提供的技术方案能够帮助服务提供方或开发方及时了解服务的容量来确保服务的提供能够兼顾系统利用效率和用户体验。



技术特征:

1.一种针对服务集群的容量评估方法,包括:

2.根据权利要求1所述的方法,所述方法中,所述服务资源还包括非处理资源:

3.根据权利要求2所述的方法,其中:

4.根据权利要求1-3之一所述的方法,所述方法中:

5.根据权利要求1-3之一所述的方法,在所述获取目标服务集群的容量评估模型之前,还包括:

6.根据权利要求5所述的方法,其中所述预处理所述历史数据,包括:

7.根据权利要求1-3之一所述的方法,所述基于针对所述目标服务集群预设的服务延时阈值、预设的处理资源利用率阈值以及所述容量评估模型,确定所述目标服务集群的容量值,包括:

8.一种针对服务集群的容量评估装置,包括:

9.一种电子设备,包括:

10.一种存储介质,存储有计算机指令,所述计算机指令用于使所述计算机执行根据权利要求1-7中任一项所述的方法。


技术总结
本公开提供一种服务集群的容量评估方法、装置、电子设备和存储介质,包括:获取目标服务集群的容量评估模型;基于针对所述目标服务集群预设的服务延时阈值、预设的处理单元处理资源利用率阈值以及所述容量计算评估模型,确定所述目标服务集群的容量值;所述容量值表征所述目标服务集群的最大吞吐量;所述容量评估模型包括第一容量评估模型和第二容量评估模型,所述第一容量评估模型是基于所述处理单元处理资源利用率的历史数据和所述吞吐量的历史数据训练得到的;所述第二容量评估模型基于所述服务延时的历史数据、所述处理单元处理资源利用率的历史数据和所述吞吐量的历史数据训练而得到的。通过所述集群容量模型,可以根据目标集群服务设定的服务延时阈值和处理器利用率阈值来计算集群容量,降低了计算集群容量的成本和对服务产生的运行风险,并且能够在所述阈值改变配置或服务升级迭代之后及时获得最新的集群容量。

技术研发人员:高威,邬国栋,王克纯,奚耀国
受保护的技术使用者:北京火山引擎科技有限公司
技术研发日:
技术公布日:2024/3/11
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1