1.一种用于在突发模式下进行控制的系统,其包括:
一个或多个计算装置,所述一个或多个计算装置被配置成:
向工作目标分配规定吞吐量,所述规定吞吐量指示在正常操作模式期间要在所述工作目标处执行的工作操作的最大速率;
接收针对所述工作目标的工作请求;
响应于与所述工作目标相关的正常模式令牌桶的令牌数量满足第一阈值标准的确定,根据正常模式令牌消耗策略从所述正常模式令牌桶中消耗一个或多个令牌,并且接受用于执行的所述工作请求;
响应于所述正常模式令牌桶的所述令牌数量不满足所述第一阈值标准的确定,
确定突发模式令牌桶集合中的至少一个桶的令牌数量是否满足第二阈值标准;
响应于所述突发模式令牌桶集合中的所述至少一个桶的所述令牌数量满足所述第二阈值标准的确定,至少部分基于突发模式令牌消耗策略来从所述突发模式令牌桶集合中的所述至少一个桶中消耗一个或多个令牌,并且接受用于执行的所述工作请求,以及
响应于所述突发模式令牌桶集合中的所述至少一个桶的所述令牌数量不满足所述第二阈值标准的确定,拒绝所述工作请求;以及
至少部分基于分配给所述工作目标的所述规定吞吐量使所述正常模式令牌桶以一定速率再填充。
2.如权利要求1所述的系统,其中所述一个或多个计算装置还被配置成:
至少部分基于所述规定吞吐量来使所述突发模式令牌桶集合中的至少一个桶以另一个速率再填充。
3.如权利要求1所述的系统,其中所述一个或多个计算装置还被配置成:
响应于在接收工作请求的平均速率小于专用于所述工作目标的规定速率的特定时间段结束时,一个或多个工作令牌保持在所述正常模式令牌桶中的确定,至少部分基于保持在所述正常模式令牌桶中的工作令牌的所述数量来使所述突发模式令牌桶集合中的至少一个桶的所述令牌数量增加一定量。
4.如权利要求1所述的系统,其中所述突发模式令牌桶集合包括:本地突发限制令牌桶,其最大令牌数量指示针对所述工作目标处的工作操作所支持的最大突发速率;和共享资源令牌桶,其令牌数量指示由多个工作对象所共享的资源的可用吞吐量,其中响应于所述正常模式令牌桶的所述令牌数量不满足所述第一阈值标准的所述确定,所述一个或多个计算装置还被配置成:
响应于确定所述本地突发限制令牌桶的所述令牌数量超过零并且所述共享资源令牌桶的所述令牌数量超过零来接受用于执行的所述工作请求。
5.如权利要求1所述的系统,所述一个或多个计算装置还被配置成:
在接受所述用于执行的工作请求之前,产生响应于所述工作请求而执行的工作量的估计值;
在接受所述工作请求之后,确定与所述工作请求相对应的执行的所述工作量;以及
响应于所执行的工作量与估计值之间的差值的确定,至少部分基于所述差值来修改以下各项中的一者或多者中的至少一个桶的所述令牌数量:(a)所述正常模式令牌桶或(b)所述突发模式令牌桶集合。
6.一种用于在突发模式下进行控制的方法,其包括:
由一个或多个计算装置执行以下步骤:
向工作目标分配规定吞吐量,所述规定吞吐量指示在正常操作模式期间要在所述工作目标处执行的工作操作的最大速率;
接收针对所述工作目标的工作请求;
确定与所述工作目标相关的正常模式令牌桶的令牌数量;
响应于确定所述正常模式令牌桶的所述令牌数量不满足第一阈值标准,
确定与所述工作目标相关的突发模式令牌桶集合中的至少一个桶的所述令牌数量满足第二阈值标准,
接受用于执行的所述工作请求;以及
至少部分基于突发模式令牌消耗策略来修改所述突发模式令牌桶集合中的至少一个桶的所述令牌数量;以及
至少部分基于所述规定吞吐量使所述正常模式令牌桶以一定速率再填充。
7.如权利要求6所述的方法,其还包括由所述一个或多个计算装置执行以下步骤:
至少部分基于所述规定吞吐量来使所述突发模式令牌桶集合中的至少一个桶以不同速率再填充。
8.如权利要求6所述的方法,其还包括由所述一个或多个计算装置执行以下步骤:
响应于在所述工作目标以正常模式操作的特定时间段结束时,一个或多个工作令牌保持在所述正常模式令牌桶中的确定,至少部分基于保持在所述正常模式令牌桶中的工作令牌的所述数量来使所述突发模式令牌桶集合中的至少一个桶的所述令牌数量增加一定量。
9.如权利要求6所述的方法,其中所述突发模式令牌桶集合包括:本地突发限制令牌桶,其最大令牌数量指示针对所述工作目标处的工作操作所支持的最大突发速率;和共享资源令牌桶,其令牌数量指示由多个工作对象所共享的资源的可用吞吐量,其中响应于所述正常模式令牌桶的所述令牌数量满足第一阈值标准的所述确定,所述方法还包括由所述一个或多个计算装置执行以下步骤:
响应于确定所述本地突发限制令牌桶的所述令牌数量超过零并且所述共享资源令牌桶的所述令牌数量超过零来接受用于执行的所述工作请求。
10.如权利要求6所述的方法,其还包括由所述一个或多个计算装置执行以下步骤:
在接受用于执行的所述工作请求之前,产生响应于所述工作请求而执行的工作量的估计值;
在所述接受之后,确定与所述工作请求相对应的执行的所述工作量;以及
响应于确定所述工作量与所述估计值之间的差值,至少部分基于所述差值来修改以下各项中的一者或多者中的至少一个桶的所述令牌数量:(a)所述正常模式令牌桶或(b)所述突发模式令牌桶集合。
11.如权利要求6所述的方法,其中所述工作目标包括存储对象的至少一部分,其中所述工作请求包括以下各项中的至少一者:(a)读取操作或(b)写入操作。
12.如权利要求6所述的方法,其中所述突发模式令牌桶集合包括:读取突发令牌桶,所述读取突发令牌桶用于对包括读取操作的工作请求的准入控制;和写入突发令牌桶,所述写入突发令牌桶用于对包括写入操作的工作请求的准入控制。
13.如权利要求6所述的方法,其还包括由所述一个或多个计算装置执行以下步骤:
在一个时间段内监视工作请求到达速率;以及
至少部分基于监视所述工作请求到达速率而得到的结果来修改所述突发模式令牌桶集合中的至少一个桶的最大令牌数量限制。
14.如权利要求6所述的方法,其还包括由所述一个或多个计算装置执行以下步骤:
向客户端提供与所述工作目标处的突发模式操作相关的定价策略的指示;以及
至少部分基于根据所述定价策略从客户端接收的突发模式容量增加请求来修改所述突发模式令牌桶集合中的至少一个桶的最大令牌数量限制。
15.一种用于在突发模式下进行控制的系统,其包括:
一个或多个处理器;以及
一个或多个存储器,所述一个或多个存储器存储程序指令,所述程序指令在一个或多个处理器上执行时:
向工作目标分配规定吞吐量,所述规定吞吐量指示在正常操作模式期间要在所述工作目标处执行的工作操作的最大速率;
接收针对所述工作目标的工作请求;
响应于至少部分基于第一阈值标准而确定所述工作目标处于突发操作模式,
确定与所述工作目标相关的突发模式令牌桶集合中的至少一个桶的令牌数量满足第二阈值标准;以及
接受用于执行的所述工作请求;以及
至少部分基于所述规定吞吐量使与所述工作目标关联的正常模式令牌桶以一定速率再填充,其中第一阈值标准至少部分基于所述正常模式令牌桶的令牌数量。