针对多个推荐场景的资源弹性调度方法和装置与流程

本说明书一个或多个实施例涉及计算机领域，尤其涉及针对多个推荐场景的资源弹性调度方法和装置。

背景技术：

1、目前，同一推荐平台上装载的推荐场景数量众多，例如，可以达到数百个或数千个，为了满足业务需求，常常为每个推荐场景固定分配过量的资源，导致资源的平均水位很低，例如，资源平均水位不足30%，大量资源未达到预期水位，造成资源的浪费。

2、推荐平台上装载的推荐场景数量多、资源总量大，如果用人工的方式来调整各个场景的资源，不仅费时费力，且容易产生主观误差。

3、因此，需要针对多个推荐场景进行资源弹性调度，以实现多个推荐场景上的资源的自动扩缩容，使得资源的平均水位提高，提升资源整体利用率。

技术实现思路

1、本说明书一个或多个实施例描述了一种针对多个推荐场景的资源弹性调度方法和装置，能够实现多个推荐场景上的资源的自动扩缩容，使得资源的平均水位提高，提升资源整体利用率。

2、第一方面，提供了一种针对多个推荐场景的资源弹性调度方法，方法包括：

3、基于所述多个推荐场景中任一目标场景的历史流量构成的第一流量序列，预测未来的第一时间周期内的各个流量构成的第二流量序列；所述第一时间周期内存在多个决策时刻；

4、基于所述第二流量序列，确定所述目标场景在各个决策时刻的资源需求；

5、根据与资源节约以及资源变更有关的多个优化目标，在各个推荐场景满足其对应的资源需求的约束下，确定所述多个推荐场景在未来的各个决策时刻所分配的资源。

6、在一种可能的实施方式中，所述预测未来的第一时间周期内的各个流量构成的第二流量序列，包括：

7、获取离线训练的所述多个推荐场景共用的预测模型；

8、将所述第一流量序列输入所述预测模型，通过所述预测模型输出所述第二流量序列。

9、在一种可能的实施方式中，所述多个优化目标包括，最小化所述多个推荐场景在所述各个决策时刻的总的资源变更的第一优化目标。

10、在一种可能的实施方式中，所述多个优化目标包括第二优化目标，其限定所述多个推荐场景在所述各个决策时刻的平均资源总和相对于原始资源量的节约比例符合预设比例。

11、在一种可能的实施方式中，所述多个优化目标包括第三优化目标，其限定所述多个推荐场景在所述各个决策时刻的分配资源总和相对于原始资源总量的节约数量符合预设数量阈值。

12、在一种可能的实施方式中，所述多个优化目标包括第四优化目标，其限定任一推荐场景在两个相邻决策时刻的资源变化量小于或等于决策窗口的资源装卸量；所述决策窗口对应于两个相邻决策时刻之间的时间间隔。

13、在一种可能的实施方式中，所述多个优化目标包括第五优化目标，其限定任一推荐场景在任一决策时刻的资源属于预先设定的取值范围。

14、在一种可能的实施方式中，所述确定所述目标场景在各个决策时刻的资源需求，包括：

15、基于所述第二流量序列，确定所述目标场景在当前决策时刻对应的决策窗口内的流量峰值；

16、基于所述流量峰值和预先确定的单个资源能够支持的流量，计算得到所述目标场景在当前决策时刻的资源需求。

17、在一种可能的实施方式中，所述确定所述多个推荐场景在未来的各个决策时刻所分配的资源，包括：

18、确定所述多个推荐场景在第一决策时刻之后的第二决策时刻所分配的资源；所述第二决策时刻为所述第一决策时刻的下一个决策时刻；

19、所述各个推荐场景满足其对应的资源需求，包括：

20、任一推荐场景在第二决策时刻的分配资源，大于其在以第一决策时刻为起点的第一时间窗口和以第二决策时刻为起点的第二时间窗口的资源需求量中的较大者。

21、在一种可能的实施方式中，所述资源在不同的决策时刻能够被分配给不同的推荐场景。

22、在一种可能的实施方式中，所述资源包括以下中的一项或多项：机器资源、cpu、副本、虚拟机中的容器、容器中的pod。

23、第二方面，提供了一种针对多个推荐场景的资源弹性调度装置，装置包括：

24、预测单元，用于基于所述多个推荐场景中任一目标场景的历史流量构成的第一流量序列，预测未来的第一时间周期内的各个流量构成的第二流量序列；所述第一时间周期内存在多个决策时刻；

25、确定单元，用于基于所述预测单元得到的第二流量序列，确定所述目标场景在各个决策时刻的资源需求；

26、分配单元，用于根据与资源节约以及资源变更有关的多个优化目标，在各个推荐场景满足其对应的所述确定单元得到的资源需求的约束下，确定所述多个推荐场景在未来的各个决策时刻所分配的资源。

27、第三方面，提供了一种计算机可读存储介质，其上存储有计算机程序，当所述计算机程序在计算机中执行时，令计算机执行第一方面的方法。

28、第四方面，提供了一种计算设备，包括存储器和处理器，所述存储器中存储有可执行代码，所述处理器执行所述可执行代码时，实现第一方面的方法。

29、通过本说明书实施例提供的方法和装置，首先基于所述多个推荐场景中任一目标场景的历史流量构成的第一流量序列，预测未来的第一时间周期内的各个流量构成的第二流量序列；所述第一时间周期内存在多个决策时刻；然后基于所述第二流量序列，确定所述目标场景在各个决策时刻的资源需求；最后根据与资源节约以及资源变更有关的多个优化目标，在各个推荐场景满足其对应的资源需求的约束下，确定所述多个推荐场景在未来的各个决策时刻所分配的资源。由上可见，本说明书实施例，采用了细化的、以场景为粒度的弹性调度方式，利用各场景不同的流量规律做出场景流量预测，再利用运筹优化模型进行求解，能够实现多个推荐场景上的资源的自动扩缩容，使得资源的平均水位提高，提升资源整体利用率。

技术特征：

1.一种针对多个推荐场景的资源弹性调度方法，所述方法包括：

2.如权利要求1所述的方法，其中，所述预测未来的第一时间周期内的各个流量构成的第二流量序列，包括：

3.如权利要求1所述的方法，其中，所述多个优化目标包括，最小化所述多个推荐场景在所述各个决策时刻的总的资源变更的第一优化目标。

4.如权利要求1所述的方法，其中，所述多个优化目标包括第二优化目标，其限定所述多个推荐场景在所述各个决策时刻的平均资源总和相对于原始资源量的节约比例符合预设比例。

5.如权利要求1所述的方法，其中，所述多个优化目标包括第三优化目标，其限定所述多个推荐场景在所述各个决策时刻的分配资源总和相对于原始资源总量的节约数量符合预设数量阈值。

6.如权利要求1所述的方法，其中，所述多个优化目标包括第四优化目标，其限定任一推荐场景在两个相邻决策时刻的资源变化量小于或等于决策窗口的资源装卸量；所述决策窗口对应于两个相邻决策时刻之间的时间间隔。

7.如权利要求1所述的方法，其中，所述多个优化目标包括第五优化目标，其限定任一推荐场景在任一决策时刻的资源属于预先设定的取值范围。

8.如权利要求1所述的方法，其中，所述确定所述目标场景在各个决策时刻的资源需求，包括：

9.如权利要求1所述的方法，其中，所述确定所述多个推荐场景在未来的各个决策时刻所分配的资源，包括：

10.如权利要求1所述的方法，其中，所述资源在不同的决策时刻能够被分配给不同的推荐场景。

11.如权利要求1所述的方法，其中，所述资源包括以下中的一项或多项：机器资源、cpu、副本、虚拟机中的容器、容器中的pod。

12.一种针对多个推荐场景的资源弹性调度装置，所述装置包括：

13.一种计算机可读存储介质，其上存储有计算机程序，当所述计算机程序在计算机中执行时，令计算机执行权利要求1-11中任一项的所述的方法。

14.一种计算设备，包括存储器和处理器，所述存储器中存储有可执行代码，所述处理器执行所述可执行代码时，实现权利要求1-11中任一项的所述的方法。

技术总结
本说明书实施例提供一种针对多个推荐场景的资源弹性调度方法和装置，方法包括：基于所述多个推荐场景中任一目标场景的历史流量构成的第一流量序列，预测未来的第一时间周期内的各个流量构成的第二流量序列；所述第一时间周期内存在多个决策时刻；基于所述第二流量序列，确定所述目标场景在各个决策时刻的资源需求；根据与资源节约以及资源变更有关的多个优化目标，在各个推荐场景满足其对应的资源需求的约束下，确定所述多个推荐场景在未来的各个决策时刻所分配的资源。能够实现多个推荐场景上的资源的自动扩缩容，使得资源的平均水位提高，提升资源整体利用率。

技术研发人员：鲁炜,朱志博,卢星宇,刘子奇,唐欣,马文琪,顾进杰,曾晓东,周俊,张冠男
受保护的技术使用者：支付宝（杭州）信息技术有限公司
技术研发日：
技术公布日：2024/1/13