回填调度参数的确定方法、装置、设备、介质和程序产品与流程

文档序号:30617891发布日期:2022-07-02 01:33阅读:176来源:国知局
回填调度参数的确定方法、装置、设备、介质和程序产品与流程

1.本技术涉及计算机设备技术领域,特别是涉及一种回填调度参数的确定方法、装置、设备、介质和程序产品。


背景技术:

2.slurm(simple linux utility for resource management)是一种可用于大型计算节点集群的高度可伸缩和容错的集群管理器和作业调度系统,被世界范围内的超级计算机和计算集群广泛采用。而slurm调度系统中包括回填调度器,回填调度器会考虑每个正在运行的作业,将正在排队的作业按照优先级从高到低的顺序排序,确定每个作业的开始时间。如果正在考虑的作业可以立即开始而不需要影响任何更高优先级工作的预期开始时间,那么这个作业将会被回填调度器直接执行,以高效调度各计算节点提交的作业。
3.计算集群在实际使用过程中,slurm调度系统提供了众多的参数,用户可以通过调整参数对调度系统进行限制和管理,同样,slurm调度系统中的回填调度器也有许多参数对回填调度的时间、调度队列的深度、调度的时间间隔等进行设定,进而通过调整该参数可实现对调度系统进行有效限制和管理。目前,国内大型hpc(high performance computing)集群众多,集群的规模以及每个集群上的用户量各不相同,用户只能根据集群规模、作业量等信息对回填调度参数设置一个相对合理的值,但是参数众多无法达到一个最优的效果,所以就会导致调度效果不佳,资源利用率不高。
4.基于此,如何提供一种对回填调度器的参数进行优化,以使slurm调度系统可以在作业调度过程中达到最优的调度效果,进而提高资源利用率的方法成为当前亟待解决的技术问题。


技术实现要素:

5.基于此,有必要针对上述技术问题,提供一种能够提升调度效果,以及提高资源利用率的回填调度参数的确定方法、装置、设备、介质和程序产品。
6.第一方面,本技术提供了一种回填调度参数的确定方法,所述方法包括:
7.获取作业调度系统在之前的回填调度过程的输出日志;
8.根据所述输出日志确定当前的回填调度过程的回填状态;
9.根据所述回填状态对应的调度策略调整当前的回填调度参数。
10.本实施例实现了作业调度系统在回填调度过程中的状态监测,能够实时获取回填调度过程的回填状态,进而实现了基于回填状态对当前的回填调度参数进行动态优化,使回填调度的调度效果最佳,从而提高作业调度系统的资源利用率。
11.在其中一个实施例中,若所述回填状态为忙碌状态,则所述根据所述回填状态对应的调度策略调整当前的回填调度参数,包括:
12.检测所述之前的回填调度过程的作业退出原因,并根据所述作业退出原因调整当前的回填调度参数。
13.在其中一个实施例中,所述根据所述作业退出原因调整当前的回填调度参数,包括:
14.从所述之前的回填调度过程的输出日志中提取出设定队列深度、回填调度的超时状态和各作业的作业调度状态;
15.若所述作业退出原因为所述设定队列深度小于当前的队列实际深度,且所述各作业的作业调度状态表示有部分作业未被调度,则调大所述当前的回填调度参数中作业相关参数的值;
16.若所述作业退出原因为所述回填调度的超时状态为回填调度超时退出,且所述各作业的作业调度状态表示有部分作业未被调度,则增加所述当前的回填调度参数中的回填调度时间。
17.本实施例通过分析作业退出原因来对回填调度参数进行优化,可以降低作业调度系统在回填调度过程中无效作业调度的概率,进而提高作业调度系统对作业的调度效率,达到最佳的调度效果。
18.在其中一个实施例中,若所述回填状态为空闲状态,则所述根据所述回填状态对应的调度策略调整当前的回填调度参数,包括:
19.调小所述当前的回填调度参数中的回填调度时间和/或设定队列深度。
20.本实施例所述的方法可避免回填状态为空闲状态时因回填调度占用锁且队列中没有满回填的作业,造成回填占用锁影响其他线程运行的现象,从而优化回填调度器的运行,使其得到一个回填调度器的最佳状态。
21.在其中一个实施例中,所述方法还包括:
22.若所述当前的回填调度参数中的作业数量小于预设数量阈值,或者未有作业满足回填要求,则增加所述当前的回填调度参数中回填调度的时间间隔。
23.本实施例所述的方法实现了在作业数量较少或作业未满足回填要求的情况下动态优化回填调度参数,使回填调度器可以在不需要回填调度时有效节约调度资源。
24.第二方面,本技术还提供了一种作业调度方法。所述方法包括:
25.获取作业调度系统中各作业节点提交的作业;
26.根据上述第一方面所述的回填调度参数的确定方法对回填调度参数进行调整,得到调整后的回填调度参数;
27.根据所述调整后的回填调度参数对各所述作业节点提交的作业进行回填调度。
28.上述实施例提供的作业调度方法,通过检测回填调度过程中的日志输出,获取当前的回填调度过程的回填状态,以及通过判断回填状态是否为最优,如果不是则将回填状态分为两类,一类状态为忙碌状态,在这种状态下回填调度器处理每个作业时间过长且无法遍历到作业队列中较深的作业,导致部分作业调度不到,所以通过分析这种状态调整回填调度参数,可以提高作业的调度效率;另一类状态为空闲状态,在这种状态下作业队列中作业量少,每次回填调度占用锁且队列中没有满回填的作业,造成回填占用锁影响其他线程运行,所以通过分析这种状态调整回填调度参数,可以调整回填调度器的运行情况,使其达到一个回填调度器的最佳状态。那么管理节点在利用最优的回填调度参数进行作业的回填调度时,可以进一步的提高作业调度系统的作业调度效率和资源利用率。
29.第三方面,本技术还提供了一种回填调度参数的确定装置。所述装置包括:
30.获取模块,用于获取作业调度系统在回填调度过程中的输出日志;
31.确定模块,用于根据所述输出日志确定所述回填调度过程的回填状态;
32.调整模块,用于根据所述回填状态对应的调度策略调整所述回填调度参数。
33.第四方面,本技术还提供了一种计算机设备。所述计算机设备包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现上述第一方面或第二方面所述的方法。
34.第五方面,本技术还提供了一种计算机可读存储介质。所述计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现上述第一方面或第二方面所述的方法。
35.第六方面,本技术还提供了一种计算机程序产品。所述计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现上述第一方面或第二方面所述的方法。
附图说明
36.图1为一个实施例中作业调度系统的结构示意图;
37.图2为一个实施例中回填调度过程的示意图;
38.图3为一个实施例中回填调度参数的确定方法的流程示意图;
39.图4为一个实施例中调整回填调度参数的方式的流程示意图;
40.图5为另一个实施例中回填调度参数的确定方法的流程示意图;
41.图6为一个实施例中优化流程示意图;
42.图7为一个实施例中作业调度方法的流程示意图;
43.图8为一个实施例中作业运行流程的示意图;
44.图9为一个实施例中回填调度参数的确定装置的结构框图;
45.图10为一个实施例中回填调度参数的确定装置的结构框图;
46.图11为一个实施例中作业调度装置的结构框图;
47.图12为一个实施例中计算机设备的内部结构图。
具体实施方式
48.为了使本技术的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本技术进行进一步详细说明。应当理解,此处描述的具体实施例仅仅用以解释本技术,并不用于限定本技术。
49.本技术实施例提供的回填调度参数的确定方法,可以应用于如图1所示的作业调度系统,,该作业调度系统中包括多个计算节点102、管理节点104和多个用户终端106,管理节点104分别与各用户终端106连接和各计算节点102连接。其中,各用户终端106负责将作业应用程序提交至管理节点104,管理节点104根据作业应用程序的需求调度相应的资源,实现对作业进行回填调度,并将运行指令发送给各计算节点102,每个计算节点102接收到运行指令后开始运行作业应用程序,并在调度作业结束后将计算结果通过管理节点104返回用户终端106。其中,用户终端106可以但不限于是各种个人计算机、笔记本电脑、智能手机、平板电脑、物联网设备和便携式可穿戴设备,物联网设备可为智能音箱、智能电视、智能空调、智能车载设备等。便携式可穿戴设备可为智能手表、智能手环、头戴设备等。计算节点
102可以用独立的服务器或者是多个服务器组成的服务器集群来实现。管理节点104可以用独立的服务器或者是多个服务器组成的服务器集群来实现。
50.现有的slurm调度系统中,slurm调度系统维护着一个待处理工作的队列并管理此工作的整体资源利用。它以一种共享或非共享的方式管理可用的计算节点,以供用户执行工作。slurm调度系统会为任务队列合理地分配资源,并监视作业至其完成。slurm调度系统提供了三个关键功能,首先,它在一段时间内为用户分配对资源的独占和/或非独占访问权限,以便他们可以执行工作。其次,它提供了一个框架,用于在一组分配的节点上启动,执行和监视工作。最后,它通过管理待处理作业队列来仲裁资源争用。
51.现有的slurm调度系统中的slurm调度器主要由主调度器和回填调度器构成,回填调度器会考虑正在运行的作业,然后将正在排队的作业按照优先级从高到低的顺序排序,确定每个作业的开始时间。如果低优先级的作业可以立即开始而不影响任何更高优先级工作的预期开始时间,那么这个作业将会被回填调度器直接执行。优先级调度和回填调度效果如图2所示。横向为时间,纵向为资源数量,可以看出回填调度器将a作业和b作业提前,并且不影响前面作业的预期开始时间。
52.通常,大型计算集群的slurm调度系统在实际使用的过程中,不同时刻用户提交的作业量有所差别,当用户提交作业暴增时,如果回填调度器设定的调度时间短或者调度的队列深度小,就会导致许多作业调度不到作业状态为none的现象,这样即使空闲资源满足作业运行要求也无法提供给作业使用,此时就需要管理员用户手动调整回填调度的相关参数,如果管理员发现不及时就会导致作业长时间none,从而导致用户作业调度不到,资源浪费严重,用户体验差。为了解决上述问题,本技术提供了一种回填调度参数的确定方法,可以实现调度系统在回填调度过程中对回填调度参数的动态优化,从而使调度系统在回填调度过程中达到最佳的调度效果,进而提高资源利用率。下面实施例具体说明该回填调度参数的确定方法。
53.在一个实施例中,如图3所示,提供了一种回填调度参数的确定方法,以该方法应用于图1中的管理节点为例进行说明,包括以下步骤:
54.s101,获取作业调度系统在之前的回填调度过程的输出日志。
55.其中,输出日志中可以包含诸如调度作业数量、调度作业时间、回填调度退出原因等与回填调度过程或回填调度器相关的参数。作业调度系统可以为如图1所述的作业调度系统,其中的管理节点负责对各用户终端提交的作业进行回填调度。
56.本实施例中,管理节点在对各用户终端提交的作业进行每轮回填调度的过程中,均会将每轮回填调度过程中诸如调度作业数量、调度作业时间、回填调度退出原因、回填调度退出状态等与回填调度过程相关的参数记录在输出日志中。因此,当管理节点对各用户终端提交的作业进行当前轮的回填调度时,可以通过轮询的方式检测之前每轮回填调度过程的输出日志。需要说明的是,管理节点上可以安装回填调度器,并在回填调度时可以启动该回填调度器进行回填调度,以及检测回填调度器的输出日志。
57.s102,根据输出日志确定当前的回填调度过程的回填状态。
58.其中,回填状态包括最佳状态、忙碌状态和空闲状态。最佳状态表示管理节点在回填调度过程中可以合理的处理作业队列中的作业,即能保证回填调度的效率,又能保证回填调度的质量;忙碌状态表示管理节点在回填调度过程中处理每个作业时间过长且无法遍
历到作业队列中较深的作业,导致部分作业调度不到。空闲状态表示作业队列中作业量少,每次回填调度占用锁且队列中没有满回填的作业,造成回填占用锁影响其他线程运行。
59.本实施例中,当管理节点检测到之前的回填调度过程的输出日志时,可以进一步的从输出日志中提取出诸如调度作业数量、调度作业时间、回填调度退出原因等与回填调度过程相关的参数,并结合当前的回填调度参数中设定的诸多参数,比如,回填调度时间、回填调度的时间间隔等,以及管理节点和连接的各计算节点可调度的资源,确定当前的回填调度过程的回填状态。
60.s103,根据回填状态对应的调度策略调整当前的回填调度参数。
61.其中,不同的回填状态对应不同的调度策略。调度策略用于调整当前的回填调度参数,也即用于优化当前的回填调度参数。回填调度参数包括诸多参数,其中对回填调度流程影响较大的参数可以如表1所示,用户可以通过修改回填调度参数对调度系统中的回填调度过程进行控制,即对回填调度器进行控制,回填调度参数主要分为两类,一部分为修改回填调度器各项功能的时间,另一部分为修改回填调度器访问队列的作业数量。
62.表1
[0063][0064][0065]
本实施例中,管理节点可以预先确定并存储不同的回填状态与不同的调度策略之间的对应关系。当管理节点基于前述步骤确定了当前的回填调度过程的回填状态时,可以进一步的分析每个回填调度参数对回填调度过程的影响,并将回填调度参数和回填状态进行绑定,从而根据回填状态对应的调度策略调整当前的回填调度参数,实现对当前的回填调度参数进行优化。具体的,当回填状态为忙碌状态时,可以根据回填状态与调度策略之间的对应关系,确定与忙碌状态对应的调度策略,并根据与忙碌状态对应的调度策略调整当前的回填调度参数;当回填状态为空闲状态时,可以根据回填状态与调度策略之间的对应关系,确定与空闲状态对应的调度策略,并根据与空闲状态对应的调度策略调整当前的回填调度参数。
[0066]
上述实施例所述的回填调度参数的确定方法,通过获取作业调度系统在之前的回填调度过程的输出日志,并根据输出日志确定回填调度过程的回填状态,以及根据回填状态对应的调度策略调整当前的回填调度参数。上述方法实现了作业调度系统在回填调度过程中的状态监测,能够实时获取回填调度过程的回填状态,进而实现了基于回填状态对当前的回填调度参数进行动态优化,使回填调度的调度效果最佳,从而提高作业调度系统的资源利用率。
[0067]
如上实施例所述的方法中,管理节点检测到的当前的回填调度过程的回填状态可以分为最佳状态、忙碌状态和空闲状态,当回填状态为忙碌状态时,本技术提供了该回填状态下对回填调度参数进行优化的方法,即上述s103“根据回填状态对应的调度策略调整当前的回填调度参数”,包括:检测之前的回填调度过程的作业退出原因,并根据作业退出原因调整当前的回填调度参数。
[0068]
具体的,当管理节点基于前述步骤确定了当前的回填调度过程的回填状态为忙碌状态时,可以进一步的从之前的回填调度过程的输出日志中提取出之前的回填调度过程的作业退出原因,并通过分析该作业退出原因,得到与该作业退出原因对应的调度策略,并根据与该作业退出原因对应的调度策略调整当前的回填调度参数。需要说明的是,不同的作业退出原因可以对应不同的调度策略,且该对应关系可以由管理节点预先确定并存储。
[0069]
进一步的,提供了根据回填调度过程的作业退出原因调整回填调度参数的具体方式,如图4所示,该方式包括:
[0070]
s201,从之前的回填调度过程的输出日志中提取出设定队列深度、回填调度的超时状态和作业调度状态。
[0071]
其中,回填调度的超时状态包括回填调度超时退出或回填调度未超时退出的状态。作业调度状态包括作业被调度或作业未被调度的状态。具体的,当管理节点需要根据回填调度过程的作业退出原因调整当前的回填调度参数时,可以进一步的从之前的回填调度过程的输出日志中提取出设定队列深度、回填调度的超时状态和各作业的作业调度状态等这些作业相关参数,以便之后将这些作业相关参数作为参考调整当前的回填调度参数。
[0072]
s202,若作业退出原因为设定队列深度小于当前的队列实际深度,则调大当前的回填调度参数中作业相关参数的值。
[0073]
当作业退出原因为设定队列深度小于当前的队列实际深度,且各作业的作业调度状态表示有部分作业未被调度,说明设定队列深度太小,需要适当调大当前的回填调度参数中作业相关参数的值,比如,设定队列深度、分区数量、用户的数量、启动时间等,以使队列中包含的所有作业可以被有效调度,进而充分利用资源。作业相关参数的值也包括表1中与作业相关的参数的值,比如,每个分区启动的最大作业数量、每个用户启动的最大作业数量等。
[0074]
s203,若作业退出原因为回填调度的超时状态为回填调度超时退出,且各作业的作业调度状态表示有部分作业未被调度,则增加当前的回填调度参数中的回填调度时间。
[0075]
当作业退出原因为回填调度的超时状态为回填调度超时退出,且各作业的作业调度状态表示有部分作业未被调度,说明回填调度时间过短,可以适当增加回填调度时间。本实施例通过分析作业退出原因来对回填调度参数进行优化,可以降低作业调度系统在回填调度过程中无效作业调度的概率,进而提高作业调度系统对作业的调度效率,达到最佳的
调度效果。
[0076]
在一个实施例中,当回填状态为空闲状态时,还提供了该回填状态下对回填调度参数进行优化的方法,即上述s103“根据回填状态对应的调度策略调整当前的回填调度参数”,包括:调小当前的回填调度参数中的回填调度时间和/或设定队列深度。
[0077]
具体的,当管理节点基于前述步骤确定了当前的回填调度过程的回填状态为空闲状态时,说明作业队列中作业量少,可以适当的调小当前的回填调度参数中的回填调度时间,使回填调度时间与作业队列中的作业量匹配,不造成回填调度时间的浪费;可选的,可以适当的调小当前的回填调度参数中的设定队列深度,使设定队列深度与作业队列的深度匹配,不造成队列资源的浪费;可选的,也可以同时调小当前的回填调度参数中的回填调度时间和设定队列深度,进而不造成回填调度时间的浪费和队列资源的浪费。该实施例所述的方法可避免回填状态为空闲状态时因回填调度占用锁且队列中没有满回填的作业,造成回填占用锁影响其他线程运行的现象,从而优化回填调度器的运行,使其得到一个回填调度器的最佳状态。
[0078]
进一步的,上述s103“根据回填状态对应的调度策略调整当前的回填调度参数”,还包括:若当前的回填调度参数中的作业数量小于预设数量阈值,或者未有作业满足回填要求,则增加当前的回填调度参数中回填调度的时间间隔。
[0079]
具体的,当管理节点基于前述步骤确定了当前的回填调度过程的回填状态为空闲状态时,可以进一步的确定当前的回填调度参数中的作业数量是否小于预设数量阈值,若当前的回填调度参数中的作业数量小于预设数量阈值,则说明作业队列中待调度的作业数量较少,此种情况下可以减少回填调度的次数,则可以适当增加当前的回填调度参数中回填调度的时间间隔。可选的,当管理节点基于前述步骤确定了当前的回填调度过程的回填状态为空闲状态时,可以进一步的确定队列中的作业是否满足回填要求,若未有作业满足回填要求,则说明不需要进行回填调度,或减少回填调度的次数,此种情况下,可以适当增加当前的回填调度参数中回填调度的时间间隔。该实施例所述的方法实现了在作业数量较少或作业未满足回填要求的情况下动态优化回填调度参数,使回填调度器可以在不需要回填调度时有效节约调度资源。
[0080]
综合上述所有实施例,还提供了一种回填调度参数的确定方法,如图5所示,该方法包括:
[0081]
s301,获取作业调度系统在之前的回填调度过程的输出日志。
[0082]
s302,根据输出日志确定当前的回填调度过程的回填状态。
[0083]
s303,从输出日志中提取出设定队列深度、回填调度的超时状态和作业调度状态,以及确定回填调度过程的作业退出原因。
[0084]
s304,若回填状态为忙碌状态,则确定回填调度过程的作业退出原因,并当作业退出原因为设定队列深度小于当前的队列实际深度,则调大当前的回填调度参数中作业相关参数的值;若作业退出原因为回填调度的超时状态为回填调度超时退出,且各作业的作业调度状态表示有部分作业未被调度,则增加当前的回填调度参数中的回填调度时间。
[0085]
s305,若回填状态为空闲状态,则调小当前的回填调度参数中的回填调度时间和/或设定队列深度,以及在当前的回填调度参数中的作业数量小于预设数量阈值,或者未有作业满足回填要求的情况下,增加当前的回填调度参数中回填调度的时间间隔。
[0086]
上述图2-图5实施例所述的方法为管理节点调整回填调度参数的方法,实现了回填调度参数的优化,可参见图6所示的优化流程示意图,其中,在整个调度过程中,回填调度器执行循环步骤:实时监测日志,并根据日志输出确定回填状态,以及根据回填状态调整回填调度参数。期间回填调度器可以从日志输出中提取诸如回填锁释放、回填时间间隔、回填调度祖业等相关参数,并基于这些相关参数确定回填状态。通过如图6所示的循环优化流程实现回填调度参数的动态优化。具体将图2-图6实施例所述的方法方法应用在如图1所示的作业调度系统进行各作业调度时,可以提高各作业的高效调度,以及提升调度过程中资源利用率。下述图7实施例说明一种应用于图1所示应用环境的作业调度方法。
[0087]
在一个实施例中,如图7所示,提供了一种作业调度方法,以该方法应用于图1中的管理节点为例进行说明,包括以下步骤:
[0088]
s401,获取作业调度系统中各用户终端提交的作业。
[0089]
现如今涉及到国计民生的像天气预报、卫星图像处理、生物医药、工业仿真等领域的应用在计算时都离不开高性能计算,然而每个高性能集群都离不开调度系统。作业调度系统(比如slurm调度系统)会合理的分配安排资源。具体的,管理节点可以采用如图8所述作业运行流程分配或管理作业,其中,作业调度系统中有用户终端将作业提交后,该作业调度系统中的管理节点上的主调度器或回填调度器会根据作业的需要申请或分配相应的资源来保证作业的正常执行,管理节点会将运行指令发送给申请到的计算节点,同时每个计算节点会有相应的守护进程,在收到管理节点的运行指令后,计算节点开始运行程序,运行过程中,计算节点采集作业在节点的运行状态和资源使用情况,直到作业结束,计算节点通知管理节点,调度系统将计算节点的资源收回。
[0090]
s402,根据图2-图7实施例所述的回填调度参数的确定方法对回填调度参数进行调整,得到调整后的回填调度参数。
[0091]
根据图2-图7实施例所述的回填调度参数的确定方法对回填调度参数进行调整,实现了对回填调度参数的优化,使优化后的回填调度参数可以匹配当前调度过程。
[0092]
s403,根据调整后的回填调度参数对各用户终端提交的作业进行回填调度。
[0093]
使用调整后的回填调度参数对各用户终端提交的作业进行回填调度后,可以使作业调度系统在回填调度过程中达到最佳调度效果。
[0094]
上述实施例提供的作业调度方法,通过检测回填调度过程中的日志输出,获取当前的回填调度过程的回填状态,以及通过判断回填状态是否为最优,如果不是则将回填状态分为两类,一类状态为忙碌状态,在这种状态下回填调度器处理每个作业时间过长且无法遍历到作业队列中较深的作业,导致部分作业调度不到,所以通过分析这种状态调整回填调度参数,可以提高作业的调度效率;另一类状态为空闲状态,在这种状态下作业队列中作业量少,每次回填调度占用锁且队列中没有满回填的作业,造成回填占用锁影响其他线程运行,所以通过分析这种状态调整回填调度参数,可以调整回填调度器的运行情况,使其达到一个回填调度器的最佳状态。那么管理节点在利用最优的回填调度参数进行作业的回填调度时,可以进一步的提高作业调度系统的作业调度效率和资源利用率。
[0095]
应该理解的是,虽然如上所述的各实施例所涉及的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而
且,如上所述的各实施例所涉及的流程图中的至少一部分步骤可以包括多个步骤或者多个阶段,这些步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤中的步骤或者阶段的至少一部分轮流或者交替地执行。
[0096]
基于同样的发明构思,本技术实施例还提供了一种用于实现上述所涉及的回填调度参数的确定方法的回填调度参数的确定装置。该装置所提供的解决问题的实现方案与上述方法中所记载的实现方案相似,故下面所提供的一个或多个回填调度参数的确定装置实施例中的具体限定可以参见上文中对于回填调度参数的确定方法的限定,在此不再赘述。
[0097]
在一个实施例中,如图9所示,提供了一种回填调度参数的确定装置,包括:
[0098]
获取模块10,用于获取作业调度系统在回填调度过程中的输出日志;
[0099]
确定模块11,用于根据所述输出日志确定所述回填调度过程的回填状态;
[0100]
调整模块12,用于根据所述回填状态对应的调度策略调整所述回填调度参数。
[0101]
在一个实施例中,若所述回填状态为忙碌状态,则上述调整模块12具体用于检测所述之前的回填调度过程的作业退出原因,并根据所述作业退出原因调整当前的回填调度参数。
[0102]
在一个实施例中,上述调整模块12,如图10所示,包括:
[0103]
提取单元120,用于从所述之前的回填调度过程的输出日志中提取出设定队列深度、回填调度的超时状态和各作业的作业调度状态;
[0104]
第一调整单元121,用于在所述作业退出原因为所述设定队列深度小于当前的队列实际深度,且所述各作业的作业调度状态表示有部分作业未被调度的情况下,调大所述当前的回填调度参数中作业相关参数的值;
[0105]
第二调整单元122,用于在所述作业退出原因为所述回填调度的超时状态为回填调度超时退出,且所述各作业的作业调度状态表示有部分作业未被调度的情况下,增加所述当前的回填调度参数中的回填调度时间。
[0106]
在一个实施例中,若所述回填状态为空闲状态,则上述调整模块12具体用于调小所述当前的回填调度参数中的回填调度时间和/或设定队列深度。
[0107]
在一个实施例中,若所述当前的回填调度参数中的作业数量小于预设数量阈值,或者未有作业满足回填要求,则上述调整模块12具体用于增加所述当前的回填调度参数中回填调度的时间间隔。
[0108]
基于同样的发明构思,本技术实施例还提供了一种用于实现上述所涉及的作业调度方法的作业调度装置。该装置所提供的解决问题的实现方案与上述方法中所记载的实现方案相似,故下面所提供的一个或多个作业调度装置实施例中的具体限定可以参见上文中对于作业调度方法的限定,在此不再赘述。
[0109]
在一个实施例中,如图11所示,提供了一种作业调度装置,包括:
[0110]
获取模块20,用于获取作业调度系统中各用户终端提交的作业;
[0111]
调整模块21,用于根据所述输出日志确定所述回填调度过程的回填状态;
[0112]
调度模块22,用于根据所述回填状态对应的调度策略调整所述回填调度参数。
[0113]
上述回填调度参数的确定装置或上述作业调度装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中
的处理器中,也可以以软件形式存储于计算机设备中的存储器中,以便于处理器调用执行以上各个模块对应的操作。
[0114]
在一个实施例中,提供了一种计算机设备,该计算机设备可以是服务器,其内部结构图可以如图12所示。该计算机设备包括通过系统总线连接的处理器、存储器和网络接口。其中,该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质和内存储器。该非易失性存储介质存储有操作系统、计算机程序和数据库。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的数据库用于存储输出日志数据。该计算机设备的网络接口用于与外部的终端通过网络连接通信。该计算机程序被处理器执行时以实现一种回填调度参数的确定方法。
[0115]
本领域技术人员可以理解,图12中示出的结构,仅仅是与本技术方案相关的部分结构的框图,并不构成对本技术方案所应用于其上的计算机设备的限定,具体的计算机设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
[0116]
在一个实施例中,提供了一种计算机设备,包括存储器和处理器,存储器中存储有计算机程序,该处理器执行计算机程序时实现以下步骤:
[0117]
获取作业调度系统在之前的回填调度过程的输出日志;
[0118]
根据所述输出日志确定当前的回填调度过程的回填状态;
[0119]
根据所述回填状态对应的调度策略调整当前的回填调度参数。
[0120]
上述实施例提供的一种计算机设备,其实现原理和技术效果与上述方法实施例类似,在此不再赘述。
[0121]
在一个实施例中,提供了一种计算机可读存储介质,其上存储有计算机程序,计算机程序被处理器执行时实现以下步骤:
[0122]
获取作业调度系统在之前的回填调度过程的输出日志;
[0123]
根据所述输出日志确定当前的回填调度过程的回填状态;
[0124]
根据所述回填状态对应的调度策略调整当前的回填调度参数。
[0125]
上述实施例提供的一种计算机可读存储介质,其实现原理和技术效果与上述方法实施例类似,在此不再赘述。
[0126]
在一个实施例中,提供了一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现以下步骤:
[0127]
获取作业调度系统在之前的回填调度过程的输出日志;
[0128]
根据所述输出日志确定当前的回填调度过程的回填状态;
[0129]
根据所述回填状态对应的调度策略调整当前的回填调度参数。
[0130]
上述实施例提供的一种计算机程序产品,其实现原理和技术效果与上述方法实施例类似,在此不再赘述。
[0131]
在一个实施例中,提供了一种计算机设备,包括存储器和处理器,存储器中存储有计算机程序,该处理器执行计算机程序时实现以下步骤:
[0132]
获取作业调度系统中各用户终端提交的作业;
[0133]
根据上述回填调度参数的确定方法对回填调度参数进行调整,得到调整后的回填调度参数;
[0134]
根据所述调整后的回填调度参数对各所述用户终端提交的作业进行回填调度。
[0135]
上述实施例提供的一种计算机设备,其实现原理和技术效果与上述方法实施例类似,在此不再赘述。
[0136]
在一个实施例中,提供了一种计算机可读存储介质,其上存储有计算机程序,计算机程序被处理器执行时实现以下步骤:
[0137]
获取作业调度系统中各用户终端提交的作业;
[0138]
根据上述回填调度参数的确定方法对回填调度参数进行调整,得到调整后的回填调度参数;
[0139]
根据所述调整后的回填调度参数对各所述用户终端提交的作业进行回填调度。
[0140]
上述实施例提供的一种计算机可读存储介质,其实现原理和技术效果与上述方法实施例类似,在此不再赘述。
[0141]
在一个实施例中,提供了一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现以下步骤:
[0142]
获取作业调度系统中各用户终端提交的作业;
[0143]
根据上述回填调度参数的确定方法对回填调度参数进行调整,得到调整后的回填调度参数;
[0144]
根据所述调整后的回填调度参数对各所述用户终端提交的作业进行回填调度。
[0145]
上述实施例提供的一种计算机程序产品,其实现原理和技术效果与上述方法实施例类似,在此不再赘述。
[0146]
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一非易失性计算机可读取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。其中,本技术所提供的各实施例中所使用的对存储器、数据库或其它介质的任何引用,均可包括非易失性和易失性存储器中的至少一种。非易失性存储器可包括只读存储器(read-only memory,rom)、磁带、软盘、闪存、光存储器、高密度嵌入式非易失性存储器、阻变存储器(reram)、磁变存储器(magnetoresistive random access memory,mram)、铁电存储器(ferroelectric random access memory,fram)、相变存储器(phase change memory,pcm)、石墨烯存储器等。易失性存储器可包括随机存取存储器(random access memory,ram)或外部高速缓冲存储器等。作为说明而非局限,ram可以是多种形式,比如静态随机存取存储器(static random access memory,sram)或动态随机存取存储器(dynamic random access memory,dram)等。本技术所提供的各实施例中所涉及的数据库可包括关系型数据库和非关系型数据库中至少一种。非关系型数据库可包括基于区块链的分布式数据库等,不限于此。本技术所提供的各实施例中所涉及的处理器可为通用处理器、中央处理器、图形处理器、数字信号处理器、可编程逻辑器、基于量子计算的数据处理逻辑器等,不限于此。
[0147]
以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
[0148]
以上所述实施例仅表达了本技术的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对本技术专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本技术构思的前提下,还可以做出若干变形和改进,这些都属于本技术的保
护范围。因此,本技术的保护范围应以所附权利要求为准。
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1