图形处理装置、资源服务装置、资源调度方法和装置与流程

文档序号:11829218阅读:来源:国知局

技术特征:

1.一种图形处理装置,其特征在于,在所述图形处理装置中,逻辑单元是最小的图形处理器GPU资源调度单元,所述图形处理装置映射至少一个GPU多进程代理服务器GPU-MPS,所述GPU-MPS为调度所述图形处理装置的代理,GPU-MPS的一个客户端可调度至少一个所述逻辑单元,一个任务进程为GPU-MPS的一个客户端,所述图形处理装置可包含的最大逻辑单元数为M×N×K个;

其中,M为GPU-MPS的一个客户端可调度的逻辑单元数,N为一个GPU-MPS包含的最大客户端数,K为所述图形处理装置映射的GPU-MPS数,M、N和K均为非零正整数。

2.根据权利要求1所述的图形处理装置,其特征在于,GPU-MPS的一个客户端可调度一个逻辑单元。

3.根据权利要求1或2所述的图形处理装置,其特征在于,所述图形处理装置映射一个GPU多进程代理服务器。

4.根据权利要求1所述的图形处理装置,其特征在于,所述图形处理装置包含M×N×K个逻辑单元。

5.一种资源服务装置,其特征在于,包括至少一个如权利要求1至4中任意一项所述的图形处理装置、监测单元和第一通信单元,其中,

监测单元,用于在监测周期到达时,监测当前周期内所述图形处理装置中剩余的逻辑单元的数量;

第一通信单元,用于将监测到的数据发送给集群中的监控节点,以便所述监控节点在更新周期到达时利用监测到的数据原子更新预设的资源动态表;

其中,所述资源动态表至少包含图形处理装置中剩余的逻辑单元的数量。

6.根据权利要求5所述的资源服务装置,其特征在于,所述资源服务装置为集群中的一个从节点。

7.根据权利要求5所述的资源服务装置,其特征在于,所述资源动态表还包含图形处理装置的实际使用率;所述监测单元还用于,在监测周期到达时,监测当前周期内本地的图形处理装置的实际使用率。

8.一种资源调度方法,其特征在于,应用在如权利要求5至7中任意一 项所述的资源服务装置,所述方法包括:

接收为目标作业调度图形处理器GPU资源的调度请求,所述调度请求中指示了请求调度的逻辑单元的数量;

响应于所述调度请求,从预设的资源动态表中查找剩余的逻辑单元的数量不为零的图形处理装置,并按照所述调度请求指示的数量,从查找到的图形处理装置中为所述目标作业调度逻辑单元;

其中,所述资源动态表至少包含图形处理装置中剩余的逻辑单元的数量。

9.根据权利要求8所述的方法,其特征在于,所述资源动态表还包含图形处理装置的实际使用率;

所述响应于所述调度请求,从预设的资源动态表中查找剩余的逻辑单元的数量不为零的图形处理装置,并按照所述调度请求指示的数量,从查找到的图形处理装置中为所述目标作业调度逻辑单元为:

响应于所述调度请求,从预设的资源动态表中查找实际使用率小于或等于预设的最大阈值且剩余的逻辑单元的个数不为零的图形处理装置,并按照所述调度请求指示的数量,从查找到的图形处理装置中为所述目标作业调度逻辑单元。

10.根据权利要求8或9所述的方法,其特征在于,所述资源动态表还包含资源服务器集群中的资源服务装置的工作状态和资源服务装置中的图形处理装置的工作状态;所述方法还包括:

在更新周期到达时,原子更新所述资源动态表中资源服务装置的工作状态和图形处理装置的工作状态,所述工作状态包括工作和非工作。

11.一种资源调度装置,其特征在于,应用在如权利要求5至7中任意一项所述的资源服务装置,包括:

第二通信单元,用于接收为目标作业调度图形处理器GPU资源的调度请求,所述调度请求中指示了请求调度的逻辑单元的数量;

响应单元,用于响应于所述调度请求,从预设的资源动态表中查找剩余的逻辑单元的数量不为零的图形处理装置,并按照所述调度请求指示的数量,从查找到的图形处理装置中为所述目标作业调度逻辑单元;

其中,所述资源动态表至少包含图形处理装置中剩余的逻辑单元的数量。

12.根据权利要求11所述的装置,其特征在于,所述资源动态表还包含图形处理装置的实际使用率;

所述响应单元具体用于,响应于所述调度请求,从预设的资源动态表中查找实际使用率小于或等于预设的最大阈值且剩余的逻辑单元的个数不为零的图形处理装置,并按照所述调度请求指示的数量,从查找到的图形处理装置中为所述目标作业调度逻辑单元。

13.根据权利要求11或12所述的装置,其特征在于,所述资源动态表还包含资源服务器集群中的资源服务装置的工作状态和资源服务装置中的图形处理装置的工作状态;所述装置还包括:

更新单元,用于在更新周期到达时,原子更新所述资源动态表中资源服务装置的工作状态和图形处理装置的工作状态,所述工作状态包括工作和非工作。

当前第2页1 2 3 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1