GPU资源调度方法与流程

本发明涉及计算机，尤其涉及一种gpu资源调度方法。

背景技术：

1、图形处理器(graphics processing unit，简称gpu)，又称显示核心、视觉处理器、显示芯片，专为计算密集型、高度并行化的计算而设计。gpu中存在多种资源，在gpu执行任务过程中，如果对任何一种资源的分配不平衡，均可能造成gpu资源的浪费，从而降低gpu资源利用率和gpu的计算性能。因此，在gpu运行过程中，需要尽可能平衡调度每种gpu资源，使得每种gpu资源尽可能处于资源平衡状态，从而使得整个gpu的运行处于资源平衡状态，进而提高gpu的资源利用率和计算性能。

2、但是，gpu的资源种类多，数量大，现有技术中，gpu在执行任务时，尤其是在执行复杂的计算任务时，仍然很难实现gpu资源平衡调度，通常需要花费大量的时间来分配资源，且分配结果也无法保证资源平衡，可靠性差。由此可知，如何提供一种高效可靠的gpu资源平衡调度技术，合理为多路任务组分配对应的gpu资源，提高任务处理效率，提高gpu的资源利用率和计算性能，成为亟待解决的技术问题。

技术实现思路

1、本发明目的在于，提供一种gpu资源调度方法，提高了gpu资源利用率，减小了功耗。

2、根据本发明，提供了一种gpu资源调度方法，包括：

3、步骤h1、获取待分发任务组，读取待分配任务数量，所述待分配任务为需要平衡分配至执行模块的执行单元中的任务，所述执行模块包括q个执行单元；

4、步骤h2、基于任务数切分表确定所述待分配任务数量对应的初始分配组合序列，所述任务数切分表用于存储分配任务数量与初始分配组合序列的映射关系；

5、步骤h3、获取所述执行模块中的预设指针信息，基于所述指针信息确定循环移位数su，将所述初始分配组合序列向预设的预设方向循环移动su位，得到目标分配组合信息；

6、步骤h4、基于所述待分发任务组对应的目标分配组合信息匹配所述执行模块的gpu资源。

7、本发明与现有技术相比具有明显的优点和有益效果。借由上述技术方案，本发明提供的一种gpu资源调度方法可达到相当的技术进步性及实用性，并具有产业上的广泛利用价值，其至少具有下列优点：

8、本发明能够保证每个任务组尽可能平衡地分配到多个执行单元，保证多个执行模块连续处理多个任务组整体地资源平衡，从而实现gpu资源分配平衡，提高了gpu资源利用率，减小了功耗。

9、上述说明仅是本发明技术方案的概述，为了能够更清楚了解本发明的技术手段，而可依照说明书的内容予以实施，并且为了让本发明的上述和其他目的、特征和优点能够更明显易懂，以下特举较佳实施例，并配合附图,详细说明如下。

技术特征：

1.一种gpu资源调度方法，其特征在于，包括：

2.根据权利要求1所述的方法，其特征在于，

3.根据权利要求1所述的方法，其特征在于，

4.根据权利要求3所述的方法，其特征在于，

5.根据权利要求4所述的方法，其特征在于，

6.根据权利要求3所述的方法，其特征在于，

7.根据权利要求6所述的方法，其特征在于，

8.根据权利要求4-7中任意一项所述的方法，其特征在于，

技术总结
本发明涉及一种GPU资源调度方法，包括：步骤H1、获取待分发任务组，读取待分配任务数量，所述待分配任务为需要平衡分配至执行模块的执行单元中的任务，所述执行模块包括Q个执行单元；步骤H2、基于任务数切分表确定所述待分配任务数量对应的初始分配组合序列，所述任务数切分表用于存储分配任务数量与初始分配组合序列的映射关系；步骤H3、获取所述执行模块中的预设指针信息，基于所述指针信息确定循环移位数Su，将所述初始分配组合序列向预设的预设方向循环移动Su位，得到目标分配组合信息；步骤H4、基于所述待分发任务组对应的目标分配组合信息匹配所述执行模块的GPU资源。本发明提高了GPU资源利用率，减小了功耗。

技术研发人员：请求不公布姓名
受保护的技术使用者：沐曦集成电路（上海）有限公司
技术研发日：
技术公布日：2024/1/13