技术特征：
1.一种用于深度学习平台的任务调度方法，其特征在于，所述方法包括：从任务队列中获取耗时不低于设定耗时的目标待处理任务；从n个负载门中选取负载低于设定负载的一个负载门作为目标负载门，其中，所述n个负载门与所述深度学习平台包含的n个gpu一一对应，n为大于1的整数；将所述目标待处理任务分配给所述目标负载门对应的目标gpu进行处理。2.如权利要求1所述的方法，其特征在于，在从任务队列中获取耗时不低于设定耗时的目标待处理任务之前，所述方法还包括：获取当前的所有待处理任务；将所述所有待处理任务进行耗时排序后放入所述任务队列中。3.如权利要求2所述的方法，其特征在于，所述获取当前的所有待处理任务，包括：响应当前接收的请求，获取所述请求对应的多个深度学习图的计算任务，将所述多个深度学习图的计算任务作为所述所有待处理任务。4.如权利要求2所述的方法，其特征在于，所述将所述所有待处理任务进行耗时排序后放入所述任务队列中，包括：获取所述所有待处理任务中每个待处理任务的预期耗时；根据每个待处理任务的预期耗时，依照预期耗时从大到小将所述所有待处理任务放入所述任务队列中。5.如权利要求4所述的方法，其特征在于，所述根据每个待处理任务的预期耗时，依照预期耗时从大到小将所述所有待处理任务放入所述任务队列中，包括：根据每个待处理任务的预期耗时，依照预期耗时从大到小对所述所有待处理任务进行排序；将排序后的所述所有待处理任务放入所述任务队列中。6.如权利要求1-5任一项所述的方法，其特征在于，所述从n个负载门中选取负载低于设定负载的一个负载门作为目标负载门，包括：获取所述n个负载门中每个负载门对应的负载值，负载值是根据负载门的当前等待线程数量确定的；根据每个负载门对应的负载值，从所述n个负载门中选择负载低于所述设定负载的一个负载门作为所述目标负载门。7.如权利要求6所述的方法，其特征在于，所述从n个负载门中选取负载低于设定负载的一个负载门作为目标负载门，包括：从所述n个负载门中选取负载最低的一个负载门作为所述目标负载门。8.如权利要求7所述的方法，其特征在于，所述将所述目标待处理任务分配给所述目标负载门对应的目标gpu进行处理，包括：将所述目标待处理任务分配给所述目标gpu中的一个空闲线程进行处理，并调整所述目标负载门的当前负载。9.一种用于深度学习平台的任务调度装置，其特征在于，所述装置包括：目标任务获取单元，用于从任务队列中获取耗时不低于设定耗时的目标待处理任务；目标负载门选取单元，用于从n个负载门中选取负载低于设定负载的一个负载门作为目标负载门，其中，所述n个负载门与所述深度学习平台包含的n个gpu一一对应，n为大于1
的整数；任务处理单元，用于将所述目标待处理任务分配给所述目标负载门对应的目标gpu进行处理。10.如权利要求9所述的装置，其特征在于，还包括：待处理任务获取单元，用于获取当前的所有待处理任务；排序单元，用于将所述所有待处理任务进行耗时排序后放入所述任务队列中。11.如权利要求10所述的装置，其特征在于，所述待处理任务获取单元，用于响应当前接收的请求，获取所述请求对应的多个深度学习图的计算任务，将所述多个深度学习图的计算任务作为所述所有待处理任务。12.如权利要求9-11任一项所述的装置，其特征在于，所述目标负载门选取单元，用于获取所述n个负载门中每个负载门对应的负载值，负载值是根据负载门的当前等待线程数量确定的；根据每个负载门对应的负载值，从所述n个负载门中选择负载低于所述设定负载的一个负载门作为所述目标负载门。13.一种电子设备，其特征在于，包括有存储器，以及一个或者一个以上的程序，其中一个或者一个以上的程序存储于存储器中，且经配置以由一个或者一个以上的处理器执行所述一个或者一个以上的程序所包含的用于进行如权利要求1～8任一所述方法对应的操作指令。14.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1～8任一所述方法对应的步骤。
技术总结
本发明公开了一种用于深度学习平台的任务调度方法，从任务队列中获取耗时不低于设定耗时的目标待处理任务；从N个负载门中选取负载低于设定负载的一个负载门作为目标负载门，其中，所述N个负载门与所述深度学习平台包含的N个GPU一一对应，N为大于1的整数；将所述目标待处理任务分配给所述目标负载门对应的目标GPU进行处理。本发明公开的用于深度学习平台的任务调度方法、装置及电子设备，能够提高负载均衡的精确度，缩短任务完成的总耗时，提高处理效率。高处理效率。高处理效率。
技术研发人员：刘鹤 沈大赛 谢远江
受保护的技术使用者：北京搜狗科技发展有限公司
技术研发日：2021.08.19
技术公布日：2023/2/23