一种基于资源权重计算的任务分布式调度方法与系统与流程

文档序号:27299513发布日期:2021-11-06 05:19阅读:来源:国知局

技术特征:
1.一种基于资源权重计算的任务分布式调度方法,其特征在于,包含以下步骤:步骤1:获取任务信息的资源权重值;步骤2:实时更新并获取执行器节点的负载值;步骤3:对任务信息进行调度,比较任务信息的资源权重值与执行器节点的负载值的大小;若资源权重值大于执行器节点的负载值时,将任务信息的任务挂起并将任务执行的执行器节点标记为筹备节点,等待执行器节点负载满足任务运行需要时再下发任务至该筹备节点;若任务权重值小于或者等于执行器节点的负载值时,则选择此执行器节点作为此任务的执行器节点。2.如权利要求1所述的一种基于资源权重计算的任务分布式调度方法,其特征在于,步骤1中的所述资源权重值根据所述任务信息中各资源配置的使用值与资源权重系数相乘后相加得到或所述任务信息中各资源配置的使用值与默认资源系数相乘后相加得到;所述步骤2中所述负载值为所述执行器节点内各资源配置的剩余资源值;所述步骤3中根据预先配置的任务调度策略对任务信息进行调度。3.如权利要求2所述的一种基于资源权重计算的任务分布式调度方法,其特征在于,所述各资源配置的使用值包含内存使用量、cpu使用率、网络io数据、磁盘io数据、文件句柄数据、任务总时长数据;所述任务调度策略包含任务的执行开始时间数据、执行时间间隔数据、执行次数数据。4.如权利要求1

3任一项所述的一种基于资源权重计算的任务分布式调度方法,其特征在于,还包含步骤4:任务运行结束后重新计算资源权重值并更新。5.一种基于资源权重计算的任务分布式调度系统,其特征在于,包含多个执行器节点以及安装于所述执行器节点上的任务调度中心、心跳模块,所述任务调度中心包含任务调度池、任务调度器;所述心跳模块用于定时更新当前所述执行器节点的负载值,还用于获取其他心跳模块更新的执行器节点的负载值;所述任务调度池用于存储进入任务调度的任务信息;所述任务调度器用于获取任务信息并计算任务信息的资源权重值,还用于获取负载值,还用于比较资源权重值与负载值的大小为任务选择执行器节点并将任务信息下发至该执行器节点。6.如权利要求5所述的一种基于资源权重计算的任务分布式调度系统,其特征在于,所述任务调度器按照任务调度策略获取所述任务信息;所述任务调度器依据所述任务信息中各资源配置的使用值与资源权重系数相乘后相加得到资源权重值或所述任务信息中各资源配置的使用值与默认资源系数相乘后相加得到资源权重值;所述任务调度器比较资源权重值与负载值的大小时,若资源权重值大于执行器节点的负载值时,将任务信息的任务挂起并将任务执行的执行器节点标记为筹备节点,等待执行器节点负载满足任务运行需要时再下发任务至该筹备节点;若任务权重值小于或者等于执行器节点的负载值时,则选择此执行器节点作为此任务
的执行器节点。7.如权利要求6所述的一种基于资源权重计算的任务分布式调度系统,其特征在于,所述各资源配置的使用值包含内存使用量、cpu使用率、网络io数据、磁盘io数据、文件句柄数据、任务总时长数据;所述任务调度策略为任务的执行时间策略。8.如权利要求5

7任一项所述的一种基于资源权重计算的任务分布式调度系统,其特征在于,多个所述任务调度中心中有一个为主任务调度中心,其余的为副任务调度中心;所述心跳模块用于定时更新当前所述执行器节点的状态信息,还用于获取其他心跳模块更新的执行器节点的状态信息;所述任务调度器用于获取所述状态信息并处理,当所述状态信息为异常时将该执行器节点移除,若移除的所述执行器节点上的所述任务调度中心为主任务调度中心时,则选取剩下的任一个所述执行器节点上的所述任务调度中心为主任务调度中心。9.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如权利要求1至4中任一项所述方法的步骤。

技术总结
本发明公开了一种基于资源权重计算的任务分布式调度方法与系统,方法包含以下步骤:获取任务信息的资源权重值;实时更新并获取执行器节点的负载值;对任务信息进行调度,比较任务信息的资源权重值与执行器节点的负载值的大小;若资源权重值大于执行器节点的负载值时,将任务信息的任务挂起并将任务执行的执行器节点标记为筹备节点,等待执行器节点负载满足任务运行需要时再下发任务至该筹备节点;若任务权重值小于或者等于执行器节点的负载值时,则选择此执行器节点作为此任务的执行器节点;系统包含多个执行器节点以及安装于执行器节点上的任务调度中心、心跳模块,任务调度中心包含任务调度池、任务调度器。任务调度器。任务调度器。


技术研发人员:黄超 谢赟 葛兵 陈大伟
受保护的技术使用者:上海德拓信息技术股份有限公司
技术研发日:2021.08.18
技术公布日:2021/11/5
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1