技术编号:22626646
提示:您尚未登录,请点 登 陆 后下载,如果您还没有账户请点 注 册 ,登陆完成后,请刷新本页查看技术详细信息。本发明属于数据中心技术领域,具体涉及一种数据感知的任务调度方法。背景技术hadoop是一个能够对海量数据进行分布式处理的软件框架。其中的核心组件并行编程模型mapreduce为大数据处理提供并行处理能力。mapreduce作业执行过程的reduce阶段需要复制map阶段产生的中间数据作为输入并计算产生最终的结果。针对现有hadoop平台默认reduce调度策略的不足,本发明提出了调度reduce任务的优化策略。hadoop平台中的调度过程是一个三级调度模型,已有的fifo调度算法、capacit...
注意:该技术已申请专利,请尊重研发人员的辛勤研发付出,在未取得专利权人授权前,仅供技术研究参考不得用于商业用途。
该专利适合技术人员进行技术研发参考以及查看自身技术是否侵权,增加技术思路,做技术知识储备,不适合论文引用。
请注意,此类技术没有源代码,用于学习研究技术思路。