基于Hadoop的三队列作业调度算法

作     者：朱洁 赵红 李雯睿 ZHU Jie;ZHAO Hong;LI Wenrui

作者机构：南京晓庄学院数学与信息技术学院南京211171 

基　　金：国家自然科学基金资助项目(61202136) 江苏省高校自然科学研究项目(13KJD520007) 南京晓庄学院科学研究项目(2012NXY14 2013NXY99) 

出 版 物：《计算机应用》 (journal of Computer Applications)

年 卷 期：2014年第34卷第11期

页      码：3227-3230,3240页

摘      要：Hadoop集群单队列作业调度会产生短作业等待、资源利用率低的问题;采用多队列调度可兼顾公平、提高执行效率,但会带来手工配置参数、资源互占、算法复杂等问题。针对上述问题,提出三队列作业调度算法,利用区分作业类型、动态调整作业优先级、配置共享资源池、作业抢占等设计,达到平衡作业需求、简化一般作业调度流程、提升并行执行能力的目的。对短作业占比高,各作业占比均衡以及一般作业为主,偶尔出现长、短作业三种情况与先进先出(FIFO)算法进行了对比实验,结果三队列算法的运行时间均比FIFO算法要少。实验结果表明,在短作业聚集时,三队列算法的执行效率提升并不显著;但当各种作业并存且分布均衡时,效果很明显,这符合了算法设计时短作业优先、一般作业简化流程、兼顾长作业的初衷,提高了作业整体执行效率。

主 题 词：Hadoop 作业调度 三队列 共享资源池 作业抢占 

学科分类：12[管理学] 1201[管理学-管理科学与工程类] 08[工学] 081201[081201] 081202[081202] 0812[工学-测绘类] 

核心收录：

D　O　I：10.11772/j.issn.1001-9081.2014.11.3227

馆 藏 号：203171783...