MapReduce集群中最大收益问题的研究

作     者：王习特 申德荣 于戈 白梅 聂铁铮 寇月 WANG Xi-Te;SHEN De-Rong;YU Ge;BAI Mei;NIE Tie-Zheng;KOU Yue

作者机构：东北大学信息科学与工程学院沈阳110004 

基　　金：国家"九七三"重点基础研究发展规划项目基金(2012CB316201) 国家自然科学基金面上项目(61033007) 教育部博士点基金(20120042110028) 教育部-英特尔信息技术专项科研基金(MOE-INTEL2012-06)资助~~ 

出 版 物：《计算机学报》 (Chinese Journal of Computers)

年 卷 期：2015年第38卷第1期

页      码：109-121页

摘      要：MapReduce是目前最为流行的用于大数据分析的并行系统之一.许多企业已经搭建了自己的MapReduce集群,为广大用户提供计算服务.用户可以向集群提交具有完成时限要求的MapReduce作业,若作业被按时完成,则企业可以获得一定的收益.针对这种应用场景,该文首次提出了MapReduce集群中的最大收益问题.为有效地解决该问题,首先提出了一种基于序列的任务调度策略(简称为SEQ策略),并证明了在处理具有完成时限约束的作业时SEQ策略存在优势.基于SEQ策略,该文提出了最大收益的调度算法(Scheduling Algorithm for Maximum Benefit,简称AMB算法),该算法可以快速地确定可接收作业,并给出有效的执行方案,以达到最大化收益的目的.另外,针对在实际应用中的某些异常情况(如节点宕机),该文也设计了有效的超时处理策略,进一步增加了算法的实用性.最后,通过大量的实验验证了该文所提出算法的有效性.

主 题 词：大数据 MapReduce集群 完成时限 最大收益问题 

学科分类：0810[工学-土木类] 0808[工学-自动化类] 0839[0839] 081203[081203] 08[工学] 0835[0835] 0811[工学-水利类] 0812[工学-测绘类] 

核心收录：

D　O　I：10.3724/SP.J.1016.2015.00109

馆 藏 号：203140929...