基于Hadoop的广域测量系统数据处理

作     者：曲朝阳 朱莉 张士林 QU Zhaoyang;ZHU Li;ZHANG Shilin

作者机构：东北电力大学信息工程学院吉林省吉林市132012 

基　　金：国家自然科学基金资助项目(51077010) 吉林省自然科学基金资助项目(20101517) 

出 版 物：《电力系统自动化》 (Automation of Electric Power Systems)

年 卷 期：2013年第37卷第4期

页      码：92-97页

摘      要：为解决目前广域测量系统(WAMS)海量数据处理中存在的数据冗余、处理效率低等问题,设计并实现了一个基于Hadoop的WAMS数据处理云计算平台。首先,给出了平台的体系结构。其次,设计了基于Hadoop分布式文件系统(HDFS)存储的WAMS海量数据加载方法和利用MapReduce模型实现多个文件数据的并行抽取、转换和加载(ETL)操作流程。提出了结合MapReduce的MPApriori数据挖掘算法,用于高效地挖掘出连锁故障时各站点之间的相互影响。最后,通过对区域电网WAMS实际数据进行处理,验证了Hadoop处理海量数据的高效性。所述平台适用于高性能局域网络连接的计算机集群对海量电网数据进行文件数据处理。

主 题 词：云计算 数据处理 广域测量系统 MapReduce 

学科分类：12[管理学] 1201[管理学-管理科学与工程类] 080802[080802] 0808[工学-自动化类] 08[工学] 

核心收录：

D　O　I：10.7500/AEPS201111169

馆 藏 号：203334740...