大数据下基于特征图的深度卷积神经网络

作     者：毛伊敏 张瑞朋 高波 MAO Yimin;ZHANG Ruipeng;GAO Bo

作者机构：江西理工大学信息工程学院江西赣州341000 中国地质调查局西安地质调查中心西安710000 

基　　金：国家重点研发计划(2018YFC1504705) 国家自然科学基金(41562019) 

出 版 物：《计算机工程与应用》 (Computer Engineering and Applications)

年 卷 期：2022年第58卷第15期

页      码：110-116页

摘      要：针对大数据环境下DCNN(deep convolutional neural network)算法中存在网络冗余参数过多、参数寻优能力不佳和并行效率低的问题,提出了大数据环境下基于特征图和并行计算熵的深度卷积神经网络算法MR-FPDCNN(deep convolutional neural network algorithm based on feature graph and parallel computing entropy using MapReduce)。该算法设计了基于泰勒损失的特征图剪枝策略FMPTL(feature map pruning based on Taylor loss),预训练网络,获得压缩后的DCNN,有效减少了冗余参数,降低了DCNN训练的计算代价。提出了基于信息共享搜索策略ISS(information sharing strategy)的萤火虫优化算法IFAS(improved firefly algorithm based on ISS),根据“IFAS”算法初始化DCNN参数,实现DCNN的并行化训练,提高网络的寻优能力。在Reduce阶段提出了基于并行计算熵的动态负载均衡策略DLBPCE(dynamic load balancing strategy based on parallel computing entropy),获取全局训练结果,实现了数据的快速均匀分组,从而提高了集群的并行效率。实验结果表明,该算法不仅降低了DCNN在大数据环境下训练的计算代价,而且提高了并行系统的并行化性能。

主 题 词：DCNN算法 MapReduce框架 FMPTL策略 IFAS算法 DLBPCE策略 

学科分类：08[工学] 0835[0835] 081202[081202] 0812[工学-测绘类] 

D　O　I：10.3778/j.issn.1002-8331.2010-0081

馆 藏 号：203113778...