地理分布式机器学习:超越局域的框架与技术

作     者：李宗航 虞红芳 汪漪 LI Zonghang;YU Hongfang;WANG Yi

作者机构：电子科技大学成都611731 南方科技大学深圳518055 鹏城实验室深圳518055 

基　　金：国家重点研发计划(2019YFB1802800) 鹏城实验室大湾区未来网络试验与应用环境项目(LZC0019) 

出 版 物：《中兴通讯技术》 (ZTE Technology Journal)

年 卷 期：2020年第26卷第5期

页      码：16-22页

摘      要：提出了一种面向地理分布式机器学习的软件框架Geo MX,该框架从通信架构和压缩传输机制两方面着手优化通信。对应设计了分层参数服务器(HiPS)架构和双向稀疏梯度传输(BiSparse)技术,旨在分别减少广域传输的梯度流数量和流大小。GeoMX在跨广域分布的数据中心上最高可取得4倍于数据中心内MXNET的训练效率,且几乎无精度损失。

主 题 词：大数据 人工智能 地理分布式机器学习 梯度稀疏化 

学科分类：12[管理学] 1201[管理学-管理科学与工程类] 081104[081104] 08[工学] 0835[0835] 0811[工学-水利类] 0812[工学-测绘类] 

D　O　I：10.12142/ZTETJ.202005004

馆 藏 号：203990891...