公平联邦学习及其设计研究综述

作     者：古天龙 李龙 常亮 李晶晶 GU Tian-Long;LI Long;CHANG Liang;LI Jing-Jing

作者机构：暨南大学可信人工智能教育部工程研究中心广州510632 桂林电子科技大学广西可信软件重点实验室广西桂林541004 

基　　金：国家自然科学基金(No.U22A2099 62172350)资助 

出 版 物：《计算机学报》 (Chinese Journal of Computers)

年 卷 期：2023年第46卷第9期

页      码：1991-2024页

摘      要：联邦学习是由多个客户端协作开展模型训练的一种分布式机器学习解决方案.在联邦学习架构下,公平性被赋予了更加丰富的内涵:一方面,联邦学习中不同参与者对模型训练的贡献可能会有很大不同,能够公平反映每个参与者贡献的奖惩激励机制是联邦学习生态可持续发展的关键;另一方面,无论发送给各个参与方的全局模型是被直接用于结果预测还是用于优化参与方的个性化模型,各个参与方所使用的模型在最终的预测性能或精准度上应该具有公平性.具有某一个或多个方面公平性的联邦学习称为公平联邦学习.通过系统梳理和全面剖析近年来的研究工作,对联邦学习的公平性概念、定义及度量进行了阐释;从公平联邦学习生命周期的不同阶段出发,分别对与公平联邦学习设计相关的公平客户端选择、公平模型优化、公平贡献评估、公平激励机制等进行了综述;从可信人工智能及可信联邦学习的角度,对联邦学习公平性与隐私性、鲁棒性的综合设计进行了讨论;立足于区块链与联邦学习的不同耦合方式,即完全耦合、柔性耦合和松散耦合,对基于区块链的联邦学习框架结构进行了分类阐述,进一步从框架结构、公平性、鲁棒性及隐私保护功能等方面对相关研究工作进行了述评;最后,从公平性定义及度量、公平联邦学习方法、鲁棒公平联邦学习及符合伦理联邦学习等四个方面,给出了公平联邦学习及其设计所面临的主要问题、挑战及研究热点.

主 题 词：联邦学习 公平性 隐私保护 鲁棒性 区块链 人工智能伦理 

学科分类：12[管理学] 1201[管理学-管理科学与工程类] 08[工学] 081104[081104] 0802[工学-机械学] 0835[0835] 0701[理学-数学类] 0811[工学-水利类] 0812[工学-测绘类] 

核心收录：

D　O　I：10.11897/SP.J.1016.2023.01991

馆 藏 号：203123387...