摘要：针对联邦学习场景下客户端选择不公平及模型训练低效问题,提出了一种基于激励机制的隐私保护联邦学习框架(zCDP-FL)。该框架将第二价反向拍卖应用到客户端的选择策略,设计了激励机制算法(SRAI),最大化系统效益。此外,采用零集中差分隐私,提出了隐私预算动态分配算法,实现训练过程中噪声规模的动态调整,在严格隐私计算边界的情况下提供更强的隐私保护。理论分析与仿真实验证明,zCDP-FL能够有效防止隐私泄露,并提升了2.13%~3.62%模型训练效率。

摘要：针对分布式位置大数据收集导致的信息孤岛问题和位置隐私泄露面临的风险,提出一种基于联邦学习的位置大数据统计预测与隐私保护方法。首先,构建基于横向联邦学习的位置大数据统计预测发布框架,该框架允许各行政区域的数据收集者保留各自的原始数据,并使多个参与方通过交换训练参数来协同完成预测模型的训练任务;其次,针对具有时空序列特性的位置大数据密度统计预测问题,设计PVTv2-CBAM,以提高客户端预测结果的准确性;最后,提出一种差分隐私预算的动态分配和调整算法,并结合MMA(Modified Moments Accountant)机制实现对客户端模型的差分隐私保护。实验结果表明,相较于卷积神经网络(CNN)、长短期记忆(LSTM)网络、卷积LSTM(ConvLSTM)模型,PVTv2-CBAM在Yellow_tripdata数据集和T-Driver轨迹数据集上预测的平均绝对误差分别降低0~62%和39%~44%;所提差分隐私预算动态分配和调整算法在调整阈值为0.3和0.7时,使模型预测的准确率与无动态调整相比分别提高了约5%与6%。以上结果验证了所提方法的可行性和有效性。

摘要：联邦学习作为一种新型的深度学习范式,允许多个参与方在客户端本地共同训练模型,极大地保护了用户的数据隐私,得到了广泛关注和研究。然而,联邦学习作为一种分布式学习方式,极易遭受非法复制、恶意分发及客户端懒惰不作为等攻击。针对上述问题,提出一种支持安全联邦学习的主动保护模型水印框架。首先,设计了一个基于护照层水印的个性化参数聚合方法,在解决水印冲突问题的同时防止懒惰客户端盗窃模型;其次,设计了一个基于向量承诺的全局水印聚合方法,有效抵御了恶意攻击者伪造私有水印进行歧义攻击。实验结果表明,与当前最好的FedIPR相比,所提方法具有更高的水印容量,可以支持更大型的联邦学习系统;在差分隐私、客户端选择等安全联邦学习策略下能保持近100%的水印提取率,在遭遇微调、剪枝等攻击时也能保持98%以上的水印提取率。

摘要：数据不动的联邦学习框架是多个数据持有方合作训练机器学习模型的新范式.多个数据持有方参与联邦学习时的贡献评估是联邦学习的核心问题之一.参与方贡献评估需要兼顾有效性、公平性和合理性等要素,在理论方法与实际应用中均面临多项挑战.贡献评估首先需要明确如何度量数据价值,然而数据估值存在主观性与依赖于实际任务场景的特点,如何设计有效、可靠并对恶意数据鲁棒的数据估值指标是第一大挑战.其次,联邦学习合作中的参与方贡献评估是经典的合作博弈问题,如何制定公平合理的参与方贡献评估方案,实现参与方一致认可的博弈平衡是第二大挑战.最后,参与方贡献评估往往计算复杂度高,同时,联邦学习中围绕模型的数据估值时间开销大,因此,在实践中如何设计高效且准确的近似算法是第三大挑战.近年来,为了有效地解决上述挑战,学术界对联邦学习中的贡献评估问题展开了广泛的研究.首先,简要介绍联邦学习与参与方贡献评估的背景知识;然后,综述数据估值指标、参与方贡献评估方案和相关优化技术;最后,讨论了联邦学习贡献评估仍面临的挑战并展望未来研究的发展方向.

摘要：联邦学习是一种保证数据隐私安全的分布式机器学习方案.与传统的机器学习的可解释性问题类似,如何对联邦学习进行解释是一个新的挑战.文中面向联邦学习方法的分布式与隐私安全性的特性,探讨联邦学习的可视化框架设计.传统的可视化任务需要使用大量的数据,而联邦学习的隐私性决定了其无法获取用户数据.因此,可用的数据主要来自服务器端的训练过程,包括服务器端模型参数和用户训练状态.基于对联邦学习可解释性的挑战的分析,文中综合考虑用户、服务器端和联邦学习模型3个方面设计可视化框架,其包括经典联邦学习模型、数据中心、数据处理和可视分析4个模块.最后,介绍并分析了2个已有的可视化案例,对未来通用的联邦学习可视分析方法提出了展望.

摘要：随着大数据、云计算等领域的蓬勃发展,重视数据安全与隐私已经成为世界性的趋势,不同团体为保护自身利益和隐私不愿贡献数据,形成了数据孤岛.联邦学习使数据不出本地就可被多方利用,为解决数据碎片化和数据隔离等问题提供了解决思路.然而越来越多研究表明,由谷歌首先提出的联邦学习算法不足以抵抗精心设计的隐私攻击,因此如何进一步加强隐私防护,保护联邦学习场景下的用户数据隐私成为一个重要问题.对近些年来联邦学习隐私攻击与防护领域取得的成果进行了系统总结.首先介绍了联邦学习的定义、特点和分类;然后分析了联邦学习场景下隐私威胁的敌手模型,并根据敌手攻击目标对隐私攻击方法进行了分类和梳理;介绍了联邦学习中的主流隐私防护技术,并比较了各技术在实际应用中的优缺点;分析并总结了6类目前联邦学习的隐私保护方案;最后指出目前联邦学习隐私保护面临的挑战,展望了未来可能的研究方向.

摘要：针对低成本和小型化低轨卫星的监测角度和方向分辨率相对较低、处理能力和峰值功率受限等因素造成单颗低轨卫星频谱认知能力弱的问题,提出了融合Stackelberg博弈和联邦学习的多星协作频谱认知方法。首先,结合各频谱认知卫星的可用算力、认知性能、处理与传输时延等特性,建立面向多频谱认知任务的协作卫星选择与算力资源分配算法;其次,基于所选择的节点和所分配的算力,设计低复杂度的多星协作频谱认知策略,其可自动辨识频谱空洞、检测干扰和识别调制模式。仿真实验结果表明,相比于单节点认知方法,所设计多星协作频谱认知策略能显著提升认知性能,且相比于对比模型,所设计策略中的模型可在不损失性能时,模型的参数量和浮点运算量降低分别可达96.69%和93.32%。

摘要：针对零信任边缘计算环境下联邦学习面临的隐私安全及学习效率低等问题,提出了一种边缘计算中基于多级代理许可区块链的联邦学习模型,设计多级代理许可区块链构建联邦边缘学习可信底层环境,实现分层模型聚合方案缓解模型训练压力,利用秘密共享和差分隐私设计混合策略增强模型隐私。针对边缘客户端可信度为零或极差的问题,设计了基于信誉验证的联邦任务节点选择算法,将正向训练样本及本地模型作为信誉奖励,完善安全验证方案,进一步保证模型抵御恶意敌手攻击的有效性。实验结果表明,在40%恶意敌手的攻击下,相较于现有的先进方案,所提方案准确率提升了10%,以较高的模型准确率实现了较高的隐私安全。

摘要：针对联邦学习的训练过程迭代次数多、训练时间长、效率低等问题,提出一种基于激励机制的联邦学习优化算法。首先,设计与时间和模型损失相关的信誉值,基于该信誉值,设计激励机制激励拥有高质量数据的客户端加入训练。其次,基于拍卖理论设计拍卖机制,客户端通过向雾节点拍卖本地训练任务,委托高性能雾节点训练本地数据从而提升本地训练效率,解决客户端间的性能不均衡问题。最后,设计全局梯度聚合策略,增加高精度局部梯度在全局梯度中的权重,剔除恶意客户端,从而减少模型训练次数。

摘要：联邦学习作为一种协作式机器学习方法,允许用户通过共享模型而不是原始数据进行多方模型训练,在实现隐私保护的同时充分利用用户数据,然而攻击者仍有可能通过窃听联邦学习参与方共享模型来窃取用户信息。为了解决联邦学习训练过程中存在的推理攻击问题,提出一种基于本地化差分隐私的联邦学习(LDP-FL)方法。首先,设计一种本地化差分隐私机制,作用在联邦学习参数的传递过程中,保证联邦模型训练过程免受推理攻击的影响。其次,提出并设计一种适用于联邦学习的性能损失约束机制,通过优化损失函数的约束范围来降低本地化差分隐私联邦模型的性能损失。最后,在MNIST和FashionMNIST数据集上通过对比实验验证了所提方法的有效性。