摘要：针对零信任边缘计算环境下联邦学习面临的隐私安全及学习效率低等问题,提出了一种边缘计算中基于多级代理许可区块链的联邦学习模型,设计多级代理许可区块链构建联邦边缘学习可信底层环境,实现分层模型聚合方案缓解模型训练压力,利用秘密共享和差分隐私设计混合策略增强模型隐私。针对边缘客户端可信度为零或极差的问题,设计了基于信誉验证的联邦任务节点选择算法,将正向训练样本及本地模型作为信誉奖励,完善安全验证方案,进一步保证模型抵御恶意敌手攻击的有效性。实验结果表明,在40%恶意敌手的攻击下,相较于现有的先进方案,所提方案准确率提升了10%,以较高的模型准确率实现了较高的隐私安全。

摘要：针对低成本和小型化低轨卫星的监测角度和方向分辨率相对较低、处理能力和峰值功率受限等因素造成单颗低轨卫星频谱认知能力弱的问题,提出了融合Stackelberg博弈和联邦学习的多星协作频谱认知方法。首先,结合各频谱认知卫星的可用算力、认知性能、处理与传输时延等特性,建立面向多频谱认知任务的协作卫星选择与算力资源分配算法;其次,基于所选择的节点和所分配的算力,设计低复杂度的多星协作频谱认知策略,其可自动辨识频谱空洞、检测干扰和识别调制模式。仿真实验结果表明,相比于单节点认知方法,所设计多星协作频谱认知策略能显著提升认知性能,且相比于对比模型,所设计策略中的模型可在不损失性能时,模型的参数量和浮点运算量降低分别可达96.69%和93.32%。

摘要：联邦学习作为一种分布式机器学习框架,客户端可以在不向服务器传输数据的情况下进行全局模型训练,解决了数据分散和数据隐私的问题.联邦学习可以在具有相似数据特征和分布的客户端上很好地工作.但是在很多场景中,客户端数据在分布、数量和概念上的不同,造成了全局模型训练困难.为此,个性化联邦学习作为一种新的联邦学习范式被提出,它旨在通过客户端与服务器的协作来保证客户端个性化模型的有效性.直观来讲,为具有相似数据特征和分布的客户端提供更紧密的协作关系可以有利于个性化模型的构建.然而,由于客户端数据的不可见性,如何细粒度地提取客户端特征,并定义它们之间的协作关系是一个挑战.设计了一个注意力增强元学习网络(attention-enhanced meta-learning network,AMN)来解决这个问题.AMN可以利用客户基础模型参数作为输入特征,训练元学习网络为每个客户端提供一个额外的元模型,自动分析客户特征相似性.基于双层网络设计,有效地实现客户端个性与共性的权衡,提供了包含有益客户信息的融合模型.考虑到训练过程中需要同时训练元学习网络和客户本地基础网络,设计了一种交替训练策略,以端到端的方式进行训练.为了证明该方法的有效性,在2个基准数据集和8种基准方法上进行了大量实验,相较于现有表现最优的个性化联邦学习方法,该方法在2个数据集中平均分别提升了3.39%和2.45%的模型性能.

摘要：联邦学习是一种隐私保护的分布式机器学习框架,可以让各方参与者在不披露本地数据的前提下共建模型.然而,联邦学习仍然面临拜占庭攻击和用户隐私泄漏等威胁.现有研究结合鲁棒聚合规则和安全计算技术以同时应对上述安全威胁,但是这些方案难以兼顾模型鲁棒性与计算高效性。针对此问题,本文提出一种抗拜占庭攻击的隐私保护联邦学习框架SecFedDMC,在保护用户数据隐私的条件下实现高效的拜占庭攻击检测与防御.基础方案FedDMC采用“先降维后聚类”的策略,设计了高效精准的恶意客户端检测方法.此外,该方法利用的随机主成分分析降维技术和K-均值聚类技术主要由线性运算构成,从而优化了算法在安全计算环境中的适用性。针对基础方案存在的用户数据隐私泄露问题,提出了基于安全多方计算技术的隐私增强方案SecFedDMC.基于轻量级加法秘密分享技术,设计安全的正交三角分解协议和安全的特征分解协议,从而构建双服务器模型下隐私保护的拜占庭鲁棒联邦学习方案,以保护模型训练和拜占庭节点识别过程中的用户隐私.经实验验证,SecFedDMC在保护用户隐私的前提下,可以高效准确地识别拜占庭攻击节点,具有较好的鲁棒性.其中,本方案与最先进的鲁棒联邦学习算法相比,在CIFAR10数据集上,拜占庭攻击节点检测准确率提升12%~24%,全局模型精度提升4.45%~18.48%,计算效率提升33.21%~47.31%.

摘要：近年来,人类社会快速步入大数据时代,数据安全与隐私保护已成为发展大数据生态及相关数字经济的关键问题.联邦学习(Federated learning)作为分布式机器学习的一种新范式,致力于在保护数据隐私的同时从分布式本地数据集中训练全局模型,因而获得了广泛和深入的研究.然而,联邦学习体系面临的中心化架构、激励机制设计和系统安全等技术挑战仍有待进一步研究,而区块链被认为是应对这些挑战的有效解决方案,并已成功应用于联邦学习的许多研究和实践场景.在系统性地梳理现阶段区块链与联邦学习集成研究成果的基础上,提出基于区块链的联邦学习(Blockchain-enabled federated learning,BeFL)概念模型,阐述其中的若干关键技术、研究问题与当前研究进展,探讨该领域的应用场景以及有待进一步研究的关键问题,并讨论未来发展的潜在方向,致力于为构建去中心化和安全可信的数据生态基础设施、促进数字经济与相关产业的发展提供有益的参考与借鉴.

摘要：车联网与人工智能结合推动了自动驾驶汽车的快速发展.分散于不同车辆中的车联网数据共享并用于训练人工智能模型可实现更高效、更可靠的智能驾驶服务.自动驾驶汽车可通过车载摄像头、传感器等持续采集车辆实时信息、道路图像和视频等车联网数据,并用于优化更新智能交通模型,弥补车联网数据变化导致的模型准确度下降问题.提出面向车联网环境下数据持续共享的高效安全联邦学习方案SEFL,以解决车联网数据采集低效、数据动态更新导致的灾难性遗忘、模型训练参数导致的隐私泄露等问题.在方案SEFL中,车辆基于全局模型,只采集模型识别率较低的车联网数据,并以最大概率对应的输出作为该样本的标签,完成训练样本自动采集.由于车辆存储空间有限,采集的新样本会覆盖旧样本,导致车辆上数据是动态变化的,传统微调训练方式容易引起灾难性遗忘问题.为此,方案中设计了一种基于双重知识蒸馏的训练算法,确保模型学习到每个样本的知识,使模型保持较高的准确度.此外,为了防止车辆与服务器之间传播的模型参数泄露用户隐私,提出了一种自适应的差分隐私策略来实现客户端级的强隐私保护,同时该方案能最大限度地减少差分隐私噪声对全局模型准确度的负面影响.最后,进行了安全性分析并结合交通标志数据集GTSRB和车辆识别数据集对SEFL方案进行了性能评估.实验结果表明所提出的SEFL方案能提供可靠的强隐私保护和高效的采集策略,并且在模型准确度方面要优于现有基于联邦学习的算法.

摘要：针对传统联邦学习在无人机群应用中的局限性——要求所有参与者执行相同任务并拥有相同的模型结构,本文探索一种适用于无人机群的多任务联邦学习方法,设计一种新的编-解码器架构,以加强执行不同任务的无人机之间的知识共享.首先,为执行相同任务的无人机建立直接的知识分享机制,通过直接聚合方式实现同任务知识的有效融合;其次,对于执行不同任务的无人机,从所有无人机的编-解码器架构中提取编码器部分,构建一个全局编码器;最后,在训练环节,将本地编码器和全局编码器的信息整合到损失函数中,并通过迭代更新使本地解码器逐步逼近全局解码器,从而实现跨任务间的知识高效共享.实验结果表明:相较于传统方法,所提出的方法使无人机群在3个单任务上的性能分别提升1.79%、0.37%和2.78%,仅在1个任务上性能略微下降0.38%,但整体性能仍提升2.38%.

摘要：联邦学习作为解决数据孤岛问题的有效方法,在服务器计算全部梯度的过程中,由于服务器的惰性和自利性会存在全局梯度不正确计算问题,因此需要验证全局梯度的完整性.现有的基于密码算法的方案验证开销过大.针对这些问题,提出一种理性与可验证的联邦学习框架.首先,结合博弈论,设计囚徒合约与背叛合约迫使服务器诚实.其次,所提方案使用基于复制的验证方案实现全局梯度的完整性验证,且支持客户端离线.最后,经分析证明所提方案的正确性,并经实验表明,该方案与已有的验证算法相比,客户端的计算开销降为0,一次迭代的通信轮数由原来的3轮优化到2轮,且训练开销与客户端的离线率成反比.

摘要：为了缓解联邦学习(FL)中客户端之间由于完全重叠特征偏移所带来的数据异构问题影响,该文提出一种融合通道个性标准化的本地自适应联邦学习算法。具体地,构建了一个面向数据特征偏移的联邦学习模型,在训练开始之前先对客户端中的图像数据集进行一系列随机增强操作。其次,客户端分别按颜色通道单独计算数据集的均值和标准差,实现通道个性标准化。进一步地,设计本地自适应更新联邦学习算法,即自适应地聚合全局模型和本地模型以进行本地初始化,该聚合方法的独特之处在于既保留了客户端模型的个性化特征,同时又能从全局模型中捕获必要信息,以提升模型的泛化性能。最后,实验结果表明,该文所提算法与现有相关算法相比,收敛速度更快,准确率提高了3%~19%。

摘要：打破数据孤岛,促进数据流通合作是数字化时代的重要课题。随着数据安全和隐私保护受到广泛关注,传统的以数据集中为主的合作模式受到挑战。联邦学习为解决这一现实问题提供技术解决方案,但是其进一步应用还面临诸多困难。本文从技术应用和技术管理的角度,收集联邦学习的相关文献并进行文献计量分析,提出基于“要素-过程”的联邦学习应用框架。该框架围绕基础设施、节点数据、算法模型、联邦参与方4个关键要素,遵从发起、执行、评估、治理4个核心过程,形成“4+4”的技术应用模型。我们依据此模型梳理和分析联邦学习技术应用的现状,提出联邦学习应用进一步发展需要解决的关键科学问题。本文对推动联邦学习技术在经济管理领域的深入应用具有一定的意义。