FUSE:在 $q$-公平联邦学习中防御拜占庭利用的公平性感知更新筛选
FUSE: Fairness-aware Update Screening against Byzantine Exploitation in $q$-Fair Federated Learning
精选理由
提出 FUSE 聚合方法,在抵御拜占庭恶意更新的同时保留高损失诚实客户端的公平影响,提升联邦学习鲁棒性。
AI 摘要
arXiv:2610.20264v1 公告类型:新论文 摘要:以 $q$-公平联邦学习($q$-FFL)、不可知联邦学习或倾斜经验风险最小化等形式出现的客户端级公平联邦学习,已成为均衡异构客户端之间效用的一种颇具吸引力的解决方案。该范式赋予高损失客户端更大的相对影响力,同时由中央服务器将其按损失加权的更新聚合为一个共享模型。然而,$q$-公平联邦学习的拜占庭鲁棒性在很大程度上被忽视,导致服务器无法区分公平性机制引起的合法放大与恶意更新缩放。为弥补这一关键缺口,我们在仅更新接口下形式化了具有拜占庭鲁棒性的 $q$-公平联邦学习问题;在该接口下,服务器只能观测到经公平性缩放的客户端更新。我们在共享类条件分布的标签偏斜情形下进行分析,结果表明,公平性缩放保留了诚实更新的非负类别混合结构,同时将其总和为一的约束替换为依赖于客户端的径向尺度。我们超越基于幅值的筛选,证明这种扭曲的几何结构提供了两种互补的检验方式,即径向检验与结构检验,而单一范数无法提供这两种检验。随后,我们提出 FUSE,这是一种结构感知的鲁棒聚合器,利用一个小型可信标注数据集进行系数恢复、尺度与锥一致性筛选,以及筛选后的步长控制。在四个基准测试和七种拜占庭攻击中,相较于各基准测试上的最强基线,FUSE 将每个随机种子下的最坏攻击准确率提高了 3.9–30.1 个百分点,同时在很大程度上保留了公平性机制旨在保护的高损失诚实客户端的影响力。