arXiv cs.LG精选72

FedSAP:面向多域异构边缘设备的结构化自适应划分联邦学习

FedSAP: Federated Learning with Structured Adaptive Partitioning for Multi-Domain Heterogeneous Edge Devices

· 11天前

精选理由

FedSAP按通道划分共享与私有特征,提升异构边缘联邦学习的精度与资源适配性。

AI 摘要

arXiv:2610.01638v1 公告类型:新 摘要:异构边缘设备上的联邦学习(FL)必须同时适应不均等的资源预算和存在领域偏移的本地数据。现有的资源自适应方法能够决定每个客户端训练模型的比例,却无法决定保留的容量应分布在哪里或如何共享;而联邦领域泛化方法通常假设所有客户端采用共享的完整架构。因此,统一压缩可能会丢弃高效用通道,而单一聚合路径则可能将可迁移特征与领域敏感更新混合在一起。我们提出 FedSAP,一种面向领域的异构联邦学习框架,将结构化剪枝建模为受预算约束的三态通道分配问题。FedSAP 将每个保留比例转换为非均匀的层级预算,把稳定通道分配到 Global 池,把有用的领域敏感通道分配到伪领域特定的 Private 池,并将低效用通道置于 Dropped 状态。该划分使广泛有用的特征能够通过跨客户端聚合获益,同时将领域敏感更新与不兼容客户端隔离开来。Domain-Guided Assignment 根据浅层梯度相似性推断伪领域,而 Type-Matched Aggregation 将每个通道限制在其预定的共享范围内。在三个随机种子下,FedSAP 在 Digits 和 Office-Caltech 上分别达到 76.00% 和 72.67% 的平均全局准确率,相比最强基线分别提升 1.70 和 4.92 个百分点,同时支持异构客户端最高达 80% 的客户端剪枝比例。

查看原文(arXiv cs.LG)