StoCFL：一种面向具有动态客户端参与的非独立同分布数据的随机聚类联邦学习框架
StoCFL: A Stochastically Clustered Federated Learning Framework for Non-IID Data with Dynamic Client Participation
精选理由
提升非独立同分布场景下联邦学习性能，支持动态客户端参与与未知簇数聚类。
AI 摘要
arXiv:2303.00897v2 公告类型：替换 摘要：联邦学习是一种分布式学习框架，能够充分利用边缘设备上存储的私有数据样本。在现实世界的联邦学习系统中，这些数据样本通常是去中心化的，并且具有非独立同分布（Non-IID）特征，导致联邦学习过程出现发散和性能下降。作为一种新的解决方案，聚类联邦学习将数据分布相似的联邦客户端分组，以减弱 Non-IID 的影响，并为每个簇训练更好的模型。然而，现有的 CFL 算法由于缺乏跨簇信息共享机制而效果不佳，导致数据利用效率和模型性能较低。同时，其性能高度依赖于理想的客户端聚类结果，而这种结果在实际中通常无法获得。本文提出了 StoCFL，一种面向通用 Non-IID 问题的新型聚类联邦学习框架。具体而言，StoCFL 实现了一个灵活的 CFL 框架，支持任意比例的客户端参与以及新加入的客户端，适用于不断变化的 FL 系统，同时还能显著提升模型性能。研究采用四种基本的 Non-IID 设置和一个真实世界数据集进行了大量实验。结果表明，即使在簇数量未知的情况下，StoCFL 也能获得令人满意的聚类结果。基于客户端聚类结果，在多种场景下，使用 StoCFL 训练的模型均优于基线方法。