静水中的 RIPPLE：使用 Wavelet Scattering Transform 的联邦学习零样本聚类
RIPPLE in Still Water: Zero-Shot Clustering in Federated Learning with Wavelet Scattering Transform
精选理由
无需额外通信即可完成联邦客户端聚类，并为未参与训练的客户端零样本匹配个性化模型。
AI 摘要
arXiv:2610.03054v1 公告类型：new 摘要：聚类联邦学习（FL）将客户端群体划分为本地分布相似的组，并为每个簇训练一个专用模型，从而缓解非独立同分布数据下单模型方法所产生的客户端漂移。现有方法通过梯度相似度、损失评估或 EM 风格的更新，在训练循环中发现簇结构，因此会增加通信开销，使梯度暴露于反演攻击之下，并且无法为未参与训练的客户端提供分配机制。我们提出 RIPPLE，一种聚类联邦学习框架：它完全在线下根据每个客户端本地数据的谱特征计算簇分配。具体而言，我们使用方差加权的主成分原型，将其嵌入 Wavelet Scattering Transform，并由服务器端的 Gaussian Mixture VAE 解码；该 VAE 在联邦训练开始前基于合成客户端群体进行训练。每轮通信成本与 FedAvg 完全一致；对于未参与训练的客户端，只需一次前向传播即可获得个性化模型，无需计算梯度、评估模型或增加通信轮次。我们证明，RIPPLE 的替代聚类目标与预言机目标之间的差距由一个可计算量所界定，该量随客户端样本量增加而衰减，且与联邦训练持续时间无关；对于每个簇，其收敛速度达到非凸光滑目标的极小极大最优速率。在涵盖受控异质性和现实异质性的五个基准数据集上，RIPPLE 始终优于所有基线方法，并且在最符合现实的划分上优势进一步扩大。