arXiv cs.LG精选74

多步梯度反演的路径积分代理模型

A Path Integral Surrogate for Multi-Step Gradient Inversion in Federated Learning

· 9天前

精选理由

揭示多步联邦更新仍可泄露训练图像,助力强化联邦学习隐私防护

AI 摘要

arXiv:2610.03597v1 公告类型:新 摘要:联邦学习使众多客户端能够共同训练一个共享模型,而无需将其私有数据发送到中央服务器。每个客户端只共享模型更新,而这一更新相比其原始训练样本应当泄露更少的客户端信息。这一前提正是保护客户端隐私的关键。梯度反演攻击直接对其提出挑战,试图仅凭客户端共享的一次更新,重建其私有输入图像。在 FedAvg 下,客户端的更新累积了多个本地训练步骤,因此服务器只能看到一条隐藏权重轨迹的两个端点。近期的梯度反演攻击会拟合连接这两个端点的路径上的代理模型,但仍然只在单个点读取其梯度。我们提出 Path-Integral Surrogate Model Extension(PI-SME),将累积更新视为梯度场的路径积分,并通过在一条可学习的 B\'ezier 路径上选取多个节点,使用 Gauss--Legendre 求积对其进行近似。在 CIFAR-100 和 FEMNIST 图像上,针对不同轨迹长度和类别受限批次,PI-SME 在多项反演指标和匹配损失方面,都比最强的代理基线更忠实地重建出私有输入。

查看原文(arXiv cs.LG)