重尾噪声下的去中心化 SGD：最优收敛速率与梯度裁剪的作用

arXiv:2610.10527v1 公告类型：cross 摘要：重尾噪声在现代机器学习中已被广泛观察到，这推动了梯度裁剪和归一化等方法的应用。尽管这些方法在集中式场景下已得到充分研究，但在去中心化场景中，人们对其了解要少得多，因为对局部梯度施加非线性变换会同时影响优化和一致性。近期关于去中心化非凸优化的研究，在重尾噪声下分别考察了裁剪和归一化方法，其中裁剪会产生次优速率，而归一化则需要局部动量或小批量才能收敛。这引出了一个问题：在重尾噪声下，采用非线性变换的基线去中心化方法能否达到最优收敛速率？我们通过裁剪的去中心化 SGD（$\mathtt{DSGD}$）对此给出了肯定回答。对于具有光滑非凸代价函数且噪声的 $p$ 阶矩有界、$p \in (1,2]$ 的情形，我们证明，裁剪的 $\mathtt{DSGD}$ 无论以高概率还是以期望计，都能达到阶最优速率。此外，我们还证明了关于智能体数量的线性加速。据我们所知，此前尚未有研究证明带裁剪的去中心化方法具有这一性质。关键技术要素是对一致性间隙进行精细分析，该分析利用了裁剪的结构，将网络效应 relegating to higher-order terms。我们的结果凸显了去中心化场景下裁剪与归一化之间的重要区别：归一化的 $\mathtt{DSGD}$ 可能无法收敛，而裁剪保留了幅值信息，从而使 $\mathtt{DSGD}$ 能够收敛并达到阶最优。数值实验验证了我们的理论。