arXiv cs.LG精选72

Muon 遇见 Tamed Langevin:超越凸势与梯度-Lipschitz 势的动量预条件

Muon meets Tamed Langevin: Momentum Preconditioning beyond Convex and gradient-Lipschitz Potentials

· 11天前

精选理由

提出动量平滑预条件的Langevin方法,实现非凸非全局光滑势能下的稳定采样

AI 摘要

arXiv:2610.02158v1 发布类型:new 摘要:我们研究从矩阵空间上的 Gibbs 分布中采样的问题,其中势能既非凸,也不满足全局梯度-Lipschitz 条件。我们引入一族非二次动能,由此得到一种带动量预条件的新型欠阻尼 Langevin 系统;在该系统中,动能的梯度充当对动量的平滑谱驯化。在势能满足这些较弱假设的条件下,我们证明所得动力学保持目标 Gibbs 测度不变,并在加权全变差距离下建立其向平衡态的指数收敛性。最后,我们证明相应的 Euler-Maruyama 离散化具有关于时间一致的矩界,无需对势能梯度进行任何修改,从而保证所得采样算法的稳定性。

查看原文(arXiv cs.LG)