arXiv cs.LG精选72

高斯测度之间的最优传输与对齐

Optimal Transportation and Alignment Between Gaussian Measures

· 7天前

精选理由

为高维高斯数据提供可解析的对齐与聚合方法,助力比较语言模型表征和聚类用户。

AI 摘要

arXiv:2512.03579v2 公告类型:替换 摘要:最优传输(OT)与 Gromov-Wasserstein(GW)对齐为比较、变换和聚合异构数据集提供了可解释的几何框架,这些任务在数据科学和机器学习中普遍存在。由于这些框架的计算成本高昂,大规模应用通常依赖于二次代价下高斯分布的闭式解。本文全面研究了高斯测度的二次代价 OT 与内积 GW(IGW)对齐,填补了文献中的若干空白,以拓展其适用范围。首先,我们处理了可分 Hilbert 空间上非中心化高斯测度之间 IGW 对齐这一尚未解决的问题,通过对等距算子和余等距算子(在有限维情形下为正交矩阵)进行二次优化,给出了精确的变分刻画,并推导出紧致的解析上下界。如果至少有一个高斯测度是中心化的,则解可简化为完全闭式的表达式;我们进一步将其扩展为中心化高斯测度之间 IGW 重心的解析解。我们还将具有成对二次代价的高斯多边际 OT 化归为一个可处理的优化问题,并证明该问题的每个二阶驻点都是全局最优点。为展示其实际用途,我们比较了已训练的语言模型蒸馏模型的嵌入分布,并利用合成用户文本嵌入的协方差谱对这些用户进行聚类。

查看原文(arXiv cs.LG)