arXiv cs.LG精选74

无坐标自动微分

Coordinate-Free Automatic Differentiation

· 2天前

精选理由

将微分几何运算融入现有自动微分框架,让科学机器学习更自然地处理旋转、曲率等几何对象。

AI 摘要

arXiv:2610.12776v1 公告类型:新论文 摘要:自动微分(AD)是现代机器学习的基石。由于所有 AD 框架都隐式地固定了欧几里得空间的一组基来定义梯度和雅可比矩阵,因此它们原生处理的数学对象都是由一组固定坐标构成的数组。这使得旋转、体积形式和曲率等对象难以表达,而这些对象会出现在例如人工智能应用于科学的场景中。为特定问题定制的变通方案缺乏可复用性。我们证明:(i)单个与基无关的导数算子可以表示多种几何微分运算;(ii)该算子可以完全用现有的 AD 原语来表达。这种可复用的变换可以与 JAX 的批处理、编译和硬件加速功能组合使用。几何结构以代数数据的形式引入。我们通过实验展示了该变换在不同流形算子之间的复用、在时空逆问题处理流程中的组合,以及在不同旋转子子群上的优化中的应用。

查看原文(arXiv cs.LG)