arXiv cs.LG精选77

优化编码器:重新思考神经场的二阶元学习

Optimization Encoders: Rethinking Second-Order Meta-Learning for Neural Fields

· 7天前

精选理由

提出优化编码器框架与注意力神经场,让少量梯度更新即可更准确地重建图像与三维形状,并支持多类语义任务。

AI 摘要

arXiv:2610.08075v1 公告类型:新论文 摘要:条件神经场以连续方式表示信号,但其有效性取决于如何从观测数据中推断条件潜在表示。在元学习中,这一编码过程通过解码器所诱导的梯度更新完成,将表示学习与解码器设计直接关联起来。我们将潜变量优化解释为优化编码器,以此形式化这一联系,统一二阶微分、潜变量参数化和任务监督的作用。这一概念使二阶元学习能够对编码过程与解码器进行联合端到端训练,并明确了一阶近似舍弃了哪条学习路径。在这一视角的指导下,我们提出 Attentive Latent Fields(MetaLF),一种基于等变 transformer 的神经场,通过自注意力为潜在点云融入上下文信息。这些交互既塑造场预测,也塑造构建其表示的更新过程,使局部观测能够为连贯的非局部结构提供信息。通过将内层编码目标与外层任务监督解耦,我们在端到端元学习框架内统一了重建、分类和分割,并在测试时仅利用重建目标进行潜变量自适应。多项式场上的受控实验表明,潜变量间的协调与更低的有效秩以及与底层函数空间更强的对齐相关。在图像和三维形状重建任务中,MetaLF 仅需三至五次梯度更新即可提升保真度,同时支持图像、形状和体数据的语义预测。综上,这些发现表明,优化编码器视角可作为统一基础,围绕表示如何构建、协调和使用来设计神经场。

查看原文(arXiv cs.LG)