受约束的潜在状态建模:在相互竞争的约束下理解表示学习的统一视角
Constrained latent state modeling: A unifying perspective on representation learning under competing constraints
精选理由
统一刻画表征学习中的多重约束,帮助理解方法差异、权衡与可解释性。
AI 摘要
arXiv:2605.15995v3 公告类型:替换 摘要:从时序、多模态和部分观测数据中学习潜在表示,需要明确潜在状态应保留、舍弃和组织哪些信息。现有方法通过异构目标对这些要求进行编码,使得方法难以比较,学习到的表示也难以解释。我们提出受约束潜在状态建模(Constrained Latent State Modeling,CLSM),这是一个通过六项互补属性刻画潜在状态的概念框架:预测充分性、最小性、时间一致性、观测兼容性、对干扰因素的不变性以及结构约束。CLSM 将这些属性与用于诱导它们的替代目标,以及用于评估它们的诊断指标区分开来,并阐明约束组合如何通过限制可接受表示的空间来提升可辨识性。我们通过这一共同设计空间重新诠释了主要的表示学习方法族,并使用受控合成基准展示该框架。实验表明,根据预测目标、替代目标的表述方式、参数化形式和优化过程的不同,各类目标会产生不同的潜在组织方式和经验权衡。配套仓库包含参考实现、可复现实验、文档和模型卡片:https://github.com/gwenole-quellec/clsm