与结构无关的因果表示学习
Structure-agnostic Causal Representation Learning
精选理由
无需预设因果结构即可学习稳健表征,提升跨域泛化能力。
AI 摘要
arXiv:2610.00968v1 公告类型:新 摘要:因果表示学习旨在利用数据生成背后的因果结构来发现稳健特征。现有方法要求预先指定因果结构,但不同结构需要从根本上不兼容的不变性约束,而结构设定错误会导致学得的表示丢弃预测信息。我们提出 SaCRL,这是一种在无需先验结构知识的情况下,同时识别因果结构并学习相应不变表示的框架。我们的方法利用基于 HSIC 的违背度量,在候选不变性上进行软优化,将结构选择形式化,并通过自适应权重自动聚焦于可实现的结构。我们为结构识别提供了理论保证,包括在随机特征近似下的保证、不变性满足保证以及分布外泛化保证。在实证方面,SaCRL 在合成和半合成贝叶斯网络基准上恢复了真实结构;在 Colored MNIST 上优于固定不变性基线;在三个 DomainBed 基准(PACS、VLCS、OfficeHome)上取得了当前最佳精度;并且在结构设定错误和环境多样性有限的情况下表现出平稳退化。代码可在以下地址获取:https://github.com/ArmanBehnam/sacrl。