SABLE:可扩展的仿射贝叶斯潜在空间探索
SABLE: Scalable Affine Bayesian Latent-space Exploration
精选理由
提出高效贝叶斯优化方法,让高维生成模型潜空间中的昂贵设计搜索更省样本、更快决策。
AI 摘要
工程设计和蛋白质等复杂对象往往难以优化,因为其设计空间呈现高维结构,且目标函数评估成本高昂。生成模型提供了连续的潜在表示,但其潜在空间可能具有数千乃至数万维,使得潜在维度 $D$ 远超评估预算。我们提出 SABLE,一种适用于各向同性分布且预算有限的高维潜在空间的贝叶斯优化方法。SABLE 使用贝叶斯仿射代理模型进行预测和采集,并将高阶结构视为代理模型偏差。在获得 $N$ 次观测后,斜率更新的维度至多为 $N-1$,由此可将每个查询分解为两个分量:一个位于张成空间内,通过至多 $N$ 维的期望改进(EI)进行优化;另一个位于张成空间的正交补中,由一个标量范数控制。我们表明,仿射 EI 隐式选择的正交补分量范数可能导致探索不足,而 SABLE 改用有限时域调度来指定该范数,同时不将搜索限制在学习得到的子空间内。一种再压缩方案将信息压缩为 $\mathcal O(M)$ 个伪观测,将重新拟合成本限制在 $\mathcal O(M^2D+M^3)$,同时使参数推断、预测和采集决策的耗时保持在数十毫秒。在合成基准测试和潜在空间优化任务中,SABLE 实现了较高的样本效率,并在大预算下将决策时间缩短了数个数量级。