贝叶斯优化中的直接遗憾优化

arXiv:2507.06529v2 公告类型：替换 摘要：贝叶斯优化（BO）是一种用于优化高成本黑盒函数的强大范式。传统 BO 方法通常依赖于彼此独立的手工设计采集函数和目标函数代理模型，并且往往采用短视策略。本文提出一种新颖的直接遗憾优化方法，通过从一组候选模型和采集函数中进行蒸馏，联合学习最优模型和非短视采集策略，并明确以最小化多步遗憾为目标。我们的框架利用具有不同超参数的高斯过程（GP）集成来生成模拟 BO 轨迹，每条轨迹均由从一组常规选项中选取的采集函数引导，并依据贝叶斯提前停止准则终止。这些轨迹用于训练端到端的 Decision Transformer，使其选择能够改善最终目标的下一次查询，遵循密集训练、稀疏学习的范式：利用大量模拟数据训练 Transformer，同时通过有限次数的真实评估在线改进 GP。在合成和真实世界基准上，与标准、前瞻、信赖域和摊销式 BO 基线相比，我们的方法在最终简单遗憾方面达到最优或接近最优的表现，其中在高维场景下的提升最为显著。消融实验表明，这些提升源于感兴趣区域筛选与学习所得策略的共同作用；与显式两步前瞻采集策略在相同预算下的比较则表明，仅靠前瞻机制并不能获得同样的优势。