arXiv cs.AI精选76

面向混合整数规划求解器的日志驱动语义调优

Log-Driven Semantic Tuning for Mixed Integer Programming Solvers

· 3天前

精选理由

利用求解日志引导大模型精准调参,以更少试验提升 MIP 求解效率,并增强配置迁移能力。

AI 摘要

混合整数规划(MIP)求解器的自动配置主要依赖黑箱优化。每次试验都需要执行一次代价高昂的求解器运行,且仅提供一个标量结果,因此调优可能需要大量此类评估。人类专家则采用不同的方法:检查求解器日志,识别性能瓶颈,并调整能够解决这些瓶颈的参数。我们提出 Log-Driven Semantic Tuning(LDST),利用大语言模型(LLM)自动化这一过程。LDST 从求解器日志中提取精简的诊断信息,利用 LLM 根据参数含义和观测到的求解器行为,对当前最佳配置提出稀疏修改,并在执行前验证每项修改方案。自适应运行状态的目标函数根据限时运行所能提供的信息选择调优信号,同时,基于日志的完成信号根据常规求解器日志中记录的分支定界树增长情况估计完成时间,使已求解和未求解的运行能够采用统一的时间尺度。在来自五个基准集的 215 个实例上,相较于 SMAC3、RBFOpt 和随机搜索中的最佳方法,LDST 在简单实例和中等难度实例上分别将损失的几何平均值降低了 43.9% 和 16.7%。在这两种难度下,LDST 仅提出 10 项方案即可达到比上述任一基线方法提出 50 项方案后更低的损失。此外,LDST 在单个实例上调优得到的配置,在迁移到同一类中未见过的实例时,也优于基线方法得到的配置。

查看原文(arXiv cs.AI)