Blackboard Intelligence 可在全局约束问题上超越自回归方法

arXiv:2609.38806v2 公告类型：替换 摘要：下一个词元预测推动了大型语言模型取得显著进展，但越来越多的证据表明，在受复杂全局约束支配的问题上，这类模型可能表现不佳。在本文中，我们聚焦于这一问题场景，并探究其中一些局限是否源于下一个词元预测本身所诱导的推理接口。我们通过 Blackboard Intelligence 研究这一问题：这是一种推理时视角，模型在固定且可修改的画布上工作，并在候选解状态空间中进行搜索，而不是沿着因果的从左到右轨迹不断提交结果。我们使用扩散语言模型实例化这一思想，因为其任意顺序的预测接口能够自然地展现对部分填充解状态的预测。我们的关键观察是，平均置信度这一可从标准掩码扩散目标中获得的简单模型内部量，可以作为全局一致性的有效代理，并引导推理时的搜索与修订。在 ZebraLogic、Nurse Rostering 和 Job-Shop Scheduling 上的实验证明，在固定微调后的 LLaDA-8B-Instruct 检查点不变的情况下，Blackboard 始终能够提升推理效果，并显著优于同等规模的自回归基线：在 ZebraLogic-Hard 上达到 90.4% 的准确率，在 Nurse Rostering 上达到 76.4% 的精确可行率，在 JSSP 上达到 80.2% 的最优率。更强的自回归搜索与细化方法同样无法缩小其在 ZebraLogic-Hard 上的差距；尽管测试的前沿 LLM 规模大得多且具备强大的测试时推理能力，Blackboard 仍在 ZebraLogic-Hard 和 JSSP 上超越了它们。我们已在 https://github.com/jwoosang1/blackboard-intelligence 开源代码库。