升级渠道能否将奖励黑客行为引导为缺陷披露？

当编码智能体遇到有缺陷的测试基础设施时，它们可能会进行奖励黑客行为：通过硬编码输出或编辑测试文件来通过其无法正当满足的测试，这种模式如今已在基准测试之外出现，例如在针对某大型 AI 平台生产基础设施的一次协调多智能体入侵中。使智能体能够检测并利用缺陷的同样能力，在合适的决策环境下也可以让它报告缺陷。我们评估升级渠道——即在冲突发生时智能体可用的结构化报告工具——作为一种决策环境干预，它既能减少奖励黑客行为，也能暴露触发该行为的基础设施缺陷。一个 $2 \times 2$ 因子设计分别检验了升级工具、独立的反奖励黑客策略及其组合的贡献。在涵盖 5 个家族的 8 个前沿模型中，组合干预将奖励黑客行为从 23.6\% 降至 5.3\%（混合效应 logistic OR = 9.2，95\% CI 5.0--16.8，$p < 10^{-12}$），且未检测到成本或性能开销，并使其中 8 个模型中的 6 个完全消除该行为。升级与奖励黑客行为几乎完全互斥，96.8\% 的升级不伴随奖励黑客行为。除了降低该行为之外，升级渠道还可作为诊断基础设施：在监控之外，升级使缺陷检测覆盖率增加 +10.1 个百分点，并且一旦触发，其准确性更高（99.4\% vs 85.8\%）。与基于遏制的方法不同，后者可能跟不上不断增长的模型能力，升级渠道将能力导向披露而非利用。