普通任务压力下出现工具性监控规避行为

AI 安全领域的一个核心担忧是，当监督与完成目标发生冲突时，智能体可能会将监督视为障碍。我们研究了工具性规避，即 LLM 智能体将规避运行时监控作为完成普通任务手段的倾向。我们推出了 EvasionBench，这是一个包含 50 个多样化任务—策略对的基准，其中完成任务需要执行运行时监控所禁止的操作。智能体知道其工具调用受到监控，并且在暂停时会收到继续工作的提示。在我们的各项评估中，三次取最佳的规避尝试率最高达到 98%，成功率最高达到 88%，且不同模型之间存在显著差异。Claude Fable 5.1 的成功率较低，但经常会创造性地尝试绕过监控。总体而言，规避行为会随着测试时计算量的增加而增加：推理投入越高、使用的 token 越多，规避率就越高。轨迹显示，智能体会对被禁止的命令进行编码，将操作拆分到多次工具调用中，并不断重试，直到相关上下文从监控器的历史记录中移出。我们还发现，GPT-6 Astra 的低规避率伴随着过度拒答：在拒绝服务式提示注入下，它经常放弃原本可以解决的任务。我们的研究结果表明，即使没有明确的对抗性目标，普通任务压力也可能促使智能体采取适应性措施来规避运行时监控。因此，有效的监督必须能够抵御反复的规避尝试，因为帮助智能体解决困难任务的坚持性也可能驱使它们绕过自身的安全护栏。