模拟控制评估

控制评估衡量的是：即使 AI 模型有意造成不良后果，安全防护措施能否阻止它。此类评估通常使用专门构建的控制测试环境，并将结果外推至模型的部署场景。然而，部署中安全防护措施的有效性可能取决于控制测试环境未能涵盖的环境和任务特征。为了拓宽控制评估的适用场景，我们提出模拟控制评估（SCEs），使用语言模型代替真实环境来模拟工具响应。我们在 LinuxArena 上评估 SCEs，其中实际执行可提供真实结果。我们将 SCEs 的预测误差与另一控制测试环境 BashArena 的预测误差进行比较，并与 LinuxArena 内部控制指标的变动进行比较。对于独立采样的评估任务集和部署任务集，在 5% 的审计预算下，SCEs 对五个监控器的安全性预测的均方根误差为 3.6 个百分点，而 BashArena 为 10.1 个百分点。SCEs 能够高度还原攻击策略、攻击者推理和监控器推理的分布，其相对于实际执行结果的 KL 散度比 BashArena 低一个数量级以上。SCEs 可以解释攻击成功率、监控器评分和安全性在不同环境间方差的 78%–85%。这种准确性具有较高的样本效率：SCEs 使用的任务对抽样次数不到部署任务集的 5%，就能以低于 BashArena 的误差预测安全性。通过模拟发现的策略也能提升监控器在留出的 LinuxArena 攻击样本上的表现，其提升效果优于 BashArena，并与通过实际执行发现的策略带来的提升大致相当。这些结果表明，针对特定部署场景的 SCEs，可能比在独立控制测试环境中实际执行的控制评估具有更强的预测能力。