OwlSight：面向思维链推理的全景监控器

思维链（CoT）监控能够为 AI 监督系统提供可执行的证据，有望实现早期检测与干预。然而，现有方法专注于特定任务，而 AI 的监管，尤其是对推理模型的监管，需要监控更广泛的任务。我们引入了用于 CoT 监控的 Factor，这是一种支持在提示词中定制监控要求的策略，使单个监控器能够依赖不同因素覆盖不同任务。此外，我们引入了两类因素：细粒度因素和粗粒度因素（例如，监控某个特定电子邮件地址是否泄露，与监控隐私泄露），以满足多样化的用户监控需求。在此基础上，我们开发了名为 OwlSight 的 CoT 监控器，仅依赖 factor 来监控涉及多个维度的行为，包括能力、安全性和可信度。在 15,971 条推理轨迹上的实验表明，在细粒度和粗粒度层面，OwlSight 分别以 1.32–30.57 分和 11.71–27.81 分的优势超过通用 LLM，并在 OpenAI 的 CoT 可监控性基准上取得了当前最优结果。它还能够泛化到未见过的模型的 CoT，并且对 Factor 的改写、CoT 压缩和混淆保持稳健，为 CoT 监控提供了一种有前景的新范式，有助于实现对前沿 AI 的监督。