智能体的事前犯罪侦测，千钧一发：探究被招募智能体何时屈服

当 AI 智能体共享通信渠道和凭据时，一个智能体可能施压另一个智能体，使其违反操作者的规则，这是走向共谋的第一步。输出过滤器只能检查智能体已经写出的内容。监督者能否提前判断智能体即将屈服？我们表明，在受控的多智能体环境中，可以通过对智能体激活值进行线性探测来实现这一点。在六种场景中，一个同伴最多经过 20 轮施压，要求目标泄露某项秘密，例如部署令牌；目标通常会先拒绝，随后屈服。探针在每次模型调用时、输出写出之前读取激活值，并识别出即将泄露的调用。在留出的 Qwen3-32B 试验中，当阈值设定为标记 5% 的良性调用时，它能捕获 82% 的泄露调用。在相近的标记率下，零样本决策模型监视器只能捕获 26%。在 gpt-oss-20b 上，对其推理过程进行探测所得 AUROC 达到 0.91。在相同调用上训练的词袋分类器表现相近，因此大部分收益来自基于标签的训练，而非激活值本身。探针也会标记获准的披露：它更多读取的是即将发生的披露，而不是违规行为。该预警的有效范围很短；而对任何警报都立即停止，会使大多数良性试验无法继续，第二次文本检查也无法解决这一问题。在生成前发出预警，可以让监督者在智能体即将屈服时及时停止它，从而抢在其他智能体根据其消息采取行动，或招募行为在整个群体中扩散之前进行干预。