Deep Noir：通过 Transformer 模型中的架构计时实现自主引导发现

激活引导能够在推理时修改 LLM 的行为，但确定应在何处以及以多大强度进行引导仍依赖人工。我们提出 Deep Noir，这是一种利用 Logit Lens 收敛性和因果头级归因来自动发现最优引导参数的框架。在三种规模（1B x 3、2-3B x 2 和 7-9B x 4）上，我们的引擎在 1B 模型的垃圾信息任务上实现了 16.7 个百分点的提升（标准差为 4.7；运行 39 次），在四种架构的 7-9B 模型上，提升幅度进一步增至 21 至 42 个百分点。在 SST-2 情感任务上，无需修改代码即可实现 13.1 个百分点的提升。机制层面的依据使系统能够自动发现可跨任务和架构泛化的干预点。在情感任务上，未进行头部掩码的 RepE 相较基线未能实现提升，而 Deep Noir 提升了所有模型的表现（p < 0.01）。我们进一步表明，引导会形成一种可预测的提示注入攻击面，其脆弱性会随引导强度单调增加。这一发现对于部署经过引导的分类器的智能体系统具有重要意义。