StepGuard：通过可扩展监督与安全-效用平衡学习步级防护规则

基于 LLM 的代理可以通过调用工具与外部环境交互，但这一能力也带来了文件修改、信息泄露和未授权操作等安全风险。现有的防护机制通常在轨迹完成后进行评估，而对执行前的步级动作监控关注不足。我们提出 StepGuard，这是一种步级防护模型，既可以审计已完成的代理轨迹，也可以在工具动作执行前进行检查。为训练 StepGuard，我们引入 StepGen，一个自动化数据引擎，用于生成具有相同上下文但在高风险步骤采取不同动作的安全与不安全轨迹。为进一步减少过度防护和防护不足，我们提出 Balance-GRPO，它根据安全与不安全动作的观测准确率动态平衡学习。实验表明，StepGuard 在开源权重防护模型中取得了最高的平均准确率，其性能可与 GPT-5.4 相媲美。在 AgentDojo 和 AgentDyn 上用于保护代理时，StepGuard 相比无防护设置可将平均攻击成功率降低 77.3%，而平均效用仅下降 2.8 个百分点。