SecureGARD：面向安全工具使用型 LLM 智能体的动态本体引导治理

arXiv:2611.06682v1 公告类型：新论文 摘要：使用工具的大语言模型（LLM）智能体将模型输出转化为具有实际影响的行动，使间接提示注入成为执行安全问题。现有防御方法对工具调用、执行轨迹或信息流施加约束，但往往未显式表示行动语义、状态依赖和证据关系，从而限制了跨异构工具的泛化能力，也增加了安全更新的难度。我们提出 \ours{}，一种动态本体引导的治理框架。\ours{} 将异构调用映射到共享语义表示中，并将可执行本体与单次任务过程中的任务状态相结合，以确定性方式作出就绪、等待和禁止决策。等待决策指出尚未满足但可通过补救满足的义务，从而在不扩大智能体授权边界的前提下支持有界重新规划。\ours{} 根据经过验证的训练执行过程离线演化其本体。离线 LLM 提出与具体实例无关的行动—状态公理；只有当这些公理能够解决训练失败所暴露的本体错误、保持逻辑一致性和受保护的逻辑蕴涵，并在本体冻结前通过留出验证时，才会被接受。我们在 AgentDojo、ASB 和 AgentDyn 上，分别在正常场景和间接提示注入场景下评估 \ours{}。\ours{} 在全部三个基准上均实现了 0\% 的攻击成功率（ASR），同时，相较于现有基线方法，提升了遭受攻击时的任务效用。这些结果表明，显式语义治理能够在不进行无差别阻断的情况下增强执行安全性。