arXiv cs.AI精选82

CONTINUITY:用于可组合 LLM Agent 控制的安全上下文契约

CONTINUITY: Security-Context Contracts for Composable LLM Agent Controls

· 39天前

精选理由

帮助读者理解LLM代理安全控制的端到端可验证组合方法

AI 摘要

LLM agent 系统越来越多地将来源追踪、授权、策略执行、协议适配器和执行控制结合在一起。然而,单独正确的安全机制并不一定能够组合成端到端安全的系统:当动作跨越组件边界时,安全关键上下文可能会被丢弃、扩展、重新绑定或重新解释。我们将这种失效模式定义为安全上下文不连续性,并提出 CONTINUITY,一个用于可验证地组合 agent 安全控制的框架。 CONTINUITY 使用 assume-guarantee contract 对每个组件建模,并通过带签名的 root grants、provenance commitments、角色绑定的 transition receipts、有界类型化 release、transformation witnesses 和 effect-bound execution permits,在各个转换之间携带经过认证的安全上下文。我们形式化了端到端后果完整性,要求每一个实际产生的外部效果都必须有有效且最新的授权见证作为支撑,该见证将主体、任务、来源、委派、策略状态、规范化动作以及最终性边界连接起来。 我们实现了一个参考验证器和一个确定性的跨层故障注入套件,覆盖四个应用领域中的 32 类故障。在跨越 128 个故障-领域类别的 2,560 个参数化攻击实例中,完整的 CONTINUITY 配置不会导致任何有害外部效果,同时完成了全部 700 个良性任务,并对全部 200 个模糊案例进行了升级处理。这些结果表明,安全的 agent 执行不仅需要单个控制机制本身正确,还需要显式契约来在完整的指令到效果路径中保持其保证。

查看原文(arXiv cs.AI)