arXiv cs.AI精选80

EvoRiskBench:面向工作空间代理运行时安全风险的演进基准

EvoRiskBench: An Evolving Benchmark for Runtime Security Risks in Workspace Agents

· 11天前

精选理由

提供可复现的工作区智能体运行时安全测试基准,帮助发现并评估自主执行漏洞。

AI 摘要

工作空间代理将大型语言模型与执行框架相结合,以执行访问或修改外部资源的有状态、多步骤任务。现有基准在运行时安全风险的可执行覆盖方面存在空白,而模型能力、执行框架、工具和威胁的不断演进也促使基准持续发展。我们提出 EvoRiskBench,这是一个围绕 EP-Path-EF 框架组织的演进基准,该框架通过代理介导的风险路径,将初始风险入口与单跳技术影响关联起来。该框架定义了九类入口点和五类影响;一项包含 20 名参与者的研究表明,在具有代表性的案例上,这些类别具有良好的可解释性和分类一致性。在该框架的指导下,我们构建了一套自动化端到端工作流,在隔离环境中构造并执行风险案例,并利用运行时轨迹和环境状态独立验证结果。该基准提供了一个可复现的数据集,包含跨六种场景的 450 个对抗性任务。我们评估了九种模型—执行框架配置,涵盖三种模型(GPT-5.6 Sol、DeepSeek-V4-Pro-0813 和 Claude Opus 5)以及三种执行框架(Claude Code、Codex 和 OpenClaw)。结果揭示了各系统存在大量漏洞。其中,最易受攻击的配置是 Codex 与 DeepSeek-V4-Pro-0813 的组合,其攻击成功率(ASR)达到 68.44%,表明仅配置工作空间代理并不足以确保安全的自主执行。ASR 在不同模型之间的变化大于不同执行框架之间的变化,且执行框架之间的差异取决于所使用的模型。基准案例和评估平台将在完成工件安全性与可复现性检查后发布。

查看原文(arXiv cs.AI)