arXiv cs.LG精选81

带回执的操作:为可重放的工具代理审计联合绑定断言、证据与执行

Actions with Receipts: Jointly Binding Claims, Evidence, and Execution for Replayable Tool-Agent Auditing

· 11天前

精选理由

为工具代理建立可复核的证据链,确保声明、来源与执行过程真实对应。

AI 摘要

arXiv:2610.00327v1 发布类型:交叉领域 摘要:使用工具的代理可以向用户提供引文和执行日志,却可能遗漏一个关键关联的审计:向用户展示的断言,是否就是已提交执行所发出的断言,并且是否得到所引用来源的支持。因此,一个有效的引文和一条有效的轨迹,虽然各自形式完备,却仍可能被移植到其他断言、操作、运行过程或来源版本上。我们提出一种以断言为锚定的执行契约,将发出的断言、其精确来源文本范围、生成该断言的有序执行前缀,以及该执行所观察到的来源版本和访问状态联合绑定。每份回执都包含一个发出锚点,可在已提交的答案或包含断言的操作中确定性地定位该断言,同时包含来源标识符、偏移量、哈希值、引文以及域分离的执行承诺。确定性的完整性验证器会在合并语义标签或任务标签之前重建这些绑定。我们将这一完整性层与可插拔的支持性验证层分离,因此不会将结构有效性作为蕴含关系的代理。该契约公开了七项可独立测试的属性:断言—发出绑定、来源绑定、有序执行绑定、预言机分离、持久化对象重放、执行重新运行一致性,以及版本/访问绑定。在 1,280 次跨对象攻击中,联合契约检测出 1,275 次替换(0.9961)。移除某一针对性属性后,其攻击检测率降至 0.0156–0.0625。在一个经过独立裁定的 384 对数据划分上,具备冲突感知能力的支持性防护器达到 F1 0.8865,误接受率为 0.0729;在未见过的失败族上,这两项指标分别为 0.8679 和 0.0938。

查看原文(arXiv cs.LG)