arXiv cs.AI精选77

从智能体输出到经授权的转换

From Agent Output to Authorized Transition

· 20天前

精选理由

为软件、固件与PCB工程提供可审计、可复核的智能体产出授权框架。

AI 摘要

智能体工程系统可以编辑代码仓库、运行工具和测试、构建固件、综合原理图,并准备可部署或可制造的工件。因此,保障问题正从智能体能否产出某个输出,转向工程生命周期是否有充分依据根据关于该输出的声明采取行动。当前的产品和标准提供了沙箱、审批、钩子、追踪记录、策略执行、证明、物料清单和保障表述,但这些能力仍然彼此割裂。本文提出 Agile-V Assurance Spine,一种面向软件、固件和 PCB 工程的跨领域转换契约。只有当证据通过权威来源配置文件确立所需属性、绑定到确切工件和冻结的策略基线、相对于声明的依赖项保持最新,并满足与风险相适应的独立性和权威性时,才予以采纳。门禁决策以回执形式记录;审批和例外均限定确切范围且有时间限制;在合并、部署、刷写、发布或制造之前,会在产生效果的边界重新检查授权。本文对当代研究、商业平台、开源基础设施和标准进行了范围受限的评审,将该模型置于证据门控的生命周期控制、持续保障、运行时准入、溯源以及 AI/ML 清单等相关领域的参照框架中。本文贡献了精确的术语体系、组合式架构、领域配置文件、与开源实现的映射,以及一套对抗性评估议程。本文不宣称符合监管要求,也不声称已证明其在生产环境中具有优越性。

查看原文(arXiv cs.AI)