LAAF:用于LLM应用的分层问责架构框架
LAAF: A Layered Accountability Architecture Framework for LLM Applications
精选理由
帮助读者把握LLM应用的责任治理框架与落地路径
AI 摘要
大型语言模型(LLMs)在医院、法庭、银行和公共服务窗口中运行,在这些场景下,流畅、自信的输出即使缺乏依据或有误,也会被视为权威。当这样的输出造成伤害时,谁应当负责,又可以通过哪些机制来追踪、解释并追究责任?按照PRISMA指南,研究针对四个综述问题检索了2022年1月至2026年3月期间的五个数据库;在识别出的4,512条记录中,纳入了122项原始研究,同时将12份监管和标准文件作为原始来源进行分析。该综述将问责制的社会技术性理解整合为一种行动者-论坛关系,并将其分解为五个维度;同时综合了四类机制:技术控制、人工监督、组织治理,以及文档化与可追溯性,并对每类机制进行了成熟度评估。语料通过一个四层分类装置来解读,该装置涵盖来源、应用逻辑、人工监督以及治理与补救,并由可追溯性、角色清晰度和持续监测贯穿其中。两者都被映射到EU AI Act,其高风险义务自2026年8月2日起已开始适用,同时也映射到具有Generative AI Profile的NIST AI RMF、ISO/IEC 42001,以及医疗保健、消费金融、教育和公共部门中的行业指导。研究发现四个持续存在的缺口:对人工监督的规定不足、缺乏共享的问责指标、学科割裂,以及有限的实证评估;此外,还有五个所调查工具均未能解决的结构性张力。综述最后将该分类装置整合为一个集成的问责架构LAAF,其网络安全部分与OWASP LLM Top 10 (2025)保持一致;它是对所综述证据的综合,而非经过验证的制品。