为社会公益构建可信的图代理式 RAG:架构、失败传播与构造式保障
Building Trustworthy Graph-Agentic RAG for Social Good: Architectures, Failure Propagation, and Assurance by Construction
精选理由
深度 91 / 影响力 82,来自 arXiv cs.AI。
AI 摘要
图代理式检索增强生成将结构化证据与自适应控制器相结合,使系统能够规划检索、遍历关系、验证中间断言、委派子任务并使用工具。当答案取决于跨文档、实体、时间或机构的关系时,这种组合非常有用,但也会产生相互耦合的失败路径:图构建中的缺陷可能成为被检索的证据,改变后续的控制决策,并向具有重大影响的结果传播。我们考察了在社会公益场景中应如何设计和评估此类系统;在这些场景中,除了答案质量之外,信息新鲜度、授权、可追溯性、监督和救济同样重要。我们按照图基础、图生命周期、代理功能、协作模式和权限边界对相关文献进行组织,并区分基于图的检索与依赖观测的图控制。随后,我们将已有报告中的风险综合为一条从证据到行动的失败链,并提出一套构造式保障蓝图,其中包括针对证据、检索、推理、能力与委派以及结果的五项接口契约。这些契约使来源溯源、时间有效性、授权、不确定性和可恢复性在系统边界处得到明确体现。一个公益信息设计示例展示了该框架如何约束图结构、权限、弃答机制和运行授权。最后,我们提出一项评估议程,涵盖图断言、轨迹、主张、协作和结果。