将人类--AI交互作为一等数据:用于可解释AI协作的形式化交互模型与运行时
Human--AI Interactions as First-Class Data: A Formal Interaction Model and Runtime for Explainable AI Collaboration
精选理由
深度 88 / 新颖度 82,来自 arXiv cs.AI。
AI 摘要
AI助手日益嵌入计算笔记本、科学工作流、软件工程工具和学习系统,但人类-AI交互通常被视为短暂的提示-响应交换,而非持久化的数据产品,从而阻碍了可复现性、可解释性、重放、行为分析以及自适应AI支持。我们认为,这些交互构成了一种需要形式化表示的新型数据类别,并提出人类-AI交互描述语言(HAIDL),这是一种采用受Backus-Naur范式启发的具体语法的形式化交互模型。HAIDL将每次交互编码为结构化对象,其中包含计算上下文、用户请求、提示载荷、AI响应、反馈、问题上下文、溯源信息和模型元数据。我们将这一理念集成到HAIDL-X中。HAIDL-X是面向JupyterLab的中间件,通过捕获用户-机器人状态、构建上下文化提示、对接AI提供商、收集反馈并将交互存储在存储库中来实例化HAIDL。我们在HAIDL之上增加了一个学习层,将交互对象和笔记本执行轨迹映射为可复现的用户行为度量,包括参与度、表现、求助行为、面向错误的使用以及学习者画像。HAIDL-X为将人类-AI协作视为结构化、可查询、可重放和可分析的数据奠定了基础。