arXiv cs.AI精选74

生成行为归因之前的生成溯源:审计合成语音研究对象

Generation Provenance Before Behavior Attribution: Auditing Synthetic Speech Research Objects

· 12天前

精选理由

提出合成语音研究对象的生成溯源框架,为训练数据行为归因建立可审计的因果基础。

AI 摘要

要将模型行为归因于合成训练数据,必须先了解每个训练项是如何生成的,然后才能估计该训练项造成了什么影响。波形—标签对无法保留这一信息。我们提出一种生成溯源基础设施,其中合成研究对象绑定源规范、生成内容、波形、目标、事实要求、质量信号、审查谱系以及不可变的清单标识。证据意义由生成者和选择机制决定,而非由存储位置和变量名决定。我们在一个私有的日本护理交接流程中审计了该基础设施。由113个资产组成的审查总体包含跨越六类场景的1.552小时合成语音;所有条目均关联音频、转录文本、候选说明和事实核查清单,但人工证据具有选择性且因来源而异。两个仅包含忠实项的清单在场景种子上互不相交,并进行不可变版本控制;然而,由于生成器别名处于浮动状态、缺少逐片段的TTS和代码标记,以及检查提示未进行版本控制,精确的上游归因仍然受阻。我们认为,生成溯源对于行为归因是必要但不充分的:它定义了候选因果图和审计单元,而贡献性归因仍需要冻结的训练运行,以及干预证据或影响证据。本文提出了一份精简的溯源契约、一套审计协议,以及一个面向合成数据归因的有界案例研究;我们可以提供受控的研究访问权限,但不声称实现了因果训练数据归因、临床有效性或不受限制的公开发布。

查看原文(arXiv cs.AI)