从行为到溯源：将表格基础模型归因于合成预训练数据

arXiv:2610.02347v1 公告类型：新论文 摘要：训练数据归因旨在识别哪些训练样本塑造了模型行为，但验证此类结论十分困难，因为训练的因果影响很少能被直接观测到。我们认为，受控的合成预训练使归因能够通过实验检验。借助 O'PRIOR——一种为表格基础模型提供丰富溯源信息的合成任务生成器——我们构建了一个测试平台，其中每个预训练任务都附带明确的来源谱系，涵盖结构机制、缺失性、混杂、捷径和分布偏移。我们将以行为为条件的归因与反事实重新训练、溯源感知干预相结合，以检验任务层面的忠实性和机制层面的一致性。在留出的真实任务上，移除归因排名最高的 5% 合成任务使平均 ROC-AUC 下降了 0.013，而随机移除导致的降幅为 0.002$\pm$0.004；移除归因排名最低的任务则使性能提升了 0.003。在具有捷径溯源信息的任务中，定向移除产生的效应为 0.043，而匹配的随机移除所产生的效应为 0.016。尽管 top-k 富集程度显著，但按排序 AUROC 衡量的溯源判别能力较为有限（0.55–0.62），这表明溯源关联与干预忠实性并不一定一致。我们的结果确立了合成溯源作为可验证贡献归因的受控研究环境的价值。