不到证据充分之时：教会 LLM 调查员何时结案

arXiv:2610.03190v1 公告类型：cross 摘要：事故、缺陷和中断调查最终都要作出一个普通问答从未面对的决定：目前收集到的证据是否足以结案。我们研究了 LLM 调查员如何作出这一决定：他们从案件档案中请求证据，修正假设，然后要么根据所读内容得出结论并结案，要么让案件保持开放并说明缺失的信息。这种判断能力并不会自然具备：未经训练的 9B 模型在 97% 的回答中夸大其证据支持程度；即使某个前沿模型能在 84% 的案件中找出正确原因，它仍会在 91% 的案件中夸大证据支持程度，并对 41 起官方结论为“原因未确定”的案件中的 17 起结案。对这一能力进行测量同样并不简单：案件来源在很大程度上预示了其标签，而一种只读取来源的规则在我们的测试案件上就能达到 83.0 的平衡准确率。因此，我们通过三项测试评估结案能力：结案准确率，即相对于该规则并在各个来源内部进行报告；证据依赖性，即移除结论依据后检查模型是否停止结案；以及结论和缺口质量，即通过人工评审的清单，评估模型声称了什么以及它指出缺失了什么。我们构建了 Nautil，其中包含来自航空、铁路、海事、化学安全和车辆缺陷报告以及生产服务器事故的 731 起经审计案件，并配有教师轨迹、分布外测试集和反事实证据版本。在这些轨迹上对 9B 模型进行微调后，其结案行为开始遵循证据：相较于匹配的对照组，移除依据使其结案率下降 26 个百分点，夸大证据支持程度的比例从 97% 降至 35%，正确且不过度夸大的结论比例从 3% 升至 43%。随后，仅奖励结案决策的强化学习将平衡准确率从 69.2 提升至 83.3，与教师相当；来源内部准确率则从 60.4 提升至 74.1，但证据依赖性有所下降。