推理会使语言模型达成一致吗？

arXiv:2610.41691v1 公告类型：新提交 摘要：语言模型面临两种相互对立的担忧：一是同质化，即模型以相关的方式犯错；二是多重性，即准确率相同的模型作出相互冲突的决策。推理模型的兴起使这一争论变得更加复杂：一方面，如果模型锚定于相同的显著特征或遵循相似的推理路径，推理可能会提高模型之间的一致性。另一方面，随机的推理轨迹可能引入额外的分支点，从而产生更加多样化的预测。我们通过区分作为干预手段的推理与作为观测行为的推理，化解了这一矛盾。我们比较了受控改变推理投入时的一致性与不同观测推理长度下的一致性，并以根据模型准确率预期得到的一致性为基准来衡量两者。在来自两家开发机构的九个模型和三项分类任务中，启用推理提高了模型对同一个体进行评估时的一致性。然而，对于引发较长推理轨迹的个体，不同模型给出的预测反而更不一致。在控制准确率差异后，这两种模式依然存在。因此，要求模型进行更多推理会促进一致性，而观察到模型推理时间更长则预示着分歧。