arXiv cs.LG精选73

Route-Verify-Vote:程序条件化的混合领域推理自一致性

Route-Verify-Vote: Procedure-Conditioned Self-Consistency for Mixed-Domain Reasoning

· 6天前

精选理由

提出按领域定制推理流程并自适应投票,提升混合领域推理准确率。

AI 摘要

arXiv:2610.08814v1 公告类型:cross 摘要:当语言模型必须以陌生方式组合熟悉的推理操作时,组合泛化仍然具有挑战性。基于场景的常识推理评测(Scenario-Based Commonsense Reasoning Evaluation,SCoRE)2026 在三个训练数据中未出现的混合领域上测试这一能力,并要求模型为每道题识别出完整的正确选项集合。我们提出 Route-Verify-Vote(RVV),这是一个程序条件化自一致性框架,无需更新参数即可使用语言模型。Route 利用给定的领域标签选择一种推理程序,引导模型表示并应用相关约束。Verify 提示模型根据这些约束评估每个选项。Vote 汇总完整的答案集合,并将额外样本分配给两种最高频答案集合的票数差距较小的题目。每道题的样本均遵循相同的领域特定程序。在官方测试集上,对每道题采样的 16 个答案集合进行投票,可达到 74.6% 的精确集合准确率。自适应 RVV 达到 77.3%,在选定的领域路由上结合多个模型后,准确率提升至 79.4%。最终系统在参评系统中排名第二。这些结果表明,领域特定的推理程序和答案集合之间的分歧,是在混合领域推理中分配推理时计算资源的有用工具。

查看原文(arXiv cs.LG)