arXiv cs.AI精选71

RubricWorld:世界模型引导的 LLM 评分器评分细则优化

RubricWorld: World Model-Guided Rubric Optimization for LLM Graders

· 1天前

精选理由

利用世界模型预测评分细则修改的纠错与引错效果,以更少验证成本提升多项基准上的 LLM 评分准确率。

AI 摘要

评分细则优化通过修订评分指令、同时保持评分器参数固定来改善 LLM 评分。现有优化器通常根据验证集上的总体表现来评判修改效果,这限制了它们所保留的监督信息,无法充分反映某次修改纠正或引入了哪些错误。测试每个候选修改还需要对验证集答案重新评分,从而限制了固定预算内可探索的修改数量。我们提出 RubricWorld,一个从以往修改评估中学习以指导后续搜索的框架。其世界模型以当前评分细则状态为条件,预测某次修改在分数边界处的纠错率和劣化率。训练信号来自成对的评分结果,即同一批答案在修改前后的得分。模型根据预测选择一个候选修改进行直接评估,并通过留出集上的置信界限判断该修改是否纠正了足够多的目标错误,同时将新增错误控制在预先规定的限度内。即使修改被拒绝,其实测效果仍会用于更新模型。在 EIR (National)、ASAP2.0 和 ASAP-SAS 上,使用三个参数冻结的 LLM 评分器进行评估时,RubricWorld 在 27 项指标比较中有 20 项取得最高分。在 ASAP2.0 上,它将 gpt-5-mini 的准确率从使用原始评分细则时的 18.20% 提升至 46.70%,比最强基线 APO 高出 22.60 个百分点。代码将在论文被接收后发布。

查看原文(arXiv cs.AI)