Rubricon：用于 LLM 评估与训练的自动化评分标准生成与优化

评分标准能够为没有可验证答案的任务分配奖励，但从头手动制作评分标准成本高昂。我们提出了 Rubricon，这是一种无需人工偏好标签、评分标准标注或生成器模型训练即可生成具有区分性的评分标准的流程。Rubricon 可使用任意 LLM 采样多个评分标准，选择区分性最强的候选项，添加标准以涵盖被忽略的要求或响应缺陷，并删减不一致或肤浅的标准。除 LLM 自我批评和测试时扩展外，Rubricon 还利用示例模型响应中观察到的各项标准通过率来指导优化。在五个专业、消费、临床和通用 LLM 基准测试中，与 RRD、QSRG、OpenRubrics 以及通过 Codex 等工具框架进行智能体式生成的方法相比，Rubricon 生成的评分标准对前沿 LLM 响应的评分与耗费大量人力编写的专家评分标准之间的匹配度高出 9%。在 HealthBench 上，使用 Rubricon 评分标准对 Qwen3.5-9B 模型进行后训练，其性能比使用最强替代合成评分标准生成器 RRD 生成的评分标准进行训练高出 4.5%。