通过人机交互实现高效的测试时适应

AI 智能体基于大规模人群数据进行训练，以编码覆盖众多从业者的广泛能力。然而，它们生成的产物很少能达到专业人士为维护自身声誉所要求的个人标准。在现实的、开放式的任务中，成功标准是异质的且文档记录不足，个体专业能力恰恰体现在对平均水平的提升以及偏离。实践中，反复的人机智能体交互会显现出用户无法在事前完全明确、但会在多项任务中反复应用的标准。我们认为，这种跨会话交互数据是缩小与个体专业能力差距的一种丰富但尚未充分利用的信号。在这项工作中，我们提出通过人机智能体交互进行测试时适应（TAHI），将这些信号整合进智能体上下文和权重，并通过一个不断演化的评分细则模块，将每位用户的训练和评估标准具体化。我们将智能体适配到30位个体，覆盖写作和视觉创作两个高价值领域，共600个任务。我们的智能体仅在几十个任务内，就将单独任务成功率提升了4.5-20.9%。与此同时，我们不断演化的评分细则模块可作为一种可扩展的标注工具，生成的评估评分细则相比仅由 LMs 或人类单独生成的评分细则，能够多捕捉16.0-22.3%的失败案例。虽然智能体是朝着个体进行适配的，我们还表明，这些个性化智能体也能带来最高8.8%的成功率提升，并可泛化到其他用户。