部分可观测条件下将改写指令与 sLLM 智能体遇到的物体绑定
Binding Paraphrased Instructions to Encountered Objects in sLLM Agents under Partial Observability
精选理由
揭示小模型智能体理解同义指令却难以绑定物体的症结,并以低开销方法显著提升其部分可观测环境中的任务成功率。
AI 摘要
arXiv:2611.07599v1 公告类型:新论文 摘要:可靠部署 LLM 智能体需要将用户的多样化表达与其所处环境相对应。尽管经强化学习(RL)微调的较小规模大语言模型(sLLM)智能体在具身任务上的表现可媲美通过提示驱动的更大规模 LLM,但它们对指令改写的鲁棒性仍不明确。我们提出 ALFWorld-Para,在受控改写条件下评估这种鲁棒性,发现成功率(SR)下降了 21–52%,主要由物体同义词引起。尽管智能体保留了关于同义词所指对象的知识,但即使观察到了相应物体,也往往无法拿取它们,暴露出指称知识与物体绑定之间的脱节。部分可观测性进一步增加了绑定的难度,因为所指对象可能尚未被观察到,也可能已以不同标签出现过。为应对这一挑战,我们提出 BINDIntent,这是一种无需训练的框架,利用语义接近程度以及相对于未见候选对象的估计持续性,以概率方式将指称表达与已观察到的标签绑定。无需额外训练或调用 LLM,BINDIntent 即可将经 RL 微调的 sLLM 在同义词改写条件下的成功率提高 17.5–49.1 个百分点,而每步仅增加 0.4 毫秒的 CPU 开销。它还将 GiGPO-7B 的总体成功率从 61.8% 提升至 77.4%,超越了一个通过提示驱动的 24B LLM。代码和基准测试可在 https://github.com/cau-hai-lab/ALFWorld-Para 获取。