询问、放松，还是行动？评估 LLM 偏好推理中的可行动不确定性

LLM 智能体能够识别不确定性，却仍可能选择错误的下一步：在行动已有充分依据时提出询问，或在约束条件必须改变时寻求澄清。我们对可行动不确定性进行了形式化：当所有可接受的偏好或目标中都包含同一个可接受行动时采取行动；当每种可能性都可行但不存在共同行动时请求澄清；当请求不可行时，提出代价最低且被允许的约束修复方案。我们构建了一个以求解器为依据的基准，涵盖物品分配、会议安排、公寓选择和稳定匹配。成对样本保留相同的来源，仅改变是否需要干预；评估则分别考察决策正确性、成对样本可靠性和完全正确的回答。研究结果揭示了识别何时无需干预这一反复出现的难点：模型能够识别需要澄清或修复的情形，却仍会在已有合理行动时进行干预。正确的决策标签也无法保证给出可用的行动、问题或修复方案。更为关键的是，回答要求不仅影响决策的表达方式，也会影响所做出的决策。明确规定所需内容，能够显著提升完全正确的回答比例，并可能改变干预决策，即使输出已经可以被解析。这些发现表明，可靠的自主行动能力不仅需要识别不确定性，还要求仅在必要时进行干预，并将选定的下一步转化为可验证的回答。