StoreBench：用于评估和训练自主运营代理的实时电商环境

arXiv:2610.10942v1 公告类型：cross 摘要：强化学习环境如今已成为后训练阶段提升大语言模型（LLM）能力的主要手段之一，但大多数智能体基准仍然是静态的：世界只有在智能体采取行动时才会推进，奖励是终局判定，及格线也被任意设定。我们推出 StoreBench，这是一种实时电商环境，智能体在生产级电商后端上运营一家中型在线服装店，在不确定性下考验长期规划能力和经济判断力。顾客全天候下单，供应商重新定价并可能失效，市场冲击也会在几乎没有预警或完全没有预警的情况下到来。智能体通过与人类运营者所使用的相同的 29 个商家工具进行操作，并受窗口化操作预算约束，使模拟时间成为所采取行动的函数，因此模型延迟不会影响模拟时间。及格阈值依据脚本化锚定策略进行校准，奖励机制经过加固以抵御一系列奖励投机行为，并且在给定行动序列的情况下，每个回合都能被完全一致地重放。我们在 11 个持续 30 至 45 天的场景和一个完整模拟年度上，对七个前沿 LLM 进行了评估；所有评估均使用三个世界随机种子，并匹配推理投入。平均而言，没有任何模型能达到脚本化 smart-triage 策略的水平：表现最佳的 DeepSeek-V4-Pro 在任务—随机种子单元格中的通过率为 49%，而启发式策略为 97%。使用相同工具和预算的人类专家得分超过所有模型（综合平均分为 0.708，而模型为 0.700）。在 Claude Code 工具框架下运行完整模拟年度时，大多数模型的性能都出现了显著提升。在一次 GRPO 后训练实验中，仅使用五个互不重叠的任务训练的 Qwen3.5-27B，将其在留出的评估任务上的综合平均分从 0.136 提升至 0.373。我们发布了五个训练集示例任务、十条示例轨迹，以及评分和验证工具；为避免基准受到污染，完整环境和评估套件暂不公开。