arXiv cs.LG精选77

基于 Amap 中隐式推理的生成式时空意图序列推荐

Generative Spatiotemporal Intent Sequence Recommendation via Implicit Reasoning in Amap

· 5天前

精选理由

将大模型推理压缩为轻量规划,提升时空场景下推荐序列的连贯性与可执行性。

AI 摘要

arXiv:2605.28888v2 公告类型:替换交叉版本 摘要:现实世界中的用户行为很少由孤立的动作构成;相反,它们通常形成受时空依赖关系支配的意图流。为了提供一体化的服务推荐,我们聚焦于生成式时空意图序列推荐(GSISR)任务,其目标是在复杂的时空环境中生成逻辑连贯且物理上可执行的意图序列。尽管 LLMs 为 GSISR 提供了强大的推理潜力,但由于推理延迟高,以及生成的方案可能与上下文不匹配或在物理上不可行,直接将其部署到工业场景中仍受到限制。为应对这些挑战,我们提出了一种生成式框架 GPlan,通过两个组件将 LLM 的推理能力内化到轻量级模型中。首先,为了在严格的延迟约束下实现推理,我们引入了 Progressive Implicit CoT Distillation,将显式推理过程压缩到预留的潜在标记中,使小型模型无需生成冗长的推理文本即可继承复杂的规划逻辑。其次,为了解决通用知识与现实世界约束之间的脱节问题,我们设计了 Spatiotemporal Counterfactual DPO。通过使模型与反事实上下文—方案对保持一致,我们提升了模型对时空上下文的敏感性,并减少了与上下文不匹配的方案。离线实验和在线 A/B 测试表明,我们的方法提升了序列连贯性和上下文响应能力。我们的实现代码和匿名化 GSISR 数据集已发布于 https://github.com/alibaba/GPlan。

查看原文(arXiv cs.LG)