arXiv cs.LG精选72

通过代价梯度在视觉世界模型中进行稀疏规划

Sparse Planning in Visual World Models via Cost Gradients

· 6天前

精选理由

通过梯度筛选关键视觉令牌,让世界模型规划提速约5倍并揭示架构兼容性要点。

AI 摘要

arXiv:2610.10274v1 公告类型:new 摘要:基于 token 的世界模型支持细粒度的潜空间规划,但反复处理大规模空间 token 网格会使动作搜索成本高昂。我们提出 COSTGRAD,这是一种无需训练、以目标为条件的选择器,通过计算规划代价相对于每个输入 token 的梯度范数为空间 token 排名。COSTGRAD 从下游控制目标出发确定重要性,因此关注对规划真正重要的 token,而不仅仅是对预测重要的 token。在稀疏率为 $50\%$ 的 AdaLN 条件预测器上,COSTGRAD 在四个连续控制基准中的三个上达到或超过了全 token 规划的性能,同时使环境每个规划步骤的实际运行时间提升了 $2.6\times$。将 token 稀疏化与缩减的 CEM 搜索相结合后,总体加速可达到约 $\sim 5\times$,同时仍然超过全 token 基线。我们还发现了一种依赖架构的失效模式:在匹配的 AdaLN 与 concat 对比中,concat 保持了与全 token 方法相当的性能,但纯 COSTGRAD 相比随机选择不再具有优势。这一差异与动作通路漂移相对应:在 AdaLN 中,基于梯度选择的移除所造成的漂移小于随机移除;而在 concat 中则更大。这些结果表明,选择器与架构的兼容性是稀疏世界模型规划中的一个设计维度。项目主页和演示:https://ycxuyingchen.github.io/costgrad/

查看原文(arXiv cs.LG)