当生成模型充当模拟器时

arXiv:2610.12847v1 公告类型：新论文 摘要：模拟器将环境概括为用户可以读取和修改的状态。生成模型无需显式指定即可学习世界的表示，但并未提供编辑该世界状态的内置方式。我们通过 $\textit{可编辑性}$ 来研究生成模型在何种条件下能够充当模拟器：改变模型的潜在表示，是否能产生与编辑模拟器状态后所得到的相同的下一步输出。简而言之，我们的目标是在生成模型的潜在状态与模拟器状态之间找到一种映射，其中模型仅基于观测进行训练，而映射则在之后学习。我们测试了两类映射，两者均从与模拟器状态配对的观测中学习。一类方法训练探针，从模型中解码模拟器状态，然后沿探针所指示的方向进行引导。另一类方法借助逆向映射直接学习这种映射，即使在引导失败的情况下也可能成功。我们在两个截然不同的环境中研究这两类方法：离散棋盘游戏 Othello，以及我们自行构建的 Rayworld——一个通过局部渲染来观测运动圆盘的连续世界，更接近物理场景和视频。我们发现，哪种映射能够成功高度依赖于环境，尽管在所有变体中都可以解码出状态。在 Othello 中，随着游戏被简化，可编辑性平滑下降，即使细微的规则变化也会产生重大影响。在 Rayworld 中，探针无法沿模拟器的连续状态进行引导，但逆向映射仍能根据该状态设定模型。因此，模型可以由一个它可能从未学会的模拟器来驱动。