LatticeSMC：分块序列生成器中推理时计算资源应投入何处

arXiv:2610.02774v1 公告类型：新 摘要：音乐、动作和视频的长篇生成器以分块方式生成序列，每个分块都通过迭代去噪生成，而奖励则定义在完整序列上。现有的推理时引导方法通常一次只作用于一个维度：在生成结束时执行 best-of-N、跨去噪步骤执行 Feynman-Kac 引导，或跨分块进行流式剪枝；并且不同方法之间的比较往往使用不匹配的计算量或不同的回报规则。我们提出了计算预算匹配的分块引导方法，并提出 LatticeSMC：一种基于 Feynman-Kac 模型的采样器，该模型建立在由分块索引和去噪步骤构成的二维晶格上。两个望远镜式结论使其设计具有严格性：对于分块可加奖励，两个维度会产生相同的权重，因此应在前瞻成本最低的地方进行重采样；对于终端奖励，任何前缀得分都能定义一个精确的中间势函数，因此可计算前缀的奖励无需估计或额外的去噪调用即可作为扭曲项。LatticeSMC 在分块边界处基于这些势函数进行重采样；当评分无需额外成本时，也会在分块内部进行重采样，最终返回加权样本或得分最高的粒子。在匹配计算量的条件下，在音乐到舞蹈扩散生成和40秒文本到音乐生成任务中，使用32个粒子时，它将节拍对齐度从0.234提升至0.441（best-of-N 为0.354），并将提示遵循度从0.470提升至0.560，同时保持留出集质量。在长程奖励上，它同样保持优势，并在成对比较中获得人类评分者60%至77%的偏好。最后，我们表明，承诺强度应随当前势函数中包含的信息量而定，而前瞻的价值则可由集合内未来奖励的可预测性来预测。