视野中还剩下什么?将自回归视频解码视为表征引导的上下文重写
What Remains in Sight? Autoregressive Video Decoding as Representation-Guided Context Rewriting
精选理由
提出无需训练的上下文重写方法,提升长视频生成的稳定性与连贯性。
AI 摘要
长时段视频生成正日益转向自回归展开,即每个新生成的片段都会成为未来预测所使用证据的一部分。近期的因果解码器、长上下文训练和 KV-cache 机制延长了可行的视频时长,但大多数推理流程仍通过近期窗口、压缩缓存或外部记忆,隐式决定可见的过去内容。这引出了一个直接问题:能否将选择向解码器展示哪些过去帧或片段,视为一个明确的测试时决策?我们借助 ReCR 回答了这一问题。ReCR 是一种无需训练的方法,将自回归视频解码表述为表征引导的上下文重写。在每个步骤中,ReCR 利用解码器内部的表征,从生成历史中构建经过筛选的可见上下文,优先选择与全局展开状态相匹配的上下文单元,避免与近期延续内容产生冗余,保持时间边界覆盖,并扩大当前可见空间布局的范围。随后,这些经过筛选的单元会被映射到紧凑的因果轴上,再对下一个区块进行解码。在长时段文本到视频基准测试中,在可见 token 预算相匹配的条件下,ReCR 持续提升了多个自回归骨干模型的性能。表征空间诊断和基于转移计数的提示切换等实证分析进一步表明,改善哪些内容保持可见,是实现更稳定长视频解码的有效途径。