DAGS:冻结的图像 DiT 的解耦外观与几何引导,实现时间稳定的生成式渲染
DAGS: Disentangled Appearance-and-Geometry Steering of a Frozen Image DiT for Temporally Stabilized Generative Rendering
精选理由
以轻量条件控制冻结DiT,实现高保真、可控且时序稳定的生成渲染。
AI 摘要
arXiv:2610.02567v1 公告类型:cross 摘要:扩散 Transformer(DiT)能够根据文本和图像条件生成高保真图像,但其输出具有较大的方差,并且对目标结果的忠实度在很大程度上取决于条件的提供方式。我们提出 DAGS,这是一种轻量级、无注意力、解耦的外观与几何条件方案,可引导冻结的图像 DiT 生成高保真、高忠实度且能够独立控制的渲染结果。两个小型卷积编码器每帧仅计算一次条件特征,并将其作为学习得到的逐层逐元素残差注入图像 token,从而避免通过注意力堆叠条件所带来的二次计算成本。由于控制和时间处理均位于冻结的骨干网络之外,我们得以保留其庞大的预训练先验,并消除骨干网络过拟合的风险。我们进一步加入一个小型循环光照稳定器,以及一个无需训练的时间引导项;二者结合我们的条件机制,将逐帧图像模型提升为流式渲染器。DAGS 仅需路径追踪一小部分的计算量,即可生成可控的高质量渲染结果;但它并非实时方法,而是在计算量与可控性、质量之间进行权衡。在匹配的 1-spp + G-buffer 输入上,逐帧 DAGS 相比实时去噪器 Intel OIDN 和扩散渲染器 RGB<->X,重建 PSNR 分别提升 +8.6 dB / +10.1 dB;同时,在感知时间稳定性方面(temporal-LPIPS 闪烁度),其表现提升了 2.5 至 8 倍。