APEX：用于极致压缩的异步前缀去噪

arXiv:2610.12843v1 公告类型：交叉发布 摘要：更少的潜在词元有望降低扩散模型的计算成本。然而，激进的潜在空间压缩会造成重建与生成之间的两难：增加通道数可以改善重建，却会使生成更加困难。我们提出 APEX，其全称为 Asynchronous Prefix denoising for EXtreme compression，将分层潜在空间与针对通道组的异步去噪相结合。我们的自编码器将通道前缀按从结构到细节的顺序排列，而一个共享去噪器则在错开的局部时间步生成这些通道组，无需增加词元。在 ImageNet-512 上，在 64 倍和 128 倍压缩条件下，APEX 在所有评估的通道数设置中均优于现有方法。在训练和引导采样计算量相同的情况下，它在所有评估的计算预算下也均优于一个 256 词元模型，且计算量越低，优势越明显。代码见 https://daviddinkevich.github.io/APEX。