每次预测需要多少计算量？两种时间序列基础模型中的结构化块跳过

arXiv:2610.13208v1 公告类型：新论文 摘要：时间序列基础模型对每个输入都使用相同的网络深度，尽管预测窗口在结构和难度上各不相同。我们在两种预训练模型 Chronos-Bolt 和 TimesFM 2.5 中检验能否在推理时移除整个 Transformer 块。我们的旁路机制避开了原始块的计算，并在启用所有块时精确保留稠密模型的行为。掩码仅在校准窗口上选择，并在来自 ETTh1、Traffic、Weather 和 Exchange 的 1,088 个留出窗口上评估。在适度稀疏的情况下，保留 7/11 个候选块的 Chronos-Bolt 和保留 16/20 个块的 TimesFM 在各数据集上的平均相对预测质量变化很小，同时将 A100 上批大小为 1 的推理延迟中位数分别降低了 11.2% 和 13.4%。更激进的 TimesFM 块跳过可进一步加速推理，但会显著损害其在 Traffic 和 Weather 上的表现。在这两种模型中，不同的等预算掩码在不同窗口上各有优势，而事后使用的理想选择器在每个数据集上都显著优于最佳静态掩码。然而，数据集特定掩码的迁移表现并不一致，Chronos 表征也无法支持可靠的未见域路由。这些结果证实了跨架构的结构化冗余以及随输入而异的优化潜力，但尚未形成可部署的动态推理方法。