arXiv cs.LG精选78

没有基本功的基础模型:时间序列 FMs 的零样本盲点

Foundations without Fundamentals: Zero-Shot Blind Spots in Time Series FMs

· 11天前

精选理由

揭示时间序列基础模型在简单时序逻辑与外生变量利用上的盲点,助力改进评测与建模。

AI 摘要

arXiv:2610.02058v1 公告类型:新摘要:尽管时间序列基础模型(TSFMs)在广泛基准测试中取得了成功,但它们内化基本时间逻辑的能力,尤其是在有外生协变量支持的场景下,仍未得到充分研究。我们推出 SimpleTimeBench,这是一个用于诊断单变量和多变量时间序列的“单元测试”套件,涵盖单调趋势、周期信号和领先指标协变量等基本模式;在这些场景中,实现近乎完美的预测本应十分简单。令人惊讶的是,知名的多变量 TSFMs(Chronos-2、Moirai 和 Toto)针对这些输入,往往无法生成理想的零样本预测。尽管对 Chronos-2 进行微调能够改善其在特定任务上的表现,但我们表明,这种适应会损害其在其他基本模式上的性能,而非增强其可泛化的基础能力。这揭示了预训练规模与基本时间推理能力之间的差距,表明当前的 TSFMs 可能缺乏捕捉简单可预测函数所需的归纳偏置。我们进一步证明,这些失败并非仅仅是合成数据中的特殊现象:在现实世界的传感器预测中,这些问题依然存在,TSFMs 始终未能充分利用观测协变量中可用的领先指标。无法捕捉简单关系的能力限制了当前多变量模型的实际效用和可靠性。

查看原文(arXiv cs.LG)