时间序列基础模型中的上下文识别衰减:反事实输入下的诊断及通过合成受迫系统微调进行修复
Attenuated in-context identification in time-series foundation models: diagnosis under counterfactual inputs and repair by synthetic forced-system fine-tuning
精选理由
揭示时间序列基础模型反事实推演会衰减动力学,并给出合成微调与抖动修复路径。
AI 摘要
arXiv:2610.08118v1 公告类型:新 摘要:协变量感知的时间序列基础模型(TSFMs)有望为配备仪器的装置提供无需训练的假设分析答案:不同的未来输入将导致输出发生何种变化。我们在具有精确反事实的受迫工程系统上对此进行测试,将 Chronos-2、TimesFM-2.5 和 TabPFN-TS 与基于相同上下文拟合的经典系统辨识方法进行比较。通过默认的协变量接口,TimesFM-2.5 和 TabPFN-TS 是无记忆的:输入变化所产生的预测影响是该变化的同一时刻函数(TimesFM-2.5 的 $R^2 = 1.000$)。Chronos-2 能在上下文中识别动态特性,但会削弱其幅度。其预测影响仅为真实影响的 0.33–0.80 倍,恢复出的脉冲响应形状不正确;在单自由度振子上的误差随着上下文样本增加到 8192 个而稳定在 0.57,而基于 256 个样本拟合的 ARX 可将误差降至 0.02。推理时对上下文加入抖动,无需训练即可降低全部六类合成系统上的假设分析误差。在合成受迫系统上进行 26 分钟的微调,可以恢复响应幅值(灵敏度为 0.83–0.96),并且在 Wiener-Hammerstein 系统和一个留出的摩擦类别上优于不依赖结构的辨识方法。在相同数据上训练的专用上下文辨识器也取得了接近的效果,说明性能增益主要来自受迫系统数据。在四个实测被控对象中的三个上,经典辨识方法仍明显更优;此外,微调后的模型损失了部分单变量预测能力。成对的反事实输入,以及对实测记录中的未来输入进行打乱,共同检验两个性质:协变量接口是否能够表示动态特性,以及预训练先验是否覆盖被控对象的时间尺度。只有反事实输入对能够揭示这种衰减。