arXiv cs.LG精选80

面向未来的训练:时间序列预测测试时自适应的延迟感知审计

Training on the Future: A Delay-Aware Audit of Test-Time Adaptation for Time-Series Forecasting

· 5天前

精选理由

深度 91 / 新颖度 85,来自 arXiv cs.LG。

AI 摘要

arXiv:2610.12232v1 公告类型:新 摘要:用于时间序列预测的测试时自适应(TTA)方法会根据不断到来的真实值更新已部署模型,或围绕该模型构建的小型适配器。然而,$H$ 步预测的标签只有在 $H$ 步之后才会生成,而真实数据管道还会引入额外延迟。我们构建了一个无数据泄漏的测试框架:只有在第 $s+d$ 步(其中 $d \ge H$)才释放预测起点 $s$ 的标签用于更新,并在四种近期 TTA 方法(TAFAS、COSA、PETSA 和 DynaTTA)的已发布代码中强制执行这一规则;这些方法均使用各自的骨干网络和检查点,并在五个基准数据集(ETTm1、ETTh2、Weather、Electricity 和 Traffic)上运行。作为参考,我们加入了两个闭式校正器:一个由递归最小二乘(RLS)滤波器组构成、再结合逐坐标中位数的校正器,它无需可调超参数,在 7 通道数据流上每步耗时 56 微秒;以及一个 ELF-style 线性校正器。在因果延迟标签条件下,结果呈现出不对称性。在 ETTm1 上,所有接受审计的方法都确实实现了自适应,但 RLS 滤波器组仍以远低于它们的成本击败了其中三种;只有 DynaTTA 能击败该滤波器组,而且仅在最小因果延迟下实现,其每次更新成本约为前者的 2,500 倍;ELF-style 校正器则击败了这四种方法。在其他四个数据集上,任何已发表方法相对于其自身冻结检查点所取得的最大统计显著提升均为半个百分点;在这四个数据集上,至少有一种已发表方法在最小因果延迟下显著差于冻结模型;而在漂移严重的 ETTh2 上,较长的标签延迟会使所有与冻结模型存在差异的适配器(包括我们的方法)显著有害。存在泄漏的下一步更新会使简单适配器的表观增益最多膨胀 110%;而骨干网络的训练方案会使冻结模型的在线误差最多相差 25 倍,这一影响超过了我们测得的任何自适应效果。我们发布了该测试框架、集成补丁以及所有缓存的运行结果。

查看原文(arXiv cs.LG)