从固定默认配置到面向长期时间序列预测的校准激活策略
From Fixed Defaults to Calibrated Activation Policies for Long-Term Time-Series Forecasting
精选理由
提出依据历史实验校准激活函数及位置的策略，平均降低长期预测误差7.86%，并减少逐任务穷举调参。
AI 摘要
arXiv:2611.06559v1 公告类型：新论文 摘要：长期时间序列预测为能源、交通及其他应用领域的决策提供支持，这些领域需要对观测数据范围之外的未来作出可靠预测。尽管预测研究推动了模型架构的发展，但固定的激活配置对于如何根据不同数据集和预测跨度调整激活选择，所能提供的指导仍然有限。本研究旨在确定，针对任务选择激活配置何时能够提高预测准确性，以及如何利用既往实验为新任务选择合适的配置。我们开发了一种经过校准的选择策略，该策略从既往实验中学习可靠的默认配置，针对每项任务调整激活函数及其位置，并在缺乏充分变更证据时保留默认配置。在涵盖17种数据集变体和51项预测任务、共进行1,225次 Informer 训练的评估中，相较于传统的固定激活基线，该策略使均方误差平均降低7.86%，并在72.55%的任务上取得改进。这些发现表明，激活函数的选择及其放置位置是改进现有预测模型的切实可行的途径，并展示了如何利用积累的实验证据指导配置决策，而无须为每项任务重复进行穷举搜索。