能耗与延迟优先:部署约束如何逆转时间序列模型选型
Energy and Latency First: How Deployment Constraints Reverse Time-Series Model Selection
精选理由
展示准确率排名可能误导部署选型,帮助读者按时延与能耗约束选择真正可用的时序模型。
AI 摘要
arXiv:2610.30965v1 公告类型:新论文 摘要:AI 模型,尤其是时间序列模型,通常按准确率排名,但部署时却受到排名中未考虑的约束。本文研究了一个这些约束明确且可测量的真实场景:蜂窝网络中的切换预测。在该场景中,推理在用户设备上运行,每个 40 毫秒的测量周期执行一次,且必须在网络采取行动之前完成。这一时间限制是硬性约束:迟到的预测会被其所预测的实际测量结果取代,而能耗则是一项贯穿设备整个生命周期、不断累积消耗的预算。这两者都未被纳入模型选型的目标。我们采用一套评估流程对八种架构进行评估:首先根据尾部延迟而非平均延迟筛选能否满足截止期限的模型,再按实测推理能耗对可行模型排名,并计入前向传播之前通常被忽略的特征计算开销。基于手工设计的时序特征的梯度提升树准确率最高(F1=0.974),运行成本也处于最低之列;而仅按准确率进行基准测试时会排在首位的神经网络架构(CNN-1D,F1=0.914),在现实的占空比运行部署模式下,每次推理的能耗却超过前者的 3 倍。我们给出了应当预期出现这一结果的三个条件,使这一发现不仅适用于电信领域。仅以准确率为依据的基准测试不只是低估了部署成本,还可能将根本无法部署的模型排在首位。