arXiv cs.LG精选72

自回归天气模型的训练后量化

Post-Training Quantization of Autoregressive Weather Models

· 9天前

精选理由

介绍天气预测模型训练后量化方法,兼顾推理加速、降耗与短期预报质量。

AI 摘要

arXiv:2610.02511v1 公告类型:new 摘要:高分辨率数值天气预报(NWP)和数据同化(DA)的进展推动了用于模拟大气动力学的深度学习(DL)架构的发展。天气预报模拟器在从数天到次季节时间尺度的预报时效范围内,展现出与基于物理的模型相当的预报质量。这些模拟器在自回归推理过程中依靠硬件加速的矩阵乘法驱动,从而显著减少了 NWP 所需的计算时间和资源。对 GPU 架构中的矩阵乘法过程进行优化,为扩展至高分辨率区域提供了机会,并支持开箱即用解决方案的实现。已有研究表明,训练后量化(PTQ)可应用于多种深度学习架构,在降低功耗的同时加速计算并提高单位时间内的计算量,从而支持在边缘硬件上的应用。在本研究中,我们探讨了 PTQ 对用于全球尺度天气预报的预训练 AI 模拟器的影响。我们在 Deep Learning Weather Prediction(DLWP)和 FourCastNet(FCN)模型中实现 PTQ 算法,作为其在地球物理流体动力学应用中的概念验证。我们系统地研究了 PTQ 对模拟器在短期预报时效内推理结果的影响。使用模拟量化对 PTQ 配置进行评估的结果表明,在短时间尺度内可以获得具有定性意义的预报。这些结果为自回归天气模拟器的 PTQ 提供了首个基准,并为基于量化的动力系统深度学习模型优化奠定了基础。

查看原文(arXiv cs.LG)