在8位成本下实现的微控制器单元上卷积神经网络的16位精度
16-bit Precision of Convolutional Neural Networks on Microcontroller Units for 8-bit Costs
精选理由
展示微控制器以近8位成本实现16位精度，兼顾准确率、速度与能耗。
AI 摘要
arXiv:2610.03402v1 公告类型：新 摘要：为了将深度神经网络部署到边缘硬件上，需要采用能够保持高精度的高效推理方案。本文提出了 W16A16，一种高精度（16位）、高速、低能耗的量化方法。在广泛应用的 Armv7E-M 微控制器架构上，与其他量化方案相比，我们提出的方法在层级和模型级别均实现了更快的速度和更低的能耗。我们分析了 Armv7E-M 的架构，解释了16位方法具备性能优势的基本原理，并评估了回归和分类任务中的经验量化误差，以及在 MCU 部署中的经验时间和能耗。我们观察到，与8位量化方案相比，量化误差降低了约10倍，同时推理时间和能耗相当或更优。