qGAMMA:面向多精度加速器的最优 DNN 映射框架
qGAMMA: A Framework for Optimal DNN Mapping on Multi-Precision Accelerators
精选理由
帮助设计者优化多精度DNN映射,平衡性能、能效与资源利用。
AI 摘要
本文介绍了 qGAMMA,这是一个灵活的框架,用于探索和优化将混合精度深度神经网络(DNN)模型映射到通用空间加速器上。这些加速器支持多种定点和浮点精度。qGAMMA 采用领域专用遗传算法,并结合基于硬件综合结果的分析性能模型来探索设计空间。该框架能够识别出使目标指标最小化的最优映射方案和加速器配置。针对多种 DNN 工作负载的大量评估表明,qGAMMA 为混合精度应用的设计提供了有价值的洞见,有助于在性能、能效和资源利用率之间实现更优的权衡。