用于硬件高效限速标志识别的回放剪枝与少比特整数推理

arXiv:2610.22811v1 发布类型：cross 摘要：汽车摄像头系统级芯片（SoC）上的限速标志识别必须使检测器和分类器（读取器）适应设备的内存、算力和能耗预算。在我们的两阶段识别器中，检测器采用带有 ReLU 和 hard-sigmoid 算子的 YOLO 系列网络，并通过通道回放进行压缩：迭代式剪枝级联识别需要移除的通道，将记录的删除操作回放到原始任务训练网络（即父网络）上，随后进行一次连续的知识蒸馏恢复。在 YOLOv5n 上，回放在保持父网络准确率的同时移除了 60.3% 的参数；在五个匹配随机种子的验证集 mAP50-95 指标上，其性能优于迭代式剪枝和从头训练，而其逐步变体（per-step replay）是准确率最高的剪枝方法。在 YOLOv8n 上，回放和 per-step replay 的性能优于其他所有方法以及未剪枝的父网络。读取器是一个包含 5 层、拥有 18k 个参数的 CNN；YOLOv5n 和 YOLOv8n 检测头的后处理也仅使用整数运算。在采用 4 位权重和 8 位激活值（W4A8）时，读取器在 12.1 KB 的片上内存中即可达到与 FP32 相当的准确率；一个可执行的流式模型在全部 9,850 个测试裁剪图像上复现了其运行时的 INT8 类别预测。在 Jetson AGX Orin 上，只有在 TensorRT 的隐式实现中，INT8 速度才快于 FP16；而回放检测器在深度学习加速器（DLA）上运行速度最快。该组合系统仅使用公开数据训练，包含 0.72 M 个参数，能够以 90% 的精确率和每秒 94 帧的速度，正确识别未参与训练的汽车摄像头所采集标志中的 95.2%。