QUASAR：通过损失感知重建降低量化感知训练的损失下限

arXiv:2608.13966v2 公告类型：替换 摘要：随着大语言模型推理转向更低精度，训练后量化（PTQ）变得越来越脆弱，因此量化感知训练（QAT）对于保持模型质量至关重要。然而，QAT 存在一种结构性失配：梯度更新应用于潜在的全精度权重，而损失和梯度却基于这些权重的有损重建结果计算。这种失配可能导致次优的训练轨迹和更高的损失下限。二阶 PTQ 方法通过最小化损失感知重建误差来解决类似问题，但在 QAT 期间，随着权重不断变化，反复执行这种计算成本高昂的重建并不切实际。我们提出 QUASAR，这是一种将轻量级损失感知重建引入训练循环的 QAT 方法。在每个训练步骤中，QUASAR 通过搜索一小组裁剪范围，并利用显著性加权最小二乘法拟合反量化参数，来重建潜在权重。我们使用梯度平方的指数移动平均值作为每个参数的显著性信号。理论分析表明，优化 QUASAR 的重建目标能够同时收紧 QAT 的收敛界和最终损失界。我们在四个模型系列以及 INT4、INT3、INT2 和 NVFP4 量化格式上评估了 QUASAR。与具有竞争力的 QAT 方法相比，QUASAR 始终取得更低的训练损失和评估损失，并在下游基准测试中优于 QAT 和 PTQ 基线。在 INT2 精度下，相较于最佳 QAT 基线，QUASAR 使用量化感知蒸馏时将平均准确率提高了 13.3 个百分点，在数学推理数据上进行 QAT 时则提高了 10.9 个百分点。值得注意的是，仅使用约 6 亿个 token 进行蒸馏后，QUASAR 的 INT4 Gemma-4 E4B 检查点就优于 Google 发布的对应 QAT 检查点，KL 散度降低了 66%，平均准确率提高了 1.8 个百分点。