超越分布内性能保持：通过面向脆弱性的调优恢复量化 VLA 的泛化能力

arXiv:2610.05745v2 公告类型：替换 摘要：已有研究表明，训练后量化能够在标准评估条件下保持 VLA 的性能，但其能否保留全精度模型的鲁棒性和泛化能力，仍缺乏充分探索。本研究系统考察了训练后量化的 VLA 策略在环境扰动下的鲁棒性和泛化能力。实证结果表明，量化策略尽管保持了相近的分布内性能，却可能对细微的环境变化变得脆弱。我们进一步观察到，动作差异集中在策略执行轨迹中的一小部分状态上，而教师指导的效果随差异程度而呈现相反趋势：它能提升高差异状态下的泛化能力，却可能削弱低差异状态下的泛化能力。这些发现揭示，有效的量化后恢复需要对脆弱状态进行选择性干预，而不是对学生模型进行全局蒸馏。因此，我们提出 Policy-Induced Vulnerability-Oriented Tuning（PIVOT-Q），这是一个具有脆弱性感知能力的同策略蒸馏（OPD）框架，以冻结的全精度策略作为教师，选择性地纠正量化学生模型在执行轨迹中遇到的脆弱状态。PIVOT-Q 利用短时域内的折扣累积差异识别脆弱状态，实施阶段均衡的稀疏监督，并使用 Behavioral Anchor 防止不必要的改变。在 LIBERO-Plus 的七种环境变化下开展的实验表明，该方法在多种 VLA 骨干模型和量化方法上均能实现稳定的性能恢复。值得注意的是，PIVOT-Q 在所有设置下都持续优于全状态蒸馏，而所用的状态级蒸馏预算仅为后者的 7.4%。我们的代码已发布于 https://github.com/ruanruan-andy/PIVOT-Q。