ApexQuant：通过残差再各向同性化实现无数据弹性量化

arXiv:2610.07904v1 公告类型：new 摘要：我们提出了 ApexQuant，这是一种无需校准的量化方法，通过递归地对残差误差重新量化，作为现有量化器之上的细化层。我们证明，重新进行一次随机旋转会使每个残差恢复为超球面上的均匀分布，从而刻画连续多次处理过程中误差渐进衰减的速率。借助这一结果，我们可以在读取任何权重之前确定某一层为达到目标权重空间误差所需的处理次数。每个前缀本身都是一个有效的低比特率模型，因此单个产物即可支持多种精度。我们使用三种可互换的阶段实例化了 ApexQuant：标量、$E_8$ 和 trellis，并在四个开放权重 LLM 以及地球观测和医疗领域进行了验证；在这些领域中，由于图像受到限制性许可约束，或患者资料受到隐私限制，分布内数据往往难以获取。在完全无数据的设置下，渐进式再各向同性化在四比特时的性能与全精度模型仅相差几个百分点，并取得了我们测量到的最佳二比特配置。