CompressionBench：你的编程智能体如何压缩 LLM？

递归式自我改进要求 AI 系统改进后续系统所使用的模型和基础设施。LLM 压缩提供了一个具体的效率目标：在更小的模型存储预算内保留预训练模型的行为。我们研究编程智能体能否自主完成这一步骤。我们将压缩定义为一项终端任务：智能体接收源检查点、存储限制、推理环境和时间预算，然后构建压缩后的权重和可执行的推理代码。智能体自主控制算法与实验；困惑度反馈引导搜索，独立验证则检查最终模型。在六个智能体和六种模型—大小设置下，36 份提交中有 29 份通过验证。为每项任务选取困惑度最低的智能体设计方案后，相较于 BF16，困惑度平均增加 3.4%，下游任务准确率为 77.33%，而 BF16 的准确率为 79.56%。记录的实验揭示了智能体如何取得这些结果，以及改进在哪些环节失效。在存储占用几乎不变的情况下，智能体在 24 次修订中的 21 次降低了 PPL；完整模型反馈逆转了此前 79 个局部排序中的 17 个；生成与推理测试则暴露了仅凭似然无法发现的故障。结果表明，表示设计、实验判断和能力验证是智能体驱动的模型压缩的核心，而模型压缩是面向效率的自我改进中一个可衡量的组成部分。