ESPO：通过诊断、扩展和稳定化实现错误结构化提示优化

像 GEPA 这样的进化式提示优化器会遭遇提示词膨胀：每次迭代都会追加规则和注意事项，导致提示词长度最多增加 3$\times$，却并未更准确。我们将其归因于三个缺陷——错误观测不完整、搜索多样性有限以及选择不可靠——并提出 ESPO（Error-Structured Prompt Optimization），将提示优化分解为三个阶段：Diagnose 在一轮中将所有训练错误聚类为结构模式；Propose 通过四种具有互补偏置的策略生成候选；Select 采用 bootstrap 稳定性选择。在七个公开 NLP 基准——Tweet、MMLU、GSM8K、HotpotQA、ScoNe、HoVer 和 PUPA——上，ESPO 相比当前最优方法平均准确率提升 $+$3.76 个百分点（74.67% 对 70.91%，GEPA），在每个数据集上都与 GEPA 持平或更优，同时生成的提示词短 47%（1,004 对 1,878 个字符），且推理更快。跨模型实验覆盖另外四个学生模型（Gemma 3 12B、Mistral 14B、Qwen3 32B、Claude Haiku 4.5），结果表明 ESPO 在每个测试模型上都取得了最佳平均准确率，其中在 Qwen3 GSM8K 上差距最大（15.00% $\to$ 91.40%）。附录中的一个泛化界将每个阶段与测试时差距中的相应项对应起来，而消融实验验证了一个关键预测：在没有 bootstrap 选择的情况下加入多样性实际上会损害性能（$-$1.20%）。