高亮再总结：学习压缩证据以实现长上下文理解

长上下文理解要求大型语言模型（LLMs）对长篇文档、对话和代码进行推理，但与任务相关的证据往往稀疏且分散，夹杂在大量无关和冗余内容之中。我们提出 Highlight-Then-Summarize（H2S），这是一种先压缩再推理的范式：首先识别基于源内容、与问题相关的证据，然后在生成最终答案之前，将其整合为紧凑的、以问题为条件的摘要。为训练这种行为，我们构建了 H2S-Dataset，包含来自 11 个基准系列的 6,647 个示例，平均上下文长度为 43.9K tokens，并引入 H2S-RL，除最终答案正确性外，还为证据选择和摘要构建提供过程级奖励。我们在 H2S-Bench 上进行评估，这是一个包含七项任务的长上下文套件。在共享的 128K 输入和 4K 输出预算下，H2S-14B 的平均得分为 32.60，比 Qwen3.8-27B 高出 10.17 分，并在所评估的开源模型中取得最强的总体结果。H2S-14B 还取得了最高的 Evidence-Summary Quality 分数，并且在仅有 4K 输出预算的情况下保留了其 16K 预算性能的 97.1%。这些结果表明，显式选择并整合证据能够改进长上下文推理，同时实现更紧凑的生成。