刻画功率灵活型 AI 训练的作业功率弹性

大型语言模型（LLM）训练是现代数据中心电力需求增长最快的来源之一，而电力可用性是 AI 基础设施持续发展的主要瓶颈。使这类工作负载的功耗具备灵活性，可以为 AI 的发展释放额外电力，限制电价上涨，并提高现有电网基础设施的利用率。然而，要实现这种灵活性，我们首先必须了解降低 GPU 功率时训练工作负载的性能如何变化。 本文首次系统性地刻画了 LLM 训练中的作业功率弹性（即吞吐量对功率降低的敏感度）。为量化这种弹性，我们提出了功率灵活性指数（Power Flexibility Index，PFI）这一归一化指标，用于量化降低功率所带来的性能代价，并为满足 SLA 感知的功率灵活性提供控制原语。 我们收集了 H200 上 131 次 LLM 训练运行的数据（另包括 24 次 H200 验证运行和 34 次匹配的 H100 运行），涵盖稠密模型和混合专家模型、预训练和微调任务，以及最多使用 32 个 GPU 的配置。我们发现，LLM 训练作业表现出显著但存在差异的功率弹性，并确定了能够在运行时预测 PFI 的遥测信号。最后，我们证明，在功率约束下，考虑 PFI 的功率分配能够最大化总 tokens/s 吞吐量。在降低 30% 功率的情况下，考虑 PFI 的功率分配可使每个作业恢复约 1.5k tokens/s 的吞吐量，相当于弥合等权重分配方案与拥有完美信息的理想方案之间性能差距的 63%。我们的研究确立了功率弹性是训练作业的一项可测量属性，并为功率感知、响应电网需求的 AI 基础设施奠定了基础。