KernelOPT：调度感知的 GPU 内核优化智能体搜索

深度学习推理和训练的性能在很大程度上取决于 GPU 内核的效率。现代编译器（如 PyTorch Inductor）能够从高级模型代码自动生成 GPU 内核，但其性能通常远逊于专家手写的实现。近期由 LLM 辅助的内核优化器可以缩小独立内核之间的性能差距，但它们将编译后的模型视为黑盒，通常只优化单个独立内核，而不考虑编译器的结构性决策，也不验证模型端到端的性能。我们提出了 KernelOPT，这是一种将编译后的模型视为结构化产物的多智能体系统。该系统保留厂商库调用（cuBLAS、cuDNN），并使用五个由性能分析引导的 LLM 智能体，专门针对生成的 Triton 子内核进行优化。由静态验证、多随机种子正确性验证、模型级 float64 回退验证和性能门控组成的四道验证关卡，会在优化过程中筛选候选方案，并对重新拼接后的模型进行端到端验证。如果没有候选方案通过全部四道关卡，系统则保留编译器基线。该系统支持 PyTorch nn.Modules、独立 Triton 内核和 Helion 内核。在 250 个 KernelBench 问题上的评测结果表明，相较于 \texttt{torch.compile}，KernelOPT 在所有问题上的几何平均加速比分别为 1.40$\times$（Level 1：51/100）、1.15$\times$（Level 2：31/100）和 1.07$\times$（Level 3：12/50）。