NVIDIA Vera Rubin NVL72 在 MLPerf Inference v6.1 首次亮相中实现领先性能
NVIDIA Vera Rubin NVL72 Delivers Leading Performance in MLPerf Inference v6.1 Debut
精选理由
了解Vera Rubin NVL72凭借领先推理性能与扩展优化，降低AI服务成本
AI 摘要
系统性能、高效的基础设施扩展能力和持续的软件优化，是决定 AI 推理经济效益的关键杠杆。更高的系统性能意味着能够生成更多词元，从而带来更高收入。高效扩展意味着随着硬件增加，吞吐量按比例增长，以更少的资源实现大规模用户服务。持续优化意味着从基础设施投资中创造更多价值。 […]