数据速览
- Qwen3-VL 吞吐对比 GB300
- 约 3.7 倍
- DeepSeek-R1 吞吐对比 GB300
- 约 2.5 倍
- GB300 四机柜扩展效率
- 约 99%
NVIDIA 2026 年 9 月 16 日由 Zhihan Jiang 发博客，日子对上 MLPerf Inference v6.1 的发布。Vera Rubin NVL72 第一次以 preview 进场。
Qwen3-VL 上，相对 GB300 NVL72 的吞吐最高约 3.7 倍，场景覆盖 offline、server、interactive，软件栈是 vLLM 加 NVIDIA Dynamo；DeepSeek-R1 上用 TensorRT-LLM，最高约 2.5 倍。组别是 Closed Division，官博点名条目 6.1-0106、6.1-0074。
同一轮里，GB300 的 DeepSeek-R1 offline 从单机柜 72 GPU 扩到四机柜 288 GPU，扩展效率约 99%。Nebius 也交了 Vera Rubin NVL72 preview。另有一组 SemiAnalysis AgentX 数字，Vera Rubin 相对 GB300 约 30 倍；它不属 MLPerf 正式项，测试规则与 3.7 倍、2.5 倍不同。
MLPerf 的 preview 类别允许提交尚未供货的系统，产品上市后还要在后续轮次以可供货状态复测。对采购方，同一模型、同一场景下相对上代的倍数更有参考意义，实际收益仍取决于推理框架和部署规模。
TAGS#NVIDIA#Rubin#MLPerf#推理
