
- 单机架加速器
- 96 个
- 机架功率包络
- 167 kW
- 机架级 HBM 容量
- 27.6 TB
- 单卡峰值带宽
- 18.0 TB/s
Azure Maia 300 的机架放入 96 个加速器,功率包络 167 kW。机架级 HBM 容量为 27.6 TB,聚合带宽约 1.7 PB/s。计算芯粒用台积电 N2P,内存控制器和输入输出拆到其他芯粒。参数出自 Scott Guthrie 2026 年 10 月 12 日的微软官方博客,他担任云与人工智能执行副总裁。
| 层级 | 规格 |
|---|---|
| 机架 | 96 个加速器,167 kW,HBM 27.6 TB,聚合带宽约 1.7 PB/s |
| 单加速器 | 八堆 HBM4,288 GB,峰值 18.0 TB/s,热设计功耗 950 W |
| 部署 | 2027 年开始生产部署;Maia 200 已在生产负载中 |
每个加速器叠八堆 HBM4,峰值带宽 18.0 TB/s,热设计功耗 950 W。同日 Azure 架构博客给出单卡 HBM 容量 288 GB,署名为 Rani Borkar 与 Saurabh Dighe。内存从统一访问改为按芯粒就近放置,片上 SRAM 交给软件当暂存。低精度路径包含增强的 MXFP4,用来缩小 KV 缓存占用的容量。
官方称,相对领先 GPU 系统大约多 40% 的 tokens/MW,这是厂商预期。满配 96 卡时的厂商预期,是机架级 token 吞吐相对 Maia 200 最高约 7 倍。架构博客另称,相对上一代的每瓦性能超过 2.5 倍,HBM 带宽约为此前的 2.5 倍。容量大约多 33%,两篇博客都没有附上第三方跑分。
机架由 24 个托盘组成,每托盘 4 个加速器,不再单列主机托盘。柜内用电连接把 96 卡收成一个 pod,第二层光连接最多串起 128 个机架。由此得到的超级 pod 最多约 12,288 个加速器。加速器可以直接向其中任一颗发起通信,不必经过主机上的独立网卡。
液冷带走机架热负荷的 80% 以上,对象是加速器、电压调节器和交换芯片。内存与存储仍走风冷。供电为双路,母线 50 V,并带机架自动转换开关。有冷冻水的机房可直接接设施水,否则用换热器把热排进空气。
生产部署从 2027 年才开始,微软计划同年把 Maia 扩到多吉瓦,用作自家产品与服务的主要推理系统。Maia 200 已经在跑微软生产负载,范围包括 Microsoft Copilot,并支持 MAI 团队做下一代模型。GitHub Copilot 与 Microsoft Foundry 计划在 2026 年年底前也接到 Maia 200。Maia 300 尚未投产,也没有对客户开放可租用实例。
Maia 200 的部署范围覆盖美国、欧洲和澳大利亚。官方称,Teams、Copilot 与 Cowork 的内置人工智能,每瓦 token 最高约是领先 GPU 设施的 1.7 倍。负载侧同时跑 OpenAI 模型、微软 MAI 模型,以及若干开源模型家族。上一代的运行记录被拿来确定 Maia 300 的内存和互联。
长上下文推理吃的是显存带宽和数据来回搬动,不是再堆峰值算力。正在跑的是 Maia 200;96 卡、167 kW 的 Maia 300 要到 2027 年才开始生产部署。国内机房若按 167 kW 的单柜和 80% 以上液冷占比预留水电,母线与进水仍要单独核对。博客里的倍数只说明厂商预期,不能直接当招标参数。



