跳转到主内容
数工科技DIGIT·CN
芯片与加速Microsoft

微软计划 2027 年部署 Azure Maia 300

微软于 2026 年 10 月 12 日公布第三代推理加速系统 Azure Maia 300,并计划从 2027 年起把 Maia 家族扩到多吉瓦。Maia 200 已在微软生产负载上运行,Maia 300 的生产部署尚未开始。

微软计划 2027 年部署 Azure Maia 300
单机架加速器
96 个
机架功率包络
167 kW
机架级 HBM 容量
27.6 TB
单卡峰值带宽
18.0 TB/s

Azure Maia 300 的机架放入 96 个加速器,功率包络 167 kW。机架级 HBM 容量为 27.6 TB,聚合带宽约 1.7 PB/s。计算芯粒用台积电 N2P,内存控制器和输入输出拆到其他芯粒。参数出自 Scott Guthrie 2026 年 10 月 12 日的微软官方博客,他担任云与人工智能执行副总裁。

层级规格
机架96 个加速器,167 kW,HBM 27.6 TB,聚合带宽约 1.7 PB/s
单加速器八堆 HBM4,288 GB,峰值 18.0 TB/s,热设计功耗 950 W
部署2027 年开始生产部署;Maia 200 已在生产负载中

每个加速器叠八堆 HBM4,峰值带宽 18.0 TB/s,热设计功耗 950 W。同日 Azure 架构博客给出单卡 HBM 容量 288 GB,署名为 Rani Borkar 与 Saurabh Dighe。内存从统一访问改为按芯粒就近放置,片上 SRAM 交给软件当暂存。低精度路径包含增强的 MXFP4,用来缩小 KV 缓存占用的容量。

官方称,相对领先 GPU 系统大约多 40% 的 tokens/MW,这是厂商预期。满配 96 卡时的厂商预期,是机架级 token 吞吐相对 Maia 200 最高约 7 倍。架构博客另称,相对上一代的每瓦性能超过 2.5 倍,HBM 带宽约为此前的 2.5 倍。容量大约多 33%,两篇博客都没有附上第三方跑分。

机架由 24 个托盘组成,每托盘 4 个加速器,不再单列主机托盘。柜内用电连接把 96 卡收成一个 pod,第二层光连接最多串起 128 个机架。由此得到的超级 pod 最多约 12,288 个加速器。加速器可以直接向其中任一颗发起通信,不必经过主机上的独立网卡。

液冷带走机架热负荷的 80% 以上,对象是加速器、电压调节器和交换芯片。内存与存储仍走风冷。供电为双路,母线 50 V,并带机架自动转换开关。有冷冻水的机房可直接接设施水,否则用换热器把热排进空气。

生产部署从 2027 年才开始,微软计划同年把 Maia 扩到多吉瓦,用作自家产品与服务的主要推理系统。Maia 200 已经在跑微软生产负载,范围包括 Microsoft Copilot,并支持 MAI 团队做下一代模型。GitHub Copilot 与 Microsoft Foundry 计划在 2026 年年底前也接到 Maia 200。Maia 300 尚未投产,也没有对客户开放可租用实例。

Maia 200 的部署范围覆盖美国、欧洲和澳大利亚。官方称,Teams、Copilot 与 Cowork 的内置人工智能,每瓦 token 最高约是领先 GPU 设施的 1.7 倍。负载侧同时跑 OpenAI 模型、微软 MAI 模型,以及若干开源模型家族。上一代的运行记录被拿来确定 Maia 300 的内存和互联。

长上下文推理吃的是显存带宽和数据来回搬动,不是再堆峰值算力。正在跑的是 Maia 200;96 卡、167 kW 的 Maia 300 要到 2027 年才开始生产部署。国内机房若按 167 kW 的单柜和 80% 以上液冷占比预留水电,母线与进水仍要单独核对。博客里的倍数只说明厂商预期,不能直接当招标参数。

TAGS#微软#Maia#HBM#推理