
- 摊到单卡的吞吐
- 1.05 倍
- 单柜 GPU 数量
- 144 颗
- 单柜聚合显存
- 10.1 TB
- 百万 token 成本差
- 约 40%
上海这场媒体开放日办在 2026 年 10 月 28 日,主办方是天数智芯。天垓 300 首次把实机运行开放给到场媒体。同场还有 AFD 方案、超节点 IXL144、软件栈和彤央端侧终端。公司预告的下一款端侧产品,标称算力 600 TFLOPS。
上海仪电在 2026 年 7 月做了第三方测试。场景是典型的预填充与解码分开部署。整机结果摊回单卡后,端到端吞吐为英伟达 H200 的 1.05 倍。公司补充说,这比的是某一模型和这种部署下的实际输出,不是芯片峰值。
模型名称、批量、精度和机柜配置未披露。1.05 倍只落在这一次测试的折算结果上。其他负载、其他精度有没有超过 H200,这组数没有回答。
IXL144 用一个标准机柜装入 144 颗 GPU,显存合计约 10.1 TB。公司称这是业界密度最高的单柜 GPU 超节点。公司测算,每百万个有效 token 的花费大约少 40%,对照的是它所说的国际主流方案。方案型号和成本科目没有列出。
这套机柜此前已在中国国际工业博览会公开展出,届次是第二十六届。按不同算力规模和机房条件做的其他超节点,公司说还会再推。软件栈由副总裁石加圣介绍,分成使用、调优和开发三层。AFD 把注意力计算和前馈网络拆开调度,天垓 300 也可与其他厂商的加速卡或专用芯片放在同一套任务里。
推理采购要问的是指定模型能吐出多少有效 token,以及这笔账能不能按同一条件重算。峰值、上海仪电的 1.05 倍、公司自己的大约 40%,回答的不是同一个问题。模型名和对照方案都未披露时,这两组数只够决定要不要继续问价。国产通用 GPU 进机房,还得单独核对显存能不能接住上下文,以及演示里的软件栈离开现场之后还要改多少。



