跳转到主内容
数工科技DIGIT·CN
算力基础设施新华网

百度发布 1024 卡天池超节点,2027 年上市

百度在北京的百度世界发布天池 1024 卡超节点,计划 2027 年上市。公司称卡间互联带宽为上一代的 3 倍,单套可训练 5 万亿参数模型,并扩展到 1 万卡。

百度发布 1024 卡天池超节点,2027 年上市
单套加速卡数量
1024 卡
单套可训练参数
5 万亿
卡间带宽相对上一代
3 倍
强化学习每秒 token
5.2 万

百度 11 月 12 日在北京的百度世界发布天池超节点。超节点把大量加速卡连在同一个纵向扩展(scale-up)域里,让卡与卡高速互联。天池单套 1024 张加速卡,计划 2027 年上市。百度称,光引擎把卡间互联带宽提高到上一代的 3 倍,单套可训练 5 万亿参数的模型,并可扩展到 1 万张卡。

百度集团执行副总裁沈抖介绍软件层的数字。千帆在百万级沙箱并发下,可在数百毫秒内同时启动上千个沙箱。百舸可在数分钟内启动 200 万个沙箱。强化学习吞吐为每秒 5.2 万个 token,训练与推理的结果差异控制在万分之一以内。

中国证券报报道,这套超节点包含两类加速柜。G1.5 显存加速柜把长上下文推理性能提升到原来的 2 倍。G3.5 的 KV 缓存柜(保存已生成内容的键值数据)在多轮命中缓存时,首个 token 的等待减少 90%,吞吐为原来的 7 倍。新一代高性能网络(HPN)把集群上限提高到 50 万卡。

已经在多地按千柜运行的,是现有的天池机柜,昆仑芯集群累计交付在 30 个以上。昆仑芯 M100 已经开售,卖点是单位成本。旗舰 M300 计划 2027 年推出,算力、存储和互联都会提高。2028 年再推出 N 架构的多款芯片,分别面向不同场景。

李彦宏判断,训练和推理现在一起拉动芯片需求,更长的增量来自推理。1024 张卡留在同一个扩展域里,专家并行(把模型里不同专家模块分到不同卡上)的通信可以在柜内完成。

TAGS#百度#天池#昆仑芯#超节点