跳转到主内容
数工科技DIGIT·CN
芯片与加速摩尔线程

摩尔线程 S5000 跑通 Kimi K3.1 Pro

摩尔线程 11 月 6 日称,MTT S5000 已接上 Kimi K3.1 Pro,文本和图片的基础推理都能返回。演示片做过加速,公司未给出吞吐和单台卡数。

摩尔线程 S5000 跑通 Kimi K3.1 Pro
首跑服务器数
6 台
帖子引用的代码分
65.7%
帖子引用的长程分
61.2%
帖子给出的 K3 分数
55.95%

摩尔线程用 6 台 MTT S5000 服务器做了一次首跑。返回是中文的自我介绍,也会讲输入图片里的主要画面。软件栈为 MUSA。公众号的发布日是 2026 年 11 月 6 日。

演示片中段被加速过。公司注明,它只保留交互过程,不能拿来当真实耗时。吞吐、时延和单台卡数都没有给。

上游代码先落到 SGLang-MUSA。新增算子走 TileLang 的 MUSA 后端,编译器是 MTCC。另一条算子入口是 Triton-MUSA。稀疏注意力 DSA 改了三件事:候选下标、键值缓存的摆法,以及预填充和解码。

这三处接到算子库 MATE,再和 KDA 的状态、跨层残差、视觉注意力串在一起。专家侧的权重仍是 MXFP4。真正算的时候再换成 FP8,多层共用一块 FP8 区域,不必事先准备一整份离线的 FP8 文件。月之暗面模型卡上的权重精度也是 MXFP4,激活则是 MXFP8。

公众号还引用了模型分数,不是这次机器上测出来的。Terminal-Bench 4.0 的结果是 65.7%。长程代码测验报 61.2%,同一项里 K3 为 55.95%。帖子把模型说成约 3 万亿参数这一档,上下文约 100 万。

Hugging Face 模型卡的总参数是 2.8 万亿,上下文长度 1,048,576。每个 token 激活约 1040 亿。帖子里的 3 万亿级和模型卡的 2.8 万亿是同一量级,不是两套参数。

卡商要在权重公开后几天内接上,难在稀疏下标、视觉路径和 MXFP4 专家得进同一套软件栈。6 台服务器说明请求能返回。没有吞吐和并发,这组机器还不能换算成可下单的 token 产能。昇腾实验文档给过台数和序列长度;这边公开的是图文能答完,两边核的不是同一件事。

TAGS#摩尔线程#MTT S5000#Kimi#MUSA