
- 首跑服务器数
- 6 台
- 帖子引用的代码分
- 65.7%
- 帖子引用的长程分
- 61.2%
- 帖子给出的 K3 分数
- 55.95%
摩尔线程用 6 台 MTT S5000 服务器做了一次首跑。返回是中文的自我介绍,也会讲输入图片里的主要画面。软件栈为 MUSA。公众号的发布日是 2026 年 11 月 6 日。
演示片中段被加速过。公司注明,它只保留交互过程,不能拿来当真实耗时。吞吐、时延和单台卡数都没有给。
上游代码先落到 SGLang-MUSA。新增算子走 TileLang 的 MUSA 后端,编译器是 MTCC。另一条算子入口是 Triton-MUSA。稀疏注意力 DSA 改了三件事:候选下标、键值缓存的摆法,以及预填充和解码。
这三处接到算子库 MATE,再和 KDA 的状态、跨层残差、视觉注意力串在一起。专家侧的权重仍是 MXFP4。真正算的时候再换成 FP8,多层共用一块 FP8 区域,不必事先准备一整份离线的 FP8 文件。月之暗面模型卡上的权重精度也是 MXFP4,激活则是 MXFP8。
公众号还引用了模型分数,不是这次机器上测出来的。Terminal-Bench 4.0 的结果是 65.7%。长程代码测验报 61.2%,同一项里 K3 为 55.95%。帖子把模型说成约 3 万亿参数这一档,上下文约 100 万。
Hugging Face 模型卡的总参数是 2.8 万亿,上下文长度 1,048,576。每个 token 激活约 1040 亿。帖子里的 3 万亿级和模型卡的 2.8 万亿是同一量级,不是两套参数。
卡商要在权重公开后几天内接上,难在稀疏下标、视觉路径和 MXFP4 专家得进同一套软件栈。6 台服务器说明请求能返回。没有吞吐和并发,这组机器还不能换算成可下单的 token 产能。昇腾实验文档给过台数和序列长度;这边公开的是图文能答完,两边核的不是同一件事。



