跳转到主内容
数工科技DIGIT·CN
芯片与加速爱集微

寒武纪于 2026 年 9 月 10 日称已在 vLLM 上完成 V4.1 Flash 当日对接

爱集微 2026 年 9 月 10 日转述寒武纪声明:DeepSeek V4.1 Flash 已在 vLLM 路径上走完发布当日对接,公司称可在其芯片上稳定跑通。文中未列芯片型号与吞吐数字,属适配公告而非第三方评测。

寒武纪于 2026 年 9 月 10 日称已在 vLLM 上完成 V4.1 Flash 当日对接

2026 年 9 月 10 日,爱集微转载寒武纪声明:深度求索当天放出的 DeepSeek V4.1 Flash,已沿 vLLM 路径走完发布当日对接。公司称权重一公开即可在其加速芯片上稳定跑通。声明未写出芯片型号,也没有第三方吞吐或时延数字。

对接挂在 NeuWare 软件栈上,并写明直接接通 PyTorch、vLLM 与 SGLang。解释「当天为何能跑」时点到两处:一是把 Engram、Compressor 一类新结构交给 Torch-MLU-Ops 做加速;二是在 vLLM 里把张量、流水线、专家等五路并行混用,并把 Prefill 与 Decode 拆开部署。两点都是公司自述,未见对照基准。

时间线要拆开。9 月 8 日寒武纪刚以铂金会员进入 PyTorch 基金会,站内另有专稿。9 月 9 日深度求索还只给出 Flash 正式档窗口,10 日模型才切到可用——本篇记硅侧跟进,不重写价目或能力榜。快科技同日转述:Flash 总参数 552B,属 MoE;并称已接 GLM、DeepSeek、Qwen、Kimi、MiniMax 推理。名单来自转述,未见评测附件。

对国产加速卡,Day 0 的读法是:新权重公开后推理栈能马上接上,而不必先等社区另做实现再搬运。读者只能看到「能跑」的声明。芯片代次、集群规模、词元单价与竞品同口径对比,公告均未给出。

本稿依据爱集微转载的公司声明,交叉快科技等转述核验 Day 0、vLLM 与 552B MoE;未见独立复现报告。

TAGS#寒武纪#DeepSeek#vLLM#国产芯片