
寒武纪称,深度求索 2026 年 9 月 10 日放出的 DeepSeek V4.1 Flash,已沿 vLLM 路径完成发布当日对接。爱集微当日刊出该声明。公司称权重一公开即可在其加速芯片上稳定跑通。声明未披露芯片型号,也没有第三方吞吐或时延数字。
对接挂在 NeuWare 软件栈上,直接接通 PyTorch、vLLM 与 SGLang。解释「当天为何能跑」时点到两处:一是把 Engram、Compressor 一类新结构交给 Torch-MLU-Ops 做加速;二是在 vLLM 里把张量、流水线、专家等五路并行混用,并把 Prefill 与 Decode 拆开部署。两点都是公司自述,未见对照基准。
几件事的时间点各不相同。9 月 8 日寒武纪刚以铂金会员进入 PyTorch 基金会。9 月 9 日深度求索只给出 Flash 正式档窗口,10 日模型才切到可用。快科技同日报道,Flash 总参数 552B,属 MoE,并称已接 GLM、DeepSeek、Qwen、Kimi、MiniMax 推理;该名单未附评测。
公告没有给出芯片代次、集群规模和词元单价,也没有同条件的竞品对比。新模型结构每出现一次,国产加速卡就要补一轮算子与并行策略,过去适配周期常以周计。Day 0 对接要求芯片厂与模型方在发布前协同,并让推理框架主线直接调用厂商算子,这是国产卡争取推理份额的门槛之一。



