跳转到主内容
数工科技DIGIT·CN
模型与软件Mistral

Mistral 开放 Large 4 的 FP8 与 NVFP4

Mistral 于 2026 年 10 月 29 日开放 Large 4 权重,官方仓库同时给出 FP8 与 NVFP4 两套检查点。总参数约 1 万亿,每个 token 激活约 490 亿,上下文最长 100 万 token。

Mistral 开放 Large 4 的 FP8 与 NVFP4
总参数
约 1 万亿
每 token 激活
约 490 亿
上下文上限
100 万 token
每百万 token 输入价
0.70 美元

Mistral 在 10 月 29 日公开 Large 4 的可下载权重。10 月 6 日的公开预览不含权重,公司当时把放出时间定在 10 月底。API 标价为输入每百万 token 0.70 美元,缓存输入 0.07 美元,输出 2.10 美元。入口包括 Mistral Studio、公司 API 和 OpenRouter。

官方模型卡把总参数记为约 1 万亿,每个 token 激活约 490 亿。计入嵌入和输出层后约为 520 亿。路由专家共 128 个,每个 token 激活其中 4 个,另有 1 个共享专家。上下文上限为 100 万 token;输入是文本或图像,输出是文本。

主检查点为 FP8,仓库是 mistralai/Mistral-Large-4-1T-A52B。NVFP4 把专家压到 NVFP4,线性层仍是 FP8,面向 B200、B300、GB200 和 GB300。模型卡称两套检查点表现一致,显存更小、推理更快;该对照由厂商完成,未经独立复测。

推理力度只有低、中、高三档,默认高,没有单独的无推理档。检查点附带 DSpark 草稿头,一次提议 3 个 token。公司测得,打开 DSpark 后解码吞吐最高约为只跑主模型的 1.9 倍,实际倍数取决于硬件与负载。

模型卡给出 Coding Agent Index 为 48%,称与 GLM-5.3 基本持平,单任务平均少用 47% 的 token。Intelligence Index v5 为 26 分。公司称这是西方开放权重里的最高分,中国开放权重模型在这项综合指数上更高。发布说明称 Terminal-Bench 4.0 为 41%,比 10 月 6 日预览高 13 个百分点,输出 token 少 30%。

许可在 MIT 上作了修改,名称是 Mistral Ecosystem Open-Weight License。使用、修改、微调和商用不另收费。企业若对外经营模型即服务,须另向 Mistral 取得商业许可。自建推理可用 vLLM 或 SGLang;公司表示,自建效果不佳时更建议使用其 API。

权重可以下载,模型卡里的参考命令仍按英伟达卡给出。NVFP4 需要 Blackwell 的格式硬件,FP8 的 vLLM 示例把张量并行设为 8;昇腾和海光还要单独核验专家通信与算子。对外售卖接口属于模型即服务,须另签商业许可,参数量和上下文长度不能代替这项条件。

TAGS#Mistral#开放权重#NVFP4#大模型