Thinking Machines 开源多模态模型 Inkling 2 Small，总参数 5,940 亿

解码器共 48 层，每个 token 从 384 个专家里路由到 8 个。输入为文字和图像，输出为文字，上下文最长 100 万 token。

权重有两种精度版本。4 位的 NVFP4 是随英伟达 Blackwell 架构引入的浮点格式，这一版本合计至少需要 500 GB 显存，例如 2 张英伟达 B300 或 4 张 H200。8 位的 MXFP8 版本合计至少需要 800 GB 显存，例如 4 张英伟达 B300 或 8 张 H200。

第一阶段预训练在英伟达 GB300 NVL72 机柜上运行 68 小时，处理 8.4 万亿 token 的文字、代码和图像。Inkling 2 Small 在第三方的 Artificial Analysis 智能指数 v5.0 上得分 30.6，DeepSeek-V4.1-Flash-1017 在同一指数上为 32.6。权重可经推理框架 SGLang 和 vLLM 在本地运行，也可在 Tinker 上采样和训练。

这一模型从预训练、中期训练到后训练都使用 NVFP4，因此 NVFP4 是它的原生精度。Apache 2.0 许可允许商用和修改。