月之暗面公开 Kimi K3.1 Pro 权重

结构是混合专家，总参数 2.8 万亿，每个 token 激活 1040 亿。模型卡称它是 K3.1 系列的首个模型。93 层里有 1 层稠密层，注意力由 69 层 KDA 和 24 层门控 DSA 组成。专家共 896 个，每个 token 选出 16 个，另有 2 个共享专家。

模型卡称，相对 K3，全注意力的门控 MLA 换成了门控 DSA，用来降低长上下文的开销。上下文长度 1,048,576。视觉编码器是 MoonViT-V2，参数约 4.01 亿，输入为文本和图像。权重精度是 MXFP4，激活是 MXFP8，模型卡称这是训练时加上的量化。

推荐的推理引擎为 vLLM、SGLang 和 TokenSpeed。许可允许使用、修改和再分发。对外提供推理或微调，且对方能实质控制输入、参数或训练数据时，许可把这叫做模型即服务。连续 12 个月合计收入超过 2,000 万美元的，商用前须另签协议。

月活超过 1 亿，或单月收入超过 2,000 万美元的产品，界面要显著标出 Kimi K3.1-Pro。内部使用不走收入那一条，只经官方产品或认证推理伙伴调用也不走。华为计算把完整权重的公布日放在 2026 年 11 月 4 日。IT之家于 11 月 5 日引述了该公众号，仓库创建记录比这个公布日早两天。

和 K3 比，变的是长上下文那一层：全注意力换成稀疏的门控 DSA，索引只取 2048 个位置。模型卡给出的精度是 MXFP4 权重、MXFP8 激活。国产加速卡要接这套权重，算子得同时盖住 KDA 和这 24 层 DSA，专家路由仍是 896 选 16。许可把大额对外推理单列，自建自用和对外提供 token 不是同一条合规路径。