
- 总参数
- 600B
- 每 token 激活
- 27B
- 上下文上限
- 100 万 token
- FP8 示例最少卡数
- 4 张
权重放在 Hugging Face 仓库 stepfun-ai/Step-5-Preview,含 BF16 与 FP8 两套检查点。阶跃星辰此前把开放权重的时间定在 10 月 15 日,当天文件已经可以下载。同日技术博客 Inside Step 5 Preview 说明架构取窄而深,共 92 个 Transformer 块,门控滑窗注意力与稀疏全注意力按 3 比 1 交错。
模型卡列出稀疏混合专家,总参数 600B,每个 token 激活 27B。上下文最长 100 万 token,输入和输出合计算进这个上限。规格表列出的输入是文本和图像,输出是文本。介绍段还称,专业工作可以分析长文档、图表、截图、图像和视频。
- B300 FP84
- H200 FP88
- B300 BF168
- H200 BF1616
数据来源:Hugging Face 上的 Step 5 Preview 模型卡
全注意力路径用稀疏 GQA。历史 token 按长度 8 合并成块,公司称索引和选取的成本因此降到原来的八分之一。建议采样温度为 1.0,top_p 为 0.95,top_k 为 0。
部署有三条路径。vLLM 或 SGLang 可以对外提供兼容 OpenAI 的接口,Transformers 实现用于离线生成。FP8 示例包括一块 B300 节点上的 4 张 GPU,或一块 H200 节点上的 8 张 GPU。BF16 示例包括一块 B300 节点上的 8 张 GPU,或两块 H200 节点合计 16 张 GPU。
页面说明,实际占用的显存、能用的上下文长度和并发,会随检查点、推理框架和缓存分配变化。在 FP8 检查点上把数据类型指定为 bfloat16,不会把已经量化的权重变成 BF16。两节点 BF16 走 Transformers 分片再生成的完整流程,页面称尚未完成端到端验证。
许可全文是 StepFun Model License 1.0。模型卡称其属于 Apache-2.0 风格,并附加归属和商业条件。单个日历月内,商业产品的月活超过 1 亿,或收入超过 2000 万美元,就触发署名义务。此后须在界面和用户协议里显著标明 StepFun AI,适用对象包括该模型及其衍生模型。
另有一条商业许可。手机、汽车、眼镜、可穿戴设备、机器人或智能家居的品牌商,若把模型能力做成整机或随附服务的商用功能,须先另签协议。连续 12 个月合计收入超过 2000 万美元,且让第三方控制输入、参数或训练数据来做推理或微调的,也要另签。不向第三方提供模型、输出或能力的内部使用,不在这条之内;经阶跃认证的分发渠道,在认证范围内使用也不在其内。
只通过接口调用、且应用本身不含权重的,不因此构成衍生模型。用模型输出再训练出来的模型,则算衍生模型。
示例配置停在英伟达 B300 与 H200,卡数从 4 张到 16 张,页面没有给出昇腾或海光的并行参数。权重文件可以下载,不等于示例配置能在国产加速卡上直接跑通,算子、专家并行和缓存都要单独验证。对采购,自建推理、对外接口和整机预装是三笔不同的账:收入或月活越过门槛之后,对外提供服务还要补署名或商业许可。



