数据速览
- MoE 模型参数量
- 300 亿
- 输出速度最高，对比同级模型
- 4 倍
- 智能体任务整体完成速度
- 快 30%
英伟达 8 月 11 日发布 Nemotron 3.5 Lightning，一个 300 亿参数的混合专家（MoE）开源模型。英伟达给它的定位是「长时运行智能体的高频执行层」。它不承担最复杂的推理，而是把大量重复、明确的子任务跑得又快又稳。官方给出的数字是：输出速度最高可达同级模型的 4 倍，智能体任务整体完成速度快 30%。
模型已在 Hugging Face、ModelScope、OpenRouter 与 build.nvidia.com 上线。build.nvidia.com 以 NIM 微服务形式提供，并同步接入英伟达云合作伙伴、后训练与推理平台。
同日开源的 NeMo Switchyard 是一个路由库，把每个请求分派给开发者模型池中最合适的那一个。池子里可以同时有开源、闭源与英伟达模型。英伟达称这种「大模型兜底、小模型执行」的组合能在保持前沿模型精度的同时，把任务完成成本降到单独使用旗舰模型的约三分之一。
智能体一次任务往往要发起几十上百次模型调用，单价差异会被成倍放大，执行层换成小模型是压成本最直接的办法。MoE 模型每次只激活部分参数，30B 总参的体量对显存和算力要求远低于旗舰模型，也更容易放进私有化推理集群承接高频子任务。
TAGS#英伟达#开源#智能体
