
Nebius(纳斯达克代码 NBIS)收购了推理优化公司 Inferize,对方的技术和人员进入托管推理平台 Token Factory。这家总部位于阿姆斯特丹的 AI 云在 2026 年 10 月 1 日公布交易,条款没有公开。公告发在 Nebius 新闻室。
公司称,Inferize 能缩短大模型从启动到扩容的时间,并让推理负载更有弹性。冷启动是模型在响应第一笔请求之前完成加载的时间;上线、流量冲高、新实例拉起,以及运行中更新权重(例如强化学习)时,已分配的 GPU 会空等。为了守住服务等级,平台往往还要多留一截容量。
公司称 Inferize 削掉的是空闲 GPU「税」,容量因而更贴近真实用量,利用率与 token 单位经济一并改善。Nebius 首席技术官 Danila Shtan 说,推理要跑好,不能只靠更快的 GPU 和优化后的模型。系统还得在需求变化时,更快备出可以对外服务的容量。他表示,技术和深耕 GPU 系统的团队都会进入 Token Factory,贡献也不限于这一次接入。
Inferize 联合创始人兼首席执行官 Guy Bortnikov 说,留着空转的 GPU,是为了在需求到来时有卡可用。他们创立这家公司,就是为了拿掉这笔成本,并让技术直接进入 Nebius 的平台。他称团队会跨整条技术栈协作,目标是让每颗 GPU 服务更多客户需求。公司另称,Eigen AI 已把模型、内核和系统层的优化带进 Token Factory;Clarifai 的核心团队和授权技术,补上的是系统层推理与算力编排。
公司称,Inferize 在 2026 年 1 月成立,团队不超过三个月就做出了可运行的原型。工程师接下来会在 Token Factory 里跨层工作,先把自己的技术接进去。
推理服务的空转,常常出现在权重还没就绪、请求却已经到来的窗口。AI 云把优化团队收进来,是想少留为服务等级准备的备用卡,让同一批 GPU 吐出更多 token。国内做托管推理的团队面对同一笔取舍:冷启动如果压不短,就得多留卡,利用率和采购规模会绑在一起。


