跳转到主内容
数工科技DIGIT·CN
芯片与加速新浪科技

此芯科技发布边缘推理平台 AGX X2

此芯科技推出边缘推理平台 AGX X2,厂商称端侧算力 80 至 300 TOPS,可本地运行 7B 到 122B 参数的模型。平台主打端侧运行智能体任务,出货量未公布。

此芯科技发布边缘推理平台 AGX X2
端侧峰值算力
80–300 TOPS
端侧可运行模型参数量
7B–122B
LPDDR5 统一编址内存
64–160 GB

此芯科技 9 月 18 日在深圳召开客户大会,推出边缘推理平台 AGX X2(对外也称 AGXcelerator)。新浪科技 2026 年 9 月 20 日报道。首席市场官 Danny Zhang 把产品放在边缘侧推理,以及需要多步工具调用的智能体任务上。

此芯科技客户大会现场,演讲者站在 AGXcelerator 主题大屏前,台下坐满观众
9 月 18 日此芯科技客户大会深圳现场,台上介绍 AGXcelerator图片来源:此芯科技

他给出的规格是:端侧峰值算力从 80 TOPS 到 300 TOPS;参数量从 7B 到 122B 可在端侧直接跑;内存从 64 GB 到 160 GB,类型为 LPDDR5,并做成统一编址。公司称,生成每个词元的耗电量比行业参照低一半以上。这些数字均出自厂商,未见第三方实测。

硬件之外,公司称平台为开放架构:可对接不同厂商的国产加速器件、图形处理器和视频处理器,并把多颗 XPU 串起来扩算力。软件侧自称有一套 Agentic OS,用来做端与云的协同,以及按模型即服务(MaaS)对词元计量。

合作伙伴在会上展出基于此芯 SoC 的终端和方案。创始人兼首席执行官孙文剑把这一阶段描述为给终端硬件商、智能体软件商、数据中心集成商打开的窗口。出货量与已签约合同金额未披露。

端侧跑百亿参数模型,瓶颈通常在内存容量与带宽,而不在峰值算力,大容量统一编址的 LPDDR5 正是为此而设。对数据不出域的行业场景,边缘推理平台提供了机房之外的一种部署选项。

TAGS#此芯#AGX#边缘推理#SoC