跳转到主内容
数工科技DIGIT·CN
芯片与加速爱芯元智(爱集微转载)

爱芯元智工博会发布 AX8860

爱芯元智在 2026 中国国际工业博览会上发布 AX8860 系列,单芯片 256 TOPS 混合精度,面向边缘与端侧大模型推理。元曦模组、推理卡和推理服务器同场展出。

爱芯元智工博会发布 AX8860
单芯片混合精度
256 TOPS
LPDDR5X 容量上限
128 GB
内存带宽
273 GB/s
模组额定功耗
40 W

爱芯元智在上海发布 AX8860 系列,场合是 2026 中国国际工业博览会。产品面向边缘和端侧的大模型推理,展出从芯片、模组一直到推理卡和服务器。爱集微于 2026 年 10 月刊出说明,IT之家把日期记为 10 月 13 日。

公司给出单芯片 256 TOPS 混合精度,原生支持 FP4,带宽 273 GB/s,内存最高 128 GB 的 LPDDR5X。制程为 6 nm。互联包括 PCIe 5.0,并用 AXLink 把多颗芯片连起来。视频侧可做 64 路解码,编码为 16 路。

IT之家另给出处理器和几种外形。处理器是 16 核 Arm Cortex-A55,配自家 NPU,并称这一档算力不按稀疏性计算,带宽对应 256-bit 位宽。模组额定功耗约 40 W。单槽卡走 PCIe 5.0 x4,另配辅助风扇。

多芯片一侧,IT之家称有 256 Gbps 的网络口。两颗约 512 TOPS,四颗宣称约 1024 TOPS,扩展效率约 80%。四芯也能做成单槽卡,四风扇配大散热片,由 8-pin 供电。公司还准备做 Mini PC 和口袋 PC,上市时间未披露。

同场发布的模组定名元曦 A256S,推理卡和服务器也在展台上。公司称,开发环境覆盖 vLLM、SGLang 与 PyTorch,对外调用按 OpenAI 的接口形式来做。工具包含量化、格式转换、编译、性能分析与调试。IT之家称,ONNX 和 Hugging Face 的模型可以直接导入。

速度对照出自 IT之家:在 Qwen 27B 上,prefill 比 DGX Spark 快 25%,decode 快 30%。整机售价由伙伴 Sipeed 说出,大约是 DGX Spark 的一半。IT之家没有给出测试条件,Sipeed 的价格也不是爱芯元智的官方标价,两者都未经独立实验室复测。

创始人仇肖莘在展台说,公司要做客户可以长期依靠的算力供应,让企业把精力放在业务创新上。他在现场还说:「算力不必远在天边。」

端侧推理先受功耗、内存和现场时延约束,峰值 TOPS 不能单独决定能否上线。FP4 混合精度下的 256 TOPS,和云端更高精度的卡不能直接比吞吐。国内产线、仓储和机器人若把 AX8860 放进短名单,仍要自己测 prefill、decode 和整机瓦数,伙伴报的半价也不能代替报价单。

TAGS#爱芯元智#AX8860#端侧推理#工博会