d-Matrix 推出 Squadron 多机架推理集群

上限为 16 个 SquadRack。每架 8 台服务器，集成后的集群最多约 1,024 颗 Corsair XPU。机柜之间用 JetStream 网卡互联，软件是 Aviator。机柜采用风冷，按业界标准设计；公司称可放进已有机房，不必改为液冷，也不必为此新建数据中心。

开发伙伴包括 Arista、Broadcom 与 Supermicro。亚利桑那数据中心已经部署一套，供内部研发，并开始向优先客户发货。公告把 Squadron 限于向选定客户一般可售。Corsair 服务器和 Corsair SquadRack 则已一般可售。

集群既能只跑 Corsair，也能与 GPU 拆开计算，公司称这种拆法为异构拆分。Sid Sheth 在开幕演讲中说，Attention-FFN Disaggregation（AFD）已在自有 Squadron 与 GPU 上实现。Experts 与 FFN 卸到 Corsair 后，公司自测单用户约 845 tokens/s。64 个并发用户的总吞吐约 20,415 tokens/s，该结果未经独立复测。

国产机房里，风冷仍是多数存量设施的现状，液冷和新建都要另排工期。按业界机柜规格放进现有房间，比先建新园区更接近多数甲方已经具备的安置条件。845 tokens/s 与 20,415 tokens/s 出自该公司自己的 AFD 测试，加速器与软件栈也是同一家的。向优先客户发货、只对选定客户开售，距离敞开采购都还有一截。