数据速览
- 国产加速芯片集群规模
- 逾 10 万张
- Flash 吞吐对初始基线
- 约 3 倍
- KDA Decode 相对 v2
- 1.71×
- 放掉 GIL 后 KV 传输损失
- 1% 以内
智谱用 GLM-5.3 作引擎的 Infra Agent，参与把 GLM-5.3-Flash 做成能接生产流量的推理服务，集群规模逾 10 万张国产加速芯片。清华大学计算机系教授、智谱创始人唐杰 2026 年 9 月 17 日公开了这份对着 Recursive Self-Improvement（RSI）的技术记录。
端到端吞吐增益有两个数字：官方博客与 IT之家给出相对初始基线约 3 倍，量子位刊出的分享导语为约 3.2 倍。
技术博客举了三个带数字的例子。正确性方面：KDA 算子的 Context Parallelism 路径里，tl.dot 在 FP32 输入上默认走 TF32；修法是把两处显式设为 input_precision=tf32x3，相关修复已并入 Flash Linear Attention 上游 PR 1180。
系统行为一侧：Prefill 加上 KV Transfer 的额外损失，在放掉 GIL 之后落到 1% 以内。性能一侧：除法优化把 v1 缩短 9.6%，再拿到相对 v2 的 1.71×。唐杰说明，工作还没有走到完整的 RSI。
让模型参与改进自家推理设施，是 RSI 路线里最容易先落地的一环：目标可量化，改动可回滚。在十万卡规模的国产芯片集群上，算子精度与通信开销的问题比成熟 GPU 生态更多；自动化调优若能稳定复用，可以减少适配国产芯片所需的人工投入。
TAGS#智谱#GLM#RSI#推理
