沐曦 MXMACA 合入 LMCache 官方主线

合作要解决的是大模型推理里的键值缓存。模型逐词生成时，已算过的注意力状态可以存下来，避免把前文重新算一遍；LMCache 再把这份缓存做成可跨请求、跨实例、跨存储层调度的资源。官网称，用户可以按官方仓库自行编译，再部署到沐曦 GPU。

官网称，两边一起做了持续集成，兼容性会跟着 LMCache 的版本更新走。官网还称，后面会按社区反馈，把适配扩到更多推理框架和部署场景。社区规模方面，官网称贡献者已超过 220 人。行业合作伙伴则有 30 多家。

推理要省算力，先靠把历史注意力存住，再靠让相同前缀的请求共用这份存储。国产 GPU 进主流推理软件时，难点常在编译链和运行时：只改自己的分支，上游一更新就要重新对齐。代码进主线之后，版本能不能长期跟着走，取决于持续集成是否留在上游，而不只是在厂商环境里跑通一次。