跳转到主内容
数工科技DIGIT·CN
产业合作DeepSeek(格隆汇转载)

DeepSeek 开源昇腾编程与通信组件

DeepSeek 在官微宣布,把面向华为昇腾的编程语言、计算库和跨设备通信库公开。公司称这套组件与先前给英伟达平台开源的部分逐项对应。

DeepSeek 开源昇腾编程与通信组件

DeepSeek 把一套给华为昇腾用的基础软件公开了。范围包括高级语言和编译工具、矩阵与向量计算,以及跨设备通信。格隆汇 9 月 30 日刊出了官微上的这则消息。路透社同日确认,发布渠道是公司的微信公众号。

官微称,昇腾版 TileLang 把 Ascend C 收进高级语言,开发时不必直接调用底层指令,同时不牺牲硬件性能。公司称,训练里用过的 TileLang 算子,在昇腾上每一个都有高性能版本。公司称,这些部分与早先公开的英伟达平台组件逐一对应。官微还表示,这套公开代码希望给别的 AI 芯片做软件时留一个参照。

计算和通信按场景拆开,可以复用。DeepGEMM 负责通用矩阵乘法。DeepEP 负责很多设备之间的数据交换。TileKernels 覆盖常规向量运算和访存。

FlashMLA 做稀疏注意力,上下文变长时跳过用不上的位置。DeepSelect 负责筛选数据。公司称,多项关键测试里,这些组件的计算和通信已经靠近硬件所能达到的上限。

路透社还引述了同一则官微里的合作安排。华为团队提供了完整支持。两家一起推进的方案,用 128 张昇腾 950 组成超节点,计算和通信两侧都做了优化。

路透社引述官微,TileLang 的编程模型比 CUDA 更简单。官微认为,要做一套独立于 CUDA 的 GPU 软件生态,先得有一门通用、易上手、性能仍能达到硬件允许水平的高级语言。TileLang 就是为这个目的准备的。

昇腾能不能进训练,单卡规格只是一半,另一半是算子和卡间通信能不能在真机上站住。采购方比选国产加速卡时,矩阵、注意力和跨卡通信要分开核,标称算力单独不够用。128 张卡的超节点仍是双方一起推进的工程目标;机房最后装多少,还要看交货和验收。

TAGS#DeepSeek#华为#昇腾#TileLang