华为开源盘古 2.0 训练与强化学习代码

训练仓库的许可是 Apache-2.0。代码跑在 PyTorch 上，并配合 CANN，面向昇腾原生的盘古 2.0。智东西同日称，仓库支持多维并行和长上下文，也能从已有检查点继续训练；微调覆盖指令数据、多轮对话，以及参数高效微调。

强化学习仓库同样标记 Apache-2.0，项目说明指向昇腾生态，编排内核用 VERL。智东西称，策略模型、样本生成和奖励模型在昇腾集群上一同训练。智东西还称，后训练面向 GSPO（组序列策略优化）和 GRPO（组相对策略优化）；数学用单轮采样，代码用多轮采样，多轮对应 ReAct（推理行动框架）。

Flash 与 Pro 的权重此前已在同一组织公开。模型卡给出 Flash 总参约 92B、每 token 激活约 6B，Pro 总参约 505B、激活约 18B。两份模型卡的部署说明指向推理框架，没有列入这次的训练仓库。

权重公开之后，昇腾上要复现训练，还得把多机并行、长上下文和后训练采样跑起来。国产加速卡若承担预训练，采购验收应单独看这套代码在目标规模上能否启动。模型榜对应的是权重表现，训练链路是否接通要另测。