互联网
在互联网平台自有机房部署数工 AI 服务器与调度平台,新增国产 GPU 与已有 GPU 同池调度。承载视频审查、内容理解与推荐类模型的训练与推理。
现场问题
负载波动
请求量随热点与时段波动,审查推理与训练任务争抢同一批 GPU
集群扩容
新增国产 GPU 需接入已有集群,在线服务不能停机
时延敏感
视频审查推理位于内容发布链路上,响应时间影响内容上线
典型应用场景
- 视频审查
已有集群扩容纳管
| 层 | 内容 |
|---|---|
| 硬件层 | 数工® AC 系列 GPU 加速卡与 AI 服务器承载训练与推理 |
| 平台层 | 异构算力调度平台把已有 GPU 与新增国产 GPU 纳入同一资源池,按业务线分租户并划分卡数与显存配额 |
| 应用层 | 视频审查推理多副本部署,内容理解与推荐模型的训练任务在租户配额内提交 |
已有 GPU 的纳管范围见「已适配 GPU」。

