跳转到主内容
数工科技DIGIT·CN

教育

在高校与职业院校的实训室与科研机房部署数工 AI 服务器、AI 工作站与调度平台。教学实验按课程分配算力,科研训练在集群上连续运行。

要解决的问题

这一行在业务侧遇到的问题。方案落地要过的部署关列在下一节「现场问题」。

实训环境搭建维护复杂

课程要用的框架、工具链与算力环境,校方要自己搭一套再逐学期维护

教学与科研抢同一批资源

教学负载随课时起停、科研训练连续占卡,挤在同一批机器上互相影响

科教任务类型多

从课程实验到科研训练再到数据处理,任务类型不同,对算力的要求也不同

现场问题

配额隔离

教学实验按课程与班级划分算力,各班用量需有上限

两类负载

教学负载随课时起停,科研训练连续占用整卡,两者共用同一集群

环境一致

实训室工作站与集群训练所用的框架与工具链版本需一致

负载特征

同一个行业里不同场景吃的算力不是一回事,选型按负载类型走。

场景负载类型说明对应型号
课程实验环境大并发推理一个班同时开实验环境,并发量决定单机能带几个学生数工 AC310数工 AS510
科研模型训练混合精度训练课题组的连续训练任务按卡数与显存申请,占用整卡连续运行数工 AC710
桌面验证低延迟推理模型先在桌面工作站跑通再上集群,减少集群上的无效占用数工 AC310

典型应用场景

  • 教学实训
  • 科教集群
  • 课程实验环境
  • 科研模型训练
  • 教学管理与实训看板
  • 实训案例库

教学科研分租户

层内容
云端数工 AI 服务器与 AC 系列 GPU 加速卡组成科教集群;异构算力调度平台把教学实验与科研训练分作不同租户,按课程与课题各自配额与监控
智能体数工科技按院校的教学流程,为环境分发、作业批改与实训看板开发智能体:实训环境串成课程,替掉每学期重搭一次环境
应用课程实验以 Jupyter Notebook 一键启动;科研模型先在 AI 工作站验证,再按卡数申请提交到集群训练

应用层的智能体与行业软件由数工科技按客户需求开发,与硬件、平台一并交付,不另找集成商。

多租户配额与自助算力的明细见「平台能力」。

方案选型

本方案用到的型号与头条参数,完整规格见各型号页。

型号定位头条参数
数工 AS710AS710-IX-G14U 8 卡 AI 服务器,推理集群的节点。8 × AC310 / 512 GB 显存合计 / 4U 机架
数工 AS510AS510-IX-G12U 4 卡 AI 服务器,推理与部门级训练。4 × AC310 / 256 GB 显存合计 / 2U 机架
数工 AC310AC310-TS-G1推理加速卡,256 路视频分析。384 TOPS@INT8 / 64 GB HBM2e / 350 W
数工 AC710AC710-TS-G1训练与混合精度加速卡,FP32 56 TFLOPS。224 TFLOPS@FP16 / 64 GB HBM2e / 450 W