金融
异构集群统一调度
自有机房内统一调度已有 NVIDIA 与新增国产 GPU，支撑风控、客服与文档模型。
现场问题
训练与推理必须在自有机房完成，数据不出域。已有 NVIDIA 集群与新增国产 GPU 要统一调度，推理服务还需要冗余与故障切换。
方案构成
- 硬件
- 数工 AI 服务器承载训练与推理
- 平台
- 异构算力调度平台把两类 GPU 纳入同一资源池，多租户配额与监控
- 应用
- 风控、客服与文档模型按业务线分租户，推理服务多副本部署
典型应用场景
- 文档与语义理解
- 语音与客户交互
- 智能投研
- 量化与风控
- 数字身份验证
部署形态
资源池化、多租户配额与监控告警都在自有机房内完成，数据不出域。