金融
在客户自有机房部署数工 AI 服务器与调度平台。支撑风控、客服与文档处理类模型的训练与推理。
要解决的问题
这一行在业务侧遇到的问题。方案落地要过的部署关列在下一节「现场问题」。
凭证与研报要人工录入
历史凭证、研报与合同要先数字化并建立语义索引，才谈得上被检索利用
客服话务量与质检成本
语音转写与实时质检要跟着话务量走，人工抽检只能挑着听
量化与风控算不过来
因子分析、特征计算与回测是高密度计算，CPU 跑不动业务节奏
现场问题
数据不出域
训练与推理必须在自有机房完成
异构存量
已有 NVIDIA 集群与新增国产 GPU 需统一调度
高可用
推理服务需要冗余与故障切换
典型应用场景
- 文档与语义理解
- 语音与客户交互
- 智能投研
- 量化与风控
- 数字身份验证
- 软件工程与自动化
- 智能客服
异构集群统一调度
| 层 | 内容 |
|---|---|
| 云端 | 数工 AI 服务器与 AC 系列 GPU 加速卡在自有机房承接训练与推理；异构算力调度平台把已有 NVIDIA 集群与新增国产 GPU 纳入同一资源池，多租户配额与监控 |
| 智能体 | 数工科技按业务线的流程，为凭证核验、质检复核与研报要素提取开发智能体：文档、语音与投研的结果串成业务动作 |
| 应用 | 文档与语义理解、语音与客户交互、智能投研、量化与风控按业务线分租户，推理服务多副本部署 |
应用层的智能体与行业软件由数工科技按客户需求开发，与硬件、平台一并交付，不另找集成商。
资源池化、多租户配额与监控告警的明细见「平台能力」。
NVIDIA 等第三方商标归各自权利人所有，提及仅用于说明纳管范围，不代表合作或背书。
方案选型
本方案用到的型号与头条参数，完整规格见各型号页。
| 型号 | 定位 | 头条参数 |
|---|---|---|
| 数工 AS710AS710-IX-G1 | 4U 8 卡 AI 服务器，推理集群的节点。 | 8 × AC310 / 512 GB 显存合计 / 4U 机架 |
| 数工 AS510AS510-IX-G1 | 2U 4 卡 AI 服务器，推理与部门级训练。 | 4 × AC310 / 256 GB 显存合计 / 2U 机架 |
| 数工 AC310AC310-TS-G1 | 推理加速卡，256 路视频分析。 | 384 TOPS@INT8 / 64 GB HBM2e / 350 W |
| 数工 AC710AC710-TS-G1 | 训练与混合精度加速卡，FP32 56 TFLOPS。 | 224 TFLOPS@FP16 / 64 GB HBM2e / 450 W |