跳转到主内容
数工科技DIGIT·CN
模型与软件OpenAI

OpenAI 开放 GPT-6 Astra 的 Ultrafast 档

截至 2026 年 10 月 1 日,OpenAI 文档把 Ultrafast 定为 API 最快服务档,GPT-6 Astra 已可广泛调用,相对 Standard 最高约 8 倍。默认限额偏低,且只支持美国数据驻留与全球处理。

OpenAI 开放 GPT-6 Astra 的 Ultrafast 档
相对 Standard 速度
约 8 倍
1–3 档每分钟 token
500,000
4 档每分钟 token
1,000,000
5 档每分钟 token
5,000,000

OpenAI 要求每次创建响应时把模型名设为 gpt-6-astra,并把服务档参数 service_tier 设为 ultrafast。工具调用很密的智能体更适合维持一条 WebSocket;HTTP 也能走,只是每次新建连接的开销会吃掉一部分时延收益。具体参数见 OpenAI API 文档。

文档称这一档是 API 里最快的服务档,相对 Standard 的速度最高约 8 倍,GPT-6 Astra 已经向全部 API 用户开放。默认令牌限额按用量档分开:1 至 3 档每分钟 500,000 token,4 档 1,000,000,5 档 5,000,000。组织若有对接的客户团队,可以申请更高限额,也可以申请 GPT-5.6 Sol 的预览权限。

GPT-6 Astra Ultrafast 默认每分钟 tokentoken / 分钟
  • 1–3 档500,000
  • 4 档1,000,000
  • 5 档5,000,000

数据来源:OpenAI API 文档

数据驻留只覆盖美国,处理范围只有全球处理;欧盟以及其他非美区域的处理端点都不支持。英伟达在 2026 年 10 月 1 日表示,这一档运行在 Blackwell GPU 上,相对 Astra 的 Standard 模式,token 生成最高大约是 8 倍。同一天的说明还提到,API 已经可以调用,合格的 ChatGPT Work 与 Codex 用户也能用。

OpenAI 推理负责人 Philippe Tillet 说,Astra 能把对 Blackwell 与 Rubin 的编程能力变成高性能内核。Ultrafast 让智能体在编写代码、调用工具和处理复杂任务时更快拿到回复。负责计算的首席技术官 Uday Ruddarraju 说,团队用内部模型优化了英伟达 GPU 上的推理,英伟达平台的可编程性帮助做出了这档加速。两句均出自英伟达 2026 年 10 月 1 日的博客。

AWS 在 2026 年 9 月 30 日宣布,Amazon Bedrock 已能调用 GPT-6 Astra 的 Ultrafast 模式。公告引用 OpenAI 的说法,称 API 上这一档推理最高约快 6 倍,速度最高约每秒 300 token。

速度档把同一个模型拆成不同时延,采购要比的是整条链路,而不是榜单上的一个倍数。欧盟和其他非美区域端点用不了这一档,必须把处理留在指定区域的团队,仍要在区域云或自有集群上安排推理。国内项目如果走全球处理入口,还得单独核对速率限额、数据出境和供应商锁定,API 上的倍数不能直接换算成机房里的卡数。

TAGS#OpenAI#GPT-6#Ultrafast#API