跳转到主内容
数工科技DIGIT·CN
芯片与加速路透社(Channel NewsAsia转载)

谷歌负责人向彭博称将推出 TPU 变体

谷歌准备增加 TPU 8tx 与 8i Max 两档,一档处理机密数据,一档对应更长的上下文。两档按客户要做的任务改配现有芯片,不是新的硅片设计。

谷歌负责人向彭博称将推出 TPU 变体

谷歌准备为自家张量处理器增加 TPU 8tx 和 TPU 8i Max。人工智能基础设施首席技术官 Amin Vahdat 告诉彭博社,这两档不是新的硅片,而是按客户提出的任务把现有芯片重新配置。路透社 11 月 9 日发稿时表示,消息尚未独立核实,Alphabet 也没有立即回应。

访谈里,8tx 对准要处理机密数据的客户,政府和监管更严的行业被单独列出。8i Max 对准一次请求要读进更多材料的应用。上下文窗口就是模型回答前能看进的材料长度;短了,更早的内容进不了这一次回答。

8tx、8i Max 和已经公开的 8t、8i 用的是同一代序号,增加的是任务类型,不是另一颗新芯片。机密计算看的是数据在使用中怎么隔离,长上下文看的是一次请求能带进多少材料,两件事都不由峰值算力单独决定。国内若只按训练卡和推理卡分档采购,安全隔离和上下文长度仍可能落到不同机器上,主机处理器和软件栈也要分开验收。

TAGS#谷歌#TPU#机密计算