跳到主要内容

谷歌推出两款专用 AI 芯片,扩展机密计算与内存容量

11月10日 23:58

11 月 10 日,据 TechCrunch 报道,谷歌推出两款第八代张量处理器(TPU)变体 TPU 8tx 和 TPU 8i Max,扩展其自研 AI 芯片的应用场景。

TPU 8tx 与 AMD 共同设计,基于 TPU 8t,面向机密模型训练和推理,通过硬件层保护使用中的敏感数据与模型权重。其定制推理网络可在训练过程中运行推理,以便即时蒸馏和训练小模型。

TPU 8i Max 将两颗侧重推理的 TPU 8i 整合在单一封装中,内存容量、处理能力及带宽均翻倍,使模型在查询时能够处理更大范围的信息。

来源