谷歌第八代TPU再添两款,联手AMD打造安全与机密推理TPU
谷歌扩充第八代TPU产品阵容,新增与AMD合作、面向安全与机密推理的TPU 8tx,以及通过双芯片封装提升计算、SRAM和HBM带宽的TPU 8i Max;加上8t和8i,今年共推出四款系统。谷歌上月还开源TorchTPU,使PyTorch代码可原生运行在TPU上。
推荐分析:谷歌新增两套专用TPU系统,使竞争比较不只看单芯片规格,也看能否按机密推理或大上下文组合资源。 系统化设计把芯片、内存、网络和安全机制纳入模块化系统,有助于按负载配置资源,缓解长上下文内存瓶颈并保护敏感数据。 材料支持的是产品定位、架构能力和软件支持,尚不能证明相关吞吐、延迟与软件能力已在真实生产环境兑现。