谷歌开源TorchTPU,联手Meta等推进PyTorch原生支持TPU,加速打破英伟达AI芯片垄断

SmartHey10月23日消息,谷歌于当地时间周二宣布,面向其自研张量处理单元(TPU)的原生PyTorch框架——TorchTPU,已在GitHub正式开源。此举标志着谷歌与亚马逊同步发力,共同推动人工智能生态摆脱对英伟达GPU的深度依赖,挑战其在AI算力领域的长期主导地位。当前,绝大多数AI模型训练与推理仍默认基于英伟达GPU构建和运行。

PyTorch作为全球最主流的开源AI开发框架之一,被广泛应用于模型搭建、训练与部署,尤其深受开发者与AI初创企业青睐。数据显示,约85%的AI项目采用PyTorch。该框架由Meta于2016年推出,彼时大语言模型尚未兴起,而英伟达GPU已确立为AI研究的事实标准硬件,因此PyTorch早期大量核心功能均围绕CUDA生态深度优化。

2022年,Meta将PyTorch移交至Linux基金会托管,由这一中立开源组织统筹发展,为跨厂商硬件适配奠定治理基础。

此次发布的TorchTPU,使PyTorch应用可原生运行于谷歌TPU,并支持零代码重写式迁移——开发者仅需调整少量配置,即可将现有模型快速部署至TPU及谷歌云平台,显著降低硬件切换门槛。

几乎同期,亚马逊于当地时间周一发布TorchNeuron,其功能定位类似:让PyTorch模型无缝运行于亚马逊自研AI芯片Trainium及AWS云环境。更进一步,亚马逊正向PyTorch主仓库提交关键补丁,系统性解耦框架与英伟达专有技术(如CUDA),推动PyTorch向真正硬件中立演进。

值得注意的是,谷歌在生态协同层面采取了更深度整合策略:联合Meta、Hugging Face、Inferact(vLLM开发方)、RadixArk(SGLang开发方)等头部AI工具链伙伴,确保TorchTPU在功能完整性、API一致性及工具兼容性上全面对标原版PyTorch,实现开箱即用的开发体验。

此外,谷歌还推出TPU智能体套件(TPU Agent Suite),提供自动化迁移诊断、错误定位与修复建议;并升级轻量级推理引擎LiteRT,增强对PyTorch导出模型的支持能力,使其更高效地运行于手机、笔记本及边缘设备等资源受限场景。

尽管短期内AI开发者不会因迁移便利性而大规模弃用英伟达硬件,但谷歌与亚马逊的系列动作,正从框架层、芯片层与云服务层协同推进去“CUDA化”,加速构建多元、开放、可互操作的下一代AI基础设施生态。