Google 开源 TorchTPU，支持 PyTorch 应用迁移至 TPU

周二，Google 宣布，其备受期待的 PyTorch 版本 TorchTPU 现已作为开源项目推出。借此，Google 加入 Amazon，试图打破 Nvidia 对 AI 行业的钳制。在这个行业中，大多数 AI 应用默认都是为运行在 Nvidia 的芯片（即 GPU）上而编写的。

PyTorch 是一款广受欢迎的开源工具包，AI 应用开发者和初创公司用它来构建、训练和运行 AI 模型。据一些说法，85% 的 AI 应用都在使用它。PyTorch 最初由 Meta（当时名为 Facebook）于 2016 年开发，那时距离世人意识到 LLM 将改变世界还早得很。当时，Nvidia 的 GPU 已经是 AI 研究的标准硬件，因此 PyTorch 的许多功能都是专门为与之配合而构建的。2022 年，Meta 将 PyTorch 移交给了 Linux Foundation，这是一家管理许多重要开源项目的非营利组织。

Google 的版本 TorchTPU 可让 AI 应用运行在 Google 的 AI 芯片上，这些芯片称为张量处理单元（TPU）。它还让现有 PyTorch 应用能够轻松迁移到 TPU 上，从而迁移到 Google Cloud。开发者只需简单更改配置，无需重写应用即可完成迁移。

Amazon 周一发布了自己的 PyTorch 版本 TorchNeuron，并作出了类似宣布，TorchNeuron 可让 AI 应用无需重写即可移植到 Amazon 自主研发的 AI 芯片 Trainium，以及 AWS。Amazon 还表示，它正在采取更进一步的措施，以削弱 Nvidia 对 PyTorch 的掌控。它正向 PyTorch 主项目提交代码，将各种功能与 Nvidia 芯片解耦，使其默认能够更开放地支持任意硬件。

不过，Google 可能在几个方面更胜一筹。它表示，曾与 Meta、Hugging Face、Inferact（vLLM 的开发者）、RadixArk（SGLang 的开发者）等直接合作，以确保 TorchTPU 的功能和代码库能与这些流行的 AI 开发工具良好配合，就像原版 PyTorch 一样。

此外，这家搜索巨头还推出了一款专用工具——TPU agent suite，帮助开发者将应用迁移到 Google 的芯片和云平台，并在过程中修复错误。它甚至更新了广受欢迎的 LiteRT 工具，让它在手机、笔记本电脑和嵌入式设备上运行 AI 的同时，能更好地支持 PyTorch AI 应用。

这并不意味着 AI 应用开发者会仅仅因为现在能轻松迁移到其他芯片和云平台，就大规模放弃 Nvidia 硬件。但显然，Amazon 和 Google 正在努力终结 Nvidia 的优势。

通过我们文章中的链接购买商品时，我们可能会获得少量佣金。这不会影响我们的编辑独立性。

Julie Bort 是 TechCrunch 初创公司/风险投资版块的编辑。

如需联系 Julie 或核实她发出的联系信息，请发送电子邮件至 [email protected]，或通过 X 上的 @Julie188 联系她。

查看简介