Google Cloud 与 NVIDIA 宣布 Vera Rubin A5X 基础设施即将开放使用
Google Cloud and NVIDIA Announce General Availability of NVIDIA Vera Rubin Infrastructure
Google Cloud 与 NVIDIA 宣布，搭载 NVIDIA Vera Rubin 的 A5X 实例计划于下月开放使用，并计划将可用范围扩展至欧洲。
WPP 初步测试中，通常需要多节点集群的工作负载可在单个 A5X 实例上运行，提供了该基础设施处理创意智能体工作流的具体实例。
这些实例将于下月正式推出，并计划扩展至欧洲，让云客户能够使用集成平台进行训练、推理和大规模强化学习。
A5X 实例整合了 NVIDIA Vera Rubin NVL72、NVIDIA ConnectX-9 SuperNIC、Google Cloud Virgo Network，以及 Google Cloud 第四代先进液冷技术，可大规模支持要求严苛的智能体推理和强化学习工作负载。Google Cloud 计划将基于 Vera Rubin 的基础设施扩展至多个站点，部署多达 960,000 个 Rubin GPU。
Ineffable Intelligence是一家总部位于伦敦的科技公司，由 AlphaGo 创造者 David Silver 创立，也是首家使用 A5X 的客户。Ineffable 正利用该平台推进大规模强化学习，并打造能够从经验中持续学习的“超级学习者”系统。
通过交互学习需要持续生成经验、评估结果并更新模型，因此需要能够大规模支持整个过程的基础设施。A5X将 Vera Rubin 集成到 Google Cloud 的 AI Hypercomputer 中，作为一套集成系统，结合计算、网络和存储，以大规模支持基于经验的学习。
“我们正在打造能够通过自身经验不断改进的超级学习者，”Ineffable Intelligence 创始人兼首席执行官 David Silver 表示。“这既需要大量算力，也需要将经验生成与基于经验的训练紧密结合，让智能体的每次改进都能迅速影响其下一次经验。Vera Rubin 兼具计算性能和高带宽连接能力，无论是在 Vera CPU 与 Rubin GPU 之间，还是在机架内的 Rubin GPU 之间，都能让我们进一步拓展强化学习研究的规模和目标。”
总部位于伦敦的营销与传播公司 WPP也演示了其在基于 NVIDIA Vera Rubin 的 A5X 实例上运行的创意智能体参考架构，该架构使用 NVIDIA Nemotron 模型和 NVIDIA OpenShell。后者是安全 AI 智能体NVIDIA OpenShell 参考架构的一部分。
这些智能体可将对话式请求转化为多步骤创意工作流，例如视频生成、升频和风格转换，并在执行前由人工审批。OpenShell 为智能体执行提供受管控的沙盒，有助于控制其对敏感品牌素材和创意工具的访问。在WPP的初步测试中，通常需要多节点集群才能运行的工作负载，在单个 A5X 实例上即可运行。
随着各组织部署智能体系统，他们需要保护为这些系统提供支持的专有模型和敏感数据，即使这些系统运行在自己并不拥有的基础设施上也是如此。
Google Cloud 将成为首批在裸金属实例上提供机架级 NVIDIA Confidential Computing 的云服务提供商之一，例如由 NVIDIA GB300 NVL72 驱动的 A4X Max 实例。此外，Google Cloud 现已在由 NVIDIA RTX PRO 6000 Blackwell Server Edition GPU 驱动的 G4 VM 上 正式推出 Confidential Computing，提供灵活的平台，用于机密推理和微调。包括 Vertebrae、Polaris Cloud 和 Confidential Core AI 在内的客户，正在使用 Confidential G4 来保护对话隐私、验证智能体执行过程，并提供受策略管控的企业智能。
为支持大规模节能部署，Google Cloud 和 NVIDIA 正在探索基于 Vera Rubin 的基础设施的 NVIDIA DSX MaxLPS 功能，以帮助优化每瓦性能，并在现有数据中心电力预算内扩充容量。
详细了解 NVIDIA Vera Rubin 和 Google Cloud A5X 实例。
来源：NVIDIA Blog · blogs.nvidia.com