跳到正文
NVIDIA Blog· Stuart Pitts·· 3 天前精选AI 评分51

NVIDIA云合作伙伴扩展欧洲AI基础设施,推进开放与安全智能体部署

NVIDIA Cloud Partners Scale Across Europe — Sovereign, Open and Built for Safe AI Agents

AI 导读

NVIDIA云合作伙伴正在欧洲、北欧、非洲和中亚扩展区域AI算力,支持模型训练、推理以及智能体和物理AI应用开发。Nscale测试显示,在相同供电预算下,NVIDIA DSX MaxLPS可支持多37%的GPU,并将总体推理吞吐量提高近50%。

推荐理由

文章从算力供给、开放模型服务和智能体安全边界三个层面,梳理欧洲 AI 云合作伙伴如何支撑训练、推理与生产部署。

正文 · AI 翻译

AI 原生企业的需求正以前所未有的速度推动欧洲 AI 云生态发展。开发者需要更靠近数据的算力、可定制且能大规模部署的开放模型,以及从设计之初就安全可靠的全栈基础设施。 

NVIDIA 云合作伙伴遍布欧洲、北欧、非洲和中亚,正在扩大区域算力容量,用于模型训练和推理,帮助开发者构建智能体 AI 和物理 AI 应用,并为智能体可访问和执行的内容设定边界。

他们携手将欧洲的能源、数据、研究和工业专长转化为生产力智能——支持新模型、应用、组织和就业机会,同时让人们更好地掌控 AI 的开发和部署地点与方式。

阅读 NVIDIA 在欧洲的全部公告

主权计算:构建欧洲 AI 基础设施的 AI 云

欧洲拥有世界一流的研究实力、工程人才、工业专长、数据,以及新一代模型和应用;这些都需要在知识所在之处附近进行大规模计算。区域 AI 云提供基础设施基石,让模型开发者、企业和整个行业得以发展。

随着 AI 工厂规模不断扩大,电力成为制约因素,因此让每一瓦电力都能产出更多智能至关重要。 Nscale 正在使用 NVIDIA DSX 平台,根据工作负载需求协调电力分配。在使用 NVIDIA GB300 NVL72 系统进行的测试中,Nscale 展示了 NVIDIA DSX MaxLPS 能够在相同的供电预算下多支持 37% 的 GPU,并将总体推理吞吐量提高近 50%。 

Nscale 还计划部署 NVIDIA Vera Rubin 基础设施,用于前沿模型训练和生产工作负载,并通过其全栈垂直整合平台支持领先的模型和应用开发者,同时将业务拓展至欧洲五个市场。

Crusoe 正在开发 Spark,这是一系列采用液冷设计、面向 NVIDIA Vera Rubin 平台的模块化 AI 工厂,旨在将 Crusoe Cloud 算力部署到更靠近用户的位置,以实现低延迟 AI 推理。Crusoe Cloud 为 EMEA 地区领先的模型和应用开发者提供服务,包括 Base44、Gradium、LTX 和 Wonderful。

Aleria、 Cassava Technologies、Firebird、G42、Radiant、SWI Compute 和 Vultr 也在欧洲、北欧、非洲和中亚开发并扩展由 NVIDIA 提供支持的 AI 基础设施。 

AI 云提供的区域算力整合了全栈 NVIDIA DSX AI 工厂平台,包括 NVIDIA Vera Rubin、NVIDIA BlueField 和 NVIDIA Spectrum-X 以太网网络,为客户提供更大的选择空间和掌控力,让其自行决定工作负载和数据的存放位置,同时推动主权计算服务和经济增长。 

开放:从训练到推理的模型与库 

在整个生态系统中,AI 云正在扩展由 NVIDIA 提供支持的基础设施和服务,帮助开发者利用开放模型和库构建应用。这些新增算力支持模型训练、针对专门任务的微调以及大规模推理,包括部署在边缘的应用。

对于生产级推理,Nebius已采用 NVIDIA Groq 3 LPX,并使用 Spectrum-X Ethernet 网络将其与 Vera Rubin NVL72 集成到 Nebius Token Factory 上。通过该平台托管的无服务器端点、专用端点以及熟悉的应用程序编程接口,这一组合将为对延迟敏感的应用和智能体系统带来更快的令牌生成速度。

在机器人和物理 AI 领域,Nebius提供专为此打造的 AI 云解决方案,其中包括其全栈 Physical AI Workbench。包括 Rhoda AI、RoboForce和 Sereact在内的机器人公司正在该平台上进行开发。该公司还在 Nebius 基础设施上推出了三个 NVIDIA 零售智能体蓝图,涵盖库存、门店运营和微调,并开放早期体验。

Nebius 正借助其 Physical AI Living Lab 在整个欧洲大陆广泛拓展云服务,并在德国作为 SPRIND(联邦突破性创新局)Next Frontier Challenge 的计算机供应商。  

Baseten利用 Nemotron 3.5 Lightning 开发了用于代码审查路由的专用模型,该模型由 CodeRabbit使用。通过监督微调和强化学习,CodeRabbit 将路由一致率从 75.8% 提高至 80.7%,同时使评估工作负载的预估推理成本降低了 50%。这些结果表明,AI 开发者能够针对专门任务定制 NVIDIA 开放模型,同时提高准确性和推理效率。

Fireworks与Era4正携手将开放模型带给英国和欧洲的企业。此次合作将Fireworks的模型训练与推理平台,与 Era4位于 Chesterfield 设施、由 NVIDIA Blackwell Ultra GPU 提供支持的直接液冷算力相结合,为金融服务、保险和生命科学领域的企业 AI 解决方案计划提供支持。

Mistral正在扩展其 NVIDIA 加速计算基础设施,以支持模型训练、定制和推理。此次扩展包括计划于 2027 年交付的 NVIDIA Vera Rubin 基础设施。Mistral Large 4 在由 Mistral运营的欧洲数据中心中,使用 3,800 个 NVIDIA Grace Blackwell GPU 进行训练,是该公司最新的前沿多模态模型,在编码、智能体工作流和多模态理解方面进一步提升了能力。

Verda计划部署 NVIDIA Vera Rubin,并将继续推广开放权重模型;NVIDIA Nemotron和NVIDIA Cosmos已投入生产,同时使用NVIDIA Dynamo开源框架优化推理。

Safe:从芯片到软件,为 AI 智能体构建安全边界

随着开发者将模型连接到工具和业务系统,他们也需要控制智能体能够访问和执行的操作。

在 GTC Berlin 上宣布的 NVIDIA OpenShell 参考架构 得到了 AI 云生态合作伙伴的支持。该架构基于 NVIDIA OpenShell 安全运行时软件构建,旨在让组织能够全面控制 AI 智能体的部署,明确界定智能体可以访问和执行的操作。

NVIDIA Vera Rubin NVL72 用于模型推理,NVIDIA Vera CPU 搭配 OpenShell,用于智能体运行框架和工具调用;NVIDIA BlueField-4 DPU 则运行 NVIDIA Sentry,在芯片层面实施管控。三者各司其职,共同实现这种控制,让智能体能够完成预定任务,同时不越过人们为其设定的边界。

包括 Aleria、Baseten、Cassava、CoreWeave、Crusoe、DigitalOcean、Firebird、Fireworks、Firmus、G42、GMI Cloud、IREN、Lambda、Lightning AI, Nebius、Nscale、Radiant Verda 和 Vultr 在内的合作伙伴,正支持 OpenShell 参考架构,为客户提供安全的智能体部署方案。

欧洲各地的 AI 云服务商正将区域基础设施投资与 AI 的构建和部署工作连接起来。扩大的算力让开发者有更多地方运行工作负载。模型和推理服务则帮助他们利用这些算力。随着应用投入生产,智能体控制机制可明确规定应用获准执行的操作。

了解 NVIDIA Cloud Partners提供的基础设施和服务,以及用于智能体部署控制的 OpenShell 参考架构。

阅读 NVIDIA 在欧洲的全部公告

来源:NVIDIA Blog · blogs.nvidia.com