跳到正文
NVIDIA Blog· John Fanelli·· 3 天前精选AI 评分56

NVIDIA 扩展机密计算,推出 Confidential Bare Metal 支持模型构建者跨全球基础设施扩展

NVIDIA Confidential Computing Expands, Enabling Frontier Model Builders to Securely Scale Across Global Infrastructure

AI 导读

NVIDIA 扩展 NVIDIA Confidential Computing,新增 Confidential Bare Metal 部署选项,让前沿模型构建者可在专用第三方基础设施上运行敏感工作负载,同时保留对模型和数据的控制。

推荐理由

新增的 Confidential Bare Metal 将机密计算扩展到专用第三方基础设施,帮助模型构建者在保留模型与数据控制权的同时拓展训练和推理部署选择。

正文 · AI 翻译

NVIDIA 正在构建工具,以支持在整个技术栈中安全运行智能体。NVIDIA OpenShell 参考架构于今日发布,是 NVIDIA 不断扩大的技术组合之一,可帮助组织安全地大规模部署智能体。NVIDIA 机密计算是基础设施层,可在智能体运行期间保护其所依赖的模型和数据。

今天,NVIDIA 正通过机密裸金属扩展这一层。作为 NVIDIA 机密计算的一种全新部署选项,它使前沿模型构建者能够在专用的第三方基础设施上运行敏感工作负载,同时保留对其模型和数据的控制权。 

NVIDIA 正在推出新的平台安全控制措施,以保护传输中的数据、测量平台完整性并执行硬件级访问限制。这些新控制措施使前沿模型构建者能够使用裸金属实例,在 NVIDIA 加速计算基础设施上运行时,自主管理和运营其定制软件栈,包括主机和平台基础设施软件;这些基础设施涵盖第三方云、云服务商和企业基础设施。 

阅读 NVIDIA 在欧洲的所有公告

NVIDIA 机密计算现提供融合式安全架构,包含三种部署选项: 

  • 适用于裸金属基础设施的机密裸金属
  • 适用于 Kubernetes 环境的机密容器
  • 适用于虚拟化环境的机密虚拟机

组织可根据自身的信任边界和运营要求,选择合适的模式。

NVIDIA 机密计算还将扩展至 NVIDIA Grace Blackwell 和 Rubin 系统,并将集成至 NVIDIA DSX OS,作为云服务商构建 AI 工厂的参考架构。

模型构建者利用全球算力

机密裸金属为受支持的服务商提供了服务高价值工作负载的途径,这些工作负载需要强有力的模型和数据隐私保护。对于模型构建者而言,不断扩大的生态系统提供了更多地域、主权和运营方面的选择,助力其在全球范围内扩展训练和推理。

Cohere 计划将机密裸金属集成到 Cohere Model Vault 中,利用 NVIDIA 机密计算可信执行环境,将基于硬件的安全保护直接扩展至 GPU,在执行期间保护内存中的模型和数据以及互连中的数据。

“企业信任 Cohere 能够为推理提供安全、机密的平台,”Cohere 首席技术官 Phil Blunsom 表示。“通过在 Cohere Model Vault 中采用 NVIDIA 机密计算,我们将基于硬件的安全保护直接扩展至 GPU,在执行期间保护内存中的客户数据以及互连中的数据。”

Google Cloud 正在将机密裸金属支持扩展至由 NVIDIA GB300 NVL72 系统驱动的 A4X Max 实例。这些实例将非虚拟化的 NVIDIA 加速计算与训练数据和模型知识产权的加密保护相结合。

“Google Cloud 推出 Confidential Bare Metal,为 AI 实验室提供硬件隔离、非虚拟化的计算环境和端到端加密保护。我们的 A4X 实例采用 NVIDIA Confidential Computing 构建,可保护用户数据隐私、保护模型知识产权,并提供一流的服务性能,”Google Cloud 杰出工程师兼 AI 基础设施安全负责人 Andrés Lagar-Cavilla 表示。

Confidential Computing 在 NVIDIA 平台上不断扩展

NVIDIA Confidential Computing 采用以硬件为根基的隔离和加密证明,帮助在执行期间保护模型和数据。

现在,该技术的支持范围扩展至 NVIDIA Grace Blackwell NVL72(将 Confidential Computing 引入 NVL72 机架级系统),以及基于 x86 的 NVIDIA HGX Rubin NVL8 和 NVIDIA DGX Rubin NVL8 系统。

CoreWeave、Firmus、GMI Cloud、Google Cloud、IREN、Lambda、Microsoft Azure Infrastructure、 Nebius、Nscale和Vultr支持 NVIDIA Confidential Computing 部署。包括Cisco、Dell Technologies、HPE、 Lenovo、 Supermicro和Bull 在内的全球系统合作伙伴将通过NVIDIA-Certified Systems支持这些功能。

NVIDIA DSX OS 将支持所有 NVIDIA Confidential Computing 模式,为云服务提供商构建和运营支持机密工作负载的 AI 工厂提供软件基础。

详细了解NVIDIA Confidential Computing。

阅读 NVIDIA 欧洲地区的全部公告

来源:NVIDIA Blog · blogs.nvidia.com