Nvidia 发布面向企业 Agent 和 PC 的 Nemotron 3.5 开放权重模型

Nvidia 周四推出了专为全天候运行的智能体和边缘计算设计的开放权重模型。

Nemotron 3.5 Super VL 是一款拥有 1200 亿参数的大型模型，面向企业使用的智能体。虽然它的参数量少于 Nemotron 3 Ultra 模型，但 Nvidia 表示，它在指令遵循和工具使用任务上的准确率与之相近。

在另一端，该公司还推出了两款轻量级 Bolt 模型。这些模型旨在新款 AI PC（搭载 Nvidia RTX Spark 芯片）和运行 DGX Spark 的工作站上本地运行。这类 PC 面向消费者、程序员和企业知识工作者，目前正通过 Microsoft 和 Dell 等合作伙伴陆续推向市场。

Nvidia 开放模型与软件副总裁 Kari Briski 在宣布这些模型的博客文章中写道：“任何希望在 Nvidia 基础设施上运行智能体的组织，现在都能为自身需求找到一款开放、经过优化的模型，无需在能力和可部署性之间做出取舍。”

Nvidia 声称，在针对特定智能体任务进行后训练后，Super VL 完成任务的速度快于 Anthropic 和 OpenAI 的竞品模型（Opus 5、GPT 6.1 Sol、Luna、Astra）。这些任务包括文档智能、财务会计、科学实验、医疗保险理赔以及安全攻击韧性。

大型科技公司每次发布新模型时都会提出类似说法，但 Nvidia 列出了一批知名企业作为佐证，称它们正在使用 Super VL。这些企业包括 Skydance、EY、Ramp、Crowdstrike、Perplexity 和 Salesforce。

当然，这并非 Nvidia 首次发布可与专有前沿模型实验室竞争的开放权重模型——这些实验室既是 Nvidia 的客户，也是其投资对象。这家 GPU 巨头拥有完整的 Nemotron 模型系列，涵盖多模态人工智能、推理、编程、数学和企业自动化等领域。

然而，这些快速发展的专有 AI 实验室如今正寻求 Nvidia 以外的更多芯片和 AI 系统供应商来满足需求（例如 AWS 的 Trainium 和 Cerebras），也在打造自己的芯片。

因此，Nvidia 正大力顺应企业希望在自有数据中心运行自有开放模型的趋势。Briski 写道：“与封闭式前沿模型不同，组织可以用自己的数据对 Super VL 进行后训练，在自己的基础设施上部署，并拥有自己构建的成果。”

不过，随着这次发布更小型的本地 PC 模型，Nvidia 也试图推动尚处起步阶段的消费级 AI 助手趋势。尽管创业公司和大型科技公司似乎每天都在推出新的 AI 助手，但注重隐私的消费者可能不愿让这类智能体如此深入地介入生活，向其开放有关家庭、健康、财务等方面的信息。

因此，Nvidia 希望通过打造可在本地运行模型和智能体的机器，开辟一个由其芯片驱动的 PC 新市场。Briski 写道，PC 用户“可以委托处理日常项目……而无需将这些工作负载发送到云端”。

在两款 Bolt 模型中，Nemotron 3.5 Bolt 74B-A9B 24GB 是一款拥有 74 billion 参数、专为本地智能体任务设计的模型。它旨在平衡速度与推理能力，以处理多步推理、工具调用和网页浏览。最小的 Bolt E4B 则面向对话智能体。

Nvidia 表示，Super VL 和 Bolt 74B-A9B 现已推出，Bolt E4B 将于本月晚些时候推出。

当您通过我们文章中的链接购买商品时，我们可能会获得少量佣金。这不会影响我们的编辑独立性。

Julie Bort 是 TechCrunch 创业公司/风险投资编辑部的编辑。

您可以发送电子邮件至 [email protected]，或在 X 上通过 @Julie188 联系 Julie 或核实其发出的联络信息。