跳到正文
NVIDIA Blog· Gerardo Delgado·· 3 天前精选AI 评分67

NVIDIA 在 GTC Berlin 展示本地 AI 硬件、模型与软件更新

Bringing the Spark to Europe: Local Intelligence Powers Next Wave of Agents

AI 导读

NVIDIA 在 GTC Berlin 展示 RTX Spark、DGX Spark 和 DGX Station 的本地 AI 更新,涵盖智能体、模型支持、集群部署与推理加速。

推荐理由

文章梳理了 RTX Spark、DGX Spark 与 DGX Station 的本地 AI 更新,并列出设备规模、软件和模型支持的差异,便于比较不同场景下的部署选择。

正文 · AI 翻译

在 GTC Berlin 上,NVIDIA 展示了其完整的本地 AI 硬件产品线。RTX Spark于上周发布,可在 Windows PC 上运行个人智能体;DGX Spark支持开发者在 Linux 上构建和扩展应用;DGX Station则面向在 Linux 上运行前沿工作负载的企业团队,Windows 版本将于 12 月推出。

公告包括:

  • Underdog Desktop Agent 现已支持 RTX Spark
  • DGX Spark 64GB 将于 10 月 23 日(周五)上市
  • NVIDIA Sync 将支持八台 DGX Spark,并于本月新增 Model Launcher
  • 10 月 DGX Spark 软件更新新增 Wi-Fi Assistant,并更新 DGX Spark Skills
  • DGX Station 新增七项集成,提升可管理性
  • 面向 Windows 的 DGX Station 将于 12 月推出,支持多款制造业应用和智能体运行框架
  • 面向 DGX Station 的三种全新开源机器人参考工作流
  • NVIDIA Cloud Functions 即将以抢先体验版登陆 DGX Station
  • Recursive Flint 是一款全新的本地编码模型,现已适用于 NVIDIA 本地硬件
  • 首日支持全新的 Nemotron、GLM、DeepSeek、Qwen、MiniMax 和 FLUX.3 AI 模型
  • 为 llama.cpp 和 vLLM 推理引擎带来全新加速,并推出一系列针对本地 AI 硬件优化的检查点。

在下方了解这些本地 AI 公告的更多信息,并查看 GTC Berlin 的演示和 专题会议。

阅读 NVIDIA 欧洲公告全文

RTX Spark 将个人智能体带到 Windows PC

RTX Spark 为 PC 开启全新篇章——凭借最高 128GB 统一内存和 1 petaflop AI 算力,运行个人智能体、加速内容创作,并支持以 1440p 分辨率实现每秒 100 帧的游戏体验。

以下是早期评测者对该平台自 10 月 16 日发布以来的评价:

“严肃创作者的梦想机器…… ” — CGMag

“为 AI 的未来而设计…… ” — The Verge

“一台能力极强、出乎意料地便携且高效的机器…… ” — PCMag

Underdog是一款专为完全本地、私密 AI 打造的全新桌面智能体应用,也将把其体验带到 RTX Spark。Underdog 由其针对模型的 Husky 推理引擎驱动,可完全在设备上运行模型,因此个人智能体能够完成工作,而用户数据绝不会离开 PC。Underdog 现已开放下载。

为更好地支持开发者和爱好者构建并定制本地智能体,许多 RTX Spark 笔记本电脑均配备解锁的引导加载程序。

在 GTC 主题演讲中,NVIDIA 创始人兼首席执行官 Jensen Huang 展示了如何利用运行于 RTX Spark 上的 AI 智能体,通过 NVIDIA Isaac Lab、Hermes Agent 和 Nemotron 3.5 Bolt 74B 训练Hugging Face 的 Microduck 机器人。

ASUS、Dell Technologies、HP、Lenovo、Microsoft 和 MSI 的笔记本电脑现已上市,Acer 产品即将推出。

详细了解 RTX Spark,并通过最新的 RTX Spark 指南开始使用。

DGX Spark 为开发者提供构建空间

全新 DGX Spark 64GB 系统——可运行 Nemotron 3.5 Bolt 74B 24GB、Qwen3.8 27B 和 Gemma 4 26B-A4B 等模型——将于 10 月 23 日(星期五)起由合作伙伴陆续推出。

当工作负载需要更大容量时,开发者可以通过内置的 NVIDIA ConnectX-7 网络和 NVIDIA Sync Cluster Assistant连接多台 DGX Spark 系统。这样,用户便可以运行 Qwen 3.8 Flash Next、DeepSeek v4 Flash 0731 和 GLM 5.3 Flash 等先进的编码模型。

现在,DGX Spark 支持通过手动配置组成最多包含八台设备的集群,从而运行更大的模型、处理更长的上下文、并发运行智能体并进行分布式开发。它非常适合由小型团队共享单个集群作为后端,让每位开发者都能针对同一模型运行并发会话;系统提供 1TB 统一内存,足以运行 GLM 5.3 等前沿级模型。

通过 DGX Spark 集群指南开始使用。

NVIDIA Sync Model Launcher 也将于本月晚些时候推出。它简化了在单台 DGX Spark 或集群上使用本地 AI 的流程。只需点击几下,Model Launcher 就会下载适合相应配置的模型和容器,并将模型连接到 OpenCode。它还会自动加载 DGX Spark Skills,提供故障排除、设备维护、官方文档访问及其他工作流程指导。

10 月的 DGX Spark 软件更新推出了全新的 Wi-Fi Assistant,用户可在 DGX Spark 以设备模式运行时切换网络。此外,DGX Spark Skills 可通过 OpenCode 在 NVIDIA Sync 中直接提供面向工作流程的故障排除和设备维护指导。

DGX Spark 系统可直接从 Acer、ASUS、Dell Technologies、GIGABYTE、HP、Lenovo、MSI 和 NVIDIA 购买。

DGX Station 将前沿智能带到桌面

对于规模更大的团队,DGX Station 提供 748GB 一致性内存和最高 20 petaflops 的 AI 性能,使开发者能够运行 GLM 5.3 等先进模型,并以媲美云端模型的速度为 30 多位用户提供服务。为进一步扩展规模,NVIDIA Sync 现已支持 DGX Station,可简化两台基于 Linux 的系统之间的连接。

与 Absolute Security、Splunk by Cisco、Fleet Device Management、Microsoft Intune、Perforce Puppet、Progress Software Chef 和 Tanium 的全新集成,使 IT 团队能够通过企业级设置、管理和合规流程管理 DGX Station 系统,从而加快审批并降低部署风险,同时缩短首个 token 的生成时间。

借助即将推出的基于 Windows 的系统,开发者可以构建工作流,利用专业应用程序,在 NVIDIA RTX PRO GPU 上运行,并通过在 NVIDIA GB300 系统上运行大型语言模型(LLM)的智能体来操作——所有这些都在一台机器上完成。

适用于 Windows 的 DGX Station预计将于 12 月由系统制造商合作伙伴推出,它将本地 AI 扩展到企业已在使用的应用程序和操作环境中。工程师可以在 Windows 原生软件中运行本地模型和智能体,并在同一系统上访问 AI 模型、工具和智能体。

适用于 Windows 的 DGX Station 将支持来自以下厂商的制造应用程序: nTop、Dassault Systèmes、 Keysight Technologies、MathWorks、Rockwell Automation、Siemens、Synopsys、Unity 和 Altera,用于 AI 引导的设计、仿真、验证和工程自动化。用户将能够在本地部署环境中使用 Hermes Agent、Perplexity 或 Aible 运行智能体,以便在企业环境中进行智能体式控制。

同样的本地受控计算模式也适用于机器人技术。DGX Station 为机器人团队提供专用计算资源,用于后训练、仿真和评估,无需等待共享基础设施,从而缩短迭代周期。

NVIDIA 发布了三个开源参考工作流,将 GPT-6 Astra、NVIDIA Isaac Lab、Isaac Lab-Arena 和 Cosmos 引入 NVIDIA DGX Station。开发者可以利用这些工作流,通过强化学习改进 GR00T 1.7 模型、训练灵巧操作技能,并对 Cosmos 世界模型进行后训练以生成合成数据。

NVIDIA Cloud Functions 即将以早期访问形式登陆基于 Linux 的 DGX Station。团队可以在共享目录中注册本地模型端点,并通过一个兼容 OpenAI 的入口访问这些端点。 

开发者可以升级端点背后的模型,而无需更改应用程序代码;团队成员则可以使用共享模型,无需直接访问机器。这使 DGX Station 成为团队可在本地控制的推理服务。  

DGX Station 为 AI 工厂开发带来本地迭代能力。在 GTC Berlin 展会现场,NVIDIA 正在预览运行于 DGX Station 上的 DSX OS,以便在完整基础设施就绪前模拟 AI 工厂运营。另一项演示将展示 DGX Station 系统如何为 30 多名软件开发者提供本地令牌工厂的算力。

DGX Station 系统今日开始发货,来自 ASUS、Dell Technologies、GIGABYTE、HP、MSI、Supermicro和Exxact。搭载 Windows 的 DGX Station 系统预计将于今年晚些时候开始发货,来自 ASUS、Dell Technologies、GIGABYTE、HP、MSI 和Supermicro。 

隆重推出 Recursive Flint——为 RTX Spark 优化的新型本地编码模型

今天,前沿 AI 实验室 Recursive Superintelligence 发布了 Recursive Flint,这是一款专为快速、准确编码打造的本地 LLM。Recursive Flint 是一款拥有 400 亿参数的 混合专家模型,活跃参数为 25 亿,推理速度快,并且在 SWE-Bench Pro v2、Terminal-Bench 2.1 和 SWE-bench verified 等智能体编码基准测试中表现出色。

Recursive Flint 使用 Recursive 的 Eureka Machine 构建,这是一个用于大规模自动化 AI 研究的系统。它可自动完成整个研究循环:提出想法、实现想法、运行实验以验证想法,并根据结果决定下一步尝试什么——由此创建的专用内核使 Flint 在 RTX Spark 上的生成速度提升了 55%,且未改变模型权重。

开发者可以在 Hugging Face 上 下载开放权重 ,遵循 Apache 2.0 许可证,并在 RTX Spark 和 DGX Spark 系统以及 GeForce RTX 和 RTX PRO GPU 上运行模型。开发者还可以使用 NeMo Automodel 对模型进行后训练,包括监督微调和低秩适配,即 LoRa,以及使用 NeMo RL 进行组相对策略优化。 

新增支持首日即可用的新模型

NVIDIA 还将为 NVIDIA Nemotron Bolt E4B 4B、GLM、DeepSeek、Qwen、MiniMax、Liquid AI 的 LFM2.5-24B-A2B,以及 FLUX.3 Klein 扩散模型新增首日模型支持。 

Nemotron Bolt E4B 4GB 将自然对话和多轮智能体技能压缩到仅需 4GB 内存,可在 NVIDIA GeForce RTX GPU、NVIDIA Jetson 设备以及 RTX 和 DGX Spark 上,为快速本地语音助手、交互式游戏角色和嵌入式界面提供支持。Bolt E4B 4GB 将于 10 月 23 日星期五发布。 

Black Forest Labs 的 FLUX 3 Image Klein 是一款拥有 56 亿参数的开放权重图像模型,可用于生成和编辑图像。经过 NVIDIA 优化的版本可在显存仅为 8GB 的 GeForce RTX GPU 上运行,并能在 RTX 5090 GPU 上约 4 秒生成一张 1 百万像素的图像。

MiniMax M3.1 Flash 是一款面向 NVIDIA DGX Station 和 DGX Spark 打造的新型开放模型,将长上下文 AI 带到桌面端。Liquid AI 的 LFM2.5-24B-A2B 是一款开放权重推理模型,每个 token 仅激活其 240 亿参数中的 20 亿,因此速度足够快,可直接在 PC 上运行私有、可调用工具的 AI 智能体。

此外,NVIDIA 发布了全新的模型检查点集合,针对本地 AI 硬件上的 RAM 效率进行了优化,让前沿级开放模型运行时仍有足够内存留给 KV 缓存。每个检查点都经过量化,同时保持接近全精度的准确度;首批包括可在单台 DGX Spark 128GB 或 RTX PRO 6000 上运行的 Qwen3.8-Flash-Next-FP4-Local,以及可在两套系统上运行的 GLM-5.3-Flash-FP4-Local。

开发者可在首日使用 NeMo AutoModel 在 DGX Spark 和 RTX Spark 上进行后训练,并可参考 Nemotron Bolt E4B、Flux 3 Image Klein 等示例方案。 

加速 AI 推理

NVIDIA 持续与 llama.cpp 和 vLLM 开源社区合作,加速本地硬件上的智能体工作负载。

在 llama.cpp 中,针对 Qwen 3.8 Flash Next 新增的 MTP 投机解码支持,让 NVIDIA RTX PRO 6000 Blackwell 上的端到端智能体任务速度提升至 1.4 倍。

在 vLLM 中,更快的投机解码和面向 Qwen 线性注意力层的全新 FlashInfer 预填充内核,让 DGX Spark 上使用 Qwen3.8 27B 执行智能体任务的速度提升至 1.3 倍。在 DGX Station 上,GLM 5.3 Flash 的吞吐量最高提升 1.2 倍。

查看 NVIDIA 本地 AI 推理方案,体验这些最新优化。

在 X、Instagram、TikTok 和 Facebook 上关注 NVIDIA RTX Spark,并订阅 NVIDIA Local AI 新闻简报,及时了解最新信息。在 LinkedIn 和 X 上关注 NVIDIA Workstation。 

请参阅 说明,了解软件产品信息。 

阅读 NVIDIA 在欧洲的所有公告

来源:NVIDIA Blog · blogs.nvidia.com