NVIDIA 扩展 Cosmos 平台,推出世界模型训练、评估与部署工具
NVIDIA Cosmos Opens New Tools to Train, Evaluate and Deploy World Models
NVIDIA 扩展 Cosmos 平台,新增训练工具、仿真检查点和 Cosmos Data Factory 蓝图,帮助开发者训练、评估并部署世界模型。Cosmos Data Factory 提供五种云原生蓝图;NVIDIA 还扩展了 Cosmos Framework 对开源模型的微调、强化学习、蒸馏、量化和部署支持。
Cosmos 将数据整理、模型训练与仿真评估工具串联起来,并提供多个行业案例,呈现其面向物理 AI 开发流程的应用方式。
为了帮助开发者快速构建世界模型,这类模型能帮助物理 AI系统理解和模拟现实世界,NVIDIA 扩展了Cosmos 平台,新增训练工具、仿真检查点和 Cosmos Data Factory 蓝图。
NVIDIA Cosmos 平台在六个不同的开放模型排行榜上均跻身前五,为世界模型构建者提供前沿开放模型,以及数据、训练和优化工具与方案,助力扩展训练数据、调整模型、测试行为并在部署前优化性能。
构建更优质的训练数据
构建世界模型始于多模态、多感官数据。
NVIDIA Cosmos Data Factory汇集了用于大规模标注、整理、增强和评估数据的工具与技能,以训练物理 AI。Cosmos Curator 是一款由 GPU 加速的视频训练数据集整理解决方案,现已新增对多模态、多感官输入和处理模块的支持。
Cosmos Data Factory 现提供以下五种云原生蓝图,并可通过GitHub、Microsoft Azure、Nebius和CoreWeave获取:
- 自动驾驶车辆数据集生成:整理并标注驾驶数据,然后添加难以捕捉场景的合成示例,以扩大训练覆盖范围。
- 图像属性增强:改变物体外观,改进图像搜索。
- 事件视频生成:将静态图像转换为罕见或危险事件的合成视频。
- 缺陷图像生成:生成印刷电路板、金属和玻璃缺陷图像,供检测模型使用。
- 视频数据增强:改变现有视频素材中的天气和光照,同时保留场景结构。
Cosmos Data Factory 借助智能体技能加速数据整理、处理和合成数据生成。
各家公司已开始利用 Cosmos Data Factory 蓝图,加快其物理 AI 开发工作流程。
Porsche正通过Voxel51在Microsoft Azure 上使用 Cosmos Data Factory,率先为Volkswagen Group 旗下品牌开发共享的自动驾驶数据飞轮。预计这将使重复的实地试驾减少多达 90%,并将开发周期缩短多达 85%。
Porsche 在 Voxel51 中搜索和增强自动驾驶车辆视频素材,由 Cosmos Data Factory 提供支持。
ANYbotics利用 Cosmos Data Factory 蓝图生成了 1,500 多个合成视频片段,整理真实世界数据,并通过Encord 的 平台验证输出结果,以训练其工业检测机器人识别液体泄漏,以及设施两次巡检之间出现的其他变化。
ANYbotics 使用 Encord 和 NVIDIA Cosmos Data Factory 生成异常片段。
Ultralytics 是一家计算机视觉公司,使用真实图像和通过 Cosmos Data Factory 生成的针对性合成缺陷重新训练其 YOLO 模型,从而提升了缺陷定位能力和召回率。
训练、适配和优化模型
准备好训练数据后,开发者可以训练自己的架构,也可以从预训练模型开始。
在柏林 GTC 大会上,NVIDIA 将 Cosmos Framework 的训练、优化和部署工具及配方作为智能体技能扩展到更多开放模型,并推出 Cosmos 3,为世界模型构建者提供从实验到部署的更快捷路径。
开发者和智能体现在可以通过微调和强化学习,适配 GR00T、Alpamayo、QWEN、Pi0.5 以及其他兼容的 Hugging Face 模型;通过蒸馏和量化优化模型,并以高性能推理方式进行部署。

为了开发专用于第一人称操作的世界模型,机器人研究实验室 MicroAGI 使用人类操作物体的视频对 Cosmos 3 进行后训练,并将其 320 亿参数的推理模型蒸馏为 80 亿参数的 Nano 模型,准确率毫无损失。
开发者可以在 Roboflow 上标注数据并对 Cosmos 3 进行后训练,使其适用于特定环境和任务,然后将这些模型部署到 RoboFlow 托管的 NVIDIA GPU 或本地部署的 NVIDIA GPU 上,将视频推理引入工厂和仓库。
测试策略并加速模型运行
除了这些工具,NVIDIA 还在持续推进 Cosmos 模型相关工作,以发展基础技术。
全新 Cosmos 3 Nano 模型变体适用于仿真,可帮助开发者在可重复、难以捕捉的多视角多传感器场景中测试自动驾驶策略。配套代码允许开发者在交互式仿真中适配模型,以训练和评估自动驾驶汽车及双臂机器人的策略,然后再进行真实世界测试。

开发者可以使用更新后的 NVIDIA Cosmos 3 NIM 微服务部署核心 Cosmos 模型;在经过验证的配置中,这些微服务可在不损失质量的情况下实现最高 2 倍的推理速度,而持续视频分析则可实现亚秒级警报。
对于视觉 AI 开发者,全新的 NVIDIA Metropolis Blueprint for video search and summarization (VSS) 3.3 基于 Cosmos NIM 微服务构建,可通过一个提示词构建高效的视频 AI 应用,并帮助团队在使用相同 GPU 的情况下监控多 40% 的视频流。
ADNOC 使用 Fogsphere 基于 Cosmos 和 NVIDIA Metropolis VSS Blueprint 构建的 MistIQ 智能体平台,在 65 个站点实时检测安全隐患。对于罕见事件,Fogsphere 还使用 Cosmos Data Factory 生成合成训练数据,无需实地制造危险情境即可提升检测能力。
Cosmos 平台完全模块化且开放。开发者可以使用 Cosmos Data Factory 生成训练数据集,使用 Cosmos Framework 训练和适配世界模型,然后通过 NIM 微服务部署受支持的 Cosmos 模型。
来源:NVIDIA Blog · blogs.nvidia.com