跳到正文
NVIDIA Blog· Pranjali Joshi·· 2 天前精选AI 评分65

NVIDIA 扩展 Cosmos 平台,推出世界模型训练、评估与部署工具

NVIDIA Cosmos Opens New Tools to Train, Evaluate and Deploy World Models

AI 导读

NVIDIA 扩展 Cosmos 平台,新增训练工具、仿真检查点和 Cosmos Data Factory 蓝图,帮助开发者训练、评估并部署世界模型。Cosmos Data Factory 提供五种云原生蓝图;NVIDIA 还扩展了 Cosmos Framework 对开源模型的微调、强化学习、蒸馏、量化和部署支持。

推荐理由

Cosmos 将数据整理、模型训练与仿真评估工具串联起来,并提供多个行业案例,呈现其面向物理 AI 开发流程的应用方式。

正文 · AI 翻译

为了帮助开发者快速构建世界模型,这类模型能帮助物理 AI系统理解和模拟现实世界,NVIDIA 扩展了Cosmos 平台,新增训练工具、仿真检查点和 Cosmos Data Factory 蓝图。 

NVIDIA Cosmos 平台在六个不同的开放模型排行榜上均跻身前五,为世界模型构建者提供前沿开放模型,以及数据、训练和优化工具与方案,助力扩展训练数据、调整模型、测试行为并在部署前优化性能。 

构建更优质的训练数据

构建世界模型始于多模态、多感官数据。

NVIDIA Cosmos Data Factory汇集了用于大规模标注、整理、增强和评估数据的工具与技能,以训练物理 AI。Cosmos Curator 是一款由 GPU 加速的视频训练数据集整理解决方案,现已新增对多模态、多感官输入和处理模块的支持。

阅读 NVIDIA 在欧洲的全部公告

Cosmos Data Factory 现提供以下五种云原生蓝图,并可通过GitHub、Microsoft Azure、Nebius和CoreWeave获取:

  • 自动驾驶车辆数据集生成:整理并标注驾驶数据,然后添加难以捕捉场景的合成示例,以扩大训练覆盖范围。
  • 图像属性增强:改变物体外观,改进图像搜索。
  • 事件视频生成:将静态图像转换为罕见或危险事件的合成视频。
  • 缺陷图像生成:生成印刷电路板、金属和玻璃缺陷图像,供检测模型使用。
  • 视频数据增强:改变现有视频素材中的天气和光照,同时保留场景结构。

Cosmos Data Factory 借助智能体技能加速数据整理、处理和合成数据生成。

各家公司已开始利用 Cosmos Data Factory 蓝图,加快其物理 AI 开发工作流程。 

Porsche正通过Voxel51在Microsoft Azure 上使用 Cosmos Data Factory,率先为Volkswagen Group 旗下品牌开发共享的自动驾驶数据飞轮。预计这将使重复的实地试驾减少多达 90%,并将开发周期缩短多达 85%。

Porsche 在 Voxel51 中搜索和增强自动驾驶车辆视频素材,由 Cosmos Data Factory 提供支持。

ANYbotics利用 Cosmos Data Factory 蓝图生成了 1,500 多个合成视频片段,整理真实世界数据,并通过Encord 的 平台验证输出结果,以训练其工业检测机器人识别液体泄漏,以及设施两次巡检之间出现的其他变化。

ANYbotics 使用 Encord 和 NVIDIA Cosmos Data Factory 生成异常片段。

Ultralytics 是一家计算机视觉公司,使用真实图像和通过 Cosmos Data Factory 生成的针对性合成缺陷重新训练其 YOLO 模型,从而提升了缺陷定位能力和召回率。

训练、适配和优化模型

准备好训练数据后,开发者可以训练自己的架构,也可以从预训练模型开始。

在柏林 GTC 大会上,NVIDIA 将 Cosmos Framework 的训练、优化和部署工具及配方作为智能体技能扩展到更多开放模型,并推出 Cosmos 3,为世界模型构建者提供从实验到部署的更快捷路径。

开发者和智能体现在可以通过微调和强化学习,适配 GR00T、Alpamayo、QWEN、Pi0.5 以及其他兼容的 Hugging Face 模型;通过蒸馏和量化优化模型,并以高性能推理方式进行部署。

Diagram of a model builder agent using skills and open model backbones to prepare data, train, fine-tune, apply reinforcement learning, and optimize world models for inference.
Cosmos Framework 是一个开放、模块化的模型训练与优化工具及技能框架,旨在加速世界模型开发。

为了开发专用于第一人称操作的世界模型,机器人研究实验室 MicroAGI 使用人类操作物体的视频对 Cosmos 3 进行后训练,并将其 320 亿参数的推理模型蒸馏为 80 亿参数的 Nano 模型,准确率毫无损失。 

开发者可以在 Roboflow 上标注数据并对 Cosmos 3 进行后训练,使其适用于特定环境和任务,然后将这些模型部署到 RoboFlow 托管的 NVIDIA GPU 或本地部署的 NVIDIA GPU 上,将视频推理引入工厂和仓库。

测试策略并加速模型运行 

除了这些工具,NVIDIA 还在持续推进 Cosmos 模型相关工作,以发展基础技术。

全新 Cosmos 3 Nano 模型变体适用于仿真,可帮助开发者在可重复、难以捕捉的多视角多传感器场景中测试自动驾驶策略。配套代码允许开发者在交互式仿真中适配模型,以训练和评估自动驾驶汽车及双臂机器人的策略,然后再进行真实世界测试。

Cosmos creates videos using a starting image from each camera, a short description of each view, WSM controls and one LiDAR scan of the surroundings.
用于闭环仿真中评估策略的多视角、多传感器视频数据生成。

开发者可以使用更新后的 NVIDIA Cosmos 3 NIM 微服务部署核心 Cosmos 模型;在经过验证的配置中,这些微服务可在不损失质量的情况下实现最高 2 倍的推理速度,而持续视频分析则可实现亚秒级警报。 

对于视觉 AI 开发者,全新的 NVIDIA Metropolis Blueprint for video search and summarization (VSS) 3.3 基于 Cosmos NIM 微服务构建,可通过一个提示词构建高效的视频 AI 应用,并帮助团队在使用相同 GPU 的情况下监控多 40% 的视频流。 

ADNOC 使用 Fogsphere 基于 Cosmos 和 NVIDIA Metropolis VSS Blueprint 构建的 MistIQ 智能体平台,在 65 个站点实时检测安全隐患。对于罕见事件,Fogsphere 还使用 Cosmos Data Factory 生成合成训练数据,无需实地制造危险情境即可提升检测能力。

Cosmos 平台完全模块化且开放。开发者可以使用 Cosmos Data Factory 生成训练数据集,使用 Cosmos Framework 训练和适配世界模型,然后通过 NIM 微服务部署受支持的 Cosmos 模型。

阅读 NVIDIA 在欧洲的所有公告

来源:NVIDIA Blog · blogs.nvidia.com