NVIDIA推出Minerva，为AI工厂提供端到端可观测性
NVIDIA Unveils Minerva to Bring End-to-End Observability for AI Factories
NVIDIA推出Minerva AIOps平台，为AI工厂提供端到端可观测性，帮助团队更早发现问题并维持生产效率。平台整合基础设施与AI工作负载遥测，每小时分析数十亿个数据点，以检测异常、预测故障并关联事件、定位可能根因。IREN已在使用Minerva，Aolani、Bitdeer AI、IBM、Jio、Lambda、Quake AI和Tesla计划部署。
今日发布的 NVIDIA Minerva 是一个 AIOps 平台，旨在帮助团队更早发现问题，确保 AI 工厂高效运转。它汇集来自基础设施和 AI 工作负载的遥测数据，再应用专用 AI 模型，将这些数据转化为及时、可执行的洞察。
AI 工厂是全球最复杂的运营环境之一，大量 GPU 通过高速网络协同工作，用于训练模型和运行 AI 应用。在这样的规模下，单个性能下降的组件就可能拖慢整个任务。警示迹象可能很容易被忽略，例如某个 GPU 的运行温度高于其他 GPU，或 NVMe 驱动器在负载下性能下降。
该平台专注于 AI 工厂产能利用率，这一指标衡量基础设施通过 GPU 小时数、有效吞吐量、集群正常运行时间和 Token 产出所完成的有效工作。
呈现 AI 工厂的动态视图
传统监控工具通常将数据中心划分为多个独立视图。网络、计算、站点可靠性和机器学习团队看到的都是运营情况的不同部分。Minerva 将 NVIDIA GPU、网络、存储、调度器和工作负载中的信号关联起来。
借助这些信号，Minerva 构建动态知识图谱，以逻辑方式映射基础设施（GPU、SuperNIC、交换机和线缆）以及其上运行的任务。这种上下文信息有助于运维人员追溯训练任务运行缓慢的原因，定位影响它的组件，即使整个工厂拥有数十万块 GPU 也不例外。
它使用有监督和无监督机器学习，每小时分析数十亿个数据点。它能够学习正常行为、检测此前未出现过的异常、预测潜在故障，并根据工厂拓扑结构关联相关事件。它不会将每个症状都发送给运维人员，而是能将大量突发事件归并为一项重点事件，并指出可能的根本原因。
Minerva 内置 AI 助手，并可连接外部智能体 AI 工具。由此提供基于实时遥测数据的自然语言界面。运维人员可以通过对话调查集群运行状况，并获取建议的修复方案。团队可以让人员参与其中，手动实施修复，也可以通过基础设施应用程序编程接口和外部系统将 Minerva 接入自动化流程。
提升 AI 工厂产能利用率的成效
Minerva 能够关联工作负载与基础设施问题，并具备智能体 AI 能力，有助于简化 AI 工厂运营。Minerva 不会让团队被海量告警淹没，而是将相关问题汇总为一项可执行事项。这使 AIOps 团队能够从被动响应转向主动维护。所有这些都有助于 AI 工厂最大限度地提高 GPU 正常运行时间。
Minerva 在 AI 工厂关注的关键指标方面发挥作用：
- 延长两次中断之间的运行时间：Minerva 能在问题发生前发现隐患，让任务在更长时间内稳定运行。
- 缩短修复时间：发生事件时，Minerva 能精准定位问题，从而大幅加快解决速度。
- 提升洞察力：现代 AI 基础设施会产生海量数据；Minerva 会过滤这些数据，只留下少数真正重要的告警。
IREN 是使用 Minerva 优化其 AI 工厂的 NVIDIA 合作伙伴之一。
“随着我们扩大 AI 工厂规模，为客户提供最佳服务的关键在于最大限度提高 GPU 的生产力，”IREN 首席技术官 Denis Skrinnikoff 表示。“NVIDIA Minerva 让我们的运营团队能够全面查看网络、GPU 及其运行的作业，因此我们可以将更多精力放在主动维护上，而不是故障排查。这种可见性增强了我们的运营模式，为我们即将建设的基础设施提供支持。”
除 IREN 外，Aolani、Bitdeer AI、IBM、Jio、 Lambda、Quake AI 和 Tesla 计划部署 Minerva。
除 Dell Technologies 外，Lenovo 和 Supermicro 也将在其 AI 工厂运营产品组合中提供 Minerva。
详细了解 NVIDIA Minerva。
请参阅 通知，了解软件产品信息。
来源：NVIDIA Blog · blogs.nvidia.com