NVIDIA 扩展 Agent Toolkit,以企业数据为智能体提供依据
NVIDIA Agent Toolkit Expands, Grounding Enterprise Agents in Company Data
NVIDIA 扩展开源 NVIDIA Agent Toolkit,新增 NVIDIA Agent Knowledge Foundation,帮助企业智能体利用公司数据回答问题、预测结果并支持决策。
NVIDIA 将企业数据、模型、运行时和工具纳入开放智能体技术栈,并列出多家企业的应用案例及检索性能变化。
智能体的实用性取决于它们掌握的信息,而可信度则取决于它们运行时所处的边界。
领先企业正在使用开源的 NVIDIA Agent Toolkit(现已扩展并加入新工具),以定制和控制智能体,利用公司数据为其回答和行动提供依据,监控其行为并管理其运行方式。
NVIDIA Agent Toolkit 包括:
- 全新的 NVIDIA Agent Knowledge Foundation,以及 NVIDIA CUDA-X 库
- NVIDIA 开放模型,包括 Nemotron Retriever 和全新的 Kumo 系列
- NVIDIA OpenShell 安全智能体运行时
- NVIDIA NemoClaw 安全智能体蓝图
- 工具和技能,例如 NeMo Relay 和 NeMo Compass
要开发能够完成实际工作的智能体,并确保其从开发到部署都值得信赖,构建者需要一个开放的智能体技术栈,将模型、运行框架、运行时、数据和工具整合在一起。
NVIDIA Agent Knowledge Foundation 帮助企业将数据转化为智能体可用的企业情报。智能体能够查找相关信息,理解其对业务的意义,并据此进行预测,帮助人们决定下一步该怎么做。企业无需迁移数据、重建现有工作流或更改治理控制,即可使用 Agent Knowledge Foundation。
该基础平台提供 NVIDIA CUDA-X 库,包括 cuDF、cuGraph、cuML、cuOpt 和 cuVS,以及全新的 Auto-Ontology 库。后者可将原始公司数据转换为客户、产品和订单等常见业务概念,并描绘它们之间的关系。
该平台还包含 NVIDIA Nemotron Retriever 和 Kumo Structured 开放模型——Kumo Tabular、Kumo Relational、Kumo Time Series 和 Kumo Forecast,可帮助智能体查找相关公司信息,以回答问题并进行预测。
OpenShell 提供安全的运行时边界,让企业能够控制智能体可以访问和执行的内容。NVIDIA NemoClaw 蓝图为构建安全、专用的智能体提供参考设计。最新的 NemoClaw 智能体优化蓝图提供了循序渐进的起点,助力提升智能体的智能水平——让它们随着时间推移更擅长完成工作。
企业采用 NVIDIA Agent Knowledge Foundation
全新的 NVIDIA Agent Knowledge Foundation 已在各大企业投入使用。
借助 Palantir,NVIDIA 供应链组织 正通过 Palantir Foundry、Ontology 和 AIP 使用 Agent Knowledge Foundation,部署专用智能体,从专有数据中生成可付诸行动的情报、预测结果并优化决策。
Databricks 将 NVIDIA Kumo Anomaly 与 Databricks Genie Ontology 相结合,为智能体提供上下文感知能力。
Snowflake 正在支持客户在其 Snowflake Notebook 环境中使用 NVIDIA Kumo Engine 和 Kumo Relational 开放模型,以解锁更强大的预测能力。
NVIDIA Nemotron Retriever 模型让搜索更快速、更准确。借助嵌入模型,Amazon OpenSearch Service 通过更少的搜索步骤提升了相关性,且几乎没有增加延迟。SAP 的 微调重排序器运行速度提升近 3 倍。ServiceNow 在将延迟缩短近四分之一的同时,提高了重排序质量。Zoom 正在使用 Nemotron Retriever 模型,提升 Zoom AI Services 的文档理解能力、搜索相关性和上下文检索能力。
Amazon Web Services (AWS)、ClickHouse、Cloudera、Cohesity、Dassault Systèmes、Dell、Elastic、Exa、IBM、NetApp、Oracle、Perplexity、Starburst 和 VAST Data 也在基于 Agent Knowledge Foundation 构建。
通过参加这场关于在生产环境中构建、部署和优化专用智能体的 GTC Berlin 会议,了解更多。
来源:NVIDIA Blog · blogs.nvidia.com