跳到正文
AWS Machine Learning Blog· Vamsi Goparaju·· 2 小时前精选AI 评分51

Amazon SageMaker JumpStart 回顾 2026 年前九个月新增模型与功能更新

Amazon SageMaker JumpStart: 2026 year-to-date in review

AI 导读

Amazon SageMaker JumpStart 在 2026 年 1 月至 9 月新增 100 多个模型,覆盖 30 家提供方,并更新了模型目录与部署体验。改进包括在 SageMaker AI 控制台直接浏览模型、使用预配置部署选项,以及通过 Hugging Face 深度链接进入 SageMaker Studio。

推荐理由

文章梳理了新增模型与部署体验改进,呈现 SageMaker JumpStart 如何覆盖更多模型类型,并减少从模型发现到部署的操作步骤。

正文 · AI 翻译

Amazon SageMaker JumpStart 是 Amazon SageMaker AI 中的机器学习(ML)中心,可访问精选的 AI 模型、解决方案模板和示例笔记本目录。它缩短了从模型选择到部署所需的时间。你可以用它评估开源大型语言模型(LLM)、部署用于文档理解的视觉模型,或使用自己的数据微调小型模型。

SageMaker JumpStart 主要适用于三种场景:

  • 模型发现与评估 — 浏览来自 Alibaba(Qwen)、NVIDIA、Google、Mistral、Cohere、IBM 等提供商的数百个基础模型(FM)。每个模型卡都包含架构详情、基准测试、许可信息和示例笔记本。
  • 一键部署 — 将所选模型部署到 SageMaker 实时推理端点,并使用针对工作负载(低成本、低延迟、高吞吐量或均衡)优化的预配置设置。无需手动配置容器或实例。
  • 模型定制 — 直接通过控制台或 SDK 使用低秩适配(LoRA)、监督微调(SFT)、直接偏好优化(DPO)和基于可验证奖励的强化学习(RLVR)等技术微调模型。无服务器定制选项可减少基础设施管理工作。

你可以通过 SageMaker Studio 控制台(Models → JumpStart models)、SageMaker Python SDK 以编程方式访问 SageMaker JumpStart,或通过近期推出的深度链接集成功能直接从 Hugging Face 访问。

2026 年新增模型概览

从 2026 年 1 月到 9 月,SageMaker JumpStart 新增了来自 30 家不同提供商的 100 多个模型。这标志着目录大幅扩展,背后推动因素是开源模型发布步伐不断加快,以及客户对模型架构、规模和能力多样性的需求日益增长。

以下是主要贡献者概览,以及我们的 SageMaker JumpStart 页面链接:

  • Alibaba(Qwen): 29 个模型,涵盖推理(Qwen 3.8-27B)、大规模混合专家模型(Qwen3.5-122B-A10B)、智能体工作流(Qwen-AgentWorld-35B-A3B)、代码生成(Qwen3-Coder-Next、Qwen 3 Coder 30B)、语音识别(Qwen3-ASR-1.7B)、文本转语音(Qwen3-TTS)、嵌入(Qwen3-VL-Embedding-2B)和重排序(Qwen3-Reranker-4B)。
  • NVIDIA: 17 个模型,包括 Cosmos3 世界基础模型系列(Super、Edge、Nano)、Cosmos Reason 7B、MSA-Search、Nemotron 3.5 Lightning、Nemotron-3-Super-120B(FP8 和 BF16)、Nemotron3 Ultra、Nemotron-Nano-12B-v2、Nemotron 3 Nano Omni(多模态),以及用于视觉语言任务的 Nemotron 3.5 Super VL。
  • Mistral: 7 个模型,包括 Ministral-3 系列(3B、8B、14B,提供标准版和 BF16 版)以及用于语音的 Voxtral-Mini-4B-Realtime。
  • Google: 6 个 Gemma 4 变体,包括 gemma-4-31B-it、E2B-it、E4B-it、26B-A4B-it、assistant 和 NVFP4 量化版本。
  • IBM: 4 个模型,包括 Granite 4.0 h-micro/small/tiny,以及用于支持 6 种语言的多语言自动语音识别(ASR)的 granite-speech-4.1-2b。
  • Cohere: 4 个模型,包括 Command A(A100),以及用于检索增强的 Rerank v3.5、v4.0 Fast 和 v4.0 Pro。
  • 其他:来自 MiniMax、Zhipu AI (GLM)、DeepSeek、Moonshot AI、Allen AI、Microsoft、Meta (Muse Spark)、Reflection (Beam)、Black Forest Labs、JetBrains、OpenBMB、BharatGenAI、Kakao、OpenFold 等的 33 个模型。

模型接入亮点

2026 年接入的模型体现了我们扩展 SageMaker JumpStart 目录时的几项重点。这些不仅是行业趋势,也代表着我们看到的客户强劲需求,以及帮助客户在 SageMaker 上构建生产级 AI 应用的巨大机遇。

扩展 NVIDIA 开放模型产品组合

NVIDIA 是我们的重要模型提供商之一,2026 年其贡献远不止于语言模型。Cosmos3 世界基础模型提供 Super、Edge 和 Nano 级别,可将视频生成、物理仿真和动作规划整合到单一架构中,用于机器人、自动驾驶系统和数字孪生等物理 AI 应用。结合覆盖高效边缘推理(Nano-12B)到大规模推理(Super-120B)的 Nemotron 模型,SageMaker JumpStart 现已提供丰富的 NVIDIA 开放模型组合。如果你基于 NVIDIA 硬件构建应用,就可以在 SageMaker 上使用经过优化的容器和预配置端点部署这些模型。

弥合多模态差距

客户工作负载日益需要能够处理文本以外内容的模型。2026 年,我们优先接入能够原生处理视觉、语音和文档理解的模型。NVIDIA Nemotron 3 Nano Omni 可在单个模型中处理文本、视觉和语音。Google Gemma 4 为多种规格的模型增添了视觉语言能力。IBM granite-speech-4.1-2b 支持六种语言的语音识别和翻译。Mistral Voxtral-Mini 支持实时语音理解。这些新增模型意味着,客户可以避免在多模态工作负载中串联使用多个独立的预处理模型。

让创意 AI 更易于使用

2026 年,图像和视频生成从小众应用走向主流。我们接入了 Black Forest Labs 的 FLUX.2 Small Decoder 和 FLUX.2-klein-base-4B,用于快速文本生成图像;Meta Muse-Glimmer-30B,用于多模态智能体工作流;以及 NVIDIA Cosmos3,用于视频生成。借助这些模型,你可以像使用语言模型一样,通过一键部署体验使用创意 AI 功能。

优先接入高效量化模型

并非所有工作负载都需要前沿规模的模型,许多客户在将应用投入生产时,都致力于优化推理成本。我们接入了多种量化模型和紧凑型模型:Zhipu AI GLM-5.2 FP8 在缩减内存占用的同时保持出色性能。JetBrains Mellum2-12B 采用混合专家架构,仅有 2.5B 个激活参数,可用于代码生成。OpenBMB MiniCPM5-1B 以 10 亿参数实现多模态能力。Microsoft Phi-4-mini-instruct 和 IBM Granite 4.0 h-tiny 表明,紧凑型模型也能在 ml.g5.xlarge 等实例类型上支持生产工作负载。这些模型可针对特定用例优化延迟和总拥有成本 (TCO)。

接入面向特定任务的专用模型

通用型 LLM 用途广泛,但专用模型针对特定任务进行了优化。2026 年,我们接入了 Qwen-AgentWorld-35B-A3B,用于支持原生工具调用的自主 AI 工作流。GLM-OCR、LightOnOCR 和 DeepSeek-OCR 可处理文档文本提取。Qwen3-Reranker-4B 和 Cohere Rerank v4.0 可提升检索增强生成(RAG)流水线中的检索精度。langcache-embed-v3-small 可为语义搜索提供轻量级嵌入。Qwen3-ASR 和 Qwen3-TTS 带来语音识别与合成功能。OpenFold3 支持科学计算中的蛋白质结构预测。借助这些模型,你可以构建这样的流水线:每个阶段都使用适合该任务的专用工具,而不是强迫单一模型包揽所有工作。

扩大供应商多样性

降低模型选择中的集中度风险,对企业客户而言十分重要。2026 年,我们将目录扩充至涵盖 30 家供应商,相较于往年更加集中的供应商阵容有所增加。Alibaba Qwen 是规模最大的单一贡献方,提供 29 个涵盖推理、编程、语音和检索的模型。Zhipu AI 和 DeepSeek 提供具有竞争力的 LLM 和专用 OCR 模型。MiniMax 和 Moonshot AI 带来新兴架构。Cohere 提供可靠的重排序功能。BharatGenAI 和 Kakao 扩大了区域模型覆盖范围。丰富的选择让客户能够根据性能、成本、许可和语言支持等因素灵活挑选。

SageMaker JumpStart 在 2026 年的改进

除了接入模型之外,SageMaker JumpStart 还在 2026 年推出了多项重要改进,降低了模型生命周期各环节的使用门槛,从发现到部署皆如此。

简化 SageMaker AI 控制台中的 Model Hub

此前,要发现 SageMaker JumpStart 模型,需要进入 SageMaker Studio,并在左侧导航栏中找到 SageMaker JumpStart 部分。全新的 Model Hub 体验可在 SageMaker AI 控制台主页直接展示完整的 SageMaker JumpStart 目录。你可以按类别浏览模型,并按输入/输出模态、发布者、模型规模、许可证和框架进行筛选。你还可以查看示例笔记本,并一键在 Studio 中打开模型。这免去了拖慢初步探索的多步导航操作。

预配置的端点部署选项

为模型部署选择合适的实例类型、服务容器和优化设置,通常需要手动对数十种组合进行基准测试。SageMaker JumpStart 现在提供命名部署配置,并提供以下优化选项:

  • 均衡 — 在成本、延迟和吞吐量之间取得均衡,适用于通用工作负载。
  • 吞吐量优化 — 采用推测解码等技术,以实现每秒生成最多令牌,适合高流量批处理。
  • 延迟优化 — 尽可能缩短首个令牌时间(TTFT),优先满足交互式应用对速度的要求。
  • 成本优化 — 将每次请求的基础设施成本降至最低,适用于能够接受较高延迟的工作负载。

这些配置包括针对 AWS Inferentia 和 AWS Trainium 实例优化的 Neuron 设置,可降低部署复杂性和基础设施成本。你可以一键部署模型并应用合适的优化配置,而不必花数周时间手动对配置进行基准测试。

Hugging Face 深度链接集成

与 Hugging Face 的全新集成可将模型发现直接连接到 SageMaker Studio,适用于已接入的模型。在 Hugging Face 上浏览模型时,你可以选择 在 SageMaker AI 上部署或 在 SageMaker AI 上自定义并部署。随后,你将直接进入已配置好的 Studio 环境,其中已预加载模型、预先配置权限,并内置 GPU 配额可见性。这样便无需在试验前设置 AWS Identity and Access Management (IAM) 角色、创建域或配置权限。

开始使用

开始使用 SageMaker JumpStart 有三种方式:

  • SageMaker Studio 控制台 — 打开 SageMaker Studio,导航至 Models → JumpStart models,然后浏览目录。选择一个模型以查看其详细信息,再选择 部署或自定义。
  • SageMaker Python SDK — 使用 SageMaker Python SDK 以编程方式部署模型。访问 SageMaker JumpStart 模型目录,查看 SDK 示例和部署指南。
  • Hugging Face 深层链接 — 浏览 HuggingFace Model Hub,然后选择在 SageMaker AI 上部署 ,即可直接进入 Studio,使用已接入 SageMaker JumpStart 的模型。

SageMaker JumpStart 中的每个模型都包含部署配置、示例笔记本和文档。有关实践演练,请参阅我们的相关博客文章“使用 Amazon SageMaker JumpStart 部署和评估模型”。

结语

2026 年前三个季度,Amazon SageMaker JumpStart 取得了显著进展。目录新增了来自 30 家提供商的 100 多个模型,涵盖广泛的能力,包括前沿推理模型、多模态视觉语言模型、用于图像和视频生成的创意 AI、语音识别与合成、光学字符识别 (OCR) 和文档理解、用于 RAG 的嵌入与检索模型、智能体工作流模型,以及专用科学计算模型。

这些模型接入重点反映了我们认为客户需求最强劲、最有机会加速 AWS 上 AI 普及的领域,包括扩充产品组合、弥合多模态能力差距、让创意 AI 更易于使用、优先考虑效率与量化、接入专用模型,以及扩大提供商多样性。

结合简化的 Model Hub、预配置部署选项以及 Hugging Face 深层链接集成等增强功能,SageMaker JumpStart 持续降低从发现模型到在生产环境中部署模型的门槛。访问 SageMaker JumpStart 模型目录,探索完整的模型阵容。

后续步骤

开始使用 SageMaker JumpStart 的方式有很多。不妨亲自尝试以下其中一种!


作者简介

Vamsi Goparaju

Vamsi Goparaju

Vamsi 在 AWS 负责市场拓展 (GTM) 和收入加速计划,为客户提供推理和 ModelOps 工作负载支持,并推动 Amazon SageMaker AI、JumpStart 和生成式 AI 的开源软件 (OSS) 用例与产品功能。他拥有超过 16 年的工作经验,曾任职于 AWS、Dell 和 Infosys,在云、高性能计算 (HPC)、人工智能 (AI)、机器学习 (ML) 和分析领域兼具深厚的技术背景与商业知识。他拥有 Texas A&M University Mays 商学院的 MBA 学位。

Naidile Murali

Naidile Murali

Naidile 是 AWS 的产品经理,常驻华盛顿州 Bellevue。她专注于提升 Amazon SageMaker AI 上 AI/ML 开发者的使用体验,包括入门引导、IDE 连接和 GPU 容量管理。加入 AWS 之前,她曾在 HSBC 担任软件工程师。Naidile 拥有 Georgetown University 的 MBA 学位。

Dan Ferguson

Dan Ferguson

Dan 是 AWS 的解决方案架构师,常驻美国纽约。作为机器学习服务专家,Dan 致力于帮助客户高效、有效且可持续地集成 ML 工作流。

Gula Nurmatova

Gula Nurmatova

Gula 是 AWS 的软件开发经理,常驻美国纽约。她领导 Amazon SageMaker JumpStart 背后的工程团队,让 NVIDIA、Meta 和 Mistral 等提供商的基础模型能够在 SageMaker 和 Amazon Bedrock 上轻松发现、评估和部署。加入 AWS 之前,她曾在 RTX 和 GE 担任工程及工程管理职务,并拥有计算机科学硕士学位。

来源:AWS Machine Learning Blog · aws.amazon.com