跳到正文

技术方向

部署工程 最新动态

把模型跑起来的工程实践:推理优化、显存与成本、Serving 架构与基础设施选型。

219 条精选近 30 天 212 条共收录 222 条

更新

精选归档 · 第 10 页

10月8日周四第 181–200 条
  1. AWS Machine Learning Blog38

    Amazon SageMaker HyperPod 管理与治理最佳实践

    AWS 介绍如何通过 Amazon SageMaker Unified Studio 管理 SageMaker HyperPod,同时保留底层治理控制。文章将控制分为组织、项目、集群和工作负载 4 层,涵盖身份、容量、可观测性、RBAC、EKS Pod Identity、Slurm、配额、优先级、借用和抢占等策略。

  2. AWS Machine Learning Blog72

    AWS 在 Amazon Bedrock 和 Claude Platform on AWS 上推出 Claude Haiku 5.5

    AWS 宣布 Claude Haiku 5.5 已在 Amazon Bedrock 和 Claude Platform on AWS 上可用。Anthropic 称该模型是 Claude 5.5 系列中最快、最高效的模型,面向 subagents 和高容量、成本敏感型工作,多数任务成本比 Claude Haiku 4.5 低约 75%。

    推荐理由:原文说明了 Haiku 5.5 在 Bedrock 的可用方式和成本定位,便于评估其在高频子任务中的适配度。

10月7日周三
  1. AWS Machine Learning Blog41

    AWS Machine Learning Blog:弥合 AI 知识与构建能力差距的实践手册

    AWS Machine Learning Blog 提出一个为期六周的 AI 构建能力项目,帮助非工程岗位从讨论 AI 转向动手构建。项目参与者每周约投入四小时,结合导师和生产级工具;一支四人团队最终做出 WealthWise 多智能体金融顾问原型,使用 Amazon Nova、Strands Agents SDK 和 DynamoDB,实现复杂金融推理 sub-5-second 响应。