跳到正文

技术方向

部署工程 最新动态

把模型跑起来的工程实践:推理优化、显存与成本、Serving 架构与基础设施选型。

219 条精选近 30 天 212 条共收录 222 条

更新

精选归档 · 第 3 页

10月14日周三第 41–60 条
  1. AWS Machine Learning Blog55

    如何用 Amazon SageMaker JumpStart 部署和评估模型

    文章介绍如何使用 Amazon SageMaker JumpStart 部署模型、运行轻量且可重复的性能测试,并在测试后删除端点。流程通过 SageMaker Python SDK 获取模型示例提示词,测量延迟、估算输出长度和单请求生成速率;2026 年新增的目录浏览与预配置端点选项,以及从 Hugging Face 模型发现页一键跳转部署的集成,也简化了模型发现和部署。

  2. 财联社电报61

    西门子战略投资 Skeleton Technologies,并独家销售其数据中心超级电容产品

    西门子宣布战略投资 Skeleton Technologies,并与其建立独家合作伙伴关系,将其超级电容技术整合至西门子电气基础设施产品组合。西门子将在全球数据中心市场独家销售并扩大相关产品应用,覆盖从电网接入到 AI 机架的电力基础设施。相关方案可用于现有交流供电架构及改造项目,并为未来 800V 直流标准提供升级路径;公告未披露投资金额。

  3. 量子位56

    阶跃终端发布首款智能体手机 STEPX Neo

    阶跃终端正式发布首款智能体手机 STEPX Neo先行版,搭载智能体原生操作系统 Step AOS 和个人智能体阶跃Amoo。系统支持循环执行、Tool Call、Skill和MCP工具,并提供权限管理、调用记录及高风险操作二次确认。售价为3999元,先行版用户可获连续12个月、每月百亿Token使用额度的STEPX Token Plan。

  4. 量子位42

    商汤大装置助力上海量子城市首批智能体落地,调度效率提升80%

    商汤大装置与上海市规划资源局升级“云宇星空大模型”,并推动上海量子城市首批政务智能体落地,其中“禹智河洛”“大略之眼”“详规小工单”由商汤大装置研发交付。面向苏州河流域防汛的“禹智河洛”实现空间智算、动态模拟、智能调度效率分别提升65%、70%、80%;“云宇星空大模型”已形成1.3万对问答和15亿Token语料。

  5. 钛媒体50

    研发 Agent 功能差异分析:个人与企业侧的八个维度

    个人研发 Agent 侧重解放开发者能力,企业研发 Agent 则需将模型不确定性纳入可控、可信、可审计的框架,二者的核心差异在约束条件。文章从任务边界、上下文、权限、执行环境、工具集成、安全部署、质量保障及协作治理八个维度,拆解个人工具与组织级生产系统的区别。企业 Agent 还需支持分级授权、审计、质量门禁和跨系统协作。

  6. 华尔街见闻·A股快讯37

    广州成立市算力公司,探索超大城市算电融合“广州模式”

    广州市算力产业发展有限公司近日正式成立,由南方电网数字电网集团控股,广东亿迅科技、广州数科集团和广州恒运集团共同出资组建。该公司是全国首个以算电协同为核心使命的央地合资平台,广州将以其为抓手建设全域互联、协同调度的算力网络,并打造粤港澳大湾区实时推理算力高地。

  7. 钛媒体55

    周鸿祎谈AI安全、智能体失控与开源路线

    360集团创始人周鸿祎在钛媒体访谈中表示,AI失控风险来自智能体操作现实系统、自动挖掘漏洞、攻击能力规模化和自我改进等因素,安全应通过AI对抗AI,并对智能体进行监控和沙箱约束。他介绍了360的漏洞挖掘系统图龙锋、防御体系仪天阵及企业智能体平台纳米Work,也主张中国以开源生态扩大应用,并建议企业分阶段推进AI落地。

  8. 钛媒体38

    大智慧如何借助 AI 实现智能化跃迁

    大智慧与阿里云共建 AI 原生金融应用,推动这家拥有二十余年金融数据积累的行情软件商,从行情查询工具转向辅助投资决策的智能产品。项目以数据治理、Agent 工程框架、分层记忆和评测体系为核心,并采用阿里云 FinXScope 2.0 平台。意图识别经模型缩小和分类训练,从约 10 秒优化至毫秒级;双方还在推进 B 端服务等场景。

  9. AWS Machine Learning Blog78

    Anchor Browser 与 Amazon Bedrock AgentCore payments 集成,支持 AI 智能体自动完成 x402 付费请求

    Anchor Browser 与 Amazon Bedrock AgentCore payments 集成,支持 AI 智能体在同一浏览器会话中自动处理 x402 付费网页和 API 请求,相关能力已在 AWS Marketplace 提供。

    推荐理由:文章完整拆解了从 402 挑战到签名、重试和预算控制的处理流程,并给出 cURL 与 JavaScript 配置示例。