跳到正文

技术方向

部署工程 最新动态

把模型跑起来的工程实践:推理优化、显存与成本、Serving 架构与基础设施选型。

219 条精选近 30 天 212 条共收录 222 条

更新

精选归档 · 第 8 页

10月11日周日第 141–160 条
  1. 钛媒体48

    中国AI竞争从争夺算力转向经营算力

    中国AI产业正从争夺算力转向经营算力:模型服务价格持续下降,云厂商却仍在扩大服务器和数据中心投资,需依靠未来的计算需求回收成本。DeepSeek将V4-Pro API价格永久下调75%,Token综合价格较今年5月高点下降超过52%;阿里单季度资本开支为676.78亿元,同比增长75%,AI云与算力服务收入为484.37亿元,同比增长45%。

  2. 钛媒体45

    3D 芯片堆叠量产难题:良率与成本决定能否划算

    3D 芯片堆叠会让各层良率与制造环节的风险相乘,技术间距更密并不等于具备量产能力。演示模型中,芯片对晶圆键合的合格芯片成本约为 98.98 美元,低于晶圆对晶圆路线的 107.97 美元,但结果取决于假设参数。逻辑叠缓存已量产,存储导入混合键合仍受成本、良率和现有封装标准制约。

  3. 钛媒体49

    够用的智能如何成为一门生意

    AI厂商正把前沿模型与低成本模型分工,并将够用的智能嵌入办公软件和日常任务,以控制推理开支、推动规模应用。GPT‑6 Astra与Luna的公开输出价格相差100倍,Anthropic称Haiku 5.5按实际任务计算比前代平均便宜约75%;但模型降价并不自动带来利润。能否接入企业资料、权限和流程,并让客户为新增业务价值付费,将决定这类产品能否形成增量收入。

10月10日周六
  1. 钛媒体48

    北美AI交流手记:模型持续加速,现实世界如何跟上?

    划重点KeyPoints用15天与北美101位AI从业者交流,发现模型能力持续进步,但交付、组织适应和现实基础设施难以同步。受访者中有17位来自Frontier Lab;RL、任务环境和新架构被视为继续扩展模型能力的路径。电力、并网和运维等约束,也让AI基础设施竞争从“卡”转向“瓦”。

  2. 量子位28

    西门子将亮相2026工博会:以软硬协同的工业全栈能力,推动物理AI加速落地

    西门子将在第26届中国国际工业博览会上首次完整展示人形机器人从设计研发、生产制造到工业现场应用的端到端解决方案,推动物理AI落地真实工业场景。现场还将发布20余款新品,开放6类具身智能“进厂”场景,并展示“钻耀之心3.0”及数据中心、电子与半导体、零碳工厂等应用。

  3. Latent Space45

    Standard Bots 构建可靠执行 AI 的经验:工业机器人

    Standard Bots展示其面向工业机器人的 AI 技术栈,通过共享基础模型、任务适配和 zero-shot 感知支持机器上下料等短时任务。其最大模型为数十亿级参数,骨干模型训练于超过十亿张图像;模型负责识别部件,传统编程负责运动与单元逻辑。模型在云端训练、在本地推理,边缘 GPU 生成 action chunks 供低层控制使用。

  4. 钛媒体38

    天津:被低估的 AI 基建重镇

    天津集聚了飞腾、海光、中科曙光、麒麟软件、南大通用和国家超算天津中心等企业与机构,覆盖芯片、整机、操作系统、数据库和算力服务等国产算力关键环节。天河系列平台每天完成超过2万项计算任务,服务全国1万余家机构;当地产业链还向太空算力、机器人、脑机接口和智慧医疗等领域延伸。

  5. 钛媒体46

    中国一汽以 EOA 范式打造企业级智能体 OpenMind,推动智能体融入生产经营

    中国一汽以企业运营智能(EOA)范式打造企业级智能体 OpenMind,并将其升级至 2.0,推动智能体进入生产经营主流程。OpenMind 2.0 引入持久化记忆、可组合和独立评测的 Skill,以及开发、验证、生产三环境隔离;中国一汽自研的汽车行业大模型基于千问大模型,已入驻阿里云百炼平台并面向全行业开放。

  6. OpenAI News60

    Asana 用 GPT-6 Astra 优化浏览器智能体,GPT-6.1 Sol 测试成本降低 76 倍

    Asana 使用 Codex 中的 GPT-6 Astra 优化 StackAI 浏览器智能体在 GPT-6.1 Sol 上的工作流,使测试中的模型成本降低 76 倍、运行速度提升 5 倍。

    推荐理由:这项案例拆解了浏览器智能体的成本瓶颈,并展示缓存历史、扩大历史容量和批量清理截图如何共同改善成本与运行时间。

10月9日周五
  1. AWS Machine Learning Blog62

    Postman 如何在 Amazon Bedrock 上为 4000 万开发者运行 Agent Mode

    Postman 在 Amazon Bedrock 上运行 Agent Mode,为 4000 万开发者提供覆盖 API 测试、文档、发现和实现的 AI 原生工作方式。文章介绍了动态筛选工具、基于 schema 的数据读取和专用上下文处理器,并说明如何按工作负载选择 Claude 模型、使用跨区域推理及分层提示词缓存。

    推荐理由:文章梳理了 Postman 将 Agent Mode 用于大规模生产时遇到的工具膨胀与上下文管理问题,并给出动态筛选工具、按需构造上下文等架构做法。

  2. Hugging Face Blog63

    Ai2 介绍 GPU 集群调度改造:以时间预算和公平份额分配资源

    Ai2 将优先级调度器改为结合 GPU 时间预算、层级公平份额和时间片合约的系统,以优先支持高影响研究并维持集群满负载。在 30 天测试期内,团队获得了应得 GPU 时间的 98%,集群占用率维持在 98%;调试工作负载的 p90 排队时间从 2 小时降至 30 秒,需人工介入的维修减少 74%。

    推荐理由:文章把 GPU 时间预算、层级公平份额与可抢占时间片结合为一套调度机制,并用实测数据展示其对等待、占用和维护工作的影响。

  3. 钛媒体54

    高通与华为达成专利许可协议,两种中国芯片走向分岔

    华为与高通于10月5日达成多年期专利许可协议,涵盖5G、计算、人工智能和网络领域的交叉许可,高通还将收购华为部分美国专利。高通随后否认自己是“净支付方”,双方未披露本次交易金额;文章由此对照华为与小米的芯片路径,并分析AI竞争从单颗芯片向系统和基础设施延伸的趋势。

  4. 钛媒体59

    谷歌为何押注递归式自我改进(RSI)?

    谷歌正把模型、智能体、搜索策略、芯片和数据中心纳入递归式自我改进(RSI)布局,试图让AI参与研发,并以改进研发系统来加快下一代模型开发。文章梳理了Dream-RSI、RRSI和AlphaEvolve等进展,以及不同公司对RSI的理解和验证难题。对谷歌而言,RSI也关联着如何提高巨额AI投入的研发回报,并争取行业竞争节奏。

  5. 钛媒体45

    中国 AI 出海摆脱供应链约束,本地化与全球化难题却提前到来

    中国 AI 产品出海正从供应链部署转向持续验证用户需求,但产品定位、用户理解和全球增长成为新的难点。AI Chatbot 与 Agent 改变软件分发路径,产品还需让 AI 理解、选择并调用。Agent 出海则须从产品和系统设计阶段考虑不同市场的语言、数据、模型、工具权限与组织协作。

  6. 钛媒体50

    闲鱼为何像中国最大的“云服务厂商”?

    文章认为,闲鱼汇集了显卡、模型 Token、Gemini 会员、云服务部署和 Agent 定制等交易,像一个覆盖多类 AI 与企业服务的民间市场。卖家提供的服务从算力和模型部署延伸到建站、广告投放、获客和供应链环节。受访者表示,闲鱼商品链接更多用于展示和导流,大额交易与后续合作通常转到其他渠道,文中也指出部分商品来源可能存在灰色地带。

  7. 钛媒体62

    波士顿动力如何从机器人研发走向规模商业化

    2026年10月,罗希特·普拉萨德出任波士顿动力CEO,公司下一阶段的重点是推动智能机器人产品化和规模商业化。文章回顾了Spot进入工业巡检、Stretch用于仓库卸货的过程,并梳理客户需求如何影响产品设计、服务交付与制造。Atlas则面临规模生产和拓展工厂任务的挑战,现代公布的部署与产能安排仍属计划。