纳微半导体与英伟达合作开发面向下一代 AI 基础设施的 800V 转 12V 电源转换板
纳微半导体(Navitas)与英伟达合作开发面向下一代 AI 基础设施的 800V 转 12V 电源转换板。
技术方向
把模型跑起来的工程实践:推理优化、显存与成本、Serving 架构与基础设施选型。
219 条精选近 30 天 212 条共收录 222 条
纳微半导体(Navitas)与英伟达合作开发面向下一代 AI 基础设施的 800V 转 12V 电源转换板。
英特尔加速推进面向智能体 AI 时代的开放基础设施,并开始向客户提供 GPU D 系列样品。原文未提供该系列的具体规格、性能或上市时间。
英特尔开始向客户提供 D-Series GPU 样品。公司同时加快开放基础设施开发,以支持新兴的智能体 AI 时代。
Python 3.15 已发布,新增显式惰性导入、推导式解包和 Tachyon 采样分析器等功能。作者指出 3.15 性能整体接近 3.14,实验性 JIT 在 Fibonacci 测试中较标准解释器提升 1.2x。
AWS Machine Learning Blog 介绍如何通过 Amazon Bedrock 的全球跨区域推理,在泰国、马来西亚、新加坡、印度尼西亚和台湾调用 GPT-6 Sol、GPT-6 Luna,以及仅从新加坡调用 GPT-6 Astra。
推荐理由:文章把跨区域推理的调用方式与 IAM、SCP 配置、配额和监控串联起来,呈现了在 AWS 环境接入 GPT-6 的实操路径。
Nvidia 和 Cisco 推出一种新型可插拔光学器件外形规格,旨在扩展 AI 工厂。正文未提供该规格的技术细节或可用性信息。
华硕推出基于 NVIDIA MGX 架构的 2U 服务器 XA P2N-E2,搭载 NVIDIA Vera CPU,面向智能体 AI 和强化学习工作负载。服务器最多支持两颗双槽位 NVIDIA RTX PRO 6000 Blackwell Server Edition GPU,面向代码执行、工具调用、沙箱隔离、数据处理和编排等 AI 执行层任务。
Microsoft计划从2027年起将Azure Maia AI芯片部署到多吉瓦规模,并让其成为旗下产品的主要推理系统。Maia 200已在美国、欧洲和澳大利亚运行Microsoft Copilot,GitHub Copilot和Foundry计划于年底跟进;Maia 300将于2027年出货,配备8组HBM4、总计288 GB显存和18 TB/s带宽,面向长输入、快速对话和智能体任务。
AWS 介绍了如何使用多节点 Ray LLM Deep Learning Containers,在 Amazon EKS 的两个 GPU 节点上部署同一个大语言模型,并通过单一 OpenAI 兼容端点提供服务。
AWS 介绍如何在 Amazon SageMaker AI 上使用 llama.cpp 部署决策模型,提供 OpenAI-compatible 聊天补全接口,并可扩展 SemIf 以返回指定选项的概率和 logits。
推荐理由:文章对比了 llama.cpp 标准文本生成接口与 SemIf 结构化决策扩展,并用 CPU、GPU 基准数据展示延迟和准确率差异。
NVIDIA 在 OCP 全球峰会上通过开放 NVIDIA MGX 架构,向 OCP 贡献 Vera Rubin 机架和计算托盘设计,并宣布多项面向 AI 工厂的合作与开源贡献。
推荐理由:文章梳理了 Vera Rubin 架构、数据中心规范与 DSX 开源组件的协同推进,呈现 AI 工厂从机架设计到电网和运维的基础设施路径。
英伟达与思科联合推出USFP(超密小型可插拔)光模块外形规格,旨在扩展AI工厂网络规模。USFP支持每通道400Gb/s电信号,单模块容量最高可达12.8Tb/s;相比现有的200Gb/s-per-lane光模块,带宽密度提升4倍,能效提升1.3倍。两家公司正与TE Connectivity和安费诺合作,围绕USFP构建多源硬件生态系统。
英伟达与思科联合推出 USFP 可插拔光模块外形规格,面向扩展 AI 工厂网络。USFP 支持每通道 400Gb/s 电信号,单模块容量最高达 12.8Tb/s;相比现有 200Gb/s-per-lane 光模块,带宽密度提升 4 倍、能效提升 1.3 倍。两家公司正与 TE Connectivity 和安费诺合作,构建多源硬件生态系统。
Nvidia 和 Cisco 推出一种新型可插拔光学器件形态,目标是扩展 AI 工厂。正文未提供该形态的技术细节或上市信息。
大摩称,美国AI供电缺口或达77GW,有望催生2400亿美元市场。机构看好相关细分领域有望成为短期内最优的数据中心供电解决方案;文中提及一家公司可提供上游原材料,另一家公司的产品可以回收发电时产生的大量高温废气。
Microsoft 计划从2027年起在全球数据中心以多吉瓦规模部署自研 AI 处理器,以减少对第三方硬件供应商的依赖并降低运营成本。Maia 300 将作为内部 AI 应用的主要推理引擎;目前 Maia 200 已在北美、欧洲和澳大利亚处理生产任务,面向 Teams 和 Copilot 工作负载的每瓦输出最高为标准商用 GPU 配置的1.7倍。
微软计划在数据中心部署自研 Maia 芯片,目标是主要用自研硬件为 AI 软件提供算力。公司预计在服务器园区配置多个吉瓦的 Maia 芯片,最新版本 Maia 300 将于明年开始部署;这些芯片面向模型推理任务。
AMD推出 Helion 智能体 AI 机架,面向机架级部署;原文未提供其规格、性能或可用性细节。
原始标题称,Microsoft Maia 300 每兆瓦可提供多 40% 的 tokens。正文未提供更多关于该产品或这一指标的说明。
均普智能发布工业具身智能全栈平台 Primus Stack,覆盖数据采集、模型训练、技能开发到产线交付的全流程。平台由数据采集模块、数据与模型闭环模块、开发套件和自主作业方案组成,是一套“大脑+小脑”协同工作的产品体系,兼顾产线端稳定执行和云端持续进化。