跳到正文

技术方向

部署工程 最新动态

把模型跑起来的工程实践:推理优化、显存与成本、Serving 架构与基础设施选型。

219 条精选近 30 天 212 条共收录 222 条

更新

精选归档 · 第 4 页

10月14日周三第 61–80 条
  1. TechCrunch · AI54

    Flox Intelligence开发用于基础设施场景的AI野生动物驱离系统

    Flox Intelligence开发了基于现场感知的AI系统,用于将野生动物从铁路、机场、道路等基础设施附近驱离。设备通过摄像头和本地模型识别动物,再发出适合其物种的声音,并调整响应以避免动物对重复信号习惯化。公司称约150台设备已在北美、欧洲和澳大利亚投入使用,并正开启$10 million Series A融资。

  2. AWS Machine Learning Blog60

    如何用托管授权管理 Amazon Bedrock 私有定价优惠

    AWS 介绍了通过 Amazon Bedrock 托管授权管理私有定价优惠的两种方式,让组织可从中央账户订阅并向多个账户分发访问权限。一种是用于一次性激活已接收许可证的轻量脚本,另一种是使用 CDK 部署事件驱动自动化,验证卖家白名单后创建并激活分发授权。文章还说明了部署前提、授权状态检查和账单验证方法。

    推荐理由:文章对比一次性脚本与基于 CDK 的事件驱动方案,并列出卖家白名单、授权激活和账单验证步骤,便于按运维需求选择实施路径。

  3. GitHub Blog · AI & ML68

    GitHub 的密钥检测模型将扫描速度提升 86%

    GitHub 部署了由正则候选生成和微调 ModernBERT 分类器组成的两阶段密钥扫描流程,将通用密钥检测扩展到 push protection。与此前的 LLM 流程相比,post-push 扫描中位执行时间降低 86%,服务成本降低超过 98%,仓库所有者加权的告警接受率提升 11.5%。

    推荐理由:GitHub展示了将规则扫描与小型分类模型结合的实践,并用线上指标说明其在降低误报、延迟和服务成本上的收益。

  4. TechCrunch · AI43

    被 SpaceX 和 Google 拒绝后,Satlyt 的卫星软件将搭乘 SpaceX 火箭升空,与 Google 项目同行

    Rama Afullo 联合创立的 Satlyt 获得 $8 million 种子轮融资,开发可在卫星上运行 AI 模型的软件,并计划让不同公司的卫星共享计算任务。其软件将随 SpaceX 火箭发射,搭载于 TakeMe2Space 建造的航天器;NASA、Stellerian 和 TakeMe2Space 将参与任务。Satlyt 预计明年尝试连接两颗卫星,构建共享计算系统。

  5. TechCrunch · AI55

    Laplace Intelligence 用 AI 智能体模拟测试机器人和自动驾驶汽车

    Laplace Intelligence 正在为机器人和物理 AI 开发自动化红队测试,通过高保真模拟和 AI 智能体,在部署前寻找系统的薄弱点与失效场景。其模拟环境基于真实世界信息重建,测试智能体还可从新闻和碰撞报告等信息设计边缘案例。公司目前的客户主要来自自动驾驶领域,包括 Isuzu、Bot Auto 和 Nvidia,并与 Nvidia、T-Mobile 合作开展圣何塞智慧城市试点。

  6. AWS Machine Learning Blog60

    ShipStation Global 如何基于 Amazon Bedrock AgentCore 构建 AI IT 服务台 Deckhand

    ShipStation Global 基于 Amazon Bedrock AgentCore 构建了 Slack IT 服务台智能体 Deckhand,用于回答常见问题、分析错误截图并创建或更新 Jira Service Management 工单。

    推荐理由:文章拆解了 Deckhand 从 Slack 对话、知识检索到工单操作的架构,并给出 Slack 历史整理流程,可供构建内部 IT 智能体时参考。

  7. AWS Machine Learning Blog54

    Orca Security 如何借助 Amazon Bedrock 构建自然语言安全查询

    Orca Security 与 AWS 合作,在 Amazon Bedrock 上构建 Discovery AI,将自然语言问题转换为经过校验的 Sonar 查询。该系统采用九阶段流程,结合 RAG 示例检索、按阶段分配模型和人工标注反馈;相较初始基线,输入 tokens 减少 93%,查询成本降低 90%,响应延迟缩短 75%,从约 60 秒降至 15 秒。

10月13日周二
  1. The Verge · AI56

    DLSS 5 将于下月在《霍格沃茨之遗》登场,效果有所收敛

    Nvidia 调整 DLSS 5 后,该技术将于 11 月 5 日在《霍格沃茨之遗》中登场,新对比图显示人物面部和环境变化更为细微。10 月更新将模型占用缩减 24% 至约 118 million parameters,并降低 4K 显存使用量 20%;Nvidia 称 RTX 50-series GPU 和即将推出的 RTX Spark 笔记本上速度可提升至两倍。

  2. 财联社电报38

    美股盘前要闻:应用材料预计未来几年营收翻倍,英伟达与思科推出可插拔模块,奈飞获2030年世界杯部分转播权

    应用材料预计未来几年营收将翻倍,并利用 AI 工具推动创新与产品研发。英伟达与思科联合推出支持每通道 400Gb/s 电信号、单模块容量最高达 12.8Tb/s 的 USFP。奈飞获得 2030 年 FIFA 世界杯西班牙和安道尔地区独家转播权。

  3. NVIDIA Blog74

    NVIDIA RTX Spark 笔记本上线前,多款本地 AI 软件与开发工具就绪

    NVIDIA 表示,RTX Spark 笔记本将于 10 月 16 日上市,合作伙伴正推出软件功能与性能优化,支持本地 AI 智能体、创作、开发和游戏。

    推荐理由:文章梳理了 RTX Spark 上线前的软件生态准备,涵盖本地智能体、安全沙箱、模型路由及开发工具,呈现其如何把本地与云端 AI 工作流整合到一台设备上。

  4. 36氪49

    上海提出稳妥有序推进绿色数据中心建设

    上海市政府办公厅印发节能降碳和循环经济发展“十五五”规划,提出稳妥有序推进绿色数据中心建设,并探索结合海上风电建设海底数据中心。规划支持液冷技术、高效服务器、绿色能源和基于人工智能的节能智控模型集成应用,新建算力设施能源利用效率不超过1.2。

  5. Investing.com · 股市57

    Scaleway 将在瑞典建设搭载 AMD 芯片的 AI 超级计算机

    法国云服务公司 Scaleway 将在瑞典建设其首个法国以外的 AI 超级计算机,采用 AMD Instinct MI355X,面向欧洲初创企业、AI 公司和企业开放。该系统将由 Bull 组装和维护,并使用 Giga Computing 服务器、HPE 网络设备、VAST Data 存储及 Motul 液冷;Scaleway 称选址考虑了瑞典低碳电力和当地 AI 产业。

  6. 财联社电报58

    上海提高数据中心能效准入门槛,新建算力设施能源利用效率不超过1.2

    上海市人民政府办公厅印发《上海市节能降碳和循环经济发展“十五五”规划》,要求严格新建数据中心准入管理,新建算力设施能源利用效率不超过1.2。规划支持液冷技术、高效服务器、绿色能源和基于人工智能的节能智控模型等集成应用,并提出结合海上风电探索建设海底数据中心。

  7. 华尔街见闻·要闻58

    上海提高数据中心能效准入门槛,新建算力设施能源利用效率不超过1.2

    上海市人民政府办公厅印发《上海市节能降碳和循环经济发展“十五五”规划》,要求新建算力设施能源利用效率不超过1.2。规划提出支持液冷技术、高效服务器、绿色能源和基于人工智能的节能智控模型集成应用,并推进算力、通信基站和机房等基础设施节能降碳改造。