跳到正文
今天10月20日周二736 条
  1. AWS Machine Learning Blog64

    vLLM 双向 KV 传输如何降低多轮智能体工作负载的 TTFT

    AWS介绍了 vLLM 的双向 KV cache 传输机制,让 Prefill 节点在多轮智能体工作负载中复用 Decode 节点保留的上下文,减少重复计算并降低 TTFT。

    推荐理由:文章串联了双向 KV 传输的架构、路由元数据与阈值配置,并用两组模型的 TTFT 数据展示其在长上下文多轮场景中的收益。

  2. AWS Machine Learning Blog56

    Deepgram 如何用 AWS Trainium2 优化语音 AI 推理

    Deepgram 与 AWS 将 Nova-3 语音转文字模型移植到 AWS Trainium2,并针对离线批处理优化推理。团队使用 TorchNeuron、NKI 内核和 Rust 数据并行运行时,在单台 trn2.3xlarge 上运行 8 个模型副本;相较 Deepgram 此前使用的计算选项,每美元可处理的音频增加 11–70%。

    推荐理由:文章拆解了从 PyTorch 移植、内核调优到 Rust 服务运行时的优化过程,并给出批处理场景下的吞吐与成本数据。

  3. AWS Machine Learning Blog61

    TwelveLabs Pegasus 1.5 在 Amazon Bedrock 上线

    TwelveLabs 的视频语言模型 Pegasus 1.5 已在 Amazon Bedrock 美国西部(俄勒冈)区域上线,可分析最长 2 小时的视频并返回带时间戳的结构化片段。新功能包括按用户定义条件生成元数据、结合参考图像进行多模态提示,以及无需预索引的按需处理;视频可通过 Amazon S3 URI 或 base64 字符串提交。

    推荐理由:Pegasus 1.5 将长视频分析扩展为按自定义条件提取带时间戳的结构化片段,并支持参考图像提示;文中还给出了调用方式与输入限制。

  4. 华尔街见闻·要闻33

    苹果宣布10月28日举行发布会,将推出首款触屏MacBook

    苹果确认将于10月28日在洛杉矶举行主题为“Pro and tell”的新品发布会,计划推出公司首款触屏MacBook。彭博新闻此前称,苹果还将发布搭载M6芯片的新款入门级MacBook Pro、更新版iMac和配备OLED屏幕的升级版iPad mini。

    同一新闻,精选展示《苹果将于10月28日举行发布会,计划推出首款触屏 MacBook》

  5. 华尔街见闻·要闻48

    零售商 Ahold Delhaize 向荷兰警方报告网络安全事件

    欧洲零售商 Ahold Delhaize 在基础设施中发现可疑活动后,向荷兰警方报告网络安全事件,并于10月初预防性下线部分系统。该事件报告时间与法国一起网络攻击事件大致重合;法国事件导致数百家门店的冰箱和冷冻柜升温至50摄氏度,引发火灾并造成食品变质。

  6. 财联社电报24

    俄罗斯确诊5例猴痘病例

    俄罗斯圣彼得堡博特金临床传染病医院确认,此前因疑似感染猴痘住院的5名患者均已确诊。患者病情稳定,症状为轻度至中度,目前仍在接受治疗。

  7. 华尔街见闻·要闻26

    苹果称智能手机和平板电脑未侵犯5G专利

    苹果在美国加州联邦法院称,其智能手机和平板电脑未侵犯5G专利,并指控Hannibal IP LLC违反合同。苹果表示,双方自2022年以来持续谈判,Hannibal于今年8月未发出预警便在得克萨斯州起诉苹果。

  8. 华尔街见闻·要闻31

    Ivanhoe Electric正就出售美国铜产品进行洽谈

    Ivanhoe Electric正与美国亚利桑那州Santa Cruz采矿项目铜产品的潜在买家洽谈,数据中心与电网扩张推升铜需求。首席执行官Taylor Melvin称,传统贸易商和为美国工业获取供应的潜在战略合作伙伴均已关注该项目铜产品,但未透露具体对象;公司股价周一盘中一度上涨3%。

  9. TechCrunch · AI65

    开发者用 AI 改造智能电视,移除广告与预装软件

    开发者正借助 Claude Code 等 AI 工具改造智能电视,移除广告和预装软件、替换主屏并关闭追踪功能。相关项目 dumbtv 和 cleanyourtv 覆盖多种电视平台,部分用户也直接让 AI 智能体协助操作。改造过程仍可能出错,有用户报告电视变砖或操作卡住;文章指出,智能电视改造需求与用户对广告和观看追踪的不满有关。

    推荐理由:文章呈现了 AI 智能体降低智能电视改造门槛的案例,也交代了用户摆脱广告与观看追踪的诉求及操作风险。