技术方向
把模型跑起来的工程实践：推理优化、显存与成本、Serving 架构与基础设施选型。
13 条精选近 30 天 12 条共收录 39 条
AWS 宣布 Claude Haiku 5.5 已在 Amazon Bedrock 和 Claude Platform on AWS 上可用。Anthropic 称该模型是 Claude 5.5 系列中最快、最高效的模型，面向 subagents 和高容量、成本敏感型工作，多数任务成本比 Claude Haiku 4.5 低约 75%。
推荐理由：原文说明了 Haiku 5.5 在 Bedrock 的可用方式和成本定位，便于评估其在高频子任务中的适配度。
NVIDIA 与 Microsoft 在旧金山活动上介绍了面向 Windows PC 的本地 AI Agent 方案，包括 RTX Spark 设备预订和 Microsoft Execution Containers 正式可用。
推荐理由：原文给出 Windows 本地智能体的硬件配置和系统基础设施，便于判断端侧 AI 工作流变化。
GitHub 介绍了与 Microsoft Applied Sciences 构建的微调 ModernBERT 分类器，用于把 push protection 扩展到非结构化密钥。
推荐理由：原文结合九个季度数据与新分类器细节，说明 GitHub 如何把密钥防护前移到代码推送链路。
Microsoft Research Asia 发布并开源 Agent Lightning v1.0，一个约 3,500 行代码的轻量级 Agentic RL 框架，用于在真实 agent harness 中训练智能体。
推荐理由：原文展示了用真实 agent harness 参与 RL 训练的设计，可作为编码智能体训练流程的工程参考。
AWS Machine Learning Blog 介绍了在 Amazon Bedrock AgentCore runtime 和 OpenClaw 上构建上下文感知个人助手的方法。
推荐理由：文章把记忆命名空间、模型路由和提示词缓存串成可复用架构，便于迁移到其他个人助理场景。
Mistral AI 发布 Mistral Large 4 公共预览版，这是一个 1 trillion-parameter 原生多模态模型，拥有 52 billion active parameters，可在 Mistral Studio 试用 preview API，并计划在本月底发布权重。
推荐理由：原文披露了参数规模、开放权重计划和多项基准结果，可用于比较欧洲开放权重模型的能力定位。
GPT-6 Astra Ultrafast 运行在 NVIDIA Blackwell GPUs 上，现已在 OpenAI API 以及符合条件的 ChatGPT Work 和 Codex 用户中可用。
推荐理由：原文给出 Ultrafast 与 Standard 的速度差异和开放入口，可用于评估编码智能体延迟优化价值。
GitHub Blog 介绍 GitHub Copilot app 的 canvas，认为许多 AI 任务不应只依赖 chat 作为交互界面。canvas 是运行在 GitHub Copilot app 内的小型全栈应用，可与 GitHub Copilot agent 双向通信，也能调用第三方 API 或在本机执行代码。
推荐理由：文章用 GitHub Copilot canvases 示例说明，任务型自定义 UI 可减少把 Agent 当工具本身的 token 消耗。
GitHub Security Lab 介绍了 Fuzzing Taskflow，这是一个面向 C/C++ 项目的自主 fuzzing 流水线，基于 GitHub Security Lab Taskflow Agent 构建。
推荐理由：文章拆解了 LLM agent 接管 fuzzing 覆盖改进和崩溃分诊的流程，对安全自动化工作流有参考价值。
GitHub Blog 介绍了 GitHub Copilot app 为超大 pull request 重建视图的工程方案。团队用一个包含 2,200 个文件、超过 100 万行变更、400 多条行内评论的开源 pull request 压测，通过代码行虚拟化、评论动态高度测量、滚动锚定、增量数据管线和自动化测量循环，让大 diff 与多线程评论保持可滚动和可阅读。
推荐理由：原文拆解了大规模 diff 与评论渲染的工程取舍，可迁移到其他长列表和动态内容界面。
Microsoft Research 研究显示，机器人只依赖机载 GPU 运行物理 AI 推理会限制性能、电池续航和可扩展性，将推理卸载到边缘或云端 GPU 可带来优势。
推荐理由：文章用机器人移动操作负载比较本地与卸载推理，提供了性能、电池与部署取舍的系统视角。
Mistral AI 帮助一家欧洲能源运营商将 40,000 行 Fortran 77 迁移到 C++，对象是一个物理密集型油藏模拟器，原项目没有测试套件和集中化文档。
推荐理由：案例给出从校验基准到人机协作流程的迁移路径，可迁移到复杂遗留系统改造。
Mistral AI 推出 Agentic Search，这是一个检索层，可让 AI 系统在复杂文档和数据源中搜索、导航、阅读并验证信息。它通过 Mistral Search Toolkit 和 Libraries 提供，使用 search、open、navigate、read、grep 五个工具，并内置于 Studio 和 Vibe。
推荐理由：原文给出工具接口、适用场景和基准数据，可用于比较 Agentic Search 与传统 RAG 的取舍。