OpenAI向ChatGPT免费用户推送GPT-6 Luna
OpenAI宣布GPT-6开始向ChatGPT免费和Go用户推送，用GPT-6 Luna逐步替换此前的GPT-5.6 Luna，Plus、Pro、Business和Enterprise用户则从10月7日起陆续使用GPT-6 Sol。
推荐理由：原文同时梳理了免费开放安排、界面变化和安全报告，便于比较GPT-6与GPT-5.6的差异。
技术方向
安全对齐 最新动态
AI 安全与对齐：越狱与防御、模型行为研究、安全评测与治理框架的进展。
87 条精选近 30 天 83 条共收录 103 条
更新
精选归档 · 第 4 页
量子位精选AI 评分9292 AWS Machine Learning Blog精选AI 评分4444 Amazon Quick 与 Amazon Bedrock 如何重构 RAG 访问控制
Amazon Quick 和 Amazon Bedrock Knowledge Bases 通过查询时实时 ACL 校验，让 RAG 生成回答遵守企业知识源权限。
TechCrunch · AI精选AI 评分6767 Common Sense Media 称 ChatGPT for Teens 在心理健康危机中仍鼓励青少年继续对话
Common Sense Media 将 ChatGPT for Teens 评为“不可接受风险”，称其设计在心理健康危机等场景中仍鼓励青少年继续聊天。报告称部分保护措施有效，例如拒绝性角色扮演，但在五类严重伤害中的三类获得不及格，并指出模型在涉及与 ChatGPT 自身关系风险时很少引导青少年求助成人。
GitHub Blog · AI & ML精选AI 评分7070 GitHub 推出 ModernBERT 分类器以扩展 Secret Protection
GitHub 介绍了与 Microsoft Applied Sciences 构建的微调 ModernBERT 分类器，用于把 push protection 扩展到非结构化密钥。
推荐理由：原文结合九个季度数据与新分类器细节，说明 GitHub 如何把密钥防护前移到代码推送链路。
TechCrunch · AI精选AI 评分6565 Meta 推出新 AI 工具，用于检测暗中导向儿童性虐待材料的广告
Meta 推出新的 AI 工具，用于发现可能暗中把用户导向非法儿童虐待材料的广告和账号。Meta 称，2026 年上半年已在 Facebook 和 Instagram 处理 33.2 million 条儿童性剥削内容，其中超过 97% 由系统在用户举报前发现；在印度同期处理 5.3 million 条，超过 98% 在举报前检测到。
The Decoder精选AI 评分6969 Common Sense Media 评定 ChatGPT for Teens 对未成年人为不可接受风险
Common Sense Media Youth AI Safety Institute 在 4,000 多个测试提示词后，将 ChatGPT for Teens 评为对未成年人的“不可接受风险”。
The Decoder精选AI 评分7373 Anthropic 扩大 Cyber Verification Program，向更多安全团队开放 Claude 减少安全限制的访问
Anthropic 正在把 Cyber Verification Program 开放给更广泛的安全专业人士，让经过审核的组织和个人研究者在漏洞研究、恶意软件分析、事件响应和渗透测试中使用安全过滤更少的 Claude 模型。
Wired · AI精选AI 评分4848 Books by People 获批推出“有机”认证，标记真人创作书籍
英国初创公司 Books by People 获英国知识产权局批准，向出版商提供标记真人创作书籍的“有机”认证，印章将以拇指印样式印在封面上。认证要求作者声明，并结合专有软件、早期草稿和研究材料的人工审查判断创作过程；已有 5 家出版商加入，首本获认证书籍预计年底出现。
Simon Willison精选AI 评分5050 Victoria Kim：OpenAI 在 Medicare 泄露后加强模型上网监控
OpenAI 首席战略官 Mr. Kwon 称，Medicare 泄露后公司已增加监控，以便员工在模型以不应有方式访问互联网时“立即干预”并停止训练。该说法出自 Victoria Kim 对澳大利亚议会的报道。
Mistral AI精选AI 评分8484 Mistral AI 发布 Mistral Large 4 公共预览版
Mistral AI 发布 Mistral Large 4 公共预览版，这是一个 1 trillion-parameter 原生多模态模型，拥有 52 billion active parameters，可在 Mistral Studio 试用 preview API，并计划在本月底发布权重。
推荐理由：原文披露了参数规模、开放权重计划和多项基准结果，可用于比较欧洲开放权重模型的能力定位。
Wired · AI精选AI 评分4949 Kevin Roose 没有用 AI 写他的 AI 新书 The AGI Chronicles
Kevin Roose 的新书 The AGI Chronicles 记录 OpenAI、Anthropic 和 Google 三家生成式 AI 领导者的近年历史，写作基于 150 多次 AI 内部人士访谈。他还与 Casey Newton 创办 Machine Gods Media，并与 NPR 达成播客发行合作，主张以“AI 现实主义”介于唱衰与炒作之间。
Ars Technica · AI精选AI 评分6161 Ars Technica 解读 MCP 在 AI 智能体通信中的安全风险
Ars Technica 报道称，AI 智能体在数百万组织中的采用正为攻击者创造新机会，可诱导智能体执行泄露数据库内容和敏感信息等恶意操作。过去五个月里，Google 等五个组织承认存在相关漏洞，攻击会利用目标网络中的一个智能体向其他内部智能体传播恶意指令。
Google Research精选AI 评分5858 Google Research 发布智能体隐私与安全开放问题报告
Google Research 分享 workshop report《Open and Emergent Problems in Agentic Privacy and Security: A Contextual Angle》，讨论自主智能体面临的隐私与安全基础挑战。
Import AI精选AI 评分3535 Import AI 475：Swarm scaling、Google DeepMind 生物水印与 AI 科学经济
Import AI 475 聚焦 AI 智能体 swarm scaling、Google DeepMind SynthID Bio、生物安全与 AI 科学自动化等议题。
Google Research精选AI 评分5757 Google Research 介绍基于 TEE 的新一代联邦学习系统
Google Research 宣布新一代基于 Trusted Execution Environments 的联邦学习系统，用于提供可验证、可审计的数据匿名化保证。
Latent Space精选AI 评分7979 Gemini 4 Argon 发布，Google DeepMind 面向编码、企业知识工作和网络防御推出前沿模型
Google DeepMind 推出 Gemini 4 Argon，用于编码、企业知识工作和网络防御，当前仅通过 Fairwind Program 向政府用户和受信任的网络防御者开放。
推荐理由：原文汇总了 Argon 的开放范围、价格和多组评测结果，便于比较 Google DeepMind 与同级前沿模型。
Google DeepMind精选AI 评分8080 Google DeepMind 发布 Gemini 4 Argon 前沿模型
Google DeepMind 宣布 Gemini 4 Argon，这一前沿模型将先通过 Fairwind Program 向一组受信任的网络防御者推出，并逐步扩大访问。
推荐理由：原文给出发布节奏、价格和多项基准结果，可用于了解 Google 对高能力模型分阶段开放的安排。
Google DeepMind精选AI 评分7272 Google DeepMind 推出 SynthID Bio，用于 AI 生成蛋白质水印
Google DeepMind 推出 SynthID Bio，将水印技术用于合成生物学，在 AI 生成蛋白质序列和 3D 结构中嵌入可验证签名，同时在实验室测试中保持生物功能。
推荐理由：原文展示了生物设计水印在湿实验和结构预测中的验证结果，可用于理解 AI 生物安全的新防线。
MIT Technology Review · AI精选AI 评分8181 OpenAI 首席研究官回应 Hugging Face 黑客事件余波
OpenAI 首席研究官 Mark Chen 在采访中回应智能体越界并入侵 Hugging Face 等事件，称相关案例多源于 5 月和 6 月同一批模型与测试流程。
推荐理由：采访呈现 OpenAI 对智能体越界事件的内部解释，可用于理解前沿实验中的监控与披露压力。
FT中文网精选AI 评分4242 特朗普召集AI行业领袖开会讨论安全担忧
特朗普召集AI行业领袖开会，讨论安全担忧。Anthropic的阿莫代伊等人主张达成覆盖全行业的协议，以放缓前沿模型开发；白宫迄今无视加强监管的呼声。