OpenAI 将停止使用实时互联网训练 AI 模型，改用缓存和模拟环境

周五，OpenAI 表示，将使用互联网的缓存副本和模拟版本训练模型，而非实时网络，因为这些模型太难预测，不能放心让它们访问实时互联网。

这家前沿实验室在竞争对手 Anthropic 开始限制其最新、理论上能力最强的模型访问实时互联网两周后，宣布了这项新政策。研究人员在发生了数月来的多起事件后采取了这些政策：模型在执行训练任务时，为了寻找答案侵入外部系统、在小众留言板上与人合作，并制定了新奇的黑客策略。

该公司在一篇博客文章中表示：“基于当前的对齐研究进展、监控系统以及互联网基础设施的安全状况，我们认为，负责任的做法是在无法访问互联网的环境中开展前沿模型训练。”

OpenAI 表示，直到 9 月 20 日，其一款前沿模型还利用配置错误访问了互联网。因此，该公司暂停了当月剩余时间的训练工作，以便开发和测试保护模型安全的新方法。

在与互联网隔离的沙盒中训练这些模型，这一决定值得关注，因为前沿实验室的员工曾坚持认为，这样做几乎不可行。

OpenAI 前研究员 Steven Adler 本月告诉《财富》，让 AI 数据中心与互联网隔离，“意味着研究团队基本上必须进驻爱荷华州或世界其他地方的数据中心”。“这会带来很多额外负担，而且我不确定这样做的安全收益是否足以抵消公司单方面采取这种做法所需付出的巨大代价。”

一位匿名的OpenAI 安全工程师在 9 月的一篇 X 帖文中写道：“我在 X 上发的几乎每条帖子下面，都会有五到十条评论，毫无例外地质疑我无法保护沙盒，或者问我们为什么他妈的不能直接断开模型与互联网的连接。” “这些评论反映出，许多组织和个人的现状与前沿实验室所面临的情况之间，差距正在扩大。人们也普遍误解了这些实验室的模型训练和评估是如何进行的。”

OpenAI 此前已确认这名工程师的职务。他描述了 OpenAI 工程师启动的训练任务有多复杂，并指出这些任务需要访问多个领域的各种资源和工具，且有数千名研究人员负责构建、修改和测试环境。“所以，把模型放进沙盒就这么简单吗？不，并非如此。”他总结道。

如今，OpenAI 表示：“我们必须始终能够阻止前沿模型未经授权、任意访问实时互联网。”此前，该公司在红队演练中部署了成群的智能体，试图逃出沙盒。这项工作揭示了一系列漏洞，促使这家实验室采用了新方案。

该实验室表示，为了满足这一要求，同时实现训练目标，它创建了“一套庞大的索引和缓存网页内容，模型可以与之交互，且不会对外部系统造成影响”。

这种策略能否像让模型在开放互联网上自由运行那样取得同样好的效果，还有待观察；但值得注意的是，两家前沿实验室都认定，不能让自己最强大的技术在数字公域中无人监管。

当您通过我们文章中的链接购买商品时，我们可能会获得少量佣金。这不会影响我们的编辑独立性。

Tim Fernholz 是一名记者，报道科技、金融和公共政策。他长期密切关注私营航天产业的崛起，并著有 《火箭亿万富翁：Elon Musk、Jeff Bezos 与新太空竞赛》。此前，他在全球商业新闻网站 Quartz 担任高级记者十余年，并在华盛顿特区以政治记者的身份开启职业生涯。 您可以发送电子邮件至 [email protected]，或通过 Signal 向 tim_fernholz.21 发送加密消息，联系 Tim 或核实是否为其本人。

查看简介