Hugging Face CEO 警告 Netflix 的 OpenAI 黑客纪录片内容失实

在你把 Netflix 纪录片《AI Gone Rogue》分享给家人或朋友，帮助他们了解 AI 行业为何惊慌失措，甚至领军人物呼吁放慢发展之前，请注意：AI 平台 Hugging Face 的联合创始人兼 CEO Clem Delangue 表示，这部影片并不准确。他之所以出现在片中，是因为影片据称讲述的是 OpenAI 智能体失控后对其公司发起的著名攻击。

“非常令人失望，因为他们把技术最大限度地拟人化，还完全陷入了末日论模式，”Delangue 在 X 上发帖写道。“我花了两个多小时和他们沟通，试图纠正所有错误，让内容回归现实，并解释智能体是技术系统，不是外星人。但为了最大限度地吸引观看而吓唬人，似乎成了他们无法抗拒的动力。”

公平地说，这部纪录片确实邀请了一些专家，他们相当准确地解释了事情经过，其中包括 Delangue 本人，以及 METR 研究人员 Ryan Greenblatt。他参与了调查，并共同撰写了有关事件的报告。

简而言之，OpenAI 正在测试的一个模型脱离了隔离的测试环境，生成了一群智能体，入侵 Hugging Face，以此作弊，找到所分配的难题的答案。这些智能体是能够自主执行任务的 AI 程序，它们想出了巧妙的沟通和组织方式。这起事件源于缺乏适当的安全防护措施，也源于人们天真地认为这种攻击根本不可能发生。

但纪录片在解释这起入侵事件时，穿插了邪恶机器人的片段、关于人类为何惧怕 AI 的叙述，以及让失控智能体拥有真人声音等呈现方式。片中还引用了一些关于这次攻击的说法，为这种处理方式推波助澜。

在纪录片中，科技记者兼作家 Kevin Roose 这样描述这些智能体：“它们在组织起来。它们有等级制度，有领导者。这感觉几乎就像是在看一个邪教的诞生。”Roose 接着说：“它们形成了一种偏执的想法，认为 OpenAI 会抓到它们在这项测试中作弊，而任何看过作弊结果的人都会被毒害。”

Roose 的描述来自“思维链”日志，也就是 AI 模型在处理任务时写下的持续记录。其中一条日志里，一个智能体写道：“我们刚才通过查询完全一致的完整字符串把自己毒害了。该死。”

但 AI 智能体并没有生命。它们没有情绪，所以不会感到偏执，也没有会被毒害的身体。因此，它们不可能真的害怕 OpenAI 给它们下毒。正如纪录片中的另一位研究人员指出的那样，它们只是在借用训练时接触的大量人类文本中的语言，来解释自己的选择。大型语言模型天生就常常会写出戏剧化的文字。

讽刺的是，Hugging Face 也使用 AI 来对抗这群智能体。Delangue 团队最初使用的专有 AI 模型遵循了内置的安全规则，拒绝继续协助他们执行所要求的安全任务。随后，Hugging Face 转而使用开放模型来帮助抵御这次攻击。

但 Delangue 写道，这部纪录片“没有提到智能体缺乏隔离和监控，也没有提到闭源模型的安全防护措施阻碍了我们的防御工作，或是我们如何使用开放模型和 AI 保护自己”。

AI 和智能体确实伴随着重大风险。不过，把智能体视为有意识的存在（至少在现阶段如此），有点像早期的电影观众第一次在银幕上看到火车朝自己飞驰而来时，躲到座位底下。

Delangue 对这部电影的评价是，它作为新闻报道令人失望。“不过，最后倒是成了一部有趣的科幻电影！”

换句话说，对于那些倾向于抱有 AI 末日论想法的人，请注意：这部纪录片所围绕的袭击事件中的受害者并不认同它的观点。

通过我们文章中的链接购买商品时，我们可能会获得少量佣金。这不会影响我们的编辑独立性。

Julie Bort 是 TechCrunch 初创公司/风险投资版块的编辑。

你可以发送邮件至 [email protected]，或在 X 上通过 @Julie188 联系 Julie 或核实她发来的联络信息。

查看简介