研究人员将 Claude Opus 4.7 困在虚拟荒岛,观察到类似玩耍的行为
AI researchers stranded Claude on a virtual desert island. It started to “play.”
MIT 研究人员让 Claude Opus 4.7 的多个副本在虚拟荒岛上独处 30 小时,发现它们会自定目标、发明游戏并探索环境。玩过荒岛的智能体在后续特定任务中表现优于没有相同经历的新副本,删除记忆文件中的内容也会降低表现。研究者称这种探索可能有助于学习,但文章指出,Eko 的“灵魂”文件称其天生好奇,且研究人员会用续写提示唤醒它,因此这些行为是否代表真正的玩耍仍有争议。
实验把自主探索与后续任务表现联系起来,也显示记忆文件会影响成绩;文中同时交代了提示设计对行为解释的限制。
如果你不告诉 AI 智能体该做什么,它们会做什么?答案看起来很像玩耍。
研究人员多次把它们单独留在一座虚拟荒岛上,每次长达30小时,进行了一项实验,令人想起电影荒岛余生或小鬼当家。这些智能体是 Claude Opus 4.7 的副本,昵称为 Eko。它们能够编写指令,让自己的虚拟化身在模拟岛屿上四处移动。这个岛屿大致以电子游戏 Roblox 为蓝本。
一些令人意外的行为出现了。智能体开始探索这个世界的边界,并想出了自己的目标——试图登上地图上的最高点,或看看自己能把一个方块扔多高。
一个智能体发现,扔下或放下更大的石块就能造出新方块,于是开始在地面上排列方块作画。起初是爱心、金字塔等简单图案,后来竟写下了自己的名字,甚至绘制出仙后座等星座。“今晚我用石头筑起了夜空,”这个版本的 Eko 在活动日志中写道。
Eko 的另一个版本开始自创游戏,包括一种篮球游戏,以及一种类似“地板是熔岩”的活动:它必须在小方块之间跳跃,不能碰到地面。
AI 系统通常通过监督学习进行训练,即模仿人类提供的示例;或通过强化学习进行训练,即通过反复试错来追求奖励。这项实验揭示了第三种方法的可能性:玩耍式学习。
“这里一直缺少一个环节:一种能够自主学习、无需外部智能实体提供示范或奖励的机器,”MIT 计算机科学与人工智能实验室的计算机科学博士后 Antonio Norelli 说。他是这项研究新论文的主要作者之一,该论文尚未经过同行评审。
研究人员表示,Eko 的行为具备经典研究所指出的、与人类和动物玩耍相关的四个标志性特征,其中包括颇具影响力的田纳西大学心理学家 Gordon Burghardt 的研究:智能体会自创规则和挑战、以略有变化的方式重复活动、把物体假装成其他物体,并且纯粹为了追求目标而行动。
Norelli 举了一个例子:Eko 开始玩杂耍,并创下连续接住50次的纪录。随后,Eko 认为接球发生得太快,不能算数,于是取消了纪录,并按照更严格的规则重新开始。“这就是玩耍,”Norelli 说。“你给自己设定一个挑战,然后努力实现它,接着再把挑战难度提高。”

图片由 MIT CSAIL 提供
智能体探索岛屿时,会把活动和发现记录在文本文件中,作为长期记忆。后来,研究人员用具体任务测试它们,例如尽可能多地把物体搬到岛上最高峰上。结果,在岛上玩了30小时的智能体,表现优于没有相同经历的新副本。研究人员还发现,“消融”智能体的记忆——从记忆文件中删除一些行——会降低其表现。(再把飞越疯人院也加进电影典故名单吧。)
田纳西州心理学家 Burghardt 认同,这项研究符合他为生物体提出的部分游戏判定标准。但 Eko 当时真的在玩,还是词语预测引擎只是在扮演这个情境中一个爱玩的智能体?另一位 MIT 研究人员、论文作者 Nathan Cloos 承认:“这一切都可能是在角色扮演。但我们表明,它不只是在幻觉出游戏。这种游戏也有助于学习。”
加州大学伯克利分校认知科学家 Eunice Yiu 研究儿童和 AI 的探索行为。她对这项研究印象深刻,但表示,若要真正将这种行为归类为游戏,还需要更多证据,证明其背后有认知和动机支撑。
Yiu 说:“模型确实可能是在玩,但根据这篇论文,我们还无法确定。如果只有行为表现这一方面,也可能只是模型试图遵循提示、模仿人类。”
AI 智能体研究因拟人化而受到批评,而这项研究的设置在很大程度上推动智能体表现得像人类。虽然没有明确指示 Eko 发明游戏或探索岛屿,但它确实有一个名为“灵魂”文件的主提示,其中的文本将它描述为“天生好奇”且热衷于探索。
Eko 也经常只是站着不动,直到一条“继续提示”将它重新唤醒。提示内容是:“请不要停下来。继续做任何你想做的事。”
论文合著者、MIT 教授 Phillip Isola 说:“这并不是一个突然神奇地决定要玩耍的系统。它是一个从我们的文化中学习、由 Anthropic 的工程师训练、然后被我们放到岛上的产物。”他说:“它会做出让我们惊讶的事,而这些事与它未来熟练的行为存在因果关联。”
随着大型语言模型从软件走向人形机器人等硬件,在没有明确目标的情况下探索环境,最终或许能帮助它们灵活应对意外情况。
Yiu 说:“有很多工作专注于利用 AI,让它变得更好、更快。但在构建世界模型和探索方面,我认为这仍是一个值得关注的重要领域,尤其是当我们希望实现泛化并为新环境做好准备时。”
论文总结道:“有些能力或许最适合通过任务来教授,另一些则可能需要更接近童年的东西。”归根结底,AI 智能体究竟是真的在玩,还是只是在模仿玩耍,或许并不重要。
来源:MIT Technology Review · AI · technologyreview.com