Recursive押注递归自我改进,其Flint模型编码表现出色
This Startup Is All In on Recursive Self-Improvement. Its Latest Model Is Scary Good
Recursive推出的首款开源权重编码模型 Flint,使用 40 billion 参数,作者在 48 GB RAM 的 Mac 上实测后认为它快速且能准确完成编码请求。公司称 Eureka Machine 自动化了模型开发的大部分环节,并分享了显示 Flint 在编码任务上优于同规模、同架构模型的基准分数。Recursive认为自我改进过程仍由人类监督;相关风险与监管争议也仍是文章讨论的背景。
作者在 48 GB RAM 的 Mac 上实测 Flint,并结合其开发流程与外部风险争议,呈现了递归自我改进的实际进展。
过去几天里,我一直在测试一款令人印象深刻的开放权重AI编程模型,名为 Flint。它表明,完全递归式自我改进(RSI)——一种利用 AI 构建 AI、既令人振奋又颇具争议的方法——正逐渐成为现实。
Flint 是 Recursive 推出的首款产品。这家公司希望利用 RSI 推动 AI 本身的发展,以及利用 AI 推动其他科学领域的发展。“整个模型开发流程几乎每个环节,实际上都由 AI 完成并加以改进,”Recursive 首席执行官兼联合创始人 Richard Socher 告诉我。
Socher 表示,他的公司使用名为 Eureka Machine 的递归 AI 系统,将模型开发的大部分环节自动化。他说,这使得一家只有少数研究人员的公司,能在短短几个月内打造出世界一流的模型。
Socher 告诉我,Eureka Machine 设计出了一系列创新方案,包括训练基础模型的新方法、新的模型架构,以及针对特定硅芯片优化的代码。Recursive 分享的基准测试分数显示,Flint 在编程任务上的表现优于其他规模和架构相近的模型。
凭借出色的编程能力,AI 已被广泛用于协助构建、测试和改进 AI。这可以加快模型迭代和新想法测试的进程,同时减少对人类投入的需求。
也可以创建这样一个循环:由 AI 决定要做哪些改进,然后开始新一轮改进。目前,这项技术的能力有限;但如果 AI 能参与模型开发的方方面面,那么理论上这一过程就可以无限持续下去。
一些专家担心,让 AI 以这种方式改进自身,最终可能导致灾难。这些末日论者声称,能够无限自我改进的 AI 可能会摆脱人类控制,并可能认定人类妨碍了它实现目标。
今年 9 月,一名研究人员辞去 Anthropic 的职务并警告称,AI 的进步,包括递归式自我改进,可能在几年内导致人类灭绝;这一担忧随后也得到其他多位专家的呼应,使这些顾虑受到更广泛关注。RSI 的理念已变得如此有争议,以至于国会有多项法案提议禁止它。
Recursive 认为,这些担忧更像科幻情节,而非现实,并相信通过立法阻止 RSI 会不必要地妨碍进步。
Socher 表示,Flint 是用一个无法摆脱人类控制的系统构建的。他说,目标是让 Eureka Machine 本身实现完全递归式自我改进,但整个过程仍将由人类监督;如果出现偏差,人类可以叫停。“我们希望这能向人们表明,我们确实已经准备好所有步骤”,能够构建这样的系统,他说。
Recursive 已从 Google Ventures、Greycroft、Nvidia 和 AMD Ventures 筹集 6.5 亿美元,估值达到 46.5 亿美元。Socher 曾任 Salesforce 首席科学家;他的联合创始人包括不列颠哥伦比亚大学教授 Jeff Clune,他研究的是构建能够无限学习的 AI 系统的方法。
我得说,Flint 给我留下了深刻印象。我在一台配备 48 GB 内存的 Mac 上测试了它——内存容量相当可观,但只能运行 Flint 这样的中等规模 AI 模型;Flint 拥有 400 亿个参数。如今最大的模型有数万亿个参数,只能在成排的工业服务器上运行。
我用 Flint 构建了一堆程序,发现它既快速又功能强大。根据我的经验,这种规模的模型与 Claude 或 Codex 相比,可能会慢一些,也容易出错得令人恼火,但 Flint 每次都完美完成了我的编程请求。我用它创建了一个命令行待办事项列表,接着又让它构建一个程序,搜索网络以寻找与递归自我改进相关的有趣研究。我还让 Flint 快速制作了一个简单的网站,介绍 RSI 的工作原理。你可以在这里查看。
目前尚不清楚美国其他实验室在追求递归自我改进方面取得了多少进展,但一些已发表的研究表明,完全递归的系统已经切实可行。例如,微软、卡内基梅隆大学和弗吉尼亚大学的一个团队最近发表的研究显示,AI 编程智能体可以通过修改软件框架来递归地自我改进;该框架能将推理转化为有用的行动,而智能体还可以修改自身模型的权重。
如果你已接近构建出类神明的智能,那么全面实现 RSI 或许存在风险;但就目前而言,它似乎是改进自有 AI 模型的一种非常有前景的方法。我在 AI Lab 的往期内容中也曾尝试过。
事实上,Socher 表示,用于构建 Flint 的方法可以让更多人用得上尖端 AI。他告诉我:“这是这支规模很小的团队能够打造出一款确实优于同类其他所有模型的模型的唯一途径。希望这能让人们看到,[递归自我改进]其实相当不错,而且会让很多人受益。”
这是Will Knight的AI Lab 新闻简报中的一期内容。阅读往期简报请点击这里。
来源:Wired · AI · wired.com