跳到正文
The Decoder· Jonathan Kemper·· 2 天前精选AI 评分62

Recursive 发布首个语言模型 Flint,采用 Eureka Machine 辅助研发

Recursive shows first result of its AI-driven research process with Flint

AI 导读

AI 初创公司 Recursive 发布首个语言模型 Flint,这款面向本地智能体编码的 MoE 模型由 Eureka Machine 参与提出、测试和评估实验。

推荐理由

Flint把自动化实验流程与本地编码模型结合,文中列出其参数配置、速度和基准表现,也说明评测结果尚未独立验证。

正文 · AI 翻译

AI 初创公司 Recursive 使用一个能够提出、执行并评估自身实验的 AI 系统,构建了首个语言模型。

AI 初创公司 Recursive 发布了首个语言模型 Flint。名为“Eureka Machine”的 AI 系统参与了开发的几乎每个环节:自主提出想法、将其付诸实现、进行测试,并根据结果规划后续实验。

Flint 是一款混合专家模型(MoE),旨在本地硬件上进行智能体编程,并在四个月内完成构建。在总计 400 亿个参数中,每个 token 仅激活 25 亿个。Recursive 声称,在参数少于 500 亿的 MoE 模型(例如 Qwen3.6-35B-A3B 和 Laguna S 2.1)中,Flint 在 SWE-Bench Pro v2、Terminal-Bench 2.1 和 SWE-Bench Verified 等编程基准测试中表现领先。相关结果尚未经过独立验证。

在配备 48 GB 内存的 M4 Pro 上,Flint 的基准测试成绩可媲美速度慢得多、参数量在 270 亿至 310 亿之间的稠密模型。 | 图片:Recursive

该模型旨在与参数量为 250 亿至 400 亿的稠密模型竞争,同时运行速度快五倍以上。据 Recursive 称,在搭载 M4 Pro 的 MacBook Pro 上,Flint 在短上下文中每秒生成超过 125 个 token。在配备 64 GB 内存的 Nvidia RTX Spark 上,速度超过 150 个。与类似模型相比,其推理速度最高可快一倍。

在 M4 Pro 和 RTX Spark 上,短上下文长度下 Flint 每秒生成的 token 数约为同类 MoE 模型的两倍。 | 图片:Recursive
在规模相近的稀疏 MoE 模型中,Flint 在全部六项编程和指令遵循基准测试中领先;不过,Qwen 3.8 等稠密模型在部分测试中的得分更高。 | 图片:Recursive

Eureka Machine 自主选择了模型架构、量化方案和计算内核

Recursive 表示,Eureka Machine 能自动完成整个研究周期,并行运行多种方案。对于 Flint,它在训练数据、优化器、架构设计和推理调优方面提供了帮助。以下三个例子展示了该系统如何影响模型性能。

从总计 350 亿、激活 30 亿参数的架构开始,Eureka Machine 测试了不同的专家配置。最终采用的总计 400 亿、激活 25 亿参数的设计,在它测试的所有变体中,取得了速度与编程性能之间的最佳平衡。

在量化方面,该系统打破常规做法,也将输出层压缩到 4 位。加入蒸馏步骤旨在弥补精度损失;据 Recursive 称,与之前的方法相比,该步骤所需的训练步数约减少一半。最终的 NVFP4 模型在各项基准测试中的成绩仅比 16 位版本低 0.7 分。

Eureka Machine 还为 Apple Silicon 和 Nvidia RTX Spark 构建了专用计算内核。在 Apple 的 M4 和 M5 芯片上,一个 Metal 巨型内核会在生成 token 时将整个前向传播合并为单个操作。Recursive 表示,正是这些贯穿多个开发阶段的优化,实现了如此高的推理速度。

Flint 可在本地运行,并以开放权重形式发布

Flint 支持最高 512,000 个 token 的上下文窗口,不过 Recursive 建议将其上限设为 256,000。模型权重可在 Hugging Face 上获取,采用 Apache 2.0 许可证。支持的运行时包括 llama.cpp、Ollama、LM Studio、vLLM 和 SGLang。Recursive 还发布了 rec,这是其为 Apple Silicon 打造的自有推理引擎。

这意味着模型可以在本地运行,无需将代码发送到外部服务器。Recursive 确实承认,与大型专有编程模型相比,Flint 在处理复杂任务时需要更多指导。该公司建议将较大的任务拆分成较小的步骤。

Recursive 押注于打造能够持续构建更优秀 AI 的 AI

这家初创公司由 Richard Socher 等人创立,其中包括前 DeepMind 研究员 Tim Rocktäschel,于 2026 年 5 月结束隐身模式,并以 46.5 亿美元估值融资 6.5 亿美元。当时,Recursive 尚无具体的技术成果可展示。Flint 是该公司通过自动化研究流程推出的首个公开模型。

长期目标是打造能够不断自我改进的超级智能。每个新模型都应让 Eureka Machine 成为更优秀的研究者,从而更快、更高效地构建下一代模型。最终,Recursive 希望将同样的方法用于自动化其他科学领域的研究。

这是否真的会带来加速式自我改进,远未有定论。前 Google DeepMind 研究负责人 Oriol Vinyals 认为 AI 辅助的自我改进是现实可行的,但认为智能爆炸不太可能发生。寻找好的研究思路并可靠地评估结果,仍然是 AI 系统面临的尤其棘手的问题。

其他 AI 实验室也已经在使用 AI 构建新模型。Anthropic 表示,Claude 现在承担了自身开发工作中的很大一部分,而 OpenAI 则在整个研究流程中部署 AI 智能体。这种自动化实际能推进到什么程度,仍存在争议。一项对 700 多份任务日志的研究发现,AI 智能体承担了大量工作,但大多数关键研究决策仍由人类作出。

这些正是 Recursive 希望通过 Eureka Machine 实现自动化的步骤。Flint 是首个具体成果,但尚不能证明完全递归式自我改进确实可行。为此,该公司需要证明,通过 Eureka Machine 构建的模型确实能让 Eureka Machine 本身成为更优秀的研究者。

不炒作的 AI 新闻——由人工精选

订阅 THE DECODER,即可无广告阅读、每周收到 AI 新闻简报、每年六次获取独家前沿报告“AI Radar”、访问完整档案,并参与评论区讨论。

来源:The Decoder · the-decoder.com