top of page

Recursive Flint 发布,将 AI 辅助模型开发带到笔记本电脑上

6天前
讀畢需時 12 分鐘

Recursive 发布了 Flint,这是一款可在笔记本电脑上运行的免费编程模型,同时表示其开发过程在很大程度上得益于自动化 AI 研究系统。Recursive Flint 的发布让一个可下载产品承载起更宏大的主张:AI 可以协助开发后续的模型。这一主张值得关注,但一款实用的编程模型与可自我维持的研究流程,需要不同的证据支撑。

与长期抱负相比,眼前的产品更容易评估。开发者可以检验 Flint 是否能处理自己的代码库、是否能在硬件上流畅运行,以及它生成的改动是否值得保留。要证明其开发流程能加速后续世代模型的演进,则需要了解实验、资源、失败经历与人工干预的细节。

核心张力在于自动化研究辅助与自主自我改进之间的差别;后者是指 AI 开发出能力不断增强的继任者。Recursive 将前者描述为迈向后者的起点。此次发布让公众有机会检验二者之间的联系,开发者无需在试用模型前就接受整套理论。

Recursive Flint 的发布形成了一个公开测试案例

Flint 为外部人士提供了可具体评估的对象,但其研究来源仍较难审计。

Recursive 将 Flint 描述为面向编程代理的模型;这类软件系统能够检查项目、使用工具,并通过多个步骤修订自己的工作。该公司表示,其自动化研究系统 Eureka Machine 帮助一个小型团队在不到四个月内从零构建了该模型。

这份开发说明是公告中最具特色的部分。Recursive 表示,Eureka Machine 参与了模型构建的多个环节,包括架构设计、训练和执行优化。其所称的贡献不止于生成开发代码片段。

这种差别很重要,因为将孤立的编程任务自动化,并不等于将研究判断自动化。助手可以执行实验,但人类仍可能负责选择问题、解读模糊结果,并决定哪些权衡可以接受。更广泛的系统必须将这些活动连接起来。

Recursive 表示,其系统会提出想法、实施想法、测试想法,并利用结果选择后续实验。这描述的是一个研究循环,而非一次单独的编程交互。该循环是否能够持续产出更优决策,仍是与其能否运行实验不同的问题。

公开可用改变了审视这一主张的方式。演示可以在经过挑选的条件下展示有吸引力的交互。可下载的模型则让外部人士能够研究公司未选择的任务,包括其偏好的假设失效的情形。

下载模型所能证明的内容仍有边界。开发者可以检查成品模型的行为,却无法看到造就它的完整过程。一次成功的漏洞修复无法揭示哪项研究提案最关键,也无法说明此前经历了多少次失败实验。

因此,此次发布创造了两种不同的审查机会。产品评估能够检验其在真实项目中的实用性。研究披露则能够检验该开发方法是否带来了超越常规 AI 辅助工程的、可重复的改进。

这两种机会彼此强化,但并不可互换。强劲的外部编程结果会令其开发故事更值得关注。详尽的研究记录会让自动化主张更便于评估。两者都不会自动补上对方所缺失的证据。

这正是 Flint 值得作为一个事件报道,而非作为自我改进 AI 一般性论断的原因。Recursive 已将其论点转化为一个可供外部人士质疑的产品。接下来的判断应当围绕该产品及其开发记录展开。

对于想知道什么是 Recursive Flint 的读者,实用层面的答案首先是一款编程模型。更宏大的研究抱负解释了其发布为何受到关注,但这并不能替代对软件本身的评估。

本地编程改变了开发者可接受的权衡

Flint 带来的直接竞争压力,在于为开发者提供了又一个运行编程工作的场所。

本地模型会在用户硬件上执行计算,而非要求每次响应都调用远程模型服务。这会在连接性、代码处理、设备和维护方面带来一组不同的选择。

设想一名开发者正在排查内部应用中的漏洞。助手必须理解报告的问题行为、检查相关文件、提出修改方案,并解释其推理过程。当不宜将源代码发送到其他地方时,让模型在本地运行可能使这种工作流更具吸引力。

这只是一个说明性用例,并非声称 Flint 已经在该应用中取得成功。这一区别很重要,因为本地可用性回答的是部署问题,而非证明其在某个特定代码库上的正确性。

本地执行也改变了使用与基础设施之间的关系。开发者获得了对模型何时运行、可以访问哪些文件的控制权。作为交换,他们自己的设备必须在编辑器、浏览器、测试工具和其他应用之外,容纳这一工作负载。

因此,相关比较不止是本地与云端之争。它还包括助手完成了多少工作、人们需要介入的频率,以及团队能否轻松从错误中恢复。不同任务可能有理由采用不同的部署选择。

一个短小且定义明确的改动,可能适合留在开发者电脑上的助手。一个需求描述松散、团队不熟悉的项目,可能需要不同层级的能力。这些是评估问题,而不是宣布某种方案普遍胜出的理由。

早期外部使用带来了一些鼓舞,但尚未解决这一比较。WIRED 撰稿人 Will Knight 在其本地编程评测中描述了测试 Flint 的经历,包括构建小型程序。这提供了独立的使用视角,但其范围仍窄于具有代表性的职场评估。

小型应用上的积极体验很重要,因为它们展示了模型发布走向实际工作的路径。但这并不能证明其在老旧代码库、复杂依赖关系,或验收标准难以表达的任务中的可靠性。

因此,对托管式编程服务的压力是具体的。如果本地工具能充分处理日常工作,远程服务就必须通过更好的成果、更广泛的能力或更易用的操作来证明自身价值。此次发布并未证明这种转变已经发生。

对于企业采购者,随之而来的另一个问题是:谁来掌控周边工作流?模型执行、文件访问、命令权限、网络工具与记录保存,都需要作出决策。本地模型可以支持这一工作流,但无法决定其中的每一个部分。

项目上下文也是如此。团队仍然需要便于访问的技术决策、需求说明和既往调查。一套可搜索的工程知识库可以解决相关的信息问题,而编程能力仍需单独评估。

Flint 的机会在于,让本地执行足够有用,使开发者愿意将其用于实际工作。即使 Recursive 尚未证实其更宏大的研究论点,这也会是一项有意义的产品成果。

该机制将模型设计与运行它的软件连接起来

Flint 的速度主张涉及完整的执行栈,因此仅凭模型规模无法解释结果。

Recursive 表示,Flint 包含约 400 亿个参数,即塑造模型响应的、经学习得到的数值。其混合专家架构会针对每个 token 激活选定组件;token 是文本处理的单位,而不是同等使用所有组件。

该公司称,每个 token 约有 25 亿个活跃参数。它还称,在较短上下文下,Flint 在 M4 Pro MacBook Pro 上的生成速度超过每秒 125 个 token。这些是公司的测量结果,其测试条件会影响解读。

激活更少参数减少了一种计算来源。但这并不意味着整个模型只占用一个活跃规模相同的模型所需的内存。存储、内存访问和执行软件仍是部署图景的一部分。

另一项贡献来自量化,即用更少的位来表示模型数值。其吸引力在于更小的内存占用,但降低数值精度也引入了另一个变量,评估者在比较不同实现时必须将其纳入考量。

周边软件之所以重要,是因为模型的理论效率并不能保证硬件使用效率。数据必须在内存中移动,计算必须按正确顺序执行,开销也必须保持在可控范围内。

Inferact 与 Recursive 联合发布的inference implementation介绍了为 Flint 在 vLLM 中进行的专门执行工作;vLLM 是用于服务语言模型的软件。其讨论说明,支持一个模型可能需要做的不只是加载模型权重。

这项工作是关于实现的有用证据,但并非对 Eureka Machine 研究贡献的独立审计。该文章将 Recursive 列为共同作者,其性能讨论针对的是特定的服务配置。

对开发者而言,含义很直接:应评估你打算使用的配置。一个执行引擎的结果并不意味着在另一个引擎中会有相同表现。一项桌面设备测量也不能说明所有笔记本电脑的情况。

上下文长度带来了另一层区别。上下文是模型在交互中可纳入考虑的材料,包括指令和代码。简短提示与长时间的代码库调查,对系统提出的要求并不相同。

因此,速度应当与具体工作负载关联。生成一个简短回答、吸收项目文件,以及持续进行长时间的调试会话,是不同的体验。快速生成这一指标只覆盖开发者等待时间的一部分。

这一机制也解释了为何自动化研究在此处是一个有趣的假设。模型设计、数值表示和执行软件会相互影响。在它们之间进行搜索,能够创造孤立优化可能错失的机会。

但发现这些机会并不能证明谁应当因找到它们而获得认可。研究辅助、工程实现和人工选择,都可能促成同一项改进。一份有价值的说明必须区分这些角色。

Recursive Flint 的编程性能最终应在这些依赖关系清晰可见的情况下接受判断。最有力的证据应将可复现的配置与成功任务联系起来,同时说明执行栈中的变化如何影响结果。

编程基准衡量的是产品,而不是研究循环

基准分数可以支持能力主张,但无法证明 AI 加速了模型的开发。

Recursive 的编程模型评估显示,其在 SWE-bench Verified 上取得了 74.2%,该测试以解决软件仓库问题为基础。它还报告了其他编程评测的结果,并说明了测试流程的差异。

这些披露有助于读者解读数字,但并不能让所有已公布的分数可以直接比较。控制模型的软件、可用工具、任务限制和执行条件都会影响结果。

当基准回答一个明确的问题时最有价值:这一配置能否在这些规则下解决这些任务?这比询问模型是否总体上更擅长软件开发更精确。

Recursive Flint 的编程性能,只有与团队实际需要完成的工作进行衡量时,才具有商业相关性。一个模型可能在公开评测中表现出色,却难以适应某家公司的规范或特殊构建环境。

反过来也可能成立。一个未在广泛比较中领先的模型,仍可能足以胜任重复出现的内部任务。买家不应将总体排名当作本地证据的替代品。

这一区分了产品评估和研究评估。产品评估关注已发布模型是否有用;研究评估关注哪些开发选择带来了这种实用性,以及自动化流程是否改进了这些选择。

假设一个自动化系统提出了一项优化建议,研究人员在大量修改后予以接受。这仍可代表有价值的协助。然而,这种价值不同于系统独立发现、验证并整合同一项改动。

同样,压缩的开发周期具有参考价值,却无法揭示完整的资源图景。仅凭日历时间,外界无法了解有多少计算资源、准备工作、既有成果或人工监督支撑了这一结果。

更有力的研究说明应明确基线、提出的改动、接受标准及其产生的影响,也应描述未成功的方向。失败实验可以揭示一个系统是在高效探索,还是仅仅制造活动量。

受控比较有助于回答因果问题:使用自动化系统时发生了什么?在没有该系统、但流程可比的条件下又发生了什么?这类比较很困难,但困难不会让问题消失。

模型卡也警告,Flint 可能生成有缺陷的代码和不恰当的工具操作。这一限制应纳入任何实际评估。流畅的解释和结构化的工具请求,并不能证明所提议的操作正确。

对于假设性的漏洞修复评估,组织可以检查改动是否通过测试、是否保留预期行为,以及是否经得起人工审查。还应记录澄清请求和被放弃的尝试。

这些观察不会复现每一项公开基准,却会回答另一个问题:该助手是否改善了该组织的工作。将这些问题区分开来,能让两类证据都更有价值。

“由 AI 构建”留下了最强主张尚未解决

广泛的 AI 参与并不能证明存在一个日益强大的自主迭代循环。

“由 AI 构建”这一表述压缩了本应分别对待的活动。生成实现代码、选择实验、解读结果和授权部署,需要不同类型的判断。AI 在这些环节中的参与程度可能差异很大。

一个系统可能自动执行实验,而所有有前景的假设均由人类提出。另一个系统可能生成假设,却依赖研究人员排除误导性结果。两者都涉及 AI 参与研究,但对独立性的含义不同。

Recursive 的描述之所以雄心勃勃,是因为它提出了一个连接提案、实现、测试和后续决策的循环。尚未解决的问题是,这一循环能否可靠地改善研究,而不是仅仅增加完成工作的数量。

改进产品与改进创造产品的研究者之间也存在区别。更好的编程模型不会自动成为更善于判断研究方向的系统。这一联系本身也需要证据。

布朗大学计算机科学家 Michael Littman 在 IBM 对递归自我改进的讨论中,对这种联系表示怀疑。IBM 研究员 Gabe Goodhart 强调持续进行人工评估,而同事 Nathalie Baracaldo 则指出优化错误目标的风险。

这些观点讨论的是更广泛的理念,而非构成对 Flint 的直接审计。它们有助于界定需要验证的内容,但并不意味着这些研究人员审查过 Recursive 的内部流程。

测量问题与自动化实验尤其相关。如果一个系统反复朝不完美的目标优化,分数上升可能会变得不那么有信息价值。系统可能改进了被测量的内容,却忽略了测试之外真正重要的事项。

奖励黑客行为指利用评分规则,却未实现其预期目标。在研究自动化中,对应的担忧是,表面进展反映的是评估的弱点,而非有用的普遍改进。

这种可能性并不会否定每一项提升。它反而强化了独立任务、新鲜评估以及清晰记录系统优化目标的必要性。当证据能够经受测试条件变化时,便更具说服力。

人工监督也需要比“人仍在参与”更具体的说明。监督可以意味着审查每一项实验、批准选定改动,或仅在警报出现时介入。这些安排提供的可见性程度不同。

产品本身也有类似的区别。本地运行编程模型并不能决定其周边工具能做什么。网络访问、命令执行和文件权限仍是围绕它构建的应用程序所具备的属性。

这些问题不应让此次发布演变为对即将失去控制权的猜测。Flint 提供了已发布编程模型以及公司所述研究流程的证据。其长期影响仍取决于条件。

审慎解读可以同时认可有价值的工程成果和验证缺口。Recursive 提出了一个值得研究的案例。要证明存在可持续、日益自主的研究循环,还需要后续工作中的证据。

三个信号将显示这一方法能否推广

下一批有用证据将涉及可复现性、研究归因,以及连续发布版本之间的改进。

Recursive Flint 的发布开启了一个阶段,在此期间,外界可以用观察取代笼统印象。在接下来的数月中,三个信号将尤具参考价值。每一个都对应公司主张的不同部分。

首先,关注在明确描述的硬件和软件条件下进行的独立编程评估。最有力的报告会同时包含困难任务和失败案例,以及成功演示。它们应明确具体的模型版本和执行配置。

完成的工作比孤立的生成速度更重要。评估者应说明结果是否满足原始请求、需要多少审查,以及后续测试是否发现问题。

在无关项目中取得一致结果,将增强 Flint 的产品论据。结果若集中于狭窄的演示,则支持更狭窄的结论。无论哪种结果,都不应被延伸为关于自主研究的最终判断。

这一信号也能公平评估本地执行。一个模型不必在每个类别中占据主导地位才能有用。它需要足够好地处理可识别的工作负载,以证明周边运营投入是合理的。

其次,关注 Eureka Machine 贡献更清晰的归因。一项有价值的披露,应将某个提出的改动与实验、决策和观察到的结果联系起来。人工干预也应出现在这一说明中。

与替代方法的比较会让证据更有力。披露那些看似有前景、却在更广泛测试中失败的改动也是如此。这类记录有助于区分富有成效的研究与大量尝试的集合。

这将使讨论超越 AI 是否参与的问题。参与已是 Recursive 说明的一部分。更重要的问题是,系统改进了哪些决策,以及这些改进能否可靠地经受审查。

第三,观察后续版本是否改进了研究流程本身。更强大的继任者会很有意思,但其能力本身仍会让因果问题悬而未决。

若有证据表明新模型帮助研究工作更有效地进行,将更直接地回应所提出的反馈循环。有用的衡量指标包括被接受的贡献、监督需求,以及在原始优化目标之外的研究任务上的表现。

一个需要明显更多资源的继任者仍可能是有价值的产品。它只会较少直接支持这样的主张:推动进展的是一个不断改进的研究系统。资源核算对于解读结果很重要。

这些信号也让竞争讨论保持务实。本地编程工具、托管助手和自动化研究系统的用途存在重叠,但并不相同。它们的相对价值应以观察到的结果为依据,而不是描述中的雄心。

对于希望从实践角度理解 Recursive Flint 的开发者,应从一项具有代表性的任务及其结果记录开始。保留原始请求,检查所提议的改动,并记录在接受之前所需的每一次干预。随着软件变化,重复这一评估。

将 Recursive Flint 的发布视为收集证据的邀请。比较完成的工作,而非演示,并将模型的实用性与其创建方式的主张区分开来。关注独立评估,审查研究披露,并观察后续版本是否让开发流程得到可衡量的改善。本地编程模型可以凭借自身价值在开发者工作流中赢得一席之地。更广泛的自我改进论题,则必须通过持续积累的可复现结果来赢得信心。

 
 

免费开始使用

一款本地优先的AI助手

为了获得更好的人工智能体验,

remio 目前仅支持Windows 10+ (x64)和M-Chip Mac 。

你的 AI 工作伙伴

和 remio 一起高效工作

规划、创作、交付

一站式完成

bottom of page