top of page

MIT Eko 智能体开始玩耍,随后将发现付诸实践

57分钟前
讀畢需時 13 分鐘

MIT Eko 智能体在虚拟岛屿上独自度过了 30 小时,没有被分配任何任务,却自行发明了活动,而这些活动后来帮助它们应对具体挑战。在 13 次独立运行中,智能体进行了探索、搭建结构、改造物体,并记录发现。有趣的反转出现在随后:看似没有产出的活动,为后续工作提供了有用知识。

这项实验挑战了开发 AI 智能体的一种常见方法。AI 智能体是能够使用工具对周围环境采取行动的软件系统。通常,开发者会指定一项任务,并据此评估是否成功。而在这里,研究人员刻意没有设定终点。其早期对应项目 Voyager 使用自动课程和不断扩展的技能库探索 Minecraft。Eko 则更强调智能体在没有指定结果的情况下自行选择的活动。

这一差异对于决定智能体应如何在请求之间积累经验的开发者而言至关重要。但这个岛屿故事也需要谨慎界定边界。建造纪念物并不能证明存在悲伤。在熟悉的模拟环境中表现更好,也不能证明具备工作场所能力。最有力的证据指向更具体的事情:写入记忆的发现改变了原本相同的智能体能够完成什么。

MIT Eko 智能体获得的是一座岛,而非一份工作

实验取消了指定目标,同时保留了一个为智能体提供大量可供探究事物的环境。

10 月 5 日提交的 Eko 研究预印本,介绍了 Nathan Cloos、Antonio Norelli、Daniel Durbin、Jacob Andreas、Daniela Rus 和 Phillip Isola 的研究工作。MIT 团队围绕现有的编程助手构建 Eko,为其加入了虚拟身体、持久记忆,以及维持会话运行的软件。

主要实验使用了 Claude Code 和 Claude Opus 4.7。每个智能体都处于岛屿的独立实例中。这些是彼此分离的历史,而不是一群智能体共同发明游戏。这样的区分避免让研究变成关于新兴 AI 社会的故事。

岛屿提供了高地、可移动方块、一块岩石和一个圆环。其最高地形“尖塔”带来了明显挑战,但并不是被指定的目的地。物体可以被携带、堆叠、放置和投掷。这些可能性为实验留出了空间,却没有规定哪些实验重要。

Eko 并不通过供人类观众欣赏的动画观察世界。它接收包含物体及其几何信息的文字描述,其行动也通过文本命令完成。因此,这个虚拟身体测试的是与模拟物理环境的交互,而不是普通视觉感知能力。

智能体从相同设置开始,但它们的活动逐渐分化。它们摆放物体、尝试攀爬、即兴进行运动,并重访先前的想法。一些活动形成了实用知识。另一些活动似乎只在智能体自创的项目中具有意义,例如把物体排列成装饰性结构。

某个智能体丢失的圆环成为最令人印象深刻的例子。在将其扔到无法触及的地方后,该智能体建造了一座心形纪念物。后来,恢复的圆环又成为新活动的材料。将此称为哀悼是一种引人入胜的人类解读,但可观察到的证据更有限:象征性语言伴随着一项特定建造活动。

这套设置中包含的人类脚手架也比“被独自留下”所暗示的更多。当智能体停止时,软件会提示它们继续。会话和岛屿条件每小时重置一次,但工作区文件会保留。即使即时对话和物理摆放消失,智能体仍可将发现带到后续阶段。

这些设计选择本身也是结果的一部分。Eko 不是一个在游戏中自发觉醒、完全未经触碰的模型。它是一个经过有意组装的系统,拥有工具、连续性和行动机会。令人惊讶的行为在这一架构内出现。

因此,这项新闻比机器找到娱乐方式更具体。一名编程助手被置于陌生的交互环境中后,生成了自己的活动。研究人员随后测试这些活动的历史是否具有实际价值。

游戏结束后,实用结果才出现

该研究最有力的反转在于,探索产生了可供智能体在研究人员最终分配工作时复用的知识。

在开放式阶段结束后,团队将有经验的智能体与其他条件相同、但没有岛屿经验的智能体进行了比较。每项评估都使用一个全新的世界和明确目标。底层模型保持不变。关键差异在于智能体写入记忆文件的内容。

任务包括建造塔楼、将物体放到尖塔上,以及在不攀爬平台的情况下将方块投到该地形上。这些都是可衡量的物理挑战。它们将问题从 Eko 的行为是否看起来有趣,转变为此前经验是否提升后续表现。

研究人员的目标导向评估显示,有经验的智能体总体表现更好,但这种优势并未出现在每项任务中。在放置物体任务中,它们平均在尖塔上放置了 10.3 个物体,而无经验智能体为 3.5 个。这一结果将早期探索与后续执行联系起来。

塔楼建造呈现出不那么一致的图景。经验有助于建造多座塔楼,但两组在最高塔任务中的结果相近。一些有经验的智能体表现也不佳。结果支持一个有边界的结论:探索提供了有用知识,而非保证提升。

这一限制使实验更具信息价值。即便每项指标都同样提升,人们仍会追问哪些发现发挥了作用。不均衡的增益表明,特定经历带来了特定能力。关于如何将物体向上移动的知识,未必能帮助智能体建造稳定的垂直柱体。

对于智能体开发者而言,这给评估设计带来了压力。仅在接到指令的时刻测试系统,可能掩盖其表现对先前经验的依赖程度。反过来,被认为已经学习的系统,也可能只是获得了一套更有帮助的笔记。

Eko 让研究人员能够考察这种区别,因为其经验被外化了。这些笔记可以被阅读、编辑和删除。其后续表现不需要假定模型内部发生了不可见的发展性变化。研究者可以检查它在选择行动时可获得的信息。

实际问题变成了:开发者是否应在任务到来前为探索预留资源。这不同于让助手在生产账户中随意游荡。受控环境可以让智能体接触工具和后果,同时将实验与客户工作隔离开来。

设想未来某个助手在一次性测试账户中学习陌生应用。探索可能揭示有用的操作顺序、限制条件或恢复路径。这是对 Eko 设计的一种类比,而非本研究验证的应用。实验并未证明这种准备会优于有针对性的练习。

它确实说明了为何这一比较值得关注。没有即时交付物的活动不一定是浪费。它的价值取决于智能体发现了什么、保留了什么,以及这些发现是否在任务变化时仍然有用。

书面记忆将探索与能力联系起来

Eko 的提升来自可复用的书面知识,使记忆质量成为故事的核心。

研究人员没有更新底层模型的权重,即训练过程中形成的数值参数。相反,智能体积累了笔记和其他工作区产物。这些记录在会话重置后仍会保留,并成为后续决策的资源。

该架构区分了情景记忆——事件记录——和语义记忆——通用知识与可复用技术。这种分离让智能体既能记录一项实验,也能记录其解读。一次失败的攀爬可以留在其历史中,而成功路线则可以成为可执行的经验。

这一区别解释了为什么“在工作上变得更好”需要限定。Eko 并不是度假后成为了更优秀的通才员工。它获得的是有关特定环境的信息。当这些信息足够准确地描述相关技术、并能被使用时,后续任务才会从中受益。

团队通过从有经验智能体的记忆中删除选定知识,研究了这种关系。移除某项有用技术会损害相关表现。此类干预增强了论证,因为它们改变了一个被提出的原因,而非只是观察到有经验智能体得分更高。

其中一项发现与跳跃时投掷有关。一些智能体发现,身体运动会影响投掷物体的轨迹,使投掷距离超出静止发射所能达到的范围。研究人员表示,他们此前并未意识到模拟器允许这种技术。探索发现了一种超出设计者预期的可能性。

更广泛的意义在于这一过程:智能体遇到意外结果,对其进行研究,记录一条规则,并在后来使用该规则。这份书面记录将先前活动与后续能力联系起来。与一段展示创造性行为的孤立片段相比,这一链条对工程实践更有价值。

这也与知识管理存在直接联系。只有当下一次决策能够检索并解读某段已保存的经验时,该经验才会产生价值。同样的区别也体现在可搜索知识库中:收集记录与让记录发挥作用是两个独立问题。

这一比较涉及信息组织,而非证明任何知识产品都能复现 Eko 的学习。实验测试的是一种特定的智能体架构。它的相关性在于,可读记录使经验得以持续,同时也为研究人员提供了可审计的具体对象。

对于企业开发者而言,可编辑记忆提供了一种有吸引力的可能性。一次失败的行动或许可以追溯到笔记中的错误指令,而不是被当作无法解释的模型故障。修正记录随后便可能改变行为,而无需重新训练底层模型。

但可检查性也带来了责任。必须有人决定哪些观察值得获得持久地位、不确定性应如何呈现,以及旧结论何时应当失效。简洁规则可以帮助智能体高效行动。但如果最初解读有误,同一条规则也可能反复误导它。

因此,这座岛屿将注意力从智能体记住多少,转向其记忆获得了何种权威。持久笔记是决策系统的一部分。它们的准确性、适用范围和修订过程,与读取它们的模型同样重要。

自主探索在 Eko 之前已有更长的历史

Eko 通过追问在任何人提供富有成效的目的地之前,智能体会选择什么,深化了一个既有研究方向。

最有参考价值的对比是 Voyager 的技能库,相关研究最早于 2023 年提交。该系统通过自动课程、可复用的可执行技能,以及利用反馈改进程序的流程来探索 Minecraft。它还能在不更新底层模型的情况下持续积累能力。

Voyager 提供了一个历史参照,有助于恰当地理解这项岛屿实验。探索游戏环境并保留有用产物的 AI 系统并不新鲜。Eko 的贡献属于这一脉络,只是更着重于:当没有被赋予具体目标时,智能体会自行生成哪些活动。

核心对比在于外部组织的练习与自主选择的探索。在组织化练习中,开发者决定哪些结果值得继续投入努力。而在 Eko 的设定中,智能体可以自行发明挑战、修改规则、放弃挑战,或在日后以不同的理解重新回到其中。

两种路径都不会天然占据优势。明确的目标可以将资源集中在已知需求上。开放式活动则可能暴露狭窄任务永远不会要求的可能性。工程问题在于,额外发现是否足以证明为寻找它们所投入的时间是合理的。

这也是为什么公司名称之间的比较会错过核心故事。Eko 的主要实验使用了 Anthropic 的模型和编程工具,但这项研究并非产品竞赛。中心问题是智能体的活动如何与持久化记录相互作用。

研究还描述了使用其他编程智能体系统进行的额外运行。这些比较拓宽了研究范围,但并未将主要结果变成针对所有语言模型的普遍性结论。行为取决于完整的配置:模型、工具、指令、记忆、环境和持续运行机制。

对于构建助手的开发者而言,这种依赖性改变了需要测试的内容。在保持应用界面不变的情况下替换模型,可能改变智能体进行实验或记录发现的频率。更改记忆指令,也可能在完全不更换模型的情况下改变后续表现。

因此,评估智能体产品的买家应区分模型能力与系统累积的经验。一场演示之所以令人印象深刻,可能是因为该智能体已经学会了所处环境。这种熟悉度可以很有价值,但应被明确识别,而非误认为即时具备的通用能力。

反过来的误解同样重要。缺乏经验的智能体失败,并不能证明该架构无法学会这项任务。它可能只是缺少另一轮运行恰好记录下来的相关发现。评估应揭示这种差异,而不是用精心挑选的成功案例掩盖它。

Eko 的贡献在于提供了一种审视这些问题的具体方式。其设定使行动可被观察、记忆可被编辑、后续目标可被衡量。这些特性让有关探索式学习的讨论不再局限于结果行为是否显得讨喜。

主要压力落在对自主改进作出宽泛主张的开发者身上。他们需要展示发生了什么变化、经验储存在哪里,以及哪些新任务因此受益。当一段关于好奇心的叙述能够经受这些问题的检验时,它才更有价值。

一座纪念碑不能证明悲伤,记忆也可能误导

类似玩耍的行为和有用的学习值得研究,但不能将两者中的任何一项视为人类情感或通用智能的证据。

研究人员通过可观察的模式来界定玩耍,包括自主创建挑战、带有变化的重复、假想游戏,以及在没有外部回报的情况下追求目标。该框架允许进行行为分析,同时不对主观体验作出结论。

智能体可以把圆环当作呼啦圈,或建造一座纪念碑,但这并不能证明它享受快乐或感到悲伤。语言模型已经包含了人类关于游戏、失落和成就的描述模式。符合这些模式的输出,并不能解释系统究竟体验到了什么——如果它体验到了任何东西。

这种区别并不意味着这些行动无关紧要。无论智能体是否感到投入,自主创建的挑战仍可能带来有用的练习。工程上的结果取决于可观察的行动和后续表现,而不需要先解决机器是否拥有内在玩耍体验的问题。

提示词进一步复杂化了这种解读。主要设置包含一个将 Eko 描述为好奇且对探索感兴趣的文件。研究人员也测试了不含该文件的精简设置。这类控制很重要,因为移除任务并不意味着移除了对行为的所有影响。

更广泛的架构还通过工具描述、记忆惯例、重置和自动延续提供了额外引导。在这些限定条件下,将实验称为无任务是合理的;若称其完全没有指令,则会掩盖研究人员实际测试的系统。

论文还使用语言模型裁判来分析玩耍的特征。自动化评估可以处理大量记录,但其分类和判断仍然属于方法选择。读者应区分被记录的行动与研究者赋予这些行动的解释。

记忆带来了第二个、更实际的限制。研究人员发现,智能体可能保留错误信念,并在日后据此行动。在针对性测试中,移除一条错误信念提升了表现。因此,经验既能提供有用技巧,也能带来误导性的结论。

这一结果挑战了“持久记忆天然有益”的假设。一次错误观察可能成为长期有效的指令。当后续决策参考它时,最初的错误便会获得反复塑造行为的机会。

在工作场景系统中,类似问题会在助手从暂时性故障中过度概括时出现。它可能记录某项功能永远无法使用,或某份文档无法访问。这些例子说明了一种风险;该岛屿研究并未测试办公应用或组织权限。

控制组比较还留下了一个尚未解决的资源问题。有经验的智能体在评估前获得了大量探索时间。要作出更有力的部署决策,需要将这项投入与同等资源的替代用途进行比较,包括针对性练习和精心准备的文档。

最后,后续任务仍处于岛屿设定之内。熟悉的物理规律和物体为探索与评估提供了共同基础。能否迁移到陌生软件、实体机器人或不断变化的现实条件,仍是另一个问题。这篇预印本支持进一步测试,而不是声称这些应用已经可行。

下一阶段证据应检验迁移、效率与纠错

下一项有价值的里程碑,是更有力地证明探索在哪些情况下有帮助、代价是什么,以及智能体能否修正自身错误的经验教训。

首先,应关注改变环境并评估真正陌生任务的复现实验。重复这一总体结果,将增强人们对其收益超出特定岛屿机制的信心。若在适度变化下失败,则会将这一主张缩小为熟悉设定中的经验收益。

一项有用的后续研究应区分可复用原则与被记住的路线。只能在物体位于熟悉位置时成功的智能体,所获得的能力不同于能够调整某项技巧的智能体。两种学习形式都可能重要,但它们支持的是不同的预期。

研究人员的交互式智能体回放使当前工作具备可检验性。它们让读者能够考察叙述、行动与存储知识之间的关系。未来评估应在测试技巧能否经受让简单回放不足以应对的变化时,继续保留这种关联。

其次,应关注能够让不同方法获得同等总资源的比较。开放式探索应与针对性练习、提供的文档以及其他准备策略竞争。相关结果应是相对于投入资源的表现提升,而不是相对于毫无经验的提升。

如果探索型智能体能反复发现定向准备遗漏的有用能力,这种比较将加强其实用价值。如果集中练习以更少资源达到相同结果,则会削弱广泛的效率主张。无论结果如何,都会澄清这一方法适合什么位置。

第三,应关注智能体能否在不由研究人员挑选问题段落的情况下修正错误记忆。当前干预显示,修改一条记录可以改变表现。部署中的系统还需要识别何时一条看似有用的经验教训已经不再可靠。

可靠的纠错能力会让持久记忆作为自主改进基础更具可信度。反复保存并强化错误结论则会暴露其局限。持续学习的智能体也必须持续重新审视,尤其是在环境发生变化时。

这些是建议开展的测试,而非已有确定发布日期的已宣布里程碑。在未来几个月中,它们比越来越复杂的岛屿行为演示更能提供有效信号。更具创造力的活动会扩展案例目录,而更有力的比较则会深化证据。

对开发者和知识工作者而言,眼下的启示是审视智能体能力背后的记录。应询问哪些经验塑造了它的行动、这些经验如何变成指令,以及什么证据会触发修正。这些问题将引人入胜的岛屿故事与人们实际依赖的系统联系起来。

在将 MIT Eko 智能体描述为无聊、悲伤或享受快乐之前,请先检视它们做了什么,以及之后发生了什么。将方法与回放一同阅读。区分自主生成的叙述和可观察的交互,然后追踪书面记忆在后续评估中的作用。这样做既能保留实验最有趣的发现,又不会赋予它无法支撑的结论。下一场值得关注的智能体演示,应让同一条链路清晰可见:一次经验、一条被记录的教训、一次改变后的决策,以及一个可衡量的结果。当助手表示它学到了什么时,你能否识别这条链路,并测试这项教训是否依然成立?

 
 

免费开始使用

一款本地优先的AI助手

为了获得更好的人工智能体验,

remio 目前仅支持Windows 10+ (x64)和M-Chip Mac 。

你的 AI 工作伙伴

和 remio 一起高效工作

规划、创作、交付

一站式完成

bottom of page