AI 扩展问题：为什么我们追逐的是错误的人工智能
- Aisha Washington
- 6月6日
- 讀畢需時 8 分鐘
已更新：6月17日
引言
人们普遍感到人工智能领域正以令人眩晕的速度发展，这种无情的节奏让人无法跟上。每周似乎都有新的头条新闻宣布人工智能已经超越了另一项人类基准——在 SAT 考试中取得优异成绩、解决博士级物理问题或掌握复杂的编程挑战。技术领袖和社交媒体影响力人士放大这种叙事，暗示通用人工智能 (AGI) 不仅仅是指日可待，而是迫在眉睫。这种不断的突破会让任何人停下来思考，高技能的人类工作是否正处于被淘汰的边缘。
然而，这种由大科技公司和媒体炒作推销给我们的 AGI 流行愿景，从根本上具有误导性。虽然当今的 AI 模型非常强大，但它们并没有走在复制人类智能的直接道路上。原因在于对智能本质的深层误解。我们变得痴迷于衡量 AI 应用知识的能力，但我们几乎完全忽略了它获取知识的能力。这一差距是 AI 扩展问题的核心，它揭示了至少在一个关键方面，我们甚至没有朝着正确的方向前进。
究竟什么是 AI 扩展问题？ —— 进步的幻觉
AI 扩展问题并不在于模型的规模或所使用的计算量；而在于当前 AI 开发范式中的一个根本性缺陷。普遍的观点是，为了获得更智能的 AI，我们只需要构建更大的神经网络并用更多的数据进行训练。这种“大数据”思维在一定程度上非常有效，但它正面临瓶颈。真正的问题在于，我们当前的方法是依靠算力和数据的结合来扩展的，而且它们在使用这些数据的方式上效率极低。
从核心来看，AI 扩展问题在于如何设计出主要通过更有效地利用算力来变得更智能、更强大的算法。一个真正智能的代理不应只是记忆更多的互联网内容，而应该能够利用其经验，并通过更多的思考时间（算力）来提取更深层的见解，建立新的联系，并从已有的经验中学习到更多。
进步的幻象源于那些测试任务完成情况而非学习能力的基准测试. AI 可以通过在训练数据中见过无数类似问题而在考试中取得优异成绩，但这并不意味着它以一种灵活、可泛化的方式理解了底层概念。真正的智能被定义为获取并应用知识与技能的能力。目前的模型是应用大师，但在完成最初极其昂贵的训练过程后，它们获取新知识的能力受到了严重限制。
为什么 AI 缩放问题是通往 AGI 的关键障碍
忽视 AI 缩放问题意味着我们正在构建日益复杂但最终却很脆弱的系统。这些模型就像拥有惊人搜索功能的百科全书——它们包含海量信息，但缺乏创造真正新知识或适应远超其训练数据场景的能力。这导致了几个阻碍我们实现 AGI 的关键局限性。
首先，目前的 AI 在个性化和利基任务上表现不佳。向 LLM 寻求创意，它往往会给出通用、平淡的建议，因为它无法学习你独特的风格或语境。同样，如果你要求它使用一个不太流行的编程库，它很可能会失败，因为它没有见过“学习”该技能所需的数百万个示例。一个需要数百万个示例才能掌握新概念的智能体，从定义上讲，无法学习任何新事物；它只能学习那些已经存在海量数据集的事物。
其次，当前的方法缺乏长期推理和创造力的基础。人类的创造力并非源于对现有知识的随机抽样；它源于塑造我们视角的独特且持续一生的经历。如果没有从持续的交互流中学习的能力，AI 永远无法发展出这种细致入微、感知语境的智能。它将始终只是一个重新组合现有信息的工具，而不是产生真正新颖见解的引擎。
AI 学习的演变：一条被遗忘的路径
有趣的是，对大规模静态数据集的痴迷是 AI 历史上相对较近的现象。早期的 AI 研究更侧重于创建模仿动物般持续学习的系统。早在 20 世纪 30 年代，像Thomas Ross 及其“思维机器”, 以及后来的先驱者，如 Steven Smith 和他的机器人老鼠（它能学习走迷宫），都明白智能的本质在于适应以及通过与世界的交互进行学习。
这些早期系统的设计初衷是：学习不是一次性事件，而是一个持续的过程。一个智能体应该存在于一个单一阶段中，即同时进行实践与学习。现代的流水线严格区分了训练、微调和部署阶段（部署后模型的权重通常会被永久冻结），这背后的理念背离了这种更具生命力、也可能更正确的智能观。通过将静态知识置于动态学习之上，我们可能已经偏离了通往 AGI 最有希望的路径。
克服 AI 扩展问题的三大支柱
为了重回通往更具意义的 AGI（定义为通用学习算法）的轨道，我们必须将注意力转向大众讨论中经常被忽视的三个关键研究领域。
拥抱真正的持续学习
第一个也是最关键的支柱是 持续学习：指 AI 智能体永远不应停止学习。它必须能够在整个生命周期中整合新信息、更新对世界的理解并习得新技能。
有些人可能会认为，目前的模型已经通过微调或上下文学习等方法实现了这一点。然而，这些方法是不够的。微调涉及在任务上重新训练模型，这通常会导致一个被称为灾难性遗忘的问题，即模型会忘记之前掌握的知识。反复微调还会导致塑性丧失，从而削弱模型随时间推移的学习能力。上下文学习（在提示词中为模型提供新信息）也是一种临时解决方案。知识仅在特定的交互中保留，一旦信息离开上下文窗口就会消失，因为模型的核心参数保持冻结状态。
从单一的体验流中学习
第二个支柱要求彻底改变当前的训练方法。智能体不应从互联网上随机采样的数十亿个脱节的文本片段中学习，而必须像人类一样，从单一、连续的体验数据流中学习。
我们的生活不是一批随机的数据点；它们是时间上相关的事件序列。这种连续的流赋予了我们情境记忆、对长跨度因果关系的理解，以及激发创造力的独特视角。原始文稿的作者指出，他们的视频创意源自学术界和初创公司中独特的个人经历序列——这是通用 LLM 永远无法复制的历史。为了让 AI 发展出真正的推理能力和原创性，它必须能够生成并学习属于自己的终身互动的序列与世界的。
重新定义规模——更多算力，而非仅仅更多数据
最后一个支柱是开发仅随算力扩展的算法，而非算力与数据的结合。我们正迅速接近互联网上高质量数据的极限；技术业内人士已经报告在训练下一代模型时遇到了数据稀缺问题。这不是一个“数据问题”，而是一个“方法问题”。一个人无需读完整个互联网就能变得极其聪明，这证明了庞大的数据量并非答案。
未来在于创造更高数据效率的方法。当获得更多算力时，这些算法应该能够对其已有的数据进行更深入的“思考”，提取更多知识，发现更深层的模式，并从每一刻的体验中学习更多。极具前景的研究领域如基于模型的强化学习 与 用于表征学习的辅助任务 已经在探索这个方向，但仍需要更多的工作。
AI 的未来：从“全知”向“全能学习”的转变
remio 的北极星指标AI 研究 需要发生转变。我们必须摆脱创建一个单一、全知代理的这种不切实际的目标——即认为它只要记住足够多的数据，就能泛化到任何任务。这种观点忽略了学习的根本重要性。
我们应该追求的 AI 未来是一个可以从任何事物中学习的代理。一个拥有自己目标，并能自主控制其数据流以进行自我教学的代理。一个我们可以通过自然的、来回互动的方式进行教学的代理，就像我们教导人类一样。这就是“全能学习” AI 的愿景：一个能够持续适应、个性化并成长的系统。
结论：关于 AI 扩展问题的关键要点
AI 取得的令人振奋的进展是真实的，但我们对其的解读存在偏差。我们误以为 在静态基准测试中表现出色，这并非真正的智能，而是将我们带向了一条可能永远无法实现 AGI 的道路。AI 扩展问题凸显了这一关键的失误：真正的智能不在于你已知什么，而在于你的学习能力。
为了构建下一代 AI，我们必须围绕新范式的三大支柱重新调整努力方向：
真正的持续学习：创建在整个生命周期中不断学习且不产生遗忘的智能体。
单一体验流: 使 AI 能够从持续的个人数据流中学习，从而培养创造力和长期推理能力。
随计算量扩展: 设计数据高效型算法，利用计算从经验中提取更深层的理解。
通过将重点从构建全知的档案库转向培养全学习型的智能体，我们可以超越当前的局限，并开始在实现与人类一样具有动态性、适应性和资源性的人工智能方面取得实质性进展。
关于 AI 扩展问题的常见问题解答 (FAQ)
1. 简单来说，什么是 AI 扩展问题？
该 AI 扩展问题 挑战在于，仅仅扩大 AI 模型规模并喂给它们更多数据，并不能产生真正的、类人般的智能。核心问题在于，目前的 AI 非常不擅长从新经验中进行持续学习，而是依赖于大规模的一次性训练过程。目标是创造出能够通过更高效地利用其处理能力（算力/compute）来变得更聪明的 AI，而不仅仅是消耗更多的数据。
2. 为什么像 ChatGPT 这样的 AI 不能永久记住我的个人偏好？
ChatGPT 及类似模型无法进行永久学习是由其底层架构决定的。虽然它们可以在单次对话中利用你提供的“上下文”信息，但这些知识是暂时的，对话结束后就会被遗忘。它们的核心程序并非设计用于从个人用户交互中进行持续、永久的更新，这是 continual learning（持续学习）概念所要解决的一个关键局限性。
3. “持续学习”与仅仅对 AI 模型进行重新训练或微调有何不同？
从头开始重新训练模型的成本极其高昂且不切实际。微调是一种局部更新，但它经常会导致模型遗忘之前的知识，这一问题被称为 “catastrophic forgetting”（灾难性遗忘）。相比之下，持续学习是 AI 理想的能力，即能够随着时间的推移，像人类一样无缝、高效地整合新信息和新技能，而不会损害其现有知识。
4. 研究人员如何开始着手解决 AI 扩展问题？
研究人员可以专注于本文概述的三大支柱。这包括开发用于克服灾难性遗忘的持续学习新算法；设计能够从单一、连续的数据流中有效学习，而非依赖海量随机批次数据的模型；以及创建数据高效的方法，使性能随可用算力扩展，从而让模型能从更少的数据中学习更多知识。
5. 如果我们解决了 AI 扩展问题，一个“全学习”的 AI 会是什么样子？
与今天的模型相比，“全学习” AI 将具有更强的协作性和个性化。它可以通过几次交互学习用户的特定工作风格、创作偏好或小众的技术技能。它将能够对长期项目进行推理，根据其独特的经验产生真正新颖的想法，并适应世界上的新信息，而无需开发者重新训练。它不再是一个静态的百科全书，而更像是一个动态的、不断进化的智力伙伴。
