OpenAI 的前 CTO 正在构建拒绝取代你的 AI

Mira Murati 多年来一直致力于构建让世界相信人工智能几乎无所不能的技术。随后，她离开并创立了一家建立在相反前提下的公司：AI 能做的最重要的事情是知道何时停止，并询问人类下一步该做什么。

在一次罕见的采访中（发布于 5 月 15 日），这位前 OpenAI 首席技术官阐述了 Thinking Machines Lab 背后的哲学，这是她在 2025 年离开 OpenAI 后创立的初创公司。其核心理念简单到足以写进使命宣言，但也激进到足以在当前所有主流 AI 公司中脱颖而出：人工智能应该让人类参与其中（human in the loop），这不应是某种需要通过工程手段消除的临时约束，而是一个永久的设计原则。

Murati 的时机选择非常微妙。她曾协助打造并使其估值达到 6000 亿美元的企业 OpenAI 正在奔向全面自动化。Anthropic 也在从不同角度追求同样的目标。Google、Microsoft 和 xAI 都在竞相构建能够减少而非增加人工干预的 AI 系统。Murati 正在构建相反的东西，而作为曾监督 ChatGPT、GPT-4 和 DALL-E 开发的高管，她拥有足够的公信力，让业界无法将她视为一个不懂自动化能力的人。

并非退休的离职

Murati 在 2025 年离开 OpenAI 是包括 Ilya Sutskever 和 John Schulman 在内的高层离职潮中最受关注的一次。与创立了专注于 AI 对齐研究的 Safe Superintelligence Inc. 的 Sutskever 不同，Murati 并没有立即宣布她的下一步行动。沉默引发了猜测：她是打算休息一段时间？加入另一家公司？还是彻底离开这个行业？

事实证明，答案并非上述任何一项。Thinking Machines Lab 自成立以来一直低调运行，Murati 在接受 WIRED 罕见的公开采访时将其描述为：旨在协作而非替代的 AI 系统，这与她前雇主所定义的“自动化优先”方法背道而驰。公司的名字就是它的论点。在 Murati 的框架中，智能并非机器或人类独有的属性。它是在两者之间的互动中产生的，而设计的挑战不在于将人类从环节中剔除，而在于让这个环节运作得更好。

这并不是一个技术恐惧者或怀疑论者的立场。Murati 是世界上成就最高的 AI 工程师之一。她非常清楚这项技术的能力。她的论点不是 AI 无法实现人类工作的自动化，而是将人类工作自动化是一个错误的目标，以不同的目标构建 AI 可能会产生更好的产品，并在技术与使用者之间建立更好的关系。

“我没兴趣通过自动化让人们失业”

Murati 对 WIRED 最尖锐的表态也是最简单的：她对构建将人类自动化并取代其工作的 AI 不感兴趣，正如她在[独家专访](https://www.wired.com/story/mira-murati-humans-in-the-loop-ai-models-thinking-machines/)中告诉 WIRED 的那样。

这句话由她口中说出，与出自批评者或监管机构之口分量完全不同。Murati 曾是推动 GPT-4 进入最终开发阶段并将其推向世界的执行官。她深知这项技术可以取代人力，因为她亲手打造了正在实现这一目标的工具。她决定背离这一轨迹，去构建一个目标截然不同的东西，这比任何外部批评都更有力地反驳了全面自动化。

正如 Murati 所描述的，Thinking Machines Lab 的方法侧重于能够理解任务何时需要人类判断并将其交由人类处理的 AI 系统。这种构想很微妙但至关重要。这并非带有“紧急停止开关”的 AI，而是从底层设计上就能识别自身能力边界的 AI。以这种方式构建的系统不需要由人类来叫停，因为它从设计之初就不是为了在脱离人类的情况下运行。

这与 OpenAI 目前的轨迹形成了不可避免的对比，而且由于两家公司都在追求同一种底层技术的不同版本，这种对比显得更加鲜明。区别不在于模型本身，而在于它们如何部署，以及在交互中谁保留了主动权。在 Altman 的领导下，OpenAI 一直在激进地转向自主 AI 智能体，例如无需人类干预即可编写和部署代码的 Codex，以及可以独立执行多步任务的智能体版 ChatGPT。Murati 的前公司正在构建不需要你的 AI，而她的新公司正在构建坚持需要你的 AI。

Murati 与她前同事之间的哲学分歧不仅仅是学术性的。它体现在每天影响数百万用户的产品决策中。当 ChatGPT 生成邮件草稿时，它不会询问用户是否需要审核，它假设用户希望尽快获得输出。根据 Murati 的描述，Thinking Machines Lab 的系统将被设计为在决策点暂停并呈现选项，而不是竞速般地给出一个单一答案。

这种产品理念的差异对于谁控制 AI 体验有着具体的含义。为速度和自主性优化的系统将控制权集中在 AI 提供商手中。提供商决定模型能做什么、运行多快，以及用户是否有发言权。为协作设计的系统则在人类和机器之间分配控制权，这虽然让体验变慢，但也让任何单一实体都难以决定最终结果。Murati 押注用户在理解了第一种模式会让他们失去什么之后，一旦有了选择，会更倾向于第二种模式。

关于 AI 安全定义的博弈

Murati 的举动也代表了行业讨论 AI 安全方式的转变。多年来，由 Anthropic 和 OpenAI 自身的对齐研究最先提出的主流安全叙事，一直集中在防止 AI 系统造成灾难性伤害：如采取欺骗行为、追求不一致的目标或被武器化。这些都是现实的担忧，解决这些问题的研究也很有价值。Anthropic这些都是现实的担忧，解决这些问题的研究也很有价值。

但 Murati 的表述暗示了对安全性的另一种定义，这种定义作用于日常使用层面，而非生存风险。一个将工人自动化并使其失业的 AI 系统，在灾难性意义上并非不安全。它不需要具有欺骗性或对齐失当就会造成伤害。它只需要具备足够的胜任力使工人变得多余，并由一家认为裁员是可接受结果的公司部署即可。

这是经济和社会意义上的安全性，这种安全性对于数百万知识工作者来说至关重要，他们正看着 Meta、Cisco 和 Cloudflare 等公司宣布由 AI 驱动的裁员，而这些公司的 CEO 们却将自动化描述为进步。Murati 的立场是，这种安全性应该是一项设计要求，而不是事后的补救。这是一种构建 AI 系统的根本不同的方法，而且目前还没有哪家主要的 AI 公司大规模采用这种方法。

剩余的不确定性

关于 Thinking Machines Lab 的悬而未决的问题，不在于其哲学是否有价值。这种哲学显然能引起共鸣，尤其是在 AI 驱动的裁员正在加速、公众对 AI 领导层的信任正在侵蚀的时刻。问题在于这种哲学能否生产出具有竞争力的产品。

构建顺从人类的 AI 比构建不顺从人类的 AI 更难。它要求系统识别自身知识的边界，识别出人类判断确实更优的情况，并设计出让这种顺从感觉像是增强而非失败的交互。这些都是艰巨的技术难题，解决它们需要时间。与此同时，追求全面自动化的公司现在正在发布产品。

Murati 的过往业绩赋予了她大多数 AI 伦理初创公司所缺乏的可信度。她曾构建并发布过改变世界的产品，包括那些目前正被用于在整个技术领域加速取代知识工作者的系统。但 Thinking Machines Lab 尚未证明其方法能生产出用户想要使用的产品，而市场不会奖励没有执行力的哲学。

这一时刻之所以意义重大，不仅在于 Murati 个人的职业决策，更在于它代表了 AI 行业内更广泛的重新调整。接下来的 12 个月将决定 Murati 的愿景——即符合日益增长的对保持人类控制权的AI 知识库的需求——能否吸引足够的人才、资金和早期采用者，从而从一个引人入胜的想法转变为真正的竞争。如果她成功了，她将证明 AI 行业多年来一直否认的一点：在强大的 AI 和以人为本的 AI 之间做出选择，从来都不是一个真正的选择。你可以两者兼得。你只需要从一开始就以这种方式构建它。

Murati 接受采访的时机意义重大，原因不仅限于 Musk 的审判。Meta 本周将裁员 8,000 人，因为行业报告 已经记录了这些情况，同时还在用 AI 监控软件监视其剩余员工。Cisco 和 Cloudflare 都在宣布创纪录营收的同时宣布了大规模裁员。AI 行业正加速迈向自动化，而就在此时，其前首席技术官却在辩称，自动化从来都不是正确的目标。

Thinking Machines Lab 尚未发布任何产品。该公司正处于 Murati 所描述的研究与开发阶段，致力于构建所需的技术基础设施，使向人类判断的移交过程感觉无缝而非干扰。这一挑战非常艰巨。大多数 AI 系统的设计初衷是尽量减少人类参与，因为人类参与会带来延迟、成本和不可预测性。要构建一个将这些因素视为特性而非漏洞的 AI，需要重新思考语言模型与用户交互的整个架构。

如果 Murati 取得成功，其影响将远超一家初创公司。她将证明，世界上最顶尖的 AI 工程师不必在构建强大系统与构建尊重人类自主权的系统之间做选择。这种概念验证将给每一家主流 AI 公司带来压力，迫使它们解释为何选择了不同的道路。如果她失败了，那将是因为市场不奖励没有执行力的哲学——AI 行业当前的轨迹已经通过本月 Meta、Cisco 和 Cloudflare 展开的残酷裁员教训深刻地证明了这一点。

Thinking Machines Lab 面临的问题是，市场是否会给 Murati 足够的时间来证明她的论点。风险资本流向速度和规模，而非深思熟虑和顺从。今年融资最多的 AI 初创公司（包括 xAI 和 Anthropic）都在追求 Murati 所拒绝的自动化优先模式。如果 Thinking Machines Lab 无法以具有竞争力的估值融资，它将难以吸引所需的工程人才，去构建既能匹配全自动化替代方案性能、又增加了“人机协同”设计复杂性的系统。悖论在于，构建尊重人类自主权的 AI 可能比构建碾压人类自主权的 AI 需要更多的资源，而非更少。

Murati 在 5 月 15 日的采访并非产品发布。这是一份定位文件，是来自世界上最有成就的 AI 工程师之一的意向声明，即行业关于自动化的共识是错误的。她选择在她的前公司正于法庭上应对生存级别的法律威胁，且 Meta、Cisco 和 Cloudflare 宣布受 AI 驱动的裁员影响数万名员工时提出这一论点，绝非巧合。Murati 刻意选择了这个时机。这是一个开场陈述，她将花费数年时间试图证明：AI 能做的最重要的事情就是知道何时让位给人类。她的前公司正押注于相反的方向。关于这个问题的最终裁决尚未揭晓。

常见问题

Thinking Machines Lab 到底在构建什么？

Murati 将公司的重点描述为旨在实现人类协作而非取代人类的 AI 系统。核心技术挑战是构建能够识别任务何时需要人类判断并自动移交的 AI，而不是竞相生成输出。该公司尚未公开产品，并称自己处于研究与开发阶段。

Thinking Machines Lab 融资了吗？

Murati 尚未公开披露公司的融资情况。鉴于她曾担任 OpenAI 首席技术官并领导了 ChatGPT 和 GPT-4 开发的背景，外界普遍认为该公司能够获得巨额风险投资，但具体的条款和估值仍处于保密状态。目前悬而未决的问题是，投资者是否会给 Murati 足够的时间来构建“人类在环”（human-in-the-loop）系统，因为这类系统的开发周期可能比竞争对手追求的“自动化优先”方案更长。

这与 Anthropic 的做法有何不同？

Anthropic 的安全重点集中在防止灾难性的 AI 风险：欺骗行为、目标失调和武器化。而 Murati 的方法则从经济和社会层面定义安全：防止 AI 在缺乏有效人类监管的情况下使工人失业。虽然两家公司都将其工作框架定义为“安全 AI”，但它们针对的是“安全”这一概念截然不同的定义。