OpenAIの元CTOは、あなたに取って代わることを拒否するAIを構築している

Mira Muratiは、人工知能がほぼ何でもできると世界に確信させるテクノロジーの構築に何年も費やした。その後、彼女は退社し、それとは真逆の前提、すなわち「AIができる最も重要なことは、いつ立ち止まって次に何をすべきかを人間に尋ねるべきかを理解することだ」という前提に基づいた会社を立ち上げた。

「貴重なインタビュー」（5月15日公開）の中で、元OpenAIの最高技術責任者（CTO）は、2025年にOpenAIを去った後に設立したスタートアップ、Thinking Machines Labの背後にある哲学を語った。その核心となるアイデアは、ミッションステートメントに収まるほどシンプルだが、現在活動しているすべての主要なAI企業とは一線を画すほど急進的である。それは、人工知能は人間をループ内（human in the loop）に留めておくべきであり、それは技術的に排除すべき一時的な制約としてではなく、永続的な設計原則としてである、というものだ。

Muratiのタイミングは的を射ている。彼女が6000億ドルの企業へと成長させるのを手助けしたOpenAIは、完全な自動化に向けて突き進んでいる。Anthropicも異なる角度から同じ目標を追いかけている。Google、Microsoft、xAIはすべて、人間の介入を増やすのではなく、より少ない介入で動作できるAIシステムの構築を競い合っている。Muratiはその逆を構築しており、ChatGPT、GPT-4、DALL-Eの開発を監督したエグゼクティブとしての十分な信頼性を持ってそれを行っているため、業界は彼女を自動化に何ができるかを理解していない人物として片付けることはできない。

引退ではなかった退社

2025年のMuratiのOpenAIからの退社は、Ilya SutskeverやJohn Schulmanを含む幹部陣の相次ぐ退職の中でも最も注目すべきものの一つだった。AIアライメント研究に焦点を当てて Safe Superintelligence Inc. を設立したSutskeverとは異なり、Muratiはすぐに次の動きを発表しなかった。その沈黙は憶測を呼んだ。彼女は休暇を取っているのだろうか？ 別の会社に転職するのだろうか？ 業界を完全に去るのだろうか？

結局、その答えはどれでもなかった。Thinking Machines Labは設立以来、比較的静かに活動しており、MuratiがWIREDの貴重な公開インタビューで語ったように、代替ではなく協調のために設計されたAIシステムを構築している。これは、彼女の元雇用主を定義づけてきた「自動化第一」のアプローチからの脱却である。同社の名前はそのテーゼ（命題）そのものである。Intelligence（知能）とは、Muratiの枠組みにおいて、機械や人間に排他的に属する特性ではない。それは両者の相互作用から生まれるものであり、設計上の課題はループから人間を排除することではなく、そのループをより良く機能させることである。

これはテクノロジー嫌いや懐疑論者の立場ではない。Muratiは世界で最も実績のあるAIエンジニアの一人である。彼女はテクノロジーにどれほどの能力があるかを正確に知っている。彼女の主張は、AIが人間の仕事を自動化できないということではない。人間の仕事を自動化することは間違った目標であり、異なる目標を持ってAIを構築することで、より優れた製品と、テクノロジーとそれを使用する人々との間のより良い関係の両方を生み出すことができるかもしれない、ということだ。

「私は人々から仕事を奪う自動化には興味がない」

MuratiがWIREDに対して行った最も鋭い発言は、最もシンプルなものでもあった。彼女は、WIREDの[独占インタビュー](https://www.wired.com/story/mira-murati-humans-in-the-loop-ai-models-thinking-machines/)で語ったように、人々から仕事を奪うようなAIの構築には興味がないということだ。

この言葉は、批評家や規制当局から発せられるのとは、彼女から発せられるのでは響きが異なる。Muratiは、GPT-4を最終開発段階まで押し進め、世界に送り出したエグゼクティブだった。彼女は、まさにそれを実行しているツールの一部を自ら構築したため、テクノロジーが人間の労働を代替できることを知っている。その軌道から離れ、異なる目標を持つ何かを構築するという彼女の決断は、いかなる外部からの批判よりも、完全な自動化に対する強力な反論となる。

Thinking Machines Labのアプローチは、Muratiが説明したように、タスクがいつ人間の判断を必要とするかを理解し、それに委ねることができるAIシステムに焦点を当てている。この枠組みは微妙だが重要である。これはキルスイッチ付きのAIではない。自身の能力の限界を認識するようにゼロから設計されたAIである。このように構築されたシステムは、最初から人間なしで動作するように設計されていないため、人間が止める必要はない。

OpenAIの現在の軌道との対比は避けられず、両社が同じ基盤技術のバリエーションを追求しているという事実によって、その対比はさらに鮮明になっている。違いはモデルそのものにあるのではなく、それらがどのようにデプロイされ、相互作用において誰が主体性を保持するかにある。Altmanの下で、OpenAIは自律型AIエージェント、例えば人間の介入なしにコードを記述してデプロイできるCodexのようなシステムや、複数ステップのタスクを独立して実行できるエージェント版ChatGPTに向けて積極的に動いている。Muratiの古巣はあなたを必要としないAIを構築している。彼女の新会社は、あなたがいることを強く求めるAIを構築している。

Muratiと彼女の元同僚たちとの間の哲学的な溝は、単なる学術的なものではない。それは、毎日何百万人ものユーザーに影響を与える製品の決定に現れている。ChatGPTがメールの下書きを生成するとき、ユーザーがそれを確認したいかどうかは尋ねない。ユーザーが出力をできるだけ早く受け取りたいと考えていると仮定する。Thinking Machines Labのシステムは、Muratiの説明によれば、単一の回答に突き進むのではなく、決定ポイントで一時停止し、選択肢を提示するように設計される。

この製品哲学の違いは、誰がAI体験をコントロールするかについて具体的な影響を及ぼす。スピードと自律性に最適化されたシステムは、AIプロバイダーにコントロールを集中させる。プロバイダーは、モデルに何ができるか、どれだけの速さで行うか、そしてユーザーに発言権を与えるかどうかを決定する。協調のために設計されたシステムは、人間と機械の間でコントロールを分散させる。これにより体験は遅くなるが、単一の主体が結果を決定することを困難にする。Muratiは、選択肢が与えられれば、最初のモデルで何を失うかを理解したユーザーは、2番目のモデルを好むようになるということに賭けている。

AI安全性の定義をめぐる戦い

Muratiの動きは、業界がAIの安全性について語る方法のシフトも表している。長年、最も顕著にAnthropicやOpenAI独自のアライメント研究によって推進されてきた支配的な安全性のナラティブは、AIシステムが壊滅的な危害を及ぼすこと（欺瞞的に行動すること、不整合な目標を追求すること、または兵器化されること）を防ぐことに焦点を当ててきた。これらは現実的な懸念であり、それらに対処する研究は価値がある。

しかし、Muratiの枠組みは、実存的リスクではなく、日常的な使用のレベルで機能する、異なる安全性の定義を示唆している。労働者から仕事を奪うAIシステムは、壊滅的な意味で不安全なわけではない。危害を加えるために欺瞞的であったり、アライメントがずれていたりする必要はない。ただ、労働者を余剰人員にするのに十分な能力を持ち、余剰人員化は許容できる結果であると決定した企業によってデプロイされればよいだけである。

これは経済的および社会的な意味での安全性であり、Meta、Cisco、Cloudflareといった企業がAI主導の人員削減を発表する一方で、そのCEOたちが自動化を進歩と表現するのを見守っている何百万人ものナレッジワーカーにとって重要な種類の安全性である。Muratiの立場は、この種の安全性は後知恵ではなく、設計要件であるべきだというものだ。これはAIシステムを構築するための根本的に異なるアプローチであり、主要なAI企業でまだ大規模に採用しているところはない。

残された不確実性

Thinking Machines Labに関する未解決の疑問は、その哲学に価値があるかどうかではない。特にAI主導の人員削減が加速し、AIのリーダーシップに対する世間の信頼が損なわれている現在、その哲学は明らかに共感を呼んでいる。問題は、その哲学が競争力のある製品を生み出せるかどうかである。

人間に委ねるAIを構築することは、そうでないAIを構築することよりも難しい。システムが自身の知識の限界を認識し、人間の判断が真に優れている状況を特定し、委ねることが失敗ではなく強化のように感じられるような相互作用を設計することが求められる。これらは困難な技術的課題であり、解決には時間がかかる。その一方で、完全な自動化を追求する企業は今、製品を出荷している。

Muratiの実績は、ほとんどのAI倫理スタートアップにはない信頼性を彼女に与えている。彼女は、テクノロジーセクター全体でナレッジワーカーから仕事を奪うために現在加速的に使用されているまさにそのシステムを含め、世界を変える製品を構築し、出荷してきた。しかし、Thinking Machines Labは、そのアプローチがユーザーの使いたがる製品を生み出せることをまだ実証しておらず、市場は実行を伴わない哲学に報いることはない。

この瞬間を重要なものにしているのは、Murati個人のキャリアの決断だけでなく、それがAI業界内におけるより広範な再編を表しているからである。これからの12ヶ月で、人間がコントロールを維持するAIナレッジベースへの需要の高まりと一致するMuratiのビジョンが、魅力的なアイデアから実際の競争へと移行するのに十分な人材、資金、そしてアーリーアダプターを引きつけることができるかどうかが決まる。もし彼女が成功すれば、AI業界が何年も否定し続けてきたこと、すなわち、強力なAIと人間中心のAIのどちらかを選ぶという選択は、決して本物の選択ではなかったということを証明することになる。両方を手に入れることができるのだ。最初からそのように構築すればよいだけである。

Muratiのインタビューのタイミングは、Muskの裁判以外の理由でも重要である。Metaは今週、業界の報道が記録しているように、8,000人の従業員を解雇する一方で、残ったスタッフをAI監視ソフトウェアで監視している。CiscoとCloudflareは、記録的な収益と大量解雇を同時に発表した。AI業界は、まさにその元最高技術責任者が、自動化は常に間違った目的地であったと主張しているその瞬間に、自動化に向けて加速している。

Thinking Machines Labはまだ製品を公開していない。同社は、Muratiが研究開発フェーズと表現する段階で運営されており、人間の判断への委ねが、中断を伴うものではなくシームレスに感じられるようにするために必要な技術的インフラを構築している。この課題は重大である。ほとんどのAIシステムは、人間の関与が遅延、コスト、予測不可能性をもたらすため、人間の関与を最小限に抑えるように設計されている。これらの要因をバグではなく機能（フィーチャー）として扱うAIを構築するには、言語モデルがユーザーと対話する方法のアーキテクチャ全体を再考する必要がある。

もしMuratiが成功すれば、その影響は単一のスタートアップをはるかに超えて広がる。彼女は、世界で最も優秀なAIエンジニアが、強力なシステムを構築することと、人間の主体性を尊重するシステムを構築することのどちらかを選択する必要はないことを証明することになる。その概念実証（PoC）は、すべての主要なAI企業に対し、なぜ自分たちが異なる道を選んだのかを説明するよう圧力をかけることになるだろう。もし彼女が失敗すれば、それは市場が実行を伴わない哲学に報いないからであり、それはAI業界の現在の軌道が、今月だけでもMeta、Cisco、Cloudflareで展開されている人員削減によって、すでに残酷なほど詳細に教えてくれている教訓である。

Thinking Machines Labが直面している問題は、市場がMuratiに彼女のテーゼを証明するための十分な時間を与えるかどうかである。ベンチャーキャピタルは、熟考や委ねる姿勢ではなく、スピードと規模に向かって流れる。今年最も多くの資金を調達したAIスタートアップ（xAIやAnthropicなど）は、すべてMuratiが拒絶した「自動化第一」モデルのバリエーションを追求している。Thinking Machines Labが競争力のある評価額で資金調達できなければ、完全自動化された代替品のパフォーマンスに匹敵しつつ、人間をループに組み込む設計の複雑さを追加したシステムを構築するために必要なエンジニアリング人材を引きつけるのに苦労することになる。パラドックスは、人間の主体性を尊重するAIを構築するには、それを踏みにじるAIを構築するよりも、少ないリソースではなく、より多くのリソースが必要になるかもしれないということだ。

Muratiの5月15日のインタビューは、製品の発表ではない。それはポジショニング文書であり、自動化に関する業界の合意は間違っているという、世界で最も実績のあるAIエンジニアの一人からの意思表明である。彼女の古巣が存亡に関わる法的脅威と法廷で戦っている最中、そしてMeta、Cisco、Cloudflareが数万人規模に影響を与えるAI主導の人員削減を発表している最中に、彼女がこの主張を行うことを選んだのは偶然ではない。Muratiは意図的にその瞬間を選んだ。それは、彼女が何年もかけて証明しようとする訴訟の冒頭陳述である。すなわち、AIができる最も重要なことは、いつ人間に引き継ぐべきかを知ることだ、という主張である。彼女の古巣は逆のことに賭けている。その問題に対する陪審員はまだ席に着いていない。

FAQ

Thinking Machines Labは実際に何を構築しているのか？

Muratiは、同社の焦点を、代替ではなく人間の協調のために設計されたAIシステムであると説明している。核心となる技術的課題は、出力を急ぐのではなく、タスクがいつ人間の判断を必要とするかを認識し、自動的にそれに委ねることができるAIを構築することである。同社はまだ一般向けの製品を公開しておらず、自らを研究開発フェーズにあると説明している。

Thinking Machines Labは資金調達を行ったか？

Muratiは同社の資金調達について公に開示していない。ChatGPTやGPT-4の開発を監督したOpenAIの元CTOとしての彼女の実績を考えると、同社は多額のベンチャーキャピタルにアクセスできると広く想定されているが、条件や評価額は非公開のままである。未解決の疑問は、競合他社が追求する自動化第一の代替案よりも開発に時間がかかる可能性のある、人間をループに組み込んだシステムを構築するための十分な時間を、投資家がMuratiに手渡すかどうかである。

これはAnthropicが行っていることとどう違うのか？

Anthropicの安全性の焦点は、壊滅的なAIリスク（欺瞞的な行動、不整合な目標、兵器化）を防ぐことに置かれてきた。Muratiのアプローチは、経済的および社会的レベルでの安全性を定義している。すなわち、有意義な人間の監視なしに、AIが労働者から仕事を奪う自動化を行うのを防ぐことである。両社とも自らの取り組みを「安全なAI」と位置づけているが、安全性が何を意味するかという根本的に異なる定義に対処している。