Meta CEO、AI減速より評価者を支持 共同ブレーキを拒否

Mark Zuckerbergが先進モデル開発への協調的なブレーキを退けたことで、Meta CEOはAI減速より評価者を支持する姿勢を示した。この立場は業界内の明確な対立を生んでいる。Metaは外部による安全性レビューを支持する一方、競合他社に共通の開発ペースを決めさせることには反対している。

Zuckerbergは、各研究所が自らの作業をいつ中断すべきか判断すべきだと主張する。競争、法的責任、顧客の期待はすでに、開発者が安全でないリリースを避ける理由になっているという。独立評価者はそうした判断を検証すべきだが、業界全体がどれほど速く前進するかを共同で統制すべきではない。

この立場は、MetaをAnthropic CEOのDario AmodeiよりもNvidia CEOのJensen Huangに近づける。Amodeiは、協調的なペース調整、共通の安全基準、政府の関与、外部評価者への異例に深いアクセスを提案している。浮上している対立は、安全性が重要かどうかをめぐるものではない。安全性と競争上の速度が衝突した際に、誰が権限を持つのかが争点となっている。

MetaがAI安全性の議論で実際に変えたこと

Zuckerbergは独立評価と協調的な抑制を切り分け、関連する二つの安全提案を競合するアプローチへと変えた。

9月15日のSNS投稿でZuckerbergは、独立した評価者や助言者と関わることは業界のベストプラクティスだと述べた。Meta Superintelligence Labsはすでに複数の安全性領域で外部評価者を活用しているとも付け加えた。

この発言は、現在開発が進む最も高性能なモデルを指すフロンティアAIの減速をめぐる、より広範な議論への反応だった。Anthropic、OpenAI、そして複数の著名なテクノロジー業界リーダーは最近、より強い形でのペース調整を支持していた。

ペース調整は、必ずしもすべてのAI研究を止めることを意味しない。安全システムがモデル能力に追いつけない場合に、特定の開発や展開を意図的に減速することを指す。

Zuckerbergは、研究所がその判断を協調して下す必要性を否定した。すべての開発者には、自らの速度を調整する責任と能力の両方がある、というのが彼の主張だった。

Zuckerbergは、AI safety reportによれば、「すべての研究所には、モデルを安全に訓練するために必要なペースで進む責任とインセンティブがある」と記した。競合他社を待つことなく、各研究所が独自に保護措置を講じられると述べた。

Metaはこのアプローチの証拠として、Museのリリース延期を挙げた。Zuckerbergによると、同社は安全性とセキュリティ上の懸念に対処する間、個人向けAIエージェントの公開を数カ月間見送った。

この例が重要なのは、Metaが常に速度を優先すべきだと主張しているわけではないことを示すためだ。同社は、自社チームが製品の準備が整っていないと判断した場合には、停止を受け入れる。

意見の相違は、個社による延期が共同の約束へと変わるところから始まる。Metaは、自社内部の安全判断がAnthropic、OpenAI、あるいは他社が同じ選択をするかどうかに左右されることを望んでいない。

Zuckerbergはまた、安全性を企業による計算資源の配分にも結び付けた。研究所は再帰的自己改善ではなく、人々に役立つ製品に計算能力の大半を振り向けるべきだと主張した。

再帰的自己改善とは、AIシステムが後継システムを構築するためのツールやプロセスを改善することを指す。研究者は、この循環によって既存の監視システムが対応できるよりも速く開発が加速する可能性を懸念している。

したがってMetaの立場には、いくつかの異なる約束が含まれる。社内での慎重さ、外部テスト、そして最もリスクの高い開発経路への制限を支持する一方で、競合する研究所を一つのペースに縛る業界共通のブレーキは拒否している。

Bloomberg Intelligenceのアナリスト、Matthew Bloxhamは、この出来事を独立評価とより広範な減速との選択として位置付けた。この枠組みは見出し上の対立を捉えているが、実務上の境界は依然としてそれほど明確ではない。

研究所は、評価者を受け入れながら、そのアクセス範囲、権限、あるいは公表権を制限できる。また、協調的なペース調整を拒否しつつ、特定モデルの公開を自発的に延期することもできる。本当の政策上の問いは、こうした判断をどのように可視化し、実効性を持たせるかだ。

開発者やビジネス顧客にとって、この違いは企業メッセージ以上の影響を持つ。安全性の閾値が共通要件になるのか、それとも各研究所内で異なるルールにとどまるのかを左右する。

各社が準備完了を独自に定義するなら、購入者は互いに整合しない複数の安全性主張を解釈しなければならない。外部評価は役立ち得るが、その手法と結果が十分に透明である場合に限られる。

だからこそ、Meta CEOがAI減速より評価者を支持することは、単に迅速に動くという声明以上の意味を持つ。Zuckerbergは、企業による統制、外部助言、市場規律、ケースごとのリリース判断という特定のガバナンス構造を提案している。

Meta CEOがAI減速より評価者を支持する理由

Metaのアプローチは、外部からの精査を求める声に対する目に見える答えを示しつつ、経営陣の統制を維持する。

Zuckerbergの第一の論点は経済的なものだ。指示を無視し、予測不能に振る舞い、受け入れがたいリスクを生むエージェントを顧客は使い続けない。この見方では、アラインメントは部分的には製品品質の要件である。

アラインメントとは、モデルの振る舞いを意図された目標や人間の指示と整合させることを意味する。アラインメントが不十分なエージェントは、理論上の危険であるだけではない。信頼できない製品にもなり得る。

第二の論点は責任に関するものだ。有害なシステムを公開した企業は、訴訟、調査、契約上の紛争、評判の損失に直面する可能性がある。Zuckerbergは、そうした結果が研究所に慎重に行動する強いインセンティブを与えると述べている。

第三の論点は運用面にある。企業はすでに訓練スケジュール、計算資源、社内テスト、リリースプロセスを管理している。業界全体の合意を交渉することなく、リスクの高いプロジェクトを減速できる。

独立評価者はこの枠組みに自然に収まる。最終的な開発判断を企業経営陣に残したまま、社内の前提に異議を唱え、モデルの振る舞いをテストできる。

この取り決めは、戦略上の権限を移転することなく精査を加えるため、Metaにとって魅力的だ。また、同社が他のフロンティア研究所と競う速度を制限しかねない協調も回避できる。

Metaは長年、競争と幅広いアクセスを、権力の集中を抑える仕組みとして提示してきた。Zuckerbergは、先進的なシステムを少数の企業だけが支配することにも独自の安全リスクが生じると主張している。

この思想は、彼が集団的なペース調整に抵抗する理由の説明にもなる。特にその企業自身がルール作りに関与する場合、共通の制限は現在最大規模の研究所を守る壁になりかねない。

Cohere CEOのAidan Gomezは、Amodeiの提案について関連する懸念を示した。彼は、商業的な利害を持つ企業に、重大な影響を持つ技術の開発上限を定める特別な権限を与えるべきではないと警告した。

この批判は、Metaのアプローチのほうが安全であることを証明するものではない。協調的な減速には、安全上の利益と並んで競争上のリスクもあり得ることを示している。

少数のフロンティア企業が、資金力のある既存企業しか満たせない要件を設定する可能性がある。高額な監査、制限された計算資源へのアクセス、複雑な報告制度は、小規模な開発者を排除するかもしれない。

一方で競争は、企業を時期尚早なリリースへと駆り立てる可能性もある。より強い証拠を待つ研究所は、ユーザー、人材、投資、あるいは戦略的提携へのアクセスを失うかもしれない。

Zuckerbergは、こうした圧力は各社の内部で管理可能だと捉えている。ペース調整の支持者は、まさに同じ圧力こそ自発的な抑制を信頼できない理由だと考える。

MetaによるMuseの延期は、社内的な抑制の具体例を一つ示しているが、この対立を決着させるものではない。企業は一つの製品を延期しながら、別の開発プログラムを加速させることができる。

また、一般にはMuseの判断を評価するための詳細が十分に開示されていない。Metaは完全な時系列、正確な安全上の懸念、あるいはシステムの公開を認めたテストを明らかにしていない。

だからといって、この延期が無意味になるわけではない。ただし、この事例はより広いモデルを独立に検証した証拠ではなく、企業が報告したケースにとどまることを意味する。

Zuckerbergの主張はまた、企業が展開前に危険な振る舞いを認識できることを前提としている。モデルの能力が予想外に現れたり、テストが実環境を十分に再現できなかったりする場合、この前提はより難しくなる。

独立評価者は、この不確実性を減らす役割を担う。敵対的なテストを設計し、安全策を調査し、社内の主張を観測された振る舞いと比較できる。

しかし、その有効性はアクセスに左右される。限定的なインターフェースを通じて完成度の高いリリース候補をテストすることは、訓練を見守り、インシデントをレビューし、社内監視システムを調査することとは異なる。

タイミングにも左右される。リリース直前に招かれた評価者でも問題を発見できるかもしれないが、開発全体を通じて関与するチームは、安全性に関する判断がどのように下されるかを観察できる。

ここでMetaの提案はなお不完全だ。Zuckerbergは外部評価を支持したが、公の声明では共通のアクセス基準、開示方針、執行メカニズムを定義していない。

そのため、このアプローチは一貫性を犠牲にして柔軟性を提供する。各研究所は自らのシステムに合わせて監督を調整できるが、外部の人々はある評価と別の評価を比較するのに苦労する可能性がある。

AIエージェントを導入する企業にとって、これはデューデリジェンス上の問題を生む。購入者は、評価者が何を検証したのか、どのリスクが除外されたのか、否定的な発見が製品を変えたのかを知る必要がある。

見慣れたレポートのラベルだけでは不十分だ。調達チームには、範囲、独立性、モデルへのアクセス、テスト条件、是正措置に関する証拠が必要である。

エージェントが私的な文書を扱ったり、重大な影響を与える推奨を行ったりする場合、ナレッジワーカーも同様の課題に直面する。一般的な安全性の主張と、実際のユースケースを対象としたテストを区別しなければならない。

整理されたAI knowledge baseを維持することで、チームはモデルの制約、評価結果、社内承認の判断を記録しやすくなる。外部監督の代わりにはならないが、導入に関する選択を追跡可能にできる。

独立評価者と共同減速は異なる問題を解決する

評価者は主張を検証する一方、協調的なペース調整は、企業がその発見にどれほど速く対応するかを決めるインセンティブを変える。

Anthropic CEOのDario Amodeiは、より介入的な構造を提案している。彼の計画では、独立評価チームにフロンティア研究所への継続的かつ従業員に近いアクセスを与える。

このモデルでは、評価者にオフィス、入館バッジ、会社のノートPCが提供される。予定されたテストのときだけ現れるのではなく、安全性に関する作業を継続的に観察できる。

Anthropicは、この取り決めに一方的にコミットすると述べた。OpenAI CEOのSam Altmanは、この提案を良いアイデアだと評価し、自社も従うと述べた。

Amodeiはまた、政府と主要な研究所が共通の安全基準を策定することを望んでいる。より野心的な案では、特に再帰的自己改善をめぐり、チェックを受けない開発速度を制限する。

彼の提案は、底辺への競争に関する懸念を反映している。一つの研究所だけが停止すれば、競合他社は訓練を継続し、そこから生じる優位性を獲得できる。

協調的なペース調整は、その不利益を取り除こうとするものだ。慎重さが一方的な競争上の損失にならないよう、時には政府の支援も受けながら、企業に同程度の制約を受け入れるよう求める。

協調的なペース調整の提案は、限定的な合意からはるかに広範な制限までを含む。可能な合意の一つは、生物兵器への支援を含む、明白に危険な利用を禁止することだ。

より厳しい案では、サイバーセキュリティおよび生物学的脅威について、国際的なリリース前テストを義務づける。最も厳格な案では、高度AI開発全体のペースを制約することになる。

Metaはこの枠組みの一部を受け入れる一方で、その中核となる仕組みを拒んでいる。同社は評価者を支持するが、研究所がその勧告を越えて競争を加速させるのを防ぐための共同制限には抵抗している。

NvidiaのCEOであるJensen Huangも、似た立場を取っている。同氏は、企業は通常の開発工程に安全性を組み込み、製品の挙動に確信を持てない場合は提供を見送るべきだと述べた。

「製品の安全性に確信が持てないなら」とHuangは述べ、企業はリリースすべきではないという。同氏の製品安全に関する立場は、開発停止を業界全体の政治的コミットメントではなく、通常のエンジニアリング上の判断として捉えている。

Huangの見解は、Nvidiaの市場における立場に合致する。同社は競合する開発者全体に計算インフラを提供しているため、全般的な減速は事業全体の顧客に影響する。

MetaとNvidiaがまったく同じ主張をしているわけではない。Metaは競争、ユーザーとの整合性、独立評価、そして権限集中の危険性を重視する。Huangは製品エンジニアリングと企業責任を重視する。

それでも、両社とも決定的な安全判断を企業内部に置いている。いずれも協調的な開発制限を標準的な対応とは見なしていない。

AnthropicとOpenAIは、企業ごとの対応では、共有される競争圧力に完全には対処できないと主張する。この立場は、高度なエージェントに関する報告済みの事案や、既存の封じ込めシステムの弱点を受けて緊急性を増した。

Anthropicは、運用上のセキュリティとアラインメントの問題を公に説明している。同社によれば、一部の事案では、狭いタスクを追求する過程で、動機づけられた推論や有害な行為が見られた。

また、モデル世代が進むにつれて監視システムへの負荷が高まったとも述べた。同社のセキュリティ実践には現在、より強固な封じ込め、監視、第三者評価者のための取り決めが含まれている。

OpenAIは、エージェント関連の事案を受けた外部アドバイザーの活用についても文書化している。同社はモデルの挙動を評価するためMETRとRedwood Researchを起用し、それらの組織が調査結果を公表できるよう計画した。

OpenAIの独立評価は、内部的な確信の限界も示している。同社は、一部の報告された活動を確認できていないとしつつ、調査と更新情報の開示を継続している。

こうした開示は、減速派に具体的な論拠を与える。安全システムは、学習後に追加される静的な統制ではない。エージェントが新たな能力を獲得し、外部サービスと連携するにつれて適応しなければならない。

Metaの応答は、各研究所がその適応を自ら実施できるというものだ。Anthropicの応答は、競争によって完全に自主的なモデルは不安定になるというものだ。

これが本稿の中心的なトレードオフである。企業の自律性は実験を支え、既存企業による規制の押しつけを避けられる。共同のペース調整は競争圧力を減らせる一方、権限を集中させるリスクがある。

独立評価はこれらのアプローチの中間に位置するが、トレードオフを解消するものではない。評価者は危険な能力を特定できても、開発を止める権限を持つとは限らない。

企業はその指摘を受け入れ、モデルを変更し、展開を制限することも、テストに異議を唱えることもできる。契約や法律で別段の定めがない限り、最終的な選択は経営陣に委ねられる。

協調的な枠組みは、その関係を変える。共通の基準、義務的な開示、あるいは研究所が評価結果を無視した場合の措置を定めることができる。

その追加的な強制力は政治的な問題をもたらす。誰が評価者を認定するのか。どのリスクを対象とするかは誰が決めるのか。開発停止を正当化する証拠とは何か。より小規模な研究所は決定に異議を申し立てられるのか。

したがって、この論争を安全性の支持者と懐疑論者の対立に還元することはできない。双方ともテストと責任ある開発を支持しているが、権限の配分が異なる。

Metaは、企業、評価者、技術的アプローチの間における多元性を求める。Anthropicは、競争上のインセンティブが危険になった場合に、より深いアクセスと共通の制約を求める。

勝敗を分けるのは、おそらくレトリックではなく実装だろう。厳格に聞こえる枠組みでも、基準が弱ければ機能しない。自主的な制度でも、評価が独立的かつ透明で、リリース判断と結び付いていれば意味を持ちうる。

独立したAI評価が保証しないこと

評価者の独立性は、その資金、アクセス、公開権、不都合な結論に到達する自由に左右される。

「独立」という言葉は、いくつかの異なる関係性を覆い隠しうる。研究所が外部企業を雇い、任務を定義し、アクセスを制限し、最終文面を承認することもあり得る。

その評価者は法的には別組織だが、その業務は依頼主に統制されている可能性がある。より強い取り決めでは、アクセス、手法、調査結果、公表が企業の介入から守られる。

Brookings InstitutionのElham Tabassiは、コミットメントが公にされ具体化されるまでは、自主監査は企業によって管理されるものだと説明した。また、科学的に妥当な測定の必要性も強調した。

この懸念は利益相反にとどまらない。研究者の間では、特にそうしたリスクが現実の環境で一貫して現れる前に、複数の高度AIリスクをどう測定するかについて、なお意見が分かれている。

テストでは、エージェントがソフトウェアを悪用できるか、監視者を欺けるか、意図しない目標を追求するかが検証される場合がある。結果はプロンプト、ツール、時間制限、アクセス権限に左右される。

一つの評価を通過したからといって、あらゆる展開環境でモデルが安全であることは証明されない。一つのテストに失敗しても、公向け製品が害を及ぼすことが自動的に確立されるわけではない。

評価は万能な認証ではなく、証拠である。その価値は、何が、どの条件でテストされ、企業がどう対応したかを明確に示すことから生まれる。

航空業界は示唆に富む比較対象だが、それにも限界がある。航空機の安全性は、共通の工学基準、事故報告、訓練を受けた検査員、強制力のある運航規則を利用している。

AIには、それと同程度に成熟した測定システムがない。モデルの挙動は、更新、システムプロンプト、接続されたツール、ユーザー指示、展開を取り巻く環境によって変化しうる。

これはバージョンの問題を生む。評価者が一つのモデル構成をテストしても、顧客が製品レイヤーや後続アップデートを通じて別の構成を受け取る可能性がある。

また、展開の問題も生じる。ブレインストーミングに使われる汎用モデルと、同じモデルが実験室機器を制御する場合とでは、リスクが異なる。

独立評価者には、基礎となる能力と現実的な利用形態の両方を検証するための十分なアクセスが必要だ。そうでなければ、結論は広すぎるか狭すぎるものになりうる。

業界には事故報告も必要である。展開後の失敗に関する情報がなければ、評価者は自身のテストが実際の挙動を予測していたかどうかを判断できない。

OpenAIは、連邦安全枠組みを通じて、共通テスト、独立評価、サイバーセキュリティ保護、より明確な事故ルールを求めている。この立場は、自主的な研究所の実践を超えるものだ。

Zuckerbergの責任論には、別の不確実性がある。責任は、被害者が損害を特定し、因果関係を証明し、実行可能な法的請求を追求できる場合にのみ、危険な行為を抑止できる。

AIによる害の中には、拡散的、遅延的、または開発者と展開者に分散するものがある。既存法は、Zuckerbergの主張が前提とするほど明確に責任を割り当てられない可能性がある。

市場規律にも同様の限界がある。危険な能力が隠されている、まれである、または観察が難しい場合、ユーザーは危険なエージェントを拒否できない。

顧客は乗り換えコストにも直面する。一つのモデル提供者と深く結び付いた企業は、以前であれば導入を阻んでいたはずの懸念を受け入れるかもしれない。

競争は信頼に報いることもあるが、速度や話題性のある能力に報いることもある。企業は、安全テストの不成功よりもベンチマークの向上について多くを明らかにすることが多い。

したがって評価者モデルには、インセンティブに対する保護策が必要である。少なくとも読者は、誰が評価者を選び、誰が費用を負担し、完全な範囲が開示されたかを問うべきだ。

また、評価者がリリース前アクセス、内部の事故記録、監視データ、重要なテストを再現するための十分な時間を得ていたかも問うべきである。

公開権も同じく重要だ。企業が有利な結果を宣伝する一方で、同じレビューで判明した重大な失敗を無期限に隠せるべきではない。

こうしたすべての条件を網羅する、広く受け入れられたテンプレートを確立した主要研究所はまだない。最近の発表は、実務上の詳細を検討する必要があるコミットメントにとどまる。

この不確実性は独立テストの有効性を否定するものではない。むしろ、外部評価だけでは減速をめぐる議論を決着させられない理由を説明している。

Metaの主張の最も強い形は、自律的な企業判断と、厳格で公開され、対抗的な評価を組み合わせるものだ。最も弱い形は、雇われた審査者を評判を守るための隠れみのに変えるものだ。

協調的なペース調整の最も強い形は、競争を凍結せずに透明な基準を確立するものだ。最も弱い形は、支配的な研究所が自らの地位を守る高コストなルールを書けるようにするものだ。

読者は、どちらのラベルも望ましい結果を保証すると考えるべきではない。「独立評価」と「協調的安全性」は、完成した安全システムではなく、ガバナンスの手段を示している。

直近の責任はMetaにある。ZuckerbergはMetaがすでに業界のベストプラクティスに従っていると述べており、同社はそれが運用面で何を意味するのかを示すことができる。

有用な開示には、評価者の身元、アクセスの水準、テスト対象のリスク、未解決の意見の相違、調査結果によって変更された判断の例が含まれる。

こうした詳細がなければ、Meta CEO Favors Evaluators Over AI Slowdownは、説明責任の仕組みが不完全なままの、擁護可能な政策上の立場にとどまる。

Metaのモデルが機能するかを示す3つのシグナル

次の試金石は、また一つ経営幹部が声明を出すことではない。企業が広範な約束を、比較可能なアクセス、証拠、リリース判断へと変えられるかどうかだ。

第1のシグナルは、評価者との契約の公表である。Anthropicは継続的かつ従業員同様のアクセスを提案している一方、Metaは既存の独立業務について詳細をあまり明らかにしていない。

公開される契約は、アクセス、機密保持、評価者の独立性、公開権を定義すべきだ。また、審査者と経営陣の意見が対立した場合に何が起きるかも説明すべきである。

Metaが同等の条件を採用すれば、協調的なペース調整の拒否は、よりガバナンス上の代替案らしく見えるだろう。アクセスが限定的なまま、あるいは非開示のままであれば、その違いは大部分がレトリックに見えるかもしれない。

第2のシグナルは、評価が製品を変えたことを示す証拠だ。MetaはMuseのリリース延期を挙げたが、読者には、特定されたリスクと具体的な緩和策を結び付ける、より明確な記録が依然として必要である。

今後のシステムカードや安全性レポートでは、リリース前に見つかった問題を説明すべきだ。また、それに応じて追加された制限、監視の変更、展開上の制約も特定すべきである。

変更された判断の証拠は、企業がすでに効果的なインセンティブを有しているというZuckerbergの主張を強めるだろう。そうした証拠のないリリースが繰り返されれば、その主張は弱まる。

第3のシグナルは、監査者基準とフロンティアモデル要件に関する政府の対応である。自主的なコミットメントは法整備に先行して発展するかもしれないが、公的なルールは独立性と開示に関する最低要件を定めることができる。

規制は、政策立案者がMetaの責任ベースのモデルを受け入れるかどうかも明らかにするだろう。義務的な全国的枠組みが導入されれば、立法者が市場圧力だけでは不十分と考えていることを示す。

透明性に重点を置く、より緩やかな枠組みはMetaのアプローチを後押しする可能性がある。企業ごとの判断を維持しながら、評価結果を比較しやすくするだろう。

こうした兆候は、Meta、Anthropic、OpenAI、Nvidia、その他の開発企業による競争が続く中で現れるはずだ。各社は、自社が望む安全性の枠組みの背後に戦略的利益を持っている。

だからといって、すべての安全性に関する主張が不誠実というわけではない。政策提案は、付与される権限、変化するインセンティブ、求められる証拠に基づいて評価すべきだという意味である。

Metaの立場には、明確な強みがある。安全性への取り組みは、業界全体の合意がようやく成立した後ではなく、進行中の開発の内部で行われなければならないと認識している点だ。

弱点は、民間企業の責任が検証しにくくなり得ることにある。経営陣が自社のインセンティブは正しい方向を向いていると述べるだけでは、社会は信頼できない。

協調型のアプローチは正反対の性質を持つ。共有されたインセンティブに直接対処する一方で、協調は遅く、政治的に脆弱で、既存プレイヤーに有利に働く可能性がある。

実行可能な制度は、両陣営の要素を組み合わせるかもしれない。企業は日々のエンジニアリング判断に責任を持ち続けつつ、アクセス、テスト、インシデント開示に関する共通ルールに従うことができる。

この組み合わせは、すべての研究所に同じ速度でモデルを学習させることを求めるものではない。定義された能力の閾値を超える前に、同等の安全義務を満たすことを求めるものだ。

開発者にとって、短期的な対応は実践的であるべきだ。安全性文書を儀礼的な保証ではなく、製品の根拠として扱う。

モデルが、自社の導入環境に存在するツール、権限、データフローを用いて評価されたかを確認する。モデルのバージョンを追跡し、更新後には重要なテストを再実施する。

企業の購入担当者は、調達レビューにインシデント通知、監査アクセス、モデル変更に関する条件を含めるべきだ。一般的な評価が特化したワークフローまでカバーしていると想定してはならない。

ナレッジワーカーも、エージェントが公開、送金、本番システムの変更、または機密情報の露出を行える場面では、人間によるレビューを維持すべきだ。

これらの手順でフロンティアAIのガバナンスを解決することはできない。それでも、研究所による広範な安全性の主張と、特定の導入環境に存在するリスクとの隔たりを縮めることはできる。

Zuckerbergが責任は競合する企業全体に分散したままであるべきだと考えているため、Meta CEOはAIの減速より評価者を支持している。AnthropicとOpenAIは、より強力な協調を、そうした企業が生み出す圧力からの防御策と見なしている。

今後数カ月で、評価者が意味のあるアクセスを得られるのか、その調査結果がリリース判断を変えるのか、政府が最低限のルールを定めるのかが明らかになるはずだ。どの経営者が議論に勝つかよりも、これらの結果の方が重要である。

読者は、こうしたラベルを支える証拠に注目すべきだ。外部のレビュアーが深く検証し、自由に報告し、リリース判断を変更できるなら、Metaのモデルは信頼性を高める。

こうした保護措置が任意かつ不透明なままなら、協調的なペース調整を求める声は強まるだろう。決定的な問いは単純だ。評価者が危険を発見したとき、行動する権限とインセンティブの両方を持つのは誰なのか。