OpenAIとAnthropicの安全性協議、研究所が共通ルールを模索する中でスタートアップの懸念を喚起
主要AI研究所3社が、最先端モデルの開発で激しく競争する一方、共通の安全策について協議を始めたことで、OpenAIとAnthropicの安全性協議はスタートアップの懸念を喚起している。OpenAIによれば、AnthropicおよびGoogle DeepMindとの対話は数週間にわたり続いている。この取り組みは、テスト、報告、セキュリティの実務をより一貫したものにする可能性がある。同時に、最も資金力のある開発企業には、いずれ小規模な競合各社も従うことになるかもしれないルールに影響を及ぼす、異例の機会を与えることにもなる。
Bloomberg videoは、創業者、投資家、政策立案者、そして協議を主導する企業の間で浮上しつつある対立を捉えた。信頼できる安全対策の必要性に異論を唱える参加者はほとんどいない。より難しい問題は、誰がそれを策定し、誰が順守を検証し、小規模な研究所にも実質的な発言権が与えられるのかという点だ。
この違いによって、安全性の取り組みは競争上の問題へと変わる。共通の評価システムは、重複作業を減らし、政府が能力を増すモデルを理解する助けになり得る。しかし、高額な監査、セキュリティ管理、報告義務は、既存の研究所にはスタートアップよりも容易に負担できる障壁にもなり得る。
したがって中心となる争点は、OpenAI対Anthropicではない。安全性を確保しつつ現在の市場構造を固定化しない、開かれた標準策定プロセスに対する既存大手主導の協調である。ワシントンは、政府がそのプロセスを監督すべきか、限定的な協力を認めるべきか、それとも企業の自発的な連携に委ねるべきかを決めなければならない。
協議が議論の構図を変えたため、OpenAIとAnthropicの安全性協議はスタートアップの懸念を喚起している
重要なのは署名済みの協定ではなく、各社が個別に定める方針から、業界で協調したルールへの移行である。
OpenAIのグローバル政策責任者であるChris Lehane氏は、同社がAnthropicおよびGoogle DeepMindと数週間にわたりAI安全性について協力してきたと述べた。公表された報道では、最終的な合意、執行機関、拘束力のある開発制限が確立されたことは確認されていない。協議は依然として予備的段階にあり、最終的な範囲も不明確だ。
この不確実性は重要である。モデルのテスト手法を共有することは、トレーニングの減速、公開の制限、特定能力の制約に合意することとは大きく異なる。前者は独立した競争を維持しながら安全性を改善できる。後者は製品供給、市場参入、競合他社が顧客に到達する速度に影響し得る。
業界リーダーによる最近の発言は、こうした区別を公の議論に押し出した。Anthropic CEOのDario Amodei氏は、安全対策がモデル開発に追いつくための時間を確保すべきだと訴えた。safety slowdownの報道によると、OpenAI CEOのSam Altman氏とGoogle DeepMind CEOのDemis Hassabis氏は、より大きな協調への支持を表明した。
各研究所はゼロから始めるわけではない。いずれも、深刻なリスクを特定し、能力の向上に伴って保護策を追加するための内部フレームワークをすでに維持している。また、評価結果、モデル文書、選別されたインシデント情報も公開している。
OpenAIのpreparedness frameworkは、生物・化学分野の能力、サイバーセキュリティ、AIの自己改善に関連するリスクを追跡している。能力のしきい値と保護策に関する報告を用いて、展開の判断に役立てている。OpenAIは、最先端モデルの公開にあわせて準備態勢に関する調査結果を公表するとしている。
Anthropicのscaling policyは、定義された能力しきい値を、より強力なセキュリティ、評価、展開上の保護策に結びつけている。同社はこの方針を自主的なものと説明している。また、自社のようなフレームワークが、より広範な業界標準や将来の法制化に情報を提供し得るとも述べている。
これらの制度には基本的な共通点がある。研究所はモデルを公開する前に危険な能力を評価し、測定されたリスクがしきい値を超えた際には管理を強化すべきだという考え方だ。しかし、用語、テスト、ガバナンス構造、情報開示の慣行は同一ではない。
共通基準は、結果を比較しやすくする可能性がある。外部評価者は、類似したモデルを判断する前に、無関係な3つのリスク尺度を読み解く必要がなくなる。政府もまた、報告要件を策定する際に共通の語彙を使えるようになる。
ただし、標準化は影響力を生む。危険な能力を定義する者は、どのエンジニアリング上の選択を必須とするかも形作る。ベンチマークを選ぶ者は、どのリスクに注意を向け、どのリスクをテストの対象外にするかを決める。
このため、OpenAIとAnthropicの安全性協議は、AIが危険かどうかを巡る通常の意見対立を超えて、スタートアップの懸念を喚起している。協議は、最先端領域で競争するための実務的なコストを定義する可能性がある。また、そもそもどの組織が最先端開発者と見なされるかにも影響し得る。
限定的な合意であれば、インシデント報告、評価手法、サイバーセキュリティ情報を対象とするかもしれない。より広範な取り決めであれば、トレーニング計画、展開の承認基準、モデルの重みに対するアクセスに影響する可能性がある。これらの選択肢は、競争において大きく異なる結果をもたらす。
各社が共同で開発停止に合意したことを示す公開証拠はない。協議を完了済みの一時停止として説明するのは、報じられている内容を過大に表現することになる。当面の変化は、民間の安全性制度が共有された業界ガバナンスの候補になりつつあることだ。
この変化によって、スタートアップもこの問題の当事者となる。大手研究所間の議論を傍観するだけの存在ではない。小規模企業の多くが持たない資源、組織構造、脅威モデルを前提に策定された基準を引き継ぐことになるかもしれない。
順守コストが小規模AI企業を圧迫する
安全ルールは公共を守る一方で、順守にチーム、インフラ、アクセスが必要となり、それを既存大手だけが保有している場合、スタートアップを不利にする可能性がある。
最先端の評価に必要なのは、ベンチマークのスプレッドシートだけではない。研究所には、セキュリティエンジニア、リスク専門家、レッドチーム、法務アドバイザー、機微なモデルへのアクセスを管理する仕組みが必要だ。公開前にモデルを検査できる外部評価者も必要になる可能性がある。
大企業はすでに、その仕組みの多くを支えている。OpenAI、Anthropic、Googleは、主要製品、クラウドとの関係、広範な研究プログラム全体に順守コストを分散できる。スタートアップは、意味のある収益を得る前に、同じ固定要件への資金拠出を求められる可能性がある。
この非対称性は、要件が不要であることを意味しない。モデルの重みや内部ツールが深刻な悪用を可能にし得る場合、強固なサイバーセキュリティはより重要になる。独立したテストは、開発チームが見落とした失敗を明らかにし得る。
政策上の課題は調整にある。最大規模のトレーニング実行を念頭に置いたルールを、既存モデルを利用するすべての企業に自動的に適用すべきではない。特化型アプリケーションを開発するスタートアップは、最先端システムをトレーニングする研究所と同じリスクをもたらすわけではない。
したがって、定義には経済的な帰結が伴う。トレーニング計算量に基づくしきい値は少数のプロジェクトを捉えられるが、予想外の能力を持つ効率的なモデルを見落とす可能性がある。能力ベースのしきい値はより適応的であり得るものの、受け入れられたテストと繰り返しの評価が必要となる。
小規模な研究所はアクセスの問題にも直面する。大規模な評価を行うための計算能力を持たない場合がある。特に少数の企業が需要を支配している場合、専門監査機関は大口顧客を優先するかもしれない。
保険、文書化、セキュリティ要件はさらなるコストを加える。すべての参加者に同一の文言が適用されるため、基準は中立に見えるかもしれない。しかし、各社は異なる資源を持って出発するため、実質的な負担は不均等なままであり得る。
その場合、投資家は市場参入までの道筋を再考しなければならない。チームは競争力のあるモデルを公開できるまで、より長い資金余力を必要とするかもしれない。資本は、独立したモデル開発企業への投資ではなく、既存プロバイダーに依存するアプリケーション企業へ移る可能性がある。
その結果、初期ルールを策定する研究所の力が強まる。より多くのスタートアップが、そのモデルを基盤とし、クラウド容量を購入し、または買収を求めることになる。安全性規制は、リスク低減と並行して産業構造にも影響を及ぼすことになる。
オープンソース開発者も関連する問題に直面する。中央集権型の研究所向けに構築されたフレームワークは、1社がトレーニング、展開、監視、アクセスを管理していることを前提にできる。オープンウェイトモデルでは、下流の利用者がシステムを独自に変更・実行できるため、これらの機能は分離される。
この違いを無視する基準は、適用不能になるかもしれない。また、中央集権型サービスによって順守を文書化しやすいクローズドなプロバイダーを優遇する可能性もある。反対に、能力を考慮せずにオープンな公開を免除すれば、実在するリスクが未対応のまま残る可能性がある。
したがって創業者には、基準が合理的になるという一般的な約束以上のものが必要だ。明確な適用範囲、比例した義務、手頃な評価へのアクセス、争いのある評価結果に異議を申し立てる手続きが求められる。また、製品設計に順守を組み込むための十分な予告期間も必要となる。
相互運用可能なテストは役立つ可能性がある。あるスタートアップが認められた評価を1つ通過した場合、クラウドプロバイダー、投資家、政府顧客ごとに同等の作業を繰り返すべきではない。共有されたテストインフラも固定コストを抑えられる。
そのアプローチには公的資金が必要になるかもしれない。大学、標準化団体、独立評価者には、1社の非公開の手法に依存しないテストを作成する資源が必要だ。政府は、適格な開発者が利用できる安全な評価施設を支援できる。
透明性は最終的な要件だけでなく、その前段階にも及ばなければならない。スタートアップは、誰が基準を提案したのか、何の証拠がそれを裏付けるのか、どの代替案が退けられたのかを知るべきだ。パブリックコメントは、一見技術的に見えるルールに競争上の前提が含まれている場合を明らかにするだろう。
圧力は短期的でもあり、長期的でもある。短期的には、創業者は不確実な順守コストを投資家に説明しなければならない。長期的には、そのコストが独立した最先端モデル企業の存続可能性を左右し得る。
OpenAIとAnthropicの安全性協議は、スタートアップの懸念を喚起している。なぜなら、自主的な取り組みはしばしば調達規則や法制のひな型になるからだ。主要研究所の見解が収束すると、政策立案者はその合意を実現可能性の証拠として扱うかもしれない。その結果、小規模開発者は、自らが設計にほとんど関与しなかった基準に直面する可能性がある。
共有された安全基準は既存大手の優位性になり得る
中心的なトレードオフは、安全性の協調を迅速化することと、既存大手の選好が市場のデフォルト設計になるリスクとの間にある。
協力を支持する安全性上の根拠は大きい。最先端の研究所は、モデル支援型サイバー攻撃、生物学的悪用、欺瞞的な行動、自律的な研究能力など、類似した脅威をしばしば調査している。すべてのテストを重複して実施することは時間を浪費し、比較を難しくする。
共有されたインシデント分類は、報告の改善につながる可能性がある。ある研究所が新たな攻撃経路を発見した場合、同じ手法が広がる前に競合他社が防御を強化できるかもしれない。共通の用語は、緊急対応当局が技術的な開示を解釈する助けにもなる。
能力の進歩が立法より速い局面では、協調の価値はとりわけ高まる。包括的な枠組みを議会が可決するまでには何年もかかりうる。一方、モデル開発企業は数カ月、場合によっては数週間で社内テストを更新できる。
しかし、そのスピードこそが懸念の源でもある。3社主導のプロセスは、スタートアップ、独立研究者、公益団体が効果的な対応を組織する前に進行しかねない。初期の技術的選択は、顧客や規制当局が採用した後では覆すのが難しくなる。
既存大手は、誰かを明示的に排除せずとも標準を形作れる。自らが測定方法を熟知するシステムを中心に、最先端リスクを定義できる。社内業務と両立する開示形式を選べる。小規模企業が安全に提供できないアクセスを必要とする監査を優遇することも可能だ。
こうして生まれる枠組みは、安全性を真に改善するかもしれない。同時に、競争を既存大手のインフラに適合するビジネスモデルへ誘導する可能性もある。両方の効果は同時に起こりうる。
この問題は一般に規制の虜（とりこ）化と表現されるが、その呼び方は説明する以上に事態を曖昧にすることがある。プロセスを検証せずに悪意を前提としかねないからだ。OpenAIとAnthropicには危険な能力を懸念する正当な理由があり、スタートアップにも既存大手が設計したルールに疑問を呈する正当な理由がある。
より適切な検証軸はガバナンスにある。標準策定機関には影響を受ける競合企業や独立した専門家が含まれているか。投票ルールは均衡しているか。参加者は証拠を確認し、決定に異議を申し立てられるか。技術要件は、外部の組織が実装できる程度に公開されているか。
コンプライアンスの定義も重要だ。成果ベースのルールは、企業が満たすべきリスク水準を示しつつ、実装の柔軟性を残す。規範的なルールは、特定の管理策、プロセス、組織構造を指定する。
成果ベースの規制は、新たな安全技術を促しうる。ただし、評価手法が不安定なままであれば不確実性も生みうる。規範的なルールは明確さを提供する一方、現行の市場リーダーが設計した手法を固定化しかねない。
信頼に足る枠組みには、おそらく両方が必要になる。共通の評価成果を定めつつ、それを満たすための複数の承認済み手段を認められる。また、能力、提供形態、実証されたリスクに応じて義務を段階化することもできる。
政府調達は、どの枠組みが台頭してもその影響を増幅する。AIシステムを購入する政府機関は、ベンダーに評価、安全管理、インシデント対応手順の文書化を求める可能性がある。民間企業も、法的または運用上のリスクを管理する際に、同様の確認を採用する公算が大きい。
これはスタートアップにとって具体的な状況を生む。企業顧客の獲得を目指す新興モデル提供企業は、パイロット開始前にコンプライアンスを示す必要があるかもしれない。既存大手が設計した監査だけが認められるなら、その企業は不利な立場で交渉を始めることになる。
とはいえ、企業の買い手は引き続き証拠を求めるべきだ。答えはテストを放棄することではない。検証が利用しやすく、持ち運び可能で、独立性を保てるようにすることだ。
共通標準は、適切に設計されればスタートアップにも利益をもたらしうる。不確実性を減らし、ばらつきのある顧客アンケートに代わり、認識しやすい信頼のシグナルを確立する。標準を満たす企業は、規制市場へより容易に参入できる。
違いは、標準が扉を開くのか、参入を管理するのかにある。開かれた参加、比例した要件、複数の監査機関は前者を支える。非公開の審議、高額な認証、曖昧な例外規定は後者に有利に働く。
過去の標準策定には、両方のモデルがある。技術団体は競合企業による相互運用可能なシステムの構築や、利用者の保護を支援してきた。一方で、アクセスを制限したり、影響力のある会員に外部者には得られない優位性を与えたりした業界ルールもある。
AI安全性には特有の複雑さが加わる。危険な手法やモデルの詳細を公開すればセキュリティリスクを生むため、すべての証拠を完全に公開することはできない。したがって、完全な透明性は現実的ではない。
機密性が説明責任を免れるための包括的な防御策になってはならない。独立した審査者は、管理された条件下で機微な証拠を調べることができる。公開報告書は、危険な手順を明かさずに方法論と集約された知見を説明できる。
標準策定者は利益相反も開示しなければならない。要件を推奨する研究所は、関連製品、投資、商業上の関係を明らかにすべきだ。その情報は、ルールに意図しない市場への影響があるかを外部者が評価する助けとなる。
OpenAIとAnthropicの安全性協議がスタートアップの懸念を呼んでいるのは、両研究所が同じプロセスを通じて有用な安全策とより強い市場地位の双方を得る可能性があるためだ。政策立案者は、安全性と競争が別々の論点だと決めつけるのではなく、両方の結果を評価すべきである。
独占禁止法は協調の許容範囲を定める
競合企業は正当な安全性の取り組みで協力できるが、不必要に競争を制限する合意の隠れみのとして安全性を利用することはできない。
米国の独占禁止法は、競合企業間のあらゆる情報交換を禁止しているわけではない。企業は日常的に標準化団体、研究提携、業界団体に参加している。こうした取り決めはコストを下げ、相互運用性を高め、消費者を保護しうる。
連邦取引委員会の競合企業向けガイダンスも、その境界を示している。企業が独立して行動しなくなったり、共同で市場支配力を得たりする場合、協力はリスクを高める。当局は、取り決めの目的、影響、事業上の正当性を検討する。
この区別はAIに関する協議にも直接当てはまる。サイバー脅威に関する技術的指標の共有は、リリース時期の調整とは異なる問題だ。テスト用語への合意は、外部の競合企業が利用できる計算能力を制限することとは異なる。
任意の評価プロトコルは、資格を持つ開発者なら誰でも利用できる場合、競争を支えうる。参加者が認証を支配し、アクセスを拒み、測定可能な安全リスクと無関係な制約を課すなら、非公開の合意は競争を害しうる。
情報交換には特別な注意が必要だ。最先端研究所は、モデル性能、開発予定、顧客、コストに関する商業的に機微な詳細を保持している。そうした情報の共有は、競争戦略を明らかにしかねない。
企業は厳格な境界によってリスクを抑えられる。独立組織がデータを収集・集約できる。参加者は交換を技術的な安全情報に限定できる。法務担当者は会議、議題、記録を確認できる。
標準化団体には、支配的な会員による投票支配を防ぐ手続きも必要だ。小規模な競合企業、学術研究者、市民社会組織、政府の専門家には明確な役割が与えられるべきである。参加基準は客観的で、公開の場で説明可能なものでなければならない。
独占禁止法上の監視が、ガバナンスの問題を自動的に解決するわけではない。合意は明白な違反を避けつつも、高いコンプライアンスコストを生み出しうる。競争当局は、明示的な協調と並んで排除も考慮しなければならない。
政府の関与にはいくつかの形がある。議会は最低限の安全義務を定め、技術的な詳細を政府機関または認定標準化団体に委ねることができる。政府機関は許容される協力を説明するガイダンスを出せる。規制当局は日々の運営を管理せずに、任意団体を監視することもできる。
司法省は、組織が提案する行為に対する反トラスト局の現時点の執行方針を求められるビジネスレビュー制度を維持している。このようなレビューは法的リスクを明確にできるが、包摂的な政策プロセスに代わるものではない。
対象を絞った法的セーフハーバーも別の可能性だ。参加者が透明性、アクセス、監督の要件を満たす場合に限り、議会は限定的な安全性協力を保護できる。その保護は、市場分割や協調的な供給制限を除外できる程度に狭くあるべきだ。
広範な免除を与えることは危険である。企業は、より制限の少ない代替策が失敗したことを証明せずに、競争上の判断を必要な安全対策だと説明するかもしれない。どの免除も対象活動を明示し、継続的な見直しを求めるべきである。
政府はインフラを通じても競争を維持できる。公的な評価センターは、モデルとテストを所有する研究所への依存を減らす。助成金は、小規模企業が最先端規模に達する前にサイバーセキュリティ対策を実装する助けとなりうる。
規制当局には、こうした選択のための技術的能力が必要だ。内部の専門性がなければ、政府機関は監督対象の企業に過度に依存しかねない。その依存は、協議を事実上の権限委譲へ変えてしまう可能性がある。
独立研究者も独自のアクセス制約に直面している。現実的な条件下で最も高性能なシステムをテストできない場合が多い。参加者が知見を発表でき、報復から保護されるなら、安全な研究者向けプログラムは監督を改善できる。
懐疑的な見方にも同等の注意を払うべきだ。研究所は、共通団体が最も影響力のある会員に対して有意義な標準を執行できることを、まだ示していない。任意の枠組みには、例外、柔軟な閾値、または一般公開の審査対象にならない内部の意思決定経路が含まれる可能性がある。
OpenAIとAnthropicには、高性能な製品をリリースする強い動機も残る。安全性へのコミットメントは、顧客、才能、資本、戦略的提携をめぐって競争する企業の内部で機能する。共有された枠組みは、そうした圧力を取り除かない。
これは、協議が見せかけにすぎないことを証明するものではない。コンプライアンスが商業上の目標と衝突する局面を、ガバナンスは想定しなければならないという意味だ。独立した評価、文書化された例外、迅速なインシデント開示は、そうした局面で決定的に重要になる。
したがってワシントンは、2つの単純な結論を退けるべきである。一つは、あらゆる業界協力が規制の虜化を意味するという見方だ。もう一つは、技術的な複雑さゆえに政府が主要研究所の作る枠組みをそのまま受け入れる必要があるという見方である。
より良いアプローチは、安全性協力を有用でありながら異議申し立ての対象でもあるものとして扱う。企業は専門知識と運用上の証拠を提供できる。公的機関は説明責任を定め、参入を保護し、いつ制約を法的拘束力のあるものにするかを決めなければならない。
安全性協議が競争を守るかを示す3つのシグナル
次の試金石は新たな経営陣の支持表明ではなく、形成されつつあるプロセスが安全性と市場アクセスの双方に向けた具体的な保護策を生み出すかどうかだ。
最初のシグナルは、標準化団体の会員構成と投票構造である。正式な発表では、誰が参加できるのか、意思決定をどう行うのか、小規模開発者に実質的な影響力が与えられるのかを明らかにすべきだ。
OpenAI、Anthropic、Google DeepMindが支配する団体は、既存大手による支配への懸念を強める。より幅広い代表性が公正さを保証するわけではないが、技術的な提案を競合する前提にさらすことにはなる。
外部メンバーがテストを提案し、裏付けとなる証拠を検査し、認証判断に異議を申し立てられるかを観察者は検討すべきだ。投票権のない諮問席は、共同ガバナンスより弱い保護しかもたらさない。
2つ目のシグナルは、初期標準の対象範囲である。インシデント報告、評価用語、サイバーセキュリティ慣行は、妥当な出発点となる。モデルの供給やリリース時期を規定せずに、協調を改善できるからだ。
トレーニング、展開、モデルへのアクセスに対する制約には、より厳格な精査が必要となる。企業は測定されたリスク、各制約を支える証拠、より制限の少ない措置が機能しない理由を説明すべきである。
能力の閾値は特に重要になる。義務が文書化された危険な能力に紐づくなら、リスクをより直接的に対象にできる。広範な代理指標に依存する場合、安全性を改善せずに小規模プロジェクトまで捉えてしまう可能性がある。
この枠組みは、モデル開発者と下流のアプリケーション提供者も区別すべきだ。文書検索向けに既存モデルを適応させる企業が、元の最先端研究所に課されたすべての義務を自動的に引き継ぐべきではない。
第3のシグナルは、ワシントンの制度的対応である。政策立案者は、この協力の一部を傍観するのか、監督するのか、あるいは正式に認可するのかを決めなければならない。独占禁止当局も、どのような情報交換や共同活動が引き続き許容されるのかを明確にする可能性がある。
政府の役割を限定すれば、実施は大部分が自主的なものとなる。これは迅速さをもたらす一方で、執行の確実性を損なう。法定制度はより強い権限を伴うが、立法には時間がかかる可能性があり、既存勢力の前提を温存するおそれもある。
最も強力な対応は、公的な最低要件と開かれた技術プロセスを組み合わせることだ。政府は説明責任を伴う成果を定義し、有資格の専門家が評価手法を更新する。競争当局は、排他的な行為に異議を唱える権限を保持する。
こうしたシグナルは、OpenAI, Anthropic Safety Talks Stir Startup Concernsが妥当な懸念を生むのか、あるいはより均衡の取れたガバナンスモデルにつながるのかを左右する。答えは、研究所が表明する意図だけからは得られない。会員資格のルール、コンプライアンス費用、独立したレビュー、そして不遵守への結果によって決まる。
安全基準は法案の成立前から製品ロードマップに影響を及ぼし得るため、開発者は詳細を注視すべきだ。企業の購買担当者は、調達契約を通じて新たなテストを採用する可能性がある。投資家も、将来の監査義務やセキュリティ義務を資金調達の判断に織り込むかもしれない。
ナレッジワーカーやAIユーザーにも利害がある。より優れたテストは、信頼性に欠ける自律的行動、サイバー悪用、未公表のインシデントにさらされるリスクを減らせる。一方、競争の低下は製品の選択肢を狭め、ますます重要になるツールの支配を集中させかねない。
創業者は今、実務的な問いを投げかけるべきだ。どの評価記録を提出できるのか。インシデントをどのように報告するのか。セキュリティ統制は能力の向上に合わせて拡張できるのか。どの要件が吸収できない固定費を生むのか。
大手研究所も同様に実務的な回答を公表すべきだ。共同の安全対策と競争上の情報を分け、影響を受ける開発者にプロセスを開放し、コミットメントの例外を開示すべきである。
政策立案者は、すべての提案を2つの目的に照らして検証すべきだ。明確に特定されたリスクを減らすのか。そして、不必要な参入障壁を設けずにその結果を達成するのか。どちらか一方しか満たさない提案は、なお不完全である。
業界には、最先端システムをより迅速に評価する手段が必要だ。独立した各国のプロセスだけでは、あらゆる能力変化に追随できない可能性がある。しかし、迅速さのために最大規模のモデルを持つ企業へガバナンスを明け渡す必要はない。
決定的な問いは、市場を形づくる前に、誰がルールを形づくれるのかである。読者は、公表された憲章、定義済みの評価範囲、そして公式な独占禁止当局の対応に注目すべきだ。これらの具体的な動きによって、協議が公共の安全策を生むのか、それとも既存勢力が支配する門番を生むのかが明らかになる。
