グテーレスのAIガードレール、AI競争に対し国際協力を求める
António Guterresは9月16日、各国の国境を越えて広がるリスクは自主的な一時停止では封じ込められないと警告し、協調したAI安全策を求めた。グテーレスのAIガードレール提案は、各国政府、最先端AI開発企業、そして競合する国家戦略を同じ対立の構図に置くものだ。AI能力は世界的な競争を通じて進化している一方、安全に関する取り組みの大半はローカルで、自主的であるか、検証が難しいままとなっている。
国連事務総長は、ニューヨークで開かれる第81回国連総会のハイレベル・ウィークを前に、この呼びかけを行った。同氏は、教育、医療、開発、気候レジリエンスにおける技術の恩恵を守りながら、各国政府は市民をAIリスクから保護しなければならないと主張した。
その介入は、責任あるイノベーションを求める一般的な訴えよりも具体的だった。グテーレスは、孤立した一時停止では十分な対応にならないとして退け、高度なAI能力を持つ国々の間での連絡、情報交換、共通の安全策を求めた。この立場は、無制限の競争と、個別企業だけでシステミックリスクを管理できるという考えの双方に異議を唱える。
中心的な問題は執行である。AIは安全で、透明性があり、説明責任を果たすべきだという点では各国政府の認識は概ね一致している。しかし、誰が制限を定めるべきかについては意見が分かれる。開発の減速が市民を守るのか、それとも経済的・戦略的な優位性を手放すことになるのかについても見解は異なる。
グテーレスのAIガードレール、議論を自主的な一時停止の先へ進める
グテーレスは各国政府に対し、ばらばらの約束を、最先端AIリスクを検知・管理する協調的な制度へ置き換えるよう求めている。
9月の記者会見でグテーレスは、AI開発が社会による危険性の理解を上回る速度で進んでいると述べた。一部の開発者が一時停止を求める一方、多くの関係者がガードレールを求めていることにも言及した。
その回答は、即時の世界的な停止を支持するものではなかった。むしろ、自主的な一時停止は、孤立し、検証できず、不均一に適用される場合には失敗すると述べた。ある研究所が開発を減速しても、競合他社が別の場所でより高性能なモデルを開発し続ければ、その効果は限定的だ。
この違いが提案の核心を定義する。一時停止は開発の速度に焦点を当てるのに対し、ガードレールは、どのような条件下で開発、テスト、導入を進められるかを定める。その条件には、独立した評価、インシデント報告、アクセス制御、セキュリティ要件、追加監督を発動するしきい値などが含まれ得る。
グテーレスは完成された規制枠組みを提示したわけではない。能力がますます高まるシステムに、より強力な安全策が必要となる時点について、共通理解を築くよう求めた。したがって、当面の目的は単一の詳細な世界法ではなく、政治的な協調である。
同氏はまた、第一の責任を各国政府に置いた。AI企業はシステムを設計・運用するが、法的権限、外交ルート、公共に対する説明責任を持つのは政府だ。その主張は、失敗が企業の本国市場の外にいる人々へ影響を及ぼす場合、企業の約束はこうした機能の代わりにはなれないというものだ。
国際的な側面が重要なのは、同じモデルが多くの国の利用者に提供され得るためだ。サイバー能力、欺瞞的な合成メディアのツール、自動化された研究システムは、ソフトウェアへのアクセスを通じて国境を越え得る。国内ルールは提供者を制約できるが、他の場所で生み出され、配布される被害を完全に封じ込めることはできない。
グテーレスはAIを、気候危機と深刻化する不平等と並ぶ、世界が直面する三つの実存的脅威の一つと呼んだ。この表現はAIガバナンスを、集団的リスクに対する国連のより広範な責任の中に位置付けるものだが、現在のすべてのAIシステムが実存的な危険をもたらすと確立するものではない。
同氏はまた、翌週に世界の指導者と行う協議でAIが主要なテーマになると述べた。ただし、国連総会の会合中に直ちにAIサミットを開くという考えは退けた。本格的なサミットには、政府、企業、科学者、市民社会による準備と参加が必要になる。
この慎重な時間軸は重要である。一度の外交会合を、技術的かつ地政学的な問題の解決策として見せることを避けるからだ。同時に、より難しい試練も生む。国連はハイレベル・ウィークで得た注目を、具体的かつ検証可能な約束を生み出すプロセスへ転換しなければならない。
したがって、グテーレスのAIガードレール提案は政策上の問いを変える。もはや問題は、先端AIが減速すべきかどうかだけではない。競争圧力によって自制が政治的に受け入れがたいものになる前に、各国政府が共通の発動条件、試験方法、コミュニケーションチャネルを確立できるかどうかである。
圧力は各国政府と最先端AIラボにかかる
各国政府は執行可能な安全性の期待値を定義するよう圧力を受けており、AIラボは慎重に管理されたデモンストレーションの外でも内部統制が機能することを示さなければならない。
グテーレスは、最も強い制度的主張を各国政府に向けた。AIの脅威から市民を守ることは、政府の基本的な責任だと表現した。この立場は、安全に関する判断を主に開発者へ委ねることを望む政策立案者に異議を唱える。
これはまた、最も高性能な汎用モデルを開発する組織、すなわち最先端ラボにも圧力をかける。これらの企業はしばしば、安全性フレームワーク、モデル評価、導入方針を公表している。しかし、各組織は独自のしきい値を定め、多くの試験を自ら選び、どの程度の証拠を開示するかを決めている。
自主的な約束は誠実であっても、公共政策として失敗し得る。競合他社がリスクを異なる方法で測定する可能性がある。新規参入者が参加を拒むこともある。政府や外部研究者は、企業が表明したプロセスに従ったかを検証するために必要な技術的アクセスを得られない場合がある。
競争上のインセンティブは、この弱点を強める。あるラボが追加テストのためにモデルを延期すれば、そのコストを負担する一方、別の開発者はユーザー、収益、人材、戦略的影響力を獲得できる。安全性は集合行為の問題となり、個々には合理的な判断が、全体としてより安全性の低い結果を生む。
最近の業界での議論は、この対立を示している。一部の有力な経営者は、モデル評価、モニタリング、限定的な協調的ペーシングを支持してきた。他方で、広範な制限は既存ラボへの権力集中を招く、あるいは海外の競合相手を利するとの警告もある。
この論争は、安全性の擁護者とテクノロジー企業の間だけにあるものではない。AI開発者の間にも存在する。どの危険を優先すべきか、評価者はどう活動すべきか、政府が競争を凍結させずに技術作業を監督できるかについて、企業ごとに見解が異なる。
一つの懸念は規制の取り込みである。大手ラボの小集団が世界的なしきい値の定義に関与すれば、そのルールが彼らのシステム、資源、商業的利益を反映する可能性がある。既存の開発者には対処可能に見えるコンプライアンスコストでも、小規模企業や学術チームを排除しかねない。
Cohere CEOのAidan Gomezは、協調的なAIペーシングをめぐる広範な議論の中でこの懸念を提起した。同氏は、重大な影響を持つ技術のルールを、商業的に利害が一致する少数の企業が書くべきではないと主張した。この異議は安全策の必要性を否定するものではないが、誰がそれを設計するのかという問いを突き付ける。
独立した専門家も、組み込まれた評価者が真に独立しているのか疑問視している。アクセス、資金、継続的な協力を企業に依存する監査者は、不利な結果を報告する際に制約を受ける可能性がある。共通基準が意味を持つのは、外部者がその運用方法を検証できる場合に限られる。
同時に、各国政府は最先端開発を完全には把握できていない。当局者は、モデルが危険な能力を獲得した時点、内部評価がどのように構成されたか、あるいは報告された緩和策が導入後も有効かどうかを把握していないことがある。専門知識は機関や国によって偏在している。
この非対称性により、ラボは自らを規制するために使われる証拠に影響力を持つ。それはまた、グテーレスが政治的協調を独立した科学的評価と結び付けた理由でもある。政策立案者がしきい値に合意したり、各国の執行を比較したりするには、共通の技術的基盤が必要だ。
企業の購買担当者も関連する圧力に直面している。彼らはソフトウェア開発、研究、カスタマーサポート、採用、ナレッジワークにAIをますます活用している。世界的な規制の分断により、こうした組織は市場ごとに異なる開示・コンプライアンス要件を評価せざるを得なくなる可能性がある。
適切な内部記録は、どのシステムが機微な情報を扱ったのか、どの出力が意思決定に影響したのか、いつ方針が変更されたのかをチームが理解する助けとなる。検索可能なAIナレッジベースは規制の代替にはならないが、監査やインシデントレビューに必要な証拠を保存できる。
したがって、求められる対応は二つある。各国政府は国際競争に耐え得る執行可能な要件を整備しなければならない。AIラボは、自らの安全性に関する主張への信頼だけに完全には依存しない形の試験と開示を受け入れなければならない。
世界的協調はAI競争と衝突している
主な対立は、協調した安全性と、自制が競合国を利すると各国が恐れる戦略的競争との間にある。
グテーレスは、地政学的な分断が主要国にAIを可能な限り速く開発させる方向へ働き得ることを認めた。この環境では、政府は他国の安全性提案を、市民を守る試みではなく自国の能力を制約する試みとみなす可能性がある。
米国と中国がこの緊張の中心にあるが、グテーレスは協調が二大国を超えて広がるべきだと明言した。他の国々にも、先端ラボ、半導体サプライチェーン、データセンター、研究機関、そして相当規模の技術人材プールが存在する。
こうした政府を単にルールを受け入れる側として扱うなら、普遍的な枠組みは機能しない。計算能力が小さい国々にも固有の利益がある。AIによる経済的利益へのアクセス、標準策定における代表性、他国で構築されたシステムからの保護を求めている。
このため、AIガバナンスは単純な製品安全制度とは異なる。基盤となる技術は、科学研究、軍事計画、サイバー作戦、産業競争力、情報システムに影響を及ぼす。各国政府は同じモデルに商業的機会と国家的な力の双方を見出している。
米国は、中国に対する主導権の維持と、国内開発者を弱体化させる制限の回避を重視してきた。広範なペーシング措置への政治的抵抗には、雇用、投資、防衛、戦略的優位性に対する懸念が反映されている。また、中央集権的な国際管理への懐疑も反映している。
中国にも独自の安全保障、開発、ガバナンス上の優先事項がある。意味のある世界的取り決めには、双方が信頼できるとみなす仕組みが必要となる。責任あるAIに関する一般的な宣言だけでは、モデルへのアクセス、半導体規制、査察、機微な技術情報をめぐる争いは解決しない。
グテーレスは、冷戦期のコミュニケーションを歴史的な参照例として用いた。米国とソ連は深刻な敵対関係にありながら、連絡を維持し、リスク低減策を交渉した。この類比は、政治的な一致を求めることなく、競合国間の限定的な協調を支持するものである。
しかし、AIは核兵器と同一ではない。最先端の開発は民間企業、研究機関、クラウドプロバイダー、政府に分散している。AIシステムはまた、主要な兵器プラットフォームよりも速いペースで複製、改変、展開される。
ここから得られる教訓は、より限定的だ。事故、誤算、あるいは制御されない競争が双方を脅かす場合、対立する大国であっても意思疎通の経路を構築できる。AIにおいては、こうした経路が、インシデント通知、共通の評価概念、あるいは特に危険な能力を持つシステムを展開する前の協議を支え得る。
実効的な合意には、観測可能な行動を特定する必要がある。各国政府は、研究所がサイバーリスクや生物学的リスクをどのように評価しているかを比較し、重大インシデントの報告要件を定め、法域をまたいで同等の試験手順を認めることができる。
検証は依然として難しい。モデルの能力は、新たなプロンプト、ツールへのアクセス、ファインチューニング、外部システムとの連携を通じて現れ得る。管理可能に見えるモデルでも、統制された試験環境を離れ、展開されたり自律型ワークフローに組み込まれたりすれば、異なる振る舞いを示す可能性がある。
情報共有には、別のトレードオフもある。規制当局には安全性を評価するための十分なアクセスが必要だが、企業や政府は知的財産と国家安全保障を守りたい。無制限の開示を求める枠組みは反発を招く。機密扱いの主張を受け入れる枠組みは、信頼性を欠くことになる。
欧州連合は地域的な代替案を示している。AI Actは、汎用AIやシステミックリスクに関わる要件を含め、提供者と導入者に法的義務を課している。欧州当局は、公式のAI Act frameworkの下で、2026年8月から関連規定の執行を開始した。
この制度は具体的な規制モデルを提供するが、グローバルな協調ではない。欧州の法的権限と市場アクセスを通じて適用される。他の法域は、異なる閾値、執行体制、定義を採用できる。
この対比は、グテーレス氏によるAIガードレールの目的を明確にする。それらは必ずしも地域法や国内法に取って代わるものではない。実務的な価値は、いかなる国の規制当局も単独では管理できない深刻なリスクについて、最低限の共通言語を確立することにある。
国連には科学的基盤があるが、世界的な規制当局はない
国連は共有された証拠と対話のための制度を築いてきたが、これらの制度にはAI規則を執行したり、研究所に機微な情報の開示を強制したりする権限はない。
グテーレス氏の提案は、制度的な空白から生まれたものではない。2024年9月、国連加盟国は未来サミットの一環としてグローバル・デジタル・コンパクトを採択した。この合意は、国際協力、人間による監督、説明責任、証拠に基づくAIガバナンスを求めた。
Global Digital Compactでは、独立した科学パネルとグローバルな政策対話を創設することも各国政府が約束した。これらの仕組みは、技術的証拠を国家やその他の利害関係者間の交渉につなぐために設計された。
総会は2025年8月26日、この約束を前進させた。決議A/RES/79/325は、AIに関する独立国際科学パネルとAIガバナンスに関するグローバル対話を設立した。この決議は採決なしで採択され、これらの制度に対する幅広い支持を示した。
同パネルは、個人資格で活動する40人の委員から成る。委員は国連の5地域すべてから選ばれ、学界、産業界、市民社会、技術分野の専門性を備えている。選考は公開募集を通じて行われ、140カ国以上から2,600件を超える応募が集まった。
その任務は、AIがもたらす機会、リスク、影響について、証拠に基づく年次評価を作成することだ。報告書は、政府が産業界、研究者、市民社会、技術コミュニティとともにガバナンスの手法を議論するグローバル対話に情報を提供することを意図している。
パネルの予備報告書は、大規模なAI導入に伴うリスクとして、メンタルヘルスへの害、破壊的な利用、社会・環境システムへの影響、高度技術を制御する難しさを挙げた。これらの分類は、どのリスクに共同で対処すべきかを外交官が判断する出発点となる。
この構造は、国際的なAI議論における繰り返し現れる弱点の一つに対処している。各国政府はしばしば、互換性のない定義、非公開の証拠、あるいは推測的な主張に依存しながら交渉する。共有された科学的評価は、専門家の合意点、証拠がなお限定的な領域、改善が必要な評価手法を明らかにできる。
しかし、このパネルは明確に規制当局ではない。国連のpanel mandateによれば、規則を課したり、基準を執行したり、拘束力のある政策を規定したりすることはできない。その影響力は、活動の質と政府が行動する意思に左右される。
グローバル対話にも同様の限界がある。参加の裾野を広げ、共通理解を深めることはできるが、国家に法律の採択を強いることはできない。また、AI開発者に対し、モデルウェイト、学習の詳細、内部試験結果、外部評価者へのアクセスを提供するよう強制することもできない。
ここに本稿の中心的なトレードオフがある。包摂的な制度は、より小規模な技術フォーラムから排除されてきた国々にとって、正統性を高める。しかし、普遍的な参加は合意形成を遅らせ、相反する国家的立場を受け入れられるほど広範な文言を生み出しかねない。
より限定的な連合であれば、より迅速に動ける可能性がある。最先端の研究所と高度な計算インフラを持つ国々は、技術標準や緊急連絡の仕組みを確立できる。しかし、そのような集団は、AIの開発を支配せずともその影響を受ける国々を周縁化する恐れがある。
グテーレス氏は、この両層を求めているように見える。国連パネルは世界的な科学評価を提供し、一方で能力を持つ国々は、より直接的な連絡と共通のガードレールを確立する。より広い加盟国はその後、正統性、アクセス、開発、人権への影響を議論できる。
この手法は、科学的評価、政治交渉、国内での執行を分ける他の国際的なリスク管理体制に似ている。一つの機関がすべての機能を果たせると装わない点に特徴がある。同時に、進展が停滞し得る地点も複数生まれる。
科学的な合意が自動的に政治的な合意を生むわけではない。政府は、ある能力が危険だという点では一致しても、その測定方法では意見が分かれ得る。試験を受け入れても、査察を拒むことがある。報告を支持しても、国家安全保障を理由にインシデントを秘匿する可能性がある。
したがって、国連の基盤は重要ではあるが不完全だ。証拠と交渉を組織化することはできる。しかし、競争が激化した際に、最も能力の高い研究所や政府が同じ規則に従うことを、現時点では保証できない。
最も難しい問いは自制をどう検証するかだ
観測可能な閾値、独立した試験、違反への帰結を欠くガードレールは、別の自発的な約束にとどまる。
グテーレス氏は、一方的な停止の中心的な弱点として検証を挙げた。その同じ試金石は、同氏が支持するいかなる代替案にも当てはまる。協調的な安全策は、何を測定するのか、誰が証拠を検査できるのか、参加者が義務を果たさなかった際に何が起きるのかを明示しなければならない。
第一の課題は、規制対象となる能力の定義だ。モデル規模や学習時の計算量は、多くの下流の行動よりも測定しやすいが、リスクを完全には予測しない。より小さなモデルでも、ツール、特化データ、ファインチューニングを通じて大きな能力を獲得できる。
能力試験にも限界がある。研究所は、モデルがサイバー攻撃や生物学研究を支援できるかを評価できるが、性能はプロンプト、アクセス、足場となる仕組み、評価者の技能に依存する。一つのベンチマークを通過しても、実際の展開全体にわたる安全性を証明することにはならない。
第二の課題は、評価者の独立性である。企業は不可欠な技術知識とシステムアクセスを保有しているため、評価には協力が必要となる。しかし、提供者が管理する評価は、外部機関が設計・レビューした評価と同じ信頼性を持つことはできない。
政府は認定評価者を許可し、安全な試験環境を設け、規制当局への機密報告を義務づけることができる。これらの選択肢は、監督を実現しながら機微な情報を保護する。それでも、明確な利益相反ルールと十分な技術的能力に依存する。
第三の課題は国際的な比較可能性だ。ある国がサイバーリスクを評価し、別の国が偽情報に重点を置くなら、「安全」のような共通ラベルが明らかにすることはほとんどない。共通のガードレールには、最低限の試験カテゴリー、文書化基準、インシデントの定義が必要となる。
第四の課題はタイミングである。リリース前の評価が捉えられるのは、試験条件下で判明しているモデルの行動に限られる。ユーザーがモデルをソフトウェアツール、機微なデータベース、金融システム、物理的な機器に接続した後、リスクが現れることがある。
したがって、展開後の監視はリリース前レビューを補完しなければならない。提供者と導入者には、重大な障害を記録し、関連する知見を共有し、保護策を更新するプロセスが必要だ。規制当局にも、証拠が変化した際に是正措置を求める権限が必要となる。
第五の課題は帰結である。参加者が市場アクセス、ライセンス、公共契約、計算資源、あるいは別の有意義な利益を失うことなく閾値を無視できるなら、合意の価値はほとんどない。執行は、行動を変えるほど信頼できるものでなければならない。
ただし、強硬な執行は意図しない影響を生む可能性がある。大手研究所の資源を前提に構築された規則は、既存勢力を固定化しかねない。オープンモデルへの制限は、クローズドな提供者により大きな支配力を残したまま、独立した研究を制約する可能性がある。
ガバナンスは保護主義の隠れみのにもなり得る。ある国は、透明な証拠なしに外国のモデルを安全ではないと分類するかもしれない。ある企業は、自社のアーキテクチャより競合他社に重い負担を課す閾値を支持する可能性がある。
こうした懸念は段階的なアプローチを支持する。政府は、害が深刻で、試験が実行可能で、利害が重なる限定的な領域から始められる。例としては、生物兵器の作成支援に対する制限や、モデルが関与した重大なサイバーインシデントの報告要件がある。
また、共有演習を通じて相互信頼を築くこともできる。独立したチームが、保護された条件下で、同じリスクカテゴリーに対して比較可能なモデルを試験できる。規制当局は、機微な技術的詳細の公開を求めることなく、結果を比較できるようになる。
これらの措置のいずれも、将来のシステムに対する統制を保証するものではない。オックスフォード大学で技術規制を研究するサンドラ・ヴァクター氏は、現在の地政学的状況の下では、広範な世界的協調は極めて非現実的だと述べた。この懐疑論は、脚注のように扱うのではなく、中心に据えるべきだ。
したがって、グテーレス氏のAIガードレール提案は、執行可能な制度がすでに存在する証拠ではない。これは、政府が検証の問題に正面から向き合うよう求めるものだ。成功の基準は、原則を述べるだけの新たな声明ではない。高リスクシステムの試験、リリース、監視のあり方を変える、観測可能な協力である。
協力が現実のものになるかを示す三つの兆候
次の試金石は、政治的な関心が、具体的な制度、技術的手順、そして最先端開発を主導する国や企業の参加へと結び付くかどうかだ。
第一の兆候は、総会のハイレベルウィーク中に行われるグテーレス氏の協議の内容である。安全なAIへの一般的な支持表明が加わっても、得るものはほとんどない。より強い兆候となるのは、能力を持つ国々が、継続的な連絡体制の構築、重大インシデントに関する情報交換、あるいは共通の評価カテゴリーの策定で合意することだ。
参加は言語と同じくらい重要である。米国または中国のいずれかを排除するプロセスでは、Guterresが描写した戦略的競争を管理することはできない。先進的な研究、コンピューティング・インフラ、規制能力を持つ他国からの意見も必要になる。
各国政府が、参加者を明示し、対象範囲を定めた継続的な対話チャンネルを発表すれば、中心的な主張は裏付けられる。広範な宣言だけにとどまるなら、外交上の懸念と実務的な連携の隔たりは残る。
第2のシグナルは、独立国際科学パネルが予備的な作業を、再現可能な評価へとどう転換するかである。年次報告の義務は共通の事実基盤を生み出し得るが、そのためには証拠の質、未解決の意見対立、実践的な評価手法を説明しなければならない。
このパネルは、規制当局、研究者、企業がその分類を利用できるかどうかで評価されるべきだ。実証された害と不確実な将来リスクを区別する報告書は、政策論争を強化するだろう。明確な手法はまた、政府が既存の立場を支持する知見だけを選び取ることを難しくする。
その独立性も精査に値する。メンバーは個人の立場で活動し、関連する利害を開示しなければならないが、パネルには最先端システムと最新の証拠へのアクセスも必要だ。その信頼性は、透明な手法と、警戒をあおる主張にも軽視する主張にも異議を唱える明確な姿勢にかかっている。
パネルが政府に採用される有用なテスト概念を公表すれば、国連のプロセスは単なる招集を超えたことになる。各国の規制当局や研究所での評価と切り離されたままであれば、その影響力は主として助言的なものにとどまる。
第3のシグナルは、政府が共通のコミットメントに検証と結果を伴わせるかどうかである。独立した評価、標準化されたインシデント報告、保護された規制当局のアクセス、より強い安全策を発動する明確な閾値に注目すべきだ。
AI slowdown debateはすでに、テストとモニタリングをめぐる暫定的な合意を示している。同時に、全面的なペース調整、監査人の独立性、競争、標準設定の主導権をめぐる深い対立も示している。
狭い範囲でも検証可能な合意は、野心的であっても執行不能な一時停止より重要である。政府は、壊滅的なサイバーまたは生物学的悪用に関するモデル評価から始め、その後に機密報告と重大インシデントへの協調対応を続けることが考えられる。
結果を伴わないことは、そのシグナルを弱める。参加者が証拠を差し控えたり、モデルの失敗後に閾値を再定義したりできるコミットメントは、Guterresが批判した自主的な制度を再現することになる。
企業は、規制の分断がコンプライアンスコストを引き上げ、グローバル展開を複雑にするため、こうした動向を注視すべきだ。開発者にとっても、安全性の閾値がコンピューティングへのアクセス、テスト要件、リリース予定、法的リスクを左右し得るため重要である。
ナレッジワーカーや一般利用者にも利害がある。ガードレールは、AI生成コンテンツにラベルが付くか、自動化された意思決定が人によるレビューを受けるか、モデルが深刻な被害を生んだ際に提供者がどう対応するかに影響し得る。不適切に設計された規則は、最高リスクのシステムに対処しないまま、有用なツールを制限する可能性もある。
問題は、すべての国が同一のAI法を採用するかどうかではない。そのような結果は現実的でも必要でもない。当面の問題は、対立する政府が、どの国も単独では直面したくない少数のリスクについて合意できるかどうかである。
Guterresは選択を明確に示した。孤立した自制では国境のない技術を制御できず、無制限の競争は底辺への競争を招く。今や政府は、GuterresのAIガードレールが、また一つの外交的な願望ではなく、測定可能な義務になり得るかを示さなければならない。
次の3つの動きに注目したい。最先端AIを持つ国々の正式なコミュニケーション、国連科学パネルによる技術的に有用な作業、そして独立した検証に裏付けられたコミットメントである。これらのシグナルは、国際協力が競争を制約し始めているのか、それともその危険を説明しているにすぎないのかを明らかにする。
