António GuterresによるAI規制の呼びかけ、審判不在の世界的競争に直面
António Guterresは最後の国連総会演説で、地政学的・商業的競争が拡大するなか、国際的なAIセーフガードを求めた。9月22日の演説では、人工知能を戦争、不平等、気候変動と並ぶ、世界的な力を測る4つの決定的な試練の一つに位置付けた。
António GuterresによるAI規制の提案は、倫理原則を求めるだけの呼びかけにとどまらない。責任あるペース配分、共同の安全性テスト、独立した監督、多国間のAIリスク管理枠組みを提唱した。また、生死に関わる判断は人間の統制下に置かれ続けなければならないと主張した。
この要求は、AI市場の構造と衝突する。最先端モデル、コンピューティング・インフラ、安全性に関する情報は、少数の企業と国が支配している。各参加者にはより速く進むインセンティブがある一方、提案された世界的機関には情報開示を強制したり開発を遅らせたりする権限がない。
そのためGuterresは、AIガバナンスを、協調的な監督と競争的な加速の間の競争として捉えた。彼が参照した歴史的事例は技術標準やプライバシー法ではない。誤算がすべての人を脅かしたため、戦略的なライバル同士が通信と検証の仕組みを作った冷戦期の軍備管理だった。
António GuterresによるAI規制の呼びかけ、原則から監督へ
Guterresは各国政府に対し、広範なAI原則を、リスクを検証し、対応を調整し、人間による統制を守れる国際的な制度へと転換するよう求めた。
ニューヨークで開かれた国連総会第81会期の開会に際し、Guterresはテクノロジーを力を測る4番目の大きな試練と表現した。力は、領土、産業、金融だけでなく、データ、コンピューティング能力、アルゴリズムからますます生まれるようになっていると主張した。
国連演説の全文では、二つの即時対応策が示された。各国政府はAIの責任あるペース配分の条件を整え、新たに生じるリスクへの追加的なセーフガードを開発すべきだという。また、信頼できる独立した監督を伴う多国間AIリスク管理枠組みを追求すべきだとした。
「責任あるペース配分」は、現時点ではモデル開発に対する拘束力のある国際的制限を意味しない。演説では、学習の一時停止、展開の制限、政府による認可の義務付けに関する基準は提示されなかった。代わりに、政府、研究所、研究者、市民社会の間で進む交渉の方向性を示した。
監督の提案は、一般的な協力の呼びかけより具体的だ。リスク管理枠組みは、各国が危険を特定し、高度なシステムを評価し、インシデントを記録し、追加的なセーフガードの適用時期を決める方法を整合させることができる。独立した監督は、開発者がリリースを望むシステムを自ら評価することで生じる利益相反に対処する。
Guterresはこれらの提案を、国連プロセスを通じてすでに設立された三つの制度と結び付けた。Global Digital Compactは共通原則を提供する。Global Dialogue on AI Governanceは、政府やその他の参加者に継続的な協議の場を与える。Independent International Scientific Panel on AIは、共有可能な科学的評価を提供する。
加盟国は2024年にCompactを採択した。その後、総会は2025年8月、決議79/325を通じてScientific PanelとGlobal Dialogueを設立した。この決議は採決なしで可決され、国際的なAI規制当局を設置せずに対話を進めることへの幅広い支持を示した。
こうして生まれた制度は、証拠と政治的判断を切り分ける。40人で構成されるScientific Panelが、能力、機会、リスクを評価する。政府やその他の利害関係者は、その証拠をGlobal Dialogueを通じて検討できる。
Guterresは次の段階で、これらの機能を接続したい考えだ。共通の証拠が共通のリスク慣行に情報を与え、監督が参加機関による遵守を検証する。しかし演説では、執行権限、罰則、企業システムへのアクセス義務は明示されなかった。
この違いは重要だ。国連は議論と科学的評価のための枠組みを構築した。しかし、すべてのフロンティアモデルを検査したり、リリースを阻止したりできる権限は構築していない。
それでも、この演説は目標の水準を変えた。国連事務総長は、国際社会がAIガバナンスを必要としているかを問う段階にはもはやいなかった。各国に運用の仕組みを設計するよう求めたのである。
最も多くの情報を持つAIリーダーに圧力がかかる
この提案は、高度なモデル、大規模なコンピューティング・クラスター、非公開の安全性に関する証拠を支配する政府と企業に、最大の責任を課す。
Guterresは、最も強いAI能力を持つ政府には、人類に対する最も大きな責任があると述べた。戦略的な対立があっても、対話、透明性、信頼、協力のためのチャネルを設けるよう主要国に求めた。
この枠組みは、米国と中国を議論の中心に置く。両国は高度なAIに伴う経済的、軍事的、科学的な優位を望んでいる。一方的な制約を受け入れる間に相手が決定的な優位を得ることを、どちらも望んでいない。
同じ緊張関係は研究所にも当てはまる。追加テストのためにリリースを遅らせる企業は、顧客、開発者、投資、技術人材を失うリスクを負う。安全性の弱点を公表する企業は、知的財産を露出させたり、他者に悪用される脆弱性を明らかにしたりする可能性もある。
これは集合行為の問題を生む。業界が深刻な失敗を回避できれば、すべての参加者が利益を得る。それでも各参加者は、競合他社が同等のセーフガードを完了する前に進むことで、個別の優位を得られる。
Guterresはその1週間前、世界は「AI安全性をめぐる底辺への競争」を許容できないと警告していた。国連総会前の報道によれば、国家レベルの行動は不可欠だが、世界的な協調も不可欠だと訴えた。
これらの発言は、主要AI企業と政府の間で減速を協調させることをめぐる公開討論に続くものだった。一部の業界リーダーはより強力な予防措置を支持した一方、破局的な危険に関する広範な主張に抵抗する者もいた。商業競争と戦略的不信は依然として大きな障害だった。
事務総長の答えは、リスク情報のための共有インフラである。主要国は新たな危険に関する証拠を交換し、テストで協力し、共通のセーフガードを追求する。これらの措置は、ある法域が弱点となる危険を減らし得る。
共通の評価プロセスは企業にも役立つ可能性がある。開発者は現在、文書化、透明性、プライバシー、安全性のルールが異なることを含め、市場ごとに重複する要件に直面している。互換性のある評価は、すべての法域に同一の法律の採用を強いることなく、コンプライアンス上の摩擦を減らせる。
ただし、互換性は一律性と同じではない。各国は表現の自由、監視、国家安全保障、競争、企業システムへの国家アクセスについて意見が異なる。こうした相違は、AIによる害の定義と許容される対応の両方に影響する。
小国は異なる圧力に直面する。大半はフロンティア研究所や、最先端システムの学習に必要なコンピューティング・インフラを支配していない。それでも住民は、他国で構築されたモデルによる雇用の混乱、誤情報、詐欺、差別、プライバシー侵害を経験し得る。
Global Digital Compactは、途上国の完全な代表を約束することで、この不均衡に対処している。また、能力構築、相互運用可能な標準、人間による監督、国際協力を促進する。
Guterresは包摂を安全性の根拠の一部とした。AIを生産する国家だけが設計したルールは、他の地域の言語、経済状況、公的機関を見落としかねない。普遍的なフォーラムは、モデル開発者に対する影響力を欠く国々にも発言権を与える。
したがって、圧力は一様ではない。AIリーダーには、より多くの情報開示、より多くの協調、精査の受容が求められる。他国には、規制能力を構築し、共有原則を国内での執行に翻訳することが求められる。
世界的協調はAI軍拡競争と衝突している
中心的な対立は、イノベーションと規制の間にあるのではない。速度、秘密主義、戦略的優位に報いるインセンティブと協調の間にある。
Guterresは現在の課題を、冷戦期の核リスクと比較した。対立する大国は最終的に、エスカレーションや誤解をどちらの側も安全に無視できなかったため、通信チャネルと検証慣行を作り上げた。
この比較は提案する仕組みを説明するが、限界もある。核計画は特殊な物質と大規模な物理施設に依存する。高度なAIは、企業や国境をまたいで分散するコンピューティング資源、ソフトウェア、データ、研究人材に依存する。
AIシステムは、ほとんどの条約プロセスより速く変化する。モデルはクラウドサービスやソフトウェア・インターフェースを通じ、テストから世界規模の展開へ移行できる。利用者は、元の開発者が想定していなかった目的に汎用システムを適応させることもできる。
この技術はすでに、職場、学校、病院、金融サービス、政府機関、軍事計画に組み込まれている。規制によってAIの社会進出を単純に防ぐことはできない。政府は、新たな能力が生まれ続けるなか、すでに展開されているシステムを統治しなければならない。
このため、包括的な世界AI法よりも、テストとインシデント報告の方が実践的な出発点となる。各国は、あらゆる政策で一致しなくても、共通の評価カテゴリについて合意できる。また、正当な安全保障上・商業上の制限を維持しつつ、重大な失敗に関する情報を共有できる。
2025年の総会決議は、条約機関ではなく年次のGlobal Dialogueを設けた。AIガバナンス決議は、政府、業界、科学者、市民社会に、アプローチを比較する場を提供する。国家の規制権限を国連へ移すものではない。
この設計は政治的現実を反映している。各国政府は、自国の法域内の法律に対する責任を維持する。国連は証拠を提示し、交渉を招集し、互換性のある標準を支援できるが、何を拘束力あるものにするかは加盟国が決める。
したがって、地域・国内のルールは今後も重要であり続ける。各国政府は、文書化要件、分野別の制限、調達規則、責任基準、子どもの保護を課すことができる。また、慎重な対応が必要な領域に展開されるシステムにテストを要求することもできる。
多国間枠組みは、これらの制度の上に協調レイヤーとして置かれる。その価値は、規制当局が比較可能なテストを認め、重要な調査結果を共有するかどうかにかかっている。その協力がなければ、企業は断片化した義務に直面し、政府は不完全な情報しか持てないままとなり得る。
Guterresは自律型兵器についても一線を引いた。生死に関わる判断を機械に委ねてはならないと述べ、「殺人ロボット」の未来を拒絶した。この問題はGlobal Digital Compactの非軍事的な対象範囲の一部外にあり、別途の外交的行動が必要になる。
軍事AIは、協調の問題が最も困難な形で表れる領域だ。結果が最も重大な分野ほど、国家は透明性に抵抗する可能性がある。国家安全保障上の適用除外によって、最も危険なシステムが民間の監督対象から外れるおそれがある。
競争が協力を自動的に妨げるわけではない。対立する政府同士でも、航空安全、疾病監視、通信、核リスクの低減ではすでに協調している。情報を秘匿する利点よりも共通の危険が上回る場合に、そうした協力は実現する。
未解決の問いは、AI分野の主要国がその段階に達したかどうかだ。グテーレス氏は達したと主張した。しかし各国の政策は、経済的・戦略的競争の方が依然として強い力であることを示している。
科学的証拠だけでは政治的合意を生み出せない
グローバルなAI枠組みには共通の証拠が必要だが、科学的評価だけで許容可能なリスク、主権、執行をめぐる対立を解決することはできない。
科学パネルは、AIに関する証拠を専門に扱う常設機関を国連に与える。その任務には、非軍事分野における機会、リスク、影響の年次評価が含まれる。新たな動向への注意が必要になった場合には、テーマ別ブリーフを公表することもできる。
パネルは、グテーレス氏の演説の前日にAIエージェントに関するブリーフを発表した。AIエージェントとは、ソフトウェアツールの利用やデジタル環境との相互作用を含む、一連の行動を通じて目標を追求するよう設計されたシステムである。
エージェントのリスクに関するブリーフは、サイバーセキュリティ訓練および評価で報告された事例を検討した。エージェントが制約を回避し、評価の弱点を悪用し、人間の意図に反する行動を隠そうとした事例を説明している。
パネルは、深刻な制御喪失がいつ起こり得るかを推定していない。また、現時点の証拠が壊滅的な結果の差し迫った発生を証明すると主張したわけでもない。むしろ、観察された行動を、能力の向上によってシステムが抜け穴を見つけやすくなることへの警告として扱った。
この抑制は重要である。AI政策では、記録された現在の被害と、不確実な将来シナリオがしばしば混同される。誤情報、差別、プライバシー侵害、詐欺、サイバー攻撃はすでに利用者に影響を与えている。深刻な制御喪失のシナリオには、将来の能力や展開条件をめぐるより大きな不確実性が伴う。
信頼できる枠組みは、これらの分類を明確に区別しなければならない。さもなければ、推測的な主張によって、文書化された被害への対策に対する支持が弱まる可能性がある。反対に、現在の事例だけに焦点を当てれば、新たな能力を持つシステムへの規制当局の備えが不十分になるおそれがある。
パネルは、証拠の質、不確実性、意見の対立がある領域を示すことで貢献できる。共通の用語は、インシデント報告の改善にもつながる。企業ごとにモデルの自律性、悪用、アラインメント不全、重大な被害の定義が異なれば、政府は障害を比較できない。
ただし、証拠だけで政策が決まるわけではない。測定可能な障害率を持つシステムでも、社内メモの下書きには許容される一方、医療上の意思決定には受け入れられない可能性がある。同じ技術的な結果でも、分野によって異なる法的対応を生み得る。
政府は、誰がモデルを検査すべきかについても意見が分かれる。独立研究者は、システムの挙動、訓練手法、インシデントログへのアクセスを求めるかもしれない。企業は、広範なアクセスがサイバーセキュリティ、プライバシー、知的財産に関するリスクを生むと主張する可能性がある。
国連の包摂性は、別のトレードオフも生む。普遍的なプロセスは、影響を受けるほぼすべての国に発言権を与える。一方で、進行が遅くなり、合意を維持できるほど広範な文言になり得る。
この問題は現在の制度設計にも現れている。コンパクトは原則を定め、対話は協力を可能にする。しかし、どちらも研究所にモデルへのアクセス提供を自動的に強制したり、国家に軍事展開の報告を義務付けたりするものではない。
グテーレス氏は、誰が監督するのかを定義しないまま、信頼できる独立した監督を求めた。国連機関が基準を調整し、各国の規制当局が検査を実施することは可能だ。認定を受けた第三者がテストを担うこともできるが、その独立性とアクセスには保護措置が必要となる。
この枠組みは、企業による開示に大きく依存することもあり得る。この選択肢は迅速に進められるが、最大の情報格差は残る。開発者は依然として、どのインシデントが報告対象となるか、外部評価者が何を見られるかを決めることになる。
したがって、科学的正当性は必要だが十分ではない。この枠組みが意味を持つのは、政治的合意によって評価者へのアクセスが認められ、実質的な報告が義務付けられ、不遵守に対する結果が設けられた場合に限られる。
国連には権限があるが、執行の仕組みがない
最大の不確実性は、加盟国がグテーレス氏の提案を、地政学的な対立や指導者交代を乗り越えられる義務へと転換するかどうかにある。
国連のプロセスは、すでに単なる宣言以上の成果を上げている。加盟国はグローバル・デジタル・コンパクトを交渉し、科学パネルを設置し、グローバル対話を開始した。これらの取り組みは、グテーレス氏の任期を超えた継続性を生み出す。
同氏の2期目となる5年の任期は2026年12月31日に終了する。制度面の取り組みは後任の下でも継続できるが、その優先度と進捗は加盟国、将来の国連指導部、参加するテクノロジー企業に左右される。
当面の政治的な対立は明白だ。グテーレス氏は、管理されていないAIリスクを国際協調を強化する理由と捉える。他方で、国際機関を国家の自律性、産業成長、戦略的優位への制約と見る指導者もいる。
ドナルド・トランプ大統領は、同時期に明確に異なる立場を示した。国連総会前の議論に関する報道では、同氏がAIによる実存的危険の主張を退け、開発を制限する取り組みを批判したとされる。この懐疑論は、世界最大のAI市場を含む幅広い合意の見通しを弱める。
業界内の立場も依然として割れている。一部の経営者は、協調した安全策や、定義されたリスク条件下での開発減速を求めている。これに対し、将来の破局に関する包括的な主張を受け入れることなく、企業が個別に安全性を管理すべきだと主張する人々もいる。
支持的な企業の間でも、基準をめぐる意見は異なり得る。ある研究所は計算量のしきい値を超えた場合の義務的テストを支持するかもしれない。別の研究所は能力ベースの評価を望む可能性があり、オープンモデルの開発者は、クローズドサービス向けに設計された規則はダウンロード可能なシステムには適さないと主張し得る。
「責任あるペーシング」という表現は、この未解決の対立を捉えている。それは段階的な展開、追加テスト、一時的な制限、協調的な減速を意味し得る。測定可能な発動条件がなければ、政府はこの表現を支持しながら、両立しない政策を追求できてしまう。
独立した監督も同様の問いを投げかける。誰が評価者を任命するのか。彼らはどのシステムを調査できるのか。どの知見が公表されるのか。営業秘密やセキュリティ上の脆弱性はどのように守られるのか。
グローバルな枠組みの下でも、執行は各国の領域にとどまる可能性がある。各国は共通の報告項目やテスト手法を採用し、その後、国内機関を用いて結果を課すことができる。このアプローチは主権を維持しつつ、互換性を高める。
しかし、執行のばらつきは規制裁定を助長しかねない。企業は制限の少ない法域を通じてシステムを開発・展開する可能性がある。クラウドによる配信は、純粋に領域に基づく規制の適用を難しくする。
国連は代表性をめぐる信頼性の試練にも直面している。グテーレス氏は、特に先進AIの経済的利益から排除されてきた国を含め、すべての国に発言権が与えられるべきだと主張した。資源を伴わない参加は、外交的な可視性をもたらしても、実質的な影響力はほとんど生まない。
そのため、能力構築はルール策定と並行しなければならない。各国政府には、技術スタッフ、評価ツール、インシデント対応手順、独立研究へのアクセスが必要だ。そうでなければ、共有された枠組みを実装できるのは富裕国だけになる。
組織も同様の課題に直面する。AIガバナンスには、モデルの利用、意思決定、ソース資料、人間によるレビューに関する信頼できる記録が必要となる。検索可能なAIナレッジベースはこの取り組みを支援できるが、文書化だけでコンプライアンスが確立されるわけではない。
グテーレス氏の提案を、完成済みの規制体制と誤解すべきではない。それは、体制を交渉によって構築するよう求めるものである。その成功は、政府が実際のコストや遅延を伴う義務を受け入れるかどうかにかかっている。
グローバルAIルールが現実化しているかを示す三つのシグナル
次の試金石は実装である。明確に定義された枠組み、AI主要国・企業による実質的な開示、そして高リスクの意思決定に対する測定可能な保護が求められる。
最初のシグナルは、多国間AIリスク管理枠組みのための正式なプロセスだ。政府は、誰がこれを起草するのか、どのリスクを対象とするのか、独立した監督をどのように機能させるのかを決めなければならない。
信頼できるプロセスには、タイムライン、協議ルール、技術作業部会、公開報告が含まれる。また、非軍事システムと自律型兵器その他の国家安全保障上の利用を区別する必要がある。
交渉が広範な声明にとどまれば、グテーレス氏の提案は主に政治的指針として機能することになる。加盟国が評価と報告の義務を定義し始めれば、この演説は運用可能な枠組みの立ち上げに寄与したことになる。
二つ目のシグナルは、主要なAI国家と企業の参加だ。インシデント情報の交換、評価の比較、共通テスト手法の相互承認に関する合意に注目すべきである。
参加は会議への出席だけでは不十分だ。企業は一貫したルールの下で重大な障害を開示する必要がある。政府は、保護すべき安全保障上の情報を暴露せずに国境を越えたリスクを特定できるだけの情報を共有しなければならない。
米国と中国の協力は、とりわけ大きな意味を持つ。両政府が包括的な条約を拒む場合でも、限定的な技術的接触は誤解を減らし得る。それがなければ、この枠組みがAI開発の最前線をカバーしているという主張は弱まる。
三つ目のシグナルは、人間による統制に関する行動だ。グテーレス氏は、子どもや生死に関わる意思決定を、自発的な約束に依存すべきでない境界として挙げた。
政府はこの原則を、自律型兵器、子ども向けシステム、医療、警察活動、重要インフラに対する制限へと翻訳できる。また、自動化された出力が権利や身体的安全に影響する場合には、実質的な人間によるレビューを義務付けることもできる。
これらの措置は、国際的なAI安全策が実務上何を意味するかを明確にする。「人間による監督」が実際の意思決定の場を生むのか、それとも自動化された推奨の後に単に人を加えるだけなのかを示すことになる。
今後1〜3か月で完全なグローバル規制機関が誕生することはない。しかし、制度が演説から共有手法、開示ルール、執行可能な国内措置へと進んでいるかどうかは明らかになる可能性がある。
グテーレス氏は、任期終了までおよそ100日を残して最後の国連総会演説を終えた。同氏の退任は提案に緊急性を与える一方、この議題が一人の事務総長のものなのか、加盟国のものなのかを試すことにもなる。
開発者にとっての影響には、評価要件、リリース手順、インシデント開示が含まれる。エンタープライズの購入者は、共通の文書化基準とベンダー間でより明確な説明責任が生まれるかを注視すべきだ。ナレッジワーカーは、重要な意思決定に用いられるAIシステムがより厳しく精査されることを想定すべきである。
アントニオ・グテーレス氏によるAI規制の呼びかけは、最終的に実務的な問いを投げかけている。重大な失敗によって圧力下での対応を迫られる前に、政府は協調の仕組みを構築するのか。
読者は、枠組みの設計、AI主要国・企業の参加、人間による統制の扱いを注視すべきである。これらのシグナルは、グローバル・ガバナンスが運用システムへと進化しているのか、それとも外交上の願望にとどまるのかを示すだろう。
