TrumpのAI安全政策、業界リーダーがガードレールを求めるなか国連で米国を孤立させる
TrumpのAI安全政策は、国連で2日間にわたり開かれた会合でテクノロジー企業の幹部や国際機関の当局者が発したメッセージと、鮮明な対照をなした。
ドナルド・Trump大統領は国連総会で、米国は先進的な人工知能に対する世界的な統制を拒むと表明した。その翌日、OpenAI、Anthropic、Hugging Faceの首脳は、安全保障理事会に対し、企業や国家が単独では管理できないリスクに取り組むよう求めた。
対照は異例なほど明白だった。主要AI企業の大半を擁する国が国際的なガードレールに抵抗する一方、それらの企業の幹部はより強い国際協調を要請していた。
これは、米国だけが反対に回る正式採決ではなかった。安全保障理事会も拘束力を持つ世界的なAI規則を採択していない。米国の孤立は、記録上の一国だけの少数派ではなく、政治的・修辞的なものだった。
この区別は重要だ。国連はAIをめぐる科学的・外交的な制度を整備しつつあるが、その新たな枠組みの大半は依然として拘束力を持たない。米国が積極的に参加しなければ、そうした制度が最も高性能なモデルを開発する企業に影響を及ぼすことは難しい。
中心的な対立は今や明確だ。ワシントンは、特に中国との競争において、急速な開発を戦略的競争と見なしている。多くの政府とAI業界のリーダーは、競争圧力が自主的な抑制を圧倒する前に、共通の安全策を設けるべき理由として同じ競争を捉えている。
国連で実際に何が変わったのか
国連での会合は、抽象的な政策論争を、ホワイトハウスと米国を代表するAI企業幹部との目に見える亀裂へと変えた。
Trumpは2026年9月22日、ニューヨークで開かれた第81回国連総会に出席した。彼の立場は国際的な統制を拒み、協調的な抑制よりも競争上の主導権を優先するものだった。
AIについて「グローバリストによる統制の枠組みを構築しようとする、いかなる試みも米国は完全に拒否する」と、公式のWhite House accountは伝えている。
Trumpは演説の中で、この技術を「Super Intelligence」とも呼び替えた。この修辞上の変更は、先進AIを世界的な統治上の問題ではなく、国家的な成果として位置づけようとする彼の姿勢を強調した。
より詳細な議事録は、この枠組みがAI開発と地政学的競争をいかに密接に結び付けているかを示している。Trumpは、超知能の競争に勝つ者が「勝つ」と述べ、米国が中国をリードしていると主張した。
そのうえで、開発を遅らせかねない規制を退けた。「私たちはそれを奨励する。抑え込むことはしない」とTrumpは語りつつ、司法省を通じた監視を約束した。
このアプローチは、他国政府やAI業界のリーダーが提案してきた安全システムより限定的だ。司法省の監督は通常、特定可能な違反が起きた後に、競争、詐欺、公民権、犯罪行為を扱う。
フロンティアAIの安全提案は、異なる問題に焦点を当てる。高性能モデルが深刻な害を引き起こす前に、試験、監視、開示、協調を実施しようとするものだ。
翌日、安全保障理事会はAIと国際安全保障に関するハイレベル会合を開いた。OpenAIのCEOであるSam Altmanは直接出席した。AnthropicのCEOであるDario Amodeiと、Hugging FaceのCEOであるClément Delangueはリモートで参加した。
国連AI独立国際科学パネルの共同議長であるYoshua Bengioも、理事会メンバーに説明を行う予定だった。この会合は、科学的根拠、企業権力、国際安全保障を同じ場に集めた。
最も印象的な発言は、国家による統制という論理に異議を唱えた。Altmanは、最も強力なモデルを用いて、個人、企業、国家のいずれもが自らの世界観を他のすべての人々に押し付けるべきではないと述べた。
Amodeiは、適切に管理されないAIが人類全体にとってのリスクになり得ると警告した。Delangueは、先進システムを支配する組織と、その影響にさらされる地域社会との不均衡に焦点を当てた。
SemaforのAI safety accountは、この矛盾を捉えた。米国を拠点とする幹部たちが、米大統領がその前提を退けた後に、世界的な安全策を求めていた。
この一連の展開により、この意見の相違を政府と業界の対立として扱うことは難しくなった。影響力のある業界リーダーの何人かは、ホワイトハウスの公のメッセージよりも国連の立場に近かった。
それこそが本当の変化だ。AIガバナンスはもはや、予測可能な形で規制当局と企業を分断するものではない。その技術的優位の基盤となる企業の一部と、米国政府との間に亀裂を生じさせている。
TrumpのAI安全政策が今、業界と衝突する理由
TrumpのAI安全政策は速度を安全保障と捉える一方、複数のフロンティア研究所は無制限の速度こそが危険だと述べるようになっている。
ホワイトハウスの立場は、よく知られた戦略的主張から始まる。米国が開発を遅らせれば、中国や他の競争相手が、より高性能なAIがもたらす経済的・軍事的優位を手にする可能性がある。
この論理では、規制は米国企業を弱体化させることでリスクを生む。成長、インフラ投資、迅速な展開は、国家安全保障政策の一部となる。
政権は、米国の主権を制約し得る国際機関にも不信感を抱いている。Trumpの国連総会演説は、AIガバナンスを、世界的な課税や中央集権的な国際統制に対する彼のより広範な拒否姿勢と結び付けた。
国連は各国の平等な遵守を保証できないため、この主張には政治的な説得力がある。厳格な制限に従う国は、競争相手がそれを無視すれば後れを取る可能性がある。
AI研究所も同じ協調の問題に直面している。安全性試験のためにモデルの公開を遅らせる企業は、より迅速な競合相手に顧客、投資、従業員、市場への影響力を奪われるリスクがある。
しかし、複数の業界リーダーは現在、競争が共通ルールを一層必要にすると主張している。すべての競合相手が加速を続けると見込むなかで、単独の研究所が抑制を維持することはできない。
AnthropicのAmodeiは、独立した評価者による継続的なアクセスを提案している。こうした評価者は、公表された主張だけに全面的に依存するのではなく、フロンティア研究所の内部から安全対策を監視することになる。
彼はまた、サイバーセキュリティと生物学的リスクに関する共通試験も提唱している。より野心的な提案では、再帰的自己改善が可能なシステム、すなわち、より優れた後継モデルの開発を実質的に加速できるモデルを制限する。
OpenAIのAltmanは、独立した評価と連邦レベルの安全枠組みへの支持を公に表明した。この立場ですべての執行、透明性、責任をめぐる意見の相違が解消されるわけではない。
ただし、この政策上の亀裂が単純に政府対企業という構図ではないことを示している。主要企業はイノベーションの余地を求める一方で、すべての研究所が最高速度で競争するのを防ぐルールを求める企業もある。
AI slowdown debateは、協調上の課題を浮き彫りにしている。OpenAI、Anthropic、SpaceXAI、その他の業界関係者は、特定の開発形態を減速させることへの支持を表明している。
その提案には大きな違いがある。独立試験に関するものもあれば、危険な利用に対する限定的な禁止や、開発速度に対するより広範な制限を含むものもある。
Metaは、同様の協調的な減速を受け入れていない。この違いは重要だ。選ばれたフロンティア研究所だけを対象とする取り決めでは、人材と資本がその枠外にある企業へ流れる可能性があるためだ。
国際競争はさらに大きな隔たりを生む。米国企業への規制は、中国、欧州、中東、あるいは新興AI市場の開発者を自動的に拘束するものではない。
だからこそ、国連での対立が今浮上した。能力と懸念は、それを管理すると期待されている制度よりも速く進展している。
ホワイトハウスはこの加速を見て、米国はより速く走らなければならないと結論づける。安全性の擁護者たちは同じ加速を見て、共通ルールなしに走ることはますます危険になると結論づける。
どちらの側も、相手方の最も強い主張を避けることはできない。規制は戦略的優位を移転させ得る一方、無制限の競争は自主的な安全コミットメントを不安定にし得る。
未解決の問題は、ワシントンが拒むような広範な国際的権限を生み出さずに、各国政府が相互的な安全策を設計できるかどうかだ。
AI企業幹部は一方的統制の正当化を退けた
業界が国連で発したメッセージは、ホワイトハウスの反規制的立場だけでなく、政府による統制と企業による統制の双方に異議を唱えた。
権力集中に関するAltmanの警告は、OpenAI自体が、各国政府が統治しようとするフロンティアを形作っているからこそ、異例の重みを持った。
彼の主張は、国連に対して一社を信頼できる管理者として選ぶよう求めるものではなかった。先進AIに人類がどのようにさらされるかを、いずれかの企業が単独で決めるべきだという前提を退けるものだった。
この立場は、新たに生まれつつある正当性の問題を反映している。フロンティア研究所は、顧客、従業員、本国をはるかに超える影響を持つ決定を下している。
米国で訓練されたモデルは、数時間以内に世界中の利用者を支援できる。同時に、国境を越えてサイバーセキュリティ、生物学、プロパガンダ、監視に関するリスクを生み出す可能性もある。
国内の規制当局は国内企業を規制できるが、その影響を完全に封じ込めることはできない。国際機関は各国政府を協調させられるが、民間研究所に対する執行力は限られている。
Delangueが焦点を当てた非対称性は、この隔たりを扱うものだ。少数の企業だけが、フロンティアシステムを理解するために必要な計算インフラ、技術人材、独自情報を保有している。
大半の政府には、それに匹敵する専門知識がない。多くの国は、モデルの安全対策を独自に試験したり、開発者の主張を検証したりできない。
国連総会議長は9月初旬、これに関連する警告を発していた。主要テクノロジー企業は、準主権的な主体のように機能する度合いを強めていると、彼はAI governance speechで述べた。
この表現が捉えているのは、企業規模だけではない。これらの企業は、アクセス方針を定め、公開スケジュールを決定し、許容される利用を定義し、どの事案を開示に値すると判断するかを決めている。
社内での決定は、選挙、軍事計画、労働市場、科学研究、公共情報に影響を及ぼし得る。しかし、こうした選択の影響を受ける多くの国には、その決定に有意義に関与する機会がない。
国連によると、118カ国はいまだ主要なAIガバナンスに関する議論に参加していない。途上国で国家AI戦略を持つ国は3分の1未満にとどまる。
これらの数字は、この対立が実存的リスクを超えるものである理由を示している。各国政府は、経済的排除、文化的影響、不平等なインフラ、外国プラットフォームへの依存についても懸念している。
幹部たちは統一された規制の青写真を提示したわけではない。OpenAI、Anthropic、Hugging Faceは、異なる事業モデルを持ち、オープン性についても異なる見解を持っている。
Hugging Faceは、共有モデルと開発ツールから成る幅広いエコシステムを支えている。OpenAIとAnthropicは、独自のフロンティアシステムへのアクセスをより厳格に管理する形に依存している。
こうした違いは、誰を監視対象とすべきかという実務的な問題を生む。閉鎖的な研究所向けに書かれた規則は、計算能力が最も集中している領域に対処しないまま、オープンな開発に負担を課す可能性がある。
モデルの能力を対象とする規則には、別の問題もある。政府は、アーキテクチャや学習手法が変化しても有用であり続ける信頼性の高いテストを必要とする。
それでも企業各社は、一つの原則に収斂した。能力が高まるほど、一方的な企業の約束を超えたガバナンスの必要性も増すということだ。
この合意は、トランプ政権のAI安全政策に圧力をかける。政権は国際的な統制が米国の主導権を妨げると主張する一方、米国企業の経営者たちは、権力が一方的に集中することへの警告を発している。
彼らの証言は、提案されているすべてのリスクが差し迫っていることを立証するものではない。しかし、技術に最も近い研究所が、協調を重大な政策上の要件とみなしていることは示している。
国連は規範を築けるが、単独では執行できない
国連のAI機関は共通の期待を定義できるが、その影響力は有力政府と最先端の研究所の参加に左右される。
国連総会は2025年8月、決議79/325を通じて、人工知能に関する独立国際科学パネルを設置した。
このパネルは、AIの機会、影響、リスクに関する共通の科学的評価を提供することを目的としている。大規模な技術機関を持たない政府にも、共通のエビデンス基盤へのアクセスを与える。
同じ決議は、AIガバナンスに関するグローバル対話も支持している。このプロセスでは、政府とその他の関係者が集まり、優先事項を特定し、共通理解を形成する。
これらの組織は、実際に存在する制度上の空白に対応するものだ。気候政策には気候変動に関する政府間パネルがあり、世界の公衆衛生には確立された科学的・外交的な枠組みがある。
AIガバナンスには、幅広い参加を伴う同等の場が欠けていた。最も影響力のある安全性イニシアチブの多くは、より小規模な政府、研究所、技術専門家の集団によるものだった。
ただし、国連の枠組みは拘束力のある世界的規制を意味するものではない。国連総会決議は一般に、企業に執行可能な義務を課すのではなく、集団としての立場を表明し、手続きを設けるものだ。
安全保障理事会は、特定の状況では国連憲章に基づいて拘束力のある決定を採択できる。しかし水曜日の会合は説明会であり、AI執行体制の採択ではなかった。
つまり、「国連のAIルール」という表現には慎重さが必要だ。現在この組織が構築しているのは、実行可能な技術法というより、知識、規範、外交的協調である。
拘束力のないルールにも意義はある。用語を標準化し、国内法に影響を与え、調達を導き、責任ある企業行動への期待を定着させることができる。
国際規範は、事故後の参照点にもなり得る。政府、裁判所、顧客、投資家は、企業が法域をまたいで認められた慣行に従ったかを問うことができる。
しかし、最も影響力のある国が公然とこのプロセスを拒絶すれば、規範の力は失われる。米国にはOpenAI、Anthropic、Google、Meta、Microsoft、そして複数の主要なコンピューティング事業者が拠点を置く。
これらの組織は、モデル、クラウド、半導体のサプライチェーンの重要な部分を支配している。米国の支持を欠く世界的な安全枠組みは、大きな運用上の空白を抱えた状態で始まる。
中国の参加も依然として不可欠だ。先端モデルには軍事、諜報、経済上の用途があるため、二国間の対立は協調を難しくする。
最も現実的で強力なアプローチは、限定的な禁止から始めることかもしれない。政府は、生物兵器への支援、重要インフラへの攻撃、完全自律型の致死的判断を対象にできる。
限定的な合意であっても、検証は必要だ。各国は、ライバルが同等のシステムをテストし、関連する失敗を報告しているという確信を持たなければならない。
モデル評価はいまだ不完全だ。システムはテスト中に安全に振る舞っても、導入後、改変後、または外部ツールとの接続後に異なる結果を生む可能性がある。
この技術は法的な分類もまたぐ。同じモデルが、研究者による疾病理解を助ける一方で、攻撃者による有害物質の設計を助けたり、監視を行う政府を支援したりすることもある。
この不確実性はより強い監視を支持するが、同時に規制当局が行うべき主張にも限界を設ける。汎用モデルが普遍的に安全だと認証できる枠組みは存在しない。
国連は各国の政策の互換性を高めることができる。しかし、主要なAI生産国の内部にある技術規制当局、裁判所、監査人、執行機関の代わりにはなれない。
米国の参加がなくても、他国は基準を策定できる。それらの基準を調達、市場アクセス規則、国内法に組み込むこともできる。
その結果は規制の分断に似たものになるだろう。企業は法域ごとに異なる開示、テスト、アクセス要件に従う可能性がある。
この結果はAI開発を止めるものではない。最も重大な安全上の判断が各国の制度に分かれたまま、コンプライアンスコストを増大させることになる。
この分断は政府、企業、エンタープライズの買い手に圧力をかける
この対立は、すべての参加者に対し、安全性が自主的な約束なのか、市場要件なのか、法的義務なのかを決めるよう迫る。
最初の圧力は米国の同盟国にかかる。多くの国は、米国の技術的リーダーシップと、より強力な国際AIセーフガードの双方を支持している。
いまや彼らは、ワシントン抜きでガバナンス体制を構築するかどうかを決めなければならない。前進すれば勢いを維持できるが、後に米国企業や規制当局が拒絶する基準を作るリスクがある。
米国の合意を待つことには別のコストがある。国際交渉が未完のままであっても、最先端システムは改善を続ける。
欧州各国政府には、市場アクセスを使って世界の技術慣行に影響を与えた経験がすでにある。そのアプローチは国境を越えた実務上の基準を生み出せる。
ただし、強硬なコンプライアンス制度は、ホワイトハウスの国際統制への疑念を深める可能性がある。AIガバナンスを貿易摩擦の新たな要因にするおそれもある。
第2の圧力はAI企業にかかる。セーフガードへの公的な支持は、政府が行動する前に企業自身が何をするのかという問いを招く。
意味のある評価に必要なアクセスを差し控えながら、研究所が独立した監督を求めても説得力はない。どのシステム、テスト、インシデントがその約束の対象となるかを定義しなければならない。
企業はまた、安全性に関する判断がリリース予定とどう関わるのかを説明する必要がある。深刻な問題が発生してからモデルを遅らせることは、あらかじめ定めた閾値を維持することとは異なる。
第3の圧力はエンタープライズ顧客にかかる。企業は、コーディング、調査、カスタマーサポート、文書分析、自動化された意思決定のために、AIプロバイダーへの依存を強めている。
プロバイダーによる安全性についての公的な表明が、執行可能な保護を生むと考えることはできない。顧客には、データ利用、インシデント報告、アクセス制御、モデル変更を対象とする契約条件が必要だ。
AIシステムが接続されたソフトウェアを通じて行動できる場合、これは特に重要になる。自律エージェントとは、限られた人間の介入のもとで計画を立て、複数のステップを実行するシステムである。
自律性が高まれば生産性は向上し得るが、エラーの結果も拡大する。チャットボットの誤答は、エージェントが記録を変更し、メッセージを送信し、ソフトウェアを改変することとは異なる。
したがってエンタープライズの買い手は、ガバナンスをめぐる対立を運用上の問題として注視すべきだ。規則の違いは、利用可能であり続けるモデルや、ベンダーが提示すべき証拠に影響し得る。
調達チームは、法整備で要求される前に、プロバイダーに評価結果を求めることができる。保険会社や監査人も、リスク評価や補償条件を通じて同様の圧力を生み出せる。
開発者も関連する課題に直面する。モデル層で課される安全制限は、事前通知なしにアプリケーションの挙動を変える可能性がある。
更新されたポリシーにより、以前は機能していたワークフローがブロックされるかもしれない。モデル更新は、信頼性、ツールの使用、操作された指示への耐性も変え得る。
チームはプロバイダーのモデルを固定されたコンポーネントとして扱うべきではない。自らのアプリケーションとデータに結び付いた評価が必要だ。
ナレッジワーカーは、より見えにくいリスクに直面する。AIが生成する要約、分析、推奨は、正式な自動化がなくても意思決定を形作り得る。
根拠を自信たっぷりに省くモデルは、報告書、採用判断、医療上の会話、財務レビューに影響を及ぼし得る。極端な大惨事がなくても、これらはガバナンス上の懸念である。
トランプ政権のAI安全政策は国家間競争を重視するが、ユーザーは個々の製品やワークフローを通じてリスクを経験する。この隔たりが、日常的な技術上の意思決定において制度的セーフガードを重要なものにしている。
この議論は、より明確な証拠を求める圧力も生む。企業は、検証が難しい遠い将来のシナリオに政策論争を集中させることで利益を得る。
政府は、技術的・法的な仕組みを明示せずに広範なセーフガードを説明することで利益を得る。双方は測定可能な約束を求められるべきだ。
信頼できる制度は、誰がモデルを評価するのか、評価者がどのアクセスを受けるのか、どのインシデントの開示が必要か、閾値を超えた後に何が起きるのかを定義する。
こうした詳細が存在しない限り、イノベーションまたは安全性を支持する表明はいずれも不完全なままだ。国連での対立は立場を明らかにしたが、実装を決着させたわけではない。
安全性をめぐる主張には依然として大きな不確実性がある
ホワイトハウスは協調を欠くリスクを過小評価しているが、安全性の擁護者も最も広範な提案が実行可能であることをまだ証明していない。
協力を求める主張は、強力な観察から始まる。競争圧力は、あらゆる重大なリスクが理解される前に企業をシステムの公開へと駆り立てる可能性がある。
このパターンは多くの産業に見られる。安全性への投資はしばしば共通の利益を生む一方、遅延とコストはそれを実施する企業が負担する。
共通ルールはこのインセンティブを是正できる。より慎重でない競合他社が回避するコストを、責任ある参加者だけが負担することを防ぐ。
AIには、研究者が学習前にすべての能力を予測できないという難しさが加わる。予期しない挙動は、規模、新たなツール、異なる導入条件から生じる可能性がある。
ただし、不確実性は両方向に作用する。それは予防措置を支持するが、実存的な危険に関するあらゆる主張を正当化するものではない。
公的な議論では、短期的な被害と推測的なシナリオがしばしば混在する。詐欺、差別、プライバシー侵害、サイバー攻撃、信頼性の低い自動化には、すでに観察可能な証拠がある。
自律AIによる人類絶滅には、将来の能力、アクセス、制御、意図について、より大きな仮定が伴う。これらの仮定は、確定した事実として提示することなく調査に値する。
この区別は政策設計にとって重要だ。サイバー悪用に対処する規則には、アクセス制御、監視、報告が必要になる可能性がある。
超人的システムに対する制御喪失に対処する規則には、開発制限、計算資源の監視、再帰的自己改善への制限が必要になる可能性がある。
あらゆる懸念を「AI安全性」にまとめると、優先順位が不明確な広範な提案が生じ得る。また、最も推測的なシナリオを攻撃することで、反対者が文書化された被害を退けることも可能にする。
業界による支持も精査に値する。大手研究所は、小規模な競合他社への障壁を高める規制を支持し得る。
高額な監査、専門のセキュリティチーム、広範な報告を伴う要件は、すでにそれらを資金面で支えられる企業を強化する可能性がある。
したがって公正な枠組みは、能力とリスクに応じて義務を段階化すべきだ。すべてのオープンモデル、スタートアップ、ビジネスアプリケーションが同じ危険をもたらすと想定すべきではない。
企業による警告は、戦略的な利益にも資する場合がある。自社技術が世界を変え得ると説明する企業は、技術的リーダーシップに対する認識を強める可能性がある。
だからといって、その懸念が虚偽というわけではない。規制当局は、規制対象となる企業の説明に依存するのではなく、独立した証拠を必要とするということだ。
国連の科学パネルは、証拠と企業のポジショニングを切り分ける助けとなり得る。その信頼性は、透明な手法、多様な専門性、不確実性の明確な扱いにかかっている。
政治的な独立性も重要になる。政府は、急速な開発またはより強力な規制のいずれかを正当化する調査結果を好む可能性がある。
トランプ氏の立場には、別の矛盾もある。国際的な制約を退ける一方で、米国はAIを安全かつ責任を持って開発すると述べた。
こうした主張には仕組みが必要だ。司法省の介入は、体系的なモデル試験、インシデント開示、専門的な技術監督の代わりにはならない。
政権には、演説で説明されなかった国内の安全対策がある可能性がある。しかし国連での公の主張では、それらの対策が国境を越えるリスクにどう対処するのかは説明されなかった。
安全性を訴える側には、逆の立証責任がある。連携が相互的で、検証可能であり、有益な開発を維持できるほど限定的であることを示さなければならない。
設計の悪い減速策は、開発を透明性の低い法域へと移す可能性がある。また、すでに最も多くの資源を保有する政府や企業に支配を集中させるおそれもある。
最も妥当な結論は、どちらの側もガバナンスを解決していないということだ。相互依存するシステムと世界的な競争が生み出した問題には、一国による統制では答えられない。
亀裂が恒久的かどうかを示す3つのシグナル
次の段階を左右するのは、イノベーションや責任をめぐる新たな演説ではなく、具体的な約束だ。
最初のシグナルは、ホワイトハウスが詳細な国内安全フレームワークを公表するかどうかだ。フレームワークには、試験の閾値、評価者のアクセス、インシデント報告、執行責任を明記する必要がある。
公開文書は、トランプ氏があらゆる安全策に反対しているのか、それとも国際的な統制を特に拒んでいるのかを明確にする。両者はまったく異なる結果をもたらす。
国内ルールは、同盟国との連携の基盤にもなり得る。各国の制度が両立可能な安全上の成果を生み出すのであれば、法律が完全に同一である必要はない。
政権が測定可能な要件を公表すれば、国連での亀裂はトランプ氏の演説が示唆したほど大きくは見えないだろう。一般的な監督論にとどまれば、対立は深まる。
第2のシグナルは、OpenAI、Anthropic、その他の研究所が継続的な独立評価を実施するかどうかだ。外部の専門家に持続的なアクセスが提供されて初めて、公的な支持は意味を持つ。
評価者に必要なのは、演出されたデモ以上のものだ。十分な技術情報、再現可能な試験、商業的圧力からの保護が必要となる。
企業はまた、評価で許容できないリスクが見つかった場合に何が起きるのかを説明すべきだ。リリースに影響しない試験は、文書化の作業に過ぎなくなる。
共通のコミットメントは、業界が強制力のある連携を望んでいるという主張を強める。不均一な参加は、競争上のインセンティブがなお安全性の約束を支配していることを裏付けるだろう。
Metaの対応は特に重要になる。最大級のAI開発企業の一つを除外するフレームワークは、業界標準になるのが難しい。
中国の研究所の参加は、さらに重要になる。最も野心的な連携提案は、競合相手も同等の制約に直面していると各国が信じられることを前提としている。
第3のシグナルは、国連のプロセスが一般原則を限定的で検証可能な優先課題へと転換できるかどうかだ。次回のGlobal Dialogueと、2027年のGlobal Digital Compactの見直しは重要な場となる。
測定可能な目標の短いリストは、包括的な宣言よりも信頼性が高い。生物学的安全策、サイバー評価、インシデント報告は、出発点となり得る。
各政府は、どのシステムが各要件の対象となるのかを明確にしなければならない。また、機微な知的財産を開示せずにコンプライアンスをどう評価するのかも説明する必要がある。
国連は、自らが持たない権限を主張すべきではない。その比較優位は、各国を招集し、証拠を整理し、共通の期待を確立することにある。
法的な強制力は各国政府が担わなければならない。技術的なアクセスは企業が提供しなければならない。研究者は、提案された安全策が実際に機能するかを検証しなければならない。
読者は、この3つの集団が責任をどう分担するかを注視すべきだ。各参加者が他者の行動を期待する制度では、現在の空白が維持される。
国連での対立は、規制をめぐる意見の相違よりも深い問題を露呈した。米国は、幅広い国際統制を受け入れることなく、AI開発を主導する戦略的利益を得ようとしている。
他の多くの政府は、自国の国境の外で構築されたシステムに対する影響力を求めている。米国の主要経営者らは、そうした政府には参加する正当な理由があるとますます述べるようになっている。
トランプ政権のAI安全政策は、限定的な国際連携を支える詳細な国家フレームワークへと発展する可能性がある。一方で、責任ある開発に関する一般的な約束を主な裏付けとする加速政策のままにとどまる可能性もある。
今後1〜3カ月で、ワシントンがどちらの道を選んだかが明らかになるはずだ。公表される基準、独立評価者へのアクセス、国連ガバナンスにおける具体的な優先課題に注目したい。
これらのシグナルは、国連総会での対立が一時的な演出だったのか、それとも長期にわたるガバナンス上の亀裂の始まりだったのかを示すだろう。
