国連安保理のAI警告、9/11から25年を経てテロの脅威を再定義
国連安保理のAI警告は、9/11から25年の節目に際し、焦点の明確な転換を示した。テロ組織は現在、2001年には存在しなかった生成AI、商用ドローン、暗号化通信、デジタル金融ツールを利用できる。
安保理は2026年9月11日、犠牲者を追悼し、事件後に構築された国際的対応を検証するためニューヨークで会合を開いた。そのメッセージは単なる追悼ではなかった。渡航記録、銀行送金、中央集権的な組織を中心に設計されたテロ対策システムは、今や適応力のあるデジタルネットワークに対処しなければならない。
この変化は難しいトレードオフを生む。政府にはテロ活動を検知するためのより優れた手段が必要だが、同じシステムが侵襲的な監視、差別的なプロファイリング、過剰なコンテンツ削除を可能にする恐れもある。したがって中心的な争点は、政府対テクノロジー企業ではなく、安全保障能力と市民的自由のせめぎ合いである。
国連安保理のAI警告が実際に変えたもの
安保理は、新興技術を独立した技術政策の課題としてではなく、テロ対策の中核的な議題に位置付けた。
25周年記念ブリーフィングで安保理は、国際テロリズムが依然として平和と安全に対する最も深刻な脅威の一つであることを再確認した。加盟国はまた、国家、地域、国際の各レベルで連携した行動を求める議長声明を採択した。
テロ対策委員会執行局（CTED）を率いる国連事務次長補のナタリア・ゲルマン氏が、主要な制度的評価を示した。CTEDは、各国による安保理のテロ対策要件の実施状況を評価することで安保理を支援している。
ゲルマン氏は、各国は2001年以降に実質的な進展を遂げたと述べる一方、テロリズムの変化に合わせて対応も適応しなければならないと警告した。この表現が重要なのは、過去25年を安易に肯定的に読む見方を退けているからだ。
9/11後に構築されたシステムは、正式な組織、国境を越える移動、金融統制、政府間の情報共有に大きく集中していた。これらの対策は今も重要である。しかしデジタルツールにより、小規模な集団や個人の共鳴者でも、かつてはより大きな組織を必要とした作業を実行できるようになった。
生成AIは、低コストで資料の作成、翻訳、個別化、複製を行える。暗号化サービスは分散した参加者をつなぎ、商用ドローンは偵察や積載物の運搬に利用できる。一方、仮想資産やオンライン決済システムは金融捜査を複雑にし得る。
これらのツールが自動的にテロ能力を生み出すわけではない。重要なのは組み合わせにある。ネットワークは、あるサービスを勧誘に、別のサービスを非公開の連携に、さらに別のサービスを資金調達や作戦研究に利用できる。
このモジュール型の構造は、単一のプラットフォームや指導者を無力化する価値を低下させる。また、意図を通常のテクノロジー利用と区別することも難しくする。
CTEDの2026年9月のプロパガンダ報告書は、プロパガンダを単なるメッセージングではなく、作戦上のインフラとして説明している。この区別により、問題は過激主義的な投稿や動画を超えて広がる。
CTEDによれば、プロパガンダは勧誘、過激化、資金調達、計画立案、統治を支援し得る。同報告書は、テロ主体がAIを利用してメッセージを個別化し、多言語の受け手に到達し、資金調達を支援していると述べる。
AI生成メディアは、試行錯誤のコストも下げる。ある集団は一つのメッセージについて多数の版を作成し、異なるコミュニティ向けに表現を調整し、どのフレーミングが反応を得るかを試せる。
人間のプロパガンダ担当者も、すでにそうしたことは行えた。AIは必要な速度、量、人員を変える。
安保理の警告は、AIが従来型のテロ手法に取って代わったことを示すものではない。また、AI生成プロパガンダが一貫して有効だと示すものでもない。テクノロジーへのアクセスが、多くの政府の安全策より速く変化していることを認識したものだ。
それこそが真の政策転換である。もはや問題は、テロ主体が消費者向けAIを試すかどうかではない。広範なアクセス自体を犯罪意思の証拠と扱うことなく、公的機関が有害な利用を特定できるかどうかである。
AIがテロ活動の経済性を変える理由
AIが重要なのは、分散型ネットワーク全体における通信、標的設定、翻訳、試行のコストを下げるためだ。
テロ組織は長年、商用技術を自らの目的に合わせて転用してきた。インターネットは世界規模の配信を可能にし、ソーシャルプラットフォームは推薦システム、検索可能なコミュニティ、潜在的な勧誘対象との直接接触を加えた。
生成AIはそこに制作レイヤーを加える。文章、合成音声、翻訳されたスクリプト、加工画像、個別化された応答を数秒で作成できる。
この能力は、説得力のあるプロパガンダを保証するものではない。モデルは誤りを生成し、固定観念を繰り返し、有害な要求を拒否することもある。出力には依然として配信チャネルと、関与する意思を持つ受け手が必要である。
しかしリスクは品質だけではない。主体が脆弱な利用者を探す場合、モデレーションシステムを大量の投稿で圧迫する場合、多数の使い捨てのIDを維持する場合には、量が重要になる。
自動翻訳は、元々の言語コミュニティを超えた受け手を求める集団にとって特に重要である。熟練した翻訳者への依存を減らし、アカウントが消えた後も資料を迅速に再利用できるようにする。
個別化は別の懸念をもたらす。運用者は一つのイデオロギー文書を一斉送信する代わりに、個人の関心、所在地、年齢、不満に合わせて口調や事例を調整できる。
この手法は一般的なデジタルマーケティングに似ている。基盤となる技術は過激主義者だけに固有のものではなく、そのため包括的な技術的禁止措置の設計は難しい。
国連の既存のICT概要は、通信技術によって可能になる活動として、勧誘、訓練、計画立案、ネットワーキング、資金調達、後方支援を挙げている。またAIが、モデレーション、生体認証、監視、捜査を通じてテロ対策を支援することにも触れている。
この二重利用性が問題を規定する。同じモデル群が緊急警報を翻訳し、暴力的な画像を特定し、捜査官による証拠処理を支援できる一方で、悪意ある主体を支援することもある。
ドローンも同様の構図を持つ。低コストの無人航空機は、撮影、農業、点検、地図作成、緊急対応に役立つ。その入手可能性は、監視、密輸品の配送、攻撃の機会も生み出す。
暗号化プラットフォームも、別の二重利用の対立を示す。安全な通信はジャーナリスト、企業、人権擁護者、一般利用者を保護する。一方で、捜査官から作戦上の議論を隠すことも可能にする。
複合的な影響は、個々の技術より重要である。小規模なセルは、メディア制作には公開AIを、連携には暗号化を、偵察にはドローンを、攻撃には従来の資材を使う可能性がある。
このワークフローでは、リスクが異なる運営者や方針を持つサービスに分散する。一社だけでは完全な連鎖を把握できない。
政府も同じ分断に直面する。金融当局は異例の取引に気付くかもしれない一方、プラットフォームは過激主義コンテンツを確認し、地域警察はドローン活動を観察するかもしれない。こうしたシグナルを結び付けるには、法的権限、互換性のあるデータ、制度間の信頼が必要である。
国際的な連携は問題をさらに難しくする。プラットフォームは国境を越えて運営され、クラウドデータは別の管轄区域に置かれる可能性があり、テロ関連コンテンツの法的定義も異なる。
こうした障壁は新しいものではない。AIは、捜査官やモデレーターが評価すべき資料の量を増やすことで、それらを増幅する。
経済性の変化は、反復的な失敗も有利にする。悪意ある主体は、多数の弱い出力を試し、そのうち一つが機能するまで続けられる。一方、防御側は、検知システムが合法的な発言を誤ってフラグ付けした場合の結果に直面する。
この非対称性が、国連安保理のAI警告の背景にある圧力を説明する。攻撃者は、失敗したアカウント、拒否されたプロンプト、質の低いコンテンツを許容できる。政府とプラットフォームは、あらゆる介入において正確性、正当性、権利を考慮しなければならない。
安全保障能力はいま市民的自由と衝突する
最も強力なテロ対策が必ずしも最も広範な対策とは限らない。無差別な自動化は、それが保護すると主張する権利を損なう可能性があるためだ。
AIは、プラットフォームが画像を分類し、既知の過激主義資料を比較し、協調行動を特定し、人間による審査の優先順位を付けるのに役立つ。法執行機関も、証拠を整理したり、大規模データセット内の関係性を検出したりするために利用できる。
こうした用途は速度を約束する。しかし同時に、誤検知、バイアス、説明可能性、説明責任について深刻な問題を生む。
コンテンツモデレーションにおける誤検知は、合法的な報道、政治的発言、風刺、人権侵害の記録を削除する可能性がある。警察活動における誤検知は、捜査、拘束、渡航制限にさらされる結果を招き得る。
文脈は自動化システムにとって依然として特に難しい。同じ暴力的な画像でも、プロパガンダ、報道、学術研究、あるいは捜査官が保存した証拠である可能性がある。
言語も別の誤りの要因となる。モデレーションツールは、方言、地域固有の言及、低リソース言語において性能が不均一なことが多い。テロ主体はこうした隙を悪用できる一方、一般の話者が誤分類されることもある。
安保理は長年、この緊張関係を認識してきた。2023年のAIブリーフィングでは、技術専門家がCTEDに対し、AIシステムは改善しているものの、依然として不完全でバイアスを含むと説明した。
参加者は、AIに関する理解、ソーシャルメディア・リテラシー、対抗ナラティブ、安全対策、人間による審査を組み合わせることを支持した。自動検知を完全な解決策として提示したわけではない。
この抑制は重要である。AIは審査対象の優先順位を付けられるが、信頼度スコアは法的判断ではない。それは意図、組織への所属、暴力の準備を立証するものではない。
監視の拡大は関連する問題を生む。政府は、高度な脅威には通信、本人確認記録、行動データへのより広範なアクセスが必要だと主張するかもしれない。そうしたアクセスは、標的を絞った捜査から日常的な住民監視へと移行し得る。
生体認証システムは、特に慎重な検討を要する問題を提起する。顔認識その他の自動本人確認ツールは容疑者の特定に役立つ一方、誤りは特定のコミュニティに不均衡に降りかかる可能性がある。
テロ対策の歴史は、政府に慎重さを求める別の理由を与える。緊急権限は、それを生んだ状況より長く存続することが多い。例外的な事案のために取得された技術が、通常の行政ツールになる可能性がある。
したがって強力な監督には、道徳的な目的だけでなく運用上の目的もある。恣意的だと見なされるシステムは、捜査官が情報を必要とするコミュニティから得られる協力を減らすことになる。
国際法と人権は、安保理の周年メッセージで大きく取り上げられた。議長声明は、集団的なテロ対策の取り組みを国連憲章と国際法に結び付けた。
その文言は境界線を示しているが、技術的な安全策までは規定していない。どのデータを収集できるのか、どれほど長く保存できるのか、自動評価にいつ人間による確認が必要となるのかは、各国政府の判断に委ねられている。
テクノロジー企業も、同様のトレードオフに直面している。積極的なフィルタリングは、既知のテロ関連資料の流通を抑制し得る。一方で、安全対策のリソースや可視性がより乏しい小規模プラットフォームへユーザーを移行させる可能性もある。
小規模なサービスには、大規模なトラスト＆セーフティチームがないことが多い。共有データベース、第三者ベンダー、あるいは説明が限定的な自動化ツールに依存する場合もある。
国連は、業界や専門機関との協力を通じて、この能力格差を埋めようとしてきた。CTEDとTech Against Terrorismによる2025年の技術パートナーシップは、オンライン上の勧誘、扇動、計画、そして新興技術に焦点を当てた。
こうしたパートナーシップは、最大手プラットフォーム以外にも専門知識を広げられる。一方で、民間のデータベースが説明責任を負わない世界的な監視リストへ変質することを防ぐガバナンスのルールも必要だ。
主要な課題は、プライバシーか安全保障かの二者択一ではない。自動化システムを導入する前に、証拠の基準、異議申立ての仕組み、独立した監督、限定された法的目的を整備することである。
こうした統制がなければ、対応そのものが新たな不満を生み、公的機関への信頼を損なうおそれがある。たとえ短期的な取締り件数が増えても、その結果は長期的な予防を弱めることになる。
警告は明確だが、証拠にはなお限界がある
国連はAI活用の実験が拡大していることを記録しているが、公開されている証拠は、AIを活用したテロに関するあらゆる劇的な主張をまだ裏付けてはいない。
理事会の文言は、複数の活動水準を対象としている。AIを用いたプロパガンダの作成、勧誘の個別最適化、資金調達、有害な手法の調査、攻撃計画の支援などが含まれる。
これらの活動は、同じリスクをもたらすわけではない。翻訳されたポスターの生成は、実用可能な武器の設計や攻撃の実行と同義ではない。
公開報道では、こうした分類がしばしば「テロリストがAIを使っている」という一つの主張にまとめられる。この表現は正確であり得るが、能力、規模、運用上の影響についてほとんど明らかにしない。
この区別は政策にとって重要だ。活動の種類が異なれば、必要な対応も異なる。
プラットフォームは、禁止されたプロパガンダに対し、アカウントの執行、行動分析、過去に特定された資料の共有ハッシュを通じて対処できる。ハッシュとは、既知のファイルを照合するために用いられるデジタル指紋である。
有害な技術情報を取得しようとする試みには、モデルの安全策、監視、慎重に定義されたエスカレーション手続きが必要となる場合がある。ドローンの脅威には、航空規則、検知機器、インフラ保護、物理的な警備が関わる。
資金調達には、銀行、決済事業者、仮想資産サービス、捜査当局の協力が必要だ。この4つの問題をすべてコンテンツモデレーションとして扱えば、大きな抜け穴が残る。
測定は依然として難しい。一般に公開されている資料が捉えるのは、テロ活動の一部にすぎない。閉鎖的な通信は評価がより難しく、政府は作戦上の証拠を公開しない場合もある。
研究者は、成功した利用と実験との違いも見分けなければならない。組織がプロパガンダ目的で技術的な高度さを主張しても、実質的な能力を示しているとは限らない。
生成モデルは、ときに誤った指示を出す。それでも危険がなくなるわけではない。不正確な出力であっても、用語を提供したり、利用者をさらなる調査へ導いたりする可能性があるためだ。
ただし、チャットボットが単独で高度な攻撃を可能にするという主張には、慎重な検討が必要である。専門知識、材料、試験、物流、物理的なアクセスは、依然として重要な制約となる。
同じ慎重さは合成メディアにも当てはまる。ディープフェイクは人物になりすましたり、出来事を捏造したりできるが、その有効性は拡散、信頼性、タイミングに左右される。
受け手は、説得力のあるメディアでも捏造され得ることをますます認識している。この認識は虚偽コンテンツへの信頼を低下させ得る一方で、「嘘つきの配当」を生む可能性もある。
嘘つきの配当とは、人々が本物の証拠まで人工的なものだとして退ける現象を指す。危機の最中には、この不確実性が検証を遅らせ、公式発信への信頼を弱める可能性がある。
したがって国連の懸念は、単一の偽動画より広範だ。安価な合成メディアは、何が起きたのかを確定するコストを増大させる可能性がある。
それでも、この記念会合は拘束力を持つ世界的なAI基準を生み出したわけではない。議長声明は理事会の共通の立場を表すが、国連憲章に基づいて採択された決議と同じ義務を生むものではない。
この声明は、プラットフォームの責任、暗号化、生体認証監視、国境をまたぐ証拠をめぐる長年の論争も解決していない。これらの問題は、引き続き国内法および別個の国際的プロセスの対象となる。
制度的能力には国ごとに大きな差がある。CTEDの委員会の任務は、理事会が2001年の攻撃後に採択した決議1373を各国がどのように実施しているかを監視することに置かれている。
この枠組みには、資金調達対策、情報共有、刑事司法、国境警備が含まれる。AIリスクを加えても、捜査官、技術的専門性、司法による監督が自動的に提供されるわけではない。
能力構築はこうした格差を縮小し得るが、外部から導入されたシステムが現地の言語や法的保護に適合しない場合もある。別の地域で訓練された検知モデルは、異なる情報環境で導入されると十分に機能しない可能性がある。
ベンダーにも、広範な脅威検知能力を売り込むインセンティブがある。政府は、独立した検証、文書化された限界、そのツールが成果を改善するという証拠を求めるべきだ。
生のアラート件数は、成功を測る弱い指標である。未検証の警告を何千件も出すシステムは、捜査リソースを浪費し、重大事案を見えにくくする可能性がある。
より良い指標は、確認された手掛かり、誤検知率、処理時間、法的な結果、影響を受けたユーザーが誤りに異議を唱えられるかを検討するものとなる。公開報告は、捜査を保護しつつも基本的な性能を隠すべきではない。
懐疑的な見方は、国連安全保障理事会によるAI警告を退けるものではない。各介入を、検証済みの悪用形態に対応させるよう機関に求めるものだ。
このアプローチは、目立つ記念日が拙速な調達や曖昧な監視権限の理由となる可能性を減らす。また、真に必要な安全保障措置を擁護しやすくする。
警告が行動につながるかを示す3つのシグナル
次の試金石は、政府とテクノロジー提供者が幅広い合意を、測定可能で権利を尊重する手続きへ転換できるかどうかである。
第一のシグナルは、テロリストのプロパガンダを作戦上のインフラとしてどう扱うかである。CTEDの2026年報告書は分析の枠組みを示しているが、政府はそれが捜査や予防プログラムをどう変えるのかを決めなければならない。
プロパガンダ、勧誘、資金調達、計画、攻撃準備を区別する具体的な実施指針に注目すべきだ。明確な分類は、各リスクを適切な対応へ結び付けることで、理事会の主張を強化する。
曖昧な指針はそれを弱める。機関は、作戦上の関連性を示さないまま、広範なオンライン活動をAI活用テロと呼べてしまう。
第二のシグナルは、小規模プラットフォームが実用的な安全支援を受けられるかどうかである。大手サービスは専門チームを雇用し、脅威インテリジェンスを維持し、モデル検証を委託できる。
小規模なフォーラム、ファイルホスト、通信サービスは、しばしばそれができない。この不均衡は、大手プラットフォームがアカウントを削除した際の移行機会を生む。
共有ツールは役立ち得るが、アクセス規則が重要だ。参加企業には、正確な基準、誤りを訂正する手段、共有情報の二次利用に対する制限が必要である。
進展の最も強い兆候は、意味のある透明性データを公開しながら検知を改善するシステムだろう。また、合法的な表現に影響する判断については人間の審査を維持すべきだ。
第三のシグナルは、AI支援型監視を拡大する前に、政府が制限を定義するかどうかである。テロ対策機関は、通信、金融活動、生体情報、オープンソース情報を分析するツールを求めることになる。
規則は、どのような証拠が捜査開始の契機となるか、どの判断に人間の承認が必要か、データをどれほど長く利用可能にするかを定めるべきだ。独立機関は、誤りや悪用を検証できなければならない。
こうした安全策が新たな技術的能力とともに導入されれば、理事会の安全保障と権利を両立させる立場は信頼できるものに見えるだろう。それらなしに監視が拡大すれば、この記念日の警告はリスクを浮き彫りにしながら、古い政策上の誤りを繰り返すことになる。
テクノロジー提供者にも、並行する責任がある。モデル開発者は、自社システムが有害な活動への障壁を実質的に下げるかを検証し、実証されたリスクに応じて安全策を調整できる。
あらゆる論争的なプロンプトをテロ意図と同一視すべきではない。セキュリティ研究者、ジャーナリスト、教育者、公的機関は、正当な理由で同じ主題を扱うことがある。
プラットフォームは、敵対的な適応にも備えるべきだ。利用者は検知を回避するため、スペルを変えたり、言語を切り替えたり、指示を断片化したり、サービス間を移動したりできる。
固定的なフィルターでこの行動をなくすことはできない。防御には、継続的な評価、信頼できる通報経路、サービスをまたぐ協力が必要だ。
ナレッジワーカーや企業の購買担当者も注意を払うべきである。多くのテロ対策統制は専門的な措置として始まり、後に一般的なソフトウェアへ影響を及ぼすためだ。本人確認、コンテンツ監視、モデル制限、データ保持方針は、市場全体に広がり得る。
組織は、自社のAIサービスがどのユーザーデータを保持するのか、提供者が不正利用の報告をどう扱うのか、自動執行に異議申立ての手続きがあるのかを把握すべきだ。こうした問いは、セキュリティ事故が発生するはるか前から、日常的なガバナンスに影響する。
AI製品を構築する開発者にも、関連する課題がある。安全対策は、検証なしに広範な方針をコピーするのではなく、製品の実際の能力と利用者に応じて設計すべきだ。
文章作成支援ツール、自律型の実験室システム、ドローン制御プラットフォームには、それぞれ異なるリスクがある。アクセス制御と監視も、それに応じて異なるべきだ。
25周年は有益な歴史的教訓をもたらす。決議1373は、攻撃から3週間足らずで持続的な世界的テロ対策の枠組みを築いた。
現在の技術的変化は、より分散している。公開モデル、民間プラットフォーム、各国の規制当局、航空システム、金融ネットワーク、地域の捜査当局が関わっている。
この複雑さゆえに、単一の世界的禁止措置で問題を解決できる可能性は低い。進展は、各機関が検証、監査、改善できる限定的な基準に左右される。
国連安全保障理事会のAI警告が重要なのは、追悼を現在の作戦上の課題と結び付けているからだ。同時に、対応がいかに不十分なままであるかも示している。
今後数カ月で、各国が具体的な指針を示し、小規模プラットフォームを支援し、監視を拡大する前に安全策を整えるかどうかが明らかになるはずだ。こうした行動は、AIには機会とリスクの両方があるという、もう一つの宣言よりも重要である。
読者は、スローガンではなく証拠に注目すべきだ。どのAI利用がテロリストの能力を測定可能な形で変えたのか。どの介入が、合法的な活動まで広く巻き込まずにそうした利用を検知するのか。どの機関が誤りを訂正できるのか。
こうした問いが、議論の次の段階を導くべきである。その答えによって、安全保障理事会の警告が実践的な安全保障の枠組みとなるのか、それとも重要な記念日に掲げられた広範な約束の一つにとどまるのかが決まる。
