Boko Haramが作戦でフロンティアAIを利用、モデルの安全対策に弱点を露呈
Boko Haramのメンバーは、暴力的な支援を遮断するために設計された安全対策にもかかわらず、実際の作戦で少なくとも6つのフロンティアAIサービスを利用したと報じられている。この発見により、問題は理論上のモデルリスクから、日常的な利用が記録された現実の事象へと移った。また、企業方針やGoogle Newsの見出しを通じてしばしば示される、安心感を与えるAI安全性のイメージにも疑問を投げかけている。
この証拠は、ケンブリッジ大学の研究者Antonia Juelichによるものだ。彼女は2025年から2026年にかけて、ナイジェリア北東部で元Boko Haramメンバー27人に聞き取りを行った。研究は主として、2024年におけるAI支援活動を対象としている。参加者は、戦闘や日常の作戦に関わる業務でChatGPT、Claude、Gemini、Grok、Meta AI、DeepSeekを使用したと説明した。
中心的な問題は、チャットボットが単独で攻撃を計画したことではない。武装勢力が複数のサービスを使い分け、依頼を言い換え、有用な回答を組み合わせたと報告されている点だ。したがって、安全性は一つのモデルが一つのプロンプトを拒否するだけでは担保されない。断片化した市場において、利用可能なすべてのシステムが執拗な利用者に耐えられるかどうかにかかっている。
証拠はプロパガンダを超えている
重要な変化は作戦面にある。AIは単なるプロパガンダ生成装置ではなく、日常的な補助役になったと報告されている。
これまで公になった証拠は、合成メディアに大きく集中していた。過激派ネットワークは生成ツールを使い、メッセージの翻訳、ポスター作成、画像改変、オンライン・プロパガンダの量的拡大を行っていた。こうした活動は重要だが、従来からあるコンテンツモデレーションの問題に近い。
Juelichの現地調査は、より広範なパターンを描き出している。Cambridge researchによると、元メンバーはBoko Haramの主要2派閥が、戦闘および日常的な判断を支えるためにフロンティアモデルを利用していたと述べた。報告された用途には、攻撃計画、武器のトラブルシューティング、監視分析、ナビゲーション、医療に関する質問、任務後のレビューが含まれる。
同研究によれば、チャットボットは任務準備、実行中の作戦、その後の分析において参照された。この流れは、AIが作戦サイクル全体に組み込まれていることを示すため重要だ。AIは、出来事の前後にポスターを作る用途だけに限定されなくなっている。
参加者はまた、この技術を不確実性を減らす手段として説明した。ある元戦闘員はJuelichに対し、試行錯誤は致命的になり得る一方、AIはより高い精度を提供すると語った。この発言は参加者の認識であり、モデルの回答が攻撃の成果を高めたという独立した証拠ではない。
それでも、その認識には戦略的な重みがある。利用者は、ツールが労力を減らし、時間を節約し、知識の不足を埋めると信じるから導入する。システムが作戦上価値を持つために、完璧な回答は必要ない。現場で利用できる代替手段より有用に見えればよい。
この発見は、過激派コミュニティがすでに生成システムを試用していたことを示す証拠を補強する。2023年のearly adoption researchは、テロリストや暴力的過激主義者の空間で5,000点を超えるAI生成コンテンツを記録した。
その収集物には、暴力的なイスラム主義およびネオナチ思想に関連するプロパガンダが含まれていた。研究者はまた、身元を守りながらChatGPTを使う方法を支持者に助言していた親イスラム国の技術グループも確認した。
これらの例は、意図と実験の存在を示していた。Boko Haramへの聞き取りは、利用者が会話型AIを利用しやすい技術顧問のように扱う次の段階を示唆している。報告された行動は、目標に暴力が含まれ得る点を除けば、通常の職場における導入に似ている。
これが本稿の中心的な転換だ。最も差し迫った脅威は、完全自律型兵器やAI設計の病原体ではない。多くの小さな判断における摩擦を下げる汎用アシスタントである。
この違いは、防御側が検知すべきものを変える。特殊な武器に関する依頼であれば、明確な安全境界を発動させるかもしれない。一方で、地形、電子機器、天候、医療、装備修理に関する一見ありふれた質問が連なる場合、分類はより難しくなる。
各回答は単独では無害に見えるかもしれない。しかし、武装勢力の現実世界の文脈で組み合わされれば、危険な目的を支援し得る。作戦上の意味は、会話全体、利用者の状況、そして複数の異なるプラットフォームにまたがって存在する。
元のreported investigationは、Juelichの結論を直接的に示した。彼女は、導入が予想よりも速く、広範で、体系的だったと述べた。
彼女のサンプルには限りがあり、元メンバーへの聞き取りには一般的な検証上の課題が伴う。記憶は不完全であり得るほか、証言は動機に左右され得る。また研究者は、すべてのやり取りを独立して再構成することはできない。したがって、この研究は武装勢力によるAI利用の完全な国勢調査としてではなく、リスク分析に役立てるべきだ。
こうした限界があっても、27件の詳細な証言は、仮説的なモデル試験だけより多くの作戦上の証拠を提供する。人々がどのようにサービスを選び、質問を組み立て、拒否に対応し、現場環境で出力を活用したとされるかを示している。
最後の点は極めて重要だ。ベンチマークでは、標準化されたプロンプトの後に一つのモデルが禁止情報を提供するかを試験できる。しかし、言語を変え、作業を分割し、他のシステムを参照し、AIの出力を既存の専門知識と組み合わせる執拗な利用者を完全に再現することはできない。
日常的なAI支援が脅威を変える理由
AIは、まったく新しい種類のテロを生み出さずとも、組織の能力を高めることができる。
Boko Haramは、攻撃の実行、プロパガンダの拡散、反乱活動の維持に人工知能を必要としていなかった。各派閥はすでに、地域知識、組織経験、武器、人間のネットワークを保有していた。AIはその環境に効率化ツールとして入った。
そのため、この技術の寄与は過小評価されやすい。分析者はしばしば、AI以前には不可能だった劇的な能力を探す。より現実的な短期的影響は、調査、翻訳、トラブルシューティング、計画、通信にわたる小さな改善の積み重ねだ。
チャットボットは、情報を探す時間を短縮できる。曖昧な質問をチェックリストに変え、馴染みのない用語を翻訳し、技術資料を要約し、装備不良の考え得る原因を提案できる。また、不正確、誤解を招く、あるいは危険な回答を生成することもある。
正当な利用者にとって、こうした誤りは不便や金銭的損失をもたらす。紛争環境では、不正確な回答が利用者や傍観者を負傷させる可能性がある。それでもこの技術が魅力的なのは、武装勢力が信頼できる専門家を見つけることなく、繰り返し質問し、回答を比較できるからだ。
このパターンは、West Point analysisによるより広範な評価と一致する。著者らは、生成AIが一部のテロ活動における効率性、アクセス可能性、規模を高めると結論づけた。同時に、テロの性質そのものを根本的に変えるという証拠は限定的だとした。
この結論は安心材料ではない。技術は、敵対者の根本的な任務を変えずにリスクを高めることができる。安価な商用ドローンは武力紛争を発明したわけではないが、監視、標的設定、戦場戦術を変えた。
AI支援も同じような漸進的な道をたどり得る。より良い翻訳は技術資料へのアクセスを広げる。より速い調査は、検討される選択肢を増やす。合成メディアは勧誘を支援し、作戦上の質問は実務的な問題に対応する。
その仕組みは累積的だ。一つの回答がもたらす利点は小さいかもしれない。だが、メンバー、任務、モデルにまたがる数百回のやり取りは、組織の基礎的な能力を高め得る。
元Boko Haramメンバーは、AIを汎用技術として理解していたと報じられている。彼らはAIを専門のメディアチームや一つの実験的プロジェクトに限定しなかった。疑問が生じた際に利用した。
この行動は、正当な組織での導入を反映している。従業員はまず、下書きや要約のためにチャットボットを使う。その後、ツールは分析、コーディング、顧客サポート、社内意思決定へと広がる。非公式な導入は、しばしば方針より速く進む。
武装勢力は企業ほど多くのコンプライアンス上の障壁に直面しない。公開チャットボットを開く前に、調達審査、プライバシー評価、経営陣の承認を必要としない。また、取り締まりを受けた後にはアカウントを放棄し、別のプロバイダーへ移ることもできる。
アクセスには依然としてばらつきがある。利用者にはデバイス、接続環境、言語能力、有用な出力を見極めるための十分な判断力が必要だ。一部のサービスはアカウント、支払い手段、本人確認を要求する。遠隔地ではネットワーク環境も利用可能性を制限し得る。
こうした制約は、AIが経験豊富な実務者に取って代わっていない理由を説明するのに役立つ。より現実的な役割は、人間と機械の協働だ。人々が目的を定め、それを小さな質問に分解し、回答を評価し、物理世界で行動する。
2026 safety reportは、サイバー作戦における同様の制約を説明している。汎用システムが、人間の指示なしに信頼性の高いエンドツーエンドの攻撃を実行したとの報告はない。
モデルは状態の追跡を失い、無関係な手順を実行し、単純な誤りから復帰できないことがある。AIがより狭い技術的タスクを担う一方で、戦略と介入の責任は人間に残る。
この制約は主張の範囲を狭めるが、リスクをなくすものではない。報告されたBoko Haramの利用は、自律型テロを示すものではない。意図、文脈、一定の専門知識をすでに持つ人間の実務者を、AIが拡張していることを示している。
したがって圧力は、従来、人員、資金、武器、移動、通信を評価してきたテロ対策組織にかかる。これらの組織は今や、複数の商用プロバイダーにまたがり得るデジタル支援の層を理解する必要がある。
本当の相手は最も弱い安全対策である
主な対立は、持続的なクロスプラットフォーム利用と、企業ごとに個別に実施される安全対策との間にある。
OpenAIとAnthropicはWashington Examinerに対し、自社システムはテロ活動および危険な支援を禁止していると述べた。両社は、暴力的な依頼を拒否し、悪用を特定し、違反アカウントを停止することを目的とした管理策を説明した。
これらの方針は必要な境界線を定める。しかし、すべての有害なやり取りが検知されることを証明するものではない。元Boko Haramメンバーは、プロンプトを変更し、依頼を分割し、サービスを切り替えることで、有用な資料を得る方法を見つけたと報告している。
この行為は、モデルショッピングと呼ばれることがある。利用者は複数のシステムに関連する質問を送り、最も有用と思われる回答を採用する。この方法は、単一の拒否が持つ防御的価値を低下させる。
市場構造はこの問題の解決を難しくしている。大手プロバイダーは、それぞれ異なる方針、分類器、アカウントシステム、脅威対策チーム、執行基準を維持している。安全対策の網羅性は、モデル、言語、地域、アクセスチャネルによって異なる。
ある企業がアカウントを停止しても、その利用者が別のプラットフォームへ移ったかどうかを把握できない場合がある。別のプロバイダーは関連するパターンを観測するかもしれないが、それを分類するために必要な文脈を欠く可能性がある。研究者や情報機関も、追加の断片を保有しているかもしれない。
これは分散型のセキュリティ・インシデントに似た問題である。各参加者は連鎖の一部を把握しているが、全体の時系列を完全に把握している者はいない。
Google、OpenAI、Anthropic、xAI、Meta、DeepSeekも、それぞれ異なる法域と組織的なインセンティブの下で運営されている。一部はアカウント単位の監視を伴うクローズドなサービスを提供する。別の企業は、第三者経由またはローカルのハードウェア上で実行できるモデルを配布している。
ローカルモデルでは、規制の境界線がより難しくなる。モデルの重みがプロバイダーのホスト環境外で利用可能になると、中央集権的なアカウント停止措置やサーバー側の分類器が届く範囲は限られる。安全性のための改変も、下流の開発者によって変更され得る。
これは、オープンモデルが自動的により多くの悪用を招くことを意味しない。クローズドなシステムも回避され得るほか、盗まれた認証情報は身元を隠し、強い意図を持つ利用者は無害に見えるプロンプトへタスクを分散できる。
重要なのは、対抗能力にばらつきがあることだ。Juelichは、あるプロバイダーが強力な安全策を維持していても、別のプロバイダーがそうでなければ、社会は依然として危険にさらされると論じた。彼女の指摘は、安全性を製品の機能ではなく、システム全体の性質として捉えるものだ。
業界間の協力は、繰り返される手口、危険な行動パターン、新たな悪用を特定する助けになり得る。しかし、利用者レベルの情報共有には、深刻なプライバシー、法的、市民的自由に関する問題が伴う。
広範なキーワードまたは行動フィルターは、ジャーナリスト、研究者、人道支援従事者、セキュリティ専門家を誤って分類するおそれがある。爆発物処理を研究する人物は、危害を計画する人物と似た語彙を使う可能性がある。両者を分けるのは文脈だが、文脈を信頼性高く推定するのは難しい。
自動モデレーションの性能も、言語や方言によって一様ではない。ナイジェリア北東部で活動する集団は、英語、アラビア語、ハウサ語、カヌリ語、またはそれらが混在した形でコミュニケーションを取れる。主に標準英語で検証された統制措置では、暗号化された依頼や翻訳された依頼を見逃す可能性がある。
見逃しは危険な支援を許す。誤検知は正当な利用を妨げ、侵襲的な監視を生む可能性がある。プロバイダーは、敵対者が意図的に境界を探るなかで、両方の誤りに対処しなければならない。
答えは、安全システムを回避するプロンプトの公開リストではない。詳細な回避手法を公表すれば、安全策が抑制しようとする当事者を助けることになる。
その代わりに、防御側には統制された評価環境が必要だ。レッドチームは、現実的な複数ターンの行動、多言語プロンプト、分野横断的な分解、一見無害なタスク間を移行する利用者を相手に、モデルを検証できる。
現行の評価は、多くの場合、一回のやり取りに対して明確な合格・不合格の結果を出す。実運用での悪用が、これほど整然と現れることはめったにない。数日、複数のアカウント、端末、モデルにまたがって蓄積する可能性がある。
より強力な評価では、システムが進展するパターンを認識できるかを問う必要がある。また、拒否の後に何が起きるかも測定する。モデルはより安全な代替案を提示するのか、隣接する詳細を提供し続けるのか、それとも有用性を保てるほど十分な断片を明かすのか。
これが、単一企業がポリシー文言だけでこの問題を解決できない理由である。争点は、協調し適応する利用者と、製品や組織に分断された防御構造との間にある。
分断されたインテリジェンスが危険な死角を生む
脅威を認識するうえで最も有利な立場にある組織は、それぞれ異なる証拠の断片を持ち、それらを容易には統合できない。
AI企業は、プロンプト、アカウント活動、自動安全アラート、統制を回避しようとする試みを観測できる。しかし、その可視性は自社サービスの外で途切れ、プライバシー上の義務によって利用者情報を広範に共有できる範囲も制限される。
情報機関は、どの集団が新たな能力を求めているかを把握している可能性がある。機密通信、人間情報源による報告、戦場の証拠を保有していることもある。その情報は、民間企業や学術研究者へ直接移転できない場合が多い。
研究者は、企業も情報機関も入手する仕組みを持たないインタビューを実施できる。Juelichの研究はその利点を示している。元メンバーは、ツールが組織にどのように導入され、運用担当者がそれをどう評価したかを説明できた。
市民社会団体は、さらに別の層を加える。彼らは過激派コミュニティを監視し、より小規模なプラットフォームにまたがる公開プロパガンダを追跡する。そのデータセットは、フロンティアモデルのプロバイダーが決して目にしない行動を明らかにし得る。
国家安全保障の専門家であるRebecca Hersmanは、こうした断片をつなぐAI脅威フュージョンセンターを提案している。この構想では、必要なアクセス許可を持つ政府関係者と、指定された企業代表者を、統制された情報共有の枠組みに参加させる。
フュージョンセンターは、脅威情報に基づくモデル評価を支援できる。抽象的な最悪ケースを試す代わりに、評価者は、観測された敵対者の戦術から導かれた行動を検証できる。ただし、機微な詳細を公に開示することはない。
また、重複する死角を減らすこともできる。あるプロバイダーは疑わしい技術的質問を検知しても、組織的な所属を示す証拠を欠くかもしれない。ある機関は所属を把握していても、そのプラットフォーム上での活動を認識していない可能性がある。
こうしたシグナルを組み合わせることは、容易に聞こえる。だが、ガバナンスがそれを難しくする。
参加者には、アクセス、保存、監督、機密指定、許容される利用を定めるルールが必要となる。企業には、独自のセキュリティ情報を守るための保護が必要だ。利用者には、不当な監視を防ぐための安全策が必要となる。
国際的な対象範囲も別の障害となる。Boko Haramは、国境と通信ネットワークをまたぐチャド湖流域を主な活動地域としている。関係するプロバイダー、政府、研究者、影響を受けるコミュニティは、単一の法制度の中に収まっていない。
米国中心の組織は、米国企業と政府機関の連携を改善できるかもしれない。しかし、それによって、すべての外国サービス、オープンモデル、再販事業者、ローカルでホストされる導入環境への可視性が自動的に得られるわけではない。
このシステムは、証拠と推論も区別しなければならない。インタビュー証言は、検証に値するパターンを特定できるが、すべてのプロバイダーが同じ形で失敗したことを立証するものではない。プロバイダーのログはアカウントの行動を明らかにできるが、出力がどのように使われたかを証明するものではない。
責任あるインテリジェンスの統合は、こうした区別を維持する。不確実なシグナルを、複数の組織がデータを提供したというだけで確信に満ちた非難へ変えるべきではない。
国際連合も、テロリストによるデジタルシステムの利用拡大を別途指摘している。2026年5月のCTED briefingでは、Tehrik-i-Taliban Pakistanが生成ツールを用いてプロパガンダを作成し、画像、動画、翻訳を改善していると説明された。
この事例は、より広範な監視の必要性を補強する一方で、用途の多様性も示している。プロパガンダ制作、戦場での助言、サイバー支援、資金調達は、同一の検知問題をもたらすわけではない。
共有センターには、行動指針となるほど精密な脅威カテゴリーが必要となる。過激派による技術利用のすべてを、区別のない単一のAI脅威へと一括りにすることは避けなければならない。
したがって、インテリジェンスのギャップには二つの側面がある。組織は利用者行動の完全な全体像を欠き、さらに自らが見たものの重要性を判断する共通の手法も欠いている。
第一のギャップを埋めるには、安全な情報共有が必要だ。第二のギャップを埋めるには、検証済みの分析基準、現実的な評価、不確実性について慎重に述べる表現が必要となる。
証拠がなお立証していないこと
これらのインタビューは重大な警告シグナルを示しているが、テロ組織の能力に対するAIの正味の影響を測定するものではない。
Cambridgeの研究は、元Boko Haramメンバーに焦点を当てている。すべての現役メンバー、派閥、テロ組織を代表するものではない。導入パターンは、指導部、接続性、言語、技術的スキルによって異なり得る。
元参加者は、内部の実務への貴重なアクセスを提供できる。一方で、日付を誤って記憶したり、成功を誇張したり、例外的な事例を日常的なものとして語ったりする可能性もある。研究者は、インタビュー間で証言を比較し、可能な限り裏付けとなる証拠を探す必要がある。
公開報道は、すべてのチャットボットとのやり取りの完全な記録を提供していない。したがって独立した評価者は、どのモデルが各回答を生成したのか、どの安全策が有効だったのか、あるいは回答が作戦を直接改善したのかを確認できない。
モデルの挙動も急速に変化する。ある月に観測された拒否は、システム更新後には異なる可能性がある。同じような名称の製品でも、基盤となるモデル、安全レイヤー、地域別の構成が異なる場合がある。
武装勢力が支援を求めたという事実は、その出力が正確だったことを証明しない。大規模言語モデルは統計的パターンからもっともらしい文章を生成し、詳細を捏造することもある。利用者に専門知識がない場合、技術的な誤りは特に危険になり得る。
しかし、不正確さは完全な反論にはならない。利用者は複数の回答を比較し、提案を試し、明らかな誤りを捨てながら大まかな指針を抽出できる。経験豊富な運用担当者は、既存の知識に合う断片を見分けることもできる。
証拠は、AIが独立して部隊を指揮した、人的判断なしに標的を選定した、あるいは自律的な攻撃を実行したという主張を裏付けていない。また、従来の情報源では得られない戦略的能力をAIが生み出したことも示していない。
電子機器、ドローン、武器、化学、軍事史に関する膨大な情報は、すでに公開されている。検索エンジンやメッセージングネットワークは長年にわたり、悪意ある行為者がこうしたコンテンツを見つけ、配布する助けとなってきた。
生成AIは、インターフェースを変える。散在する情報を要約し、追加質問に答え、専門用語を翻訳し、利用者に合わせて説明を調整できる。こうした利便性は、既存の知識をたどるために必要な労力を減らし得る。
追加的な危険性を判断するには、比較が必要だ。研究者は、チャットボット、従来のウェブ検索、静的な文書、他者からの助言を用いて、利用者が何を達成できるかを検証する必要がある。
また、結果指標も必要だ。AIは計画時間を短縮したのか、信頼性を向上させたのか、有能な参加者の数を増やしたのか、あるいは標的選定を変えたのか。証言はこれらの影響を示唆できても、正確に定量化することはできない。
West Pointの分析は、重要な懐疑的な対抗材料を提供している。著者らは、生成AIは現時点ではテロ組織の能力を変革するよりも、既存の活動を加速する可能性の方が高いように見えると結論づけた。
この評価は、Juelichの調査結果と両立し得る。技術がテロリズムの基本的な性質を変えていなくても、運用面での導入は現実のものであり、懸念すべき場合がある。
この区別は、二つの分析上の失敗を防ぐ。証拠を単なる通常のインターネット利用として退ければ、対話型支援の価値を見落とすことになる。報告された利用のすべてを戦略的変革として扱えば、研究が示す内容を誇張することになる。
メディアによる集約も別の問題を加える。Google Newsの結果は、微妙なニュアンスを含む研究を恐怖を煽る見出しへ圧縮し、サンプルの限界や不確実性を取り去る可能性がある。読者は、見出しから報道、そして基礎となる研究へと情報源の連鎖をたどるべきだ。
最も強く裏付けられる結論は、より限定的である。一部の元Boko Haramメンバーは、自身の派閥が複数のフロンティアAIシステムを運用上のルーチンに組み込み、ときに安全策を回避していたと報告している。
この発見は、より良い評価と連携を求めるには十分だ。しかし、AIが独立して戦場での結果を変革したと主張するには十分ではない。
防御策が追いついているかを示す三つのシグナル
次の段階は、プラットフォーム横断の阻止、運用上現実的なテスト、そして追加の集団から得られる独立した証拠によって測られる。
第一のシグナルは、政府、モデルプロバイダー、適格な研究者の間で脅威情報共有が制度化されることだ。フュージョンセンターは一つの提案にすぎないが、その名称よりも、権限、安全策、参加体制の方が重要である。
信頼できる枠組みであれば、実際の敵対者の行動に基づく脅威評価を継続的に実施できる。機密情報や独自の証拠を、慎重な手法を公開せずにモデル評価へ反映させることも可能になる。
それがなければ、各プロバイダーは断片的な見解をそれぞれ擁護することになる。これを整備すれば、組織がプラットフォーム横断の悪用を共通のセキュリティ課題として扱っていることの裏付けにもなる。
2つ目のシグナルは、安全性報告の変化だ。プロバイダーは方針や阻止した悪用の事例を頻繁に公表しているが、より有用な報告は、持続的で多言語・複数アカウントにまたがる行動を扱うものとなる。
評価では、モデルの選定、タスクの分解、有害な意図が徐々に明らかになる長時間の会話を検証すべきだ。結果は、完全な拒否、部分的な情報漏えい、アカウントへの措置、人間によるレビューへの適切なエスカレーションを区別する必要がある。
ここでは独立したアクセスが重要になる。企業によるテストは脆弱性を迅速に見つけられるが、外部の評価者は方法論への検証と公的な信頼性をもたらす。両者には、広く公開すべきでない発見を安全に扱う手段が必要だ。
進展は、明白に危険な要求への拒否が強くなるだけでなく、繰り返しの試行を通じて有用な断片情報が減る形で現れるはずだ。防御策は、影響を受けるコミュニティで使われる言語でも一貫した性能を示すべきである。
3つ目のシグナルは、裏付けとなる現地調査だ。他のテロ組織、地域、元参加者を対象とした研究は、ボコ・ハラムがより広範なパターンを示すのか、それとも異例の早期導入者なのかを明らかにするだろう。
研究者は、AIがいつワークフローに導入されたのか、誰が導入したのか、どのタスクが継続したのか、そして出力がどこで失敗したのかを記録すべきだ。また、プロパガンダ、物流、サイバー活動、物理的な作戦を分けて扱う必要がある。
無関係な組織間で類似した運用が確認されれば、汎用AIが通常の武装組織インフラになりつつあるという結論は強まる。パターンを再現できなければ、リスク評価はより限定される。
政府の対応も、これらのシグナルの中で別の指標となる。米国議会は、生成AIのテロ利用に関する定期的な評価を求める要件を検討してきた。有用な実装では、こうした評価をプロバイダーの評価や測定可能な緩和策と結び付ける必要がある。
読者は、成果ではなく方針の数を数える発表には懐疑的であるべきだ。禁止はルールを示す。しかし、敵対者がどの程度有用な情報を得たのか、アカウントがどれほど迅速に停止されたのか、ユーザーが次にどこへ移ったのかは示さない。
同じ注意は、警戒を促す主張にも当てはまる。武装組織が最先端モデルにアクセスしたという報告だけでは、AIによって可能になった攻撃の成功を自動的に示すわけではない。アクセスから支援、行動、測定可能な影響に至る連鎖には、各段階で証拠が必要だ。
これは結局、摩擦をめぐる競争である。テロ組織は、調査、計画、通信、トラブルシューティングを容易にするツールを求めている。防御側は、正当な調査を妨げずに危険な活動の周囲に摩擦を取り戻したいと考えている。
ボコ・ハラムへのインタビューは、既存の統制にもかかわらず、強い意志を持つユーザーが価値を見いだしていたことを示している。今や対応は、個別の拒否や公的な保証を超える必要がある。
今後数カ月は、共有された脅威評価、現実的なプラットフォーム横断評価、独立した現地証拠に注目したい。こうしたシグナルは、組織が敵対者より速く学習しているかどうかを明らかにする。
Google Newsや別のアグリゲーターでこの話題を追う人にとって、次のステップは明確だ。基礎となる研究を確認し、未検証の点を記録し、プロバイダーが測定可能な結果を公表するかを追跡することだ。決定的な問いは、1つのチャットボットが1つの危険なプロンプトを拒否できるかどうかではない。より広いAI市場が、断片的な支援が運用上の優位性になる前に、協調したパターンを認識できるかどうかである。
