Project MavenのAI戦争は標的選定を加速させ、誤りを見つける時間を圧縮している
Project MavenによるAI戦争は、見落とされた一つの誤りが取り返しのつかない結果になり得る審査プロセスの中で、数分以内に潜在的な標的リストを生成できる。このスピードにより、人工知能は補助ツールから軍事意思決定の中心へと移行しつつある。
この変化は自律型ドローンにとどまらない。軍は現在、AIを使って監視情報を解釈し、傍受通信を翻訳し、人と場所を結び付け、脅威を優先順位付けし、標的を推奨している。各機能は、生データから作戦上の意思決定に至るまでの道のりを短縮し得る。
中心的な対立は、もはや人間対自律兵器ではない。機械速度での標的生成と、あらゆる推奨を検証すると期待される、より遅い人間の判断との対立だ。Project Maven、イスラエルのAI支援情報システム、ウクライナの自律型ドローンはいずれも、同じ圧力の異なる形を示している。
Project MavenのAI戦争は分析から作戦へ移行する
軍事AIは実験的な分析レイヤーにとどまらず、作戦上の標的選定チェーンの一部になりつつある。
Financial Timesは9月17日、自律システムが戦場作戦に急速に統合されていると報じた。同紙の調査は、前線上空を飛行する多くの航空機に似たウクライナのドローン、Saker Scoutから始まった。
このカテゴリーのシステムを特徴づけるのは、操縦者の関与を抑えながら航行し、物体を識別し、あるいは任務を継続する能力が高まっていることだ。自律性の正確な水準は、システムや配備状況によって異なる。しかし、方向性は一貫している。ソフトウェアは現在、戦場を観測してから武力を行使するまでの間に、より多くの作業を担っている。
Project Mavenは、米軍内部における同じ移行を表している。国防総省は2017年、ドローンおよび衛星画像に機械学習を適用するためにこれを立ち上げた。このシステムはその後、指揮官向けに情報を整理する、より広範なデータ・標的選定環境へと成長した。
機械学習とは、ソフトウェアが学習データからパターンを学び、新たな入力に適用することを指す。軍事画像においては、大規模なセンサーデータ群から車両、構造物、移動、その他の物体を識別することが含まれ得る。
これは必ずしも、ソフトウェアが独自に兵器を発射することを意味しない。Project Mavenは一般に意思決定支援システムとして説明されており、人間が出力を検証し、行動を承認すると想定されている。
この区別は、法的にも作戦上も重要だ。AI意思決定支援システムは情報を推奨または優先順位付けする一方、自律兵器は起動後、人間による追加の介入なしに標的を選択し、攻撃できる。
しかし、機械が生成した推奨が人間の調査能力を上回る速度で届くと、この分離は安心材料ではなくなる。人間は形式上の責任者であり続けても、根拠となる証拠に疑問を呈する時間はごく限られる可能性がある。
軍当局者は、Project Mavenが潜在的な標的を特定するために必要な時間を短縮したと評価している。Brennan Centerが公表した軍事AIレビューによれば、このシステムはドローンおよび衛星画像を迅速に解釈できる。
魅力は明快だ。軍は、分析官が手作業で確認できる量を超えるセンサーデータを収集できる。AIはその大量のデータを絞り込み、複数の情報源を横断して情報を結び付け、情報が陳腐化する前に潜在的な脅威を浮かび上がらせることができる。
スピードは連携も支える。移動中の車両、レーダーシステム、移動式発射機は、短時間しか視認できない可能性がある。標的選定プロセスに数時間を要すれば、決定が適切な指揮官に届く前に機会を失うことがある。
しかし、分析の高速化が自動的に証拠の質を高めるわけではない。むしろ、不確実性をより高速にシステム全体へ流通させる可能性がある。
したがって、Financial Timesが報じた出来事は単なる配備発表ではない。これは作戦上の閾値である。軍は、観測を致死的な決定に変換するチェーン全体でAIを導入しているが、モデルの挙動はいまなお予測が困難な場合がある。
より高速な標的生成はテンポの主導権を変える
戦略的優位は意思決定時間の圧縮から生まれるが、その圧縮は同時に人間の審査者へより大きな圧力をかける。
従来の標的選定は労働集約的だ。分析官は情報源を比較し、情報が現在も有効かを評価し、民間人の存在を特定し、起こり得る被害を見積もり、指揮系統を通じて推奨を提出する。
AI支援による標的生成は、その作業の一部を自動化する。モデルは画像、テキスト、通信、位置記録、その他のデータベースを同時に検索できる。その後、標的プロファイルに合致するパターンを順位付けできる。
標的プロファイルとは、対象となる物体や人物を特定するために使われる属性の集合だ。属性には、形状、移動、位置、通信パターン、または事前に特定された存在との関係性などが含まれ得る。
表面的な利点は規模にある。AIシステムは、人間のチームならはるかに少数しか調べられないかもしれない状況で、数百件の候補を提示できる。軍はその後、限られた分析官を最も関連性の高い結果に振り向けられる。
これは戦場のテンポを変える。AIを使う部隊は、敵が同じサイクルを完了する前に、観測し、優先順位を定め、行動できる可能性がある。Project MavenによるAI戦争は、このセンサーから意思決定までのプロセス圧縮を中心に構築されている。
適切に設計されれば、スピードは民間人保護も支え得る。ソフトウェアは病院、学校、避難経路、民間人の移動に関する情報を組み合わせられる。標的が最初に候補に挙げられて以降、状況が変化した場合には操縦者へ警告できる。
赤十字国際委員会もこの可能性を認めている。同委員会の軍事AIガイダンスは、意思決定支援ツールが情報の統合を助け、付随的被害の軽減を意図した手法を推奨できるとしている。
しかし、規模の拡大は二次的な問題を生む。生成される標的の数が、適格な審査者の数を上回る速度で増えれば、審査プロセスはボトルネックになる。
そのとき指揮官は難しい選択を迫られる。システムを遅らせて詳細な精査を守るか、承認を加速して、想定されていた人間の安全装置の一部を手放すかだ。
イスラエルによるAI支援情報の利用に関する証拠は、その緊張を示している。Associated Pressの調査は、イスラエル軍が2023年10月7日以降、監視、通信、翻訳、その他のデータを処理するために商用クラウドおよびAIサービスを利用したと明らかにした。
イスラエル当局者はAPに対し、分析官がAI支援による標的を独自に評価し、複数の人間による関与が維持されていると語った。また、これらのツールは精度を犠牲にせず、より速く標的を生成するとも述べた。
こうした主張をシステムの外部から評価するのは難しい。軍事標的選定データ、誤り率、モデル構成、事後調査は、独立した検証のために利用可能となることがほとんどない。
それでも、この調査は作業負荷がどれほど変化したかを記録した。元軍事法務担当官のTal Mimranは、以前は空爆の審査に最大20人が関与し、1日以上かかる場合もあったと述べた。AI支援プロセスにより、毎週数百の標的が承認を受けられるようになった。
この比較は、結果として行われた攻撃が違法または不正確だったことを証明するものではない。しかし、機械の出力と人間の注意との比率が大きく変化したことは示している。
慎重にまとめられた一つの標的パッケージに向き合う審査者は、その前提をたどることができる。急速に更新される推奨のキューに向き合う審査者は、まったく異なる認知的圧力に直面する。
この圧力は軍指導者、ソフトウェア供給企業、情報分析官、法務顧問に及ぶ。各グループは互いに依存しているが、単一の参加者が必ずしもチェーン全体を見渡しているわけではない。
モデル開発者は学習と評価を理解しているかもしれないが、戦場の状況にはアクセスできない。運用者は任務を理解しているが、モデルがなぜ特定のスコアを付けたのかを知らない場合がある。指揮官は推奨を見るが、すべてのデータソースの限界を把握していない可能性がある。
結果として、責任は分散する。誰もが決定に寄与する一方、失敗後に説明責任の所在を特定することは難しくなる。
人間による統制は手続き上のチェックボックスになり得る
AIの推奨を人が承認しているからといって、実質的な人間の判断が保証されるわけではない。
軍事政策ではしばしば、人間がループに入るシステムが説明される。この表現は、標的への攻撃のような重大な行動をシステムが完了する前に、人間が介入しなければならないことを意味する。
この安全策は、図の上では明確に見える。センサーデータがモデルに入り、モデルが推奨を出し、訓練を受けた運用者が受け入れるか拒否する。
実際の作戦はそれほど整然としていない。推奨は時間制約の厳しい任務、通信の途絶、人員不足、味方部隊への攻撃の最中に届くことがある。運用者は複数の自動化システムからの出力を同時に確認している可能性もある。
この環境は自動化バイアスを促す。これは、利用可能な証拠がさらなる調査を促すべき場合であっても、機械が生成した推奨を信頼してしまう傾向を指す。そのシステムが通常は正確に見える場合や、拒否するために追加作業が必要な場合には、このバイアスはより強くなる。
ICRCは、時間的圧力を受ける運用者が独自の判断を適用せず、AIの出力を形式的に承認してしまう可能性を警告している。同委員会のガイダンスは、軍事AIには実質的な人間の関与と、推奨に異議を唱える能力が必要だとしている。
「実質的」という言葉が、負担の大部分を担っている。誰かが承認ボタンを押しただけでは、人間の決定が実質的だったとはいえない。
審査者には、出力を拒否するための十分な時間、文脈情報、権限が必要だ。また、そのシステムに既知の限界と、その特定の推奨を裏付ける証拠の質も理解する必要がある。
通信メタデータを用いて、ある人物を敵対組織と関連付けるモデルを考えてみよう。この関連は正確かもしれないし、古い情報かもしれない。間接的なもの、あるいは誤ったソースデータにより生じたものかもしれない。
モデルは、その人物がなぜある番号に電話をかけたのか、ある場所に入ったのか、特定の表現を使ったのかを理解しないまま、関連性をスコア化できる。その文脈を補うのは人間でなければならない。
翻訳も別の失敗点をもたらす。APの戦場AI調査は、兵器の部品または支払いのいずれかを指し得るアラビア語の用語を取り上げた。
自動翻訳は危険な解釈を選択した。APが取材したイスラエルの情報当局者によれば、人間の審査者は当初、この誤りを見逃した。
同じ当局者は、少なくとも1,000人の高校生の名前を含むスプレッドシートについても説明した。名前は潜在的な武装勢力のプロフィールに紐付けられていたとされる。このファイルは最終試験に関するものだったが、周囲の文脈が誤読された。
これらの例は、誤りを単に「AI」の問題として切り離せない理由を示している。モデルは、人間、センサー、データベース、他のソフトウェアから提供されたデータを処理する。その出力は、その後、別のグループが設計したインターフェースを通じて人間が解釈する。
欠陥のある入力は、そのチェーンを移動する間に、もっともらしい信頼性を得る可能性がある。複数のシステムがそれを繰り返したり参照したりすると、審査者は相関関係を独立した裏付けとして扱う可能性がある。
人間もまた、モデルが変化すると信頼度の調整に苦慮する。あるシステムが見慣れた画像では良好に機能しても、天候、地形、迷彩、センサー品質、敵の戦術が変われば失敗する可能性がある。
敵対者はそうした変化を積極的に生み出す。デコイ、電子妨害、隠蔽、操作された信号、欺瞞的な動きを用いる。戦場データは単にノイズを含むだけではない。敵対者は意図的に誤解を招くものにする。
この点が、軍事AIを多くの商用アプリケーションと区別する。レコメンデーションエンジンも利用者による影響工作に直面するが、戦場モデルが向き合うのは、致命的な誤りを引き起こそうとする組織的な敵対者である。
したがって、人間による統制には最終承認以上のものが必要だ。関連する条件下での試験、反証へのアクセス、明確な不確実性の指標、そして推奨を再検討する十分な時間が求められる。
また、システムに異議を唱えるための組織的な許容も必要となる。作戦を遅らせたことで処罰される分析官は、正式な規則がどうであれ、疑わしい出力を承認するようになる。
Project Maven AI warfareは、この組織設計に圧力をかける。システムの価値は速度に依存する一方、意味のある検証には時間がかかる。これこそが本質的なトレードオフであり、実装上の細部ではない。
AIによる標的設定の誤りが速度と規模を増す
1件の誤りが数千件の推奨に波及し得るなら、AIは頻繁に失敗しなくても深刻な被害をもたらし得る。
機械学習システムは統計的なものだ。世界について完全な知識を適用するのではなく、データからもっともらしいパターンを推論する。
そこから、いくつかの失敗の類型が生じる。モデルは物体を誤分類したり、偏ったデータに依存したり、変化する文脈を見落としたり、不正確な翻訳を生成したり、弱い関連性に過大な重みを与えたりする可能性がある。
誤りはモデルの外部でも始まり得る。位置情報データベースに古い住所が含まれている場合がある。センサーが歪んだ画像を出力することもある。人間の情報源が虚偽の情報を提供する場合もある。
AIはこれらの入力を迅速に統合できるが、それらが現実を表していることは保証できない。確信に満ちた出力が、脆弱な証拠の連鎖を覆い隠すこともある。
規模がこれを危険にする。欠陥のある前提が手作業で審査された1件のパッケージに影響する場合、調査担当者はそれを特定し、封じ込められることがある。その前提が自動化パイプラインに組み込まれていれば、誰かが気付く前に多くの推奨へ影響を及ぼし得る。
ICRCによると、軍事意思決定支援システムは、速度と規模の両面で誤りを増幅し得る。また、利用者が独立した判断を行わなければ、こうしたシステムは意図しないエスカレーションを加速させる可能性があると警告している。
軍事AIシステムは孤立して動作しないため、エスカレーションは重要である。ある部隊は、別の部隊の動きに対応して態勢を変える。より速い推奨は、双方により速い反応を促す。
したがって、接近する攻撃についての誤警報は、1回の誤った攻撃を生むだけではない。部隊の分散、報復、あるいはより広範な自動警報の連鎖を引き起こす可能性がある。
安全保障当局者は、これを圧縮された意思決定時間と表現し始めている。2026年9月の北京香山フォーラムでは、参加者が、AIが戦略的な時間軸を短縮する一方、偽情報が何が起きたのかを政府が確定する能力を弱めていると警告した。
約100カ国の代表者が3日間のイベントに参加した。ICRC副総裁のユルク・ラウバーは、兵器の自律性が高まるほど、人間の判断を維持する重要性も増すと主張した。
安全保障フォーラムでの警告は、懸念が擁護団体だけに限られていないことを示している。軍当局者と外交官は、速度が国家間の統制を損ない得ると認識している。
技術的な課題は、予測可能な分類エラーにとどまらない。開発者は、高度なモデルがプロンプト、入力、ツール、運用条件の小さな変化によって異なる挙動を示す理由を、常に説明できるとは限らない。
この予測不能性は、すべてのAIシステムが制御不能であることを意味しない。試験中に測定された性能では、あらゆる環境、標的の種類、敵対的戦術、他のソフトウェアとの相互作用を網羅できないことを意味する。
自律型兵器は懸念をさらに深める。これらのシステムは、起動後に人間が個々の特定標的を選択することなく、標的を選定して武力を行使できる。
一部の自律型システムは、機能が限定され、運用環境も定義されている。防御兵器は、標的の種類と対応可能な時間が厳しく制約されているため、飛来するミサイルを自動的に攻撃する場合がある。
自律性が人口密集地へ拡大したり、人を対象にしたりすると、リスクは変わる。機械は動き、衣服、熱、車両の形状を識別できるが、こうした信号から意図や法的地位は分からない。
負傷した戦闘員、降伏中の戦闘員、民間人は、類似したセンサーパターンを示し得る。その地位は、数秒のうちに変化する文脈に依存する。
このため、ICRCの自律型兵器に関する立場は、予測不能なシステムと、人を標的にするよう設計された自律型兵器の禁止を求めている。また、他の自律型兵器への規制も支持している。
軍事組織はしばしば、人間は引き続き説明責任を負い、国際人道法はすでに適用されると応じる。どちらも正しいが、いずれも運用上の問題を解決するものではない。
攻撃後の説明責任は、誤って選ばれた標的を元に戻さない。既存の法は不可欠な基準を提供するが、指揮官にはなお、圧力下でその基準を適用できる技術的・組織的な仕組みが必要である。
独立した評価は、依然として特に困難だ。ベンダーはモデル、データ、システム設計を専有情報として保護する。軍は安全保障上の理由から標的設定手順を保護する。
こうした制約は、敵対者によるシステムの悪用を防ぐことができる。一方で、立法者、裁判所、調査担当者、市民が、安全策が機能しているかを評価することを難しくする場合もある。
透明性の欠如を、失敗の証拠と混同してはならない。それは証拠の空白を生み出す。精度、安全性、民間人被害の低減に関する強い主張は、運用データなしには検証が依然として難しい。
監督が追随できるかを示す3つの兆候
AI戦争の次の段階を規定するのは、人間が関与しているという漠然とした約束ではなく、測定可能な安全策である。
第1の兆候は、軍が戦場条件下でAI標的設定システムをどのように試験しているかを開示するかどうかだ。有用な証拠には、変化する地形、性能低下したセンサー、電子戦、敵対的な欺瞞、未知の標的分類にわたる性能が含まれる。
実験室での精度だけでは不十分だ。評価者は、モデルがいつ失敗するのか、運用者がその失敗を認識できるのか、欠陥のある出力をどれほど迅速に撤回できるのかを知る必要がある。
公表は安全保障上の懸念によって引き続き制約されるだろう。しかし政府は、独立した審査機関、標準化されたインシデント報告、立法府による監督のための保護されたアクセスを設けることができる。
こうした仕組みが拡大すれば、運用への導入に真剣な検証が伴っているという主張を裏付けることになる。試験がほぼ完全に秘密のままであれば、保証の空白は広がる。
第2の兆候は、それぞれの人間による審査に利用できる時間と証拠の量である。軍は、標的に関する出力が、有資格の人員と独立した確認の能力を上回る速度で増加していないかを測定すべきだ。
正式な承認件数だけでは、単独で得られる情報は少ない。監督は、審査者が元の情報を検討し、相反する情報源を参照し、確信度の限界を理解し、行動を遅らせる権限を維持しているかに依存する。
事後調査では、自動化バイアスも検証すべきである。システムが工学上の要件を満たしていても、そのインターフェースやワークフローを通じて予測可能な人為的ミスを助長する可能性がある。
標的量が増える一方で審査時間が縮小すれば、「human in the loop」は判断ではなく手続きの説明になる。人員配置、インターフェース設計、エスカレーション規則が作業量に合わせて調整されれば、人間による統制の信頼性は高まる。
第3の兆候は、自律型兵器と軍事意思決定支援システムに関する国際的な取り組みである。特定通常兵器使用禁止制限条約の第7回運用検討会議は、2026年11月16日から11月20日に予定されている。
この会議は、国家にとって、より明確な制限を追求する機会となる。重要な問いには、規則が意思決定支援と自律的交戦を区別しているか、予測不能なAI対応の挙動を扱っているかが含まれる。
法的拘束力を持つ制限について合意すれば、展開が既成事実化する前に政府が統制を維持できるという見方が強まる。膠着状態が続けば、軍事導入は国際統治を上回る速度で進むことになる。
開発者やエンタープライズAIの購入者も、こうした兆候を注視すべきだ。根底にある問題は防衛分野を超えてもなじみ深い。不透明なモデル、信頼できないソースデータ、自動化バイアス、弱い監査証跡、そして人間が検証できるより速く下される意思決定である。
結果は大きく異なるが、ガバナンス上の教訓は応用できる。組織には、ソース資料、反証、モデルの限界、重要な推奨がどのように意思決定になったかの記録へのアクセスが必要だ。
検索可能なナレッジベースを維持することは、技術チームがその証拠の追跡可能性を保つ助けになる。もっとも、説明責任を負う意思決定者や分野固有の審査に取って代わることはできない。
Project Maven AI warfareは、より大きな問いを避けられないものにする。AIが人間の調査能力を上回る速度で推奨を生成するなら、実際に統制しているのはプロセスのどの部分なのか。
答えは、試験、審査時間、却下率、インシデント調査、執行可能な規則に表れるべきだ。読者は次の軍事AIに関する発表を、人がループのどこかに残っているという別の保証ではなく、こうした尺度に照らして判断すべきである。
