人間による標的審査の削除で弱体化した米露AI兵器合意
米国とロシアは9月の交渉で、国連のAI兵器合意を弱体化させ、無人化・自動化された戦争への懸念が高まるなか、複数の安全策を削除したと報じられている。
報じられた修正内容によると、削除された文言には、攻撃の前にAIが生成した軍事標的を人間が審査することを求める規定が含まれていた。交渉担当者らはまた、軍事AIが予測可能かつ信頼できる形で動作することを求める要件も削除した。倫理的配慮を求める条項も撤回された。
米国務省、ロシア外務省、国連はいずれも、同報道機関からのコメント要請に応じなかった。この沈黙により、非公開交渉の外では重要な詳細が未確認のままとなっている。
しかし、報じられた変更は明確な対立を浮き彫りにしている。多くの政府と人道支援団体は、人間による統制を維持するための執行可能な制限を求めている。一方、米国とロシアは、軍事AIの設計・配備方法について、各国の裁量をより広く認める立場だ。
この米露AI兵器合意は条約ではなく、現行の文言は法的拘束力を生まない。それでも、長年にわたる国連交渉が共有ルールに向けて到達した最も前進した段階を示している。
したがって、この対立は一つの草案をめぐる争いにとどまらない。人間による統制を義務付ける要件と、運用上の柔軟性を求める軍事大国が形づくる自主原則との競争である。
米露AI兵器合意で何が変わったのか
草案からは、アルゴリズムの勧告が攻撃の決定へと転じる局面を対象とした安全策が失われた。
Washington Postの報道によると、交渉は9月上旬にジュネーブで行われた。協議の対象は、さまざまな程度で人間が関与しながら標的を選定または攻撃できる兵器、すなわち致死性自律兵器システムだった。
協議に詳しい3人によれば、米国とロシアの代表団は非公開会合で変更を求めた。国連のカメラは停止され、市民社会のオブザーバーは会場から退室させられたとされる。
報道によれば、両代表団はそれぞれ約10人の法律家を伴っており、他の参加者の外交的な出席規模のほぼ2倍に当たった。修正案は非常に速く提示され、小規模な代表団は変化する文面を追うのに苦労した。
最も重大な削除は、標的審査に関する規定だった。以前の条項では、攻撃を進める前に、AIが生成した軍事標的を人間が検討することが求められていた。
この要件は、より自律的な兵器だけでなく、AIによる意思決定支援システムも対象としていた。意思決定支援システムは、兵器を物理的に発射せずとも、監視情報を分析し、疑わしい標的を順位付けし、リスクを見積もり、攻撃を推奨する可能性がある。
審査条項の削除は、監督なしに機械が殺害することを自動的に認めるものではない。使用する技術を問わず、既存の国際人道法は引き続き国家と軍関係者を拘束する。
ただし、この削除によって、提案されていた手続き上の安全策は失われた。武力行使の前に、人がAI生成の標的を独立して検査しなければならないとは、もはや明記されていない。
両代表団は、予測可能で信頼できる運用を求める文言も削除したと報じられている。機械学習システムは、戦場の状況が学習・試験環境と異なる場合に、異なる振る舞いをする可能性があるため、これらの用語は重要である。
また、AI搭載兵器の使用時に軍が倫理を考慮するよう求める条項も削除された。倫理に関する文言は執行が難しい場合があるが、その削除は草案が示す期待を狭める。
これらの変更は総合的に重要だ。人間による審査、信頼性、倫理的評価は、システム設計から標的選定、攻撃承認まで、同じ連鎖の異なる段階に対応している。
草案は依然として合意形成を前提とするプロセスの一部だ。より強い規則を前進させるには数十の参加国が同意しなければならず、有力な反対国には大きな阻止力が与えられる。
各国政府は11月にジュネーブへ戻る見通しだ。プロセスに正式な権限を与えるべきか、また交渉を法的拘束力のある規則へ進められるかを検討する。
この会合では、削除された条項が引き続き除外されるのか、修正版として戻るのか、あるいは別個の合意の対象となるのかが試される。また、小国がどこまで抵抗を維持できるかも示されるだろう。
失われた人間による審査規則が最も重要な理由
審査者が機械の勧告を拒否するための十分な情報、権限、時間を持たない限り、人間による承認手順に価値はほとんどない。
削除された要件は、指揮系統のどこかに人を置くことを超えるものだった。兵器が発射される前に、AIシステムが生成した個別の標的を人間が審査しなければならないかを扱っていた。
この違いは、軍事AIのガバナンスにおいて中心的な意味を持つ。人間による統制は、広範な任務パラメーターの設計から、攻撃直前に推奨された各標的を検査することまで、さまざまな意味で使われうる。
こうした取り決めが生み出す安全策は大きく異なる。一般的な作戦地域を承認する指揮官が、アルゴリズムによって特定された一人ひとりの人物、車両、建物を必ずしも評価するとは限らない。
標的選定には、パターン認識システムが統計だけでは解決できない法的・状況的な判断も伴う。作戦担当者は軍事目標と民間人を区別し、予想される付随的被害を評価しなければならない。
AIは、センサー情報、通信、画像、位置履歴、その他のデータを高速に統合できる。その後、過去の事例から学習した相関関係に基づき、物体や人物を評価できる。
この速度は軍事的優位をもたらす。一方で、人々が十分に独立した判断を加えずにコンピューターの推奨を受け入れる「自動化バイアス」を生み出す可能性もある。
数分以内に数百の標的候補を提示された審査者は、出力を機械的に承認するかもしれない。人間は形式上関与していても、実際のプロセスではすでに判断が機械側へ移っている。
Human Rights Watchによる2026年6月の軍事AIに関するブリーフィングは、このリスクを指摘した。速度と規模によって、必要な予防措置が困難、あるいは不可能になりうると警告している。
同団体は、確率的な出力では国際人道法が求める質的判断を代替できないと主張した。また、標的選定の判断の根拠としてAIを用いることについて、モラトリアムを勧告した。
この立場は、報じられた国連草案よりも踏み込んでいる。それでも、削除された審査に関する文言が、責任ある利用という一般的な約束よりはるかに重い意味を持っていた理由を示している。
有用な安全策では、システムの証拠、不確実性、データの限界、標的を推奨した理由など、審査者が受け取る情報を定義する必要がある。また、熟慮のための時間も確保しなければならない。
審査者には、機械の速度に合わせる圧力を受けずに攻撃を延期または中止する権限が必要となる。軍事法とシステムの失敗モードの双方について訓練を受ける必要もある。
最終判断についても記録が必要だ。勧告、裏付けデータ、人間の対応、指揮承認を示すログがなければ、民間人への被害が起きた後に説明責任を問うことは難しくなる。
こうした補完的な詳細はいずれも、「human in the loop」という表現によって保証されるものではない。名目上の承認ボタンは、制約を課すのではなく、自動化されたプロセスを覆い隠す可能性がある。
したがって、削除された条項は必要ではあったが、それだけで十分ではなかった。これを復活させれば最低限の期待を確立できる一方、審査が実質的なものになるかは詳細な基準によって決まる。
軍事的な速度と人間の判断が衝突している
規則を弱める運用上の動機は速度であり、法的・人道的な懸念は、その速度が判断を置き換えるかどうかにある。
軍事組織は、情報分析、物流、監視、サイバー作戦、戦場計画にAIをますます活用している。これらの用途がすべて同じリスクを伴うわけではない。
整備予定の自動化は、人を潜在的な標的として順位付けすることとは根本的に異なる。前者は効率を改善できる一方、後者は取り返しのつかない生死に関わる判断に影響を及ぼしうる。
米国当局者は、より迅速な標的選定を公然と強調してきた。国防総省の当局者はAssociated Pressに対し、AIは部隊が標的をより早く特定し、その後の攻撃を加速させる助けになりうると語った。
他の軍指導者は慎重さを強調している。米特殊作戦軍を率いるフランク・ブラッドリー海軍大将は、AIが意図された場所以外へ暴力を向けないことを、人間が信頼できなければならないと述べた。
指揮当局者らは、AIを定型的な事務作業を減らすためのツールとも説明している。ある調達責任者は、目的は作戦担当者の判断を置き換えることではなく、強化することだと語った。
これらの立場は、導入か拒否かという単純な選択ではなく、内部にある緊張関係を示している。軍指導者は、計算上の速度を求める一方で、信頼、統制、法的責任を維持したいと考えている。
この緊張は、大量の作戦中にさらに鋭くなる。Washington Postは、米軍がある戦争の最初の24時間に、ほぼ1,000件の標的特定を支援するためAnthropicのチャットボットを使ったと報じた。
この報道は、そのチャットボットが独立して標的を選定した、あるいは攻撃を承認したことを立証するものではない。しかし、審査手順が形式上の権限だけでなく、規模も考慮しなければならない理由を示している。
作戦の時間軸が一つの判断につき数秒しか許さない場合、人は大量の推奨を実質的に評価できない。承認が人間に残っていても、出力の高速化は熟慮を減らしうる。
6月の国連によるジュネーブでの協議には、100カ国以上の国、国際組織、市民社会団体が参加した。
オーストリア、ブラジル、チリ、メキシコ、シエラレオネ、コスタリカ、キューバなどの政府は、これらの議論で人間の判断と説明責任を強調した。
ロシアは新たな制限に反対し、一部の提案を欧米主導の取り組みと表現した。軍事AIは通常兵器に関する既存の政府専門家プロセスの枠内にとどめるべきだと主張した。
会合の記録によれば、米国とイスラエルは参加したが、正式な発言書は提出しなかった。その出席からは、両国が望む最低限の安全策は明らかにならなかった。
各国の柔軟性を求める実務的な主張は単純だ。指揮官は、広範な国際的文言によって防衛的な自動化が禁じられたり、合法的な作戦が遅れたりすることを望まない。
反対側の主張も同様に具体的だ。各国が「適切な」人間の判断をそれぞれ定義できるなら、その表現は最低限、あるいは儀礼的な審査に対する防御としてほとんど機能しない。
このため、予測可能性と信頼性も争点となった。こうした要件は、システムが現実的な戦場条件全体で検証されていない場合、配備を制約しうる。
戦場には、損傷したセンサー、欺瞞的な信号、不完全な情報、未知の環境、そしてアルゴリズムを操作しようとする敵対者が存在する。統制された試験で測定された性能は、こうした条件下では維持できない可能性がある。
信頼性に関する明示的な文言を削除すれば、各国政府は許容可能な性能についてより大きな裁量を得る。また、システムが致死的な判断に影響を与える前に、共有された基準値を確立することも難しくなる。
自主規範と法的拘束力のある制限が競合している
外交上の中心的な争点は、強力な軍事力を持つ国々が自制を約束すべきか、それとも他国が自国に対して適用を求められる規則を受け入れるべきかにある。
米国はこれまで、責任ある軍事AIのための自主的な原則を推進してきた。2023年の政治宣言では、用途の明確な定義、責任ある指揮系統、試験、適切な人間の判断を求めた。
50カ国以上がこの枠組みを支持している。共通の用語は確立されたが、条約、執行制度、独立した査察プロセスは創設されなかった。
自主的な宣言であっても、調達、訓練、軍事ドクトリンに影響を及ぼし得る。拘束力ある法律への政治的支持が整う前に、各国政府が期待される基準を収れんさせる助けとなり得る。
その弱さは、戦略的なインセンティブが変化したときに表れる。国家は柔軟な文言を再解釈したり、国内方針を改定したり、実務上の安全策を撤回したりしても、法的義務に違反しない。
報じられたジュネーブでの修正は、この対立を反映している。米国とロシアは地政学的な競争相手だが、いずれも先進的な軍事力を運用し、兵器開発における自由を重視している。
両国とも、活動家が支持するアプローチの下で自律兵器を制限する拘束力ある国際条約を支持していない。共通する利害は、他国が狭い規則を固定することを阻止する点にある。
この一致は、両国の軍事ドクトリンが同一であることを意味しない。技術と戦場での応用が進展する間、国家の裁量を維持することが両政府に利益をもたらすという意味だ。
合意に基づく規則は両国の影響力を増幅する。Stop Killer Robotsのニコール・ファン・ローイエン氏は、ワシントンとモスクワが大多数の国々に支持される進展を阻止できると主張した。
小国は厳格な安全策を支持しても、同等の法務チームや外交的圧力を持たない場合がある。変更が急速に持ち込まれる場合、非公開の起草会合はその不均衡を深めかねない。
条約の支持者は、化学兵器、生物兵器、対人地雷、クラスター弾を先例として挙げる。これらの制度は加盟国や執行面で異なるが、それぞれ特定の行為に対する非難の規範形成に寄与した。
赤十字国際委員会の軍縮顧問であるリチャード・レナン氏は、条約の重要性は処罰だけでなく、規範と行動を形成する点にあると論じてきた。
国連と赤十字は8月、共同アピールを更新した。一部の自律兵器の禁止と、その他への制限を求めた。
その提案は、効果を十分に理解、予測、説明できないシステムを禁止するものだ。また、人間を直接標的にするため設計または使用されるシステムも禁止する。
その他の自律システムは、標的の種類、継続時間、地理的範囲、人間による監督に関する制限の下で引き続き認められる。この構造は、すべての自動化機能を同じ危険性を持つものとして扱うことを避けている。
米露AI兵器協定は、これらのアプローチの中間に位置する。自主的な政治声明にとどまる可能性も、条約交渉の土台となる可能性も、合意形成によって停滞する可能性もある。
この不確かな法的地位こそ、現在の文言が重要である理由を説明する。初期段階の妥協は、後の合意、国家方針、調達契約、軍事マニュアルの参照点になることが多い。
人間による標的審査が共通の基準から消えれば、支持者はその後のあらゆる段階で復活を求めて闘わなければならない。この省略は、徐々に受け入れられた外交上の出発点になり得る。
草案には依然として重大な未解決問題が残る
報道は削除された安全策を特定しているが、草案の全容、各代表団の提案、争点となった文言の最終的な法的意味は明らかにしていない。
ワシントン・ポストは、機密交渉に詳しい3人の情報提供者に基づいて報じた。名前が挙がった各政府と国連は、記事掲載に向けた回答を提供しなかった。
したがって読者は、報じられた詳細と、公に確認された外交記録を区別すべきだ。削除に関する報道には信頼性があるが、完全な交渉経緯はまだ利用できない。
米国とロシアが同一の変更を提案したのか、あるいは選択的に互いを支持したのかは不明である。各条項への反対理由も公表されていない。
一般にも、すべての修正を並べて示す本文は公開されていない。その比較があれば、安全策が完全に削除されたのか、別の箇所へ移されたのか、より広範な文言に置き換えられたのかが明らかになる。
「人間による審査」という表現も定義を必要とする。この要件は、すべての標的、特定の種類の標的、あるいはAIシステムが決定的な情報を提供する状況だけに適用され得る。
同様に、「AIが生成した標的」は、機械による最初の識別、順位付けされた推奨、複数の人間および自動化された入力から組み立てられた標的パッケージを指し得る。
こうした違いは作戦上の結果に影響する。狭い定義であれば、政府はアルゴリズム支援による多くの判断を人間が生成したものと分類し、安全策を回避できる可能性がある。
この報道はまた、いずれの国も現在、人間の承認なしに兵器が人を攻撃することを許可しているとは立証していない。ある条項に反対して交渉することは、特定の配備方針を証明するものではない。
その不確実性は懸念を軽視すべき理由にはならない。外交上の抵抗はなお、各政府が国際的に受け入れる意思のない制約を示している。
国内方針も、未解決の層をもう一つ加える。国防総省は、兵器システムにおける自律性を規定する方針である指令3000.09を改定している。
報道によれば、6月の国家安全保障に関する覚書は90日以内の更新を命じた。9月下旬時点で、改定版の公開文書は現れていなかった。
2023年の指令は、武力行使に対する適切な人間の判断を求めていた。また、一部の自律型・半自律型兵器システムに対する審査要件も含まれていた。
係属中の国内改定とジュネーブでの交渉上の立場の関係は不明のままである。類似の削除があれば、より大きな作戦上の裁量に向けた協調的な転換を示唆する。
異なる文言であれば、ワシントンが国内では安全策を受け入れつつ、国際的な約束には抵抗していることを示す。この立場は軍事的な柔軟性を守るかもしれないが、海外での米国の主張を弱めることになる。
ロシアの方針は、開発、試験、配備をめぐる公開情報が限られているため、評価がより難しい。戦場での主張は、しばしば独立して検証できない。
人道支援団体も証拠の不足に直面している。国連と赤十字は、自律兵器が急速に進展していると述べる一方、特定の戦場での使用について断定的な主張は避けている。
AIを活用した意思決定支援は、完全自律型の致死的運用よりも記録しやすい。それでも意思決定支援ツールは、特に時間が圧縮された状況で、誰が攻撃されるかを左右し得る。
責任ある結論は、最も警戒的な解釈よりも限定的である。草案は重要な障壁を失ったと報じられている一方、正確な作戦上の影響は定義と実装に左右される。
11月の協議前に注視すべき3つの兆候
11月の交渉、国防総省の改定指令、草案本文の公開を求める声が、この出来事が永続的な政策転換となるかを決める。
第1の兆候は、各政府がジュネーブ会合の前または会合中に、明示的な標的審査要件を復活させるかどうかだ。その文言は、いかなる攻撃の前にも十分な情報に基づく人間の評価を求めるべきである。
条項が復活すれば、9月の削除は暫定的な交渉上の動きだったとの見方が強まる。引き続き除外されれば、より弱い国際的な基準が確認されることになる。
名称よりも詳細が重要になる。意味のある審査には、十分な時間、関連する証拠、不確実性に関する情報、AIの推奨を却下する権限が必要だ。
第2の兆候は、国防総省による自律兵器指令の改定版である。米国が、国際的に削除されたものに似た国内の約束を維持するかどうかを示すはずだ。
人間の判断、試験、信頼性、法的審査、上級者の承認、敵対的条件下での失敗を扱う文言に注目すべきである。定義と適用除外が特に重要になる。
指令が強力な国内統制を維持すれば、ワシントンはなぜ類似の国際文言を拒否したのか問われることになる。これらを弱めれば、政策転換はより広範なものとなる。
第3の兆候は、交渉文書をめぐる透明性である。各国、ジャーナリスト、市民社会団体には、争点となった草案と提案された修正案の公開比較が必要だ。
透明性があれば、独立した専門家は各側の主張を検証できる。また、小規模な代表団が急速な修正を評価するのに十分な時間と資源を得たかどうかも分かる。
3つの兆候がすべて改善しても、国際プロセスは脆弱なままだろう。合意による交渉では、少数の有力国が義務化を遅らせたり、提案された規則を狭めたりできる。
それでも、人間による審査を復活させれば、明確な最低基準が確立される。機械が生成した標的情報が、説明責任を負う人間の判断なしに直接攻撃へ移行してはならないと示すことになる。
開発者にとって、この議論は兵器ハードウェアを超えるものだ。軍事AIシステムは、商用モデル、クラウドプラットフォーム、データパイプライン、評価ツール、ソフトウェア請負業者に依存している。
エンジニアは、不確実性の文書化、監査ログの保存、システム自律性の制限、自動的な受諾を防ぐインターフェースの設計を求められる可能性がある。政策文言は製品要件になり得る。
企業の買い手も、同じ説明責任の問題を注視すべきだ。高リスクのAIには、システムが何を推奨したか、どの証拠を使用したか、誰が結果を承認したかを示す記録が必要である。
急速に動く政策プロセスを追うナレッジワーカーは、草案の文言、公式声明、日付入りの改定を含む個人ナレッジベースを維持できる。この実践により、静かな変更を発見しやすくなる。
米露AI兵器協定が意味を持つのは、その安全策が軍事的インセンティブとの接触に耐えた場合に限られる。11月には、人間による審査が交渉可能な事項のままなのか、最低限の規則となるのかが示される。
差し迫った問いは単純だ。各政府は文書を公開し、武力が行使される前に人がAI生成の標的を検討することを求めるのか。
