DHSのAIによるFOIA黒塗りは迅速化を約束するが、より深い秘密主義のリスクもある
DHSは、年間10万件から14万件に及ぶ公文書請求について、黒塗りの推奨にAIを活用する計画だ。機械が信頼に足る開示判断を下せることを示す証拠は限られている。DHS AI FOIA redactionsの取り組みは処理時間の短縮を約束する一方で、過剰な不開示をより速く、安価にし、請求者が異議を申し立てにくくする恐れもある。
国土安全保障省は、記録が省外に出る前に職員が推奨内容を確認するとしている。この安全策は重要だ。情報自由法、すなわちFOIAでは、文脈に即した法的判断が求められるためである。モデルは氏名や識別番号を認識できる。しかし、政策協議を公開することで法的に認められる損害が生じるかどうかを、独力で判断することはできない。
これはテクノロジーと紙ベースの官僚機構の対決ではない。本当の対立は、処理効率と実質的な市民アクセスの間にある。連邦機関は、人間の審査担当者だけでは処理しきれない量の記録請求に直面している。それでも政府は、法が許容する場合に自動推奨が一貫して開示を優先することを示してはいない。
この問題はDHSにおいて特に重い意味を持つ。federal redaction planで引用された連邦データによると、同省は2025会計年度にほぼ100万件の請求を処理した。黒塗りなしで記録が開示されたのはわずか2.3％だった。自動化がこの業務量の一部にでも影響を与えるなら、その前提はジャーナリスト、研究者、弁護士、一般市民が連邦政府の活動について知り得る内容を左右することになる。
DHS AI FOIA Redactionsが実際に行うこと
当面の変更は自律的な検閲ではなく、極めて大規模な法的審査プロセスに自動推奨が入ることだ。
DHS内の機関である米国税関・国境警備局は、FOIA処理にGoogleの人工知能および機械学習ツールを使う計画だ。このシステムは、不開示の対象となり得る内容を特定し、政府職員に黒塗りを推奨する。
黒塗りとは、通常は文章、画像、音声、動画の一部を覆い隠し、記録を公開する前に削除する措置を指す。情報がFOIAの免除規定に該当する場合、または別の法律で開示が禁じられている場合に、機関は黒塗りを適用する。一般的な例には個人データ、機密資料、法執行情報、特定の内部審議が含まれる。
DHSの説明によれば、自動化は処理時間を短縮するはずだ。同省はまた、職員が各案件を確認し、請求者が正確かつ完全な情報を受け取れるようにすると述べている。これらの説明は、最終判断の責任が人間に残ることを示している。
しかし、計画されている規模は、その審査が実際に意味するところを変える。DHSは、提出案件の10％超を占める請求区分にAIを適用する見込みだ。同省はその範囲を約10万件から14万件と見積もっている。
機械の提案を確認することは、必ずしも新たに判断を下すことと同じではない。多忙な職員は、モデルが強調した箇所から確認を始め、それを裏付けることに集中するかもしれない。このワークフローは、体系的または権威的に見えるという理由でシステム出力を受け入れがちな、自動化バイアスを生み得る。
モデルが明白な個人情報の範囲を超えると、この違いは決定的になる。社会保障番号の検出は比較的安定したパターンに従う。一方、未完成の政策に関するメールに免除規定を適用するには、文書の作成者、目的、時期、対象読者、最終決定との関係を理解する必要がある。
DHSは、自らのシステムが単純なパターン照合と、こうした文脈的判断をそれぞれどの程度扱うのかを公表していない。包括的な性能結果、エラー率、テスト記録、学習事例、または推奨の却下率も開示していない。
他省庁も実験を進めている。内務省は、弁護士・依頼者間の秘匿特権の対象となり得る資料を特定するためにMicrosoftの技術を利用していると報じられている。保健福祉省は、大量の文書群を審査・黒塗りする概念実証システムを説明している。司法省は、複数の部門がすでに自動検索・審査機能を使用しているとしている。
したがって、この動きはDHSの単一導入にとどまらない。連邦機関は、政府記録とそれを請求する人々との間に、機械による支援の層を築いている。その層が、審査担当者による開示可能な情報の発見を助けるのか、それともより多くの情報を削除するよう促すのかは、なお定まっていない。
この不確実性により、運用上のアップグレードは政府の透明性を試すものとなる。
連邦機関がいまFOIAを自動化する理由
請求件数と記録コレクションが、多くの機関の既存審査システムの処理能力を超えたため、AIがFOIAに導入されている。
FOIAは、行政府機関に対して記録を請求する権利を市民に与えている。ただし、議会、連邦裁判所、大統領に直接助言する大半の組織は対象外である。対象となる各機関は、該当する記録を探し、審査し、法的に認められる免除規定を適用し、合理的に分離可能な非免除情報をすべて開示しなければならない。
1件の請求が数千通のメール、添付ファイル、メッセージ、動画、スプレッドシート、スキャン文書に及ぶ場合、このプロセスは遅くなる。審査担当者は、重複を見つけ、該当資料を特定し、他部署と協議し、正当な秘密を保護しつつ、法的に開示できるものをすべて維持しなければならない。
司法省のannual FOIA dataによると、連邦政府全体で各機関は2025会計年度に過去最多の160万件の請求を処理した。これは前年から9％増だった。
テクノロジーは、この業務の機械的な部分のいくつかに対応できる。光学文字認識はスキャンページを検索可能なテキストに変換する。重複排除は繰り返されたメールスレッドを取り除く。エンティティ認識は、氏名、電話番号、住所、その他の反復パターンを特定する。分類システムは、請求に関連していると見られる文書を優先できる。
これらの用途のリスクは一様ではない。該当記録をコレクションから検索することは、手作業の検索が不完全になる代替案であれば、アクセスを広げ得る。言語を自動的に隠すことは、公表される内容そのものに影響する。
連邦当局者は長年、この違いを検討してきた。2026年5月、Chief FOIA Officers Council、米国国立公文書館のOffice of Government Information Services、司法省は、第3回NexGen FOIA Tech Showcaseを開催した。
政府のtechnology showcaseは、電子証拠開示、案件処理、アクセシブルな公開資料、公開閲覧室、自動黒塗りのためのツールを求めた。提案されたシステムは、紙のファイル、デジタルコンテンツ、動画、音声、構造化データを対象としていた。
このイベントは、2022年と2024年の同様のショーケースに続くものだった。また、AI支援処理に関する業界情報を求めるよう機関に促した、連邦FOIA Advisory Committeeの勧告も反映していた。
導入はなお限定的だが、増加している。国立公文書館の最新のFOIA assessmentによると、回答した連邦機関の20.6％が2025年に記録の検索または整理を支援するため、AIまたは機械学習を利用していた。これは前回評価の18.6％から上昇した。
同じ報告書では、FOIA検索に電子証拠開示ツールを利用した機関は80％で、2020年の72％から増えた。これらの数字は、生成AIが主要な技術テーマとなる以前から、機関が文書業務を自動化していたことを示している。
滞留の問題は現実のものだ。アクセスの遅れは、正確な情報を役に立たないものにしてしまう。選挙、裁判上の争い、政策論争、または公衆衛生上の緊急事態の後に公開される記録は、説明責任に資するには遅すぎる可能性がある。
したがって、自動化は、職員による文書の特定、重複の削除、明白に保護されるべき個人データの識別を助ける場合、公開性に資することができる。処理の迅速化は、見せかけだけの利点ではない。
危険は、機関が速度を成功の主な尺度として扱うときに現れる。終了した請求が、必ずしも満たされた請求とは限らない。不必要な黒塗りで埋め尽くされた迅速な回答は、より遅くても慎重に審査された開示より、公的価値が低い可能性がある。
だからこそ、中心となる性能上の問いは、システムが1時間当たり何ページを処理するかではあり得ない。どれだけの合法的な情報が、どれほどのエラーを伴い、どの程度の人間による精査を経て市民に届くのかでなければならない。
効率化の約束と開示の問題がぶつかる
有効な黒塗りを加速できる同じシステムが、政府に既存する過剰不開示の傾向を拡大する可能性もある。
DHSは2025会計年度に994,992件のFOIA請求を処理した。黒塗りなしで記録を公開したのは、完了案件のわずか2.3％だった。約40％は一部を黒塗りした上で公開された。
残りの請求は、いくつかの理由で終了した。法定の免除規定に基づき全面拒否されたものもある。多くの場合、同省は該当する記録を見つけられなかったとしている。ほかにも、請求が取り下げられたり、別の機関に移送されたり、手続き上の理由で終了したりした。
これらの区分は不正行為を証明するものではない。DHSは、移民、国境執行、サイバーセキュリティ、緊急事態管理、輸送保安、要人警護の業務を担っている。その記録には、日常的に個人データや、法執行または国家安全保障に関わる情報が含まれている。
それでも、基準線は重要だ。DHSは、黒塗りのない幅広い開示で知られるシステムに自動推奨を導入するわけではない。全面開示がすでに稀なシステムに導入するのである。
AIは、そのシステムをどちらの方向にも動かし得る。適切に設計されたモデルは、保護対象の氏名を職員が切り分け、段落の残りを公開する助けになるかもしれない。これは、免除情報を市民が受け取れる資料から分離するという法律の要件を支える。
調整が不十分なモデルは、1文が保護対象の表現に似ているという理由で、段落全体にフラグを付けるかもしれない。職員がその推奨を受け入れれば、システムは潜在的に機微な文章とともに、非免除の文脈も隠すことになる。
モデルはまた、2種類の異なる誤りを犯す。偽陰性は保護すべき情報を見逃し、個人情報や機密資料を露出させる可能性がある。偽陽性は、合法的に開示できる情報を削除対象として扱う。
政府のインセンティブは、これらの誤りを同等には扱わない。偶発的な開示は、直ちにセキュリティ上の問題、プライバシーに関する苦情、または懲戒問題を引き起こす可能性がある。不必要な黒塗りは通常、異議を申し立てるために不服申立てや訴訟を行わなければならない請求者に負担を課す。
この不均衡は保守的な設定を促す。偶発的な公開を避けるよう最適化されたシステムは、より多くの資料にフラグを付ける可能性が高い。時間的な圧力の下で働く人間の審査担当者は、不開示のほうが組織として安全に感じられるため、そうした提案を承認するかもしれない。
その結果、秘密主義へ向かうラチェット効果が生じ得る。各モデルの推奨は、それ単独では慎重に見える。だが数十万件の請求にまたがれば、累積的な影響によって、より熟慮した審査なら公開されるはずの大量の情報が削除される可能性がある。
自動化は一貫性を可能にするが、一貫性が自動的に公正さを意味するわけではない。モデルは、狭い法解釈を政府機関全体に適用しかねない。また、設定や学習に用いられた記録に含まれる不整合な判断を再現する可能性もある。
FOIAの判断は、しばしば組織の履歴に左右される。過去の審査担当者がある種の議論を定期的に非開示としてきた場合、その業務から学習するシステムは、その慣行を通常の回答として提示する可能性がある。モデルには、過去の判断が慎重な法的分析、時代遅れの指針、あるいは習慣的な過剰墨塗りのいずれを反映したものかは分からない。
これはフィードバックループを生む。過去の非開示判断が自動化された推奨に影響する。審査担当者はその推奨を受け入れる。そして承認された出力が、将来の自動判断を支える証拠となる。
政府がこのループを断ち切るには、意図的な評価が必要だ。政府機関は、適法に非開示とされる資料と開示可能な資料の双方を含むテスト用コレクションを用意する必要がある。独立した審査者は、偽陽性、偽陰性、そして正当な墨塗りの周辺で失われた非免除テキストの量を測定すべきだ。
オーバーライドのデータも重要である。職員がモデルの提案をほとんど却下しないなら、監督は名目的なものにとどまる可能性がある。審査担当者が頻繁に墨塗りを追加・削除しているなら、システムは約束されたほどの労力削減を実現していない可能性がある。
DHSは、人間が引き続き関与すると述べている。しかし、その関与が独立しており、十分な人員が配置され、文書化され、品質チェックの対象となるかどうかはまだ示していない。これらの詳細が公表されるまで、効率性に関する主張は不完全なままである。
AIはパターンだけで予見可能な害を判断できない
モデルは言語パターンを検出できるが、FOIAでは各非開示判断を、具体的かつ合理的に予見可能な害と結び付けることが政府機関に求められる。
議会は2016年のFOIA Improvement Actを通じて、この要件を強化した。政府機関は通常、開示によって免除規定で保護された利益が損なわれることを合理的に予見できる場合に限り、免除対象の情報を非開示にできる。また、別の法律が公開を禁じている場合にも、情報を非開示にできる。
予見可能な害の基準は、技術的に利用可能なあらゆる免除規定を自動的な命令として扱うことを政府機関に防がせる。文書が免除規定の範囲に該当していても、秘密にする実質的な理由を欠くことはあり得る。
司法省の開示に関する指針は、政府機関に文脈を考慮するよう求めている。関連する要素には、記録の作成時期、過去の公式な開示、その機微性、目的などが含まれ得る。想定される害が不明確な場合、政府機関は知見を持つ職員に相談すべきである。
この作業は、エンティティ検出とは根本的に異なる。モデルは個人名を見つけられる。しかし、その名前だけから、開示がプライバシーを侵害するか、秘密情報源を特定するか、公務上の行為を明らかにするか、あるいは既に公開された情報を繰り返すだけかを判断することはできない。
同じ課題は審議過程特権にも当てはまる。この保護は、政府機関内の協議を反映する特定の決定前コミュニケーションを対象とし得る。しかし、あらゆる草案、勧告、内部メールを隠すことを政府機関に許すものではない。
研究者たちはこの問題に機械学習を適用してきた。Jason R. Baron、Mahmoud F. Sayed、Douglas W. Oardは、クリントン大統領記録の資料を集め、審議的である可能性のある箇所を特定する分類器を訓練した。
彼らの機械学習研究では、学習と評価が一貫した審査者の解釈に従う場合に、システムが最も良好な性能を示した。審査者、記録管理者、または対象分野が変わると、性能は低下した。
その後の公開討論で、Baronは、審議過程特権に関連する資料を区別する手法の精度をおよそ70％と説明した。一貫した条件下で公表された結果では、F1値は70％から83％の範囲だった。F1スコアは、モデルが関連する箇所をどれだけ見つけるかと、陽性分類がどれだけ正確かを組み合わせた指標である。
こうした結果はトリアージには有用である。しかし、監督なしの法的判断を支えるには十分に強力ではない。性能が70％であれば、無視できない割合の箇所が誤分類される。
この研究は、さらに深い問題も示している。人間の審査担当者は、同じ文言が非開示の対象になるかどうかについて、常に一致するわけではない。ある審査者の解釈で学習したシステムは、別の審査者が法律を異なる形で適用すると苦戦する可能性がある。
この不一致は、単なる技術的ノイズではない。FOIAの文脈依存的な性質を反映している。法的判断は、記録が何を示すのか、政府が既に何を開示したのか、公開によってどのような具体的な害が生じるのかに左右される。
したがってDHSに必要なのは、自動化パイプラインの末端に人間を配置すること以上である。実質的な審査には、モデルの推奨を退けるための十分な時間、権限、情報が必要だ。職員は、より限定的な墨塗りで正当な利益を守れるかどうかも検討しなければならない。
政府機関は、自動化された提案ごとに監査証跡を保存すべきである。その記録には、システムがどの箇所をフラグ付けしたか、どの免除規定と関連付けたか、職員が何を変更したか、最終判断がなぜ予見可能な害の基準を満たしたかを記載すべきだ。
請求者は、機微な学習データやシステムセキュリティの詳細にアクセスする必要はない。しかし、自動化ツールが自らの記録にどのような影響を与えたかについて、理解可能な情報を必要としている。その可視性がなければ、請求者は弁護士の判断とモデル支援による既定判断を区別できず、異議申立てはより困難になる。
人間が承認をクリックしたというだけで、ブラックボックスの推奨が文書上のブラックボックスになってはならない。
人間による審査は結果を変える場合にのみ安全策となる
「human in the loop」という表現は、人々が実際に自動化された推奨を問い直しているかを政府機関が測定しない限り、ほとんど保護をもたらさない。
DHSは、職員がAI支援案件を審査するとしている。連邦FOIAオンブズマン事務所も同様に、AIと機械学習は免除規定や予見可能な害に関する専門的判断を代替できないと警告している。
これは正しい公式見解である。その有効性はワークフローの設計に左右される。
審査担当者が提案されたマーキングが表示される前に文書全体を見るなら、独立した見解を形成できる。システムが既に提案された墨塗りで覆われたページを提示する場合、そのマーキングがアンカーとなる。審査担当者は、保護を追加するかどうかを判断するのではなく、保護を外す理由を示さなければならなくなる。
この違いは手続き上のものに見えるかもしれないが、疑義の向きを変える。最初のワークフローでは、不確実性が開示を支持し得る。2番目では、不確実性がモデルのブラックボックスを維持する方向に働く。
人員配置も別の制約を生む。政府機関は、業務量を処理する人手が足りないからこそ自動化を採用する可能性がある。同じ人員不足のために審査担当者が各結果を確認する時間を数分しか与えられないなら、形式的な人間の承認は処理量のチェックポイントに過ぎなくなる。
業績目標はこの圧力を増幅し得る。管理者は、完了した請求件数、処理したページ数、未処理案件の削減を測定するかもしれない。こうした数字は数えやすい。慎重な審査を通じて保全された非免除情報の量は、観察しにくい。
効果的な監督プログラムは、複数の指標を用いるだろう。政府機関は、機械支援による判断と独立した審査サンプルを比較すべきだ。職員が提案された墨塗りを削除、縮小、またはシステムが見落とした保護を追加する頻度を追跡すべきである。
また、文書種別を横断して結果を検証すべきだ。標準化された書式でパスポート番号を確実に検出するツールでも、政策メール、手書きのメモ、スプレッドシート、録音されたインタビュー、歴史的文書では性能が低い可能性がある。
テストには、両方の誤りがもたらす結果を含めなければならない。偽陰性は保護対象情報を露出させ得る。偽陽性は公共アクセスを拒む可能性がある。プライバシーとセキュリティの誤りだけを唯一の重要な失敗として扱えば、評価プロセスに過剰墨塗りが組み込まれることになる。
政府機関は集計結果を公表すべきである。有用な開示には、AIで処理された請求件数、関係する免除規定、サンプルに基づく誤り率、審査担当者のオーバーライド率、処理時間の変化が含まれる。
公開報告は、個別請求の機微な内容を明らかにしない。ツールが補助者として機能しているのか、それとも認識されない意思決定者となっているのかを示すことになる。
異議申立ても別の証拠源となる。AI支援案件で行政上の異議申立ての成功が増えれば、その傾向は、システムまたはその審査プロセスが過度に広く非開示としていることを示唆するだろう。政府機関は、こうした結果を従来型の審査案件と比較すべきである。
最終的には裁判所も役割を果たす。FOIA訴訟では、政府機関が宣誓供述書またはVaughn index（非開示資料と主張する免除規定を結び付ける文書）を通じて、墨塗りの根拠を説明することがしばしば求められる。自動化ツールによって、この法的負担が軽減されるわけではない。
政府機関がモデルを一般論として参照せずに、なぜ開示が害をもたらすのかを説明できないなら、その正当化は失敗すべきである。ソフトウェアを供給したベンダーがどこであれ、最終判断について政府は責任を負い続ける。
したがって、ベンダー監督は公的説明責任の一部である。契約は、政府によるテストを許可し、ログを保存し、モデルの変更を文書化し、機微な記録が無関係な学習に再利用されることを防ぐべきだ。政府機関は、システムが本番運用に入った後の更新が挙動を変えるかどうかも理解しなければならない。
政府によるAI墨塗りの最も強力な形態は、職員が潜在的な機微情報を見つけるのを助けながら、その独立した法的判断を保つものだ。最も弱い形態は、末尾に人間の署名があるだけの反復可能なワークフローへと、過剰墨塗りを変えてしまうものだ。
DHSは前者の形態を説明している。後者と区別するために必要な証拠は、まだ公表されていない。
システムが公開性に資するかを示す3つのシグナル
次の検証点はDHSがAIを導入するかどうかではなく、保護対象資料を露出させずに、技術によって適法に開示される情報を増やせることを同省が証明するかどうかである。
最初のシグナルは運用上の透明性である。DHSは、どの請求カテゴリーで自動化された推奨を用いるのか、どのモデルが作業を行うのか、どの免除規定を支援するのかについて、明確な説明を公表すべきだ。
その説明では、基本的なパターン認識と文脈に基づく法的分類を分けるべきである。識別番号を見つけることは、内部の政策議論を評価することとは異なるリスクを伴う。それらを一つの「AI」ラベルにまとめれば、有意義な精査は妨げられる。
同省は集計された性能指標も開示すべきである。偽陽性率は、システムが開示可能な資料を隠すよう推奨する頻度を示す。偽陰性率は、保護対象情報を見落とす頻度を示す。
審査担当者のオーバーライド率は、人間が独立した判断を行使しているかを明らかにする。ほぼゼロの率は、ツールが例外的に正確であることを意味する可能性がある。しかしより可能性が高いのは、自動化バイアス、限られた審査時間、または職員が提案を変更することをためらわせるインセンティブに関する疑問を生むことだ。
2番目のシグナルは、公開された記録の質である。処理時間は短縮すべきだが、開示は縮小してはならない。研究者は、導入前後で完全開示、一部開示、完全拒否の割合を比較できる。
これらのカテゴリーは完全ではない。削除された単語が1つだけの場合も、ブラックボックスだらけの10ページの場合も、一部開示として数えられ得る。したがってDHSは、代表的な文書サンプルにおいて公開された対応テキストの割合を検討すべきである。
行政上の異議申立ては、別の指標となる。機械支援による墨塗りに関する異議申立ての成功が増えれば、同省の主張は弱まるだろう。遅延の短縮と並行して、安定または改善した開示結果が得られれば、その効率性の主張を裏付けることになる。
第三のシグナルは、実効性のある説明責任だ。請求者は、自動化が回答に実質的な影響を与えた場合、それを把握できる必要がある。行政機関の不服申立担当者や裁判所には、各推奨がどのように最終判断に組み込まれたかを示す記録が必要だ。
議会、監察総監、国立公文書記録管理局は、モデルが該当箇所を示した後に、DHSが予見可能な損害基準を独立して適用しているかを検証すべきである。また、ベンダーによる管理措置、データセキュリティ、モデル更新、フィードバックループを防ぐための保護策も評価すべきだ。
こうした安全策のいずれも、自動化を拒むことを求めるものではない。FOIA担当部署には、より優れた検索、重複排除、文書変換、審査ツールが必要だ。対象となる記録が何年も未処理のまま滞留していては、情報公開は改善されない。
ただし、より迅速な黒塗り処理は、より迅速な開示と同じではない。前者は情報を削除する。後者は、法律が許容するすべての情報に国民が適時アクセスできるようにするものだ。
この区別は、DHSによるAIを用いたFOIA黒塗り処理を評価する際のあらゆる判断の指針となるべきである。DHSは、監査手法、誤りの測定指標、人間による上書きに関するデータ、導入前後の開示結果を公表することで、そのアプローチを検証できる。
ジャーナリスト、研究者、弁護士、その他の請求者は、処理時間の短縮を成功の証拠として受け入れるのではなく、こうした指標を注視すべきだ。また、行政機関が一般論にとどまる説明を示す場合や、必要以上に情報を非開示にしているように見える場合には、行政上の不服申立制度も活用すべきである。
AIは、公開情報と保護対象の情報の境界を見つける助けになり得る。しかし、その境界を密かに秘匿の方向へ動かしてはならない。決定的な問いは単純だ。DHSが手続きを迅速化した後、米国民はより利用しやすい情報を受け取るのか。それとも、黒塗りされたページをより早く受け取るだけなのか。
