発見できないAIシステムを、行政機関は統治できない

Google Newsが取り上げたのは、行政機関に突き付けられた厳しい現実だ。AIガバナンスは、明確にAIと表示されないまま政府機関に入り込んだシステムを見つけることから始まる。

方針によって機微データのアップロードを禁じ、人によるレビューを義務付け、責任ある利用の原則を定めることはできる。しかし、すでに行政業務に影響を与えているツール、組み込み機能、ベンダーサービス、職員による試験的利用を特定できなければ、こうした統制は機能しない。

行政機関が単発のチャットボット実証実験を超えて進むなか、この可視性の欠如は一層差し迫った問題となっている。AIは今や、許認可プラットフォーム、翻訳サービス、文書システム、不正検知ツール、コールセンター、一般的なオフィスソフトウェアにまで組み込まれている。争点はもはやイノベーション対慎重論ではない。文書化され継続的に監視される導入と、中央の指導部が手遅れになってから発見する断片的な利用との対立である。

Google Newsの見出しがAIインベントリについて正しく捉えていること

AIインベントリは、単なる管理用スプレッドシートではなく、公共部門における監督の実務上の出発点になりつつある。

Google Newsを通じて配信された見出しは、ガバナンスにおける基本的な問題を捉えている。行政機関がリスクを分類し、精度を検証し、説明責任を割り当てるには、その前に、どのシステムが存在し、どのように使われているかを明らかにしなければならない。

もっとも、AIシステムに何を含めるかを定義し始めると、話は簡単ではない。ある部局は生成AIチャットボットを開示していても、既存ソフトウェアに組み込まれた自動ランキング、文書分類、予測、文字起こし、画像認識を見落とすかもしれない。

したがって、インベントリはAI契約のもとで購入された製品だけでなく、内部開発モデル、ベンダーホスト型サービス、任意で有効化できるソフトウェア機能、職員が選んだツール、旧来の契約から引き継がれた自動化システムも対象にすべきである。

公共機関は、製品だけでなく利用方法も記録する必要がある。同じモデルでも、内部メモの下書きを支援することもあれば、ある人が政府給付を受けられるかどうかを推奨することもある。これらの用途がもたらす結果は大きく異なる。

有用なインベントリ記録では、担当部局、業務目的、影響を受ける人々、データのカテゴリ、ベンダー、モデルまたはサービス、決定権限、人によるレビューのプロセス、現在の導入状況を特定する。また、個人が出力に異議を申し立てられるかどうかも記録する。

この区別が重要なのは、アプリケーション一覧が答えられるのは「組織が承認したソフトウェアは何か」という限定的な問いにすぎないからだ。ガバナンスには、自動化された分析がどこで公共業務を変化させ、住民に影響を及ぼすかという、より広い答えが求められる。

連邦政府の経験は、その規模を示している。最新の統合インベントリに対する2026年のレビューでは、41の機関にまたがる報告済みAI利用は3,600件超で、2023年の約700件から増加していた。連邦政府の導入に関するレビューは、報告された導入が依然として大規模機関に集中していることも明らかにした。

これらの数字は急速な成長を示しているが、すべての導入が把握されていることを証明するものではない。報告ルールは変わり、機関ごとに定義の解釈も異なり、職員は正式な調達記録を残さずに外部サービスを利用できる。

その結果、可視性のギャップには2種類が生まれる。1つ目は、中央の承認やレビューなしに使われるツール、いわゆるシャドーAIである。2つ目は、行政機関がすでに所有する製品に追加される自動化機能、すなわち組み込みAIである。

組み込みシステムは、特に追跡が難しい場合がある。ベンダーは通常のソフトウェア更新の中で、要約機能を有効化したり、モデル提供者を変更したり、自動推奨機能を拡張したりできる。

年1回のアンケートでは、こうした変更を確実に検知できない。次の調査が行われる頃には、その機能がすでに機密記録を処理していたり、数百件の判断に影響を与えていたりする可能性がある。

そのため、インベントリには更新の仕組みが必要となる。調達イベント、契約更新、セキュリティレビュー、ソフトウェアリリース、職員のアクセス申請はすべて、新規または変更されたAI機能を確認する契機とすべきである。

コネチカット州は、1つの公開モデルを示している。同州は、承認済みシステムの年次インベントリを維持し、提案された利用を学際的なガバナンスプロセスで評価していると説明する。同州のAIフレームワークでは、技術、法務、政策、倫理、セキュリティの専門知識をレビューに組み込んでいる。

年次の公開は透明性を高められるが、内部記録は公開スケジュールより速く更新されなければならない。住民には安定した公開情報が必要であり、管理者には最新の運用記録が必要である。

この組み合わせによって、インベントリ作業はインフラとなる。公開文書は説明責任を支え、内部システムはアクセス、テスト、調達、インシデント、廃止に関する日々の判断を支える。

Google Newsの読者にとって、インベントリをめぐる議論は単に記録管理の改善を求めるものに映るかもしれない。しかし、その含意はより厳しい。行政機関はAIの発見を、最初の提案から最終的な停止まで、各システムを追跡する継続的な統制として扱わなければならない。

可視性のギャップは調達、法務、事業部門のリーダーに圧力をかける

見えないAIは、ツールを選んだ人からリスクを移し、その結果についてなお説明責任を負う職員へと負担を転嫁する。

最高情報責任者だけでこの問題を解決することはできない。通常、彼らは承認済みインフラ、セキュリティ要件、全庁的な契約を管理している。しかし、職員が利用するすべてのウェブサービスや、ベンダーが有効化するすべての自動化機能を必ずしも把握しているわけではない。

調達チームも同様の制約に直面する。公募文書には、人工知能という言葉を使わずに、分析、ワークフロー自動化、意思決定支援が記載されることがある。標準的な技術カテゴリは、レビューに値する仕組みを隠してしまう可能性がある。

法務チームが関与するのは、契約案が作成された後であることが多い。その時点では、モデルに関する文書、監査アクセス、インシデント通知、データ制限、重要な変更の事前通知を要求する交渉力を、行政機関が欠いている可能性がある。

事業部門のリーダーも別の形で圧力を受ける。彼らはワークフローと影響を受ける住民を理解しているが、ベンダーの機能がいつ行政機関のAI定義に該当するかを認識していない可能性がある。

したがって、各グループが見ているのはシステムの一部にすぎない。誰もが、全体像は別の部署が把握していると思い込むとき、ガバナンスは失敗する。

調達は導入前の開示を求められるため、最も実務的な入口となる。ベンダーは、どの機能がAIを使用するか、どのデータを処理するか、どの第三者が関与するか、購入後にシステムが変化するかを説明すべきである。

契約では更新についても扱うべきだ。入札時の開示は、ベンダーが後に基盤モデルを置き換え、エージェントのような行為を導入し、新たなレビューなしにデータ保持を拡大するなら、その価値を失う。

AIエージェントとは、目標に向けて一連の行動を計画または実行できるソフトウェアである。システムが単に推奨を生成する以上のことを行う可能性があるため、変更管理は特に重要となる。

従来型のチャットボットは、人が評価するテキストを返す。エージェントは記録を取得し、案件を変更し、通知を送信し、別のプロセスを開始するかもしれない。運用上のリスクは、権限、可逆性、影響を受ける記録の数に左右される。

事業部門は、そうした結果を平易な言葉で説明しなければならない。モデルに関する技術的な説明からは、誤りが定型メモを遅らせるのか、住宅支援へのアクセスを妨げるのかは分からない。

メリーランド州は、切り離された報告作業を新設するのではなく、インベントリ作業を既存の技術ガバナンスに結び付けている。同州の公開されたAIインベントリのプロセスは、州のレビュー構造および各機関のユースケース報告に接続されたカタログを説明している。

この統合には大きな意味がある。行政機関はすでに、調達、サイバーセキュリティ、プライバシー、記録、ベンダー管理のプロセスを維持している。AIの発見は、別個の手作業による提出を求めるのではなく、それらのシステム間で情報を交換するほうがうまく機能する。

法的義務も圧力を加えている。メリーランド州法は、州の機関が利用する高リスクシステムに対して、インベントリと影響評価の義務を定めている。そのスケジュールは、新規調達と、それ以前に取得されたシステムを区別している。

しかし、期限だけで正確なインベントリが作られるわけではない。行政機関には、義務化以前に購入された技術や、別の名称で分類された技術を発見する、説明可能な方法が依然として必要である。

小規模な地方自治体は、この問題の最も難しい形に直面することになる。大規模な自治体と同じクラウドサービスを使うことが多い一方で、専任のプライバシー担当者、モデル評価者、AI調達の専門家を欠いている。

Governingが引用した2026年のペンシルベニア州調査では、回答した政府関係者の81%に生成AIの方針がなかった。その回答者のうち62%は、方針を持つことには価値があると同意した。

方針の不在は深刻だが、限られた能力はさらに大きな制約となる。小規模な自治体は、職員がAIアシスタントを使っていることを把握していても、データフローを評価したり、専門的な契約条項を交渉したりする専門性を持たないかもしれない。

共同サービスが助けになる。州、郡、団体、大都市は、共通の定義、受付フォーム、承認済み利用パターン、契約条項を公開できる。また、小規模な自治体にレビュー支援を提供することもできる。

これは地方の説明責任をなくすものではない。職員に実用的な基準を与え、すべての自治体が同じベンダー調査を繰り返す可能性を減らす。

求められる対応は、単なる技術的なものではなく組織的なものである。調達はより良い質問をし、法務チームは継続的な開示を確保し、セキュリティチームはアクセスを把握し、事業部門のリーダーは現実世界での利用に責任を持たなければならない。

この圧力は続くだろう。AI導入の変化は、政府の予算編成や契約締結より速いからだ。ある目的で承認されたシステムが、当初の契約が期限切れになるはるか前に新たな機能を獲得することもある。

これらの部署をつなげられない行政機関は、不完全なスナップショットに基づいて統治することになる。共有記録を構築する機関は、散在した認識から説明責任ある意思決定へと移行できる。

主な対立は、文書化された導入とシャドーAIの間にある

中心的な争点は、行政機関が追跡できるシステムと、利便性、初期設定、不完全な開示を通じて広がるAI利用との間にある。

シャドーAIは、必ずしも意図的な規則違反から始まるわけではない。職員が、文書の要約、メールの改善、通知の翻訳、スプレッドシートの分析のために、使い慣れた一般向けツールを利用することから始まる場合が多い。

目先の利点は明らかだ。このツールは反復作業を減らし、数秒で結果を生み出す。ガバナンス上のコストは、どの情報が行政機関の外に出たのか、あるいは出力がどのように判断へ影響したのかを誰かが問うまで、表面化しない。

すべての一般向けサービスを遮断すれば、利用をさらに地下に追いやる可能性がある。業務負荷の圧力に直面する職員は、セキュリティチームが観測できない個人用デバイス、私用アカウント、製品に頼るかもしれない。

実務的な代替策は、承認済みツール、明確な境界、研修、適切な監視を組み合わせることだ。職員は、どのデータをシステムに入力してよいか、どの業務で人による検証が必要か、どの判断を委ねてはならないかを知る必要がある。

組み込みAIは、正式な審査を迂回する第二の経路を生み出す。行政機関は、生成機能を含む前に、記録管理プラットフォーム、オフィススイート、ケース管理製品を承認する可能性がある。

その後、ベンダーは通常のアップデートを通じて要約機能や推奨機能を追加する。利用者には便利なボタンが表示される一方、当初のセキュリティおよびプライバシー審査は以前の製品に焦点を当てたままとなる。

これが、製品単位のインベントリでは不十分な理由である。行政機関には、重要な機能がデータ利用、意思決定権限、または誤りへの露出を変える際に把握できる、機能レベルの視点が必要だ。

ベンダーによる開示は必要だが、それだけで答えのすべてを得ることはできない。供給者にはAI機能を広く宣伝し、技術的な依存関係を狭く説明し、モデルの変更を通常のサービス改善として扱う誘因がある。

政府顧客には、リスクに影響する変更について契約上の通知が必要だ。また、職員が実際にアクセスできるものを確認するための技術的・管理的手段も求められる。

シングルサインオンのログからは、承認済みサービスへのアクセスを確認できる。ブラウザやネットワークの監視では、一部の未承認ドメインを特定できる。経費記録、ヘルプデスクのチケット、調査、ソフトウェア資産台帳も追加のシグナルを提供できる。

こうした方法はいずれも完全ではない。技術的なスキャンはサービスを特定できても、その目的までは説明できない。職員への聞き取りでは目的を把握できる一方、散発的または無許可の利用を見逃す可能性がある。

最善の発見プロセスは、複数の証拠を組み合わせることだ。調達記録、IDログ、ネットワーク上の観測、ベンダーの開示、事業部門への聞き取り、プライバシー評価、セキュリティ審査を照合する。

その照合は、自動的な非難ではなく、問いを生み出すべきだ。これまで知られていなかったAI機能が、低リスク、無効化済み、または公的な意思決定と無関係である可能性もある。発見は分類の開始点となる。

分類によって対応が決まる。公開情報とともに使われる文章作成支援機能には、検査、雇用応募、または給付請求をスコアリングするシステムとは異なる統制が必要になる。

高リスクとは、単に技術的に高度であることを意味しない。誤りに伴う結果、データの機微性、影響を受ける集団、人間が修正できる機会によって決まる。

このアプローチは、サイバーセキュリティにおける資産管理に似ている。組織は、存在を把握していないデバイスを修正、監視、または廃止することはできない。AIには、既知の製品が名称を変えずに挙動を変えうるという、もう一つの側面が加わる。

米国国立標準技術研究所のAIリスクフレームワークは、リスクのガバナンス、マッピング、測定、管理を軸に取り組みを整理している。発見はこのサイクルのあらゆる部分を支える。

マッピングには、意図された用途と影響を受ける人々に関する文脈が必要だ。測定には、その文脈に結び付いたテストが必要となる。管理には、システムを変更、停止、または廃止できる責任者が必要だ。

静的なインベントリでも、誤った安心感を生む可能性がある。システムが当初審査された条件から乖離していく中で、当局者は完全なスプレッドシートを称賛するかもしれない。

モデルドリフトとは、データ、環境、またはシステム構成要素の進化に伴い、性能や挙動が変化することを指す。行政機関がモデルを再学習させなくても、ベンダーの更新によって同様の変化が生じることがある。

継続的なインベントリは、常に手作業で点検することを意味しない。新たなデータソース、モデルの置き換え、利用者グループの拡大、目的の変更、インシデント、または市民からの苦情など、再評価を要する事象を定義することを意味する。

これが本記事の中心的なトレードオフである。容易なアクセスは職員の実験とサービス改善を支えるが、分散的な導入は可視性を弱める。厳格な中央統制は監督を改善するが、過度の摩擦は回避策を促し、有益な展開を遅らせる。

答えは最大限の制限ではない。職員が承認済みの経路を選びたくなるほど迅速であり、重大な用途には十分な精査を行えるほど厳格な審査体制である。

したがって、応答性はガバナンス上の統制となる。低リスクの要約ツールの承認に数か月かかるなら、正式なプロセスは人々の実際の働き方との関係を失っていく。

リーダーは、影響の大きさに基づいて審査レーンを設定すべきだ。低リスクの用途には標準条件を適用できる一方、権利、適格性、執行、安全、または雇用に影響するシステムには、より深い評価を行う。

文書化された導入が機能するのは、文書化された経路が利用可能なままである場合に限られる。そうでなければ、インベントリは実際に稼働している組織ではなく、リーダーが存在してほしいと願う組織を記録することになる。

AIインベントリがそれでも誤った安心感を生みうる理由

システムを見つけることは必要だが、インベントリは、そのシステムが公正で、安全で、正確で、適切に統治されていることを証明するものではない。

台帳はコンプライアンスの成果物になりうる。部門が項目を提出し、中央スタッフが一覧を公表すると、誰もが最も重要な作業は完了したと考えてしまう。

その項目は承認済みの目的を記載していても、実際の利用を示していない可能性がある。ベンダーを特定していても、下請け事業者、モデル提供者、データソース、または外部プラグインを省いているかもしれない。

また、自己申告に依存する場合もある。職員や請負業者は認識していない機能を開示できず、ベンダーもすべての依存関係を明確な形式で示さない可能性がある。

正確な項目であっても、すぐに古くなる。システムは社内文書の下書きから住民向け通信の生成へと拡大しうる。パイロットは、正式な意思決定の節目を経ずに通常のワークフローとなりうる。

こうした制約は、インベントリを無用にするものではない。発見を所有責任、評価、監視、インシデント対応につなげる必要がある理由を示している。

記載された利用にはすべて、説明責任を負う事業責任者が必要だ。その人物はすべてのモデルパラメータを理解する必要はないが、目的、結果、およびシステムを停止する条件を理解していなければならない。

技術的な所有責任は別のものだ。情報技術部門やベンダーがプラットフォームを維持していても、プログラム担当部署は、その出力がどのように公的な意思決定へ組み込まれるかについて責任を負い続ける。

したがって、意味のある記録は両方の役割を特定する。そうしなければ、プログラム側は技術部門を責め、技術部門は単にツールを提供しただけだと主張できてしまう。

影響評価は次の層を提供する。影響を受ける集団、予見可能な被害、データ品質、テスト、不服申立て手続き、人間による監督、自動化以外の選択肢を検討する。

しかし、導入前に行う評価は依然として予測にすぎない。実際の性能は、利用者の行動、変化するデータ、運用上の圧力、そしてシステムに到達する事例に左右される。

監視では、導入後にこうした前提を検証しなければならない。行政機関は、誤りのパターン、上書き、苦情、処理結果、セキュリティインシデント、関連する集団間の差異を追跡すべきだ。

公的な透明性は、さらに別の制約を加える。行政機関は、セキュリティ上機微な詳細や保護対象の個人データを公表せずに、住民が重大な用途を理解できるだけの情報を開示すべきである。

経済協力開発機構は、公的信頼が一部には、政府が新興技術を責任を持って規制できると人々が信じられるかどうかに依存すると強調している。同機構の公的信頼に関する調査結果は、ガバナンスの質と公共部門AIに対するより肯定的な見方を結び付けている。

透明性だけでは、その信頼を得ることはできない。住民が後になって、一覧にないシステムが法執行、雇用、またはサービスへのアクセスに影響していたと知れば、公的一覧は信頼性を失う。

正確性も、インベントリの規模以上に重要だ。曖昧な項目が200件ある法域が、実際の統制に結び付いた正確で最新の記録が40件ある法域より適切に統治されているとは限らない。

そのため、行政機関間の比較は誤解を招きうる。件数の増加は、導入の加速、報告の改善、定義の拡大、またはそのすべてを示している可能性がある。

報告された利用が3,600件を超えた連邦レベルの増加にも、同じ注意が必要だ。この数値は活動と可視性の向上を示すが、行政機関全体での完全性や質を確立するものではない。

2026年に公表された独立研究は、複数の連邦開示制度を調査し、政府がAIをどのように構築または導入しているかを単独で完全に記述する制度はないと結論付けた。この知見は、成熟した報告構造であっても関連情報が断片化しうることを示唆している。

もう一つのリスクは、対象範囲の膨張だ。インベントリがあらゆる基本的な自動ルールを捉える場合、審査担当者は重要度の低いツールに限られた注意を費やし、人々に実質的な影響を与えるシステムを見逃すおそれがある。

定義は回避を防げるほど広くするべきだが、リスク階層と組み合わせなければならない。発見は広く網をかけ、評価の資源は影響の大きさに従わせるべきだ。

行政機関は、組織の記憶も保持しなければならない。職員の離職、組織再編、契約満了により、システムとその当初の制約を理解していた人々が切り離される可能性がある。

インベントリには、意思決定、テスト結果、承認条件、インシデント、変更履歴を残すべきだ。新しい責任者に必要なのは、製品名と開始日だけではない。

知識の継続性は、複雑なAI支援業務を管理するあらゆる組織にとって重要だ。チームは、方針、評価、契約、運用上の証拠を結び付ける検索可能な技術ナレッジベースを維持することで、それを改善できる。

それでも、文書化が判断の代替になってはならない。よく整理された記録は審査が行われたことを示せても、審査者が適切な問いを立てたことまでは証明できない。

最も懐疑的な解釈にも注意を払う価値がある。インベントリプログラムは、可視化されたAIを統制下にあるように見せる一方で、観測されない利用が別の場所で続く可能性がある。

行政機関は、その可能性を検証すべきだ。中央インベントリをネットワーク活動、職員調査、調達データ、ベンダーの機能一覧と比較し、意味のある不一致を調査できる。

また、職員が安全に報告できる窓口を設けるべきだ。対応が自動的な処罰ではなくリスクの是正に重点を置く場合、職員は実験的な利用を開示しやすくなる。

最後に、リーダーは合計値とともに制約も公表すべきだ。信頼できるインベントリは、対象範囲、報告方法、更新日、除外事項、不確実性を説明する。

その誠実さはガバナンスを弱めるものではない。暫定的な記録が完全な地図と誤認されることを防ぐ。

Googleニュースの話題が過ぎ去った後に行政機関が注視すべきこと

次の試金石は、政府がインベントリに関する発表を、製品やワークフローの変化後も正確であり続ける、観測可能な統制へと転換できるかどうかだ。

最初のシグナルは、公的インベントリの質である。法令、行政方針、そして市民の期待が開示を促すため、より多くの法域が一覧を公表するだろう。

読者は項目数だけを見るべきではない。強い記録は、用途、責任を負う行政機関、目的、状態、リスク水準、人間による審査の役割を、住民が理解できる言葉で特定する。

ニューヨーク州のインベントリ指針は、州が政府機関全体で共通の報告期待を定める一例を示している。そのインベントリ指針は、利用中のシステムを特定し、選定されたデータへの公的アクセスを支援することに重点を置く。

公的記録がより具体的になり、時間の経過とともに比較しやすくなるなら、文書化された導入モデルは浸透しつつある。一覧が曖昧なまま、または一度しか現れないなら、可視性の問題は続いている。

第二のシグナルは、調達文言である。行政機関は、ベンダーに対し、AI機能、モデル提供者、学習または運用データの取り扱い、更新メカニズム、重要な変更を特定するよう求めるべきだ。

政府説明責任局は2026年4月、選定された連邦機関がAI調達から得られる教訓を体系的に収集していなかったと報告した。調達評価では、共有された学びを将来の購入改善に向けた重要なステップと位置付けている。

政府機関が再利用可能な契約条項やレビュー結果を整備するかどうかに注目したい。そうした動きがあれば、発見が単に事後説明に使われるだけでなく、機関によるテクノロジーの購入方法に影響していることを示す。

また、システム変更時に契約が機関へ通知と選択肢を与えているかも確認すべきだ。ベンダーが実質的なレビューなしにモデルを置き換えられる場合、昨日の評価はすぐに意味を失いかねない。

第3の兆候は、継続的な照合が行われている証拠だ。機関はインベントリを、IDログ、セキュリティツール、支出データ、ソフトウェア記録、職員からの報告と照合すべきである。

インベントリの拡大が自動的に失敗を意味するわけではない。発見の精度が向上している可能性もある。重要なのは、新たに見つかった利用に担当者、分類、是正措置が割り当てられているかどうかだ。

公開されるインシデント報告も、別の手がかりとなる。AI関連の問題が一件も報告されていない機関は、優れた統制を備えている可能性がある一方で、問題を検知・開示する経路が不足している可能性もある。

リーダーは、確認済みの被害だけでなくニアミスも追跡すべきだ。機密文書が未承認のアシスタントにアップロードされた場合、ベンダーが保存していなかった、あるいは住民に不利益な結果が生じなかったとしても、注意を払う必要がある。

Google Newsの見出しは、まもなく別のAI政策論争へ移るだろう。それでも運用上の問いは変わらない。機関は、自らの業務に影響を与えるシステムを特定し、その目的を説明し、誰がそれを停止できるかを示せるのか。

公務員にとって、この問いは機密情報をプロンプトに入力する前のツール選定を左右すべきである。テクノロジーの購入担当者にとっては、ベンダーの切り替えが難しくなる前の契約設計を左右すべきだ。

住民にとって、インベントリの品質は、責任あるAIに関する約束が実働する統制へと変わったかを判断する実用的な手段となる。公開リストが実際の利用を対象としているか、人間の説明責任を明示しているか、重要な更新を記録しているかを確認してほしい。

AIを見つけることが、ガバナンス・プログラムのすべてではない。それは、スローガンと証拠が交わる地点である。次のGoogle Newsの記事が失敗した自動判断を取り上げるとき、最も示唆的な事実は、そのシステムが被害を引き起こす前に当局者がその存在を把握していたかどうかになる。