National GridのAI開示命令、公益事業の自動化を州の監督下に
National Gridは、AIがすでに日常的な公益事業運営に浸透しているなか、ニューヨーク州の公益事業で使用するすべての人工知能システムを60日以内に開示しなければならない。9月17日の命令により、National GridのAI開示は単なる技術資産の棚卸しを超えるものとなった。顧客対応、保守、点検、そして場合によってはその他の規制対象業務に影響を及ぼすシステムを、公益事業者が説明できるかどうかが問われている。
ニューヨーク州公益事業委員会は、公益事業者およびその他の規制対象組織におけるAIを検討するため、事件番号26-M-0552を開始した。この調査はNational Gridの子会社に加え、その他の電力、ガス、水道事業者を対象とする。企業はAIの利用状況と、それを統制する方針、手順、プロトコルを特定しなければならない。
対立点は明快だ。公益事業者は、故障の検知、修理の優先順位付け、顧客からの依頼の迅速な処理を実現する自動化を望む。規制当局は、その出力が不可欠なサービスに影響する場合でも、システムが安全で、検証可能で、説明責任を負う状態にあることを示す証拠を必要としている。委員会が開示から着手するのは、信頼できるインベントリなしには、どちらの側もこのトレードオフを評価できないためだ。
ニューヨーク州が求めるのはAIへの約束ではなくインベントリ
この命令は、AI監督を自主的なガバナンスから正式な規制審査へと変える。
委員会のAI利用に関する案件は、広範な名称を掲げている。公益事業者およびその他の規制対象組織の運営における人工知能を検討するものだ。この範囲が重要なのは、AIが中央で承認されたモデルだけでなく、多様な経路から公益事業者に導入され得るためである。
公益事業者は、機械学習システムを社内で構築するかもしれない。アップデートの際にひそかにAI機能が追加されたソフトウェアを購入することもある。委託業者が設備点検に自動分析を使用する可能性もある。顧客対応のベンダーは、規制対象の公益事業者が直接運用していないモデルを通じて、通話の要約や回答の提案を行うこともある。
そのためニューヨーク州のアプローチは、60日間の要件によれば「すべての利用」から始まる。公益事業者は、こうした利用を取り巻く統制についても説明する必要がある。製品名の一覧だけでは、誰が各システムを承認したのか、どのデータを扱うのか、いつ人間が出力を確認するのかを説明できない。
委員会は、顧客サービス、予知保全、施設の安全点検を、現在の公益事業における活用例として挙げた。これらはリスクの性質が大きく異なる。
顧客対応アシスタントは、請求や支払い支援について誤った回答を提供する可能性がある。予知保全モデルは設備リスクを誤分類し、作業の優先順位に影響を与え得る。点検システムは目に見える損傷を見落としたり、誤警報を出して作業員を誤った資産へ向かわせたりする可能性がある。
影響は、各出力がどのように使われるかにも左右される。人間による確認のために画像を強調表示するだけのモデルと、保守スケジュールを自動的に変更するソフトウェアではリスクが異なる。返信文を作成するチャットボットと、顧客アカウントに関する操作を開始することを許可されたチャットボットも同じではない。
この違いがあるため、この調査を公益事業AIの禁止と読むべきではない。委員会はAIシステムが本質的に受け入れられないとは表明していない。どこで稼働し、どのような権限を持ち、どの安全策が伴うのかを問うている。
この期限は公益事業者に厳しい課題を課す。60日は既知の導入事例を集めるには十分な長さだが、内部追跡の弱さを露呈させるには短い。大規模組織では、ソフトウェア調達、実験、ベンダー管理が多くの事業部門に分散していることが多い。
National Gridが特に重要なのは、その名称がニューヨーク州内の複数の規制対象組織にまたがるからだ。したがって州の審査は、AIガバナンスが企業構造、サービス地域、運営機能をまたいで一貫して機能するかを検証できる。
他の公益事業者も同じ基本的な課題に直面している。Con Edison、Central Hudson、National Fuel Gas、New York State Electric and Gas、Rochester Gas and Electric、Orange and Rockland、そして規制対象の水道事業者はいずれも、複雑な技術サプライチェーンに依存している。
最初の成果は、どの企業がAIを最も有効に使っているかを証明するスコアカードではない。各公益事業者が、自らの責任の下で稼働するシステムを見つけ出し、説明できるかを示す基準線となる。
National GridのAI開示がチャットボットを超える理由
開示が最も難しいのは、従業員がもはや独立したAI製品として認識していない組み込み型モデルだ。
「人工知能」という言葉は、生成AIアシスタント、予測モデル、コンピュータービジョン、異常検知、最適化ソフトウェアを指し得る。これらの技術は、単一のアーキテクチャも単一の障害モードも共有していない。有用なインベントリは、機能と結果に基づいて分類しなければならない。
National Gridが公表しているプロジェクトはその幅広さを示しているが、他地域で発表されたプロジェクトは、ニューヨーク州の子会社が現在利用しているものを証明するものではない。英国では同社は、送電インフラの画像を撮影する自律型ドローン点検について説明している。その後、AI支援の分析が設備状態の評価に役立つ可能性がある。
National Gridのあるプロジェクトでは、ドローン画像と機械学習を使って鋼製送電鉄塔の腐食を特定している。その点検プログラムでは、腐食がどのように進行するかを予測するために過去データも活用している。同社は、このプロセスによって手作業での画像確認を減らし、保守計画を改善できると見積もっている。
これは現実的な運用シナリオだが、開示に文脈が必要な理由も示している。規制当局は、モデルが単に画像を順位付けするだけなのか、状態評価を決定するのかを知る必要がある。また、誤差のしきい値、確認プロセス、データ来歴、エスカレーション規則も必要となる。
データ来歴とは、情報がどこから来て、モデルに届くまでにどのように変化したかを表す。点検システムの場合、カメラの仕様、画像のタイムスタンプ、資産識別子、過去の保守記録、学習時に使用した人間によるラベルなどが含まれ得る。
ある鉄塔設計、気候、撮影プロセスで学習したモデルは、別の環境では異なる性能を示す可能性がある。一見正確に見える平均値も、まれな欠陥に対する性能の弱さを隠すことがある。そうした欠陥は、より大きな安全上の影響を伴うため、最も重要である可能性がある。
顧客サービスでは別の問いが生じる。生成AIは通話を要約し、担当者の回答案を作成し、方針に関する情報を取得できる。しかし、顧客の料金体系、アカウント状況、規制上の保護と一致しないにもかかわらず、自信に満ちた回答を生成することもある。
この状況では、開示はモデルが利用できる情報源を特定すべきだ。回答が承認済み文書に根拠づけられているか、顧客データが外部サービスに入力されるか、従業員が不確実性のシグナルを確認できるかを説明する必要がある。
信頼できる社内記録が重要なのは、方針、プロンプト、テスト結果、インシデント報告がそうでなければ部門間に散在するからだ。体系化されたAIナレッジベースは、正式なコンプライアンスシステムを置き換えない限り、この作業を支援できる。
予知保全には別の仕組みがある。モデルはセンサーの測定値と過去の故障を用いて、どの資産に注意が必要かを推定できる。その価値は、限られた作業員と保守予算を、より高リスクの設備へ振り向けることにある。
ただし、誰かが正式に権限を委譲する前であっても、推奨は運用に影響を及ぼし得る。従業員は、一貫して有用な順位付けを信頼するようになる場合がある。時間が経つにつれ、名目上は助言的なモデルが、ほぼ自動的に意思決定を形作ることがある。
これは自動化バイアス、すなわち反する証拠があっても自動化された推奨を優先する傾向として知られる。このリスクに無謀な従業員は必要ない。チームが時間的制約、複雑なデータ、パフォーマンス目標に直面することで生じ得る。
したがって、十分なNational GridのAI開示は、技術上の権限と実際の影響力を分けて扱うべきだ。モデルには作業を承認する権限がなくても、従業員が最初に目にする選択肢を決定する可能性がある。インターフェース設計は、「任意」の推奨を異議申し立てしにくいものにし得る。
ベンダー製ソフトウェアは別の複雑さを加える。公益事業者はエンタープライズプラットフォームの名称を知っていても、その内部で使われるすべてのモデルを把握していない可能性がある。更新によって自動化機能が導入されることもあり、下請け業者が独自のAIツールに依存することもある。
州の命令は、規制対象企業に説明責任を戻す。公益事業者は、自社のデータサイエンティストが構築したシステムだけでインベントリを終えるなら、顧客、安全、サイバーセキュリティのリスクを完全に評価できない。
公益事業のイノベーションは説明責任ある統制と競わなければならない
ニューヨーク州は、AIの運用上の利点と公共に対する説明責任に必要な証拠を両立させるよう、公益事業者に迫っている。
公益事業AIの意義は理解しやすい。電力、ガス、水道のシステムは、設備、気象、顧客、運用に関する大量のデータを生成する。モデルは、人間が同じ速度で確認するのが難しいパターンを特定する助けとなる。
点検ツールは危険な高所作業を減らし、専門家が不確実なケースに集中できるようにする。予測システムは、人員配置や設備計画を支援できる。顧客対応ツールは、通話中に担当者が複雑な情報を見つけるのを支援できる。
公益事業者は、需要の増加とより複雑な電力網の状況にも直面している。調査に合わせて発表されたNational Grid Partnersの調査によると、調査対象となった公益事業のイノベーション責任者の78%が、接続需要に対応するため少なくとも1つのAIアプリケーションを導入または運用化していた。同社がこの調査を後援しているため、この数値は独立した国勢調査ではなく、業界のシグナルとして扱うべきである。
こうした潜在的な利点は、全面的な禁止がそれ自体のリスクを生む理由を説明する。有用な検知ツールを拒めば、公益事業者はより遅いプロセスに依存することになり得る。重要なのは、特定のシステムがその役割に適した統制の下で意思決定を改善するかどうかだ。
ニューヨーク州の委員会はすでに、デジタルシステムを重要インフラの観点から捉えていることを示している。4月には、規制対象の電力、ガス、蒸気、水道事業者向けに、強制力を持つ公益事業サイバーセキュリティ規則を採択した。
これらの規則は、リスクベースのサイバーセキュリティプログラム、アクセス制御、認証手法、侵入検知、対応計画を求める。2026年6月1日に発効した。AI調査はその4カ月足らず後に始まった。
両者は関連しているが、置き換え可能なものではない。従来のサイバーセキュリティは、攻撃者がシステムまたはそのデータを侵害できるかを問う。AIガバナンスでは、認可されたシステムが通常利用のなかで不正確、不透明、または一貫性なく振る舞うかも問わなければならない。
モデルはハッキングされなくても失敗し得る。学習データが重要な状況を欠いている可能性がある。ベンダーの更新後に出力が変化することもある。従業員が検証済みの用途外で適用することもある。統計的予測が正しくても、欠陥のあるプロセスに組み込まれれば不公正な結果を生み得る。
委員会は特に、ハルシネーション、アルゴリズム上のバイアス、透明性の問題、プライバシーリスク、設定ミス、サイバー攻撃、機能的な脆弱性を指摘した。機能的な脆弱性とは、既知の状況では十分に機能する一方で、状況が変化すると急激に性能が低下することを意味する。
これらの懸念は、連邦政府のAIリスクフレームワークと一致している。NISTはAIリスク管理を、ガバナンス、マッピング、測定、管理を軸に整理している。また、有効性、セキュリティ、透明性、プライバシー、公平性を、個別のチェック項目ではなく相互に関連する特性として扱う。
NISTのフレームワークは引き続き任意だが、ニューヨーク州の調査は業界規制当局によるものだ。この違いは重要である。公益事業者の提出書類は、一般的なリスク原則を、特定のシステム、説明責任を負う経営幹部、運用手順、公共サービス上の義務へと結び付けられる。
重要インフラでは、許容される立証責任の水準も変わる。写真フィルターの推薦機能と設備点検モデルは似た技術を用いる可能性があるが、誤った結果がもたらす影響は異なる。システムが安全性、信頼性、請求、あるいは不可欠なサービスへのアクセスに影響を及ぼす場合、規制当局がより強固な検証を求めるのは妥当である。
連邦政府も同様の区別を設けている。国土安全保障省の重要インフラ向けフレームワークは、サイバーセキュリティ管理、顧客データの保護、障害モードの評価、実質的な透明性を求めている。
ニューヨーク州の調査は、これらの原則を公益事業者に特化した監督へ移す可能性がある。モデルを誰が承認するのか、性能をどの頻度で試験するのか、システムが許容できない出力を生成した際に何が起こるのかを問うことができる。
したがって中心的な緊張関係は、National Gridと他の公益事業者との対立ではない。公益事業におけるイノベーションと、説明責任ある統制との対立である。
モデルがより多くのデータと意思決定にまたがって運用されるほど、公益事業者は価値を得る。権限が制限され、記録が利用可能であり、障害が是正措置につながるとき、規制当局は確信を得る。両者の目的は両立し得るが、企業がその方法を示せる場合に限られる。
この開示プロセスは、エンジニアリングチームと同じくらいガバナンスチームにも圧力をかける。法務担当者は命令を解釈しなければならない。調達チームはベンダー機能を特定する必要がある。セキュリティ専門家はデータフローを整理する必要がある。事業責任者は、意図された利用ではなく実際の利用を説明しなければならない。
強力な回答は、こうした視点を結び付ける。弱い回答は、洗練されたAIポリシーと不完全な運用インベントリを並べるだけに終わる。
開示だけではAIシステムの安全性を証明できない
インベントリは可視性を生むが、モデル性能を検証したり、有害な導入を防いだりするものではない。
委員会の命令は、把握されていないシステムを監督することはできないため、必要な第一歩である。しかし、完全なリストであっても統制の弱さを隠し得る。州は、文書化されたガバナンスと、実際に試験されたガバナンスを区別する必要がある。
ポリシーでは、影響の大きい出力について人によるレビューを義務付ける場合がある。しかし、その記述だけでは、レビュー担当者にモデルへ異議を唱えるための十分な時間、専門性、情報があるかは分からない。また、異議が人事評価に影響するかどうかも示さない。
同様に、ベンダーが、その公益事業者のデータや運用条件でシステムを試験せずに精度を宣伝することもあり得る。平均的なベンチマーク結果は、暴風雨、設備劣化、異例の料金口座紛争、不完全なセンサー網の下での信頼性を裏付けるものではない。
したがって委員会は、各システムの意図された目的と、合理的に予見可能な誤用を検討すべきである。どの結果を試験したのか、どの集団または運用条件が過小評価されていたのか、是正を誰が担うのかを問うべきだ。
生成AIシステムには、流暢な言語表現が事実誤認を隠し得るため、特別な精査が必要である。NISTはこうした誤りを「コンファビュレーション」と呼び、自信を持って提示される虚偽または誤った内容を指す。公益事業者の顧客サービスでは、洗練された文面が、誤ったポリシー回答をより説得力のあるものにしてしまう可能性がある。
コンピュータビジョンシステムは別種の不確実性をもたらす。その失敗は、照明、カメラの角度、天候、設備の種類、画像圧縮に左右される場合がある。人間のレビュー担当者には、モデルが生成したラベルだけでなく、元の証拠へのアクセスが必要だ。
予測システムは、設備、気候パターン、作業慣行、センサーネットワークの変化に伴って性能が低下する可能性がある。これはモデルドリフトであり、現実世界の条件が開発時に使用したデータから離れることで性能が低下する現象である。
命令は機密保持の問題も提起している。詳細なシステム図や脆弱性情報は、無差別に開示されればセキュリティリスクを生み得る。ベンダーは、モデル文書に専有情報が含まれると主張する可能性もある。
委員会は、攻撃者のための地図を作らずにリスクを評価できるだけの詳細を得る必要がある。そのためには、公的提出書類と保護対象の提出書類を慎重に分けることが求められる可能性が高い。しかし過度な秘匿は、顧客や独立専門家が重要な利用事例を評価することを妨げる。
AIが人々に直接影響を与える領域では、公共の透明性が最も重要である。顧客は、自動化システムが請求サポート、苦情の振り分け、サービス利用資格、安全に関する連絡に影響している場合、それを知るべきである。また、適格な担当者へ実際に連絡できる手段も必要だ。
調査の広範さは、別の不確実性を生む。「すべてのAI」は明確に聞こえるが、公益事業者が数十年にわたる分析ソフトウェアにこれを適用すると事情は複雑になる。従来の統計モデル、ルールベースの自動化、機械学習、生成AIは重なり合う可能性がある。
定義が狭すぎれば、影響力のあるシステムが漏れる。無制限の定義では、スパムフィルターや日常的なオフィス機能を含む低リスクのツールによって規制当局が埋もれてしまう可能性がある。初期インベントリの後には、リスクベースの分類がより良い道筋を示す。
州は、結果の重大性と自律性によってシステムを分類できる。影響の小さい文章作成支援ツールが、現場運用に接続されたソフトウェアと同じ精査を受けるべきではない。安全システムには、社内プレゼンテーションの体裁を整えるツールより強い証拠要件を課すべきである。
National Gridや他の公益事業者は、本番環境に入らなかった実験的システムも特定する可能性がある。そうしたパイロットも、データやアクセスの取り決めがリスクを生み得るため、依然として重要である。ただし規制当局は、統制されたテストと実際に稼働する意思決定システムを区別すべきだ。
最も重要な懐疑的な指摘は、開示が測るのは組織の認識であり、安全性そのものではないという点だ。公益事業者は自らが使用するものを正確に把握していても、不十分な試験を適用し得る。逆に、初回提出書類が不完全であれば、導入済みシステムが害を及ぼしたことを証明せずに、インベントリ上の弱点を明らかにする可能性がある。
ニューヨーク州は、開示されたシステム数を単純なランキングに変換することを避けるべきだ。報告数が多いことは、導入が広範であること、ガバナンスが優れていること、あるいはその両方を反映している可能性がある。システム数が少ないことは、抑制的な姿勢、不十分な発見、あるいは命令の狭い解釈を示している可能性がある。
有用な比較対象は統制の質である。規制当局は、指定された責任者、明確な目的、承認済みデータソース、試験結果、監視スケジュール、ベンダーの義務、人による上書き手順、インシデント記録を確認すべきだ。
廃止計画も検討すべきである。企業がシステムを承認できても、許容できない性能が確認された後に停止するプロセスを持たないなら、AIガバナンスは不完全である。
この調査はまだ、National Gridや他の指名された公益事業者がAIを誤用したことを立証していない。立証したのは、委員会が現在の導入状況を、構造化された監督を正当化するほど広範だと考えていることである。提出書類が公表されるにつれ、報道はその区別を維持すべきだ。
ニューヨーク州の調査に実効性があるかを示す3つのシグナル
次の段階では、National GridのAI開示が強制力ある監督モデルになるのか、それとも一度限りのインベントリ作業にとどまるのかが明らかになる。
最初のシグナルは、60日間の期限後に提出される公益事業者の書類の質である。最も強力な提出書類は、目的、データ、自律性、影響の重大性によってシステムを分類する。社内開発モデルと、ベンダー製品に組み込まれたAIの双方を特定するだろう。
公益事業者が実際のワークフローを記述するかに注目すべきだ。AIが「保守を支援する」とする提出書類は、ほとんど価値を持たない。有用な開示は、どの入力がモデルに入り、どの出力が生成され、その出力を誰がレビューし、どの行動につながり得るのかを説明する。
National Gridの提出書類は、同社がAI関連のインフラ技術を公に推進してきたため、とりわけ有益な情報となる。規制当局と顧客は、そのイノベーションに関する説明と、ニューヨーク州での事業について開示されたガバナンス慣行を比較できるようになる。
詳細な提出書類は、大手公益事業者が複雑な組織全体でAIを追跡できるという見方を強める。大まかな分類や繰り返される機密保持の主張は、その見方を弱めるだろう。
第2のシグナルは、委員会によるリスク階層の扱いである。規制当局は、すべてのシステムを同程度にレビューするのか、潜在的な害に応じて精査を強めるのかを決めなければならない。
信頼できるリスクモデルは、顧客の権利、公共の安全、電力網の信頼性、機微なデータを上位に置く。また、自律性も考慮する。行動を推奨するソフトウェアは、承認なしに実行を許可されたソフトウェアより直接的なリスクが小さい。
独立した検証、インシデント報告、変更管理、定期的な性能試験に関する要件に注目すべきである。こうした措置は、ニューヨーク州がAIのライフサイクル全体を通じて監督する意図を持つことを示す。
モデルやベンダーは変化するため、ライフサイクル監督は重要である。2026年11月に提出されたインベントリは、ソフトウェア更新、買収、新たなデータソース、事業利用の拡大後には古くなる可能性がある。委員会には、重要な変更を報告するためのルールが必要になる。
第3のシグナルは、この調査が強制力ある安全策を生み出すかどうかである。委員会は、開示内容を評価し、追加の保護措置やポリシーが必要かを判断すると述べている。そこには複数の可能な結果がある。
一般的なガイダンスを発行することも、定期報告を設けることも、サイバーセキュリティ検査にAI統制を加えることも、拘束力あるルールを提案することも可能だ。顧客向けシステムや安全関連システムに特化した期待事項を定めることもできる。
定期報告とリスクベースの統制へ進めば、この記事の中心的な判断はより強まる。開示は継続的な説明責任の仕組みへと変わる。フォローアップ義務なしに業界慣行を要約する報告書であれば、その結論は弱まる。
州は救済措置も明確にすべきである。規制当局には、システムが十分な証拠を欠く場合、顧客データを露出させる場合、承認された境界を超えて動作する場合に備えた選択肢が必要だ。選択肢には、是正計画、追加試験、利用制限、または停止が含まれ得る。
一方で公益事業者は、委員会の最終ポリシーを待つべきではない。開示期限は、一元的な説明責任あるインベントリを確立し、それを調達、サイバーセキュリティ、プライバシー、運用、顧客サービスの記録と照合する直接的な理由となる。
テクノロジーチームにとって、この実務的な教訓はニューヨーク州の公益事業者にとどまらない。組織がモデルの稼働場所や、そのリスクを誰が引き受けるのかを説明できない場合、AI導入を正当化することはより難しくなる。第三者が提供する機能を含め、文書化は導入に追随しなければならない。
企業の購買担当者にとって、この調査はあらゆるAI購入で問うべき事項を浮き彫りにしている。どのデータが組織外に出るのか。ベンダーはモデルの変更を説明できるのか。顧客はインシデント通知を受け取れるのか。出力は監査、異議申し立て、再現が可能か。
顧客にとっての重要な問題は救済手段である。自動化によって、請求の訂正、危険な状態の報告、決定への異議申し立てが難しくなってはならない。人によるレビューは、利用しやすく、実質的な権限を持つ場合にのみ価値を持つ。
National Gridに対するAI開示命令は、単純な要求から始まる。AIがどこで使われているかを規制当局に示すことだ。その永続的な重要性は、ニューヨーク州がその回答をどう扱うかにかかっている。
今後3カ月間は、公益事業者のインベントリの網羅性、委員会によるリスク分類、そして継続的な統制に関する提案の有無に注目したい。さらに、重要な業務でAIを導入するあらゆる組織に、より厳しい問いを投げかけるべきだ。規制当局から60日以内に完全かつ説明可能なマップの提出を求められた場合、その組織は提出できるだろうか。
