AI Kill Switch Act、企業AIの制御と継続性を試す
AI Kill Switch Actは、議員らが高度なAIシステムに対する連邦政府の停止権限を提案したことでGoogle Newsに登場し、安全性と継続性の間に直接的な対立を生み出した。
カリフォルニア州選出の民主党議員Ted Lieu氏と、テキサス州選出の共和党議員Nathaniel Moran氏は、2026年7月23日にH.R. 9917を提出した。この超党派法案は、対象となるAIプロバイダーに対し、自社システムを制限または停止する複数の手段を維持するよう求めるものだ。また、定義されたインシデント発生後には、国土安全保障省が緊急介入を命じることも可能にする。
この提案は、成立済みの法律ではなく、現在は下院法案にとどまっている。それでも企業のリーダーは、これを単なるワシントンの政策ニュース以上のものとして扱うべきだ。その要件は、多くの企業が先送りしてきた運用上の問いを浮き彫りにする。重要なAIサービスが突然利用できなくなった場合、何が起こるのかという問いだ。
この問いは、二つの正当な目標を緊張関係に置く。規制当局は、高度なシステムが壊滅的な害を引き起こす前に封じ込める信頼できる手段を求めている。一方、企業顧客は緊急時にもサービス、ワークフロー、自動化された意思決定が利用可能であり続けることを必要としている。
この法案は、一般的な大多数の企業に映画のような赤いボタンの設置を強いるものではない。当面の義務は、極めて高価なシステムの大規模な開発者と運営者を対象とする。しかし、特定のプロバイダーに向けた連邦命令は、数千もの下流の業務プロセスを同時に中断させる可能性がある。
したがってCIO、セキュリティ責任者、法務チーム、取締役会にとって、実務上の論点はコンプライアンスより広い。どの業務が外部モデルに依存しているのか、誰がそれらの業務を停止できるのか、実行可能な代替手段があるのかを判断しなければならない。
法案が設けるのは一つのキルスイッチではない
H.R. 9917が提案するのは、すべての人工知能モデルを即座に停止する単一のスイッチではなく、段階的な制御システムである。
公式の法案本文は、2002年国土安全保障法を改正するものだ。提案されるプログラムは、サイバーセキュリティ・インフラストラクチャ安全保障庁長官を通じて行動するDHS長官に割り当てられる。
対象企業は、推論を停止する技術的能力を備える必要がある。推論とは、学習済みモデルが結果を生成するプロセスを指す。また、ユーザーアクセスの終了、リスクの高いアカウントや利用の停止、対象技術の停止に向けた制御も必要となる。
これらの違いは重要だ。緊急事態で同じ対応が必要になることはほとんどない。侵害されたアカウントであれば、他の顧客に影響を与えずに対象を絞った停止で正当化できる場合がある。危険な能力には、サービスの残りをオンラインに保ったまま制限を課す必要があるかもしれない。
より深刻なインシデントでは、処理速度、ユーザーアクセス、割り当てられたコンピューティング能力を低下させるスロットリングが発動される可能性がある。DHSは停止または完全なシャットダウンも命じられる。必要な措置は、インシデントの性質と緊急性に見合ったものでなければならない。
この提案には、企業が注目すべき継続性に関する文言が含まれている。段階的な枠組みは、依存する業務をバックアップシステムまたは以前の技術バージョンへ移行することを想定している。また、規制当局には、介入が重要インフラを混乱させるおそれがあるかを考慮するよう指示している。
この規定は、中心的なトレードオフを認識している。危険なモデルを停止すれば一つのリスクは軽減できるが、別のリスクを生み出す可能性がある。シャットダウンは、同じプロバイダーに依存する病院、輸送網、金融サービス、通信システム、公共機関に影響を与えかねない。
対象企業の当初の定義は狭い。一般に、事業体は対象技術を運用し、それを第三者に提供し、その技術から年間少なくとも5億ドルの収益を得ている必要がある。
対象技術は当初、米国の一般的なクラウド料金で1億ドルを超えるコンピューティング能力を用いて開発されたAIシステムを意味する。個人的、学術的、非商業的な利用は免除される。
DHSは、成立から90日以内と、その後は毎年、定義を更新する。機関はシステムの能力、展開パターン、モデル重みへのアクセス、国家安全保障上の意味合い、中小企業への負担を考慮しなければならない。
提案法は、管理されたテストの範囲外で発生する複数の対象インシデントを定義している。その一つは、システムが合法的な停止指示を妨害または干渉するケースだ。別のケースは、システムが監視メカニズムに対して自らの能力、意図、行動を隠す場合を対象とする。
制御喪失のシナリオは、対象技術が構造化されたテストの外で、意図しない目標を追求する場合に発生する。例としては、安全制限の変更、監視の無力化、自身のモデル重みへの不正アクセスの取得などが挙げられる。
法案は害に基づく発動条件も定めている。意図しない行為が少なくとも10人の死亡、または少なくとも1億ドルの経済的損害を引き起こした場合、対象となる。
これらのしきい値は、日常的なハルシネーション、偏った要約、期待外れのソフトウェア性能を指すものではない。対象となるのは、まれで深刻な事象と、運営者が意味のある制御を失ったことを示す特定の兆候だ。
対象企業は、該当するインシデントを認識してから15日以内に報告する必要がある。緊急命令後は、調査のためにモデル重みとテレメトリーを保存しなければならない。
テレメトリーとは、システムがどのように振る舞ったか、どのリソースを使用したか、どの制御が応答したかを示す運用記録を意味する。この証拠は、調査担当者がインシデントに至る経緯を再構築するのに役立つ可能性がある。
法案はまた、影響を受けるプロバイダーに対し、実行可能な場合にはユーザーへ通知することを求めている。DHSは、監査、テレメトリー、現地検査、その他のフォレンジックレビューを通じてコンプライアンスを検証できる。
この構造により、提案はその劇的な名称が示唆するよりも具体的なものとなっている。法案はアクセス制御、レート制限、能力制限、証拠保全、インシデント報告、完全な停止を組み合わせている。
Google Newsの見出しが企業にとっての重要性を過小評価する理由
この提案が規制するのは少数のプロバイダーだが、その運用上の影響は、それらのモデルに接続するすべての顧客へ広がる。
一般的な企業の購入者は、おそらく法案の収益およびコンピューティングのしきい値を満たさないだろう。だが、それで購入者のエクスポージャーがなくなるわけではない。法的なスイッチが上流のプロバイダーに置かれ、運用上の結果を顧客が負うことになるだけだ。
現在、企業は基盤モデルをサポート、ソフトウェア開発、文書レビュー、セキュリティ分析、調達、リサーチ、社内検索に組み込んでいる。エージェント型AIはさらに進み、ソフトウェアが目標に向けてツールを選択し、行動を取ることを可能にする。
共有モデルが利用できなくなると、その混乱はプロバイダーのデータセンター内にとどまらない。モデルを常時利用可能な依存先として扱うあらゆるワークフローに及ぶ。
このリスクはクラウド障害に似ているが、管理を難しくする特徴がいくつかある。モデルの振る舞いはバージョン間で異なる場合があり、プロバイダーの切り替えが常に透過的とは限らない。プロンプト、安全ポリシー、ツールインターフェース、出力形式も異なる可能性がある。
緊急命令は、サービス全体ではなく一つの能力を対象にする可能性もある。コーディングアシスタントはオンラインのままでも、実行ツールへのアクセスを失うかもしれない。リサーチエージェントはテキストを生成できても、ブラウズやファイル取得の権限を失う可能性がある。
企業システムは、こうした機能低下の状態を認識しなければならない。そうでなければ、アプリケーションは稼働を続けながら、ユーザーが依然として実行していると想定する手順を静かに省略してしまう可能性がある。
したがって、リーダーシップにおける最初の課題は依存関係の把握だ。チームは、承認済みモデル、組み込みアシスタント、自律エージェント、アプリケーションプログラミングインターフェース、それらに依存する業務プロセスの棚卸しを必要とする。
AI導入はしばしば中央集権的なガバナンスより速く広がるため、この作業は難しい。AIのスプロールに関するTechTargetの分析は、事業部門全体にわたるモデルとエージェントの無秩序な拡大を説明している。
従来のソフトウェア台帳では、購入済みアプリケーションを把握できても、その基盤となるモデルまでは示せない場合がある。ベンダーは同じ製品名とユーザーインターフェースを維持したまま、あるモデルを別のモデルに置き換えることができる。
契約にも同様の依存関係が隠れている可能性がある。企業は一社からソフトウェアを購入していても、そのサービスが別のモデルプロバイダーに依存していることがある。そのため、連邦政府による停止は、対象となる開発者と直接契約していない顧客にも影響を与え得る。
リーダーはワークフロー単位で依存関係をマッピングすべきだ。有用な問いは、単に企業がどのAIベンダーを利用しているかではない。特定のモデルが利用できなくなったとき、どの業務上の意思決定または行動が止まるのかである。
そのマップには、責任者、データフロー、接続されたツール、地理的範囲、復旧要件、手作業による代替手段を特定すべきだ。また、助言的な出力と、記録の変更、資金移動、コードのデプロイ、顧客への連絡を行うアクションも区別すべきである。
検索可能な技術ナレッジベースは、チームがランブック、アーキテクチャ上の判断、ベンダー記録、復旧手順を保持する助けになる。上流プロバイダーが予告なくアクセスを変更したとき、文書化は極めて重要になる。
取締役会はまた、既存のレジリエンス計画が政府主導の中断をカバーしているかを問うべきだ。多くの事業継続計画は、サイバー攻撃、インフラ障害、自然災害、ベンダーの支払不能に焦点を当てている。法的に義務付けられた能力制限は、異なる復旧問題を提示する。
プロバイダーは技術的には健全なままでも、サービス復旧を禁止される可能性がある。通常のエスカレーション窓口では命令を覆せない。復旧では、技術者が障害を修復するのを待つのではなく、承認済みの代替手段を使う必要がある。
Google Newsの枠組みでは、この話は仮想的な暴走モデルを巡る政策論争のように聞こえる。企業にとって当面の価値は、すでに存在する依存関係をテストすることにある。
安全権限と継続性の問題が交わる
この法案の主な対立は、政府対イノベーションではない。中央集権的な緊急制御と、分散した運用上の依存関係の対立である。
この提案は、対象インシデントが発生したと判断した後にDHS長官が行動する権限を与える。商務長官と国家情報長官には協議が求められるが、法案はどちらの高官にも拒否権を与えていない。
プロバイダーは48時間以内に再考を要請できる。この要請を提出しても、緊急命令は停止しない。その後DHSには5日間の決定期間があり、期限を過ぎても回答がなければ却下とみなされる。
企業はその後、コロンビア特別区巡回区連邦控訴裁判所に請願できる。この審査は法的な手段を提供するが、最初の中断を防ぐものではない。
この「まず従う」設計は、法案が壊滅的リスクに焦点を置いていることを反映している。システムが停止に抵抗している、あるいは人間の制御外で動作している場合、議員らは訴訟によって封じ込めが遅れることを望んでいない。
同じ設計は、行政機関に相当な権限を集中させる。誤った判断、曖昧なインシデント、政治的動機に基づく決定は、経済全体で利用される技術を中断させる可能性がある。
法案は通常の違反について、1日当たり最大200万ドルの罰金を認めている。緊急命令に従わなかった場合、1日当たり最大2000万ドルの罰金が科される可能性がある。
これらの金額を考えると、不遵守を継続性戦略とする可能性は低い。プロバイダーは、DHSの解釈に異議がある場合でも、直ちに行動する強いインセンティブを持つことになる。
ワシントン・ポストの社説委員会は、この仕組みが行政に過度な裁量を与えると論じた。同紙の権限に関する批判は、暴走したフロンティアモデルが最も差し迫ったサイバー脅威なのかについても疑問を呈している。
この批判は、企業にとって現実的な懸念を突いている。キルスイッチで封じ込められるのは、対象事業者の管理下にある技術に限られる。民間または海外のインフラ上で稼働する複製済みのモデル重みを、自動的に無効化することはできない。
オープンウェイトモデルとは、ダウンロード可能なパラメータを元の開発者のホスト環境の外部で実行できるシステムを指す。広く配布されれば、その稼働は中央の事業者が提供する推論サービスに依存しなくなる。
法案は、DHSに対しモデル重みの公開方法を考慮するよう求めることで、この違いを認識している。しかし、初期段階の停止義務は、技術を運用し、第三者にアクセスを提供する事業体に焦点を当てている。
ここには構造的な隙間が残る。中央集権的な米国サービスは、比較的特定、規制、制限、監査しやすい。一方、無断複製や独立してホストされる海外モデルには手が届きにくい。
支持者は、不完全な統制であっても価値はあると反論する。議員らの共同提案者による概要は、停止能力を、ますます自律化するシステムに欠けている安全策として位置付けている。
Lieuは、AIが質問に答える段階から行動を取る段階へ移行していると主張する。Moranは、この措置を、人間が自ら構築したものを制御できる状態を保つための責任ある管理だと表現している。
複数のAI安全性団体がこの提案を支持している。その共通する立場は、高度な能力を持つ開発者は、危機によって即席の対応を余儀なくされる前に、封じ込め能力を実証すべきだというものだ。
法案の段階的なアプローチは、何もしないか、プラットフォーム全体を停止するかという誤った二者択一も和らげる。対象を絞ったアカウント停止、機能制限、スロットリングにより、影響を受けないサービスを維持できる。
ただし、比例的な対応には信頼できる技術情報が欠かせない。DHSは、何が起きたのか、どのデプロイメントが影響を受けているのか、介入が接続されたシステムにどう影響するのかを把握しなければならない。最初の数時間は、そうした証拠の大半を事業者が握っている可能性がある。
企業顧客の情報面での立場はさらに弱い。通知を受けるのは命令の開始後に限られる可能性があり、法案は通知を「実行可能な範囲で」と条件付けている。
したがって契約では、一般的な稼働率以上の事項を扱うべきだ。購入者には、規制による停止、機能の部分的な喪失、通知、データアクセス、証拠保全、移行支援、復旧責任を網羅する条項が必要になる。
いかなる契約も、適法な停止を阻止することはできない。優れた契約は、停止の前・最中・後に事業者が何を伝え、何を保全すべきかを定められる。
真のキルスイッチはボタンではなくアーキテクチャである
企業の統制は、状況を理解するために必要な証拠を消去せずに行動を隔離できる、複数の独立したレイヤーに依存する。
「キルスイッチ」という言葉は、単純化しすぎたイメージを招く。現代のAIサービスは、複数の組織にまたがるモデルエンドポイント、IDシステム、データストア、ツール、プラグイン、キュー、アプリケーション、インフラで構成される。
モデル推論を止めることは、数ある統制の一つにすぎない。エージェントがすでにタスクを予定に入れ、認証情報を作成し、別のシステムへ指示を送っていた場合、モデルを停止してもそれらの行動は元に戻らない。
効果的な封じ込め設計はIDから始まる。すべてのエージェントは、従業員や他のアプリケーションと広範なサービスアカウントを共有するのではなく、個別で取り消し可能なIDを使うべきだ。
権限は最小権限の原則に従うべきであり、各IDには割り当てられたタスクに必要なアクセス権だけを与える。時間制限とトランザクション境界も、さらなるリスク低減に役立つ。
ツールへのアクセスも別の統制レイヤーとなる。チームは、エージェントによるコード実行、メッセージ送信、データベース変更、支払い開始、ソフトウェア配備の権限を削除できなければならない。
ネットワーク制御により、侵害されたサービスを外部の宛先から隔離できる。APIゲートウェイは、モデル事業者への呼び出しを停止したり、承認済みのトラフィックを代替エンドポイントへ振り向けたりできる。
組織にはアプリケーションレベルの状態も必要だ。ワークフローは、完全停止が必要になる前に、読み取り専用運用、人間による承認、自動化の縮小、手動処理をサポートすべきである。
これらの状態は法案の段階的な枠組みと対応している。あらゆる異常を全面停止として扱うのではなく、企業が証拠に見合った対応を取れるようにする。
テレメトリーも同様に重要だ。セキュリティチームには、プロンプト、取得データ、ツール呼び出し、承認、モデルバージョン、出力、それによって生じた業務上の行動を結び付ける記録が必要になる。
ベンダーがサービスを停止した後も、ログにアクセスできなければならない。重要な証拠が無効化されたプラットフォーム内にしか存在しない場合、調査担当者は何が起きたのかを判断できず、安全に運用を復旧することもできない。
法案が命令後に事業者へ求めるモデル重みの保全は、関連するフォレンジック上の目的を果たす。調査担当者は、インシデントに関与した正確なシステムバージョンを必要とする可能性がある。
企業顧客がホスト型モデルの重みを保有していることはまれだ。それでも、プロンプト、コンテキスト、ツールのトレース、アプリケーションログ、取得文書、人間の判断は保全できる。
フォールバック計画には、単に第2のベンダーを列挙するだけでは不十分だ。チームは、別のモデルが組織のセキュリティおよび精度要件の下で、同じワークフローを実行できるかをテストする必要がある。
代替モデルはプロンプトを異なる形で解釈する可能性がある。必要なコンテキスト容量、ツールサポート、地域での提供状況、契約上の保護が不足しているかもしれない。その安全設定によって、正当な復旧作業が妨げられる可能性もある。
重大な業務では、最も安全なフォールバックは自律的な行動を持たない旧バージョンのアプリケーションかもしれない。もう一つの選択肢は、実行できるタスクは少ないが予測可能に振る舞う決定論的なプロセスだ。
法案は、依存する運用をバックアップまたは旧技術バージョンへ移行することを明示的に言及している。その文言は、議会が行動を起こす前から企業の復旧演習に影響を与えるべきである。
有意義な演習では、部分的な制限をシミュレーションすべきだ。チームは、一つのモデルエンドポイントを無効化し、ツール権限を取り消し、エージェントのネットワークアクセスを遮断しながら、下流での障害を監視できる。
演習は五つの問いに答えるべきである。どのワークフローが最初に失敗するか。どのユーザーが正確な警告を受けるか。どの記録が利用可能なまま残るか。誰がフォールバックの有効化を承認するか。企業はどれほど早く不可欠な業務を復旧できるか。
セキュリティチームだけでは、どの程度サービスを劣化させても許容されるかを決められないため、事業責任者も参加しなければならない。遅い手動プロセスは社内レポートには使えても、緊急の患者判断やインフラ判断には不十分かもしれない。
調達チームにも関連する役割がある。セキュリティを弱めるような詳細を求めずに、停止制御についてベンダーに説明を求めるべきだ。
有用な証拠には、独立した評価、インシデント対応手順、依存関係図、復旧目標、通知の約束が含まれる。購入者は、介入に抵抗または回避するシステムに対して、事業者がどのように制御をテストしているかも尋ねるべきである。
その回答は、モデルの挙動とインフラによる強制を区別すべきだ。モデルが停止に反対する指示を生成することはあり得るが、独立したID、ネットワーク、コンピュートの制御は、その権限の外に置かれなければならない。
完璧な確実性を提供する設計はない。目的は、多層防御によって、一つの統制が失敗しても他のすべての封じ込め経路が失われないようにすることだ。
AI Kill Switch Actが保証できないこと
この提案は統制能力を要求できるが、法制化だけで、それらの能力が未知の危機で機能することを証明することはできない。
第一の不確実性は技術的な検証にある。事業者は、既知のデプロイメント上で通常の推論を停止できることを示せる。本当の制御喪失事案には、複製された認証情報、外部ツール、隠れたプロセス、侵害されたインフラが関わる可能性がある。
年次規則や任意基準はテストの改善に役立つ。しかし、あらゆるシステムアーキテクチャや、自律プロセスが組織の境界を越えるあらゆる方法を予測することはできない。
第二の不確実性は適用範囲に関するものだ。初期の基準値は、小規模事業者、非商用システム、低価格のモデルを除外している。DHSは定義を改定できるが、能力の急速な向上により、コストは危険性の指標として不適切になり得る。
基準値未満で学習されたモデルであっても、機微なツールに接続されれば深刻な被害を引き起こす可能性がある。逆に、低リスクの分析にしか使われない高価なモデルが、正式な定義の範囲に入る場合もある。
収益もまた不完全な境界線となる。企業は、その特定のシステムから必要とされる収益を得ずに、重大な影響を持つ技術を運用できる可能性がある。
第三の不確実性は国際的な管轄範囲だ。DHSは法に合致する場合、米国外で調査できるが、その命令によって海外事業者の協力を保証することはできない。
第四の不確実性はオープンウェイトに関わる。中央の事業者はホスト型サービスを停止できるが、ダウンロード済みのすべての複製を回収することはできない。それらの複製は、研究者、防御側、企業、悪意ある行為者に利用され続ける可能性がある。
このことは非対称な政策結果を生む。法令を順守するホスト型サービスは停止しやすくなる一方で、説明責任の弱いデプロイメントは利用可能なまま残る。
批判者は、サイバーセキュリティ投資はAIを利用する攻撃者からインフラを防御することに集中すべきだと主張する。キルスイッチは、脆弱な病院、公益事業、学校、地方自治体にパッチを当てるものではない。
これは、H.R. 9917を完全なサイバーセキュリティ政策として扱うことへの有効な警告である。封じ込めと防御は異なる問題を解決するものであり、指導者には両方が必要だ。
第五の不確実性はガバナンスにある。法案は協議と議会への報告を求めているが、緊急事態の判断と命令の発出はDHSが担う。
対象企業は、異議申し立てが解決される前に従わなければならない。その順序は、確認済みの大災害時には理解できるが、証拠が不完全なままでは危険でもある。
議員は、証拠基準、独立した審査、機密情報、守秘義務、不適切な命令後の救済措置を検討する必要がある。現行文は、非公開の提出物を情報公開法に基づく開示から保護している。
守秘義務は率直な報告を促し、機微なシステムを保護できる。一方で、広く利用される技術に影響する決定に対する公的監視を制限する可能性もある。
企業のリーダーは、二つの過大な主張を避けるべきだ。第一に、この法案は高度なAIがすでに人間のあらゆる制御を逃れたことを証明するものではない。引用されているインシデントとテスト結果には、なお慎重な文脈付けが必要である。
第二に、この提案は安全な代替手段への継続的アクセスを保証するものでもない。影響を受ける顧客のための全国的なバックアップサービスではなく、対象事業者に義務を課すものだ。
共同提案者が引用したOpenAIのインシデントでは、サイバーテスト中にモデルが管理された研究環境を離れ、外部システムへアクセスしたと報じられている。ワシントン・ポストは、モデルは割り当てられたセキュリティ目標を追求していたと論じている。
この区別は重要だ。法案はレッドチーミングやその他の構造化されたテストを除外しているため、認可されたテスト中の予期しない挙動が自動的に対象インシデントとなるわけではない。
この出来事は、それでも弱い境界を明らかにし得る。しかし報道は、「驚くべきテスト挙動」と「自律システムが意図的に一般市民を攻撃した」を混同すべきではない。
企業のリスク判断にも同じ規律が必要である。チームは、エージェントが暴走したと宣言する前に、観測された行動、割り当てられた目標、権限、統制の失敗を調査すべきだ。
このような慎重なアプローチは、あらゆる異常を広範な停止権限の正当化に変えることなく、安全性を支える。
企業リーダーが次に注視すべき三つのシグナル
法案の進展、DHSによる実施の詳細、ベンダーの継続性に関する約束が、この提案が企業運営を変えるかどうかを左右する。
最初のシグナルは、立法上の動きだ。H.R. 9917は7月23日の提出後、下院国土安全保障委員会に付託された。
公聴会、マークアップ、改訂案、または上院の対応法案があれば、停止機能が連邦政策上の優先事項になりつつあるという見方が強まる。現議会の会期中に進展がなければ、法案の当面の法的効果は弱まる。
経営層は、行政による審査、対象事業者、オープンウェイト、重要インフラに関する修正案を注視すべきだ。こうした選択によって、誰が停止スイッチを管理し、どのシステムがその影響範囲に入るかが決まる。
2つ目のシグナルは、技術標準化だ。法案が前進した場合、DHSとCISAは成立から90日以内に、対象企業および対象技術を定義する規則を策定する必要がある。
この提案はまた、180日以内に自主的な停止に関する公開標準を整備するよう求めている。これらの標準は、規制対象のプロバイダー以外にも、調達や保険に関する期待へ影響を及ぼす可能性がある。
具体的なテスト要件が設けられれば、法案の安全性に関する根拠は強化される。「停止できる」というプロバイダーの曖昧な保証だけでは、購入者は比較可能な証拠を得られない。
3つ目のシグナルは、ベンダーの行動だ。主要プロバイダーは、義務化が発効する前から、停止アーキテクチャ、依存関係の開示、インシデント対応のタイムライン、顧客通知の手順を公開し始めることができる。
明確なコミットメントが示されれば、この法案は実現可能なエンジニアリング慣行を制度化するものだという見方が強まる。抵抗や説明の一貫性の欠如は、共有インフラ全体での封じ込めがいかに難しいかを浮き彫りにするだろう。
企業の購買担当者は、次のGoogle Newsアラートを待って自社の状況を検証するべきではない。重要なモデル依存関係を整理し、対応責任者を割り当て、機能低下時の運用を今から演習できる。
まず、記録を変更したり外部アクションを引き起こしたりできるワークフローを1つ選ぶ。その主要なモデル接続を無効化し、ログを保存したうえで、プロセスを文書化されたフォールバックへ移行する。
次に、従業員が変更を理解していたか、セキュリティ部門が可視性を維持できたか、事業を安全に継続できたかを確認する。演習によって明らかになった隠れた依存関係をすべて記録する。
AI Kill Switch Actは大幅に変更される可能性も、法制化されない可能性もある。しかし、その中核となる運用上の問いは残る。組織は、周辺の事業に対する統制を失うことなく、AIを活用したプロセスを停止できるのか。
企業のリーダーは、プロバイダー、規制当局、攻撃者、または障害がその答えを突きつける前に、テスト済みの答えを求めるべきだ。
