Warner AIセキュリティ法案、任意テストか連邦政府による管理かの選択を迫る
Mark WarnerはBrian Schatz、Andy KimとともにWarner AIセキュリティ法案を提出し、対象モデルの公開少なくとも45日前に連邦政府の審査を求めた。
正式名称を2026年人工知能リスク管理・セキュリティ法とするこの法案は、重大な国家安全保障上の能力を持つフロンティアモデルを対象とする。現在は主に任意で行われている監督を、義務的なテスト、執行可能な基準、インシデント報告、大規模な民事罰へと置き換える内容だ。
ここに中心的な対立がある。上院議員らは、最も高性能なシステムを安全に公開できるかどうかを企業だけが判断し続けることはできないと主張する。一方、ホワイトハウスと議会内の懐疑派は、米国のAI開発を鈍化させかねない連邦規則に抵抗してきた。
Warner、Schatz、Kimは9月24日、この対立を上院本会議に持ち込んだ。議会が再び休会に近づき、11月の選挙によって立法日程が限られるなかで、対応を求めていた。
この法案は、AI関連法案が幅広く提出される流れのなかで登場した。一部の議員は透明性要件、輸出規制、内部告発者保護、緊急停止機能を支持している。Warnerの法案は、公開前のプロセスに連邦評価担当者を組み込む点でさらに踏み込んでいる。
その行方は依然として不透明だ。この法案を提出したのは民主党議員3人である一方、関連するAI法案には超党派の共同提案者が集まっている。しかし、上院で可決されても、下院指導部やTrump政権からの反対が解消されるわけではない。
したがって、当面の論点は一つの法案にとどまらない。主要AI企業からの警告が、これらの企業が公開スピードを競う状況であっても、執行可能な監督を正当化するかどうかをWashingtonは判断しなければならない。
Warner AIセキュリティ法案が変えるもの
この法案は、フロンティアAIの安全性を企業管理の取り組みから、連邦法上のコンプライアンス義務へと転換する。
法案概要は、商務省内に常設の人工知能安全委員会を設置することを提案している。委員にはNIST、CISA、NSA、財務省、その他の商務省部局の代表者が含まれる。
独立した技術専門家も参加する。この委員会は新たなリスクを評価し、対象システム向けの技術的な安全・セキュリティ基準を策定する。
法案は、重大な国家安全保障、経済安全保障、公衆衛生上のリスクをもたらす高性能システム、すなわちフロンティアモデルに焦点を当てる。この定義は、あらゆるチャットボット、推薦システム、中小企業向けアプリケーションに同一の要件を課すことを避ける狙いがある。
対象モデルの公開を準備する開発者は、一般展開の少なくとも45日前に委員会へアクセスを提供する。必要な資料には、モデルウェイト、設定ファイル、ランタイム、モデルの稼働に必要なソフトウェアライブラリが含まれる。
モデルウェイトとは、学習中に獲得された数値パラメータである。これらへのアクセスはより深いテストを支援し得る一方、政府にとって極めて機微なセキュリティ責任も生じさせる。
連邦評価担当者は、NSAおよびエネルギー省の国立研究所にある安全な環境を利用できる。この仕組みは、公開インターフェースを通じて安全に検査できない能力を想定している。
委員会は、人間から直接指示されずにソフトウェアの脆弱性を発見・悪用できるシステムのテスト基準を定める。この文言により、自律的なサイバー能力が規制上の注目を集める主要な基準となる。
開発者はモデル安全計画も作成する。各計画には、モデルの能力、リスク、提案する軽減策、実施責任を負う企業役員を記載する。
この責任者の明示は重要だ。安全性に関する約束は、明確な社内責任を割り当てないまま方針文書に記載されることが多い。この提案は、そうした約束を特定可能な経営幹部に結び付ける。
不遵守には、違反1件ごと、継続する日ごとに最大25万ドルの民事罰が科される可能性がある。この金額は、基準を任意のガイダンスとは実質的に異なるものにする。
法案は、インシデント、繰り返し発生する欠陥、ニアミスを記録する全国データベースを設ける。NISTとCISAがこのシステムを調整し、機微な報告は安全な手続きを通じて処理される。
対象企業は原則として、重大なインシデントを30日以内に報告する。国家安全保障、重要インフラ、公共安全への差し迫った脅威を伴うインシデントは、72時間以内の報告が必要となる。
AIが産業システムその他の運用技術を制御する場合、重要インフラの事業者にも報告義務が課される。この規定は、責任の範囲をモデル開発者の外側へ広げる。
たとえば自律エージェントを利用する電力会社は、消費者向けアシスタントを提供する企業とは異なる運用リスクに直面し得る。このデータベースは、複数の導入環境にまたがって現れる弱点を規制当局が特定する助けとなる可能性がある。
この提案は、外部ツールを通じて計画を立て行動できるシステムである自律エージェントも扱う。基準は、アイデンティティ、認証、認可、データアクセス、異なる自律性の水準を対象とする。
開発者は、エージェントの想定用途、権限の境界、ツールへのアクセス、既知の制約、独立評価の結果を文書化する。これらの詳細は、一つの侵害された認証情報が小規模なインシデントにとどまるのか、より広範な侵害となるのかを左右し得る。
この組み合わせにより、法案は単なるテスト義務を超えるものとなる。AIモデルの安全性テスト、展開時のセキュリティ、企業の説明責任、インシデントからの学習を、一つの連邦制度に結び付ける。
任意監督に高まる圧力
上院議員らは、民間によるテストと任意の政府連携だけでは、ますます自律化するモデルのリスクに対応できないという考えを問い直している。
Warnerは、人類絶滅といった遠いシナリオではなく、実際的なサイバーインシデントを軸に脅威を示した。銀行、水道システム、送電網に侵入し得るモデルを例に挙げた。
この枠組みは、AI政策論議の変化を反映している。議員らは、脆弱性を探索し、ツールを操作し、継続的な監督なしにより長い一連の作業を実行できるシステムへ、ますます注目している。
上院議員らによれば、主要開発企業自身もこうした能力について警告を発している。発表では、サイバーセキュリティリスクの高まりについて議論している企業としてOpenAI、Anthropic、Google DeepMind、Meta、Microsoftを挙げている。
企業の警告は、すべての先進モデルが重要インフラを自律的に侵害できることを立証するものではない。しかし、政府の懸念が推測的、あるいは敵対的な外部コメントだけに基づくという主張を弱めるものではある。
Schatzはこの問題を人間による統制の問題として提示した。Kimは統制なきイノベーションは混乱を生むと主張し、Warnerは防止可能なインフラ攻撃こそがより差し迫った懸念だと述べた。
これらの主張は、独立した調査結果ではなく、依然として政治的な議論である。それでも、なぜ法案が任意の約束ではなく、公開前アクセスと執行可能な計画を中心に据えるのかを説明している。
既存の連邦政府の取り組みは、同じ義務を課すことなく基盤を提供している。NISTのAIリスクフレームワークは、AIリスクの特定と管理に関する組織向けガイダンスを示している。
このフレームワークは意図的に柔軟に設計されている。企業は異なるシステム、業界、組織上のニーズに合わせて適用できる。
Warner AIセキュリティ法案は、最も高性能なモデルに対して異なるアプローチを取る。リスク管理の原則を、開発者が従わなければならない基準へと連邦委員会が変換する権限を与える。
この違いは、フロンティア研究所に直接的な圧力をかける。公開スケジュールには、政府アクセス、安全な評価、是正作業、コンプライアンス文書作成を組み込む必要が生じる可能性がある。
45日間という期間は、企業のローンチ計画も変える。開発者は、公開直前に行う任意の外部テストとして扱うことができなくなる。
対象企業は、評価担当者が安定したシステムを検査できるよう、重要な構成要素を十分早い段階で固定する必要があるかもしれない。大幅な直前変更は、委員会が実際に何を審査したのかを複雑にする可能性がある。
エンタープライズ顧客にも間接的な影響が及ぶ。銀行、病院、公益事業者、政府請負業者は、導入されたエージェントが権限とデータ境界を遵守する証拠をますます必要としている。
標準化された文書は、購入者がこうした主張を確認するための、より一貫した基盤を提供し得る。ただし、コンプライアンスは、モデルがあらゆる顧客環境で安全であり続けることを保証するものではない。
モデルは、プライベートデータベース、アイデンティティシステム、コードリポジトリ、外部ツールと統合された後には異なる振る舞いをする可能性がある。したがって、展開時の管理は研究所での評価と同じくらい重要であり続ける。
ナレッジワーカーにとって、この問題は、エージェントがメール、文書、財務システム、本番コードに対する権限を得るまでは遠い話に聞こえるかもしれない。その時点で、モデルの振る舞いはアクセス制御の問題となる。
こうしたシステムを導入するチームには、権限、テスト結果、インシデントの検索可能な記録が必要となる。整備されたAIナレッジベースは社内ガバナンスを支援できるが、規制上のテストに取って代わることはできない。
法案の最も強い根拠は、質問に答えることから行動を起こすことへのこの移行にある。誤った回答は一つの種類の害を生む。自律的な行動は別の種類の害を生み得る。
上院議員らは、この違いが議会を「責任あるAI」への一般的な支持の先へ進ませると見込んでいる。この提案は議員に対し、誰がテストし、誰が報告し、誰が違反の代償を払うのかを定義するよう求めている。
連邦審査と公開スピードの対立が本質的なトレードオフ
この法案は議会に対し、より速い民間主導の展開と、法的権限に裏付けられたより遅い監督との間で選択を迫る。
支持者は、義務的な審査を基本的な予防措置と見る。主要研究所が顧客、資本、技術的主導権をめぐって競争するなか、民間のインセンティブは迅速な公開を後押しすると主張する。
企業は重大な弱点を発見した場合、公開を延期するかもしれない。一方で、不確実な結果を防御可能な範囲で最も有利に解釈する圧力にも直面する。
連邦政府によるテストは、別の意思決定者を加える。モデルを構築するチームと、そのリスク管理が公的基準を満たすかを判断する機関との間に距離を設ける。
法案の批判者は別の懸念を提起できる。中央集権的なプロセスは、遅く、技術的に硬直的になり、政治的圧力に脆弱になる可能性がある。
フロンティアモデルは急速に変化する一方、連邦政府の規則制定は長い手続きを経ることが多い。ある世代向けに設計されたテストは、次世代で現れる能力を見逃すかもしれない。
安全なアクセスにも別のトレードオフがある。連邦専門家にモデルウェイトを渡せばより深い分析が可能になるが、それらのファイルは研究所にとって最も価値の高い資産の一つだ。
テスト施設で侵害が起きれば、知的財産が流出したり、敵対者が高性能モデルにアクセスしたりするおそれがある。政府には、開発者に求める信頼を正当化できるセキュリティ慣行が必要となる。
この提案は、安全な連邦環境を通じてこの懸念への対応を試みている。しかし、権限を創設することと、その人員やインフラが十分であることを証明することは別問題だ。
この委員会は、異なる使命を持つ組織で構成されることになる。NISTは標準を策定し、CISAは重要インフラを保護し、NSAは情報コミュニティの内部で活動する。
この組み合わせは貴重な専門知識をもたらし得る。一方で、証拠の基準、機密指定、公開のあり方、最終判断の責任をめぐる対立も生み得る。
開発者は、この委員会がopen-weightシステムをどのように扱うのか疑問視するかもしれない。こうしたモデルでは、公開後に実質的な撤回が不可能になるため、リリースの力学が異なる。
小規模な研究所は、不釣り合いなコンプライアンスコストに直面する可能性がある。大企業はすでに評価チーム、安全なコンピューティング環境、法務部門、政府との関係を維持している。
したがって、広範な規則は公衆を守る一方で、市場の集中を強める可能性がある。議会は、すべての開発者を主要なフロンティア研究所と同様に扱うことなく、危険な能力を捉える基準値を定める必要がある。
法案が性能と改変可能性に焦点を当てていることは、その問題を認識していることを示す。しかし、それらの基準値がどこまで予測可能になるかは、実施方法によって決まる。
ここに、フロンティアAI規制が従来の製品認証と異なる点がある。モデルは、用途が一つに固定された物理デバイスではない。
開発者はモデルをファインチューニングし、ツールに接続し、安全策を変更し、利用可能なコンピューティング資源を増やすことができる。ユーザーは、元の評価者が観測したことのないシステムとモデルを組み合わせることもできる。
45日間の審査は、重要な能力やセキュリティ上の弱点を特定できる。だが、将来のあらゆる構成を認証したり、リリース後の監視の必要性をなくしたりすることはできない。
上院議員らは、インシデント報告と継続的な標準を通じてこの限界に対応している。これらの仕組みは、リリース前のAIモデル安全性試験が生むのは確実性ではなく証拠であることを認めている。
政治的な抵抗も同様に重要である。ドナルド・トランプ大統領は最近のAI規制強化を求める声に反対しており、他の共和党議員も過度な制約に警鐘を鳴らしている。
この規制をめぐる溝は、単純にリスクを認識する人々と無視する人々の間にあるものではない。どの機関がそのリスクを管理すべきかという問題でもある。
一部の当局者は、中国に対する米国の優位性を優先する。国内規制によって米国企業の足が遅くなる一方、海外の競合他社にはより少ない義務しか課されないことを懸念している。
支持者側は、脆弱なセキュリティが同じ戦略的優位性を損ない得ると反論する。盗まれたモデルウェイト、侵害されたインフラ、制御されないサイバー能力は、利益を敵対国へ移転させる可能性がある。
双方の主張は、セキュリティを国家競争力と結び付けている。ただし、連邦政府による義務的な介入がその立場を強めるのか、制約するのかについては意見が分かれる。
したがって、この法案は技術的な証拠だけでは前進できない。提出者は、強制力のある審査が政府をリリースのボトルネックに変えることなく、セキュリティを向上させることを示さなければならない。
混み合うAI政策課題が法案の政治的リスクを浮き彫りにする
議会ではAIが重大なリスクを生むという認識が強まりつつあるが、危険性への合意は、単一の規制手法への合意には至っていない。
Warnerの提案が提出された時点で、上院はすでにより限定的なアプローチを検討していた。各法案は、同じガバナンス問題の異なる部分を切り出している。
James Lankford、Chris Coons、Katie Britt、Brian Schatzの各上院議員は9月24日、AI Systems Transparency Actを提出した。この超党派の透明性に関する提案は、データ収集、安全策、モデルリスク、ポリシー違反に関する情報の公開を義務付けるものだ。
これらの要件はFederal Trade Commissionが執行する。この法案は、定められた企業規模の基準を満たすクローズドシステムとオープンソースシステムの双方に適用される。
透明性に関する規則は、企業に自社システムと安全策の説明を求める。Warnerの法案は、対象となるモデルの配備前に連邦評価官がアクセスできるようにするものだ。
両アプローチは相互補完的になり得る。同時に、フロンティアAI規制の単一モデルから議員たちがいかに遠い位置にあるかも示している。
John Kennedy上院議員は、自身のAI Emergency Button Actを通じて別の道を追求した。この法案は、開発者に危険なシステムを停止する手段の維持を求めるものだ。
Kennedyが全会一致の同意を求めた際、Rand Paul上院議員が異議を唱え、この停止機能に関する提案の即時可決は阻まれた。
この出来事は、WarnerとSchatzが利用を予定していた同じ手続きの弱点を示している。全会一致の同意は法案を迅速に進められるが、上院議員は誰でも阻止できる。
阻止された要請は、必ずしも上院議員の多数が基礎となる政策に反対していることを意味しない。実質的な異議、修正要求、手続き上の影響力、より広範な党派対立を反映している場合もある。
WarnerのAIセキュリティ法案は、情報公開以上のものを課すため、さらに困難に直面する。監督機関を創設し、機微な技術情報へのアクセスを求め、継続的な罰則を設けることになる。
支持者はAI安全性に対する超党派の関心を示せる。それでも反対者は、この特定の連邦権限の配分に異議を唱えることができる。
上院の通常手続きも別の障害となる。主要法案には通常、委員会審査、修正、討論、そしてフィリバスターを乗り越えるための十分な支持が必要だ。
上院議員が全会一致の同意を拒む場合、多くの法案は前進するために60票を必要とする。その後も下院の過半数と大統領の署名が必要となる。
タイミングはこれらの障害をより大きくする。議員たちは選挙に近づいており、限られた本会議日程には歳出、防衛、人事承認、その他の優先課題を組み込まなければならない。
下院は包括的なAI対策について、より緊急性を示していない。Mike Johnson下院議長は、立法機関が官僚的手続きや過剰規制で対応しかねないと警告している。
この見解が、法案に対する最も重大な反対を生む。超党派の上院連合が成立しても、関連法案の日程を組み、形作る意思のある下院指導部が必要になる。
トランプ政権は、より軽い連邦アプローチを支持してきた。また、競争、イノベーション、国家的リーダーシップを重視している。
そのため提出者は、法案全体を追求するのか、より広い支持を得られる条項へ分割するのかを判断しなければならない。インシデント報告は、義務的なリリース前アクセスとは異なる支持者を集める可能性がある。
安全委員会そのものも、交渉の争点となり得る。議員は連邦による評価を支持しつつも、恒久的な新機関の創設には反対するかもしれない。
業界の立場も重要になる。主要企業は政府による監督を求めてきたが、規制への一般的な支持は、個々のコンプライアンス義務への支持と同義ではない。
大手開発企業は、不確実性を減らす共通基準を受け入れるかもしれない。それでも、機微な資料の開示、固定された期限、変化する技術試験に連動する罰則には反対する可能性がある。
小規模競合企業やオープンソース擁護者は、基準値に注目するだろう。法律が既存企業をより有利な競争上の位置に置かないという保証を求めるはずだ。
市民的自由を擁護する団体は、NSAの役割を精査する可能性がある。サイバーセキュリティの専門家はその技術力を歓迎するかもしれないが、情報機関が商用システムと公的説明責任をどう扱うかには疑問を持つだろう。
こうした懸念は提案を無効にするものではない。広範な緊急性の表明を実行可能な法律へ変える前に解決すべき設計上の問いを示している。
したがって、上院議員らによる本会議での働きかけには二つの目的があった。可決を目指すと同時に、AIガードレールへの支持が強制力のある連邦審査にまで及ぶのかを同僚議員に明らかにさせることだった。
強制力のあるAIセキュリティが前進するかを示す三つの兆候
次の試金石はAIリスクに関する新たな警告ではない。政治指導者が、その警告を立法権限へ転換できるかどうかだ。
第一の兆候は、WarnerのAIセキュリティ法案に対する正式な超党派共同提案者の存在である。提出時に名を連ねたWarner、Schatz、Kimはいずれも民主党議員だった。
共和党の参加は、上院での法案通過の可能性を高め、そのセキュリティ重視の枠組みを党派的な取り組みとして退けにくくする。参加がなければ、この法案は将来の交渉に向けた目印にとどまる可能性が高い。
最も重要な支持表明は、情報、商務、国土安全保障、軍事政策に関与する上院議員からもたらされるだろう。これらの委員会は、法案に名を連ねる多くの機関を監督している。
関連法案に対する超党派の関心は、橋渡しとなる可能性がある。Lankford、Britt、Coons、Schatzはすでに透明性をめぐって足並みをそろえ、Kennedyは停止要件を追求している。
これらのアプローチを組み合わせる連合が生まれれば、議会が個別の提案から共有された連邦アーキテクチャへ移行しつつあることを示す。分断が続けば、その結論は弱まる。
第二の兆候は、上院指導部が委員会または本会議での審議を日程に載せるかどうかだ。演説や全会一致同意の要請は注目を集めるが、持続可能な規制制度に必要な精査をもたらすものではない。
委員会での審議は、議員に定義、基準値、審査期間、情報セキュリティ、執行、異議申立ての権利を検討させる。こうした詳細が法律の運用を決める。
また、45日という要件に交渉の余地があるかも明らかになる。修正された期限、段階的な実施、緊急時の例外は、義務的な審査を放棄せずに支持を集める可能性がある。
公聴会や修正審議がなければ、指導部がこの法案を主に政治的メッセージと見なしていることを示唆する。それは、公衆の懸念の大きさにかかわらず、短期的な可決の見通しを弱める。
下院にも上院と同じくらい注意を払うべきだ。関連法案、作業部会、委員会公聴会は、この提案が一院を超える経路を持つことを示すだろう。
第三の兆候は、フロンティア研究所がどう反応するかである。主要開発企業による明確な支持は、要件が技術的に不可能だという主張を弱める。
規制一般を支持する広範な声明よりも、条件付きの支持の方が多くを明らかにする。企業は、リリース前アクセス、モデルウェイト、インシデントの報告期限、エージェント標準、罰則設計について言及すべきだ。
セキュリティや実施を中心とした反対は、法案の文言を改善し得る。リリース速度だけを中心とした反対は、相反するインセンティブに関する提出者の主張を補強するだろう。
投票前の開発者の行動も重要である。より多くの独立評価、標準化された安全計画、詳細なインシデント開示は、自主的な慣行が改善していることを示し得る。
重大な未報告インシデントは、逆方向に働く。任意の取り決めでは一貫した説明責任を生み出せないという主張を強めることになる。
読者は、どちら側の劇的な主張にも慎重であるべきだ。連邦審査は、モデルが悪用されず、侵害されず、リリース後に変更されないことを保証するものではない。
同様に、コンプライアンスコストが自動的にイノベーションを破壊するわけでもない。明確な基準は、企業の買い手が文書化された統制と曖昧な安全保証を区別する助けになり得る。
決定的な問いは、議会が技術的実務を凍結させることなく、行動を変える監督制度を設計できるかどうかである。そのためには、適応可能な評価手法とともに、強制力のある成果が必要となる。
開発者、企業顧客、AIユーザーは、超党派の共同提案、正式な立法措置、詳細な業界の反応という順で、この三つの兆候を注視すべきだ。
これらを総合すれば、上院の新たな緊急性が法律を生み出すのか、それとも未完のAI提案が増え続ける記録に加わるのかが分かる。
現時点で、この法案は議論の条件を変えた。Warner、Schatz、Kimは、企業に政府の試験へ協力するよう求めるだけではなくなっている。
議会に対し、それを義務化し、責任を割り当て、インシデントを収集し、不遵守を処罰するよう求めている。これは、原則としてAIの安全性を支持することよりも大きなコミットメントだ。
自律システムを導入する者は、法案の文言を確認し、自らの権限の境界を今すぐ見直すべきだ。この法案が停滞したとしても、同じ問いは残り続ける。
誰が機密性の高いツールにアクセスできるのか、誰がモデル変更を承認するのか、誰がインシデント報告を受け取るのか、そして誰が危険な行動を停止できるのか。これらはすでに運用上の問題となっている。
連邦政府のAIセキュリティ政策の将来は、議員たちが次の重大な失敗の前にこれらへ答えを出すのか、それともその後になってから答えるのかにかかっている。
