米上院のAIリスク法案、モデル開発企業に警鐘
米上院の交渉担当者らは、高度なモデルを公開する前に、主要なAI開発企業へ既知の破滅的リスクを低減するよう求める、前例のない義務を検討している。浮上している米上院のAIリスク法案は、当局がモデルの公開は危険すぎると判断した場合の連邦政府による介入も想定している。
この提案は現在も交渉中で、法案本文や最終的な執行体制は公表されていない。それでも、報じられている制度設計は大きな転換を示している。ワシントンは自主的なテストを超え、生物・核兵器をはじめとする極端な脅威に関する予見可能な危険について、開発企業に法的責任を負わせる方向へ進む可能性がある。
この転換により、OpenAI、Anthropic、Googleは難しいトレードオフの中心に置かれる。開発企業は、州ごとに異なる規制の拡大に代わる全国ルールを求めている。しかし、デューティ・オブ・ケア（注意義務）やモデル公開に対する政府権限を含む場合、連邦レベルの統一ははるかに重大な意味を持つ。
提案はAI開発企業へ責任を移す
中心的な変更点は、既知の破滅的リスクへの対応を求める法的義務であり、新たな自主的安全性誓約ではない。
初期の報道された交渉によれば、上院スタッフ2人は、高度なAI開発企業に対する「デューティ・オブ・ケア」を提案したと説明した。デューティ・オブ・ケアとは、予見可能な損害を防ぐために合理的な措置を取る法的義務を指す。
この表現が重要なのは、規制の基本的な問いを変えるためだ。当局は、企業が公表した安全性フレームワークに従ったかどうかだけを問うのではなくなる。企業が既知の重大リスクに十分注意を払って製品を設計、試験、公開したかを問うことが可能になる。
報道によれば、この提案は最も高度な能力を持つモデルに焦点を当てている。すべての推薦エンジン、業務アシスタント、小規模なオープンソースプロジェクトに同じ義務を自動的に適用するものではない。
正確なしきい値は未解決のままだ。交渉担当者らは、どの能力、学習手法、展開条件、リスク指標によってモデルが法の対象となるかを、なお定義する必要がある。
この境界線が、法案が厳密に焦点を絞ったものにとどまるかを左右する。能力に基づく基準なら、危険な活動を支援できるシステムを対象にできる。一方、緩い定義では、破滅的脅威をもたらすもっともらしい可能性のない多くの製品まで取り込むおそれがある。
報じられている例には、生物兵器や核兵器の設計におけるAI支援が含まれる。こうした事例は、誤解を招く広告、偏った選別、不正確なチャットボットの回答といった身近な消費者被害とは異なる。
これらは発生頻度が低い一方、結果が極めて大きくなり得る事象に関わる。また、バイオセキュリティ、核セキュリティ、サイバーセキュリティ、高度なモデル評価など、通常の製品規制当局が持たない可能性のある専門知識も必要となる。
浮上している米上院のAIリスク法案は、対象システムの検証とテストに政府の専門家を関与させると報じられている。Amy Klobuchar上院議員は、AIモデルがもたらす最大のリスクに対する超党派の監督を追求していると述べた。
Klobuchar議員はまた、開発企業に対し、検証とテストで政府専門家と協力することを求める要件についても説明した。同議員の発言は、議員らが製品の利用開始後に提出される書類以上のものを検討していることを示している。
Ted Cruz上院議員は別途、Klobuchar議員および上院多数党院内総務John Thune議員と、生物・核の脅威について取り組んでいると述べた。商務委員会の民主党筆頭委員であるMaria Cantwell上院議員も、より広範な協議に参加している。
上院商務委員会は商務省を所管している。同省には連邦のAI安全性研究者が所属しており、議会がこうした制度を整備すれば、技術評価の中心となる可能性が高い。
ただし、この提案は完成した法案ではない。交渉担当者らは、政府の正確な権限、対象モデルのしきい値、利用可能な救済措置、裁判所が適用する基準を公に解決していない。
こうした未確定の詳細により、コンプライアンスコストや公開遅延について確定的な結論を出すことはできない。また、立法文言が一つの執行モデルに固まる前の今、この問題が重要である理由でもある。
米上院のAIリスク法案が公開を巡る議論を変える理由
この提案は、フロンティアモデルの公開を、民間企業だけの製品判断ではなく、外部レビューを要し得る安全性判断として扱う。
交渉担当者らは、危険と見なされた特定の公開を連邦政府が阻止する権限を検討していると報じられている。開発企業はその決定を連邦裁判所で争うことができ、技術的リスクを巡る紛争に裁判官が関与することになる。
この構造は、相反する二つの懸念に答えようとするものだ。安全性擁護派は、例外的に危険な公開を止める信頼できる手段を求めている。開発企業には、行政機関による恣意的または根拠のない判断からの保護が必要だ。
司法審査は一つの抑制策となり得るが、すべての問題を解決するわけではない。裁判所が高度に技術的な主張を判断するには、依然として法定基準、証拠記録、専門知識へのアクセスが必要となる。
モデル開発企業は、自社の安全策によって危険な能力が許容可能なしきい値未満に抑えられていると主張するかもしれない。政府は、そうした管理策は執拗な利用者、盗まれた重み、変更された展開形態に対して機能しないと反論する可能性がある。
裁判官はその場合、評価、脅威モデル、アクセス制限、サイバーセキュリティ、不確実な予測に関する証拠に向き合うことになる。一部の情報には営業秘密や国家安全保障上の懸念が含まれる可能性もある。
したがって、立証責任は政府の表面的な権限と同じほど重要になる。議会は、公開を巡る紛争で、安全性、危険性、あるいは手続き上の誤りを誰が立証する必要があるかを決めなければならない。
タイミングも別の課題をもたらす。無制限のモデル重みがオンライン上に広まった後に始まる裁判手続きでは、有意義な管理を取り戻せない。一方、あまりに早く始まる手続きは、未成熟な評価に基づいて有用なシステムを遅らせる可能性がある。
これは米上院のAIリスク法案における中心的な設計課題を生む。介入は不可逆的な公開の前に行われる必要がある一方、政府の措置を正当化できるほど証拠が強固でなければならない。
この提案はモデル更新についても疑問を提起する。開発企業は現在、ツール、安全策、アクセスレベル、基盤となるモデルのバージョンを変更しながら、完全に別の製品を公開することなく継続的にサービスを改善している場合がある。
法案は、通常の調整と再審査を要する変更を区別しなければならない。そうしなければ、規制当局は重要な能力向上を見逃すか、軽微な製品改訂を繰り返し検査することになる。
OpenAI、Anthropic、Googleはすでにさまざまな形態の内部テストを実施している。しかし、各社のフレームワークは、用語、しきい値、開示慣行、不合格評価に伴う結果において異なる。
連邦の義務は、選定された慣行を共通の最低基準へと変える可能性がある。また、重大だが不確実な危険を特定した後に、なぜモデルを公開したのかを開発企業に文書化させる可能性もある。
この記録は企業顧客にとって重要となる。購入者は多くの場合、モデルカード、セキュリティ文書、契約上の保証を受け取るが、最も機微な公開前評価についての可視性は限られている。
政府によるテストは、モデルの安全性を保証するものではない。それでも、もう一つの精査の源泉を提供し、企業が重大なリスクを認識している場合に、より明確な説明責任を生み出す可能性がある。
Cantwell議員は、連邦機関と国立研究所がフロンティアシステムのテストを主導すべきだと主張している。同議員のテストに関する立場は、サイバーセキュリティ、生物防衛、核セキュリティにおける専門性を強調している。
このアプローチは、すべての問題を一つの汎用規制当局に委ねるものとは異なる。専門研究所は具体的な脅威経路をテストし、調整機関が手続きと執行を担うことができる。
難しいのは、研究結果を正当化可能な公開判断へ変換することだ。評価は統制された条件下で能力を特定できるが、現実世界での悪用はアクセス、利用者の技能、安全策、展開状況に依存する。
監視されたアクセス制御の背後にある高性能モデルは、ダウンロード可能な重みとは異なる脅威をもたらす。この区別を扱いつつ、監督を容易に回避できる道を作らないことが法律には求められる。
連邦規則と州法優先が主要な取引を形成する
この提案の政治的取引は、全国的な安全義務と州による執行への制限を組み合わせ、統一性と地方の規制自治の間に緊張を生じさせる。
報じられている措置は、連邦の枠組みで扱われるリスクに関する一部の法律について、州による執行を妨げるものとなる。この規定は、全国的な監督に対する業界の支持を集める助けになる可能性がある。
州ごとに異なる法的構造を通じて、フロンティアモデル、自動化された意思決定、ディープフェイク、プライバシー、チャットボットの安全性が規制されるなか、開発企業は複雑さの高まりに直面している。全国ルールは、相反する定義や報告義務を減らすことができる。
しかし、州法優先は州と消費者にとっての利害を変える。より強力な保護を排除する連邦法は、新たな全国的要件を作る場合であっても、監督を弱める可能性がある。
上院はすでに、広範なAI州法優先に対する強い反発を経験している。2025年、上院議員らは予算措置から、州によるAI規制を10年間制限する提案を99対1で削除する票決を行った。
このモラトリアムに関する票決は、議員らが連邦のAI政策を支持しながら、州の行動を包括的に凍結することを拒否し得ることを示した。現在の交渉は、特定のフロンティアモデルのリスクに関するものであるため、より限定的に見える。
限定的な規定であっても、慎重な起草が必要となる。議会は、州が権限を失うのが破滅的リスクに関する義務だけなのか、それとも対象モデルに関わるすべての法律なのかを定義しなければならない。
その違いは大きい。フロンティアモデルの評価に関する州規則は、提案されている連邦制度に近い。プライバシー、雇用、消費者保護、公民権に関する法律は、異なる種類の被害を扱う。
州法優先は執行のタイミングにも影響し得る。州は、住民が即時の被害を報告したり、新技術が法的な空白を露呈させたりする場合、議会が全国法制を議論している間に行動することが多い。
統一性を支持する側は、破滅的リスクの監督には単一の全国制度が必要だと主張できる。生物・核の脅威は州境を越え、国立研究所は州が容易には再現できない専門性を提供する。
批判する側は、連邦基準が停滞することもあると答えることができる。州による試行は弱点を明らかにし、執行手法を試し、国の当局者に時代遅れの規則を更新するよう圧力をかけることができる。
Californiaは最も明確な近年の例を示している。Gavin Newsom知事は2024年、展開状況を考慮せずに基本的な用途まで規制し得るモデル重視のしきい値を懸念し、SB 1047を拒否した。
同知事の拒否メッセージは、計算規模に大きく結び付いた枠組みを批判した。同時に、深刻なAI脅威に対する効果的な保護の必要性も認めた。
Californiaはその後、安全プロトコルの開示と主要システム向けのしきい値を盛り込んだ改訂版のフロンティアAI法を制定した。この経緯は、州の提案が技術的・政治的な批判を受けて進化し得ることを示している。
連邦政府による取引は、こうした教訓を取り入れる可能性がある。アクセス制御、展開環境、文書化された脅威経路を考慮しながら、高度な能力を持つ少数のモデルを対象にできる。
クルーズ氏のより広範な政策枠組みは、より緩やかな規制とテストの柔軟性を支持してきた。同氏のAI政策枠組みは、規制サンドボックスと、健康、安全、詐欺リスクに対する保護策を提案している。
クロブシャー氏の発言は、政府専門家との協力を義務付けることを強調している。これらの立場を組み合わせるには、通常のAI開発の余地を確保しつつ、極端なリスクには厳格な義務を課す必要があるだろう。
したがって主な争点は、単純に政府対産業ではない。連邦政府の責任と、重複する州規制の撤廃との間のトレードオフである。
開発者が予見可能性を得られるのは、実質的な全国的義務を受け入れる場合に限られる。州が権限を譲るのは、連邦政府による代替措置が具体的で、執行可能であり、適応能力を備える場合に限られる。
この交換条件が法案の見通しを左右する。幅広い専占と弱い義務を組み合わせれば、州当局者や安全性擁護派の反対を招くだろう。
明確な境界を欠く強い義務は、イノベーションや規制の虜化を懸念する議員の支持を失いかねない。交渉担当者は、両方の要素が均衡の取れたものに見えるようにする必要がある。
最も難しい問いには、なお答えがない
注意義務が機能するのは、議員が既知のリスク、合理的な緩和策、リリース停止に必要な証拠を定義する場合に限られる。
「既知の重大リスク」は明確に聞こえるが、それぞれの言葉が法的不確実性を生む。リスクは測定可能でなくても文書化され得るし、能力は懸念すべきものでも、破滅的な被害が起こる蓋然性を示すとは限らない。
議員は、誰の知識を考慮するかを決めなければならない。基準には、公表済み研究、企業内部のテスト、政府の情報、インシデント、資格を持つ従業員からの警告などを含めることができる。
公開記録だけに依拠すれば、機密の脅威情報や専有的な評価を見落とす。政府が完全に管理する記録だけに依拠すれば、開発者が決定に異議を唱えることが難しくなる可能性がある。
緩和策の意味も同様に重要である。企業は、拒否訓練の追加、不審な利用の監視、ツールの制限、オープンウェイト公開の延期、確認済み顧客へのアクセス限定などを行うかもしれない。
各制御策は異なる失敗経路に対応する。盗まれた認証情報、モデル抽出、ファインチューニング、プロンプト攻撃、侵害されたインフラに対して、完全な保護を提供するものはない。
法案は能力と意図も区別しなければならない。汎用モデルは正当な生物学研究を支援できる一方で、悪意あるワークフローの中では危険になり得る情報を提供する可能性もある。
単純なトピック遮断では、この問題は解決しない。評価者は、システムが深刻な危害を引き起こすのに必要な専門性、時間、資源を実質的に削減しているかを検証する必要がある。
偽陽性にも影響がある。危険な能力を過大評価すれば、悪用を助長し、政府資源を浪費し、既存の開発者に小規模な競合相手より有利な立場を与える可能性がある。
広範なテスト、法的審査、安全なインフラが前提条件となる場合、コンプライアンス体制は大企業を優遇し得る。OpenAI、Anthropic、Googleは、小規模な研究所では負担できない要件を吸収できる。
対象を最も能力の高いモデルに限定すれば、その圧力は軽減されるが、閾値効果が生じる。閾値に近づく開発者は、規制を回避するために学習を変更したり、公開を遅らせたり、システムを分割したりする可能性がある。
固定された計算能力の閾値は比較的管理しやすいが、すぐに時代遅れになる。能力に基づく閾値はより適応的だが、信頼できる評価と、より多くの規制上の判断を必要とする。
欧州連合はすでに類似の問題に直面している。同連合の規則は、システミックリスクをもたらすと分類された汎用モデルに対し、評価、インシデント報告、サイバーセキュリティ、リスク緩和を含む追加義務を課している。
欧州委員会のシステミックリスクに関する義務は、議会に実用的な比較対象を提供する。また、議員が広範な法的枠組みを承認した後に、どれほど多くのガイダンスが必要になるかも示している。
米国の提案は、潜在的に重要な一点で異なる。報じられている交渉には、特定のモデルリリースに対する政府の措置の可能性と、それに続く連邦裁判所での異議申し立ての経路が含まれる。
これは主に文書化と行政罰を軸とするコンプライアンス体制よりも、直接的な対立を生む可能性がある。そのため、適正手続きが不可欠となる。
もう一つの不確実性は、規制能力に関するものだ。政府の専門家は、専有システム、変化する脅威手法、希少な技術人材により高い報酬を提示する業界に追随しなければならない。
機関には、安全な計算環境へのアクセスと、モデルウェイトを扱うための手続きが必要になる。また、あらゆる規制上の決定を公衆から隠すことなく、企業秘密を保護する権限も必要になる。
規制の虜化はさらなるリスクとなる。評価手法を定義するためのツールと人員を最大手の開発者だけが保有する場合、連邦基準は彼らが望む慣行を反映する可能性がある。
独立研究者、国立研究所、市民社会団体、分野の専門家には、意味のある役割が必要だ。彼らの参加は、政府当局者とモデル企業の双方に共有される前提に異議を唱えられる。
企業間でも意見は分かれる可能性がある。AnthropicはしばしばフロンティアAIの安全政策を重視してきた一方、他の開発者は、不適切に設計された規則が競争やオープンな開発を妨げかねないと警告してきた。
法案の文面が示される前に、こうした違いを誇張すべきではない。以前の提案に対する立場だけから、この正確なパッケージに関する企業の立場を推測すべきではない。
議会にはインシデント報告の仕組みも必要だ。リリース前テストでは、新しいツール、より大きな利用者層、敵対的な実験を通じて現れるすべての振る舞いを予測できない。
意味のある義務は展開後も継続すべきである。開発者には、重大インシデントを検出し、安全策を再評価し、当局へ通知し、証拠の変化に応じてアクセスを制限するためのプロセスが必要だ。
法案は、認証を恒久的な承認として扱うことを避けるべきである。リリース当日に管理可能と見なされたモデルでも、新たな統合や外部からの発見によって、より危険になる可能性がある。
同時に、規制当局は予期しない出力のすべてを破滅的リスクの事例にしてはならない。法律の正当性は、その特別な介入を特別な脅威に結び付け続けられるかにかかっている。
これらの未解決の選択は技術的な脚注ではない。提案が的を絞った安全法、象徴的なコンプライアンス、あるいは広範な許認可制度になるかを決定する。
提案が前進できるかを示す三つのシグナル
次の試金石は、交渉担当者が注目を集める概念を、技術的、政治的、司法的な精査に耐えられる限定的な法案文に変換できるかどうかである。
第一のシグナルは、実際の法案文の公表である。読者は、文面が対象モデル、破滅的リスク、開発者の知識、合理的な緩和策、政府権限をどのように定義しているかを検討すべきだ。
明確な能力またはリスクの閾値があれば、交渉担当者がフロンティアモデルに焦点を絞った監督を目指しているとの見方が強まる。対象範囲が曖昧なら、予測不能な執行や通常のアプリケーションへの負担に対する懸念が高まる。
第二のシグナルは、最終的な専占条項である。その範囲は、連邦の統一性が破滅的リスクに関する義務を限定的に補完するものなのか、それとも州のAI法をより広く制限するものなのかを明らかにする。
プライバシー、公民権、消費者、雇用、選挙に関する保護を維持する文言は、より限定的な解釈を支持する。広範な排除は、以前のモラトリアムを頓挫させた政治的対立を再燃させるだろう。
第三のシグナルは執行プロセスである。議会は、責任機関、技術専門家の役割、証拠基準、迅速な司法審査への経路を特定しなければならない。
書面による認定、安全な証拠アクセス、期限、上訴権を備えたプロセスなら、リリースへの介入の信頼性は高まる。明示されない行政裁量は支持を弱め、即時の法的異議申し立てを招くだろう。
日程自体も圧力を生む。Reutersは、下院には11月3日の中間選挙までに予定された会期週が1週間しかなく、上院には3週間が予定されていると報じた。
交渉担当者が合意に至ったとしても、この日程では法案成立は難しい。委員会での審議、本会議の時間、下院での可決、異なる法案文の調整には、いずれも政治的な協調が必要となる。
法案を速やかに可決できなかったとしても、根本的な変化が消えるわけではない。法的義務とモデルリリースへの介入をめぐる超党派の交渉は、次の議会にとっての参照点を確立する。
この議論は、開発者に文書化を改善する即時の理由も与える。重大なリスクを特定した企業には、どのようにテストし、緩和策を選び、展開を監視したかを示す記録が必要となる。
規制はモデルの利用可能性、契約上の義務、監査証拠、リリース日程に影響し得るため、エンタープライズの購入者はこうした慣行を注視すべきである。単一プロバイダーに依存するチームには、モデルの遅延や制限に備えた代替計画が必要だ。
外部モデルを基盤に構築する開発者も、義務が下流へ流れるかを追跡すべきである。基盤モデル企業は、連邦政府の義務を満たすため、アクセス制御、許容利用規約、ログ取得要件、ツール権限を変更する可能性がある。
ナレッジワーカーには、より静かな影響が及ぶ。規則の変化に伴い、組織はモデルのバージョン、方針、評価、内部決定について信頼できる記録を必要とする。
検索可能なAIナレッジベースは、チームがこうした文脈を維持する助けとなる。ただし、記録管理は技術的評価や法的助言の代わりにはならない。
米国上院のAIリスク法案は、成立済みの規制ではなく、交渉中の提案である。その重要性は、議員がすべての手続き上の詳細を決める前に、どのような責任を割り当てるかにある。
ワシントンでは、フロンティアモデルの開発者が予見可能な破滅的危険を低減する、執行可能な義務を負うべきかが検討されている。また、政府が民間によるリリース判断をいつ中断できるかも検討されている。
注目すべきは、法案文、専占の境界、裁判所による審査プロセスである。これらの要素を合わせれば、議会が焦点を絞った監督を設計したのか、それともAI政策における新たな未解決の争点を開いただけなのかが分かる。
