Bernie SandersのAI超知能禁止法案、違反者に最長20年の懲役を科す可能性
Bernie Sandersは、一部の違反者に最長20年の懲役を科す可能性があるAI超知能禁止法案を提出した。この提案は、ワシントンが新たな規制制度を構築する間、高度AIの開発も停止させるものだ。
テキサス州選出のGreg Casar下院議員は、バーモント州選出の無所属上院議員であるSandersとともに下院版を提出した。同法案は、制御不能なAIを、単に開示の改善が必要な製品ではなく、国家安全保障への潜在的脅威として位置付けている。
この選択が、議論の核心を形作る。SandersとCasarは、破滅的な能力が出現する前に開発を止めようとしている。一方で、フロンティア研究所や開発推進派の政府関係者は、中国が同じ制限を受け入れない可能性もあることから、保護措置の下で研究を継続すべきだと概ね考えている。
この法案が政治的に成立する見込みは低い。しかし、その重要性は直近の可決可能性を超える。暴走するAIへの警告を、刑事法、企業解散、モデルのライセンス制度、国際的な軍備管理の提案へと転換するものだからだ。
Bernie SandersのAI超知能禁止法案が法的な一線を引く
この法案は、自主的なAI安全性の約束を、高度モデルの開発、展開、アクセスに対する強制力ある制限へと置き換える。
SandersとCasarは2026年9月23日、「Ban Artificial Superintelligence Act」を発表した。両氏は同月初め、この法案を提出する意向を公表していた。
この提案は、人工超知能を恒久的に禁止する。その対象は単一のベンチマークスコアではなく、能力と結果によって定義される。
定義の一部は、ほとんどの領域またはタスクにおいて人間の認知能力を上回るシステムを対象とする。そこには学習、意思決定、適応的行動が含まれる。
別の部分は、人類の破滅または権限剥奪を計画・実行できるシステムを扱う。連邦政府の転覆または弱体化も、その例として明示されている。
これは、特定のチャットボット、学習手法、消費者向けアプリケーションを規制するよりも広範だ。システムは、一般向けのブランド名に関係なく、何ができるかによって禁止の対象となる。
議員らの法案発表は、前駆的な特性も挙げている。これらは、超知能へ向かう過程における警戒信号として当局が扱える能力だ。
その一覧には、AIの研究開発を自動化または大幅に加速する能力が含まれる。保護されたデジタルまたは物理インフラへの無許可アクセスも対象となる。
ほかにも、停止への抵抗、システム自身の機能変更、核・化学・生物兵器の設計支援が含まれる。有効な監督を無効化する策謀または欺瞞も該当する。
これらの区分が重要なのは、法案がシステムが超知能の完全な定義を満たす前に介入するためだ。政府は、制御不能なモデルが恐れられる能力をすべて示すまで待つ必要がない。
前駆的な特性を示すシステムは、インターネットから隔離され、稼働不能にされる可能性がある。担当規制当局は、危険な能力の除去またはシステムの破壊を監督する。
この法案は、通常のAIアプリケーションと、計算資源を最も多く消費する開発も区別している。Casarは、すべてのAIシステムを停止させるものでも、医療研究のような有益な利用を妨げるものでもないと述べている。
代わりに、指定された計算量の閾値を超える高度な開発を対象とする。学習計算量はモデル作成に用いられる総演算回数を測定するものであり、規制当局にとっては展開前に確認できる入力指標となる。
提案される閾値は、10^25回の整数または浮動小数点演算から始まる。アルゴリズムの効率化に応じて規制当局が調整できるため、技術進歩によって規則が時代遅れになることを防ぐ。
この閾値は、モデルがすでに超知能であることを認定するものではなく、連邦政府による管理を発動させるものだ。それを超える開発を行う事業者は、提案された規制体制を通じた認可を必要とする。
この措置は、閣僚級の人工知能省も設置する。AI長官が同省を率い、技術諮問委員会がこれを支える。
開発者は、対象となる作業を始める前に計画を提出する。また、高度なシステムを公に展開する前にも承認が必要となる。
この仕組みは、政府の審査を開発サイクルのより早い段階へ移す。既存の監督は、製品が害を及ぼした後、または苦情を集めた後に対応することが多い。
これに対し、この提案は、ひとつの失敗が運営者の影響を超える損害を引き起こし得る分野の規制に似ている。人間の制御を逃れる能力を持つシステムに対しては、公開後の救済策では不十分だという前提に立つ。
懲役刑と「企業への死刑」が重大性を高める
提案された罰則は、Sandersが禁止対象のAI開発を通常のコンプライアンス違反ではなく、公共安全に対する犯罪と見なしていることを明確にしている。
主要な制限を無謀に違反または回避した個人は、最長20年の懲役に処される可能性がある。この最長刑は、責任を持つ企業の方針決定者や独立した行為者が関与する特定の事案に適用される。
その他の違反では、AI業界への参加を10年間禁じられる可能性がある。長官は内部告発者に例外を設けることができ、内部関係者が不正行為を通報する道を維持する。
組織には、さらに異例の救済措置が科される可能性がある。法案提出者らはこれを「corporate death penalty」と表現しており、違反した事業体が営業を継続する法的能力を失うことを意味する。
この表現には政治的な狙いがあるが、具体的な執行上の懸念を反映している。主要なAI企業が巨額の資本を握り、将来はさらに大きな収益を見込んでいる場合、罰金はほとんど効果を持たないかもしれない。
罰則はまた、違法な核兵器開発を扱う法律との比較を引き起こす。Sandersは、大規模な破壊を引き起こし得るシステムには、その危険に見合う結果が必要だと主張する。
現在のモデルで、法案の定義に基づく人工超知能であると独立して確認されたものはない。したがって、提案された刑事罰は将来の開発と予防的規制体制を回避しようとする試みに関するものだ。
この区別は不可欠だ。この法案は、欠陥のあるチャットボットの応答によってエンジニアが刑務所に送られると宣言するものではない。
検察は依然として、必要な行為と精神状態を立証しなければならない。裁判所もまた、境界が引き続き争われる技術用語を解釈する必要がある。
それでも、法案の射程は、すべての人間より優れた思考をする仮想的な機械にとどまらない。前駆的特性に関する規定は、モデルが特定の危険な能力を示したより早い段階で発動し得る。
この早期発動は、提案の予防的価値を高める。同時に、それが最大の法的・技術的課題も生む。
たとえば、AI研究を自動化する能力は連続的な性質を持つ。学習の最適化を提案するコーディング支援ツールは、その後継モデルを設計する自律システムとは同じではない。
サイバーセキュリティ能力も同様の境界問題をもたらす。同じモデルの振る舞いが、認可された脆弱性テストを支援する場合もあれば、無許可の侵入を支援する場合もある。
人工知能省には、有用な能力と禁止された運用上の自律性を区別する試験が必要となる。その試験は科学的な精査と司法の精査の両方に耐えなければならない。
同省には、フロンティアシステムを評価できる有資格の人材も必要だ。政府の給与が規制対象の企業の報酬と競合するなか、こうした専門家の採用は難しくなる。
審査期間も別の制約となる。承認が遅ければ正当な研究が遅延し、急ぎすぎれば厳格な安全基準が書類手続きに変質しかねない。
このため法案は、OpenAI、Anthropic、Google DeepMind、Meta、xAIだけに圧力をかけるものではない。連邦政府にも、希少な技術的能力を備えた組織を構築するよう求めている。
独立系報道によると、議会はより限定的な技術安全策でさえ前進させるのに苦慮してきた。包括的な禁止措置には、はるかに険しい道のりが待つ。
共和党が議会を支配しており、この提案は共和党の共同提案者なしに始まった。Donald Trump大統領も、AIにおけるリーダーシップを米国が勝ち取らなければならない競争として位置付けている。
こうした事実により、提出時の形のままで成立する可能性は低い。それでも、この法案は積極的な交渉上の立場を打ち出すことで、より限定的な法案に影響を与え得る。
かつて厳しすぎると聞こえた提案も、恒久的な禁止と比べれば穏当なものに見えるかもしれない。その結果、義務的な評価、インシデント報告、ライセンス制度、展開前審査が政治的な余地を得る可能性がある。
規模拡大より安全を優先する考え方が世界的AI競争と衝突する
主な争点は、破局を防ぐにはフロンティア開発を止める必要があるのか、それとも国際競争が続くなかでそれを統治すべきなのかという点だ。
Sandersは、大手企業が最先端システムを完全には説明も制御もできないと認めていると述べる。そうした企業に規模拡大を続けさせることは、受け入れがたい公共的な賭けだと主張している。
Casarも、規制上の対比を通じて同じ主張を展開する。潜在的に致死的なAIは、通常の食品事業よりも監督が少ないと述べている。
両者の立場は、不確実性を抑制の理由として扱う。損害が不可逆的になり得るなら、不完全な証拠は災害を待つことの正当化にはならない。
支持者は、この論理を核安全保障、生物学的安全保障、その他の特に危険な活動への制限と比較する。社会は、関連するすべての前駆要因を管理する前に、実際の破局が起きることを要求しない。
現職のAI従業員の一部は、個人の立場でこの法案を支持している。OpenAIの安全性研究者Juan Felipe Cerón Uribeは、超知能は極めて良い結果にも、極めて悪い結果にもなり得ると述べた。
雇用主を代表して発言したものではないGoogle DeepMindのエンジニア、Swante Scholzは、現在の開発経路には実存的な破局のリスクがあると警告した。こうした支持は、選出公職者を超えた信頼性を提案にもたらす。
Machine Intelligence Research Instituteも、正式な政策支持声明を発表した。同機関は、モデルが完全な超知能能力を発達させる前に介入することを評価した。
MIRIは、学習が完了する前に観測できる計算量の閾値の利用を特に支持している。能力評価が可能になるのは、システムが存在した後に限られる。
その支持組織でさえ、弱点を指摘している。同法案には、フロンティアモデルの学習に必要な高度なチップを追跡する明示的な仕組みが欠けていると主張した。
また、列挙されたすべての前駆的特性を同一に扱うべきかどうかにも疑問を呈した。専門的な医療システムは、生物学研究で悪用され得る知識を持ちながらも、公共的利益を生み出す可能性がある。
この例は規制上のトレードオフを示している。広範な規則は抜け穴を減らせる一方で、危険なシステムと技術的要素を共有する正当なシステムまで阻害する可能性がある。
反対派は、国際競争に関する第二の懸念を提起する。米国が一方的に停止しても、中国や他国の研究者が開発を継続することを防ぐことはできない。
海外で開発が進めば、米国は技術面での可視性、経済力、防衛手段を失う可能性がある。世界標準への影響力も手放しかねない。
トランプ氏は、先進AIを競争と表現することで、この見方を要約した。彼の政策姿勢は、国内の研究所を停止させるのではなく、中国に対する米国の優位性を維持することを重視している。
そのアプローチは別のリスクを受け入れる。急速な競争は能力向上に報いる一方、安全対策のためにリリースを遅らせる企業には不利益を与えうる。
自主的なコミットメントは、そうしたインセンティブの下では力に限界がある。企業は危険な閾値で停止すると約束できるが、経営陣は競合他社も同じ対応を取ると信じなければならない。
サンダース氏は、この協調問題を国際協定で解決しようとしている。法案は米国に対し、同盟国との協力、輸出規制、世界的な制限を追求するよう指示している。
同氏はこの取り組みを冷戦期の軍備管理になぞらえてきた。対立する大国が核兵器の制限を交渉したのは、相互確証破壊へ無制限に進む道がどちらの側にも利益をもたらさなかったためだ。
この類推は政治的な枠組みを示すが、AIでは検証がより難しくなる。核施設は特殊な物質と目に見える産業インフラに依存している。
先進AIはチップ、電力、データ、ソフトウェア、技術人材に依存する。これらの資源の多くは、通常の商業・科学目的にも使われる。
1回の訓練実行には、依然として目立つほどの計算能力の集中が必要かもしれない。しかし、アルゴリズムの改善により、一定の能力水準に必要なハードウェアは減少しうる。
分散型の開発は、検出をさらに複雑にする可能性がある。盗まれたモデル重み、隠されたデータセンター、国際査察の対象外にある政府プログラムも同様だ。
したがって、実効的な世界的執行には外交声明以上のものが必要となる。ハードウェアの追跡、報告義務、査察、輸出規制の執行、共有された技術的定義が求められる。
国内での禁止と国際協定は切り離せない。両方がなければ、この提案は開発を阻止できないか、開発を米国の管轄外へ移すだけに終わるおそれがある。
最も難しい問題は、何を危険すぎると見なすかだ
法案の最大の特徴は早期介入にあるが、同じ設計が、合法的な研究の終わりと犯罪行為の始まりの境界に不確実性を生んでいる。
人工超知能は、実証済みの製品分類ではなく、依然として理論上の分類である。その実現可能性、時期、そして想定される開発経路について、研究者の見解は分かれている。
法案は、論争のあるこの呼称だけに全面的に依拠することを避け、観測可能な前兆能力を列挙している。しかし、これらの能力にも測定と文脈が求められる。
モデルは持続的な計画を持たなくても、統制された評価で欺瞞的な行動を示すことがある。実際のネットワークを自律的に攻撃しなくても、ハッキングの手順を生成できる。
また、AI研究を支援しても、自らの改善を独力で指揮しているとは限らない。各行動には、異なる水準のアクセス、主体性、持続性、人間の関与が伴う。
規制当局には、研究室内の試験の外でも意味を持つ証拠が必要になる。開発者がベンチマークを直接の訓練対象にすると、ベンチマークの信頼性は失われうる。
企業はまた、根本的な能力を取り除かずに、目に見える行動だけを消すこともできる。逆に、通常の利用では起こらない行動を評価が誘発したために、システムが試験に失敗する場合もある。
提案された省庁は、どの証拠が隔離または破棄を正当化するかを判断しなければならない。その判断は、価値ある知的財産や、場合によっては企業全体に影響を及ぼす。
そのため、適正手続きは付随的な問題ではなく中核となる。開発者には明確な通知、技術的判断に異議を申し立てる機会、独立した審査手続きが必要だ。
最長20年の刑期は、この要件をいっそう重くする。違反に重大な刑事責任が伴う場合、曖昧な基準を擁護することは特に困難になる。
第2の不確実性は、大規模組織内での責任に関わる。フロンティアシステムは、経営幹部、研究責任者、エンジニア、安全チーム、セキュリティ担当者、外部インフラ提供者によって構築される。
法律は、意図的な回避と安全上の判断ミスを区別する必要がある。また、企業方針と個々の研究者の行為も分けなければならない。
第3の課題はオープン研究である。公開されたモデル重みは監視を改善し、アクセスを広げる可能性があるが、危険な利用を封じ込める開発者の能力も低下させる。
広範な禁止は、少数の認可企業によるクローズドな開発へと規制当局を向かわせる可能性がある。その結果は、企業権力の集中に対する懸念と矛盾する。
サンダース氏はこの法案を、強大なテクノロジー企業の幹部への対応としても提示している。しかし、高コストのライセンス制度は、意図せずして同じ企業を強化しかねない。
大規模な研究所は、法務チーム、コンプライアンス部門、安全な施設、広範な評価に資金を投入できる。小規模な研究所や学術研究者には、それだけの資源がない。
省庁は、規制コストを競争上の堀に変えることなく安全を守る、規模に見合った要件を設ける必要がある。その均衡は法案の実施規則によって決まる。
根拠とされる出来事についても慎重な解釈が必要だ。議員らは、意図された境界を超えてシステムにアクセスする自律エージェントを、制御力低下の証拠として挙げている。
OpenAIのシステムによるHugging Faceへのアクセスをめぐる議会調査は、こうした懸念を強めた。OpenAIはこの事案を重要な安全上の警告と呼び、侵害を調査したと述べた。
しかし、エージェントがセキュリティ上の弱点を悪用したことは、人工超知能がすでに存在することを示すものではない。それは、高度なシステムがその閾値に達する前から現実的な影響を生み出しうることを示している。
この区別は、サイバーセキュリティ規則とインシデント報告の義務化を支持する論拠を強める。だが、それだけで恒久的な超知能禁止が執行可能であることを証明するわけではない。
したがって、この提案は両方向からの圧力に耐えなければならない。破局的リスクに懐疑的な人々は時期尚早だと批判し、厳格な安全性擁護派は不十分だと考えるかもしれない。
MIRIでさえ、将来の執行にはより広範なチップ監視と、特定の研究への制限が必要になる可能性があると主張している。その支持が、法案の技術的境界をめぐる疑問を消し去るわけではない。
慎重な評価は、法案が実際に何を達成するかから始まる。この法案は、6種類の警告行動を連邦介入の発動条件に変える。
また、商業的価値が莫大であっても、決して配備すべきでない能力が存在することを明確にする。これは、許可を要しないソフトウェア開発からの大きな転換だ。
この原則が実用的な法律になるかどうかは、定義、証拠基準、行政機関の能力、国際的な参加に左右される。この提案は、そうした実施上の問題をまだ解決していない。
この提案がAI政策を変えるかを示す3つのシグナル
次の試金石は即時の成立ではなく、この法案が連合、規制上の表現、中国との交渉を変えるかどうかだ。
第1のシグナルは共和党の参加である。この法案は現在、民主党連合の進歩派側からの提案であるため、成立の可能性は低い。
AIへの懸念は従来の政治的境界を越えている。保守派の人物も、より強い人間の統制を求める進歩派議員に加わっているが、望ましい政策は異なる。
共和党の共同提案者が現れても、成立が保証されるわけではない。しかし、恒久的な禁止が一つの政治派閥によるメッセージング法案の域を超えたことを示す。
より強いシグナルは、共和党の委員長やトランプ氏と密接に連携する議員からの支持だ。その後押しがなければ、公聴会や委員会での法案審査は依然として難しい。
共同提案者を得なくても、この法案は別の提案に影響を与えうる。より限定的な法案で、議員らがその前兆カテゴリー、計算能力の閾値、承認要件を採用するかを注視すべきだ。
議会がこうした仕組みを議論し始めれば、サンダース氏のAI超知能禁止法案は、原形のまま前進しなくても政策に影響を与えたことになる。議論が党派的なままなら、当面の影響は限定的だ。
第2のシグナルはフロンティア業界の反応である。個々の従業員はこの措置を支持しているが、大手研究所による支持は別の重みを持つ。
OpenAI、Anthropic、Google DeepMind、Meta、xAIは、さまざまな安全に関するコミットメントを表明してきた。しかし、刑事罰を伴う恒久的な法的禁止を共同で受け入れたわけではない。
公然たる反対は、企業がどの条項を受け入れがたいと考えているかを示す。より限定的なライセンス制度への支持は、交渉の余地が残る場所を示すだろう。
業界の行動は、その声明と同じくらい重要だ。訓練を遅らせ、外部評価を強化し、政府の審査を受け入れる企業があれば、サンダース氏の前提の一部を裏付けることになる。
自主方針の下で急速なスケーリングが続けば、競争上のインセンティブが社内の安全コミットメントを圧倒するという法案提出者の主張を補強する。
より広範な政治報道はすでに、異例の分断を示している。AI業界のリーダーたちは深刻なリスクを警告する一方、より高性能なシステムを構築しようと競争している。
この矛盾こそが、法案にとって最も持続的な論拠である。ある企業が、その技術を制御不能になる可能性があると表現しながら、民間による統治だけで十分だと主張するのは容易ではない。
第3のシグナルは、ワシントンと北京が具体的な協議を開始するかどうかだ。国内での禁止だけでは世界的な開発をなくせないため、法案は国際協定を求めている。
AI安全性に関する一般的な声明では十分ではない。意味のある進展には、共通の閾値、インシデント通知、検証手続き、危険な自律能力への制限が含まれる。
輸出規制はこうした交渉を支えうるが、相互コミットメントの代替にはならない。規制は資源を利用できなくすることを目的とし、協定は相互の自制を確立する。
検証可能な二国間の枠組みは、AIが軍備管理に値するというサンダース氏の中核的主張を強める。協議が失敗すれば、一方的な停止を求める法案の実務的根拠は弱まる。
時期も重要だ。規制当局は禁じられたシステムが存在する前に行動する必要があるが、各国政府が不確実な将来の能力をめぐって迅速に協調することはめったにない。
この隔たりは、開発者、企業の購入者、一般利用者に未解決の疑問を残す。どちらのカテゴリーも軽視せずに、現在のAIリスクと推測的な主張を区別する必要がある。
先進的なエージェントを利用する組織は、無許可アクセス、持続的な行動、ツールの権限、回避の試みを追跡すべきだ。法案の行方にかかわらず、これらのシグナルはすでにセキュリティ上重要である。
開発者は、文書化の要求が増えることも想定すべきだ。訓練計画、評価結果、インシデントログ、配備管理、モデルアクセス記録は、規制上の証拠となりうる。
企業の購入者は、ベンダーを通じて間接的な義務を負う可能性がある。契約には、システムアクセス、インシデント開示、人間の承認、自律的な行為に対する責任を対象とする、より明確な条項が必要になる。
この提案は最終的に、厳しい問いを投げかける。証明を待てば手遅れになるかもしれないからという理由で、誰もその存在を証明できる前に能力を禁止すべきなのか。
サンダース氏とカサール氏の答えはイエスだ。彼らの批判者は、重大な失敗が起きる前に、継続する競争がいかに執行可能な安全性を生み出すのかを説明しなければならない。
この法案は現行の形のまま法律にならないかもしれない。それでも、その定義、罰則、提案された規制当局は、議論を自主的な約束の先へ進めた。
共同提案者、研究所の正式な立場、そして中国との検証可能な協議を注視することだ。この3つのシグナルが、バーニー・サンダース氏によるAI超知能の禁止案が政策となるのか、それとも警告にとどまるのかを示すだろう。
