Bernie SandersのAI禁止案、超知能の一時停止に最長20年の懲役刑を設定
Bernie Sandersは、違反した個人に最長20年の懲役を科すAI禁止案を発表した。これはテクノロジー政策において異例なほど厳しい罰則である。
Bernie SandersのAI禁止案は、人工超知能を恒久的に禁止し、連邦規制当局が安全規則を整備する間、高度なAI開発を一時停止する内容だ。テキサス州選出のGreg Casar下院議員は、2026年9月3日にSandersとともにこの提案を発表した。
この区別は重要である。両者の発表は、成立済みの法律や即時に拘束力を持つ制限ではなく、今後提出される法案について説明したものだ。開発者は現在も合法的にAI研究を行えるほか、この提案が誰かの法的リスクを変えるには、深く分断された議会を通過しなければならない。
それでも、最長20年という刑期は規制をめぐる議論を変える。この案は、禁止された超知能の開発を、特定の違法な核兵器計画への関与に匹敵する重大な公共安全上の犯罪として扱う。
中心的な対立は、もはや迅速な開発と慎重な開発の単純な争いではない。一部の研究者が信頼できる形で定義できないと考える境界を、最先端AIに対する民間の統制と政府による強制力の間でどう設定するかが争点となっている。
Bernie SandersのAI禁止案が禁じるもの
この提案は、超知能の恒久的な禁止、最先端開発の一時停止、新たな規制当局、そして刑事罰を組み合わせている。
SandersとCasarはワシントンで、Ban Artificial Superintelligence Actを発表した。この提案は、人間より高い能力を持つ、または意味のある人間の統制から逃れ得るとみなされるシステムを対象とする。
両上院議員のAI禁止案の発表によれば、いかなる個人・組織も、禁止対象となる超知能システムを開発または配備できなくなる。この禁止には、停止命令を無効化したり、政府による統制を脅かしたりできるシステムも含まれる。
この提案は別途、新たな連邦規制当局が業務を開始するまで、高度なAIの開発を一時停止する。その機関は、対象となる開発を再開できるようになる前に、安全規則とモデル審査プロセスを整備する。
この区分により、法的な境界は二つ生まれる。超知能は引き続き禁止される一方、一部の高度なAI開発は、規制当局が承認の枠組みを設けた後に再開できる可能性がある。
この提案は、閣僚級の連邦AI機関を設立する。専門家諮問委員会は、独立した科学的・技術的助言を提供する。
同機関は、最先端システムを開発から配備まで監視する。最先端AIとは一般に、現在の能力と計算規模の上限に近いモデルを指す。
規制当局は、危険な能力の除去を監督する。また、禁止された人工超知能に分類されたシステムの破壊も監督する。
こうした制限に違反または回避しようとする企業は、この提案が「企業の死刑」と呼ぶ措置に直面する。公表された要約では、その救済措置の法的構造は完全には説明されていない。
個人には最長20年の懲役刑が科される可能性がある。これは上限の刑罰であり、通常のソフトウェア開発や偶発的な規制不遵守に自動的に適用される刑ではない。
この提案は国内の研究所にとどまらない。国際的な制限、同盟国との協調、輸出規制を米国の政策の一部とする。
この世界的な要素は、法案提出者の考え方にとって不可欠だ。他国が同等の規制なしに同じ能力の開発を続けるなら、国内での一時停止がもたらす保護には限界がある。
ただし、公表された資料にはいくつかの運用上の疑問が残る。禁止される超知能と、単に高度なソフトウェアを区別するための完全な公開基準は示されていない。
また、オープンモデル、海外の研究、分散学習、より大規模な計算クラスターではなくソフトウェアを通じて実現される性能向上を、規制当局がどう扱うかも明示していない。
こうした詳細によって、この法律が狭いレッドラインとなるのか、最先端研究に対する幅広いライセンス制度となるのかが決まる。また、誰が訴追対象となり得るかも左右する。
20年の刑罰が議論を変える理由
提案された刑期は、不確実な科学的しきい値を重罪となり得る境界へと変える。
SandersとCasarは、この最長刑を、核兵器開発への違法な関与に対する既存の罰則と比較している。両者の要約はこの比較を、制御不能な超知能には同等の法的な重大性が必要だという証拠として示している。
連邦法には、外国テロ勢力が運営する核兵器計画を故意に支援した場合に最長20年の刑を科す規定がある。該当する核兵器に関する法令は、関与、物的支援、未遂、共謀を対象とする。
この比較は修辞的には効果的だが、慎重な扱いが必要である。既存の法令が対象とするのは、外国テロリストの兵器計画に対する故意の支援であり、あらゆる無許可の核研究ではない。
提案されたAI犯罪も、公表された要約では定義が十分ではない。核物質、兵器計画、テロ組織には、確立された法的・技術的な意味がある。
人工超知能には、同等に確立された測定基準がない。研究者の間では、どのベンチマークが幅広い知能、自律性、戦略的計画、または信頼できる人間レベルの性能を表すのかについて意見が分かれている。
あるモデルはプログラミング試験で人間を上回る一方、基本的な現実世界の課題では失敗することがある。別のモデルはシミュレーション内では効果的に計画できても、環境が変われば機能不全に陥る可能性がある。
開発者は、学習、ツール、システム指示、権限、配備アーキテクチャを通じても振る舞いに影響を与える。危険な能力が常にモデル単体に存在するとは限らない。
こうした複雑さから、意図が重要になる。刑事法は、意図的な回避と、予期せず危険な能力を明らかにした正当な研究を区別しなければならない。
また、継続的なテストがいつ禁止された開発に変わるのかも定義する必要がある。そうしなければ、研究所はしきい値を超えた作業を完了した後で初めて、その証拠を発見するかもしれない。
リスクは経営幹部だけに及ばない。エンジニア、研究者、インフラ提供者、コンプライアンス担当者は、個々の行為が責任を生じさせる可能性があるかを理解する必要がある。
企業はおそらく、文書化の要件、社内承認ゲート、アクセス制限、独立したテストで対応するだろう。成立しなかった法案であっても、こうした慣行を標準化する可能性がある。
この刑罰は資金調達と採用にも影響する。争いのあるコンプライアンス判断に服役の可能性が伴う場合、投資家と労働者は不確実性を異なる形で受け止める。
小規模な研究所が最も大きな実務上の負担に直面する可能性がある。大企業は、独立系研究者が容易には再現できない法務・セキュリティ・評価チームを維持できる。
一方で、法案提出者の議論では、大手研究所こそが最大のシステミックリスクをもたらす。計算資源、独自データ、広範な配備能力は、失敗の影響を急速に拡大し得る。
したがって、20年という刑期は単なる処罰以上の意味を持つ。SandersとCasarが、特定のAI開発を事前抑制を必要とする本質的に危険な活動と捉えていることを示している。
これは、米国のソフトウェア規制の大半から大きく逸脱するものだ。テクノロジー規則は通常、開発開始後の有害な利用、消費者への影響、セキュリティ慣行、または情報開示を規律する。
これに対しBernie SandersのAI禁止案は、禁止対象のシステムが一般ユーザーに届く前の能力の最前線を対象とする。その論理は、従来の製品規制よりも軍備管理に近い。
本当の争点は、誰がしきい値を管理するのか
この提案は、最先端研究所が主として自らの安全境界を定義、テスト、監督する現在のモデルに異議を唱えている。
Sandersは、人類に影響を及ぼす決定を少数のテクノロジー企業経営者に委ね続けることはできないと主張する。彼の立場は、AI安全性を企業権力の集中と結びつけている。
Casarは制度上の論点をより直接的に示す。彼は、重大な影響を持つAIが、地域の検査や許可の対象となる多くの一般的な事業よりも監督を受けていないと主張する。
法案提出者は、OpenAI、Anthropic、Metaによる条件付きの安全コミットメントにも言及している。こうしたコミットメントは一般に、能力が既存の安全措置を上回った場合に、より強い予防策を講じることを約束するものだ。
企業のリーダーは、深刻なAIリスクについて公に議論してきた。Sam Altmanは超知能をめぐる国際協調を支持し、Dario Amodeiは最先端モデルに対するより強力なガバナンスを提唱している。
Elon Muskは、AIリスクを文明規模の危険と繰り返し比較してきた。規制への支持は、xAIがより高性能なシステムをめぐる競争に参加していることと並存している。
こうした立場が、この提案の中心的な逆転を生む。主要研究所は制御喪失を警告する一方で、能力を増すモデルの学習、配備、商用化を続けている。
これは不誠実さを示すものではない。企業は高度なAIが価値あるものであると同時に危険だと考え、競合他社にも等しく適用される規制を支持することができる。
しかし、自主的なコミットメントは企業独自の定義、非公開の証拠、社内執行に依存する。企業は投資家、顧客、従業員、競合研究所からの圧力にも直面する。
単独で停止する研究所は、人材と市場での地位を失うリスクを負う。その競合企業は、同等の制限を受け入れずに同じ能力の開発を続けるかもしれない。
この提案は、その協調の問題を法的命令に置き換える。対象となるすべての企業は、一つの規制当局と一つの執行枠組みに従って停止することになる。
支持者は、競争を防ぐ唯一信頼できる方法は政府の介入だと考える。自主的な安全の約束は、商業的・地政学的圧力の高まりに耐えられないと主張する。
より広い運動には、著名な科学者の支持もある。公開された超知能に関する声明は、制御に関する科学的合意と強い公的支持が得られない限り、開発を禁止すべきだと訴えている。
署名者にはAIの先駆者であるGeoffrey HintonとYoshua Bengioが含まれる。両者の参加は、禁止を求める運動に技術的な信頼性を与えるが、分野全体での合意を示すものではない。
2026年の国際安全報告書も、システミックリスクへの注目がこの分野で広がっていることを示している。ただし、それだけでSanders案の正確な法的設計を支持するものではない。
反対派は、これほど不確実な科学的境界を政府が選ぶための十分な能力を持たないと反論する。規制当局が有益な研究を凍結させたり、既存のテクノロジー企業を固定化したりすることを懸念している。
ライセンス制度は、すでにコンプライアンスチーム、政府との関係、広範な評価インフラを持つ既存企業を有利にする可能性がある。Big Techを対象とした禁止が、Big Techを強化することもあり得る。
オープンな研究は別の対立を生む。独立した精査は研究者による脆弱性の発見を助ける一方、機微な手法を公表すれば危険な能力を広める可能性もある。
幅広い禁止は、研究を秘密裏または海外の法域へ追いやる可能性がある。狭い禁止では、開発者が禁止された作業に別の名称を付ける余地を残すかもしれない。
したがって、主たる対立はSandersとある1つの研究所の間にあるのではない。最前線における、民主的統制と業界主導の自主規制との対立である。
どちらのアプローチにも制度的失敗のリスクがある。企業は競争優位を優先し得る一方、政府は不正確、緩慢、あるいは政治的な規制を行う可能性がある。
この提案は、技術が合意された超知能の閾値に達する前に、どの失敗モードをより重く見るべきかを議会に判断させる。
恒久的禁止には測定上の問題がある
規制当局が能力、意図、統制を擁護可能なテストで測定できなければ、議会は超知能の境界を公正に執行できない。
この提案で最も難しい表現は「人間の知能を超える」だ。人間の知能は単一の測定可能な量ではなく、AIの性能はタスクや環境によって異なる。
モデルはすでに、限定的な領域では大半の人を上回っている。情報の検索、画像の分類、言語の翻訳、あるいは広大な技術的探索空間の機械的速度での探索が可能だ。
ただし、こうした結果が汎用的な自律性を自動的に示すわけではない。システムはベンチマークで人間を上回っていても、慎重に設計されたプロンプトやツールに依存し続けることがある。
逆の問題も重要だ。モデルが正式な閾値を下回るスコアでも、評価で明らかにならない危険な能力を備えている可能性がある。
開発者は時に、有害な要求を拒否するようモデルを訓練する。その目に見える挙動は、基礎となる能力が消失したことを証明しない。
したがって評価者は、能力と実行意思を分けなければならない。敵対的プロンプト、ファインチューニング、ツールへのアクセス、変更された安全制御の下で、システムが何を実行できるかを検証する必要がある。
統制の定義も同様に難しい。モデルが指示を無視するのは、要求が曖昧である、システムが別のルールと衝突している、あるいは推論に失敗したためかもしれない。
その事象は、システムが停止に戦略的に抵抗する場合とは異なる。後者の挙動は、前者にはない状況認識と持続的な目標を示唆する。
規制当局は、刑事責任を問う前に再現可能な証拠を必要とする。秘密のベンチマークだけでは、被告が政府の分類を理解したり争ったりすることが難しくなる。
完全に公開されたテストも別の問題を生む。開発者は基礎的なリスクを下げることなく、既知の評価に向けてモデルを最適化できる。
実行可能な制度には、おそらく多層的なテストが必要になる。公開基準で基礎的な義務を定める一方、保護された評価でセキュリティ上機微な能力を調べることができる。
当局には、予期しない結果に関する報告ルールも必要になる。研究所は、懸念される挙動を開示できるべきであり、すべての発見を犯罪的開発の証拠として扱うべきではない。
承認された封じ込め条件下で誠実に実施されるテストは、セーフハーバー条項によって保護できる。公表された概要は、そのような保護が存在するかを明確にしていない。
弱いAIガバナンスの著名な批判者であるGary Marcusは、恒久的な禁止はなお行き過ぎだと主張する。彼の規制に関する批評は当局の設置を支持し、一時停止の可能性も検討するが、無期限かつ一方的な禁止は退けている。
Marcusは、ベンチマークの複雑さと、権威主義的な政府が定義を操作し得るリスクを指摘する。彼は、強い統制と監督の証拠に裏付けられた条件付き開発を支持している。
この批判が重要なのは、AIリスクを否定していないからだ。価値ある研究を阻害せずに提案の仕組みがそのリスクに対処できるのかを問うている。
この区別は、リスクの否定と政策上の意見の相違を分ける。批判者は、高度なAIに規制が必要であることを認めつつ、恒久的な能力ベースの禁止を退けることができる。
法案はまた、開発チェーン全体で対象となる主体を定義する必要がある。現代のAIシステムは、チップメーカー、クラウドプロバイダー、データ供給者、モデル研究所、アプリケーション開発者に依存している。
既存モデルを利用するアプリケーション開発者は、最先端システムを訓練する研究所と同じ立場にはない。アクセス、知識、統制には大きな違いがある。
ファインチューニングはさらに境界を複雑にする。小規模な変更によって、ベースモデルにはすでに存在したが抑制されていた能力が露出する可能性がある。
オープンウェイトモデルは、分散型の執行問題を生む。ウェイトが世界中に流通すれば、何千ものユーザーが元の訓練インフラにアクセスせずとも変更できる。
法制度は、広く複製されたソフトウェアを、管理された核物質と同じように容易には消去できない。核との類推は、その運用面では弱まる。
それでも、最大規模の最先端システムの訓練には集中したインフラが必要だ。政府は高度なチップ、大規模な計算クラスター、クラウド契約、エネルギー集約型データセンターを監視できる。
この集中は規制当局に執行の接点を与える。ただし、それですべての重要なアルゴリズム上の改善や分散プロジェクトを検知できる保証はない。
この法律の信頼性は、測定可能な計算資源のルールと能力評価を結びつけられるかにかかっている。どちらか一方だけでは、大きな隙間が残る。
国内での一時停止だけでは世界的な競争を解決できない
開発が他国へ移る前に国際協調が執行可能にならなければ、この提案は成功しない。
SandersとCasarはこの問題を認識している。両氏の枠組みは、世界的な超知能開発を防ぐことを目的とした条約、同盟国との協調、輸出規制を求めている。
このアプローチは、監視、共通の制限、違反時の帰結によって秘密開発への誘因を下げる軍備管理から着想を得ている。AIでは検証の条件が異なる。
核開発計画には特殊な材料と目立つ施設が必要だ。高度なAIは、多くの正当な用途を持つ商業的に有用なチップ、データセンター、ソフトウェア、専門知識に依存する。
大規模な訓練クラスターは、数学的な洞察よりも容易に監視できる。アルゴリズムの進歩は、一定の能力に必要な計算資源を減らし得る。
輸出規制は最先端ハードウェアへのアクセスを遅らせることができる。しかし、すべての国が同じ能力定義、査察ルール、刑事罰を採用することまでは保証できない。
米国には、チップ生産、クラウドインフラ、研究機関を抱える同盟国の協力も必要になる。規則が分断されれば、移転の機会が生まれる。
反対派はこれを国家安全保障上の競争として位置づけるだろう。一方的な一時停止は、戦略的競争相手に米国の監督なしで前進する時間を与えると主張するはずだ。
支持者は、制御されない競争がすべての参加者の安全性を低下させると応じる。結果として生じるシステムをどの開発者も確実に制御できなければ、先行してもほとんど防御にはならない。
この対立は、古典的な安全保障のジレンマを反映している。各側は他者が加速すると見込んで加速し、全員が結果を恐れていても協調的な抑制をより難しくする。
Sandersの枠組みは、禁止によってその循環を断とうとする。弱点は、国内法では外国政府を拘束できない点にある。
強みは議題設定にある。米国は、他国に採用を求める立場をまず定義しなければ、世界的な制限を交渉できない。
議会はまた、同盟国、競争相手、大学、企業、防衛機関に同じ規則を適用すべきかを決めなければならない。不平等な例外は信頼を損なう。
軍事上の例外は特に議論を呼ぶだろう。国家安全保障プログラムには無制限の開発を留保しながら、民間に自制を求めても、政府は説得力を持てない。
検証ルールは、監督を産業スパイ活動に変えることなく、機微な研究を保護しなければならない。国際査察官には限定的だが信頼できるアクセスが必要になる。
この提案は、開かれた科学交流とも衝突し得る。安全性や評価に関する研究を含め、機械学習では国境を越えた協力が一般的だ。
過度に広範な輸出規則は、より優れた制御手法を開発している人々から米国の研究者を孤立させる可能性がある。弱いルールでは、ソフトウェアや専門知識を通じた禁止対象の能力移転を許しかねない。
経済的圧力はあらゆる交渉を左右する。各国はAIが生産性、防衛、科学、医療、公的サービスを向上させると期待している。
したがって恒久的な制限は、通常の便益と禁止される最前線を区別しなければならない。超知能をめぐる議論が続いているというだけで、政府が有用なAIアプリケーションを放棄することはない。
最も適切な歴史的比較は、核不拡散をそのまま模倣することではない。民生上の価値と破局的な可能性を併せ持つデュアルユース技術を統治する、より広範な課題である。
その課題には、共通の定義、監視、インシデント報告、信頼できる帰結が必要だ。公表された枠組みはそれらの目標を挙げているが、国際的な実行機構はまだ示していない。
開発者とAI購入者が次に注視すべきこと
決定的なシグナルは、正式な法案文、測定可能な規制閾値、そして超党派または国際的な支持の証拠である。
最初のシグナルは正式な法案文だ。Sandersはこの提案を近日中に発表すると説明しており、読者は提出された法案番号と完全な法定文書を注視すべきだ。
その文書では、人工超知能、高度AI開発、禁止行為、犯罪意思、企業死刑を定義する必要がある。また、利用可能な抗弁と例外も特定すべきだ。
これらの定義が広範なままであれば、不確実性に関する批判は強まる。精密な閾値と保護された安全性研究があれば、提案の信頼性は高まる。
2つ目のシグナルは、提案されている連邦規制当局の設計だ。議会は、その権限、人員配置、技術的アクセス、審査期限、既存機関との関係を説明しなければならない。
真剣なモデル審査プロセスには、独立した評価能力が必要だ。研究所が作成した証拠に依存すれば、Sandersが置き換えようとする自主規制の大部分が残る。
開発者は、監督が訓練用計算資源、能力テスト、配備条件、あるいはその3つすべてに焦点を当てるかを注視すべきだ。その選択が日々のコンプライアンス義務を決める。
企業の購入者も、インシデント報告と配備に関するルールを追うべきだ。制限付き研究向けに承認されたモデルは、重要な業務システム内での自律利用には適格でない可能性がある。
すでにAIを配備している組織は、モデル、権限、接続されたツール、評価結果、人間による承認ポイントの記録を維持すべきだ。提案が成立しなくても、こうした統制は有用であり続ける。
検索可能なエンジニアリング・ナレッジベースは、チームが評価の証拠、リスク判断、変化するコンプライアンス要件を保存する助けになる。
3つ目のシグナルは政治的協調だ。この提案にはSandersとCasar以外の議会内スポンサー、特に国家安全保障と経済競争を懸念する議員が必要になる。
限定的な安全対策に対する超党派の支持は、義務的監督を求めるより広範な論拠を強化する。両党から拒否されれば、政策はより限定的な規則へ向かうことになる。
国際的な反応も同じくらい重要だ。高度なチップ、共通の評価、インシデント報告に関する同盟国の約束は、この提案の世界的前提を支える。
主要なAI生産国が共通の制限を拒めば、恒久的な米国の禁止を政治的に擁護することは難しくなる。移転と戦略的競争をめぐる主張が勢いを増す。
読者はまた、提案された上限と実際に科される刑罰を区別すべきだ。議会が法律を制定し、検察が対象となる違反を立証しない限り、開発者がこの20年の刑罰に直面することはない。
同じ注意は核との比較にも当てはまる。同一の上限は深刻さを伝えるが、犯罪、証拠、技術は法的に同一ではない。
バーニー・サンダース氏によるAI禁止案は、なお重要な一線を動かした。制御不能なシステムの開発を、そのシステムが害を引き起こしたと誰かが立証する前に違法とすべきかを問いかけている。
この問いは最先端の研究所を超えて広がる。開発者は安定した研究ルールを必要とし、企業は信頼できるモデルを必要とし、労働者は導入リスクを管理する制度を必要としている。
ナレッジワーカーは、ベンダーに対し、モデルが何にアクセスできるのか、どの行為に承認が必要か、障害がどのように記録されるのかを尋ねるべきだ。こうした実務的な問いは、規制がどのような結末を迎えても重要である。
この提案で最も厳しい要素が最も注目を集めるだろう。しかし、その持続的な影響は、事前承認、独立した検証、そして公的な統制をAI政策の主流に組み込むことにあるかもしれない。
見出しだけでなく、正式な法案を注視すべきだ。定義が検証可能なものになり、国際協調が進展すれば、この提案は実質を伴う。
これらの要素が未解決のままであれば、20年の刑罰は主として政治的な警告として機能するだろう。いずれの結果も、ワシントンがいま超知能競争をどれほど深刻に受け止めているかを開発者に示す。
