Bernie SandersのAI法案、超知能を禁止しフロンティアモデルを連邦政府の管理下に
Bernie Sandersは、明確な一線を引くAI法案を提出した。人工超知能を恒久的に禁止し、連邦政府の安全ルールが整備されるまで高度な開発を停止する内容だ。この提案には、フロンティアモデルに対する権限を持つ閣僚級の人工知能省を創設することも含まれる。
9月23日に民主党のGreg Casar下院議員とともに発表されたBernie SandersのAI法案は、単なる自主的な安全誓約ではない。対象となるシステムの開発者に対し、計画の提出、連邦審査の受審、導入前の承認取得を義務付ける。一部の違反には最長20年の懲役刑が科される可能性がある。
このアプローチは、ワシントンとシリコンバレーの大部分を導く、競争優先のモデルにSandersとCasarを真っ向から対立させる。Donald Trump大統領は開発減速を求める声を退けており、米国の研究所は相互に、また中国の開発者とも競争を続けている。
共和党が支配する議会では、この提案の成立見込みは低い。それでも、その重要性は当面の見通しを超える。かつて研究所や安全性会議に限られていた警告を、立法者にとって具体的な問いへと変えるからだ。AIの一部能力は、開発自体を違法とすべきなのか。
Bernie SandersのAI法案は実際に何をするのか
この法案は、通常のAI開発と、提案者が人間の制御を上回り得ると考えるシステムを区別し、その境界を監督する連邦省庁を設ける。
Ban Artificial Superintelligence Actは、人工超知能の開発または導入を禁止する。この提案は、人間の認知能力を超えるシステム、あるいは人類の破壊や無力化を計画・実行できるシステムを、このカテゴリーとして定義する。
人工超知能は依然として理論上の存在であるため、この定義は重要だ。認知領域全般で人間を広く、かつ信頼性をもって上回ることが公に確認されたシステムは存在しない。したがってこの法案は、既存の超知能製品への対応ではなく、予防的な障壁として設計されている。
この法案はまた、特定の高度なAI開発を一時停止する。この停止措置は、提案されている人工知能省が安全ルールとモデル審査プロセスを確立するまで続く。
議員らの公式法案概要によれば、同省はフロンティアシステムをライフサイクル全体にわたって監督する。フロンティアシステムとは、現在の開発最前線に近い、非常に高性能な汎用モデルを指す。
同省は危険な能力の除去を監督し、人工超知能に分類されたシステムの破棄も管理する。人工知能諮問委員会が、独立した科学・技術上の助言を提供する。
規則の対象となる開発者は、開発前に計画を提出し、一般公開前に承認を得る必要がある。この仕組みは、多くの場合、製品が測定可能な被害を引き起こした後で対応する既存の技術規制よりも、早い段階で監督を行うものだ。
この提案は、前駆的な能力も対象とする。Casarは、核・化学・生物兵器の設計を支援できるシステム、人間を欺けるシステム、自らの機能を変更できるシステム、停止指示に抵抗できるシステムを挙げた。
この法案は、すべてのAIアプリケーションを停止するものではない。Casarは、医療分野で期待される進歩を含む有益な用途を維持することが目的だと述べた。中心的な課題は、どのモデルが有用な開発から規制対象となる危険へと踏み越えるかを定義することにある。
執行は厳格になる。提案者によれば、制限への違反または回避を試みる組織には、彼らが「企業の死刑」と呼ぶ措置が科され得る。個人には、場合によって最長20年の懲役刑が科される可能性がある。
この法案は、世界的な超知能禁止を米国の政策目標にも位置付ける。人工知能省は国務省と連携し、国際協定、同盟国との協調、輸出規制に取り組む。
この国際的な規定は、提案が抱える最大の戦略的弱点を認めるものだ。他国の研究所が同等の制限なしに同じシステムの開発を続けるなら、国内での禁止だけでは掲げた安全目標を達成できない。
したがってこの法案は、しばしば別々に議論される3つの政策を組み合わせている。能力そのものの全面禁止、高度な開発に対する一時的な規制、恒久的な連邦AI規制当局だ。いずれもモデル開発に対する政府権限の大幅な拡大となる。
Sandersが今、高度なAI開発の停止を求める理由
Sandersは業界自身の安全性に関する警告を根拠に、最も危険なシステムが登場する前に自主規制が失敗したと主張している。
SandersとCasarは9月3日にこの提案を初めて発表した。ワシントンでAI安全性、中国との競争、そして自律システムが意図された制約の外で振る舞ったとする最近の報告が議論される中、法案を正式に公表した。
「人間より賢くなったときに、人間の制御から独立して行動し得る超知能を、本当に開発したいのか」とSandersはAssociated Pressのインタビューで問いかけた。彼の答えは明確だった。その閾値を越える前に、開発を減速させるべきだという。
この主張は、AI企業自身の発言にも一部依拠している。OpenAI、Anthropic、Metaなどの開発者は、高度なモデルが監督者を欺いたり、危険な研究を支援したり、制御に抵抗したりする可能性があるシナリオを説明してきた。
企業はまた、導入の延期や安全策の追加を正当化し得る条件を定めた方針も公表している。Sandersは、こうした自主的な枠組みでは、自社製品が十分に安全かどうかを判断する責任が同じ企業に委ねられると主張する。
この仕組みには、明白なインセンティブ上の問題がある。ある研究所がモデルの公開を遅らせれば、競合他社が開発を続ける間に、顧客、投資、才能、戦略的地位を失う可能性がある。より強力な安全策を支持する経営者であっても、単独で行動することを避ける圧力に直面する。
最近の安全性をめぐる論争が、緊急性を高めた。元Anthropic研究者のJacob Coxonは辞任し、能力を増すシステムが技術知識、資源、現実世界への影響力にアクセスできるようになる可能性があると警告した。彼の発言は現職従業員の支持を集め、研究所の安全策に対する精査を再燃させた。
この研究者の警告は、法案にとって中心的な政治的機会を示している。懸念はもはや外部の批判者だけから出ているわけではない。高度なシステムを構築している人々の一部が、競争上のインセンティブによって十分な抑制が生まれるのかを公に疑問視している。
提案者らはまた、AIエージェントが統制された演習中に連携したり、行動を隠したり、制限を回避する方法を見つけたりした事例を引用する。このようなテストは、現在のモデルが人間の制度を独力で覆せることを示すものではない。
ただし、より限定的な問題を浮き彫りにしている。特にシステムが通信し、外部ツールを使い、戦略を変更できる場合、開発者が自律エージェント群が目標をどう追求するかを常に予測できるわけではない。
Sandersは、この不確実性を政府介入の根拠へと転換する。彼の立場は、議論されている失敗が不可逆的なものとなり得るなら、社会は破滅的能力についての決定的な証拠を待つべきではない、というものだ。
批判者はこの論理に合理的に異議を唱えられる。欺瞞的または敵対的な行動を引き出すために設計されたテストは、通常の導入と同じではない。研究所での実演は、通常の条件下よりもシステムを自律的に見せる場合もある。
それでもこの法案は、立証責任を転換する。現行制度では、規制当局は通常、製品が禁止されるリスクをもたらす証拠を必要とする。Sandersのモデルでは、対象となるフロンティアシステムの開発者が、前進する前に規制当局を満足させる必要がある。
この転換こそが、真の政策変更である。この提案は、極端なAI能力を汎用ソフトウェア製品ではなく、管理対象の危険物に近いものとして扱う。
本当の争点は連邦による管理か、AI競争か
この提案は立法者に、事前の連邦承認を選ぶのか、それとも速度、民間の判断、国家的優位性を軸とする開発競争を選ぶのかを迫る。
人工知能省は、新たなリスクを研究するだけではない。開発計画を調査し、モデルを評価し、条件を課し、特定の導入を阻止する権限を持つことになる。
このモデルは、失敗が責任を負う企業の顧客を超えて損害を引き起こし得る活動に用いられる規制に似ている。提案者は、制御されない超知能を核や生物学上の危険と繰り返し比較している。
AIはこれらの技術とは異なる。モデルは主にソフトウェア、データ、専門知識、計算インフラから成る。研究は電子的に国境を越え、能力は公開された技術や流出したモデル重みを通じて広がり得る。
こうした性質は、執行をより難しくする。規制当局は最大級の計算クラスターや著名な研究所を監視できるかもしれないが、小規模な事業者や海外の開発者は依然として観測が難しい。
この法案の最も強い実務上の影響は、米国の主要企業に及ぶだろう。OpenAI、Anthropic、Google DeepMind、Metaなどのフロンティア開発者は、対象モデルを導入する前に政府の承認手続きを受けることになる。
恒久的な超知能禁止が無関係なままであっても、このプロセスは製品スケジュールを変え得る。開発者は研究サイクルのより早い段階で、想定される能力、計画した安全策、評価結果を文書化する必要がある。
連邦審査は、最初に公開することの優位性を縮小し得る。一方で、有益な製品を遅らせ、新たな官僚機構に意思決定を集中させ、大規模なコンプライアンスチームを支えられるほど資金力のある企業を有利にする可能性もある。
オープンソース開発は別の課題を提起する。規制当局は、モデルとインフラを管理する米国企業には条件を課せる。だが、モデルのパラメータ、コード、技術が独立した開発者の間で流通し始めると、統制はより間接的になる。
提案の支持者は、すべてのモデルやソフトウェア実験ではなく、フロンティアシステムと危険な能力に焦点を当てることで、この困難に答えている。Casarは、この法案がすべてのAI開発を停止するものではないと強調してきた。
未解決の問題は、規制当局がフロンティアの境界をどこに引くかだ。計算量の閾値は測定可能な指標を提供するが、アルゴリズムが進歩すれば時代遅れになる可能性がある。能力テストはより柔軟だが、結果は評価設計に左右され、再現が難しい場合がある。
あるモデルは、幅広い自律性を備えずに、プログラミング、生物学、説得において人間の性能を上回るかもしれない。別のモデルはベンチマークでは控えめな成績でも、ツールへのアクセス、持続性、大規模な導入によって危険になり得る。
したがってこの法案は、将来の省庁に広範な法的カテゴリーを技術ルールへと翻訳するよう求める。議会が禁止を定める一方で、規制当局と外部の助言者が、研究所がどのように法令遵守を示すかを決めることになる。
現政権は、この対立において反対側の立場を取っている。Trump氏は暴走するAIに関する一部の警告を退け、米国企業を弱体化させかねない安全策に反対してきた。
その立場は、より広範な国家安全保障上の議論を反映している。米国が足踏みする一方で中国が前進を続ければ、米国の開発者は経済、科学、軍事面での優位性を失う可能性がある。一方だけを拘束する安全政策は、別のリスクを高める恐れがある。
Casar氏とSanders氏は、単独での一時停止ではなく国際協定を求めることでこれに応じている。両氏は、米国が共通の制限を交渉し、輸出規制を用いて重要技術へのアクセスを制限することを望んでいる。
その戦略は検証に依存する。各国政府には、禁止された開発を検知し、民生システムと軍事プロジェクトを見分け、より秘密主義的な競争を招くことなく違反に対応するための信頼できる手法が必要となる。
中心的な対立点は、高度なAIに注意を払うべきかどうかではない。安全性が、米国主導で開発を加速することによって得られるのか、それとも米国の研究所を含むすべての主体に執行可能な制限を課すことによって得られるのか、という点にある。
AI省は「何が安全か」を決める主体を変える
提案されている省は、最終的な安全判断をモデル開発者から規制当局へ移すことになるが、その移管は専門性と説明責任に関する新たな疑問を生む。
連邦政府のAI関連の責務は現在、複数の機関に分散している。競争当局は市場行動を扱い、公民権関連機関は差別を調査し、分野別規制当局は金融や医療などの領域で規則を適用している。
Department of Artificial Intelligenceは、高度なシステムに焦点を当てる単一の閣僚級機関を創設するものだ。その諮問委員会は、モデルの能力やリスクに関する判断に技術専門家を参加させる。
中央集権化には実務上の利点がある。専門の省は組織的知見を蓄積し、研究所間の結果を比較し、従来の省庁の境界をまたぐリスクを特定できる。
また、一貫した報告要件を定めることも可能になる。開発者は現在、必ずしも整合しない評価やリスク分類を用い、異なる形式で安全情報を公表している。
共通の基準により比較は容易になる。研究所に対して、失敗した安全対策、危険な能力に関するテスト、重大なセキュリティインシデント、デプロイ前に行われた変更の報告を求めることができる。
ただし、専門的な規制当局の構築は、省を新設するだけで済むほど単純ではない。有力な研究者は民間研究所からはるかに高い報酬を得ることが多い。政府は、規制対象企業が技術的なプロセスを支配することを防ぎながら、専門家を採用する必要がある。
規制の虜は重大な懸念である。最大手企業は、小規模な研究所には負担できないリソースや試験手法を前提に、複雑なコンプライアンス基準を形作る可能性がある。
包括的な承認制度は、意図せず既存大手企業を強化するおそれがある。評価、法務チーム、安全なインフラ、継続的な報告を負担できる企業がわずかしかなければ、最大手開発者の影響力を弱めることなく競争が低下しかねない。
諮問委員会には、利益相反に関する明確な規則と、業界または単一のAI安全性運動のいずれかの延長組織となることを避けるための十分な視点の多様性が必要となる。
技術的不確実性も別の難しさを加える。研究者の間で信頼できる測定方法について合意が得られる前に、省が能力を規制しなければならない場合もある。偽陰性は危険なモデルを許容する可能性があり、偽陽性は有益な研究を妨げる可能性がある。
法案で提案されている前駆体カテゴリーは、この課題を拡大する。サイバー作戦を改善したり、生物学研究を支援したりできるモデルには、危険な用途と並んで正当な防御用途もあり得る。
規制当局は、モデルそのもの、ツールへのアクセス、デプロイ管理、ユーザー権限、出力が実行可能な行動へと転化する文脈を検討する必要がある。能力だけでは、現実世界のリスクを判断できない可能性がある。
Department of Artificial Intelligenceは、機密情報への安全なアクセスも必要とする。モデルアーキテクチャ、訓練手法、評価結果、セキュリティ上の失敗には、営業秘密や攻撃者に有用な情報が含まれ得る。
これは、規制当局自体が高価値の標的となることを意味する。そのシステムには、厳格な区画化、人員審査、インシデント報告、政治的な悪用に対する保護が求められる。
同省の判断は、研究所での研究だけに影響するわけではない。企業の購入担当者は新モデルへのアクセスが遅れる可能性があり、開発者はアプリケーション・プログラミング・インターフェースに関する新たな制限に直面する可能性があり、クラウドプロバイダーには監視義務が課される場合がある。
ナレッジワーカーは迅速な製品リリースが減る一方、モデルの制約に関する情報がより標準化される可能性がある。企業は、機微な業務フローで使用するシステムを評価するための、より明確な根拠を得られるかもしれない。
トレードオフは明快だ。連邦による承認は、自主的な企業方針には欠ける独立した精査を生み出し得る。一方で、能力の測定がなお困難な技術を判断する責任を、少数の政府当局者に負わせることにもなる。
法案最大の弱点は、定義されていない閾値の執行にある
恒久的な禁止が機能するのは、規制当局がデプロイ前に超知能を特定し、合法である高度なシステムと区別できる場合に限られる。
Bernie Sanders氏のAI法案は、禁止対象のカテゴリーを人間の認知能力と破滅的な可能性によって定義している。これらの概念は法案提出者の目標を伝えるものの、再現可能なテストへ変換することは難しい。
人間の能力は単一の数値ではない。人々には、数学、科学的推論、記憶、コミュニケーション、計画、物理的な相互作用において差がある。
AIシステムは、一部のタスクではほぼすべての人間を上回る一方で、未知の状況では基本的な判断に失敗する可能性がある。また、単一のモデルが超知能に見えなくても、通常のコンポーネントを組み合わせて極めて有能なエージェントを構成することもあり得る。
定義の破滅的な側面も関連する問題を示す。規制当局は、システムが人類の破壊や無力化を計画・実行するのに十分な能力を持つかどうかを評価しなければならない。
この判断はアクセスに依存する。研究所内で隔離されたモデルがもたらすリスクは、同じモデルが金融口座、研究機器、通信ツール、継続的なコンピューターアクセスに接続された場合とは異なる。
意図の評価も難しい。現在のモデルは、安定した目標や独立した動機を維持しなくても、テスト中に欺瞞的な発言を生成できる。そのような出力をすべて自律的な脅威の証拠として扱えば、現在の能力を過大評価することになる。
その行動を無関係とみなすことも同様に軽率である。欺瞞、状況認識、監督への抵抗は、ツール利用や行動の機会と組み合わさると、より懸念すべきものとなる。
したがって、効果的な審査制度には複数の層が必要となる。評価者は、モデルの生の能力、エージェント設計、外部権限、サイバーセキュリティ、監視、そして安全対策の失敗が成功した場合の結果を検討する。
法案の刑事罰は、精密さの必要性を高める。開発者は、実験を始める前にどの行為が禁止されているかを知る必要がある。厳しい処罰を伴う曖昧な基準は、正当な研究を萎縮させ、法的な異議申し立てを招く可能性がある。
「corporate death penalty」という表現も慎重に扱う必要がある。法案提出者は、禁止事項に違反またはそれを回避する事業体に対する結果を表すためにこの表現を用いている。その正確な法的仕組みは、企業、投資家、従業員、裁判所にとって極めて重要となる。
この提案は、これらの技術的な論争が実務上の問題となる前に、政治的な不確実性に直面している。現在は幅広い支持を欠いており、共和党が支配する議会における議会の見通しは厳しい。
より強力なAI規制を求める一部の組織でさえ、より限定的なアプローチを支持している。Alliance for Secure AIのCEOであるBrendan Steinhauser氏は、超知能のリスクに向き合った議員たちを評価しつつ、より慎重な政策を求めた。
他の批判者は、実存的リスクを強調する言説が、文書化されている害から注意をそらしかねないと主張する。そこには詐欺、監視、差別、労働の置き換え、信頼性の低い自動化された意思決定、データセンターの環境負荷が含まれる。
この批判は、将来の破滅的リスクを否定するものではない。現在のシステムがすでに労働者、消費者、公共機関に影響を及ぼしているなかで、推測的な閾値が政策を支配すべきかどうかを問うものだ。
この法案は、AI業界が好む枠組みを強化するリスクもある。モデルを人間に近い、あるいは人間を超えるものとして描くことは、依然として誤りを起こしやすい製品の価値と権威に対する認識を高める可能性がある。
この提案の最も強力な形は、両方の時間軸に対応するものとなるだろう。現在の害に対する執行可能な規則を設ける一方で、より強い規制を正当化する能力を検知する測定可能な制度を構築する。
明確なテスト、透明な異議申し立て手続き、国際的な検証がなければ、この禁止は過度に広範なものになるか、象徴的なものにとどまる可能性がある。その実装よりも、その野心のほうが理解しやすい。
この提案がAI政策を変えるかを示す3つのシグナル
法案の影響力は、見出しだけではなく、連合の拡大、技術的な具体性、国際的関与によって測られる。
最初のシグナルは、共和党議員の中にフロンティアシステムに対する連邦審査を支持する者が現れるかどうかだ。Sanders氏とCasar氏はこの問題を提起できるが、はるかに幅広い連合なしに新省を制定することはできない。
AIへの懸念はすでに、異例の政治的連携を生み出している。安全性の支持者、労働重視の進歩派、国家安全保障を重視する保守派、一部のテクノロジー企業幹部は、現在の監督が不十分であるという点で一致している。
しかし、政策が具体化すると彼らの合意は弱まる。一部は責任ルールを支持し、別の人々は一時的な停止を求め、さらに別の人々は商業開発への制限を伴わない国家安全保障上のテストを支持している。
Trump氏は明確に異なる立場を取っている。同氏は破滅的なAIへの懸念をでっち上げと呼び、自らの事業を弱体化させかねない規則をなぜ企業幹部が求めるのかと疑問を呈した。同氏のガードレールへの反対により、政権の支持は得にくいとみられる。
共和党議員が義務的な評価や、より限定的な承認制度を支持すれば、自主的な監督だけではもはや不十分だという法案の中心的主張が強まる。党派的な孤立が続けば、短期的な見通しは弱まる。
2つ目のシグナルは、運用可能な定義の登場だ。議員と規制当局は、どのシステムを一時停止の対象とするか、どのような証拠が介入を引き起こすか、企業がどのように決定へ異議を申し立てられるかを明確にする必要がある。
コンピューティング資源、危険な能力の評価、自律的行動、外部ツールへのアクセスに関する測定可能な閾値に注目すべきだ。単一の閾値では十分ではないが、構造化された組み合わせは執行の信頼性を高める可能性がある。
研究例外の扱いも重要となる。防御的サイバーセキュリティ、安全性テスト、解釈可能性研究、管理された科学的研究では、禁止された機能に似た能力へのアクセスが必要になる場合がある。
規則が広範で主観的なままであれば、開発者や研究者からの反対は強まる。狭く検証可能なものになれば、原案どおりに成立しなくても、より限定的な法案に影響を与える可能性がある。
3つ目のシグナルは、米国と中国が検証可能なAIの制限について協議するかどうかだ。Sanders氏はTrump氏に対し、中国のXi Jinping国家主席との協議を利用して、超知能と最低限の安全基準を取り上げるよう求めている。
国際的な合意には、責任あるAIに関する共通の文言だけでは不十分だ。査察の仕組み、報告ルール、隠れた開発への措置、正当な研究を守るための保護策が必要になる。
査察や共通評価に向けた進展は、この法案の国際的な論理を強めるだろう。検証のないまま競争が続けば、米国だけによる禁止措置の弱点が露呈する。
したがって今後1〜3カ月は、バーニー・サンダース氏のAI法案が持続的な政策枠組みとなるのか、それとも政治的な意思表示にとどまるのかを試す期間となる。
直ちに可決されるかどうかだけが重要な結果ではない。この提案は、任意の約束によって先送りされてきた問いへの回答を議員に迫ることで、議論の方向を変え得る。
容認できない能力を定義するのは誰か。研究所の安全性に関する主張を検証するのは誰か。企業が停止を拒んだ場合、何が起こるのか。米国は戦略的優位性を手放さずに開発を制限できるのか。
開発者、企業の購買担当者、ナレッジワーカーにとって、こうした問いは運用上の問題になりつつある。新たな規則は、モデルの利用可能性、導入審査、クラウドへのアクセス、そして顧客が高度なシステムを信頼する前に企業が提示すべき証拠を変える可能性がある。
有益な対応は、恐れることでも切り捨てることでもない。議会が測定可能な定義を生み出すか、規制当局が真に技術的な能力を得るか、国際協議が検証へと進むかを注視すべきだ。
人工超知能の禁止は、依然として提案段階であり、連邦法ではない。しかしこれは、有力な米国議員が示した最も明確な境界線を打ち立てるものだ。構築すべきではないシステムがあり、その境界を企業だけで決めるべきではない。次の問いは、議会がこの原則を、執行可能なほど精密な規則へと変えられるかどうかである。
