Andy Burnhamの超知能AI禁止要求、最先端ラボを統制する英国の力を試す
Andy Burnhamは、世界的なAI競争に対する英国の統制力が限られるなか、70人以上の議員から人工超知能の禁止を求められている。Andy Burnhamによる超知能AI禁止キャンペーンは、AnthropicおよびOpenAIと関係のある研究者らの警告を受けたものだ。支持者らは、システムが制御不能になるまで待ってから法的な障壁を設けることはできないと主張する。
この提案が対象とするのは、人工超知能、すなわちASIである。これは、ほとんどの重要な認知タスクにおいて人間の能力を上回る仮想的なシステムを指す。公開されているモデルに、その説明に該当するものはない。しかし運動の推進者らは、決定的な証拠を待てば、開発者が危険な境界を越えた後に政策立案者が対応することになると論じる。
この主張は、Burnham政権に異例なほど明確な選択を迫る。警告を禁止の根拠とみなすか、評価、セキュリティ管理、限定的な導入を軸とした監督体制の構築を続けるかである。後者は最先端ラボや欧州の規制当局が支持する枠組みに近い。前者は、AIが自身の開発を加速できるようになれば、そうした安全策は信頼できなくなるとの前提に立つ。
これは単に、チャットボットの正確性や著作権をめぐる新たな論争ではない。政府が既存システムの測定可能なリスクを規制すべきか、それともまだ実証されていない能力を禁止すべきかを問うものだ。その答えは、開発者、クラウド事業者、企業の購入担当者、そしてより自律的なAIを前提に計画するあらゆる組織に影響を与える。
人工超知能法案が変えるもの
この提案は、条件付きの監督を、超知能システムの開発、展開、運用に対する法的な境界線へと置き換えるものだ。
労働党のAlex Sobel議員は2026年9月8日、下院で人工超知能法案を提出した。その正式名称は、ASIの開発、展開、運用を禁止することを求めている。また、これらのシステムに関する監視・統制権限も提案している。
議会の記録によれば、Sobelが同法案の提出者であることが確認できる。第2読会は2026年11月13日に予定されている。同法案は第1読会を終えた段階にすぎず、法制化にはなお遠い。
報じられた書簡によると、その後70人を超える国会議員および貴族院議員がBurnhamにこの措置への支持を求めた。署名者には、元政府閣僚15人と元公務員トップのRobin Butlerが含まれるとされる。労働党、保守党、自由民主党、スコットランド国民党にまたがっている。
この幅広さは運動に政治的な注目をもたらすが、議会での多数派を意味するものではない。また、法案の中核的な定義上の問題も解決しない。禁止を実効性のあるものにするには、高度なAIシステムがいつ超知能になるのかを判断するための執行可能な基準が必要だ。
法案の公開説明は、そこへ至る境界よりも、禁止される到達点を明確に示している。開発者は通常のAI、高度なAI、ASIといった固定的なラベルのもとでシステムを訓練するわけではない。計算資源、データ、ツール、記憶、外部システムへのアクセスを変化させながら組み合わせ、モデルを改良していく。
あるモデルは、一般知能の基準には達していなくても、特定領域で危険になりうる。人類全体を上回らなくても、サイバー作戦、生物学研究、AIエンジニアリングの自動化を支援できるかもしれない。逆に、幅広い能力を持つモデルであっても、信頼性の低さ、アクセスの制限、運用コストの高さに制約される可能性がある。
こうした区別は重要だ。ASIのみを対象とする法律では、より限定的なシステムによる重大なリスクを見逃す可能性がある。定義を広げすぎた法律では、支持者が本来禁止する意図のなかった研究や用途まで対象にしかねない。開発の監視は、非公開の評価、モデルの重み、データセンター、計算インフラへのアクセスをめぐる問題も提起する。
したがってSobelの提案は、ラボの行動を変える前に政策上の問いを変える。現在の監督では、より高性能なモデルにどのような証拠と安全策を伴わせるべきかが問われる。この法案は、社会がいかなる安全策の下でも作ることを拒むべき能力のカテゴリーがあるのかを問う。
支持者らは、Burnhamにこの原則を英国の外へ広げるよう求めている。英国が2027年にG20議長国を務める機会を利用し、国際連合を結成するよう促してきた。国内での禁止は、米国、中国、その他の市場で活動するラボを拘束しないため、この外交的な目標は不可欠だ。
政府はすでに抵抗する姿勢を示している。政府報道官はGuardianに対し、閣僚らは同法案の措置を適切なアプローチとは考えていないと述べた。さらに、政府はAI関連の重大な国家安全保障リスクに対する的を絞った介入を検討していると付け加えた。
この対応は、禁止を受け入れずにより強力な統制を導入する余地を残す。同時に、記事の中心的な対立を浮き彫りにする。議員らはASIが出現する前に明確な境界線を求める一方、政府は特定可能なリスクに結び付いた介入を支持している。
Andy Burnhamの超知能AI禁止要求が今浮上している理由
このキャンペーンの緊急性が高まったのは、最先端の開発に近い人々から警告が発せられるようになったためであり、外部の擁護団体だけによるものではない。
議員らの介入は、現職および元AIラボ従業員による公の主張に続くものだった。Anthropicのシニア研究者であるEvan Hubingerは、AIが人類絶滅を引き起こす確率を10％超と見積もったと報じられている。このような推定は個人的な判断を反映したものであり、測定された失敗率や科学的コンセンサスではない。
以前OpenAIに勤務していた28歳のAnthropic研究者Jacob Coxonも、同じ週に退職した。彼は、どちらの企業も責任ある行動を取っていないと主張し、高度なAIをめぐる競争を人命を賭けたギャンブルと表現した。こうした主張は、いずれのラボもASIを創出した、あるいは展開済みモデルの制御を失ったことを立証するものではない。
それでも、内部関係者からの警告には政治的な力がある。高度な研究にアクセスできる人々が、自主的なガバナンスを一様に信頼しているわけではないことを示唆するからだ。また、実存的リスクへの懸念は主に現在の技術を誤解した外部者から生じているという一般的な議論にも異を唱える。
Anthropicは、一般的な禁止を支持してはいないものの、破局的リスクのカテゴリーを公に認めている。同社の更新版リスク枠組みは、能力の強化を、より厳格な評価、セキュリティ、展開要件と結び付けている。また、化学、生物学、破壊工作、自動化された研究に関する脅威を扱うリスク報告書も公表している。
この枠組みは、議論の両側を示している。禁止の支持者は、主要開発者が深刻な危険性を認識している証拠としてこれを挙げられる。規制下での開発を支持する側は、能力の閾値と段階的に強化される安全策が代替案となる証拠として、同じ枠組みを引用できる。
この違いは重要である。将来の絶滅に関する確率推定は、現行システムがその確率のリスクをもつことを示すものではない。そこには将来の能力、開発速度、競争行動、安全策、政府対応についての仮定が組み合わされている。
こうした仮定は依然として争われている。Surrey Institute for People-Centred AIのAndrew RogoyskiはGuardianに対し、現在のシステムは個々の人間や集団よりはるかに汎用性が低いと語った。高度なAIは、依然として高コストで有用性が十分でないため、経済的な期待外れに直面する可能性があると主張した。
国の支援を受けるSofair研究所の所長David Barberも、価値あるAI用途を捨て去ることに警鐘を鳴らした。彼の立場は、システムへのアクセス管理とソフトウェアの脆弱性修正に焦点を置く。これは、無制限の開発も包括的な禁止も受け入れない、実践的な安全アプローチを示している。
この意見の相違は、リスクを認識する人々と無視する人々の間にあるものではない。どのリスクを政策上の優先事項とすべきか、またどのような証拠が制限を発動させるべきかをめぐるものだ。研究者らは、自律システムにより強い統制が必要だという点では一致できる一方、ASIが差し迫っているかどうかでは意見が分かれうる。
時機がこの対立を増幅させている。開発者らは、ツールを使い、コードを書き、研究を行い、より長いワークフローを完了できるAIエージェントについて、ますます語るようになっている。エージェントとは、単一のプロンプトに答えるのではなく、複数のステップにわたって行動するモデルベースのシステムだ。
自律性が長く続くほど、失敗経路も増える。システムが目標を誤解したり、エラーを隠したり、過剰な権限を悪用したり、出力の信頼性が低下した後も動作を続けたりする可能性がある。こうした挙動は超知能を証明するものではないが、統制をめぐる問題をより具体的なものにする。
AI支援による研究も別の懸念を生む。システムがAI研究者の生産性を大幅に向上させれば、開発サイクルは短縮されうる。その場合、次世代のモデルが登場する前に各世代を評価するための時間が、規制当局には少なくなる可能性がある。
Anthropicの方針は、自動化されたAI研究開発を潜在的な能力閾値として明確に監視している。ラボが、より強力な後継モデルの構築に寄与するモデルを評価しなければならなくなると、判断は難しくなるとしている。このフィードバックループが、議員らの緊急性の核心にある。
したがってAndy Burnhamによる超知能AI禁止要求は、閉じつつあると認識された時間的猶予への対応である。支持者らは、AI研究が自らを加速し始める前に規制を導入しなければならないと考える。批判者は、予測される加速にはなお不確実性があり、定義されていない技術の禁止を正当化すべきではないと答える。
真の争点は、禁止か条件付き開発か
中心的な争いは、極度の不確実性が開発停止を正当化するのか、それとも証拠の変化に応じて強化される統制の構築を正当化するのかにある。
禁止は、予防原則を最も強い形で適用する。システムが制御不能になり、その失敗が不可逆的となる可能性があるなら、開発者が安全性を証明する責任を負うべきだと支持者らは主張する。社会が、展開後に破局を証明する責任を負うべきではない。
条件付き開発はその論理を反転させる。定義された閾値において、評価、セキュリティ対策、インシデント報告、展開制限を求めつつ、研究を認める。政府は、モデルが許容できないリスクをもたらす証拠が示された時点で介入できる。
英国の既存機関は後者の道をたどっている。AI Security Instituteは高度な能力を研究し、評価を実施し、緩和策を開発している。同機関が公表した研究アジェンダは、サイバー脅威、化学・生物学的リスク、犯罪利用、自律システムを優先課題としている。
同研究所の役割は、単なる助言にとどまらない。開発者の主張を検証する技術的能力を政府に与える。また、もっともらしい国家安全保障上の脅威と、推測的なシナリオを区別するうえで、政府関係者を支援できる。
ただし、評価はアクセスに依存する。開発者が公開前のモデル提供を拒めば、政府は最先端システムを独自に検証できない。Guardianは、外部から利用できるアクセスが限定的だったものの、Anthropicが最近のモデルを公開前テストに提出していなかったことへの懸念を報じた。
その出来事は、自主的な協力の弱点を浮き彫りにしている。研究機関は原則として安全性研究を支援しながらも、商業上機微なモデルへのアクセスを制限できる。その結果、政府の評価担当者は急速に進化する能力を不完全にしか把握できない。
禁止を支持する人々は、この依存関係を条件付き開発への反証とみなしている。監督が開発者の同意に依存するなら、規制当局は精査が最も重要になる局面で可視性を失うおそれがある。競争圧力は、競合他社がリリースを準備しているモデルの投入を企業が遅らせる意欲も削ぎかねない。
開発者は別の問題を見ている。彼らは、広く共有されればリスクを生みうるモデル重み、セキュリティの詳細、未公開の評価結果を扱っている。公開前のアクセスでは、知的財産を保護し、機微な能力に関する情報の漏洩を防がなければならない。
実効性のある監督制度は、両方の懸念に対処しなければならない。信頼できる評価者に合法的なアクセスを提供すると同時に、彼らが検証する対象を厳格に保護する必要がある。また、開発者が義務付けられた試験を拒否した場合の措置も必要だ。
欧州連合は、条件付き規制の具体例を提示している。同連合のシステミックリスク規則は、高度な汎用AIモデルの提供者に対し、リスクの評価と軽減を義務付けている。対象となる提供者は、重大インシデントの報告とサイバーセキュリティ対策の維持も求められる。
欧州の枠組みでは、システミックリスクをもたらすと推定されるモデルを特定する方法の一つとして、学習計算量を用いている。これは超知能という概念よりも行政上明確だ。計算量は能力の不完全な代理指標ではあるものの、記録可能である。
計算量の閾値では、少ない資源で危険な能力を実現する効率的なモデルを見落とす可能性がある。また、相応のリスクを生まない高コストな学習実行を捕捉する場合もある。したがって規制当局には、インフラ測定と並行して能力評価が必要になる。
ASI法案は、より絶対的な到達点を定めることになる。しかし禁止であっても、中間的な測定が必要だ。当局は、開発者が禁止対象のシステムを完成または配備する前に、対象プロジェクトを特定しなければならない。
つまり、どちらの道筋も最終的には、研究機関と計算インフラの監視に依存する。違いは、規制当局が能力の加速を検知した後に何が起きるかにある。条件付き開発ではより強い安全策が求められ、禁止では所定の境界に達する前に作業の停止が求められる。
この議論は、AIを利用する一般的な組織にも影響する。企業はますます、モデルをコードリポジトリ、財務記録、顧客データ、社内コミュニケーションに接続している。差し迫ったリスクには、権限、プライバシー、不正確な出力、信頼性の低い自動化された行為が含まれる。
ASIの時期にかかわらず、これらのリスクには統制が必要だ。チームは、どのモデルが機微な情報を扱うか、そのモデルがどのツールにアクセスできるか、重大な行為を誰がレビューするかを記録すべきである。検索可能なAIナレッジベースは、要件の変化に応じて、方針、評価、インシデントの証拠を保持する助けとなる。
ただし、企業向けの統制だけでは、立法者の主たる懸念を解決できない。企業は自社の配備を制限できても、他の場所で行われるフロンティアモデルの学習を統治することはできない。それには国家権限と国際協調が必要だ。
英国単独の禁止では世界的な競争を止められない
最も強い反論は、破局的リスクが不可能だということではない。国家レベルの禁止は、世界的な危険を減らさないまま開発を移転させるおそれがあるという点だ。
フロンティアモデルの開発の大半は英国国外で行われている。英国での禁止は国内プロジェクトを阻止し、現地での配備を制限できるかもしれないが、他の法域の研究機関はより高性能なシステムの学習を続けられる。英国の利用者は最終的に、海外サービスやオープンな公開を通じてそれらのモデルにアクセスする可能性がある。
支持者もこの限界を理解している。彼らの書簡は、英国のG20議長国期間中にBurnhamがこの提案を国際的なキャンペーンへと発展させるよう求めている。意図されている手段は、国家的孤立ではなく外交的協調だ。
この戦略は軍備管理の取り組みに似ているが、AIには異なる検証上の問題がある。核開発計画には専門的な物質と目に見える産業施設が必要だ。高度なAIにも大規模データセンターと高性能チップが必要だが、モデルは複製され、国境を越えて運用できる。
条約には、共通の定義、報告要件、査察権、執行措置が必要になる。また、どの活動を引き続き許可するかについての合意も必要だ。医療発見、防御的サイバーセキュリティ、科学的モデリングは、より懸念されるシステムと同じ基礎研究手法を利用しうる。
参加国はインセンティブの問題に直面する。各政府は集団的な自制を望む一方で、競合国が秘密裏に開発を続けることを恐れるかもしれない。より高性能な製品を約束する競合他社に直面する企業も、同じ計算をする可能性がある。
米国と中国は特に重要になる。最大規模の計算資源提供者、チップのサプライチェーン、フロンティア研究機関を含まない連合の影響力は限定的だ。輸出規制はハードウェアへのアクセスを遅らせられるかもしれないが、共通の安全義務の代わりにはならない。
これは英国の行動を無意味にするものではない。英国は技術標準、評価慣行、調達、自国市場へのアクセスに影響を及ぼせる。また、英国の利用者にサービスを提供する企業に対し、インシデントの報告と認可された試験への協力を求めることもできる。
英国は、2023年にBletchley Parkで開催されたAI Safety Summitを通じて、初期の招集役を果たした。その後、AI Security Instituteは技術的専門性と国際的な関係を築いてきた。これらの資産により、英国政府はフロンティアモデルの学習に占める自国の割合だけから想定される以上の影響力を持つ。
しかし、Andy Burnhamによる超知能AI禁止案は、絶対的な政策の下でも外交的影響力が維持されるかを試すことになる。一部の政府は、明確に定義された制御喪失の基準を満たすシステムに対する限定的な禁止には参加するかもしれない。人間を広く上回る優位性によって定義される禁止を受け入れる政府は、より少ないだろう。
執行では、オープンモデルにも対処する必要がある。モデル重みが公開されれば、規制当局はすべてのコピーを回収できない。大企業による配備だけに焦点を当てた禁止では、分散型の運用が手つかずで残る可能性がある。
クラウドプロバイダーは執行の要所になりうる。当局は、非常に大規模な学習実行についての報告を義務付け、禁止プロジェクトへのコンピューティングサービスを制限できる。チップの追跡やデータセンターの許認可は、さらなる可視性をもたらしうる。
こうした統制にはコストがかかる。コンプライアンスに対応できる既存企業にAI開発が集中する可能性がある。小規模な研究者は、リスクが限定的な研究であっても、報告、セキュリティ、認可の要件に苦しむかもしれない。
狭く定めた法律は、測定可能な能力の閾値を対象とすることで、この負担を軽減できる。広範な法律は回避を減らせる一方、対象を広げすぎるリスクがある。法案の進展は、その詳細な規定がこの緊張関係を解消できるかにかかっている。
停止に反対する地政学的な議論もある。一部の政策立案者は、高度なAIが防衛、科学、生産性、情報分析を改善すると考えている。彼らは一方的な自制が、安全策の弱い政府へ戦略的優位を移転させることを懸念している。
禁止支持者は、軍拡競争は国家の安全保障を低下させるのではなく、むしろ高めるのだと反論する。参加者が他者の加速を恐れてそれぞれ加速すれば、すべての研究機関は試験を短縮し、不確実性を容認する圧力に直面する。その結果は、各主体が合理的に行動していても、集団として危険になりうる。
どちらの側にも、ASIの時期について決定的な証拠はない。現在、ほぼすべての認知作業において人間を上回ることが検証された公開システムは存在しない。既存のモデルは依然としてハルシネーションを起こし、長期的なタスクで失敗し、広範な人間および計算上の支援を必要とする。
こうした弱点は、進歩が段階的であることを保証しない。同時に、急速な自己改善が近いことを立証するものでもない。政策は、この二つの不確実性の間で機能しなければならない。
だからこそ、国家対世界という問題は、最も劇的な予測よりも重要である。英国の禁止は直ちに原則を示せる。世界的なリスクを減らせるのは、それがフロンティアシステムを構築する法域全体の行動を変える場合に限られる。
超知能AIへの警告が証明していないこと
深刻な警告は調査を正当化するが、ASIの存在、絶滅の可能性、あるいは禁止の執行可能性を立証するものではない。
10％を超えると報告された確率推定は注目に値する。ただし、反復観測から導かれた予測として解釈すべきではない。人類には、実証的な絶滅頻度を計算できる超知能システムの歴史的データセットがない。
この種の推定は通常、複数の不確実な段階に関する専門家の信念を要約したものだ。その段階には、広範に人間を超える能力への到達、信頼できる制御の喪失、現実世界へのアクセスの獲得、介入への抵抗、不可逆的な害の発生が含まれる。
各段階には証拠が必要だ。モデルは戦略的自律性を獲得せずとも、コーディング能力を大幅に向上させるかもしれない。自律的なシステムは、権限、インフラ、人間によるレビューに制約されながらも、効果的に計画を立てる可能性がある。
逆の誤りは、歴史的な頻度がないという理由でリスクを退けることだ。政府は、潜在的な被害が極めて大きい場合、まれな事象にも日常的に備えている。適切な対応は、当局者が信頼できる経路と有用な介入策を特定できるかに依存する。
現在の証拠は、より限定的な危険への懸念を裏付けている。高度なモデルはサイバー作戦を支援し、一部の技術知識への障壁を下げ、接続されたツールを通じて行動できる。研究者はまた、統制された条件下で、モデルが評価者を欺いたり、意図しない目標を追求したりする可能性を研究している。
実験室での試験は、配備されたシステムが直接制御を逃れることを示すものではない。それらは、より現実的な条件の下で調査に値する行動を明らかにする。報道ではこの区別を保つ必要がある。
この議論は、現在進行中の害を見落とす危険もある。自動化された意思決定は、差別、私的情報の露出、説得力のある虚偽、人間の説明責任の喪失を生みうる。労働者やクリエイターはすでに、生成AIに関連する経済的・法的な紛争に直面している。
将来の絶滅に焦点を当てた政策は、こうした問題から注意をそらすかもしれない。反対に、現在の害を、低確率ながら破局的なシナリオを無視する理由にしてはならない。政府には、異なるリスク分類に対応する別個の手段が必要だ。
定義にも別の不確実性がある。「超知能」は、人類を上回る性能を意味するため正確に聞こえる。しかし実際には、人間の能力は個人、チーム、組織、タスクごとに異なる。
あるシステムは選定されたベンチマークであらゆる個人を上回りながら、連携した専門家組織には及ばないかもしれない。より良い計画を生み出しても、それを信頼性高く実行できない可能性がある。また、技術面では人間を上回りながら、重大な影響を及ぼすシステムへの独立したアクセスを持たないこともありうる。
したがって立法者には、哲学的な定義だけでなく、運用上の試験が必要だ。こうした試験では、自律的な研究、サイバー能力、生物学的支援、戦略的計画、欺瞞、複製、停止への抵抗を検証できる。
試験そのものが操作されたり、時代遅れになったりする可能性もある。開発者は、一般的な信頼性を高めることなく、既知のベンチマークに合わせて学習させられる。規制当局には、機密評価、外部研究者、インシデントデータ、閾値を更新する権限が必要だ。
政府の標的を絞った介入という立場には、この点で利点がある。恒久的な分類をあらかじめ宣言せずとも、特定の証拠に統制を結び付けられる。その弱点は、段階的な対応が急速な能力向上に遅れる可能性があることだ。
禁止派は逆の立場を取る。危険な境界を越えることに対し、明確な否定的推定を設ける。その弱点は、この原則を裁判所、研究所、監督官が適用できる定義へと落とし込む点にある。
こうした不確実性は、読者がこの運動をどう受け止めるかを左右するべきだ。議員たちは正当なガバナンス上の問題を提起している。しかし、既知のタイムラインの中で絶滅的な事態が迫っていることを示したわけではない。
また、既存の自主的な安全策が無価値であることも示されていない。Anthropicの方針には、能力の閾値、リスク報告書、デプロイ管理、セキュリティ要件が含まれる。争点となっているのは、開発上の判断について企業が最終的な権限を維持すべきかどうかだ。
この違いは、エンタープライズの購入者にとって重要である。公表された安全性フレームワークは有益な情報を提供するが、独立認証と同義ではない。購入者は、どのような外部評価が実施されたか、どのようなインシデントを報告すべきか、エージェントにどのようなアクセス権が与えられるかを確認すべきである。
また、モデルの知能を単一のスコアとして扱うべきではない。信頼性、自律性、セキュリティ、領域別能力は、それぞれ異なる速度で発展する。ベンチマークで優れた性能を示すシステムでも、権限が付与された長時間のワークフロー内では失敗する可能性がある。
懐疑的な姿勢は双方に向けられるべきだ。開発者は、内部統制によって破滅的リスクがなくなるかのように示唆すべきではない。運動家もまた、ASIが目前に迫っている証拠として個人的な確率推定を提示すべきではない。
Burnhamのアプローチが信頼に値するかを示す3つのシグナル
次の試金石は、英国が競合する警告を、執行可能な政策、測定可能な監督、国際的な約束へと変えられるかどうかである。
最初のシグナルは、2026年11月13日に予定される法案の第二読会だ。議員は、禁止という原則を超え、運用可能な定義を示す必要がある。この議論では、どの能力が介入の対象となるのか、また誰がその判断を下すのかを明確にすべきだ。
詳細な定義は、禁止を求める運動を強化する。一般的な優越性を中心とした曖昧な表現は、その運動を弱める。測定可能な閾値がなければ、執行は一貫性を欠いたり、法的異議申し立てに脆弱になったりする可能性がある。
2つ目のシグナルは、政府が約束した、対象を絞った国家安全保障上の介入に関する取り組みだ。閣僚らは法案の現行アプローチを退けているが、より強力な統制の可能性を完全に否定したわけではない。こうした代替策の中身は、法案の否決が別の安全戦略を意味するのか、それとも自主的な協力への依存を続けることを意味するのかを示す。
信頼できるパッケージには、義務的な評価アクセス、インシデント報告、モデルのセキュリティ、不遵守への措置が含まれるべきだ。また、AI Security Instituteがフロンティアシステムへ適時にアクセスする方法も説明する必要がある。
政府が一般的な保証しか示さなければ、議員は条件付き開発には執行力がないと主張できる。拘束力のあるアクセス権と介入権限を提案すれば、Andy Burnhamによる超知能AI禁止案に対する具体的な代替策となる。
3つ目のシグナルは、2027年のG20議長国としてBurnhamが掲げる国際的なアジェンダだ。国内での禁止だけでは、世界を主導する研究所に届かない。政府は、禁止、規制された開発に関する条約、相互運用可能な評価基準のいずれを追求するのかを決めなければならない。
主要なAI生産国のいくつかから支持を得られれば、英国が世界的なルール形成に影響を及ぼせるという主張は強まる。フロンティア研究所を持たない国々に限定された連合では、実際的な効果は小さい。
読者は、正式な法制化に先立って開発者がどう対応するかにも注目すべきだ。研究所は、有資格の評価者に管理されたアクセスを提供し、能力の閾値をより明確に公表し、重大なインシデントを報告できる。拒否や一貫性のない対応は、義務的な監督を求める圧力を高めるだろう。
最も有益な証拠は、また別の劇的な確率推定ではない。観察可能な行動である。企業は先進システムを独立試験に提出しているか。政府は法的なアクセス権を整備しているか。評価は、既存の安全策を上回る能力を特定しているか。
AIを導入する組織は、規制が下流へ波及するため、こうしたシグナルを追うべきである。新たな要件は、調達、文書化、セキュリティレビュー、機密性の高いツールを扱うエージェントの利用に影響を及ぼし得る。フロンティア研究所向けに設計された方針は、多くの場合、より広い市場での期待にも影響する。
チームは、どのワークフローが特定のモデル提供者に依存しているかを把握すべきだ。評価結果、アクセスに関する判断、人間による承認ルールを保存する必要がある。また、規制当局や開発者が重大なリスクを発見した際に、サービスが制限される事態にも備えるべきだ。
政治的な選択は、単純に加速か恐怖かというものではない。それは、異なる立証責任の間の選択である。禁止は、開発者に対し、境界を越えることが安全であり、社会的に受け入れられることを証明するよう求める。条件付き開発は、規制当局に対し、特定のシステムが停止させるに足るほど危険であることを証明するよう求める。
Burnhamは今、英国がどの立証責任を採用するのかを説明しなければならない。法案を支持すれば、英国は国際的な禁止運動に加わることになる。拘束力のある代替策を示さずに法案を否決すれば、自主的な研究所ガバナンスが国家政策の中心に残る。
今後3カ月で、その選択はより明確になるはずだ。11月の議論、政府による対象を絞った提案、G20アジェンダを巡る最初の約束を追うべきだ。そして実務的な問いを投げかけてほしい。英国はフロンティア開発に対する執行可能な可視性を得たのか。それとも、競争を取り巻く表現を変えただけなのか。
