自主的な安全策が不十分なら、英国は拘束力のあるAI規則を示唆
英国は、ほぼ3年にわたり企業の自主的な協力に依存してきたにもかかわらず、拘束力のあるAI規則を導入する可能性を示した。現在Google Newsを通じて広がっている警告は条件付きではあるものの、重要な意味を持つ。開発者が安全性テストに必要な有意義なアクセスを提供しなくなれば、閣僚らは規制という手段を利用できるとしている。
英国のAI担当相カニシュカ・ナラヤン氏はReutersに対し、別の仕組みの方が国民をより適切に保護できる場合、政府は法的介入を検討すると語った。当面の論点は、利用者がモデルを使えるようになる前に実施する事前評価だ。英国は現在、Google DeepMind、OpenAI、Anthropicとの協定を通じて早期アクセスを受けている。
この取り決めにより、英国は開発中の最も高性能な汎用システム、すなわち独自仕様のフロンティアモデルを異例の水準で把握できる。ただし、アクセスは企業の同意に依存する。したがって中核となる対立は、規制対イノベーションではなく、自主的な協力対強制可能なテストである。
この違いは、英国が欧州連合よりも軽い制度の維持を目指しているため重要だ。EUは2026年8月2日から、汎用AI提供者に対する主要な義務の執行を開始した。英国は依然として、包括的なAI法よりも既存の規制当局、技術評価、対象を絞った介入を重視している。
この政策は現在、実務上の試練に直面している。主要な研究所が協力し、適切なモデル版を提供し、十分な評価期間を認める限り、自主的なアクセスは機能する。開発者がアクセスを遅らせたり、テスト条件を制限したり、評価者が作業を終える前にモデルを公開したりする場合には、保護は限定的になる。
英国のAI担当相が実際に変えたこと
英国は新たなAI法を発表したわけではないが、担当相は自主的な協力が成果を条件とすることを明確にした。
ナラヤン氏の立場は、AI Security Institute（AISI）が配備前に高度なモデルを確実に検査できるのかという問いを受けて明らかになった。AISIは、サイバー攻撃、自律的な行動、生物学的悪用、人間による制御の喪失に関連する能力についてシステムを評価する。
同研究所は、2023年のブレッチリー・パークAI安全サミット後に設立された。その後、名称をAI Safety InstituteからAI Security Instituteへ変更した。この変更は、国家安全保障と高度な技術リスクをより強く重視する姿勢を反映している。
英国の現行モデルでは、AISIは法定の要求ではなく協定を通じてアクセスを得る。ナラヤン氏は7月、議会委員会に対し、英国がGoogle DeepMind、Anthropic、OpenAIの最近の中核フロンティアモデルを評価したと語った。また、米国以外でこの水準の配備前アクセスを受けているのは英国だけだと述べた。
公式の委員会証拠は、この主張の弱点も浮き彫りにした。AISIがすべてのモデルを受け取っているかと問われた際、ナラヤン氏が自信を持って言及できたのは最近の中核システムだけだった。すべてのモデル、更新、配備構成、テスト期間を対象とする公的な保証はなかった。
その後の発言で、同氏は政府の代替方針をより明確にした。ナラヤン氏によれば、仕組み自体は成果に次ぐものだ。信頼できる評価を確保する最善の方法が規制になれば、政府はそれを検討する。
これは重点の置き方における注目すべき変化だ。英国の閣僚は、詳細なAI規則は時代遅れになり得るとして、柔軟で分野別の監督をしばしば擁護してきた。新たなメッセージは、柔軟性が善意への恒久的な依存を意味するわけではないというものだ。
政府は依然として、立法を発動する基準を定義していない。必要なアクセス期間、対象となるモデルの一覧、不完全な協力への対応も公表していない。また、AISIにリリースを遅らせる権限を与えるかどうかも明らかにしていない。
こうした詳細の欠如は、直ちに生じる効果を限定する。開発者は現時点で新たな法的義務に直面していない。AISIは、Google、OpenAI、Anthropicに対し、定められたテスト条件でモデルを提出するよう公に強制することはできない。
それでも、この発言は企業、議員、Google Newsを通じてこの動きを追う読者に届く政策シグナルを変える。英国は自主的な安全策を、検証可能な取り決めとして扱っている。もはや、それをAI監督の疑いのない最終形として提示してはいない。
この違いは今後の交渉を左右する。英国で有利な環境を求める研究所は、信頼できないアクセスが立法論を強め得ることを認識することになる。AISIもまた、自主的な取り決めがどこで成功し、どこで失敗するのかを記録するより明確な根拠を得る。
なぜ自主的なAI安全策への圧力が今高まっているのか
モデル能力が、評価機関が安定したテスト規則を確立できる速度よりも速く進歩しているため、自主的な制度は圧力を受けている。
AISIは2023年11月以降、フロンティアシステムをテストしてきた。その作業は、モデルが全般的に安全であることを認証するのではなく、危険な能力を検証する。この違いは重要だ。短期間の評価で、すべての配備、利用者、ツール、後続の変更を網羅することはできないためだ。
同研究所が公表した研究は、アクセスの質が重要である理由を示している。効果的な評価には、通常の安全策がないモデル、ファインチューニングへのアクセス、配備予定の最終版が必要になる場合がある。制限されたインターフェースでは、意欲的な利用者が後に発見する可能性のある能力が隠されるおそれがある。
AISIの評価から得た教訓も、タイミングの重要性を強調している。評価者には、テストの準備、結果の調査、公開前の所見報告に十分な時間が必要だ。公開直前に提供されたアクセスは、実質的なレビューを可能にせずとも、曖昧な約束を満たしてしまう可能性がある。
これが自主協定における最初の大きな弱点を生む。こうした協定は、運用上の要件を明示せずに共通目標を掲げることが多い。企業は原則として協力しながらも、提供する正確なモデル、インターフェース、文書、時間を制限できる。
第2の弱点は救済措置に関わる。AISIは危険な能力を開発者に報告できるが、自主的なアクセスが緩和策を求める権限を自動的に生むわけではない。配備を遅らせるか、変更するか、実施するかについて、開発者は大きな裁量を保持する。
第3の弱点は、対象範囲の一貫性のなさだ。フロンティア研究所は、完全版モデル、小型バリアント、プレビュー版、更新済みチェックポイント、外部ツールに接続されたシステムを公開する。時折の主力製品のリリースを前提に設計された約束では、この継続的な配備パターンをカバーできない可能性がある。
エージェント型システムは問題をさらに難しくする。AIエージェントとは、目標に向けて複数の行動を計画し実行するソフトウェアだ。モデルをブラウザ、ターミナル、コードリポジトリ、認証情報に接続すると、基盤モデルそのものを変えなくてもリスクプロファイルが変化し得る。
最近の政府研究は、サイバー能力に大きく焦点を当てている。AISIによれば、テストした一部の領域では性能が急速に向上している。同研究所のフロンティア動向は、モデルが見習いレベルのサイバータスクを約半分の頻度で完了したことを示している。2024年初頭には、その割合は10％をわずかに上回る程度だった。
これらの結果は、モデルが現実世界で成功する攻撃を独力で開始することを意味しない。ベンチマークは、管理された条件下で選定された能力を測定するものだ。しかし、この傾向は、不完全なアクセスを受け入れたり、配備後に危険な挙動を発見したりすることのコストを高める。
モデル評価には、敵対的な問題もある。システムは、テスト環境を認識すると異なる挙動を示す可能性がある。研究者は、評価中の意図的な性能抑制をサンドバッギングと呼ぶ。AISIは、自己複製、安全策の回避、悪意ある行動の隠蔽とあわせて、その可能性を研究している。
こうした不確実性は、閣僚らが法的な呼称より成果を重視している理由を説明する。企業が深く協力する場合、自主的なアクセスは設計の悪い法律より優れた結果を出せる。商業上のスケジュールと公共の安全が乖離する場合、明確な法的義務は自主的なアクセスより優れ得る。
政策上の問いは、すべてのモデルが一度の政府検査に合格しなければならないかどうかではない。単一のテストで完全な安全性を確立することはできない。問われているのは、独立した評価者が一貫したアクセス、適切なツール、十分な時間、そして行動につながる信頼できる経路を得られるかどうかだ。
このため、Google Newsでの最新の注目を、英国が突然規制を受け入れたというだけの話に矮小化すべきではない。英国は、協調的なモデルが拘束力のあるモデルと同等の不可欠な保護を生み出せるかを試している。政府の警告は、協力は前提とするのではなく、測定されなければならないことを認めている。
Google Newsで注目されるなか、英国とEUは異なる道を選ぶ
英国のより軽い枠組みは今月適用が始まった強制力ある欧州の義務と、直接比較される局面にある。
欧州連合は、リスクに基づく義務を定めた分野横断的な法律を通じてAIを規制している。英国は一般に、Information Commissioner’s Office、Ofcom、金融規制当局、分野別の安全当局といった既存機関に責任を割り当てている。
これらのアプローチは、異なる統制理論を反映している。EUは立法で義務を定め、標準、行動規範、監督、罰金でそれを支える。英国は、AISIを活用してフロンティア能力を把握しつつ、既存法を適用することで適応性を求めている。
EUのアプローチは現在、より大きな実務的重みを持つ。汎用AI提供者は2025年8月から、文書化、著作権、情報共有に関する義務を負っている。2026年8月2日には、欧州委員会がこれらの義務を執行する権限を得た。
システミックリスクをもたらすモデルの提供者には、追加要件が課される。これにはモデル評価、リスク評価、インシデント報告、サイバーセキュリティ保護が含まれる。欧州委員会の提供者向けガイドラインは、これらの責任がモデルのライフサイクル全体にどのように適用されるかを説明している。
欧州の枠組みは、すべてのリリース前に単純にテストを義務付けるものではない。その要件はモデルとリスク区分によって異なる。複数の規則は、現在も進化を続ける行動規範、技術標準、規制上の解釈にも依存している。
それでもEUには、英国に欠けているものがある。明確に定義された執行構造だ。対象となる提供者は、適用される義務を満たさなければ情報提供要請や金銭的制裁につながり得ることを理解している。英国の配備前アクセスは、依然として主に交渉による関係に基づいている。
英国は、自国のアプローチが成果を確保してきたと主張する。AISIは、受けられる国がほとんどない独自仕様モデルへのアクセスを得てきた。研究所と緊密に協力し、法改正を待たずに評価を見直すことができる。
この柔軟性には現実的な価値がある。フロンティアテストは技術的に未成熟であり、硬直した要件は表面的な順守を助長し得る。モデルは狭い公式ベンチマークには合格しても、テスト設計の外側に危険な能力を残している可能性がある。
法的義務は、根底にあるリスクではなく規制当局向けに最適化する誘因も生み得る。企業は必要な情報だけを開示し、閾値を基準にリリースを構成し、分類に異議を唱える可能性がある。執行が科学的理解を自動的にもたらすわけではない。
自主的な協力には、それに対応する利点がある。研究者は異例のアクセスを求め、実験的な手法を試し、機微な知見を非公開で交換できる。開発者は、脆弱性が公になったり容易に再現可能になったりする前に対応できる。
問題は、柔軟性が規制対象企業にとっての選択肢になってしまう場合に生じる。開発者は平穏な時期には幅広いアクセスを提供する一方、商業的に重要なリリースを前にアクセスを狭めることができる。そうなれば、政府には信頼できる最低基準がなくなる。
英国はこれまで、国際的なコミットメントを通じて自主的な行動を後押ししようとしてきた。2024年のソウル・サミットでは、主要開発者が安全性フレームワークの公表、重大リスクの評価、外部テストが意思決定にどう反映されたかの説明を約束した。フロンティア・コミットメントには、Google、OpenAI、Anthropic、Meta、Microsoft、Amazonなどが参加していた。
こうしたコミットメントは、競合する研究所全体で期待水準を定着させる助けとなった。しかし、独立した執行機関や、対象となる全システムを検査する法的権利を創設したわけではない。その実効性は、透明な実施と企業の継続的な参加に依存している。
これが英国の政策論争における主要な対立軸だ。自主的なアクセスは迅速性、柔軟性、協働を約束する。法的拘束力を伴うアクセスは、一貫性、説明責任、協力関係が崩れた場合の救済手段を約束する。
どちらの道も技術的な不確実性をなくすものではない。本当の選択は、評価の条件を誰が管理するかにある。自主モデルでは、決定的な主導権を開発者が保持する。拘束力のある規則なら、その統制の一部を国家に移せる。
欧州全域で事業を展開する企業は、両方のアプローチに直面する。EUで提供されるモデルは、英国がより軽い規則を維持していても、適用されるEU要件を満たさなければならない。このため、的を絞った英国の義務がすべての開発者にだけ特有の負担を課すという主張は弱まる。
それでも英国は、AIを構築・展開するうえで魅力的な場所として自国を差別化したいと考えている。閣僚らは、過度な摩擦が投資の弱体化と導入の遅れにつながるとみている。また、米国や欧州連合ほどの市場規模を持たないなかでも、英国が影響力を維持することを望んでいる。
AISIへのアクセスは、その戦略の中核となっている。英国の研究者が先端モデルを早期に検証できるなら、同国は国際的な存在感を主張できる。そのアクセスが不安定になれば、より軽い枠組みがもたらす外交・科学上の利点も同時に弱まる。
したがって、Google Newsを巡る報道サイクルのタイミングは重要だ。欧州で執行が始まる一方、英国では協力だけで十分かどうかが議論されている。この対比により、議員は理論上の代替案ではなく、現実の比較基準を得ることになる。
本当のトレードオフはアクセスと執行の間にある
英国は、自主的なテストの技術的な深みを維持しつつ、開発者が重要な協力を結果なしに撤回できる余地をなくさなければならない。
広範なライセンス制度は一つの対応策だが、唯一の選択肢ではない。議会は、システムが定められた能力または計算資源の閾値を超える開発者を対象とする、限定的な義務を設けることができる。その義務には、事前通知、安全なアクセス、文書化、インシデント報告を含められる。
こうした法律には明確な境界が必要になる。先端モデルの開発者と、既存サービスを統合する小規模企業を区別すべきだ。両者に同じ要件を課せば、最も影響の大きいリスクの発生源に対処しないままコストだけが生じる。
法律では、アクセスの意味も定義する必要がある。チャットインターフェースは、モデルレベルの評価と同等ではない。AISIには、システム文書、安全設定、ツールへのアクセス、ファインチューニングの選択肢、さらに知見を再現するための十分な時間が必要になる可能性がある。
機密保持も別の課題となる。先端モデルには、価値ある知的財産、セキュリティ上機微な詳細、未発表製品に関する情報が含まれる。強制的なアクセス制度には、担当者、インフラ、開示、他国政府との連携に関する厳格な管理が必要となる。
AISIはすでに、機微な評価に向けて限定チームと暗号名のプロジェクトを用いている。こうした手続きは基盤となるが、法的強制は事態をより重大にする。企業は、情報漏えいやモデル情報の不適切な利用に対する明確な保護を求めるだろう。
執行権限にも同様の慎重さが求められる。AISIはリリース承認権限を持たずに、情報提出を要求する権限を得ることができる。別の規制機関が、AISIの技術的知見に依拠しながらコンプライアンス通知を発行することも可能だ。
より強力な選択肢として、テストで特定のリスクが見つかった場合に一時的なリリース延期を認める方法がある。このアプローチはより大きな保護をもたらすが、技術的に不確実なプロセスに大きな権限を集中させることにもなる。偽陽性は有用なシステムを遅らせ、偽陰性は誤った安心感を生む可能性がある。
政府はこれらの仕組みのいずれも選んでいない。Narayanの発言は制度設計を開いたままにしている。それは柔軟性を保つ一方で、どのような失敗が規制の発動につながるのかを企業や国民が知ることを妨げてもいる。
透明な発動条件は説明責任を改善する。英国はアクセスに関する最低限の期待水準を公表し、対象開発者がそれを満たしたかを報告できる。そうした期待に対する持続的な不履行は、協議や立法の開始につながり得る。
公的な報告は、機微な知見を保護しなければならない。悪用可能なサイバー能力の詳細な説明は、新たなリスクを生み出し得る。それでも、集計情報であれば、AISIが最終モデル、十分なテスト時間、求めた技術的アクセスを得たかどうかを示せる。
懐疑的な見方では、英国の警告は依然として修辞的なものにとどまる可能性がある。政府はしばしば、立法の可能性を残しつつ、実際には導入しない。そのため開発者は、規制上の言葉を差し迫ったコンプライアンス変更ではなく、対応可能な政治的圧力として扱える。
英国はすでに、導入と経済成長を優先するなかで、専用のAI法案を先送りしている。この経緯により、タイムテーブルがないことの重要性が増している。「必要であれば規制する」という表現は、明確な見直し日程や測定可能な基準ほどの確実性を提供しない。
もう一つの懸念は、組織の独立性に関わる。AISIは政府内に置かれ、国家政策を支援している。現時点では、法定の独立性、正式な執行手続き、不服申立ての枠組みを備えた従来型の規制機関ではない。
その研究知見を法的判断に転換するには、ガバナンスの変更が必要となる。技術評価者はリスクを率直に報告できなければならず、影響を受ける企業には予測可能な手続きが必要だ。閣僚も、証拠がどのように介入につながるのかを説明する必要がある。
これに対する反論は、時期尚早な立法が未成熟な評価手法を固定化しかねないというものだ。研究者の間では、危険な能力をどう測定するか、保護策をどう考慮するか、ベンチマーク性能を実世界のリスクへどう結び付けるかについて、なお議論が続いている。不確実な方法論を法律に組み込めば、誤った精密さを生みかねない。
このため、政府による安全性認証よりも、対象を絞ったアクセス義務の方が実務的に見える。法律は、モデルを一律に安全または危険と宣言せずに協力を強制できる。AISIは能力の進化に合わせてテストを変更する余地を維持できる。
重大インシデントの報告義務も、この構造を強化できる。展開後の証拠は、リリース前評価では見落とされるリスクを明らかにすることが多い。早期アクセスと継続的な監視を結び付ければ、システムのライフサイクル全体をより完全に把握できる。
企業は、現在の議論がモデル研究所だけに適用されると解釈すべきではない。AIを展開する組織は、引き続きデータ保護、サイバーセキュリティ、労働規則、消費者保護、分野別要件に責任を負う。
Information Commissioner’s Officeは、主要開発者との監督上の関与を維持していると述べている。また、AI向けの管理された実験の仕組みも開発している。これらの取り組みは、既存の法的義務と監督下のイノベーションを組み合わせるという英国の選好を示している。
企業の購入担当者にとっては、どちらの制度下でもサプライヤーの文書がより重要になる。チームは、どのモデルが機微な情報を扱うか、アクセス可能なツールは何か、更新が承認済みワークフローにどう影響するかを記録すべきだ。検索可能な技術ナレッジベースは、正式なリスク管理の代替にはならないものの、この作業を支援できる。
ナレッジワーカーも関連した問題に直面する。よく知られた製品名が、すべての新しいモデルバージョンで同等のテストが行われたことを保証するわけではない。調達チームには、バージョン固有の証拠、導入条件、有害な挙動に対する明確なエスカレーション経路が必要だ。
英国の決定は、そうした証拠の質に影響する。強力な評価要件は顧客に届く開示を改善できる。定義が弱い自主的コミットメントでは、購入者は比較が難しいベンダーの要約に依存せざるを得なくなる可能性がある。
政府は、展開前のアクセスが安全性を証明すると主張すべきではない。AISIは限定された条件下で、選ばれた能力をテストする。その知見は警告サインの特定や保護策の検討に役立つが、あらゆる利用や失敗を予測できるわけではない。
開発者もまた、自主的な提出を独立した承認として扱うべきではない。AISIとの協力は、同研究所がモデルを支持していることを意味しない。評価アクセスがマーケティング上のバッジになるのを防ぐには、明確な公的表現が必要だ。
この均衡が政策上のトレードオフを定義する。英国は、協力を阻害せずにアクセスを確保し、硬直的な認証なしに執行し、リスク判断のすべてを開発者へ移さずに成長を実現したいと考えている。3つすべてを達成するには、警告以上のものが必要だ。
規制の到来を示す3つのシグナル
次の段階は、測定可能なアクセス、文書化された開発者の行動、自主的な保護策が失敗した際の具体的な政府対応にかかっている。
第1のシグナルは、今後の先端モデルのリリースに対するAISIのアクセスだ。読者は、Google DeepMind、OpenAI、Anthropicが、有意義なテストに十分な時間を確保したうえで、最終版または最終版に近いモデルを提供するかに注目すべきだ。初期の研究バージョンへのアクセスは、必ずしも実際に展開されるシステムの挙動を明らかにしない。
政府報告は、モデルの秘密を明かさずにこの点を明確にできる。AISIは、評価した主要リリース数、テストが展開に先行したか、開発者が求められたインターフェースを提供したかを示せる。いずれかの指標が低下すれば、拘束力のあるアクセスを求める根拠が強まる。
第2のシグナルは、研究所がソウルでのコミットメントをどのように実施するかだ。安全性フレームワークでは、リスク閾値、テスト手法、緩和策の選択、リリースを停止する条件を特定すべきである。更新では、広範な原則を繰り返すのではなく、重要な変更を説明すべきだ。
開示の未達や説明のない遅延は、英国の許容度を試すことになる。政府が対応せずに繰り返される欠落を受け入れれば、その規制上の警告は信頼性を失う。正式な期待水準を設定すれば、自主モデルにはより明確な境界が生まれる。
Googleは、先端モデルの開発と広く使われる消費者・企業向けサービスを組み合わせているため、特に注目に値する。Google Newsを通じて広がる報道は公的な監視を高め得るが、集約は安全性コンプライアンスの証拠ではない。読者は一次開示と政府評価を追うべきだ。
第3のシグナルは、具体的な立法または協議のステップである。これには、法定のアクセス義務、正式なインシデント報告、AISIの法的認知、最も能力の高いモデルに焦点を当てた権限などが含まれ得る。公表されたタイムテーブルは、別の一般論よりも重要になる。
いずれか一つの指標で動きがあれば、英国が執行可能な後ろ盾を構築しているという見方は強まる。定義されない協力への継続的な依存は、その見方を弱める。その違いは、不履行が予測可能な結果をもたらすかどうかにある。
EUは、すぐに比較できる事例を提供している。同連合の執行権限は現在、汎用モデルに関する義務にも適用されており、追加の高リスク規則は別のスケジュールで施行される。初期の調査やコンプライアンス要請は、拘束力のある枠組みが実務でどのように機能するかを示すことになる。
英国は、AI Act全体を模倣せずとも、その証拠を活用できる。EUによる効果的な執行は、英国にも明確に定義された権限を求める圧力を強めるだろう。混乱を招く、あるいは不均衡な執行であれば、より限定的なモデルを採用すべきだという英国の主張を後押しする。
両市場における開発者の行動も、もう一つの試金石となる。別々の制度を維持するのは非効率なため、企業が欧州で求められるより厳格な文書化やリスク管理プロセスを世界的に適用する可能性がある。そうなれば、英国は同等の義務を法制化せずともEU規則の恩恵を受けられるかもしれない。
ただし、その結果には主権上の問題が残る。英国は、他国で作られた基準やインセンティブに部分的に依存することになる。英国政府はモデルを検証できても、開発者の行動を形作る法的に執行可能な期待の多くは欧州連合が定めることになる。
AISIの技術的な知見は引き続き中心的な役割を果たす。急速に向上するサイバー能力、評価の回避、あるいは安全対策の有効性低下を示す証拠があれば、対応を遅らせるコストは高まる。現行の緩和策が依然として有効だという証拠が得られれば、自主的な協力にさらに時間を与えられる。
読者は、劇的な主張を慎重に受け止めるべきだ。管理されたサイバータスクは、国家レベルの混乱が起きる可能性を直接測定するものではない。モデルの挙動は、プロンプト、ツール、安全対策、運用者の技能によって変わり得る。
テスト環境からエージェントが逃避した、あるいは想定外のシステムとやり取りしたという単発の報告にも、同じ慎重さが求められる。各事案では、権限、封じ込め、人間による監督、実際の被害を検証する必要がある。扇情的な表現は、ガバナンス上の教訓を見えにくくしかねない。
個々の事案に異論があっても、政策上の問いは具体的なままだ。誰が事象を開示しなければならないのか。誰がシステムを検査できるのか。誰が是正措置を要求できるのか。企業が政府の評価に異議を唱える場合、自主的な安全対策では十分な答えを提供できない。
開発者と企業の購入担当者にとって、最も安全な対応は、より充実した文書化に備えることだ。モデルの台帳、アクセスログ、インシデント対応手順、バージョン別の評価は、自主的な制度でも拘束力のある制度でも有用であり続ける。また、組織が顧客や規制当局に対して判断を説明する助けにもなる。
Google News経由でこの議論を追う人は、「英国は規制に前向きだ」という単純な見出しの先を見るべきだ。政府はまだ協力から強制へと移行していない。ただし、協力には信頼できる代替手段が必要だと認めている。
この認識こそが本当の出来事だ。英国のより軽いアプローチは、モデルの能力が高まる中でも、信頼できるアクセスと実質的な安全対策を提供できることを証明しなければならない。そうでなければ、その柔軟性は依存に見え始める。
今後数カ月で、3つの問いに答えが出るはずだ。AISIは引き続き適切なリリース前アクセスを得られるのか。開発者は、自らの安全への取り組みがリリース判断に影響していることを示す具体的な証拠を公表するのか。深刻な失敗によって対応を迫られる前に、閣僚は執行可能な対応策を定義するのか。
一つの劇的な発表を待つのではなく、こうした兆候を注視してほしい。組織内でAIを管理しているなら、すでに利用しているモデル、データアクセス、インシデント経路を監査しよう。規制当局から「なぜその導入は安全なのか」と問われた場合、今日の時点でどのような証拠が必要になるだろうか。
