英国のAIモデル規制では危険なリリースを止められない、議会委員会が警告
英国には十数の規制当局と専門の安全保障研究機関があるにもかかわらず、現時点では危険な人工知能モデルのリリースを阻止できない。
この指摘により、英国のAIモデル規制は、責任あるイノベーションをめぐる抽象的な議論以上に厳しい scrutiny にさらされている。議会の人権合同委員会は、先進モデルへのアクセスを要求したり、その導入を阻止したりできる規制当局が同国には存在しないと述べた。
同委員会は70件を超える書面提出を受け、10回の口頭証言セッションを実施した後、9月14日に報告書を公表した。その結論は、AIシステムが利用段階に入った後に主として既存法を適用する、政府の分野別戦略に異議を唱えるものだ。
当面の対立点は、自主的な協力と執行可能な監督の間にある。AI Security Instituteは、開発者がアクセスを提供すればモデルを評価できるが、企業に提出を法的に義務付ける仕組みはない。
同委員会は、この関係を逆転させるべきだと考えている。提案するAI法案では、開発者に強力なモデルのテスト提出を義務付け、高リスクシステムの事前承認を設け、独立規制当局に権限を与える。
この提言は、基盤モデルが雇用、金融、教育、警察活動、医療、公的サービスにまたがる製品を支える度合いを強めるなかで出された。したがって、上流で生じた弱点は、影響を受ける人がAIの関与を知る前に、多くの組織へ広がり得る。
英国のAIモデル規制における空白が明確に
委員会の中心的な結論は限定的だが重大だ。英国には先進モデルをテストする専門性がある一方、テストを強制したりリリースを止めたりする権限はない。
AISIとして知られるAI Security Instituteは、2023年11月に活動を開始した。開発の最前線に近い、高度な能力を持つ汎用システムであるフロンティアモデルの能力と安全対策を研究している。
AISIは、導入前に自主的にアクセスを提供する開発者と連携する。同委員会のAI regulation reportによれば、モデルの公開前後を問わず、そのアクセスを要求することはできない。
また、リリース条件を課すことも、拘束力のある是正命令を出すことも、導入を阻止することもできない。その調査結果は政府の参考になり得るが、規制上の承認判断として機能するものではない。
この違いは重要だ。なぜなら、技術的なアクセスによって、評価者が実際に何を検査できるかが決まるためだ。公開されたチャットインターフェースから分かるのは、モデルの挙動、安全対策、システム指示、導入管理のごく限られた部分にすぎない。
実質的な評価には、管理されたテスト、技術文書、リリース前の時間が必要になる。規制当局には、重大な指摘を解決し、約束された修正が機能することを検証するための手続きも必要だ。
アクセスが義務付けられていなければ、どのモデルをAISIに見せるか、いつテストを始めるか、どの補足資料を提供するかは開発者が決める。商業上のスケジュールは、自主的な評価の取り決めより速く進み得る。
委員会の主張は、AIが英国法のすべての適用外にあることを意味しない。データ保護、平等、消費者保護、製品安全、金融サービス、オンライン安全に関する規則は、特定の状況ですでに適用され得る。
問題は、タイミング、対象範囲、責任に関わる。既存の権限の大半は、規制対象の活動におけるモデル利用を対象とし、多くの下流ユーザーへ届く前の基盤モデルそのものを対象とはしていない。
House of Commons Libraryは、英国のアプローチを既存の法的枠組みを通じた文脈依存型の規制と説明している。Information Commissioner’s OfficeやOfcomなどの規制当局は、確立された所管の範囲で特定の法的義務を監督している。
この構造は、リスクが一つの規制分野に明確に属する場合には機能し得る。しかし、汎用モデルが複数の分野にまたがる意思決定やサービスを同時に支える場合には対応が難しい。
雇用選考システム、顧客サービス用チャットボット、医療アシスタント、給付金支援ツールが、同じ基盤モデルを共有することもあり得る。それでも導入主体は、それぞれ異なる規制当局、義務、証拠基準、執行手段に直面し得る。
委員会は、この分断により、これらのアプリケーションをつなぐモデルレベルのリスクに責任を持つ機関がなくなると主張する。また、技術的なリソースがより限られた顧客へ、開発者が大きな責任を移転することも可能にしている。
そのため報告書は、リリース前の権限が存在しないことを構造的な空白として捉えている。懸念は、規制当局がより多くの指針や別の自主基準を必要としている、というだけではない。
懸念の核心は、強力なモデルを評価のために開示するよう開発者に要求できる既存機関がないことだ。そして、危険なテスト結果をリリースに対する拘束力ある決定へ転換できる機関もない。
下流のシステムでは上流のリスクを確実に制御できない
英国はAIシステムが導入される場所で多くの害を規制している一方、委員会は根底にあるモデルを設計する企業へ責任を移すことを求めている。
基盤モデルは多様なタスクを実行でき、他の製品の構成要素としても機能する。OpenAIのGPTモデル、AnthropicのClaude、GoogleのGemini、MetaのLlamaは、この汎用レイヤーの例だ。
組織は、こうしたモデルを自社のデータ、インターフェース、ワークフローに接続できる。モデルをファインチューニングしたり、検索システムを追加したり、挙動を定める指示を書いたり、外部ツールの使用を許可したりすることがある。
この構造はAIのサプライチェーンを生み出す。モデル開発者、クラウド事業者、アプリケーション開発者、データ供給者、インテグレーター、雇用主、公的機関、エンドユーザーは、いずれも最終的な結果に影響を与え得る。
各参加者が異なる情報を管理するため、この連鎖は説明責任を複雑にする。モデルを導入する顧客は、その出力を見ることはできても、学習過程、隠れた限界、内部の安全性テストを理解していない可能性がある。
開発者は基盤モデルについてより多くを把握している。しかし、その後に顧客が構築するアプリケーション、プロンプト、データセット、意思決定のすべてを管理できるわけではない。
既存の英国規制は、しばしば導入地点に近いところへ責任を集中させる。雇用主は差別的な採用について引き続き責任を負い、公的機関も給付金や警察活動に影響する決定について説明責任を負う。
これらの義務は依然として重要だ。委員会の異議は、下流での説明責任だけでは、上流の欠陥を検査も修正もできない主体に過大な負担を負わせる点にある。
モデルの傾向は、多数の顧客に同時に及ぶこともある。同じ基盤モデルが、多数のアプリケーションに信頼できない助言、差別的なパターン、悪用可能な挙動をもたらす場合、ケースごとの執行では対応が遅れる。
規模が規制上の問題を変える。従来の監督では、被害の証拠が現れた後に、一つの雇用主、銀行、プラットフォーム、公的機関を調査できる。
広く使われる基盤モデルは、個別の規制当局が共通の原因を検知する前に、それらの境界を越えて関連するリスクを広げ得る。影響を受ける組織は当初、各事案を孤立した導入上の失敗として扱うかもしれない。
委員会が人権に焦点を当てることで、この遅れはとりわけ深刻になる。人々は、自動化システムが雇用、警察活動、懲戒、公的サービスに関する決定へ影響したことを知らない可能性がある。
開示がなければ、関連記録を要求したり、モデルの役割に異議を申し立てたりできない。AIの利用が判明した場合でも、複雑なモデルはその出力について明確な説明を生み出せないことがある。
報告書は、平等、プライバシー、データ保護、実効的な救済へのアクセスを中心的な懸念として挙げている。こうした懸念は、仮想的な人間レベルのAIシステムに限られない。
証人らは、従業員監視、顔認識、受刑者のリスク評価、給付金詐欺の検出、重大な結果をもたらす自動意思決定に関する現在の利用事例を説明した。
委員会は、2025年1月1日から10月29日までの間に、警察の顔認識導入を通じておよそ300万人の顔がスキャンされたと報告した。その懸念は精度にとどまらず、同意、比例性、透明性、救済を求める能力にも及ぶ。
また、信号待ちで停止することなど日常的な行動の後、職場のシステムが従業員を調査対象としてフラグ付けした例も引用した。こうした例は、通常の自動化システムが証拠と説明責任をめぐる即時の争いを生み出し得ることを示している。
人間の審査者がいるだけでは、自動的に問題は解決しない。人はアルゴリズムの推奨に従ってしまうことがあり、それを疑うために必要な情報を欠く場合や、手続き上ただ出力を承認するだけの場合もある。
委員会は、名目上の「human in the loop」が実質的な介入を意味しないことを、UK GDPRの規則で明確化するよう求めている。審査者は、十分な情報を持ち、独立しており、客観的な判断に到達できなければならない。
この原則は、英国のAIモデル規制が直面するより広い問題を浮き彫りにする。その人物がシステムの結論に至る過程について情報を持たなければ、監督を人間の存在に依存させることはできない。
自主的なモデルテストには執行の後ろ盾がない
現在の枠組みは、商業上のインセンティブが機密性、迅速なリリース、限定的な外部監視を後押しする場合であっても、AI開発者が協力することに依存している。
自主的なテストに意味がないわけではない。政府の研究者に早期アクセスを提供し、共通の評価手法を改善し、顧客が問題に直面する前に開発者が問題を特定する助けとなり得る。
AISIは、多くの従来型規制当局が持たない技術的能力も備える。政府は、導入前モデルへのアクセスが国際基準で見ても異例に広範だと説明している。
しかし、自主的な協力と法定権限は異なる問いに答える。協力は、開発者が参加に同意する場合に役立つ。権限は、開発者が拒否、遅延、または評価者の調査結果に異議を唱えた場合に何が起こるかを決める。
委員会によれば、AISIには現在、規制上の権限がない。同研究所は、安全でない製品を制限できる規制当局のような承認機関ではなく、研究機関として運営されている。
モデル開発者は独自の安全性フレームワークとリスク閾値を公表している。深刻なリスクを社内で定めた基準未満に低減できない場合には、システムを導入しないと約束する企業もある。
こうしたフレームワークは有用な手続きを生み出し得るが、その範囲、証拠、閾値、開示慣行は企業自身が選ぶ。また、モデルがそれらの条件を満たすかどうかについても、企業は大きな裁量を維持する。
委員会は、財務上のインセンティブにより自主的な約束の信頼性が損なわれるとの懸念を聞いた。競争圧力に直面する企業は、競合他社が先により高性能なモデルをリリースすれば、重大な不利益を被る可能性がある。
これは、開発者が日常的に安全性に関する指摘を無視していることを示すものではない。企業の判断と公共リスクに関する判断が食い違う際、システムに独立した後ろ盾がないことを意味する。
委員会は相互に関連する3つの変更を提案している。第一に、AISIに法定の基盤を与え、新規または大幅に改訂された強力なモデルを審査する明確な義務を定める。
第二に、開発者にこれらのモデルを評価へ提出させる。あわせて、モデルの特性、学習、想定用途、テスト、リスク管理を網羅する技術仕様も提供させる。
第三に、AISIはリリース前の調査結果を公表し、暫定的な警告を発する。重大な人権リスクを理由にモデルを保留または撤回すべき場合には、執行機関へ助言する。
技術的評価と最終的な法的判断は分けられているが、委員会は政府に対し、AISIと新たな規制当局の統合を検討すべきだとしている。
この設計は実務上の現実を反映している。懸念されるモデルの挙動を見つけることと、導入が法的基準に違反するかを判断することは同じではない。
評価者は、問題が再現可能か、防護策によって軽減されるか、導入条件がリスクを変えるかを確立しなければならない。その後、規制当局が公表済みのルールに基づいて証拠を解釈する。
委員会の最も強力な提案は、人権侵害のリスクが高いAIシステムについて事前承認を義務付けるものだ。承認は、それらのシステムが提供または導入される前に行われる。
これにより、監督の重点は事後的な執行から予防へと移る。同時に、どのモデルや用途を審査対象とするかという難しい判断も生じる。
定義が広すぎれば、評価者が圧倒され、低リスク製品まで遅延するおそれがある。狭すぎれば、導入後に危険な用途が表面化する汎用モデルを見逃しかねない。
開発者は、完全に新しい製品をリリースせずに、ホスト型モデルを改訂することもできる。規制当局には、どの時点で更新が新たな審査義務を生むのかを定めるルールが必要となる。
オープンウェイトモデルも別の課題をもたらす。コピーが元の提供者のインフラを超えて拡散し得るためだ。国内の一つのサービスに適用した制限では、アクセス可能なすべてのコピーを取り除けない可能性がある。
こうした実装上の課題が執行上の空白をなくすわけではない。それらは、技術的評価を法律へと転換するには、AISIに一般的な安全任務を与える以上のものが必要である理由を示している。
法律には、測定可能な提出要件の発動条件、試験手順、秘密保持措置、不服申立権、是正プロセス、信頼できる制裁が必要となる。また、商業上のタイムラインでモデルを審査できるだけの人員と計算資源も必要だ。
一つの監督機関は寄せ集めを置き換えるが、すべての規制当局を置き換えるわけではない
委員会は、政策を調整し、分野横断的な義務を執行する中央のAI監督機関を求めている。一方、既存の規制当局は専門的な責任を維持する。
提案された規制当局は、Financial Conduct Authority、Information Commissioner’s Office、Ofcom、Equality and Human Rights Commission、あるいは医療製品規制当局に取って代わるものではない。
これらの機関は分野に関する知識と、既存の執行上の関係性を有している。金融規制当局は融資統制を理解し、データ規制当局はプライバシーおよび個人情報に関する義務を解釈する。
新たな機関は、こうした所管の間に生じる問題を扱う。規制の実施状況を監視し、苦情を受理し、行動規範を発行し、違反を調査し、不遵守を制裁する。
また、AIライフサイクル全体で異なる参加者に適用される透明性ルールを定めることもできる。これらのルールは、開発者、統合事業者、導入事業者、公的機関が何を開示しなければならないかを明記する。
委員会は、影響を受ける人々に法外な費用を負わせず、個別事案で救済を提供することを規制当局に求めている。この機能は、モデル監督を人権救済に直接結び付ける。
提案されている権限は海外の提供者にも及ぶ。海外の事業者が英国国内で管理できない受容不能なリスクを生み出す場合、監督機関は英国での導入を制限または禁止できる。
主要な基盤モデルの多くは英国外で生まれているため、この管轄権の及ぶ範囲は重要となる。国内の導入ルールで世界の開発すべてを統制することはできないが、英国市場へのアクセス条件を設定することはできる。
委員会はまた、人権と両立しないと判断する複数の用途の禁止を勧告している。例として、潜在意識に働きかける技術、感情推論、不適切なプロファイリングまたは生体情報処理を挙げている。
極めて高い能力を持つシステムについては、さらに踏み込んでいる。報告書は、広範かつ深刻な被害のリスクがあり、有効な人間の統制を回避できるシステムについて、開発と提供を禁止すべきだとしている。
人工汎用知能と超知能は、そのようなシステムがすでに存在するとの主張ではなく、例として示されている。正確な境界線については公開協議が必要となる。
この区別は重要だ。刺激的な見出しによって、この勧告が現在の主要モデルを即時に禁止する提案であるかのように見える可能性がある。しかし報告書が求めているのは、詳細がなお未解決の将来的なリスクベース制度だ。
高リスクシステムには事前承認とより強力なデューデリジェンスが課される。低リスクのツールには、委員会が掲げる比例性の目標を反映して、より軽い要件が適用される。
この構造は、委員会が欧州の枠組みを一語一句コピーすることを勧告しているわけではないものの、EU AI Actの考え方に似ている。
EUの枠組みは、システムの分類に応じて異なる義務を課し、汎用モデルを別途規制する。また、欧州が受容不能とみなす一部の慣行も禁止している。
英国は、より分権的なアプローチを支持してきた。政府方針は、一つの包括的なAI法ではなく、用途別の監督、柔軟な原則、経済成長を強調してきた。
支持者は、専門規制当局が文脈に応じて対応できると主張する。また、モデル、製品、商慣行の変化に伴い、早期かつ硬直的なルールは時代遅れになり得ると警告している。
委員会も、規制はイノベーションを守り、不当な負担を避けるべきだと認めている。意見の相違は、サプライチェーン全体に拘束力ある義務がなくても、柔軟性が信頼性を保てるかどうかにある。
世論もより強いルールを支持する方向へ動いている。House of Lords Libraryが要約した2024年および2025年の調査では、AI法を支持する割合は以前の62%から72%へ上昇した。
同じ調査では、独立したAI規制当局への支持は89%だった。これらの数値が政策を決定するわけではないが、より軽い規制が自動的に社会的正当性を得るという前提を弱める。
したがって、提案された監督機関は単なる行政上の整理以上の意味を持つ。基盤モデルを設計する企業に法的権限を近づけ、制度的な空白に責任を負う一つの機関を設けるものだ。
委員会の解決策にも厳しい限界がある
法定権限は英国の監督を改善するが、法律によって信頼できるモデル評価や、世界的に分散する技術の完全な統制を保証することはできない。
委員会は、権限が分断されているという説得力のある診断を示している。しかし、誰が行動すべきかから、規制当局が複雑なモデルをいかに信頼性高く判断できるかへ問いが移ると、その処方は十分ではなくなる。
AI評価は、定義された条件下で危険な能力を明らかにできる。しかし、あらゆるプロンプト、統合、言語、ツール、更新、敵対的戦略の下でモデルが安全だと証明することはできない。
開発者は、既知のリスクを低減しつつ、ファインチューニングや導入変更を通じて新たな挙動を生み出すことがある。評価者の間でも、試験が現実的な被害を測っているのか、人工的な実験室シナリオを測っているのかについて意見が分かれ得る。
事前承認制度は、その不確実性の中で運用されなければならない。完全な証拠を待つことはできないが、懸念される試験結果のすべてを、現実世界での被害が不可避である証拠として扱うべきでもない。
リスク分類についても、同様に議論が起こるだろう。一つの基盤モデルが、ある製品では低リスクの文書作成を支援し、別の製品では大きな影響を持つ判断を支援することがある。
用途だけを規制すれば、上流の弱点を見落とす。すべての汎用モデルを高リスクとして規制すれば、用途と導入管理の間にある意味のある違いを無視することになる。
委員会は、サプライチェーン全体に義務を分配することでこれに応えている。開発者、改変者、提供者、導入事業者は、それぞれの役割と管理できるリスクに比例した義務を負うことになる。
方向性としては妥当だが、法律には正確な責任分担ルールが必要となる。そうでなければ、各参加者が、被害防止に必要な情報と統制を別の企業が持っていると主張しかねない。
海外の開発者に対する執行にも制約がある。英国の規制当局は国内市場へのアクセスを制限できるが、オープンモデルのファイルを消去したり、他国での開発を止めたりはできない。
このため、国際協力は外交上の飾り以上の意味を持つ。共通の試験方法、インシデント報告、基準となる標準は、企業がサービスを移転して監視を回避する余地を減らし得る。
Council of EuropeのAI条約は一つの道筋を示す。委員会は英国に対し、この人権枠組みを批准するためのタイムテーブルを公表するよう求めている。
ただし、国際的な足並みをそろえるには時間がかかる可能性がある。モデルや用途が国内で即時のリスクを生む場合には、国内規制当局にも対応する権限が必要だ。
業界からの反対も提案を変形させる可能性がある。企業は明確な基準、機密情報の保護、予測可能な審査期間、不服申立ての仕組みを求める可能性が高い。
こうした要求は、必ずしも監督を逃れようとする試みではない。曖昧な提出ルールは営業秘密をさらし、通常の更新を遅らせ、コンプライアンス費用を吸収できる企業に市場支配力を集中させるおそれがある。
文書化と試験の要件が最大手のフロンティア研究所に課されるものと同様であれば、小規模開発者は不釣り合いな負担に直面し得る。委員会は段階的な義務を求めているが、Parliamentはその区別を維持する必要がある。
能力の問題もある。規制当局が専門家を採用できず、計算資源にアクセスできず、評価を再現できず、技術が変化する前に審査を完了できないなら、法的権限の意味はほとんどない。
政府は、規制当局を監督対象企業に依存させずに、技術的な業務へ資金を提供する必要がある。また、既存の監督機関との重複を防ぐための調整ルールも必要となる。
一つの監督機関を設けるという委員会の勧告は、責任が明確でなければ、さらに一層を追加するだけになるリスクがある。企業と個人は、どの規制当局に証拠を提出し、誰が調査を主導し、誰が救済を命じるのかを知るべきだ。
最後に、報告書は目前の被害と、推測的な破局的リスクの双方を扱っている。いずれも注目に値するが、必要となる証拠、専門知識、法的手段は異なる。
差別的な雇用選考には、透明性、監査、有効な不服申立てが必要だ。深刻なサイバー攻撃を支援し得るモデルには、能力試験、アクセス管理、セキュリティ監視、国際協力が求められる。
これらを一つの法案にまとめれば、ライフサイクル全体の一貫性を生み出せる。一方で、首尾一貫して執行することがより困難な、広範な法律になる可能性もある。
したがって、改革を求める最も強い根拠は、超知能を予測することに依存しない。モデルへのアクセスを強制できず、共有された上流リスクを特定できず、被害が広がる前に責任を割り当てられないという現在の問題にある。
警告が政策を変えるかを示す三つのシグナル
次の試金石は、AI原則を再び宣言することではなく、政府が委員会の勧告を執行可能な権限へ転換するかどうかだ。
第一のシグナルは政府の正式な回答だ。Parliamentは、閣僚には委員会の調査結果と勧告に回答するため二か月が与えられるとしている。
この回答は、政府が中心的な診断を受け入れるかどうかを示すはずだ。AISIが依然としてアクセスを強制できず、リリース判断に影響を及ぼせないなら、調整を改善するという約束だけでは不十分である。
最も明確なコミットメントには、AISIを法定の基盤に置く立法が含まれる。また、義務的な提出、技術文書、リリース前の調査結果、執行当局へのエスカレーションも扱うことになる。
第二のシグナルは、閣僚が分野横断的なAI法案を提出するかどうかだ。Labourの2024年マニフェストは、最も高い能力を持つモデルを開発する少数の企業に対する拘束力ある規制を約束していた。
2024年の国王演説でもその方向性は繰り返されたが、委員会が調査を完了した時点では法案は提出されていなかった。2026年の国王演説でも、包括的なAI法案は盛り込まれなかった。
特定の害悪に対応する限定的なパッケージは、政府の既存戦略を維持することになる。一方、ライフサイクル全体を対象とする法案は、英国におけるAIモデル規制の実質的な転換を意味する。
重要なのは法案の名称以上に、その中身だ。定義されたリスク区分、開発者への義務付け、事前承認の発動条件、透明性要件、規制当局への資金拠出、制裁措置に注目すべきである。
3つ目のシグナルは、法案成立前の開発者の行動だ。AISIのアクセスは現在、協力に依存しているため、提出の欠落や遅延は、任意制度の限界を早期に測る指標となる。
主要開発者が一貫してリリース前アクセスを提供すれば、協働によって有効な監督が可能だという政府の主張を支えることになる。選択的なアクセスにとどまれば、強制力が必要だとする委員会の主張が強まる。
AIを利用する企業も、自社のリスクを検討する前に議会の動きを待つべきではない。調達契約では、基盤となるモデル、更新プロセス、テストの証拠、インシデント対応義務、利用可能な説明を明確にすべきだ。
組織はまた、AIが重要な意思決定に関与した時点を記録しておくべきである。検索可能なAIナレッジベースは、チームが後日の検証に備え、方針、評価、ベンダー資料、意思決定記録を保存する助けとなる。
こうした文書化は、法令遵守や独立したテストに代わるものではない。ただし、どのシステムが使われたのか、どのバージョンが出力を生成したのか、誰が導入を承認したのかを判断しやすくする。
個人にとって、委員会が求める最も実務的な要件は透明性である。モデルが影響したことを知らなければ、人々は自動化された判断に異議を申し立てることができない。
開発者にとって中心的な問題は、モデル評価が協力的な研究活動にとどまるのか、それとも法的な関門となるのかである。顧客にとっては、責任が引き続き下流へと蓄積していくのかが問題となる。
政府にとって、選択肢は今や異例なほど明確だ。リリース前の権限を欠く柔軟な制度を維持するか、独立機関に介入権限を与えるかである。
委員会は規制上の空白を明確にした。今後数カ月で、閣僚がそれを埋めるのか、狭めるのか、あるいは任意の約束に法的義務と同等の重みを担わせ続けるのかが明らかになる。
