最先端ラボが減速を求めるなか、議会のAIガードレールに残された時間はわずか
AI業界の主要経営者が、長年にわたる激しい商業競争にもかかわらずモデル開発の減速を支持したことで、議会のAIガードレールをめぐる議論は決定的な7週間に入った。
この変化は選挙年の休会中に起きた。議会には本会議の日程がほとんどなく、複雑なテクノロジー法案に割ける政治的余地はさらに限られている。CNBC’s report on the congressional pushによると、下院民主党議員らはマイク・ジョンソン下院議長に対し、議員を召集し、11月3日の中間選挙前に超党派の安全策を検討するよう求めた。ジョンソン氏は、実行可能な解決策があれば採決を設定すると述べる一方、議会は慎重に進めるべきだと主張した。
ここに中心的な対立がある。最先端の研究所は高度なモデルにはより強力な外部監督が必要だと訴える一方、選出された公職者の間では、誰がルールを定めるべきかをめぐって意見が割れている。ドナルド・トランプ大統領も、米国が中国に対する優位を維持するには迅速な開発が不可欠だと位置付けている。
議論はもはや、仮想的なチャットボット被害に限定されない。開発者らは、サイバーセキュリティ研究を実施し、自律型エージェントを連携させ、利用者による機微な技術情報の取り扱いを支援できるモデルについて議論している。こうした能力は、独立した試験、インシデント開示、緊急制御、そしてシステムが意図された境界を逸脱して行動した場合の責任をめぐる問題を提起する。
ワシントンには複数の提案がある。超党派のFRONTIER Actは、開発者の規模とリスクへの曝露が高まるにつれて、安全策を段階的に強化することを求めるものだ。上院議員らはまた、壊滅的な生物学的・核関連のリスクや、その他の高度なモデルのリスクに焦点を当てた、より限定的な法案を準備している。
しかし立法は、イノベーション、国家安全保障、州の権限、独占禁止法、規制の虜といった問題をめぐる対立を乗り越えなければならない。議会に迅速な行動を求める声は、次のモデル開発を競っている企業の一部からも発せられている。
この矛盾は警告を無意味にするものではない。だからこそ、執行可能なルール、独立した証拠、明確な説明責任がより重要になる。
議会のAIガードレールは理論から選挙期限へ移行する
直近の変化は政治的なものだ。自主的な抑制を求める声が、議会による執行可能な安全策の整備要求へと変わった。
下院民主党の一団はジョンソン氏に対し、予定されている休会終了前に議員をワシントンへ戻すよう求めた。その書簡は実効性のある超党派のAI安全策を訴え、行動を起こさない状態が続けば擁護が難しくなると警告した。
議員らは単一の包括法案を求めたわけではない。最先端モデルの透明性、独立評価、緊急停止能力、企業間の連携した安全対策を扱う複数の提案を示した。
この幅広い選択肢は実務上の懸念を反映している。あらゆるAIアプリケーションを統治しようとする単一法案には、残された立法日程で解決できない問題が多すぎる。より限定的な措置は迅速に進められるが、より広範な説明責任の空白も残す。
ジョンソン氏は日曜のテレビ出演でこの圧力を認めた。議員らが実行可能な解決策をまとめれば、下院議員を召集して採決を設定すると述べた。また、トランプ氏、議会指導部、AI業界の幹部を招集する案も示した。
ただしジョンソン氏は、議会が必ずしも対応を主導するわけではないと述べた。この立場では、競争圧力が一方的な自制を妨げる場合であっても、テクノロジー企業が当面の責任の大部分を負うことになる。
下院少数党院内総務のハキーム・ジェフリーズ氏は異なる対応を示した。民主党は火曜日に会合を開き、AI安全策を最優先課題として扱うと述べた。ジェフリーズ氏は、開発者自身が能力の成長を減速させる必要があると認めている今こそ、政策立案者は行動すべきだと主張した。
対立の一部はタイミングをめぐるものだ。下院は選挙に近づいており、議員らは未解決の交渉よりも選挙運動で示せる成果を求めている。AI立法は商業、科学、国家安全保障、司法を担当する委員会を含む複数の委員会にまたがる。
中間選挙をめぐる政治は、限定的な合意を加速させる可能性がある。一方で、技術的な定義が弱い、あるいは執行力が不十分な象徴的立法につながる可能性もある。
実行可能な措置は、どの開発者が最先端企業に該当するのかを説明しなければならない。より厳しい義務を発動する能力も定義する必要がある。さらに、どの機関が機密のモデル情報へアクセスし、その機関が営業秘密をどう保護するかも決めなければならない。
こうした問いは難しいが、遅延もまた既定路線によって政策を形作る。企業は独自の試験基準、開示ルール、リリース手順を開発し続けている。自主基準の下で新たなシステムが投入されるたびに、こうした民間の選択はより固定化される。
したがって立法の窓は二つの意味で閉じつつある。議会の稼働日は減り、業界は将来の規制当局が覆すのに苦労する慣行を確立し続けている。
最先端AI開発者が突然、競争の減速を望む理由
新たな緊急性は異例の業界シグナルに由来する。競合する研究所が今や、安全対策がモデル能力に追いついていないという点で一致している。
Anthropic CEOのダリオ・アモデイ氏は、最先端モデルの性能向上をより遅いペースにすべきだと訴えるエッセイで議論を強めた。最先端モデルとは、AI開発の最前線に位置する、最も高性能な汎用システムを指す。
アモデイ氏は、開発の速度を調整すれば、システムの振る舞いを人間の指示や制約と整合させるプロセスであるアライメントを改善する時間を研究者に与えられると主張した。高度な能力を持つエージェントが、既存の防御策では対処できない規模でサイバー作戦を連携させる可能性があると警告した。Associated Press reportedによると、アモデイ氏はエージェント群が関与する6〜12か月後のシナリオを述べたが、独立して検証された予測ではなく警告として提示した。
同氏の提案はAI研究の終了を求めるものではなかった。重要なリスク閾値に近づくシステムに備え、能力開発と安全策、外部審査、準備との均衡を取ることに焦点を当てた。
アモデイ氏の警告は、他の業界上級幹部も同意を示したことで重みを増した。OpenAIやxAIに関係するリーダーも、何らかの形で開発の減速または安全審査の強化を支持した。
各研究所の商業的な利害は同一ではない。それぞれが人材、計算能力、顧客、そしてモデル性能で先導しているという評価を求めている。したがって、ペース調整に関する合意は安全上の懸念が経営判断に影響していることを示唆する。ただし、企業は業界全体で一様な立場を裏付けるのに十分な比較可能な証拠を開示していない。
OpenAIはすでに、十分に安全を確保できないシステムについて、作業を減速または停止する条件を説明していた。同社の公開されたAI policy positionも、能力に基づく国家要件、独立した安全評価、政府の行動を支持している。
企業間の詳細にはなお違いがある。ある研究所は内部訓練を続けながら公開リリースを遅らせるかもしれない。別の研究所は、少数のパートナーへのアクセスに限定するかもしれない。第三の研究所は、監視ツールや利用制御を追加したうえで進める可能性がある。
「減速する」には標準的な運用上の定義がないため、こうした違いは重要だ。これは訓練の延期、展開の延期、アクセス制限、モデル重みの非公開、または特定能力に関する作業の一時停止を意味し得る。
AI安全性のための減速は、集団行動の問題も生む。単独で停止する企業は、競合他社が続行するなかで、顧客、従業員、投資家の信頼を失うリスクを負う。主要な参加者全員が測定可能なルールに従うとき、自主的な抑制の信頼性は高まる。
国際競争は協調を難しくする。トランプ氏は米国が中国に対する優位を維持しなければならないと主張し、自身がありそうにないと考えるシナリオへの警告に疑問を呈してきた。この立場は、継続的な能力開発を外国との競争に対する戦略的防衛と捉える。
アモデイ氏も、中国がAIで優位に立つことは危険だと述べている。したがって、この意見の違いは国家安全保障を重視する人々とそうでない人々の単純な対立ではない。どの道筋がより大きな安全保障をもたらすかをめぐる問題である。
一方は、競合国が追いつく前に速度を上げることが米国を強くすると考える。もう一方は、抑制のない速度が、どの国も確実に封じ込められないシステムを生み出すと考える。
議会はこうした主張の間に位置する。技術的な警告を評価しつつ、その警告を発する企業に政策権限をそのまま移してはならない。
この作業には、一般公開されない証拠へのアクセスが必要だ。最先端研究所は、未公開モデル、非公開のインシデント報告、アクセスを制限したサイバーセキュリティ試験を用いて内部評価を実施している。議員が受け取るのは一般に、選別された結果か機密ブリーフィングのみである。
信頼できる枠組みは、危険な能力を公にさらすことなく、この情報格差を埋めなければならない。独立評価者には企業の結論に異議を唱えるのに十分なアクセスが必要である一方、セキュリティ対策はモデルや試験の流出を防がなければならない。
業界で浮上している懸念は、政治的な機会の窓を開いた。しかし、その窓を責任ある形で活用するために必要な仕組みをすべて提供したわけではない。
FRONTIER Actは枠組みを提示するが、最終的な決着ではない
FRONTIER Actは幅広い安全原則を段階的な義務へと落とし込むが、その執行と連邦法による優先適用の規定は依然として政治的に難しい。
ジェイ・オバーノルティ下院議員とロリ・トラハン下院議員は7月23日、超党派のFrontier Risk Oversight, National Transparency, Independent Evaluation, and Reporting Actを提出した。この名称からFRONTIERという頭字語が作られている。
公式のFRONTIER Act announcementによれば、この法案は開発者の規模とリスクプロファイルに応じて要件を段階化する。提案されている手段には、モデルカード、リスク管理プログラム、独立監査、インシデント報告、継続的評価が含まれる。
モデルカードとは、システムの能力、制約、試験、想定用途を説明する構造化された開示資料である。これは規制当局や顧客に、リリースを評価するための共通記録を提供する。
段階的規制は、小規模開発者から提起されている一つの反論に対応する。均一なコンプライアンス義務は、最大手の研究所を有利にし得る。そうした企業はすでに法務、セキュリティ、評価のチームを抱えているからだ。規模に応じた制度なら、資源と潜在的な影響が最も大きい領域により重い義務を課せる。
法案は、モデルリスクが時間とともに変化することも認識している。システムは、ファインチューニング、ツールへのアクセス、外部ソフトウェアとの統合を通じて新たな能力を得ることがある。そのため、継続的な評価は一度きりのリリース前試験より有用である。
独立監査は内部の利害に異議を唱え得る。製品チームはリリース日程の達成を望む一方、安全チームには追加試験が必要になる場合がある。外部評価者は意見の相違を文書化し、規制当局に証拠を提供できる。
しかし、独立性は選定、資金、アクセス、法的保護に左右される。開発者から直接報酬を受ける評価者は、目に見えにくい商業的圧力に直面する可能性がある。政府が選定した評価者は、政治的または調達をめぐる紛争に巻き込まれるおそれがある。
同じ問題は緊急時の統制にも当てはまる。「キルスイッチ」は直接的に聞こえるが、現代のAIサービスはモデル、アプリケーション、ツール、顧客環境への導入、複製された重みから成り立っている。ホストされた一つのエンドポイントを停止しても、すべての導入環境が消えるわけではない。
法律では、統制対象を定義する必要がある。対象はトレーニング実行、モデルのリリース、特定ツールへのアクセス、あるいは機微な分野での導入となり得る。どの選択肢にも、それぞれ異なる安全保障および市民的自由への影響がある。
インシデント報告にも別の課題がある。企業は、どの事象が対象となるか、どの程度の速さで報告しなければならないか、どの情報を秘匿できるかを把握する必要がある。定義が狭すぎれば警告サインが隠れ、広すぎれば規制当局が日常的な障害報告で圧倒されかねない。
法案と州規制の関係は、さらに難しい問題となる可能性がある。州は、自動化された意思決定、差別、消費者向け開示、フロンティアモデルのリスクを扱う規則を先行して整備してきた。連邦による専占は、一部の州権限を全国基準に置き換えることになる。
開発者は、州ごとに相反する要件が導入を複雑化するため、全国で一貫したルールを望んでいる。消費者擁護団体は、連邦執行体制が稼働する前に、専占によってより強力な保護が失われる可能性を懸念している。
特定の州AI開発規則を3年間制限する案は、以前の立法協議で浮上した。このアプローチは、一時的な凍結が恒久的な規制上の空白になりかねないと懸念した州当局者や進歩派団体から反対を集めた。
この対立は、より大きなトレードオフを示している。全国的な一貫性はコンプライアンスを明確にし得るが、弱い水準での一貫性は、公衆が利用できる救済手段を減らすことになる。
FRONTIER Actは、先進モデルの監督に向けた下院で最も明確な法案であり続けている。具体的なガバナンス手段を示し、超党派の共同提案者を得ている。ただし、その手段が機能するかを決める制度上の問題は、まだ解決されていない。
その重要性は、最終的な法定文言を予測することよりも小さい。むしろこの法案は、安全性とイノベーションに関する声明の段階で停滞しかねない交渉に、真剣な基準線を与える。
ワシントンは自主的な抑制と執行可能な義務の間で選択しなければならない
政策上の中心的な選択は、フロンティアモデルの抑制を企業の約束にとどめるのか、それとも検証可能な法的義務にするのかである。
自主的なコミットメントは、立法より速く進められる。企業は議会を待たずに、リリース手順を変更し、外部テスターを招き、アクセス制御を強化できる。
Anthropicは、モデルリスク評価、帰属手法、政策連携を扱うsafety roadmapを公開している。OpenAIは、より強い保護措置を発動する準備態勢のしきい値と状況を説明している。
これらの枠組みが有用なのは、能力が変化するにつれて開発者が更新できるためだ。法律では、あらゆる評価手法や攻撃技術を容易に予見できない。
しかし企業は、自主方針を改定したり、しきい値を社内で解釈したり、情報開示を遅らせたりもできる。顧客や研究者は、安全性へのコミットメントが重要な導入判断に影響したかどうかを知ることができない場合がある。
拘束力のある要件は、最低限の基準を設けられる。一貫した文書化を求め、社内告発者を保護し、インシデント通知を義務付け、既知のリスクを企業が隠した場合に罰則を科す権限を与えられる。
法律にもコストがある。技術的なルールは時代遅れになり得るほか、不適切に設計されたしきい値は既存企業を有利にする可能性がある。コンプライアンス体制は、本物の安全性向上作業ではなく、チェックボックスを埋める行動を促すかもしれない。
規制の取り込みも別のリスクだ。フロンティア開発者は、議会や大半の政府機関より多くの技術情報を持つ。厳格に見えながら既存の慣行を維持する定義を形作ることができる。
最も強いアプローチは、政策目標と技術的実装を分離することだろう。議会は、独立評価や適時の報告といった成果を義務付けられる。そのうえで、適格な機関が公開手続きを通じて測定基準を更新できる。
この構造にも、十分な専門性と権限を備えた機関が必要となる。商務省と米国国立標準技術研究所は関連する能力を持つが、この規模の評価には安全な計算インフラと専門スタッフが求められる。
政権は、義務的なモデルライセンスより協働を選好してきた。6月のAI security orderは、対象となるフロンティアモデル向けの自主的なプロセスを創設し、新規リリースに対する義務的な事前審査を明確に退けた。
この命令は、連邦当局者に機密扱いのサイバーセキュリティ基準を策定するよう指示している。また、開発者が機密保持およびセキュリティ保護の下で、リリース前のモデルアクセスを提供することも認めている。
このアプローチは、特に国家安全保障リスクに関する情報共有を改善する可能性がある。ただし、自主参加である以上、政府は開発者の協力に依存することになる。
ホワイトハウスのより広範なlegislative frameworkは、全国的な一貫性、子どもの保護、知的財産の保護、詐欺への執行、労働力の準備、そして米国のAIリーダーシップの継続を求めている。
これらの目標は、フロンティアモデルの安全性より広い領域を対象とする。その広さは連合形成の機会を生む一方、焦点を絞ったリスク法案を停滞させかねない争点も持ち込む。
議会は、AIに関するあらゆる懸念を一つの立法問題として扱うべきではない。ディープフェイク、差別的な自動化判断、データセンターの電力需要、著作権、破滅的なモデル能力には、それぞれ異なる証拠と執行手段が必要である。
より狭いフロンティア法案でも、共通の基盤を確立できる。開発者は評価を文書化し、重大なインシデントを報告し、安全性への懸念を提起する従業員を保護し、認可された審査者に安全なアクセスを提供すべきである。
独占禁止法も、この問題の一部を成す。開発を遅らせるために企業が協調すれば、その合意が競争を不当に制限する場合、Sherman Act第1条の下で精査を受ける可能性がある。この問題は、United States v. Google LLC, Case No. 1:20-cv-03010 (D.D.C.)を含むテクノロジー市場における集中と排除を、連邦執行当局がすでに調査しているため、とりわけ慎重な扱いが求められる。
したがって、安全性に関する協働には慎重に限定された法的保護が必要である。2月のFebruary 2026 request for public commentで、司法省と連邦取引委員会は、競合企業間の協働はイノベーションを促進し得る一方で競争を脅かす場合もあると述べ、情報共有やその他の現代的な取り決めに関する更新版ガイダンスへの意見を求めた。
いかなる適用除外も、本物の評価、セキュリティ、インシデント共有の取り組みを対象とすべきである。企業による価格協調、市場分割、自由な競争の制限、小規模開発者の排除を認めてはならない。
この区別は、安全性と経済競争の両方を守る。さもなければ、大手研究所は、結果をリスク管理と称しながら規制を使って参入障壁を高める可能性がある。
これが、企業間の合意だけで政策論争が終わらない理由である。自主的な協調が業界主導の制度になる前に、議会が中立的なルールを整備する理由となる。
中国をめぐる議論は行動を加速させることも、阻むこともある
中国との競争は米国の迅速な開発を支持する最も強い論拠だが、共通の安全管理を求める根拠も強める。
Trumpは、米国はAIで中国をリードしており、その地位を明け渡すべきではないと述べた。AI競争に勝つ国は、将来の結果を管理する能力を得ると主張した。
この論理は、経済力、軍事利用、サイバー防衛、技術標準を懸念する議員に訴える。米国企業にのみ適用される制限は、才能や開発を規制の緩い法域へ移す可能性がある。
国内での停止は、外国の研究所も減速することを保証できない。オープンモデルの重みも国境を越えて移動し得る一方、アルゴリズムの進歩には、以前のシステムほど多くの計算能力を必要としない場合がある。
こうした現実は、無期限の一方的な停止に基づく提案を弱める。ただし、テスト、セキュリティ、インシデント報告に関する対象を絞った要件を無効にするものではない。
米国はすでに、競争を放棄せずに機微な技術を規制している。輸出規制、サイバーセキュリティ基準、調達規則は、商業開発と国家安全保障上の利益の均衡を図ろうとしている。
フロンティアAIは、関連インフラの大部分が依然として民間の管理下にあるため、異なる技術的問題をもたらす。政府の評価者は、モデル、社内の安全性に関する知見、トレーニングのセキュリティ、導入計画へのアクセスを必要とする可能性がある。
リスクベースの制度は、企業の国籍ではなく能力に焦点を当てることができる。たとえば、モデルが定義されたサイバーセキュリティ、生物学的、または自律運用のしきい値を超えた場合に、強化された要件を発動できる。
このようなしきい値は、可能な限り再現可能なテストを用いるべきである。また、モデルはファインチューニングや外部ツールとの接続後に異なる性能を示す場合があるため、不確実性も認識する必要がある。
国際協調は執行を強化するだろう。共通の評価手法は、政府がシステムを比較する助けとなり、企業がテストや導入を移転する誘因を減らせる。
ただし国際ルールは、正当な研究を守り、少数の政府と企業を恒久的な門番に変えないようにしなければならない。オープンな技術活動は、安全性研究、監査ツール、競争的な代替手段に貢献してきた。
中国をめぐる議論は透明性にも影響する。詳細な公開評価は、防御上の弱点を明らかにしたり、悪意ある行為者による危険な能力の再現を助けたりする可能性がある。しかし過度の秘密主義は、独立した専門家が政府や業界の主張を評価することを妨げる。
段階的な開示制度は、実行可能な妥協策を提供する。規制当局は完全な結果を受け取り、承認された研究者は管理された証拠を検証し、公衆は主要なリスクと緩和策を説明する要約を受け取ることができる。
議会はまた、国家間の競争と企業間の競争を区別しなければならない。研究所は自社の商業的優位を追求しながら、米国のリーダーシップを持ち出すことができる。両者の利益は重なるが、同一ではない。
差し迫った破局に関する主張にも同じ注意が必要である。開発者は貴重な証拠を持つが、警告は規制、投資、市場構造にも影響し得る。政策立案者は、深刻な被害の可能性を退けることなく、監査可能な証拠を求めるべきである。
最近の報道では、相反する推計とシナリオが取り上げられている。元Anthropic研究者のJacob Coxonは、Associated Press accountによると、AIが10年以内に人類絶滅を引き起こす確率を10%と見積もった。この推計は個人の判断であり、実証的に検証された予測ではない。
Amodeiは、大規模なサイバー活動を調整できるシステムに至るまでの期間として、6〜12か月の可能性を説明した。この時間軸も依然として不確実であり、独立評価者が検証する必要のある技術的前提に依存している。
議会は、ひとつの予測に基づいて精密に定められた未来を立法化すべきではない。最悪のシナリオが明白になる前に、変化する証拠を評価できる制度を整備すべきだ。
これが中国論への最も強い反論である。安全性の監督は、競争をやめるという決定ではない。技術的失敗、世論の反発、地政学的緊張の高まりを乗り越えられる競争戦略を構築する一部である。
議会がまだ行動できるかを示す3つのシグナル
次の試金石は、AI企業幹部による新たな警告ではない。政策立案者が緊急性を測定可能な義務を伴う法案へと転換できるかどうかだ。
最初のシグナルは、Jeffriesが約束した下院民主党の会合である。その価値は、議員たちがまた広範な行動要請を出すのではなく、具体的な立法手段を支持するかどうかにかかっている。
FRONTIER Act、またはそこから取り出したより限定的なパッケージを軸に結集する決定があれば、選挙前に法案が進展する可能性は強まる。共通の道筋を欠いた競合する法案は、その見通しを弱めるだろう。
2つ目のシグナルは、院内総務John Thune、商務委員会委員長Ted Cruz、上院議員Amy Klobucharによる、予想される上院提案である。報道によれば、彼らの交渉は先進モデルがもたらす最大のリスクに焦点を当てている。
超党派の上院法案は、両院にまたがる勢いを生み出し得る。具体的なテスト、政府によるアクセス、インシデント報告、執行に関する規定を含む場合に最も重要となる。
自主的な協議に限定された提案は、連携を加えるものの、説明責任の不足を解消するものではない。下院と上院で定義が異なれば、残された日程を消費する可能性もある。
3つ目のシグナルは、研究所が減速へのコミットメントを検証可能なものにするかどうかである。OpenAI、Anthropic、xAIは、開発ペースの変更が実際には何を意味するのかを説明する必要がある。
有用な証拠には、独立したレビュー手続き、能力のしきい値、文書化された遅延、作業再開の明確な条件が含まれる。機密の詳細は保護されたままでよいが、一般市民には経営幹部間の合意以上のものが必要だ。
法制化前の業界行動は、警告が社内の意思決定を変えたことを示すだろう。また、法的要件の設計に役立つ運用上の事例を議会に提供することにもなる。
測定可能な変更がなければ、懐疑的な解釈を裏付けることになる。企業は、有意義な統制を手放さずに、柔軟な規制、法的な協調保護、または評判上の評価を求めているのかもしれない。
開発者と企業の購入担当者は、これを注意深く見守るべきだ。新たな義務は、モデルの利用可能性、導入スケジュール、監査権限、セキュリティレビュー、機微な用途で求められる文書に影響する可能性がある。
実際には、調達チームは外部評価を待ってモデルのリリースが延期される、承認前に標準化されたモデルカードを受け取る、またはインシデント通知への契約上のアクセスを得る、といった状況に直面するかもしれない。こうした要件がなければ、同じチームは、モデルが制限付きのサイバーセキュリティテストに失敗したことや、開発者が導入直前に安全性のしきい値を変更したことを、知る機会すらないかもしれない。
ナレッジワーカーも直接的な利害を持つ。組織は、社内文書、ソースコード、顧客情報、会議記録を、AI支援ワークフローにますます組み込んでいる。脆弱なガバナンスは、不正利用、侵害されたエージェント、不十分に管理された連携を通じて、こうした情報を露出させる可能性がある。
例えば、従業員はAIアシスタントが非公開の顧客ファイルを正確に要約するのを目にするかもしれないが、接続されたエージェントがメール送信、本番システムへのクエリ、またはサードパーティーのコネクターを通じたデータ保持も行えることには気づかないままである可能性がある。チームには、どのモデルが回答を生成したかだけでなく、どのデータにアクセスし、どのツールを呼び出し、外部アクションを人間が承認したかどうかを示す記録が必要だ。
チームはすでに、どのモデルが機微な情報にアクセスしているか、またそれらのシステムがどの外部アクションを実行できるかを文書化すべきである。検索可能なAIナレッジベースは、その記録を支援できる。ただし、どのナレッジツールもアクセス制御や独立したセキュリティテストに代わるものではない。
議会によるAIのガードレールは、すべてのモデル障害をなくすものではない。それでも効果的な規則は、誰がテストを実施するのか、誰が結果を受け取るのか、いつインシデントが報告対象となるのか、重大な警告の後に何が起きるのかを定められる。
政策の機会は、競合する研究所が能力の成長が自らの望む安全性のタイムテーブルを上回っていると認めたことで開かれた。議会が執行可能な決定の代わりに会合で済ませるなら、その機会は閉じるだろう。
次の提案が現れる際、読者は3つの問いを投げかけるべきだ。高リスクの導入前に規則は適用されるのか、独立した専門家は証拠を検証できるのか、違反には結果が伴うのか。
立法者がこの3つすべてに答えられなければ、民間企業が実効的なルールを定め続ける一方で、ワシントンはまたひとつの枠組みを生み出すことになる。
