AmazonとGoogleの安全性の約束、秘密裏に進むホワイトハウスのAI審査と衝突

AmazonとGoogleの安全性に関する取り組みは今、最も重要な規則が公の検証から隠されたままのホワイトハウスの審査プロセスと並存している。政権は、この自主的な枠組みが国家安全保障を強化するとしている。批判者が指摘するのは根本的な矛盾だ。政府は企業に政府の試験を信頼するよう求める一方で、研究者や一般市民にはその試験を信頼する根拠をほとんど与えていない。

報道によれば、この枠組みは連邦政府の評価者に対し、特定のフロンティアモデルを公開前の最大30日間にわたり審査することを認める。フロンティアモデルとは、その能力が重大な国家安全保障上のリスクを生み得る高度な汎用システムを指す。ただし報じられた規則はクローズドモデルを対象とし、ダウンロード可能なパラメータを改変・再配布できるオープンウェイトのシステムは対象外としている。

この区分により、技術評価の計画は政策論争へと変わった。報道によると、Google、OpenAI、Anthropic、Meta、Microsoft、Nvidia、そして小規模開発企業は8月4日のホワイトハウスによる説明会に参加した。Amazonは複数の報道で同会合の参加企業として名前が挙がっていないが、クラウド事業での立場と従来の安全性に関する取り組みにより、より広い議論では中心的な存在となっている。

本当の対立はAmazon対Googleではない。機密扱いの政府審査と、公的な説明責任との対立だ。両社は独自の安全性アプローチを公表しているが、基準そのものが秘密に保たれるなかで、評価者を誰が検証するのかという中心的な政策課題に、どちらか一社だけで答えることはできない。

この枠組みは公開前に非公開の関門を設ける

ホワイトハウスは、その背後にあるルールブックを公表しないまま、影響力を持ち得る審査の関門を設けた。

ドナルド・トランプ大統領は6月2日、主要AI開発企業に対し、特定の先進システムを連邦政府の評価に提出するよう呼びかける大統領令に署名した。この命令は参加を自主的なものと位置づけ、政府が一般公開前の最大30日間にわたりモデルを審査できるようにした。

政権はこのプロセスを、限定的な国家安全保障措置として説明した。すべての商用モデルを審査するのではなく、高度なサイバー能力を持つシステムに焦点を当てるとしている。モデル審査命令では、国家安全保障局長にも重要な役割が与えられた。

ホワイトハウスは、8月の期限までに実施枠組みを完成させたと述べた。その後、複数の主要AI企業の代表者に説明を行った。しかし政権は文書を公開せず、その枠組みを利用すると見込まれる組織も完全には明らかにしていない。

会合を知る関係者によると、この枠組みは、最先端の能力と国家安全保障上の含意を持つクローズドシステムを対象となるフロンティアモデルと定義している。開発企業は、モデルがほぼ最終形に近づいた公開直前に、評価者へアクセスを提供することになる。

このタイミングは重要だ。初期の研究モデルはリリース前に大幅に変わる可能性があり、評価結果の有用性を下げかねない。ほぼ完成したモデルはより現実的な試験対象となるが、30日間の保留は製品スケジュール、セキュリティ統制、競争上の秘密と衝突する可能性がある。

報道によれば、審査期間中は従業員にアクセス制限が課される可能性がある。こうした統制は、危険な能力や試験手法が漏洩する可能性を減らし得る。一方で、政府評価者が見つけた問題をエンジニアが自由に調査できなければ、改善対応が複雑になる可能性もある。

政権には、一部の詳細を機密扱いにする合理的な理由がある。正確なサイバーベンチマークを公表すれば、どの能力が連邦政府の懸念を招くかを見極めるためのチェックリストを攻撃者に与えかねない。また、根本的な危険を減らさずに試験だけを通過するよう、開発企業がモデルを最適化する手助けにもなり得る。

この議論は、すべての規則を非公開にする必要を意味しない。政府関係者は、ガバナンスの詳細、参加基準、不服申立て手続き、評価者の資格、高水準のリスク閾値を開示できる。これらの開示により、悪用可能なプロンプトや機密対象を明らかにする必要はない。

したがって、報じられた枠組みは二つの異なる秘密を生み出している。一つ目は、明確な安全保障上の根拠を持つ、機密性の高い試験手法に関するものだ。二つ目は、意思決定の仕組みに関するものであり、より難しい説明責任の問題を提起する。

ホワイトハウスは、このプロセスがサイバーセキュリティ戦略を前進させ、米国のAIリーダーシップを支えるとしている。しかし外部の人々は、表明された目的と実際に機能する基準を比較できないため、この主張を評価することは依然として難しい。

これが今回の出来事における中心的な変化だ。連邦政府の審査はもはや単なる政策提案ではない。完全な枠組みを一般市民が確認できないにもかかわらず、報じられたプロセス、参加企業、審査期間、モデル分類を持つ段階に進んでいる。

AmazonとGoogleの安全性方針がここで重要になる理由

AmazonとGoogleの安全性フレームワークは、大企業がすでに能力評価を受け入れていることを示すが、その自主方針は透明性のある公的プロセスの代わりにはならない。

AmazonとGoogleは、2023年7月にホワイトハウスへ自主的なAIコミットメントを行った7社の一部だった。これらのコミットメントには、社内外でのレッドチーム試験、情報共有、サイバーセキュリティへの投資、AI生成コンテンツを識別する手法が含まれていた。

レッドチーミングとは、有害な挙動、セキュリティ上の弱点、悪用経路を見つけるために、システムを意図的に試験することを指す。通常の製品試験では敵対的な行動を見落としがちなため、有用だ。ただしその結果は依然として、評価者のアクセス、試験の質、開発企業が対応する意思に左右される。

Amazonは後に、深刻な能力リスクをどのように評価するかを説明するフロンティアモデル安全性フレームワークを公表した。同社のアプローチは、適切な安全策なしに公開された場合に重大な被害をもたらし得る重要能力に焦点を当てている。

Google DeepMindもFrontier Safety Frameworkを策定している。同社は能力閾値と早期警戒評価を用い、より強力なセキュリティや展開上の統制を必要とするモデルを特定する。Googleの安全性フレームワークは、複数回にわたる公開改訂を経ている。

こうした方針により、両社は連邦政府の取り組みに関連する実務経験を得ている。両社の研究者は、導入前の試験、アクセス統制、能力閾値、そして懸念されるベンチマーク結果をリリース判断へ落とし込む難しさを理解している。

しかし企業のフレームワークは、依然として自己統治のための手段だ。開発企業は、独自の閾値、試験パートナー、開示慣行、緩和対応の多くを自ら選択する。顧客や独立研究者は、こうした選択が企業間で比較可能だと想定することはできない。

過去のホワイトハウスのコミットメントに関する学術的なレビューでは、順守を示す公的証拠にばらつきがあることが判明した。研究者らは、調査対象企業全体で平均スコアが17%にとどまり、特にモデルウェイトのセキュリティにおける評価が低かったと報告している。この結果は、非開示のセキュリティ対策は透明性に基づく評価には現れないため、安全策が存在しなかったことを証明するものではない。

ただしこれは、自主的なコミットメントにおける説明責任の限界を示している。約束は具体的に聞こえる一方で、その約束された統制が機能したかどうかを外部の人々が判断できない場合がある。コミットメント評価は、開発企業間で公開報告が依然として一貫していないと論じている。

新しいホワイトハウスの枠組みは、共通の評価経路を設けることで状況を改善できる可能性がある。政府の審査者は、より一貫した条件下でシステムを比較し、企業が公の場で安全に示せない能力を検証できる。

しかし秘密主義は、既存の問題をより高いレベルで再現する可能性もある。一般市民は各企業の非公開プロセスを信頼する代わりに、政府と選ばれた企業が共有する非公開プロセスを信頼するよう求められる。

Amazonの役割が特に重要なのは、AWSがAI市場全体にインフラストラクチャとモデルアクセスを提供しているためだ。Amazonは独自モデルを開発する一方、クラウドサービスを通じて他社のシステムもホストしている。したがって連邦政府の審査基準は、その製品、パートナー、企業顧客に影響を与え得る。

Googleも同様に多層的な立場にある。Geminiモデルを開発し、Google Cloudを運営し、DeepMindを通じてフロンティア研究を行い、企業や公共機関へAIシステムを提供している。モデル分類の判断は、単一の消費者向けチャットボットの公開以上のものに影響を及ぼし得る。

これが、amazon googleというキーワードが単なる二つの企業名以上の意味を持つ理由だ。これらの企業は、フロンティア研究、クラウド配信、企業調達、政府テクノロジーを結び付けている。特定の会合に異なる顔ぶれが参加している場合でも、あらゆる国家審査プロセスは最終的にこうした関係に触れることになる。

両社の公開フレームワークは、実務的な比較基準も提供する。両社は少なくとも一部のリスクカテゴリーとガバナンスの概念を開示している。連邦政府は、独自の意思決定構造についてはより少ない情報しか開示しないまま、同等の信頼を求めている。

この不均衡は、審査があるモデルの公開を遅らせ、別のモデルを通過させ、あるいは開発企業ごとに異なるアクセス条件を課すようになれば、擁護しにくくなる。その時点で、手続きの透明性は安全性の問題であると同時に競争上の問題にもなる。

AmazonとGoogleをめぐる議論が透明性のトレードオフを浮き彫りにする

安全な評価には機密性の高い試験詳細が必要だが、信頼できる評価には可視化された規則、権限、説明責任が必要だ。

政権の最も強い主張は明快だ。すべてのプロンプト、エクスプロイト環境、失敗閾値が公開されれば、サイバーセキュリティ試験の価値は失われる。高度なモデルは、利用者が脆弱性を発見し、エクスプロイトコードを書き、侵入の一部を自動化する手助けをする可能性がある。

評価者には、現実的なシステムと機密性の高い対象への統制されたアクセスが必要だ。また、開発企業、外部研究者、一般市民と共有できない機密の脅威情報を必要とする可能性もある。

したがって政府には、ベンチマークの内容を保護する正当な理由がある。問題は、運用上の秘密主義が制度上の秘密主義へと拡大する時に始まる。

一般市民は依然として、誰が評価者として適格なのか、利益相反をどう管理するのか、深刻な能力が見つかった後に何が起きるのかを知る必要がある。開発企業は、一つの不利な結果がリリースの延期、是正措置の発動、あるいは単なる警告につながるのかを理解する必要がある。

小規模な研究所には別の答えも必要だ。参加が真の安全保障上の利益をもたらすのか、それともワシントンで確立された関係を持つ企業を優遇する非公式な障壁を生むのかを知る必要がある。

プロセスは形式上は自主的であっても、商業的には拒否が難しくなり得る。連邦機関はクラウドサービスやAIツールを購入する。規制当局は企業のリスク判断に影響を与える。政府による承認は、保険会社や企業調達チームにとって強力なシグナルにもなり得る。

審査を拒否した開発企業は、競合企業が参加した後に顧客から疑問を投げかけられるかもしれない。逆に、提出した企業は、政府にその意図がなくても、暗黙の安全性に関するお墨付きを得る可能性がある。

これが非公開の関門が持つ危険性だ。その権限は、議会が法的な境界を定めないまま、市場の期待を通じて拡大し得る。機密の審査は協力として始まり、事実上の承認制度へと発展する可能性がある。

OpenAIのChris Lehane氏は、民主的な制度、技術的専門知識、そして幅広い利害関係者の意見を通じて、実効性のある安全性フレームワークを構築することを支持した。この定式化は、秘密のプロセスに欠けているものを示している。公的機関は機微な証拠を保護しながらも、そのガバナンスを説明できる。

過去のサイバーセキュリティプログラムは有益な前例を示している。協調的脆弱性開示は、悪用の詳細を保護しつつ、報告経路、対応期限、影響を受けるベンダーへの期待事項を定める。機密扱いの脅威対策プログラムも、すべての情報源を公開せずに法定監督の下で運用されている。

この取り組みの以前の版が棚上げされた後に取材を受けたセキュリティ業界幹部のDiana Kelley氏は、持続性には独立したテスト、明確な基準、実質的な結果が必要だと主張した。最終的に報じられたフレームワークは、こうしたガバナンス上の疑問に公に答えていないため、彼女の懸念は依然として重要である。

AmazonとGoogleの比較は、この問題をより鮮明にする。Googleは、すべての敵対的プロンプトを公開せずとも能力レベルを開示できる。Amazonは、機微なモデル重みを公開せずともエスカレーション手順を説明できる。連邦政府も同様に、公的なガバナンスと保護されたテスト資料を分けることができる。

透明性は技術的な品質にも影響する。外部の研究者は、社内チームが見落とした不備のあるベンチマーク、汚染されたテストセット、前提条件を見つけることが多い。完全に閉鎖された評価プロセスは、そうした是正圧力を制限する。

政府当局者が実際のサイバー演習を公開する必要はない。リスクに対処した後であれば、ベンチマーク設計の原則、検証手順、評価者の独立性に関する規則、匿名化された知見を公表できる。

集計報告書を出すこともできる。そうした報告書では、審査に入ったモデル数、緩和措置を要した数、最も頻繁に現れたリスク分類を開示できる。集計は企業の機密性を守りながら、プログラムが実際に機能しているかを示せる。

こうしたシグナルがなければ、観察者は厳格な安全性審査と非公開の協議を区別できない。この違いは重要だ。協議は開発者に情報を提供する一方、審査は判断を意味するからである。

ホワイトハウスの秘密主義は、企業の参加も弱めかねない。開発者は日常的に、未公開のシステム、研究手法、製品スケジュールを保護している。政府によるアクセスが知的財産を露出させたり、競争上の情報を漏らしたりしないという確信が必要だ。

明確な取り扱い規則が助けになる。提出されたモデルに誰がアクセスできるか、成果物をどれだけの期間保管するか、知見が無関係な調達または執行判断に影響し得るかについて、公表された制限も有効だろう。

秘密主義はテストを保護し得る。過度の秘密主義は、そのテストを可能にする協力関係を損なう可能性がある。これが、政権が公に解決していないトレードオフである。

オープンモデルを除外すれば、最も難しいリスクが対象外になる

オープンウェイトモデルに対する報じられた免除は、リリース後の管理が最も弱い領域で、まさにプログラムの対象を狭めている。

オープンウェイトモデルでは、訓練済みパラメーターがダウンロード可能な形で提供される。これらの重みは、元の開発者の管理外にあるインフラ上で修正、ファインチューニング、実行できる。これは、訓練データ、コード、開発プロセスも公開されている場合があるオープンソースプロジェクトとは異なる。

報道によれば、ホワイトハウスのフレームワークは対象となるフロンティアモデルをクローズドシステムに限定している。したがって、オープンウェイトモデルは、同等の能力に近づいた場合でも、同じ任意の連邦テストを回避することになる。

この区別は、政権のイノベーション政策を支える。オープンモデルは研究者によるシステムの検証を助け、企業が自社インフラ上でAIを導入できるようにし、少数のAPIプロバイダーへの依存を減らす。

一方で、異なるセキュリティ条件も生み出す。クローズドな提供者は、利用を監視し、安全策を更新し、アカウントを制限し、リリース後にモデルへパッチを当てられる。これらの統制は完全ではないが、依然として利用可能である。

オープンウェイトのリリースを元に戻すことは難しい。ユーザーが重みをコピーした後では、元の開発者はすべてのバージョンを確実に撤回したり、新たな安全策を強制したりできない。international safety reportは、この不可逆性をガバナンス上の中心的課題として特定している。

この免除の支持者は、オープンモデルが中央集約型でホストされる商用システム向けに設計された規則を引き継ぐべきではないと主張する。リリース前のアクセスを義務化すれば、研究を阻害し、大手既存企業を固定化し、開発を米国外へ押し出す可能性がある。

批判派は、配布方法によって能力リスクが消えるわけではないと答える。高度なサイバー作戦を支援するモデルは、ユーザーがAPI経由でアクセスするか、重みをダウンロードするかにかかわらず、重要であり続ける。

どちらの主張にも一理あるが、絶対的なカテゴリー免除は大まかな回答にすぎない。能力に基づく審査であれば、一方のカテゴリーを無害と見なすことなく、オープンモデルとクローズドモデルを異なる形で扱える。

たとえば評価者は、不可逆的な配布に合わせた統制を適用しながら、オープンモデルをリリース前に評価できる。緩和策では、重みのセキュリティ、段階的リリース、ハードウェア要件、危険な能力の非公開化を重視する可能性がある。

クローズドシステムには異なる措置が求められるかもしれない。提供者は、監視、レート制限、アカウント管理、サーバー側フィルターを追加できる。同じテスト結果であっても、リリース形態をまたいで同じ緩和策が必要になるわけではない。

しかし報じられたフレームワークは、適格性判断の段階でアーキテクチャと配布を決定的な要素としているように見える。その結果、能力の基準に関する難しい疑問を未解決のまま、リリースをオープンと説明するインセンティブが生まれるおそれがある。

これは競争も複雑にする。Metaはオープンモデルを強く推進してきた一方、Anthropicは最も高性能なシステムに対するより厳しい統制を主張している。Googleは一部の製品群でオープンなリリースを支持する一方、最先端のシステムは管理下に置いている。AmazonはAWSを通じて、独自モデルとオープンに利用可能なモデルの両方を提供している。

こうした混在する戦略により、単純な企業対企業の構図は誤解を招く。重要な分断線は、個々の企業と製品ラインの中を通っている。

AmazonとGoogleのクラウド事業は、この実務上の問題を示している。エンタープライズ顧客は、単一で一様なリリース構造の下でモデルを利用するわけではない。管理型API、ダウンロード可能な重み、ファインチューニング済みシステム、クラウドマーケットプレイスで提供されるサードパーティーモデルを比較する。

一方の配布経路を審査し、別の経路を無視するフレームワークは、一貫しない保証を生みかねない。調達チームは、政府参加を、クローズドモデルがより厳しい精査を受けた証拠とは見なしても、必ずしもリスクが低い証拠とは見なさないかもしれない。

この免除は国際競争にも影響する。米国外で開発されたオープンモデルは急速に広がる可能性があり、米国製チップやサービスへのアクセスが制限されている国々の国内研究を支援し得る。

ホワイトハウスは、オープンモデルの幅広い利用可能性を、中国との戦略的競争の一部と見ているようだ。批判派は逆のリスクを見る。高度なダウンロード可能システムは、能力を米国の提供者の手の届かない場所へ移転させ得る。

単純な政策的解決策はない。政権は、より大きなイノベーションと地政学的な影響力のために、どの程度の不可逆的な拡散を受け入れるかを決めなければならない。

報道によれば、現行フレームワークはオープンモデルを除外することで、影響力の拡大を選んでいる。運用上の基準が秘密のままであるため、当局者が能力上限を設けたのか、それとも単にそのカテゴリーを門の外に置いたのか、一般には分からない。

この不確実性は、個々のベンチマークよりも重大である。リリース後に制御するのが最も難しいシステムほど、リリース前に受ける連邦政府の監視が最も見えにくくなる可能性がある。

任意の審査でもAI市場を変え得る

このフレームワークの商業的影響は、正式な執行よりも、調達、評判、政府の専門知識へのアクセスに左右される。

任意のプログラムは、従来型のライセンス要件を課すものではない。他の法律がリリースを阻まない限り、企業は理論上、モデルを提出せずに公開できる。

市場はこのような明確な区別をほとんど維持しない。エンタープライズの購入者は技術的シグナルを調達要件に変換する。保険会社は、ベンダーが認知された慣行に従ったかを問う。取締役会は、サプライヤーが国家安全保障とサイバーセキュリティのリスクを予見していた証拠を求める。

そのため、参加は競争上の資格証明となる可能性がある。政府が正式な承認を出していなくても、企業はリリース前に連邦評価者と連携したと顧客に伝えられる。

その表現には慎重な監督が必要だ。「審査済み」は「安全」を意味せず、短期間のリリース前評価ですべての悪用経路を特定できるわけではない。政権は、開発者が参加を誤解を招く政府のお墨付きに変えることを防ぐべきである。

不参加は逆の問題を生み得る。スタートアップには、プロセスを進めるために必要な法務チーム、安全な環境、政府との関係が不足している場合がある。顧客はその不在を、資源上の制約ではなく安全性の失敗と解釈するかもしれない。

こうした条件下では、大企業に明確な優位性がある。Amazon、Google、Microsoft、Meta、OpenAI、Anthropicはすでにセキュリティチームと連邦機関との関係を維持している。小規模な研究所よりも、未公開モデルへの統制されたアクセスを容易に提供できる。

政府が無償でテストの専門知識を提供し、独自情報を保護するなら、審査プロセスはスタートアップにも役立ち得る。共有の評価リソースは、各開発者が高額な社内プログラムを構築する必要性を減らすだろう。

未公表の規則により、その利点は不確実なものとなっている。小規模企業は参加計画を立てる前に、適格性要件、申請手順、技術的な前提条件、データ取り扱い上の保護を知る必要がある。

クラウドプロバイダーも間接的な圧力を受けるだろう。AWS、Google Cloud、Microsoft Azureは複数の開発者によるモデルをホストしている。顧客は、あるモデルが連邦審査を受けたか、どのバージョンがテストされたか、その後のファインチューニングでリスクプロファイルが変わったかを記録するよう求めるかもしれない。

バージョニングは特に重要である。安全性の結果は、特定のモデル構成、ツールセット、導入環境に適用される。同じモデルをコード実行や機微なデータベースに接続すれば、その実効的な能力は変わり得る。

したがって企業は、このフレームワークを自社の統制の代替と見なすべきではない。引き続き、アクセス管理、ログ記録、テスト、インシデント対応、AIシステムが取得できるデータへの制限が必要である。

ナレッジワーカーも関連する問題に直面する。モデルがフロンティアのサイバーテストに合格しても、機密文書、規制対象記録、自動化された業務判断には適さない可能性がある。国家安全保障の審査とエンタープライズ保証は、異なる問いに答えるものである。

システムを比較するチームは、構造化されたAI knowledge baseを利用して、モデルカード、評価結果、方針、インシデント記録を保管できる。連邦審査に関する公開情報が限られたままであるほど、その文書化の価値は高まる。

Amazon Googleの顧客も、契約上の変更に注目すべきだ。クラウド契約は、審査済みモデルと未審査モデル、あるいは管理型システムとダウンロード可能な重みを区別し始める可能性がある。ベンダーは、結果を保証しないまま、評価参加に関する新たな表明を加えるかもしれない。

競争当局は、特権的なアクセスが不当な優位性を生んでいないか監視すべきである。既存の研究所が支配するプロセスは、自社のアーキテクチャ、人員配置、リリース慣行に合う基準を形成する手助けになりかねない。

独立した評価者は、部分的なけん制役を果たす。その参加により専門性の幅が広がり、政府と大手企業が密室で互いを審査しているように見える状況を和らげられる。

独立性は、新組織の名称だけで確保されるものではない。評価者には安定した資金、保護されたアクセス、明確な利益相反ルール、重大な意見対立を報告する自由が必要だ。そうでなければ、評価対象の組織にアクセスを依存する請負業者にとどまる。

この枠組みは義務化されなくても有用になり得る。共通言語を整え、機微なテストを支援し、単独の企業では見つけられない脅威を特定できる。

一方で、既存大手に有利な民間標準として固定化される可能性もある。ガバナンス規則を公開すれば、このプログラムがどちらの道に進んでいるかを見極めやすくなる。

この枠組みが信頼に値するかを示す3つのシグナル

次に問われるのは、ホワイトハウスの新たな声明ではない。このプロセスが一貫した参加、信頼できる精査、そしてオープンモデルに関する擁護可能な方針を生み出せるかどうかだ。

第1のシグナルは、公開されたガバナンス文書である。政権は、誰がレビューを運営するのか、モデルがどのように参加資格を得るのか、利益相反をどう扱うのか、重大な問題が見つかった後に開発者が何をしなければならないのかを開示すべきだ。

この開示で機密扱いのベンチマークまで明らかにする必要はない。公開されれば、秘匿されるのは真に安全保障上の詳細に限られるという主張を補強するだろう。沈黙が続けば、意思決定プロセス全体が公的な検証の外に置かれているとの批判を強めることになる。

第2のシグナルは、最初に完了したレビューから得られる証拠だ。当局者は、プロセスに入ったシステム数や、評価者が緩和策を求めた頻度など、集計結果を報告すべきである。

モデル別の報告書は、公開前には不可能かもしれない。それでも匿名化された要約であれば、この枠組みが大手企業への非公開ブリーフィングを提供するだけでなく、リリース判断を変えていることを示せる。

読者は開発者が用いる表現にも注意すべきだ。「レビューに参加した」は、事実に関するプロセス上の主張である。「政府の承認を受けた」は、このプログラムが示すよう設計されていない可能性のある結論を意味する。

第3のシグナルは、政権がオープンウェイトのシステムをどう扱うかである。当局者は、その免除が恒久的なものなのか、能力に応じて限定されるのか、あるいは別の評価トラックの対象となるのかを説明する必要がある。

別トラックを設ければ、この枠組みのリスクベースの論理は強化される。オープンとクローズドのシステムには異なる緩和策が必要だと認めつつ、ある配布モデルでは精査が不要だという前提を退けることになる。

恒久的かつ包括的な免除は、政権の国家安全保障上の主張を弱めるだろう。当局者が先進的なサイバー能力を連邦政府の関与の理由として挙げる一方で、取り消し不可能なリリースをプログラムの対象外に残すことになるからだ。

AmazonとGoogleは、直接参加、公開コメント、クラウド方針、あるいは自社の安全性開示を通じて、この3つのシグナルすべての形成に関わることになる。両社の既存フレームワークは、機微なテストを保護しながらガバナンス原則を公開する方法の例を当局者に示している。

ほかの企業も同じくらい重要だ。Anthropicによるより強固なフロンティア安全策への支持、Metaによるオープンモデルの擁護、OpenAIによる幅広いステークホルダー参加の要請は、ホワイトハウスのプロセスを巡る政策上の境界線を形作っている。

政権は、意見の相違を一方が安全性に反対している証拠として提示することを避けるべきだ。開発者の間では、リスクがどこで生じるのか、どの統制が有効なのか、規制が競争にどう影響するのかについて見解が分かれている。これらは、信頼できる枠組みが正面から扱わなければならない実質的な争点である。

企業は、決定的な政府ラベルを待たずにこのプロセスを追うべきだ。ベンダーに対し、どのモデルバージョンが評価されたのか、評価者にはどのようなアクセスが提供されたのか、導入環境にテスト構成には存在しなかった能力が含まれているのかを尋ねられる。

セキュリティチームは、リリース後の変更に関する文書も求めるべきだ。外部ツール、ローカルファイル、または特権システムに接続されたモデルには、ベースバージョンが連邦レビューを受けていたとしても、新たなテストが必要となる。

ナレッジワーカーも、より小さな規模で同じ規律を適用できる。どのモデルがタスクを処理したか、どの情報にアクセスしたか、どの主張に人間による検証が必要かを記録する。検索可能なナレッジベースは、そうした判断を裏付ける証拠と結び付けたままにするのに役立つ。

したがって、AmazonとGoogleをめぐる論点は、2社のテクノロジー企業が安全性を支持しているかどうかではない。両社はすでに公のコミットメントを表明し、社内フレームワークを構築している。未解決の問題は、ワシントンが民間の協力を、外部の人々も評価できるプロセスへと転換できるかどうかである。

機密テストと民主的な説明責任は、相反するものではない。政府は、エクスプロイト、機密情報、未公開モデルの詳細を保護しながら、権限、手続き、集計結果を公開できる。

この切り分けが示されるまでは、秘密裏のホワイトハウスの枠組みは、相反する2つの性格を持ち続ける。危険な能力をテストするための潜在的に有用な経路であると同時に、モデルのリリースに対する影響力を強める不透明な関門でもある。

今後1〜3カ月で、どちらの性格が優勢なのかが明らかになるはずだ。公開されたガバナンス規則、測定可能なレビュー結果、首尾一貫したオープンモデル方針に注目したい。これらのシグナルは、AmazonとGoogleの安全性の実践が信頼できる国家標準の形成に寄与しているのか、それとも別の非公開合意を取り巻いているだけなのかを示すだろう。