米国のAIリスク審査、オープンウェイトモデルを対象外に

ワシントンが高度なAIモデルに対する新たな30日間の審査プロセスからオープンウェイトシステムを除外したことで、Google Newsは鋭い政策上の対立を取り上げた。この決定により、公開前に重大なサイバーおよび国家安全保障上のリスクを特定するために設計された枠組みの対象から、ダウンロード可能なモデルが外れることになる。

この除外は重要だ。オープンウェイトモデルでは、学習済みシステムの挙動を決める数値パラメータに利用者がアクセスできる。開発者は元の企業のサーバーに依存せず、これらのモデルを実行、改変、ファインチューニングできる。研究やローカル環境での展開を支えるその自由は、同時に安全策の維持を難しくする可能性もある。

中心的な争点は、オープンモデルに利点があるかどうかではない。これらは競争、独立した評価、プライバシーに配慮した展開、技術的な実験を支えている。より難しい問いは、ワシントンが高度なクローズドモデルを審査する一方で、公開後にウェイトが恒久的に利用可能となる、同程度の能力を持つシステムをなぜ除外するのかという点だ。

ホワイトハウスは、このプログラムを、あらゆる新モデルに対する一般的な監督ではなく、米国を代表する研究所との自発的な協力と位置付けている。批判者は、この狭い定義が、リスクを生む根底の能力と、開発者の配布方法を混同していると主張する。

この区別により、二つのアプローチが真正面から対立する。一方は、モデルの能力が危険な活動を実質的に支援し得るかどうかで判断する。もう一方は、政府審査の実務上の境界として管理されたアクセスを用いる。オープンウェイトシステムは、後者のアプローチの弱点を浮き彫りにする。

米国政府が実際に変更したこと

連邦政府の審査プロセスは意義あるチェックポイントを設けるが、報じられている対象範囲からは重要な種類の高度モデルが除外されている。

ドナルド・トランプ大統領は2026年6月2日、特定の高度AIシステムを審査する自発的プロセスを設ける大統領令に署名した。参加する開発者は、一般公開前にモデルを連邦政府機関と共有できる。

政府は、対象となるシステムについて国家安全保障上のリスクを評価するため、最長30日間を与えられる。このプロセスは高度なサイバー能力を中心に据え、複数の省庁・機関の当局者が関与する。

大統領令に関する報道によると、政権はこの取り組みを米国の最先端AI研究所との協力と説明した。Anthropic、OpenAI、Googleは公にこのイニシアチブを歓迎した。

この枠組みは、高度なモデルがソフトウェアの脆弱性を見つける能力を高めていることを受けて生まれた。この能力は防御側が重要インフラを点検する助けになる一方、攻撃的なサイバー活動に必要な専門性を低下させる可能性もある。

この政策は、リリースが広範な市場に到達する前に、その緊張関係に対処しようとしている。開発者はほぼ完成したモデルを提供し、連邦政府の専門家がそれをテストし、参加者は結果を受け取ることになる。

これは、AI企業だけが作成した自発的な誓約よりも実質的な仕組みだ。政府の評価者は、機密の脅威情報、国家安全保障の専門知識、ほとんどの外部研究者には利用できない安全なテスト環境を活用できる。

しかし、この枠組みに関する報道は大きな境界線を明らかにした。報道によれば、対象となるフロンティアモデルは、最先端の能力と国家安全保障上のリスクを持つクローズドシステムとして定義されている。

報じられた枠組みの詳細によれば、オープンモデルは対象外とされている。この文書はまた、リリース後に枠組みがオープンモデルを制限すべきではないとしていると報じられている。

これが本稿を規定する緊張関係を生む。政府は危険な能力を中心にプロセスを構築した後、開発者がモデルを配布する方法を理由の一部として参加対象を狭めた。

クローズドモデルは、引き続き開発者の管理下に置かれる。企業はアクセスを制限し、利用状況を監視し、安全策を改訂し、深刻な問題を発見した後にサービスを撤回できる。

オープンウェイトのリリースは異なる仕組みで機能する。人々がウェイトをダウンロードすると、元の開発者はすべてのコピーを確実に回収したり、削除された安全策を復元したりできなくなる。下流の利用者は、特化した用途に向けてモデルをファインチューニングすることもできる。

したがって連邦政府のプロセスは、導入後も意味のある制御を維持するシステムに集中する。配布形態によって是正措置をより難しくし得るシステムは除外する。

この枠組みは、それでも政府と最先端AI研究所の協力を改善する可能性がある。共通の評価手法を確立し、防御側に有用なサイバー能力への早期アクセスを提供できる。

しかし、その設計はより広範なリスクの問いに答えていない。危険を生むのが能力であるなら、配布形式によって当局者が公開前にその能力を審査するかどうかが決まるべきではない。

Google Newsがより大きな政策論争を扱う理由

Google Newsの見出しは、オープンソースのライセンスをめぐる通常の見解の相違ではなく、ワシントンがリスクをどう定義するかをめぐる対立を反映している。

オープンウェイトという用語は、学習済みパラメータがダウンロード可能なモデルを指す。開発者が学習データ、完全なソースコード、あるいは制限のないライセンスまで公開したことを必ずしも意味しない。

この区別は重要だ。公開討論ではオープンソースという言葉が大まかなラベルとして使われることが多い。従来のオープンソースソフトウェアでは、人々は認知されたライセンス条件の下でコードを調査・改変できる。AIのリリースでは、モデルの作成に用いたデータや手法を非公開のまま、ウェイトだけを公開することがあり得る。

元のTech Policy Pressの論考は、連邦政府の審査にオープンウェイトモデルを含めるよう求めている。その論理は能力に基づく原則に従うものだ。すなわち、同等のリスクには配布前に同等の審査が必要だという考え方である。

この立場は、オープンなリリースを禁止することを求めるものではない。審査によってリスクを特定し、モデルの限界を文書化し、政府機関に自動的な拒否権を与えることなく緩和策に役立てることができる。

現行の枠組みは、報道によれば、実務上の近道としてクローズドなアクセスを用いている。開発者は制御されたシステムを安全な政府環境に提供し、アクセスログを保持し、テスト中に誰がそれを見るかを制限できる。

オープンなリリースはこの手順を複雑にするが、公開前の評価を不可能にするわけではない。開発者は、ウェイトをアップロードする前であれば、なおモデルを管理している。その期間は政府によるテストの実務的な機会となる。

Google Newsは、技術的なリリースの選択を連邦政策と結び付けることで、この対立に幅広い注目を与えている。Google Newsで検索する読者は、開発者、企業、一般のAI利用者に影響を及ぼす問題に出会う。

この議論は、連邦政府の姿勢が変化する中で生じている。当局者が米国の競争上の地位を弱めることを懸念したため、政権は当初、審査プロセスの導入に慎重だった。

トランプ氏は6月に改訂版の命令を承認する前、5月に予定されていた署名式を取りやめた。同氏は、中国に対する米国の優位を妨げる政策は望まないと述べた。

この経緯は、狭い設計を説明する。政権は、モデルのリリースに対する一般的な許認可制度を作らずに、最も深刻な能力に関する情報を得たいと考えている。

公的な説明では、自発的な参加、サイバー防衛、イノベーション支援が強調されている。ホワイトハウスは、すべての新AIモデルを監督しているという見方を否定している。

オープンウェイトの支持者も、こうした懸念の一部を共有している。広範な制限は、小規模な開発者や研究者のコンプライアンスコストを引き上げることで、支配的な研究所を保護しかねないと警告する。

また、ウェイトへのアクセスは独立したセキュリティ研究を支えるとも主張する。外部研究者は、提供者の許可を待たずに挙動を調査し、知見を再現し、防御ツールを構築できる。

こうした利点により、一律の制限を正当化することは難しい。しかし、審査からオープンモデルを除外することだけが、それらを制限する代替策ではない。

限定的で能力を発動条件とする評価なら、審査とリリース許可を別個の決定として扱える。政府は、公開が引き続き合法であるとの強い推定を維持しつつ、高度なモデルを審査できる。

したがってGoogle Newsでの議論は、枠組みに内在する誤った二者択一を提示している。ワシントンは、オープンウェイトのリスクを無視するか、オープンウェイトの開発を禁止するかのどちらかを選ぶ必要はない。

高リスクの能力を評価し、非機密の調査結果を開示し、特定の危険を示す証拠がある場合により強力な介入を留保できる。このアプローチなら、政策の焦点をモデルが何をできるかに置ける。

オープンモデルが生む異なるリスク方程式

オープンウェイトによる配布は、価値あるアクセスと、クローズドモデルの安全策では完全に対処できない制御の喪失を組み合わせる。

クローズドなAIサービスは、提供者が管理するインターフェースの背後で稼働する。提供者は利用ポリシーを適用し、リクエストをフィルタリングし、不審な活動を検知し、システムを一元的に更新できる。

こうした制御は完全ではない。利用者は、公開前テストで見逃された挙動を引き出す新たなプロンプト技法、ツールの組み合わせ、ソフトウェアのラッパーを日常的に見つけている。

それでも提供者には複数の対応手段が残る。脆弱性にパッチを当て、アカウントを停止し、機能を制限し、インシデントの調査中にモデルを無効化できる。

オープンウェイトの開発者は、公開後にその影響力の大部分を失う。利用者はモデルをオフラインで実行し、拒否挙動を取り除き、実用上の到達範囲を広げるツールと組み合わせることができる。

リスクは、単にオープンモデルが禁止された質問に答えることではない。より大きな懸念は、中央集権的な監視なしに適応、自動化、配布できる、再現可能な能力にある。

サイバーセキュリティは直接的な例を示す。能力の高いモデルは、セキュリティチームによるコードレビュー、脆弱性の優先順位付け、パッチの草案作成を支援できる。訓練を受けた専門家が出力を監督する場合、こうした作業は防御を向上させ得る。

悪意ある行為者は、同様の能力を脆弱性の発見やエクスプロイト開発に向けることができる。オープンウェイトは、その行為者がシステムを改変し、元の開発者から活動を隠すことを可能にする。

生物学的リスクも関連する懸念を生む。現在の大半のモデルは、実験室へのアクセス、専門機器、専門知識を代替するものではない。しかし評価では、AIが有害なワークフローの各部分における障壁を下げるかどうかが、ますます問われている。

正しい政策上の問いは、限界的な支援に関するものだ。当局者は、モデルが能力の低い行為者に危険な作業をより速く、あるいは少ないミスで完了させるかを測定すべきである。

この基準は、利用者がアプリケーション・プログラミング・インターフェース経由でモデルにアクセスするか、ローカルにダウンロードするかにかかわらず適用されるべきだ。技術的な提供チャネルは緩和策の選択肢を変えるのであって、根底にある能力を変えるわけではない。

オープンウェイトシステムは、クローズドモデルでは容易に得られない利点も生む。組織は機微なデータを自社のインフラ内に保持し、すべてのプロンプトを外部提供者へ送信せずに済む。

研究者は、一時的なアクセスに依存せずモデルの挙動を研究できる。開発者は、より小型のデバイス、特定分野の言語、アクセシビリティツール、科学研究に向けてシステムを適応できる。

連邦政府自身も、ローカルでの展開から利益を得られる。機密情報や規制対象の情報を扱う機関は、政府が管理する環境内で動作するモデルを好む可能性がある。

こうした利点により、政策上の問題は単純な安全性の判定ではなく、トレードオフとなる。オープン性は、システムを調査・改善できる主体を増やす一方で、有害な目的のために改変できる主体も増やす。

連邦政府のこれまでの取り組みも、そのバランスを認識していた。国家電気通信情報庁（NTIA）は、広く利用可能な重みに基づくモデルを検討する際に、300件を超える意見を受け取った。

その後NTIAは、モデルの重みの公開を直ちに制限するのではなく、継続的な監視と評価能力への投資を推奨した。この立場は、追加的なリスクの大きさと規制の有効性の双方に不確実性があることを反映していた。

新たな連邦審査プロセスは、このアプローチを基盤にできる。オープンモデルをテストすれば、政策立案者が追加措置の必要性を判断する前に証拠を得られる。

除外はその逆の結果をもたらす。公開後に制御が難しくなり得るシステムについて、政府が構造化された情報を得る機会を奪うことになる。

クローズド型ラボとオープンウェイト開発者にかかる圧力は不均衡

この枠組みはクローズド型の最先端ラボを直接的な監視下に置く一方、オープンウェイト開発者にはより少ない正式な義務しか課していない。

OpenAI、Anthropic、Googleは、高度なAIの評価において連邦政府がより強い役割を果たすことを支持している。これらのシステムは主に、ホステッド製品、管理されたアクセス、選択的なパートナーシップを通じて制御されている。

OpenAIは、最先端のシステムのテストは連邦政府が主導すべきだと主張している。同社の連邦安全提案も、独立監査、インシデント報告、セキュリティ基準、内部告発者保護を支持している。

この立場により、ワシントンは広範な展開前に主要なクローズドシステムへアクセスできる。また、参加企業がリスクを特定・管理する方法を検証できる公式プロセスも生まれる。

オープンウェイト開発者は異なる市場に直面している。彼らの競争力は、多くの場合、ローカルでの制御、カスタマイズ性、単一のサービスプロバイダーからの自由にある。

したがって、クローズド型ラボを前提に設計された審査義務は、両者に異なる影響を与え得る。詳細なコンプライアンス規則は、専任の政策・セキュリティチームを持たない小規模開発者の負担となる可能性がある。

この懸念は真剣に扱うべきだ。すべてのモデルに同一の事務的要件を適用する枠組みは、より大きな法務・評価予算を持つ企業に有利に働く。

解決策は、明確な能力閾値を設けることだ。定義されたリスク閾値を超えない小規模モデルは、集中的な連邦プロセスの対象外にとどめるべきである。

その閾値は、学習計算量だけに依存すべきではない。モデルアーキテクチャ、学習後の技術、ツール利用、ファインチューニングは、単純な計算量指標では捉えられない形で能力を変化させ得る。

評価者は、リスクに関連するタスクで観測可能な性能を用いるべきだ。また、限定的な人間の指示でモデルが複数段階の作業を完了できるかも考慮する必要がある。

配布方法は、モデルが閾値を超えた後の緩和策を形作るべきである。モデルに評価を受けさせるかどうかを決める要素であってはならない。

クローズド型の提供者は、監視、アクセス制御、迅速な更新に同意できる。対してオープンウェイト開発者は、安全性文書、段階的なアクセス、評価結果、下流での改変リスクに関する証拠を提供することが考えられる。

この構造は、共通の能力基準に対して異なる対応を課すものだ。ひとつの統制手段が、すべてのリリース形態に適合するわけではないことを認めている。

この枠組みは、最大手ラボ間の競争上の問題も提起する。Metaは歴史的にオープンウェイトの公開を重視してきた一方、OpenAI、Anthropic、Googleは主力モデルにおいて主に管理されたアクセスに依存してきた。

連邦審査がクローズドシステムだけを対象とするなら、これらの企業は、オープンウェイトの競合他社が回避できる遅延や情報開示義務に直面する可能性がある。報道されている審査期間は最長30日間だ。

後にワシントンがオープンウェイトを本質的に疑わしいものとして扱えば、不均衡は逆方向にも生じ得る。政策立案者は、特定のモデルが追加的なリスクを生むかを測定せずに、広範な制限を課すかもしれない。

どちらの結果も回避できる。中立的な評価は能力から始め、配布方法を検討し、文書化されたリスクに比例した緩和策を選ぶべきである。

このアプローチは、規制裁定の機会も減らす。企業は、リリースをオープンウェイトと表現したり、別の組織を通じて配布を手配したりするだけで、審査を免れるべきではない。

同様に、重みを保持しているというだけで企業が承認を得るべきでもない。クローズドアクセスは、有害な能力、内部者リスク、ジェイルブレイク、予期せぬ下流利用を排除するものではない。

したがって主要な対立軸は、能力と配布方法の間にある。クローズド型ラボはリリース後の統制が強い一方、オープンな開発者は、中央集権型サービスでは再現できない透明性とユーザーの自律性を提供する。

信頼できる連邦制度は、この両方の事実を認識しなければならない。そうでなければ、一方の市場参入経路に圧力をかける一方で、もう一方のリスクと利点を理解できないままとなる。

能力ベースの審査に必要なもの

実行可能な審査は、すべてのモデルで同じ危険な能力をテストしつつ、それぞれの配布方法に応じて安全策を適応させるものになる。

最初の要件は、プロセスへの参加を決める公開された閾値である。政府は、センシティブなベンチマークを機密扱いにしつつ、対象範囲の規則全体まで秘密にする必要はない。

開発者は、どの能力カテゴリーが審査の契機となるかを知る必要がある。投資家、研究者、ユーザーにも、このプロセスが比較可能なシステムを一貫して扱っているか判断するための十分な情報が必要だ。

報道されている枠組みには、最先端能力や国家安全保障上のリスクに関する明確な公開定義がない。この曖昧さは、参加について当局者に広い裁量を与える。

能力ベースの制度は、具体的な領域を特定すべきである。サイバー作戦、生物学的支援、自律的複製、欺瞞、制御回避は、高度な評価の対象となり得るカテゴリーである。

各カテゴリーには、タスクベースのテストと専門家による解釈が必要となる。単一のベンチマークスコアだけでは、モデルが攻撃者の成功可能性を実質的に変えるかを判断できない。

評価者は、モデル支援下の性能を関連するベースラインと比較すべきだ。ユーザーがタスクをより速く完了できるか、ミスが減るか、あるいは従来は技能の範囲外だった結果に到達できるかを問う必要がある。

テストでは、モデルにツール、メモリ、または繰り返し行動する機会を与えるソフトウェアを意味するスキャフォールディングも検討すべきだ。基本的なチャットインターフェースでは、同じモデルがエージェントの内部で何を行えるかを過小評価する可能性がある。

オープンウェイトのシステムでは、評価に現実的な改変も含めるべきだ。研究者は、通常のファインチューニングで安全策が取り除かれるか、センシティブなタスクでの性能が大幅に向上するかをテストできる。

政府が可能なすべての下流版をテストする必要はない。公開されたモデルが、元の安全性設定をどれほど容易に超えられるかを理解するための十分な証拠が必要なのだ。

リリース前のプロセスでは、非機密の要約も作成すべきである。その文書には、テストしたリスクカテゴリー、大まかな所見、既知の限界、開発者が採用した緩和策を記載できる。

透明性があれば、外部の専門家は機密ベンチマークを公開せずに欠落を特定できる。また、企業の購入者にとっても、モデルガバナンスを比較する共通の基盤となる。

第2の要件は、手続き上の独立性である。審査を行う機関には、技術的専門性と、政治的報復や商業的なえこひいきに対する安全策が必要だ。

この懸念は、大統領令が国家安全保障当局者に相当な裁量を与えているため、より目立つものとなった。批判者は、自発的なプロセスが調達、契約、非公式な圧力を通じて、実質的に義務化される可能性を懸念している。

明確な不服申立て手続きと一貫した閾値があれば、そのリスクを減らせる。企業は、当局者がどのように判断に至ったのか、また新たな証拠をどのように提出できるのかを理解できるべきだ。

第3の要件は、安全な取り扱いである。クローズド型ラボは価値あるモデルの詳細が露出することを懸念しており、オープンウェイト開発者も、公開前は機密のままであるリリースを準備している場合がある。

高セキュリティ環境、詳細なアクセスログ、厳格な人員制限は、この懸念の一部に対処できる。報道されている枠組みには、対象となるクローズドモデル向けにすでにこうした統制が含まれている。

政府は、深刻なリスクを発見した後に何が起きるかも定義しなければならない。迅速なリリースを促すインセンティブがある場合、私的な警告だけを出す審査は機能しない可能性がある。

しかし、自動的な阻止権限は、自発的な評価を許認可制度へと変えてしまう。その変更には、明示的な法的権限、手続き上の保護、公の議論が必要になる。

より狭い出発点の方が、正当化しやすい。開発者は自発的にモデルを提出し、構造化された所見を受け取り、リリース時に標準化された安全性情報を公開できる。

政府調達規則では、センシティブな連邦環境で使用されるモデルに参加を義務付けられる。重要インフラとのパートナーシップでは、運用上のリスクに基づく追加条件を設けることもできる。

インシデント報告はリリース後も継続すべきだ。リリース前の評価では、新しいツール、プロンプト、ファインチューニングによって生じるすべての能力を予測できない。

連邦政府は、これらの報告を共通のインシデント対応システムに接続できる。クローズド型の提供者は中央でパッチを適用できる一方、オープンなエコシステムには通知、更新されたチェックポイント、防御に関するガイダンスが必要となる。

多くのリリースにまたがる所見を追跡するチームにとって、検索可能な技術ナレッジベースは、評価の証拠とインシデント判断を保存するのに役立つ。それでも、政策上の課題には政府の基準と独立した判断が必要である。

能力ベースの枠組みは、不確実性を取り除くものではない。長期的な競争上の影響を持つ決定を下す前に、政策立案者へクローズド・オープン双方のシステムから得た証拠を与えるものだ。

最大の不確実性は、審査が結果を変えられるかどうかにある

テストが重要なのは、その所見が、モデルがユーザーに届く前のリリース判断、安全策、または利用可能な防御に影響を与える場合に限られる。

現在のプロセスは依然として自発的なものだ。開発者が協力するのは、連邦政府のテストが信頼を高め、政府とのパートナーシップを支え、または機密の専門知識へのアクセスを提供するためである。

こうしたインセンティブは、すでに政府機関や重要インフラ事業者に製品を販売している企業には機能するかもしれない。しかし、外国の開発者や連邦契約を持たないグループには、効果が弱い可能性がある。

オープンウェイト開発も国境を越える。米国の審査は、別の法域に属する組織が同等のモデルを公開することを防げない。

この制約は国際協調を支持する理由になるが、国内で何もしないことを正当化するものではない。米国は、同盟国、企業、研究機関が再利用できる評価手法を確立できる。

より差し迫った不確実性は秘密性に関するものだ。報道によれば、政権は枠組みを公表する予定がなく、高度なサイバー・ベンチマークのプロセスも機密扱いのままとなる。

一定の秘密性は、センシティブなテストが攻撃者向けの手引きになるのを防ぐ。しかし秘密が多すぎれば、外部の人々は政策が一貫しているか、有効か、不公平ではないかを評価できなくなる。

政府は、対象範囲の論理、手続き上の安全策、大まかなリスクカテゴリーを公表すべきだ。悪用可能な弱点を明らかにする正確なプロンプト、標的、情報、技術的所見は保護できる。

もう一つの不確実性はタイミングに関わる。開発者がほぼ完成したモデルと豊富な社内文書を提供する場合、30日間で焦点を絞ったテストを行うには十分かもしれない。

しかし、独立した再現、複雑な生物学的分析、多数の改変版の評価には短すぎる可能性がある。急いだプロセスは、誤解を招く安全性シグナルを生みかねない。

固定された期限は、開発者に開発終盤のシステムを提出するよう促すことにもなる。その結果、政府がリリース前にアーキテクチャや学習に関する変更を推奨できる余地は限られる。

早期の協議は役立つ可能性があるが、企業はより長期にわたる不確実性にさらされる。また、明確な権限がないまま当局者が製品設計に影響を与えるリスクも高まり得る。

したがって、審査は非公式な早期関与と正式な30日間の評価を分けるべきだ。開発者は最終候補を提出する前に、評価計画について協議できる。

最も重要な不確実性は、そもそもオープンウェイトモデルを対象に含めるかどうかにある。報じられた除外は、ガイダンス、将来の大統領令、法整備、あるいは開発者との自主的な合意によって見直される可能性がある。

ワシントンは、ダウンロード可能なすべてのモデルを同等の脅威として扱うべきではない。その大半は、新たな連邦枠組みを促した能力水準には達していない。

また、モデルが研究と競争を支援するという理由だけで、オープンな配布を自動的に安全とみなすべきでもない。利点があっても、リリース後の統制を失うことは相殺されない。

懐疑的な観点からの検証は明快だ。当局者は、自社評価では見落とされるリスクを自らのプロセスが捕捉できることを示さなければならない。

さらに、判定が何らかの実質的な変化につながることも示す必要がある。その変化には、段階的なリリース、より強力な文書化、防御策の改善、あるいはモデル配布計画の縮小が含まれ得る。

こうした成果がなければ、審査は儀式的なものになる。根底にあるリリースの誘因を変えないまま、政治的な隠れみのを提供することになりかねない。

このプロセスは、誤った安心感すら生み出し得る。利用者は、連邦評価者が調査していない分野も含め、審査済みモデルは安全だと想定するかもしれない。

公開される要約では、こうした境界を定義すべきだ。何をテストし、何をテストしていないのか、そして結果がどの程度の期間にわたり有効なのかを明示する必要がある。

オープンウェイトモデルの審査には、もう一つ注意点がある。好意的な結果が適用されるのは提出されたバージョンであり、その後のすべてのファインチューニングや変更済みチェックポイントではない。

この留保は、テストを無意味にするものではない。評価が恒久的な認証ではなく、証拠を提供するものだと読者に理解させるためのものだ。

ワシントンが隔たりを埋めるかを示す3つのシグナル

次の段階では、オープンウェイトモデルの除外が一時的な実装上の選択なのか、それとも連邦AI政策における恒久的な弱点なのかが明らかになる。

最初のシグナルは、対象モデルに関する公的な明確化だ。当局者は、先進的なオープンウェイトモデルがウェイト公開前に自主的プロセスへ参加できるのかを明言すべきである。

政府が配布方法をまたいで適用される能力閾値を採用すれば、政策は一貫したリスク評価に近づく。全面的な除外を維持するなら、枠組みは危険性ではなく市場構造に結び付いたままとなる。

二つ目のシグナルは、オープンウェイト開発者による参加だ。実際の提出があれば、オープン性を禁止されたリリース戦略に変えることなく、安全な政府審査が機能するかを検証できる。

この事例は、当局者に緩和策の勧告を調整することも迫る。中央集権的な監視、アカウント制御、リリース後の撤回だけに頼ることはできない。

三つ目のシグナルは、審査によってリリースが変更された証拠である。読者は、連邦テストに関連したローンチの延期、アクセス計画の変更、安全性結果の公開、または防御に関する開示に注目すべきだ。

そのような結果は、政府審査が企業によるレッドチーミングを超える価値を持つという論拠を強める。目に見える変更をまったく生まないプロセスには、その目的を問う声が上がるだろう。

議会の行動によって、これらの原則はいずれ正式なものになる可能性がある。法整備により、より明確な権限、独立した監督、報告義務、政治的動機に基づく決定に対する保護を確立できる。

現時点で、この行政枠組みは依然として実験段階にある。連邦の専門知識をリリース前テストに取り込む一方、対象範囲、透明性、結果に関する重要な疑問を未解決のまま残している。

Google Newsによってこれらの疑問はより広い読者層に届いたが、問題は一つの見出しにとどまらない。開発者には予測可能なルールが、企業には信頼できる安全性情報が、研究者には重要なシステムを引き続き検証するためのアクセスが必要だ。

オープンウェイトモデルは、自動的な疑念の対象にも、自動的な免除の対象にもなるべきではない。審査を受けるかどうかはその能力で判断し、その後に適用する安全策は配布方法に応じて決めるべきだ。

今後1〜3カ月で、ワシントンがこの区別を実現できるかが分かる。対象範囲の定義、最初のオープンウェイトモデルの提出、そして連邦の判定によって変更されたリリースに注目してほしい。

いずれも現れなければ、政府はなお影響を及ぼせるモデルを審査する一方で、回収できないモデルを見過ごすことになる。それはリスクベースのシステムとは正反対だ。