ホワイトハウスのAIサイバーセキュリティ試験、オープンモデルを対象外に
ホワイトハウスはサイバー能力を持つAIの自主的な試験制度を最終決定したが、Google Newsの報道によれば、オープンモデルは最初の審査サイクルを免れる見通しだ。この除外措置は、直ちに矛盾を生む。ワシントンはソフトウェアの脆弱性を発見・悪用できるモデルへの早期アクセスを求める一方、ダウンロード可能なシステムは枠組みの対象外に置かれる。
この政策は、米国の開発者による先進的なプロプライエタリモデルに焦点を当てる。企業は最長30日間、公開前のモデルへのアクセスを政府に提供できる。連邦政府の評価担当者は、そのシステムがハッキングなどの国家安全保障能力に関する機密の基準値を超えるかどうかを調べる。
オープンウェイトAIモデルは異なる経路をたどる。ダウンロード可能なパラメータにより、組織は開発者がホストするサービスに依存せず、モデルを実行・改変できる。複数の報道によれば、新たなホワイトハウスのAI枠組みは、実用上の能力が審査対象となるプロプライエタリシステムに近づいた場合でも、これらを対象としていない。
この区分により、OpenAI、Anthropic、Googleは政策上の線引きの一方に置かれる。Metaなどのオープンモデル開発者は、もう一方により近い位置となる。問題は、オープン開発とクローズド開発のどちらがより安全かというだけではない。公開形式によって、どの先進システムが政府の精査を受けるかを決めるべきかどうかだ。
Google Newsの報道が明らかにした限定的な試験
この枠組みが評価するのは、サイバー作戦を支援できるすべてのモデルではなく、限定されたカテゴリーの先進的なプロプライエタリモデルだ。
ドナルド・トランプ大統領は2026年6月2日、連邦政府機関に対し、この枠組みの策定を指示した。根拠となる大統領令は、先進的なサイバー能力を測定する機密ベンチマークのプロセスを求めている。
このベンチマークは、AIシステムがいつ「対象フロンティアモデル」になるかを決定する。この用語は、能力と国家安全保障への影響が政府の定める閾値を満たす先進モデルを指す。大統領令は、ベンチマークそのものや技術的な採点基準を公表していない。
大統領令はまた、対象モデルについて一般公開前にアクセスを得るための自主的なプロセスを整備するよう政府に指示している。参加する開発者は最長30日間、アクセスを提供できる。この審査は、脆弱性の発見、侵入の支援、防御的なサイバー業務の支援に関するモデルの能力を連邦当局者が理解する助けとなることを目的としている。
ホワイトハウスは、8月の期限までに枠組みを完成させたと述べた。しかし、文書は公開していない。また、どの開発者が正式に参加に同意したのか、最初の審査がいつ始まるのかも明らかにしていない。
当局者は、Meta、Anthropic、Google、Nvidia、OpenAIの代表者と枠組みについて協議したと報じられている。この協議により、大手開発者は政府が未公開システムをどのように分類・扱うつもりかを最初に確認する機会を得た。
Axiosが報じた枠組みの詳細によれば、対象カテゴリーは、国家安全保障リスクをもたらす、最先端のクローズドな米国製モデルに限定される。報道はまた、公開前の審査期間中、従業員にはアクセス制限が課されるとしている。
こうした管理は重要だ。モデルへのアクセス自体が独自のセキュリティ問題を生むためである。未公開システムを提出する開発者は、知的財産、内部の安全対策、機微な性能データを開示しなければならない。その間、政府は有意義な試験を実施しつつ、情報漏えいや不正利用を防止する必要がある。
この審査は正式なライセンス制度として機能するものではない。参加は引き続き任意であり、大統領令はこの枠組みが事前承認の要件になってはならないとしている。それでも、政府によるアクセスは、公開時期、顧客への提供、連邦政府機関との関係に影響を及ぼし得る。
そのため、「任意」の実質的な意味はそれほど明確ではない。政府契約や規制当局からの好意的な扱いを求める開発者には、協力する理由がある。後にモデルが重大なセキュリティ事案に関与した場合、審査を拒否していれば注目を集める可能性がある。
報じられている枠組みでは、オープンモデルはこのプロセスを回避する。この除外が、本記事の中心的な緊張関係を示している。政府はリスクを能力と配布モデルの両方で定義しているが、いずれの種類のシステムも有用なサイバー支援を提供できる。
クローズドAIラボに直ちに圧力がかかる
OpenAI、Anthropic、Googleは、最も高性能な製品を管理されたサービスを通じて提供しているため、運用上の負担を負う。
プロプライエタリモデルは通常、開発者またはクラウドパートナーが管理するインフラ上に置かれる。顧客はアプリケーションまたはプログラミングインターフェースを通じてアクセスする。提供者は利用状況を監視し、安全対策を変更し、アカウントを停止し、必要に応じてモデルを撤回できる。
こうした管理点により、プロプライエタリシステムは政府にとって審査しやすい。当局者は定められた条件下で安定した公開前バージョンを試験できる。評価担当者が予期せぬ挙動を調べる間、開発者はアクセスを制限することもできる。
同じ管理点は、これらの企業に圧力をかけやすくもする。ホスト型モデルには、特定可能な運営者、公開日、顧客向けのアクセスポイントがある。連邦当局者は運営者に対し、アクセスを遅らせることや、新たな能力を受け取るユーザーを制限することを求められる。
政権はすでに、こうした圧力が配布にどう影響し得るかを示している。OpenAIは政府の要請を受けてGPT-5.6 Solへのアクセスを制限したと、公開に関する報道は伝えている。承認済みの顧客にはアクセスが提供された一方、より広範な提供は制約されたままだった。
この事例は、正式な権限と運用上の影響力の違いを示した。展開に影響を与えるために、政府は一般的なAIライセンス法を必要としなかった。あらゆるアクセスポイントを管理する企業に対し、国家安全保障上の懸念を直接伝えればよかった。
新たな枠組みは、こうした交渉をより反復可能なプロセスへと変える。対象となる開発者は、どの時点でモデルが審査を引き起こす可能性があるかを把握できる。政府機関は、公開までの時計が動き始める前に、評価担当者と安全な環境を準備できる。
ただし、この枠組みは不確実性も加える。ベンチマークは機密扱いのため、外部の人々はどの能力が閾値を超えるのか判断できない。開発者は非公開の指針を受ける可能性があるが、顧客、研究者、小規模な競合企業は分類を独自に評価できない。
30日間という期間は別のトレードオフを生む。先進モデルがツール、ブラウザ、コード環境、外部サービスを通じて動作できる場合、包括的なセキュリティ試験には1カ月は短い。また、大規模な商業ローンチに影響を与えるには十分な長さでもある。
政府が評価を行う間、企業は従業員のアクセスを制限せざるを得ない可能性がある。これは最終試験を遅らせ、公開準備を複雑にする可能性がある。したがって、最も高性能なプロプライエタリモデルの開発者は、セキュリティ上の義務とスケジュール上のリスクの両方を負う。
Googleは特に興味深い立場にある。同社の先進モデルはOpenAIやAnthropicと競合する一方、そのインフラはサードパーティ製モデルやオープンモデルも利用する企業を支えている。Google Newsの報道は、モデル開発とクラウド配布の双方に影響する政策論争の中に同社を位置付けている。
Metaは異なる判断に直面する。同社は、主要なホスト型プラットフォームも運営しながら、クローズドサービスの代替としてダウンロード可能なモデルを推進してきた。オープンな公開が引き続き免除されるなら、そのモデル戦略はクローズドな競合他社に対して潜在的な規制上の優位性を得る。
この除外は、オープン開発者がまったく精査を受けないことを保証するものではない。輸出規制、調達規則、サイバーセキュリティ法、分野別の要件は引き続き適用され得る。当面の枠組みは、単に公開前試験の負担を別の場所に置くものだ。
この違いは製品戦略に影響を与え得る。ウェイトを公開するかどうかを決めるラボは、安全性、収益、競争上の位置付けに加え、規制上の扱いも考慮しなければならなくなる。公開アーキテクチャが政策判断の一部となる。
オープンウェイトAIモデルが政策の逆転を生む
公開後に最も回収が難しいシステムこそ、報じられているところでは、ワシントンがこの公開前プロセスを通じて審査しない対象だ。
オープンウェイトAIモデルは、訓練済みシステムの挙動の大部分を決めるダウンロード可能なパラメータを提供する。ユーザーはモデルをローカルで動かし、カスタマイズし、独立したホスティングプロバイダーを通じて配備できる。
オープンウェイトは、必ずしも完全なオープンソースを意味しない。開発者は、訓練データ、完全なソースコード、詳細な開発プロセスを公開せずに、訓練済みパラメータだけを公開する場合がある。政策論争では「オープン」が複数の異なる取り決めを表すため、この区別は重要だ。
モデルのウェイトがリポジトリやプライベートサーバーに広がると、元の開発者は制御の多くを失う。すべてのコピーを確実に削除することも、すべての配備を調査することも、普遍的な安全性アップデートを適用することもできない。ユーザーはシステムプロンプトを変更し、安全対策を取り除くこともできる。
こうした特性は悪用を拡大し得る。悪意ある運用者は、監視された企業サービスに不審なリクエストを送り続ける必要がない。改変したシステムを非公開で実行し、アカウント単位の執行を受けずに反復的な試行を自動化できる。
同じ特性は、正当なセキュリティ業務も支える。防御側は挙動を検査し、隔離されたネットワークにモデルを配備し、特定のソフトウェアに適応させられる。小規模企業は、独自のコードを外部のモデルプロバイダーに送ることなくツールを構築できる。
オープンモデルは研究と競争も支える。独立した専門家は、提供者が開示しなかった挙動を検証できる。開発者は失敗を研究し、実験を再現し、大規模ラボが見落とした言語や技術分野向けのモデルを作れる。
この利点とリスクの組み合わせは、包括的な比較が弱い政策につながる理由を説明している。クローズドモデルは、オープンな代替手段よりも高い生のサイバー能力を持つ場合がある。オープンモデルは、公開後もコピーが利用可能であり続けるため、より大きな配布リスクを生み出す可能性がある。
報じられているホワイトハウスのAI枠組みは、最初の問題を優先している。機密の閾値を超える能力を持つ最上位のプロプライエタリシステムを対象にしている。不可逆的な配布と分散的な改変に関わる2番目の問題を直接解決するものではない。
除外を支持する人々は、実務的な論拠を示せる。政府は、開発者が公開前のアクセスを管理しているため、非公開モデルを審査できる。間もなく公に流通するウェイトに対して、同じ機密プロセスを課すことはできない。
また、追加の義務は米国のオープン開発を弱めると主張することもできる。国内プロジェクトは、中国など他市場の低コストモデルと競合している。米国の公開にのみ審査負担を課せば、開発者やユーザーを海外の代替手段へ向かわせる可能性がある。
批判者は逆の問題を見る。公開形式が免除を生むなら、開発者はウェイトを公開することで審査を回避するかもしれない。能力が政府の懸念閾値に近づいていても、最も制御しにくい配布手法が試験を迂回する道となる。
オープンシステムが向上するにつれ、この区別はさらに難しくなる。現在は閾値を下回るモデルでも、公開後にツール、ファインチューニング、追加の計算資源を得られる可能性がある。専門エージェントの集合体も、ベースモデルの当初評価を超えるタスクを実行できる。
報じられている規則は、この免除が変更され得ることを認めているようだ。政府当局者は、オープンモデルの能力が向上するにつれて再検討する可能性がある。しかし、同等性を待つことは政策の遅れを生む。政府が定義を更新する前に、一般公開が行われる可能性があるためだ。
この方針転換は、モデル研究所だけに影響するものではない。企業の購入担当者は、政府審査が安心の証しなのか、それとも単にビジネスモデルに付随する義務なのかを判断しなければならない。調達チームは、審査済みのプロプライエタリシステムをより安全とみなすかもしれないし、あるいはローカルで管理できるオープンな導入形態を選好するかもしれない。
開発者も同様の選択に直面する。ホスト型サービスは、頻繁な更新、監視、管理された安全対策を提供する。ダウンロード可能なシステムは制御とカスタマイズ性をもたらす一方で、より大きなセキュリティ責任を運用者に移す。
規制上の違いは、この技術的な選択をゆがめる可能性がある。チームは、自らの脅威モデルに合うからではなく、一方の選択肢のほうがリリース制約が少ないという理由でモデルを選ぶかもしれない。結果として、政策が間接的にアーキテクチャを形作ることになる。
フレームワークは能力を試験するが、その尺度を明かさない
機密扱いのベンチマークはセンシティブなサイバー手法を保護できるが、秘密性ゆえに外部者はフレームワークが適切なシステムを対象にしているか判断できない。
政府がベンチマークの一部を非公開にする正当な理由はある。公開テストは学習対象になり得る。開発者は、より広範な悪用能力を低減することなく、特定の課題に合格するようモデルを最適化するかもしれない。
詳細なサイバー評価は、価値の高い攻撃手法を露出させる可能性もある。非公開の脆弱性や現実的な侵入経路を含むベンチマークは、不用意に公開されれば攻撃者を利するおそれがある。
したがって、機密指定は政府の都合以上のものを守る。評価そのものが攻撃手引書になることを防ぎ得る。また、情報機関や国防機関が、公に説明できないシナリオを試験することも可能にする。
代償は限定的な説明責任だ。研究者は、ベンチマークが現実的な脅威を測定しているかを検証できない。小規模な研究所は、見えない閾値に備えることができない。一般市民は、競合する開発者への扱いを比較できない。
こうした不透明性は、どのモデルが適格かに関するGoogle Newsの報道も複雑にする。ジャーナリストは非公開ブリーフィングや企業の反応を報じられるが、機密扱いのスコアを独自に再現することはできない。読者に届くのは政策上の結論であり、その背後にある技術的根拠ではない。
未公表のフレームワークは、不確実性をさらに一層加える。大統領令は公開されているが、運用ルールは報道によれば公開されていない。モデルアクセスの扱い、テスト失敗の解決、結果の伝達に関する重要な詳細は依然として利用できない。
モデルがサイバー能力の閾値を超えた場合に何が起きるのかも明確ではない。フレームワークは、追加の安全対策、リリース延期、アクセス制限、さらなる交渉を促す可能性がある。自主的な枠組みには、明確な執行段階が見当たらない。
各機関が異なるシステムをどれほど一貫して評価できるかも不明だ。モデルのサイバー性能は、ツール、プロンプト、時間制限、ネットワークアクセス、安全制御が有効のままかどうかに左右される。試験条件の小さな違いが、大きく異なる結果を生み得る。
ベンチマークは、生の能力と実際に展開可能な危害を区別しなければならない。管理されたセキュリティ課題を解けるからといって、モデルが信頼性の高い現実世界の侵入を実行できるとは限らない。逆に、ベンチマークでの成績が低いからといって、攻撃者がワークフローをカスタマイズできる環境で安全性が保証されるわけでもない。
テストでは、防御的な価値も考慮する必要がある。脆弱性を見つけるモデルは攻撃者を助け得る一方、保守担当者による重要ソフトウェアのパッチ適用も支援できる。政策は、サイバー能力のあらゆる向上を純粋に攻撃的なものとして分類することはできない。
米連邦政府は、このデュアルユース問題に関する経験を持つ。DARPAのAI Cyber Challengeでは、オープンソースソフトウェアの脆弱性を特定し、修復できる自律システムの構築をチームに求めた。challenge resultsは、AI支援型セキュリティをハッキングリスクだけに還元できない理由を示している。
Anthropic、Google、OpenAIは、モデルクレジットを通じてこの競技を支援した。MicrosoftとOpen Source Security Foundationは専門知識を提供した。このプロジェクトは、高度なサイバー自動化を、管理された評価と修復と組み合わせた場合の防御資源として扱った。
この経緯は有益な比較対象となる。DARPAのチャレンジは、定義済みの対象と競技ルールを用いた。新たな連邦フレームワークは、開発者、ツール、安全対策、リリース計画が大きく異なる汎用システムを評価しなければならない。
政府の能力も別の問題を提示する。30日間の期限には、複数の主要モデルを試験するのに十分な評価者、安全なコンピューティング基盤、技術専門家が必要となる。同時期のリリースは、これらのリソースを圧迫する可能性がある。
審査はすぐに時代遅れになることもある。開発者は、ローンチ後にホスト型モデルを日常的に更新する。ツール接続やシステムレベルの制御は、基盤となるモデルファミリーを変えずに能力を変化させ得る。
オープンウェイトAIモデルは、この問題をさらに難しくする。外部の開発者は、公開済みモデルをファインチューニングしたり、新しいツールに接続したりできる。単一のリリース前評価で、その後のあらゆる構成を代表することはできない。
こうした理由から、フレームワークを安全性証明書として扱うべきではない。参加は、開発者が政府のルールに基づいてアクセスを提供したことを示す。それは、モデルが無害であること、改変の影響を受けないこと、あるいはすべての導入環境で安全であることを立証するものではない。
この区別は企業の購入担当者にとって重要だ。連邦政府の審査は証拠を追加し得るが、組織には依然としてアクセス制御、ログ記録、テスト、インシデント対応が必要である。ローカルシステムを使うチームにも、パッチとモデル更新の明確な責任分担が必要だ。
ナレッジワーカーも、AIがセンシティブな情報を扱う際には同じ注意を払うべきだ。ローカル導入は外部プロバイダーへのデータ露出を減らせるが、安全でないプラグインや過剰な権限によるリスクをなくすわけではない。構造化されたAI workflowにも、依然として人によるレビューと制限されたアクセスが必要である。
オープン対クローズドは誤った安全性の近道だ
配布形式はリスクに影響するが、能力、導入時の制御、運用者の行動を直接測定する代わりにはならない。
クローズドモデルは、その提供者に複数の安全上の手段を与える。企業はトラフィックを監視し、悪用パターンを特定し、ツールを制限し、サービスを一元的に修正できる。特にセンシティブな能力については、顧客確認を課すこともできる。
その一元的な制御は、集中リスクを生み出す。セキュリティ障害が発生すれば、多くの顧客に同時に影響する可能性がある。利用者は、プロバイダーの内部統制、インシデント報告、政府アクセスに関する判断を信頼しなければならない。
オープンモデルは、運用者の間に制御を分散する。病院、銀行、政府機関は、センシティブなデータを自らの環境内に保持できる。組織は導入する正確なバージョンをテストし、ネットワークアクセスを制限できる。
しかし、すべての運用者が構成と保守の責任を負うことになる。安全性が不十分なローカルモデルは、データを露出させたり、安全でない行動を実行したりする可能性がある。元の開発者は、独立した導入環境全体で一律の保護を強制できない。
どちらの方法も本質的に安全というわけではない。重要なのは、能力、権限、可観測性、そして結果に関する問いだ。無制限のシステムアクセスを持つ中程度の能力のモデルは、慎重に隔離された環境内にある、より強力なモデルより大きな害を生み得る。
ホワイトハウスのテストは、サイバーベンチマークを使うことで、この点を部分的に認識している。モデルの規模や学習コストだけに頼るのではなく、モデルが何をできるかを測ろうとしている。その後に報じられたオープンモデルの免除は、再びカテゴリーに基づく近道を導入する。
この近道は、大手企業間に不均衡なインセンティブを生む可能性がある。OpenAIとAnthropicは主に、プロプライエタリモデルへの管理されたアクセスを収益化している。Metaは、開発者がダウンロードして適応できるモデルに大きく投資してきた。Googleはホスト型モデル、研究リリース、クラウドインフラにまたがって事業を展開している。
したがって、各社は異なる商業的立場からこの規則に接している。安全性を求める声は、本物の懸念と一致しつつ、特定の配布戦略を有利にすることもある。オープン性を求める主張は、イノベーションを支援しながら規制負担を軽減することもある。
政策立案者は、悪意を前提とせずにこれらのインセンティブを評価すべきだ。クローズドな開発者は、大規模なホスト型システムを監視して得た直接的な証拠を持つ。オープンな開発者は、ローカル制御が研究、プライバシー、競争をいかに支えるかを理解している。
最も強固なフレームワークは、能力とリリースの結果の両方を検討するだろう。高い能力を持つホスト型モデルは、直ちに多くの利用者に提供され得るため、リリース前テストを必要とする。高い能力を持つダウンロード可能なモデルも、リリースを完全に撤回できないため注意を要する。
異なるシステムに同一の制御は必要ない。クローズドな提供者は、監視と段階的アクセスを維持できる。オープンな開発者は、評価結果を公表し、初期リリースを制限し、ウェイトを配布する前にセキュリティ研究者と連携することができる。
オープンソースソフトウェアは有益な前例を示すが、この類推には限界がある。公開コードは幅広い検査と迅速なパッチ適用を受けられる。学習済みモデルの振る舞いはファイルを調べても理解しにくく、利用者が常に更新をインストールするわけでもない。
AIモデルはまた、確率的に行動を生成する。同じプロンプトでも異なる出力が生じ得る一方、ツールへのアクセスはその出力で何が実行できるかを変える。従来のコードレビューでは、この振る舞いを完全に特徴づけることはできない。
フレームワークの自主的な性質は、こうした課題を増幅する。これは協力、非公開のコミュニケーション、そして主要企業がワシントンとの関係を重視するという期待に依存している。このアプローチは立法より速く進められるが、強制可能な保証は少ない。
過去の自主的な約束に関する研究は、慎重であるべき理由を示している。ある独立研究は、参加AI企業が以前のホワイトハウスへの誓約を履行したという公的証拠には一貫性がなく、特にモデルウェイトのセキュリティでその傾向が顕著だと指摘した。commitment analysisは新フレームワークを評価したものではないが、自主的な約束には測定可能な履行が必要である理由を示している。
政府は、センシティブではない情報を公表することで信頼性を高められる。大まかな能力カテゴリー、参加統計、審査日程、テストがリリース変更につながったかどうかを開示できる。こうした報告は、機密手法を保護しつつ外部からの評価を可能にする。
開発者も独自の要約を公表できる。どのモデルバージョンが審査を受けたか、どのアクセス条件が適用されたか、その後にどの安全対策が変更されたかを説明できる。こうした開示は、危険なテスト内容を明かすことなく、顧客がプロセスを解釈する助けとなる。
こうした証拠がなければ、フレームワークは象徴的なものになる危険がある。クローズドな研究所は、政府テストに協力したと言える。オープンな開発者は、イノベーションを維持したと言える。それでも一般市民は、いずれの方法が実際のサイバーリスクを低減したのか判断できない。
テストの重要性を示す三つのシグナル
次の段階は、参加状況、オープンモデルの能力、そして政府審査が実際のリリースを変えるという証拠にかかっている。
最初のシグナルは、主要なプロプライエタリ開発者が適格なモデルを一貫して提出するかどうかだ。複数の報道によれば、OpenAI、Anthropic、Googleはホワイトハウスでの協議に参加している。協議だけでは、日常的な遵守を立証できない。
識別可能なリリースに結び付いた、確認済みの審査に注目すべきだ。明確なパターンが示されれば、注目度の高いローンチ前に機能していることを示し、フレームワークを強化する。例外の繰り返しや非開示の参加は、このプロセスが信頼できる監督を提供するという主張を弱めるだろう。
第二のシグナルは、公開評価においてオープンウェイトAIモデルが機密基準に近づくかどうかだ。政府は正確なベンチマークを公表しないが、独立したサイバー試験でも相対的な改善は示せる。より強力なダウンロード可能なシステムが登場すれば、この免除措置の見直しを求める圧力は強まる。
このシグナルが重要なのは、この枠組みの論理が能力差に依存しているためだ。オープンなシステムが最先端のクローズド製品を明確に下回る限り、プロプライエタリモデルを優先することには実務的な合理性がある。その差が縮まれば、配布形式は境界線として正当化しにくくなる。
第三のシグナルは、政府の審査がモデルのリリースを変えるかどうかだ。遅延、段階的な展開、安全策の追加、アクセス制限があれば、実質的な影響力を示すことになる。目に見える結果を伴わない審査が長く続くなら、そのプロセスは主として助言を提供しているにすぎない可能性がある。
影響力の証拠は慎重に解釈しなければならない。リリース内容が変更されたからといって、元のモデルが害をもたらしたはずだと証明されるわけではない。ただし、評価者がデプロイメントに影響を与えるほど重大な懸念を特定したことは示している。
政権はまた、サイバー分野の施策同士がどのようにつながるのかを明確にすべきだ。大統領令は、フロンティアモデルの枠組みとAIサイバーセキュリティ・クリアリングハウスの両方を設けた。このクリアリングハウスは、政府、産業界、重要インフラにまたがる脆弱性の発見、検証、修復を調整する。
これらのプログラムは、リスクサイクルの異なる局面を対象にしている。モデルテストはリリース前の能力を検証する。クリアリングハウスは、高度なシステムが発見するソフトウェアの欠陥を扱う。成功の鍵は、モデル開発者、連邦機関、ソフトウェア保守者の間で安全な情報連携を確立できるかどうかにある。
開発者にとって当面の教訓は、政策をリリースエンジニアリングの一部として扱うことだ。プロプライエタリなサービスを基盤にするチームは、高度な機能をめぐるアクセス制御が変化すると見込むべきである。オープンなシステムを展開するチームも、連邦政府の免除を安全性の証明と取り違えてはならない。
企業の購入担当者は、どちらの経路についても評価の根拠を求めるべきだ。ホスティング型プロバイダーには、不正利用をどのように監視し、政府の指摘にどう対応するのかを尋ねよう。オープンモデルのベンダーには、変更済みデプロイメントをどうテストし、パッチをどう配布し、ツールへのアクセスをどう制御するのかを確認すべきだ。
ナレッジワーカーは、ラベルではなく権限に注目すべきである。メール、文書、ソースコード、クラウドコンソールに接続されたアシスタントは、ライセンスモデルにかかわらずリスクを生み得る。検索可能なナレッジベースは、すべての自動プロセスに無制限のアクセスを与えるのではなく、アクセス境界を維持すべきだ。
Google Newsの見出しは現実の政策対立を捉えている。しかし、「AIハッカー」という表現から、あらゆるモデルの内部に自律的な犯罪者が潜んでいると受け取るべきではない。これらのシステムは、防御的な研究を支援し、セキュリティ業務を自動化し、攻撃者にとっての障壁を下げる可能性がある。結果は、能力、ツール、指示、運用上の統制に左右される。
ホワイトハウスは、重要なカテゴリーの一つをリリース前に検討するための道筋を作った。その価値は、機密文書が存在することではなく、一貫した参加と観測可能な変更によって生まれる。
オープンモデルの免除は、今やこの枠組みを試す決定的な論点となっている。ダウンロード可能なシステムの能力が依然として低ければ、限定的な焦点は釣り合いの取れたものに見えるだろう。追いつけば、最も回収が難しいモデルが依然として最も少ないリリース前審査しか受けない理由をワシントンは説明しなければならない。
読者は次の主要モデルの発表に注目し、三つの問いを投げかけるべきだ。審査は行われたのか、審査はアクセスを変えたのか、そして同じ能力がダウンロード可能なウェイトとして提供された場合、答えは異なるのか。これらの答えは、この政策がリスクを測っているのか、それともAIの配布方法によって企業を分類しているだけなのかを明らかにする。
