Trump政権の自主的AI安全計画に残る重大な抜け穴

Donald Trump政権は30日間のAI審査プロセスを打ち出したが、google newsの見出しは早くも矛盾を浮き彫りにしている。政府は高度なモデルへの早期アクセスを求める一方で、基準は非公開とし、参加も自主性に委ねる考えだ。

この政策は、連邦レベルのAI監督に対する政権の従来の抵抗姿勢よりは踏み込んでいる。当局者が、一部の未公開システムについてサイバーセキュリティや国家安全保障上のリスクを調べる経路を設けるものだ。しかし、オープンモデルは対象外で、重要な用語の定義もなく、政府には明確な執行手段がない。

この組み合わせにより、Trump政権のAI枠組みは従来型の規制でも、単純な業界の自主統治でもないものとなっている。安全保障上の懸念と、米国のモデルを迅速に公開したいという圧力の競争によって形作られた、選択的な協力協定だ。

この方針転換は、TrumpがBiden政権時代のAIガードレールの多くを撤廃した際に、決着したかに見えた議論も再燃させた。Anthropic、OpenAI、Google、Meta、Microsoft、Nvidia、そしてオープンモデルの開発者は現在、国民にはほとんど見えないままのプロセスの下で、それぞれ異なる期待に直面している。

中心的な問いは、政権がAIリスクを認識しているかどうかではもはやない。認識していることは明らかだ。より難しい問いは、最も利用しやすいモデルの一部が対象外に置かれる状況で、非公開かつ自主的な制度が信頼に足る保護を実現できるかどうかである。

Trump政権のAI枠組みが実際に変えるもの

政権は実際の審査経路を設けたが、義務的なAI安全ルールにはほど遠い。

Trumpは2026年6月2日、大統領令14409号に署名した。この命令は、複数の連邦機関に対し、AIモデルの高度なサイバー能力を評価するための機密ベンチマークを策定するよう指示している。

対象機関には、国家安全保障局、サイバーセキュリティ・インフラ安全保障庁、財務省、商務省、その他の国家安全保障機関が含まれる。このベンチマークは、どのようなシステムが「対象となるフロンティアモデル」に該当するかを特定することが求められている。

フロンティアモデルとは、AI開発の最前線に近い、極めて高性能な汎用システムを指す。この呼称が重要なのは、対象モデルだけが新たな協力プロセスに入るためだ。

大統領令の下で、参加する開発者は、自社のモデルがそのカテゴリーに該当するかを政府に問い合わせることができる。その後、他の信頼できるパートナーに公開する前の最大30日間、政府に安全なアクセスを提供できる。

政府と開発者は、どのパートナーに早期アクセスを認めるかについても協力できる。パートナーには、重要インフラの運営者、セキュリティ研究者、大企業、あるいは未公開システムを託せるその他の機関が含まれる可能性がある。

審査が主に対象とするのはサイバー能力だ。当局者は、高度なモデルがソフトウェアの脆弱性を特定し、侵入を自動化し、重要システムへの攻撃を強化できるかを把握したいと考えている。

この焦点は、「AI safety」という広い表現から想起される範囲より狭い。この命令は、差別、偽情報、プライバシー侵害、雇用への影響、あるいは通常の消費者被害を検証する一般的なプロセスを設けていない。

また、この枠組みはAIモデル公開に関する義務的なライセンス、事前審査、許可を新設できないとも明記している。開発者は、このプロセスを通じて政府の承認を得なくても、法的にはモデルを公開する自由を維持する。

この制約は意図的なものだ。Trumpは、監督強化が中国に対する米国産業の立場を弱めるとの懸念を表明した後、命令の初期案を延期した。

最終的な命令は想定されていた審査期間を短縮し、自主的な参加を強調した。テクノロジー企業が混乱を招くとしていた長期審査の報道に代わり、30日間のプロセスが導入された。

したがって、この枠組みは、主要ラボと連邦の安全保障機関との関係を変える。厳格な機密管理の下で、当局者が特定の未公開システムを検査する正式な経路を与えるものだ。

しかし、企業にその関係への参加を義務付けるものではない。政府に公開を阻止する権限を与えるものでもない。審査担当者が深刻なリスクを見つけた場合に何が起きるかも、明確には説明していない。

ここに、見出しと仕組みの間にある最初の大きな隔たりがある。政権には見るためのプロセスはあるが、止めるための確立されたプロセスはない。

Google Newsが欠けたルールブックに注目する理由

最大の論争点は、基準が機密指定されていることではなく、運用上のほぼすべての詳細が外部の精査を受けられないままであることだ。

最近のgoogle news報道は、White Houseでの会合中に一部のテクノロジー企業へ提示されたとされる枠組みに焦点を当てている。政権は完全な文書を公に公開する予定がない。

一定の秘密保持には合理性がある。高度なハッキング能力を試験するためのベンチマークは、そうした試験を回避するための手引きになりかねない。すべての課題、閾値、脆弱性を公開すれば、評価の実効性は弱まる。

それでも政府は、機微な試験内容を保護しながら、ガバナンスの仕組みを説明できる。適格性ルール、意思決定権限、利益相反への対応手順、不服申立ての選択肢、報告に関する期待、深刻な発見への対応を開示することは可能だ。

こうした基本要素は依然として不明確である。

内部事情に詳しい報道によると、枠組み案は最先端の能力と国家安全保障上のリスクを持つクローズドモデルを対象とする。報道によれば、「最先端」能力や、対象となる国家安全保障上のリスクについて、明確な公的定義は示されていない。

この曖昧さにより、どのシステムを注視するかについて当局者に広い裁量が与えられる。能力が似通う2つのモデルでも、一方がクローズドで、もう一方がダウンロード可能な重みを配布しているという理由で、異なる扱いを受ける可能性がある。

モデルの重みとは、AIシステムが出力を生成する仕組みを形作る、学習済みの数値パラメータである。オープンウェイトモデルは、他者がそれらのパラメータをダウンロードし、変更し、導入できるようにする。

報道によれば、この枠組みは対象システムに対し、審査期間中は高度なセキュリティ環境に留まることを求める。アクセスは記録され、政府がモデルを審査している間、従業員による利用にも制限が課される可能性がある。

こうした管理策は知的財産を保護し、内部者リスクを低減するかもしれない。しかし、誰が政府の結論を精査できるのか、不整合な判断に異議を唱えられるのかという問いには答えていない。

この命令は、NSA長官を含む安全保障機関に中心的な責任を割り当てている。これは深いサイバー専門知識をもたらす可能性がある一方、通常は活動が非公開の機関に権限を集中させることにもなる。

Cato InstituteのJuan Londoñoは、自主的な方向性を歓迎する一方で、曖昧な適格性基準と信頼できるパートナーの選定について警告した。集中した裁量が、政府との政治的な対立に関わる企業に対して用いられる可能性があると論じた。

この懸念は抽象的なものではない。連邦政府はすでに、同社のシステムの軍事利用をめぐりAnthropicと公の対立を経験している。そのため、非公開の枠組みは、技術的リスク判断を調達上の争いと政治的報復から切り離さなければならない。

透明性を求める擁護団体は別の問題を指摘する。Americans for Responsible Innovationは、限られたグループと共有される非公開プロセスでは、外部の人々は高度なモデルが意味のある監督を受けているか判断できないと主張している。

同団体によるより広範な枠組みへの批判は、弱い連邦基準がより強力な州レベルの保護を押しのけるおそれがあると論じている。この問題はサイバーセキュリティ審査の範囲を超えるが、不明確な連邦の安全策がもたらすコストを浮き彫りにしている。

非公開のベンチマークであっても、その周辺プロセスが可視化されていれば、信頼できる監督を支えられる。規制当局は日常的に機微な証拠を保護しつつ、規則、管轄の境界、執行方針、集計結果を公表している。

Trump政権のAI安全ルールは現在、その均衡を逆転させている。政府は公の場で広範なプロセスを説明する一方、実務上の規則の多くを一部の選定企業向けに留保していると報じられている。

この仕組みは、White Houseへ直接アクセスできる既存の大手ラボを優遇する。小規模な開発者、研究者、州当局、市民社会団体は、リークや二次報道から制度の仕組みを推測するしかない。

したがってGoogle Newsは、単に手続き上の争いを増幅しているだけではない。この報道は、国民が見ることのできない安全性の枠組みを評価できないという、根本的な正当性の問題を明らかにしている。

オープンモデルは安全性審査の対象外

この枠組みの中心的なトレードオフは、アクセスを制御できる領域には審査を適用する一方、公開後に封じ込めが難しくなるモデルを免除していることだ。

報道によれば、オープンモデルは現在の審査プロセスの対象外となっている。この枠組みはまた、公開後にオープンモデルを制限するものと解釈されるべきではないとしている。

この選択には実務的な論拠がある。自主的な公開前協力は、1社がモデル、そのインフラ、公開スケジュールを管理している場合に最も機能しやすい。

クローズドモデルの開発者は、システムを安全な環境に置き、試験中のアクセスを制限できる。基盤となる重みを配布することなく、安全策を修正し、導入を延期し、危険な能力を制限できる。

オープンウェイトの開発者は異なる公開判断に直面する。重みがダウンロード可能になると、コピーは複数の法域やプライベートサーバーへ広がり得る。その後の制限は実施が難しくなる。

この違いは、オープンモデルを除外するのではなく、より慎重に審査すべき根拠になり得る。その配布モデルは、クローズドシステム向けの試験では捉えきれない別種のリスクを生む。

オープンモデルには大きな利点もある。独立した研究者が検査でき、企業は機微なデータを遠隔の提供事業者に送ることなく導入でき、小規模な開発者も1つの大手ラボに依存せずに構築できる。

支持者は、幅広いアクセスが少数のAI企業への集中を緩和すると主張する。また、より多くの専門家が同じシステムを試験できるため、セキュリティ研究の改善にもつながり得る。

政権は、こうした利点を維持することを強く意図しているようだ。オープンな開発を米国の競争力にとって重要なものと繰り返し位置付け、クローズドAI寡占への対抗軸として扱ってきた。

複雑なのは、最も強力なオープンモデルの一部が中国の開発者から提供されていることだ。AlibabaのQwenファミリーとMoonshot AIのKimiシステムは、モデルのオープン性と地政学的な出自を同じ問題として扱えない理由を示している。

White Houseの枠組みは、米国企業との自主的な協力を軸に構築されている。中国の開発者には、未公開システムを米国の安全保障機関に提供したり、非公式な連邦政府の圧力に応じたりする理由がほとんどない。

中国に関する分析は、中国製モデルに対して政府が別途、調達、アクセス、サプライチェーンの政策を必要とする可能性があると指摘している。こうした手段は現在の審査経路の外にある。

この区分は、不均衡な環境を生み出す。

米国の有力なクローズドモデルは、公開前に政府の審査を受けられる。同程度の能力を持つオープンウェイトシステムは、そのプロセスを回避できる可能性がある。外国製のオープンモデルはその後、公開後にクラウドサービスやプライベートな導入を通じて流通し得る。

开放系统被排除在外，可能会减轻对 Meta 等美国开放模型开发商的压力。这也可能鼓励企业发布权重，以避免承担闭源模型类别相关的义务。

这种激励取决于框架的具体细节，而这些细节目前仍不得而知。如果参与能够带来受信任的政府关系，并更容易接触重要客户，闭源开发商可能会将审查视为一种优势。

如果审查造成延迟、信息泄露或难以预测的干预，开放性可能成为规避监管的路径。企业可能围绕政府的分类，而非实际风险水平，重新设计发布策略。

开放与闭源系统之间的区分，也不像听上去那么稳定。一家公司可能发布权重，却不公开训练数据、安全方法或复现模型所需的源代码。

另一家开发商可能通过应用程序编程接口提供广泛访问，但不发布权重。这两种安排都不符合简单的开放性测试。

能力比标签更重要。一个能力中等的开放模型，可能比能力极强的闭源系统带来更低的即时风险。领先的开放模型则可能产生更大的扩散风险，因为任何人都能对其进行适配。

特朗普 AI 框架需要一种方法来评估这两个维度。它必须同时考虑模型能够做什么，以及这些能力能够以多快速度扩散。

在这种方法出现之前，开放模型豁免看起来像是一项在官员建立完整风险分类体系之前就作出的政策决定。它保护了获取渠道和竞争，但把最棘手的遏制问题留在了别处。

自愿审查给 AI 公司带来压力

该框架将责任转向私营实验室，同时为它们提供合作理由，而这些理由更多出于政治和商业考量，而非法律要求。

自愿并不意味着无关紧要。拒绝审查的开发商可能损害其与联邦机构、国防客户、受监管行业以及关键基础设施运营商的关系。

政府批准并非正式必需，但合作可能会成为一种信任信号。银行、公用事业公司、医院和公共机构可能更倾向于采用参与过联邦网络安全测试的模型。

这给 OpenAI、Anthropic、Google、Microsoft 以及其他闭源模型开发商带来压力。每家公司都必须决定提供多大程度的访问权限、模型应在距离发布多近时提交，以及愿意接受哪些限制。

据报道，政府鼓励企业提交接近公开发布的系统，而非早期原型。这种做法降低了审查人员花时间测试后来发生重大变化的模型的可能性。

但这也压缩了回应窗口。若在发布前不久发现严重问题，开发商可能被迫推迟发布、限制访问，或在风险尚未解决的情况下推出模型。

该行政命令没有说明由谁作出这一决定。公司或许仍保有正式控制权，但拒绝安全建议可能引发声誉损害或影响联邦采购。

这种安排更像协调式风险管理，而非监管。政府专家提供信息和影响力，而开发商保留法定的发布权力。

支持者认为，这种灵活性正是重点所在。该流程可以比立法更快地适应变化，保护机密系统，并避免建立一个会过时的固定审批制度。

America First Policy Institute 称赞该命令将国家安全与持续 AI 发展联系起来。其立场反映了政府的信念：僵化的管控会削弱美国公司与外国竞争对手竞争的能力。

领先实验室也表达了审慎支持。OpenAI 表示，有效的框架应借助民主制度、技术专长和广泛利益相关方的意见。

Anthropic 将该行政命令称为美国 AI 领导力的重要一步。据签署前后的报道，Google 也欢迎这项倡议。

这些表态并不能证明企业接受每一项实施细节。它们表明，主要开发商认识到联邦协调的益处，尤其是在网络能力方面。

困难的问题在于：当合作失败时，谁来承担责任。

假设一个政府团队发现，尚未发布的模型能够自动化执行复杂入侵。开发商可能增加防护措施、限制访问或推迟发布，也可能对测试提出异议并继续推进。

该命令没有设立独立机构来解决这种分歧。即使发现涉及重大基础设施，它也不要求在发布后作出公开说明。

公司也可以在冲突开始前拒绝参与。联邦机构可能拥有其他权力，但审查框架本身并未设立发布禁令。

这些限制使其区别于拜登政府的做法。拜登 2023 年的行政命令援引《国防生产法》，要求某些系统的开发商向政府共享安全测试信息。

特朗普在重返办公室后撤销了该命令。他的政府如今接受其中部分相同的根本关切，但拒绝强制报告和广泛的发布前监督。

参议员 Mark Warner 在欢迎新政策、同时批评政府重建其曾拆除的保护措施时，概括了这种转变。他的论点是，即使监管语言发生变化，安全问题依然存在。

白宫对此有不同看法。它将新政策描述为聚焦式合作，而不是对模型开发实施全面控制。

两种描述都包含部分事实。政府恢复了对前沿系统评估的参与，但缩小了范围，并取消了可强制执行的参与要求。

这使企业面临软性压力。当法律未作要求时，联邦关系、客户预期和公众监督可能推动合作。

当激励一致时，软性压力可以发挥作用。信誉良好的开发商不希望发布会造成重大网络事件的模型，也重视获得政府专业知识和关键基础设施合作伙伴的机会。

当商业激励指向速度时，这一体系就会变弱。前沿实验室面临激烈竞争，推迟一次发布可能让另一家公司获得优势。

闭源公司还面临绕过审查的开放模型竞争。参与 30 天流程的实验室，可能眼看能力强劲的开放竞争对手在没有同等审查的情况下发布。

这是该政策最直接的市场扭曲。自愿接受审查的开发商，可能承担最大的程序负担，即使它们的发布仍然更容易控制。

特朗普 AI 安全规则面临三项可信度考验

只有当其私下测试产生可见、一致且在技术上站得住脚的结果时，该计划才能赢得可信度。

第一项考验是定义。政府必须说明哪些系统属于涵盖的前沿模型，同时不能暴露敏感的基准测试任务。

可行的定义可以结合多个因素，包括经测量的网络能力、自主性、可靠性、计算规模、访问控制以及滥用后果。

“最先进”这样的表述并不够。能力排名变化很快，而一个模型可能在某个领域变得危险，却并非在所有基准测试中领先。

政府还必须说明，资格认定是依据模型本身还是发布形式。目前对闭源和开放系统的区分表明，包装形式可能与能力同样重要。

第二项考验是程序一致性。企业需要知道谁会接收它们的模型、官员如何保护知识产权，以及机构之间出现分歧时会发生什么。

该行政命令要求采取保密、网络安全、内部风险和保密协议保护措施。这些承诺很重要，因为早期访问会在发布前暴露具有商业敏感性的系统。

政府最终应报告有关参与情况的汇总信息。它可以披露审查了多少模型、多少发现促成了改动，以及哪些风险类别最常出现。

此类报告不会泄露模型机密，却能表明该框架是否带来了行动，而不只是会议。

第三项考验是政府如何处理严重发现。只有参与者对证据作出回应，自愿流程才有意义。

政府无需公布漏洞利用方法，也不必点名每一家受影响公司。但对于威胁关键基础设施或国家安全的风险，它需要一条清晰的升级路径。

这条路径可能涉及额外测试、受限部署、有针对性的采购条件，或移交给拥有现有法定权力的机构。目前框架没有公开具体说明这些步骤。

政府还必须防范选择性执法。企业不应因为其高管拥有更多政治渠道，或与联邦机构存在其他争端，而受到不同对待。

独立技术审查可能有所帮助。来自多个机构、国家实验室、学术界和获批准外部组织的专家，可以在安全条件下审查存在争议的发现。

该政策的保密性使这些保障措施更加重要。当外部观察者无法检视证据时，他们只能信任用于评估证据的流程是否完整可靠。

政府的支持者可能会认为，传统监管会带来更大风险。静态规则可能固化过时假设，偏袒有能力资助合规团队的企业，并放缓防御性研究。

这些风险确实存在，但并不能消除对一项具有国家安全影响的自愿计划进行基本治理的必要性。

灵活的流程仍可公布稳定原则。它可以界定利益冲突、保留技术记录、提供复议机制，并说明何时其他权力会变得相关。

更广泛的联邦政策环境又带来了一个可信度问题。白宫希望国会制定全国性政策，并优先于部分州级 AI 法律。

如果联邦保护措施仍是自愿且保密的，各州将会认为，优先权剥夺了可执行的保障措施，却没有提供替代方案。企业可能更偏好统一的国家标准，但政府官员会追问这一标准究竟要求什么。

随着州法律开始处理自动化决策、透明度、儿童安全和前沿模型风险，这种冲突可能加剧。网络审查只覆盖了其中一部分关切。

因此，“AI 安全规则”这一说法可能夸大了政府已建立的内容。现行体系是针对部分先进模型的国家安全测试伙伴关系。

这一区别对普通用户很重要。模型参与其中，并不意味着政府认证其准确、无偏见、保护隐私，或适用于所有应用场景。

公司不应将参与宣传为全面的联邦批准。买方仍应评估模型如何处理数据、权限、监控、人工审查以及特定领域的风险。

开发商还需要保留政府测试后模型变更的记录。经过微调、获得工具访问权限或进行部署更新后，系统可能表现不同。

测试结果只适用于特定时间的特定配置。它无法保证之后每一种集成方案的安全性。

这些限制并不意味着该框架毫无用处。它们界定了将一条有前景的安全渠道转变为可信机构所需完成的工作。

Google News 读者接下来应关注什么

3つのシグナルが、政権が実効性のある安全策を構築したのか、それとも機密扱いの協議プロセスにとどまったのかを示す。

第1のシグナルは、公開されたガバナンス文書だ。ホワイトハウスは機密指定の評価基準を明らかにする必要はないが、適格性の基準と意思決定の手順は公表すべきである。

対象モデル、信頼できるパートナー、審査権限、エスカレーションの定義に注目したい。明確な公開ルールがあれば、秘密主義は説明責任の回避ではなく、試験の保護を目的とするものだという政権の主張を補強できる。

沈黙が続けば、その主張は弱まる。ホワイトハウスとの会合に参加していない企業は計画を立てられず、独立した専門家も構造的な抜け穴を特定できなくなる。

第2のシグナルは、審査がモデルのリリースを変えたことを示す証拠だ。最も強い証明となるのは、連邦政府の指摘を受けて行われた、文書化された延期、アクセス制限、安全性アップデート、またはデプロイ変更である。

国家安全保障上必要であれば、開示は匿名化してよい。重要なのは、このプロセスが当局者に早期デモを見せるだけではなく、意思決定に影響を与えていることを示す点だ。

企業が変更を報告することなく一貫して予定どおりモデルをリリースするなら、2つの解釈が競合する。システムが意味のある試験を通過したか、あるいは試験に影響力がなかったかのどちらかだ。

集計報告があれば、この2つを切り分けられる。報告がなければ、この枠組みの成功は政府外部から測定できないままだ。

第3のシグナルは、オープンウェイトモデルと海外モデルに関する方針だ。政権はこれらのシステムを任意参加のリリース前プロセスから切り離しているが、その安全保障上の意味合いは未解決のままである。

調達制限、クラウドホスティング要件、サプライチェーン規則、独立したリリース後評価は、このギャップの一部を埋められる可能性がある。どのような対応も、技術的リスクと、オープン性を一律に拒絶することを区別しなければならない。

能力に基づくアプローチは政策を強化する。整合性のある基準を欠いた、政治的に選別的な禁止措置は政策を弱める。

開発者とエンタープライズの購入担当者は、google newsの各見出しを最終判断とみなすのではなく、これらのシグナルを追うべきだ。この枠組みは、完成した規制制度ではなく、依然として実装の途上にある。

セキュリティチームはベンダーに対し、モデルが連邦政府の試験を受けたか、審査担当者がどの構成を検証したか、どのような変更が行われたかを確認すべきである。参加が認証に等しいと考えてはならない。

オープンモデルを利用する企業は、サイバー悪用、データ露出、アクセス制御、ツールの自律性について独自に評価を行うべきだ。連邦政府のプロセスから除外されていることは、技術的リスクを低減しない。

ナレッジワーカーは、同じ問題のより目立たない形に直面している。最先端のサイバー能力に焦点を当てた政府審査は、日常業務における機密文書、不正確な出力、危険な自動化された行動については、ほとんど何も示さない。

したがって読者は、3つの問いを分けて考えるべきだ。モデルは審査されたのか、どのリスクが試験されたのか、そして実際のデプロイにどの保護策が適用されるのか。

直近のgoogle newsサイクルは、実際の政策転換を浮き彫りにした。トランプ政権は現在、一部の高度なモデルについて、広範なリリース前に政府の精査を受けるべきだと認めている。

ただし、採用された仕組みには限界がある。参加は任意で、基準の大半は非公開、オープンモデルはプロセスの対象外であり、試験に不合格となった場合の結果も不透明だ。

だからといって、この計画が中身のないものになるわけではない。発表そのものよりも、次の決定が重要になるということだ。

公開ガバナンス、リリース変更の証拠、オープンモデルへの一貫したアプローチに注目したい。この3つの進展が、トランプ政権のAI安全ルールが持続的な監督へと発展するのか、それとも計画の構想にとどまるのかを明らかにする。