AnthropicのAI安全性会議、トランプ政権内の亀裂を浮き彫りに

Anthropicは火曜日、同社に対して最近になって大きく異なる立場を示していたトランプ政権の2人の当局者と、重要なAI安全性会議に臨んだ。協議に詳しい関係者によると、ハワード・ラトニック商務長官と国防総省の技術責任者エミル・マイケルは、Anthropicの最高コンピュート責任者トム・ブラウンとオンラインで会談した。

報じられたAnthropicのAI安全性会議は、高度なモデルの開発を、安全対策が追いつくまで減速させるべきかを巡る新たな対立に続くものだった。ドナルド・トランプ大統領はテクノロジー業界幹部による広範な警告を退ける一方、AnthropicのCEOであるダリオ・アモデイは、政府関与の必要性を改めて主張した。

この対立により、会議は通常のワシントンでの説明会以上の意味を持つ。ラトニックは政権がAnthropicを信頼していると公言していた一方、マイケルは同社が防衛組織にとって依然としてサプライチェーン上のリスクだと主張していた。

したがって会議では、未解決の政策的対立が同じテーブルに持ち込まれた。ワシントンは米国のAI開発加速と国家安全保障の強化を求めているが、その目標を守るためにどのような制約が必要かについて、当局者の見解は一致していない。

OpenAI、Google DeepMindなどの主要研究所も、共通の安全性慣行を模索している。こうした関与は、自主的な業界統制にどの程度の信頼を置くべきかを判断する開発者や企業顧客にとって、問題の重要性を高めている。

AnthropicのAI安全性会議、政権内の対立を可視化

この会議には、Anthropicに対する政権の未解決な姿勢を示す、最近の立場が異なる3人の参加者が集まった。

Bloomberg Lawが公表した会議に関する報道によると、ブラウンは9月15日にラトニックとマイケルと会談した。同媒体はブラウンを、ワシントンにおけるAnthropicの主たる代表者と説明している。

報道によると、会話の焦点は人工知能の安全性リスクだった。協議後、参加者のいずれも詳細な議題、記録、または交渉結果を公表していない。

Anthropicは会議へのコメントを拒否した。国防総省当局者はBloombergに対し、同省は最も高性能な汎用モデルを開発するフロンティアAI企業と引き続き連絡を取っていると述べた。

当局者はまた、Anthropicに対する同省の立場は変わっていないと述べた。この留保は重要だ。マイケルが最近、国防総省のサプライチェーン上の懸念を改めて表明していたためである。

公表された記録からは、会議で軍によるアクセス、モデル評価、規制提案、あるいはアモデイの最新の警告が個別に扱われたかどうかは分からない。非公開の議題を、合意済みの結論として扱うべきではない。

確認できている事実はより限定的だが、それでも重要である。公に相反するメッセージを発してきた2人の高官が、激化する国家的な議論の最中に、Anthropicのワシントンでの最重要代表者と対話した。

ブラウンの役割は、Anthropicがこの論争をどう管理しているかも示している。同社は、以前アモデイと衝突していた当局者との橋渡し役として、ブラウンへの依存を強めている。

ラトニックは9月初旬、G20のイノベーションイベントでブラウンと公の場に姿を見せた。その場でブラウンは、データセンター建設に対するトランプの支援を評価し、雇用、税収、発電を強調した。

この経済的なメッセージは、国内インフラと競争に重点を置く政権の姿勢と合致する。また、あらゆる制約を米国の成長を妨げるものとして位置付けることなく、安全性について議論する道筋をAnthropicに与える。

それでも、ブラウンの存在が実質的な対立を解消するわけではない。Anthropicは、能力が高まるモデルには、評価の閾値、セキュリティ統制、単一の研究所を超えた連携が必要だと引き続き主張している。

一方で政権は、当局者が中国の競合相手に対して米国企業を遅らせると考える規則に抵抗してきた。アモデイが協調的なペース調整と政府の行動を求めた後、トランプはその立場を強めた。

生じている緊張関係は、単なる安全性対速度の対立ではない。双方は、自らが望むアプローチを国家安全保障戦略として提示している。

Anthropicは、十分に管理されていない能力が、サイバー、生物学的、自律システムに関するリスクを生み出し得ると主張する。加速を支持する側は、遅れが戦略的・経済的な優位性を海外の競合相手に譲る可能性があると主張する。

この衝突こそが会議の重要性である。調達、輸出、技術政策を形作り得る当局者の間で、対立は競合する公的発言から直接対話へと移った。

いずれかの側が立場を変えたことを示す公的な証拠はない。直近の展開は、解決ではなく対話だった。

ラトニックとマイケルは依然として相反する政府の立場を示す

商務省と国防総省が、同社を信頼しているかどうかについて一貫した答えを示していないため、Anthropicは圧力に直面している。

9月2日、ラトニックはAxiosに対し、数カ月にわたる対立の後、政権はAnthropicを信頼していると語った。「彼らは我々が求めたことを実行した」と述べ、同社が正しい側に戻ったと説明した。

この発言は、関係が大幅に修復されたことを示唆した。ラトニックは、同社が政府の懸念に対応したと評価したが、公表された発言では、関与する全ての条件は定義されていなかった。

商務省は輸出政策や高度な技術へのアクセスに影響を及ぼし得るため、この和解は特に重要に見えた。その判断は、フロンティアモデルを利用できる地域や、国際的なアクセスに伴う安全対策に影響し得る。

マイケルはその翌日、異なるメッセージを発した。Anthropicは国防総省および防衛産業基盤にとって、依然としてサプライチェーン上のリスクに指定されていると述べた。

国防総省の立場は、公的な評判だけにとどまらない。サプライチェーン指定は、政府機関、請負業者、関連組織がベンダーの技術に依拠できるかどうかに影響する可能性がある。

相反する発言は、連邦政府の購入者や防衛業務に関わる企業に直ちに不確実性を生んだ。ラトニックの信頼表明によって、国防総省の別個の異議が自動的に取り除かれるわけではない。

紛争の経緯によると、連邦判事は8月、国防総省によるAnthropicのブラックリスト指定の一つを無効とした。Anthropicは別の法的手続きで、別の指定について争いを続けていた。

これらの事情により、この関係を要約することは異例なほど難しい。Anthropicは法的勝利を収め、商務省から公的な支持を得た一方で、重大な防衛上の制約の下に置かれ続けていた。

この対立は、両機関の責務の違いを反映している。商務省はイノベーション、貿易、輸出、インフラ、国家競争力を考慮する。国防総省は運用上のアクセス、ベンダーの信頼性、軍事リスクに重点を置く。

これらの権限は重なり得るが、同一の結論を生むとは限らない。あるモデル提供者が一方の機関のセキュリティ要求を満たしても、別の機関が運用上受け入れられないと考える利用制限を維持する場合がある。

Anthropicは長年、特定の有害な利用を制限する方針を適用してきた。軍事配備では、国家安全保障システムが監視、標的設定、サイバー作戦、自律的な意思決定に関わり得るため、これらの制限は特に繊細な問題となる。

中心的な政策課題は、最終的な境界を誰が定めるのかという点だ。Anthropicは契約と技術的統制を通じて許容される利用を定義できる一方、政府はより広いアクセスを調達の条件とすることができる。

いずれの仕組みも、政治的にも技術的にも単純ではない。企業による統制には民主的な説明責任が欠ける可能性があり、一方で政府による無制限のアクセスは、重大な結果を伴う用途向けに設計された安全対策を弱める可能性がある。

だからこそ、ブラウン、ラトニック、マイケルの会話は重要である。そこでは商業政策上の信頼と防衛政策上の不信が直接接触した。

会議はまた、政権自身の立場を明確にする圧力を高めた。機関は別々の権限を維持できるが、モデルが民生と軍事の領域をまたぐ場合、企業には予測可能なルールが必要になる。

Anthropicも並行する課題に直面している。同社は、どの制限が交渉の余地のないもので、どの安全対策が政府との協議を通じて変更可能なのかを説明しなければならない。

外交的な改善は、こうした運用上の問題に答えるものではない。公のイベントで表明された信頼は、調達やサプライチェーンの枠組みにおける承認とは異なる。

開発者にとって、この違いは政府プロジェクトにおけるモデルの利用可能性に影響する。企業の購入者にとっては、ベンダー評価、契約文言、将来の政策変更に関する見通しに影響する。

したがって企業は、この会議を関係正常化の証拠として扱うべきではない。公的な証拠が支持する結論はより限定的である。制度上の対立が未解決のまま、対話は続いている。

AI安全性は監督と速度のトレードオフになりつつある

中心的な争点は、義務的な監督が、ワシントンが守ろうとする競争上の地位を損なわずに重大なリスクを低減できるかどうかである。

Anthropicの政策枠組みでは、高度な能力を、より強力なセキュリティおよび配備措置を発動する要因として扱う。こうした措置には、能力評価、脅威モデリング、レッドチームテスト、外部評価が含まれる場合がある。

レッドチームテストとは、モデルを失敗させたり危険な行動を生じさせたりするための体系的な試みを指す。評価者はこれを用いて、脆弱性、悪用経路、欺瞞、利用者が回避できる安全対策を特定する。

同社の安全性フレームワークは、サイバー作戦、化学・生物学的脅威、操作、モデルの破壊工作、制御喪失を対象としている。Anthropicは、政府や独立した評価組織とも協力しているとしている。

これらの慣行は、同社の公的な警告を支える具体的な仕組みを提供する。ただし、危険な能力が公開前に必ず発見されることを保証するものではない。

AnthropicのResponsible Scaling Policyは、リスク閾値とより強力な保護を結び付けている。ただし、この方針は依然として自主的なものであり、Anthropicは証拠や運用条件の変化に応じて改定できる。

2月、同社は、より高い水準の保護の一部は、一つの研究所だけで実施するのが困難になる可能性を認めた。更新されたスケーリング方針では、連邦レベルの安全対策の進展は遅く、集団的な安全対策の必要性は高まっていると説明した。

この認識は二つの方向に作用する。一社では全ての競合他社に同等のコストを課せないため、Anthropicが政府関与を求める根拠を支える。

同時に、それは同社独自の安全性構造の限界も示している。自主方針では、フロンティアモデル市場全体における統一的なテスト、共有報告、執行を生み出せない。

報道によると、OpenAIとGoogle DeepMindは数週間にわたり、Anthropicと安全性に関する協調を協議してきた。OpenAIの政策責任者クリス・レヘインは火曜日、これらの会話を公に認めた。

業界内の協議によると、研究所は共通基準と独立した検証を検討している。このような協調は、より迅速な公開のために一社が安全対策を省略する誘因を減らす可能性がある。

同時に、法的・ガバナンス上の問題も生じる。開発スケジュールや公開慣行を調整する競合企業は、正当な競争を抑制する取り決めを避けなければならない。

アモデイ氏は、安全性に関する協調のために限定的な法的適用除外を提案したと報じられている。レハネ氏は、各社にその必要はないと述べており、支持者の間でさえその仕組みについて合意に至っていないことを示している。

競争上の懸念は理論上のものではない。フロンティアAI研究所は、ユーザー、研究者、コンピューティング能力、企業契約、政府案件をめぐって競争している。

長期的なテストのためにモデル公開を遅らせる企業は、競合他社が同等の能力をリリースすれば市場シェアを失う可能性がある。政府がリーダーシップを主にスピードと能力規模によって定義する場合、このインセンティブはさらに強まる。

トランプ氏は、米国の開発を遅らせれば中国を利することになると主張している。この立場は、より強力なテストを支持する人々も含め、政権外にも共有される戦略的懸念を反映している。

安全性の擁護者は、安全性が確保されていないシステムも米国を弱体化させ得ると反論する。サイバー攻撃を拡大し、重要な知識を漏えいさせ、あるいは予測不能な振る舞いをするモデルは、その出所にかかわらず国家的なコストを生み出しかねない。

根拠となる証拠がなお不確実であるため、このトレードオフはさらに難しくなる。研究者は特定の能力を測定できるが、破局的な被害に至るあらゆる経路を計算できるわけではない。

2026年のInternational AI Safety Reportには、100人を超える独立専門家が参加した。同報告書は、制御喪失シナリオに関連する能力の初期的な兆候を見いだしたが、そのような結果を可能にする水準には達していないとした。

報告書は、リスクの可能性、時期、性質が異例なほど曖昧だと説明した。この不確実性はリスクがゼロであることを意味しないが、広範な規制を求める主張を複雑にする。

規制当局は、証拠が決定的になる前に行動するかどうかを判断しなければならない。待てば危険な能力の拡散を許しかねない一方、時期尚早な制限は不適切な基準を固定化したり、既存企業を保護したりする可能性がある。

大手研究所は、小規模な新興勢力よりもコンプライアンス要件を容易に吸収できる場合が多い。そのため、内部システムを基準に設計されたルールは、市場における彼らの立場を強め得る。

これは、研究所主導の規制に対する懐疑論が続く理由の一つである。安全策を求める企業自身も、競合他社を統治するルールの形成に経済的な利害を持つ。

反対のアプローチにも、独自の集中リスクがある。公的監督が限られる中では、どのテストが十分か、どの事故を開示に値するものとするかを、各研究所が決定することになる。

AnthropicのAI安全性会合は、この未解決の選択の中に位置している。ワシントンは、自主的な約束に依存するのか、執行可能な基準を採用するのか、あるいは両方を組み合わせるのかを決めなければならない。

どの会合も、このトレードオフをなくすことはできない。しかし、安全性を抽象的な政治的アイデンティティとして議論するのではなく、測定可能な閾値を定義する意思が当局にあるかどうかを明らかにすることはできる。

安全性への警告は深刻だが、証拠には限界がある

Anthropicの警告は、その影響が大きいため精査に値する。しかし、公開されている証拠は、破局的な被害に至る正確な時期を示してはいない。

アモデイ氏は、安全策が改善されるまでフロンティアAIの開発をより緩やかに進めるべきだと主張してきた。この立場は、OpenAI、Google DeepMind、その他のテクノロジー企業のリーダーから支持を得ている。

警告は一部、限定的な人間の指示のもとでツールを用い、複数段階の目標を追求できるシステムであるAIエージェントに焦点を当てている。より高性能なエージェントは有用な作業を実行できる一方、悪用の規模を拡大させる可能性もある。

Anthropicは、サイバー攻撃、監視、生物兵器に関する研究のためにClaudeを利用しようとする試みを報告している。同社は悪意ある活動を阻止し、制限を強化したとしている。

これらの報告は、悪用の試みが現実に存在する証拠を提供する。ただし、現在のモデルが、より広範な安全性の議論で説明されるあらゆる極端な結果を独力で引き起こせることを示すものではない。

独立した専門家の間では、時期、確率、適切な介入をめぐる見解の相違が続いている。詐欺、差別、監視、信頼性の低い自動化判断といった差し迫った被害を重視する者もいる。

一方で、先端研究を実施し、制御を回避し、あるいは現在は不可能な規模で業務を調整し得る将来のシステムに焦点を当てる者もいる。これらのカテゴリーに対する政策手段は同一ではない。

短期的な被害には、多くの場合、セキュリティ要件、責任制度、調達ルール、分野別の執行によって対処できる。推測的な破局的リスクには、能力の閾値や導入前評価が必要になる可能性がある。

あらゆる懸念を一つのラベルにまとめると、政策を弱めるおそれがある。擁護者が不確実な予測を、文書化された事故と同じ確信をもって提示すれば、当局者は安全性アジェンダ全体を退けるかもしれない。

同じ慎重さは、加速主義の擁護者による主張にも当てはまる。破局が証明されていないことは、能力の変化に伴って現在の安全策が十分であり続けることを示すものではない。

政府も完全な情報を持っているわけではない。モデル開発者は内部テストのデータを保有し、政府機関は企業が完全には観測できない脅威に関する情報を持つ。

この非対称性は、統制された情報共有の価値を高める。同時に、双方による選択的開示の機会も生む。

評価者が意味のあるアクセスを得られれば、独立評価はこの問題を緩和できる可能性がある。限定されたモデルバージョンに対する表面的なテストでは、実運用システムが継続的な攻撃下でどのように振る舞うかを明らかにできない。

評価者の権限も重要である。外部組織には、技術的専門性、保護されたアクセス、商業的干渉を受けずに深刻な発見を報告する手続きが必要になる。

OpenAIは、提案されている連邦法案における独立検証条項への支持を表明している。Anthropicはすでに、米国のCenter for AI Standards and Innovationおよび英国のAI Security Instituteとの取り組みを説明している。

これらの関係は、政府と連携したテストが可能であることを示している。ただし、誰が導入を延期できるのか、あるいは緩和策を要求できるのかについて、米国が合意に達したことを証明するものではない。

政治環境も別の層を加える。トランプ氏は最近の業界による警告を陰謀だとして退けた一方、他の当局者はAnthropicとの直接的な関与を続けている。

この対照は、大統領の発言がより広範な規制に反対していても、政権が技術的な協議を止めていないことを示唆している。立法での合意がなくても対話は続けられる。

議会も統一された道筋を示していない。テクノロジー業界のリーダーは行動を求めているが、議員の間では連邦権限、州のルール、責任制度、規制が競争にもたらす影響について見解が分かれている。

より広範な政策論争には、より強い監督を求める当局者と、開発の鈍化を懸念する当局者の双方が含まれる。この分裂は、迅速かつ包括的な枠組みが実現する可能性を限定している。

懐疑的な結論は、Anthropicが間違っているということではない。企業側も批判者側も、完全な政策解決策を示してはいない、ということである。

Anthropicは、提案されるあらゆる減速策が企業や国をまたいで執行可能であることを、公に示してはいない。政権も、競争だけで十分な安全策が生まれることを示してはいない。

したがって、この会合は具体的なフォローアップによって評価されるべきである。有用な成果には、共通のテスト定義、開示ルール、インシデント対応手順、危険な発見に対応する明確な権限が含まれる。

こうした詳細がなければ、このイベントは安全性に関する合意の証拠ではなく、コミュニケーションのためのチャネルにとどまる。

Anthropicの会合がOpenAI、Google、企業の購入者に意味すること

実行可能な合意は、競合する研究所に対し、企業固有の約束に依存するのではなく、同等のテストを受け入れるよう圧力をかけることになる。

OpenAIとGoogle DeepMindは、最も直接的な業界の比較対象である。両社はフロンティアモデルを開発し、企業導入をめぐって競争し、高度なシステムのリスクをめぐる議論に参加している。

Anthropicとの対話が報じられていることは、協調の必要性について異例の足並みがそろっていることを示している。とはいえ、各社は製品、ガバナンス、安全性の実践、商業的インセンティブの面で依然として異なる。

Anthropicだけが開発の減速や踏み込んだ評価を受け入れれば、競合他社が優位に立つ可能性がある。統一されたルールはこの不均衡を抑えるだろうが、小規模なモデル開発者に負担を与える可能性もある。

そのため政府は設計上の問題に直面する。基準は、一社の内部用語を組み込むのではなく、能力とリスクを対象にしなければならない。

能力ベースの基準では、モデルがサイバー作戦、生物学的支援、自律的研究、戦略的計画において指定された水準に達した場合、追加テストを求めることが考えられる。

このアプローチは単純に聞こえるが、信頼できる評価に依存する。ベンチマークは古くなる可能性があり、研究所は既知のテストに合わせてシステムを最適化できる。

導入条件もリスクを変える。ツールへのアクセス、永続的なメモリ、コード実行、外部システムの制御を持つモデルは、制限されたチャットインターフェースにある同一モデルとは異なる振る舞いをする可能性がある。

この区別は企業の購入者にとって重要である。調達チームは、基盤モデルのベンチマーク結果だけでなく、完全なシステムを評価すべきだ。

AIエージェントを導入する組織は、システムがどのツールにアクセスできるか、どのデータを取得できるか、どの行為に承認が必要かを問う必要がある。また、インシデント調査を支える記録も必要となる。

政府内の対立は、そうした購買判断に直接影響し得る。ベンダーの指定、契約上の制約、モデルアクセス方針は、統合作業が始まった後でも導入計画を変える可能性がある。

防衛請負業者が最も明確な影響を受けるが、規制産業も注意を払うべきである。金融、医療、インフラ、サイバーセキュリティのアプリケーションには、機密データや重大な結果をもたらす自動化アクションが関わる場合がある。

企業チームは、連邦政府との接触を認証と解釈すべきではない。当局者との会合は、モデルが統一された政府安全性テストに合格したことを意味しない。

また、政治的対立を完全な技術評価と解釈すべきでもない。サプライチェーン上の懸念には、モデルの性能を超えた契約的、制度的、運用上の要因が含まれ得る。

購入者には、セキュリティ、信頼性、プライバシー、コンプライアンス、ベンダーの継続性について、それぞれ別個の証拠が必要である。公共政策の動向は、このより広範な検討における一つの入力にすぎない。

開発者には別の懸念がある。共通の安全性ルールは、高度なモデルのリリース方法、特定の能力を公開するインターフェース、アクセスに伴う監視のあり方を変える可能性がある。

より強力な評価は、機能を遅らせたり、高リスク機能を制限したりするかもしれない。一方で開発者に明確な期待を与え、リリース後の急な政策変更を減らす可能性もある。

ナレッジワーカーは、製品設計を通じてこの問題を間接的に経験する。より制限的なツール権限、追加の承認、監視は、有害または偶発的な行為を抑えながら、ワークフローを遅らせる可能性がある。

アシスタントが非公開文書、コミュニケーション、運用タスクを扱うようになるほど、こうした制御は重要になる。パーソナルナレッジベースを維持することは、根拠のないモデル出力に依存するのではなく、ユーザーが情報源の文脈を保つ助けとなる。

この重要性は破局的なシナリオにとどまらない。同じガバナンスの選択が、誰がモデルの振る舞いを検査し、失敗を記録し、自動化された判断に異議を申し立てられるかを決定する。

OpenAI、Google、Anthropicには、議員が基準を課す前に基準を確立するインセンティブがある。しかし、競合他社が参加を拒めば、自主的な足並み合わせは脆弱なままだろう。

そのため、政府の関与を避けることは難しい。重要な問いは、当局者が限定的な技術監督を支持するのか、モデル開発に対するより広範な制限を支持するのかである。

AnthropicのAI安全性会合は、最終的な答えを示していない。しかし、政権が、開発の減速を求める最も強い主張の一つを展開してきたCEOを擁する研究所との関与を続けていることは示している。

その会合が政策を変えるかを示す3つのシグナル

次の段階は、公式な措置、共有された評価基準、そして公の信頼表明ではなくAnthropicの防衛分野での立場によって測るべきだ。

第1のシグナルは、フロンティアモデルを対象とした連邦政府の書面による試験フレームワークだ。有意義なフレームワークであれば、対象となる能力、評価者のアクセス、報告義務、危険な結果への対応を定義するはずだ。

こうしたフレームワークが登場すれば、火曜日の協議が実務的な監督に寄与したという見方が強まるだろう。測定可能な要件を伴わない自主的な文言だけでは、その解釈は弱まる。

第2のシグナルは、Anthropic、OpenAI、Google DeepMindによる正式な安全性コミットメントだ。重要なのは、各社が指定された能力を展開する前に、比較可能な独立評価を受け入れるかどうかである。

執行力を持たない標準化団体でも、情報共有を支える役割は果たせる。しかし、ある参加者がより迅速なリリースを望む際に生じるインセンティブの問題は解決できない。

第3のシグナルは、国防総省によるAnthropicの扱いだ。サプライチェーン上の指定が撤回、改定、または正式に正当化されれば、Lutnick氏の関係修復が政権全体に及んでいるかどうかが明確になる。

指定が変更されないままであれば、この会合は政策のリセットというより、継続する対立の管理に見えるだろう。公表された解決策は、Anthropicと防衛当局者がより明確な条件で合意したことを示す。

読者はまた、こうしたシグナルにおける進展と包括的なAI法を区別すべきだ。議会がより広範な規制制度で合意する前でも、政府機関と研究所は試験手順を整備できる。

この漸進的な道筋の方が、より現実的である可能性がある。一方で、調達、輸出、サイバーセキュリティ、自主基準がそれぞれ別個に発展する、断片化された構造を生む可能性もある。

AnthropicのAI安全性会合が重要なのは、対立する立場にある当局者が共通のルールへと歩み寄れるかを試したからだ。その意義は、まだ公表されていない文書と決定に左右される。

開発者と企業の購買担当者にとって、実務的な対応は、これらの決定を追跡し、柔軟性を維持することだ。高リスクの導入を拡大する前に、モデルへのアクセス、安全性文書、ベンダー制限、契約上の退出オプションを見直すべきである。

中心となる問いは、いまや具体的だ。ワシントンは対立を招いた会合を透明な評価基準へと転換するのか、それとも各政府機関が相反するシグナルを送り続ける一方で、研究所に調整を委ねるのか。