Anthropic、AI開発ペース調整の請願を支持するも、競争にブレーキはない

Anthropicは、主要な研究所すべてに開発を続ける強い圧力がかかるなか、フロンティアAIに携わる従業員1,293人が署名した請願を支持した。CEOのDario Amodei、複数の共同創業者、上級従業員が名を連ねている。同社は、リスクが許容できない水準に達した場合、政府は自動化AI開発を減速させるための手段を準備すべきだと述べている。

この支持が重要なのは、請願が即時停止を求めていないためだ。米国に対し、意図的なペース調整を可能にする国際的な取り組みを支援するよう求めている。この違いにより、この構想は固定期間の一時停止を要求した過去の公開書簡とは一線を画す。

同時に、中心的な対立も浮き彫りになる。Anthropicは社会に緊急ブレーキが必要だと主張する一方、責任ある研究所が単独でそれを安全に使えるわけではないことも認めている。OpenAI、Google DeepMind、Meta、そのほかのフロンティア開発企業も、従業員が同じ懸念を共有しているとしても、この競争に直面している。

Anthropic、従業員の請願を会社の公式方針に

Anthropicは、開発ペース調整を巡る議論を、従業員による異議表明から経営陣が支持する公式方針へと移した。

pacing statementでは、主要AI企業はAI研究の自動化に近づいていると述べられている。署名者らは、この移行が能力開発を加速させ、社会がその結果生まれるシステムを理解・制御する能力を上回る恐れがあると警告している。

書簡の要請は限定的だ。米政府に対し、技術的・ガバナンス上の手段を開発する国際的な取り組みを支援するよう求めている。これらの手段は、参加国が自動化されたフロンティアAI開発のペースを意図的に調整するのに役立つという。

「フロンティアAI」とは、開発中の最も高性能な汎用システムを指す。「自動化AI開発」は、コード提案にチャットボットを使うことを超える概念だ。後継システムを生み出すために必要な研究・エンジニアリングのかなりの部分をモデルが担うことを意味する。

Anthropicは公式のcompany endorsementを通じて支持を確認した。この投稿によると、Amodei、複数の共同創業者、上級スタッフが請願に署名したという。同社による再帰的自己改善に関する最近の研究とも、支持を直接結び付けている。

この支持により、請願には異例の組織的重みが加わった。従業員はしばしば個人の立場で公開書簡に署名し、雇用主は中立を保てる。これに対しAnthropicは、請願の基本的な診断を自社の見解として採用した。

書簡の公表後に出た報道によれば、OpenAIもこの構想を支持した。Google DeepMind、Meta、Microsoft、Thinking Machines、および複数の組織の従業員は、個人の立場で署名した。

請願の開始後も総数は増え続けた。ウェブサイトを7月30日に確認した時点では1,293人の従業員が掲載されており、報道機関が最初に取り上げた際に報じられた約1,100人から増加していた。リストは引き続き公開されているため、この数値は固定された開始時の合計ではなく、変動する集計値を表す。

署名者には、ほかの多くの政策問題では意見が異なる研究者やリーダーも含まれる。Thinking MachinesのチーフサイエンティストであるJohn Schulmanは、この声明が必要となり得る協調について共通認識を築く助けになると述べた。Meta AIのチーフサイエンティストであるShengjia Zhaoも署名した。

Safe Superintelligenceの共同創業者Ilya Sutskeverは、いかなる介入も国際的に機能しなければならないと警告した。また、実装が不十分なら状況を悪化させる可能性も認めた。この留保こそが、請願が抱える最も深い問題を捉えている。

声明は、どの特定モデルが減速の引き金になるべきかを示していない。拘束力のある閾値、監視当局、査察制度、執行メカニズムも提示していない。緊急事態によって即興対応を強いられる前に、政府がこうした手段の構築を始めるよう求めている。

このため、Anthropicの行動は一般的な安全宣言よりも重大な意味を持つ。同社は、完全な仕組みをまだ定義していないにもかかわらず、国際的な制動システムが存在すべきだと述べている。

AnthropicのAI研究がタイミングを変えた理由

請願が今出されたのは、AIがモデル開発者を支援するだけでなく、その仕事のより大きな部分を担い始めているためだ。

Anthropicの6月の報告書、AI builds itselfは、その立場を支える根拠を示している。同社は再帰的自己改善を、自らの後継システムを自律的に設計・開発するシステムとして説明している。

Anthropicは、現行システムはまだその段階に達していないと強調する。また、完全な再帰的改善は必然ではないとも述べている。ただし、社内データは開発プロセスの自動化がますます進んでいることを示唆している。

2026年5月時点で、ClaudeはAnthropicのコードベースにマージされたコードの80％超を作成したと報じられている。Claude Codeが2025年2月にリサーチプレビューへ入る前、この割合は一桁台前半だった。

Anthropicによると、一般的な同社エンジニアは2026年第2四半期、2024年と比べて1日当たり8倍のコードをマージした。同社は、コード量が不完全な生産性指標であることを率直に注意している。行数が増えても、自動的により良いソフトウェアや8倍の価値ある仕事を意味するわけではない。

この留保は重要だ。AIは、難しい推論を同程度に増やすことなく、反復的なコード、テスト、移行作業、ドキュメントを生成できる。したがって研究所は、中心的な研究課題の進展がより遅いにもかかわらず、はるかに高い出力を報告できる可能性がある。

別の社内測定は異なる見方を示している。Anthropicの研究従業員130人を対象とした2026年3月の調査では、回答者の中央値はMythos Previewによって出力が4倍になったと見積もった。Anthropicは再び、実際の向上はおそらくそれより低いと注意を促した。

同社の最も強い根拠は、明確な目標を持つ作業に関するものだ。反復的な最適化演習の一つで、Claude Opus 4は2025年5月に平均3倍の高速化を実現した。Mythos Previewは2026年4月までに、開始時の性能のおよそ52倍に達したと報じられている。

熟練した人間の研究者は通常、その演習で4～8時間後に約4倍の改善を達成した。Anthropicは、この結果を実際のモデル訓練全般における同等の向上と解釈すべきではないと警告している。

それでもこの進展は、閉じた実験ループを示しているため重要だ。モデルがコードを変更し、実験を実行し、結果を測定して、再び試す。人間は目標と評価ルールを定めるが、各ステップを指示するわけではない。

これは完全な再帰的自己改善ではない。システムは、どの後継システムを構築すべきかを決めるのではなく、人間が選んだ目標を最適化している。Anthropicによると、モデルが判断を行い、目標を選択し、最も有用な研究方向を特定しなければならない場面には、依然として大きな隔たりがある。

しかし、完全な自律性が到来する前でも、部分的な自動化は競争を加速させ得る。実験をより速く終えられる研究所は、より多くのアイデアを試し、弱い経路を早く捨て、次のシステムの訓練を早く始められる。

同じ能力はアラインメント研究にも役立つ。アラインメントとは、モデルの振る舞いを人間の目標と制約に従わせる取り組みだ。実験の高速化は、一般的な能力と並行して、評価、解釈可能性の手法、セーフガードを改善し得る。

この二重用途がタイミングの問題を生む。高度なシステムを研究するために必要なツールは、多くの場合、それを構築するツールでもある。より優れた研究エージェントは、安全性の研究と能力の研究を同時に加速させ得る。

したがってAnthropicの主張は、制御されない知能爆発がすでに始まったというものではない。自動化研究によって各開発サイクルが実質的に短くなる前に、社会は準備すべきだというものだ。

本当の相手は協調の失敗

主な争点はAnthropic対OpenAIではない。単独行動を取る研究所を不利にする競争に対し、集団的な慎重さをどう対置するかだ。

すべてのフロンティア開発企業には、前進し続けるインセンティブがある。新モデルはユーザー、企業契約、技術人材、資本、戦略的提携を引き付ける。遅れを取れば、最終的に採用される安全基準に対する企業の影響力が低下する可能性がある。

国家間の競争も別の層を加える。米国の政策立案者は、国内企業が中国の研究所に対する優位性を維持することを望んでいる。米国の開発企業を減速させる提案には、ほかの地域の競合企業が追随するかという疑問が必ず投げかけられる。

Anthropicはこの点を直接認めている。同社の研究によると、孤立した一時停止は、より慎重さに欠ける主体に追いつく機会を与えかねない。その結果、全体的な危険を減らさないまま、先頭走者が入れ替わる可能性がある。

意味のある介入には、複数の国にまたがる資金力のある研究所が、比較可能な条件のもとで行動する必要がある。参加者は、競合相手が実際に作業を減速させたことを知る必要がある。

AIの検証は、多くの兵器計画よりも難しい。ミサイル施設には専門設備や目に見えるインフラがある。AI開発では、通常の商業目的にも使われるデータセンター、チップ、ソフトウェア、ネットワーク機器を利用する。

訓練実行は隠蔽したり分割したりすることもできる。政府には、禁止された開発と、許可された展開、評価、学術研究、小規模な実験とを区別する監視手法が必要となる。

システムには引き金も必要だ。政府は、モデルが危険なサイバー評価を通過した時点、AI研究の一定部分を自動化した時点、あるいはより長期間にわたり複雑なタスクを完了した時点で行動するかもしれない。どの選択肢も、測定と執行を巡る争いを生む。

再開のルールも必要になる。開発再開の明確な条件がない一時停止は、政治的な惰性によって恒久化する可能性がある。再開ルールが弱ければ、根本的なリスクが変わる前に参加者が開発を再開できてしまう。

最後に、引き金が引かれたかどうかを判断する当局が必要だ。研究所が自らのモデルについて唯一の判定者を務めることは、信頼性の面で難しい。国家機関は国外へのアクセスを欠く可能性があり、国際機関は交渉と資金調達に時間を要する。

これらの詳細は、請願が即時減速ではなく手段の整備を求める理由を説明している。著者らは、現時点では存在しない選択肢を作ろうとしている。

この提案は、通常の製品規制というより軍備管理の準備に近い。共有された測定、査察手順、通信経路、隠蔽に対する結果が必要となる。こうした構成要素を、急速に動く技術危機の最中に組み立てることはできない。

Anthropic自身の立場には、このトレードオフが明確に含まれている。同社は、フロンティアに近いほかの開発企業が検証可能な形でそうするなら、減速や一時停止を検討すると述べている。

この条件は妥当だが、要求水準は高い。重要な競合相手すべてが協力した場合にのみ機能するメカニズムは、一つの離脱者、一つの隠された計画、あるいは能力測定を巡る一つの不一致によって破綻し得る。

代替案も容易ではない。一方的な自制は、最も慎重な組織から最も慎重さに欠ける組織への競争上の移転になりかねない。その結果、より弱いセーフガードのもとで開発が速まる可能性がある。

請願への幅広い支持は、研究者がこの集団行動の問題を認識していることを示している。政府や企業がそれを解決したことを示すものではない。

請願はAIのブレーキではない

最も強い批判は単純だ。Anthropicは、その選択肢がどのように機能するかを具体的に示さないまま、選択肢そのものを支持している。

この書簡には、詳細な政策提案は含まれていない。ペーシングの対象となる開発活動、関係する能力しきい値、信頼できる合意に必要な国々も定義していない。

また、「ペーシング」が公開リリースの延期、トレーニング実行の制限、計算能力の制約、研究自動化の一時停止のいずれを意味するのかも明らかにしていない。これらの介入では、コストと執行要件がそれぞれ異なる。

リリースを延期すれば、研究所に評価のための時間をより多く与えられるが、内部での能力向上が必ずしも遅くなるわけではない。トレーニング制限は研究活動のより深い部分に及ぶが、侵襲的な監視を必要とする。

自動化された研究への制限は、分類上の問題に直面する。コーディング支援ツールはすでに、通常のエンジニアリング、セキュリティレビュー、モデル評価に貢献している。規制当局は、無害な支援と、後継システムの開発を大幅に加速し得るシステムを区別する必要がある。

批判者はまた、研究所が自ら管理できる活動を抑制するために、なぜ政府を必要とするのかと疑問を呈している。元Microsoft幹部のSteven Sinofskyは、自社の方向性に懸念を持つ従業員は退職するか、別の仕事を探すことができると主張した。

この批判は、請願の論理の一部を見落としている。一人の従業員や一社だけでは、複数企業による競争を止められない。それでも、自らの組織内での自主的な措置を提案せずに公的介入を求めるなら、支持者には現実の説明責任の空白があることを浮き彫りにする。

政府が行動する前に、研究所は共通の評価を公表し、AI支援研究に関する情報開示を拡充し、共同のインシデント報告を整備できる。また、直ちに開発を制限することなく、暫定的な警告しきい値に合意することも可能だ。

請願に関するSchulmanのコメントは、その方向性を支持している。彼は、米国政府が関与する前から、研究所は自主的に協調メカニズムの設計を始めるべきだと述べた。

もう一つの懸念は市場支配力に関するものだ。複雑なライセンス制度、コンピュート監視、義務的な評価システムは、すでに広範なインフラを管理する企業を有利にする可能性がある。小規模な研究所や独立研究者は、コンプライアンス対応に苦しむかもしれない。

その結果、ペーシング制度は競争を弱める一方で、最大手企業に高度なシステムの主導権を残す可能性がある。フロンティアリスクを警告する企業自身が強い商業的利害も持つため、この可能性は注意を要する。

Anthropicのより広範な政策的立場は、こうした監視を強めている。同社は、より高性能なClaudeシステムのリリースを続けながら、高度なモデルをめぐるより強力な規制を支持してきた。

この行動は、必ずしも矛盾ではない。企業は、協調された代替策が存在するまで競争的な開発を続けるべきだと考えることができる。また、競合にも等しく適用されるルールを提唱することもできる。

しかし、この構図は明白な信頼性の試金石を生む。Anthropicは、自らが望む規制が、測定可能なリスクを対象としているのであって、自社の市場地位を脅かす技術や競合を狙ったものではないことを示さなければならない。

同社のオープンウェイトモデルに関する最近の姿勢は、この緊張関係を示している。オープンウェイトのシステムでは、ユーザーがモデルパラメータをダウンロードし、変更できる。支持者は、アクセス、研究、競争、そして技術に対する国家の統制を改善すると述べている。

Anthropicは、最も高性能なオープンシステムは、リリース後に封じ込めることが難しくなり得ると主張する。同社は、オープンウェイトへの広範な制限に反対する別の業界書簡への参加を見送り、複数の大手テクノロジー企業から孤立した。

業界の政策的分裂が、Anthropicの安全性に関する主張を無効にするわけではない。ただし、「責任あるペーシング」の意味が争点になることは示している。

Meta、Nvidia、そしてオープンモデルの支持者は、ダウンロード可能なシステムを構造的に不利にするルールに抵抗するだろう。クローズドモデルを開発する研究所は、不可逆的なリリースには特別な扱いが必要だと主張するだろう。

政府は、企業に自社のビジネスモデルに沿ったルールを書かせることなく、この対立に対処しなければならない。さもなければ、安全性の枠組みは、規制当局へのアクセスが最も強いグループを優遇する産業政策になりかねない。

したがって、この請願は、実行可能な制度がすでに存在する証拠ではなく、制度設計を始めるよう求めるものとして読むべきだ。その価値は、欠けているブレーキを特定した点にある。その弱点は、それを構築するための工学的な計画が欠けていることだ。

Anthropicの立場がAIユーザーと企業に意味すること

当面の影響は、Claudeのリリーススケジュールが遅くなることではない。フロンティアシステムがどのように評価、統治、購入されるかをめぐる不確実性が高まることだ。

開発者は、この請願によって来月からモデルの改善が止まるとは考えるべきではない。これは拘束力のある義務を生まず、Anthropicも賛同に関連付けた一時停止を発表していない。

短期的な変化は政策議論に現れるだろう。政府は、評価や監視の要件を提案する際に、競合する研究所の従業員やリーダーからの公的支持を示せるようになった。

エンタープライズの購買担当者は、モデルガバナンスが調達に影響するため、こうした議論を注視すべきだ。コーディング、研究、顧客サポート、セキュリティにフロンティアシステムを統合する企業は、将来のリリースが遅延や利用制限に直面する可能性を把握する必要がある。

購入者は、モデル性能とモデルの継続性も区別すべきである。評価スコアが最も高いシステムであっても、評価、政策上の対立、セキュリティインシデントの後にアクセスが変わり得るなら、長期的な依存先として自動的に最も安全とは言えない。

チームは、モデルに依存しないワークフローを維持することで、そのリスクを低減できる。プロンプト、評価、ソース資料、意思決定記録を、単一のプロバイダーのインターフェースの外に保存すべきだ。

この実践は、モデルの挙動が変わったり利用できなくなったりしたときに重要になる。検索可能な技術ナレッジベースは、すべての判断を再構築せずに代替品を比較するために必要な文脈を保持できる。

ソフトウェアチームは、自らの受け入れテストも作成すべきだ。プロバイダーのベンチマークは、企業固有のコードベース、リスク許容度、承認プロセス、規制上の義務を捉えることはほとんどない。

Anthropicの予想どおりに自動化研究が進展すれば、更新サイクルはより管理しにくくなる。モデルが、予定されたセキュリティレビューや調達のチェックポイントの間に、意味のある能力を獲得する可能性がある。

企業は、人間による説明責任を放棄せずに、より迅速な評価プロセスを必要とする。これには、モデルの挙動のテスト、変更の文書化、承認を必要とするタスクの定義が含まれる。

ナレッジワーカーも関連する問題に直面する。高速なシステムは、チームがレビューできる量を超える分析、コード、文書を生成できる。人間による検証能力が固定されたままであれば、出力量はリスクになる。

Anthropic自身のコード統計は、この不均衡を示している。マージされたコードが8倍になっても、セキュリティ、アーキテクチャ、保守に向けられる人間の注意が8倍になるわけではない。

組織は、生成された成果物と併せて、エラー修正、レビュー時間、インシデント、下流での価値を測定すべきだ。そうしなければ、見かけ上の生産性向上が追加の検証作業を覆い隠しかねない。

セキュリティチームには、最も注意を払う理由がある。研究の自動化は防御側による脆弱性発見を支援できる一方、攻撃的な実験のコストも下げ得る。

ペーシングの仕組みは、管理された演習を通じて評価できるサイバー能力に、最終的には最初に焦点を当てるかもしれない。それは、研究所がエージェント型コーディングツールをどのようにリリースするか、あるいは最も高性能なモデルへのアクセスをどのように付与するかに影響するだろう。

個人ユーザーにとって、この請願は主にガバナンス上のシグナルだ。フロンティアシステムを開発する人々が、開発速度は避けられない自然の力ではなく、政策上の変数になったとますます考えていることを示している。

重要な表現は「時間を確保する選択肢」だ。支持者は、すべての進歩を止めるべきだと言っているのではない。測定されたリスクが、制度が適応できる速度よりも速く高まった際に、社会が対応できるべきだと主張している。

その選択肢がユーザーを守るかどうかは、設計にかかっている。透明性のある仕組みであれば、危険な移行期により多くの評価時間を生み出せる。不透明な仕組みであれば、安全性向上の独立した証拠をほとんど示さないまま、統制を中央集権化する可能性がある。

ペーシングが現実のものになるかを示す3つのシグナル

次の試金石は、Anthropicと他の支持者が、短い声明をしきい値、検証方法、国際的な参加へと転換できるかどうかだ。

第1のシグナルは、具体的な評価しきい値である。Anthropicの研究部門は、今後数カ月間に政策立案者、研究者、市民社会組織、競合する研究所を招集する計画だ。

こうした対話は、一般原則以上のものを生み出すべきである。信頼できる提案には、介入を正当化する観測可能な条件が必要だ。これには、自律的な研究能力、危険なサイバー能力、人間による修正なしでの持続的な運用などが含まれ得る。

選ばれた測定基準は、独立したレビューに耐えなければならない。Anthropicの内部生産性データは参考になるが、企業が非公開の証拠だけを用いて公共政策を確立することはできない。

外部評価者には、システム、手法、再現可能な結果へのアクセスが必要だ。また、悪用を助長する手順を公開することなく、機微な能力を扱うための明確な手続きも必要になる。

公的なしきい値は、「速すぎる」という表現を検証可能な主張に変えるため、Anthropicの主張を強めるだろう。広範な警告に依存し続ければ、その主張は弱まる。

第2のシグナルは、国際的な競合を含む検証提案である。中心的な問題は、Anthropicを停止させることではない。他のフロンティア開発プログラムも減速したかどうかを判断することだ。

実行可能な提案は、何を監視できるのか、どの主体がアクセスを得るのか、違反をどう検知するのかを説明しなければならない。商用クラウドインフラ、民間データセンター、政府プログラムを考慮に入れる必要がある。

中国はこの問題の中心にあるが、予備的な作業を回避する口実にすべきではない。米国の企業や政府機関は、完全な外交合意が存在する前に測定基準を開発できる。

拘束力のある制限を直ちに設けなくても、技術的な監視は改善できる。研究所は、大規模なトレーニング実行を登録し、標準化された評価結果を共有し、異例に高性能な研究エージェントを独立機関に報告できる。

こうした措置は、コンプライアンスを保証するものではない。しかし、検証問題が管理可能なのか、現在のインフラと根本的に両立しないのかを明らかにする助けにはなる。

米国以外の開発者による意味のある参加は、ペーシングの議論を強めるだろう。国内企業に限定された計画では、主要な競争上のリスクは解決されないままだ。

第3のシグナルは、請願の支持者による自主的な行動である。Anthropic、OpenAI、その他の研究所は、透明性の向上や評価の協調のために条約を必要としない。

彼らは、自動化AI研究の定義を公表し、警告指標を特定し、内部エスカレーション手順を説明できる。また、モデルが後継システム開発の速度を実質的に変えた場合に、それを開示することもできる。

Anthropicはすでに、ほとんどの競合他社より多くの内部証拠を提示している。次の段階では、その証拠を意思決定に結び付けるべきだ。どのような観測上の変化が、同社にトレーニング、展開、またはリリースを延期させるのかを、読者は知る必要がある。

自主的な約束は、政府による監督に取って代わるものではない。だが、支持者がペーシングを広報上の立場ではなく、運用上の安全プロジェクトとして捉えていることを示すだろう。

行動しないことは、批判者の主張を補強する。研究所は、実務的な統制へと落とし込んでいない問題の解決を政府に求めながら、競争を続けることになる。

この請願は、重要な役割を一つ果たした。自動化されたAI開発への懸念が、企業の垣根や技術職の違い、長年にわたる政策上の対立を越えて共有されていることを示したのだ。

しかし、請願が求める「ブレーキ」を実現したわけではない。共通の発動基準はなく、国際的な検証制度も稼働しておらず、協調的な一時停止を強制できる権限もまだ存在しない。

いまや、その隔たりこそが焦点となっている。Anthropicは、最先端AIの開発には意図的なペース調整が必要になる可能性を公に認めた。しかし、その支持は、次に何が求められるかについての基準を引き上げるものでもある。

公表される基準値、国際監視の提案、そして研究所による自主的なコミットメントに注目したい。これらが実現すれば、この請願はガバナンスのプロセスを始動させたことになる。実現しなければ、Anthropicは他の競合各社が加速を続けるなか、ブレーキを求めながら同じ競争にとどまり続けることになる。