Joe LonsdaleのAI規制批判、Anthropicの安全性キャンペーンに圧力
Joe Lonsdaleは、自身もAnthropicに投資しているにもかかわらず、主要AI企業が実存的リスクへの警告を政策に影響を及ぼすために利用していると非難した。この批判により、Joe LonsdaleとAI規制をめぐる議論は、安全性、競争、政治的権力をめぐる直接的な対立へと変わった。
9月25日にオースティンで開かれたReuters Momentum AIイベントで、LonsdaleはAnthropicとOpenAIに近い人々を標的にした。外部のアドボカシー団体への支援が、少数の有力企業によるAI統治ルールの形成を後押ししかねないと主張した。
この批判は、Anthropic CEOのDario Amodei、OpenAI CEOのSam Altman、Elon Muskが高度なシステムの開発をより慎重に進めるよう求めるなかで出された。彼らの警告は、能力を増すモデルに対して安全対策が後れを取る可能性に焦点を当てている。
Lonsdaleは、あらゆるAIリスクを退けたわけではない。安全性への懸念は現実のものだと述べ、Anthropicの技術力を称賛した。より限定的な主張は、恐怖に駆動された規制が、すでに最も高性能なモデルを支配している企業を固定化しかねないというものだった。
この違いは重要だ。現在、両陣営はAIが深刻な害をもたらし得ることを認めている。対立しているのは、何を許容できないリスクと定義するのか、政府がどう対応すべきか、そしてコンプライアンスコストが公衆を守るのか既存大手を守るのかという点である。
Joe LonsdaleのAI規制批判は市場支配力を標的にする
Lonsdaleの中心的な主張は、AI安全性キャンペーンが市場支配戦略としても機能し得るというものだ。
Reutersの報道によると、Lonsdaleは主要AI企業による現在の提案を危険だと表現した。寡占企業が政府政策を支配することを許してはならないと警告した。
彼の批判は、一段と強い規制を訴える外部団体にも部分的に向けられている。こうした組織は研究を委託し、専門家を組織し、法案を推進し、有権者が技術的リスクをどう解釈するかに影響を与えられる。
そのような活動自体が不適切というわけではない。企業は自社製品、顧客、法的責任に関わる政策論争に日常的に参加している。最先端AIの開発者は、多くの公的機関に欠けている技術的知見も有している。
懸念が生じるのは、技術的専門性と資金面での影響力を分けて考えることが難しくなったときだ。企業はリスクを誠実に特定しつつも、自社の事業モデルに有利なルールを支持することができる。
大規模な研究所は安全性チームを維持し、評価を委託し、コンピューティング基盤を確保し、広範な開示を準備できる。より小規模な開発者は、自らのシステムのリスクが低い場合であっても、同じ義務に対応するのに苦労する可能性がある。
したがってLonsdaleの立場は、AI規制を規制の虜化と結び付ける。規制の虜化とは、公共の利益のために設計されたルールが、次第に本来監督すべき組織に奉仕するようになる現象を指す。
彼とAnthropicの関係は、この批判をより注目すべきものにしている。Reutersは彼を同社の小規模投資家と報じる一方、彼はAmodeiとAnthropicの実績も称賛した。
この組み合わせにより、この論争は単純な親企業・反企業という枠組みには収まらない。LonsdaleはAnthropicの商業的・技術的成果を否定せずに、その安全性アジェンダがもたらす政治的帰結を問うている。
彼には政策論争の反対側における利害もある。8VCの創業者として、アクセスしやすい市場と拡大への障壁の少なさから恩恵を受けるスタートアップを支援してきた。
Lonsdaleは別途、より速いAI開発と軽い規制を支持する団体も支援している。つまり彼の批判も、外部の審判ではなく、影響力をめぐる競争の参加者によるものだ。
これは彼の警告を無効にするものではない。AI規制をめぐる議論が、資本、政治的関係、そして競合するリスク論を持つ組織化された連合間の争いになったことを示している。
Anthropic側の連合は、破局的脅威、独立評価、透明性、政府による執行を重視する。対抗する連合は、競争、国家的な強さ、迅速な展開、規制権限の集中に対する制約を重視する。
難しい問いは、どちらか一方に商業的利益があるかどうかではない。両方にある。問われるのは、彼らが提案するルールが証拠に見合ったものであり、競合他社にも開かれているかどうかだ。
ルールは正当な危険に対処しながらも、既存大手に優位性を与え得る。逆に、反規制キャンペーンは競争を擁護しつつも、深刻な危険を十分に管理しないままにする可能性がある。
Joe LonsdaleによるAI規制批判が重要なのは、政策立案者に両方の可能性を同時に評価するよう迫るからだ。安全性に関する主張には技術的な精査が必要であり、規制設計には経済的な精査が必要となる。
企業が能力の閾値、収益基準、展開制限を提案する際、この議論は特に重要になる。それぞれの境界が、どの開発者が監査、罰則、政府介入の対象となるかを決める。
こうした境界は、透明性のある証拠と独立した検証に基づくべきだ。最大規模の研究所や、その最も声高な反対者だけの選好に依存すべきではない。
Anthropicは実効性ある政府権限を求める
Anthropicは企業に自主的な約束を求めているだけではない。危険な展開に対して政府が執行可能な権限を持つことを求めている。
同社のAdvanced AI Frameworkは、最先端AI開発者に対し、テスト、公開透明性、独立評価、より強力なセキュリティ要件を提案している。
また、政府は破局的な害をもたらす重大なリスクを抱えるモデルを阻止または抑止できるべきだとしている。提案されている罰則は世界全体の年間収益に連動し、違反を繰り返した場合には段階的に重くなる。
Anthropicは、相当な計算量と財務上の閾値によって最先端システムを定義している。その枠組みは、計算作業量の指標である10²⁵回を超える浮動小数点演算で訓練されたモデルを対象とする。
財務上の条件も適用される。同提案は、AI関連収益が5億ドルを超える企業、またはAI研究支出が10億ドルを超える企業を特定している。
これらの閾値は、規制の虜化への懸念に対するAnthropicの回答を支えるものだ。最先端モデルに関する義務を、すべてのスタートアップ、研究グループ、従来型ソフトウェア企業に適用しないよう設計されている。
この枠組みは4つのリスク分類に焦点を当てる。生物学的悪用、サイバー攻撃、人間による制御の喪失、そして他の危険な能力を加速させる自動化AI研究を扱う。
Anthropicは、開発者がリリース前にシステムを評価し、その結果の要約を公開すべきだと主張している。定期的なリスク報告書と、機密性の高い内部証拠に対する独立した検証も支持している。
同社のResponsible Scaling Policyは、リスク報告書を、モデル能力、脅威シナリオ、保護措置、残るエクスポージャーを結び付ける評価と説明している。同社は3〜6か月ごとに公開する計画だ。
この構造には説得力のある論理がある。すべてのソフトウェアを同程度に危険と扱うのではなく、実証された能力とリスクに応じて義務を強化する。
しかし、閾値に基づく規制には常に境界の問題がある。開発者は測定方法に異議を唱える可能性があり、技術の進歩によって固定された閾値が時代遅れになることもあり得る。
計算量の上限は、複数のモデル、ツール、外部データソースを組み合わせたシステムを見逃す可能性もある。こうした組み合わせは、特に大規模な単一の訓練実行なしでも、重要な運用能力を生み出し得る。
財務上の閾値は別の複雑さをもたらす。閾値未満の開発者でも危険な特化型システムを公開し得る一方、大企業は特定のモデルの実際のリスクとは無関係な義務を負う可能性がある。
これらの懸念は、Anthropicの枠組みが自己利益的だと証明するものではない。政策設計は、同社の脅威評価を受け入れるだけで終わらせてはならないことを示している。
独立した専門家には、能力に関する主張と安全性に関する主張の双方を検証するのに十分な証拠へのアクセスが必要だ。規制当局にも、規制対象企業に全面的に依存しない技術的能力が必要となる。
Anthropicは外部評価の必要性を認めているが、実務上の独立性を確保することは依然として難しい。有資格の評価者は研究所で働いていたり、同社のコンサルタントを務めていたり、資金提供を求めていたり、管理されたモデルへのアクセスに依存していたりする可能性がある。
政府権限にはそれ自体のトレードオフがある。危険な展開を止める権限は深刻な害を防ぎ得る。同じ権限が乱用され、政治化され、当初の目的を超えて拡大される可能性もある。
Anthropicは、制限措置は政府の行き過ぎを避けるべきだとしている。同社の枠組みには、執行範囲を狭めることを意図した保護措置が盛り込まれている。
それでも同社は、透明性だけでは不十分だとも主張する。この立場により、Lonsdaleとの対立点は明確になる。
Lonsdaleは、極端なシナリオによって正当化される規制が制度的支配を強化すると懸念する。Anthropicは、結果が不可逆的になり得るリスクを自主的な約束では管理できないと考えている。
両方の主張には検討の価値がある。投資家、経営者、研究者、政府当局者のいずれによるものでも、それだけで立証済みと扱うべきではない。
政策上の検証は具体的であるべきだ。規制当局は、測定対象の能力、害の証拠、必要な緩和措置、決定に異議を申し立てる手段を明確にする必要がある。
これらの要素がなければ、「破局的リスク」は伸縮自在な政治的表現になり得る。これらがあれば、規制は恐怖の表現ではなく、検証可能なプロセスとなり得る。
安全性をめぐる議論は今や政治資金の競争になっている
AIガバナンスは、もはや研究論文や企業の安全性チームだけに閉じたものではない。選挙と立法への影響力をめぐる組織的な競争になりつつある。
Axiosの分析は、2026年の選挙サイクルにおいて米国のAI政策を形作ろうとする、資金力のある複数の組織について説明した。
Leading the Futureは、迅速な開発と軽い規制を支持している。Axiosによると、OpenAI共同創業者のGreg Brockman、Lonsdale、Andreessen Horowitz、Perplexityが資金支援者に含まれていた。
同団体は1億2,500万ドル超を調達したとしている。関連組織には、開発推進の政策アジェンダに沿う候補者を支援する政治行動委員会が含まれていた。
安全性を重視する側では、AnthropicがPublic First Actionに2,000万ドルを拠出すると発表した。同組織は透明性、より強力な監督、AI安全性要件を訴えている。
Metaは、負担が重いとみなす州法に反対する別の政治団体を支援してきた。その結果は、安全性の擁護者とテクノロジー企業の単純な一対一の戦いではない。
テクノロジー企業はこの競争のあらゆる場所に存在している。より強い規制を支持する企業もあれば、反対する企業もあり、管轄区域ごとに異なるルールを支持する企業もある。
この政治支出は、Lonsdaleの批判に事実上の背景を与える。AI企業とその投資家は、組織的なアドボカシーを通じて、自らの業界を統治するルールを形作ろうとしている。
しかし、同じ証拠は彼の立場を複雑にもする。Lonsdale自身も、政策への影響力を求める競合ネットワークに参加している。
したがって主要な対立は、業界の影響力と手つかずの民主的プロセスとの対立ではない。ある業界連合と別の業界連合の対立であり、政策立案者と有権者はその主張を判断するよう求められている。
実存的リスクという表現には、特に強い政治的影響力がある。完全な確実性を待つこと自体が無責任に見えるほど深刻な被害を指すためだ。
この枠組みは、予防的なテスト、情報開示の義務化、導入制限、あるいは政府への緊急権限付与を正当化し得る。一方で、差し迫った被害を背景へ押しやる可能性もある。
現在のAIシステムはすでに、詐欺、差別、プライバシー、労働の代替、サイバーセキュリティ、信頼性の低い自動意思決定に関する懸念を生んでいる。こうした被害は、人類絶滅のシナリオよりも観察しやすい。
しかし、短期的なリスクと破局的リスクは相互排他的ではない。健全な政策は、測定可能な現在の被害に対処しつつ、まだ完全には現れていない能力にも備えられる。
危険なのは、遠い将来のシナリオが評価を免れるようになる場合だ。証拠を求めるあらゆる要求が無謀さとして扱われれば、安全性をめぐる議論は政治的に反証不能になる。
逆の失敗もあり得る。不確実性が何もしない理由になれば、政府は危険な能力が広く利用可能になるまで待つことになるかもしれない。
2026年の安全性評価は、制御喪失リスクの可能性、性質、発生時期を、異例なほど曖昧だと説明した。この報告書には100人を超える独立専門家が助言した。
同評価は、関連する能力の初期的な兆候は見つかったものの、制御喪失を可能にする水準には達していないとした。この結論は、無条件の警戒も無条件の安心も支持しない。
政策は、義務を観測された証拠と結び付けるべきことを示唆している。より強い規制を発動する前に、生物学、サイバー、自律性、複製に関する具体的な能力を評価すべきだ。
その過程では、不確実性も開示すべきである。モデルは統制されたテストでは優れた性能を示しても、導入後には予測不能に失敗するかもしれない。また、劇的な実験室での結果も再現が難しい可能性がある。
政治キャンペーンは、そこまでの留保をほとんど報いない。絶滅や経済的競争を軸にしたメッセージは、条件付きのリスク評価より伝えやすい。
これは有権者と立法者に圧力をかける。彼らは、最も強い公開メッセージと、最も強い根拠となる証拠を切り分けなければならない。
小規模な開発者にも圧力がかかる。彼らは政策立案者、機密の脅威情報、あるいは代替的な規制設計を広める資金へのアクセスを欠く場合がある。
政策形成には、最先端の研究所やベンチャー投資家以外の代表も必要だ。独立した科学者、市民社会団体、セキュリティ専門家、労働者、スタートアップ、影響を受けるコミュニティはいずれも関連する知識を持つ。
そうでなければ、AIガバナンスをめぐる争いは、まさにLonsdaleが恐れるものになり得る。すなわち、どの富裕な内輪がルールを書くかをめぐる、富裕な内輪同士の競争だ。
実存的なAIリスクは現実だが、深い不確実性を伴う
Lonsdaleはもっともなガバナンス上のリスクを指摘しているが、彼の主張は破局的なAI警告が捏造されたことを立証してはいない。
AIシステムは、コーディング、ツール利用、サイバーセキュリティ、自律的なタスク完了において、より強い能力を獲得してきた。こうした能力は実際の利益を生む一方、深刻な悪用につながるもっともな経路も生み出す。
Anthropicは、生物学的脅威、サイバー作戦、制御喪失、自動化された研究を主要な破局的リスクの分類として挙げている。各分類には不確実性があるが、概念的に不可能なものはない。
サイバーリスクは、現在との最も明確なつながりを示す。高性能なモデルは、防御側による脆弱性の発見、不慣れなコードの解説、修正対応の優先順位付けを支援できる。
同じ機能は、攻撃者によるシステム調査や侵入の一部自動化にも役立ち得る。そのため、モデルが人間レベルの汎用知能に近づく前から、アクセス制御と監視が重要になる。
生物学的リスクを公に測定するのはより難しい。関連評価そのものが機微な情報を含む可能性があり、企業や政府が開示できる内容を制限する。
この秘匿性は、実際の監督上の問題を生む。政策立案者は、独立した検証に十分な公開証拠がないまま、警戒すべき結論を受け取る可能性がある。
制御喪失のシナリオはさらに不確実だ。通常は、システムが与えられたタスクを超えた目標を追求したり、安全策を回避したり、許可なく資源を得たりする状況を含む。
統制されたテストでは、人工的な条件下でモデルが予期しない行動を取る例が示されている。こうした結果は注目に値するが、通常の導入環境での行動を自動的に予測するものではない。
Associated Pressは、AIによる破局の時期や可能性について、専門家の間に広く受け入れられた推定値はなお存在しないと報じた。この合意の欠如は、双方が用いる表現に反映されるべきだ。
安全性の擁護者は、争いのある予測を確定した結果として表現すべきではない。規制緩和の擁護者も、不確実性を根底にあるリスクが架空である証拠として扱うべきではない。
Amodeiが、インターネット全体で活動する相互接続されたエージェントについて警告した後、Anthropicの立場は切迫感を増した。彼は、そのようなシステムが広範な能力を持つ前に、安全策が追いつかなければならないと主張した。
OpenAIのAltmanも、開発ペースを抑え、開発者間の連携を強めるよう求めた。これらの発言は、業界全体に懸念が広がっているという印象を強める。
同時に、企業が協調的な公開警告を通じて政策上の期待を形成し得るというLonsdaleの疑念も支持する。同じ発言が、誠実な安全性判断であると同時に、戦略的に有用なメッセージであることもあり得る。
商業的インセンティブは一方向には働かない。企業は競合を圧迫するルールから利益を得るかもしれないが、安全規制によって導入が遅れれば収益も失う。
どちらの効果がより重要かについて、経営陣が心から意見を異にすることもある。同じ企業内の異なるチームが競合する見解を持つこともある。
投資家も同様の緊張関係に直面する。ポートフォリオ企業の成長を望む一方で、重大な安全性事故は価値を破壊し、責任追及を招き、より厳しい規制を引き起こし得る。
最も安全な分析的アプローチは、3つの主張を分けることだ。第一に、高度なAIはもっともな破局的リスクを生む。第二に、その確率と時期は依然として極めて不確実である。
第三に、規制を推進する企業は、自らが支持するルールから戦略的優位を得る可能性がある。これらの主張のいずれかを受け入れても、他を否定する必要はない。
したがって、政策には不確実性の下でも機能する仕組みを含めるべきだ。要件は、テストされた能力、導入文脈、アクセス水準、悪用の証拠に応じて拡大できる。
ルールには改定の余地も必要だ。2026年に妥当に見える閾値が、モデルアーキテクチャや計算効率の変化後には無関係になる可能性がある。
独立した再現検証は不可欠だ。企業が危険な能力を報告した場合、承認された外部評価者が安全な条件下でその主張を検証すべきである。
規制当局は、安全性が許す限り多くの方法論を公開すべきだ。なぜテストが介入を引き起こしたのか、開発者がどのように結果へ異議を申し立てられるのかを説明すべきである。
サンセット条項は、恒久的な市場参入障壁の危険を減らせる。現在の証拠がなおそれを支持しない限り、ルールは失効するか見直しを受けるべきだ。
小規模な開発者にも、規模に見合った経路が必要だ。共有の評価インフラと標準化された報告は、不可欠な安全策を弱めずにコンプライアンスコストを下げられる。
最後に、執行は企業の属性ではなくリスクに焦点を当てるべきだ。政府はAnthropic、OpenAI、Meta、xAI、そして将来の参入者に対して、比較可能な基準を適用すべきである。
こうした保護策が実存的AIリスクをめぐる論争を終わらせることはない。しかし、どちらの陣営にとっても、不確実な予測を無制限の政治権力へ変えることを難しくする。
どちらが正しいかを示す3つの兆候
Joe LonsdaleをめぐるAI規制論争の次の局面は、政策設計、独立テスト、市場アクセスによって決まる。
第一の兆候は、立法者が検証可能な証拠に基づく能力ベースのルールを採用するかどうかだ。Anthropicの枠組みは詳細な出発点を提供するが、政府の提案はより広範な精査に耐えなければならない。
法律がフロンティアモデル、破局的被害、受け入れられない導入をどのように定義するかに注目すべきだ。曖昧な定義は、権限の拡大をめぐるLonsdaleの警告を強める。
明確な発動条件はAnthropicの主張を強める。どのテスト結果が監督を発動させるのか、どのように異議申し立てできるのかを開発者が知っていれば、ルールの信頼性は高まる。
第二の兆候は、独立評価の質だ。Anthropicのスケーリングポリシーは、モデルが定義された条件に達した際の外部審査を求めている。
決定的な問題は、審査者が実質的なアクセスを得られるかどうかだ。洗練された公開要約は、手法、失敗、緩和策、非編集の証拠の検証に代わるものではない。
評価者の独立性も保護する必要がある。政府と標準化団体は、利益相反、資金関係、アクセス制限、結論がなお不確実な領域を開示すべきだ。
危険な能力に関する再現可能な証拠は、企業が主に恐怖に依存しているという主張を弱める。不整合な、あるいはアクセス不能な知見は懐疑論を強める。
第三の兆候は、新ルールの導入後に小規模な競合企業へ何が起こるかだ。市場構造は、Lonsdaleの規制の虜化論を実践的に検証する手段となる。
コンプライアンス費用がスタートアップを阻み、既存企業の慣行を変えないままなら、政策立案者は設計を見直すべきだ。既存の企業権力を形式化するだけのルールから、社会が得るものはほとんどない。
規模に見合った要件が参入を減らさずに安全性を高めるなら、Anthropicのアプローチはより擁護しやすく見える。共有テストツールと狭く対象を絞った義務は、その均衡の実現に役立つ。
資金面の影響力にも継続的な注意が必要だ。政治組織による開示は、どの企業、投資家、経営者が各政策立場に資金を提供しているかを示し得る。
資金だけで主張の正しさが決まるわけではない。しかし、それは誰がその主張を繰り返し、法案の文言へ変換する資源を持つかを明らかにする。
読者は、AI企業が自らのリリース行動を変えるかどうかにも注目すべきだ。企業が自らに測定可能な制約を受け入れるとき、開発減速を求める声はより重みを持つ。
研究所が加速を続けながら、競合が負担できない規制を要求するなら、その不整合は見過ごしにくくなる。
逆に、自主的な一時停止は公共ルールの完全な代替にはならない。民間の約束は、経営陣、投資家、競争環境の変化によって変わり得る。
最も信頼できる仕組みは、企業によるテスト、独立した検証、公開基準、説明責任を伴う政府執行を組み合わせるものだ。それぞれの層が他をチェックする。
Lonsdaleの介入は、フロンティアAIが実存的脅威をもたらすかどうかを決着させるものではない。それは、その脅威の名の下に提案される政策をめぐる立証責任を変える。
Anthropicや他の研究所は、自らのルールが寡占を守ることなく、測定可能なリスクを対象としていることを示さなければならない。Lonsdaleとその同盟者は、より緩い規制が信頼できる高影響リスクにどう対処するのかを説明しなければならない。
開発者や企業の購入者にとって、これは単なる哲学的な対立ではない。新たなルールは、モデルの利用可能性、製品スケジュール、評価要件、実行可能な供給者の数に影響し得る。
ナレッジワーカーも利害関係者である。ガバナンスの判断は、どのAIシステムが職場に届くのか、どのような安全策を備えるのか、失敗時に誰が責任を負い続けるのかを形作る。
正しい問いは、安全性と競争のどちらがより重要かではない。政策立案者は、各制限が証拠に対応しつつ、責任ある挑戦者のための余地を維持していることを示さなければならない。
次に注目すべきは、法整備における定義、初の真に独立したリスク評価、そして小規模開発者の生存率だ。これらの兆候は、安全ガバナンスが市民を守るのか、それとも権力を集中させるのかを明らかにする。
