PoliticoのAI絶滅世論調査、ワシントンが新たな規制を拒む中で超党派の不安を浮き彫りに
PoliticoのAI絶滅世論調査によると、米国の成人の63%が、高度なAIがいつか人類を滅ぼすリスクは少なくとも中程度あると考えている。この結果は、AIの危険性をでっち上げだとするドナルド・トランプ大統領の見方と真っ向から矛盾する。また、より高性能なシステムの開発を競う企業に政治的な圧力をかけるものでもある。
この調査結果は、人類絶滅の実際の確率を示すものではない。制御不能なシステム、雇用喪失、偽情報、サイバー攻撃、生物学的悪用に関する警告が長年にわたって発せられるなかで、米国人が何を信じているかを測定したものだ。ただし、48%が高度なAI開発の減速を支持し、継続を支持したのは31%にとどまったため、政策対応を退けることはより難しくなっている。
対立構図は、もはやAI企業と外部の批判者という単純なものではない。AnthropicのCEOであるDario Amodei、OpenAIのCEOであるSam Altman、xAIのCEOであるElon Muskはいずれも、何らかの形で開発ペースの減速または監督強化を支持してきた。現在の中心的な対立は、検証可能な安全策を求める市民と業界の声と、スピードと競争を軸に据えた連邦政府の戦略との間にある。
PoliticoのAI絶滅世論調査で実際に判明したこと
この世論調査で最も重要なのは、米国人が絶滅を予測したことではなく、超党派の多数が深刻な可能性を認識していることだ。
オンライン調査は2026年9月13日から9月15日にかけて、米国の成人2,064人を対象に実施された。Politicoの依頼でPublic Firstが調査を行い、全体の誤差幅は約2.2ポイントだった。Politicoは9月16日に結果を公表した。
回答者は、高度なAIが最終的に人類を滅ぼすリスクを評価するよう求められた。17%はその結果をほぼ確実だと回答した。さらに20%が重大なリスクとし、26%が中程度のリスクに分類した。
これらのグループを合わせると、Politicoの世論調査で広く報じられた63%という数字になる。15%はリスクが非常に小さいと考え、7%はリスクはないと答えた。さらに15%は分からないとした。
この分布が重要なのは、見出しの数字が3つの異なる判断をまとめたものだからだ。絶滅がほぼ確実だとする人と、中程度のリスクにとどまると見る人では見解が異なる。したがって、この結果が示すのは幅広い懸念であり、災害がいつ、どのように起こるかについての共通した予測ではない。
政治的な内訳も、安易な党派的説明を受け付けない。2024年にKamala Harrisを支持した有権者の70%は、少なくとも中程度のリスクがあるとみていた。トランプ支持者では、対応する数字は61%だった。
最も深刻な回答である「絶滅はほぼ確実」については、両グループとも17%だった。より大きな党派差は、重大なリスクまたは中程度のリスクを選んだ回答者の間で現れた。それでも両陣営の多数は、危険性がほとんどない、あるいは全くないという主張を退けた。
調査では、より高度なAIの開発を減速すべきかも尋ねた。現在のシステムですでに十分な能力があり、さらなる開発には危険が伴うとして48%が一時停止を支持した。より高度なシステムが大きな利益をもたらし得るとして、開発継続を選んだのは31%だった。
Harris支持者は58%対28%で開発減速を支持した。トランプ支持者はより拮抗しており、44%が減速を支持し、40%が開発継続を支持した。この4ポイント差は、特にサブグループの誤差幅が調査全体の誤差幅を上回ることから、慎重な解釈を要するほど小さい。
それでも結果は政治的な制約を示している。より高速なモデルだけを中心に据えた国家戦略には、その戦略を進める政権と足並みをそろえる有権者の間でさえ、明確な国民的支持がない。
米国人はAIによる絶滅を恐れる一方、より身近な害をさらに恐れている
失業、偽情報、プライバシーの喪失、自動化システムへの依存といった切迫した懸念と並行して、実存的な不安も高まっている。
別のYouGov調査は、Politicoの結果を文脈に位置付ける助けとなる。9月11日から9月14日に実施されたこの調査は、米国の成人1万8,000人超を対象に、AIが人類を絶滅させる可能性について尋ねた。
回答者の半数は、その可能性について非常に、またはある程度懸念していると答えた。これはYouGovが2023年11月に同一の質問をした際の42%を上回った。増加はリベラル層に集中し、保守層の懸念は比較的安定していた。
両調査で割合が異なるのは、質問と回答カテゴリーが異なるためだ。Politicoは、リスクを「なし」から「ほぼ確実」まで評価するよう回答者に求めた。YouGovは、その可能性を懸念しているかを尋ねた。
これらのアプローチは関連する態度を測定しているが、同一のものではない。中程度のリスクを認めつつ、自身を心配しているとは表現しない人もいる。反対に、統計的な確率は低いと考えながら不安を感じる人もいる。
YouGovはまた、72%がAIによる大規模失業を懸念していると明らかにした。これは人類絶滅についての50%を上回った。この比較は、市民の不安が主に一つの劇的なシナリオに対するSF的な反応ではないことを示唆している。
むしろ人々は、絶滅をより広範な脅威の一部として位置付けているようだ。その脅威には、雇用喪失、制度の弱体化、自動化された欺瞞、人間による実質的な監督の及ばないシステムが含まれる。YouGovの世論トレンドでも、67%がAIの進歩は速すぎると考えていることが示された。
これらの回答には強い関連があった。AIが速すぎるペースで進んでいると考える人のうち、62%はAIが人類を終わらせることを懸念していた。開発が適切なペースで進んでいると考える回答者では、懸念は32%に低下した。
Anthropicの委託によりYouGovが実施した別の大規模調査は、2025年後半に米国人51,993人を対象とした。雇用喪失が最も多く選ばれたAIへの不安で、回答者の64%が挙げた。認知的依存が56%で続き、偽情報は52%に達した。
この調査では、AI企業に技術の開発・利用方法を決めることを任せられると信頼していたのはわずか15%だった。独立した専門家は大幅に高い信頼を得たものの、圧倒的な国民的信頼を集める機関は現れなかった。
この調査はAI企業によるものなので、その枠組みと組織的な利害は考慮に値する。それでも、その手法と異例の大規模サンプルは、業界が直面する信頼不足について有用な証拠を提供している。
同社の市民意識調査によると、71%がAI開発と規制への政府関与を支持した。支持には民主党支持者の79%、共和党支持者の68%、無党派層の69%が含まれる。
これらの調査結果は、AI開発の一時停止を問う質問が、単一の終末論的な見出し以上の重みを持つ理由を説明する。米国人は、遠い将来の破局的リスクを、すでに認識している害と結び付けている。また、外部からの監視なしに商業競争がこれらのリスクを管理できるという見方には、ほとんど信頼を寄せていない。
圧力はAI批判者からAI企業へと移った
最先端の研究所は、自らがますます深刻な警告を発するなかで、なぜ市民がより速い開発を受け入れるべきなのかを説明する難しい課題に直面している。
長年、AI開発を減速すべきだという声は主に、学術研究者、擁護団体、元業界従業員から上がっていた。企業は通常、社内テスト、自主的な約束、段階的な安全性改善によってリスクを管理できると答えていた。
主要な経営者がより慎重なペースを求め始めたことで、この均衡は変化した。Amodeiは9月、モデルの能力が、安全性に関する取り組みが確実に追随できる速度を超えて進展していると主張した。彼は、組み込まれた外部評価者、国内での連携、そして最終的な国際協定を提案した。
最先端AIとは、汎用的な能力の最前線に位置するシステムを指す。これらのモデルは、コーディング、研究、説得、ツール利用にわたって、ますます複雑なタスクを実行できる。その広範な能力は利益を生む一方、失敗を切り分けることを難しくする。
Amodeiの提案は、AI研究の終了を求めるものではない。能力の向上を、具体的な安全条件と独立した検証に結び付けようとするものだ。このアプローチでは、開発者は各能力レベルに適した安全策を満たした後にモデルを進化させ続けることになる。
pacing proposalでAmodeiは、第三者評価者には社内リスクチームと同等のアクセスを与えるべきだと述べた。これには、企業のワークスペース、テストツール、トレーニングプロセスに関する情報が含まれ得る。評価者にはまた、企業の編集上の管理を受けずに意味のある知見を公表する権限も必要となる。
この設計は、信頼性を巡る中心的な問題に対処する。競合他社、政府、市民に対して安全性の主張を信じるよう求めながら、研究所が自らの安全性の主張を独立して検証することはできない。商業的なインセンティブは、能力の発表、製品採用、市場での主導権を後押しする。
安全性への取り組みには異なる時間軸が必要となる。評価には時間、アクセス、再現可能なテスト、モデルが予期せぬ振る舞いをした際の対応手順が求められる。企業は、外部機関が理解できるよりも速くモデルをリリースできる。
OpenAIのAltmanも、包括的な法整備を待たずに業界が連携することを支持した。彼の立場では、ペース調整は完全な停止ではなく、より緩やかな進展を意味する。Muskも、別の最先端研究所を運営しながら、慎重さを求める一般的な呼びかけを公に支持した。
この異例の一致は、すべての主要開発者への圧力を高めている。Anthropicは、提案する外部監督が真に独立していることを示さなければならない。OpenAIは、支持を表明するだけでなく、それをアクセス規則とリリース判断に落とし込む必要がある。xAIは、安全性への警告と自社の競争的な展開スケジュールを整合させなければならない。
企業はエンタープライズ顧客からの圧力にも直面している。企業はAIエージェントを、コーディング、研究、サポート、文書ワークフローにますます組み込んでいる。エージェントとは、単一の応答を生成するだけでなく、手順を計画し、ツールを使用できるシステムだ。
権限の拡大は、購入者のリスク計算を変える。チャットボットのエラーは不正確な回答につながるかもしれない。エージェントのエラーは、人が気付く前にリポジトリ、コミュニケーション、データベース、ネットワーク接続されたサービスに影響を及ぼし得る。
したがってエンタープライズ購入者は、ベンチマークのスコア以上の証拠を求めるべきだ。関連する証拠には、アクセス制御、インシデント報告、ロールバック手順、外部評価、自律的行動の明確な制限が含まれる。市民の不安は、調達基準や従業員の受容に影響を及ぼすとき、商業的な重要性を持つ。
ナレッジワーカーも関連する選択に直面している。判断力を手放したり、機密情報をさらしたりすることなく、有用なAIシステムを必要としている。実用的なパーソナルナレッジベースは、ソース資料を整理し、レビュー可能な状態に保つ助けになるが、どのようなワークフローでも人間による検証の必要性をなくすことはできない。
Politicoの結果は、こうした懸念を幅広い正統性の試金石へと変える。AI企業はもはや、破局的リスクが技術的にもっともらしいかどうかだけを議論しているのではない。日常的な混乱と、潜在的に極端な失敗の両方を予想する人々から、自らのガバナンスがなぜ信頼に値するのかを示さなければならない。
中核となる対立は、スピード対検証可能な安全性
この政策論争は、AIを進歩させるべきかどうかではなく、能力向上が開発の予定を決める状況で、安全システムが信頼性を維持できるかどうかにある。
急速な開発を支持する人々は、医学的発見、科学研究、生産性向上、国家安全保障上の優位といった可能性を指摘する。これらの利益には意義がある。Anthropic自身の調査でも、病気の治療や障害のある人々への支援は、米国人がAIに期待する主要な希望の一つに挙げられた。
スピードを求める主張は競争にも基づく。米国企業1社が減速する一方で国内の競合企業が開発を続ければ、慎重さは商業上の不利になり得る。米国のすべての研究所が減速する一方で中国の開発者が前進すれば、懸念は地政学的なものとなる。
これは、非公式なAI開発停止に反対する最も強い論拠だ。自主的な抑制が機能するのは、参加者が順守を検証でき、競合相手がそれを利用しないと信頼できる場合に限られる。最先端の開発は民間施設内で行われ、外部の人間が完全には検査できないシステムや学習プロセスを用いる。
Amodeiが提案する組み込み型の評価者は、抑制を検証可能にしようとする試みである。この提案は、独立した審査者が準備されたデモではなく継続的なアクセスを得る、他の安全性が重視される分野の監督手法を取り入れている。
しかし、アクセスだけでは問題は解決しない。評価者には技術的能力、財政的独立性、公表権、そしてモデルが試験に失敗した際の明確な対応が必要だ。政府もまた、評価の不合格が配備の阻止を意味するのか、それとも単に別の社内審査を引き起こすだけなのかを決めなければならない。
競合企業間の協調には法的な問題もある。生産制限や開発スケジュールで合意する企業は、独占禁止法上の調査対象となり得る。研究所が意味のある協調を行うには、政府の認可や慎重に定義されたセーフハーバーが必要になる可能性がある。
国際的な検証はさらに難しい。政府は先端チップや大規模データセンターなど、一部の物理的な投入要素を監視できる。しかし、すべてのアルゴリズム上の改良、秘密裏の学習実行、後継システムの構築に向けたAIの社内利用を容易に観察することはできない。
だからこそ、広範な停止要求は実施よりも簡単に聞こえる。実行可能な制度には、観測可能な能力と結び付いた閾値が必要だ。また、監督を自ら受け入れる企業だけでなく、消極的な企業にも適用される結果が必要になる。
Trump大統領は逆の重点を選んだ。AIが人類を支配したり破滅させたりするという警告をでっち上げだとして退けた。既存の刑事・規制権限で十分だと主張し、中国との競争を新たな制限を避ける理由として示した。
この立場は、PoliticoによるAI絶滅リスク世論調査と直接衝突した。Trump支持者の多数は、少なくとも中程度の絶滅リスクを認識していた。開発の減速を支持する人も相対的多数を占めたが、開発ペースをめぐる意見の隔たりは比較的小さかった。
政権の対応は、政治的メッセージと市民の慎重姿勢の隔たりが広がっていることを浮き彫りにする。また、共和党の公職者には相反するインセンティブが残る。
彼らは投資と国力に結び付いた加速戦略を支持できる。同時に、雇用、データセンター、エネルギー使用、欺瞞、制御不能なシステムを懸念する有権者に応じることもできる。こうした圧力は、従来の党派的立場にきれいには当てはまらない。
民主党にも独自の矛盾がある。安全規則への支持は市民の懸念に応えられるが、曖昧な制限は小規模開発者への障壁を高め、既存企業を保護する可能性がある。今日の技術を前提に書かれた規則は、実施前に時代遅れになることもある。
したがって、本当の政策選択は、速いか遅いかより具体的だ。どの能力が監督の発動条件となるのか、誰が開発者を検査できるのか、規制当局はどのような証拠を受け取るのか、重大な失敗の後に何が起きるのかに関わる。
こうした詳細がなければ、AI開発の一時停止はスローガンにとどまる。それらがあれば、開発ペースは実際の企業行動に照らして検証できるガバナンス制度となる。
世論調査では絶滅の技術的な確率を測定できない
市民の懸念は監督に政治的正統性を与えるが、高度なAIが実際に人類を滅ぼすかどうかを計算するものではない。
この限界は、調査を解釈する際の中心に置くべきだ。回答者は、モデルアーキテクチャ、生物学的脅威の評価、サイバーセキュリティ試験、安全性研究者による正式な推定を評価したわけではない。彼らは、難しく感情的なリスクに対する自身の認識を報告した。
質問の表現はこうした回答に強く影響し得る。「人類を滅ぼす」は、ある参加者には文字どおりの人類絶滅を意味するかもしれない。別の人はそれを、社会崩壊、大量失業、政治的不安定化、あるいは人間による制御の恒久的な喪失と解釈するかもしれない。
回答カテゴリーも別の課題を生む。Politicoは中程度のリスク、重大なリスク、ほぼ確実を、63%という見出しの数字にまとめた。これは人々が意味のある危険を認識している度合いとしては妥当だが、強度における大きな違いを隠し得る。
オンライン調査は、加重方法とパネルの質にも左右される。報告される誤差範囲は、調査会社の方法論に基づく全標本の不確実性を表す。それは測定誤差、誤解、無回答バイアス、下位集団の比較における不確実性を取り除くものではない。
最近の出来事が回答に影響した可能性がある。この調査は、現職・元AI研究者による警告、研究所のリーダーによる公の発言、そしてTrumpによるそれらの懸念の強い否定の後に発表された。回答者は、異例に集中したニュースサイクルの中で反応していた。
このタイミングによって調査が無効になるわけではない。世論は常に情報環境の中で形成される。ただし、結果は恒久的な国民的合意ではなく、ある時点のスナップショットとして扱うべきことを意味する。
YouGovとの比較も、その慎重さを裏付ける。同社の調査では、人類がAIによって終焉を迎えることを懸念する人は63%ではなく50%だった。結果は同じ方向を示すが、異なる表現と尺度が異なる見出しの数値を生んだ。
両調査はいくつかのより広い結論で一致している。懸念は大きい。党派をまたいでいる。多くの米国人はAIの進展が速すぎると考えている。目先の経済的リスクは、少なくとも絶滅シナリオと同程度に注目を集めている。
技術専門家の間でも破局的リスクについて意見が分かれている。制御の喪失を、今すぐ開発を方向付けるべき差し迫った脅威とみなす人もいる。現在の証拠は極端な予測を正当化しないと考え、遠い将来のシナリオが文書化された害から注意をそらすと懸念する人もいる。
現在のシステムはすでに、虚偽情報を生み、詐欺を可能にし、監視を強め、雇用に関する意思決定に影響を与えている。絶滅がもっともらしくならない場合でも、こうした害には注意を向けるべきだ。逆に、現在の害への対処が、より自律的な将来のシステムに由来するリスクを自動的に解決するわけではない。
最新の業界におけるリスク論争は、この不確実性を反映している。より高性能なエージェントは悪用や予測不能な行動への懸念を高めるが、失敗の事例は絶滅確率を確立するものではない。
責任ある結論は、どちらの極論よりも限定的だ。この調査はAIが人類を滅ぼすことを証明せず、市民の恐怖を無知として扱うことも正当化しない。これは、開発者と政策立案者が、不確実でありながら潜在的に深刻なリスクを統治するための信頼できる方法を確立できていないことを示している。
この失敗は、技術的な確率とは独立して重要である。制度は、あらゆる災害の確率を知ることなく、航空、医療、金融、産業システムを日常的に規制している。報告義務、検査、証拠基準、強制可能な運用上の制限に依拠している。
AIガバナンスは、これらの領域のいくつかにおいて依然として弱い。関連する証拠の多くは民間企業の内部にとどまる。外部研究者はしばしば統制されたアクセスしか得られず、市民は選択的な開示や従業員の退職を通じて事故を知る。
したがって懐疑的に問うべきなのは、米国人の63%がリスクを正確に計算したかどうかではない。より強い独立した証拠なしにその懸念を退けるほど、制度が十分な信頼を得ているかどうかだ。
AI開発の一時停止が実現するかを示す3つの兆候
次の試金石は、市民の不安が、また一巡する声明ではなく、アクセス、公開判断、法律を変えるかどうかである。
第1の兆候は、Anthropicが継続的な内部アクセスを持つ真に独立した評価者を導入するかどうかだ。評価者は、学習・安全プロセスを検査し、拒否されたアクセスを報告し、不利な結論を公表できるべきである。
慎重に選ばれた証拠だけを用いる限定的な試験運用では、同社の主張は弱まる。有意な公表権を備えた持続的な仕組みであれば、政府が監督を課す前に研究所が精査を受け入れられるという主張を強める。
OpenAI、xAI、Google DeepMind、Metaはその後、明確な選択に直面する。比較可能なアクセスを確立する、別の監査可能なモデルを提案する、あるいはAnthropicの手法は不要だと主張することができる。沈黙は、開発ペースに関する業界合意を、運用よりも修辞的なものに見せるだろう。
第2の兆候は、安全性の証拠に結び付いた具体的な公開判断である。研究所は最終的に、独立評価が受け入れられない能力または失敗を特定したことを理由に、モデルを延期、縮小、修正しなければならない。
それは試験が商業的なスケジュールを変えられることを示す。警告の有無にかかわらず、すべての主要モデルが予定どおり公開されるなら、市民が開発ペースの調整が行動を変えると信じる理由はほとんどない。
第3の兆候は、強制可能な閾値を備えた立法または規制の提案だ。有用な規則は、どの開発者が対象となるか、どの能力が審査を発動するか、評価者がどの情報を受け取るか、不順守にどのような救済措置が続くかを定義する。
AIは安全であるべきだという広範な宣言は、この基準を満たさない。測定可能な能力から切り離された包括的禁止も同様である。決定的な論点は、システムの自律性と重要なツールへのアクセスが高まるにつれ、監督が対応できるかどうかだ。
Washingtonはまた、安全性に関する協調が独占禁止法および国際競争とどのように整合するかを明確にしなければならない。そうでなければ、企業は共通の安全策を公には支持しながら、協調のコストが高くなるたびに法的・地政学的な不確実性を引き合いに出すことができる。
PoliticoのAI絶滅リスク世論調査は、すでに政治的な重要性を示している。成人の63%が少なくとも中程度のリスクを認識し、48%が開発の減速を支持した。これらの数値は変動し得るが、狭い党派的反応に還元することはできない。
開発者、企業の購入担当者、AI利用者は、今後は約束ではなく行動を見るべきだ。外部評価者は実質的なアクセスを得ているか。安全性の発見は公開判断を変えているか。立法者は測定可能な義務を整備しているのか、それともなじみのある立場を繰り返しているだけなのか。
これらの問いは、また一つの劇的な予測より優れた試験となる。制度が検証可能な安全策を生み出せれば、有益な開発を止めずに市民の信頼が回復する可能性がある。能力競争が変わらず続けば、米国人には、誰も確固として制御していないことの証拠として、あらゆる新たな警告を見るより強い理由が生じる。
