Politico AI 멸종 여론조사, 워싱턴의 새 안전장치 저항 속 초당적 공포 확인

Politico의 AI 멸종 여론조사에 따르면 미국 성인의 63%는 고도화된 AI가 언젠가 인류를 파괴할 위험이 적어도 보통 수준이라고 본다. 이 결과는 도널드 트럼프 대통령이 AI 위험을 사기라고 일축한 것과 정면으로 배치된다. 또한 더 강력한 시스템을 만들기 위해 경쟁하는 기업들에 정치적 압박을 가한다.

이 결과가 인류 멸종의 실제 확률을 입증하는 것은 아니다. 이는 통제되지 않는 시스템, 일자리 상실, 허위정보, 사이버 공격, 생물학적 악용에 대한 경고가 수년간 이어진 뒤 미국인들이 무엇을 믿는지를 측정한 것이다. 그러나 응답자의 48%가 고도 AI 개발을 늦추는 데 찬성했고, 31%는 계속 추진하는 데 찬성했기 때문에 정책적 대응을 무시하기는 더 어려워졌다.

분열 구도는 더 이상 단순히 AI 기업과 외부 비판자 사이의 대립이 아니다. Anthropic CEO Dario Amodei, OpenAI CEO Sam Altman, xAI CEO Elon Musk 모두 어떤 형태로든 개발 속도 완화나 더 강력한 감독을 지지해 왔다. 이제 핵심 갈등은 검증 가능한 안전장치를 요구하는 대중과 업계, 그리고 속도와 경쟁을 중심으로 구축된 연방 전략 사이에 있다.

Politico AI 멸종 여론조사가 실제로 밝힌 내용

이 여론조사의 가장 중요한 결과는 미국인들이 멸종을 예측했다는 점이 아니라, 초당적 다수가 심각한 가능성을 인식했다는 점이다.

온라인 조사는 2026년 9월 13일부터 9월 15일까지 미국 성인 2,064명을 대상으로 진행됐다. Public First가 Politico를 위해 조사를 수행했으며, 전체 오차범위는 약 ±2.2%포인트다. Politico는 9월 16일 결과를 발표했다.

응답자들은 고도 AI가 결국 인류를 파괴할 위험을 평가하도록 요청받았다. 17%는 이 결과가 거의 확실하다고 답했다. 또 다른 20%는 상당한 위험이라고 답했고, 26%는 보통 수준의 위험으로 분류했다.

이 세 집단을 합치면 Politico poll에서 널리 보도된 63%라는 수치가 나온다. 15%는 위험이 매우 작다고 봤고, 7%는 위험이 없다고 답했다. 또 다른 15%는 잘 모르겠다고 답했다.

이 분포가 중요한 이유는 헤드라인 수치가 서로 다른 세 가지 판단을 결합하기 때문이다. 멸종이 거의 확실하다고 답한 사람은 보통 수준의 위험만을 인식한 사람과 다른 견해를 갖고 있다. 따라서 이 결과는 재앙이 언제 또는 어떻게 발생할지에 관한 공동의 예측이 아니라, 폭넓은 우려를 보여준다.

정치적 세부 결과 역시 단순한 당파적 설명을 허용하지 않는다. 2024년에 Kamala Harris를 지지한 유권자의 70%는 적어도 보통 수준의 위험이 있다고 봤다. Trump 유권자 중에서는 해당 수치가 61%였다.

두 집단 모두 가장 심각한 응답인 ‘멸종이 거의 확실하다’에 17%를 기록했다. 더 큰 당파적 차이는 상당한 위험 또는 보통 수준의 위험을 선택한 응답자들 사이에서 나타났다. 그럼에도 양측 모두 다수는 위험이 거의 없거나 전혀 없다는 주장을 받아들이지 않았다.

조사는 또한 더 고도화된 AI의 개발을 늦춰야 하는지 물었다. 48%는 현재 시스템도 이미 충분히 유능하며 추가 개발에는 위험이 따른다는 이유로 중단을 지지했다. 31%는 더 고도화된 시스템이 큰 혜택을 제공할 수 있다는 이유로 개발 지속을 선호했다.

Harris 유권자는 58% 대 28%로 개발 속도 완화를 지지했다. Trump 유권자는 개발 속도 완화 찬성 44%, 개발 지속 찬성 40%로 훨씬 더 팽팽했다. 이 4%포인트 격차는 특히 하위 집단의 오차범위가 전체 여론조사의 오차범위보다 크다는 점에서 신중한 해석이 필요할 만큼 좁다.

그럼에도 결과는 정치적 제약을 드러낸다. 더 빠른 모델만을 중심에 둔 국가 전략은, 그 전략을 추진하는 행정부와 입장을 함께하는 유권자들 사이에서도 분명한 대중적 지지를 얻지 못하고 있다.

미국인들은 AI 멸종을 우려하지만, 더 가까운 피해를 더 크게 우려한다

실업, 허위정보, 개인정보 상실, 자동화 시스템 의존처럼 즉각적으로 느껴지는 우려와 함께 실존적 불안도 커지고 있다.

별도의 YouGov 조사는 Politico의 결과를 맥락 속에 놓는 데 도움이 된다. 9월 11일부터 9월 14일까지 진행된 이 조사는 18,000명 이상의 미국 성인을 포함했으며, AI가 인류를 멸망시킬 가능성을 물었다.

응답자의 절반은 그 가능성을 매우 또는 어느 정도 우려한다고 답했다. 이는 YouGov가 2023년 11월 동일한 질문을 했을 때 기록한 42%보다 높았다. 증가는 진보 성향 응답자에게 집중됐고, 보수 성향 응답자의 우려는 비교적 안정적으로 유지됐다.

두 조사에서 수치가 다른 이유는 질문과 응답 범주가 달랐기 때문이다. Politico는 응답자들에게 위험을 없음부터 거의 확실함까지 등급으로 평가하도록 했다. YouGov는 그 가능성을 우려하는지 물었다.

이 접근법들은 관련된 태도를 측정하지만 서로 바꿔 쓸 수는 없다. 어떤 사람은 자신이 걱정한다고 표현하지 않으면서도 보통 수준의 위험을 인정할 수 있다. 마찬가지로 누군가는 통계적 확률이 낮다고 믿으면서도 걱정을 느낄 수 있다.

YouGov는 또한 72%가 AI가 대규모 실업을 초래할 것을 우려한다고 밝혔다. 이는 인류 멸종에 대한 50%보다 높았다. 이 비교는 대중의 불안이 하나의 극적인 공상과학 시나리오에 대한 반응이 주된 것은 아니라는 점을 시사한다.

대신 사람들은 멸종을 더 넓은 위협의 집합 안에 위치시키는 것으로 보인다. 여기에는 일자리 상실, 제도 약화, 자동화된 기만, 의미 있는 인간 감독을 벗어나 작동하는 시스템이 포함된다. YouGov의 public opinion trend 역시 67%가 AI가 너무 빠르게 발전하고 있다고 믿는 것으로 나타났다.

이 답변들 사이의 관계는 강했다. AI가 너무 빠르게 움직이고 있다고 생각한 사람들 중 62%는 AI가 인류를 끝낼 것을 우려했다. 개발이 적절한 속도로 진행되고 있다고 본 응답자들 사이에서는 우려가 32%로 떨어졌다.

Anthropic의 의뢰로 YouGov를 통해 실시된 또 다른 대규모 조사는 2025년 말 미국인 51,993명을 대상으로 했다. 일자리 상실은 응답자의 64%가 선택한 가장 흔한 AI 우려였다. 인지적 의존이 56%로 뒤를 이었고, 허위정보는 52%에 달했다.

이 연구는 또한 AI 기업이 기술의 개발과 사용 방식을 결정하도록 신뢰한다는 응답자가 15%에 불과하다고 밝혔다. 독립 전문가들은 훨씬 더 높은 신뢰를 받았지만, 압도적인 대중 신뢰를 얻은 기관은 없었다.

이 조사는 AI 기업에서 나왔으므로, 그 프레이밍과 기관적 이해관계는 고려할 필요가 있다. 그럼에도 방법론과 이례적으로 큰 표본은 업계가 직면한 신뢰 부족을 보여주는 유용한 증거를 제공한다.

회사의 public attitudes survey에 따르면, 71%는 정부가 AI 개발과 규제에 관여하는 것을 지지했다. 지지율은 민주당원 79%, 공화당원 68%, 무당파 69%를 포함했다.

이러한 결과는 AI 개발 중단 질문이 하나의 종말론적 헤드라인보다 더 큰 무게를 지니는 이유를 설명한다. 미국인들은 먼 미래의 재앙적 위험을 이미 인식하는 피해와 연결하고 있다. 또한 외부의 감시 없이 상업적 경쟁이 이러한 위험을 관리할 것이라는 신뢰도 거의 보이지 않는다.

압박의 대상은 AI 비판자에서 AI 기업으로 옮겨갔다

최전선 연구소들은 이제 연구소 스스로 점점 더 심각한 경고를 내놓는 상황에서, 대중이 왜 더 빠른 개발을 받아들여야 하는지를 설명해야 하는 어려운 과제에 직면해 있다.

수년간 AI 개발 속도를 늦추라는 요구는 주로 학계 연구자, 시민단체, 전직 업계 종사자들로부터 나왔다. 기업들은 일반적으로 내부 테스트, 자발적 약속, 점진적인 안전 개선을 통해 위험을 관리할 수 있다고 답했다.

이 균형은 주요 경영진들이 더 신중한 속도를 요구하기 시작하면서 바뀌었다. Amodei는 9월에 모델 역량이 안전 작업이 신뢰성 있게 따라갈 수 있는 속도보다 빠르게 발전하고 있다고 주장했다. 그는 내장형 외부 평가자, 국내 공조, 그리고 궁극적인 국제 협약을 제안했다.

최전선 AI는 일반 역량의 선두에 있는 시스템을 뜻한다. 이 모델들은 코딩, 연구, 설득, 도구 사용 전반에서 점점 더 복잡한 작업을 수행할 수 있다. 이들의 광범위한 역량은 이점을 만들지만, 실패를 분리해 다루기 어렵게도 한다.

Amodei의 제안은 AI 연구의 종료를 요구하지 않는다. 대신 역량의 성장과 구체적인 안전 조건 및 독립적 검증을 연결하려 한다. 이 접근법 아래에서 개발자들은 각 역량 수준에 적합한 안전장치를 충족한 뒤 모델을 계속 발전시킬 수 있다.

그의 pacing proposal에서 Amodei는 제3자 평가자가 내부 위험 팀에 준하는 접근 권한을 받아야 한다고 말했다. 여기에는 회사 작업공간, 테스트 도구, 학습 과정에 관한 정보가 포함될 수 있다. 평가자들은 또한 회사의 편집 통제 없이 의미 있는 결과를 발표할 권한이 필요하다.

이 설계는 핵심적인 신뢰성 문제를 다룬다. 연구소는 경쟁사, 정부, 대중에게 안전성 주장을 신뢰해 달라고 요청하면서 자신의 안전성 주장을 독립적으로 검증할 수는 없다. 상업적 유인은 역량 발표, 제품 채택, 시장 선도에 보상을 제공한다.

안전 작업은 다른 시간표를 요구한다. 평가는 시간, 접근 권한, 반복 가능한 테스트, 그리고 모델이 예기치 않게 행동할 때 대응하기 위한 절차를 필요로 한다. 기업은 외부 기관이 모델을 이해하는 속도보다 더 빨리 모델을 출시할 수 있다.

OpenAI의 Altman 역시 포괄적 입법을 기다리지 않는 업계 공조를 지지했다. 그의 입장은 완전한 중단이 아니라 더 느린 진전으로서의 속도 조절을 다뤘다. Musk는 또 다른 최전선 연구소를 운영하고 있음에도 신중론에 대한 일반적 요구를 공개적으로 지지했다.

이례적인 이 합의는 모든 주요 개발자에게 압박을 높인다. Anthropic은 제안한 외부 감독이 진정으로 독립적임을 입증해야 한다. OpenAI는 지지 발언을 접근 규칙과 출시 결정으로 옮겨야 한다. xAI는 안전 경고와 자체 경쟁적 배포 일정을 조화시켜야 한다.

기업들은 엔터프라이즈 고객으로부터도 압박을 받고 있다. 기업들은 코딩, 연구, 지원, 문서 워크플로 안에 AI 에이전트를 점점 더 많이 배치하고 있다. 에이전트는 단일 응답만 생성하는 대신 단계를 계획하고 도구를 사용할 수 있는 시스템이다.

확장된 권한은 구매자의 위험 계산을 바꾼다. 챗봇 오류는 잘못된 답변을 만들 수 있다. 에이전트 오류는 사람이 알아차리기 전에 저장소, 커뮤니케이션, 데이터베이스, 네트워크 서비스에 영향을 미칠 수 있다.

따라서 엔터프라이즈 구매자는 벤치마크 점수 이상의 증거를 기대해야 한다. 관련 증거에는 접근 통제, 사고 보고, 롤백 절차, 외부 평가, 자율 행동에 대한 명확한 제한이 포함된다. 대중의 공포는 조달 기준과 직원 수용성에 영향을 미칠 때 상업적으로 중요해진다.

지식 노동자들은 관련된 선택에 직면한다. 이들은 판단력을 포기하거나 민감한 정보를 노출하지 않으면서 유용한 AI 시스템을 필요로 한다. 실용적인 personal knowledge base는 원천 자료를 체계적으로 정리하고 검토 가능하게 유지할 수 있지만, 어떤 워크플로도 인간의 검증 필요성을 없애지는 못한다.

Politico의 결과는 이러한 우려를 광범위한 정당성 시험으로 전환한다. AI 기업들은 더 이상 재앙적 위험이 기술적으로 그럴듯한지에 대해서만 논쟁하지 않는다. 일상적 혼란과 잠재적으로 극단적인 실패를 모두 예상하는 사람들로부터 자신들의 거버넌스가 왜 신뢰를 받을 만한지 보여줘야 한다.

핵심 갈등은 속도 대 검증 가능한 안전성이다

정책 논쟁의 핵심은 단순히 AI가 발전해야 하는지 여부가 아니라, 역량 향상이 일정표를 좌우하는 상황에서 안전 시스템이 신뢰성을 유지할 수 있느냐에 있다.

급속한 개발을 지지하는 이들은 잠재적인 의학적 발견, 과학 연구, 생산성 향상, 국가 안보상의 이점을 지적한다. 이러한 이점은 분명 의미가 있다. Anthropic 자체 조사에서도 질병 치료와 장애인 지원은 미국인들이 AI에 거는 주요 기대 중 하나로 꼽혔다.

속도를 옹호하는 논리는 경쟁에도 기반을 둔다. 한 미국 기업이 속도를 늦추는 동안 국내 경쟁사들이 계속 나아간다면, 신중함은 상업적 불이익이 될 수 있다. 모든 미국 연구소가 속도를 늦추는 동안 중국 개발자들이 발전한다면, 우려는 지정학적 문제로 확대된다.

이는 비공식적인 AI 개발 중단에 반대하는 가장 강력한 논거다. 자발적 자제는 참여자들이 준수 여부를 검증할 수 있고, 경쟁사들이 이를 악용하지 않을 것이라고 신뢰할 때만 작동한다. 최전선 개발은 외부인이 완전히 들여다볼 수 없는 시스템과 훈련 과정을 활용하는 민간 시설 내부에서 이뤄진다.

Amodei가 제안한 상주 평가관은 자제를 검증 가능하게 만들려는 시도다. 이 제안은 독립 검토자가 준비된 시연이 아니라 지속적인 접근권을 부여받는, 안전 민감 분야의 감독 방식에서 차용했다.

그러나 접근권만으로 문제가 해결되지는 않는다. 평가관에게는 기술적 역량, 재정적 독립성, 공개 권한, 그리고 모델이 시험을 통과하지 못했을 때의 명확한 대응 절차가 필요하다. 정부 역시 평가 실패가 배포를 막는지, 아니면 추가 내부 검토만 촉발하는지를 결정해야 한다.

경쟁사 간 조율은 법적 문제도 낳는다. 생산 제한이나 개발 일정에 합의하는 기업들은 반독점 조사의 대상이 될 수 있다. 연구소들이 실질적으로 협력하려면 정부의 승인이나 신중하게 정의된 세이프 하버가 필요할 수 있다.

국제적 검증은 더욱 어렵다. 정부는 첨단 칩과 대규모 데이터센터를 포함한 일부 물리적 투입 요소를 감시할 수 있다. 하지만 모든 알고리즘 개선, 비공개 훈련 실행, 후속 시스템을 구축하기 위한 AI의 내부 활용을 쉽게 관찰할 수는 없다.

그래서 광범위한 개발 중단 요구는 실행보다 단순하게 들릴 수 있다. 작동 가능한 시스템에는 관찰 가능한 역량에 연계된 기준점이 필요하다. 감독에 자원하는 기업뿐 아니라 마지못해 참여하는 기업에도 적용되는 결과 조치도 필요하다.

Trump 대통령은 반대의 강조점을 택했다. 그는 AI가 인류를 장악하거나 파괴할 것이라는 경고를 사기라고 일축했다. 그는 기존의 형사 및 규제 권한으로 충분하다고 주장하는 한편, 중국과의 경쟁을 새로운 제한을 피해야 하는 이유로 제시했다.

이 입장은 Politico의 AI 인류 멸종 여론조사와 직접 충돌했다. Trump 유권자 다수는 적어도 중간 수준의 멸종 위험을 인정했다. 다수는 개발 속도 완화도 선호했지만, 속도 조절에 관한 견해 차이는 비교적 크지 않았다.

행정부의 대응은 정치적 메시지와 대중의 신중함 사이의 격차가 커지고 있음을 보여준다. 또한 공화당 관계자들에게 상충하는 유인을 남긴다.

그들은 투자와 국가 역량에 연계된 가속 전략을 지지할 수 있다. 동시에 고용, 데이터센터, 에너지 사용, 기만, 통제되지 않는 시스템을 우려하는 유권자들에게 대응할 수도 있다. 이러한 압력은 익숙한 정당 구도에 깔끔하게 들어맞지 않는다.

민주당도 자체적인 모순에 직면한다. 안전 규칙을 지지하면 대중의 우려에 답할 수 있지만, 모호한 제한은 소규모 개발자의 진입 장벽을 높여 기존 기업을 보호할 수 있다. 오늘날의 기술을 기준으로 작성된 규칙은 시행 전에 시대에 뒤처질 수도 있다.

따라서 실제 정책 선택은 빠름 대 느림보다 더 구체적이다. 어떤 역량이 감독을 촉발하는지, 누가 개발자를 검사할 수 있는지, 규제기관이 어떤 증거를 받는지, 심각한 실패 뒤에 무엇이 일어나는지에 관한 문제다.

이러한 세부 사항이 없다면 AI 개발 중단은 구호에 머문다. 세부 사항이 갖춰지면 속도 조절은 실제 기업 행동을 기준으로 시험할 수 있는 거버넌스 시스템이 된다.

여론조사는 인류 멸종의 기술적 확률을 측정할 수 없다

대중의 우려는 감독에 정치적 정당성을 부여하지만, 고도화된 AI가 실제로 인류를 파괴할지 계산해 주지는 않는다.

이 한계는 조사 결과를 해석할 때 핵심으로 남아야 한다. 응답자들은 모델 아키텍처, 생물학적 위협 평가, 사이버보안 시험, 안전 연구자들의 공식 추정치를 평가한 것이 아니다. 그들은 어렵고 감정적으로도 큰 부담이 따르는 위험에 대한 자신의 인식을 보고했다.

질문 표현은 이런 응답에 강한 영향을 미칠 수 있다. 한 응답자에게 “인류를 파괴한다”는 말은 문자 그대로의 인류 멸종을 뜻할 수 있다. 다른 응답자는 이를 사회 붕괴, 대량 실업, 정치적 불안정, 또는 인간 통제력의 영구적 상실로 해석할 수 있다.

응답 범주도 또 다른 과제를 만든다. Politico는 중간 수준의 위험, 상당한 위험, 거의 확실함을 63%라는 헤드라인 수치에 합쳤다. 이는 사람들이 유의미한 위험을 인식한다는 척도로는 타당하지만, 위험 강도의 상당한 차이를 가릴 수 있다.

온라인 조사는 가중치와 패널 품질에도 의존한다. 보고된 오차범위는 조사기관의 방법론 아래 전체 표본을 둘러싼 불확실성을 설명한다. 이는 측정 오류, 오해, 무응답 편향, 하위 집단 비교의 불확실성을 제거하지는 않는다.

최근 사건들이 응답에 영향을 미쳤을 수 있다. 이 조사는 현직 및 전직 AI 연구자들의 경고, 연구소 리더들의 공개 발언, 그리고 이러한 우려를 강하게 부정한 Trump의 발언 이후 나왔다. 응답자들은 유난히 집중된 뉴스 흐름 속에서 반응했다.

그러한 시점이 조사의 타당성을 무효로 만들지는 않는다. 여론은 언제나 정보 환경 속에서 형성된다. 다만 결과를 영구적인 국가적 합의가 아니라 특정 시점의 스냅샷으로 다뤄야 한다는 의미다.

YouGov와의 비교는 이러한 신중함을 뒷받침한다. 그 조사에서는 인류 종말을 초래할 AI를 우려한다는 응답이 63%가 아니라 50%였다. 결과는 같은 방향을 가리키지만, 서로 다른 표현과 척도가 서로 다른 헤드라인 수치를 만들었다.

두 조사는 여러 폭넓은 결론에서 일치한다. 우려는 상당하다. 이는 정당 경계를 넘는다. 많은 미국인은 AI가 너무 빠르게 발전하고 있다고 생각한다. 즉각적인 경제적 위험은 멸종 시나리오만큼, 혹은 그 이상으로 관심을 끈다.

기술 전문가들 역시 파국적 위험에 대해 의견이 갈린다. 일부는 통제력 상실을 지금 개발 방향을 결정해야 할 긴급한 위협으로 본다. 다른 이들은 현재의 증거가 극단적 예측을 정당화하지 못한다고 보고, 먼 미래의 시나리오가 이미 확인된 피해로부터 주의를 돌린다고 우려한다.

현재 시스템은 이미 허위 정보를 생성하고, 사기를 가능하게 하며, 감시를 강화하고, 고용 결정에 영향을 미친다. 멸종 가능성이 현실화되지 않더라도 이러한 피해는 주목받아야 한다. 반대로 현재의 피해를 해결한다고 해서 더 자율적인 미래 시스템의 위험이 자동으로 해소되는 것은 아니다.

최근의 업계 위험 논쟁은 이러한 불확실성을 반영한다. 더 강력한 에이전트는 오용과 예측 불가능한 행동에 대한 우려를 키우지만, 실패 사례가 멸종 확률을 입증하는 것은 아니다.

책임 있는 결론은 어느 극단보다 좁다. 이 조사는 AI가 인류를 파괴할 것임을 증명하지 않으며, 대중의 두려움을 무지로 취급할 근거도 제공하지 않는다. 이는 개발자와 정책 입안자들이 불확실하지만 잠재적으로 심각한 위험을 관리하기 위한 신뢰받는 방법을 확립하지 못했음을 보여준다.

이 실패는 기술적 확률과 별개로 중요하다. 제도는 가능한 모든 재난의 확률을 알지 못해도 항공, 의약, 금융, 산업 시스템을 일상적으로 규제한다. 이들은 보고 의무, 검사, 증거 기준, 집행 가능한 운영 제한에 의존한다.

AI 거버넌스는 이들 분야 중 여러 측면에서 여전히 약하다. 관련 증거의 상당 부분은 민간 기업 내부에 머문다. 외부 연구자들은 종종 통제된 접근만 받으며, 대중은 선택적인 공개나 직원 퇴사를 통해 사건을 알게 된다.

따라서 회의적인 질문은 미국인의 63%가 위험을 정확히 계산했느냐가 아니다. 더 강력한 독립적 증거 없이 그러한 우려를 뒤집을 만큼 제도가 충분한 신뢰를 얻었느냐는 것이다.

AI 개발 중단이 현실화되는지 보여줄 세 가지 신호

다음 시험대는 대중의 불안이 또 다른 성명 발표의 반복이 아니라 접근권, 출시 결정, 또는 법률의 변화로 이어지는지 여부다.

첫 번째 신호는 Anthropic이 지속적인 내부 접근권을 가진 진정으로 독립적인 평가관을 도입하는지다. 평가관은 훈련 및 안전 과정을 검사하고, 거부된 접근을 보고하며, 불리한 결론을 공개할 수 있어야 한다.

신중하게 선별된 증거만 제공하는 제한적 시범 운영은 회사의 주장을 약화할 것이다. 실질적인 공개 권한을 포함한 지속 가능한 체계는 정부가 감독을 강제하기 전에 연구소가 검증을 수용할 수 있다는 주장을 강화할 것이다.

그다음 OpenAI, xAI, Google DeepMind, Meta는 분명한 선택에 직면하게 된다. 이들은 비교 가능한 접근권을 마련하거나, 다른 검증 가능한 모델을 제안하거나, Anthropic의 접근이 불필요하다고 주장할 수 있다. 침묵은 속도 조절에 대한 업계 합의가 운영상 합의라기보다 수사에 가깝게 보이게 할 것이다.

두 번째 신호는 안전 증거와 연결된 구체적인 출시 결정이다. 연구소는 독립 평가가 용납할 수 없는 역량이나 실패를 확인했기 때문에 결국 모델 출시를 연기하거나, 범위를 좁히거나, 수정해야 한다.

그것은 시험이 상업적 일정을 바꿀 수 있음을 보여줄 것이다. 경고와 무관하게 모든 주요 모델이 예정대로 출시된다면, 대중이 속도 조절이 행동을 바꾼다고 믿을 이유는 거의 없을 것이다.

세 번째 신호는 집행 가능한 기준점을 담은 입법 또는 규제 제안이다. 유용한 규칙은 어떤 개발자가 적용 대상인지, 어떤 역량이 검토를 촉발하는지, 평가관이 어떤 정보를 받는지, 미준수 뒤에 어떤 구제 조치가 따르는지를 정의할 것이다.

AI가 안전해야 한다는 광범위한 선언은 이 기준을 충족하지 못한다. 측정 가능한 역량과 동떨어진 포괄적 금지도 마찬가지다. 결정적인 문제는 시스템의 자율성과 중대한 도구에 대한 접근권이 커질 때 감독이 대응할 수 있느냐이다.

Washington은 안전 조율이 반독점법 및 국제 경쟁과 어떻게 조화되는지도 명확히 해야 한다. 그렇지 않으면 기업들은 공통 안전장치를 공개적으로 지지하면서도, 조율에 비용이 들기 시작할 때마다 법적 또는 지정학적 불확실성을 이유로 들 수 있다.

Politico의 AI 인류 멸종 여론조사는 이미 정치적 이해관계를 보여줬다. 성인의 63%는 적어도 중간 수준의 위험을 인정했고, 48%는 개발 속도 완화를 지지했다. 이 수치는 변할 수 있지만, 좁은 범위의 당파적 반응으로 축소할 수는 없다.

개발자, 기업 구매자, AI 사용자는 이제 약속이 아니라 행동을 지켜봐야 한다. 외부 평가관은 실제 접근권을 받고 있는가? 안전성 결과가 출시를 바꾸는가? 입법자들은 측정 가능한 의무를 만들고 있는가, 아니면 익숙한 입장만 반복하고 있는가?

이러한 질문은 또 다른 극적인 예측보다 더 나은 시험 기준을 제공한다. 제도가 검증 가능한 안전장치를 마련한다면, 유용한 개발을 멈추지 않고도 대중의 신뢰는 회복될 수 있다. 역량 경쟁이 변함없이 계속된다면, 미국인들은 새로운 경고가 나올 때마다 누구도 확실히 통제하지 못하고 있다는 증거로 볼 더 강한 이유를 갖게 될 것이다.