Anthropic과 Google 리더들, 워싱턴에 자동화된 AI에 제동 걸 방안 마련 촉구

Anthropic과 Google의 리더들은 1,200명 이상의 프런티어 AI 종사자들과 함께 이례적인 요청을 내놓았다. 자동화된 AI 개발의 속도를 늦출 수 있는 공조 방안을 마련해 달라는 것이다. 서명자에는 OpenAI, Meta, Thinking Machines, Microsoft, Mistral 등 여러 연구소의 고위 연구자들이 포함됐다. 이들이 우려하는 것은 일반적인 챗봇 도입이 아니다. AI 시스템이 인간이 평가할 수 있는 속도보다 더 빠르게, 더 강력한 후속 시스템의 설계를 돕게 될 수 있다는 점이다.

‘Pacing the Frontier’로 불리는 7월 성명은 즉각적인 중단을 요구하지 않는다. 대신 미국 정부가 첨단 AI 개발의 속도를 통제하기 위한 국제적 노력에 나서 달라고 요청한다. 주최 측은 모든 참여자가 계속 경쟁해야 한다는 압박을 받기 때문에 기업이나 국가가 단독으로는 안전하게 속도를 늦출 수 없다고 말한다.

이 구분은 중요하다. 연구자들은 워싱턴에 오늘 특정 모델의 출시를 중단하라고 요구하는 것이 아니다. 자동화된 AI 연구가 비상 상황을 만들기 전에 제도, 기술적 통제 장치, 국제 협정을 갖춰야 한다는 것이다. 이 요청은 OpenAI, Anthropic, Google, Meta 및 해외 경쟁사들을 지배하는 경쟁 논리와 집단적 위험 관리 사이의 충돌을 부각한다.

Anthropic과 Google 연구자들, 업계 전반의 경고에 합류

이 성명은 프런티어 연구소 내부의 사적인 우려를 정부 공조를 요구하는 공개 요청으로 전환한다.

7월 30일 2026년 기준으로 확인된 실시간 프런티어 성명에는 1,293명의 검증된 직원이 이름을 올렸다. 자격을 갖춘 종사자는 계속 서명할 수 있으므로 이 수치는 변동될 수 있다. 주최 측은 참여자 검증 전에 회사 이메일이나 기타 고용 증빙을 요구한다.

서명자들은 연구자, 고객, 컴퓨팅 역량, 기술 리더십을 놓고 경쟁하는 기업들에 걸쳐 있다. Anthropic의 Dario Amodei CEO와 공동 창업자인 Jared Kaplan, Jack Clark, Chris Olah, Benjamin Mann이 포함됐다. OpenAI의 수석 과학자 Jakub Pachocki와 최고연구책임자 Mark Chen도 서명했다.

Google 측에서는 DeepMind 공동 창업자 Shane Legg, 전략 책임자 Jasjeet Sekhon, AI 안전 담당 부사장 Anca Dragan이 참여했다. Meta의 수석 과학자 Shengjia Zhao와 AI 연구 담당 부사장 Dawn Song도 이름을 올렸다. Thinking Machines의 수석 과학자 John Schulman과 Safe Superintelligence CEO Ilya Sutskever는 이 문서에 추가적인 기관적 무게를 더한다.

경영진과 연구 리더들의 참여는 이 문서를 모델 개발 현장에서 먼 직원들의 항의로 치부하기 어렵게 만든다. 다만 이는 여전히 자발적으로 참여한 집단이다. 이 수치는 Anthropic, Google, OpenAI, Meta 또는 다른 어떤 기업의 전체 직원 투표를 뜻하지는 않는다.

성명에 달린 의견은 명시적으로 개인적 견해이며, 반드시 고용주의 입장을 반영하지는 않는다. 이 단서는 개인의 참여와 공식적인 기업 정책을 구분한다. 또한 서명이 어느 연구소에나 구속력 있는 약속이 되는 것을 막는다.

성명은 하나의 핵심 요청을 제시한다. 자동화된 프런티어 AI의 속도를 의도적으로 조절하기 위한 기술 및 거버넌스 수단을 개발하는 국제적 노력을 워싱턴이 지원해 달라는 것이다. 여기서 ‘속도 조절’은 감독 체계가 따라가지 못한다는 증거가 나타날 때 역량 개발을 늦출 수 있는 능력을 유지한다는 뜻이다.

그 대상은 AI 개발 전반보다 좁다. 자동화된 AI 연구는 더 나은 AI를 만드는 데 필요한 업무의 상당 부분을 AI 시스템으로 수행하는 것을 뜻한다. 여기에는 코딩 실험, 평가 설계, 소프트웨어 결함 탐색, 결과 해석, 모델 개선안 제시 등이 포함될 수 있다.

주최 측은 이 피드백 고리가 별도의 위험을 낳는다고 주장한다. 일반 사무 업무를 가속하는 AI 시스템은 생산성을 바꾼다. 반면 자기 분야의 발전을 가속하는 시스템은 주요 역량 향상 사이의 시간을 단축할 수 있다.

이 때문에 이 서한은 책임 있는 AI를 촉구하는 또 하나의 포괄적 요구보다 더 큰 함의를 지닌다. 이는 잠재적 전환점을 지목하고, 이를 넘기 전에 정부가 준비할 것을 요구한다. 서명자들은 위험한 시스템이 이미 가동된 뒤까지 준비를 미룰 수 없다고 본다.

이 요청은 워싱턴의 더 광범위한 변화 속에서 나왔다. 미국 정부는 일반적인 AI 원칙에서 직접적인 접근, 테스트, 국가안보 검토로 이동해 왔다. 이는 제도적 토대가 될 가능성은 있지만, 아직 국제적인 속도 조절 체계는 아니다.

자동화된 AI 연구가 위험을 바꾸는 이유

AI 연구의 자동화는 테스트, 공론화, 정부 대응에 사용할 수 있는 시간을 압축한다.

현재의 프런티어 모델은 이미 프로그래밍, 문헌 분석, 수학적 추론, 실험 설계에서 연구자를 돕고 있다. 이 도구들은 여전히 일관성이 부족하며, 인간 연구자들이 중요한 작업을 지휘한다. 성명은 자기 개선 시스템이 이미 존재한다고 주장하지 않는다.

대신 이러한 역량이 개발 업무의 큰 부분을 자동화할 만큼 신뢰할 수 있게 될 때 벌어질 일에 초점을 맞춘다. 연구소는 한 세대의 모델을 활용해 훈련 소프트웨어를 개선하거나 새로운 연구 방향을 찾을 수 있다. 그 결과 나온 모델은 다음 세대 개발에 더 효과적으로 기여할 수 있다.

이 과정에서 기계가 인간의 개입 없이 스스로를 재작성할 필요는 없다. 기업은 인간의 승인을 유지하면서도 각 연구 주기를 가속할 수 있다. 주기가 빨라질수록 평가자, 보안팀, 정책입안자가 낯선 행동을 연구할 시간은 줄어든다.

이 서한은 선도 기업들이 AI 연구 자동화에 가까워지고 있다고 말한다. 동시에 이 전환이 진전을 얼마나 크게 가속할지는 불확실하다는 점도 인정한다. 이 불확실성은 주장의 부수적 요소가 아니라 핵심이다.

자동화가 점진적인 생산성 향상만 낳는다면, 강력한 속도 조절 규칙은 불필요한 비용을 초래할 수 있다. 유용한 의료, 과학, 접근성, 사이버보안 응용을 지연시킬 수도 있다. 또 복잡한 요건을 충족할 만큼 이미 부유한 기업에 영향력을 집중시킬 위험도 있다.

반대로 자동화가 역량을 급격히 가속한다면, 확실성을 기다리는 것 자체가 도박이 된다. 정부는 평가 방법, 법적 권한, 국제 채널을 구축하는 데 수년이 걸린다는 사실을 뒤늦게 알게 될 수 있다. 모델 개발은 훨씬 더 빠르게 진행될 수 있다.

이러한 시점의 불일치가 ‘시간을 벌자’는 요청을 설명한다. 이 표현은 지연 자체를 목표로 삼지 않는다. 이는 새롭게 부상하는 위험을 조사하고, 보안을 개선하며, 감독을 강화하기 위한 일시적 기간을 뜻한다.

John Schulman은 자신의 서명이 공조가 필요해질 가능성에 대한 공동의 인식을 만들기 위한 것이라고 말했다. 그는 또한 미국 정부가 개입하기 전에 연구소들이 자발적으로 메커니즘 설계를 시작해야 한다고 주장했다. 그의 발언은 무조건적 중단이 아니라 준비를 지향한다.

Ilya Sutskever는 더 날카로운 경고를 내놓았다. 그는 미래의 AI가 전례 없는 조치를 요구할 것이며, 국제적 이행이 제대로 이뤄져야 한다고 강조했다. 설계가 부실한 체계는 상황을 더 악화시킬 수 있다고 그는 경고했다.

이들의 입장은 두 가지 별개의 불확실성을 드러낸다. 연구자들은 자동화된 연구가 정확히 언제 변혁적 수준에 이를지 알지 못한다. 정책입안자들 역시 이를 통제하기 위해 만든 제도가 효과적이고 정당하며 국제적으로 신뢰받는 상태를 유지할지 알지 못한다.

이것이 우려의 메커니즘이다. 더 유능한 AI는 더 빠른 AI 연구를 지원하고, 이는 다시 더 유능한 AI를 만들어 낸다. 위험은 개별 챗봇 기능이 아니라 이 순환의 속도와 예측 불가능성에서 나온다.

따라서 대중은 두 가지 성급한 결론을 경계해야 한다. 이 성명이 지능 폭발이 임박했음을 증명하는 것은 아니다. 그렇다고 정확한 가속률이 아직 알려지지 않았다는 이유만으로 이를 쉽게 일축할 수도 없다.

유용한 검증은 측정 가능한 연구 성과를 포함할 것이다. 독립 평가자들은 모델이 제한된 개입만으로 길고 새로운 연구 과제를 완수할 수 있다는 증거를 필요로 한다. 연구소가 알려진 시험에 맞춰 최적화할 수 있기 때문에 벤치마크만으로는 이 문제를 판정할 수 없다.

실제 프로젝트가 더 중요하다. 모델이 독립적으로 가치 있는 연구 질문을 찾아내고, 실험을 수행하며, 결과를 검증할 수 있다면 서명자들의 우려를 뒷받침할 것이다. 가끔 코딩에 성공하는 것만으로는 같은 주장을 입증할 수 없다.

Anthropic과 Google 연합이 마주한 공조의 함정

핵심 갈등은 안전과 혁신의 대립이 아니다. 먼저 속도를 늦추는 참여자를 불리하게 만드는 유인과 집단적 자제 사이의 충돌이다.

Anthropic과 Google 연구자들은 고용주들이 치열한 경쟁을 계속하는 상황에서도 준비가 필요하다는 데 동의할 수 있다. OpenAI, Meta, Microsoft, Mistral, Thinking Machines도 같은 긴장에 놓여 있다. 각 기업은 더 안전한 개발을 원하지만, 어느 곳도 경쟁사에 견제받지 않는 선두를 내주고 싶어 하지는 않는다.

성명은 이 압박을 기업 차원과 국가 차원 모두의 문제로 규정한다. 출시를 늦추는 연구소는 고객, 투자, 인재, 기술 표준에 대한 영향력을 잃을 수 있다. 국내 연구소를 제한하는 국가는 해외 개발사에 전략적 우위를 빼앗길 수 있다는 우려를 가질 수 있다.

이로 인해 공조의 함정이 생긴다. 모든 참여자는 심각한 위험이 프런티어 전반에서 관리될 때 혜택을 얻는다. 그러나 각 참여자는 단독 행동 시 즉각적인 비용을 부담한다.

자발적 약속은 기업들이 준수 여부를 관찰하고 측정치를 신뢰할 수 있을 때에만 도움이 된다. 프런티어 개발은 서로 다른 아키텍처, 데이터, 컴퓨팅 시스템, 내부 평가를 활용하며 비공개로 진행된다. 한 기업이 경쟁사가 비공개 감속 약속을 지켰는지 쉽게 검증할 수는 없다.

정부들도 국제적으로 같은 문제에 직면한다. 합의에는 대상 개발의 정의, 신뢰할 수 있는 모니터링, 위반에 대한 결과가 필요하다. 학술 연구, 오픈 웨이트 모델, 군사 시스템, 소규모 연구소에 대한 규칙도 마련해야 한다.

‘프런티어 AI’는 특정 시점에서 가장 유능한 모델군을 의미한다. 이 범주는 기술 발전에 따라 이동한다. 대상 시스템의 정적 목록은 빠르게 낡아 공백을 만들거나, 일반 제품까지 불필요하게 포괄할 수 있다.

첨단 훈련에는 상당한 하드웨어와 에너지가 필요하므로 컴퓨팅 모니터링은 하나의 가능한 신호가 될 수 있다. 그러나 훈련 규모가 역량과 완벽하게 대응하는 것은 아니다. 알고리즘 개선은 컴퓨팅 자원의 비례적 증가 없이도 더 강력한 결과를 만들 수 있다.

역량 평가는 또 다른 경로를 제공한다. 규제 당국은 시스템이 사이버 작전, 생물학 지원, 기만, AI 연구에서 일정 임계값을 넘을 때 더 엄격한 통제를 적용할 수 있다. 하지만 평가는 불완전한 범위, 조작, 배포 이후에만 나타나는 행동에 취약한 상태다.

워싱턴은 이미 제한적인 검토 체계로 움직이기 시작했다. 6월 행정명령은 일부 미국 연구소가 출시 전에 첨단 사이버 모델을 공유할 수 있는 자발적 절차를 만들었다. 연방 검토 세부사항에 따르면 정부 심사는 최대 30일까지 이어질 수 있다.

이 명령은 서명자들의 요청보다 범위가 좁다. 이는 특정 국가안보 역량과 자발적 참여에 초점을 맞춘다. 국가 전반에 걸쳐 자동화된 AI 연구의 속도를 조절할 일반적 권한을 마련하지는 않는다.

Donald Trump 대통령도 경쟁하는 우려를 분명히 제시했다. 그는 감독이 중국과 다른 국가들에 대한 미국의 우위를 방해하는 것을 원하지 않는다고 말했다. 워싱턴이 일부 국내 검토를 받아들이더라도, 이 입장은 국제적 요청을 정치적으로 어렵게 만든다.

미국은 국가적 리더십을 유지하면서도 프런티어 시스템에 대한 더 강력한 가시성을 원한다. 개발자들은 가치 있는 지식재산을 노출하거나 출시 속도를 잃지 않으면서 예측 가능한 규칙을 원한다. 국제 경쟁국들은 ‘안전’이 미국의 우위를 유지하기 위한 도구가 되지 않을 것이라는 보장을 원한다.

이러한 이해관계는 왜 성명이 즉각적인 제약보다 도구를 요구하는지 설명한다. 조율된 속도 조절이 신뢰를 얻으려면 기술적 모니터링, 공동 평가, 외교 채널이 먼저 마련되어야 한다. 그렇지 않으면 속도를 늦추자는 요구는 경쟁자들 사이에 신뢰를 요청하는 데 그친다.

핵심 상충 관계는 통제와 권력 집중 사이에 있다

프런티어 AI의 속도를 늦출 수 있는 정부 메커니즘은 실질적인 위험을 줄일 수 있는 한편, 정치적 통제와 규제 포획의 새로운 기회를 만들 수 있다.

서명자들은 적절한 속도 조절 도구가 없는 세계를 묘사한다. 반면 그들이 제시한 목표는 덜 구체적이다. 성명은 누가 감속을 발동할지, 어떤 증거가 기준을 충족할지, 제한이 얼마나 오래 지속될지를 명시하지 않는다.

집행 문제 역시 미해결로 남아 있다. 국제 합의에는 참여를 거부하는 연구소에 적용할 규칙이 필요하다. 개발이 다른 곳에서 계속된다면, 미국 기업에만 한정된 통제로는 프런티어 전반의 속도 조절을 이룰 수 없다.

운영상의 세부 사항이 없다고 해서 경고의 타당성이 사라지는 것은 아니다. 짧은 공개 성명은 정책 협상에 앞서 문제에 관한 공감대를 형성하려는 경우가 많다. 그럼에도 구체성이 부족하면 독자는 비례성, 책임성, 기술적 실현 가능성을 평가할 수 없다.

한 가지 위험은 규제 포획이다. 대형 연구소들은 이미 광범위한 정책팀, 보안 인력, 정부 관계망을 보유하고 있다. 복잡한 승인 체계는 기존 기업이 규정 준수 기준을 형성하도록 허용하면서 소규모 경쟁자에게는 진입 장벽을 높일 수 있다.

속도 조절 체제는 오픈 모델로부터 폐쇄형 연구소를 보호할 수도 있다. 다운로드 가능한 시스템은 배포를 되돌리기 어렵기 때문에 정부가 이를 더 강하게 제한할 수 있다. 이는 연구에 대한 대중의 접근성을 낮추는 동시에 소수의 승인된 제공업체를 강화할 수 있다.

반대 위험도 존재한다. 오픈 모델을 면제하면 다운로드 가능한 시스템이 위험한 역량 기준에 도달할 경우 큰 허점이 남을 수 있다. 실행 가능한 모든 체계는 라이선스 방식을 증거의 대체물로 취급하지 않고 역량을 일관되게 다뤄야 한다.

시민의 자유도 또 다른 우려를 낳는다. 고도 AI 연구에는 코드, 과학적 소통, 출판이 포함된다. 광범위한 제한은 표현의 자유, 학문적 탐구, 국제 협력에 영향을 미칠 수 있다. 따라서 좁은 정의와 독립적 검토가 중요하다.

정부 재량권 역시 정치적 위험을 수반한다. 현재 검토 체계는 이미 어떤 모델이 대상이 되는지, 어떤 파트너가 조기 접근 권한을 받는지를 둘러싼 의문을 제기했다. 모호한 권한은 동맹을 우대하거나 분쟁에 연루된 기업을 처벌할 수 있다.

이 우려는 이론적인 것이 아니다. 프런티어 모델은 사이버보안, 국방, 정보, 경제 경쟁력에 영향을 미칠 수 있다. 이러한 이해관계는 감독 절차가 자발적으로 시작되더라도 비밀주의와 행정부 통제를 강하게 유인한다.

Demis Hassabis는 더 구조화된 대안을 제시했다. Google DeepMind CEO인 그는 정부 감독 아래 운영되는 업계 자금 지원 표준기구를 원한다. 그의 감시기구 제안은 자발적 테스트로 시작해 이후 의무 요건을 뒷받침할 수 있다.

Hassabis는 업계, 정부, 오픈소스 대표와 함께 독립 전문가가 참여하는 체계를 구상한다. 적용 대상 시스템은 출처나 모델 가중치의 공개 여부와 관계없이 출시 전 테스트를 받게 된다. 기준선은 역량이 발전함에 따라 바뀔 것이다.

OpenAI는 또 다른 제도적 경로를 제안했다. 자사의 거버넌스 청사진은 국가적 프레임워크, 더 강력한 연방 AI 안전 연구소, 폭넓은 정부 회복력 계획을 요구한다. 이 접근법은 단일 비상 권한보다 지속 가능한 제도를 강조한다.

이 제안들은 직원 성명보다 더 많은 세부 사항을 제공하지만, 어려운 질문은 남아 있다. 독립 전문가는 누가 임명하는가? 어떤 정보가 공개되는가? 연구소는 결정에 이의를 제기할 수 있는가? 임시 통제가 영구적인 산업 정책으로 변질되는 것을 무엇이 막는가?

가장 신뢰할 수 있는 체계는 평가를 정치적 집행과 분리할 것이다. 기업이 기준을 넘기 전에 기준선과 절차를 공개할 것이다. 또한 정기적 검토, 독립 감사, 명확한 종료 조건을 요구할 것이다.

국제적 정당성도 마찬가지로 중요하다. 미국이 설계한 절차가 스스로를 세계적 체계라고 선언할 수는 없다. 다른 정부들도 표준, 증거 검토, 집행에 실질적으로 참여해야 한다.

따라서 서명자들이 제시한 핵심 상충 관계는 “속도를 늦추거나 통제력을 잃거나”보다 더 복잡하다. 사회는 기술적 위험과 집중된 제도적 권력을 비교해야 한다. 양측 모두 안전장치가 필요하다.

성명이 입증하지 못하는 것

서명은 정보에 밝은 노동자들 사이의 심각한 우려를 보여주지만, 통제 불능 개발의 확률, 시점, 통제 가능성을 입증하지는 않는다.

1,293명의 참여자에는 프런티어 시스템을 직접 아는 연구자들이 포함돼 있다. 이는 그들의 경고를 내부 기대에 관한 가치 있는 증거로 만든다. 그러나 그러한 기대가 독립적으로 검증된 예측으로 바뀌는 것은 아니다.

이 집단은 자기선택적이다. 정렬, 보안, 평가, 거버넌스 분야에서 일하는 직원은 제품이나 인프라에 집중하는 동료보다 서명할 가능성이 더 높을 수 있다. 독자는 이 총원을 대표성 있는 여론조사로 받아들여서는 안 된다.

서명자 명단은 여러 기업의 현직 노동자를 함께 묶는다. 큰 합산 숫자는 각 고용주에서 차지하는 비중을 가릴 수 있다. 기업 규모, 직무, 직급은 겉으로 보이는 내부 지지를 해석할 때 중요하다.

성명의 핵심 전제는 신중한 표현을 사용한다. 기업들이 AI 연구 자동화에 “가까워질 수 있다”고 믿는다고 말한다. 그러나 “가깝다”를 정의하거나 예상되는 가속을 수치화하지 않으며, 그 시점을 뒷받침하는 평가 결과도 제시하지 않는다.

일부 개인 의견은 훨씬 더 강한 표현을 쓴다. 한 OpenAI 직원은 이 경쟁을 지능 폭발을 향한 치명적인 경주에 비유했다. 이 발언은 우려를 보여주지만, 성명이 공동으로 내린 사실적 결론은 아니다.

이 차이는 중요하다. 극적인 예측은 독립적인 증거가 나오기 전에 규제에 영향을 줄 수 있기 때문이다. 연구소 역시 고객, 정부, 투자자가 자사 시스템을 비범한 역량에 다가가고 있다고 볼 때 상업적 이익을 얻는다. 안전 경고와 마케팅 유인은 공존할 수 있다.

그렇다고 이 우려가 진정성이 없다는 뜻은 아니다. 직원들은 기업이 해당 기술을 고도화됐다고 묘사함으로써 이익을 얻는 동시에 그 기술을 진심으로 두려워할 수 있다. 따라서 정책은 확신, 평판, 또는 경고성 비유가 아니라 재현 가능한 증거에 의존해야 한다.

자동화된 연구 자체도 하나의 연속선상에 있다. AI는 연구 목표를 선택하지 않고도 코드 완성을 개선할 수 있다. 수개월에 걸친 프로젝트를 관리하지 않고도 벤치마크 과제를 해결할 수 있다. 결함 있는 증거를 신뢰성 있게 탐지하지 않고도 실험을 제안할 수 있다.

감속 발동 기준은 이 단계들을 구분해야 한다. 그렇지 않으면 일상적인 생산성 개선이 예외적인 통제를 촉발할 수 있다. 반대로 지나치게 좁은 정의는 각각은 크지 않은 역량들의 위험한 조합을 놓칠 수 있다.

연구 평가는 또 다른 장애물이다. 연구소는 가장 강력한 모델과 내부 데이터에 대한 접근을 통제한다. 독립 평가자는 제한된 테스트 시간, 필터링된 인터페이스, 또는 시스템 행동에 관한 불완전한 정보만 받을 수 있다.

개발자가 공개 벤치마크를 학습 대상으로 삼으면서, 이는 증거로서의 가치가 떨어진다. 기밀 테스트는 조작 가능성을 줄이지만 외부 감시를 약화시킨다. 실제 환경 시험은 더 풍부한 정보를 제공하지만 사람과 인프라를 위험에 노출할 수 있다.

성명은 또한 속도 조절이 유용한 시간을 벌 수 있다고 가정한다. 이는 정부와 제도가 그 기간을 효과적으로 활용하는지에 달려 있다. 평가, 보안, 비상 계획, 국제 외교에 대한 투자 없는 일시 정지는 같은 문제를 단지 미룰 뿐이다.

집행은 개발을 덜 눈에 띄는 환경으로 옮길 수 있다. 제한은 기업이나 국가가 학습을 숨기고, 프로젝트를 여러 법인에 분산하며, 역량을 허위로 보고하도록 부추길 수 있다. 모니터링 도구는 보편적 감시를 만들지 않으면서 회피를 예상해야 한다.

중국은 미국 정책의 핵심 지정학적 불확실성으로 남아 있다. 미국 당국자들은 일상적으로 프런티어 AI를 전략적 경쟁으로 규정한다. 모든 글로벌 메커니즘은 양측에 신뢰할 수 있는 검증과 산업 스파이 행위에 대한 보호를 제공해야 한다.

미국 연구소 직원들의 합의가 국제적 합의를 입증하는 것은 아니다. 그러나 일방적인 기업 서약이 왜 충분하지 않은지는 보여준다. 관련된 행동 단위는 단일 고용주가 아니라 프런티어 전반이다.

따라서 독자는 이 서한을 위기가 이미 시작됐다는 증거가 아니라 대비를 요구하는 목소리로 해석해야 한다. 가장 강력한 주장은 제도적 준비 상태에 관한 것이다. 세계에는 훗날 증거가 이를 요구할 경우 자동화된 AI 연구의 속도를 늦출 합의된 절차가 현재 없다.

세 가지 신호가 속도 조절의 정책화 여부를 보여줄 것이다

다음 시험대는 세 단락짜리 성명이 측정 가능한 평가, 공식 제도, 국제 참여로 이어지는지 여부다.

첫 번째 신호는 구체적인 연방 표준기구다. Hassabis는 이러한 조직이 2026년 말 전에 운영되기를 원한다. 그 설계는 워싱턴이 독립적인 기술 검토를 선호하는지, 직접적인 행정부 통제를 선호하는지를 보여줄 것이다.

신뢰할 수 있는 제안은 임명, 자금 조달, 공개, 이의 제기, 이해충돌을 정의해야 한다. 또한 기준선이 시간이 지남에 따라 어떻게 바뀌는지도 설명해야 한다. 모호한 권한은 정부 개입이 예측 가능한 감독을 만든다는 주장을 약화시킬 것이다.

의무적 참여는 중대한 전환점이 될 것이다. 6월 검토 절차는 여전히 자발적이며 특정 사이버 역량에 초점을 맞춘다. 이를 자동화된 연구로 확대하면 정부는 연구소의 개발 일정에 더 깊이 개입하게 된다.

그 변화는 성명의 영향력을 강화하겠지만, 반드시 정책의 질을 높이지는 않는다. 핵심 질문은 권한에 공개 표준과 독립적 책임성이 수반되는지다. 불투명한 절차는 기술적 불확실성을 정치적 불확실성으로 바꿀 것이다.

두 번째 신호는 실제 AI 연구 과제에서 나온 증거다. 연구소와 독립 평가자는 모델이 고립된 코딩 테스트가 아니라 장기 프로젝트 전반에서 어떻게 수행하는지 보여줘야 한다. 결과는 자율성, 새로움, 신뢰성, 필요한 인간 수정의 양을 측정해야 한다.

모델이 상당한 연구 주기를 완료한다는 증거는 사전 조율의 필요성을 뒷받침할 것이다. 긴밀한 인간 지시에 계속 의존한다면 통제 불가능한 가속이 임박했다는 주장은 약화될 것이다. 어느 결과든 정책 논의를 개선할 것이다.

성공 사례를 공개하는 것만큼 실패를 보고하는 것도 중요하다. 평가자는 중단된 실험, 조작된 결과, 보안 위반, 개입을 기록해야 한다. 선택적인 시연만으로는 자동화된 연구에 필요한 운영상 신뢰성을 입증할 수 없다.

세 번째 신호는 특히 주요 AI 생산국의 국제적 참여다. 미국만의 프레임워크로는 프런티어 전반의 속도 조절을 달성할 수 없다. 이는 국내 가시성을 마련할 수는 있지만, 자제의 지속 가능성은 여전히 경쟁국이 결정하게 된다.

초기 외교적 진전에는 포괄적 조약이 필요하지 않다. 공동 평가 방식, 사고 보고, 연구자 교류, 비상 연락 채널은 의미 있는 출발점이 될 수 있다. 제한적인 사이버 또는 생물학적 기준에 합의하면 더 폭넓은 공조를 시험할 수 있다.

유럽연합의 참여는 규제 경험과 시장 영향력을 더할 것이다. 영국, 일본, 한국, 캐나다와의 협력은 기술 역량을 넓힐 수 있다. 가장 어려운 시험대는 여전히 중국과의 관여다.

국제적 참여는 경쟁 압력이 집단적 행동을 요구한다는 서명자들의 핵심 판단을 강화할 것이다. 다른 주요 개발사를 끌어들이지 못한다면 워싱턴 주도의 속도 조절 전략이 지닌 한계가 드러날 것이다.

개발자와 기업 구매 담당자는 이러한 신호를 면밀히 지켜봐야 한다. 새로운 평가 규정은 출시 일정, 모델 접근성, 감사 의무, 조달 요건을 바꿀 수 있다. 또한 민감한 연구나 보안 업무에 어떤 시스템을 계속 사용할 수 있는지도 결정할 수 있다.

지식 노동자들도 관심을 가져야 한다. 더 빠른 AI 연구는 결국 모든 후속 모델에 영향을 미치기 때문이다. 압축된 개발 주기는 더 나은 도구를 더 빨리 제공할 수 있지만, 실패를 이해하는 데 쓸 수 있는 시간도 줄일 수 있다. 제품 팀은 프런티어 연구소가 아직 완전히 파악하지 못한 위험을 떠안을 수 있다.

조직은 모델의 행동, 승인 결정, 예상치 못한 결과에 관한 기록을 보존해야 한다. 검색 가능한 AI 지식 베이스는 팀이 모델 버전 간 사고를 비교하는 데 도움이 될 수 있다. 외부 규정이 더 강력한 문서화를 요구하기 시작한다면 내부 증거가 중요해질 것이다.

Anthropic과 Google의 연합은 감속을 이끌어내지 못했고, 그 의미를 정의하지도 못했다. 다만 신뢰할 만한 속도 조절 메커니즘이 부재하다는 사실을 더 이상 외면하기 어렵게 만들었다. 첨단 시스템을 만드는 사람들은 고용주가 단독으로 행사할 수 없는 선택지를 정부가 마련해 달라고 요구하고 있다.

향후 3개월은 이 요구가 제도로 자리 잡을지, 상징적인 서한으로 남을지를 보여줄 것이다. 공개된 기준치, 독립적인 연구 평가, 국제적 약속을 지켜봐야 한다. 이러한 요소들이 나타나지 않는다면 ‘속도 조절’은 실행상 의미 없는 설득력 있는 단어로 남을 것이다.

정책 입안자들에게 더 이상 핵심 질문은 모든 전망이 확실한지 여부가 아니다. 불확실성이 자동화된 연구가 도래하기 전에 되돌릴 수 있는 안전장치를 구축할 근거가 되는지다. Anthropic, Google, OpenAI와 경쟁사들이 마주한 더 어려운 질문은 경쟁의 대가가 커질 때에도 그 안전장치를 받아들일지 여부다.