Anthropic, AI 개발 속도 조절 청원 지지…그러나 경쟁에는 아직 브레이크가 없다

Anthropic은 모든 주요 연구소가 계속 발전해야 한다는 강한 압박 속에서도 최첨단 AI 업계 종사자 1,293명이 서명한 청원을 지지했다. CEO Dario Amodei와 여러 공동 창업자, 고위 직원들이 이름을 올렸다. 이 회사는 위험이 용인할 수 없는 수준이 될 경우 정부가 자동화된 AI 개발 속도를 늦출 수 있는 수단을 준비해야 한다고 말한다.

이번 지지는 이 청원이 즉각적인 중단을 요구하지 않는다는 점에서 중요하다. 청원은 미국이 의도적인 속도 조절을 가능하게 할 국제적 노력을 지원해 달라고 요청한다. 이 차이는 해당 이니셔티브를 일정 기간의 고정된 중단을 요구했던 이전 공개서한들과 구분 짓는다.

동시에 이는 핵심 갈등을 드러낸다. Anthropic은 사회에 비상 브레이크가 필요하다고 주장하면서도, 책임 있는 연구소라면 어느 곳도 이를 단독으로 안전하게 사용할 수 없다는 점을 인정한다. OpenAI, Google DeepMind, Meta 및 기타 최첨단 개발사들도 직원들이 같은 우려를 공유하더라도 동일한 경쟁에 놓여 있다.

Anthropic, 직원 청원을 회사 공식 입장으로 전환

Anthropic은 개발 속도 조절 논의를 직원들의 이견 표명에서 경영진이 지지하는 공식 입장으로 옮겼다.

pacing statement는 선도적인 AI 기업들이 AI 연구의 자동화에 가까워지고 있다고 말한다. 서명자들은 이러한 전환이 결과 시스템을 사회가 이해하거나 통제할 수 있는 능력을 넘어 역량 개발을 가속할 수 있다고 경고한다.

서한의 요구는 제한적이다. 미국 정부에 기술 및 거버넌스 수단을 개발하기 위한 국제적 노력을 지원해 달라고 요청한다. 이 수단은 참여국들이 자동화된 최첨단 AI 개발 속도를 의도적으로 조절하도록 도울 것이다.

“최첨단 AI”는 현재 개발 중인 가장 강력한 범용 시스템을 가리킨다. “자동화된 AI 개발”은 코드 제안을 위해 챗봇을 사용하는 수준을 넘어선다. 이는 후속 시스템을 만들기 위해 필요한 연구와 엔지니어링의 상당 부분을 모델이 수행한다는 뜻이다.

Anthropic은 공식 company endorsement를 통해 지지를 확인했다. 게시물은 Amodei, 여러 공동 창업자 및 고위 직원이 청원에 서명했다고 밝혔다. 또한 이 지지를 Anthropic의 최근 재귀적 자기개선 연구와 직접 연결했다.

이 지지는 청원에 이례적인 제도적 무게를 실어 준다. 직원들은 종종 개인 자격으로 공개서한에 서명하며, 고용주는 중립을 유지할 수 있다. 하지만 Anthropic은 청원의 기본 진단을 자사의 입장으로 채택했다.

서한이 공개된 뒤 보도에 따르면 OpenAI 역시 이 이니셔티브를 지지했다. Google DeepMind, Meta, Microsoft, Thinking Machines 및 여러 다른 조직의 직원들은 개인 자격으로 서명했다.

청원 출범 후 총 서명자 수는 계속 늘었다. 웹사이트는 7월 30일 검토 시점에 직원 1,293명을 표시했으며, 이는 언론이 처음 보도했을 당시 약 1,100명에서 증가한 수치다. 명단은 계속 열려 있으므로 이 수치는 고정된 출범 시점의 총계가 아니라 변동하는 집계다.

서명자에는 다른 많은 정책 쟁점에서 의견이 엇갈리는 연구자와 지도자들이 포함된다. Thinking Machines의 수석 과학자 John Schulman은 이 성명이 잠재적 공조 필요성에 대한 공동의 인식을 형성하는 데 도움이 된다고 말했다. Meta AI 수석 과학자 Shengjia Zhao도 서명했다.

Safe Superintelligence 공동 창업자 Ilya Sutskever는 어떤 개입이든 국제적으로 작동해야 한다고 경고했다. 그는 부실한 시행이 상황을 더 악화시킬 수 있다는 점도 인정했다. 이 단서는 청원이 안고 있는 가장 깊은 문제를 포착한다.

성명은 감속을 촉발해야 할 특정 모델을 제시하지 않는다. 구속력 있는 기준, 감시 기관, 검사 체계, 집행 메커니즘도 없다. 대신 비상 상황이 정부로 하여금 즉흥적으로 대응하게 만들기 전에 이런 수단을 구축하기 시작하라고 요청한다.

이 때문에 Anthropic의 행동은 일반적인 안전 선언보다 더 중요한 의미를 갖는다. 완전한 작동 방식은 아직 정의하지 않았지만, 국제적인 제동 체계가 존재해야 한다고 회사가 말하는 셈이다.

Anthropic의 AI 연구가 시점을 바꾼 이유

이 청원이 지금 나온 이유는 AI가 더 이상 단지 모델 개발자를 보조하는 데 그치지 않고, 그들의 업무 중 더 큰 부분을 수행하기 시작했기 때문이다.

Anthropic의 6월 보고서 AI builds itself는 자사 입장의 근거를 제시한다. 회사는 재귀적 자기개선을 시스템이 자신의 후속 시스템을 자율적으로 설계하고 개발하는 것으로 설명한다.

Anthropic은 현재 시스템이 아직 그 단계에 이르지 않았다고 강조한다. 완전한 재귀적 개선이 불가피한 것도 아니라고 말한다. 그러나 내부 데이터는 개발 과정이 점점 더 자동화되고 있음을 시사한다.

2026년 5월 기준으로 Claude는 Anthropic 코드베이스에 병합된 코드의 80% 이상을 작성한 것으로 알려졌다. 2025년 2월 Claude Code가 리서치 프리뷰로 출시되기 전에는 그 비율이 한 자릿수 초반대였다.

Anthropic은 일반적인 엔지니어가 2026년 2분기에 하루에 병합한 코드량이 2024년보다 8배에 달했다고 말한다. 회사는 코드량이 불완전한 생산성 지표라는 점을 공개적으로 경고한다. 더 많은 줄의 코드가 자동으로 더 나은 소프트웨어나 8배 더 가치 있는 작업을 의미하지는 않는다.

이 단서는 중요하다. AI는 어려운 추론이 동반되는 만큼의 증가를 만들어 내지 않고도 반복적인 코드, 테스트, 마이그레이션, 문서를 생성할 수 있다. 따라서 연구소는 핵심 연구 문제를 더 느리게 진전시키면서도 훨씬 높은 산출량을 보고할 수 있다.

또 다른 내부 측정은 다른 관점을 제시한다. 2026년 3월 Anthropic 연구 직원 130명을 대상으로 한 설문에서 중앙값 응답자는 Mythos Preview를 사용할 때 산출량이 4배 늘었다고 추정했다. Anthropic은 실제 향상 폭이 이보다 낮았을 가능성이 높다고 다시 경고했다.

회사의 가장 강력한 증거는 목표가 명확한 작업과 관련된다. 반복적으로 수행되는 한 최적화 과제에서 Claude Opus 4는 2025년 5월 평균 3배의 속도 향상을 냈다. Mythos Preview는 2026년 4월까지 출발점 성능의 약 52배에 도달한 것으로 알려졌다.

숙련된 인간 연구자는 일반적으로 그 과제에 4~8시간을 투입한 뒤 약 4배의 개선을 달성했다. Anthropic은 이 결과를 실제 모델 훈련 전반에서 비슷한 수준의 증가로 해석해서는 안 된다고 경고한다.

그럼에도 이 진전은 폐쇄형 실험 루프를 보여 준다는 점에서 중요하다. 모델은 코드를 바꾸고, 실험을 실행하며, 결과를 측정한 뒤 다시 시도한다. 인간은 목표와 평가 규칙을 설정하지만 각 단계를 지시하지는 않는다.

이는 완전한 재귀적 자기개선이 아니다. 시스템은 어떤 후속 모델을 만들지 결정하는 대신 사람이 선택한 목표를 최적화하고 있다. Anthropic은 모델이 판단을 내리고, 목표를 선택하거나, 가장 유용한 연구 방향을 찾아야 할 때는 여전히 상당한 격차가 남아 있다고 말한다.

하지만 부분 자동화는 완전한 자율성이 도래하기 전에도 경쟁을 가속할 수 있다. 실험을 더 빨리 끝내는 연구소는 더 많은 아이디어를 시험하고, 취약한 경로를 더 일찍 버리며, 다음 시스템의 훈련을 더 빨리 시작할 수 있다.

같은 역량은 정렬 연구에도 도움이 될 수 있다. 정렬은 모델 행동이 인간의 목표와 제약을 따르도록 만드는 노력이다. 더 빠른 실험은 일반 역량과 함께 평가, 해석 가능성 기법, 안전장치를 개선할 수 있다.

이러한 이중 용도가 시점 문제를 만든다. 고도화된 시스템을 연구하는 데 필요한 도구는 종종 그것을 구축하는 데 도움이 되는 바로 그 도구이기도 하다. 더 나은 연구 에이전트는 안전성 연구와 역량 연구를 동시에 가속할 수 있다.

따라서 Anthropic의 주장은 통제되지 않는 지능 폭발이 이미 시작됐다는 것이 아니다. 자동화된 연구가 각 개발 주기를 실질적으로 단축하기 전에 사회가 대비해야 한다는 것이다.

진짜 상대는 공조 실패다

주된 경쟁은 Anthropic 대 OpenAI가 아니다. 단독 행동에 나선 모든 연구소를 불리하게 만드는 경쟁에 맞선 집단적 신중함이다.

모든 최첨단 개발사에는 계속 전진할 유인이 있다. 새 모델은 사용자, 기업 계약, 기술 인재, 자본, 전략적 파트너십을 끌어들인다. 뒤처지면 결국 채택될 안전 기준에 대한 회사의 영향력이 줄어들 수 있다.

국가 간 경쟁은 또 다른 층위를 더한다. 미국 정책 입안자들은 자국 기업이 중국 연구소보다 우위를 유지하기를 원한다. 미국 개발사의 속도를 늦추는 모든 제안은 다른 지역의 경쟁자들도 따를 것인지에 대한 질문에 직면하게 된다.

Anthropic은 이를 직접 인정한다. 자사 연구는 고립된 중단이 덜 신중한 행위자들이 따라잡도록 만들 수 있다고 말한다. 그 결과는 전체 위험을 줄이지 못한 채 선두 주자만 바꿀 수 있다.

의미 있는 개입을 위해서는 여러 국가의 자원이 풍부한 연구소들이 비슷한 조건 아래에서 행동해야 한다. 참여자들은 경쟁자들이 실제로 작업 속도를 늦췄다는 점을 알 필요가 있다.

AI에서는 많은 무기 프로그램보다 검증이 더 어렵다. 미사일 시설에는 특수 장비와 눈에 보이는 기반시설이 있다. AI 개발에는 일반적인 상업적 용도로도 쓰이는 데이터센터, 칩, 소프트웨어, 네트워크 장비가 사용된다.

훈련 실행은 숨기거나 분할할 수도 있다. 정부는 금지된 개발과 허용되는 배포, 평가, 학술 연구, 소규모 실험을 구별하는 감시 방법을 마련해야 한다.

체계에는 발동 기준도 필요하다. 정부는 모델이 위험한 사이버 평가를 통과하거나, AI 연구의 특정 비율을 자동화하거나, 더 긴 기간에 걸쳐 복잡한 작업을 완료할 때 조치에 나설 수 있다. 각 선택지는 측정과 집행을 둘러싼 분쟁을 낳는다.

종료 규칙도 필요하다. 개발 재개를 위한 명확한 조건이 없는 중단은 정치적 관성으로 인해 영구화될 수 있다. 허술한 종료 규칙은 근본 위험이 바뀌기 전에 참여자들이 재개하도록 허용할 수 있다.

마지막으로 발동 기준이 충족됐는지 결정할 권한 주체가 필요하다. 연구소는 자기 모델의 유일한 심판 역할을 신뢰성 있게 수행할 수 없다. 국가 기관은 해외 접근성이 부족할 수 있고, 국제기구는 협상과 자금 조달에 시간이 걸릴 것이다.

이러한 세부 사항은 청원이 즉각적인 감속 대신 수단을 요구하는 이유를 설명한다. 저자들은 현재 존재하지 않는 선택지를 만들려 하고 있다.

이 제안은 일반적인 제품 규제보다 군비 통제 준비에 더 가깝다. 공유 측정 기준, 검사 절차, 소통 채널, 은폐에 따른 결과가 필요하다. 이런 구성 요소는 빠르게 진행되는 기술 위기 속에서 조립할 수 없다.

Anthropic의 입장 자체에도 이러한 절충이 분명히 담겨 있다. 회사는 최첨단에 가까운 다른 개발사들이 검증 가능한 방식으로 그렇게 한다면 감속 또는 일시적 중단을 고려할 것이라고 말한다.

그 조건은 타당하지만 요구 수준이 높다. 모든 중요한 경쟁자가 협력할 때만 작동하는 메커니즘은 한 곳의 이탈자, 하나의 숨겨진 프로그램, 또는 역량 측정을 둘러싼 한 번의 이견 때문에 실패할 수 있다.

대안도 결코 쉽지 않다. 일방적 자제는 가장 신중한 조직에서 가장 신중하지 않은 조직으로 경쟁 우위를 이전하는 결과가 될 수 있다. 그 결과는 더 약한 안전장치 아래에서 더 빠른 개발을 낳을 수 있다.

청원에 대한 폭넓은 지지는 연구자들이 이 집단행동 문제를 인식하고 있음을 보여 준다. 정부나 기업이 이를 해결했다는 뜻은 아니다.

청원은 AI 브레이크가 아니다

가장 강력한 비판은 간단하다. Anthropic은 그 선택지가 어떻게 작동할지 구체화하지 않은 채 하나의 선택지를 지지하고 있다.

이 서한에는 구체적인 정책 제안이 담겨 있지 않다. 개발 속도 조절의 대상이 되는 활동, 관련 역량 임계값, 신뢰할 만한 합의에 필요한 국가들도 정의하지 않는다.

또한 “속도 조절”이 공개 출시 연기, 학습 실행 제한, 컴퓨팅 용량 제한, 연구 자동화 중단 중 무엇을 의미하는지도 열어둔다. 이러한 개입은 비용과 집행 요건이 각각 다르다.

출시를 연기하면 연구소에 더 많은 평가 시간을 줄 수 있지만, 내부 역량의 성장을 반드시 늦추지는 않는다. 학습 제한은 연구 과정에 더 깊이 개입하지만, 침해적 모니터링을 요구한다.

자동화된 연구에 대한 제한은 분류 문제에 부딪히게 된다. 코딩 어시스턴트는 이미 일반 엔지니어링, 보안 검토, 모델 평가에 기여하고 있다. 규제 당국은 무해한 지원과 차세대 개발을 실질적으로 가속할 수 있는 시스템을 구분해야 한다.

비판론자들은 연구소가 스스로 통제할 수 있는 작업을 제한하기 위해 왜 정부가 필요한지도 의문을 제기한다. 전 Microsoft 임원 Steven Sinofsky는 회사의 방향성에 우려를 가진 직원이라면 퇴사하거나 다른 일을 찾을 수 있다고 주장했다.

이 비판은 청원의 논리 일부를 놓친다. 한 명의 직원이나 한 회사만으로는 여러 기업이 벌이는 경쟁을 멈출 수 없다. 그럼에도 지지자들이 자기 조직 내부의 자발적 조치를 제시하지 않은 채 공적 개입을 요구한다면, 이는 실제 책임성 공백을 드러낸다.

정부가 행동하기 전에 연구소들은 공통 평가를 공개하고, AI 지원 연구에 관한 정보를 더 많이 공개하며, 공동 사고 보고 체계를 마련할 수 있다. 개발을 즉시 제한하지 않더라도 예비 경고 임계값에 합의할 수도 있다.

청원에 관한 Schulman의 발언은 이 방향을 뒷받침한다. 그는 미국 정부가 개입하기 전부터 연구소들이 자발적으로 조정 메커니즘을 설계하기 시작해야 한다고 말했다.

또 다른 우려는 시장 지배력과 관련된다. 복잡한 라이선스, 컴퓨팅 모니터링, 의무 평가 시스템은 이미 광범위한 인프라를 통제하는 기업에 유리하게 작용할 수 있다. 소규모 연구소와 독립 연구자들은 규정 준수에 어려움을 겪을 수 있다.

따라서 속도 조절 체제는 가장 큰 기업들이 첨단 시스템의 주도권을 유지한 채 경쟁을 줄일 수 있다. 최첨단 위험을 경고하는 기업들이 강한 상업적 이해관계도 갖고 있기 때문에, 이 가능성은 주목할 가치가 있다.

Anthropic의 더 폭넓은 정책 입장은 이러한 검증을 강화한다. 이 회사는 더욱 강력한 Claude 시스템을 계속 출시하면서도 첨단 모델에 대한 더 강한 통제를 지지해 왔다.

이러한 행동이 반드시 모순적인 것은 아니다. 한 기업은 조정된 대안이 마련될 때까지 경쟁적 개발이 계속돼야 한다고 믿을 수 있다. 경쟁사에 동일하게 적용되는 규칙을 옹호할 수도 있다.

그러나 이 구도는 명백한 신뢰성 시험을 만든다. Anthropic은 자신이 선호하는 통제가 시장 지위를 위협하는 기술이나 경쟁사가 아니라 측정 가능한 위험을 겨냥한다는 점을 입증해야 한다.

오픈 웨이트 모델에 대한 이 회사의 최근 입장은 이러한 긴장을 보여준다. 오픈 웨이트 시스템은 사용자가 모델 파라미터를 내려받아 수정할 수 있게 한다. 지지자들은 이것이 접근성, 연구, 경쟁, 기술에 대한 국가적 통제력을 높인다고 말한다.

Anthropic은 가장 역량이 높은 오픈 시스템은 출시 후 통제하기 어려워질 수 있다고 주장한다. 이 회사는 오픈 웨이트에 대한 광범위한 제한에 반대하는 별도의 업계 서한에 참여하지 않았고, 그 결과 여러 주요 기술 기업과 떨어져 있는 위치가 됐다.

업계 정책 분열이 Anthropic의 안전성 논거를 무효화하지는 않는다. 다만 “책임 있는 속도 조절”의 의미가 논쟁 대상이 될 것임을 보여준다.

Meta, Nvidia 및 오픈 모델 지지자들은 다운로드 가능한 시스템을 구조적으로 불리하게 만드는 규칙에 반대할 것이다. 폐쇄형 모델 연구소들은 되돌릴 수 없는 출시는 특별한 취급이 필요하다고 주장할 것이다.

정부는 기업들이 자기 비즈니스 모델에 맞춰 규칙을 쓰도록 두지 않으면서 이 견해 차이를 다뤄야 한다. 그렇지 않으면 안전 프레임워크는 규제 당국에 가장 강하게 접근할 수 있는 집단을 우대하는 산업 정책이 될 수 있다.

따라서 이 청원은 실행 가능한 체제가 이미 존재한다는 증거가 아니라 제도 설계를 시작하라는 요청으로 읽어야 한다. 그 가치는 빠진 제동 장치를 지적하는 데 있다. 약점은 그것을 구축할 엔지니어링 계획이 없다는 점이다.

Anthropic의 입장이 AI 사용자와 기업에 의미하는 것

즉각적인 영향은 Claude 출시 일정이 느려지는 것이 아니다. 최첨단 시스템이 어떻게 평가되고, 관리되며, 구매될지에 관한 불확실성이 커지는 것이다.

개발자들은 이 청원이 다음 달 모델 성능 개선을 멈출 것이라고 기대해서는 안 된다. 이는 구속력 있는 의무를 만들지 않으며, Anthropic도 지지와 연계된 중단을 발표하지 않았다.

단기적 변화는 정책 논의에서 나타날 것이다. 정부는 이제 평가나 모니터링 요건을 제안할 때 경쟁 관계에 있는 여러 연구소의 직원과 지도자들이 공개적으로 보인 지지를 근거로 들 수 있다.

기업 구매자는 모델 거버넌스가 조달에 영향을 미치기 때문에 이러한 논의를 주시해야 한다. 코딩, 연구, 고객 지원 또는 보안에 최첨단 시스템을 통합하는 기업은 향후 출시가 지연되거나 사용 제한을 받을 수 있는지 알아야 한다.

구매자는 모델 성능과 모델 연속성도 구분해야 한다. 평가, 정책 분쟁 또는 보안 사고 이후 접근성이 바뀔 수 있다면, 최고 점수 시스템이 자동으로 가장 안전한 장기 의존 대상이 되는 것은 아니다.

팀은 모델 제공업체에 독립적인 워크플로를 유지해 이러한 노출을 줄일 수 있다. 프롬프트, 평가, 원본 자료, 의사결정 기록은 특정 제공업체의 인터페이스 밖에 보존해야 한다.

이러한 관행은 모델의 행동이 바뀌거나 사용할 수 없게 될 때 중요하다. 검색 가능한 기술 지식 기반은 모든 결정을 다시 구성하지 않고도 대체 모델을 비교하는 데 필요한 맥락을 보존할 수 있다.

소프트웨어 팀은 자체 수용 테스트도 만들어야 한다. 제공업체 벤치마크는 기업의 실제 코드베이스, 위험 허용도, 승인 프로세스 또는 규제 의무를 거의 담아내지 못한다.

Anthropic의 예상대로 자동화된 연구가 발전한다면 업데이트 주기는 관리하기 더 어려워질 것이다. 모델은 예정된 보안 검토나 조달 점검 사이에 의미 있는 역량을 획득할 수 있다.

기업은 인간의 책임성을 포기하지 않으면서 더 빠른 평가 프로세스를 마련해야 한다. 여기에는 모델 행동 테스트, 변경 사항 문서화, 승인 대상 작업 정의가 포함된다.

지식 근로자들도 관련된 문제에 직면한다. 더 빠른 시스템은 팀이 검토할 수 있는 것보다 더 많은 분석, 코드, 문서를 생성할 수 있다. 인간의 검증 역량이 고정된 상태라면 산출량 증가는 위험이 된다.

Anthropic 자체의 코드 통계는 이러한 불균형을 보여준다. 병합된 코드가 8배 더 많다고 해서 보안, 아키텍처, 유지보수에 투입되는 인간의 관심도 8배 더 많다는 뜻은 아니다.

조직은 생성된 산출물과 함께 오류 수정, 검토 시간, 사고, 후속 가치를 측정해야 한다. 그렇지 않으면 표면적인 생산성 향상이 추가 검증 업무를 감출 수 있다.

보안 팀은 특히 주목할 이유가 크다. 연구 자동화는 방어자가 취약점을 발견하도록 도울 수 있지만, 공격적 실험의 비용도 낮출 수 있다.

속도 조절 메커니즘은 결국 통제된 실습을 통해 평가할 수 있는 사이버 역량에 먼저 초점을 맞출 수 있다. 이는 연구소가 에이전틱 코딩 도구를 출시하거나 가장 역량이 높은 모델에 대한 접근 권한을 부여하는 방식에 영향을 줄 것이다.

개인 사용자에게 이 청원은 대부분 거버넌스 신호다. 이는 최첨단 시스템을 구축하는 사람들이 개발 속도가 피할 수 없는 자연적 힘이 아니라 정책 변수라고 점점 더 믿고 있음을 말해준다.

중요한 표현은 “시간을 벌 수 있는 선택지”다. 지지자들은 모든 발전이 멈춰야 한다고 말하는 것이 아니다. 측정된 위험이 제도가 적응할 수 있는 속도보다 더 빠르게 증가할 때 사회가 대응할 수 있어야 한다고 주장한다.

이 선택지가 사용자를 보호하는지는 설계에 달려 있다. 투명한 메커니즘은 위험한 전환기에 더 많은 평가 시간을 제공할 수 있다. 불투명한 메커니즘은 안전성 향상에 관한 독립적 증거를 거의 제공하지 않은 채 통제를 중앙집중화할 수 있다.

속도 조절이 현실이 되는지 보여줄 세 가지 신호

다음 시험대는 Anthropic과 다른 지지자들이 짧은 성명을 임계값, 검증 방법, 국제 참여로 전환하는지 여부다.

첫 번째 신호는 구체적인 평가 임계값이다. Anthropic의 연구 부문은 향후 몇 달 동안 정책 입안자, 연구자, 시민사회 단체, 경쟁 연구소를 소집할 계획이다.

이러한 대화는 일반 원칙 이상을 만들어야 한다. 신뢰할 수 있는 제안에는 개입을 정당화하는 관찰 가능한 조건이 필요하다. 여기에는 자율 연구 성과, 위험한 사이버 역량, 인간의 수정 없이 지속되는 운영 등이 포함될 수 있다.

선택된 측정 방식은 독립적 검토를 견뎌야 한다. Anthropic의 내부 생산성 데이터는 유용하지만, 한 기업이 비공개 증거만으로 공공 정책을 수립할 수는 없다.

외부 평가자는 시스템, 방법론, 재현 가능한 결과에 접근할 수 있어야 한다. 또한 오용을 늘리는 지침을 공개하지 않으면서 민감한 역량을 다루기 위한 명확한 절차도 필요하다.

공개 임계값은 “너무 빠르다”를 검증 가능한 주장으로 바꾸기 때문에 Anthropic의 논거를 강화할 것이다. 광범위한 경고에 계속 의존한다면 논거는 약해질 것이다.

두 번째 신호는 국제 경쟁자를 포함하는 검증 제안이다. 핵심 문제는 Anthropic을 설득해 중단시키는 것이 아니다. 다른 최첨단 프로그램도 속도를 늦췄는지 판단하는 일이다.

실행 가능한 제안은 무엇을 모니터링할 수 있는지, 어떤 주체가 접근권을 받는지, 위반을 어떻게 탐지하는지 설명해야 한다. 상업용 클라우드 인프라, 민간 데이터센터, 정부 프로그램도 고려해야 한다.

중국은 이 문제의 핵심이지만, 예비 작업을 피하기 위한 구실이 되어서는 안 된다. 완전한 외교 합의가 존재하기 전에도 미국 기업과 기관은 측정 기준을 개발할 수 있다.

구속력 있는 제한을 즉시 만들지 않고도 기술적 모니터링은 개선할 수 있다. 연구소들은 대규모 학습 실행을 등록하고, 표준화된 평가 결과를 공유하거나, 유난히 역량이 높은 연구 에이전트를 독립 기관에 보고할 수 있다.

이러한 조치가 준수를 보장하지는 않는다. 다만 검증 문제가 관리 가능한지, 아니면 현재 인프라와 근본적으로 양립할 수 없는지를 드러내는 데 도움이 된다.

미국 외 개발자의 의미 있는 참여는 속도 조절 논거를 강화할 것이다. 국내 기업에만 한정된 계획은 핵심 경쟁 위험을 해결하지 못한다.

세 번째 신호는 청원 지지자들의 자발적 행동이다. Anthropic, OpenAI 및 다른 연구소들은 투명성을 높이거나 평가를 조정하기 위해 조약이 필요하지 않다.

이들은 자동화된 AI 연구의 정의를 공개하고, 경고 지표를 식별하며, 내부 에스컬레이션 절차를 설명할 수 있다. 또한 모델이 차세대 개발 속도를 실질적으로 바꿀 때 이를 공개할 수도 있다.

Anthropic은 이미 대부분의 경쟁사보다 더 많은 내부 증거를 제공했다. 다음 단계는 그 증거를 의사결정과 연결하는 것이다. 독자들은 어떤 관찰된 변화가 회사로 하여금 학습, 배포 또는 출시를 연기하게 하는지 알아야 한다.

자발적 약속이 정부 감독을 대체할 수는 없다. 그러나 지지자들이 속도 조절을 홍보용 입장이 아니라 운영상 안전 프로젝트로 본다는 점을 보여줄 것이다.

행동하지 않는다면 비판론자들의 주장이 강화될 것이다. 연구소들은 실질적 통제로 전환하지 못한 문제를 정부가 해결해 달라고 요구하면서 계속 경쟁할 것이다.

이 청원은 한 가지 중요한 과제에는 성공했습니다. 자동화된 AI 개발에 대한 우려가 기업의 경계, 기술 직무, 오랜 정책적 분열을 넘어선다는 점을 보여준 것입니다.

하지만 청원이 요구한 브레이크를 만들지는 못했습니다. 공동의 발동 기준은 존재하지 않고, 국제 검증 시스템도 운영되지 않으며, 어느 권한도 아직 조율된 일시 중단을 강제할 수 없습니다.

이 공백이 이제 핵심 이야기입니다. Anthropic은 프런티어 개발에 의도적인 속도 조절이 필요할 수 있음을 공개적으로 받아들였지만, 그 지지는 다음 단계에 요구되는 기준을 더 높였습니다.

공개된 기준치, 국제 모니터링 제안, 자발적인 연구소 약속을 지켜봐야 합니다. 이런 움직임이 나온다면 청원은 거버넌스 프로세스를 시작한 셈이 됩니다. 그렇지 않다면 Anthropic은 모든 경쟁사가 계속 가속하는 가운데 브레이크를 요구하면서도 같은 경쟁에 남아 있게 될 것입니다.