AI 종사자들, 최전선 개발의 의도적 감속을 준비하라고 워싱턴에 요청

Anthropic은 1,293명의 AI 종사자가 지지한 청원에 동참하며, 자동화된 AI 개발의 의도적 감속을 준비해 달라고 워싱턴에 요청했다. 따라서 anthropic engadget 보도는 또 하나의 직원 공개서한에 그치지 않는다. 이는 점점 더 자율적인 시스템을 구축하기 위해 경쟁하는 기업 내부의 갈등을 드러낸다.

서명자에는 Anthropic, OpenAI, Google DeepMind, Meta, Thinking Machines 및 기타 최전선 AI 조직의 직원과 리더가 포함돼 있다. 이들은 자동화된 연구가 인간의 통제를 넘어 가속되기 시작할 경우 개발 속도를 조절할 수 있는 국제적 노력을 미국이 지원하기를 원한다.

이 요청은 즉각적인 중단을 요구하지 않는다. 긴급한 필요가 생기기 전에 정부와 연구소가 기술적·거버넌스 메커니즘을 마련해 달라는 것이다. 업계에는 현재 공동 자제를 위한 합의된 발동 기준, 모니터링 시스템 또는 집행 절차가 없다는 점에서 이 구분은 중요하다.

핵심 갈등은 단순하다. AI 연구소들은 자사의 시스템이 머지않아 더 강력한 시스템을 구축하는 데 필요한 연구를 자동화하는 데 도움을 줄 수 있다고 말한다. 그러나 경쟁 압력은 어떤 기업이나 국가도 단독으로 속도를 늦추지 못하게 만든다.

Anthropic Engadget 청원이 실제로 요청하는 것

이 서한은 최전선 AI 연구의 즉각적 중단이 아니라, 실효성 있는 비상 브레이크를 요청한다.

Pacing the Frontier라는 제목의 공개 성명은 2026년 7월 28일 발표됐다. 서명자 수는 발표 후에도 계속 늘었으며, 7월 30일 확인 시점에는 1,293명에 도달했다.

명단에는 최전선 모델 개발을 매우 직접적으로 이해하는 인물들이 포함돼 있다. 서명자로는 Anthropic CEO Dario Amodei, Anthropic 공동창업자 Jared Kaplan, OpenAI 수석 과학자 Jakub Pachocki가 있다.

그 밖의 주요 인물로는 Google DeepMind 공동창업자 Shane Legg, Meta AI 수석 과학자 Shengjia Zhao, Safe Superintelligence CEO Ilya Sutskever가 있다. OpenAI 연구 책임자 Mark Chen과 Anthropic 공동창업자 Jack Clark도 명단에 이름을 올렸다.

여러 참가자는 개인 자격으로 서명했다. 성명은 개인의 의견이 반드시 소속 고용주를 대표하는 것은 아니라고 명시한다. 그러나 OpenAI와 Anthropic은 이후 조직 차원의 지지를 표명해, 이 움직임에 통상적인 직원 청원보다 더 큰 무게를 실었다.

서한은 자동화된 AI 개발에 초점을 맞춘다. 이는 실험 작성, 훈련 방법 개선, 모델 평가, 새로운 아키텍처 제안 등 AI 연구의 의미 있는 부분을 수행할 수 있는 시스템을 뜻한다.

작성자들은 이 전환이 피드백 루프를 만들 수 있다고 본다. 더 나은 AI 시스템이 연구자들이 더 강력한 후속 시스템을 만드는 일을 지원하고, 그 결과 수년간의 개발이 훨씬 짧은 기간으로 압축될 수 있다는 것이다.

성명은 통제되지 않는 지능 폭발이 이미 시작됐다고 주장하지 않는다. 대신 주요 기업들이 중요한 연구 과제를 자동화할 수 있는 시스템에 접근하고 있다고 말한다.

이 불확실성이 요청의 형태를 규정한다. 서명자들은 역량 성장이 보안 관행, 정부 감독, 과학적 이해를 앞지르기 시작할 경우 사회가 시간을 벌 수 있는 선택지를 유지하기를 원한다.

이들이 제안한 대응은 의도적으로 넓게 설정돼 있다. 미국이 기술적 통제와 거버넌스 도구를 모두 개발하는 국제적 노력을 지원해 달라고 요청한다.

기술적 통제에는 모델 평가, 보안 컴퓨팅 환경, 배포 제한, 위험한 역량에 대한 모니터링이 포함될 수 있다. 거버넌스 도구에는 공동 기준선, 보고 요건, 독립 감사, 정부와 연구소 간 합의가 포함될 수 있다.

서한은 특정 메커니즘 하나를 지지하지 않는다. 또한 공동 감속이 정확히 언제 시작돼야 하는지도 정의하지 않는다.

이러한 신중함은 정책 관점이 다른 사람들도 성명을 지지하기 쉽게 만든다. 동시에 가장 어려운 질문들은 답하지 않은 채 남긴다.

원래의 Engadget 보도는 이 움직임을 규제를 위한 청원으로 설명했다. 더 정확히 말하면, 이는 가능한 속도 조절을 위한 사전 준비를 요청하는 것이다.

규제가 궁극적으로 그 메커니즘을 제공할 수도 있다. 국제 협약, 자발적 연구소 공조, 컴퓨팅 모니터링 또는 긴급 정부 조치도 다른 가능한 경로다.

따라서 즉각적인 변화는 운영적이라기보다 정치적이다. 경쟁 관계에 있는 연구소 전반의 영향력 있는 인사들이, 최종 해법에는 이견이 있더라도 통제되지 않은 경쟁이 위험해질 수 있다는 데 공개적으로 동의했다.

자동화된 AI 연구가 안전성 논의를 바꾸는 이유

연구 과정을 개선하는 모델은 역량이 발전하는 속도와 외부인이 받는 경고의 양을 바꾼다.

이전의 AI 규제 논의 대부분은 모델 출력에 집중했다. 정책 입안자들은 차별, 개인정보, 저작권, 허위정보, 사기, 유해한 활용 사례를 검토했다.

새 청원은 관심을 개발 과정 자체로 옮긴다. 핵심 우려는 출시 이후 하나의 모델이 무엇을 할 수 있는지에만 있지 않다. AI가 후속 모델의 탄생을 얼마나 가속할 수 있는지가 문제다.

연구자들은 이미 코딩, 문헌 검토, 데이터 분석, 실험 설계, 디버깅에 AI를 활용하고 있다. 이러한 작업은 여전히 인간의 지시, 검증, 접근 통제의 적용을 받는다.

시스템이 더 적은 감독으로 더 긴 연구 워크플로를 완료할 수 있게 되면 위험은 달라진다. 유능한 에이전트는 가설을 세우고, 훈련 코드를 수정하고, 테스트를 실행하고, 결과를 평가한 뒤 다음 실험을 권고할 수 있다.

개별 행동 하나하나는 익숙해 보일 수 있다. 중요한 차이는 속도, 규모, 반복에 있다.

연구소는 이러한 에이전트를 다수 병렬로 운영할 수 있다. 성공한 기법은 즉시 다음 개발 주기에 반영될 수 있다. 인간 연구자들은 모든 결정을 검토하거나 모든 결과를 재현하는 데 어려움을 겪을 수 있다.

이 시나리오는 때때로 재귀적 자기개선으로 설명된다. 이는 AI 시스템이 더 강력한 시스템을 만드는 개선에 기여하고, 그 시스템이 다시 추가 개선에 기여하는 것을 뜻한다.

현재 모델이 이 과정의 통제 불가능한 형태를 지속할 수 있다는 공개 증거는 없다. 대신 청원은 그 가능성이 운영상의 위기로 변하기 전에 연구소가 준비해야 한다고 주장한다.

이 입장은 어려운 예측 문제를 반영한다. 확실한 증거를 기다리면 모니터링, 국제 공조, 보안 통제를 구축할 시간이 거의 남지 않을 수 있다.

너무 이르게 행동하는 데도 비용은 있다. 성급한 제한은 유익한 연구를 늦추고, 기존 연구소를 보호하며, 개발을 덜 투명한 조직이나 관할권으로 옮길 수 있다.

서명자들은 정부에 이러한 결과 중 하나를 선택하기 전에 선택지를 준비해 달라고 요청한다. 이들의 제안은 속도 조절을 영구적 기본값이 아니라 비상 계획으로 다룬다.

Meta AI 수석 과학자 Shengjia Zhao는 이 성명이 가능한 공조 필요성에 대한 공동 인식을 만드는 데 도움이 된다고 설명했다. 그는 또한 정부가 개입하기 전에 연구소들이 자발적 메커니즘을 설계해야 한다고 촉구했다.

이 발언은 공통 지식의 가치를 부각한다. 한 연구소는 가속을 사적으로 우려하면서도 모든 경쟁자가 계속 개발할 것이라고 가정할 수 있다.

공개적 약속은 유사한 우려가 조직 경계를 넘어 존재한다는 사실을 드러낸다. 이는 향후 공조가 정치적으로나 상업적으로 덜 불가능해 보이게 할 수 있다.

그러나 공동의 우려가 집행 가능한 시스템을 만들지는 않는다. 연구소들은 여전히 자동화된 연구 역량, 위험한 행동, 보안 실패에 대한 합의된 측정 기준이 필요하다.

그러한 측정은 상업적 압력을 견뎌야 한다. 경쟁사가 더 엄격한 검증을 받는 동안 한 기업이 편리한 테스트를 선택하거나 불리한 결과를 숨길 수 있어서는 안 된다.

독립 평가는 도움이 될 수 있지만, 평가자들은 모델, 테스트 환경, 내부 배포에 관한 정보에 접근해야 한다. 정부 역시 빠르게 변하는 증거를 해석할 수 있는 전문가가 필요하다.

개발자와 기업 구매자에게 이 논의는 먼 미래의 초지능 시나리오를 넘어 영향을 미친다. 연구 자동화는 제품 주기를 단축하고, 배포 팀이 안전장치를 업데이트하는 속도보다 더 빠르게 모델 행동을 바꿀 수 있다.

조직들은 이미 모델 버전, 권한, 프롬프트, 평가 결과를 추적하는 데 어려움을 겪고 있다. 더 빠른 출시 주기는 정책, 테스트, 사고, 공급업체 결정을 위한 검색 가능한 AI 지식 베이스를 유지하는 가치를 높인다.

청원의 더 깊은 메시지는 역량 성장과 제도적 적응이 서로 다른 시간표로 움직인다는 것이다. 자동화된 연구는 모니터링과 거버넌스가 먼저 개선되지 않는 한 이 불일치를 더 키울 것이다.

진짜 상대는 조정 실패다

주된 갈등은 Anthropic 대 OpenAI가 아니다. 일방적 자제를 처벌하는 경쟁에 맞서는 공동의 자제다.

Anthropic, OpenAI, Google, Meta는 연구자, 고객, 컴퓨팅 용량, 영향력을 두고 경쟁한다. 이들의 리더는 경쟁자보다 먼저 더 나은 시스템을 출시해야 한다는 강한 유인을 받는다.

각국 정부도 비슷한 문제에 직면한다. 미국 정책 입안자들은 자국 연구소가 중국 경쟁자와 기타 전략적 도전국에 대한 우위를 유지하기를 원한다.

모든 참여자가 공동의 위험을 인식하더라도 이러한 유인은 안전 조치를 약화시킬 수 있다. 한 연구소가 출시 하나를 미루면 고객, 인재 또는 투자자 신뢰를 잃을 수 있다.

엄격한 통제를 도입하는 국가는 개발이 다른 곳으로 이전될 것을 우려할 수 있다. 그러면 경쟁자들은 동등한 의무를 받아들이지 않고도 역량을 확보할 수 있다.

이 구조는 집단행동 문제와 닮아 있다. 모두가 신뢰할 수 있는 안전장치를 따른다면 각 참여자는 이익을 얻지만, 동시에 먼저 움직임으로써 단기적 이점을 얻을 수도 있다.

청원은 이 압력을 명시적으로 지적한다. 경쟁자들이 계속 개발할 자유를 유지하는 상황에서 기업과 국가가 독자적으로 가속을 늦출 것이라고 기대할 수 없다고 말한다.

이것이 요청이 미국 정부를 겨냥하는 이유다. 민간 기업은 일반적으로 구속력 있는 국제 협약을 협상하거나 해외 경쟁자에게 공통 규칙을 강제할 수 없다.

시장 행동을 조율하는 데에는 법적 우려도 따른다. 제품 출시를 늦추는 업계 합의는 정부 정책이 이를 명확히 승인하고 감독하지 않는 한 규제 당국의 조사를 받을 수 있다.

OpenAI의 조직 차원 응답은 이러한 과제를 인정했다. 회사는 가능한 속도 조절 도구를 개발할 때 정부 리더십이 다른 연구소와 오픈소스 커뮤니티를 포함해야 한다고 밝혔다.

Anthropic도 성명을 지지했다. 회사는 이를 재귀적 개선에 관한 자체 연구와 연결하며 사회가 준비할 시간이 필요하다고 말했다.

이러한 지지는 한 가지 이견을 좁히는 동시에 다른 이견을 드러낸다. 기업들은 속도 조절 논의에는 열려 있는 것으로 보이지만, 기준선, 검증, 집행에는 아직 합의하지 못했다.

오픈웨이트 모델은 또 다른 복잡성을 더한다. 이러한 시스템은 모델 파라미터를 배포해 독립 운영자가 공급업체가 통제하는 인터페이스 밖에서 이를 실행하거나 수정할 수 있게 한다.

공개 접근은 연구, 경쟁, 로컬 배포를 지원할 수 있다. 동시에 모델이 출시된 뒤 역량 제한을 집행하기는 더 어려워진다.

Anthropic은 일부 경쟁사보다 고성능 오픈 모델에 대해 더 신중한 입장을 취해 왔다. Meta, Nvidia 및 다른 기업들은 오픈 웨이트 시스템이 미국의 혁신과 기술적 영향력을 뒷받침한다고 주장해 왔다.

이 논쟁이 기사의 핵심 갈등을 대체해서는 안 된다. 이는 조직마다 허용 가능한 배포 방식에 대한 견해가 달라지면 왜 조율이 어려워지는지를 보여 준다.

과제는 청원에 참여한 기업들에만 국한되지 않는다. 신뢰할 수 있는 속도 조절 체계는 새 연구소, 비공개 배포, 탈취된 모델 웨이트, 공개되지 않은 컴퓨팅 클러스터까지 고려해야 한다.

제한을 전략적 기회로 보는 국가들도 다뤄야 한다. 신뢰할 수 있는 검증이 없는 국제 합의는 개발을 숨기는 참여자에게 오히려 보상을 줄 수 있다.

비판론자들은 빠르게 이 문제에 주목했다. 일부는 미국 연구소들이 선도적 위치를 차지한 상황에서 중국이 왜 제한을 받아들이겠느냐고 물었다.

이는 중요한 반론이지만, 준비가 무의미하다는 뜻은 아니다. 군비 통제, 항공 안전, 핵 감시, 사이버보안 협정은 모두 불완전한 신뢰 속에서도 작동한다.

핵심 기준은 감시가 위반을 비용 부담이 크고 탐지 가능하게 만드는지 여부다. 그런 역량이 없는 상징적 서약은 보호 효과가 거의 없다.

컴퓨팅 거버넌스는 가능한 도구 중 하나다. 최대 규모의 모델을 학습하려면 첨단 칩, 에너지, 데이터센터, 네트워킹 장비, 전문 엔지니어링 팀이 필요하다.

정부는 이 공급망의 일부를 감시할 수 있다. 그러나 추론, 파인튜닝, 분산 컴퓨팅, 더 효율적인 알고리즘 때문에 단순 칩 수량은 불완전한 척도가 된다.

역량 평가는 또 다른 접근법을 제시한다. 시스템이 자율성, 사이버 작전, 생물학 연구, 자동화된 AI 개발에서 정의된 기준선을 넘을 경우 연구소에 추가 의무를 부과할 수 있다.

평가에도 약점은 있다. 모델은 배포 후 다르게 행동할 수 있고, 새 도구로부터 학습하거나 시험 중 역량을 숨길 수 있다.

유용한 체계는 여러 신호를 결합할 가능성이 크다. 컴퓨팅 자원, 모델 역량, 보안 사고, 자율 연구 활동의 정도를 추적할 수 있다.

anthropic engadget 보도가 중요한 이유는 내부 관계자들이 이제 위기가 닥치기 전에 이 인프라를 논의하길 원한다는 점을 보여 주기 때문이다. 누구든 조율 문제를 해결했다는 뜻은 아니다.

청원의 가장 큰 약점은 실행 메커니즘의 부재다

이 성명은 신뢰할 만한 거버넌스 공백을 지적하지만, 광범위한 표현으로 모든 어려운 운영상 선택을 뒤로 미룬다.

청원은 개발 속도를 의도적으로 조절할 수 있는 도구를 요구한다. 그러나 속도 조절의 정의, 법적 권한, 제한을 발동할 조건은 규정하지 않는다.

속도 조절 결정은 모델 출시를 늦추는 것을 의미할 수 있다. 학습 실행을 제한하거나 컴퓨팅 자원 접근을 제한하거나, 개발 지속 전에 더 강력한 보안을 요구할 수도 있다.

이 조치들은 서로 다른 위험을 수반하며 서로 다른 법률을 필요로 한다. 일시적인 배포 지연은 여러 국가에 걸친 연구 중단과 동일하지 않다.

문서는 의사결정 권한도 미해결 상태로 남겨 둔다. 의회, 행정부, 독립 규제기관, 국제 사찰단, 참여 연구소가 각각 역할을 맡을 수 있다.

모든 선택지는 책임성 우려를 낳는다. 기술 전문가는 모델 행동을 이해하지만, 기업 직원에게는 상업적 이해관계가 있다.

정부 관료는 법적 권한을 지니지만 기술 전문성이 부족할 수 있다. 국제기구는 정당성을 넓힐 수 있지만, 역량 전환이 빠르게 일어나는 동안 대응이 지나치게 느릴 수 있다.

서한의 유연한 표현은 폭넓은 연합을 설명하는 데 도움이 된다. 사람들은 특정 개입을 지지하지 않으면서도 대비의 필요성에는 동의할 수 있다.

그러나 폭넓은 지지는 합의가 이뤄졌다는 착각을 만들 수 있다. 서명자들은 오픈 모델, 수출 통제, 감시, 군사적 이용, 허용 가능한 위험에 대해 양립할 수 없는 견해를 가질 수 있다.

공개된 이름들은 신뢰성 측면의 과제도 만든다. 많은 서명자가 정부가 조율하길 바라는 바로 그 조직 내부에서 영향력을 행사하고 있다.

비판론자들은 그 지도자들이 왜 지금 더 강력한 내부 제한을 부과하지 않는지 합리적으로 물을 수 있다. 개발 속도가 위험할 정도로 빠르다고 믿는 직원은 다른 일자리를 찾을 수도 있다.

이 비판은 청원이 제시하는 집단행동 논리를 간과한다. 한 연구소의 내부 자제만으로는 경쟁사나 해외 프로그램의 속도를 늦출 수 없다.

그럼에도 기업들은 자신들의 요구가 단지 책임을 전가하기 위한 전략이 아님을 보여야 한다. 자발적 조치는 이들이 실질적인 제약을 받아들일 의지가 있는지 드러낼 수 있다.

유용한 조치에는 평가 방법 공개, 중대한 사고 보고, 독립 감사 지원, 사전에 공표한 역량 기준선 설정이 포함된다.

연구소는 내부고발자 보호를 강화하고 안전팀이 출시 결정에 어떤 영향을 미치는지도 공개할 수 있다. 이런 조치에는 국제 조약이 필요하지 않다.

청원은 규제 포획 문제도 직시해야 한다. 기존 연구소의 자원 수준에 맞춰 설계된 규칙은 소규모 경쟁자가 감당하기 어려운 장벽을 만들 수 있다.

복잡한 인허가 체계는 위험한 역량에는 거의 대응하지 못하면서 기존 사업자를 보호할 수 있다. 그러면 가장 큰 기업들은 시장 보호를 공공 안전으로 포장할 수 있다.

OpenAI는 속도 조절을 논의하면서 이 우려를 인정했다. 이 회사는 향후 어떤 접근법도 담합이나 규제 포획처럼 느껴져서는 안 된다고 말했다.

그런 결과를 피하려면 기업 정체성이 아니라 측정 가능한 위험에 기반한 규칙이 필요하다. 의무는 역량, 접근 수준, 배포 조건을 따라야 한다.

대중은 어떤 발동 결정이든 이를 뒷받침하는 증거도 필요로 한다. 정부는 한 기업이 최신 내부 모델이 탁월하다고 주장한다는 이유만으로 연구를 제한해서는 안 된다.

최전선 학습 실행에는 희소한 자원이 필요하므로 독립적인 재현은 대개 불가능하다. 따라서 투명한 평가 프로토콜과 외부 접근이 더 중요해진다.

또 다른 불확실성은 시점이다. 서한은 자동화된 AI 연구가 급격한 가속을 유발할 수 있다고 경고하지만, 현 시스템이 그 기준점에 얼마나 가까운지는 제시하지 않는다.

공개 시연은 코딩 및 연구 지원 기능의 향상을 보여 준다. 하지만 AI 개발 주기 전체에 걸친 신뢰할 수 있는 자율 실행을 입증하지는 못한다.

연구소 지도자들의 예측은 그들이 내부 시스템을 보기 때문에 주목할 가치가 있다. 그러나 이를 독립적 확인으로 취급해서는 안 된다.

이 구분은 Anthropic AI 규제 논의에서 중요하다. 추정적인 시간표에 기반한 강력한 규칙은 가장 가능성 높은 위험을 줄이지 못한 채 오늘 비용만 초래할 수 있다.

약한 규칙은 반대의 문제를 만든다. 대중을 안심시키는 동시에 연구소가 자체 기준으로 안전을 정의하도록 방치할 수 있다.

따라서 신뢰할 수 있는 제안은 발동 조건, 증거 기준, 검토 절차, 이의제기 권리를 명시해야 한다. 또한 상황이 개선된 뒤 제한을 어떻게 종료할지도 설명해야 한다.

그 세부 사항이 마련되기 전까지 청원은 의제 설정으로 이해하는 것이 가장 적절하다. 이는 여러 경쟁 연구소에 걸쳐 고위급의 준비 지지가 존재함을 보여 준다.

오늘 AI 개발 둔화가 필요하다는 점을 입증하지는 않는다. 다만 업계 지도자들이 정부가 그러한 대응을 기술적·법적으로 가능하게 만들기를 원한다는 점을 보여 준다.

워싱턴이 이제 양측으로부터 압박을 받는 이유

미국은 AI 리더십을 유지하는 동시에 경쟁을 의도적으로 제한할 수 있는 메커니즘을 구축하라는 요구를 받고 있다.

미국의 AI 정책은 오랫동안 안보, 경제, 시민권 문제를 결합해 왔다. 이제 최전선 시스템은 이 논의를 국가 간 경쟁 및 핵심 인프라와 연결한다.

워싱턴은 국내 기업들이 선도 모델을 개발하길 원한다. 동시에 첨단 칩, 모델 웨이트, 민감한 연구가 전략적 경쟁국을 강화하는 일은 막고자 한다.

청원은 다른 요구를 추가한다. 지속적인 가속 그 자체가 안보 문제가 되는 상황에 대비해야 한다는 것이다.

이는 모든 국가 전략 안에서 긴장을 만든다. 속도를 보상하는 정책은 평가 기간, 보안 검토, 국제적 속도 조절 합의와 충돌할 수 있다.

한 독립 보도는 Anthropic이 여러 정책 분쟁에서 유난히 고립돼 있다고 설명했다. 이 회사는 많은 경쟁사보다 정부 감독을 더 강하게 요구해 왔다.

그러나 이번 청원은 Anthropic의 핵심 경고가 더 이상 한 연구소에만 국한되지 않음을 보여 준다. OpenAI, Google, Meta 및 다른 조직의 고위 인사들이 같은 성명에 서명했다.

정치권의 반응도 빠르게 나왔다. 뉴욕주지사 Kathy Hochul은 연방정부가 안전장치를 마련해야 한다고 말했고, 의회 의원들은 이 서한을 더 강력한 규칙을 지지하는 근거로 제시했다.

그런 반응은 요청을 지나치게 단순화할 위험이 있다. 일반적인 콘텐츠 규제가 자동화된 AI 연구 문제를 반드시 다루는 것은 아니다.

예를 들어 챗봇 공개 의무를 규정하는 법률은 자율 연구를 감시하거나 국제적으로 개발 제한을 조율하는 데 필요한 인프라를 만들지 못한다.

의회는 먼저 무엇을 측정할지 결정해야 한다. 이후 기관에는 그 업무를 수행할 권한, 기술 인력, 안전한 접근 권한, 자금이 필요하다.

연방정부는 기존 연구소 안전팀과의 관계도 명확히 해야 한다. 기업에 전적으로 의존하면 독립성이 약화된다.

그들의 전문성을 배제하는 일도 마찬가지로 현명하지 않다. 최전선 평가는 흔히 개발자 외부에서는 이용할 수 없는 모델 접근, 전문 환경, 지식을 필요로 한다.

균형 잡힌 접근법은 독립 시험을 허용하면서 표준화된 보고를 요구할 수 있다. 연구소는 기밀 보호 아래 증거를 제출하고, 주요 결정을 설명하는 공개 요약을 제공할 수 있다.

보안 등급 분류는 또 다른 복잡성을 낳는다. 정부는 사이버, 생물학, 군사 역량에 대한 증거를 기밀로 분류해 대중의 책임 추궁을 제한할 수 있다.

과도한 기밀 분류는 연구자들이 부실한 평가에 이의를 제기하지 못하게 할 수 있다. 또한 충분한 감시 없이 정책 실패를 숨기거나 정부 감시를 확대할 수 있다.

국제적 요소는 외교적 질문을 제기한다. 미국은 단순히 전 세계적 속도 조절 체계를 선언하고 준수를 기대할 수 없다.

파트너들은 누가 기준선을 정하는지, 누가 검사를 수행하는지, 미국 기업이 특혜를 받는지 물을 것이다. AI 산업 규모가 더 작은 국가들은 기존 선도자를 고착화하는 규칙에 반대할 수 있다.

중국의 참여는 여전히 가장 어려운 시험대다. 어떤 진지한 체계든 상호 이익과 중대한 위반을 탐지할 수 있는 신뢰할 만한 방법을 제공해야 한다.

초기 협력은 좁은 위험에 집중할 수 있다. 정부들은 사고 핫라인, 공통 평가 용어, 특히 위험한 자율 행동에 관한 약속을 마련할 수 있다.

검증에 관한 공동 연구도 지원할 수 있다. 하드웨어, 대규모 학습 실행, 모델 행동을 감시하는 일은 여전히 기술적으로 어렵지만, 준비는 그러한 도구를 개선할 수 있다.

이전의 최전선 AI 논쟁은 종종 가속과 안전을 경쟁하는 정치 진영으로 다뤘다. 이 연합은 그러한 구도를 복잡하게 만든다.

여러 서명자는 계속해서 AI 역량 발전에 참여하고 있다. 이들의 입장은 사회가 그 속도를 통제할 선택지를 보존하는 동안 개발은 계속 유익할 수 있다는 것이다.

이 주장은 규제를 보호주의로 보는 사람들의 저항에 부딪힐 것이다. 즉각적인 모라토리엄을 요구하는 옹호자들에게도 실망을 안길 것이다.

워싱턴은 중간 입장이 실제 정책으로 작동할 수 있는지 결정해야 한다. 측정 가능한 규칙이 없다면 “속도 조절”은 참여자마다 원하는 의미가 될 수 있다.

세 가지 신호가 속도 조절이 실제 정책이 되는지 보여 줄 것이다

청원은 측정 가능한 기준선, 상호 조율, 그리고 연구소들 자체의 자발적 행동을 이끌어낼 때에만 의미를 갖는다.

첫 번째 신호는 자동화된 AI 연구 평가에 관한 구체적인 연방 제안이다. 이 제안은 측정 대상 역량과 개입에 필요한 증거를 정의해야 한다.

진지한 제안이라면 담당 기관, 독립 평가자, 보고 의무, 검토 절차를 명시할 것이다. 또한 연구 지원과 지속적인 자율 개발을 구분해야 한다.

워싱턴이 이런 세부 사항을 공개한다면, 청원은 상징적 우려를 넘어선 진전을 이룬 셈이다. 책임 있는 혁신에 관한 또 하나의 일반적 성명만 나온다면 진전은 미미하다는 뜻이다.

두 번째 신호는 국제적 협력, 특히 첨단 연구소, 칩 또는 컴퓨팅 인프라를 통제하는 국가들과의 협력이다.

현실적인 초기 조치로는 공동 사고 보고나 공통 평가 기준을 도입하는 방안이 있을 수 있다. 이런 조치는 글로벌 개발 제한보다 범위가 좁지만, 신뢰를 구축할 수 있다.

어떤 제안이든 참여자들이 준수 여부를 어떻게 검증하는지 설명해야 한다. 또한 숨겨진 컴퓨팅 역량, 알고리즘 효율성, 주요 기업 연구소 밖에서 이뤄지는 개발 문제도 다뤄야 한다.

가시적인 외교 활동은 조율된 속도 조절이 가능하다는 주장을 강화할 것이다. 미국 기업에만 국한된 프레임워크는 활동 이전이나 은폐의 유인을 그대로 남긴다는 점에서 이를 약화시킬 것이다.

세 번째 신호는 Anthropic, OpenAI, Google, Meta가 입법에 앞서 자발적 조치를 채택하는지 여부다.

이들은 자동화된 연구 평가를 공개하고, 자격을 갖춘 외부 테스트를 지원하며, 역량 기준선이 내부 의사결정에 어떤 영향을 미치는지 공개할 수 있다.

또한 중대한 보안 사고를 문서화하고, 직원들이 우려를 제기할 수 있는 보호된 채널을 제공할 수 있다. 이런 조치는 청원이 운영상 우선순위를 반영한다는 증거를 대중에게 제공할 것이다.

기업의 행동이 규제를 대체할 수는 없다. 다만 서명자들이 정부에 모든 부담을 떠넘기는 대신 제약을 받아들인다는 점을 보여줄 수 있다.

행동하지 않는다면 이 서한이 주로 평판 관리를 위한 것이라는 비판은 더욱 힘을 얻을 것이다. 가장 영향력 있는 서명자들은 이미 연구, 안전 또는 조직 전략에 대해 어느 정도 권한을 갖고 있다.

독자들은 서명자 수 역시 주의 깊게 살펴봐야 한다. 증가는 폭넓은 우려를 보여주지만, 단순한 숫자보다 고위급 여부, 기업 대표성, 기술적 역할이 더 중요하다.

서명자 수는 초기 보도 당시 약 1,100명에서 7월 30일 기준 1,293명으로 늘었다. 이는 최초 뉴스 사이클 이후에도 관심이 이어졌음을 보여준다.

그렇다고 대부분의 AI 종사자가 속도 조절을 지지한다는 뜻은 아니다. 업계 전체 인력은 훨씬 더 많으며, 반대하는 사람들에게는 서명할 만한 동등한 이유가 없다.

가장 강력한 증거는 정책 설계와 연구소의 행동에서 나올 것이다. 이런 결과는 연합체가 명확한 발동 기준, 독립적 감독, 상호 의무를 받아들이는지 드러낼 수 있다.

개발자에게 당장의 교훈은 모든 AI 프로젝트를 중단하라는 것이 아니다. 더 빠른 모델 변화, 강화된 평가 요건, 자율 시스템에 대한 더 큰 감시에 대비하라는 것이다.

기업 구매자는 공급업체에 에이전트를 어떻게 테스트하는지, 사고를 어떻게 보고하는지, 민감한 도구에 대한 접근을 어떻게 통제하는지 물어봐야 한다. 팀은 모델 버전, 프롬프트, 권한, 평가 결과에 관한 기록을 보존해야 한다.

지식 근로자는 현재 역량과 전망을 구분해야 한다. 자동화된 연구에 관한 공개 주장은 최전선 개발에 가까운 사람들에게서 나오더라도 여전히 불확실하다.

anthropic engadget 기사는 경쟁사들 사이의 의미 있는 공조를 보여주지만, 경고에 동의하는 일은 집행에 동의하는 일보다 쉽다.

연구소들은 정부가 사용하길 원하는 테스트와 기준선을 공개할 것인가, 아니면 속도 조절은 정의되지 않은 선택지로 남을 것인가? 독자들이 다음 정책 발표까지 품고 가야 할 질문은 바로 이것이다.

연방 정부의 대응, 국제 참여, 연구소의 자발적 약속을 추적하라. 이 세 가지 신호는 이 서한이 실질적으로 활용 가능한 안전 장치를 만들었는지, 아니면 또 하나의 단명한 AI 규제 논쟁을 낳았는지 보여줄 것이다.