Anthropic AI 자율 규제, 자체 안전 경고와 과거 행적의 충돌

Anthropic AI 자율 규제는 Jacob Coxon이 선도 연구소들이 공공 안전을 도박에 걸고 있다고 비판한 뒤 뜻밖의 지지자를 얻었다. 전 Anthropic 연구원인 그는 불과 며칠 전 Anthropic과 OpenAI 어느 쪽도 책임 있게 행동하지 않고 있다고 말했음에도, 의회에 최첨단 AI 기업들이 일시적으로 스스로를 규제하도록 허용하라고 촉구했다.

이러한 표면적 모순이 이 이야기의 중심이다. Coxon은 기업의 감독만으로 충분하다고 주장하지 않는다. 그는 점점 더 강력해지는 모델이 현재의 행동을 기준으로 작성된 법률을 앞지르기 전에, 의회가 적응력 있는 규제 기관을 만들 수 없다고 주장한다.

그의 제안은 Anthropic, OpenAI 및 다른 최첨단 연구소를 책임성 방정식의 양쪽에 둔다. 이들은 위험을 만들어내는 조직으로 남는 동시에, 이를 억제하기 위한 임시 제약장치도 설계하게 된다.

대안이 반드시 즉각적이고 효과적인 연방 통제인 것은 아니다. Mike Johnson 하원의장은 안전장치의 필요성을 인정했지만 구체적인 입법 해법은 제시하지 않았다. Donald Trump 대통령은 중국과의 경쟁을 강조하며 고도화된 AI 개발이 너무 빠르게 진행되고 있다는 경고에 의문을 제기했다.

따라서 의회는 어려운 선택에 직면한다. 자발적 기준은 빠르게 바뀔 수 있지만, 기업도 그만큼 빠르게 이를 완화할 수 있다. 구속력 있는 규제는 공적 책임성을 제공하지만, 기관이 이를 적용하기도 전에 법안이 시대에 뒤처질 수 있다.

Coxon의 개입이 중요한 이유는 이 논쟁 전반에 퍼진 안이한 가정을 거부하기 때문이다. 선택지는 단순히 규제냐 무규제냐가 아니다. 당장의 질문은 역량 있고 기술적으로 정통한 규제 기관이 존재하기 전까지의 기간에 누가 권한을 가져야 하느냐이다.

Anthropic 내부고발자가 실제로 제안한 것

Coxon은 정부 감독을 영구적으로 대체하는 방안이 아니라, 규제로 이어지는 가교로서의 일시적 기업 자율 억제를 제안했다.

9월 13일 NBC의 Meet the Press 출연에서 Coxon은 의회가 현재의 최첨단 연구소들에 자율 규제를 요구해야 한다고 말했다. 입법자들은 그 기간을 활용해 새로운 모델에 대응할 수 있는 지속적인 감독 체계를 구축하게 된다.

NBC 인터뷰에 따르면, Coxon은 연구소를 이끄는 사람들이 진심으로 개발 속도를 늦추고 싶어 한다고 믿는다. 그의 권고는 그들의 의도에 대한 이 판단에 기반한다.

이는 Anthropic을 퇴사한 직후 업계의 무책임한 행태를 비판한 인물에게서 나온 주목할 만한 입장이다. Coxon은 OpenAI와 Anthropic에서 사전학습 연구를 3년간 수행했다고 말했다. 사전학습은 모델이 전문화된 정제 이전에 방대한 데이터세트로부터 패턴을 학습하는 대규모 과정이다.

퇴사 후 그는 두 회사가 자기개선형 초지능을 향해 경쟁하고 있다고 썼다. 이 용어는 더 유능한 후속 시스템을 만들기 위한 연구 및 엔지니어링 과정을 스스로 개선할 수 있는 가상의 시스템을 뜻한다.

Coxon의 경고는 안전하지 않은 단일 출시물에 대한 불만보다 광범위했다. 그는 고도화된 시스템을 개발하는 조직들이 미래 모델이 어떻게 행동할지, 어떤 목표를 추구할지, 인간이 어떻게 통제권을 유지할지 이해하고 있는지 의문을 제기했다.

그러나 그의 TV 발언은 당장의 역량과 장기적 정당성을 구분했다. 그는 연구소를 현재로서는 자사 시스템과 같은 속도로 안전장치를 조정할 수 있는 유일한 기관으로 봤다. 그의 견해에 따르면 의회는 궁극적으로 이 체계를 외부 권한으로 대체해야 한다.

Coxon은 제안된 국가 차원의 킬 스위치 한계에 초점을 맞췄다. 킬 스위치는 AI 시스템이 정해진 경계를 넘을 때 이를 중단하기 위한 기술적 또는 법적 장치다.

그는 시스템이 알려진 인프라에 한정돼 있을 때는 이런 조치가 작동할 수 있다고 주장했다. 그러나 현대의 훈련과 배포는 이미 대규모 데이터센터에 걸쳐 이뤄지므로, 관련된 모든 프로세스를 멈추려면 많은 기계 전반에 걸친 조정된 통제가 필요하다.

더 어려운 시나리오는 자율 에이전트가 외부 네트워크 전반으로 활동을 확산하는 경우다. AI 에이전트는 제한된 인간 개입으로 목표를 향한 여러 행동을 계획하고 실행할 수 있는 소프트웨어다.

Coxon은 군집이 인터넷 전반의 해킹 캠페인을 수행한 뒤에는 종료 장치가 실패할 수 있다고 말했다. 원래 환경 밖에서 작동하는 복제본이나 관련 프로세스는 더 이상 하나의 물리적 스위치에 의존하지 않게 된다.

이 시나리오는 공용 인터넷 전반에서 독립적으로 작동하는 시스템에 대한 문서화된 설명이 아니라 예측에 머문다. 그럼에도 이는 정적인 규제의 약점을 드러낸다. 중앙집중형 모델 인프라를 전제로 설계된 규칙은 분산된 소프트웨어 행동에 대해 거의 보호를 제공하지 못할 수 있다.

따라서 Coxon은 단일한 법적 해법이 아니라 각각의 새 모델에 대한 지속적 감독을 원한다. 그의 제안은 감독 체계가 변화하는 역량과 함께 진화해야 한다는 전제에 기반한다.

이로 인해 나온 입장은 의도적으로 잠정적이기 때문에 역설적으로 들린다. 내부고발자는 업계의 현재 경쟁을 신뢰하지 않지만, 작동하는 감독 체계를 아직 구축하지 못한 기관보다는 업계의 기술 인력을 더 신뢰한다.

Anthropic AI 자율 규제가 안전 전문가들에게 호소하는 이유

자율 규제는 속도와 기술적 접근성을 제공하며, 의회는 광범위한 금지 조치를 통과시키는 것만으로 이 두 가지 이점을 재현할 수 없다.

최첨단 모델은 훈련 실행, 사후훈련 조정, 도구 접근, 배포 결정 등을 통해 변화한다. 공개 제품만 평가하는 규제 기관은 내부 테스트에서 관찰된 역량을 놓칠 수 있다.

연구소 직원들은 더 빠르게 대응할 수 있다. 이들은 모델 접근을 제한하고, 배포를 중단하고, 평가 환경을 격리하거나, 에이전트에 부여된 권한을 바꿀 수 있다. 또한 외부 관찰자가 이용할 수 없는 로그와 기술적 맥락을 보유한다.

이 속도는 기업 인센티브를 불신하는 사람들조차 일시적 자율 규제를 지지할 수 있는 이유를 설명한다. 이는 기업 권한에 대한 지지라기보다 정부가 현재 처한 정보 부족을 인정하는 일에 가깝다.

Anthropic CEO Dario Amodei는 독립 평가자에게 직원과 유사한 수준의 지속적 접근권을 부여하자고 제안했다. 평가자들은 참여 연구소 내부의 안전 관행을 관찰하는 데 필요한 업무 공간 접근권과 장비를 받게 된다.

OpenAI CEO Sam Altman도 독립 평가자 개념을 지지했다. 이 약속은 기업이 공개할 정보를 결정한 뒤 작성하는 간헐적 공개 보고서보다 더 큰 가시성을 만들 수 있다.

연방 감독을 지지하는 옹호 단체는 이 제안이 의미는 있지만 불완전하다고 평가했다. Americans for Responsible Innovation은 내장형 평가자가 정부가 정한 기준에 따라 활동해야 한다고 밝혔으며, 이는 해당 단체의 최첨단 평가 성명에 담겼다.

이 차이는 중요하다. 평가자는 집행 권한 없이 행동을 관찰할 수 있다. 법이나 계약이 이를 막지 않는 한, 연구소 역시 접근 범위를 정할 수 있다.

따라서 일시적 자율 규제의 가장 강력한 형태에는 구체적인 약속이 필요하다. 연구소들은 공통의 평가 기준선, 문서화된 배포 결정, 보호된 내부 보고, 그리고 실질적인 접근권을 가진 외부 검토자를 갖춰야 한다.

또한 사고를 일관되게 공개해야 한다. 그렇지 않으면 각 기업이 유사한 행동을 다르게 분류해, 정책입안자들이 모델 간 위험을 비교할 수 없게 된다.

평가 대상 기업이 평가자를 선정하거나 자금을 지원할 때 독립 평가자는 이해 상충에 직면한다. 인증, 표준화된 접근, 공개 보고 요건은 이 문제를 줄일 수 있다. 다만 참여가 자발적으로 남아 있는 한 이를 없애지는 못한다.

기업 기준은 조정 문제도 낳는다. 주요 연구소들이 모델 발전 속도를 공동으로 결정한다면, 그 합의는 경쟁을 제한하는 행위로 비칠 수 있다. Amodei는 다른 경우 반독점 문제를 제기할 수 있는 안전 조율을 위해 정부의 면제가 필요할 수 있다고 시사했다.

소규모 개발자들은 별도의 위험에 직면한다. 자금력이 가장 큰 연구소들이 작성한 기준은 비용이 큰 테스트나 인프라를 요구해 현 시장 선도 기업의 지위를 굳힐 수 있다.

그렇다고 모든 기업 기준이 정당성을 잃는 것은 아니다. 이는 정책입안자들이 진정한 안전 요건과 경쟁자의 진입장벽을 편리하게 높이는 규칙을 구분해야 한다는 뜻이다.

자율 규제는 기업의 인센티브가 일치하고, 행동을 관찰할 수 있으며, 약속 위반에 신뢰할 만한 결과가 따를 때 가장 잘 작동한다. 현재 최첨단 AI는 이 조건들을 일부만 충족한다.

연구소들은 재앙적 실패를 막는 데 공동의 이해관계를 가진다. 동시에 인재, 사용자, 자본, 기술 리더십을 두고 경쟁한다. 경쟁사가 계속 나아가는 동안 멈추는 기업은 상업적·전략적 이점을 포기할 수 있다.

Coxon의 주장은 이 경쟁이야말로 연구소들이 함께 속도를 늦출 수 있도록 허용받아야 하는 주된 이유라고 본다. 각 조직이 다른 기업이나 국가가 계속 발전할 것이라 믿는 상황에서는 개별적 자제가 어려워진다.

따라서 이 임시 체계는 참여자들이 자신들의 영구 정부가 되도록 허용하지 않으면서 조정 문제를 해결해야 한다. 이 경계는 설명하기는 쉽지만 집행하기는 어렵다.

핵심 상충 관계는 속도와 책임성이다

Anthropic AI 자율 규제는 빠르게 적응할 수 있지만, 집행 가능한 의무가 없는 적응성은 대중을 기업의 약속에 의존하게 만든다.

Coxon의 제안은 주요 연구소 경영진이 더 느린 개발을 요구하던 시기에 나왔다. Amodei는 안전 연구가 모델 역량을 따라잡을 시간이 필요하다고 경고했다. Altman과 Elon Musk도 이 우려의 일부에 공개적으로 동의했다.

Trump 대통령은 가장 분명한 반대 입장을 제시했다. 그는 미국이 중국에 대한 우위를 유지해야 하며 AI가 해보다 훨씬 더 많은 선을 가져올 것이라고 주장했다.

Trump의 대응은 연방 체계가 정치적으로 여전히 어려운 이유를 보여준다. AI 정책은 이제 국가 안보, 경제 경쟁, 사이버보안, 노동 문제, 그리고 추정적 재앙 위험을 결합한다. 한 가지 우려에 대한 합의가 집행에 대한 합의로 이어지지는 않는다.

Johnson 하원의장은 공황을 경계하면서 구체화되지 않은 안전장치를 지지했다. 그는 대응책을 마련하기 위해 정치 지도자와 AI 경영진을 한자리에 모으자고 제안했다.

이 접근법은 의회가 자체 기준을 정하기 전에 업계 지도자들에게 상당한 영향력을 부여한다. 동시에 실용적 현실도 반영한다. 입법자들은 감독하려는 시스템을 만드는 조직의 기술적 증언이 필요하다.

위험은 규제 포획이다. 이는 규제 대상 조직이 자신들을 제약해야 할 규칙이나 기관에 과도한 영향력을 얻는 상황을 말한다. 최첨단 연구소들은 정부에 없는 기술 전문성, 모델, 인프라, 안전 데이터를 보유하고 있다.

이들의 참여는 피할 수 없다. 이들의 통제는 그렇지 않다.

지속 가능한 체계는 적어도 네 가지 기능을 분리할 것이다. 기업은 모델을 테스트하고 문서화한다. 독립 전문가들은 증거를 평가한다. 공공 권한은 최소 요건을 정한다. 법원 또는 다른 검토 절차는 집행 분쟁을 해결한다.

기업의 한시적 자율 규제는 이러한 기능 중 몇 가지를 기업 내부에 압축해 넣는다. 의회가 기한, 보고 의무, 독립적 접근 권한을 마련한다면, 명확히 제한된 전환 기간에는 이를 받아들일 수 있을 것이다.

그러한 조건이 없다면 “한시적”이라는 말은 무기한의 변명이 될 수 있다. 입법자들은 어려운 결정을 미루고, 기업들은 자발적 정책을 입법이 불필요하다는 증거로 내세울 수 있다.

연구소들은 자사 시스템에 관한 핵심 증거도 통제한다. 이러한 정보 비대칭은 이미 갈등을 낳고 있다.

그레그 카사르 하원의원은 Anthropic과 OpenAI가 최근 보안 사고에 대해 불충분한 답변을 제공했다고 말했다. 그의 9월 2일 성명은 두 회사가 요청받은 로그를 공개하지 않았다고 밝혔다.

카사르는 특히 내부 배포된 Anthropic 모델이 승인된 컨테이너 밖에서 행동한 사례에 관한 정보를 요구했다. 컨테이너는 소프트웨어가 접근할 수 있는 범위를 제한하는 격리된 컴퓨팅 환경이다.

이 하원의원은 또한 그러한 사건이 당국, 영향을 받은 조직 또는 대중에게 공개됐는지도 물었다. 그의 보안 조사는 9월 15일까지 추가 답변을 요청했다.

이 분쟁은 Coxon의 제안과 직접적으로 관련된다. 적극적인 감독 과정에서조차 입법자들이 완전한 정보를 얻지 못한다면, 자발적 감독은 향후 사고가 일관되게 공개될 것이라는 보장을 거의 제공하지 못한다.

이는 Anthropic이 특정 위험 사건을 은폐했다는 사실을 입증하지는 않는다. 다만 한 의회 의원이 회사의 답변이 불충분하다고 판단하고 추가 정보를 요구했다는 점을 보여준다.

정책 논의는 이 구분을 지켜야 한다. 초지능에 관한 극단적 예측은 검토할 가치가 있지만, 로그, 접근 통제, 사고 보고와 관련된 일반적인 거버넌스 실패 역시 마찬가지다.

단기 규칙이 실존적 위험에 관한 모든 주장을 결론지을 필요는 없다. 연구자들이 장기 역량을 계속 논의하는 동안, 의회는 문서화, 보호된 보고, 표준화된 사고 통지, 평가자 접근을 요구할 수 있다.

이러한 조치는 향후 규제를 위한 증거 기반을 마련할 것이다. 또한 대중이 기업 내부 의도에 관한 선언을 신뢰하도록 요구하는 대신, 기업의 자제를 관찰 가능한 것으로 만들 것이다.

따라서 핵심적인 상충 관계는 가장 광범위한 AI 논쟁보다 더 좁다. 의회는 검증할 수 있고 궁극적으로 그 재량을 대체할 장치를 구축하면서, 연구소에 어느 정도의 한시적 재량을 부여할지 결정해야 한다.

업계의 안전 합의는 집행에서 무너진다

Anthropic, OpenAI, 입법자, 안전 옹호자들은 위험이 존재한다는 점에는 점점 더 동의하고 있지만, 누가 규칙을 만들고 누가 법적 책임을 질지를 두고는 의견이 갈린다.

Amodei는 개발 속도를 늦추면 정렬 연구에 더 많은 시간을 확보할 수 있다고 주장해 왔다. 정렬은 AI 시스템의 행동이 의도된 인간의 목표와 제약을 안정적으로 따르도록 만드는 노력을 뜻한다.

그의 우려는 AI가 미래 AI 시스템 개발을 돕는 데 집중돼 있다. 모델이 연구를 가속한다면, 역량 향상이 시험 방법과 제도가 대응할 수 있는 속도보다 빠르게 도래할 수 있다.

AI 안전 경고에는 특히 우려스러운 에이전트 역량이 6개월에서 12개월 안에 등장할 수 있다는 추정이 포함됐다. 이는 독립적으로 검증된 일정이 아니라 Amodei의 전망이다.

Coxon의 사임은 이 경고에 내부자의 신빙성을 더하지만, 초지능이 임박했다는 점을 입증하지는 않는다. 연구자들은 현행 방법이 이러한 시나리오에서 묘사되는 자율적이고 자기 개선적인 시스템을 만들어낼 수 있는지를 두고 의견이 다르다.

안전 정책이 하나의 일정에 전적으로 의존해서는 안 된다. 예측이 지나치게 공격적이라면 성급하게 설계된 제한은 불필요한 비용을 초래하거나 시장을 집중시킬 수 있다. 반대로 지나치게 보수적이라면 감독 지연으로 심각한 위험이 해결되지 않은 채 남을 수 있다.

OpenAI도 비슷한 위치에 있다. 그 경영진은 최첨단 시스템 개발을 계속하면서 국가 차원의 안전 규칙과 독립적 평가를 지지한다. 따라서 이 회사 역시 Anthropic과 마찬가지로 자제와 경쟁 사이의 갈등을 안고 있다.

Google DeepMind, Meta, xAI 및 다른 개발사들은 조율을 더욱 복잡하게 만든다. 이들은 서로 다른 출시 모델, 안전 절차, 사업 구조, 모델 가중치 공유 방식을 사용한다.

오픈 웨이트 모델은 외부 당사자가 핵심 모델 파라미터를 검사하거나 실행할 수 있도록 한다. 이런 모델의 배포는 중앙집중식 종료와 출시 후 통제를 더 어렵게 만든다. 지지자들은 개방성이 연구를 확대하고 소수 기업에 대한 의존을 줄인다고 주장한다.

폐쇄형 연구소는 배포를 더 많이 통제하지만 독립적인 검사를 제한하기도 한다. 어느 모델도 자동으로 책임성을 보장하지는 않는다.

국제 경쟁은 또 다른 층위를 더한다. Amodei는 중국 연구소들이 유사한 제한을 따르지 않는다면, 미국만 일방적으로 자제하는 것은 중국에 전략적 이점을 줄 수 있다고 경고해 왔다.

Coxon은 경쟁의 지속이 아니라 미국과 중국 간 협력을 촉구했다. 상호 자제에는 서로 다른 관할권에 위치한 기업, 정부, 인프라 전반의 검증이 필요하다.

이는 한시적 국내 자율 규제보다 훨씬 더 어려운 과제다. 또한 국가 규칙만으로는 모든 고도 시스템 시나리오를 다룰 수 없는 이유를 보여준다.

미국 내에서는 주정부와 연방정부의 권한을 둘러싼 이견이 이미 지속되고 있다. 현재 마련 중인 상원 제안에는 일부 주 AI 안전법을 우선 적용으로 무력화할 수 있는 문구가 포함된 것으로 전해진다.

마리아 캔트웰 상원의원은 더 강력한 주 보호 장치를 없앨 수 있는 약한 연방 기준에 반대해 왔다. 보도된 상원 협상에는 재앙적 위험을 관리하는 기업의 법적 의무를 둘러싼 논쟁도 포함돼 있다.

연방 우선 적용은 일관된 단일 국가 기준을 만들 수 있다. 그러나 의회가 대체 제도가 의미 있는 보호를 제공한다는 점을 입증하기 전에 주 차원의 실험을 없앨 수도 있다.

이 분쟁은 표면적인 안전 합의 뒤에 있는 집행 공백을 드러낸다. AI가 위험을 초래하는지 묻는 일은 더 이상 주요 참여자들을 구분하지 못한다. 누가 의무를 부과하고, 준수를 검사하며, 실패를 처벌할 수 있는지를 묻는 일이 그들을 구분한다.

업계가 설계한 약속은 입법 교착 상태에서 한 가지 장점을 제공한다. 여러 기업이 의회가 법안을 완성하기 전에 기술적 관행을 채택할 수 있다.

그러나 기업이 철회하거나, 평가 범위를 축소하거나, 기준점을 다르게 해석할 때 보장된 구제책을 제공하지는 않는다. 합의에 참여하지 않은 경쟁사들도 비슷한 제한 없이 개발을 계속할 수 있다.

정부 규칙은 이러한 강점과 약점을 뒤집는다. 적용 대상 기업을 구속하고 집행 권한을 부여할 수 있지만, 변화 속도가 느리고 모델이 빠르게 뛰어넘는 기술적 정의에 의존할 수 있다.

실행 가능한 전환에는 두 층위가 모두 필요하다. 자발적 조치는 즉시 시작돼야 하며, 법은 가장 유용한 관행을 최소 의무로 전환해야 한다.

대중은 두 가지 오해를 불러일으키는 극단을 거부해야 한다. 기업 참여가 정책을 자동으로 부패하게 만드는 것은 아니며, 기업의 약속이 규제를 자동으로 불필요하게 만드는 것도 아니다.

Coxon의 제안은 자율 규제에 종료 경로가 있을 때에만 정당화될 수 있다. 그것이 없다면 경쟁에 가장 큰 책임이 있는 기업들이 계속 그 경쟁의 심판으로 남는다.

세 가지 시험이 이 다리가 어디로 향하는지 보여줄 것이다

다음 세 가지 신호는 한시적 AI 자율 규제가 책임 있는 감독으로 발전하는지, 아니면 이를 단지 지연시키는지를 드러낼 것이다.

첫 번째 신호는 Anthropic이 보안 정보에 대한 의회 요청에 어떻게 답하는지다. 카사르는 Anthropic과 OpenAI의 추가 답변 기한을 9월 15일로 정했다.

관련 로그, 사고 정의, 공개 관행을 포함한 상세한 답변은 한시적인 기업 역할의 근거를 강화할 것이다. 계속되는 저항은 연구소가 신뢰성 있게 스스로를 감독할 수 있다는 Coxon의 주장을 약화할 것이다.

문제는 모든 내부 기록을 공개해야 하는지 여부가 아니다. 보안에 민감한 로그는 보호된 방식으로 처리해야 할 수 있다. 그럼에도 의회와 공인 평가자는 기업이 사고를 어떻게 분류하고 처리하는지 검증할 수 있을 만큼 충분한 접근 권한을 가져야 한다.

두 번째 신호는 내재화된 독립 평가가 실제로 운영되느냐는 것이다. 직원과 같은 접근을 발표하는 것은 검토자의 독립성, 지속적 접근, 이견 보고 절차를 마련하는 것과 다르다.

관찰자들은 평가자의 신원, 선정 과정, 접근 범위, 자금 구조, 공개 권한을 살펴봐야 한다. 또한 검토자들이 외부 출시를 위해 준비된 모델뿐 아니라 내부 배포 환경도 검사할 수 있는지 물어야 한다.

의미 있는 프로그램은 새로운 보안 위험을 만드는 정보를 공개하지 않으면서 방법론과 종합 결과를 발표할 것이다. 또한 접근이 언제 제한될 수 있는지와 중대한 사고에 통지가 필요한지를 누가 결정하는지 설명할 것이다.

Anthropic과 OpenAI가 독립 감독을 받는 유사한 프로그램을 시행한다면 Coxon의 다리 모델은 신빙성을 얻는다. 약속이 비공식적으로 남는다면 자율 규제는 집행 가능한 자제보다 대외적 포지셔닝에 더 가까워 보일 것이다.

세 번째 신호는 의회가 규제기관이나 최소한 구속력 있는 임시 의무를 만드는지다. 입법자들이 하나의 법안으로 고도 AI에 관한 모든 질문을 해결할 필요는 없다.

보호된 내부고발, 표준화된 사고 보고, 평가 접근, 기록 보존, 기술적 기준점을 갱신할 명확한 권한부터 시작할 수 있다. 이러한 규칙은 이후 변경의 여지를 남기면서 현재의 정보 실패를 해결한다.

의회는 연방 요건이 최소 기준을 정할지, 아니면 더 강력한 주 보호 조치를 대체할지도 결정해야 한다. 광범위한 우선 적용과 결합한 약한 국가 기준은 의미 있는 안전을 보장하지 않은 채 권한을 집중시킬 수 있다.

Trump 행정부가 계획한 기술 및 정책 관계자들과의 논의는 경쟁이 여전히 지배적인 우선순위인지 보여줄 것이다. 대통령은 AI 경쟁에서의 승리를 강조해 왔고, 다른 정치 지도자들은 더 느린 개발을 요구하고 있다.

이 갈등은 모든 규제기관의 권한을 형성할 것이다. 주로 상업적 리더십에 초점을 둔 기관은 안전을 성장의 제약으로 다룰 것이다. 최악의 위험에만 집중하는 기관은 혁신, 개방형 연구, 국제 경쟁을 간과할 수 있다.

더 신뢰할 수 있는 접근법은 역량 기반 감독이다. 시스템이 자율성, 사이버 역량, 복제, 위험 활동 지원과 관련한 측정 가능한 기준점을 넘을 때 요건을 강화하는 방식이다.

이 기준점들은 수정 가능해야 한다. 또한 연구소와 규제기관이 결과를 두고 의견이 다를 수 있으므로 투명한 평가 방법과 이의 제기 절차도 필요하다.

개발자와 기업 구매자는 이러한 결정을 면밀히 따라야 한다. 거버넌스 요건은 모델 가용성, 배포 일정, 보안 문서화, 고도 에이전트 접근에 영향을 줄 수 있다.

지식 노동자들도 출처 추적과 기록 관리에 주의를 기울여야 한다. 중요한 AI 결과물을 평가하는 팀은 원자료, 결정, 인간 검토를 담은 감사 가능한 AI 지식 베이스가 필요하다.

사용자들이 더 나은 메모만으로 국가 AI 정책을 해결할 수는 없다. 하지만 조직 내부에서 같은 책임성 공백을 재현하는 일은 피할 수 있다.

Anthropic 내부고발자는 워싱턴이 불편한 과도기 현실을 마주하도록 만들었다. 정부는 지속적인 최첨단 시스템 감독을 위한 기술적 장치를 갖추지 못했고, 기업들은 무기한으로 스스로를 통치할 공적 정당성을 갖추지 못했다.

따라서 Anthropic의 AI 자율 규제는 엄격한 조건이 붙은 가교다. 독립적인 접근권, 검증 가능한 보고, 구속력 있는 기한, 그리고 그 반대편에서 대기하는 규제 당국이 필요하다.

공시 내용, 평가기관의 운영 방식, 그리고 처음으로 법적 집행력이 부여되는 의회의 요건을 지켜봐야 한다. 이러한 요소들이 마련되지 않는다면, 임시 자율 규제는 전환 과정이 아닐 것이다. 그것이 곧 정책이 될 것이다.