Anthropic AI 안전 법안, 위험한 모델 차단에 높은 기준 제시

Anthropic은 사망·중상자가 50명을 넘거나 피해액이 10억 달러를 초과하는 위험에 한해 모델 차단 명령을 내리도록 하는 AI 안전 법안을 로비하고 있는 것으로 전해졌다.

이 기준은 제안의 핵심 갈등을 만든다. Anthropic은 프런티어 AI에 대한 구속력 있는 연방 감독을 원하지만, 정부의 가장 강력한 구제 조치는 재앙적 피해의 정의가 충족돼야 발동될 수 있다.

이 제안은 아직 발의된 법안이 아니며, 기밀 문안은 공개적인 입법 검토를 거치지 않았다. 세부 내용은 Politico가 설명한 기밀 초안과 후속 보도에서 나왔다.

초안은 재앙이 발생하기 전에도 의무를 부과한다. 대형 개발사는 안전 프레임워크를 마련하고, 위험을 공개하며, 중대한 사고를 보고하고, 외부 평가를 받아야 한다.

그러나 이러한 예방 요건은 제한적인 집행 경로로 이어진다. 자격을 갖춘 평가자가 임박한 재앙적 위험을 보고하면 상무부가 증거를 법원에 제출하고, 연방 판사가 개입이 정당한지 결정하게 된다.

이 구조는 고도화된 AI에 규제가 필요한지 여부를 넘어 논쟁의 초점을 옮긴다. 더 어려운 질문은 정부가 아직 우려되는 피해를 일으키지 않은 모델을 중단하기 전에 얼마나 많은 증거를 요구해야 하는가다.

캘리포니아의 기존 프런티어 AI 규칙은 가장 가까운 참고 사례다. 보도된 연방 초안은 이 규칙의 재앙적 위험 기준을 차용하되, 모델 차단 권한을 하나의 연방 절차 안에 둘 것으로 보인다.

그 결과 일관성과 유연성 사이의 절충이 생긴다. 단일한 국가 기준은 자의적인 개입을 막을 수 있지만, 증거가 불완전할 때 조기 대응을 어렵게 만들 수도 있다.

Anthropic AI 안전 법안이 실제로 하게 될 일

이 제안은 반복적인 감독과 모델을 중단시키기 위한 엄격히 제한된 경로를 결합한다.

보도된 초안에 따르면, 적용 대상 프런티어 개발사는 서면 안전 프레임워크를 만들고 이를 따라야 한다. 이 문서는 각 기업이 심각한 위험을 어떻게 평가하고 안전장치가 충분한지 어떻게 판단하는지 설명한다.

개발사는 새로 출시되는 프런티어 모델에 관한 투명성 보고서도 공개해야 한다. 중대한 안전 사고는 상무부에 보고하고, 안전 우려를 제기하는 직원에게 보호 장치를 제공해야 한다.

독립 평가자는 적용 대상 기업과 그 모델을 주기적으로 검토하게 된다. 이 평가자들은 상무부에 등록해야 하므로, 누가 규제 대상 평가를 수행할 수 있는지 판단하는 데 상무부가 공식적인 역할을 맡게 된다.

이 제안은 개발사가 평가자에게 비용을 지급하는 것을 허용하는 것으로 전해졌다. 다만 그러한 금전 관계는 평가자의 독립성을 훼손하지 않는 경우에만 허용된다.

이 방식은 Anthropic이 자발적으로 시험하기 시작한 시스템과 닮아 있다. 회사는 10월 15일 평가자 업데이트에서 비영리단체 METR 직원 6명이 회사 하드웨어와 직원에 준하는 접근 권한을 받았다고 밝혔다.

Anthropic은 METR가 회사 승인 없이 분석 결과를 공개할 수 있다고 말했다. 다만 고객 정보, 특권 자료, 특정 아키텍처 세부 사항 등을 포함한 사전에 정의된 범주 내에서는 수정 삭제를 요구할 수 있다.

다른 평가자들은 더 제한적인 접근 권한으로 활동한다. Anthropic은 1단계 검토자가 회사가 선택한 접근 권한을 받고, 조사 결과도 회사 승인 하에서만 공개할 수 있다고 밝혔다.

연방 제안은 평가를 자발적 협약에서 규제 시스템으로 옮기려 한다. 그러나 보도된 규칙은 중요한 질문을 남긴다. 연구소가 접근 권한과 대가를 모두 제공할 때 독립성은 어떻게 측정될 것인가?

초안에서 가장 중대한 조항은 정부 개입에 관한 것이다. 모델이 예측 가능하고 임박한 재앙적 위험을 제시할 경우, 상무부는 해당 모델의 출시나 사용을 중단시키기 위해 법원에 신청할 수 있다.

이 위험은 피해액이 10억 달러를 넘거나 50명을 초과하는 사망 또는 중상을 수반해야 하는 것으로 전해졌다. 또한 생물무기, 사이버공격, 또는 개발자의 통제를 벗어난 모델 등을 포함한 특정 위험에서 비롯돼야 한다.

그러한 위협을 식별한 평가자는 72시간 이내에 부처에 보고해야 한다. 이후 상무부는 증거를 워싱턴 D.C. 연방 판사에게 제시하게 된다.

법적 기준이 충족됐는지는 개발사나 기관만이 아니라 판사가 결정한다. 이 사법 절차는 기업을 자의적인 제한으로부터 보호할 수 있지만, 시간과 증거에 대한 요구도 늘린다.

초안은 다른 연방 부처, 기관 또는 공무원이 적용 대상 연구소에 모델 출시 중단을 독자적으로 명령하지 못하도록 하는 것으로 전해졌다. 이 특정 구제 조치에서는 상무부가 관문 역할을 하게 된다.

이 독점성은 중요하다. AI 위험은 국가안보, 보건, 법 집행, 소비자 보호, 인프라 관할을 가로지를 수 있지만, 초안은 최종 배포 결정의 경로를 하나의 부처로 집중시킨다.

이 기준은 허용 가능한 손실이 아니라 법적 발동 요건이다

이 수치는 법원이 모델을 차단할 수 있는 시점을 정의할 뿐, Anthropic이 어느 정도의 피해를 용인한다고 보는지를 뜻하지 않는다.

사망자 50명 또는 10억 달러라는 헤드라인은 개발사가 그보다 낮은 수준의 피해를 일으킬 허가를 받는다는 인상을 줄 수 있다. 하지만 이는 보도된 제안을 가장 정확하게 해석한 것은 아니다.

이 기준은 예측된 재앙 때문에 프런티어 모델의 출시나 사용을 중단시키는 특정 예방 조치에 적용된다. 일반 형사법, 제조물 책임, 과실 청구, 소비자 보호 또는 부문별 규제를 없애는 것은 아니다.

피해 규모가 더 작은 사이버공격도 여전히 불법일 수 있다. 모델과 관련된 부상도 다른 법률에 따라 소송, 조사 또는 집행으로 이어질 수 있다.

초안은 재앙적 기준에 도달하기 전에도 적용되는 의무를 만드는 것으로 보인다. 안전 계획, 사고 보고, 평가, 진실한 공개는 수십 명의 사상자가 발생할 때까지 기다릴 필요가 없다.

그럼에도 이 기준은 가장 중요한 순간에 정부가 할 수 있는 일을 규정한다. 당국자가 모델이 위험하다고 보지만 증거가 여전히 확률적일 경우, 임박성과 재앙적 규모를 모두 입증해야 한다.

이 결합은 까다롭다. 프런티어 모델 평가는 시스템이 일정 기간 안에 특정 수의 부상을 유발할 것이라는 명확한 예측을 제공하는 일이 드물다.

평가자들은 대체로 역량, 안전장치, 접근 조건, 그럴듯한 오용 경로를 측정한다. 이러한 결과를 재정적 피해나 사상자 수의 예측으로 바꾸려면 인간 행위자와 배포 조건에 관한 추가 가정이 필요하다.

“예측 가능”이라는 용어는 위험을 합리적으로 예상할 수 있는지를 묻는다. “임박한”은 더 즉각적인 위협을 요구하지만, 초안에서 이를 정확히 어떻게 해석할지는 법원에서 중요해질 것이다.

모델은 현재 진행 중인 공격을 드러내지 않으면서도 생물학적 오용에 필요한 전문성을 크게 낮출 수 있다. 특정 표적을 식별하지 않고도 사이버 취약점 악용을 자동화할 수 있다.

이러한 결과는 더 엄격한 접근 통제, 추가 시험 또는 출시 연기를 정당화할 수 있다. 그러나 법정 기준을 넘는 임박한 재앙의 증거를 필요로 하는 법원을 만족시키지는 못할 수 있다.

Anthropic의 6월 Advanced AI Framework는 이 초안의 정책적 토대를 제공한다. 이 프레임워크는 생물무기, 공격적 사이버 작전, 통제 상실, 자동화된 AI 연구개발에 초점을 둔다.

프레임워크는 적용 대상 개발사가 고도화된 모델을 시험하고, 안전 정보를 공개하며, 독립 평가자를 참여시키고, 정부 기관에 책임을 져야 한다고 말한다. 또한 하나의 확정적 설계가 아니라 여러 집행 모델을 제시한다.

제안된 적용 범위는 특정 컴퓨팅 기준을 초과하는 모델을 훈련하고 상당한 AI 매출 또는 연구 지출 요건을 충족하는 개발사를 포함한다. 이 한계는 가장 고도화된 시스템을 구축할 수 있는 기업에 규정 준수를 집중하기 위한 것이다.

프레임워크는 재앙적 위험을 정의할 때 캘리포니아 법을 인용한다. 따라서 사상자와 피해액 수치를 허용 가능한 피해에 대한 새로 만든 측정치가 아니라 기존 정책의 참고 기준으로 다룬다.

하지만 정의를 연방법에 도입하는 일은 익숙한 문구를 재활용하는 것 이상이다. 누가 입증 책임을 지며 불확실성이 언제 개입에 유리하게 작용하는지를 결정한다.

더 낮은 기준에서는 정부가 약한 예측에 근거해 유익한 기술을 중단시킬 위험이 있다. 더 높은 기준에서는 배포를 되돌리기 어려워진 뒤에야 증거가 법적으로 충분해졌다는 사실을 대중이 알게 될 위험이 있다.

하나의 연방 관문은 명확성과 병목 지점을 만든다

상무부에 독점적인 모델 차단 권한을 부여하면 개입은 표준화되지만, 어려운 판단이 하나의 기관에 집중된다.

프런티어 AI는 하나의 규제 범주에 깔끔하게 들어맞지 않는다. 하나의 모델이 의료 연구, 군사 시스템, 금융 서비스, 통신, 핵심 인프라에 영향을 미칠 수 있다.

이미 여러 기관이 이러한 용도와 관련된 전문성을 보유하고 있다. 보건 당국은 생물학적 위협을 이해하고, 사이버보안 기관은 인프라 공격을 추적하며, 국가안보 조직은 적대 국가의 활동을 평가한다.

보도된 Anthropic AI 안전 법안은 이러한 기관들이 보유한 모든 권한을 없애지는 않을 것이다. 더 제한적인 효과는 적용 대상 모델의 출시나 사용을 중단시키는 명령의 경로를 상무부로 일원화하는 데 있다.

지지자들은 이 설계를 위한 실용적 근거를 제시할 수 있다. 지정 규제기관은 기술 인력을 구축하고 일관된 절차를 마련하며, 서로 다른 기준을 적용하는 기관들의 상충되는 명령을 피할 수 있다.

사법 심사도 절차에 규율을 부여할 수 있다. 상무부는 불투명한 내부 판단에 의존하는 대신 연방 판사를 설득할 만큼 강력한 증거를 제시해야 한다.

개발사에 이 절차는 예측 가능성을 제공한다. 기업은 어느 기관이 보고를 받는지, 어떤 평가자가 자격을 갖추는지, 배포 분쟁에는 어떤 법적 기준이 적용되는지 파악할 수 있다.

예측 가능성은 단지 상업적 이점이 아니다. 안정적인 규칙은 안전팀이 여러 기관이 동일한 증거에 어떻게 반응할지 추측하지 않고 내부 결정을 내리는 데 도움이 될 수 있다.

반대 측의 우려는 제도적 역량이다. 지정 기관은 충분한 기술 전문성, 보안 인프라, 자금, 보호된 정보를 조사할 권한이 없다면 의미 있는 감독을 제공할 수 없다.

Anthropic의 자체 프레임워크도 이 과제를 인정한다. 정부가 역량 평가와 종합적 위험 평가를 직접 수행할 능력을 갖춰야 한다고 명시한다.

그러한 역량이 갖춰지기 전까지 정부는 외부 평가자와 개발사가 제공하는 정보에 크게 의존하게 된다. 따라서 집행의 질은 분쟁이 법원에 이르기 전에 마련된 접근 협약에 좌우될 것이다.

집중된 권한은 빠르게 전개되는 사고에서 병목을 만들 수도 있다. 평가자는 위협을 인지하고, 상무부에 통지하며, 증거 기록을 뒷받침하고, 사법 조치를 기다려야 한다.

72시간 보고 기한은 규정 준수 문서에서는 신속해 보인다. 그러나 자율 시스템, 유출된 모델 가중치 또는 진행 중인 사이버 캠페인이 네트워크 전반으로 확산되는 상황에서는 훨씬 느리게 느껴질 수 있다.

이 제안이 법원의 감독 아래 개입하도록 한 데에는 과도한 규제에 대한 정당한 우려가 반영돼 있다. 모델 차단은 고객, 연구자, 국가 경쟁력, 표현의 자유 관련 이해관계에 영향을 미치는 예외적인 조치다.

그러나 예외적 구제수단은 피해가 눈에 보이기 전에 가장 큰 가치를 발휘하는 경우가 많다. 따라서 법적 기준이 예측, 불확실성, 기밀 증거를 어떻게 다루는지는 표면적인 수치만큼이나 중요하다.

연방제 문제도 있다. 의회가 포괄적인 프런티어 AI 규제 체계를 마련하지 않았기 때문에 주정부들이 먼저 움직여 왔다.

Anthropic 대변인은 이 제안이 회사가 6월부터 연방 및 주 의원들에게 홍보해 온 정책을 반영한다고 밝혔다. 회사는 이를 의회가 채택해야 할 합리적인 조치라고 평가했다.

Anthropic의 프레임워크는 의회가 엄격한 안전 기준을 충족하는 강력한 규제 체계를 수립할 때에만 연방법 우선 원칙이 적용돼야 한다고 말한다. 또한 우선 적용은 좁게 유지하고, 명시된 프런티어 거버넌스 기능 밖에서는 주정부 권한을 보존해야 한다고 덧붙인다.

이 문구는 주정부의 AI 규제를 광범위하게 금지하는 것보다 더 절제돼 있다. 그럼에도 최종 법안에는 정밀한 경계가 필요하다. 모든 주법을 없애지 않더라도 연방의 배타적 권한은 주정부의 실험을 약화시킬 수 있기 때문이다.

독립 평가는 자금, 접근권, 공개 권한에 달려 있다

평가 기관의 이름보다 중요한 것은 적절한 증거를 검토하고 불편한 발견을 공개할 수 있는지 여부다.

독립 평가는 이 제안에서 민간 개발과 공적 집행을 잇는 핵심 가교다. 정부는 보이지 않는 위험에는 대응할 수 없으며, 연구소들은 외부인이 재현할 수 없는 정보를 보유하고 있다.

진지한 평가 기관에는 출시 전 모델, 학습 결정, 내부 안전장치, 사고 기록, 그리고 시험이 수행된 조건에 대한 접근권이 필요하다. 모델 접근권만으로는 충분하지 않다.

평가 기관은 오해를 부르는 결과를 알아볼 전문성도 필요하다. 모델은 시험 환경에서 다르게 행동할 수 있고, 벤치마크는 도구 사용, 장기 과업, 여러 에이전트 간 상호작용을 통해 나타나는 위험을 놓칠 수 있다.

Anthropic은 상주형 평가 기관이 정보 격차를 줄일 수 있다고 주장한다. 현재의 METR 협력 체계는 소규모 외부 팀에 내부 위험 담당자와 폭넓게 유사한 수준의 접근권을 제공한다.

이 접근법은 간헐적인 외부 시험보다 큰 장점이 있다. 평가 기관은 출시 직전 완성된 모델만 점검하는 것이 아니라 회사가 운영되는 방식을 관찰할 수 있다.

하지만 이러한 밀접성은 그 자체로 압박을 만든다. 평가 기관은 회사의 보안 환경 안에서 일하고, 정보를 회사에 의존하며, 회사의 전제에 익숙해질 수 있다.

보수 지급은 이 문제를 더욱 부각한다. 검토 대상 회사가 수수료를 낸다고 해서 검토자가 자동으로 독립성을 잃는 것은 아니다. 재무감사인, 시험 기관, 인증 기관도 흔히 비슷한 구조 아래에서 일한다.

독립성은 오히려 안전장치에 달려 있다. 지급액은 결론에 따라 달라져서는 안 되며, 지속적인 자금 지원은 우호적인 결과에 의존해서는 안 되고, 평가 기관은 공개 분석에 대해 실질적인 통제권을 가져야 한다.

보도에 따르면 이 제안은 개발사 자금 지원이 독립성에 영향을 미치지 않는 경우 이를 허용한다. 이 원칙은 합리적이지만, 집행을 위해서는 측정 가능한 기준이 필요하다.

규제기관은 지분 보유, 컨설팅 관계, 매출 집중도, 계약상 제한, 인적 연계, 그리고 고객을 잃고도 평가 기관이 존속할 능력을 검토해야 한다.

공개 권한도 똑같이 중요하다. 심각한 약점을 발견했지만 이를 공개적으로 설명할 수 없는 평가 기관은, 비공개로 규제기관에 알릴 수 있더라도 제한적인 책임성만 제공한다.

일부 비공개 처리는 불가피하다. 공개 보고서는 고객 데이터, 악용 가능한 취약점, 모델 가중치, 또는 생물학적 오용을 쉽게 만드는 지침을 노출해서는 안 된다.

어려운 문제는 누가 정보를 분류하고 분쟁을 어떻게 해결하느냐다. 개발사가 모든 비공개 처리에 대한 최종 통제권을 갖는다면, 대중이 검토자의 독립성을 검증하기는 어려워진다.

Anthropic의 현 시스템은 이러한 범위를 보여준다. METR은 회사의 첫 번째 접근 등급에서 활동하는 평가 기관보다 더 강한 공개 권한을 갖고 있다.

이런 차이는 연방 기준의 유용성을 보여준다. 등록 제도는 적용 대상인 모든 개발사에 걸쳐 기본적인 접근, 공개, 이해충돌, 발표 규칙을 수립할 수 있다.

그러나 등록만으로 역량을 보장할 수는 없다. 정부는 평가 방법을 점검하고 신중한 위험 분석과 형식적인 규제 준수를 구분할 충분한 전문가를 확보해야 한다.

평가 기관 시장 자체가 작을 수도 있다. 프런티어 시스템을 시험할 역량을 갖춘 조직은 종종 AI 개발에 관여한 동일한 기업, 투자자, 자선 네트워크에서 자금을 받는다.

그렇다고 이들의 발견이 훼손됐다는 뜻은 아니다. 다만 재정적·전문적 관계는 무관한 것으로 치부하지 말고 공개해야 한다는 의미다.

공동 기금 체계는 단일 개발사에 대한 의존을 줄일 수 있다. 적용 대상 연구소들이 독립적으로 운영되는 기금에 수수료를 납부하고, 이 기금이 기업들이 지급 조건을 직접 협상하지 못하도록 평가 기관을 배정할 수 있다.

Anthropic의 프레임워크도 비슷한 가능성을 제시한다. 평가 기관의 독립성을 보호하면서 충분한 접근권을 제공할 자금 및 기준을 권고한다.

무작위 배정은 고위험 검토에도 도움이 될 수 있다. 다만 전문성 및 보안 인가 요건은 특정 위험을 검토할 수 있는 평가 기관의 범위를 제한할 수 있다.

가장 강력한 체계는 여러 장치를 결합할 것이다. 최소 접근권, 보호된 공개 권한, 공개된 이해충돌, 정부 검토, 그리고 가장 중대한 모델에 대한 복수의 평가 기관이 그것이다.

진정한 상충관계는 조기 대응과 규제 과잉 사이에 있다

이 제안은 성급한 정부 개입을 막는 대가로 높은 증거 기준을 사회가 받아들이도록 요구한다.

Anthropic은 더 강력한 프런티어 AI 규칙의 옹호자로 자리매김해 왔다. 이 회사의 프레임워크는 의무적 시험, 정기적 위험 보고서, 독립 평가, 사고 공개, 내부고발자 보호, 실질적인 집행을 요구한다.

이 조항들은 자발적 서약보다 훨씬 실질적이다. 상업적 압박이 커질 때 선도 개발사들이 조용히 포기할 수 없는 법적 의무를 만들기 때문이다.

논란이 되는 기준선이 이런 의무를 무효화하는 것은 아니다. 이는 가장 강력한 구제수단을 규율하며, 더 넓은 구조 안에서 평가돼야 한다.

그럼에도 안전 체계는 서류 작업에는 엄격하면서 결정적인 지점에서는 약할 수 있다. 규제기관이 재앙이 예측 가능하고, 임박했으며, 수치화될 때까지 배포를 지연시킬 수 없다면, 투명성은 위험을 통제하지 못한 채 기록만 남길 수 있다.

이것이 Anthropic이 직면한 핵심 비판이다. 회사는 프런티어 시스템이 예외적인 위험을 초래할 수 있다고 경고하면서도, 보도에 따르면 개입을 좁은 범주의 재앙적 시나리오로 제한한다.

적용 대상 위험의 범위는 규모 기준만큼 중요하다. 생물무기, 대규모 사이버공격, 통제 상실은 광범위하고 되돌리기 어려운 피해를 낳을 수 있기에 집중적인 주의가 필요하다.

그 밖의 심각한 문제는 이 틀 밖에 남을 수 있다. 사기, 조작, 차별, 안전하지 않은 의료 조언, 노동 대체, 프라이버시 침해, 유해한 동반자 행동은 하나의 재앙적 사건처럼 보이지 않으면서도 많은 사람에게 영향을 미칠 수 있다.

이런 피해가 반드시 전국적 모델 중단을 촉발해야 하는 것은 아니다. 그러나 Anthropic AI 안전 법안이 더 광범위한 소비자, 시민권, 고용, 보건, 경쟁 정책을 대체할 수 없는 이유는 보여준다.

프런티어 안전법은 드물지만 체계적인 위험을 다뤄야 한다. 일상적인 배포와 분야별 피해는 다른 법률이 다뤄야 한다.

어려움은 경계에 있다. 분산된 사이버 공격은 임박한 재앙적 피해의 명확한 순간을 보여주지 않으면서도 수천 명의 피해자에게 손실을 누적시킬 수 있다.

AI 에이전트는 각 사고가 관리 가능한 수준으로 보이는 동안에도 반복적으로 허가된 접근 범위를 초과할 수 있다. 생물학적 역량은 당국이 구체적인 무기화 시도를 파악하기 전에 사용자들 사이에 퍼질 수 있다.

기준선은 일관성을 만들지만 절벽도 만든다. 선 바로 아래의 예측 사건은 바로 위의 사건과 근본적으로 다른 처우를 받으며, 두 추정치 모두 큰 불확실성을 포함할 수 있다.

따라서 수치 언어는 현재 평가 방법이 제공할 수 있는 것보다 더 정밀하다는 인상을 줄 수 있다. 전문가들은 모델 역량, 공격자 의도, 이용 가능한 안전장치, 예상되는 결과에 대해 의견이 갈릴 수 있다.

법원은 여러 영역에서 불확실한 증거를 다룬다. 보도된 제안에도 어떤 확률, 시간 범위, 인과적 기여가 그 기준을 충족하는지 설명하는 규칙이 필요하다.

“실질적으로 기여”한다는 표현은 특히 중요하다. 프런티어 모델이 단독으로 위협을 만들지 않더라도, 연구 시간을 단축하거나 표적 선정을 자동화하거나 특수 지식에 쉽게 접근하게 만들 수 있다.

입법자들은 그러한 지원만으로 충분한지 결정해야 한다. 모델이 주된 원인이어야 한다는 기준은 여러 기술과 인간의 결정으로 구성된 위험을 놓칠 수 있다.

반대로 어떤 기여든 충분하다고 보는 기준은 지나치게 넓어질 수 있다. 일반 소프트웨어와 공개 정보도 합법적 활동과 악의적 활동 모두를 뒷받침하기 때문이다.

정답은 하나의 수치에서 나오기 어렵다. 실효성 있는 법에는 서로 다른 증거 수준에 맞는 단계적 구제수단이 필요하다.

규제기관은 완전한 금지를 요청하기 전에 추가 시험을 요구하고, 특정 기능을 제한하며, 접근을 좁히고, 더 강력한 모니터링을 의무화하거나, 출시를 연기할 수 있다.

Anthropic의 프레임워크는 벌금, 향후 배포 제한, 이미 배포된 모델의 접근 제한을 포함한 여러 집행 방안을 논의한다. 그 단계 체계는 재앙적 종점만큼 면밀히 검토할 가치가 있다.

캘리포니아는 연방 세부사항이 중요한 이유를 보여준다

보도된 기준선에는 전례가 있지만, 배타적인 연방 집행 체계의 일부가 되면 그 효과는 달라진다.

캘리포니아의 프런티어 AI 법은 대규모 재정 피해 또는 50명 이상의 사망이나 중상과 관련된 재앙적 위험에 유사한 표현을 사용한다. 이 법의 요건은 투명성과 중대한 안전 사고에 크게 초점을 맞춘다.

California SB 53에 대한 주정부 정책 분석은 소규모 기업을 불균형적인 규제 준수 부담에서 보호하면서 주요 개발사에 의무를 부과하는 방식을 설명했다.

이 전례는 Anthropic이 연방 제안을 기존 정책의 연장선으로 부를 수 있는 이유를 설명한다. 수치는 이미 협상을 거친 주정부 프레임워크의 일부였다.

그러나 정의를 복사한다고 해서 규제 환경 전체가 복사되는 것은 아니다. 주 법무장관, 연방 기관, 법원, 분야별 규제기관은 서로 다른 권한과 제도적 유인을 갖는다.

의회가 이를 배제하지 않는 한 캘리포니아의 요건은 연방 집행과 공존할 수 있다. 누가 모델을 중단시킬 수 있는지를 제한하는 연방법은 다른 균형을 만들게 된다.

연방 AI 입법이 더디게 진행되면서 주정부 권한을 둘러싼 논쟁은 격화됐다. 주정부들은 프런티어 안전, 자동화된 결정, 딥페이크, 동반자 챗봇, 공개 요건에 대응해 왔다.

이로 인한 규제 조각화는 실제 준수 문제를 만든다. 하나의 모델이 전국의 사용자에게 서비스를 제공할 때 프런티어 개발사는 주마다 상충하는 출시 기준을 쉽게 유지할 수 없다.

국가 차원의 프레임워크는 이 문제를 해결할 수 있다. 동시에 약한 기준을 고착시키고, 새로운 증거에 대응하려는 주정부를 막을 수도 있다.

Anthropic의 공개 프레임워크는 절충을 시도한다. 연방 규칙을 지지하지만, 강력한 연방 체계가 다루는 기능 안에서만 의회가 주법을 배제해야 한다고 말한다.

그 입장은 가장 까다로운 단어인 ‘강력함’을 정의하지 않은 채 남겨둔다. 개발자, 규제 당국, 공익 단체, 주 정부 관계자들은 강력함을 서로 다르게 평가할 것이다.

인명 피해 기준은 이해하기 쉬워 주목을 끌 것이다. 그러나 더 기술적인 조항들이 법의 실제 효력을 결정할 수 있다.

이러한 조항에는 어떤 개발자가 대상이 되는지, 어떤 모델이 규제 대상 모델로 간주되는지, 평가자가 어떻게 접근 권한을 얻는지, 사고를 얼마나 신속히 보고해야 하는지, 상무부가 무엇을 요구할 수 있는지가 포함된다.

내부 배포 모델에 관한 규정도 중요하다. 기업은 외부 고객에게 제공하기 전에 연구 과정에서 더 강력한 시스템을 내부적으로 사용할 수 있다.

공개 출시만을 겨냥한 법은 연구를 수행하거나 인프라를 관리하거나 차세대 모델 개발을 가속하는 내부 에이전트를 놓칠 수 있다.

모델 가중치는 또 다른 복잡한 문제를 제기한다. 가중치가 도난당하거나 널리 배포된 뒤에는 원개발자에 대한 법원 명령만으로 해당 역량을 통제하지 못할 수 있다.

이런 상황에서는 사후 배포 금지보다 예방적 보안 요건이 더 중요할 수 있다. 따라서 제안안의 모델 보안 및 사고 통지 규정은 면밀히 검토할 필요가 있다.

의회는 상무부와 위협 정보를 보유한 기관들 간의 공조도 마련해야 한다. 독점적 권한이 정보에 대한 독점적 접근으로 이어져서는 안 된다.

지정된 부서는 법원 신청 책임을 유지하면서 보건, 사이버, 국방, 정보, 법 집행 기관으로부터 증거를 받을 수 있다.

이 구조는 단일한 의사결정 경로를 유지하면서도 이를 고립시키지 않을 것이다. 보도된 초안이 이러한 공조 체계를 마련하는지는 아직 불분명하다.

이것이 법이 되기 전에 주목할 점

세 가지 신호는 이 제안이 집행 가능한 감독 체계로 발전할지, 아니면 업계가 작성한 정책 개요에 머물지를 보여줄 것이다.

첫 번째 신호는 공개된 입법 문안이다. Politico는 Anthropic 관계자들이 기밀 초안을 비공개로 의원들에게 제시하고 있다고 보도했지만, 의원이 발의하기 전까지 제안은 법안이 아니다.

발의된 문안은 정의, 적용 기준, 연방법 우선 적용 문구, 집행 수단, 절차상 기한을 드러낼 것이다. 위원회 배정과 명시된 발의자들은 이 제안이 의회를 통과할 현실적인 경로를 갖고 있는지 보여줄 것이다.

공개 문안은 전문가들이 헤드라인 수준의 해석을 검증할 수 있게도 한다. 보도된 재앙 기준이 모든 차단 조치에 적용되는지, 아니면 하나의 정의된 구제 수단에만 적용되는지를 확인할 수 있다.

입법자들이 높은 기준을 유지하되 그 아래 단계적 개입을 추가한다면, 이 체계는 불확실한 위험에 더 민감하게 대응하게 된다. 기준이 예방 조치의 유일한 경로가 된다면, 개입 지연에 대한 우려는 더 커질 것이다.

두 번째 신호는 평가자 운영 규정이다. Anthropic의 현재 체계는 내장형 검토가 실무적으로 가능하다는 증거를 제공하지만, 보편적 기준을 확립하지는 않는다.

상무부는 등록, 전문성, 자금, 접근 권한, 이해 충돌, 보안, 공개에 관한 기준을 마련해야 한다. 이 절차는 평가자가 제공 거부된 정보나 이의가 제기된 삭제 부분에 어떻게 이의를 제기할 수 있는지도 설명해야 한다.

내장형 평가자들의 첫 공개 보고서는 실질적인 시험대가 될 것이다. 독자들은 이러한 보고서가 취약점을 식별하는지, 접근 제한을 설명하는지, 증거와 기업의 주장을 구분하는지를 살펴봐야 한다.

규정 준수만 확인하는 보고서는 거의 드러내는 것이 없다. 의견 불일치와 해결되지 않은 위험을 기록하는 보고서는 독립성에 관한 더 강력한 증거를 제공할 것이다.

세 번째 신호는 주 정부 권한의 처리 방식이다. 주 의회 의원들은 지역 규정이 의회가 남긴 공백을 메운다고 거듭 주장해 왔다.

state regulation push에 관한 최근 보도는 연방법 우선 적용이 여전히 정치적으로 민감한 이유를 보여준다. 최종 법안은 어떤 주 정부 기능이 유지되는지를 명시해야 한다.

프런티어 모델 테스트에 연계된 제한적 우선 적용은 주의 소비자 및 시민권 보호를 유지하면서 중복 규정 준수를 줄일 수 있다. 광범위한 우선 적용은 하나의 연방 기준을 상한선으로 만들 수 있다.

모델 거버넌스는 제품 가용성과 신뢰에 영향을 미치므로 개발자, 기업 구매자, 일반 사용자 모두가 이러한 세부 사항을 따라가야 한다. 출시 지연은 공급업체의 로드맵을 바꿀 수 있으며, 허술한 감독은 측정되지 않은 위험을 고객에게 전가할 수 있다.

기업 팀은 안전 체계, 사고 보고, 평가자 접근 권한, 모델 변경 통지에 대해 공급업체에 묻기 전에 의회를 기다려서는 안 된다. 이러한 질문은 구매자가 공급업체의 보장에 얼마나 많은 증거가 뒷받침되는지 판단하는 데 도움이 된다.

지식 노동자들에게도 정책 문서, 평가자 조사 결과, 공급업체의 약속이 변화하는 과정에서 이를 보존할 신뢰할 수 있는 방법이 필요하다. 검색 가능한 AI 지식 베이스는 이러한 기록을 조달 및 위험 관련 의사결정과 연결해 둘 수 있다.

Anthropic AI 안전 법안은 유익한 논쟁을 촉발했지만, 두 개의 헤드라인 수치만으로 결론이 나지는 않는다. 진정한 시험은 입법자들이 재앙적 증거가 재앙적 경험으로 이어지기 전에 대응할 수 있는 체계를 구축하는지에 달려 있다.

발의 문안, 집행 가능한 평가자 기준, 연방과 주 정부 권한 사이의 명확한 경계를 주시해야 한다. 이 세 가지 진전은 이 제안이 신뢰할 만한 예방책을 제공하는지, 아니면 이미 눈앞에 닥친 비상사태를 위한 좁은 법적 경로에 주로 그치는지를 보여줄 것이다.