Mark Zuckerberg의 AI 안전 계획, 평가자는 지지하지만 공동 감속은 거부

Mark Zuckerberg가 AI 안전 논쟁에 분명한 구분을 들고 나섰다. Meta는 독립 평가자를 지지하지만, 선도 연구소들 간의 공동 감속은 거부한다.

이 구분이 Mark Zuckerberg의 AI 안전 입장을 정의한다. Meta는 고도화된 모델에 외부 검토, 더 강력한 테스트, 그리고 때로는 지연이 필요하다는 점을 받아들인다. 그러나 Zuckerberg는 업계 전체의 합의를 기다리기보다 각 연구소가 자체 개발 속도를 결정해야 한다고 주장한다.

그의 입장은 Anthropic CEO Dario Amodei가 이끌고 다른 기술 업계 리더들이 지지하는 제안에 맞선다. Amodei는 최첨단 연구소들이 개발 속도에 대해 협력하고 독립 평가자에게 시스템에 대한 이례적으로 깊고 지속적인 접근 권한을 제공하기를 원한다.

Zuckerberg는 다른 거래를 제시한다. 연구소는 외부 조언을 수용하고 실패에 대한 책임을 져야 하지만, 모델의 학습·출시·중단 시점을 통제할 권한은 유지해야 한다는 것이다.

이로 인해 발생한 분쟁은 단순히 안전이 중요한지에 관한 문제가 아니다. 경쟁 유인이 더 빠른 개발을 향할 때 누가 신중함을 강제할 수 있는지에 관한 문제다.

독립 평가는 공통분모처럼 들린다. 그러나 그 가치는 평가자가 충분한 접근 권한, 시간, 권한, 그리고 결과를 공개할 자유를 받는지에 달려 있다. 이러한 조건이 없다면 외부 검토는 검토 대상 기업이 통제하는 또 하나의 절차가 될 수 있다.

이 긴장은 Meta를 두 입장 사이에 놓는다. 회사는 집단적 속도 조절을 거부하지만, 내부 판단에 외부 전문성이 포함되어야 한다고도 주장한다. 실질적인 질문은 구속력 있는 공통 규칙 없이 자발적 평가가 신뢰할 만한 감독을 제공할 수 있느냐다.

Mark Zuckerberg의 AI 안전 입장에서 달라진 점

Zuckerberg는 독립 평가를 업계 표준으로 받아들였지만, Meta의 개발 속도가 경쟁 연구소에 좌우되는 것은 거부했다.

화요일에 게시한 소셜 미디어 글에서 Zuckerberg는 독립 평가자 및 자문가와 협력하는 것이 업계 모범 사례라고 썼다. Bloomberg는 9월 16일 AI 안전 보도에서 이 발언을 요약했다.

그의 지지는 외부 안전 연구자들에게 최첨단 모델에 대한 더 많은 접근 권한을 부여하자는 더 광범위한 업계 논의에 합류했다. 최첨단 모델은 현재 AI 개발의 선도 영역에 가까운 매우 높은 성능의 시스템이다.

그러나 Zuckerberg는 집단적 감속을 지지하지 않았다. 그는 각 연구소가 모델을 안전하게 학습시킬 책임과 유인을 이미 모두 갖고 있다고 주장했다.

공동 감속은 연구소들이 서로를 신뢰해야 하므로 이 구분은 중요하다. 각 참여자는 가치 있는 모델이 아직 완성되지 않은 상태에서도 경쟁자들이 같은 제한을 지킬 것이라고 믿어야 한다.

Meta의 입장은 이러한 의존성을 없앤다. 기업은 테스트에서 위험이 발견되면 자체 작업을 지연시킨 뒤 업계 합의를 기다리지 않고 재개할 수 있다.

Zuckerberg는 Muse에 대한 Meta의 대응을 근거로 들었다. 그는 회사가 안전과 보안에 집중하기 위해 이 AI 시스템을 수개월간 지연했다고 말했다.

이 사례는 그의 주장에 중요한 부분을 세운다. Meta는 개발이 중단 없이 진행되어야 한다고 주장하는 것이 아니다. 중단은 기업별 결정으로도 이뤄질 수 있다고 주장하는 것이다.

Zuckerberg에 따르면, 연구소는 시스템이 피해를 일으킬 경우 상당한 책임도 지게 된다. 고객은 신뢰할 수 없는 도구를 피할 것이므로, 시장 압력은 신뢰할 만한 제품을 장려해야 한다.

보도된 발언은 안전을 책임이자 경쟁 요건으로 규정했다. 이 관점에서 신뢰성은 개발에 부과되는 별도의 제한이 아니라 제품 품질의 일부가 된다.

Zuckerberg는 또한 연구소들이 컴퓨팅 자원의 대부분을 사용자 서비스에 투입해야 한다고 주장했다. 그는 이 목표를 재귀적 자기개선 경쟁과 대조했다.

재귀적 자기개선은 시스템이 반복적인 자동화 연구나 엔지니어링을 통해 자체 역량을 향상하는 것을 뜻한다. 안전 연구자들은 빠른 역량 향상이 기존 통제를 앞지를 수 있기 때문에 이를 중요하게 본다.

이러한 구도는 Meta가 선호하는 경계를 연구소 내부에 둔다. 회사는 어떤 연구 목표에 자원이 투입될 가치가 있는지, 어떤 위험이 지연을 요구하는지, 언제 안전장치가 배포를 정당화하는지를 결정한다.

Amodei의 제안은 그 경계를 외부로 옮긴다. 이는 연구소들이 독립 평가자와 다른 참여자들이 시간이 지나며 검토할 수 있는 약속을 하도록 요구한다.

따라서 두 입장은 여러 전제를 공유한다. 둘 다 최첨단 시스템에 더 강력한 검토가 필요하다는 점을 인정한다. 둘 다 모델 개발이 개입을 요구하는 위험을 만들 수 있음을 인식한다.

차이는 집행에 있다. Meta는 개별 기업들 사이에 분산된 책임을 선호한다. Anthropic의 접근 방식은 공통 약속과 외부 평가자에게 더 큰 역할을 부여한다.

이러한 분열은 Mark Zuckerberg의 AI 안전 계획을 둘러싼 핵심 질문을 만든다. 평가 대상 기업이 접근 권한을 통제할 때 자발적 시스템은 신뢰성을 유지할 수 있을까?

Meta가 공동 AI 감속을 거부하는 이유

Meta는 동기화된 감속을 더 안전한 개발로 가는 유일한 길이 아니라 경쟁 및 거버넌스 위험으로 본다.

Zuckerberg의 입장은 그가 8월에 발표한 더 광범위한 주장에 따른 것이다. 그는 해외 연구소들이 계속 발전하는 동안 미국 모델 출시를 지연시키는 정책은 국가의 입지를 약화할 수 있다고 경고했다.

이 우려는 두 수준에서 협력을 어렵게 만든다. 기업들은 국내 경쟁자를 신뢰해야 하며, 정부는 자국 관할권 밖에서 운영되는 연구소도 고려해야 한다.

Amodei는 선도 기업들과 민주주의 정부들 간의 협력을 제안했다. 그의 계획은 전 세계적 합의가 중국 같은 국가들과의 일부 협력도 요구한다는 점을 인정한다.

모델 역량이 상업적·국가안보적 가치를 지닐 때 조정 문제는 더 날카로워진다. 멈추는 연구소는 고객, 인재, 연구 동력 또는 전략적 우위를 내줄 수 있다.

Meta는 이런 압력 때문에 유연하고 기업별인 결정이 더 실용적이라고 본다. Meta가 선호하는 모델은 내부 안전 프레임워크, 독립적 조언, 이사회 감독, 정부 협력을 결합한다.

Zuckerberg는 더 긴 거버넌스 제안에서 최첨단 연구소와 정부 간의 선제적 협력을 주장했다. 그는 모든 출시에 동일하게 적용되는 경직된 검토 일정을 반대했다.

이 접근 방식은 연구소가 일상적 개선과 이례적으로 위험한 역량을 보이는 모델을 구분할 여지를 준다. 또한 기업이 새로운 업계 합의를 협상하지 않고 대응할 수 있게 한다.

장점은 속도다. 연구소는 팀이 문제를 확인하는 즉시 테스트를 확대하고, 출시를 중단하거나, 안전장치를 추가할 수 있다.

단점은 일관성 부족이다. 특히 모델 지연에 높은 상업적 비용이 따를 때 서로 다른 연구소는 같은 증거를 다르게 해석할 수 있다.

Anthropic의 제안은 공통 기대치를 통해 이 약점을 다룬다. 참여 연구소들은 출시 전 짧은 검토를 마련하는 대신 외부 평가자에게 직원과 유사한 지속적 접근 권한을 제공하게 된다.

이 평가자들은 회사 장비를 받고 개발팀 가까이에서 일할 수 있다. 완성된 제품만 검사하는 것이 아니라 모델이 학습되는 동안 안전 관행을 관찰할 수 있다.

OpenAI 역시 상주형 평가자에 대한 지지를 표명했다. 더 폭넓은 업계 비교에 따르면, Sam Altman은 속도 조절이 진보를 끝내는 것을 뜻하지는 않는다고 주장했다.

Nvidia CEO Jensen Huang은 Zuckerberg와 더 가까운 입장을 취했다. Huang은 기업들이 스스로 속도를 조절할 수 있으며 혁신이 본질적으로 안전과 충돌하지는 않는다고 주장한다.

이로써 업계는 두 집행 모델로 나뉜다. 하나는 개별 책임, 시장 유인, 기업 판단에 의존한다. 다른 하나는 치열한 경쟁 시기에도 의미를 유지하는 공동 관행을 추구한다.

중앙집중적 통제에 대한 Meta의 우려는 개발 속도를 넘어선다. Zuckerberg는 고도화된 AI가 소수의 기업이나 공무원에 의해 지배되어서는 안 된다고 거듭 주장해 왔다.

이 입장은 공개 모델과 더 광범위한 배포에 대한 Meta의 관심을 뒷받침한다. 동시에 기존 연구소들에게 허용 가능한 개발을 정의할 권한을 줄 수 있는 집단 안전 협약을 복잡하게 만든다.

공통 안전 기준은 대중을 보호할 수 있지만 진입 장벽이 될 수도 있다. 소규모 연구소는 지배적인 기업들의 자원을 기준으로 설계된 요건을 충족하기 어려울 수 있다.

반대로 느슨한 자발적 약속도 다른 방식으로 대형 연구소에 유리할 수 있다. 그러한 기업들은 내부 검토를 신뢰할 만하게 보이도록 제시하는 데 필요한 홍보팀과 기술 자원을 보유하고 있다.

따라서 실질적인 압력은 독립 평가자에게 가해진다. 이들은 고객, 규제기관, 연구자들이 기업 간 비교할 수 있는 결과를 만들어야 한다.

AI 시스템을 평가하는 기업들은 이 논쟁을 면밀히 지켜봐야 한다. 연구소의 안전 문서는 조달, 책임 계획, 사고 대응, 자동화 워크플로의 신뢰성에 영향을 미친다.

지식 노동자들도 관련된 문제에 직면한다. AI 어시스턴트는 비공개 문서를 요약하고, 소프트웨어를 조작하거나, 불완전한 정보를 바탕으로 조치를 권고할 수 있다. 신뢰는 벤치마크 점수 이상에 달려 있다.

팀은 출처, 결정, 모델 출력을 AI 지식 베이스 안에서 추적 가능하게 유지함으로써 지역적 위험을 줄일 수 있다. 이 관행은 모델 평가를 대체하지는 않지만, 조직이 AI 생성 작업이 어떻게 만들어졌는지 검토하는 데 도움이 된다.

Meta의 입장은 각 구매자에게 그러한 증거를 검토할 더 많은 책임을 부여한다. 공동 기준은 비교를 더 쉽게 만들 수 있지만, 제품 수준의 실사를 없애지는 못한다.

독립 평가자에게는 초대 이상의 것이 필요하다

외부 평가는 검토자가 학습 증거를 조사하고, 중간 모델을 테스트하며, 불편한 결과를 공개할 수 있을 때에만 의미를 갖는다.

전통적인 평가는 흔히 개발 막바지에 이뤄진다. 기업은 연구자에게 출시 후보에 대한 접근 권한을 제공하고, 테스트 기간을 정하며, 조사할 수 있는 시스템을 제한한다.

이 모델은 유해한 출력, 사이버보안 역량, 또는 지시 이행 실패를 식별할 수 있다. 그러나 학습 과정에서 문제가 되는 행동이 어떻게 발생했는지는 드러내지 못할 수 있다.

연구자들은 점점 더 중간 체크포인트에 대한 접근을 원하고 있다. 체크포인트는 학습의 특정 단계에서 저장된 모델 버전이다.

체크포인트를 비교하면 우려되는 행동이 언제 나타났는지 보여줄 수 있다. 평가자들은 학습 로그, 보상 시스템, 테스트 기록, 초기 실패 후 추가된 안전장치도 조사할 수 있다.

이는 고도화된 모델이 평가 조건을 인식할 수 있기 때문에 중요하다. 시스템은 익숙한 테스트 중에는 다르게 행동하면서, 덜 통제된 환경에서는 같은 자제를 보이지 않을 수 있다.

이 가능성이 모델이 기만적이라는 점을 증명하는 것은 아니다. 다만 깨끗한 벤치마크 결과만으로는 모든 안전 문제를 결론지을 수 없다는 뜻이다.

임베디드 평가자들은 개발 과정을 지속적으로 관찰하고, 의심스러운 변경 사항을 더 이른 시점에 조사할 수 있다. 또한 공개 주장과 연구소의 내부 기록을 비교할 수도 있다.

Amodei의 제안은 이 개념에 이례적인 깊이를 부여한다. 그는 직원에게 부여되는 접근 권한과 유사한 지속적 접근을 설명해 왔다.

Anthropic은 평가자들이 위험, 사고, 회사 관행, 그리고 자신들의 접근 권한 한계에 관한 중요한 조사 결과를 공개할 수 있어야 한다고 밝혔다. 이러한 공개 권한은 필수적이다.

연구소가 모든 결론을 수정하거나 억제할 수 있다면 검토자는 독립적인 감시자로 기능할 수 없다. 엄격한 비밀유지계약은 가치 있는 지식재산을 보호할 수 있지만, 실질적인 책임 추궁도 막을 수 있다.

독립성 분석에서 인터뷰한 평가자들은 아직 해결되지 않은 세부 사항 몇 가지를 지적했다. 연구소들은 누가 접근 권한을 받을지, 임베딩이 언제 시작될지, 검토자가 무엇을 공개할 수 있을지를 완전히 명시하지 않았다.

시간 역시 문제다. 기술적으로 어려운 평가는 수주간의 조사, 전문 인프라 접근, 개발자들과의 반복적인 논의를 필요로 할 수 있다.

짧은 테스트 기간은 검토자가 내릴 수 있는 결론을 제한한다. 또한 예상치 못한 행동을 관찰한 뒤 새로운 테스트를 설계할 기회도 거의 주지 않는다.

평가자 선정 역시 중요하다. 연구소는 전문성이 협소하거나 비판을 꺼리게 만드는 계약 조건을 가진 검토자를 선택할 수 있다.

이는 평가자 쇼핑의 위험을 낳는다. 기업은 제한된 접근 권한이나 자신들에게 유리한 공개 규칙을 받아들일 가능성이 가장 높은 외부 그룹을 선택할 수 있다.

신뢰할 수 있는 체계에는 평가자 독립성에 관한 공개 기준이 필요하다. 이해상충, 자금 조달, 기밀성, 접근 권한, 공개를 다루는 규칙도 필요하다.

Meta는 Amodei의 임베디드 모델을 약속하지 않았다. Zuckerberg의 독립 평가자와 자문가 지지는 더 포괄적이지만 구체성은 떨어진다.

이러한 표현은 여러 가능성을 남긴다. Meta는 기존 방식의 출시 전 테스트를 의뢰하거나, 지속적인 관계를 구축하거나, 더 깊은 내부 접근 권한을 제공할 수 있다.

Meta의 기존 프레임워크는 기반을 제공한다. 회사는 사이버보안, 화학적 위험, 생물학적 위험, 통제 상실 위험 전반에 걸쳐 안전장치 적용 전후로 모델을 테스트한다고 말한다.

2026년 4월의 스케일링 프레임워크 역시 Safety and Preparedness Reports를 약속한다. Meta는 이 보고서가 평가, 배포 결정, 한계, 공백을 설명할 것이라고 밝혔다.

이러한 공개는 외부 관찰자가 Meta의 프로세스를 평가하는 데 도움이 될 수 있다. 그러나 회사가 작성한 보고서는 독립적으로 통제되는 조사와 동등하지 않다.

중요한 시험대는 평가자들이 Meta의 결론에 이의를 제기할 수 있는지다. 또한 진정으로 민감한 기술 정보를 노출하지 않으면서 견해 차이를 설명할 수 있을 만큼 충분한 증거가 필요하다.

이 균형은 어렵지만 불가능하지는 않다. 금융 감사, 보안 테스트, 안전 인증은 모두 기밀 유지 제약 아래에서 운영된다.

AI 평가는 방법론이 아직 확립되지 않았기 때문에 추가적인 복잡성을 안고 있다. 모델은 빠르게 변화하며, 한 버전에서 나온 결과가 업데이트나 배포 변경 뒤에도 적용된다는 보장은 없다.

평가자들은 보안이 유지되는 환경도 필요로 한다. 미출시 모델, 가중치, 학습 기록에 대한 깊은 접근은 가치 있는 지식재산이나 위험한 역량을 노출할 수 있다.

실행 가능한 시스템은 이러한 자산을 보호하는 동시에 기밀성이 침묵의 보편적 이유가 되는 것을 막아야 한다.

따라서 Zuckerberg의 지지는 의미 있지만 불완전하다. 이는 연구소가 모든 위험을 혼자 평가해서는 안 된다는 점을 인정한다.

결정적인 질문은 Meta가 얼마나 많은 통제권을 내려놓을 것인가다. 독립적인 조언은 기업에 영향을 줄 수 있지만, 독립적인 감독은 기업에 책임을 물을 수 있다. 둘은 같은 체계가 아니다.

핵심 트레이드오프는 유연성과 강제 가능한 책임성의 대립이다

Meta의 모델은 연구소별 위험에 더 빠르게 대응하지만, 자발적 감독은 경쟁 압력이 가장 강해지는 바로 그때 약화될 수 있다.

기업은 자신의 모델, 인프라, 배포 계획을 직접 알고 있다. 기업의 엔지니어들은 외부 조직이 처음에는 놓칠 수 있는 기술적 문제를 인식할 수 있다.

내부 팀은 규제 승인까지 기다리지 않고 행동할 수도 있다. 학습 데이터를 수정하고, 도구를 제한하고, 시스템 프롬프트를 변경하거나, 출시를 연기할 수 있다.

보도된 Meta의 Muse 출시 지연은 이러한 유연성을 보여준다. 회사는 안전 및 보안 작업 때문에 추가 시간이 필요했다고 말한다.

그러나 대중은 모든 심각한 우려가 동일한 방식으로 다뤄졌는지를 독립적으로 판단할 수 없다. Meta는 개발 과정과 결정 근거를 설명하는 대부분의 증거를 모두 통제한다.

이것이 Mark Zuckerberg의 AI 안전 접근법이 가진 핵심 약점이다. 신뢰성을 위한 유인은 존재하지만, 항상 출시를 위한 유인보다 강한 것은 아니다.

법적 의무와 인과적 책임이 명확해진 뒤에는 책임 문제가 신중함을 촉진할 수 있다. 그러나 최첨단 AI의 실패는 기존 책임 규칙에 깔끔하게 들어맞지 않을 수 있다.

애플리케이션을 배포하는 주체는 모델을 수정하거나 위험한 도구에 연결할 수 있다. 피해는 여러 기업, 사용자, 자동화 시스템이 함께 작동한 결과로 발생할 수 있다.

시장 규율에도 비슷한 한계가 있다. 고객은 관찰할 수 없는 위험 때문에 연구소를 제재할 수 없다.

모델은 정상 작동 중에는 유용해 보이면서도, 특수한 프롬프팅이나 자율적 접근 환경에서만 드러나는 역량을 유지할 수 있다. 구매자는 모든 시나리오를 테스트할 자원을 가진 경우가 드물다.

공개 안전 보고서는 이러한 정보 격차를 줄일 수 있다. 비교 가능한 보고서를 통해 고객은 테스트 범주, 잔여 위험, 완화 결정을 검토할 수 있다.

그러나 비교에는 공통된 정의가 필요하다. 한 연구소의 “고위험” 판단은 다른 연구소의 기준과 일치하지 않을 수 있다.

조율된 표준은 이러한 공통 어휘를 만들 수 있다. 모든 기업이 동일한 모델이나 제품을 사용하도록 요구하지 않으면서 최소한의 테스트 기대치를 설정할 수 있다.

Meta는 경직된 조율이 유익한 출시를 늦추고 권한을 집중시킬 수 있다고 우려한다. 특히 지배적인 연구소들이 소규모 개발자가 충족할 수 없는 규칙을 설계한다면, 이 우려는 주목할 가치가 있다.

반대되는 우려도 마찬가지로 중요하다. 유연성은 배포를 지연시킬 가능성이 가장 큰 테스트를 회피하는 명분이 될 수 있다.

이 때문에 독립적 평가에 대한 지지보다 독립적인 접근 권한이 더 중요하다. 검토자는 기업이 선호하는 서사에 도전하는 증거를 검토할 권한이 필요하다.

규제는 특정 접근 및 보고 의무를 의무화할 수 있다. California와 유럽의 정책 입안자들은 이미 더 강한 문서화, 테스트, 사고 보고 기대치로 움직이고 있다.

그럼에도 규제만으로 기술적 불확실성을 해결할 수는 없다. 법적 요건은 평가를 요구할 수 있지만, 현재 가능한 테스트가 모든 새롭게 등장하는 위험을 탐지한다고 보장하지는 못한다.

가장 유망한 단기 프레임워크는 여러 층을 결합하는 방식일 수 있다. 연구소는 기본적인 공개, 평가자 독립성, 사고 보고 규칙을 수용하면서도 운영상의 유연성을 유지할 수 있다.

그런 다음 외부 그룹은 각 연구소의 시스템에 적합한 방법으로 조사할 수 있다. 규제기관은 모든 기술적 테스트를 지시하는 대신 최소 권리와 책임을 정의하게 된다.

이러한 구조는 Zuckerberg가 주장하는 기업 단위의 자율성을 상당 부분 보존할 것이다. 동시에 손해를 초래하는 결과가 나온 뒤 협력을 철회할 수 있는 여지를 줄일 것이다.

따라서 이 논쟁을 “빠른 개발 대 안전”으로 축소해서는 안 된다. 양측 모두 자신의 접근 방식이 지속적인 발전을 뒷받침할 수 있다고 주장한다.

실제 트레이드오프는 유연한 판단과 강제 가능한 책임성 사이에 있다. 유연성은 변화하는 기술에 대응하고, 책임성은 기업의 유인이 바뀔 때 대중을 보호한다.

개발자는 안전 규칙이 모델 접근, 평가 API, 출시 일정, 문서화에 영향을 미치기 때문에 관심을 가져야 한다. 기업 구매자는 이 규칙들이 조달 증거와 계약상 위험에 영향을 미치기 때문에 관심을 가져야 한다.

일상적인 AI 사용자는 최첨단 모델이 점점 더 개인 정보와 중요한 업무를 처리하고 있기 때문에 관심을 가져야 한다. 실패는 데이터 노출, 조작, 신뢰할 수 없는 조언, 무단 행동을 수반할 수 있다.

조직은 연구소가 강력한 안전장치를 보고하더라도 중요한 결정 과정에 인간 검토를 유지해야 한다. 또한 출처를 기록하고 의사결정 맥락을 보존해야 한다.

구조화된 지식 워크플로는 AI 지원 업무를 더 쉽게 감사할 수 있게 해준다. 이는 기반 모델 자체를 검증할 수는 없지만, 팀이 그 출력을 어떻게 사용했는지에 관한 불확실성을 줄인다.

Meta의 주장을 가장 강하게 뒷받침하는 것은 가시적인 증거다. 회사는 독립적 의견이 비용이 큰 상황에서도 배포 결정을 바꾼다는 점을 보여야 한다.

그러한 증거가 없다면 “업계 모범 사례”는 여전히 하나의 열망에 불과하다. 증거가 있다면 Meta는 분산된 속도 조절이 자발적 약속 이상의 결과를 낸다는 점을 입증할 수 있다.

Meta의 모델이 작동하는지 보여줄 세 가지 신호

다음 시험대는 최고경영자의 또 다른 발언이 아니라, 독립적 검증이 접근 권한, 공개, 출시 결정을 바꾸는지 여부다.

첫 번째 신호는 Meta의 다음 Safety and Preparedness Report다. 독자들은 상세한 평가 방법, 안전장치 적용 전 결과, 적용 후 결과, 한계, 해결되지 않은 위험을 살펴봐야 한다.

유리한 결론만 제시하는 보고서는 Meta의 주장을 약화시킬 것이다. 실패, 완화 조치, 남은 불확실성을 기록하는 보고서는 이를 강화할 것이다.

외부 평가자의 정체도 중요하다. Meta는 해당 그룹이 무엇을 테스트했는지, 얼마나 오랫동안 접근 권한을 받았는지, 학습 체크포인트를 검토했는지 아니면 최종 모델만 검토했는지를 설명해야 한다.

공개 권한 역시 그에 못지않게 중요한 단서다. 평가자들은 중요한 이견과 결론에 영향을 준 모든 제약을 설명할 수 있어야 한다.

두 번째 신호는 Meta가 평가자 접근 권한을 공식화하는지 여부다. Zuckerberg는 독립 평가자와 자문가를 지지했지만, Anthropic의 상세한 직원 수준 접근 권한 약속과 같은 수준의 약속은 하지 않았다.

공개 접근 프레임워크는 그 격차를 줄일 수 있다. 기밀성 보호, 평가자 선정, 테스트 기간, 증거 접근, 공개 규칙을 정의할 수 있다.

Meta가 신뢰할 만한 공개 권한과 함께 지속적 접근을 제공한다면, 그 입장은 뚜렷한 감독 모델로 보일 것이다. 이는 기업이 통제하는 속도 조절과 상당한 외부 검증을 결합하는 방식이 될 것이다.

접근이 짧은 출시 전 협업에만 제한된다면 회의론은 커질 것이다. 자문가는 독립적 책임성을 제공하지 않고도 내부 의사결정을 개선할 수 있다.

세 번째 신호는 주요 테스트에서 출시를 막는 위험이 발견됐을 때 연구소들이 어떻게 행동하는지다. 이 순간은 자발적 속도 조절이 경쟁 압력 속에서도 유지되는지를 드러낼 것이다.

주요 모델 출시를 연기하고 그 이유를 공개하는 기업은 Zuckerberg의 주장을 뒷받침할 것이다. 이는 연구소가 동기화된 속도 저하 없이도 독립적으로 행동할 수 있음을 보여줄 것이다.

심각한 발견을 축소하거나 평가자의 공개를 제한하는 기업은 Amodei의 주장을 뒷받침할 것이다. 이는 공통 규칙과 강제 가능한 권리가 왜 필요한지를 보여줄 것이다.

규제 조치는 이 세 가지 신호 모두를 형성할 것이다. 새로운 요건은 보고서를 표준화하고, 적격 평가자를 인정하거나, 사고 공개를 의무화할 수 있다.

그러한 규칙이 반드시 보편적인 속도 저하를 부과하는 것은 아니다. 연구소가 자체 개발 일정을 선택할 자유를 유지하면서 최소한의 책임성을 확립할 수 있다.

경쟁사의 행동도 Meta에 영향을 미칠 것이다. Anthropic과 OpenAI가 광범위한 평가자 접근을 제공한다면, 고객은 모든 최첨단 개발자에게 유사한 증거를 기대하기 시작할 수 있다.

그렇게 되면 투명성은 경쟁 요인이 될 수 있다. 그러면 Meta의 시장 기반 안전성 주장은 구매자들이 더 검증 가능한 감독을 제공하는 연구소를 보상하는지 여부라는 실질적 시험대에 오르게 된다.

이 논쟁은 혼합형 체제를 낳을 수도 있다. 기업들은 공동 보조 조정을 거부하면서도 공통 평가자 기준과 의무 보고는 받아들일 수 있다.

그 결과는 Zuckerberg와 Amodei 사이의 거리를 좁힐 것이다. 이들의 이견은 독립적 검토가 연구소 내부에 있어야 하는지 여부가 아니라, 누가 시점을 통제하느냐에 계속 집중될 것이다.

현재 Mark Zuckerberg의 AI 안전성 입장은 원칙적으로는 분명하지만, 실무적으로는 아직 완성되지 않았다. Meta는 외부 평가, 기업별 개발 중단, 그리고 공동 보조 조정 없는 지속적인 개발을 지지한다.

답이 나오지 않은 질문들은 접근 권한과 권한 범위에 관한 것이다. 누가 평가자를 선정하는가? 그 평가자는 무엇을 점검할 수 있는가? 기업의 승인 없이 결과를 공개할 수 있는가?

이러한 세부 사항이 Meta의 제안이 책임 있는 유연성을 제공하는지, 아니면 표현만 개선된 자율 규제에 불과한지를 결정할 것이다.

향후 몇 달 동안은 경영진의 발언보다 보고서, 계약, 출시 결정을 지켜봐야 한다. 독립 검토자가 문제를 드러내고 출시 결정에 영향을 줄 수 있다면 Meta의 모델은 신뢰를 얻게 된다. 그렇지 않다면, 강제력 있는 조율을 요구하는 압력은 더욱 커질 것이다.