Anthropic 독립 AI 평가자 계획, OpenAI 지지 얻었지만 관건은 접근권

치열한 프런티어 연구소 경쟁 속에서도 Anthropic의 독립 AI 평가자 계획은 2026년 9월 12일 정책 아이디어에서 공개적 약속으로 발전했다. CEO Dario Amodei는 외부 팀이 안전 관행, 사고, 학습 과정, 고급 시스템에 대해 직원에 준하는 지속적 접근권을 받아야 한다고 밝혔다. OpenAI CEO Sam Altman도 곧바로 자사 역시 같은 약속을 하겠다고 말했다.

이 합의는 출시 전 모델을 시험하겠다는 또 하나의 약속보다 더 큰 의미를 지닌다. Anthropic은 외부 관찰자가 연구소 내부에서 안전 관련 결정이 어떻게 내려지는지 살펴볼 수 있을 만큼 가까이 머무르는 방식을 제안하고 있다. 책상, 출입 배지, 회사 노트북, 연구자와의 직접 접촉이 외부 평가에서 흔히 적용되는 짧은 테스트 기간을 대체하게 된다.

이 제안은 두 회사 모두에 즉각적인 신뢰성 시험을 안긴다. 직원 수준의 접근권은 상당해 보이지만, 어느 회사도 평가자 선정, 기밀유지, 보고 권리, 이견이 있는 결과를 다루는 완전한 규정을 공개하지 않았다. 독립 AI 평가 모델은 평가자가 불편한 증거를 조사하고 의미 있는 결론을 전달할 수 있을 때에만 중요해질 것이다.

Anthropic의 독립 AI 평가자는 완성된 모델 이상을 검토한다

Anthropic은 출시 전 일회성 벤치마크가 아니라 개발 과정을 지속적으로 관찰하는 방식을 제안하고 있다.

Amodei는 2026년 9월 프런티어 속도 조절 에세이에서 이 약속을 소개했다. 그는 모델 역량이 정렬, 모니터링, 보안 통제보다 빠르게 향상되고 있다고 주장했다. 그의 관점에서 속도 조절은 모델 개발을 중단한다는 뜻이 아니다. 더 강력한 역량이 발전하기 전에 안전장치와 검증에 충분한 시간을 확보한다는 의미다.

세 부분으로 구성된 그의 제안에서 첫 단계는 상주형 평가자를 다룬다. 각 프런티어 개발사는 독립 팀에 직원과 유사한 수준의 상시 접근권을 부여한다. 이 팀은 안전 약속 준수 여부를 검증하고, 사고를 보고하며, 완성된 모델과 이를 만들어내는 과정을 모두 평가한다.

이 범위가 핵심적인 변화다. 외부 모델 평가는 일반적으로 제한된 출시 전 기간 동안 특정 시스템에 초점을 맞춘다. 평가자는 접근권을 받아 합의된 테스트를 수행하고, 결과를 문서화한 뒤 개발사에 통제권을 돌려준다. 이 작업은 위험한 역량을 드러낼 수 있지만, 단지 한 시점의 모습만 제공한다.

상주형 접근권은 검토 범위를 확장한다. 평가자는 내부 팀이 테스트 규정을 따랐는지, 경고 신호에 적절히 대응했는지, 예외 사항을 기록했는지를 살펴볼 수 있다. 또한 평가를 위해 제시된 완성형 시스템만 판단하는 대신, 학습이 진행되는 동안 안전장치가 어떻게 바뀌는지 관찰할 수 있다.

Amodei는 Anthropic이 사무실 책상, 배지, 노트북, 관련 직원에 대한 접근권을 제공할 계획이라고 말했다. 보도된 약속에는 안전 관행 모니터링과 사고 보고도 포함된다. 이러한 세부 사항은 물리적·조직적 현장 참여를 시사하지만, 제한 없는 기술 접근권을 보장하는 것은 아니다.

이 구분은 프런티어 모델이 점점 복잡한 시스템 안에서 작동하기 때문에 중요하다. 이들은 소프트웨어 도구를 사용하고, 여러 단계에 걸쳐 맥락을 유지하며, 통제된 환경 안에서 행동한다. 모델의 행동은 시스템 프롬프트, 권한, 스캐폴딩, 모니터링 도구, 이용 가능한 컴퓨팅 자원에 따라 달라질 수 있다.

공개 인터페이스만 테스트하는 평가자는 최종 계층만 본다. 상주형 평가자는 개발사가 그 계층을 어떻게 구성했는지와 내부 테스트 중 무엇이 일어났는지를 검토할 수 있다. 이러한 더 넓은 시야는 정제된 데모나 표준 벤치마크에서는 사라지는 실패를 드러낼 수 있다.

OpenAI는 이미 이러한 평가 문제를 인정한 바 있다. 2026년 5월 평가 플레이북은 현대적 평가는 환경, 도구, 워크플로를 고려해야 한다고 말한다. 고급 에이전트를 일반 챗봇처럼 다루면 실제 운영 조건을 반영하지 못하는 결과가 나올 수 있다.

따라서 OpenAI의 동의는 기존에 밝힌 평가 원칙과 일치한다. 하지만 개념을 지지하는 것과 운영 프로그램을 구축하는 것은 다르다. 두 회사는 독립 팀이 어떤 시스템, 기록, 직원, 내부 환경을 검사할 수 있는지 여전히 정의해야 한다.

이 제안은 프런티어 발전을 늦추자는 더 폭넓은 요구와도 구분할 필요가 있다. 상주형 평가는 각 회사가 독립적으로 실행할 수 있는 구체적 약속이다. 업계 공조, 반독점 보호, 국제 협정에는 정부와 경쟁사들이 함께 행동해야 한다.

그렇기에 평가자 접근권은 Amodei의 의제에서 가장 먼저 검증할 수 있는 부분이다. Anthropic과 OpenAI는 평가자 선정 기준이나 접근 규정을 발표하기 전에 조약을 맺을 필요가 없다. 평가자를 지명하고, 보고 보호 장치를 마련하며, 프로그램의 범위를 공개하는 일부터 시작할 수 있다.

OpenAI의 동의가 판도를 바꾸는 이유

OpenAI의 지지는 Anthropic의 제안을 다른 프런티어 연구소가 이제 수용하거나, 맞추거나, 공개적으로 거부해야 하는 경쟁 표준으로 바꾼다.

Altman은 프런티어의 속도 조절에 대해 Amodei와 의견을 같이한다고 말했다. Associated Press에 따르면, 그는 OpenAI 역시 독립 평가자에게 직원 수준의 접근권을 제공하겠다고 약속했다. 이 반응은 충분히 빨리 나와 이야기를 Anthropic의 정책 발표에서 업계 전체의 과제로 전환했다.

두 회사는 연구자, 엔터프라이즈 고객, 컴퓨팅 역량, 고급 모델 주도권을 두고 경쟁한다. 이 경쟁 관계가 양사의 합의를 주목할 만하게 만든다. 한 참여자가 이를 무시해 더 빠르게 나아갈 수 있다고 믿으면 안전 약속은 종종 약화된다.

OpenAI의 같은 약속은 이러한 즉각적인 반론을 줄인다. Anthropic을 지속적 감시를 받아들이는 유일한 주요 개발사로 묘사하기는 어려워졌다. 한편 OpenAI는 Altman의 지지를 Anthropic이 제안한 방식만큼 구체적인 조건으로 전환해야 한다는 압박에 직면한다.

이제 다른 개발사들은 더 명확한 질문을 받는다. Google DeepMind, Meta, xAI 및 다른 프런티어 연구소는 상주형 접근권이 공동의 기대 기준이 될지를 결정해야 한다. 침묵은 이들을 면밀히 주시되는 두 경쟁사가 지지한 표준 밖에 남겨둔다.

이 압박은 대외 메시지에만 영향을 미치지 않는다. 엔터프라이즈 고객은 모델 거버넌스, 사고 대응, 배포 통제에 관한 증거를 점점 더 요구하고 있다. 신뢰할 수 있는 외부 검토를 받는 개발사는 자체 시스템 카드와 안전 보고서 외에 구매자에게 또 하나의 보증 근거를 제공할 수 있다.

개발사는 심각한 위험을 식별하는 연구자들로부터도 내부 압박을 받는다. 상주형 평가자는 경영진이 통제하는 공개에 전적으로 의존하지 않는 증거 전달 경로를 제공할 수 있다. 그러나 직원이 보복이나 절차적 방해 없이 평가자에게 접근할 수 있을 때에만 이 경로는 의미가 있다.

잠재적 혜택은 규제기관에도 미친다. 정부 기관은 모든 프런티어 평가를 재현하는 데 필요한 인력, 인프라, 즉각적인 접근권을 갖추지 못하는 경우가 드물지 않다. 자격을 갖춘 외부 기관은 내부 검토와 공식 규제 집행 사이에서 기술적 감시를 제공할 수 있다.

그럼에도 평가자가 공적 권한을 대체해서는 안 된다. 민간 평가팀은 법률이나 계약이 그러한 권한을 부여하지 않는 한 구속력 있는 제재를 가할 수 없다. 또한 사회를 대신해 허용 가능한 위험에 관한 더 광범위한 정책 선택을 결정할 수도 없다.

OpenAI의 약속은 회사가 이미 독립 안전성 평가와 관련된 정책 조치를 지지해 왔기에 기대를 높인다. 9월 9일 AI 정책 입장에서 OpenAI는 안전성 평가, 감사 기준, 청소년 보호, 생물학적 위험을 다루는 캘리포니아 제안을 지지했다. 또한 다른 연구소와 자발적인 프런티어 기준을 추진하겠다고 밝혔다.

새 약속은 그러한 공개 입장을 OpenAI 자체 운영과 연결한다. 감사 법안을 지지하는 일은 외부 전문가가 내부 이견을 관찰하도록 허용하는 일보다 쉽다. 직원 수준의 접근권은 평가 결과가 경쟁적인 출시를 늦출 때에도 회사가 감시를 수용하는지 시험하게 될 것이다.

Anthropic도 같은 시험을 받는다. 이 회사의 정체성은 오랫동안 안전성, 해석 가능성, 책임 있는 확장을 강조해 왔다. 상주형 평가자는 이 주장을 강화할 수 있지만, 허술한 실행은 회사의 포지셔닝과 실제 통제 사이에 더 선명한 모순을 만들 것이다.

따라서 당장의 압박 대상은 정부가 아니다. 약속을 한 연구소들이다. 이들은 기자, 연구자, 고객, 직원, 정책 입안자가 행동을 판단할 수 있는 기준을 자발적으로 높였다.

실제 트레이드오프는 독립성과 내부 접근권 사이에 있다

평가자는 프런티어 시스템을 이해하려면 깊은 접근권이 필요하지만, 연구소에 의존하면 평가 결과에 가치를 부여하는 독립성이 약화될 수 있다.

외부 평가는 언제나 접근권 문제를 수반해 왔다. 제한된 접근권은 지식재산, 사용자 데이터, 모델 가중치, 보안 통제를 보호한다. 동시에 검토자가 위험하거나 오해를 유발하는 행동의 정확한 메커니즘을 보지 못하게 할 수도 있다.

직원 수준의 접근권은 반대쪽 극단으로 나아간다. 평가자는 내부 테스트를 관찰하고 안전팀과 정기적으로 대화할 수 있다. 이들은 결론의 정확도를 높이는 기술적 맥락을 얻을 수 있다. 그러나 검토 대상 회사에 재정적·사회적·운영상으로 의존하게 될 수도 있다.

단순히 팀을 독립적이라고 부른다고 이 긴장이 해결되지는 않는다. 관계에는 강제 가능한 보호 장치가 필요하다. 평가자는 보호된 재원, 확정된 보고 권리, 안전한 소통 채널, 관련 증거를 보존할 명확한 권한을 가져야 한다.

선정 절차도 면밀한 검토가 필요하다. 회사가 자신의 가정을 받아들일 가능성이 높은 검토자만 고를 수 있어서는 안 된다. 자격을 갖춘 기관 간 순환 배정은 친밀성 위험을 줄일 수 있으며, 투명한 자격 기준은 우호적인 임명을 억제할 수 있다.

재원 조달은 또 다른 과제다. 프런티어 평가에는 기술 인력, 보안 컴퓨팅 환경, 전문 테스트 도구가 필요하다. 연구소가 전 비용을 부담한다면, 관찰자가 관계를 훼손할 결과를 공개할 수 있는지 의문이 제기될 수 있다.

정부 또는 업계 공동 기금은 직접적 의존을 줄일 수 있다. 그러나 공동 기금에는 지배적 기업이 평가자 시장을 좌우하지 못하도록 하는 통제가 필요하다. 공공 보조금은 정치적 영향력과 느린 조달 절차를 포함한 다른 압력을 초래할 수 있다.

공개 권리도 마찬가지로 중요하다. 평가자는 공개 보고서에 안전하게 담을 수 없는 기밀 자료를 접하게 될 것이다. 모델 취약점, 위험한 역량의 세부 사항, 비공개 사용자 정보, 보안 아키텍처는 신중한 처리가 필요하다.

기밀유지가 침묵의 보편적 이유가 되어서는 안 된다. 신뢰할 수 있는 프레임워크는 민감한 기술 세부 사항과 규정 준수, 해결되지 않은 위험, 사고 대응에 관한 고위 수준의 조사 결과를 구분해야 한다. 평가자는 회사 경영진을 넘어 심각한 우려를 보고할 경로가 필요하다.

연구소에는 사실 오류를 바로잡기 위한 공정한 절차도 필요하다. 기술 평가는 오탐을 낼 수 있고, 환경적 가정을 간과하거나 불완전한 데이터를 잘못 해석할 수 있다. 대응 절차는 정확성을 높이지만, 기업에 보도·공개에 대한 거부권을 부여해서는 안 된다.

2026년 보안 접근 프레임워크는 그 근본적인 보안 딜레마를 설명했다. 개발사는 민감한 모델 정보를 보유하고 있는 반면, 평가자는 의미 있는 평가를 수행할 수 있을 만큼의 접근 권한이 필요하다. 또한 연구소가 알려진 테스트에 맞춰 모델을 최적화하지 못하도록, 평가자는 자체 비공개 방법론도 보호해야 한다.

상주형 검토는 두 위험을 모두 심화시킨다. 내부 접근 권한을 가진 평가자는 실수로 독점 정보를 노출할 수 있다. 평가 방식에 대한 가시성을 가진 개발사는 테스트에 직접 맞춰 학습을 진행해, 전반적인 안전성 개선 없이도 높은 점수를 얻을 수 있다.

기술적 분리는 도움이 될 수 있다. 보안 평가 환경은 데이터 이동을 제한하고, 접근을 기록하며, 개발팀으로부터 테스트 자료를 분리할 수 있다. 이러한 통제 장치는 연구소가 모든 조사 판단을 감시하도록 허용하지 않으면서 양측을 보호해야 한다.

가장 바람직한 체계는 일반적인 계약업체도, 무제한 권한을 가진 직원도 아닐 것이다. 내부자에 준하는 접근 권한과 외부의 독립적 판단을 보존하는 거버넌스를 함께 요구한다. 이 조합은 어렵지만, 그보다 약한 체계는 의례적 감독에 그칠 위험이 있다.

직원 수준의 접근 권한에도 세부 규정집은 필요하다

Anthropic과 OpenAI가 접근 권한, 권한 범위, 사고 처리, 공개를 운영 측면에서 정의하기 전까지 이 제안은 불완전하다.

직원 수준의 접근 권한이라는 표현은 근접성을 암시하기 때문에 설득력을 지닌다. 그러나 어떤 직원인지, 어떤 시스템인지, 어떤 권한인지까지는 명시하지 않는다. 모델 행동을 연구하는 연구자는 커뮤니케이션 담당 직원이나 방문 계약업체와 다른 수준의 접근 권한을 가진다.

기술적 접근은 공개 모델 엔드포인트를 넘어야 한다. 평가에 따라 검토자는 시스템 프롬프트, 도구 권한, 모델 버전, 모니터링 결과, 위험한 역량 테스트 기록을 필요로 할 수 있다. 학습 데이터와 모델 가중치는 더 큰 보안 및 법적 우려를 제기한다.

절차에 대한 접근도 그만큼 중요하다. 평가자는 누가 배포를 승인할 수 있는지, 임계값을 넘었을 때 어떤 일이 일어나는지, 경영진이 의견 충돌을 어떻게 해결하는지 이해해야 한다. 그렇지 않으면 테스트를 관찰하면서도 그 테스트가 의사결정에 어떤 영향을 미치는지는 보지 못할 수 있다.

사고에 대한 접근은 별도 규정이 필요하다. 연구소는 무엇이 사고에 해당하는지, 평가자가 언제 통지를 받는지, 사후 검토가 허용되는지를 정의해야 한다. 통지가 지연되면 검토자가 로그를 보존하거나 관련 직원을 인터뷰하지 못할 수 있다.

평가자는 접근 권한 철회로부터도 보호받아야 한다. 기업은 중대한 발견이 나온 직후 팀을 즉시 제외할 수 있어서는 안 된다. 계약에는 종료 조건, 분쟁 해결, 그리고 제외되기 전에 완료한 업무를 계속 보고할 권리를 정의해야 한다.

이 프로그램에는 이해상충 기준이 필요하다. 평가자는 여러 경쟁 연구소에 자문하거나, 향후 고용을 모색하거나, 개발사 자금에 의존할 수 있다. 중요한 관계를 공개하면 독자가 각 보고서의 독립성을 판단하는 데 도움이 될 수 있다.

Anthropic의 더 광범위한 위험 프레임워크는 이미 프런티어 개발사가 자격을 갖춘 독립 평가자와 협력해야 한다고 주장한다. 또한 기업 평가와 위험 보고서에 대한 검토 내용을 공개할 것을 요구한다. 상주형 접근은 이러한 방식을 주기적 검토에서 지속적인 제도적 감독으로 확장할 것이다.

그러나 공개 보고 방식은 여전히 불확실하다. 평가자는 상세 보고서, 제한적 보증 성명서를 발표하거나, 심각한 사고가 발생하지 않는 한 아무것도 공개하지 않을 수 있다. 이러한 형식은 매우 다른 수준의 책임성을 제공한다.

좁은 범위의 보증 성명서는 평가자가 무엇을 발견했는지 공개하지 않고도 절차가 수행됐음을 확인할 수 있다. 상세 검토는 테스트한 위험, 한계, 이견, 시정 조치를 설명할 수 있다. 후자가 더 큰 가치를 제공하지만, 더 큰 보안 및 책임 문제를 낳는다.

의견 불일치 절차는 이 약속의 진정성을 드러낼 것이다. 가령 평가자가 배포 연기를 권고하지만 경영진은 통제가 충분하다고 판단한다고 하자. 독자는 누가 결정하는지, 이견이 공개되는지, 어떤 문서가 남는지 알아야 한다.

어떤 민간 평가자도 모델의 안전성을 보장할 수는 없다. 프런티어 시스템은 변화하는 환경에서 작동하며 새로운 실패 양식을 발견하는 사용자와 상호작용한다. 평가는 불확실성을 줄이고, 위험을 식별하고, 통제를 시험할 수 있지만 위험을 없앨 수는 없다.

이 한계는 프로그램에 관한 모든 공개 설명에 나타나야 한다. 기업은 평가자의 존재를 광범위한 인증처럼 이용해서는 안 된다. 주장은 실제로 검토한 시스템, 조건, 테스트, 날짜에 한정돼야 한다.

평가자의 역량 기준 역시 정의가 필요하다. 팀에는 사이버보안, 생물학적 위험, 자율 에이전트, 해석 가능성, 조직 거버넌스에 관한 전문성이 필요할 수 있다. 단일 조직이 모든 위험 영역을 반드시 포괄할 수는 없다.

다중 평가자 모델은 더 강력한 포괄성을 제공할 수 있다. 한 조직은 위험한 역량을 테스트하고, 다른 조직은 거버넌스와 사고 대응을 검토할 수 있다. 상호 검증은 단일 방법론이나 기관의 판단에 대한 의존도를 낮출 수 있다.

따라서 어느 한 기업이 다음으로 내놓아야 할 유용한 자료는 또 하나의 지지 성명이 아니다. 명시된 책임, 정의된 접근 수준, 보호된 보고 채널, 시행일을 담은 프로그램 헌장이다.

자발적 감독은 AI 경쟁을 끝내지 않고도 신뢰를 높일 수 있다

Anthropic의 제안은 안전 실패를 드러낼 수 있지만, 연구소를 더 빠른 개발로 몰아가는 상업적·지정학적 유인을 없애지는 못한다.

Amodei의 더 큰 주장은 역량 가속에서 시작한다. 그는 AI 시스템이 이후 시스템을 구축하는 데 점점 더 기여하고 있으며, 이를 재귀적 자기개선이라고 부른다. 이런 맥락에서 모델은 개발 과정에 다시 투입되는 연구, 코딩, 테스트, 최적화를 지원한다.

이 주장은 인간의 통제 없이 자율 기계가 스스로를 독립적으로 재설계한다는 의미는 아니다. AI가 연구 생산성을 높이는 개발 순환을 설명한다. 더 빠른 연구는 평가, 모니터링, 보안 업무에 쓸 수 있는 시간을 압축할 수 있다.

Amodei는 자율 에이전트와 사이버 테스트 관련 실패도 언급했다. 그의 에세이는 더 유능하면서 정렬되지 않은 군집이 인터넷 전반에 심각한 피해를 일으킬 수 있다고 경고한다. 이는 독립적으로 확립된 일정이 아니라 그의 평가다.

이 구분은 극단적인 예측이 즉각적인 거버넌스 문제에서 관심을 돌릴 수 있기 때문에 중요하다. 평가자는 현재의 사고, 접근 통제, 배포 절차를 검토하기 위해 정확한 재앙 시나리오에 합의할 필요가 없다. 기존의 불확실성만으로도 더 나은 증거를 요구할 근거가 된다.

핵심적인 반론은 자발적 조정에 관한 것이다. 기업은 속도 조절을 약속하면서도 속도 조절을 서로 다르게 해석할 수 있다. 한 연구소는 배포를 미루는 반면, 다른 연구소는 내부 학습을 계속하고, 세 번째 연구소는 모니터링 강화만으로 충분하다고 볼 수 있다.

Amodei는 경쟁 문제를 인정한다. 그가 제안한 두 번째 단계는 반독점 면제를 통해 지원될 가능성이 있는 업계 전반의 안전 조정을 요구한다. 세 번째 단계는 민주주의 정부와 지정학적 경쟁국 간 협력에 의존한다.

이 단계들은 상주형 평가보다 훨씬 큰 장애물에 직면한다. 정부는 국가 경쟁력을 약화한다고 판단하는 제한을 거부할 수 있다. 경쟁 연구소들은 안전 기준이 소규모 개발사의 비용을 높여 기존 기업을 보호한다고 의심할 수 있다.

비판자들은 기존 기업이 소규모 경쟁사가 감당할 수 없는 규제의 혜택을 받는지 합리적으로 물을 수 있다. 독립 평가는 전문 인력, 보안 인프라, 시간이 필요하다. 잘못 설계된 의무 규정은 이미 가장 많은 자본과 컴퓨팅 자원을 보유한 연구소의 지위를 굳힐 수 있다.

이 우려가 감독의 타당성을 부정하는 것은 아니다. 기준은 위험에 따라 확장되어야 하며, 적절한 경우 공동 평가 인프라를 제공해야 한다는 뜻이다. 자격은 최대 개발사와의 상업적 관계가 아니라 기술적 역량에 기반해야 한다.

또 다른 우려는 규제 포획이다. 소수의 연구소와 선호되는 평가자가 더 폭넓은 대중 참여 없이 허용 가능한 위험을 정의할 수 있다. 이들의 기준은 입법자들이 민주적 책임성을 확립하기 전에 영향력을 가질 수 있다.

투명성은 이러한 위험을 줄일 수 있다. 정부, 학계, 시민사회 단체, 영향을 받는 산업계는 평가자 자격과 보고 기대치를 정의하는 과정에 참여해야 한다. 공개된 이견은 민간의 합의가 어디까지인지도 보여줄 것이다.

이 제안은 지정학적 한계에도 직면한다. 일부 미국 기업에만 국한된 감속은 다른 지역의 개발사를 반드시 제약하지는 않는다. Amodei는 민주주의 국가들이 권위주의 정부와 협력해야 한다고 주장하지만, 그러한 검증은 어려울 것이다.

OpenAI와 Anthropic은 국제적 조정을 해결하지 않고도 자체 관행을 개선할 수 있다. 상주형 평가자는 절차 실패를 감지하고 각 기업이 밝힌 규칙을 따르는지 문서화할 수 있다. 관련 없는 다른 연구소의 비공개 작업까지 검증할 수는 없다.

그 결과는 유용하지만 범위가 제한된 개입이다. 독립 AI 평가자는 참여 기업 내부의 책임성을 개선할 수 있다. AI 경쟁을 해결하거나, 글로벌 정책을 결정하거나, 모든 경쟁사가 같은 제약을 수용하도록 보장할 수는 없다.

따라서 독자는 두 가지 과장된 해석을 경계해야 한다. 이 제안은 업계 전반에 걸친 구속력 있는 감속 조치가 아니다. 그러나 약속한 접근 권한이 실제로 제공되고 지속된다면, 단순한 안전성 메시지보다 훨씬 실질적이다.

기업 고객에게 실질적인 질문은 증거에 관한 것이다. 고도화된 시스템을 평가하는 구매자는 어떤 위험이 외부 테스트를 거쳤는지, 검토자가 어떤 접근 권한을 받았는지, 해결되지 않은 우려가 공개됐는지 물어야 한다. 평가 범위 없는 안전성 라벨은 거의 지침을 제공하지 못한다.

팀은 자체 배포에서도 같은 원칙을 유지해야 한다. 모델 버전, 프롬프트, 권한, 테스트 결과, 승인 결정을 기록으로 남겨야 한다. 검색 가능한 지식 베이스는 공식적인 위험 통제를 대체하지 않으면서 이러한 감사 추적을 지원할 수 있다.

세 가지 신호가 이 약속의 진정성을 보여줄 것이다

다음 시험대는 실행이다. 지명된 평가자, 집행 가능한 보고 권리, Anthropic과 OpenAI를 넘어선 도입이 필요하다.

첫 번째 신호는 공개 프로그램 헌장이다. Anthropic과 OpenAI는 참여 평가자를 밝히고, 직원 수준의 접근 권한을 정의하며, 시행일을 제시해야 한다. 헌장은 어떤 모델 개발 단계가 범위에 포함되는지도 설명해야 한다.

그러한 공개는 외부인이 운영 상황을 정의된 약속과 비교할 수 있게 하므로 약속을 강화한다. 모호한 양해각서나 이름 없는 파일럿은 이를 약화할 것이다. 날짜와 범위가 없으면 직원도 대중도 미준수를 식별할 수 없다.

두 번째 신호는 독립 보고의 증거다. 평가자는 안전하게 공개할 수 있는 방법론, 한계, 주요 발견, 해결되지 않은 이견을 공개해야 한다. 보고서는 어떤 시스템과 개발 기간을 다뤘는지 명시해야 한다.

회사의 커뮤니케이션 채널만으로 작성된 보고서는 신뢰를 충분히 담보하기 어렵다. 검토자가 이견을 설명할 수 있는 능력은 독립성의 핵심이다. 신중하게 편집된 설명이라도 실질적인 검증과 관리된 지지 표명을 구분할 수 있다.

가장 중요한 시험대는 평가자가 추가 작업이나 일정 지연을 권고할 때 찾아올 것이다. 회사가 이에 대한 대응을 문서화하고 평가자의 반대 의견을 보존한다면, 이 체계는 신뢰성을 얻는다. 반대로 접근 권한이 사라지거나 결과가 계속 비공개로 남는다면, 그 약속의 가치는 떨어진다.

세 번째 신호는 다른 프런티어 개발사들이 유사한 체계를 채택하는지 여부다. Google DeepMind, Meta, xAI 또는 다른 주요 연구소의 지지는 내장형 평가를 업계 표준에 가깝게 만들 수 있다. 거부는 자발적 공조가 지닌 경쟁적 한계를 드러낼 것이다.

비교 가능하다는 것이 동일한 거버넌스를 뜻하지는 않는다. 기업마다 인프라와 개발 방식이 다르다. 다만 접근 권한, 독립성, 보고, 사고 대응 권한을 비교할 수 있을 만큼의 공통된 공개는 필요하다.

두 기업을 넘어선 채택은 Amodei의 ‘경쟁을 통한 상향 평준화’ 논거를 강화할 것이다. 분절화가 계속된다면 안전성 공조가 여전히 전략적 유인에 종속돼 있음을 보여줄 것이다. 그렇게 되면 정부는 최소 요건을 마련해야 한다는 더 큰 압박을 받게 된다.

향후 3개월은 초기 증거를 제공할 것으로 보인다. 두 회사는 법률 제정이나 국제 협상을 기다리지 않고도 접근 원칙을 공개할 수 있다. 평가 기관 역시 내장형 역할을 수락하기 전에 요구하는 조건을 밝힐 수 있다.

개발자와 엔터프라이즈 구매자는 표현을 주의 깊게 살펴봐야 한다. “Consultation”, “model access”, “employee-like access”는 서로 바꿔 쓸 수 있는 표현이 아니다. 첫 번째는 조언을 뜻할 수 있고, 두 번째는 일시적인 인터페이스를 의미할 수 있으며, 세 번째는 지속적인 운영 가시성을 뜻해야 한다.

부정적 증거도 살펴봐야 한다. 누락된 시작일, 공개되지 않은 평가자 신원, 광범위한 기밀유지 조항 또는 회사가 통제하는 요약본은 제안의 가치를 제한할 수 있다. 독립적 감독은 이견이 생겨도 유지되는 권리를 통해 신뢰를 얻는다.

Anthropic의 독립 AI 평가자들은 이제 OpenAI의 이례적으로 가시적인 지지를 받고 있다. 이 합의는 기대를 높이지만, 누가 내부에 들어갈 수 있는지 또는 무엇을 공개할 수 있는지에 대한 답은 제공하지 않는다. 결정적인 증거는 첫 협력 발표가 아니라 첫 번째 이견이 있는 결과에서 나올 것이다.

고도화된 AI를 선택하거나 배포하는 모든 이들에게, 지금은 더 까다로운 거버넌스 질문을 던져야 할 시점이다. 누가 시스템을 테스트했고, 무엇에 접근했으며, 어떤 한계가 아직 해결되지 않았는가? 연구소들이 고객에게 내장형 감독을 신뢰해 달라고 기대한다면, 그 고객들 역시 평가자 자체를 평가할 수 있을 만큼의 공개를 요구해야 하지 않을까?