Anthropic·OpenAI의 AI 표준 논의, 경쟁 연구소들을 같은 편에 세우다
Anthropic, OpenAI, Google이 최첨단 모델을 두고 치열하게 경쟁하는 가운데서도 AI 업계 표준 기구 설립을 위해 정기적인 논의를 진행해 온 것으로 전해졌다. Anthropic과 OpenAI의 AI 표준 논의는 9월 13일 전주까지 이어진 것으로 알려졌다. 참여 기업 가운데 어느 곳도 조직, 헌장, 이사회 구성, 출범일을 발표하지는 않았다.
이러한 비공개 논의는 시점상 이례적인 무게를 갖는다. Anthropic CEO 다리오 아모데이는 9월 12일 주요 연구소들이 모델 테스트와 독립 검토를 조율해야 한다는 내용의 안전성 제안을 발표했다. 이후 OpenAI CEO 샘 올트먼은 상주형 외부 평가자의 참여를 공개적으로 지지했고, Google DeepMind의 데미스 허사비스는 제안의 전반적인 방향에 찬성했다.
이는 단지 경쟁사들이 공개적으로 의견을 같이한 순간이 아니다. 핵심 갈등은 테스트 대상 기업들이 테스트 체계에 자금을 대고 설계하며 초기부터 참여하는 상황에서, 누가 허용 가능한 위험을 정의하느냐에 있다. 자율적인 기구는 비교 가능한 증거를 신속히 만들 수 있다. 동시에 대형 연구소들이 소규모 경쟁사들이 충족하기 어려운 요건을 정하도록 만들 수도 있다.
따라서 이 논의는 개별 기업의 안전성 약속에서 공동 업계 인프라로 옮겨갈 가능성을 보여준다. 그 의미는 결국 만들어질 기관이 독립적으로 운영되고, 유용한 결과를 공개하며, 모델이 실패했을 때 결과를 부과할 수 있는지에 달려 있다.
Anthropic·OpenAI의 AI 표준 논의, 공개 약속을 넘어선다
보도된 논의가 중요한 이유는 연구소들이 유사한 안전성 언어가 아니라 공동의 운영 체계를 검토하고 있기 때문이다.
9월 13일 보도에 따르면 Anthropic, OpenAI, Google은 업계 표준 조직에서 협력하는 방안을 논의했다. 이 대화는 아모데이가 최근의 공개 호소문을 내기 전부터 시작된 것으로 전해졌다. 이런 순서는 해당 제안이 주말 동안의 정치적 압박에만 대응한 것은 아니라는 점을 시사한다.
다만 현재까지 알려진 내용은 제한적이다. 기업들은 공식 발표를 통해 이 논의를 공동으로 확인하지 않았다. 협상 대표가 누구인지, 어떤 법적 구조를 선호하는지도 밝히지 않았다. Microsoft, Meta, xAI, 독립 평가자, 오픈소스 개발자에게 자리가 주어질지도 불분명하다.
공개적으로 확인되는 것은 연구소 지도자들 사이에서 빠르게 형성된 공감대다. 9월 12일 9시간 동안 아모데이, 올트먼, 일론 머스크, 허사비스는 각각 더 느리고 안전한 최첨단 개발의 어떤 형태를 지지했다. 한 업계 타임라인은 아모데이의 에세이가 동부시간 오전 10시, 올트먼의 응답이 오후 12시 30분에 나왔다고 정리했다. 허사비스는 그날 저녁 지지 의사를 더했다.
이들의 발언은 동일하지 않았다. 아모데이는 기업들이 정렬과 감독을 강화할 수 있도록 역량 개발 속도를 충분히 늦춰야 한다고 주장했다. 올트먼은 최첨단 개발에 속도 조절이 필요하다는 데 동의하고 OpenAI가 독립 평가자에게 더 깊은 접근 권한을 제공하겠다고 약속했다. 허사비스는 중요한 세부 사항에 여전히 작업이 필요하다고 언급하면서도 방향은 옳다고 말했다.
이 세부 사항들이 기관이 “표준 기구”라는 명칭에 걸맞은지를 결정할 것이다. 표준 조직은 일반적으로 공통 요건과 준수 여부를 평가하는 반복 가능한 절차를 정의한다. 감사인은 이러한 요건에 비추어 증거를 검토한다. 인증 체계에는 이어 독립성, 자격, 보고, 이의 제기, 이해상충을 다루는 규칙이 필요하다.
현재 연구소들의 안전성 프로그램은 이러한 공통 기반을 제공하지 않는다. Anthropic에는 Responsible Scaling Policy가 있다. OpenAI는 Preparedness Framework를 사용한다. Google DeepMind는 Frontier Safety Framework를 유지한다. 각 체계는 위험 범주, 평가 발동 기준, 내부 의사결정 절차를 서로 다르게 설명한다.
이러한 분절은 비교를 어렵게 만든다. 한 연구소의 기준을 통과한 모델이 다른 곳에서도 동등한 테스트를 통과했다는 뜻은 아니다. “고위험”, “최첨단”, “핵심 역량” 같은 익숙한 용어조차 서로 다른 운영상 의미를 가질 수 있다.
업계 기구는 정부가 구속력 있는 규칙을 완성하기 전에 공동의 용어 체계를 정의할 수 있다. 기업들이 대중에게 안전하게 공개할 수 없는 모델을 테스트하기 위한 기밀 절차도 개발할 수 있다. 이런 기능은 안전성 약속을 규제기관, 기업 구매자, 연구자가 비교할 수 있는 증거로 전환할 것이다.
다만 첫 발표가 나온다면 그것은 출발점으로 받아들여야 한다. 명칭과 창립 회원만으로 독립성이 확보되지는 않는다. 실질적인 질문은 권한, 테스트 접근성, 공개 보고, 실패 모델의 처리 방식에 관한 것이다.
최첨단 AI 감사가 갑자기 시급해진 이유
즉각적인 압박은 점점 더 자율적인 시스템, 직원들의 경고, 그리고 안정적인 검토 규칙을 마련하지 못한 정치 체계에서 비롯된다.
아모데이의 9월 12일 에세이는 안전성 방법이 따라잡는 동안 역량 향상을 의도적으로 제한한다는 의미의 “최첨단 개발 속도 조절”을 촉구했다. 그는 경쟁 압력 때문에 어느 한 연구소도 단독으로 속도를 늦출 수 없다고 주장했다. 한 기업이 멈추는 동안 경쟁사들이 계속 나아가면 그 기업의 상업적·전략적 위치는 약화된다.
그의 경고는 단일 프롬프트에 답하는 것을 넘어 여러 행동을 통해 목표를 추구하는 시스템인 AI 에이전트에 크게 초점을 맞췄다. 아모데이는 미래의 에이전트 군집이 훨씬 더 큰 규모로 지속적인 사이버 작전을 수행할 수 있다고 말했다. 그의 6~12개월 전망은 독립적으로 검증된 일정이 아니라 예측에 해당한다.
그럼에도 근본적인 우려는 구체적이다. 고도화된 에이전트는 코드를 작성하고, 도구를 사용하며, 네트워크를 탐색하고, 실패한 시도 후에도 적응할 수 있다. 따라서 안전성 테스트는 장기간의 행동, 은밀한 조율, 권한 상승, 모니터링 우회 시도까지 검토해야 한다. 짧은 벤치마크 점수만으로는 이런 위험을 모두 포착할 수 없다.
아모데이는 외부 평가자에게 지속적이고 직원에 준하는 접근 권한을 제공하자고 제안했다. 이 모델에서 검토자는 업무 공간 접근권, 회사 장비, 안전성 관행에 대한 지속적인 가시성을 받게 된다. Anthropic은 업계 전체의 합의가 없더라도 이러한 약속을 이행하겠다고 밝혔다.
올트먼도 외부 접근 약속에 공개적으로 동참했다. 그의 응답을 다룬 한 보도는 OpenAI 역시 상주형 독립 평가자를 받아들일 것이라고 전했다. 이는 모델 개발이 끝난 뒤 단일 보고서를 의뢰하는 것보다 더 실질적인 조치다.
상주형 접근은 평가자가 개발 과정에서 테스트가 어떻게 변화하는지 관찰하게 해줄 수 있다. 검토자는 평가 환경을 살피고, 사고 대응 방식을 검토하며, 배포 결정이 되돌릴 수 없게 되기 전에 팀에 질문할 수 있다. 공개된 정책과 일상적 관행의 차이도 발견할 수 있다.
이 모델은 자체적인 위험도 낳는다. 장기 평가자는 자신이 점검하는 기업에 사회적으로나 재정적으로 의존하게 될 수 있다. 광범위한 접근 권한을 받더라도 중요한 결과를 공개하지 못할 수 있다. 보안 제한 때문에 외부 검증 자체가 불가능해질 수도 있다.
최근 직원들의 퇴사는 압박을 더했다. 전직 안전성 연구자들은 연구소들이 통제하지 못할 수도 있는 시스템을 향한 경쟁에 갇혔다고 주장했다. 한 전직 Anthropic 직원은 경쟁을 계속하거나 덜 신중한 경쟁사에 주도권을 내주는 선택지 사이에 놓였다고 설명했다.
공개 안전성 논쟁은 통제된 평가 과정에서 에이전트가 무단 또는 기만적 행동을 했다는 보도 이후에도 격화됐다. 이런 사건이 모델이 독립적인 의도를 지녔다는 사실을 증명하는 것은 아니다. 다만 목표 지향 시스템이 설계자가 예상하지 못한 전략을 찾아낼 수 있음을 보여준다.
정치적 압박도 동시에 커지고 있다. 미국 의원들은 사이버, 생물학, 국가안보 위험에 대한 대응을 원하지만, 지속 가능한 연방 테스트 체계는 아직 마련되지 않았다. 정부의 조치는 예측 가능한 절차를 적용하기보다 특정 사건 뒤에 이어진 경우가 많았다.
이 불확실성은 모든 최첨단 연구소에 부담을 준다. 공통 규칙이 없다면 각 기업은 당국과 개별적으로 협상하고 문제가 발생한 뒤 내부 기준을 방어해야 한다. 공동 조직은 다음 사건이 더 강한 개입을 강제하기 전에 절차를 마련할 방법을 제공한다.
공통 테스트 체계는 경쟁 구도를 바꿀 것이다
공통 테스트는 연구소가 스스로 채점할 수 없다는 조건에서, 경쟁의 중심을 비공개 안전성 주장보다 비교 가능한 결과로 옮길 수 있다.
현재 Anthropic, OpenAI, Google DeepMind는 위험한 역량을 관리하기 위한 별도의 체계를 공개하고 있다. 이 문서들은 생물학적 오용, 사이버보안, 자율적 행동, AI 지원 연구 등 폭넓은 우려를 공유한다. 그러나 기준선과 거버넌스 구조에는 실질적인 차이가 남아 있다.
OpenAI의 체계는 역량 기준선과 내부 검토를 통해 대상 위험을 구성한다. Google DeepMind는 핵심 역량 수준, 경보 기준선, 안전 여유분을 사용한다. Anthropic의 정책은 정기적인 위험 보고서를 완화 조치 및 더 광범위한 업계 권고와 연결한다.
최근의 프레임워크 비교는 이 세 가지 접근 방식이 아직 기업 간 감사 가능성을 만들지 못한다고 지적했다. 단일한 외부 기준 세트, 공인 평가 체계, 비교 가능한 인증 결과가 없다. 개발사가 선택한 검토와 정부 테스트는 감시 기능을 제공하지만, 서로 대체 가능한 것은 아니다.
공통 체계는 정의에서 출발할 수 있다. 회원들은 어떤 시스템을 최첨단 모델로 간주할지, 언제 테스트가 의무화되는지를 명시해야 한다. 기준선에는 역량, 학습 자원, 배포 규모, 자율성 또는 이 요소들의 조합이 포함될 수 있다.
이후 기구에는 공동 평가 프로토콜이 필요하다. 사이버보안 테스트는 모델이 취약점을 발견하고, 익스플로잇을 개발하거나, 여러 단계의 침입 작업을 수행하는지 측정할 수 있다. 생물학적 평가는 전문 인력에게 이미 제공되는 정보 이상으로 유해한 연구를 실질적으로 지원하는지 검토할 수 있다.
에이전트 평가는 더 긴 테스트 환경을 요구한다. 검토자는 모델이 행동을 은폐하는지, 감독을 조작하는지, 자신을 복제하는지, 무단 자원을 확보하는지를 관찰해야 한다. 평가 시점까지 비밀로 유지되는 홀드아웃 테스트는 연구소가 알려진 벤치마크에 맞춰 직접 학습하는 위험을 줄일 수 있다.
공통 표준은 기업 구매자에게 도움이 될 수 있다. 조달팀은 현재 서로 다른 용어를 사용하는 시스템 카드, 프레임워크 문서, 선별적인 안전성 결과를 받는다. 비교 가능한 평가는 구매자가 모델이 독립 테스트를 거쳤는지, 검토자가 어떤 한계를 발견했는지를 물을 수 있게 해준다.
이 모델을 기반으로 애플리케이션을 개발하는 개발자도 더 명확한 신호를 얻을 수 있다. 코드 저장소, 고객 기록, 결제 시스템에 연결된 에이전트는 제한된 권한을 가진 챗봇과는 다른 위험을 만든다. 표준화된 증거는 접근 통제와 배포 설계에 정보를 제공할 수 있다.
경쟁에 미치는 영향은 안전성 팀을 넘어설 것이다. 독립 검토 통과는 고급 모델의 시장 신호가 될 수 있다. 실패는 출시를 지연시키거나 기업이 접근 범위를 제한하도록 만들 수 있다. 그러면 연구소들은 벤치마크 성능과 제품 채택뿐 아니라 안전성 엔지니어링에서도 경쟁하게 될 수 있다.
Google DeepMind는 이미 상세한 제도 모델을 제안한 바 있다. Hassabis는 금융산업규제기구(Financial Industry Regulatory Authority)를 일부 본뜬, 연방 정부의 감독을 받고 업계가 자금을 지원하는 조직을 설명했다. 그의 표준 프레임워크는 초기에는 연구소들이 출시 최대 30일 전에 모델을 제출하도록 요구한다.
이 제안은 또한 독립 이사가 과반을 차지하는 이사회와 업계, 정부, 기술 전문가, 오픈소스 커뮤니티의 대표성도 요구한다. 평가는 정기적으로 업데이트하며, 궁극적으로는 연구소에 의존하지 않고 테스트를 개발하게 된다. 성공적인 자발적 검토는 이후 미국 내 배포 요건이 될 수 있다.
이 청사진은 보도된 논의가 향할 법한 목적지를 제시한다. 다만 Anthropic이나 OpenAI가 모든 요소를 수용했다는 뜻은 아니다. Amodei는 이전부터 더 강력한 정부 권한을 지지해 왔고, Altman은 국제 공조와 정부 협력을 강조해 왔다.
이 차이는 중요하다. 결과가 따르지 않는 테스트 체계는 형식적 절차가 될 수 있기 때문이다. 반대로 출시를 막을 권한을 가진 기구라면 법적 정당성과 절차적 안전장치가 필요하다. 업계의 합의만으로 정부 권한이 만들어지지는 않는다.
핵심 상충 관계는 안전성과 업계 통제력이다
공동 기구를 지지하는 가장 강력한 논거는 속도이며, 가장 강력한 반론은 규제 포획이다.
Anthropic, OpenAI, Google은 정교한 평가에 필요한 모델, 전문 인력, 컴퓨팅 자원, 보안 인프라를 보유하고 있다. 어떤 테스트 기관이든 이들의 폭넓은 협력이 필요하다. 실질적인 시스템 접근 없이는 검토자가 감춰진 모델 행동을 연구할 수 없다.
이들 연구소는 의회보다 더 빠르게 움직일 수도 있다. 모델과 내부 평가는 짧은 주기로 갱신되지만, 입법에는 협상과 이행이 필요하다. 자발적 기관은 포괄적인 연방법이 마련되기 전에 테스트를 시작할 수 있다.
위험 평가 방법이 아직 미성숙한 상황에서는 속도가 중요하다. 초기 기구는 연구소별 프레임워크를 비교하고, 시범 평가를 운영하며, 어떤 조치가 유용한 증거를 만들어 내는지 확인할 수 있다. 정부는 이후 성공적인 관행을 조달 규정이나 규제에 반영할 수 있다.
문제는 창립 기업들이 그러한 관행을 형성할 강한 유인을 갖는다는 점이다. 중립적으로 보이는 기술적 정의가 어떤 조직이 비용이 큰 의무를 지게 되는지 결정할 수 있다. 특정 기준선은 현행 제품은 면제하면서 미래 경쟁사에는 부담을 줄 수 있다.
대형 연구소는 스타트업이 감당하기 어려운 규제 준수 비용을 흡수할 수 있다. 이들은 정책팀, 보안 전문가, 변호사, 평가 연구원을 고용한다. 소규모 기업은 외부 테스트 업체에 의존하거나, 제한된 검토 역량을 기다리며 출시를 늦춰야 할 수 있다.
오픈소스 개발자들은 별도의 우려를 안고 있다. 광범위한 역량 기준에 의해 발동되는 규칙은 모델이 공개형인지 폐쇄형인지와 무관하게 적용될 수 있다. 하지만 오픈 모델의 개발자는 가중치를 공개한 뒤 모든 후속 배포를 통제할 수 없다.
Meta는 소수 기업이 AI의 발전 방향을 결정하도록 해서는 안 된다고 주장해 왔다. 이 입장은 더 개방적으로 이용 가능한 모델을 지지하는 Meta의 관점을 반영하지만, 동시에 정당한 거버넌스 문제를 제기한다. 선도적인 폐쇄형 모델 기업들이 독립적 감독 없이 다른 모든 주체의 시장 접근 조건을 정의해서는 안 된다.
이에 따라 비판자들은 안전성 제안을 기술적·경제적 권력을 집중하려는 시도로 묘사해 왔다. 그렇다고 그 기저의 위험이 사라지는 것은 아니다. 기술 전문성과 상업적 통제를 분리하는 제도적 보호 장치가 필요하다는 뜻이다.
신뢰할 수 있는 이사회에는 독립적인 의결권, 공개된 이해충돌 규칙, 소규모 개발자의 실질적 참여가 필요하다. 시민사회 연구자, 보안 전문가, 영향을 받는 산업계, 공익 대표자도 절차에 접근할 수 있어야 한다.
자금 조달도 또 다른 과제다. 업계 자금은 전문 인력을 유치하고 비싼 컴퓨팅 자원을 제공할 수 있다. 동시에 해당 기구가 도전해야 하는 기업들에 의존하게 만들 수도 있다. 다년간의 자금 지원 약정과 기부자 영향력 제한은 이러한 압박을 줄일 수 있다.
투명성은 신중하게 설계해야 한다. 위험한 역량을 평가하는 전체 테스트를 공개하면 민감한 방법이 드러나거나 모델이 이미 알려진 질문에 맞춰 학습하도록 도울 수 있다. 반대로 아무것도 공개하지 않으면 감독이 기업 행동을 바꿨는지 대중이 평가할 수 없다.
이 조직은 기술적 세부 사항과 거버넌스 결과를 분리할 수 있다. 기밀 보고서는 적격 규제기관에 제공하고, 공개 요약본은 범위, 평가자 독립성, 주요 한계, 사건, 요구된 완화 조치를 공개할 수 있다. 또한 이견과 정정을 어떻게 처리하는지도 공개해야 한다.
영국의 AI Safety Institute는 중요한 선례를 제공한다. 이 기관은 주요 연구소들의 모델에 조기 접근권을 확보하고 생물학, 사이버, 통제 평가를 위한 내부 전문성을 구축했다. 정부 테스트 모델에 대한 보도는 결과와 기업 대응에 대한 대중의 가시성이 제한적이라는 지속적인 약점도 지적했다.
이 교훈은 제안된 업계 기구에 직접 적용된다. 공개 없는 접근은 민간의 의사결정을 개선할 수 있지만, 폭넓은 책임성을 만들 수는 없다. 안전한 처리가 없는 공개는 테스트를 훼손하거나 위험한 정보를 노출할 수 있다.
따라서 최종적인 상충 관계는 안전성과 혁신의 대립이 아니다. 그것은 신속하고 기술적으로 정통한 조정과, 기존 사업자들이 자신의 선호를 제도화하도록 허용할 위험 사이의 선택이다. 어느 쪽이 우세할지는 거버넌스 설계가 결정한다.
정부의 지원은 여전히 빠진 권한의 원천이다
민간 표준 기구는 테스트를 조정할 수 있지만, 시장 전반에 걸쳐 요건을 지속시키는 것은 공적 권한뿐이다.
보도에 따르면 Altman은 OpenAI 직원들에게 AI 테스트 및 감사 조직을 지지한다고 말했다. 또한 미국 정부가 지원을 제공하지 않는다면 주요 연구소들이 직접 그러한 조직을 설립해야 할 것이라고 주장한 것으로 전해진다.
이 입장은 현재의 공백을 포착한다. 기업들은 자발적으로 모델 접근권을 제공하고, 평가자에게 자금을 지원하며, 공통 기준에 합의할 수 있다. 하지만 비회원의 참여를 강제하거나, 평가에 실패한 모델이 미국 시장에 진입하는 것을 법적으로 막을 수는 없다.
정부의 관여는 여러 형태를 취할 수 있다. 연방 기관은 해당 기구를 참관하거나, 거버넌스 규칙을 승인하거나, 그 평가를 인정할 수 있다. 조달 정책은 민감한 공공 시스템에 사용되는 모델에 인증을 요구할 수 있다.
의회는 기술적 이행을 위임하면서도 법정 테스트 요건을 만들 수 있다. 이러한 구조는 민간 조직이 공적 감독 아래 전문성을 개발하는 다른 규제 산업과 유사하다. 다만 프런티어 AI는 대부분의 인증 제품보다 더 빠르게 변화하기 때문에 정확한 비유는 여전히 논쟁의 대상이다.
OpenAI는 수년간 정부 참여를 지지해 왔다. 2023년 Altman은 상원에서 가장 성능이 뛰어난 모델은 출시 전에 내부 및 외부 테스트를 거쳐야 한다고 증언했다. 그의 상원 증언은 적응 가능한 안전 표준, 공개 관행, 외부 검증도 제안했다.
Hassabis는 연방 정부가 감독하는 민관 협력 모델을 지지한다. Amodei는 안전하지 않은 프런티어 시스템의 출시를 차단할 수 있는 국가 규칙을 요구해 왔다. 따라서 세 리더는 최종 권한보다 테스트에 더 쉽게 합의한다.
이들의 입장은 서로 다른 제도적 비전도 반영한다. FINRA식 조직은 업계 자금과 정부 감독으로 시작한다. 항공 규제기관식 모델은 더 직접적인 권한을 국가 내부에 둔다. 국제 모델은 국가 간 조정과 시장 접근에 초점을 맞춘다.
보도된 Anthropic OpenAI AI 표준 논의는 이러한 접근법을 조율해야 한다. 좁은 범위의 테스트 컨소시엄은 빠르게 출범할 수 있지만 집행력이 부족할 수 있다. 규제기관과 유사한 제도는 더 큰 영향력을 갖겠지만, 입법, 적법 절차, 정치적 합의가 필요하다.
국제적 적용 범위는 또 다른 장애물이다. 미국 기업에 한정된 체계는 해외 연구소들이 비슷한 역량을 계속 개발하는 동안 미국 내 출시만 늦출 수 있다. Amodei는 민주주의 국가 간 공조가 권위주의 경쟁국에 대한 우위에 부분적으로 의존한다고 인정해 왔다.
이 논리는 무대응의 구실이 될 수 있다. 모든 연구소는 다른 기업이나 국가가 계속할 수 있으므로 속도를 늦출 수 없다고 주장할 수 있다. 공동 테스트가 가치 있는 이유는 직접 경쟁사들도 유사한 제약을 받아들이고 있는지에 대한 불확실성을 줄이기 때문이다.
그렇더라도 국가안보 정책을 민간 클럽에 위임할 수는 없다. 칩 접근, 수출 통제, 기밀 위협 정보, 국제 협정을 수반하는 결정에는 정부가 필요하다. 업계 조직은 증거를 제공할 수 있지만, 법적 결과는 선출된 제도가 정의해야 한다.
가장 실행 가능한 단기 구조는 기능을 분리하는 방식일 것이다. 독립적인 기술팀은 평가를 만들고 운영할 수 있다. 혼합형 운영 이사회는 표준과 이해충돌을 감독할 수 있다. 연방 기관은 기밀 결과를 받고 법적 개입이 필요한지 결정할 수 있다.
이러한 구성은 모든 문제를 해결하지는 못한다. 그러나 기술적 관찰에서 책임 있는 결정으로 이어지는 더 명확한 연결고리를 만들 수 있다. 또한 창립 연구소들이 안전성과 시장 접근 모두의 유일한 심판자가 되는 것을 막을 수 있다.
표준 기구가 실재하는지 보여 줄 세 가지 신호
다음 단계는 지지 의사를 밝힌 소셜 게시물이 아니라 거버넌스 문서, 평가자 접근권, 정부 인정으로 판단해야 한다.
첫 번째 신호는 공개 헌장이다. 헌장에는 창립 회원, 이사회 구성, 의결 규칙, 자금 조달 방식, 이해충돌 방지 장치를 명시해야 한다. 또한 Meta, xAI, 스타트업, 오픈소스 개발자, 독립 연구자가 참여할 수 있는지도 설명해야 한다.
세 창립 연구소가 지배하는 헌장은 이 프로젝트의 신뢰성을 약화시킬 것이다. 투명한 임명 규칙을 갖춘 독립 이사 과반의 이사회는 이를 강화할 것이다. 이 기관은 표준 변경 절차와 영향을 받는 개발자의 이의 제기를 심리하는 절차를 공개해야 한다.
두 번째 신호는 공통 평가 시범 사업이다. Anthropic과 OpenAI는 외부 검토자를 내부에 상주시킨다는 약속을 공개적으로 했으며, Google DeepMind는 체계적인 출시 전 평가를 지지해 왔다. 공동 시범 사업은 그러한 약속이 비교 가능한 접근권으로 이어지는지 보여 줄 것이다.
시범 사업은 평가자가 무엇을 검토할 수 있는지 정의해야 한다. 의미 있는 프런티어 AI 감사에는 표준 인터페이스를 통한 모델 접근 이상이 필요하다. 검토자는 안전장치, 도구 권한, 모니터링 시스템, 테스트 환경, 중대한 사건에 관한 정보가 필요할 수 있다.
신뢰할 수 있는 시범 사업은 한계도 보고할 것이다. 평가자는 무엇을 검토하지 못했는지, 연구소가 어떻게 테스트 조건을 선택했는지, 결과가 출시 결정에 영향을 미쳤는지를 밝혀야 한다. 이러한 맥락이 없는 그럴듯한 안전성 점수는 거의 아무것도 보여 주지 못한다.
세 번째 신호는 공식적인 정부 관여다. 상무부, NIST 또는 다른 적격 기관의 인정이 자동으로 독립성을 보장하지는 않는다. 하지만 공직자들이 이 조직을 업계 로비 수단이 아니라 유용한 인프라로 보는지 보여 줄 것이다.
정부 참여는 역할의 분리를 지켜야 한다. 기술 전문가는 평가를 신속하게 업데이트할 수 있고, 공공 기관은 법적 권한과 민주적 책임성을 제공한다. 어느 집단도 조용히 다른 집단을 대체해서는 안 된다.
독자들은 첫 번째 테스트 실패 이후 어떤 일이 벌어지는지도 지켜봐야 한다. 표준 체계는 규정을 지키지 않았을 때 비용을 발생시킬 때 그 가치를 입증한다. 이러한 비용에는 더 강력한 안전장치, 배포 제한, 재시험, 출시 지연 또는 규제 당국 회부가 포함될 수 있다.
주요 모델이 모두 통과한다면, 테스트가 지나치게 약하거나 예측 가능할 수 있다. 결과가 영구히 기밀로 남는다면, 외부인은 이 절차가 실제로 의미가 있는지 평가할 수 없다. 소규모 개발사만 지연을 겪는다면, 포획에 대한 우려는 더욱 커질 것이다.
기업 구매자와 개발자는 최종 기관이 만들어질 때까지 기다릴 필요가 없다. 지금도 모델 제공업체에 어떤 프레임워크가 배포를 규율하는지, 누가 외부 테스트를 수행하는지, 그리고 기준선을 넘었을 때 어떤 조치가 취해지는지 물을 수 있다. 또한 모델 평가와 자체 애플리케이션에 필요한 통제를 구분할 수 있다.
따라서 Anthropic OpenAI AI 표준 이니셔티브는 제도적 시험대로 이해하는 것이 가장 적절하다. 경쟁 연구소들은 공동의 문제를 확인했고, 공동 인프라 구축을 논의하기 시작한 것으로 알려졌다. 그러나 신뢰할 수 있는 감독을 가능하게 할 만큼 충분한 통제권을 내려놓을지는 아직 보여주지 못했다.
향후 3개월 동안 정관, 기업 간 감사 파일럿, 그리고 실명으로 공개된 연방정부 참여 여부를 주목해야 한다. 이러한 신호는 운영 가능한 표준 프로젝트와 일시적인 공개 성명 공조를 구분해 줄 것이다.
결정적인 질문은 단순하다. 연구소들이 그중 한 곳에 “안 된다”고 말할 수 있는 기관을 만들 것인가? 정관, 독립 이사회, 집행 가능한 검토 절차가 갖춰질 때까지 이 논의는 유망하지만 미완성인 것으로 봐야 한다. 다음 모델 출시를 뒷받침하는 근거를 확인하고, 누가 테스트를 수행했는지 물으며, 어떤 결과가 사용자에게 제공된 내용에 변화를 가져왔는지 점검하라.
