Microsoft, 오픈 웨이트 AI 지지하며 워싱턴의 광범위한 규제 추진에 맞서다

Microsoft Source는 사용자가 다운로드하고 수정할 수 있는 모델에 대한 워싱턴의 규제 압력이 커지는 가운데, 25개 기업이 내놓은 오픈 웨이트 AI 옹호 입장을 지지했다. 7월 24일자 서한은 광범위한 규제가 보안 위험을 제거하는 데는 거의 도움이 되지 않는 반면 미국의 경쟁력을 약화시킬 것이라고 주장한다.

이번 발표는 오픈 개발에 대한 또 하나의 지지 선언을 넘어선다. Microsoft, Nvidia, Meta, IBM, Palantir, Hugging Face 등 서명 기업들은 정책 입안자들이 모델 접근성과 오용 행위를 분리해 다뤄야 한다고 요구한다. 이들의 입장은 다운로드 가능한 웨이트를 본질적으로 위험한 기능으로 간주하는 제안에 도전한다.

이 주장은 일부 보안 전문가와 주요 폐쇄형 모델 기업이 선호하는 정책 방향과 연합을 대립시킨다. OpenAI와 Anthropic은 고도화된 역량, 해외 경쟁사, 그리고 모델이 공개된 뒤에는 통제가 제한적이라는 점을 경고해 왔다. 이후 OpenAI도 이 서한에 참여하면서 이 구도가 얼마나 복잡해졌는지를 보여줬다.

핵심 선택지는 단순히 오픈 AI와 폐쇄형 AI의 대립이 아니다. 워싱턴이 구체적인 역량과 유해 행위를 규제할지, 아니면 명확한 위험 기준이 마련되기 전에 하나의 배포 모델 전체를 제한할지의 문제다.

Microsoft Source, 오픈 웨이트에 25개 기업의 서명을 모으다

이 연합은 다운로드 가능한 모델 웨이트를 자동 규제 대상으로 삼지 않고, 입증된 위험을 규제해 달라고 워싱턴에 요구하고 있다.

Microsoft는 Open Weights라는 제목으로 이 성명을 공개했다. Nvidia 최고경영자 Jensen Huang도 이를 공개적으로 공유하며, 이 이슈를 더 폭넓은 정책 및 산업 논쟁으로 끌어올렸다.

서한은 오픈 웨이트 모델을 학습된 파라미터를 다운로드, 검토, 수정하고 독립적인 인프라에서 실행할 수 있는 모델로 정의한다. 웨이트라고 불리는 이 파라미터는 학습 과정에서 습득한 패턴을 인코딩하며 모델의 응답 방식을 형성한다.

오픈 웨이트가 반드시 오픈 소스를 뜻하는 것은 아니다. 개발자는 학습 데이터, 소스 코드, 안전성 방법론 또는 전체 개발 레시피를 공개하지 않은 채 모델 웨이트만 배포할 수 있다. 라이선스는 상업적 이용이나 특정 배포를 제한할 수도 있다.

이 구분은 공개 논의에서 두 용어가 자주 혼용되기 때문에 중요하다. 오픈소스 소프트웨어는 일반적으로 검토와 수정을 허용하는 라이선스 아래 소스 코드를 제공한다. 오픈 웨이트 배포는 훨씬 적은 투명성만 제공할 수 있다.

그럼에도 이 연합은 웨이트 접근성을 의미 있는 개방성의 형태로 본다. 이를 통해 개발자는 모든 요청을 모델 제공업체의 호스팅 인터페이스로 전송하지 않고도 모델을 운영할 수 있다. 조직은 특화된 작업에 맞춰 모델을 조정하고 통제된 환경에 배포할 수도 있다.

Reuters 보도에 따르면, 서명 기업들은 경쟁을 억누르거나 개발을 해외로 이전시키는 성급한 규제를 피하라고 입법자들에게 촉구했다. 대신 지식재산권 침해에 대해 표적화된 법적·상업적 대응을 지지했다.

시점도 의도적이었다. DeepSeek와 Moonshot AI를 비롯한 중국 연구소들은 오픈 웨이트 배포를 통해 국제적 채택을 확대해 왔다. 동시에 미국 정부 관계자와 기업들은 칩 접근성, 모델 증류, 지식재산권, 국가 안보 노출에 관한 의문을 제기해 왔다.

증류는 한 시스템의 출력을 사용해 다른 모델을 학습하는 과정이다. 이는 정당한 연구와 제품 개발을 지원할 수 있지만, 계약 조건을 위반하거나 부적절한 추출을 수반할 수도 있다. 연합은 이런 쟁점이 모든 오픈 배포를 규정해서는 안 된다고 주장한다.

이는 Microsoft Source 발표에서 첫 번째로 중요한 변화다. 이 서한은 논의를 일반적 우려에서 규제 분류로 옮긴다. 정책 입안자들에게 모델이 어떻게 개발됐는지, 무엇을 할 수 있는지, 어떻게 배포되는지를 구분해 달라고 요청한다.

서명 기업들은 서로 다른 사업 이해관계도 아우른다. Meta는 오픈 웨이트 모델을 개발하고, Hugging Face는 모델과 개발 도구를 배포한다. Nvidia는 오픈 및 폐쇄형 시스템 모두를 학습하고 실행하는 데 쓰이는 컴퓨팅 시스템을 판매한다.

Microsoft는 여러 위치를 동시에 차지한다. OpenAI와 주요 상업 관계를 유지하고, 독점 모델을 제공하며, 소형 모델을 개발하고, 클라우드 인프라를 운영하며, 카탈로그를 통해 제3자 모델을 배포한다.

이러한 복합적 위치는 서한에 추가적인 무게를 더한다. Microsoft는 독점 시스템을 거부하는 것이 아니다. 소수의 통제된 인터페이스에 의존하기보다 여러 배포 모델이 있어야 미국이 AI 리더십을 유지할 수 있다고 주장한다.

따라서 이번 발표는 모든 고도화된 모델을 공개하겠다는 약속이 아니라 정책 원칙을 제시한다. 연합은 더 좁은 범위의 제한을 뒷받침하는 증거가 없는 한, 오픈 웨이트 접근성은 합법적 선택지로 남아야 한다고 말한다.

이 원칙은 이제 실제 시험대에 올랐다. 워싱턴은 기존 법률로 모델 탈취와 오용을 다룰 수 있는지, 아니면 모델 웨이트에 별도의 통제 체계가 필요한지를 결정해야 한다.

행동 압박을 받는 워싱턴

정책 입안자들은 두 방향의 압박에 직면해 있다. 중국 오픈 모델은 확산되고 있으며, 고도화된 AI 시스템은 감독하기 점점 어려워지고 있다.

중국 개발자들은 오픈 웨이트 배포를 글로벌 전략의 핵심으로 삼아 왔다. 다운로드 가능한 모델은 특정 미국 서비스에 접근할 수 없거나, 로컬 배포를 선호하거나, 맞춤화에 대한 더 큰 통제권을 원하는 개발자에게 도달할 수 있다.

이 배포 방식은 모든 사용자가 중국 클라우드 서비스에 연결할 필요 없이 전략적 영향력을 확보하게 한다. 웨이트가 널리 미러링되고 다운로드된 뒤에는, 이후 제재로 모든 사본을 안정적으로 제거할 수 없다.

미국 정부 관계자들은 중국 개발자들이 학습 과정에서 독점 미국 모델의 출력을 사용했다는 주장도 검토하고 있다. 이러한 주장은 데이터 획득과 계약상 행위에 관한 것이지만, 오픈 웨이트 배포가 해당 행위를 야기했다는 점을 자동으로 입증하지는 않는다.

이 차이는 연합의 주장에 핵심적이다. 어떤 모델은 부적절하게 개발된 뒤 공개 배포될 수 있다. 다른 모델은 정당하게 학습된 뒤 동일한 배포 형식으로 공개될 수 있다.

둘을 동일하게 취급하면 근본 행위가 아니라 배포 메커니즘을 겨냥하게 된다. 다만 웨이트가 유통된 뒤에는 집행이 어려워지므로, 정책 입안자들이 배포 전 통제에 계속 관심을 두는 이유도 여기에 있다.

국가 안보 우려는 지식재산권을 넘어선다. 성능이 뛰어난 다운로드형 모델은 사용 제한을 제거하도록 수정될 수 있다. 또한 클라우드나 모델 제공업체가 유지하는 모니터링 시스템 밖에서 비공개로 운영될 수 있다.

이러한 특성은 사이버 작전, 생물학 연구, 감시, 영향력 캠페인, 군사적 활용에 중요하다. 동시에 정당한 보안 연구와 민감한 기업 업무에도 중요하다.

폐쇄형 모델은 제공업체에 접근 통제권을 더 많이 준다. 운영자는 계정을 차단하고, 비정상 활동을 모니터링하고, 안전장치를 업데이트하며, 도구 사용을 제한할 수 있다. 이런 통제는 완벽하지 않지만, 제한 없는 다운로드 이후 사라지는 개입 지점을 제공한다.

오픈 웨이트 시스템은 다른 보안 구조를 만든다. 원 개발자는 배포물을 테스트하고 안전장치를 공개할 수 있지만, 하위 운영자가 배포를 통제한다. 외부 연구자는 모델을 감사할 수 있는 반면, 악의적 사용자는 이를 비공개로 변경할 수 있다.

연방 정부는 이전에도 이 상충 관계를 연구했다. 2024년 NTIA 평가는 널리 이용 가능한 모델 웨이트에서 상당한 이점과 그럴듯한 위험이 모두 존재한다고 판단했다.

이 기관은 당시 확보된 증거가 즉각적이고 광범위한 규제를 정당화하지는 않는다고 결론 내렸다. 동시에 규제가 결코 적절해질 수 없다는 주장도 배제했다.

대신 NTIA는 지속적인 증거 수집, 기술 평가, 정의된 위험 지표, 그리고 기준점을 넘을 때 행동할 수 있는 역량을 권고했다. 이 접근 방식은 현재 Microsoft와 파트너들이 지지하는 표적형 프레임워크와 밀접하게 닮아 있다.

그러나 근본적인 역량은 계속 발전해 왔다. 모델은 더 긴 작업을 수행하고, 소프트웨어 도구를 사용하며, 코드를 작성하고, 여러 단계의 행동을 조율할 수 있다. 과거 시스템에 근거한 정책 결론은 지속적인 검토가 필요하다.

최근 보안 사고는 긴급성을 높였다. Reuters에 따르면, 입법자들은 AI 에이전트와 Hugging Face를 겨냥한 사이버 공격 관련 보도 이후 더 강력한 개입 권한을 검토하고 있었다. 세부 사항과 책임은 신중한 조사가 필요하지만, 이 사건은 자율 시스템에 대한 우려를 선명하게 만들었다.

이 사건은 단순한 오픈 대 폐쇄형 서사를 더욱 복잡하게 만든다. 보도된 에이전트는 폐쇄형 제공업체와 관련됐고, Hugging Face는 오픈 모델이 방어 대응에 도움이 됐다고 밝혔다. 어느 배포 방식도 그 자체로 안전을 보장하지는 않았다.

Microsoft는 별도로 최전선 AI에 배포 전 테스트, 위협 모델링, 통제된 초기 접근, 조율된 취약점 공개가 필요하다고 주장해 왔다. 보안 권고안은 모델이 추론 및 도구 사용 능력을 갖출수록 더 강력한 통제가 필요하다고 촉구한다.

회사의 입장이 반드시 모순되는 것은 아니다. Microsoft는 특정 역량이 요구할 때 통제된 배포를 지지하는 한편, 다운로드 가능한 모든 모델이 제한을 받아야 한다는 전제에는 반대한다.

그럼에도 이 구분에는 운영 규칙이 필요하다. 정책 입안자들은 어떤 역량이 테스트를 촉발하는지, 누가 이를 평가하는지, 그리고 요구 사항이 오픈 및 폐쇄형 시스템에 동등하게 적용되는지를 결정해야 한다.

따라서 압박은 규제 기관, 최전선 연구소, 클라우드 제공업체에 동시에 가해지고 있다. 규제 기관에는 집행 가능한 기준점이 필요하다. 개발자에게는 예측 가능한 배포 기준이 필요하다. 인프라 기업에는 자신들을 범용 감시 시스템으로 만들지 않는 규칙이 필요하다.

단기 논쟁은 중국 모델과 의심되는 증류에 관한 것이다. 장기적 쟁점은 미국이 하나의 사업 모델을 고정시키지 않으면서 역량 변화에 맞춰 움직이는 정책을 만들 수 있느냐다.

Microsoft Source, 표적형 규칙과 일괄 통제의 대립으로 논쟁을 규정하다

오픈 웨이트를 지지하는 가장 강력한 주장은 그것이 위험이 없다는 점이 아니라, 일괄적 제한이 폐쇄형 모델의 위험을 해결하지 못한 채 중요한 이점을 제거할 수 있다는 점이다.

오픈 웨이트 접근성은 파운데이션 모델을 학습할 수 없는 조직의 진입 장벽을 낮춘다. 대학, 스타트업, 공공기관, 소규모 기업은 기존 모델에서 출발해 특정 분야에 맞게 조정할 수 있다.

그렇다고 배포가 저렴하거나 간단해지는 것은 아니다. 성능이 뛰어난 모델에는 여전히 컴퓨팅 자원, 기술 인력, 보안 통제, 평가, 유지보수가 필요하다. 접근 장벽은 낮아지지만 운영 부담은 남는다.

로컬 배포는 프롬프트와 문서가 조직 환경 밖으로 나갈 필요가 없으므로 민감한 정보를 보호할 수 있다. 병원, 제조업체, 법무팀, 정부 기관은 클라우드 처리가 규정 준수 문제를 일으킬 때 이러한 통제권을 중요하게 여길 수 있다.

개발자는 모델의 동작을 더 직접적으로 검토할 수도 있다. 연구자는 웨이트를 테스트하고, 수정된 버전을 비교하며, 실패 패턴을 조사하고, 제공업체의 인터페이스에 의존하지 않고 결과를 재현할 수 있다.

폐쇄형 애플리케이션 프로그래밍 인터페이스는 각기 다른 장점을 제공한다. 제공업체는 인프라를 관리하고, 모델을 업데이트하며, 악용을 감시하고, 발견된 취약점에 신속히 대응할 수 있다. 고객은 복잡한 추론 시스템을 직접 유지할 필요가 없다.

어느 한 방식이 모든 사용 사례를 지배하는 것은 아니다. 기업은 폭넓은 추론에는 호스팅된 최첨단 모델을 사용하면서도, 규제 대상 문서에는 더 작은 오픈 모델을 운영할 수 있다. 연구 그룹은 가중치 접근 권한을 필요로 할 수 있고, 소기업은 관리형 서비스를 선호할 수 있다.

이러한 혼합 시장이 바로 Microsoft Source 서한이 보존하려는 대상이다. 이 연합은 모든 모델을 공개하라고 요구하지 않는다. 폐쇄형 시스템이 법적으로 유일하게 우대되는 선택지가 되어서는 안 된다고 주장한다.

경쟁도 그 주장의 일부다. 모델 접근이 소수의 제공업체를 통해 이뤄진다면, 해당 기업들은 가격, 허용되는 사용 방식, 제품 제공 여부, 업데이트 속도에 영향을 미칠 수 있다. 고객 역시 외부 서비스의 지속성에 의존하게 된다.

오픈 가중치는 일부 통제권을 하류로 옮긴다. 조직은 인프라 제공업체를 바꾸고, 추론을 최적화하며, 모델을 미세 조정하거나, 원 개발자가 방향을 바꾼 뒤에도 기존 버전을 계속 운영할 수 있다.

이러한 이식성은 공급업체 의존도를 낮출 수 있다. 그러나 다른 영역의 집중을 없애지는 않는다. Nvidia 하드웨어, 주요 클라우드 플랫폼, 전문 데이터센터, 희소한 엔지니어링 전문성은 여전히 중요한 병목이다.

연합의 경제적 동기도 면밀히 살펴볼 필요가 있다. 더 많은 조직이 컴퓨팅 집약적 모델을 운영할수록 Nvidia는 이익을 얻는다. Microsoft는 Azure에서 오픈 시스템을 호스팅하고, 개발 도구를 판매하며, 이를 기업용 제품에 통합할 수 있다.

Meta는 유료 모델 접근에 의존하는 경쟁업체가 오픈 출시로 약화될 때 이익을 본다. Hugging Face는 모델 유통 증가로 이익을 얻고, 벤처 기업은 포트폴리오 기업의 진입 장벽이 낮아질 때 혜택을 얻는다.

이러한 이해관계가 해당 주장을 무효화하는 것은 아니다. 다만 정책 입안자들이 이 서한을 중립적인 공익 성명으로 받아들이기보다, 그 근거를 평가해야 하는 이유를 보여준다.

폐쇄형 모델 개발자들 역시 상업적 이해관계를 갖고 있다. 안전 통제는 실제 위험에 대응할 수 있지만, 독점 인터페이스를 중심으로 설계된 규제는 기존 사업자의 지위를 강화할 수 있다. 규모가 작은 경쟁업체는 비용이 많이 드는 라이선스 및 평가 요건을 충족하기 어려울 수 있다.

Nvidia의 Huang은 안전을 위해 산업 집중이 필요하다는 주장에 직접 이의를 제기했다. 그는 Axios 인터뷰에서 일부 기업이 자사의 경쟁적 지위에 유리한 규칙을 추구할 수 있다고 경고했다.

그 비판이 OpenAI나 Anthropic의 모든 경고가 자기 이익에 따른 것임을 입증하는 것은 아니다. 최첨단 개발자들은 외부인이 보지 못할 수 있는 역량과 오용 패턴을 관찰한다. 그들의 우려는 증거에 기반한 검토를 받을 가치가 있다.

정책 과제는 양측의 편리한 서사를 모두 경계하는 체계를 설계하는 일이다. 오픈 모델 지지자들은 되돌릴 수 없는 출시 위험을 가볍게 여겨서는 안 된다. 폐쇄형 모델 제공업체 역시 가중치를 보유한다는 이유만으로 자동적인 규제 보호를 받아서는 안 된다.

역량 기반 프레임워크는 하나의 경로가 될 수 있다. 모델이 사이버 작전, 생물학적 지원, 자율적 행동 또는 그 밖에 정의된 피해와 관련된 검증된 임계값을 넘을 때 요건을 강화하는 방식이다.

배포 방식도 여전히 고려 요소가 될 수 있다. 가중치를 공개하면 안전장치를 제거할 수 있게 되므로 위험한 역량의 결과가 더 커질 수 있다. 이 요소는 대응에 영향을 미쳐야 하지만, 전체 판단 기준이 되어서는 안 된다.

단계적 접근은 또 다른 선택지다. 개발자는 더 넓은 배포를 검토하기 전에 검증된 연구자, 독립 평가자 또는 승인된 기관부터 접근을 제공할 수 있다. 이러한 배포에서 나온 증거는 이후의 결정에 반영될 수 있다.

라이선스, 보안 문서, 모델 카드, 평가 공개, 출처 기록 역시 책임성을 뒷받침할 수 있다. 출시 후 절대적인 통제를 제공하는 수단은 없지만, 각각 사용자와 규제기관이 활용할 수 있는 정보를 개선한다.

지식재산권 문제에는 별도의 집행 경로가 필요하다. 기업이 계약을 위반하거나, 영업비밀을 탈취하거나, 수출 통제를 회피한다면 당국은 해당 행위를 조사할 수 있다. 구제 수단은 위반 행위에 부합해야 한다.

연합이 제시하는 핵심적인 전환 논리는 분명하다. 미국의 리더십을 명분으로 오픈 가중치를 제한하면, 더 넓은 미국의 개발 기반을 약화시키는 대신 소수의 미국 기업을 강화할 수 있다.

해외 개발자들이 반드시 같은 규칙을 따르지는 않을 것이다. 유능한 모델이 해외에서 계속 제공된다면, 미국 연구자와 스타트업은 국제 경쟁업체보다 더 엄격한 제한에 직면할 수 있다.

광범위한 통제는 미국 외 지역의 개발을 부추길 수도 있다. 해외 출시를 막지 못하면서 미국의 인프라와 배포 플랫폼의 매력을 떨어뜨릴 수 있다.

하지만 이 주장에도 한계는 있다. 해외 모델이 존재한다고 해서 미국이 모든 국내 역량을 공개해야 하는 것은 아니다. 일부 출시는 다른 방식으로는 उपलब्ध하지 않은 의미 있는 개선을 적대 세력에 제공할 수 있다.

따라서 표적화된 정책에는 양측의 구호가 시사하는 것보다 더 어려운 판단이 필요하다. 규제기관은 특정 가중치 공개의 추가 위험을 접근이 주는 경제적·과학적·안보상 이익과 비교해야 한다.

이 과정은 모든 오픈 모델이 안전하거나 위험하다고 선언하는 것보다 느리다. 또한 역량, 아키텍처, 라이선스, 배포 맥락이 크게 다른 시장과도 더 잘 맞는다.

연합의 안전성 주장이 결론내리지 못하는 것

공개 검토는 결함을 드러낼 수 있지만, 위험한 모델을 회수하거나 하류 운영자에게 수정 사항 적용을 강제할 수는 없다.

연합은 연구자들이 오픈 모델을 검사하고, 취약점을 식별하며, 안전장치를 개발할 수 있다고 주장한다. 이는 특히 독점 시스템에 대한 특권적 접근 권한이 없는 독립 연구자들에게 실질적인 장점이다.

공개 검토는 모델을 시험하는 사람의 수를 늘릴 수 있다. 또한 개발자가 놓쳤거나, 축소했거나, 공개할 유인이 없었던 약점을 드러낼 수 있다.

그러나 검토가 해결을 보장하지는 않는다. 가중치가 수많은 저장소와 비공개 시스템으로 퍼진 뒤에 연구자들이 취약점을 발견할 수 있다. 사용자는 업데이트된 안전장치를 무시하거나 이전 버전을 계속 운영할 수 있다.

폐쇄형 제공업체는 서비스 전반에 서버 측 변경을 적용할 수 있다. 계정을 정지하거나 도구 사용을 제한할 수도 있다. 사용자가 다른 곳으로 이동할 수 있으므로 이러한 개입도 불완전하지만, 제공업체는 여전히 영향력을 유지한다.

오픈 가중치 개발자는 출시 이후 그 영향력의 상당 부분을 잃는다. 모델은 복사, 수정, 새로운 이름으로 재배포될 수 있다. 원래 버전에 포함된 기술적 안전장치는 제거될 수 있다.

이 때문에 안전은 투명성에만 의존할 수 없다. 출시 전 평가, 안전한 개발, 사고 보고, 고위험 도구 주변의 인증, 인프라 수준의 방어도 필요하다.

연합은 모델이 즉시 공개하기에 지나치게 유능해지는 시점을 결정하는 완전한 임계값 체계를 공개적으로 구체화하지 않았다. 서한은 원칙을 제시하지만, 규제기관에는 여전히 측정 가능한 기준점이 필요하다.

사이버 역량은 어려운 영역 중 하나다. 모델은 방어자가 악성코드를 분석하고 취약한 코드를 수정하도록 도울 수 있다. 같은 능력은 정찰을 수행하거나 침해를 자동화하는 공격자를 지원할 수도 있다.

벤치마크 성능은 실제 악용을 완전히 예측하지 못한다. 도구 접근성, 계획의 신뢰성, 운영 지식, 공격자가 이미 보유한 기술 모두가 결과를 바꾼다.

생물학적 위험도 비슷한 불확실성을 안고 있다. 시스템은 초보자가 위험한 실험실 작업을 수행할 수 있게 하지 않으면서도 유용한 연구 지원을 제공할 수 있다. 외부 자원과 결합될 경우 작은 역량 향상도 중요해질 수 있다.

독립 평가는 도움이 되지만, 평가자에게는 접근 권한, 기술적 역량, 현실적인 위협 모델이 필요하다. 모델이 새로운 형태의 계획과 상호작용을 학습함에 따라 시험 기준도 발전해야 한다.

또 다른 미해결 문제는 책임성이다. 오픈 모델이 피해를 초래할 때 책임은 원 개발자, 수정자, 호스팅 제공업체, 애플리케이션 기업, 최종 사용자에게 나뉠 수 있다.

첫 개발자에게 모든 하류 행위의 책임을 지우면 오픈 출시를 위축시킬 것이다. 모든 책임을 없애면 부주의한 공개를 부추길 수 있다. 정책에는 통제력, 인지 여부, 예측 가능한 위험에 연계된 의무가 필요하다.

같은 원칙은 폐쇄형 시스템에도 적용되어야 한다. 고객이 관리형 인터페이스를 통해 접근한다는 이유만으로 제공업체가 검토를 피해서는 안 된다. 폐쇄형 운영자는 더 많은 개입 지점을 통제하므로, 그 통제에 상응하는 책임을 져야 한다.

2024년 NTIA 프레임워크는 추가 위험에 초점을 맞추기 때문에 유용한 출발점이 된다. 규제기관은 유사한 역량의 폐쇄형 모델과 비교했을 때 가중치 제공이 어떤 추가 위험을 만드는지 물어야 한다.

이 비교는 익숙한 AI 위험이 자동으로 개방성 탓으로 귀속되는 것을 막는다. 허위정보, 편향된 출력, 안전하지 않은 코드, 프라이버시 침해는 어느 배포 모델에서든 발생할 수 있다.

동시에 반대 방향의 오류도 막는다. 가중치에 직접 접근하면 안전장치를 제거할 수 있고, 비공개 운영도 더 쉬워질 수 있다. 기반 역량이 높아질수록 이러한 차이는 더 중요해진다.

따라서 연합의 국가안보 주장은 지속적인 증거가 필요한 가설로 남아 있다. 오픈 모델은 국내 연구, 회복력, 기술적 독립성을 강화할 수 있다. 동시에 적대 행위자에게 유용한 역량을 확산시킬 수도 있다.

균형은 고정돼 있지 않을 것이다. 작은 코딩 모델에 적합한 출시 정책이 장기간 자율 작전을 수행할 수 있는 최첨단 시스템에는 맞지 않을 수 있다.

Microsoft의 자체 보안 지침도 그 점을 암묵적으로 인정한다. 이는 고급 역량에 대해 단계적 접근과 실제 환경 시험을 지지한다. 오픈 가중치 서한은 무조건적인 출시 정책이 아니라 그 입장과 함께 읽어야 한다.

워싱턴은 국적만을 기준으로 한 규칙도 피해야 한다. 모델의 출처는 공급망 신뢰와 법적 노출에 영향을 줄 수 있지만, 기술적 평가는 여전히 필요하다. 미국산이라는 표지가 안전을 보장하지 않으며, 외국산이라는 출처가 악의적 설계를 입증하지도 않는다.

민감한 정부 시스템의 조달 규칙은 일반 시장 규칙보다 더 엄격할 수 있다. 정부 기관은 더 폭넓은 민간 연구를 금지하지 않고도 문서화된 학습 관행, 안전한 호스팅, 평가 결과, 지속적인 지원을 요구할 수 있다.

수출 통제 역시 특정 역량, 목적지, 조직, 컴퓨팅 시스템을 표적으로 삼을 수 있다. 모든 오픈 모델을 금지 기술로 전환할 필요는 없다.

가장 어려운 불확실성은 미래의 규모와 관련된다. 고성능 모델이 공개된 뒤에는 이후 증거가 효과적인 회수에는 너무 늦게 도착할 수 있다. 이는 특정 출시 전에 신중해야 할 정당한 근거가 된다.

그렇더라도 되돌릴 수 없는 접근성만으로 임계값을 정의할 수는 없다. 책, 소프트웨어, 암호화 도구, 보안 연구도 영구적으로 확산될 수 있다. 민주적 정책은 일반적으로 접근성과 특정하고 실질적인 위험을 연결하는 증거를 요구한다.

연합은 폐쇄형이 곧 안전하다는 가정에는 성공적으로 도전했다. 그러나 개방성이 언제나 더 나은 안전 결과를 낳는다는 점까지 입증한 것은 아니다.

가장 강력한 주장은 더 좁다. 두 시스템 모두 실패할 수 있으므로, 규칙은 한 아키텍처에 자동적인 추정을 부여하는 대신 역량, 통제, 피해를 측정해야 한다.

표적화된 규칙이 작동할지 보여줄 세 가지 신호

다음 단계는 구체적인 정책 문구, 독립적인 모델 시험, 주요 개발업체의 행동에 의해 결정될 것이다.

첫 번째 신호는 행정부나 의회가 배포 제한을 부과하기 전에 역량 기준선을 정의하는지 여부다. 신뢰할 수 있는 프레임워크라면 방지하려는 위험한 결과와 개입에 필요한 증거를 명시해야 한다.

개방형, 프런티어, 외국산 같은 명칭에만 기반한 규칙은 불확실성을 초래할 것이다. 이런 범주는 정치적 우려를 담아내지만, 어떤 기술적 결과가 개발자의 법적 의무를 바꾸는지는 알려주지 않는다.

더 강력한 접근법은 역량 평가와 출시 조건을 결합하는 방식일 것이다. 위험이 낮은 모델은 폭넓게 배포할 수 있지만, 더 강력한 시스템에는 단계적 접근 또는 추가 검토를 요구할 수 있다.

정책 입안자들이 이러한 기준선을 채택한다면 연합의 표적화된 접근법은 신뢰를 얻게 될 것이다. 기술적 기준 없이 광범위한 제한을 부과한다면 시장은 폐쇄적 접근과 더 큰 기존 기업들 쪽으로 이동할 것이다.

두 번째 신호는 독립적인 평가가 실제 배포 속도를 따라갈 수 있는지 여부다. 연구자들은 현실적인 조건에서 사이버, 생물학, 자율성, 개인정보, 조작 위험을 시험해야 한다.

평가 결과는 점수뿐 아니라 한계도 설명해야 한다. 벤치마크에서 가끔 성공하는 모델도 실제 환경에서는 신뢰할 수 없을 수 있다. 반대로 평균 점수는 좁은 작업에서 나타나는 위험한 성능을 가릴 수 있다.

개발자들은 테스트된 모델과 출시 버전 사이에서 무엇이 바뀌었는지도 문서화해야 한다. 파인튜닝, 도구 통합, 양자화, 다운스트림 수정은 최초 평가 이후의 행동을 바꿀 수 있다.

공개 테스트가 악용 전에 중요한 결함을 찾아낸다는 증거는 Microsoft의 주장을 강화할 것이다. 제거 가능한 안전장치나 패치되지 않은 복제본과 관련된 사고가 반복된다면 더 엄격한 출시 통제를 뒷받침할 것이다.

세 번째 신호는 Microsoft, Meta, Nvidia, OpenAI 및 기타 서명 기업들이 자체 고급 모델을 어떻게 다루는지다. 경쟁 압박 아래에서는 정책 서한보다 출시 결정이 더 중요하다.

서한이 공개된 뒤 OpenAI가 참여하기로 한 결정은 업계의 경계가 이미 움직이고 있음을 보여준다. 기업은 가장 강력한 시스템은 통제된 상태로 유지하면서도 오픈 웨이트 개발을 지지할 수 있다.

그 중간 입장이 실질적인 표준이 될 수 있다. 개발자들은 더 작거나 오래된 모델은 폭넓게 공개하고, 고급 시스템에는 단계적 접근을 제공하며, 정의된 위험 수준을 넘는 모델은 폐쇄적으로 운영할 수 있다.

이러한 시장은 모든 모델이 동일한 대우를 받아야 한다는 전제 없이 실험을 보존할 것이다. 또한 공개 출시가 단기적인 홍보가 아닌 지속 가능한 개발자 커뮤니티를 만들어내는지도 시험하게 될 것이다.

엔터프라이즈 도입은 또 다른 유용한 척도를 제공할 것이다. 조직은 로컬 통제가 보안, 모니터링, 업데이트 및 특수 인프라 비용을 상쇄하는지 판단해야 한다.

개발자와 지식 근로자는 기술 점수만큼이나 라이선스 조건을 면밀히 살펴야 한다. 제한적인 조건이 붙은 다운로드 가능 모델은 오픈 웨이트라는 명칭이 시사하는 것보다 독립성을 덜 제공할 수 있다.

또한 문서화, 평가 범위, 데이터 처리 요건, 업데이트 관행도 검토해야 한다. 모델 접근성은 신뢰할 수 있는 AI 시스템을 구성하는 한 층위일 뿐이다.

구매자에게 당장의 교훈은 워크로드별 요구사항이 다를 때 단일 공급자 아키텍처를 피하는 것이다. 호스팅 모델은 빠르게 변하는 일반 작업에 적합할 수 있고, 통제된 배포는 민감하거나 특수한 업무에 활용될 수 있다.

연구자에게는 웨이트에 대한 지속적인 접근이 재현성과 독립적 검증에 영향을 미친다. 예외적으로 고위험인 역량을 중심으로 설계된 제한은 가능한 한 저위험 연구를 보존해야 한다.

정책 입안자에게 Microsoft Source 캠페인은 분명한 입증 책임을 만든다. 이제 모든 광범위한 제한은 표적화된 지식재산권, 수출, 조달 및 역량 통제가 왜 충분하지 않은지 설명해야 한다.

연합에도 자체적인 책임이 있다. 구성원들은 개방성을 책임 면제 수단으로 취급하는 대신, 신뢰할 수 있는 테스트, 공개 및 사고 대응을 지원해야 한다.

향후 몇 달은 이러한 입장들이 집행 가능한 기준선을 중심으로 수렴하는지 보여줄 것이다. 또한 국가안보 우려가 정밀한 안전장치의 근거가 될지, 아니면 시장 집중으로 향하는 경로가 될지도 드러낼 것이다.

오픈 웨이트 모델은 완전한 안전 전략도 아니며, 하나의 명칭만으로 규제할 수 있는 문제도 아니다. 이는 역량, 맥락, 다운스트림 통제에 따라 이점과 위험이 달라지는 배포 선택이다.

Microsoft와 파트너들은 그 선택지를 유지해야 한다는 근거를 제시했다. 다음 단계는 더 어렵다. 심각한 피해가 발생하기 전에 표적화된 규칙이 대응할 수 있음을 입증해야 한다.

독자들은 이제 모델이 등장할 때마다 세 가지 질문을 던져야 한다. 어떤 역량이 독립적으로 테스트되었는가, 어떤 접근이 여전히 통제될 수 있는가, 그리고 배포 이후 누가 책임을 지는가?

그 답은 출시가 개방형 또는 폐쇄형으로 마케팅되는지보다 더 중요할 것이다. 이는 Microsoft Source의 입장이 실행 가능한 정책이 될지, 아니면 더 긴 규제 싸움의 첫 논거에 그칠지를 결정할 것이다.