백악관, 오픈 모델로 AI 안전성 검토 확대할 수도

백악관은 새 AI 검토 체계에서 오픈 웨이트 모델을 제외한 지 불과 며칠 만에 Google News 보도를 통해 주목할 만한 입장 전환을 시사했다. 다운로드 가능한 이들 모델도 주요 미국 연구소의 최첨단 시스템과 동등한 사이버 역량을 갖추게 되면 연방 안전성 검토 대상에 포함될 수 있다.

보도된 입장은 8월 초 확정된 체계의 의미를 바꾼다. 현재 경계는 폐쇄형 최첨단 모델과 다운로드 가능한 모델을 구분하며, 두 유형이 궁극적으로 유사한 작업을 수행할 수 있는 경우에도 마찬가지다. 이 구분은 이제 원칙적이라기보다 일시적인 것으로 보인다.

당면한 충돌은 역량 기반 감독과 출시 방식 기반 감독 사이에 있다. 역량 검사는 모델이 무엇을 할 수 있는지 묻는다. 출시 방식 검사는 개발자가 접근, 업데이트, 안전장치에 대한 통제권을 유지하는지 묻는다. 오픈 모델은 공개 후 가중치가 복제되고 수정될 수 있기 때문에 이러한 질문을 더 어렵게 만든다.

OpenAI, Anthropic, Google 같은 폐쇄형 모델 개발사들은 특정 출시 전에 자발적인 연방 접근 절차를 거칠 가능성에 이미 직면해 있다. 업계 관계자들에게 설명된 체계 아래에서 오픈 모델 개발사들은 이 절차를 피했다. 그러나 백악관은 오픈 시스템이 동일한 사이버 기준선에 도달할 경우 이 예외를 유지할 의향이 없는 것으로 보인다.

이 가능성은 워싱턴을 넘어 중요하다. 개발사, 클라우드 제공업체, 정부 구매자, 보안팀은 다운로드 가능한 모델이 계속 예측 가능한 자산으로 남을지 판단해야 한다. 향후 검토 요건은 출시 일정, 조달 규칙, 모델 문서화, 고위험 역량 접근에 영향을 줄 수 있다.

Google News가 드러낸 일시적인 오픈 모델 예외

현재의 예외는 오픈 모델이 안전하다는 영구적 선언이 아니라 역량 격차를 반영한다.

도널드 트럼프 대통령은 2026년 6월 2일 행정명령 14409호에 서명했다. 이 명령은 연방 기관에 60일 안에 고도화된 사이버 역량을 위한 기밀 벤치마킹 절차를 마련하도록 지시했다.

이 절차는 AI 시스템이 언제 “적용 대상 최첨단 모델”이 되는지를 판단한다. 이 용어는 사이버 역량이 기밀 국가안보 기준선을 넘는 모델을 의미한다.

행정명령은 개발사와 연방정부 간 자발적 체계도 요구한다. 참여 개발사는 개발 중인 시스템이 적용 대상에 해당하는지 문의할 수 있다.

해당한다면 개발사는 다른 신뢰할 수 있는 파트너에게 출시하기 전 최대 30일 동안 연방 평가자에게 접근 권한을 제공할 수 있다. 기관과 개발사는 이러한 초기 파트너를 선정하는 과정에서도 협력할 수 있다.

행정명령은 이 절차가 의무적 라이선스, 사전 승인 또는 허가 제도를 만들지 않는다고 명시한다. 이 표현은 당국자들이 이 체계가 요구한다고 주장할 수 있는 범위를 제한한다. 그렇다고 정부 협력이 만들어낼 수 있는 상업적 압박까지 없애는 것은 아니다.

백악관은 8월 마감 시한까지 체계를 완성했다고 밝혔다. 이후 당국자들은 주요 AI 기업 대표들과 이를 논의했다. 공개 보도에 따르면 현재 정의는 고도화된 사이버보안 또는 해킹 역량을 갖춘 폐쇄형의 독점적 미국 모델을 포괄한다.

오픈 웨이트 모델은 이 정의 밖에 있다. 오픈 웨이트 모델은 훈련 과정에서 학습한 수치 매개변수를 공개해 외부 당사자가 이를 다운로드, 수정, 독립적으로 운영할 수 있게 한다.

오픈 웨이트가 항상 완전한 오픈소스를 뜻하는 것은 아니다. 출시물은 모델 가중치를 제공하면서도 훈련 데이터, 소스 코드 또는 상세한 개발 기록은 공개하지 않을 수 있다. 정책 논의에서 두 용어가 자주 혼용되기 때문에 이 구분은 중요하다.

체계 자체는 여전히 공개되지 않았다. 행정명령이 예상한 대로 기밀 벤치마크 역시 비공개다. 따라서 개발사는 결정적인 검사를 독립적으로 살펴보거나 자신의 시스템을 전체 기준과 비교할 수 없다.

8월 4일 보도에 따르면 행정부는 업계 참가자들에게 오픈 모델은 새로운 자발적 검사를 받지 않을 것이라고 알렸다. 이 제외 조치는 독점 연구소와 다운로드 가능한 출시물 사이에 지속적인 구분을 설정하는 듯 보였다.

최신 보도는 중요한 단서를 추가한다. 행정부의 판단에 정통한 소식통에 따르면, 선도적인 Anthropic 및 OpenAI 시스템과 동등하거나 그 이상의 역량을 가진 모델에는 정부 협력이 필요하다. 이 소식통은 이 원칙이 모델의 개방형 또는 폐쇄형 여부와 무관하다고 설명한 것으로 전해진다.

이 발언이 체계를 공식적으로 수정하는 것은 아니다. 다만 역량이 수렴할 경우 당국자들이 그 목적을 어떻게 해석할 수 있는지는 드러낸다.

이 차이는 결정적이다. 당국자들이 다운로드 가능한 가중치는 연방 검토의 범주 밖이라고 본다면, 이 제외는 정책적 약속이 된다. 이들 모델이 아직 기준선 아래에 있다고 본다면, 예외는 단지 오늘의 기술 환경을 설명하는 셈이다.

공개된 증거는 후자의 해석을 뒷받침한다. 행정부는 고도화된 사이버 성능을 중심으로 감독 체계를 구축하면서 오픈 기술을 장려하고 있다. 이 두 목표는 오픈 출시물이 기밀 벤치마크 아래에 머무는 동안에만 양립한다.

따라서 Google News 헤드라인은 시행된 확대가 아니라 새롭게 떠오르는 가능성을 포착한다. 현재 공개 규칙상 오픈 모델은 30일 절차의 대상이 아니다. 언제 그것이 바뀔 수 있는지를 보여주는 공개 일정도 없다.

그럼에도 행정부는 경계를 다시 그을 여지를 남겨두었다. 행정명령은 고도화된 역량을 통해 위험을 정의하는 반면, 비공개 체계는 폐쇄형 모델 조건을 추가한 것으로 전해진다. 오픈 모델이 벤치마크를 넘는다면 이 두 접근법은 충돌하게 된다.

사이버 역량이 모델의 개방성을 대체하는 이유

다운로드 가능한 시스템이 통제된 서비스와 동일한 민감 작업을 수행할 수 있을 때, 모델의 출시 형식은 약한 안전 경계가 된다.

백악관 체계가 고도화된 사이버 역량에 초점을 맞추는 이유는 이들 시스템이 방어자와 공격자 모두에게 활용될 수 있기 때문이다. 모델은 소프트웨어 취약점을 찾아내고, 패치 우선순위를 정하는 데 도움을 주거나, 방어 분석을 자동화할 수 있다. 유사한 기능은 정찰이나 익스플로잇을 가속할 수도 있다.

행정명령 14409호는 이러한 이중 용도를 연방 정책의 중심에 둔다. 이 명령은 기관들에 정부 조직과 핵심 인프라 운영자가 적용 대상 모델에 접근할 수 있도록 지원하라고 지시한다.

예시에는 농촌 병원, 지역 은행, 지방 공공서비스 사업자가 포함된다. 이들 조직은 대형 기술 기업이 보유한 보안 인력을 갖추지 못한 경우가 많다. 고도화된 AI는 이들이 코드나 취약점 정보를 더 신속하게 검토하도록 도울 수 있다.

이 명령은 AI 지원 취약점 업무를 위한 연방 정보 허브도 만들었다. 이 계획은 참여 기관과 민간 조직 전반에서 스캔, 검증, 완화, 패치 배포를 조율한다.

백악관은 이후 운영상 대응으로 Gold Eagle 이니셔티브를 출범시켰다. 명시된 목표는 중복 스캔을 줄이고 방어자에게 우선순위가 정해진 취약점 정보를 제공하는 것이다.

이 방어적 의제는 정부가 단순히 유능한 모델을 제한하려는 것이 아닌 이유를 설명한다. 당국자들은 핵심 인프라를 강화할 수 있는 시스템에 조기 접근하기를 원한다.

정책적 긴장은 동일한 모델을 다운로드할 수 있게 될 때 시작된다. 폐쇄형 제공업체는 사용을 모니터링하고, 계정을 제한하며, 필터를 업데이트하고, 접근을 철회할 수 있다. 이러한 통제는 불완전하지만 제공업체는 여러 개입 지점을 유지한다.

오픈 가중치는 그중 많은 부분을 없앤다. 일단 다운로드되면 모델은 원래 개발사의 인터페이스나 콘텐츠 통제 없이 실행될 수 있다. 제3자는 이를 미세 조정하고, 행동을 바꾸거나, 수정된 사본을 재배포할 수 있다.

그렇다고 모든 오픈 출시물이 본질적으로 더 위험하다는 뜻은 아니다. 로컬 운영은 개인정보 보호, 복원력, 감사 가능성, 사용자 통제를 개선할 수 있다. 연구자는 전적으로 공급업체의 호스팅 서비스에 의존하지 않고 행동을 검토할 수 있다.

기업도 더 많은 배포 선택지를 얻는다. 자체 환경에서 모델을 운영하고, 데이터 이동을 제한하며, 특화 업무에 맞춰 맞춤화할 수 있다. 이러한 장점은 오픈 모델을 소규모 기업과 보안을 중시하는 구매자에게 가치 있게 만든다.

개방성은 독립 연구자들이 주장들을 검증하고 약점을 찾아내는 데도 도움이 될 수 있다. 폐쇄형 인터페이스는 외부인이 수행할 수 있는 실험을 제한한다. 다운로드 가능한 가중치는 더 깊은 연구를 가능하게 하지만, 접근만으로 의미 있는 투명성이 보장되는 것은 아니다.

문제는 비가역성이다. 호스팅 제공업체는 심각한 약점을 발견한 뒤 시스템을 변경할 수 있다. 개발사는 오픈 웨이트 출시물의 다운로드된 모든 사본을 회수할 수 없다.

이 차이는 출시 전 평가를 더 중대하게 만든다. 공개 후 검사에서 위험한 역량이 발견되면 규제 당국과 개발사가 선택할 수 있는 방안은 더 적다. 사용자에게 경고하고, 관련 서비스를 제한하거나, 배포를 억제할 수는 있지만 기존 사본은 계속 이용 가능하다.

모델이 수정까지 지원하면 위험 관리는 더 어려워진다. 개발사는 의도한 안전장치를 갖춘 원본 출시물을 검사할 수 있다. 그러나 외부 당사자는 이후 모델을 미세 조정하거나 행동 통제를 제거할 수 있다.

폐쇄형 시스템도 탈옥될 수 있고, 증류를 통해 복제되거나 자동화된 접근으로 악용될 수 있다. 그 통제를 안전의 증거로 여겨서는 안 된다. 핵심 질문은 각 출시 설계가 유능한 모델과 오용 사이에 얼마나 많은 마찰을 두는지다.

이 때문에 역량 기반 기준선은 직관적으로 매력적이다. 이는 기업이 선호하는 라이선스 또는 배포 전략과 관계없이 동등한 사이버 성능을 일관되게 다룰 수 있다.

그러나 구현은 어렵다. 연방 평가자들은 출시 전 검토를 수행하기 위해 오픈 출시 전에 접근 권한을 받아야 한다. 그러려면 개발사가 가중치를 공개하기 전에 협력해야 한다.

해외 개발사는 더 어려운 사례를 제시한다. 미국은 다른 관할권의 연구소가 기밀 출시 전 접근을 제공할 것이라고 가정할 수 없다. 다운로드 가능한 모델이 미국 기관이 자체 기준선을 넘었다는 사실을 알기도 전에 온라인에 등장할 수 있다.

정부는 여전히 연방 조달, 국내 유통 채널, 클라우드 접근 또는 상업적 통합을 규제할 수 있다. 각각의 경로는 서로 다른 법적·경제적 결과를 낳을 것이다.

이 불확실성은 체계의 비공개 설계를 중요하게 만든다. 자발적 협력을 중심으로 구축된 정책은 소수의 미국 최첨단 연구소와 가장 자연스럽게 작동한다. 분산된 오픈 모델 시장에는 잘 맞지 않는다.

폐쇄형 연구소와 오픈 개발사가 마주하는 불평등한 규칙

정책 논쟁의 핵심은 기반 출시 모델이 불평등한 준수 부담을 만들더라도 동등한 역량이 동등한 검토를 받아야 하는지 여부다.

OpenAI, Anthropic, Google은 통제된 서비스를 통해 선도적인 독점 시스템을 운영한다. 보도된 체계에 따르면 이들 연구소의 적용 대상 모델은 더 광범위한 출시 전에 연방 검사를 받을 수 있다.

이러한 구조는 폐쇄형 개발사에 비용을 부과한다. 이들은 출시 일정을 조정하고, 정부 접근을 안전하게 제공하며, 기밀 평가를 관리하고, 어떤 외부 파트너가 조기 사용 자격을 갖는지 협상해야 할 수 있다.

30일 기간은 의무적인 대기 기간이 아니라 상한선이다. 그럼에도 참여는 조율된 인프라, 기업 계약, 안전성 문서화, 국제적 출시 가능성에 의존하는 출시를 복잡하게 만들 수 있다.

오픈 모델 개발자들은 현재 그 절차를 피하고 있다. 해당 프레임워크의 공표된 정의가 바뀌지 않는 한, 이들은 같은 연방 절차를 거치지 않고 가중치를 공개할 수 있다.

폐쇄형 연구소들은 이러한 차이를 격차라고 합리적으로 설명할 수 있다. 동등한 해킹 능력을 가진 모델이 사용자가 다운로드할 수 있다는 이유만으로 무해해지는 것은 아니다.

OpenAI와 Anthropic 역시 갈수록 강력해지는 중국산 오픈 모델과 관련된 위험을 정책 입안자들에게 경고해 왔다. 이들의 우려는 보안 논거와 상업적 현실을 결합한다. 오픈 경쟁자에 대한 더 엄격한 조사는 기존 사업자를 보호할 수 있다.

그러한 이해충돌이 이들의 안전 주장을 무효로 만드는 것은 아니다. 다만 정책 입안자들이 기술적 증거와 경쟁적 유인을 분리해야 함을 의미한다.

오픈 모델 지지자들은 반대 주장을 편다. 다운로드 가능한 시스템은 경쟁, 연구 접근성, AI 인프라에 대한 국내 통제를 확대한다는 것이다. 광범위한 규제는 최대 규모의 호스팅 모델 기업들을 강화할 수 있다.

Nvidia CEO Jensen Huang은 성능이 뛰어난 중국산 오픈 모델에 대한 접근을 공개적으로 옹호해 왔다. 그의 입장은 외국산 다운로드 가능 시스템을 주로 위협으로 취급하려는 시도에 이의를 제기한다.

더 많은 기업이 자체 인프라에서 모델을 운영할수록 Nvidia도 이익을 얻는다. 오픈 생태계는 칩, 서버, 배포 소프트웨어 수요를 늘릴 수 있다. 따라서 모든 주요 참여자는 정책 논쟁에 상업적 이해관계를 가져온다.

Google은 더 복잡한 위치에 있다. 독점형 Gemini 서비스를 제공하는 동시에 다운로드 가능한 Gemma 모델도 공개한다. Google DeepMind CEO Demis Hassabis는 가장 진보한 시스템에 대한 더 체계적인 감독을 촉구해 왔다.

Hassabis는 심각한 사이버, 생물학 또는 핵 관련 역량이 정부 통제를 벗어난 오픈 모델에 도달할 수 있다고도 경고했다. 이 견해는 역량 임계값을 지지하면서도 되돌릴 수 없는 공개가 지닌 특별한 어려움을 인정한다.

Meta는 또 다른 중요한 시험대다. Meta는 다운로드 가능한 Llama 모델을 중심으로 AI 전략의 상당 부분을 구축했고, 추가 오픈 공개도 준비해 왔다. 역량 기반의 연방 검토는 Meta가 가중치를 공개하는 시점에 직접적인 영향을 미칠 수 있다.

Meta는 내부 평가를 수행하고 연방 기관과 협력할 수 있다. 규모가 작은 연구소들은 이에 상응하는 인력, 인프라 또는 정부와의 관계가 부족할 수 있다.

따라서 소수의 기존 대기업을 중심으로 설계된 규칙은 신규 개발자에게 불균형적인 부담을 부과할 수 있다. 클라우드 제공업체, 보험사 또는 기업 고객이 정부 관여의 증거를 요구할 경우, 자발적 절차조차 시장의 기대가 될 수 있다.

행정부는 해외 경쟁도 고려해야 한다. 미국 개발자들이 오픈 공개를 늦추는 동안 중국 연구소들이 유사한 모델을 공개한다면, 국내 규제가 전 세계 접근성을 줄이지 못할 수 있다.

오히려 그러한 규제는 영향력을 해외 모델 계열로 옮길 수 있다. 미국 개발자들은 워싱턴이 공개 절차를 검토할 수 없는 시스템 위에서 제품을 구축하게 될 수 있다.

반대 접근법에도 위험은 있다. 모든 오픈 모델을 면제하면, 통제된 공개가 더 강력한 보호장치를 제공할 수 있는 경우에도 개발자들이 검토를 피하기 위해 가중치를 공개하도록 부추길 수 있다.

합리적인 프레임워크는 공개 방식이 규제의 허점이 되는 것을 막아야 한다. 동시에 개방성 자체를 위험한 역량의 증거로 취급해서도 안 된다.

성능은 계속해서 발동 요건으로 남아야 한다. 배포 방식은 그 요건이 충족된 후 적용되는 보호장치를 결정해야 한다.

폐쇄형 시스템의 경우 보호장치에는 모니터링되는 접근, 단계적 배포, 신뢰할 수 있는 파트너 선정, 신속한 업데이트가 포함될 수 있다. 오픈 공개의 경우 초점은 공개 전 가중치 보안, 문서화된 평가, 통제된 사전 공개 기간, 명확한 위험 고지로 옮겨갈 수 있다.

이러한 조치는 동등하지 않다. 가중치가 공개된 뒤에는 정부의 통제력이 급격히 약화된다는 사실을 반영한다.

정책에는 절차적 공정성도 필요하다. 개발자는 어떤 역량 범주가 중요한지, 평가가 어떻게 이뤄지는지, 이의가 있는 결과를 어떻게 다룰 수 있는지 알아야 한다.

당국은 모든 기밀 벤치마크를 공개할 수는 없다. 그래도 거버넌스 규칙, 보고 기대치, 기밀 유지 보호, 광범위한 평가 영역은 공개할 수 있다.

이러한 투명성이 없으면 프레임워크는 선택적으로 보일 수 있다. 백악관에 접근할 수 있는 대형 연구소가 스타트업, 연구자, 독립 개발자보다 시스템을 더 잘 이해하게 될 수 있다.

이 사안은 특히 기업 구매자에게 중요하다. 조달팀은 검토를 피한 모델과 애초에 검토 임계값에 도달하지 않은 모델을 구분해야 한다. 두 결과는 매우 다른 의미를 지닌다.

로컬 AI 시스템을 평가하는 조직은 모델 카드, 보안 보고서, 배포 설정, 내부 테스트 결과를 보존해야 한다. 검색 가능한 기술 지식 베이스는 정책 변화에 따라 팀이 이러한 자료를 추적하는 데 도움이 될 수 있다.

구매자는 정부 참여를 완전한 안전 인증서로 간주해서는 안 된다. 이 프레임워크는 고도화된 사이버 역량과 국가안보 우려를 대상으로 한다. 개인정보 보호, 신뢰성, 편향 또는 애플리케이션 수준 테스트를 대체하지는 않는다.

비공개 벤치마크가 만드는 책임성 공백

이 프레임워크는 업계와 대중에게 어느 쪽도 독립적으로 검토할 수 없는 중요한 경계를 신뢰하라고 요구한다.

일정 수준의 비밀주의는 정당화된다. 상세한 사이버 벤치마크를 공개하면 정부가 무엇을 위험하다고 보는지 드러날 수 있다. 또한 개발자들이 근본 위험을 줄이지 않은 채 시험 기준에 맞춰 최적화하는 데 도움이 될 수도 있다.

국가안보 평가는 종종 기밀 방법과 민감한 위협 정보를 사용한다. 행정명령은 기밀 벤치마킹 절차를 명시적으로 요구한다.

시험 내용의 비밀주의가 모든 정책 결정의 비밀주의를 요구하는 것은 아니다. 정부는 누가 참여하는지, 어떤 보호가 적용되는지, 모델이 적용 대상에 들어가거나 제외되는 과정을 설명할 수 있다.

아직 그 정도의 세부사항은 제공하지 않았다. 보도에 따르면 행정부는 완성된 프레임워크를 일부 기업과 비공개로 논의했으며, 공개할 계획은 없다.

이 접근법은 몇 가지 기본적인 질문을 답하지 않은 채 남긴다. 프레임워크가 최첨단 사이버 역량을 어떻게 정의하는지, 임계값이 얼마나 자주 바뀌는지, 어느 기관이 의견 불일치를 해결하는지는 불분명하다.

대중은 오픈 모델을 제외한 이유에 대한 확정적인 설명도 갖고 있지 않다. 당국은 관련된 모든 오픈 시스템이 벤치마크보다 낮다는 증거를 공개하지 않았다.

최신 Google News 보도는 이러한 제외가 현재 역량에 달려 있음을 시사한다. 이 설명은 그럴듯하지만, 공식적인 공개 기준이 아니라 인용된 입장에 머물러 있다.

이 구분은 중요하다. 오픈 모델은 원래의 학습만으로 발전하지 않기 때문이다. 커뮤니티 파인튜닝, 도구 접근, 스캐폴딩, 에이전트 시스템은 공개 후 실질적 역량을 높일 수 있다.

기본 모델만을 겨냥한 벤치마크는 사용자가 실제로 배포하는 시스템을 놓칠 수 있다. 반대로 가능한 모든 변형을 평가하는 것은 불가능하다.

프레임워크는 분석 단위를 정의해야 한다. 원시 모델, 제공업체의 완성된 제품, 또는 도구와 확장된 연산이 설정된 시스템을 시험할 수 있다.

각 선택은 서로 다른 결과를 낳는다. 기본 모델은 코드 실행 및 취약점 데이터베이스와 연결되기 전까지 제한적으로 보일 수 있다. 호스팅 제품은 제공업체가 특정 요청을 차단하기 때문에 더 안전해 보일 수 있다.

이러한 통제는 빠르게 바뀔 수 있다. 모델 업데이트, 새 도구 또는 개선된 프롬프팅 방식은 기반 모델을 재학습하지 않고도 실질적 성능을 바꿀 수 있다.

따라서 정적인 라벨은 빠르게 낡을 위험이 있다. 연방 평가자는 반복적인 측정이나 명확한 재시험 발동 요건이 필요하다.

오픈 공개는 단일 운영자가 모든 배포를 통제하지 않기 때문에 이 문제를 악화시킨다. 한 조직은 엄격한 권한 아래 모델을 운영할 수 있다. 다른 조직은 최소한의 감독으로 민감한 시스템에 이를 연결할 수 있다.

애플리케이션 보안은 필수적이 된다. 조직은 에이전트 권한을 제한하고, 실행 환경을 격리하며, 모델의 행동을 기록하고, 영향이 큰 작업에는 사람의 승인을 요구해야 한다.

이러한 관행은 모델이 백악관 절차에 들어갔는지와 관계없이 위험을 줄인다. 또한 사전 공개 벤치마크가 예측할 수 없는 실패도 다룬다.

프레임워크의 자발적 성격은 또 다른 불확실성을 만든다. 이 명령은 의무적 라이선스 또는 사전 승인 요건을 허가하지 않는다고 명시한다.

따라서 최소한 명령에 명시된 조건상 개발자는 참여를 거부할 수 있다. 그러나 거부는 정부 계약, 신뢰받는 파트너십 또는 핵심 인프라 프로그램 접근에 영향을 줄 수 있다.

이는 법적 의무와 실질적 압박 사이에 회색지대를 만든다. 이 구분은 행정부가 얼마나 많은 권한을 행사하는지 결정하기 때문에 공개적 검토를 받을 가치가 있다.

프레임워크는 민간의 행동에도 영향을 줄 수 있다. 클라우드 플랫폼은 참여 개발자에게 연방 정부 관여를 문서화하도록 요구할 수 있다. 기업 고객은 조달 설문지에 검토 상태를 포함할 수 있다.

보험 제공업체는 참여를 거버넌스 성숙도의 증거로 취급할 수 있다. 이러한 반응 중 어느 것도 프레임워크를 법적으로 의무화하지는 않지만, 함께 작용하면 사실상의 표준을 만들 수 있다.

프레임워크가 확대되면 오픈 개발자들도 같은 압박에 직면할 수 있다. 대형 조직은 추가 작업을 감당할 수 있다. 소규모 팀은 공개를 늦추거나, 임계값 아래에 머물거나, 개발을 다른 곳으로 옮길 수 있다.

행정부는 자사의 시험이 무엇을 입증할 수 있는지 과장하지 말아야 한다. 사이버 평가는 선택된 조건에서 선택된 역량을 측정한다. 모델이 국가안보 위험을 전혀 제기하지 않는다는 것을 증명할 수는 없다.

또한 적용 대상 시스템이 배포 후에도 안전하다는 보장도 할 수 없다. 실제 사용자는 평가자가 보지 못한 데이터, 소프트웨어, 권한과 모델을 결합할 것이다.

공개되지 않은 프레임워크도 유용한 협력을 지원할 수 있다. 그 신뢰성은 가시적인 절차, 일관된 대우, 검토 결과가 배포 결정에 영향을 준다는 증거에 달려 있다.

이러한 요소가 없으면 비밀주의는 자의적인 경계를 감출 수 있다. 또한 연방 안전 정책이 특정 기업이나 공개 전략에 유리하다는 주장을 부추길 수 있다.

오픈 모델의 검토 편입 여부를 보여줄 세 가지 신호

다음 단계는 이행 기한, 측정 가능한 역량 수렴, 그리고 면제에 도전하는 첫 모델의 처리 방식에 달려 있다.

첫 번째 신호는 6월 국가안보 메모에서 나올 것이다. 이는 기관들이 배포된 시스템이 통제 가능하고 책임성을 유지하도록 보장하면서 상용 및 오픈소스 AI를 도입하도록 지시한다.

보안 메모는 여러 공급업체의 고도화된 모델에 대한 조달 절차를 업데이트할 수 있도록 기관에 120일을 부여한다. 그 기한은 10월 초에 도래한다.

이러한 조달 규칙은 정부 사용자가 다운로드 가능한 시스템을 어떻게 평가하는지 명확히 할 수 있다. 오픈 모델을 사전 공개 프레임워크에 공식적으로 추가하지 않고도 문서화, 시험, 보안 또는 배포 요건을 정할 수 있다.

기관들이 두 공개 유형 모두에 역량 기반 평가를 적용한다면 백악관의 보도된 입장은 신뢰성을 얻을 것이다. 조달 규칙이 광범위한 면제를 유지한다면 확대는 덜 임박한 것으로 보일 것이다.

두 번째 신호는 기술적이다. 정책 입안자들은 다운로드 가능한 모델이 적용 대상 프런티어 시스템에 사용되는 기밀 사이버 임계값에 도달하는지 지켜볼 것이다.

대중은 정부의 점수를 보지 못할 수 있다. 그래도 독립 평가, 개발자 공개, 사고 보고서, 사이버 과제에서의 모델 성능을 통해 관련 증거를 관찰할 수 있다.

Meta나 다른 미국 개발사의 주목도 높은 공개 릴리스는 실질적인 결정을 강요할 것이다. 당국은 해당 모델이 라이선스, 성능, 또는 두 가지 모두를 이유로 계속 면제되는지 설명해야 한다.

이에 상응하는 해외 릴리스는 더 어려운 시험대가 될 것이다. 개발사가 미국의 사전 출시 평가에 협조하지 않을 수 있으며, 가중치는 공개 리포지토리를 통해 확산될 수 있다.

이 경우 정부의 조치는 조달, 배포, 클라우드 서비스 또는 무역 통제에 집중될 수 있다. 이러한 조치는 자발적 프레임워크만으로는 모든 오픈 모델 위험을 다룰 수 없다는 신호가 될 것이다.

세 번째 신호는 연방 검토가 관찰 가능한 변화를 만들어내는지 여부다. 신뢰할 수 있는 절차라면 평가자가 심각한 우려를 확인했을 때 출시 시점, 파트너 접근권, 안전장치 또는 기술 문서에 영향을 미쳐야 한다.

검토된 모든 모델이 눈에 띄는 수정 없이 출시된다면, 외부에서는 이 절차가 의미 있는지 의문을 제기할 수 있다. 완전한 공개는 현실적이지 않지만, 반복적인 참여는 어느 정도 책임 있는 결과를 만들어내야 한다.

개발자들은 정부가 기준 변경을 어떻게 알리는지도 지켜봐야 한다. AI 시스템이 발전하는 동안 성능 기준점이 고정된 채로 남아 있을 수는 없다.

정확한 테스트 세부 사항이 기밀로 유지되더라도, 적용 대상 성능 범주가 바뀔 때 기관들은 포괄적인 공지를 게시할 수 있다. 이는 연구소들이 출시 전략에 확정적으로 투자하기 전에 평가를 계획하는 데 도움이 될 것이다.

기업 사용자는 워싱턴이 모든 문제를 정리할 때까지 기다릴 필요가 없다. 지금도 AI 배포를 성능, 접근권, 데이터 민감도, 운영 자율성에 따라 분류할 수 있다.

로컬 호스팅 모델이 코드를 실행하거나, 네트워크를 스캔하거나, 프로덕션 시스템을 변경할 수 있다면 더 엄격한 통제가 필요하다. 동등한 도구와 연결된 폐쇄형 서비스도 마찬가지다.

팀은 모델 가중치의 출처, 사용 중인 버전, 적용된 수정 사항을 문서화해야 한다. 또한 평가 결과와 승인 결정도 기록해야 한다.

개인 지식 시스템은 개별 분석가가 빠르게 변하는 정책 보고서를 정리하는 데 도움을 줄 수 있다. 공식적인 기업 거버넌스에는 여전히 공동 통제, 보안 검토 및 책임 있는 소유권이 필요하다.

더 폭넓은 판단은 이제 한층 명확해졌다. 백악관은 AI 안전성 검토를 오픈 모델로 확대하는 완성된 방안을 발표하지 않았다. 다만 현재의 제외 조항이 불안정할 수 있는 이유를 드러냈다.

성능은 행정부의 핵심 관심사가 되고 있으며, 개방성은 출시 후 얼마나 적은 통제가 남는지를 결정한다. 이러한 원칙은 영구적인 면제보다는 차등화된 안전장치를 시사한다.

결정적인 질문은 오픈 모델이 좋은지 나쁜지가 아니다. 정부가 자발적 협력을 불투명한 시장 통제로 바꾸지 않고도 유사한 수준의 검토를 적용할 수 있는지다.

Google News를 주시하는 독자들은 먼저 10월 조달 마감일을, 그다음 성능이 뛰어난 오픈 모델의 다음 릴리스를, 마지막으로 연방 테스트에서 비롯되는 가시적인 결과를 지켜봐야 한다. 이 신호들을 함께 보면, 이 프레임워크가 일관된 국가안보 절차로 자리 잡을지 아니면 일부 폐쇄형 연구소를 위한 사적 협약으로 남을지가 드러날 것이다.