미국 AI 위험 검토, 오픈 웨이트 모델은 대상에서 제외

워싱턴이 첨단 AI 모델을 위한 새로운 30일 검토 절차에서 오픈 웨이트 시스템을 제외하면서 Google News는 뚜렷한 정책 충돌을 부각했다. 이 결정은 출시 전 심각한 사이버 및 국가 안보 위험을 식별하도록 설계된 체계 밖에 다운로드 가능한 모델을 남겨둔다.

이 배제가 중요한 이유는 오픈 웨이트 모델이 학습된 시스템의 작동 방식을 결정하는 수치 매개변수에 사용자가 접근할 수 있게 하기 때문이다. 개발자는 원래 회사의 서버에 의존하지 않고 해당 모델을 실행, 수정, 미세 조정할 수 있다. 연구와 로컬 배포를 뒷받침하는 바로 그 자유는 안전장치를 유지하기 어렵게 만들 수도 있다.

핵심 쟁점은 오픈 모델이 이점을 제공하는지 여부가 아니다. 이들은 경쟁, 독립적 평가, 개인정보에 민감한 배포, 기술적 실험을 지원한다. 더 어려운 질문은 가중치가 출시 후 영구적으로 공개되는 유사한 수준의 시스템은 제외하면서, 왜 워싱턴이 첨단 폐쇄형 모델을 검토하느냐는 것이다.

백악관은 이 프로그램을 모든 신규 모델에 대한 일반적 감독이 아니라 주요 미국 연구소와의 자발적 협력으로 제시한다. 비판론자들은 이 좁은 정의가 위험을 만드는 근본적 성능과 개발자의 배포 방식을 혼동한다고 주장한다.

이 구분은 두 접근법을 정면으로 충돌하게 한다. 하나는 모델의 성능이 위험한 활동을 실질적으로 지원할 수 있는지로 판단한다. 다른 하나는 정부 검토의 실질적 경계로 통제된 접근을 사용한다. 오픈 웨이트 시스템은 두 번째 접근법의 약점을 드러낸다.

미국 정부가 실제로 바꾼 것

연방 검토 절차는 의미 있는 점검 지점을 만들지만, 보도된 범위에서는 중요한 고급 모델 범주가 제외된다.

도널드 트럼프 대통령은 2026년 6월 2일 특정 첨단 AI 시스템을 검토하는 자발적 절차를 수립하는 행정명령에 서명했다. 참여 개발자는 공개 출시 전에 연방 기관과 모델을 공유할 수 있다.

정부는 적용 대상 시스템의 국가 안보 위험을 평가하는 데 최대 30일을 받는다. 이 절차는 고급 사이버 성능을 중심으로 하며 여러 부처와 기관의 관계자들이 참여한다.

행정명령 보도에 따르면, 행정부는 이 노력을 미국 최첨단 연구소와의 협력으로 설명했다. Anthropic, OpenAI, Google은 이 նախաձեռնුව을 공개적으로 환영했다.

이 체계는 첨단 모델이 소프트웨어 취약점을 찾아내는 능력이 커진 뒤 마련됐다. 이 능력은 방어자가 중요 인프라를 점검하는 데 도움을 줄 수 있지만, 공격적 사이버 작전에 필요한 전문성을 낮출 수도 있다.

이 정책은 출시가 더 넓은 시장에 이르기 전에 이 긴장을 해결하려 한다. 개발자는 거의 완성된 모델을 제공하고, 연방 전문가는 이를 시험하며, 참여 당사자는 결과를 받게 된다.

이는 AI 기업이 전적으로 작성한 자발적 서약보다 더 실질적이다. 정부 평가자는 대부분의 외부 연구자가 이용할 수 없는 기밀 위협 정보, 국가 안보 전문성, 보안 시험 환경을 활용할 수 있다.

그러나 이 체계에 관한 보도는 주요 경계를 드러냈다. 보도에 따르면, 이는 적용 대상 최첨단 모델을 최고 수준의 성능과 국가 안보 위험을 지닌 폐쇄형 시스템으로 정의한다.

보도된 체계 세부 내용에 따르면 오픈 모델은 제외된다. 이 문서는 또한 출시 후 오픈 모델을 제한해서는 안 된다고 명시한 것으로 전해진다.

이것이 이 기사의 핵심 긴장을 만든다. 정부는 위험한 성능을 중심으로 절차를 구축한 뒤, 개발자가 모델을 배포하는 방식을 기준으로 참여 범위를 일부 좁혔다.

폐쇄형 모델은 개발자의 통제 아래 남는다. 기업은 접근을 제한하고, 사용을 모니터링하며, 안전장치를 수정하거나 심각한 문제가 발견된 뒤 서비스를 철회할 수 있다.

오픈 웨이트 출시는 다르게 작동한다. 사람들이 가중치를 다운로드하면 원래 개발자는 모든 사본을 안정적으로 회수하거나 제거된 안전장치를 복원할 수 없다. 하위 사용자는 전문 작업을 위해 모델을 미세 조정할 수도 있다.

따라서 연방 절차는 배포 후에도 의미 있는 통제를 유지하는 시스템에 집중한다. 반면 배포 방식상 시정 조치를 더 어렵게 만들 수 있는 시스템은 제외한다.

이 체계는 여전히 정부와 최첨단 연구소 간 협력을 개선할 수 있다. 공동 평가 방식을 확립하고 방어자에게 유용한 사이버 성능을 조기에 제공할 수 있다.

그러나 그 설계는 더 넓은 위험 문제에 답하지 못한다. 성능이 위험을 만든다면, 배포 형식이 관계자들이 출시 전에 해당 성능을 검토할지 결정해서는 안 된다.

Google News가 더 큰 정책 논쟁을 다루는 이유

Google News의 헤드라인은 워싱턴이 위험을 어떻게 정의하는지를 둘러싼 분쟁을 반영하며, 오픈소스 라이선스에 관한 일상적 이견이 아니다.

오픈 웨이트라는 용어는 학습된 매개변수를 다운로드할 수 있는 모델을 뜻한다. 이는 개발자가 학습 데이터, 전체 소스 코드, 또는 제한 없는 라이선스를 공개했다는 의미는 아니다.

이 구분은 공개 논의에서 오픈소스가 느슨한 꼬리표로 자주 사용되기 때문에 중요하다. 전통적인 오픈소스 소프트웨어는 인정된 라이선스 조건에 따라 사람들이 코드를 검사하고 수정하도록 허용한다. AI 출시는 가중치를 공개하면서도 이를 만드는 데 쓰인 데이터와 방법은 공개하지 않을 수 있다.

원래의 Tech Policy Press 주장은 연방 검토에 오픈 웨이트 모델을 포함할 것을 촉구한다. 그 논리는 성능 기반 원칙을 따른다. 즉, 비교 가능한 위험은 배포 전에 비교 가능한 검토를 받아야 한다는 것이다.

이 입장이 오픈 출시 금지를 요구하는 것은 아니다. 검토는 위험을 식별하고, 모델의 한계를 문서화하며, 기관에 자동 거부권을 부여하지 않고도 완화 조치에 정보를 제공할 수 있다.

현 체계는 보도에 따르면 폐쇄형 접근을 운영상 지름길로 사용한다. 개발자는 통제된 시스템을 보안 정부 환경에 제공하고, 접근 기록을 보존하며, 시험 중 이를 보는 사람을 제한할 수 있다.

오픈 출시는 이 절차를 복잡하게 만들지만, 출시 전 평가를 불가능하게 하지는 않는다. 개발자는 가중치를 업로드하기 전까지 여전히 모델을 통제한다. 그 기간은 정부 시험을 위한 실질적 기회를 제공한다.

Google News는 이 헤드라인이 기술적 출시 선택을 연방 정책과 연결하기 때문에 이 분쟁에 더 넓은 가시성을 부여한다. Google News를 검색하는 독자는 개발자, 기업, 일반 AI 사용자에게 영향을 미치는 문제를 접하게 된다.

이 논쟁은 연방 정부의 입장이 변화하는 시기에 등장했다. 행정부는 처음에는 관계자들이 미국의 경쟁적 지위를 약화할 것을 우려해 검토 절차 도입을 주저했다.

트럼프는 6월 개정 명령을 승인하기 전 5월에 앞선 서명 행사를 취소했다. 그는 미국의 중국 우위를 저해하는 정책을 원하지 않는다고 말했다.

이 배경은 좁은 설계를 설명한다. 행정부는 모델 출시를 위한 일반적 인허가 체계를 만들지 않으면서도 가장 심각한 성능에 관한 정보를 원한다.

공개 언어는 자발적 참여, 사이버 방어, 혁신 지원을 강조한다. 백악관은 모든 신규 AI 모델을 감독한다는 생각을 거부해 왔다.

오픈 웨이트 지지자들도 이런 우려 일부를 공유한다. 이들은 광범위한 규제가 소규모 개발자와 연구자의 준수 비용을 높여 지배적 연구소를 보호할 수 있다고 경고한다.

또한 가중치 접근이 독립적 보안 작업을 뒷받침한다고 주장한다. 외부 연구자는 제공업체의 허가를 기다리지 않고 행동을 조사하고, 결과를 재현하며, 방어 도구를 만들 수 있다.

이러한 이점 때문에 일률적 제한을 정당화하기는 어렵다. 그러나 오픈 모델을 검토에서 제외하는 것이 이를 제한하는 유일한 대안은 아니다.

제한적이고 성능 발동형인 평가는 검토와 출시 허가를 별개의 결정으로 다룰 것이다. 정부는 출판이 합법이라는 강한 추정을 유지하면서도 첨단 모델을 검토할 수 있다.

따라서 Google News 논의는 이 체계 안에 숨겨진 거짓 선택을 제시한다. 워싱턴은 오픈 웨이트 위험을 무시하는 것과 오픈 웨이트 개발을 금지하는 것 사이에서 선택할 필요가 없다.

고위험 성능을 평가하고, 비기밀 결과를 공개하며, 구체적 위험의 증거가 있을 때 더 강한 개입을 유보할 수 있다. 이 접근법은 정책의 초점을 모델이 할 수 있는 일에 맞춘다.

오픈 모델은 다른 위험 방정식을 만든다

오픈 웨이트 배포는 가치 있는 접근성과, 폐쇄형 모델의 안전장치로는 완전히 해결할 수 없는 통제력 상실을 결합한다.

폐쇄형 AI 서비스는 제공업체가 통제하는 인터페이스 뒤에서 작동한다. 제공업체는 사용 정책을 집행하고, 요청을 필터링하며, 의심스러운 활동을 감지하고, 시스템을 중앙에서 업데이트할 수 있다.

이러한 통제는 여전히 불완전하다. 사용자는 출시 전 시험에서 놓친 행동을 드러내는 새로운 프롬프팅 기법, 도구 조합, 소프트웨어 래퍼를 지속적으로 찾아낸다.

그럼에도 제공업체는 여러 대응 수단을 유지한다. 취약점을 패치하고, 계정을 정지하며, 기능을 제한하거나, 사고를 조사하는 동안 모델을 비활성화할 수 있다.

오픈 웨이트 개발자는 공개 후 그 영향력의 상당 부분을 잃는다. 사용자는 모델을 오프라인에서 실행하고, 거부 행동을 제거하거나, 실질적 범위를 넓히는 도구와 결합할 수 있다.

위험은 단순히 오픈 모델이 금지된 질문에 답한다는 데 있지 않다. 더 큰 우려는 중앙의 관찰 없이 적응, 자동화, 배포될 수 있는 반복 가능한 성능에 있다.

사이버 보안은 직접적인 사례를 제공한다. 성능 있는 모델은 보안팀이 코드를 검토하고, 취약점의 우선순위를 정하며, 패치를 작성하는 데 도움을 줄 수 있다. 훈련된 전문가가 출력을 감독하면 이러한 작업은 방어를 개선할 수 있다.

악의적 운영자는 유사한 성능을 취약점 탐색이나 익스플로잇 개발로 향하게 할 수 있다. 오픈 가중치는 해당 운영자가 시스템을 수정하고 원래 개발자에게 활동을 숨길 수 있게 한다.

생물학적 위험도 관련된 우려를 제기한다. 현재 대부분의 모델은 실험실 접근, 전문 장비, 전문 지식을 대체하지 않는다. 그러나 평가는 AI가 유해한 작업 흐름의 여러 단계에서 장벽을 낮추는지 점점 더 묻고 있다.

올바른 정책 질문은 한계적 지원에 관한 것이다. 관계자들은 모델이 역량이 낮은 행위자가 위험한 작업을 더 빠르게 또는 더 적은 오류로 완료하게 하는지 측정해야 한다.

이 기준은 사용자가 애플리케이션 프로그래밍 인터페이스를 통해 모델에 접근하는지, 로컬 다운로드로 접근하는지와 관계없이 적용돼야 한다. 기술적 전달 채널은 완화 선택지를 바꾸지만, 근본적 성능은 바꾸지 않는다.

오픈 웨이트 시스템은 폐쇄형 모델이 쉽게 맞추기 어려운 이점도 제공한다. 조직은 민감한 데이터를 자체 인프라 안에 보관하고 모든 프롬프트를 외부 제공업체에 전송하지 않을 수 있다.

연구자는 임시 접근에 의존하지 않고 모델 행동을 연구할 수 있다. 개발자는 더 작은 기기, 특수 언어, 접근성 도구, 과학 작업에 맞게 시스템을 조정할 수 있다.

연방 정부 자체도 로컬 배포의 이점을 얻을 수 있다. 기밀 또는 규제 정보를 다루는 기관은 정부가 통제하는 환경 안에서 작동하는 모델을 선호할 수 있다.

이러한 이점은 정책 문제를 단순한 안전성 판정이 아닌 절충으로 만든다. 개방성은 시스템을 검사하고 개선할 수 있는 사람을 늘리는 동시에, 이를 유해한 목적으로 수정할 수 있는 사람도 늘린다.

이전 연방 차원의 작업은 그러한 균형을 인정했다. 국가통신정보청(NTIA)은 가중치가 널리 제공되는 모델을 검토하는 과정에서 300건이 넘는 의견을 접수했다.

이후 NTIA는 모델 가중치 공개에 즉각적인 제한을 두기보다 지속적인 모니터링과 평가 역량 투자를 권고했다. 이 입장은 한계적 위험과 규제 효과 모두에 대한 불확실성을 반영한 것이었다.

새 연방 검토 절차는 이 접근법을 토대로 구축될 수 있다. 개방형 모델을 테스트하면 정책 입안자들이 추가 조치가 필요한지 판단하기 전에 증거를 확보할 수 있다.

배제는 그 반대의 결과를 낳는다. 공개 이후 통제하기 어려워질 수 있는 시스템에 관한 체계적인 정보를 정부가 확보할 기회를 빼앗는다.

비공개 연구소와 오픈웨이트 개발사가 받는 압력은 불균등하다

이 프레임워크는 비공개 최첨단 연구소를 직접 감독하는 반면, 오픈웨이트 개발사에는 더 적은 공식 의무를 부과한다.

OpenAI, Anthropic, Google은 고도화된 AI 평가에서 연방정부가 더 강한 역할을 맡아야 한다는 입장을 지지해 왔다. 이들 시스템은 호스팅 제품, 관리형 접근, 선별적 파트너십을 통해 대체로 통제된 상태로 유지된다.

OpenAI는 연방정부가 가장 고도화된 시스템의 테스트를 주도해야 한다고 주장해 왔다. 연방 안전성 제안은 독립 감사, 사고 보고, 보안 표준, 내부고발자 보호도 지지한다.

이 입장은 워싱턴이 광범위한 배포 전에 선도적인 비공개 시스템에 접근할 수 있게 한다. 또한 참여 기업이 위험을 식별하고 관리하는 방식을 검증할 수 있는 공식 절차도 만든다.

오픈웨이트 개발사들은 다른 시장 환경에 놓여 있다. 이들의 경쟁력은 흔히 로컬 제어, 맞춤화, 단일 서비스 제공업체로부터의 독립성에 기반한다.

따라서 비공개 연구소를 중심으로 설계된 검토 의무는 두 집단에 서로 다르게 작용할 수 있다. 세부적인 준수 규칙은 전담 정책 및 보안 팀이 없는 소규모 개발사에 부담이 될 수 있다.

이 우려는 진지하게 다뤄져야 한다. 모든 모델에 동일한 행정 요건을 적용하는 프레임워크는 더 큰 법무 및 평가 예산을 보유한 기업에 유리하게 작용할 것이다.

해답은 명확한 역량 기준선을 설정하는 것이다. 정해진 위험 기준선을 넘지 않는 소형 모델은 집중적인 연방 절차의 대상에서 제외돼야 한다.

기준선은 학습 연산량에만 의존해서는 안 된다. 모델 아키텍처, 사후 학습 기법, 도구 사용, 미세 조정은 단순한 연산량 지표로 포착되지 않는 방식으로 역량을 변화시킬 수 있다.

평가자는 위험 관련 과제에서 관찰 가능한 성능을 활용해야 한다. 또한 모델이 제한적인 인간의 안내만으로 여러 단계의 작업을 완료할 수 있는지도 고려해야 한다.

유통 방식은 모델이 기준선을 넘은 뒤의 완화 조치를 결정해야 한다. 모델이 평가를 받을지 여부를 결정해서는 안 된다.

비공개 제공업체는 모니터링, 접근 통제, 신속한 업데이트에 동의할 수 있다. 반면 오픈웨이트 개발사는 안전성 문서, 단계적 접근, 평가 결과, 하류 단계 수정 위험에 관한 증거를 제공할 수 있다.

이 구조는 공통된 역량 기준에 대해 서로 다른 대응을 부과한다. 하나의 통제 체계가 모든 출시 모델에 맞을 수 없다는 점을 인정한다.

이 프레임워크는 최대 규모 연구소들 사이의 경쟁 문제도 제기한다. Meta는 역사적으로 오픈웨이트 출시를 강조해 온 반면, OpenAI, Anthropic, Google은 주력 모델에 주로 통제된 접근 방식을 활용해 왔다.

연방 검토가 비공개 시스템에만 적용된다면, 이들 기업은 오픈웨이트 경쟁사가 피하는 지연과 정보 공개 의무를 부담할 수 있다. 보도된 검토 기간은 최대 30일이다.

향후 워싱턴이 오픈웨이트를 본질적으로 의심스러운 것으로 취급한다면 불균형은 반대 방향으로도 나타날 수 있다. 정책 입안자들은 특정 모델이 추가 위험을 만드는지 측정하지 않은 채 광범위한 제한을 부과할 수 있다.

두 결과 모두 피할 수 있다. 중립적인 평가는 역량에서 출발해 유통 방식을 검토하고, 문서화된 위험에 비례하는 완화 조치를 선택해야 한다.

이 접근법은 규제 차익거래의 기회도 줄인다. 기업이 단지 출시를 오픈웨이트라고 설명하거나 다른 법인을 통해 유통을 구성했다는 이유만으로 검토를 피해서는 안 된다.

마찬가지로 기업이 가중치를 보유한다는 이유만으로 승인을 받아서도 안 된다. 비공개 접근은 유해한 역량, 내부자 위험, 탈옥, 예상치 못한 하류 사용을 제거하지 못한다.

따라서 핵심 충돌은 역량과 유통 방식 사이에 있다. 비공개 연구소는 출시 이후 더 강력한 통제 수단을 갖지만, 오픈 개발사는 중앙집중형 서비스가 재현할 수 없는 형태의 투명성과 사용자 자율성을 제공한다.

신뢰할 수 있는 연방 시스템은 두 사실을 모두 인정해야 한다. 그렇지 않으면 한 가지 시장 진입 경로에 압박을 가하면서 다른 경로의 위험과 이점을 이해하지 못하게 될 것이다.

역량 기반 검토에 필요한 요소

실행 가능한 검토는 모델 전반에 걸쳐 동일한 위험 역량을 테스트하되, 각 유통 방식에 맞게 안전장치를 조정해야 한다.

첫 번째 요건은 절차 진입을 위한 공개 기준선이다. 정부는 민감한 벤치마크를 기밀로 유지하면서도 전체 적용 규칙까지 비밀로 할 필요는 없다.

개발사는 어떤 역량 범주가 검토를 촉발하는지 알아야 한다. 투자자, 연구자, 사용자도 이 절차가 비교 가능한 시스템을 일관되게 다루는지 판단할 수 있을 만큼의 정보가 필요하다.

보도된 프레임워크에는 최첨단 역량이나 국가안보 위험에 대한 명확한 공개 정의가 없다. 이러한 모호성은 참여 여부에 관해 정부 관계자에게 폭넓은 재량을 부여한다.

역량 기반 시스템은 구체적인 영역을 식별해야 한다. 사이버 작전, 생물학적 지원, 자율 복제, 기만, 통제 회피는 고도화된 평가의 가능한 범주다.

각 범주에는 과제 기반 테스트와 전문가 해석이 필요하다. 단일 벤치마크 점수만으로는 모델이 공격자의 성공 가능성을 의미 있게 바꾸는지 판단할 수 없다.

평가자는 모델 지원 성능을 관련 기준선과 비교해야 한다. 사용자가 작업을 더 빠르게 완료하는지, 실수를 덜 하는지, 또는 이전에는 자신의 능력 범위를 벗어났던 결과에 도달하는지를 물어야 한다.

테스트는 모델에 도구, 메모리, 또는 반복적인 행동 기회를 제공하는 소프트웨어를 뜻하는 스캐폴딩도 살펴봐야 한다. 기본 채팅 인터페이스는 동일한 모델이 에이전트 내부에서 수행하는 일을 과소평가할 수 있다.

오픈웨이트 시스템의 경우, 평가는 현실적인 수정도 포함해야 한다. 연구자들은 일반적인 미세 조정이 안전장치를 제거하거나 민감한 과제의 성능을 크게 높이는지 테스트할 수 있다.

정부가 가능한 모든 하류 버전을 테스트할 필요는 없다. 공개된 모델이 원래의 안전 구성 범위를 얼마나 쉽게 벗어날 수 있는지 이해할 만큼의 증거가 필요하다.

출시 전 절차는 비기밀 요약본도 만들어야 한다. 이 문서는 테스트한 위험 범주, 포괄적인 결과, 알려진 한계, 개발사가 채택한 완화 조치를 설명할 수 있다.

투명성은 분류된 벤치마크를 노출하지 않으면서 외부 전문가가 공백을 식별할 수 있게 한다. 또한 기업 구매자에게 모델 거버넌스를 비교할 수 있는 공통 기반을 제공한다.

두 번째 요건은 절차적 독립성이다. 검토를 수행하는 기관에는 기술 전문성과 정치적 보복 또는 상업적 편애를 막을 안전장치가 필요하다.

이 우려는 행정명령이 국가안보 관계자에게 상당한 재량권을 부여하면서 더 부각됐다. 비판자들은 자발적 절차가 조달, 계약, 비공식적 압박을 통해 실질적으로 의무화될 수 있다고 우려한다.

명확한 이의 제기 절차와 일관된 기준선은 그 위험을 줄일 수 있다. 기업은 관계자들이 어떻게 결론에 도달했는지, 그리고 어떻게 새로운 증거를 제출할 수 있는지를 이해해야 한다.

세 번째 요건은 안전한 취급이다. 비공개 연구소는 가치 있는 모델 세부 정보의 노출을 우려하며, 오픈웨이트 개발사도 공개 전까지 기밀로 유지되는 출시를 준비하고 있을 수 있다.

고보안 환경, 세부적인 접근 기록, 엄격한 인력 제한은 이러한 우려의 일부를 해소할 수 있다. 보도된 프레임워크에는 이미 대상 비공개 모델에 대한 그러한 통제가 포함돼 있다.

정부는 심각한 위험을 발견한 뒤 무엇이 일어나는지도 정의해야 한다. 신속한 출시를 유인하는 상황에서 비공개 경고만 내놓는 검토는 실패할 수 있다.

그러나 자동적인 차단 권한은 자발적 평가를 인허가 체제로 바꾸게 된다. 이러한 변화에는 명시적인 법적 권한, 절차적 보호, 공개 토론이 필요하다.

더 좁은 범위에서 시작하는 편이 방어 가능성이 높다. 개발사는 자발적으로 모델을 제출하고, 구조화된 결과를 받으며, 출시와 함께 표준화된 안전성 정보를 공개할 수 있다.

정부 조달 규칙은 민감한 연방 환경에서 사용되는 모델에 대해 참여를 요구할 수 있다. 핵심 인프라 파트너십은 운영상 위험을 바탕으로 추가 조건을 설정할 수 있다.

사고 보고는 출시 후에도 계속돼야 한다. 출시 전 평가는 새로운 도구, 프롬프트, 미세 조정을 통해 나타나는 모든 역량을 예상할 수 없다.

연방정부는 이러한 보고를 공동 사고 대응 시스템과 연결할 수 있다. 비공개 제공업체는 중앙에서 패치할 수 있지만, 오픈 생태계에는 공지, 업데이트된 체크포인트, 방어 지침이 필요하다.

여러 출시에서 확인된 사항을 추적하는 팀에게는 검색 가능한 기술 지식 베이스가 평가 증거와 사고 결정을 보존하는 데 도움이 될 수 있다. 그러나 정책 과제에는 여전히 정부 표준과 독립적인 판단이 필요하다.

역량 기반 프레임워크가 불확실성을 없애지는 못한다. 그러나 정책 입안자들이 지속적인 경쟁상 결과를 낳는 결정을 내리기 전에 비공개 및 오픈 시스템 모두에서 증거를 제공할 것이다.

가장 큰 불확실성은 검토가 결과를 바꿀 수 있는지 여부다

테스트는 결과가 모델이 사용자에게 도달하기 전에 출시 결정, 안전장치, 또는 이용 가능한 방어 수단에 영향을 미칠 때에만 의미가 있다.

현 절차는 여전히 자발적이다. 개발사는 연방 테스트가 신뢰를 높이고, 정부 파트너십을 지원하며, 기밀 전문성에 접근할 기회를 제공하기 때문에 협력할 수 있다.

이러한 유인은 이미 정부 기관과 핵심 인프라 운영업체에 제품을 판매하는 기업에는 효과가 있을 수 있다. 하지만 외국 개발사나 연방 계약이 없는 집단에는 더 약하게 작용할 수 있다.

오픈웨이트 개발은 국경을 넘어서도 이루어진다. 미국의 검토만으로는 다른 관할권의 다른 조직이 비교 가능한 모델을 공개하는 것을 막을 수 없다.

이 한계는 국제 공조를 뒷받침하지만, 국내의 무대응을 정당화하지는 않는다. 미국은 동맹국, 기업, 연구기관이 재사용할 수 있는 평가 관행을 확립할 수 있다.

더 즉각적인 불확실성은 비밀주의와 관련된다. 보도에 따르면 행정부는 프레임워크를 공개할 계획이 없으며, 고도화된 사이버 벤치마킹 절차는 기밀로 유지될 예정이다.

일부 비밀주의는 민감한 테스트가 공격자를 위한 지침이 되는 것을 막는다. 그러나 지나친 비밀주의는 외부인이 정책의 일관성, 효과성, 공정성을 평가하지 못하게 한다.

정부는 적용 논리, 절차적 안전장치, 포괄적인 위험 범주를 공개해야 한다. 정확한 프롬프트, 대상, 정보, 악용 가능한 취약점을 드러내는 기술적 결과는 보호할 수 있다.

또 다른 불확실성은 시기와 관련된다. 개발사가 거의 완성된 모델과 광범위한 내부 문서를 제공한다면 30일은 집중적인 테스트에 충분할 수 있다.

그러나 독립적 재현, 복잡한 생물학 분석, 또는 많은 수정 버전의 평가에는 너무 짧을 수 있다. 성급한 절차는 오해를 낳는 안전 신호를 만들 수 있다.

고정된 기한은 개발사가 막바지 단계의 시스템을 제출하도록 유도하기도 한다. 이는 출시 전에 정부가 아키텍처나 학습 방식의 변경을 권고할 수 있는 여지를 제한한다.

더 이른 시점의 협의가 도움이 될 수는 있지만, 기업은 더 오랜 기간 불확실성에 노출된다. 또한 명확한 권한 없이 공무원이 제품 설계에 영향을 미칠 위험도 커질 수 있다.

따라서 검토 절차는 비공식적인 초기 협의와 공식 30일 평가를 분리해야 한다. 개발사는 최종 후보를 제출하기 전에 평가 계획을 논의할 수 있다.

가장 중요한 불확실성은 오픈 웨이트 모델의 포함 여부 자체다. 보도된 제외 방침은 지침, 향후 행정 조치, 입법 또는 개발사와의 자발적 합의를 통해 수정될 수 있다.

워싱턴은 다운로드 가능한 모든 모델을 동등한 위협으로 취급해서는 안 된다. 대부분은 새 연방 프레임워크를 촉발한 수준의 역량에 이르지 못한다.

연구와 경쟁을 지원한다는 이유만으로 오픈 배포를 자동으로 안전하다고 봐서도 안 된다. 그 이점이 출시 후 통제력 상실을 없애지는 못한다.

회의적인 관점에서의 검증 기준은 간단하다. 당국은 자사의 평가만으로는 놓쳤을 위험을 자신들의 절차가 포착한다는 점을 보여야 한다.

또한 판정이 실질적인 변화를 만든다는 점도 입증해야 한다. 그 변화는 단계적 출시, 더 충실한 문서화, 개선된 방어책 또는 더 제한적인 모델 배포 계획을 포함할 수 있다.

이런 결과가 없다면 검토는 의례적인 절차가 된다. 근본적인 출시 유인은 그대로 둔 채 정치적 면피 수단을 제공할 수 있다.

이 절차는 오히려 잘못된 확신을 낳을 수도 있다. 사용자는 연방 평가자가 한 번도 검토하지 않은 분야까지 검토된 모델이 안전하다고 가정할 수 있다.

공개 요약은 이러한 경계를 명확히 정의해야 한다. 무엇을 시험했는지, 무엇을 시험하지 않았는지, 결과가 언제까지 유효한지를 밝혀야 한다.

오픈 웨이트 검토는 또 다른 주의점을 제시한다. 긍정적인 결과는 제출된 버전에만 적용되며, 이후의 모든 파인튜닝이나 수정된 체크포인트에 적용되는 것은 아니다.

이러한 단서가 테스트를 무용하게 만드는 것은 아니다. 평가는 영구적인 인증이 아니라 증거를 제공한다는 점을 독자가 이해하도록 한다.

워싱턴이 격차를 좁히는지 보여줄 세 가지 신호

다음 단계는 오픈 웨이트 제외가 일시적인 이행 선택인지, 아니면 연방 AI 정책의 지속적인 약점인지 드러낼 것이다.

첫 번째 신호는 모델 적용 범위에 대한 공개적 명확화다. 당국은 고도화된 오픈 웨이트 모델이 가중치가 공개되기 전에 자발적 절차에 참여할 수 있는지 밝혀야 한다.

정부가 배포 방식 전반에 적용되는 역량 기준을 채택한다면, 정책은 일관된 위험 평가에 가까워질 것이다. 반대로 포괄적 제외를 유지한다면 프레임워크는 위험성보다 시장 구조에 묶여 있게 된다.

두 번째 신호는 오픈 웨이트 개발사의 참여다. 실제 제출 사례는 개방성을 금지된 출시 전략으로 만들지 않으면서도 안전한 정부 검토가 작동할 수 있는지 시험하게 된다.

이 사례는 당국이 완화 권고안을 조정하도록 강제할 것이다. 중앙집중식 모니터링, 계정 통제 또는 출시 후 회수에만 의존할 수 없게 된다.

세 번째 신호는 검토가 출시를 바꿨다는 증거다. 독자는 연방 테스트와 연계된 출시 지연, 변경된 접근 계획, 공개된 안전성 결과 또는 방어 관련 공개를 주시해야 한다.

그러한 결과는 정부 검토가 기업의 레드팀 테스트를 넘어 가치를 더한다는 주장을 강화할 것이다. 눈에 보이는 변화를 만들지 못하는 절차는 그 목적에 대한 의문을 불러올 것이다.

의회의 조치는 결국 이러한 원칙을 제도화할 수 있다. 입법은 더 명확한 권한, 독립적 감독, 보고 의무, 정치적 동기에 따른 결정에 대한 보호장치를 마련할 수 있다.

현재로서는 행정부 프레임워크가 실험으로 남아 있다. 연방 전문성을 출시 전 테스트에 도입하면서도 적용 범위, 투명성, 결과에 관한 중요한 질문은 해결하지 못하고 있다.

Google News는 이러한 질문에 더 넓은 독자층을 제공했지만, 이 사안은 하나의 헤드라인을 넘어선다. 개발사에는 예측 가능한 규칙이 필요하고, 기업에는 신뢰할 수 있는 안전 정보가 필요하며, 연구자에게는 중요한 시스템을 계속 검토할 수 있는 접근권이 필요하다.

오픈 웨이트 모델은 자동적인 의심의 대상도, 자동적인 면제의 대상도 되어서는 안 된다. 검토 여부는 역량이 결정해야 하며, 배포 방식은 이후 적용할 보호조치를 결정해야 한다.

향후 1~3개월은 워싱턴이 그 구분을 해낼 수 있는지 보여줄 것이다. 적용 범위의 정의, 첫 번째 오픈 웨이트 제출, 그리고 연방 판정으로 바뀐 모든 출시를 주시해야 한다.

어느 것도 나타나지 않는다면, 정부는 여전히 영향력을 행사할 수 있는 모델만 검사하면서 회수할 수 없는 모델은 간과하게 될 것이다. 그것은 위험 기반 시스템의 정반대다.