Amazon과 Google의 안전 약속, 비공개 백악관 AI 검토와 충돌

Amazon과 Google의 안전 약속은 이제 핵심 규칙이 공개 검증에서 가려진 백악관 검토 절차와 나란히 놓여 있다. 행정부는 이 자발적 프레임워크가 국가 안보를 강화할 것이라고 말한다. 비판론자들은 근본적 모순을 지적한다. 정부가 기업들에게 정부 시험을 신뢰하라고 요구하면서도, 연구자와 대중에게는 그 시험을 신뢰할 근거를 거의 제공하지 않는다는 것이다.

보도에 따르면 이 프레임워크는 연방 평가자들이 일부 프런티어 모델을 출시 전 최대 30일간 검토하도록 허용한다. 프런티어 모델은 역량 때문에 심각한 국가 안보 위험을 초래할 수 있는 고도 범용 시스템이다. 그러나 알려진 규칙은 폐쇄형 모델에 적용되며, 다운로드 가능한 매개변수를 수정·재배포할 수 있는 오픈 웨이트 시스템은 제외한다.

이 구분은 기술적 평가 계획을 정책 논쟁으로 바꾼다. Google, OpenAI, Anthropic, Meta, Microsoft, Nvidia 및 소규모 개발사들은 8월 4일 백악관 브리핑에 참석한 것으로 알려졌다. 여러 보도에서 Amazon은 이 회의 참석자로 언급되지 않았지만, 클라우드 시장에서의 위치와 이전 안전 약속은 더 큰 논쟁에서 Amazon을 핵심 주체로 만든다.

진짜 대립은 Amazon 대 Google이 아니다. 비공개 정부 검토와 공개적 책임성의 대립이다. 두 회사 모두 자체 안전 접근법을 공개했지만, 어느 쪽도 핵심 정책 질문에 단독으로 답할 수는 없다. 기준 자체가 비밀로 남을 때, 누가 평가자를 검증하는가?

이 프레임워크는 출시 전 비공개 관문을 만든다

백악관은 그 배경 규칙을 공개하지 않은 채 잠재적으로 영향력 있는 검토 관문을 마련했다.

Donald Trump 대통령은 6월 2일 행정명령에 서명해 주요 AI 개발사들이 일부 고도 시스템을 연방 평가에 제출하도록 요청했다. 이 명령은 참여를 자발적인 것으로 규정했고, 정부가 공개 출시 전 최대 30일간 모델을 검토할 수 있도록 했다.

행정부는 이 절차를 제한적인 국가 안보 조치로 제시했다. 모든 상용 모델을 검토하는 대신, 고도 사이버 역량을 갖춘 시스템에 집중하겠다고 밝혔다. 모델 검토 명령은 국가안보국(NSA) 국장에게도 중요한 역할을 부여했다.

백악관은 8월 마감 시한까지 이행 프레임워크를 완성했다고 밝혔다. 이후 관계자들은 여러 주요 AI 기업의 대표들에게 브리핑을 진행했다. 그러나 행정부는 문서를 공개하지 않았고, 이를 사용할 것으로 예상되는 기관들을 완전히 식별하지도 않았다.

회의 내용을 아는 관계자들에 따르면, 이 프레임워크는 최첨단 역량과 국가 안보상 함의를 지닌 폐쇄형 시스템을 적용 대상 프런티어 모델로 정의한다. 개발사들은 모델이 최종 형태에 가까워진 출시 직전에 평가자에게 접근 권한을 제공하게 된다.

이 시점은 중요하다. 초기 연구 모델은 출시 전 크게 바뀔 수 있어 평가 결과의 유용성이 떨어진다. 거의 완성된 모델은 더 현실적인 시험 대상을 제공하지만, 30일의 보류 기간은 제품 일정, 보안 통제, 경쟁상 비밀 유지와 충돌할 수 있다.

보도에 따르면 검토 기간 동안 직원들은 접근 제한을 받을 수 있다. 이러한 통제는 위험한 역량이나 시험 방법이 유출될 가능성을 낮출 수 있다. 그러나 엔지니어들이 정부 평가자가 발견한 문제를 자유롭게 조사할 수 없다면 시정 조치를 복잡하게 만들 수도 있다.

행정부가 일부 세부 사항을 기밀로 유지할 만한 타당한 이유는 있다. 정확한 사이버 벤치마크를 공개하면 공격자에게 어떤 역량이 연방 정부의 우려를 촉발하는지 찾아내기 위한 점검표를 제공할 수 있다. 또한 개발사가 근본적 위험을 줄이지 않은 채 시험에 맞춰 모델을 최적화하도록 도울 수도 있다.

그렇다고 모든 규칙을 비공개로 유지할 필요는 없다. 관계자들은 거버넌스 세부 사항, 참여 기준, 이의제기 절차, 평가자 자격, 고수준 위험 임계값을 공개할 수 있다. 이런 정보 공개는 악용 가능한 프롬프트나 기밀 표적을 드러낼 필요가 없다.

따라서 알려진 프레임워크는 두 종류의 비밀을 만든다. 첫 번째는 분명한 보안 논리가 있는 민감한 시험 방법을 다룬다. 두 번째는 의사결정 방식에 관한 것으로, 더 어려운 책임성 문제를 제기한다.

백악관은 이 절차가 사이버보안 전략을 진전시키고 미국의 AI 리더십을 뒷받침한다고 말한다. 그러나 외부인은 명시된 목표와 실제 적용 기준을 비교할 수 없기 때문에 이 주장을 평가하기 어렵다.

이것이 이 사건의 핵심 변화다. 연방 검토는 더 이상 단순한 정책 제안이 아니다. 대중이 전체 프레임워크를 검토할 수는 없지만, 이제는 알려진 절차, 참여 기업, 검토 기간, 모델 분류가 존재한다.

여기서 Amazon과 Google의 안전 정책이 중요한 이유

Amazon과 Google의 안전 프레임워크는 대기업들이 이미 역량 시험을 수용하고 있음을 보여주지만, 이들의 자발적 정책은 투명한 공적 절차를 대체할 수 없다.

Amazon과 Google은 2023년 7월 백악관에 자발적 AI 약속을 한 7개 기업 가운데 포함됐다. 이 약속에는 내부 및 외부 레드팀 시험, 정보 공유, 사이버보안 투자, AI 생성 콘텐츠 식별 방법이 포함됐다.

레드팀은 유해한 행동, 보안 취약점, 악용 경로를 찾기 위해 시스템을 의도적으로 시험하는 것을 뜻한다. 일반적인 제품 시험은 적대적 행동을 놓치는 경우가 많기 때문에 유용하다. 다만 그 결과는 여전히 평가자의 접근 권한, 시험 품질, 개발사의 대응 의지에 좌우된다.

Amazon은 이후 적절한 보호 조치 없이 출시될 경우 중대한 피해를 초래할 수 있는 심각한 역량 위험을 평가하는 방식을 설명하는 프런티어 모델 안전 프레임워크를 공개했다. 이 접근법은 특정 핵심 역량에 집중한다.

Google DeepMind도 프런티어 안전 프레임워크를 개발했다. 이 회사는 더 강력한 보안 또는 배포 통제가 필요한 모델을 식별하기 위해 역량 임계값과 조기 경보 평가를 사용한다. Google의 안전 프레임워크는 여러 차례 공개 개정을 거쳤다.

이 정책들은 두 회사에 연방 이니셔티브와 관련된 운영 경험을 제공한다. 이들의 연구자들은 배포 전 시험, 접근 통제, 역량 임계값, 우려스러운 벤치마크 결과를 출시 결정으로 전환하는 어려움을 이해하고 있다.

그러나 기업 프레임워크는 여전히 자체 거버넌스 도구다. 개발사는 자체 임계값, 시험 파트너, 공개 관행, 완화 대응의 상당 부분을 선택한다. 고객과 독립 연구자들은 그러한 선택이 기업 간 비교 가능하다고 가정할 수 없다.

이전 백악관 약속에 대한 학술 검토는 준수에 관한 공개 증거가 고르지 않다고 판단했다. 연구진은 조사한 기업 전체에서 모델 가중치 보안 성과가 특히 낮았으며 평균 점수는 17%라고 보고했다. 공개되지 않은 보안 조치는 투명성 기반 평가에 나타나지 않으므로, 이 결과가 보호 조치의 부재를 입증하는 것은 아니다.

다만 이는 자발적 약속의 책임성 한계를 드러낸다. 약속은 정밀하게 들릴 수 있지만, 외부인은 약속된 통제가 실제로 작동했는지 판단하지 못할 수 있다. 약속 평가는 개발사 간 공개 보고가 여전히 일관되지 않다고 주장한다.

새 백악관 프레임워크는 공동 평가 채널을 만들어 이 상황을 개선할 수 있다. 정부 검토자는 더 일관된 조건에서 시스템을 비교하고, 기업이 공개적으로 안전하게 입증할 수 없는 역량을 검토할 수 있다.

비밀주의는 기존 문제를 더 높은 수준에서 재현할 수도 있다. 대중은 각 기업의 비공개 절차를 신뢰하는 대신, 정부와 선택된 기업이 공유하는 비공개 절차를 신뢰하라는 요청을 받는다.

AWS가 AI 시장 전반에 인프라와 모델 접근성을 제공한다는 점에서 Amazon의 역할은 특히 중요하다. Amazon은 자체 모델을 개발하는 동시에 클라우드 서비스를 통해 다른 제공업체의 시스템을 호스팅한다. 따라서 연방 검토 기준은 제품, 파트너, 기업 고객 모두에 영향을 미칠 수 있다.

Google도 유사하게 여러 층위의 위치를 차지한다. Gemini 모델을 개발하고, Google Cloud를 운영하며, DeepMind를 통해 프런티어 연구를 수행하고, 기업과 공공기관에 AI 시스템을 제공한다. 모델 분류 결정은 하나의 소비자 챗봇 출시 이상에 영향을 줄 수 있다.

이것이 amazon google 키워드가 단순히 두 기업명을 넘어서는 이유다. 이 기업들은 프런티어 연구, 클라우드 유통, 기업 조달, 정부 기술을 연결한다. 특정 회의에 다른 참석자 명단이 포함되더라도, 국가 검토 절차는 결국 이런 관계들에 영향을 미치게 된다.

두 회사가 공개한 프레임워크는 실질적인 비교 기준도 제공한다. 두 기업 모두 적어도 일부 위험 범주와 거버넌스 개념을 공개한다. 연방 정부는 자체 의사결정 구조에 대해서는 더 적게 공개하면서도 비슷한 수준의 신뢰를 요구하고 있다.

검토가 한 모델을 지연시키고 다른 모델을 통과시키거나, 개발사별로 서로 다른 접근 조건을 부과한다면 이 불균형은 방어하기 더 어려워질 것이다. 그 시점에서 절차적 투명성은 안전 문제인 동시에 경쟁 문제가 된다.

Amazon과 Google 논쟁이 드러내는 투명성의 상충 관계

안전한 평가는 기밀 시험 세부 사항을 필요로 하지만, 신뢰할 수 있는 평가는 가시적인 규칙, 권한, 책임성을 필요로 한다.

행정부의 가장 강력한 논거는 간단하다. 모든 프롬프트, 익스플로잇 환경, 실패 임계값이 공개되면 사이버보안 시험의 가치는 떨어진다. 고도 모델은 사용자가 취약점을 발견하고, 익스플로잇 코드를 작성하며, 침입의 일부를 자동화하도록 도울 수 있다.

평가자들은 현실적인 시스템과 민감한 표적에 대한 통제된 접근이 필요하다. 또한 개발사, 외부 연구자, 일반 대중과 공유할 수 없는 기밀 위협 정보가 필요할 수 있다.

따라서 정부가 벤치마크 내용을 보호할 정당한 이유는 있다. 문제는 운영상 비밀주의가 제도적 비밀주의로 확장될 때 시작된다.

대중은 여전히 누가 평가자 자격을 얻는지, 이해 충돌은 어떻게 관리되는지, 심각한 역량이 드러난 뒤 무엇이 일어나는지 알아야 한다. 개발사는 하나의 부정적 결과가 출시를 지연시키는지, 시정 조치를 촉발하는지, 아니면 단순히 경고를 남기는지 이해할 필요가 있다.

소규모 연구소에는 또 다른 답이 필요하다. 참여가 진정한 보안 혜택을 제공하는지, 아니면 기존의 워싱턴 인맥을 가진 기업에 유리한 비공식 장벽을 만드는지 알아야 한다.

절차는 공식적으로 자발적이면서도 상업적으로 거부하기 어려워질 수 있다. 연방 기관은 클라우드 서비스와 AI 도구를 구매한다. 규제 당국은 기업의 위험 결정에 영향을 미친다. 정부 승인은 보험사와 기업 조달팀에 강력한 신호가 될 수도 있다.

경쟁사가 참여한 뒤 검토를 거부한 개발사는 고객의 질문에 직면할 수 있다. 반대로 제출한 기업은 정부가 그런 의도를 전혀 갖지 않았더라도 묵시적인 안전 보증을 얻을 수 있다.

이것이 비공개 관문의 위험이다. 의회가 법적 경계를 정의하지 않아도 시장의 기대를 통해 권한이 커질 수 있다. 비공개 검토는 협업으로 시작해 사실상 승인 제도로 발전할 수 있다.

OpenAI의 Chris Lehane은 민주적 제도, 기술 전문성, 그리고 폭넓은 이해관계자 의견을 통해 효과적인 안전 프레임워크를 개발해야 한다고 지지했다. 이 공식은 비밀 절차에 무엇이 부족한지를 드러낸다. 공공 기관은 민감한 증거를 보호하면서도 거버넌스를 설명할 수 있다.

기존의 사이버보안 프로그램은 유용한 선례를 제공한다. 조정된 취약점 공개는 익스플로잇 세부 정보를 보호하는 한편, 보고 채널과 대응 일정, 영향을 받는 공급업체에 대한 기대치를 마련한다. 기밀 위협 프로그램 역시 모든 정보 출처를 공개하지 않으면서 법적 감독 아래 운영된다.

이 이니셔티브의 초기 버전이 보류된 뒤 인터뷰한 보안 임원 Diana Kelley는 지속 가능성을 위해 독립적인 테스트, 명확한 기준, 그리고 실질적인 결과가 필요하다고 주장했다. 최종적으로 보도된 프레임워크는 이러한 거버넌스 문제에 공개적으로 답하지 않았기 때문에, 그녀의 우려는 여전히 유효하다.

Amazon Google 비교는 쟁점을 더욱 선명하게 만든다. Google은 모든 적대적 프롬프트를 공개하지 않고도 역량 수준을 공개할 수 있다. Amazon은 민감한 모델 가중치를 공개하지 않고도 에스컬레이션 프로토콜을 설명할 수 있다. 연방 정부도 공개 거버넌스와 보호된 테스트 자료를 같은 방식으로 분리할 수 있다.

투명성은 기술적 품질에도 영향을 미친다. 외부 연구자들은 내부 팀이 놓친 결함 있는 벤치마크, 오염된 테스트 세트, 가정을 자주 발견한다. 완전히 폐쇄된 평가 절차는 이러한 수정 압력을 제한한다.

당국자들이 실제 사이버 훈련을 공개할 필요는 없다. 위험이 해소된 뒤 벤치마크 설계 원칙, 검증 절차, 평가자 독립성 규칙, 익명화된 결과를 공개할 수 있다.

집계 보고서를 발행할 수도 있다. 이러한 보고서는 검토에 들어간 모델 수, 완화 조치가 필요했던 모델 수, 가장 자주 나타난 위험 범주를 공개할 수 있다. 집계 방식은 기업 기밀을 보호하면서도 프로그램이 실제로 기능하는지를 보여줄 수 있다.

그러한 신호가 없다면 관찰자들은 엄격한 안전 검토와 비공개 협의를 구분할 수 없다. 이 차이는 중요하다. 협의는 개발자에게 정보를 제공하는 반면, 검토는 판단을 의미하기 때문이다.

백악관의 비밀주의는 기업 참여도 약화할 수 있다. 개발자들은 통상 미출시 시스템, 연구 방법, 제품 일정을 보호한다. 정부의 접근이 지식재산을 노출하거나 경쟁 정보 유출로 이어지지 않을 것이라는 확신이 필요하다.

명확한 취급 규칙이 도움이 될 것이다. 제출된 모델에 누가 접근할 수 있는지, 산출물을 얼마나 오래 보관하는지, 결과가 무관한 조달 또는 집행 결정에 영향을 줄 수 있는지에 관한 공개된 제한도 마찬가지다.

비밀주의는 테스트를 보호할 수 있다. 과도한 비밀주의는 테스트를 가능하게 하는 협력을 훼손할 수 있다. 이것이 행정부가 공개적으로 해결하지 않은 상충 관계다.

공개 모델을 제외하면 가장 어려운 위험이 밖에 남는다

보도된 공개 가중치 모델 면제는 출시 후 통제가 가장 약한 영역에서 정확히 프로그램의 범위를 좁힌다.

공개 가중치 모델은 학습된 매개변수를 다운로드할 수 있도록 제공한다. 이 가중치는 수정, 미세 조정, 그리고 원래 개발자의 통제를 벗어난 인프라에서 실행될 수 있다. 이는 학습 데이터, 코드, 개발 과정도 공개될 수 있는 오픈소스 프로젝트와는 다르다.

보도에 따르면 백악관 프레임워크는 적용 대상 최전선 모델을 폐쇄형 시스템으로 제한한다. 따라서 공개 가중치 모델은 비슷한 역량에 도달하더라도 동일한 자발적 연방 테스트를 피하게 된다.

이러한 구분은 행정부의 혁신 의제를 뒷받침한다. 공개 모델은 연구자들이 시스템을 조사하도록 돕고, 기업이 자체 인프라에서 AI를 배포하게 하며, 소수의 API 제공업체에 대한 의존도를 낮춘다.

하지만 이들은 서로 다른 보안 조건도 만든다. 폐쇄형 제공업체는 사용을 모니터링하고, 안전장치를 업데이트하며, 계정을 제한하고, 출시 후 모델을 패치할 수 있다. 이러한 통제는 완벽하지 않지만 여전히 사용할 수 있다.

공개 가중치 배포는 되돌리기 어렵다. 사용자가 가중치를 복사하면 원래 개발자는 모든 버전을 신뢰성 있게 회수하거나 새 안전장치를 강제할 수 없다. international safety report는 이러한 비가역성을 핵심 거버넌스 과제로 지목한다.

면제 지지자들은 공개 모델이 중앙 호스팅 상업 시스템을 위해 설계된 규칙을 물려받아서는 안 된다고 주장한다. 의무적인 출시 전 접근은 연구를 위축시키고, 대형 기존 기업의 지위를 공고히 하며, 개발을 미국 밖으로 밀어낼 수 있다.

비판론자들은 배포 방식이 역량 위험을 없애지는 않는다고 반박한다. 고도화된 사이버 작전을 지원하는 모델은 사용자가 API를 통해 접근하든 가중치를 다운로드하든 여전히 중요하다.

두 주장 모두 타당하지만, 절대적인 범주 면제는 거친 해답이다. 역량 기반 검토는 한 범주를 무해한 것으로 취급하지 않으면서 공개형과 폐쇄형 모델을 다르게 다룰 수 있다.

예를 들어 평가자들은 비가역적 배포에 맞춘 통제를 적용하면서 공개 모델을 출시 전에 검토할 수 있다. 완화 조치는 가중치 보안, 단계적 출시, 하드웨어 요건, 또는 위험한 기능의 보류에 중점을 둘 수 있다.

폐쇄형 시스템은 다른 조치에 직면할 수 있다. 제공업체는 모니터링, 속도 제한, 계정 통제, 서버 측 필터를 추가할 수 있다. 같은 테스트 결과가 출시 유형 전반에 걸쳐 같은 완화 조치를 요구하는 것은 아니다.

그러나 보도된 프레임워크는 적격성 단계에서 아키텍처와 배포 방식을 결정적인 요소로 삼는 것으로 보인다. 이는 역량 기준에 관한 어려운 질문을 해결하지 않은 채, 출시를 공개형으로 설명하려는 유인을 만들 위험이 있다.

이는 경쟁 구도도 복잡하게 만든다. Meta는 공개 모델을 강력히 홍보해 왔고, Anthropic은 가장 강력한 시스템에 대한 더 엄격한 통제를 주장해 왔다. Google은 일부 제품군에서 공개 배포를 지원하면서도 가장 고도화된 시스템은 통제된 상태로 유지한다. Amazon은 AWS를 통해 독점 모델과 공개적으로 이용 가능한 모델을 모두 배포한다.

이러한 혼합 전략은 단순한 기업 대 기업 구도를 오해하게 만든다. 중요한 분열은 개별 기업과 제품군 내부를 가로지른다.

Amazon Google 클라우드 사업은 실질적인 문제를 보여준다. 기업 고객은 하나의 획일적인 출시 구조 아래에서 모델을 사용하지 않는다. 이들은 관리형 API, 다운로드 가능한 가중치, 미세 조정 시스템, 클라우드 마켓플레이스를 통해 제공되는 서드파티 모델을 비교한다.

한 배포 경로는 검토하고 다른 경로는 무시하는 프레임워크는 일관성 없는 보증을 낳을 수 있다. 조달팀은 정부 참여를 폐쇄형 모델이 더 적은 위험을 지녔다는 증거가 아니라, 더 많은 검토를 받았다는 증거로 볼 수 있다.

이 면제는 국제 경쟁에도 영향을 미친다. 미국 밖에서 개발된 공개 모델은 빠르게 확산될 수 있으며, 미국 칩이나 서비스에 대한 접근이 제한된 국가의 국내 연구를 지원할 수 있다.

백악관은 공개 모델의 폭넓은 이용 가능성을 중국과의 전략 경쟁의 일부로 보는 것으로 보인다. 비판론자들은 반대 위험을 지적한다. 고도화된 다운로드 가능 시스템은 미국 제공업체의 통제 범위를 넘어 역량을 이전할 수 있다.

단순한 정책 해법은 없다. 행정부는 더 큰 혁신과 지정학적 영향력을 위해 얼마나 많은 비가역적 확산을 수용할지 결정해야 한다.

보도에 따르면 현 프레임워크는 공개 모델을 제외함으로써 확산 범위를 선택한다. 운영 기준이 비밀로 남아 있기 때문에, 당국자들이 역량 상한을 설정했는지 아니면 단순히 해당 범주를 관문 밖에 남겨뒀는지 대중은 알 수 없다.

이 불확실성은 어떤 개별 벤치마크보다 더 중대하다. 출시 후 통제가 가장 어려운 시스템이 출시 전에는 가장 눈에 띄지 않는 연방 검토를 받을 수 있다.

자발적 검토도 AI 시장을 재편할 수 있다

이 프레임워크의 상업적 영향력은 공식 집행보다 조달, 평판, 정부 전문성에 대한 접근에 더 크게 좌우될 것이다.

자발적 프로그램은 전통적인 라이선스 요건을 부과하지 않는다. 다른 법률이 출시를 막지 않는 한, 기업은 이론적으로 모델을 제출하지 않고도 출시할 수 있다.

시장은 이러한 깔끔한 구분을 좀처럼 유지하지 않는다. 기업 구매자는 기술적 신호를 조달 요건으로 바꾼다. 보험사는 공급업체가 인정된 관행을 따랐는지 묻는다. 이사회는 공급업체가 국가안보 및 사이버보안 위험을 예상했다는 증거를 원한다.

따라서 참여는 경쟁력 있는 자격 증명이 될 수 있다. 정부가 공식 승인을 내리지 않았더라도, 기업은 출시 전 연방 평가자와 협력했다고 고객에게 말할 수 있다.

그러한 표현은 신중한 관리가 필요하다. “검토됨”은 “안전함”을 뜻하지 않으며, 짧은 출시 전 평가는 모든 오용 경로를 식별할 수 없다. 행정부는 개발자들이 참여를 오해를 부르는 정부 보증으로 전환하지 못하게 해야 한다.

불참은 반대의 문제를 만들 수 있다. 스타트업은 절차를 통과하는 데 필요한 법무팀, 보안 환경, 또는 정부 관계가 부족할 수 있다. 고객은 이를 자원 제약이 아니라 안전 실패로 해석할 수 있다.

이러한 조건에서는 대기업이 분명한 우위를 가진다. Amazon, Google, Microsoft, Meta, OpenAI, Anthropic은 이미 보안팀과 연방 기관과의 관계를 유지하고 있다. 이들은 소규모 연구소보다 미출시 모델에 대한 통제된 접근을 더 쉽게 지원할 수 있다.

정부가 무료로 테스트 전문성을 제공하고 독점 정보를 보호한다면, 검토 절차는 여전히 스타트업에 도움이 될 수 있다. 공동 평가 자원은 각 개발자가 값비싼 내부 프로그램을 구축해야 할 필요를 줄일 것이다.

비공개 규칙은 이러한 이점을 불확실하게 만든다. 소규모 기업은 참여를 계획하기 전에 적격성 요건, 신청 절차, 기술적 전제조건, 데이터 처리 보호조치를 알아야 한다.

클라우드 제공업체는 간접적인 압력을 받을 것이다. AWS, Google Cloud, Microsoft Azure는 여러 개발자의 모델을 호스팅한다. 고객은 모델이 연방 검토를 받았는지, 어떤 버전이 테스트되었는지, 이후의 미세 조정이 위험 프로필을 바꿨는지를 기록해 달라고 요청할 수 있다.

버전 관리는 특히 중요하다. 안전성 결과는 특정 모델 구성, 도구 세트, 배포 환경에 적용된다. 동일한 모델을 코드 실행 또는 민감한 데이터베이스에 연결하면 실질적 역량이 바뀔 수 있다.

따라서 기업은 이 프레임워크를 자체 통제를 대체하는 수단으로 취급하지 말아야 한다. 여전히 접근 관리, 로깅, 테스트, 사고 대응, AI 시스템이 검색할 수 있는 데이터에 대한 제한이 필요하다.

지식 근로자도 관련된 문제에 직면한다. 모델이 최전선 사이버 테스트를 통과하더라도 기밀 문서, 규제 대상 기록, 또는 자동화된 비즈니스 의사결정에는 여전히 부적합할 수 있다. 국가안보 검토와 기업 보증은 서로 다른 질문에 답한다.

시스템을 비교하는 팀은 구조화된 AI knowledge base를 활용해 모델 카드, 평가 결과, 정책, 사고 기록을 보존할 수 있다. 연방 검토에 관한 공개 정보가 제한적인 상황에서는 이러한 문서화의 가치가 더 커진다.

Amazon Google 고객은 계약 변경도 주시해야 한다. 클라우드 계약은 검토된 모델과 검토되지 않은 모델, 또는 관리형 시스템과 다운로드 가능한 가중치를 구분하기 시작할 수 있다. 공급업체는 결과를 보장하지 않으면서 평가 참여에 관한 새로운 진술을 추가할 수 있다.

경쟁 당국은 특권적 접근이 불공정한 이점을 만드는지 감시해야 한다. 기존 연구소가 지배하는 절차는 이들이 자신의 아키텍처, 인력 구성, 출시 관행에 맞는 기준을 형성하도록 도울 수 있다.

독립 평가자는 부분적인 균형추 역할을 한다. 이들을 포함하면 전문성을 넓히고, 정부와 주요 기업이 비공개로 서로를 검토한다는 인상을 줄일 수 있다.

독립성은 새 조직의 이름만으로 확보되지 않는다. 평가자에게는 안정적인 자금 지원, 보장된 접근권, 명확한 이해충돌 규정, 중대한 이견을 보고할 자유가 필요하다. 그렇지 않으면 평가 대상 기관의 허가에 따라 접근권이 좌우되는 계약업체에 머물게 된다.

이 프레임워크는 의무화되지 않더라도 유용해질 수 있다. 공통 언어를 마련하고 민감한 테스트를 지원하며, 어느 한 기업도 단독으로 포착하지 못하는 위협을 찾아낼 수 있다.

반대로 기존 강자를 우대하는 민간 표준으로 굳어질 수도 있다. 거버넌스 규칙을 공개하면 이 프로그램이 어느 방향으로 가고 있는지 판단하는 데 도움이 될 것이다.

프레임워크가 신뢰할 만한지 보여줄 세 가지 신호

다음 시험대는 또 다른 백악관 성명이 아니다. 이 과정이 일관된 참여, 신뢰할 수 있는 검증, 그리고 오픈 모델에 대한 방어 가능한 정책을 만들어내는지가 관건이다.

첫 번째 신호는 공개 거버넌스 문서다. 행정부는 누가 검토를 운영하는지, 모델이 어떤 기준으로 자격을 얻는지, 이해충돌을 어떻게 처리하는지, 중대한 발견 이후 개발자가 무엇을 해야 하는지를 공개해야 한다.

이 공개가 기밀 벤치마크를 드러낼 필요는 없다. 공개된다면, 비밀 유지가 진정한 보안 세부 사항에만 한정된다는 주장을 강화할 것이다. 계속 침묵한다면 전체 의사결정 과정이 공개 검증의 범위 밖에 놓여 있다는 비판을 더욱 키울 것이다.

두 번째 신호는 최초로 완료된 검토에서 나온 증거다. 당국은 몇 개의 시스템이 절차에 들어갔는지, 평가자들이 완화 조치를 요청한 빈도는 어느 정도였는지 등을 포함한 종합 결과를 보고해야 한다.

출시 전에는 특정 모델에 관한 보고서가 불가능할 수 있다. 하지만 익명화된 요약만으로도 이 프레임워크가 주요 기업에 비공개 브리핑을 제공하는 데 그치지 않고 출시 결정을 바꾼다는 점을 보여줄 수 있다.

독자는 개발자들이 사용하는 표현을 주시해야 한다. “검토에 참여했다”는 사실에 관한 절차적 주장이다. “정부의 승인을 받았다”는 표현은 이 프로그램이 제공하도록 설계되지 않았을 수 있는 결론을 암시한다.

세 번째 신호는 행정부가 오픈 웨이트 시스템을 어떻게 다루는지다. 당국은 이 면제가 영구적인지, 역량에 따라 제한되는지, 또는 별도의 평가 절차를 적용받는지 설명해야 한다.

별도의 절차는 프레임워크의 위험 기반 논리를 강화할 것이다. 오픈 시스템과 클로즈드 시스템에는 서로 다른 완화 조치가 필요하다는 점을 인정하면서, 한 가지 배포 모델에는 검증이 필요 없다는 가정은 거부하게 된다.

영구적이고 포괄적인 면제는 행정부의 국가안보 논리를 약화시킬 것이다. 당국이 고도화된 사이버 역량을 연방 정부 개입의 이유로 설명하는 상황에서도, 되돌릴 수 없는 공개 배포가 프로그램 밖에 남게 되기 때문이다.

Amazon과 Google은 직접 참여, 공개 의견, 클라우드 정책 또는 자체 안전성 공개를 통해 이 세 가지 신호 모두에 영향을 미칠 것이다. 이들의 기존 프레임워크는 민감한 테스트를 보호하면서도 거버넌스 원칙을 공개하는 방법의 사례를 당국에 제공한다.

다른 기업들도 마찬가지로 중요하다. 더 강력한 프런티어 안전장치에 대한 Anthropic의 지지, 오픈 모델을 옹호하는 Meta의 입장, 폭넓은 이해관계자 참여를 요구하는 OpenAI의 주장은 백악관 절차를 둘러싼 정책 경계를 규정한다.

행정부는 이견을 한쪽이 안전에 반대한다는 증거로 제시하는 일을 피해야 한다. 개발자들은 위험이 발생하는 지점, 효과적인 통제 수단, 규제가 경쟁에 미치는 영향에 대해 서로 다르게 본다. 이는 신뢰할 수 있는 프레임워크가 반드시 다뤄야 할 실질적인 분쟁이다.

기업은 정부의 확정적 인증을 기다리지 말고 이 과정을 추적해야 한다. 공급업체에 어떤 모델 버전이 평가됐는지, 평가자가 어떤 접근권을 받았는지, 그리고 배포 환경에 테스트 구성에는 없던 기능이 포함됐는지를 물을 수 있다.

보안팀은 출시 후 변경 사항에 대한 문서도 요청해야 한다. 외부 도구, 로컬 파일 또는 권한이 높은 시스템에 연결된 모델은 기본 버전이 연방 검토를 거쳤더라도 새 테스트가 필요하다.

지식 노동자도 더 작은 규모에서 같은 원칙을 적용할 수 있다. 어떤 모델이 작업을 처리했는지, 어떤 정보에 접근했는지, 어떤 주장은 사람의 검증이 필요한지를 기록해야 한다. 검색 가능한 지식 베이스는 그러한 결정을 이를 뒷받침하는 근거와 연결해 유지하는 데 도움이 된다.

따라서 Amazon Google 이야기는 두 기술 기업이 안전을 지지하는지 여부에 관한 것이 아니다. 두 기업은 이미 공개적 약속을 내놓고 내부 프레임워크를 개발했다. 아직 해결되지 않은 문제는 워싱턴이 민간 협력을 외부인이 평가할 수 있는 절차로 전환할 수 있느냐다.

기밀 테스트와 민주적 책무성은 상호 배타적이지 않다. 정부는 익스플로잇, 기밀 정보, 미출시 모델 세부 사항을 보호하면서도 권한, 절차, 종합 결과를 공개할 수 있다.

그러한 구분이 나타나기 전까지, 비밀 백악관 프레임워크는 두 가지 상충하는 정체성을 지니게 될 것이다. 위험한 역량을 테스트하기 위한 잠재적으로 유용한 통로인 동시에, 모델 출시를 둘러싸고 점점 더 큰 영향력을 행사하는 불투명한 관문이기도 하다.

앞으로 1~3개월이 어느 정체성이 우세한지 드러낼 것이다. 공개된 거버넌스 규칙, 측정 가능한 검토 결과, 일관된 오픈 모델 정책을 주시하라. 이러한 신호는 Amazon Google의 안전 관행이 신뢰할 수 있는 국가 표준 형성에 기여하는지, 아니면 또 다른 비공개 합의를 둘러싸고 있을 뿐인지를 보여줄 것이다.