Trump의 자발적 AI 안전 계획, 치명적인 공백 남겨

Donald Trump 행정부는 30일간의 AI 검토 절차를 제시했지만, google news 헤드라인은 즉각적인 모순을 드러낸다. 정부는 첨단 모델에 조기 접근하기를 원하면서도 기준은 비공개로 유지하고 참여도 자율에 맡기고 있다.

이 정책은 연방 차원의 AI 감독에 대한 행정부의 기존 반대보다 한층 구체적이다. 당국이 일부 미공개 시스템의 사이버 보안 및 국가 안보 위험을 검토할 수 있는 통로를 만든다. 그러나 오픈 모델은 제외하고, 중요한 용어를 정의하지 않으며, 정부에 명확한 집행 수단도 부여하지 않는다.

이 조합은 Trump AI 프레임워크를 전통적인 규제도, 단순한 업계 자율 통제도 아닌 것으로 만든다. 이는 보안 우려와 미국 모델을 신속히 출시해야 한다는 압박 사이의 경쟁이 빚어낸 선별적 협력 협정이다.

이 변화는 Trump가 Biden 시대의 AI 안전장치 상당수를 폐지했을 때 일단락된 듯 보였던 논쟁도 되살린다. Anthropic, OpenAI, Google, Meta, Microsoft, Nvidia 및 오픈 모델 개발자들은 여전히 대체로 대중에게 가려진 절차 아래에서 서로 다른 기대에 직면하고 있다.

핵심 질문은 더 이상 행정부가 AI 위험을 인식하는지 여부가 아니다. 분명히 인식하고 있다. 더 어려운 질문은 가장 접근하기 쉬운 일부 모델이 체계 밖에 놓인 상황에서 비공개 자율 시스템이 신뢰할 만한 보호를 제공할 수 있느냐는 점이다.

Trump AI 프레임워크가 실제로 바꾸는 것

행정부는 실질적인 검토 통로를 만들었지만, 의무적 AI 안전 규정과는 거리가 멀다.

Trump는 2026년 6월 2일 행정명령 14409에 서명했다. 이 명령은 여러 연방 기관에 AI 모델의 고도화된 사이버 역량을 평가하기 위한 기밀 벤치마크를 개발하도록 지시한다.

여기에는 국가안보국, 사이버보안·인프라보안국, 재무부, 상무부 및 기타 국가안보 관련 기관이 포함된다. 이들의 벤치마크는 어떤 시스템이 “covered frontier model”에 해당하는지 식별하도록 되어 있다.

프런티어 모델은 AI 개발의 최전선에 가까운, 매우 높은 성능의 범용 시스템이다. 이 명칭이 중요한 이유는 적용 대상 모델만 새 협력 절차에 들어가기 때문이다.

executive order에 따라 참여 개발자는 정부에 모델이 해당 범주에 속하는지 문의할 수 있다. 이후 다른 신뢰할 수 있는 파트너에게 공개하기 전 최대 30일 동안 안전한 접근 권한을 제공할 수 있다.

정부와 개발자는 어떤 파트너에게 조기 접근 권한을 줄지도 함께 결정할 수 있다. 여기에는 핵심 인프라 운영자, 보안 연구자, 대기업 또는 미공개 시스템을 맡길 수 있는 기타 기관이 포함될 수 있다.

검토의 주된 관심사는 사이버 역량이다. 당국은 첨단 모델이 소프트웨어 취약점을 찾아내거나, 침입을 자동화하거나, 중요 시스템에 대한 공격을 강화할 수 있는지를 파악하려 한다.

이 초점은 “AI safety”라는 넓은 표현이 암시하는 범위보다 좁다. 이 명령은 차별, 허위정보, 프라이버시 실패, 노동 영향 또는 일반 소비자 피해를 검토하는 일반 절차를 마련하지 않는다.

또한 이 프레임워크는 AI 모델 출시를 위한 의무적 라이선스, 사전 승인 또는 허가를 만들 수 없다고 명시한다. 개발자는 이 절차를 통해 정부 승인을 받지 않아도 법적으로 모델을 공개할 자유가 있다.

이 제한은 의도적이다. Trump는 감독이 중국에 맞선 미국 산업의 경쟁력을 약화할 수 있다는 우려를 표명한 뒤, 더 이른 버전의 명령을 연기했다.

최종 명령은 예상 검토 기간을 줄이고 자발적 참여를 강조했다. 기술 기업들이 지나치게 혼란을 초래한다고 본 더 긴 검토 기간 보도는 30-day process로 대체됐다.

따라서 이 프레임워크는 선도 연구소와 연방 보안 기관의 관계를 바꾼다. 엄격한 기밀 유지 통제 아래 당국이 특정 미공개 시스템을 살펴볼 수 있는 공식 경로를 제공한다.

그러나 기업에 그 관계에 참여하도록 요구하지는 않는다. 정부가 출시를 차단할 권한을 부여하지도 않는다. 검토자가 심각한 위험을 발견했을 때 어떤 일이 일어나는지도 명확히 설명하지 않는다.

이것이 헤드라인과 메커니즘 사이의 첫 번째 큰 공백이다. 행정부에는 살펴보는 절차가 있지만, 멈추게 하는 확립된 절차는 없다.

Google News가 빠진 규정집에 주목하는 이유

가장 큰 논란은 기준이 기밀이라는 점이 아니라, 거의 모든 운영 세부 사항을 외부가 검증할 수 없다는 데 있다.

최근 google news 보도는 백악관 회의에서 일부 기술 기업에 제시된 것으로 알려진 프레임워크를 중심으로 전개된다. 행정부는 전체 문서를 공개할 계획이 없다.

일부 비밀 유지는 이해할 만하다. 고도화된 해킹 능력을 시험하도록 설계된 벤치마크는 그 시험을 회피하기 위한 지침이 될 수도 있다. 모든 과제, 기준선 및 취약점을 공개하면 평가가 약화된다.

그러나 정부는 민감한 시험 세부 사항을 보호하면서도 거버넌스는 설명할 수 있다. 자격 규칙, 결정 권한, 이해충돌 절차, 이의 제기 선택지, 보고 기대치 및 심각한 발견에 따른 결과를 공개할 수 있다.

이런 기본 요소는 여전히 불분명하다.

inside account에 따르면, 초안 프레임워크는 선도적 역량과 국가 안보 위험을 지닌 폐쇄형 모델을 다룬다. “state-of-the-art” 역량이나 해당 국가 안보 위험에 대한 명확한 공개 정의는 제공하지 않는 것으로 알려졌다.

이 모호성은 어떤 시스템이 주목을 받을지에 대해 당국에 폭넓은 재량을 준다. 비슷한 역량을 지닌 두 모델도 하나는 폐쇄형이고 다른 하나는 다운로드 가능한 가중치를 배포한다는 이유로 다르게 취급될 수 있다.

모델 가중치는 AI 시스템이 출력을 생성하는 방식을 형성하는 학습된 수치 매개변수다. 오픈웨이트 모델은 다른 이들이 이 매개변수를 다운로드하고 수정하며 배포할 수 있도록 한다.

이 프레임워크는 적용 대상 시스템이 검토 기간 동안 고보안 환경에 머물도록 요구하는 것으로 알려졌다. 접근은 기록되며, 정부가 모델을 검토하는 동안 직원의 사용이 제한될 수 있다.

이러한 통제는 지식재산을 보호하고 내부자 위험을 줄일 수 있다. 그러나 누가 정부의 결론을 검토하거나 일관되지 않은 결정을 이의를 제기할 수 있는지에는 답하지 못한다.

이 명령은 NSA 국장을 포함한 보안 기관에 중심 책임을 부여한다. 이는 깊은 사이버 전문성을 제공할 수 있지만, 대개 업무가 비공개인 기관들에 권한을 집중시키기도 한다.

Cato Institute의 Juan Londoño는 자발적 방향을 환영하면서도 모호한 자격 요건과 신뢰할 수 있는 파트너 결정에 대해 경고했다. 그는 집중된 재량이 정부와 정치적 분쟁에 연루된 기업을 상대로 사용될 수 있다고 주장했다.

이 우려는 추상적인 것이 아니다. 연방 정부는 이미 Anthropic과 자사 시스템의 군사적 사용을 두고 공개 충돌을 빚었다. 따라서 비공개 프레임워크는 기술적 위험 판단을 조달 분쟁 및 정치적 보복과 분리해야 한다.

투명성 옹호자들은 다른 문제를 제기한다. Americans for Responsible Innovation은 제한된 집단과 공유되는 비공개 절차가 외부인으로 하여금 첨단 모델이 의미 있는 감독을 받는지 평가할 수 없게 만든다고 주장한다.

이 단체의 더 광범위한 framework criticism은 약한 연방 기준이 더 강력한 주 차원의 보호를 대체할 수 있다고 주장한다. 이 문제는 사이버 보안 검토를 넘어서는 것이지만, 불명확한 연방 안전장치의 비용을 부각한다.

주변 절차가 가시적이라면 기밀 벤치마크도 신뢰할 수 있는 감독을 뒷받침할 수 있다. 규제기관은 민감한 증거를 보호하면서도 규칙, 관할 경계, 집행 정책 및 집계 결과를 정기적으로 공개한다.

현재 Trump AI 안전 규칙은 그 균형을 뒤집고 있다. 정부는 공개적으로 광범위한 절차를 설명했지만, 실무 규칙 상당수는 일부 기업에만 남겨둔 것으로 알려졌다.

이 방식은 백악관에 직접 접근할 수 있는 기존 연구소에 유리하다. 소규모 개발자, 연구자, 주 정부 관계자 및 시민사회 단체는 유출과 2차 보도에 의존해 시스템의 작동 방식을 추정해야 한다.

따라서 Google News는 단지 절차적 분쟁을 증폭하는 것이 아니다. 보도는 근본적인 정당성 문제를 드러낸다. 대중은 볼 수 없는 안전 프레임워크를 평가할 수 없다.

오픈 모델은 안전 검토 밖에 놓여 있다

이 프레임워크의 핵심적 절충은 접근이 통제되는 곳에는 검증을 적용하는 반면, 출시 후 통제가 더 어려워지는 모델은 면제한다는 점이다.

오픈 모델은 현재 검토 절차 밖에 있는 것으로 알려졌다. 프레임워크는 또한 공개 후 이들 모델을 제한하는 것으로 해석되어서는 안 된다고 명시한다.

그 선택에는 실무적 논거가 있다. 자발적인 출시 전 협력은 한 기업이 모델, 인프라 및 출시 일정을 통제할 때 가장 쉽게 작동한다.

폐쇄형 모델 개발자는 시스템을 안전한 환경에 두고 시험 기간 중 접근을 제한할 수 있다. 기본 가중치를 배포하지 않은 채 안전장치를 수정하거나, 배포를 미루거나, 위험한 기능을 제한할 수 있다.

오픈웨이트 개발자는 다른 출시 결정을 마주한다. 가중치를 다운로드할 수 있게 되면 사본은 여러 관할권과 사설 서버로 퍼질 수 있다. 이후의 제한은 집행하기 어려워진다.

이 차이는 오픈 모델을 제외하기보다 더 신중하게 검토해야 한다는 근거가 될 수 있다. 이들의 배포 방식은 폐쇄형 시스템 시험이 포착하지 못할 별도의 위험을 제기한다.

오픈 모델은 상당한 이점도 제공한다. 독립 연구자는 이를 검토할 수 있고, 기업은 민감한 데이터를 원격 제공업체에 보내지 않고 배포할 수 있으며, 소규모 개발자는 하나의 대형 연구소에 의존하지 않고 구축할 수 있다.

지지자들은 폭넓은 접근이 소수 AI 기업 사이의 집중을 줄인다고 주장한다. 더 많은 전문가가 동일한 시스템을 시험할 수 있기 때문에 보안 연구도 개선할 수 있다.

행정부는 이러한 장점을 보존하려는 것으로 보인다. 오픈 개발을 미국 경쟁력에 중요한 요소이자 폐쇄형 AI 과점에 대한 견제 수단으로 거듭 다뤄왔다.

문제는 가장 강력한 오픈 모델 가운데 일부가 중국 개발사에서 나온다는 점이다. Alibaba의 Qwen 제품군과 Moonshot AI의 Kimi 시스템은 모델의 개방성과 지정학적 출처를 하나의 문제로 취급할 수 없는 이유를 보여준다.

백악관 프레임워크는 미국 기업과의 자발적 협력을 중심으로 구축됐다. 중국 개발사가 미공개 시스템을 미국 보안 기관에 제공하거나 비공식적인 연방 압력에 대응할 이유는 거의 없다.

analysis of China는 정부가 중국 모델을 위한 별도의 조달, 접근 또는 공급망 정책을 필요로 할 수 있다고 지적한다. 이러한 수단은 현재 검토 채널 밖에 남아 있다.

이 구분은 불균등한 환경을 만든다.

선도적인 미국 폐쇄형 모델은 출시 전에 정부 검토에 들어갈 수 있다. 유사한 성능의 오픈웨이트 시스템은 그 절차를 피할 수 있다. 이후 외국산 오픈 모델은 공개된 뒤 클라우드 서비스와 사설 배포를 통해 유통될 수 있다.

개방형 시스템을 제외하면 Meta와 같은 미국의 오픈 모델 개발사에 가해지는 압박이 줄어들 수 있다. 또한 기업들이 폐쇄형 모델 범주와 관련된 의무를 피하기 위해 가중치를 공개하도록 유도할 수도 있다.

그 유인은 아직 알려지지 않은 프레임워크의 세부 사항에 달려 있다. 참여가 신뢰할 수 있는 정부 관계와 주요 고객에 대한 더 쉬운 접근을 제공한다면, 폐쇄형 개발사들은 검토를 이점으로 볼 수 있다.

검토가 지연, 정보 유출 또는 예측할 수 없는 개입을 초래한다면 개방성은 규제 회피 경로가 될 수 있다. 기업들은 근본적인 위험 수준이 아니라 정부의 분류 체계를 중심으로 출시 전략을 재설계할 수 있다.

개방형과 폐쇄형 시스템의 구분도 들리는 것만큼 안정적이지 않다. 한 기업은 가중치를 공개하면서도 모델 재현에 필요한 학습 데이터, 안전성 방법론 또는 소스 코드는 공개하지 않을 수 있다.

다른 개발사는 가중치를 공개하지 않고도 API를 통해 폭넓은 접근을 제공할 수 있다. 어느 쪽도 단순한 개방성 기준에 정확히 들어맞지 않는다.

라벨보다 중요한 것은 성능이다. 중간 수준의 성능을 가진 오픈 모델은 매우 뛰어난 폐쇄형 시스템보다 당장의 위험이 적을 수 있다. 선도적인 오픈 모델은 누구나 이를 변형할 수 있기 때문에 더 큰 확산 위험을 초래할 수 있다.

트럼프 AI 프레임워크에는 두 차원을 모두 평가하는 방법이 필요하다. 모델이 무엇을 할 수 있는지와 그 능력이 얼마나 빠르게 확산될 수 있는지를 함께 고려해야 한다.

그 방법이 제시되기 전까지 오픈 모델 면제 조항은 당국이 완전한 위험 분류 체계를 마련하기 전에 내린 정책 결정으로 보인다. 이는 접근성과 경쟁을 보호하지만, 가장 어려운 통제 문제는 다른 곳에 남겨 둔다.

자발적 검토가 AI 기업에 가하는 압박

이 프레임워크는 책임을 민간 연구소 쪽으로 옮기면서, 법적 이유가 아닌 정치적·상업적 이유로 협력할 유인을 제공한다.

자발적이라고 해서 중요하지 않다는 뜻은 아니다. 검토를 거부하는 개발사는 연방 기관, 국방 고객, 규제 산업, 핵심 인프라 운영자와의 관계를 훼손할 수 있다.

정부 승인이 공식적으로 필수는 아니지만, 협력은 신뢰 신호로 작용할 수 있다. 은행, 공공사업자, 병원, 공공기관은 연방 사이버보안 테스트에 참여한 모델을 선호할 수 있다.

이는 OpenAI, Anthropic, Google, Microsoft 및 기타 폐쇄형 모델 개발사에 압박을 가한다. 각 기업은 어느 정도의 접근을 제공할지, 모델이 출시 시점에 얼마나 가까워야 할지, 어떤 제한을 받아들일지를 결정해야 한다.

보도에 따르면 행정부는 기업들이 초기 프로토타입이 아니라 대중 공개 직전의 시스템을 제출하도록 권장했다. 이 접근법은 검토자가 이후 크게 변경되는 모델을 테스트하는 데 시간을 쓸 가능성을 낮춘다.

동시에 대응 기간도 압축한다. 출시 직전에 심각한 문제가 발견되면 개발사는 출시를 미루거나 접근을 제한하거나, 해결되지 않은 위험을 안은 채 출시해야 할 수 있다.

행정명령은 누가 그 결정을 내리는지 밝히지 않는다. 기업이 공식적인 통제권을 유지할 수는 있지만, 보안 권고를 거부하면 평판 손상이나 연방 조달상의 불이익을 초래할 수 있다.

이 체계는 규제라기보다 협력적 위험 관리에 가깝다. 정부 전문가들은 정보와 영향력을 제공하고, 개발사들은 법적 출시 권한을 유지한다.

지지자들은 바로 그 유연성이 핵심이라고 본다. 이 절차는 법률 제정보다 빠르게 적응할 수 있고, 기밀 시스템을 보호하며, 시간이 지나면 낡아지는 고정된 승인 체계를 피할 수 있다.

America First Policy Institute는 국가 안보와 지속적인 AI 개발을 연결했다는 이유로 이 명령을 환영했다. 이 입장은 경직된 통제가 미국 기업의 해외 경쟁사 대비 경쟁력을 약화할 것이라는 행정부의 믿음을 반영한다.

주요 연구소들도 신중한 지지를 표명했다. OpenAI는 효과적인 프레임워크가 민주적 제도, 기술 전문성, 폭넓은 이해관계자 의견을 활용해야 한다고 밝혔다.

Anthropic은 이 행정명령을 미국 AI 리더십을 위한 중요한 진전이라고 설명했다. 서명 전후 보도에 따르면 Google도 이 계획을 환영했다.

이런 발언이 기업들이 모든 시행 세부 사항을 받아들였다는 증거는 아니다. 다만 주요 개발사들이 특히 사이버 역량과 관련해 연방 차원의 공조에서 이점을 인식하고 있음을 보여준다.

어려운 문제는 협력이 실패했을 때의 책임성이다.

정부 팀이 미공개 모델이 정교한 침입을 자동화할 수 있다는 사실을 발견했다고 가정해 보자. 개발사는 안전장치를 추가하거나 접근을 제한하거나 공개를 연기할 수 있다. 반대로 테스트 결과에 이의를 제기하고 진행할 수도 있다.

이 명령은 그 이견을 조정할 독립 기구를 설치하지 않는다. 발견 사항이 주요 인프라와 관련되더라도 출시 후 공개 설명을 요구하지 않는다.

기업은 그러한 갈등이 시작되기 전부터 참여를 거부할 수도 있다. 연방 기관이 다른 권한을 보유할 수는 있지만, 검토 프레임워크 자체가 출시 금지를 만들지는 않는다.

이러한 한계는 이를 바이든 행정부의 접근법과 구분한다. 바이든의 2023년 행정명령은 국방물자생산법을 활용해 특정 시스템의 개발사들이 안전성 테스트 정보를 정부와 공유하도록 요구했다.

트럼프는 재집권 후 그 명령을 철회했다. 그의 행정부는 이제 일부 동일한 근본 우려를 받아들이면서도 의무 보고와 광범위한 출시 전 감독은 거부한다.

Mark Warner 상원의원은 새 정책을 환영하면서도 행정부가 스스로 해체한 보호 장치를 다시 만들고 있다고 비판하며 이 변화를 포착했다. 그의 주장은 규제 언어가 바뀌었어도 보안 문제는 그대로 남아 있었다는 것이다.

백악관은 이 비교를 다르게 본다. 백악관은 새 정책을 모델 개발에 대한 포괄적 통제가 아니라 집중된 협력으로 규정한다.

두 설명 모두 일부 진실을 담고 있다. 행정부는 첨단 시스템 평가에 정부 참여를 복원했지만, 범위를 좁히고 강제 가능한 참여 요건은 제거했다.

그 결과 기업들은 완만한 압박을 받는다. 법률이 요구하지 않을 때에도 연방 관계, 고객 기대, 대중의 감시가 협력을 이끌 수 있다.

유인이 일치할 때 완만한 압박은 효과를 낼 수 있다. 평판이 좋은 개발사는 대형 사이버 사고를 일으킬 모델을 출시하고 싶어 하지 않는다. 또한 정부 전문성과 핵심 인프라 파트너에 대한 접근도 중시한다.

상업적 유인이 속도를 향할 때 이 체계는 약해진다. 최첨단 연구소들은 치열한 경쟁에 직면해 있으며, 한 번의 출시 지연은 다른 기업에 이점을 줄 수 있다.

폐쇄형 기업들은 검토를 우회하는 오픈 모델과도 경쟁해야 한다. 30일 절차에 참여하는 연구소는 비슷한 감시 없이 유능한 오픈 경쟁사가 출시하는 모습을 지켜볼 수 있다.

이것이 이 정책이 초래하는 가장 즉각적인 시장 왜곡이다. 검토에 자발적으로 참여하는 개발사들이, 그들의 출시물이 여전히 더 쉽게 통제될 수 있는 경우에도 가장 큰 절차적 부담을 질 수 있다.

트럼프 AI 안전 규칙이 직면한 세 가지 신뢰성 시험

이 계획은 민간 테스트가 가시적이고 일관되며 기술적으로 방어 가능한 결과를 낼 때에만 신뢰를 얻을 수 있다.

첫 번째 시험은 정의다. 행정부는 민감한 벤치마크 과제를 공개하지 않으면서 어떤 시스템이 적용 대상 최첨단 모델에 해당하는지 설명해야 한다.

실행 가능한 정의는 여러 요소를 결합할 수 있다. 여기에는 측정된 사이버 역량, 자율성, 신뢰성, 컴퓨팅 규모, 접근 통제, 오용의 결과가 포함된다.

“최첨단”과 같은 표현만으로는 충분하지 않다. 성능 순위는 빠르게 바뀌며, 모델은 모든 벤치마크에서 선두가 아니더라도 한 분야에서는 위험해질 수 있다.

정부는 적용 대상이 모델 자체인지, 아니면 출시 형식인지도 설명해야 한다. 현재의 폐쇄형·개방형 시스템 구분은 포장 방식이 성능만큼 중요할 수 있음을 시사한다.

두 번째 시험은 절차적 일관성이다. 기업들은 누가 자사 모델을 받는지, 당국이 지식재산을 어떻게 보호하는지, 기관 간 이견이 생기면 어떻게 되는지 알아야 한다.

행정명령은 기밀 유지, 사이버보안, 내부자 위험, 비밀유지 보호를 요구한다. 이러한 약속은 출시 전에 상업적으로 민감한 시스템이 조기 접근에 노출되기 때문에 중요하다.

정부는 결국 참여에 관한 집계 정보를 보고해야 한다. 검토된 모델 수, 발견 사항으로 변경이 이뤄진 건수, 가장 자주 나타난 위험 범주를 공개할 수 있다.

그런 보고는 모델의 비밀을 드러내지 않는다. 프레임워크가 회의가 아니라 실제 조치를 만들어 내는지 보여줄 것이다.

세 번째 시험은 행정부가 심각한 발견 사항을 어떻게 다루는가다. 자발적 절차는 참여자들이 증거에 대응할 때에만 의미를 갖는다.

정부가 익스플로잇을 공개하거나 영향을 받은 모든 기업의 이름을 밝혀야 하는 것은 아니다. 다만 핵심 인프라나 국가 안보를 위협하는 위험에 대한 명확한 단계적 대응 경로는 필요하다.

그 경로에는 추가 테스트, 제한적 배포, 목표화된 조달 조건 또는 기존 법적 권한을 보유한 기관으로의 회부가 포함될 수 있다. 현재 프레임워크는 이 단계를 공개적으로 명시하지 않는다.

행정부는 선택적 집행도 막아야 한다. 기업 경영진이 더 큰 정치적 접근성을 누리거나 연방 기관과 별도의 분쟁을 겪고 있다는 이유로 서로 다른 대우를 받아서는 안 된다.

독립적인 기술 검토가 도움이 될 수 있다. 여러 기관, 국립 연구소, 학계, 승인된 외부 조직의 전문가들이 안전한 환경에서 다툼이 있는 발견 사항을 검토할 수 있다.

정책의 비공개성은 이런 안전장치를 더욱 중요하게 만든다. 외부 관찰자가 증거를 검토할 수 없을 때, 그들은 증거를 평가하는 절차의 무결성을 신뢰해야 한다.

행정부의 지지자들은 전통적인 규제가 더 큰 위험을 만들 것이라고 주장할 수 있다. 정적인 규칙은 낡은 가정을 고착화하고, 규정 준수 팀에 자금을 댈 수 있는 기업에 유리하게 작용하며, 방어적 연구를 늦출 수 있다.

그런 위험은 현실적이다. 그러나 국가 안보에 영향을 미치는 자발적 프로그램에 기본적인 거버넌스가 필요하다는 점을 없애지는 않는다.

유연한 절차도 안정적인 원칙을 공개할 수 있다. 이해충돌을 정의하고, 기술 기록을 보존하며, 재검토를 제공하고, 다른 권한이 언제 관련되는지 설명할 수 있다.

더 넓은 연방 환경은 또 다른 신뢰성 문제를 더한다. 백악관은 의회가 국가 정책을 만들고 일부 주 AI 법률을 선점하기를 바란다.

연방 보호 장치가 자발적이고 비공개로 남는다면, 주 정부는 선점이 이를 대체할 강제 가능한 안전장치 없이 집행 가능한 보호책을 제거한다고 주장할 것이다. 기업들은 하나의 국가 표준을 선호할 수 있지만, 공직자들은 그 표준이 실제로 무엇을 요구하는지 물을 것이다.

주 법률이 자동화된 결정, 투명성, 아동 안전, 최첨단 모델 위험을 다루면서 이 갈등은 심화할 가능성이 높다. 사이버 검토는 그러한 우려의 일부만 다룬다.

따라서 “AI 안전 규칙”이라는 표현은 정부가 구축한 것을 과장할 수 있다. 현재 시스템은 일부 고도화된 모델을 위한 국가 안보 테스트 파트너십이다.

이 구분은 일반 사용자에게 중요하다. 모델의 참여가 정부가 이를 정확하고 편향이 없으며 개인정보를 보호하고 모든 용도에 안전하다고 인증했다는 뜻은 아니다.

기업들은 참여를 포괄적인 연방 승인으로 마케팅해서는 안 된다. 구매자는 모델이 데이터, 권한, 모니터링, 인간 검토, 분야별 위험을 어떻게 다루는지 계속 평가해야 한다.

개발사들은 정부 테스트 이후 모델 변경에 대한 기록도 보존해야 한다. 시스템은 미세 조정, 도구 접근 또는 배포 업데이트 이후 다르게 작동할 수 있다.

테스트 결과는 특정 시점의 특정 구성에 적용된다. 이후의 모든 통합이 안전하다고 보장할 수는 없다.

이러한 한계가 프레임워크를 무용하게 만드는 것은 아니다. 이는 유망한 보안 채널을 신뢰할 수 있는 제도로 바꾸기 위해 필요한 작업을 규정한다.

Google News 독자가 다음으로 주목해야 할 점

세 가지 신호가 행정부가 실질적인 안전장치를 구축했는지, 아니면 기밀 논의 절차만 마련했는지를 보여줄 것이다.

첫 번째 신호는 공개 거버넌스 문서다. 백악관이 기밀 벤치마크를 공개할 필요는 없지만, 자격 기준과 의사결정 절차는 발표해야 한다.

적용 대상 모델, 신뢰할 수 있는 파트너, 검토 권한, 상향 보고 절차의 정의를 주시해야 한다. 명확한 공개 규칙은 기밀 유지가 책임 회피가 아니라 테스트 보호를 위한 것이라는 행정부의 주장을 강화할 것이다.

계속된 침묵은 그 주장을 약화시킬 것이다. 백악관 회의에 참여하지 못하는 기업은 계획을 세울 수 없게 되고, 독립 전문가들은 구조적 허점을 식별하기 어려워진다.

두 번째 신호는 검토가 모델 출시를 바꾼다는 증거다. 가장 강력한 증거는 연방정부의 판단 이후 문서화된 출시 지연, 접근 제한, 안전 업데이트 또는 배포 변경일 것이다.

국가 안보상 필요하다면 공개 내용은 익명화할 수 있다. 중요한 것은 이 절차가 단지 정부 관계자들에게 조기 시연을 제공하는 데 그치지 않고 실제 의사결정에 영향을 준다는 점을 보여주는 것이다.

기업들이 변경 사항 보고 없이 일관되게 예정대로 모델을 출시한다면, 두 가지 해석이 경쟁하게 된다. 시스템이 의미 있는 테스트를 통과했거나, 테스트가 영향력이 부족했을 수 있다.

집계 보고는 이 두 가능성을 구분할 수 있다. 그것이 없다면 프레임워크의 성공 여부는 정부 밖에서 측정할 수 없게 된다.

세 번째 신호는 오픈 웨이트 및 해외 모델에 대한 정책이다. 행정부는 이런 시스템을 자발적인 사전 출시 절차와 분리했지만, 그에 따른 보안 영향을 해결하지는 못했다.

조달 제한, 클라우드 호스팅 요건, 공급망 규칙 또는 독립적인 출시 후 평가는 그 공백의 일부를 메울 수 있다. 어떤 대응이든 기술적 위험과 개방성 자체에 대한 일괄적 거부를 구분해야 한다.

역량 기반 접근법은 정책을 강화할 것이다. 일관된 테스트가 없는 정치적으로 선별적인 금지는 정책을 약화시킬 것이다.

개발자와 엔터프라이즈 구매자는 각 google news 헤드라인을 최종 판단으로 여기기보다 이 신호들을 따라야 한다. 이 프레임워크는 아직 완성된 규제 체계가 아니라 시행 과정의 이야기다.

보안팀은 공급업체에 모델이 연방 테스트에 들어갔는지, 검토자들이 어떤 구성을 살폈는지, 어떤 변경이 뒤따랐는지를 물어야 한다. 참여가 인증과 같다고 가정해서는 안 된다.

오픈 모델을 사용하는 기업은 사이버 악용, 데이터 노출, 접근 제어 및 도구 자율성에 대해 자체 평가를 수행해야 한다. 연방 절차의 면제는 기술적 위험을 줄여주지 않는다.

지식 근로자는 같은 문제의 더 조용한 형태에 직면한다. 최첨단 사이버 역량에 초점을 맞춘 정부 검토는 일상 업무에서의 기밀 문서, 부정확한 출력 또는 안전하지 않은 자동화 작업에 대해서는 거의 말해주지 않는다.

따라서 독자는 세 가지 질문을 구분해야 한다. 모델이 검토됐는가, 어떤 위험을 테스트했는가, 실제 배포 환경에는 어떤 보호 조치가 적용되는가?

최근 google news 흐름은 실제 정책 전환을 드러냈다. 트럼프 행정부는 이제 일부 고도화된 모델이 광범위한 출시 전에 정부의 감독을 받아야 한다는 점을 인정한다.

그러나 선택한 메커니즘에는 한계가 있다. 참여는 자발적이고, 기준은 대부분 비공개이며, 오픈 모델은 절차 밖에 있고, 테스트 실패의 결과도 불확실하다.

그렇다고 이 계획이 공허한 것은 아니다. 발표 자체보다 다음 결정들이 더 중요하다는 뜻이다.

공개 거버넌스, 출시 변경의 증거, 오픈 모델에 대한 일관된 접근법을 지켜봐야 한다. 이 세 가지 전개는 트럼프 AI 안전 규칙이 지속 가능한 감독 체계로 자리 잡을지, 아니면 계획의 개념에만 머물지를 보여줄 것이다.