Gottheimer AI 안전 법안, 프런티어 모델 출시의 대가로 연방 테스트 요구

Josh Gottheimer는 중심에 명확한 충돌을 둔 초당적 AI 법안 두 건을 발의했다. 프런티어 개발자는 해당 모델을 출시하기 전에 의무적인 연방 검토를 거쳐야 한다. Gottheimer AI 안전 법안은 자발적 절차를 정부가 통제하는 국가안보 점검 단계로 대체하게 된다.

9월 18일 발표는 이 검토 제안과 함께 연방 시스템 전반에서 중국이 개발한 오픈 웨이트 모델을 겨냥한 금지 조치를 담았다. 오픈 웨이트 모델은 재사용 가능한 모델 파라미터를 공개해, 조직이 원 개발자에게 전적으로 의존하지 않고도 이를 운영하거나 수정할 수 있게 한다.

이 패키지는 단순히 책임 있는 AI를 촉구하는 또 하나의 요구가 아니다. 연구소, 외부 감사기관, 자발적 정부 파트너십이 가장 심각한 모델 위험을 관리할 수 있다는 현재의 가정에 도전한다. 핵심 시험대는 중앙집중식 연방 검토가 신뢰할 수 없는 출시 관문이 되지 않으면서 보안을 개선할 수 있는지다.

Gottheimer AI 안전 법안, 연방 출시 점검 단계 신설

American AI Security Act는 가장 강력한 AI 모델의 출시 전 협력을 의무적인 국가안보 검토로 전환한다.

뉴저지주 민주당 소속 Gottheimer는 뉴욕주 공화당 소속 Mike Lawler 하원의원과 함께 이 법안을 발표했다. Gottheimer의 9월 18일 공식 발표에 따르면, 이 제안은 해당 프런티어 모델의 개발자가 출시 전에 국가안보국에 접근 권한을 제공하도록 요구한다.

프런티어 모델은 AI 개발의 최전선에 가까운, 매우 강력한 범용 시스템이다. 정부는 해당 모델이 심각한 사이버 공격이나 화학·생물·방사능 무기 개발을 지원할 수 있는지 평가하게 된다.

공식 발표는 초기 검토의 기한을 30일로 제시한다. 필요할 경우 당국은 추가로 30일을 한 차례 연장할 수 있다.

이 기한은 중요하다. 무기한 검토는 사실상 불확정적인 출시 보류로 작동할 수 있다. 반면 짧은 검토는 평가자가 충분한 접근 권한, 컴퓨팅 역량, 기술 지원을 받지 못한다면 피상적 절차가 될 위험이 있다.

이 제안은 기업이 평가 절차를 지원하는 것을 허용한다. Gottheimer의 발표에 따르면, 국가안보 사안에 사용되는 법적 절차를 모델로 한 신속한 이의 제기 절차도 포함한다.

정확한 시행 세부사항은 여전히 중요하다. 발표문은 어떤 역량 기준이 모델을 검토 대상으로 만들지 완전히 설명하지 않는다. 또한 모델 업데이트, 미세 조정 변형, 여러 소형 모델을 결합해 구축한 시스템에 관한 의문도 남긴다.

이러한 정의가 법의 적용 범위를 결정할 것이다. 좁은 기준은 대형 연구소의 비용이 많이 드는 소수의 학습 실행만 포괄할 수 있다. 더 넓은 기준은 도구나 사후 학습 수정으로 위험한 능력을 획득한 소규모 개발자까지 포착할 수 있다.

따라서 이 법안은 단순한 테스트 요건 이상을 만든다. 특정 민간 개발 모델이 더 넓은 배포로 나아갈 수 있는 시점을 연방 정부가 공식적으로 결정하는 역할을 부여하게 된다.

이는 행정부의 자발적 프레임워크에서 뚜렷이 벗어나는 변화다. 또한 외부 감사기관의 가시성이 제한적인 경우가 많은 평가 절차 안에 기밀 국가안보 지식을 배치한다.

Gottheimer는 독립 감사기관에 충분한 인력, 컴퓨팅 자원, 연구소 접근 권한, 보안 인가가 부족하다고 주장한다. 개발자가 테스트 생태계의 자금 조달을 돕는 경우 이들의 독립성에도 의문을 제기한다.

이 의원의 우려는 이해할 만하다. 민간 평가기관은 알려진 시나리오를 테스트할 수 있지만, 정보기관이 보유한 모든 기밀 위협 평가를 독자적으로 재현할 수는 없다.

정부 검토에도 자체적인 한계가 있다. 연방 평가기관은 모델 접근 권한, 인프라, 문서, 전문 지식 면에서 동일한 개발자에게 의존하게 될 수 있다.

American AI Security Act는 개발자의 기술 지원을 허용함으로써 이러한 의존성을 관리하려 한다. 그러나 이 방식이 모델 구축자와 검토자 사이의 정보 비대칭을 없애지는 못한다.

핵심 변화는 여전히 분명하다. 기준을 충족하는 프런티어 모델의 출시는 더 이상 개발자의 내부 결정이나 연방 테스트 참여 의사에만 좌우되지 않게 된다.

이 법안은 워싱턴의 자발적 모델 검토를 거부한다

핵심 쟁점은 안전과 무제한 개발의 대립이 아니라, 의무적 정부 검토와 자발적 협력의 대립이다.

2026년 6월 행정명령은 연방 기관에 고급 사이버 역량을 위한 기밀 벤치마킹 절차를 만들도록 지시했다. 이 절차는 특별한 대응이 필요한 모델을 식별하기 위한 것이다.

이 명령은 또한 개발자가 출시 전에 해당 모델을 정부에 제공할 수 있는 프레임워크를 만들었다. 신뢰할 수 있는 파트너가 시스템을 받기 전까지 접근은 최대 30일간 지속될 수 있다.

그러나 Executive Order 14409는 새 AI 모델의 개발과 출시를 위한 의무적 라이선스, 사전 승인, 허가를 명시적으로 거부한다. 초기 접근 프레임워크 참여는 자발적으로 유지된다.

Gottheimer의 법안은 이 선택을 뒤집게 된다. 해당 모델의 개발자는 참여해야 하며, 검토는 사이버 역량과 무기 관련 위험을 모두 살피게 된다.

이 차이가 이 글의 핵심 긴장을 만든다. 자발적 협력은 규제 마찰을 낮추는 반면, 의무적 검토는 모든 기준 충족 모델이 동일한 절차에 들어간다는 더 큰 확신을 정부 평가기관에 제공한다.

백악관의 접근법은 개발자가 자사 제품, 고객, 평판을 보호할 유인을 갖고 있다고 가정한다. 또한 협력을 미국의 빠른 개발을 보존하는 수단으로 본다.

Gottheimer의 접근법은 자발적 참여가 위험한 공백을 남긴다고 가정한다. 경쟁 압박에 직면한 기업은 공개를 지연하거나, 테스트 범위를 좁히거나, 정부가 위험 평가를 마치기 전에 출시할 수 있다.

양측 모두 미국의 리더십을 지지한다고 주장한다. 이견은 모델 역량이 국가안보와 맞닿을 때 누가 최종 출시 전 결정을 통제해야 하는지에 관한 것이다.

Lawler는 이 제안을 가장 강력한 시스템을 위한 예방 조치로 규정했다. Gottheimer의 공식 발표에서 Lawler는 이러한 모델이 파괴적인 사이버 공격을 가능하게 하거나 화학·생물·방사능 무기 개발을 촉진할 수 있는지를 배치 전에 정부가 판단해야 한다고 주장했다.

이 기준은 단순해 보이지만, 위험한 역량은 이분법적 속성이 아니다. 성능은 프롬프트, 도구, 스캐폴딩, 사용자 전문성, 안전장치, 외부 시스템 접근 여부에 따라 달라진다.

한 모델은 통제된 생물학 평가에서 저조한 성능을 보이면서도 과학 데이터베이스에 연결되면 더 유용해질 수 있다. 다른 모델은 익스플로잇 코드를 생성할 수 있지만, 완전한 공격을 신뢰성 있게 실행하지는 못할 수 있다.

테스트는 빠르게 낡는다. 개발자는 연방 검토가 끝난 뒤 시스템 프롬프트, 추론 도구, 안전 계층, 외부 통합을 업데이트할 수 있다.

행정부의 자발적 모델은 협력과 속도를 강조한다. American AI Security Act는 포괄적 적용과 공식적 책임성을 강조한다.

어느 접근법도 불확실성을 제거하지는 못한다. 자발적 시스템은 개발자를 놓치거나 선택적 참여를 부추길 수 있는 반면, 의무적 시스템은 불완전한 벤치마크에 관한 잘못된 확신을 낳을 수 있다.

정치적 논쟁은 연방 AI 규칙을 둘러싼 더 광범위한 갈등 속에서 제기되고 있다. 백악관은 모델 개발에 대한 규제 축소와 주 단위 규제의 더 강한 제한을 선호해 왔다.

Gottheimer는 이 프레임워크의 책임성이 부족하다고 비판했다. Associated Press 분석에 따르면, 이미 여러 주가 민간 AI 시장의 일부를 규제하고 있다.

이러한 주 단위 활동은 연방 협상을 복잡하게 만든다. 입법자들은 국가 프레임워크가 주 보호 조치를 보완할지, 대체할지, 혹은 특정 소비자 규칙을 그대로 둘지 결정해야 한다.

American AI Security Act는 더 좁은 경로를 택한다. 포괄적인 소비자 AI 규정을 만드는 대신 가장 강력한 모델과 국가안보 위협에 초점을 맞춘다.

이러한 초점은 초당적 협상에 도움이 될 수 있다. 사이버 공격과 비전통적 무기는 자동화된 채용, 광고, 엔터테인먼트를 둘러싼 분쟁보다 연방 차원의 이해관계가 더 명확하다.

그러나 좁은 법안이라도 OpenAI, Anthropic, Google, Meta 및 기타 고급 모델 개발자에게 압박을 가하게 된다. 이들의 출시 일정은 정부 역량과 검토 절차의 영향을 받을 수 있다.

클라우드 제공업체도 영향을 받게 된다. 이들은 고급 시스템을 평가하고 호스팅하며 배포하는 데 필요한 컴퓨팅 인프라를 제공한다.

기업 구매자도 면밀히 지켜봐야 한다. 법안 통과가 민간 고객을 위한 광범위한 안전 인증을 만들지 않더라도, 연방 검토는 조달 신호가 될 수 있다.

따라서 제안된 검토는 보안 메커니즘이자 시장 개입이다. 프런티어 모델이 사용자에게 도달하기 전에 불확실성의 비용을 누가 부담하는지 바꾼다.

China FIREWALL Act, DeepSeek를 넘어 패키지 확장

두 번째 법안은 소프트웨어 공급업체가 기반 모델을 숨기는 경우에도 모델의 출처와 공급망 노출을 연방 보안 위험으로 본다.

Gottheimer는 뉴욕주 공화당 소속 Nick LaLota 하원의원과 함께 China FIREWALL Act를 발의했다. 이 제안은 정부 지급 기기에서 중국이 개발한 오픈 웨이트 모델을 금지한다.

또한 해당 모델에 의존하는 소프트웨어를 기관이 구매하지 못하도록 한다. 이 조항은 직접적인 모델 다운로드뿐 아니라 계약업체와 상용 애플리케이션을 통한 간접 노출을 겨냥한다.

Gottheimer 의원실에 따르면, 제안된 제한은 2026 회계연도 국방 법률에 포함된 DeepSeek 중심의 연방 금지 조치를 기반으로 한다. 새 법안은 이 접근법을 중국이 개발한 오픈 웨이트 시스템 전반으로 확대한다.

이 확대는 실제 조달 과제를 다룬다. 기관은 특정 애플리케이션을 차단하면서도, 내장되었거나 외부에서 호스팅되는 모델을 통해 요청을 전달하는 다른 제품을 계속 구매할 수 있다.

소프트웨어 공급망에는 여러 서비스, 라이브러리, 하도급업체가 포함되는 경우가 많다. 기관 구매자는 애플리케이션의 브랜드는 볼 수 있어도, 그 운영에 관여하는 모든 모델을 보지는 못할 수 있다.

China FIREWALL Act는 공급업체가 모델 의존성을 더 명확히 공개하도록 압박하게 된다. 계약업체는 모델의 출처와 하위 서비스가 금지된 구성요소에 의존하는지 여부를 확인해야 한다.

이 요건은 중국 업체를 넘어 영향을 줄 수 있다. Alibaba의 Qwen과 같은 모델을 통합하는 미국 소프트웨어 기업은 연방 계약을 위해 대체 시스템이 필요할 수 있다.

이 제안은 어려운 분류 문제도 제기한다. 모델에 국제 연구자, 해외 학습 데이터, 재배포된 웨이트, 또는 미국 기업의 수정 사항이 포함되면 “중국이 개발한”이라는 표현은 단정적으로 보이기 어렵다.

오픈 웨이트는 이 문제를 더 어렵게 만든다. 개발자는 모델을 다운로드해 새 데이터로 파인튜닝하고, 안전장치를 변경한 뒤, 결과물을 다른 이름으로 배포할 수 있다.

정책 입안자들은 원산지를 원래의 웨이트, 통제 조직, 학습 인프라, 또는 최종 제품을 배포하는 주체 중 무엇을 기준으로 판단할지 결정해야 한다.

완전 금지는 조달 결정을 단순화할 수 있지만, 모델 간의 의미 있는 차이를 가릴 수도 있다. 보안은 국적뿐 아니라 배포 아키텍처, 데이터 처리, 유지관리, 접근 통제에 따라 달라진다.

이 법안의 전략적 논거는 연방 시스템이 중국 관할권 아래에서 개발된 기술에 대한 의존을 피해야 한다는 것이다. 지지자들은 이러한 원산지 위험만으로도 일률적 규칙을 적용할 충분한 이유가 된다고 본다.

비판론자들은 출처 정보만으로 완전한 보안 평가가 가능한지 합리적으로 물을 수 있다. 관리가 부실한 국내 모델은 심각한 취약점을 초래할 수 있는 반면, 현지에서 격리된 외국 모델은 운영 데이터를 거의 노출하지 않을 수도 있다.

따라서 두 법안은 서로 다른 규제 철학을 적용한다. American AI Security Act는 대상 시스템의 위험한 역량을 시험하는 반면, China FIREWALL Act는 원산지에 따라 시스템을 제한한다.

이러한 철학은 공존할 수 있지만 혼동해서는 안 된다. 하나는 모델이 무엇을 할 수 있는지에 대한 증거를 찾는다. 다른 하나는 적대적인 공급망 관계 자체를 독립적인 위험 원인으로 본다.

China FIREWALL Act가 진전될 경우 연방 계약업체가 가장 즉각적인 운영 압박을 받을 수 있다. 이들은 모델, 구성요소, 호스팅 엔드포인트, 하청업체 의존성을 포괄하는 목록을 구축해야 한다.

이 목록화 과정은 Gottheimer의 이전 agent security bill가 다룬 거버넌스 문제와 닮아 있다. Stop Rogue AI Act는 조직 네트워크 내 에이전트를 발견하고, 검증하며, 모니터링하고, 통제하도록 요구한다.

두 법안은 함께 눈에 보이는 애플리케이션을 규제하는 방식에서 숨겨진 기술적 의존성을 관리하는 방식으로 옮겨가는 더 광범위한 변화를 보여준다. 에이전트와 내장 모델은 표준 소프트웨어 인벤토리에 나타나지 않은 채 작동할 수 있기 때문에 이러한 변화는 중요하다.

정부 기술팀에 주는 실무적 교훈은 즉각적이다. 직원이 어떤 애플리케이션을 여는지만 아는 것으로는 더 이상 충분하지 않다. 기관은 그 아래에서 작동하는 모델, 에이전트, 도구, 데이터 경로를 식별해야 한다.

실무적으로 조달팀은 요약 기능이 기관 자료를 금지된 모델 엔드포인트로 전송한다는 사실을 알지 못한 채 익숙한 문서 관리 제품을 승인할 수도 있다. 완전한 인벤토리는 해당 소프트웨어가 정부 사용자에게 배포되기 전에 이런 의존성을 드러낼 수 있다.

의무 테스트는 한 공백을 메우지만 또 다른 공백을 만든다

연방 차원의 관문은 민간 감사자가 볼 수 없는 위험을 찾아낼 수 있지만, 이를 통과했다고 해서 실제 환경에서의 안전한 행동을 보장할 수는 없다.

배포 전 평가는 통제된 조건에서 이루어진다. 검토자는 벤치마크, 적대적 프롬프트, 시뮬레이션 환경, 사전에 정의된 위협 시나리오를 활용해 모델을 테스트한다.

실제 배포 환경은 덜 정돈되어 있다. 사용자는 모델을 외부 도구, 비공개 데이터, 맞춤형 지침, 다른 에이전트와 결합한다. 이러한 조합은 평가 과정에서는 없었던 행동을 만들어낼 수 있다.

2026년 3월 배포된 AI 시스템 모니터링에 관한 NIST 보고서는 테스트가 출시 시점에 멈출 수 없는 이유를 설명한다. 저자들은 통제된 배포 전 평가가 가치 있지만, 예상치 못한 출력, 변화하는 운영 조건, 실제 사용에서만 드러나는 결과를 감지하려면 배포 후 모니터링이 필요하다고 밝혔다.

이 보고서는 모니터링 대상 시스템이 평가 조건을 인식할 때 다르게 행동할 위험도 논의한다. 이러한 가능성은 테스트 통과가 항상 일반적인 사용 환경에서의 행동을 예측한다는 가정을 약화시킨다.

이 한계가 배포 전 테스트를 무용하게 만드는 것은 아니다. 이는 검토를 더 큰 모니터링 체계 안의 하나의 통제로 다뤄야 한다는 뜻이다.

가장 강력한 구현 방식은 출시 전 결과를 출시 후 보고, 사고 분석, 접근 통제, 반복 테스트와 연결하는 것이다. 발표된 법안은 이러한 지속적인 수명주기보다 초기 관문을 더 분명하게 강조한다.

임계값 설계는 또 다른 위험을 제시한다. 법률이 학습 연산량을 주요 기준으로 사용한다면, 개발자는 그 기준 아래에 머물기 위해 아키텍처를 바꾸거나 작업 부하를 분산할 수 있다.

임계값이 역량 테스트에 의존한다면, 정부는 모델이 발전함에 따라 벤치마크를 업데이트해야 한다. 공개 벤치마크는 학습 목표가 될 수도 있어 독립적 측정 기준으로서의 가치를 떨어뜨릴 수 있다.

기밀 평가는 노출을 제한함으로써 이 문제의 일부를 해결한다. 동시에 외부의 검토를 어렵게 만들고, 국가안보 기관에 상당한 권한을 집중시킨다.

개발자들은 민감한 웨이트, 아키텍처 세부 사항, 미공개 역량이 계속 보호된다는 확신을 가져야 한다. 정부의 보안 침해는 유난히 가치 있는 지적 재산을 노출할 수 있다.

소규모 연구소는 또 다른 우려에 직면한다. 대형 개발업체는 이미 정부 관계, 컴플라이언스 팀, 보안 인프라, 전담 평가 인력을 갖추고 있다.

소규모 기업은 연방 테스트용 모델을 준비하거나 신속 심사 과정에서 대응하는 데 어려움을 겪을 수 있다. 컴플라이언스 부담은 기존 연구소의 시장 지위를 강화할 수 있다.

따라서 이의제기 절차가 중요하다. 개발자는 위험한 역량이나 관련 기밀 증거를 공개하지 않으면서 불리한 결정에 이의를 제기할 실질적인 방법이 필요하다.

관계자들은 시정 조치 기준도 마련해야 한다. 모델은 안전장치가 쉽게 우회되기 때문에, 기반 지식이 위험하기 때문에, 또는 도구가 유해한 행동을 더 쉽게 만들기 때문에 실패할 수 있다.

이러한 실패에는 서로 다른 대응이 필요하다. 더 강한 접근 제한은 한 문제를 해결할 수 있지만, 다른 문제에는 재학습, 역량 제거, 또는 더 제한적인 출시가 필요할 수 있다.

법안의 30일 검토 기간은 유용한 규율을 만들지만, 그 기한의 실효성은 자원에 달려 있다. NSA에는 자격을 갖춘 평가자, 보안 컴퓨팅 용량, 재현 가능한 방법론이 필요하다.

모델 개발자들은 일정이 겹치는 방식으로 시스템을 출시한다. 특히 여러 회사가 동시에 대상 임계값에 근접하면 제출이 급증해 대기열이 생길 수 있다.

정부 평가자들은 전문 인프라를 운영하기 위해 연구소 인력에 의존할 수도 있다. 이러한 기술 지원은 테스트를 개선할 수 있지만, 동시에 Gottheimer가 민간 감사에서 지적한 의존성을 다시 도입한다.

올바른 비교 대상은 독립적인 정부 검토와 이해충돌이 있는 민간 테스트가 아니다. 실제로 두 체계 모두 개발자, 평가자, 보안 연구자, 인프라 제공자 간의 협력에 의존한다.

연방 기관은 일반 감사자가 이용할 수 없는 기밀 위협 정보를 보유한다. 민간 연구자들은 특정 모델의 아키텍처와 실패 양상에 대해 더 깊이 이해하는 경우가 많다.

신뢰할 수 있는 체계는 이러한 장점을 결합해야 한다. 또한 완료된 검토와 모델이 무해하다는 보장을 구분해야 한다.

그렇지 않으면 이 법안은 기업이 정부 접근 허가를 일반적 안전성의 증거로 마케팅하는 “review washing”을 부추길 수 있다. 제안된 검토는 모든 소비자 또는 사회적 피해가 아니라 특정 국가안보 위협에 초점을 맞춘 것으로 보인다.

이 구분은 기업 구매자와 대중에게 계속 분명하게 보여야 한다. 사이버 및 무기 관련 평가를 통과했다고 해서 차별, 개인정보 보호, 환각, 노동 영향, 조작적 행동에 대해 알려주는 것은 거의 없다.

예를 들어 병원 조달팀은 모델이 연방 국가안보 검토를 완료했다는 사실을 볼 수 있지만, 그 모델이 임상 참고문헌을 조작하는지 또는 환자 집단별로 성능 차이를 보이는지에 대한 증거는 여전히 받지 못할 수 있다. 마찬가지로 은행은 개인정보 보호, 편향, 신뢰할 수 없는 고객 조언에 대해 별도의 테스트가 여전히 필요하다.

따라서 회의론적 주장은 의무 검토에 가치가 없다는 것이 아니다. 좁은 범위의 출시 전 테스트가 과장되어 홍보되는 동안, 배포 후에도 위험은 계속 변할 수 있다는 것이다.

의회는 여전히 이 제안을 운영 체계로 바꿔야 한다

초당적 공동 발의는 이 패키지에 기회를 제공하지만, 법안 문구, 위원회 조치, 시행 역량이 이 제안이 단순한 제안에 그칠지를 결정할 것이다.

Gottheimer는 Problem Solvers Caucus가 AI 및 진화하는 기술 실무그룹을 구성한 다음 날 이 패키지를 발표했다. Gottheimer와 Lawler는 이 그룹의 공동 리더로 지명됐다.

이 시점은 초당적 논의를 위한 제도적 경로를 만든다. 그러나 하원 지도부가 법안 일정을 잡거나 상원이 일치하는 문구를 채택할 것이라는 보장은 없다.

Gottheimer는 의회 지도부가 자신의 다른 AI 안전성 제안을 본회의에 상정하지 않았다고 말했다. 그의 비판은 초당적 법안을 발표하는 것과 통과에 충분한 지지를 모으는 것의 차이를 강조한다.

정치 일정은 압박을 더한다. AI 정책은 국가안보, 소비자 보호, 주 권한, 산업 경쟁, 연방 조달과 맞닿아 있다.

의원들은 고도화된 AI가 심각한 위험을 만든다는 데 동의하면서도 기관 권한을 두고는 이견을 보일 수 있다. 의무 검토가 인허가와 유사한지를 두고도 의견이 갈릴 수 있다.

행정부의 명령은 의무적 사전 승인을 명시적으로 거부한다. American AI Security Act는 대상 모델에 대해 그 명령이 피하는 바로 그 유형의 의무적 관문을 स्थापित할 것이다.

이 충돌은 논쟁의 방향을 결정할 것이다. 지지자들은 이 검토가 AI 개발을 위한 일반적 허가 체계가 아니라 제한된 국가안보 조치인 이유를 설명해야 한다.

반대자들은 접근을 거부하거나 정부가 선호하는 절차의 범위 밖에서 시스템을 정의하는 개발자들을 자발적 참여가 어떻게 포괄하는지 설명해야 한다.

의회는 NSA가 적절한 주도 평가기관인지도 결정해야 한다. 이 기관은 관련된 사이버 및 기밀 역량을 갖추고 있지만, 그 임무는 민간 제품 규제와 다르다.

NIST, Cybersecurity and Infrastructure Security Agency, Office of the National Cyber Director는 이미 관련 책임을 맡고 있다. 역할이 제대로 정의되지 않으면 업무 중복이나 일관되지 않은 결과가 생길 수 있다.

기존 연방 전략은 유용한 인프라를 제공한다. Executive Order 14409는 기관들이 기밀 벤치마크를 개발하고 AI 사이버보안 정보공유센터를 구축하도록 지시한다.

이 명령은 해당 정보공유센터를 취약점 발견, 검증, 시정, 패치 배포를 조율하는 메커니즘으로 설명한다. Gottheimer는 소프트웨어 취약점에 초점을 맞추는 방식이 기계 속도로 작동하는 자율 에이전트를 충분히 다루지 못한다고 주장한다.

이 우려는 새 패키지를 Stop Rogue AI Act와 연결한다. 이 이전 제안은 NIST가 에이전트 인벤토리, 출처, 실시간 모니터링, 철회 가능한 접근 권한에 관한 기준을 만들도록 지시한다.

이러한 이니셔티브는 뚜렷한 정책 방향을 형성한다. 정부는 핵심 네트워크 내에서 어떤 모델과 에이전트가 작동하는지, 누가 이를 통제하는지, 무엇에 접근할 수 있는지 더 잘 파악하기를 원한다.

출시 전 모델 검토는 한 층만 다룬다. 에이전트 신원 기준, 연방 조달 규칙, 취약점 공유, 배포 후 모니터링은 다른 층을 다룬다.

이러한 층이 연결될 때에만 정책 패키지는 성공할 수 있다. 그렇지 않으면 개발자는 모델 검토를 통과하고도, 하위 에이전트가 도구와 권한을 통해 새로운 위험을 만들어낼 수 있다.

같은 시스템도 출시 후 변할 수 있다. 파인튜닝, 검색 증강 시스템, 확장된 컨텍스트, 소프트웨어 업데이트는 완전히 새로운 기본 모델을 만들지 않고도 실질적 역량을 바꿀 수 있다.

입법 문구는 어떤 변경이 재검토를 촉발하는지 명시해야 합니다. 모든 사소한 수정에 승인을 요구하면 평가 인력이 과부하에 빠질 것이고, 주요 변경을 무시하면 명백한 허점이 생길 것입니다.

China FIREWALL Act도 이와 비슷한 수준의 정밀성이 필요합니다. 정부 사업 입찰에 앞서 계약업체는 파생 모델과 혼합 시스템을 어떻게 분류해야 하는지 알아야 합니다.

명확한 조달 지침에는 업데이트 절차도 필요합니다. 정적인 금지 목록은 모델의 소유권, 명칭, 라이선스, 기술적 계보가 바뀌면서 빠르게 시대에 뒤처지게 됩니다.

이 때문에 이번 발표는 확정된 규제 설계가 아니라 출발점에 해당합니다. 광범위한 목표는 드러났지만, 여러 운영상 선택지는 아직 해결되지 않은 상태입니다.

AI 안전 패키지의 실효성을 보여줄 세 가지 신호

다음 시험대는 AI 위험에 대한 또 다른 경고가 아닙니다. 의회가 측정 가능한 권한과 역량을 바탕으로 실효성 있는 심사 체계를 구축하느냐가 핵심입니다.

첫 번째 신호는 완전한 법안 문안의 공개와 정식 상임위원회 회부입니다. 해당 문안은 적용 대상 최첨단 모델, 심사 촉발 요건, 기관별 책임, 기밀 보호 장치, 이의제기 절차를 정의해야 합니다.

정밀한 법안은 의무 심사가 제한적인 범위에 머물 수 있음을 보여 Gottheimer의 주장을 강화할 것입니다. 모호한 정의는 이를 약화시키고, 거의 모든 고도화된 모델에 연방정부의 허가가 필요하다는 주장을 불러올 수 있습니다.

특히 기준 메커니즘을 주시해야 합니다. 연산 규모, 검증된 역량, 배포 맥락을 결합하는 방식은 단일한 측정 기준보다 회피하기 어렵습니다.

두 번째 신호는 관련 기관이 시행 역량을 공개하는지 여부입니다. 의회는 30일 기한을 부과할 수 있지만, 안전한 컴퓨팅 인프라와 자격을 갖춘 평가자가 없다면 그 기한은 큰 의미가 없습니다.

예산 조항, 인력 계획, 기관 간 협약, 테스트 프로토콜은 이 제안이 실제로 운영 가능한지 보여줄 것입니다. 자원이 부족하면 엄격한 기한은 병목 현상이나 형식적인 준수 절차로 전락할 수 있습니다.

정부는 또한 의미 있는 이의제기를 막지 않으면서 기밀 정보가 평가에 어떻게 반영되는지 설명해야 합니다. 이 설계는 개발자들이 절차를 기술적으로 신뢰할 만하고 절차적으로 공정하다고 판단할지를 좌우할 것입니다.

세 번째 신호는 초당적 발의자들이 청문회, 위원회 표결 또는 상원 동반 법안을 확보하는지 여부입니다. 공개 지지는 유용하지만, 법안이 혼잡한 의회 일정 속에서 살아남을 수 있는지는 절차적 진전이 결정합니다.

Problem Solvers Caucus 뉴스 아카이브는 초당적 AI 그룹이 공동 문안, 감독 활동 또는 협상된 수정안을 내놓는지 추적할 수 있는 한 곳입니다.

중국 관련 제한 조치만 진전된다면, 국가 출신에 따른 통제가 의무 테스트보다 더 큰 지지를 받는다는 뜻일 것입니다. 두 법안 모두 진전된다면, 배포 전 연방정부 개입을 향한 더 광범위한 전환을 시사할 것입니다.

위원회 조치가 없다면 의회의 경고와 입법 역량 사이에 익숙한 간극이 있음을 드러낼 것입니다. 그 경우 행정부의 자발적 프레임워크가 연방정부의 주요 모델 심사 메커니즘으로 남게 됩니다.

개발자, 클라우드 제공업체, 기업 구매자는 최종 통과를 기다리기 전에 자체 준비 상태를 점검해야 합니다. 이들은 모델 목록, 출처 기록, 접근 통제, 출시 전 및 지속적 평가의 증거를 갖춰야 합니다.

이러한 관행은 조직이 의회가 마주한 것과 같은 질문에 답하는 데 도움이 됩니다. 어떤 역량이 존재하는가, 누가 이를 통제하는가, 접근 권한은 어떻게 철회할 수 있는가, 행동이 바뀌면 무엇이 일어나는가?

Gottheimer의 AI 안전 입법이 중요한 이유는 의원들 앞에 구체적인 선택지를 제시하기 때문입니다. 의원들은 고도화된 모델 테스트가 자발적 협력으로 남을지, 아니면 출시의 법적 조건이 될지를 결정해야 합니다.

올바른 답은 ‘안전’이라는 단어만으로 정해질 수 없습니다. 독자는 이 명칭을 집행 가능한 체계로 만드는 기준, 평가 방법, 기관 자원, 배포 후 의무를 따라가야 합니다.

향후 몇 달 동안 연설보다 절차적 진전을 살펴봐야 합니다. 의회는 실효성 있는 정의를 공개하고, 심사 인력에 자금을 지원하며, 출시 테스트를 지속적 감독과 연결할까요?

이 요소들이 갖춰진다면 의무적인 연방 심사는 최첨단 개발의 신뢰할 수 있는 새로운 단계가 될 것입니다. 그렇지 않다면 이 패키지는 기존 기관이 여전히 관리하지 못하는 위험에 대한 야심 찬 경고로 남을 것입니다.