프론티어 연구소들이 개발 속도 조절을 요구하는 가운데 마감 시한에 직면한 의회의 AI 안전장치

치열한 상업 경쟁이 이어진 수년에도 불구하고 주요 AI 경영진이 모델 개발 속도를 늦추는 데 지지를 표하면서, 의회의 AI 안전장치는 결정적인 7주간의 국면에 접어들었다.

이 변화는 선거가 있는 해의 휴회 기간에 불거졌다. 의회에는 본회의 일정이 거의 남지 않았고, 복잡한 기술 법안을 처리할 정치적 여지도 더 적었다. CNBC의 의회 추진 보도에 따르면, 하원 민주당 의원들은 Mike Johnson 하원의장에게 의원들을 소집해 11월 3일 중간선거 전에 초당적 안전장치를 검토할 것을 촉구했다. Johnson은 의원들이 실행 가능한 해법을 마련하면 표결 일정을 잡겠지만, 의회는 신중하게 진행해야 한다고 주장했다.

이로써 핵심 갈등이 드러난다. 프론티어 연구소들은 이제 고도화된 모델에 더 강력한 외부 감독이 필요하다고 말하지만, 선출직 공직자들은 누가 규칙을 정해야 하는지를 두고 여전히 의견이 갈린다. Donald Trump 대통령 역시 중국에 대한 미국의 우위를 유지하려면 신속한 개발이 필수적이라는 입장을 밝혀왔다.

논의는 더 이상 가상의 챗봇 피해에만 국한되지 않는다. 개발자들은 사이버보안 연구를 수행하고, 자율 에이전트를 조율하며, 사용자가 민감한 기술 정보를 다룰 수 있도록 돕는 모델을 논의하고 있다. 이러한 역량은 독립적 테스트, 사고 공개, 긴급 통제, 그리고 시스템이 의도된 경계를 벗어나 작동할 때의 책임에 관한 질문을 제기한다.

워싱턴에는 이미 제안들이 올라와 있다. 초당적 FRONTIER Act는 개발자의 규모와 위험 노출이 커질수록 강화되는 안전장치를 요구한다. 상원의원들도 재앙적 생물학·핵 및 기타 고도 모델 위험에 초점을 맞춘 더 좁은 범위의 법안을 준비하고 있다.

그러나 입법은 혁신, 국가안보, 주 권한, 반독점법, 규제 포획을 둘러싼 분쟁을 넘어야 한다. 의회에 더 빠르게 움직여 달라는 요구는 차세대 모델을 만들기 위해 경쟁하는 일부 기업들로부터 나오고 있다.

이 모순이 경고를 무의미하게 만드는 것은 아니다. 오히려 집행 가능한 규칙, 독립적 증거, 명확한 책임성이 더욱 중요해진다는 뜻이다.

의회의 AI 안전장치, 이론에서 선거 마감 시한으로

즉각적인 변화는 정치적이다. 자율적 자제 요구가 의회에 집행 가능한 안전장치를 마련하라는 요구로 바뀌었다.

하원 민주당 의원들은 Johnson에게 예정된 휴회 종료 전에 의원들을 워싱턴으로 복귀시키라고 요청했다. 이들의 서한은 실질적인 초당적 AI 안전장치를 요구하며, 계속된 무대응은 방어하기 어려워질 것이라고 경고했다.

의원들은 하나의 포괄적 법안을 고집하지 않았다. 이들은 프론티어 모델 투명성, 독립 평가, 긴급 중단 역량, 기업 간 공동 안전 활동을 다루는 여러 제안을 제시했다.

이 폭넓은 선택지는 실무적 우려를 반영한다. 모든 AI 애플리케이션을 규율하려는 단일 법안은 남은 입법 일정에 비해 미해결 쟁점이 너무 많다. 범위가 좁은 조치는 더 빨리 진행될 수 있지만, 더 광범위한 책임성 공백을 남기기도 한다.

Johnson은 일요일 TV 출연에서 이러한 압박을 인정했다. 그는 의원들이 실행 가능한 해법을 마련한다면 하원의원을 소집하고 표결을 추진하겠다고 말했다. 또한 Trump, 의회 지도부, 고위 AI 경영진을 한자리에 모으는 방안도 제안했다.

그러나 Johnson은 의회가 반드시 대응을 주도하는 것은 아니라고 말했다. 이 입장은 경쟁 압력이 일방적 자제를 저해하는 상황에서도 기술 기업들이 즉각적 책임의 상당 부분을 떠안게 한다.

하원 소수당 원내대표 Hakeem Jeffries는 다른 대응을 제시했다. 그는 민주당이 화요일에 만나 AI 안전장치를 높은 우선순위로 다룰 것이라고 말했다. Jeffries는 개발자들 스스로 역량 성장을 늦춰야 한다고 인정하는 시점에 정책 입안자들이 행동해야 한다고 주장했다.

이 분쟁은 부분적으로 시기의 문제다. 하원은 선거를 앞두고 있으며, 의원들은 미해결 협상보다 선거 운동에 활용할 수 있는 성과를 원한다. AI 입법은 상업, 과학, 국가안보, 사법을 담당하는 위원회를 포함해 여러 위원회에 걸쳐 있다.

중간선거 정치는 제한적인 합의를 앞당길 수 있다. 반대로 기술적 정의가 약하거나 집행력이 부족한 상징적 입법을 낳을 수도 있다.

실행 가능한 모든 조치는 어떤 개발자가 프론티어 기업에 해당하는지 설명해야 한다. 더 엄격한 의무를 촉발하는 역량도 정의해야 한다. 또한 어느 기관이 기밀 모델에 접근할지, 그 기관이 영업비밀을 어떻게 보호할지도 결정해야 한다.

이 질문들은 어렵지만, 지연 역시 기본값을 통해 정책을 만들어 낸다. 기업들은 자체 테스트 기준, 공개 규칙, 출시 절차를 계속 개발하고 있다. 자율 기준 아래 출시되는 모든 새 시스템은 이러한 민간의 선택을 더 고착시킨다.

따라서 입법의 창은 두 방향에서 닫히고 있다. 의회의 업무일은 줄어드는 반면, 업계는 미래 규제기관이 되돌리기 어려운 관행을 계속 정립하고 있다.

프론티어 AI 개발자들이 갑자기 더 느린 경쟁을 원하는 이유

새로운 긴급성은 이례적인 업계 신호에서 비롯된다. 경쟁 관계의 연구소들이 이제 안전 작업이 모델 역량을 따라가지 못하고 있다는 데 동의하고 있다.

Anthropic CEO Dario Amodei는 프론티어 모델 성능 개선의 속도를 늦추자고 촉구하는 에세이로 논쟁을 고조시켰다. 프론티어 모델은 AI 개발 최전선에서 가장 뛰어난 역량을 갖춘 범용 시스템이다.

Amodei는 개발 속도를 조절하면 연구자들이 정렬(alignment), 즉 시스템의 행동을 인간의 지시와 제약에 일치시키는 과정을 개선할 시간을 더 확보할 수 있다고 주장했다. 그는 고성능 에이전트가 결국 기존 방어 체계가 감당할 수 없는 규모로 사이버 작전을 조율할 수 있다고 경고했다. Associated Press 보도에 따르면 Amodei는 에이전트 군집이 동원되는 6~12개월의 시나리오를 언급했지만, 이를 독립적으로 검증된 예측이 아닌 경고로 제시했다.

그의 제안은 AI 연구의 중단을 요구하지 않았다. 대신 역량 개발과 안전장치, 외부 검토, 그리고 중대한 위험 임계값에 접근하는 시스템에 대한 준비 사이의 균형에 초점을 맞췄다.

다른 고위 업계 인사들도 동의를 표하면서 Amodei의 경고는 더 큰 무게를 얻었다. OpenAI 및 xAI와 연관된 리더들 역시 개발 속도 조절이나 더 강력한 안전 검토의 일부 형태를 지지했다.

연구소들의 상업적 유인은 동일하지 않다. 각자는 인재, 컴퓨팅 역량, 고객, 모델 성능 선도에 대한 인정을 원한다. 따라서 개발 속도에 관한 합의는 기업들이 통일된 업계 입장을 뒷받침할 만큼 비교 가능한 증거를 충분히 공개하지는 않았지만, 안전 우려가 경영진의 판단에 영향을 미쳤음을 시사한다.

OpenAI는 이미 충분히 안전하게 보호할 수 없는 시스템의 작업을 늦추거나 중단할 조건을 설명한 바 있다. 공개된 AI 정책 입장 역시 의무적인 역량 기반 국가 요건, 독립 안전성 평가, 정부의 조치를 지지했다.

세부 사항은 여전히 기업마다 다르다. 한 연구소는 내부 훈련을 계속하면서 공개 출시를 늦출 수 있다. 다른 연구소는 소수의 파트너에게만 접근을 제한할 수 있다. 세 번째 연구소는 모니터링 도구나 사용 통제를 추가한 뒤 진행할 수 있다.

“속도를 늦춘다”는 말에는 표준화된 운영상 정의가 없기 때문에 이러한 차이는 중요하다. 이는 훈련 지연, 배포 지연, 접근 제한, 모델 가중치 비공개, 특정 역량에 대한 작업 중단을 의미할 수 있다.

AI 안전을 위한 개발 감속은 집단행동 문제도 만든다. 한 기업만 멈추면 경쟁사들이 계속하는 동안 고객, 직원, 투자자의 신뢰를 잃을 위험이 있다. 모든 주요 참여자가 측정 가능한 규칙을 따를 때 자율적 자제는 더 신뢰할 만해진다.

국제 경쟁은 조율을 더 어렵게 만든다. Trump는 미국이 중국에 대한 우위를 유지해야 한다고 주장해 왔으며, 자신이 가능성이 낮다고 보는 시나리오에 대한 경고에 의문을 제기해 왔다. 그의 입장은 지속적인 역량 개발을 해외 경쟁에 맞서는 전략적 방어로 본다.

Amodei 역시 중국이 AI 선두를 차지하는 상황은 위험하다고 설명했다. 따라서 이견은 국가안보를 중시하는 사람들과 그렇지 않은 사람들 사이의 단순한 구분이 아니다. 어떤 경로가 더 큰 안보를 가져오는지에 관한 문제다.

한쪽은 경쟁국이 따라잡기 전에 속도가 미국을 강화한다고 본다. 다른 쪽은 통제되지 않은 속도가 어떤 국가도 신뢰성 있게 억제할 수 없는 시스템을 만든다고 본다.

의회는 이 주장들 사이에 놓여 있다. 의회는 기술적 경고를 평가해야 하지만, 그러한 경고를 제기하는 기업들에 정책 권한을 그대로 넘겨서는 안 된다.

이 과제는 대중이 볼 수 없는 증거에 대한 접근을 요구한다. 프론티어 연구소들은 미출시 모델, 비공개 사고 보고서, 제한된 사이버보안 테스트를 활용해 내부 평가를 수행한다. 의원들은 일반적으로 선별된 결과나 기밀 브리핑만 받는다.

신뢰할 수 있는 체계는 위험한 역량을 공개적으로 노출하지 않으면서 이 정보 격차를 좁혀야 한다. 독립 평가자는 기업의 결론에 이의를 제기할 만큼 충분한 접근권을 가져야 하며, 동시에 보안 통제는 모델이나 테스트의 유출을 막아야 한다.

새롭게 부상한 업계의 우려는 정치적 기회의 창을 열었다. 그러나 그 창을 책임 있게 활용하는 데 필요한 모든 장치를 제공한 것은 아니다.

FRONTIER Act는 체계를 제시하지만, 완성된 합의안은 아니다

FRONTIER Act는 광범위한 안전 원칙을 단계별 의무로 전환하지만, 집행 및 연방법 우선 적용 조항은 여전히 정치적으로 어렵다.

Jay Obernolte 의원과 Lori Trahan 의원은 7월 23일 초당적 Frontier Risk Oversight, National Transparency, Independent Evaluation, and Reporting Act를 발의했다. 이 명칭의 약어가 FRONTIER다.

공식 FRONTIER Act 발표에 따르면, 이 법안은 개발자의 규모와 위험 프로필에 따라 요건을 차등 적용한다. 제안된 수단에는 모델 카드, 위험 관리 프로그램, 독립 감사, 사고 보고, 지속적 평가가 포함된다.

모델 카드는 시스템의 역량, 한계, 테스트, 의도된 사용 사례를 설명하는 구조화된 공개 문서다. 이는 규제기관과 고객이 출시를 평가할 수 있는 공통 기록을 제공한다.

단계별 규제는 소규모 개발자들이 제기한 한 가지 반론에 대응한다. 획일적인 준수 의무는 가장 큰 연구소에 유리할 수 있는데, 이들 기업은 이미 법무, 보안, 평가 팀을 두고 있기 때문이다. 차등 적용 체계는 자원과 잠재적 결과가 가장 큰 곳에 더 무거운 의무를 부과할 수 있다.

이 법안은 모델 위험이 시간이 지나며 바뀐다는 점도 인정한다. 시스템은 미세 조정, 도구 접근, 외부 소프트웨어와의 통합을 통해 새로운 역량을 얻을 수 있다. 따라서 지속적 평가는 출시 전 단 한 번의 테스트보다 더 유용하다.

독립 감사는 내부 인센티브에 이의를 제기할 수 있다. 제품 팀은 출시 일정을 맞추려 하지만, 안전 팀은 추가 테스트가 필요할 수 있다. 외부 평가기관은 의견 불일치를 문서화하고 규제기관에 증거를 제공할 수 있다.

그러나 독립성은 선정 방식, 자금 지원, 접근 권한, 법적 보호에 달려 있다. 개발자로부터 직접 비용을 받는 평가자는 미묘한 상업적 압력에 직면할 수 있다. 정부가 선정한 평가자는 정치적 또는 조달 관련 분쟁에 얽힐 수 있다.

같은 문제는 비상 통제에도 적용된다. “킬 스위치”는 직관적으로 들리지만, 현대 AI 서비스는 모델, 애플리케이션, 도구, 고객 배포 환경, 복제된 가중치로 구성된다. 하나의 호스팅 엔드포인트를 중단한다고 해서 모든 배포본이 사라지는 것은 아니다.

입법은 통제 대상이 무엇인지 정의해야 한다. 이는 학습 실행, 모델 출시, 특정 도구에 대한 접근, 또는 민감한 부문에서의 배포를 포괄할 수 있다. 각 선택지는 서로 다른 보안 및 시민 자유 측면의 결과를 낳는다.

사고 보고 역시 또 다른 과제다. 기업은 어떤 사건이 보고 대상인지, 얼마나 신속히 보고해야 하는지, 어떤 정보가 기밀로 유지될 수 있는지를 알아야 한다. 정의가 지나치게 좁으면 경고 신호를 감추게 되고, 너무 넓으면 일상적인 실패 사례가 규제기관을 압도할 수 있다.

법안과 주 규제의 관계는 더욱 해결하기 어려울 수 있다. 주 정부들은 자동화된 의사결정, 차별, 소비자 고지, 프런티어 모델 위험을 다루는 규정을 앞서 도입해 왔다. 연방 선점은 일부 주 권한을 전국 표준으로 대체하게 된다.

개발자들은 상충하는 주별 요건이 배포를 복잡하게 만들기 때문에 일관된 전국 규칙을 선호한다. 소비자 옹호 단체들은 연방 집행 체계가 작동하기 전에 선점이 더 강력한 보호 장치를 없앨 수 있다고 우려한다.

특정 주 AI 개발 규정을 3년간 제한하는 방안은 이전 입법 논의에서 등장했다. 이 접근법은 일시적 동결이 지속적인 규제 공백이 될 수 있다고 우려한 주 정부 관계자들과 진보 단체들의 반대에 부딪혔다.

이 분쟁은 더 큰 상충 관계를 보여준다. 전국적 일관성은 준수 요건을 더 명확하게 할 수 있지만, 낮은 수준의 일관성은 대중에게 더 적은 구제 수단을 남긴다.

FRONTIER Act는 여전히 첨단 모델 감독을 위한 하원의 가장 분명한 입법 수단이다. 이 법안은 구체적인 거버넌스 도구를 제시하고 초당적 발의자를 확보했다. 다만 그 도구들이 실제로 작동하는지를 좌우하는 제도적 문제는 아직 해결하지 못했다.

이 법안의 중요성은 최종 법률 문구를 예측하는 데 있기보다, 안전과 혁신에 관한 선언적 논의에 머물 수 있는 협상에 진지한 기준선을 제시한다는 데 있다.

워싱턴은 자율적 속도 조절과 강제 가능한 의무 중 하나를 선택해야 한다

핵심 정책 선택은 프런티어 모델의 자제가 기업의 약속으로 남을지, 검증 가능한 법적 의무가 될지 여부다.

자발적 약속은 입법보다 더 빠르게 움직일 수 있다. 기업은 의회의 결정을 기다리지 않고 출시 절차를 바꾸거나, 외부 테스터를 초청하거나, 접근 통제를 강화할 수 있다.

Anthropic은 모델 위험 평가, 출처 추적 방법, 정책 조율을 다루는 안전 로드맵을 공개했다. OpenAI는 준비 상태 임계값과 더 강력한 안전장치를 촉발할 상황을 설명했다.

이러한 프레임워크는 역량이 변함에 따라 개발자가 이를 업데이트할 수 있기 때문에 유용하다. 법률은 모든 평가 방식이나 공격 기법을 쉽게 예측할 수 없다.

그러나 기업은 자발적 정책을 수정하거나, 임계값을 내부적으로 해석하거나, 공개를 미룰 수도 있다. 고객과 연구자들은 안전 약속이 중요한 배포 결정에 영향을 미쳤는지 알지 못할 수 있다.

구속력 있는 요건은 최소 기준선을 마련할 수 있다. 이는 일관된 문서화를 요구하고, 내부 고발자를 보호하며, 사고 통지를 의무화하고, 기업이 알려진 위험을 은폐할 경우 제재를 허용할 수 있다.

법률에도 비용은 따른다. 기술 규칙은 시대에 뒤처질 수 있고, 부실하게 설계된 임계값은 기존 기업에 유리하게 작용할 수 있다. 컴플라이언스 체계는 진정한 안전 작업 대신 체크리스트식 행동을 부추길 수 있다.

규제 포획도 또 다른 위험이다. 프런티어 개발자들은 의회와 대부분의 기관보다 더 많은 기술 정보를 보유하고 있다. 이들은 엄격해 보이지만 기존 관행을 유지하는 정의를 형성할 수 있다.

가장 강력한 접근법은 정책 목표와 기술적 구현을 분리하는 것이다. 의회는 독립 평가와 적시 보고 같은 결과를 의무화할 수 있다. 그러면 자격을 갖춘 기관이 공개 절차를 통해 측정 기준을 업데이트할 수 있다.

그러한 구조에는 여전히 충분한 전문성과 권한을 갖춘 기관이 필요하다. 상무부와 국립표준기술연구소는 관련 역량을 갖추고 있지만, 이 규모의 평가는 안전한 컴퓨팅 인프라와 전문 인력을 요구한다.

행정부는 의무적 모델 라이선스보다 협업을 선호해 왔다. 6월 AI 보안 명령은 대상 프런티어 모델을 위한 자발적 절차를 만들고, 신규 출시를 위한 의무적 사전 승인을 명시적으로 거부했다.

이 명령은 연방 관계자들에게 기밀 사이버보안 벤치마크를 개발하도록 지시한다. 또한 개발자가 기밀 유지 및 보안 보호 조치 아래 출시 전 모델 접근 권한을 제공할 수 있도록 한다.

이 접근법은 특히 국가안보 위험과 관련한 정보 공유를 개선할 수 있다. 그러나 자발적 참여는 정부가 개발자의 협조에 의존하게 만든다.

백악관의 더 광범위한 입법 프레임워크는 전국적 일관성, 아동 보호, 지식재산권 보호, 사기 단속, 노동력 준비, 미국의 지속적인 AI 리더십을 요구한다.

이 목표들은 프런티어 모델 안전보다 더 넓은 영역을 포괄한다. 이러한 폭넓음은 연합 형성의 기회를 만들지만, 집중된 위험 법안을 지연시킬 수 있는 분쟁도 불러온다.

의회는 모든 AI 문제를 하나의 입법 과제로 다뤄서는 안 된다. 딥페이크, 차별적인 자동화 의사결정, 데이터센터 전력 수요, 저작권, 재앙적 모델 역량에는 각기 다른 증거와 집행 도구가 필요하다.

더 좁은 범위의 프런티어 법안도 공통 기반을 마련할 수 있다. 개발자는 평가를 문서화하고, 심각한 사고를 보고하며, 안전 우려를 제기하는 직원을 보호하고, 승인된 검토자에게 안전한 접근 권한을 제공해야 한다.

반독점법도 이 문제의 또 다른 부분이다. 개발 속도를 늦추기 위해 협력하는 기업들은 합의가 경쟁을 부당하게 제한할 경우 Sherman Act 제1조에 따라 조사를 받을 수 있다. 특히 연방 집행기관들이 이미 United States v. Google LLC, Case No. 1:20-cv-03010 (D.D.C.)를 포함해 기술 시장의 집중과 배제를 검토하고 있기 때문에 이 문제는 더욱 민감하다.

따라서 안전 협력에는 신중하게 제한된 법적 보호가 필요하다. 법무부와 연방거래위원회는 2026년 2월 공개 의견 요청에서 경쟁사 간 협력이 혁신을 촉진할 수 있지만 경쟁을 위협할 수도 있다고 밝히고, 정보 공유 및 기타 현대적 협력 방식에 관한 업데이트된 지침에 대한 의견을 요청했다.

어떠한 면제도 진정한 평가, 보안, 사고 정보 공유 업무에만 적용되어야 한다. 기업이 가격을 조정하거나, 시장을 분할하거나, 공개 경쟁을 제한하거나, 소규모 개발자를 배제하도록 허용해서는 안 된다.

이 구분은 안전과 경제적 경쟁 모두를 보호한다. 그렇지 않으면 대형 연구소는 결과를 위험 관리라고 설명하면서 규제를 활용해 진입 장벽을 높일 수 있다.

이 때문에 기업 간 합의가 정책 논쟁을 끝내지는 않는다. 자발적 조율이 업계 통제 시스템이 되기 전에 의회가 중립적 규칙을 수립해야 할 이유가 된다.

중국 논거는 행동을 가속할 수도, 좌절시킬 수도 있다

중국과의 경쟁은 미국의 신속한 개발을 지지하는 가장 강력한 논거이지만, 공통 안전 통제의 필요성도 강화한다.

Trump는 미국이 AI에서 중국을 앞서고 있으며 그 지위를 포기해서는 안 된다고 말했다. 그는 AI 경쟁에서 이기는 국가가 미래의 결과를 관리할 능력을 얻게 될 것이라고 주장했다.

이러한 논리는 경제력, 군사적 활용, 사이버 방어, 기술 표준을 우려하는 의원들에게 호소력이 있다. 미국 기업에만 적용되는 제한은 인재나 개발 활동을 규제가 덜한 관할권으로 이동시킬 수 있다.

국내 중단 조치만으로 외국 연구소가 속도를 늦출 것이라고 보장할 수는 없다. 오픈 모델 가중치는 국경을 넘어 이동할 수 있으며, 알고리즘 발전은 때때로 이전 시스템보다 더 적은 컴퓨팅 성능을 필요로 한다.

이러한 현실은 무기한의 일방적 중단에 기반한 제안을 약화시킨다. 그렇다고 시험, 보안, 사고 보고를 위한 표적화된 요건의 타당성을 부정하는 것은 아니다.

미국은 경쟁을 포기하지 않으면서도 이미 민감 기술을 규제하고 있다. 수출 통제, 사이버보안 표준, 조달 규칙은 상업적 개발과 국가안보 이익의 균형을 맞추려 한다.

프런티어 AI는 관련 인프라의 상당 부분이 여전히 민간 통제하에 있다는 점에서 다른 기술적 문제를 제기한다. 정부 평가자는 모델, 내부 안전 결과, 학습 보안, 배포 계획에 접근해야 할 수 있다.

위험 기반 체계는 기업의 국적보다 역량에 초점을 맞출 수 있다. 예를 들어, 모델이 정의된 사이버보안, 생물학적 또는 자율 운영 임계값을 넘을 때 강화된 요건이 발동될 수 있다.

이러한 임계값은 가능한 경우 재현 가능한 시험을 사용해야 한다. 또한 모델이 미세 조정이나 외부 도구와의 연결 후 다르게 작동할 수 있으므로 불확실성도 인정해야 한다.

국제 공조는 집행을 강화할 수 있다. 공동 평가 방법은 정부가 시스템을 비교하는 데 도움을 주고 기업이 시험이나 배포를 이전할 유인을 줄일 수 있다.

그러나 국제 규칙은 정당한 연구를 보호해야 하며, 소수의 정부와 기업이 영구적인 관문지기가 되는 일을 피해야 한다. 개방형 기술 작업은 안전 연구, 감사 도구, 경쟁적 대안에 기여해 왔다.

중국 논쟁은 투명성에도 영향을 미친다. 상세한 공개 평가는 방어적 취약점을 드러내거나 악의적 행위자가 위험한 역량을 재현하도록 도울 수 있다. 그러나 과도한 비밀주의는 독립 전문가가 정부와 업계의 주장을 평가하지 못하게 한다.

계층화된 공개 체계는 실용적인 절충안을 제시한다. 규제기관은 완전한 결과를 받을 수 있고, 승인된 연구자는 통제된 증거를 검토할 수 있으며, 대중은 주요 위험과 완화 조치를 설명하는 요약을 받을 수 있다.

의회는 국가 간 경쟁과 기업 간 경쟁도 구분해야 한다. 연구소는 자사의 상업적 이익을 추구하면서 미국의 리더십을 내세울 수 있다. 이러한 이익은 겹치지만 동일하지는 않다.

임박한 재앙에 관한 주장에도 같은 주의가 필요하다. 개발자들은 가치 있는 증거를 보유하고 있지만, 경고는 규제, 투자, 시장 구조에도 영향을 줄 수 있다. 정책 입안자들은 심각한 피해 가능성을 일축하지 않으면서도 감사 가능한 증거를 요구해야 한다.

최근 보도는 상충하는 추정과 시나리오를 부각했다. 전 Anthropic 연구원 Jacob Coxon은 AI가 10년 안에 인류 멸종을 초래할 확률을 10%로 제시했다고 Associated Press 보도는 전했다. 이 추정치는 실증적으로 검증된 예측이 아니라 개인의 판단이다.

Amodei는 대규모 사이버 활동을 조율할 수 있는 시스템에 이르는 경로가 6개월에서 12개월일 수 있다고 설명했다. 이 일정 역시 불확실하며, 독립 평가자가 시험해야 하는 기술적 가정에 달려 있다.

의회는 하나의 전망을 바탕으로 정밀한 미래를 법제화해서는 안 된다. 최악의 시나리오가 명백해지기 전에 변화하는 증거를 평가할 수 있는 제도를 만들어야 한다.

이것이 중국 논리에 대한 가장 강력한 대응이다. 안전 감독은 경쟁을 멈추자는 결정이 아니다. 이는 기술적 실패, 대중의 반발, 지정학적 긴장을 견딜 수 있는 경쟁 전략을 구축하는 일환이다.

의회가 여전히 행동할 수 있는지를 보여줄 세 가지 신호

다음 시험대는 AI 경영진의 또 다른 경고가 아니다. 정책 입안자들이 긴급성을 측정 가능한 의무를 담은 법안으로 전환하는지 여부다.

첫 번째 신호는 Jeffries가 약속한 하원 민주당 회의다. 그 가치는 의원들이 또 한 번의 포괄적인 행동 촉구를 내놓는 데 그치지 않고, 구체적인 입법 수단을 지지하는지에 달려 있다.

FRONTIER Act 또는 그 법안에서 추린 더 좁은 패키지를 중심으로 결집하기로 결정한다면, 선거 전에 법안이 진전될 수 있다는 근거가 강해질 것이다. 공동의 경로 없이 경쟁하는 법안들이 난립한다면 그 가능성은 약화될 것이다.

두 번째 신호는 다수당 원내대표 John Thune, 상무위원회 위원장 Ted Cruz, Amy Klobuchar 상원의원이 준비 중인 것으로 알려진 상원 법안이다. 이들의 협상은 첨단 모델이 초래하는 가장 큰 위험에 초점을 맞추고 있는 것으로 전해진다.

초당적 상원 법안은 양원 모두에서 추진력을 만들 수 있다. 구체적인 테스트, 정부의 접근권, 사고 보고 및 집행 조항을 포함할 경우 가장 큰 의미를 갖게 된다.

자발적 협의에 국한된 제안은 조율을 더할 수는 있어도 책임성의 공백을 해소하지는 못한다. 하원과 상원의 정의 차이 역시 남은 회기 일정을 소진할 수 있다.

세 번째 신호는 연구소들이 감속 약속을 검증 가능하게 만드는지 여부다. OpenAI, Anthropic, xAI는 실제로 개발 속도를 어떻게 바꿀 것인지 설명해야 한다.

유의미한 증거에는 독립 검토 절차, 역량 임계값, 문서화된 지연, 작업 재개를 위한 명확한 조건이 포함될 것이다. 기밀 세부 사항은 보호할 수 있지만, 대중에게는 경영진 간의 합의만으로는 충분하지 않다.

입법 전에 이뤄지는 업계의 행동은 경고가 내부 의사결정을 바꿨다는 점을 보여줄 것이다. 또한 의회가 법적 요건을 설계하는 데 참고할 운영 사례를 제공할 수 있다.

측정 가능한 변화가 없다면 회의적인 해석에 힘이 실릴 것이다. 기업들이 실질적인 통제권을 포기하지 않은 채 유연한 규칙, 법적 협력 보호, 또는 평판상의 공로를 얻으려는 것일 수 있다.

개발자와 기업 구매자는 이를 면밀히 지켜봐야 한다. 새로운 의무는 모델 가용성, 배포 일정, 감사 권한, 보안 검토, 민감한 애플리케이션에 요구되는 문서화에 영향을 미칠 수 있다.

실무적으로 조달팀은 외부 평가를 기다리며 모델 출시가 지연되는 상황을 겪을 수 있고, 승인 전에 표준화된 모델 카드를 받을 수도 있으며, 계약을 통해 사고 통지에 접근할 권리를 얻을 수도 있다. 그러한 요건이 없다면 같은 팀은 모델이 제한된 사이버보안 테스트에서 실패했다는 사실이나 개발사가 배포 직전에 안전 임계값을 변경했다는 사실을 전혀 알지 못할 수 있다.

지식 근로자에게도 직접적인 이해관계가 있다. 조직들은 내부 문서, 소스 코드, 고객 정보, 회의 기록을 AI 지원 워크플로에 점점 더 많이 넣고 있다. 취약한 거버넌스는 오용, 침해된 에이전트 또는 통제가 미흡한 통합을 통해 이러한 자료를 노출할 수 있다.

예를 들어 직원은 AI 어시스턴트가 비공개 고객 파일을 정확하게 요약하는 것을 보면서도, 연결된 에이전트가 이메일을 보내고, 운영 시스템을 조회하거나, 타사 커넥터를 통해 데이터를 보관할 수도 있다는 사실을 알지 못할 수 있다. 팀에는 어떤 모델이 답변을 생성했는지뿐 아니라 어떤 데이터에 접근했는지, 어떤 도구를 호출했는지, 외부 작업을 사람이 승인했는지를 보여주는 기록이 필요하다.

팀은 이미 어떤 모델이 민감한 정보에 접근하는지, 그리고 그러한 시스템이 어떤 외부 작업을 수행할 수 있는지를 문서화해야 한다. 검색 가능한 AI 지식 베이스는 이러한 기록을 뒷받침할 수 있지만, 어떤 지식 도구도 접근 제어 또는 독립적인 보안 테스트를 대체할 수는 없다.

의회의 AI 가드레일이 모든 모델 실패를 없애지는 못할 것이다. 그래도 효과적인 규칙은 누가 테스트해야 하는지, 누가 결과를 받는지, 언제 사고를 보고해야 하는지, 심각한 경고 이후 어떤 조치가 이뤄지는지를 정할 수 있다.

경쟁 관계의 연구소들이 역량 성장이 자신들이 선호하는 안전 일정의 범위를 넘어선다는 점을 인정하면서 정책의 창이 열렸다. 의회가 집행 가능한 결정을 회의로 대체한다면 그 창은 닫힐 것이다.

다음 제안들이 나올 때 독자들은 세 가지 질문을 던져야 한다. 규칙은 고위험 배포 이전에 적용되는가, 독립 전문가가 증거를 검토할 수 있는가, 위반에는 결과가 따르는가?

입법자들이 세 질문 모두에 답하지 못한다면, 워싱턴은 또 하나의 프레임워크를 만들어낼 뿐이고 민간 기업들은 계속해서 실질적인 규칙을 정하게 될 것이다.