상원 AI 안전성 테스트 대립, 연방 심사와 기업 통제권 충돌

상원 AI 안전성 테스트는 의원들이 가장 고도화된 모델이 사용자에게 도달하기 전 적용할 규칙을 협상하면서 निर्ण적인 쟁점으로 떠올랐다. 분쟁의 핵심은 실무적인 한 가지 질문이다. 개발자가 자체 시스템을 시험해야 하는가, 아니면 배포 전에 연방 전문가가 독립적으로 검토해야 하는가?

이 차이는 향후 법률이 외부 검문 절차를 만들지, 아니면 기업 주도 위험 관리를 제도화할지를 결정할 수 있다. 테드 크루즈, 에이미 클로버샤, 존 튠 상원의원은 법안을 마련하고 있지만, 마리아 캔트웰 상원의원은 더 강력한 의무적 연방 테스트를 요구하고 있다.

법안 초안은 아직 공개되지 않아 중요한 세부 사항은 바뀔 수 있다. 그러나 보도된 견해차는 이미 워싱턴에서 형성 중인 합의의 핵심 약점을 드러낸다. 의원들은 최첨단 AI에 안전장치가 필요하다는 데 점점 동의하고 있지만, 안전성 판단을 뒷받침하는 증거를 누가 통제할지에는 합의하지 못했다.

초안 법안은 공개 전부터 대립을 촉발했다

형성 중인 상원 제안은 모델 테스트를 기술적 절차에서 규제 권한을 둘러싼 다툼으로 바꿔 놓았다.

이 법안은 상원 상무위원회 위원장인 크루즈의 의견을 반영해 클로버샤와 튠이 개발하고 있다. 위원회의 민주당 간사인 캔트웰은 보도된 테스트 체계에 반대하고 있다.

테스트 협상에 따르면, 초안은 개발자가 안전성 평가를 수행하고 그 결과를 상무장관에게 제출하도록 허용한다. 반면 캔트웰은 국립연구소와 국가안보 기관이 의무적 보안 테스트에 참여해야 한다고 요구한다.

이 차이는 기업 주도 평가가 규제를 받는 개발사가 만든 증거에서 출발한다는 점에서 중요하다. 최종 법안에 따라 정부 당국은 결과를 검토하고, 방법론에 이의를 제기하며, 잠재적으로 배포를 거부할 수 있다.

독립적인 연방 테스트는 다른 전제에서 출발한다. 이는 당국이 개발사의 결론을 수용하기 전에 모델, 안전장치, 현실적인 평가 환경에 직접 접근해야 한다는 가정에 기반한다.

어느 구조도 자동으로 안전을 보장하지는 않는다. 기업 평가자는 자사 시스템을 깊이 이해하는 반면, 연방 평가자는 독립성과 기밀 위협 정보에 대한 접근을 제공할 수 있다. 갈등은 어느 장점이 법적 최소 기준을 규정해야 하는지에 관한 것이다.

클로버샤는 자신의 입장을 두 접근법 사이의 가교로 제시해 왔다. 그는 개발자가 특히 개발사의 통제를 벗어날 수 있는 모델을 검증하고 테스트하기 위해 정부 전문가와 협력해야 한다고 말했다.

이 표현은 해결되지 않은 질문을 남긴다. 정부 전문가와 협력한다는 것은 보고서를 공유하는 것, 선별된 테스트에 협조하는 것, 또는 모델을 직접 심사받도록 제출하는 것을 뜻할 수 있다. 각각의 방식은 연방 당국에 서로 다른 수준의 권한을 부여한다.

크루즈 역시 안전장치의 필요성을 인정했다. 그는 주요 AI 연구소의 부적절한 안전 관행에 관한 주장을 “매우 우려스럽다”고 표현하면서도, 중국에 대한 미국의 지속적인 리더십을 강조했다.

따라서 이 법안은 규제와 무규제 사이의 분열이 아니다. 이견은 최첨단 AI 평가의 강도, 시점, 제도적 소유권을 둘러싼 것이다.

시점 역시 중요하다. 전 OpenAI 및 Anthropic 직원의 공개 주장이 통제 상실 위험에 대한 의회의 관심을 다시 불러일으킨 뒤 상원 협상은 더욱 치열해졌다.

이러한 주장은 정치적 긴급성을 높이는 데 기여했지만, 검증된 기술적 발견을 대체하지는 못한다. 의회는 하나의 바이럴 경고나 이례적 사건을 넘어 작동하는 규칙을 설계해야 한다.

공개되지 않은 법안 문구도 또 다른 한계다. 보좌진과 협상에 정통한 인사들의 설명은 분쟁을 파악하는 데 도움이 되지만, 제안이 정확히 무엇을 요구하는지 확정할 수는 없다.

“자발적”, “의무적”, “정부 검증”과 같은 용어는 상당한 법적 차이를 감출 수 있다. 최종 효과는 법정 의무, 집행 권한, 기한, 예외, 사법 심사에 따라 달라질 것이다.

현재 가장 분명한 변화는 정치적 측면이다. 고위 상원의원들은 청문회와 자발적 약속만을 통해 AI 안전성을 논의하는 대신, 재앙적 위험 평가에 대한 구체적인 책임을 협상하고 있다.

상원 AI 안전성 테스트가 테스트 주체에 달린 이유

안전 체계가 의미를 가지려면 평가자가 개발사의 가정, 방법론, 배포 결정을 이의 제기할 수 있어야 한다.

최첨단 모델은 상당한 규모로 학습되어 여러 작업을 수행할 수 있는 범용 시스템이다. 이 논의에서 의원들은 심각한 사이버, 생물학, 화학 또는 핵 피해를 초래할 수 있는 모델에 주목하고 있다.

배포 전 테스트는 모델이 광범위하게 공개되거나 운영에 사용되기 전에 수행된다. 평가자들은 모델의 역량, 안전장치, 오용 저항성, 적대적 프롬프트나 변경된 조건에서의 행동을 점검한다.

이 표현은 단순해 보이지만, 모든 구성 요소에는 정책적 선택이 필요하다. 의회는 어떤 모델이 대상인지, 어떤 위험을 인정할지, 누가 평가를 설계할지, 어떤 결과가 배포를 막을지를 결정해야 한다.

개발자 주도 시스템은 속도와 기술적 친숙성을 제공한다. 내부 팀은 학습 중 테스트하고, 실패를 신속히 조사하며, 민감한 모델 접근 권한을 반복적으로 이전하지 않고도 안전장치를 수정할 수 있다.

개발사는 중요한 맥락 지식도 보유한다. 이들은 외부 평가자가 처음부터 파악하기 어려운 학습 과정, 시스템 아키텍처, 보안 통제, 알려진 실패 패턴을 더 잘 이해한다.

그러나 내부 테스트는 유인 문제를 만든다. 모델 출시를 지연하는 비용을 부담하는 같은 기업이 우려스러운 결과가 그 지연을 정당화하는지도 결정할 수 있기 때문이다.

이는 개발사가 안전성 발견을 무시한다는 뜻은 아니다. 이는 법률이 출시 일정, 경쟁적 위치, 투자자 기대, 고객 약속을 포함한 일반적인 조직적 압박을 고려해야 한다는 뜻이다.

정부 검토는 검토자가 충분한 정보를 받을 때에만 이러한 갈등을 줄일 수 있다. 요약 보고서는 테스트 점수를 보여줄 수 있지만, 평가가 현실적인 위협을 다뤘는지 또는 위험한 경로를 놓쳤는지는 드러내지 못할 수 있다.

독립적 테스트는 증거 생산과 상업적 의사결정 사이에 더 강한 분리를 제공한다. 국립연구소와 보안 기관은 민간 평가자가 이용할 수 없는 전문성이나 기밀 위협 정보를 보유할 수도 있다.

그러나 연방 테스트에는 자체적인 제약도 따른다. 기관에는 자격을 갖춘 인력, 보호된 컴퓨팅 환경, 안전한 모델 접근, 반복 가능한 벤치마크, 영업비밀 처리 절차가 필요하다.

역량은 시기에도 영향을 준다. 여러 개발사가 점점 더 복잡해지는 모델을 동시에 제출할 경우, 적절한 인력과 인프라가 없다면 중앙집중식 테스트 프로그램은 병목이 될 수 있다.

이 가능성은 정부 검증을 수반하는 기업 테스트 주장의 근거가 된다. 이 방식은 일부 연방 감독을 유지하면서 평가 업무를 분산한다.

이 타협안의 강도는 “검증”이 무엇을 뜻하는지에 달려 있다. 기업 문서를 검토하는 것은 자체 테스트를 다시 수행하는 것보다 약하며, 선별된 테스트를 재실행하는 것은 독립 평가를 수행하는 것보다 범위가 좁다.

의회는 실패의 결과도 정의해야 한다. 테스트 의무는 출시 전에 확인된 문제를 해결해야 하는 의무와 다르다.

모델이 평가 중 우려스러운 역량을 보이더라도 법에 구속력 있는 배포 기준이 없다면 통과할 수 있다. 결과를 보고하면 투명성은 생기지만, 반드시 노출을 막는 것은 아니다.

캔트웰의 제안된 접근법은 보도에 따르면 배포 전 의무적 테스트와 수정 조치를 강조한다. 이 입장은 평가를 단순한 문서화 요건이 아니라 규제 관문으로 본다.

경쟁하는 접근법은 적법 절차와 지속적인 혁신을 보호하면서 개발자의 의무를 만들도록 설계된 것으로 보인다. 그 지지자들은 정부가 규정 준수를 검증할 권한을 유지할 것이라고 말한다.

따라서 양측 모두 의미 있는 감독을 지지한다고 주장한다. 진정한 시험대는 개발사가 동의하지 않을 때 정부가 문제를 독립적으로 발견하고 조치를 요구할 수 있는지 여부다.

재앙적 위험은 합의이자 허점이다

의원들은 “재앙적 위험”이라는 명칭에는 동의하지만, 그 정의에 따라 법률이 위험한 모델을 포착할지 또는 드물게 적용될지가 결정된다.

재앙적 위험은 일반적으로 발생 빈도는 낮지만 결과가 극도로 심각한 피해를 의미한다. 최첨단 AI 정책에서 사례로는 정교한 사이버 공격이나 생물학적·핵 위협에 대한 지원이 자주 거론된다.

캔트웰은 특히 국립연구소의 전문가들이 고도화된 모델이 그러한 활동을 가능하게 하는지 평가해야 한다고 주장했다. 그의 틀은 모델 테스트를 정부 전반에 이미 분산된 국가안보 역량과 연결한다.

크루즈는 안전성과 지정학적 경쟁을 결합하면서 같은 광범위한 위험 언어를 사용해 왔다. 이 조합은 일반적인 의회 입장을 반영한다. 미국은 국내 개발사를 불필요하게 늦추지 않으면서 심각한 위험을 규제해야 한다는 것이다.

긴장은 “재앙적”이라는 단어 안에 있다. 좁게 정의된 기준은 감독을 극단적 사례에 집중시키고 소규모 개발사에 과도한 의무를 부과하지 않을 수 있다.

그러나 이는 법정 기준에 이르지 않는 심각한 피해를 배제할 수도 있다. 반복적인 보안 실패, 조작, 사기 또는 노동 혼란은 국가 규모의 재난에 초점을 둔 체계 밖에 남을 수 있다.

광범위한 정의는 다른 문제를 만든다. 기업은 역량이 언제 기준을 넘는지 판단하기 어려울 수 있고, 규제 당국은 모델 배포에 대해 광범위한 재량권을 얻게 될 수 있다.

적용 기준도 마찬가지로 중요하다. 법률은 학습 지출, 컴퓨팅 자원, 모델 역량 또는 조직 규모에 따라 기업을 규제할 수 있다.

각 측정 기준은 시대에 뒤처지거나 왜곡될 수 있다. 학습 비용은 변하고, 컴퓨팅 효율은 개선되며, 위험한 역량이 항상 하나의 수치 기준에 따라 깔끔하게 상승하는 것은 아니다.

역량 기반 발동 기준은 더 유연해 보이지만 신뢰할 수 있는 테스트가 필요하다. 이러한 평가는 가끔 우려스러운 결과를 내는 모델과 심각한 피해의 장벽을 실질적으로 낮추는 모델을 구분해야 한다.

테스트 조건은 결과에 영향을 줄 수 있다. 모델의 성능은 도구 접근, 미세 조정, 외부 데이터, 더 긴 추론 시간, 숙련된 사용자의 반복 시도에 따라 달라질 수 있다.

배포된 제품은 이전에 테스트된 기본 모델과 다를 수도 있다. 안전 규칙은 사소한 업데이트마다 완전한 재검토를 강제하지 않으면서 이후 수정, 연결된 도구, 새로운 운영 환경을 다뤄야 한다.

이 과제는 AI 에이전트에서 특히 뚜렷하게 나타난다. 에이전트는 소프트웨어, 계정 또는 외부 서비스를 사용해 여러 단계의 작업을 계획하고 실행할 수 있어 신뢰할 수 없는 행동의 결과를 확대한다.

정적인 벤치마크는 이러한 상호작용을 포착하지 못할 수 있다. 평가자에게는 모델이 행동하고, 재시도하고, 오류를 숨기거나 연결된 시스템을 악용할 수 있을 때 어떻게 작동하는지 보여주는 현실적인 환경이 필요하다.

의회는 평가 기준을 갱신하는 절차도 마련해야 한다. 오늘의 테스트를 법률에 고정하면 모델과 배포 패턴이 변화하는 동안 기관이 이미 낡은 위험을 측정하게 될 수 있다.

하원의 초당적 FRONTIER Act는 하나의 비교 사례를 제시한다. 이 법안은 첨단 개발자에게 단계별 요건, 모델 카드, 위험 프레임워크, 독립 감사, 사고 보고, 지속적인 평가를 요구하는 방안을 제안한다.

이 모델은 출시 전 단일 관문에 의존하는 대신 여러 의무에 걸쳐 감독을 분산한다. 또한 가장 큰 개발사에 엄격한 요건을 집중하려는 시도이기도 하다.

Mark Warner 상원의원은 다른 접근법을 추진해 왔다. 보도된 그의 AI 안전 프레임워크는 첨단 모델을 배포하기 전 정부 테스트를 의무화하는 한편, 안전 사고에는 자발적 보고를 활용하는 방안이다.

이러한 제안은 의회가 여러 집행 조합을 선택할 수 있음을 보여준다. 의무 테스트, 독립 감사, 사고 보고, 배포 승인 절차는 서로를 보완할 수 있지만, 서로 대체 가능한 것은 아니다.

테스트는 특정 시점에 선택된 조건에서의 행동을 포착한다. 사고 보고는 실제 사용자가 예측 불가능한 데이터와 시스템에 모델을 연결한 뒤, 배포 이후에 나타나는 실패를 포착한다.

따라서 상원 법안의 신뢰성은 테스트라는 명칭만으로 결정되지 않는다. 적용 대상, 평가 방식, 시정 의무, 배포 결정, 출시 후 모니터링을 연결해야 한다.

연방 규칙은 더 강력한 주(州) 차원의 안전장치를 대체할 수 있다

의회가 연방 기준을 사용해 주 AI 법률을 제한한다면, 테스트를 둘러싼 논쟁은 더욱 중대한 의미를 갖게 된다.

연방 선점은 연방법이 배타적으로 규율하는 영역에서 주가 규칙을 집행하지 못하게 한다. 기술 기업들은 여러 주의 규제 체계보다 하나의 국가적 프레임워크를 따르는 편이 더 쉽기 때문에 선점을 지지하는 경우가 많다.

통일성에는 실질적 가치가 있다. 프런티어 모델은 전국의 사용자에게 서비스를 제공할 수 있는 반면, 상충하는 테스트 및 보고 요건은 단일한 전국 출시를 복잡하게 만들 수 있다.

공통의 연방 체계는 전문성을 집중할 수도 있다. 국립연구소, 보안 기관, 상무부는 개별 주의 역량을 넘어서는 위협 정보를 조율할 수 있다.

그러나 국가 표준은 최소 기준 또는 상한선으로 작동할 수 있다. 최소 기준은 더 강력한 주 차원의 보호를 보존하지만, 상한선은 주가 더 나아가는 것을 막는다.

Cantwell은 주 법제를 약화시키는 허술한 연방 기준에 경고해 왔다. AI 안전 단체들도 배포 전 테스트를 효과적인 주 차원의 안전장치 보존과 연결해 왔다.

백악관은 더 완화된 접근법을 취했다. 백악관의 입법 청사진은 일부 소비자 보호를 유지하면서도, 부담스럽다고 판단하는 주 규제를 선점할 것을 요구한다.

California, Colorado, Texas, Utah는 이미 민간 부문 AI 규칙을 제정했다. 이들의 접근법은 서로 다르며, 이는 연방 선점이 중단시킬 수 있는 실험과 통일성이 줄일 수 있는 복잡성을 모두 보여준다.

보도된 상원 협상은 이 더 넓은 경쟁 구도 속에서 평가되어야 한다. 주가 더 강력한 통제를 요구할 자유를 유지하는지에 따라, 완만한 연방 테스트 규칙의 결과는 달라진다.

법률이 주 규칙을 대체한다면 연방 체계의 모든 공백은 더 중요해진다. 자발적이거나 기업 주도형인 기준이 단순한 초기 기준선이 아니라 허용되는 감독의 최대 수준이 될 수 있다.

이는 초당적 조치를 원하는 입법자들에게 압박을 만든다. 더 약한 법안은 더 많은 표를 얻을 수 있지만, 이를 광범위한 선점과 결합하면 주 권한 지지자들에게는 타협이 더 어려워질 수 있다.

업계도 관련된 선택에 직면한다. 개발사들은 하나의 연방 프레임워크를 선호할 수 있지만, 낮은 국가적 상한선을 위해 로비하는 것은 해당 프레임워크에 대한 대중의 신뢰를 약화시킬 수 있다.

최근 정책 논쟁 보도에 따르면 OpenAI는 원칙적으로 의무적인 연방 규칙을 지지해 왔다. 그러나 입법 지지가 해당 기업이 직접적인 정부 테스트를 수용하는지, 아니면 구조화된 자체 평가만 수용하는지에 대한 답은 아니다.

Anthropic은 일부 경쟁사보다 안전 중심적인 공개 입장을 자주 취해 왔지만, 이 협상에 관한 원래 보도에는 논평하지 않았다. 따라서 공개되지 않은 문구에 대한 정확한 입장은 여전히 불확실하다.

주 차원의 실험에는 비용이 따르지만, 협상력도 만든다. 의회가 행동하지 않을 때 주 법률은 기업들이 공개, 위험 관리, 부문별 보호 조치로 나아가도록 압박할 수 있다.

연방 입법자들은 궁극적으로 선점을 거래의 일부로 활용할 수 있다. 개발사들은 하나의 규칙 체계를 받고, 규제기관은 보고, 테스트 접근권, 집행 가능한 안전 의무를 받는다.

이 거래는 국가 규칙이 대안을 제거할 만큼 충분히 강력할 때만 작동한다. 그렇지 않으면 통일성은 규제 확실성으로 포장된 채 책임성을 줄이는 수단이 될 수 있다.

기업 구매자에게 이 문제는 법 이론을 넘어선다. 연방 기준은 공급업체가 제공하는 안전 문서의 내용과 고객이 모델 간 평가 방식을 비교할 수 있는지에 영향을 미칠 수 있다.

조직은 법정 준수를 모든 용도에서 시스템이 안전하다는 증거로 간주해서는 안 된다. 재앙적 피해에 초점을 맞춘 법적 기준은 기밀성, 환각, 차별, 운영 신뢰성에 대해 거의 말해주지 않을 수 있다.

AI 제품을 평가하는 팀은 여전히 공급업체의 주장, 테스트 결과, 사고, 배포 결정에 관한 자체 기록이 필요하다. 검색 가능한 AI 지식 기반은 규칙과 제품이 변화하는 가운데 그러한 증거를 보존하는 데 도움이 될 수 있다.

가장 강력한 테스트 규칙도 실무적 한계에 직면한다

의무적인 연방 테스트는 독립적인 점검 지점을 만들 수 있지만, 불확실한 평가를 실제 환경 행동에 대한 정밀한 예측으로 바꿀 수는 없다.

프런티어 모델 평가는 여전히 발전 중인 분야다. 테스트는 우려되는 역량을 식별할 수 있지만, 결과는 프롬프트, 도구, 접근 수준, 평가자 역량, 배포에 관한 가정에 좌우된다.

모델은 한 평가에서는 안전하게 실패했더라도 미세 조정이나 통합 이후 다르게 행동할 수 있다. 반대로 일반 사용자가 재현할 수 없는 인위적인 조건에서는 위험해 보일 수도 있다.

이러한 불확실성은 어떤 단일 기업도 허용 가능한 증거를 혼자 정의해서는 안 된다는 점에서 더 강력한 테스트를 뒷받침한다. 동시에 정부 승인을 영구적인 안전 인증으로 취급하지 말아야 한다는 경고이기도 하다.

기관들은 검토 완료가 무엇을 의미하는지 명확히 전달해야 한다. 승인은 모든 사용이 안전하다는 의미가 아니라, 모델이 명시된 조건에서 정의된 기준을 충족했다는 뜻일 수 있다.

규제기관은 민감한 정보도 보호해야 한다. 모델 가중치, 보안 통제, 독점적 평가 데이터, 발견된 취약점은 산업 스파이나 범죄 절도의 가치 있는 표적이 될 수 있다.

국가안보 기관은 관련 전문성을 갖추고 있지만, 접근 권한 확대는 새로운 보안 책임을 만든다. 의회는 누가 제출 자료를 검토할 수 있는지와 기관들이 이를 어떻게 분리할지를 명시해야 한다.

적법 절차도 정당한 우려다. 상무장관이 배포를 지연시킬 수 있다면 개발사에는 명확한 기준, 응답 기한, 이의 제기 권리, 사실 오류를 바로잡는 절차가 필요하다.

그러한 보호 장치가 개입을 불가능하게 만들어서는 안 된다. 끝없는 이의를 허용하는 검토 체계는 규제기관이 심각한 안전 우려를 해결하기 전에 배포를 허용할 수 있다.

소규모 개발사들은 다른 문제를 제기한다. 준수에 대규모 인력, 법률 지원, 전문 인프라가 필요하다면 복잡한 연방 테스트는 가장 큰 연구소들의 지위를 공고히 할 수 있다.

위험 기반 기준은 그 부담을 줄일 수 있다. 그러나 입법자들은 기준이 기업들로 하여금 적용 대상에서 벗어나기 위해 개발 구조를 바꾸거나 정보를 숨기도록 유도하는지 검토해야 한다.

오픈소스 모델은 또 다른 복잡성을 더한다. 모델 가중치가 널리 공개되면 한 개발사에 대한 제한이 다른 당사자의 후속 수정이나 배포를 통제하지 못할 수 있다.

테스트는 출시 전에 위험을 드러낼 수 있다. 그러나 집행은 배포 결정, 파생 모델, 후속 배포자의 책임을 다뤄야 한다.

국제 경쟁은 모든 선택에 압박을 더한다. Cruz와 다른 입법자들은 안전 매개변수를 도입하면서도 미국이 중국보다 앞서 있어야 한다고 주장한다.

이 주장은 효율적인 규제를 정당화할 수 있지만, 출시 일정에 영향을 미치는 모든 요건을 약화시키는 이유가 될 수도 있다. 의회는 모든 외부 검토가 경쟁력을 해친다고 가정하기보다 실제 지연에 관한 증거를 필요로 한다.

신뢰할 수 있는 기준은 불확실성을 줄여 도입을 뒷받침할 수 있다. 공급업체가 비교 가능한 증거를 제공하고 심각한 사고가 신뢰할 수 있는 보고 체계에 기록되면 기업과 정부 고객은 더 빠르게 움직일 수 있다.

유럽연합은 외부 기준점이 된다. 유럽연합의 AI 프레임워크에는 이미 첨단 범용 모델 공급자를 위한 투명성 및 사고 보고 의무가 포함되어 있다.

서로 다른 법 체계는 직접 비교를 제한하지만, 전 세계적 방향은 분명하다. 정부들은 자발적인 안전 약속에서 정의된 의무, 문서화, 규제기관 접근권으로 이동하고 있다.

미국은 이러한 핵심 질문을 피하지 않으면서도 독자적인 프레임워크를 설계할 수 있다. 결정적인 쟁점은 감독이 개발사의 출시 결정을 이의를 제기할 만큼 충분히 독립적인 증거를 만들어낼 수 있는지다.

의회는 또한 하나의 논쟁적인 경고를 중심으로 법을 작성하는 일을 피해야 한다. 바이럴 주장은 관심을 빠르게 끌 수 있지만, 지속 가능한 규제에는 반복 가능한 절차와 검증된 기술적 발견이 필요하다.

전직 직원의 주장은 정치적 촉매의 일부로 남아 있으며, 특정 모델이 재앙적 위험을 제시한다는 증거는 아니다. 법안은 그 주장이 검증되든, 범위가 축소되든, 기각되든 작동해야 한다.

이러한 회의적인 구분은 신뢰할 수 있는 평가의 필요성을 강화한다. 독립 테스트는 입법자나 사용자가 직접 검증할 수 없는 긴급한 주장이 공개 논쟁에 포함될 때 가장 가치가 크다.

동시에 테스트가 AI와 연결된 모든 사회적 질문에 답할 수는 없다. 이는 저작권 분쟁, 일자리 대체, 에너지 사용, 아동 안전, 일상적인 소비자 기만을 해결하지 못한다.

재앙적 위험에 엄격히 초점을 맞춘 법은 그렇지 않은 척해서는 안 된다. 그 가치는 실제로 포괄하는 심각한 위험과 규제기관에 이를 해결할 권한을 얼마나 부여하는지를 기준으로 측정되어야 한다.

타협안에 실질적 효력이 있는지 보여줄 세 가지 신호

다음 단계는 입법자들이 배포 점검 지점을 구축하고 있는지, 아니면 최종 통제권을 개발사에 남겨두는 보고 체계를 만들고 있는지를 드러낼 것이다.

첫 번째 신호는 실제 법안 문구의 공개다. 독자들은 “shall” 같은 동사와 함께 독립적 접근, 테스트, 시정, 배포 승인에 대한 명확한 요건을 살펴봐야 한다.

정의는 의무만큼 중요하다. 문구는 적용 대상 개발사, 적용 대상 모델, 재앙적 위험 기준, 새 평가를 촉발하는 사건을 식별해야 한다.

결정적인 조항은 위험한 결과가 나온 뒤 무엇이 일어나는지를 규정하게 된다. 결과 제출 의무는 수정을 요구하거나 배포를 막을 권한보다 약하다.

법안은 정부 전문가가 자체 테스트를 설계하고 수행할 수 있는지도 명확히 해야 한다. 개발사가 선택한 증거로만 제한된 접근은 핵심적인 독립성 문제를 해결하지 못한다.

공개된 문구가 기관에 직접 테스트 권한과 집행 가능한 구제 수단을 부여한다면 Cantwell의 우려가 타협안에 반영된 것이다. 주로 자체 평가에 의존한다면 개발사 주도 접근법이 우세한 것이다.

두 번째 신호는 상원 상무위원회의 조치다. 관련 Thune-Klobuchar 법안을 위한 이전 마크업은 8월 휴회 전에 취소됐으며, 이는 논의가 입법 진전을 보장하지는 않는다는 점을 보여준다.

예정된 심사 일정이 공개된다면 위원회 지도부가 이견을 충분히 좁혀 수정안 제시와 기록표결에 법안을 회부할 수 있게 됐음을 보여줄 것이다. 또다시 지연된다면 시급성이 합의를 이끌어내지 못했음을 뜻한다.

수정 절차는 법안을 뒷받침하는 연합을 드러낼 것이다. 상원의원들이 의무적 테스트를 강화하려 하는지, 정부기관의 권한을 제한하려 하는지, 책임 규정을 바꾸려 하는지, 또는 이 틀을 주법 우선권 문제와 연결하려 하는지 주목해야 한다.

Klobuchar의 역할은 특히 중요하다. 그는 더 강력한 연방 테스트 입장과 공화당 공동 발의자들 사이에 있기 때문이다. 그의 최종 지지는 초당적 문구가 공동의 수사 이상을 담고 있는지 가늠하는 신호가 될 수 있다.

Cruz의 승인이 중요한 이유도 그가 위원회 의제를 통제하기 때문이다. 재앙적 위험 규정과 중국과의 경쟁 사이에서 그가 취하는 균형은 테스트 의무화와 법안 처리 속도 모두에 영향을 미칠 것이다.

Cantwell은 특히 법안이 상원 본회의에 회부될 경우 민주당의 지지를 형성할 수 있다. 그의 반대는 이 조치를 지속 가능한 초당적 타협안으로 제시하기 어렵게 만들 것이다.

세 번째 신호는 상원 법안이 경쟁하는 연방 및 주 차원의 프레임워크와 어떻게 상호작용하는지다. FRONTIER Act와 Warner의 테스트 계획은 이 협상이 교착될 경우 의원들에게 대안을 제공한다.

경쟁 법안은 협상자들에게 문구를 강화하라는 압력을 가할 수 있다. 동시에 관심을 분산시켜, 모든 연합이 AI 안전을 지지하면서도 어떤 제안도 진전하지 못하게 할 수도 있다.

주법 우선권은 핵심 지표가 될 것이다. 주 규정에 대한 광범위한 제한은 연방 테스트 체계가 주 정부 관계자와 안전 옹호자들의 지지를 얻기 위해 충족해야 할 기준을 높일 것이다.

사고 보고도 동등한 관심을 받을 가치가 있다. 최근 AI 정책 논쟁에 대한 분석은 실제 세계의 안전 실패를 공개하는 문제에서 여전히 공백이 존재한다고 밝혔다.

테스트와 사고 보고는 서로 다른 단계를 다룬다. 의회에는 예측 가능한 위험에 대한 출시 전 검토와, 통제된 평가가 놓치는 실패에 대한 출시 후 증거가 모두 필요하다.

가장 강력한 신호는 결합된 시스템이 될 것이다. 개발자는 지속적인 내부 평가를 수행하고, 정부 전문가는 적용 대상 모델을 독립적으로 테스트할 수 있으며, 중대한 사고는 의무 보고를 촉발하게 된다.

이러한 구조는 대중에게 기업이 만든 증거에만 전적으로 의존하라고 요구하지 않으면서도 기업의 전문성을 보존할 수 있다. 또한 규제기관이 실제 배포된 시스템에서 학습함에 따라 기준을 발전시킬 수 있게 한다.

가장 취약한 결과는 접근 권한, 집행 또는 결과를 정의하지 않은 채 광범위한 안전 언어만 사용하는 방식일 것이다. 이런 결과는 의회의 행동 요구를 충족할 수는 있어도 출시 결정에는 거의 변화를 주지 못할 수 있다.

상원의 AI 안전 테스트가 중요한 이유는 평가자가 절차적 세부사항이 아니기 때문이다. 평가자는 누가 질문을 설정하고, 증거를 통제하며, 불확실성이 지연을 정당화하는지 결정하는지를 좌우한다.

개발자, 기업 구매자 및 AI 사용자는 이를 둘러싼 구호보다 법안 문구를 지켜봐야 한다. “의무 규정”은 여전히 자체 평가에 의존할 수 있으며, “정부 검증”은 서류 검토부터 독립 테스트까지 다양한 형태일 수 있다.

조직은 자체 평가 기록을 개선하기 위해 의회를 기다릴 필요가 없다. 모델 버전, 허용된 사용 사례, 보안 검토, 사고, 공급업체 공개 정보 및 배포 결정의 근거를 문서화할 수 있다.

이 작업은 어떤 연방 프레임워크 아래에서도 계속 유용할 것이다. 팀이 규제상 주장과 자체 운영 위험을 비교하는 데 도움이 되며, 모델이나 정책이 바뀔 때 맥락을 보존한다.

향후 몇 달 동안 세 가지 구체적인 질문을 던져야 한다. 정부 전문가가 모델을 직접 테스트할 수 있는가, 규제기관이 출시 전에 수정을 요구할 수 있는가, 그리고 연방 규정이 침묵하는 영역에서 주 정부가 더 강력한 보호를 유지할 수 있는가?

그 답은 의회가 외부 안전 관문을 만들었는지, 아니면 개발자가 자신의 판단을 설명하는 방식을 표준화했을 뿐인지를 보여줄 것이다.