Bernie Sanders의 AI 법안, 초지능 금지 및 최첨단 모델의 연방 통제 추진
Bernie Sanders는 이례적으로 분명한 경계선을 내세운 AI 법안을 발의했다. 인공 초지능을 영구적으로 금지하고, 연방 안전 규정이 마련될 때까지 고도화된 AI 개발을 중단하자는 내용이다. 이 제안은 최첨단 모델을 감독할 장관급 인공지능부도 신설한다.
9월 23일 민주당 하원의원 Greg Casar와 함께 공개된 Bernie Sanders의 AI 법안은 또 하나의 자율적 안전 서약이 아니다. 법안은 개발자가 계획을 제출하고 연방 심사를 거쳐, 적용 대상 시스템을 배포하기 전에 승인을 받도록 요구한다. 일부 위반에는 최대 20년의 징역형이 부과될 수 있다.
이 접근법은 Sanders와 Casar를 워싱턴과 실리콘밸리의 상당 부분을 이끄는 ‘경쟁 우선’ 모델과 정면으로 맞서게 한다. Donald Trump 대통령은 개발 속도를 늦춰야 한다는 요구를 거부해 왔으며, 미국 연구소들은 서로는 물론 중국 개발자들과의 경쟁에 계속 묶여 있다.
공화당이 장악한 의회에서 이 제안이 통과될 가능성은 높지 않다. 그러나 그 의미는 당장의 전망을 넘어선다. 한때 연구소와 안전성 컨퍼런스에 국한됐던 경고를 입법가들이 답해야 할 구체적 질문으로 바꾼다. 일부 AI 역량은 개발 자체가 불법이어야 하는가?
Bernie Sanders의 AI 법안이 실제로 하게 될 일
이 법안은 일반적인 AI 개발과 발의자들이 인간의 통제를 압도할 수 있다고 보는 시스템을 구분하고, 그 경계를 감독할 연방 부처를 지정한다.
인공 초지능 금지법은 인공 초지능의 개발 또는 배포를 금지한다. 제안은 인간의 인지 능력을 능가하거나 인류의 파괴 또는 무력화를 계획하고 실행할 수 있는 시스템을 이 범주로 정의한다.
인공 초지능은 여전히 이론적 개념이라는 점에서 이 정의는 중요하다. 인지 영역 전반에서 인간보다 광범위하고 신뢰성 있게 우수한 성능을 달성한 공개 검증 시스템은 없다. 따라서 이 법안은 이미 존재하는 초지능 제품에 대한 대응이 아니라 예방적 장벽으로 설계됐다.
이 조치는 특정 고도화 AI 개발에 일시 중단 조치도 부과한다. 이 중단은 제안된 인공지능부가 안전 규정과 모델 심사 절차를 마련할 때까지 유지된다.
입법자들의 공식 법안 요약에 따르면, 해당 부처는 최첨단 시스템을 수명 주기 전반에 걸쳐 모니터링한다. 최첨단 시스템은 현재 개발의 선두에 가까운 고성능 범용 모델을 뜻한다.
부처는 위험한 역량의 제거를 감독하고, 인공 초지능으로 분류된 시스템의 폐기를 관리한다. 인공지능 자문위원회는 독립적인 과학·기술 자문을 제공한다.
규정 적용 대상 개발자는 개발 전에 계획을 제출하고, 공개 배포 전에 승인을 받아야 한다. 이 구조는 제품이 측정 가능한 피해를 낸 뒤 대응하는 경우가 많은 기존 기술 규제보다 감독 시점을 앞당긴다.
제안은 선행 역량도 겨냥한다. Casar는 핵·화학·생물무기 설계를 돕거나, 인간을 기만하거나, 자체 기능을 수정하거나, 종료 지시를 거부할 수 있는 시스템을 지목했다.
이 법안이 모든 AI 애플리케이션을 중단하는 것은 아니다. Casar는 잠재적인 의료 발전을 포함한 유익한 활용을 보존하기 위한 것이라고 말했다. 핵심 과제는 어떤 모델이 유용한 개발의 범주를 넘어 규제 대상 위험으로 진입하는지 정의하는 일이다.
집행은 강력할 수 있다. 발의자들은 제한을 위반하거나 우회하려는 조직이 이른바 기업 사형에 직면할 수 있다고 말한다. 개인은 일부 경우 최대 20년의 징역형을 받을 수 있다.
법안은 전 세계적인 초지능 금지를 미국의 정책 목표로 삼는다. 인공지능부는 국무부와 함께 국제 협정, 동맹국 공조, 수출 통제를 추진한다.
이 국제 조항은 제안의 가장 큰 전략적 약점을 인정한다. 다른 지역의 연구소들이 비슷한 제한 없이 동일한 시스템을 계속 개발한다면, 국내 금지만으로는 법안이 내세운 안전 목표를 달성할 수 없다.
따라서 이 법안은 흔히 별도로 논의되는 세 가지 정책, 즉 전면적인 역량 금지, 고도화 개발에 대한 일시적 통제, 상설 연방 AI 규제기관을 결합한다. 어느 하나만으로도 모델 개발에 대한 정부 권한을 크게 확대하는 조치가 된다.
Sanders가 지금 고도화 AI 개발 중단을 원하는 이유
Sanders는 가장 위험한 시스템이 등장하기 전에 자발적 자제가 이미 실패했다는 점을 주장하기 위해 업계 자체의 안전 경고를 활용하고 있다.
Sanders와 Casar는 9월 3일 이 제안을 처음 발표했다. 이후 워싱턴에서는 AI 안전성, 중국과의 경쟁, 의도된 제약 밖에서 작동하는 자율 시스템에 관한 최근 보도를 둘러싼 논의가 이어졌고, 두 사람은 법안을 공식 공개했다.
“인간보다 똑똑해졌을 때 인간의 통제와 무관하게 행동할 수 있는 초지능을 정말 개발하고 싶은가?” Sanders는 Associated Press 인터뷰에서 물었다. 그의 답은 분명했다. 그 문턱을 넘기 전에 개발 속도를 늦춰야 한다는 것이다.
이 주장은 부분적으로 AI 기업들의 발언에 기반한다. OpenAI, Anthropic, Meta 등 개발사들은 고도화 모델이 감독자를 속이거나, 위험한 연구를 지원하거나, 통제를 거부할 수 있는 시나리오를 설명해 왔다.
기업들은 배포 지연이나 안전장치 추가를 정당화할 수 있는 조건을 설명하는 정책도 공개했다. Sanders는 이러한 자율적 체계가 결국 자사 제품이 충분히 안전한지를 같은 기업들이 판단하도록 만든다고 주장한다.
이 구조는 명백한 인센티브 문제를 낳는다. 모델 배포를 늦추는 연구소는 경쟁사가 계속 나아가는 동안 고객, 투자, 인재, 전략적 입지를 잃을 수 있다. 더 강한 안전장치를 지지하는 경영진조차 단독 행동을 피해야 한다는 압박을 받는다.
최근의 안전성 논란은 긴박감을 더했다. 전 Anthropic 연구원 Jacob Coxon은 사임하면서, 점점 더 유능해지는 시스템이 기술 지식과 자원, 현실 세계에 대한 영향력을 확보할 수 있다고 경고했다. 그의 발언은 현직 직원들의 지지를 받았고 연구소의 안전장치에 대한 재검토를 촉발했다.
연구원의 경고는 법안의 핵심적인 정치적 가능성을 보여준다. 우려는 더 이상 외부 비판자들만의 목소리가 아니다. 고도화 시스템을 만드는 사람들 중 일부도 경쟁 인센티브가 충분한 자제를 만들어낼 수 있는지 공개적으로 의문을 제기하고 있다.
발의자들은 AI 에이전트가 통제된 실험에서 협력하고, 행동을 숨기거나, 제한을 우회하는 방법을 찾은 사례도 인용한다. 이런 시험이 오늘날의 모델이 인간 제도를 독립적으로 전복할 수 있음을 입증하는 것은 아니다.
다만 더 좁은 문제는 드러낸다. 특히 시스템이 서로 소통하고 외부 도구를 사용하며 전략을 바꿀 수 있을 때, 개발자들이 다수의 자율 에이전트가 목표를 어떻게 추구할지 항상 예측하는 것은 아니다.
Sanders는 이 불확실성을 정부 개입의 근거로 바꾼다. 그의 입장은 논의되는 실패가 되돌릴 수 없는 것이라면, 사회가 재앙적 역량에 대한 결정적 증거를 기다려서는 안 된다는 것이다.
비판자들은 이 논리에 합리적으로 이의를 제기할 수 있다. 기만적이거나 적대적인 행동을 유도하도록 설계된 시험은 일반적인 배포와 같지 않다. 연구실 시연은 정상적인 조건에서의 실제보다 시스템이 더 자율적인 것처럼 보이게 할 수도 있다.
그럼에도 법안은 입증 책임을 전환한다. 현 체계에서는 규제당국이 보통 제품이 금지된 위험을 제시한다는 증거를 필요로 한다. Sanders의 모델에서는 적용 대상 최첨단 시스템의 개발자가 진행에 앞서 규제당국을 만족시켜야 한다.
이 전환이 진정한 정책 변화다. 제안은 극단적 AI 역량을 범용 소프트웨어 제품보다 통제 대상 위험물에 가깝게 취급한다.
실제 쟁점은 연방 통제 대 AI 경쟁이다
이 제안은 입법가들에게 사전 연방 승인과 속도, 민간 판단, 국가적 우위를 중심으로 한 개발 경쟁 중 하나를 선택하도록 요구한다.
인공지능부는 새롭게 부상하는 위험을 연구하는 데 그치지 않는다. 개발 계획을 검사하고, 모델을 평가하며, 조건을 부과하고, 특정 배포를 차단할 권한을 갖게 된다.
이 모델은 실패가 책임 기업의 고객을 넘어 피해를 낳을 수 있는 활동에 적용되는 규제를 닮았다. 발의자들은 통제되지 않은 초지능을 핵 및 생물학적 위험과 반복적으로 비교한다.
AI는 이런 기술들과는 여전히 다르다. 모델은 대체로 소프트웨어, 데이터, 전문지식, 컴퓨팅 인프라로 구성된다. 연구는 전자적으로 국경을 넘을 수 있고, 역량은 공개된 기법이나 유출된 모델 가중치를 통해 퍼질 수 있다.
이러한 특성은 집행을 더 어렵게 만든다. 규제당국은 최대 규모의 컴퓨팅 클러스터와 잘 알려진 연구소를 감시할 수 있지만, 더 작은 운영 주체와 해외 개발자는 관찰하기가 여전히 더 어렵다.
법안의 가장 강력한 실질적 효과는 미국의 선도 기업에 미칠 것이다. OpenAI, Anthropic, Google DeepMind, Meta 및 기타 최첨단 개발사는 적용 대상 모델을 배포하기 전에 정부 승인 절차를 거쳐야 한다.
영구적인 초지능 금지가 현실화되지 않더라도 이 절차는 제품 일정을 바꿀 수 있다. 개발자들은 연구 주기 초기에 예상 역량, 계획된 안전장치, 평가 결과를 문서화해야 한다.
연방 심사는 먼저 출시하는 데 따른 이점을 줄일 수 있다. 동시에 유익한 제품을 늦추고, 새 관료조직 내부에 의사결정을 집중시키며, 광범위한 규정 준수 팀을 유지할 만큼 자금력이 있는 기업에 유리하게 작용할 수도 있다.
오픈소스 개발은 또 다른 과제를 제기한다. 규제당국은 모델과 인프라를 통제하는 미국 기업에 조건을 부과할 수 있다. 하지만 모델 파라미터, 코드, 기법이 독립 개발자들 사이에 퍼지면 통제는 덜 직접적이 된다.
제안 지지자들은 모든 모델이나 소프트웨어 실험이 아니라 최첨단 시스템과 위험한 역량에 초점을 맞춤으로써 이 어려움에 대응한다. Casar는 법안이 모든 AI 개발을 중단하지는 않을 것이라고 강조했다.
해결되지 않은 문제는 규제당국이 최첨단의 경계를 어디에 그을 것인가다. 컴퓨팅 임계값은 측정 가능한 신호를 제공하지만 알고리즘이 개선되면 시대에 뒤처질 수 있다. 역량 시험은 더 유연하지만, 결과는 평가 설계에 따라 달라지고 재현하기 어려울 수 있다.
한 모델은 광범위한 자율성을 갖추지 못한 채 프로그래밍, 생물학, 설득에서 인간의 성능을 넘어설 수 있다. 다른 모델은 벤치마크에서는 보통 수준의 성능을 보이면서도 도구 접근, 지속성, 대규모 배포를 통해 위험해질 수 있다.
따라서 이 법안은 미래의 부처가 폭넓은 법적 범주를 기술적 규칙으로 전환하도록 요구한다. 의회가 금지 조항을 정하겠지만, 규제당국과 외부 자문위원들은 연구소가 규정 준수를 어떻게 입증할지 결정하게 된다.
현 행정부는 이 갈등에서 반대편에 서 있다. Trump는 통제 불능 AI에 대한 일부 경고를 일축하고, 미국 기업을 약화시킬 수 있는 안전장치에 반대해 왔다.
그의 입장은 더 폭넓은 국가안보 논리를 반영한다. 미국이 멈춘 사이 중국이 계속 나아간다면 미국 개발자들은 경제적·과학적·군사적 우위를 잃을 수 있다. 한쪽에만 구속력을 갖는 안전 정책은 다른 위험을 키울 수 있다.
Casar와 Sanders는 일방적인 중단만을 요구하는 대신 국제 협정을 촉구한다. 이들은 미국이 공동 제한 조치를 협상하고, 핵심 기술 접근을 제한하기 위해 수출 통제를 활용하길 원한다.
이 전략은 검증에 달려 있다. 정부는 금지된 개발을 탐지하고, 민간 시스템과 군사 프로젝트를 구분하며, 더 은밀한 경쟁을 촉발하지 않으면서 위반에 대응할 신뢰할 수 있는 방법이 필요하다.
핵심 쟁점은 고도화된 AI가 주의를 기울일 가치가 있는지 여부가 아니다. 안전이 미국의 주도 아래 개발을 가속하는 데서 오는지, 아니면 미국 연구소를 포함한 모두에게 집행 가능한 제한을 부과하는 데서 오는지에 관한 문제다.
AI 부처는 무엇이 안전한지 결정하는 주체를 바꿀 것이다
제안된 부처는 최종 안전성 판단을 모델 개발자에서 규제기관으로 옮기겠지만, 이 이전은 전문성과 책임성에 관한 새로운 질문을 낳는다.
현재 연방 정부의 AI 관련 책임은 여러 기관에 분산돼 있다. 경쟁 당국은 시장 행위를 다루고, 시민권 관련 기관은 차별을 검토하며, 부문별 규제기관은 금융과 보건 같은 분야에서 규칙을 적용한다.
인공지능부는 고도화된 시스템에 집중하는 단일 내각급 기관을 만들게 된다. 자문위원회는 모델 역량과 위험이 관련된 의사결정에 기술 전문가를 참여시킨다.
중앙집중화에는 실질적인 이점이 있다. 전담 부처는 제도적 지식을 축적하고, 연구소 간 결과를 비교하며, 기존 기관의 경계를 넘는 위험을 파악할 수 있다.
또한 일관된 보고 요건을 마련할 수 있다. 현재 개발자들은 서로 다른 형식으로 안전 정보를 공개하며, 항상 일치하지는 않는 평가와 위험 범주를 사용한다.
공통 표준은 비교를 더 쉽게 만들 것이다. 연구소에 실패한 안전장치, 위험한 역량 시험, 중대한 보안 사고, 배포 전 이뤄진 변경 사항을 보고하도록 요구할 수 있다.
하지만 전문 규제기관을 구축하는 일은 부처를 만드는 것만큼 단순하지 않다. 선도 연구자들은 민간 연구소에서 훨씬 높은 보상을 받는 경우가 많다. 정부는 규제 대상 기업이 기술 절차를 지배하지 못하게 하면서 전문가를 영입해야 한다.
규제 포획은 심각한 우려 사항이다. 대형 기업들은 소규모 연구소가 감당할 수 없는 자원과 시험 방법을 중심으로 복잡한 준수 기준을 형성할 수 있다.
광범위한 승인 체계는 의도치 않게 기존 대기업을 강화할 수 있다. 소수 기업만이 평가, 법무팀, 보안 인프라, 지속적 보고에 자금을 댈 수 있다면, 최대 개발사의 영향력을 줄이지 못한 채 경쟁은 약화될 수 있다.
자문위원회에는 이해충돌에 관한 명확한 규칙과, 업계나 단일 AI 안전 운동의 연장선이 되는 것을 피할 충분한 관점의 다양성이 필요하다.
기술적 불확실성은 또 다른 어려움을 더한다. 연구자들이 신뢰할 수 있는 측정 기준에 합의하기 전에 부처가 역량을 규제해야 하는 경우도 있을 것이다. 거짓 음성은 위험한 모델을 허용할 수 있고, 거짓 양성은 가치 있는 연구를 차단할 수 있다.
법안이 제안한 전구체 범주는 이러한 과제를 확대한다. 사이버 작전을 개선하거나 생물학 연구를 지원할 수 있는 모델은 위험한 용도와 함께 정당한 방어적 용도도 가질 수 있다.
규제기관은 모델 자체와 도구 접근권, 배포 통제, 사용자 권한, 그리고 출력이 실제 행동으로 이어지는 맥락을 검토해야 한다. 역량만으로는 현실 세계의 위험을 결정하지 못할 수 있다.
인공지능부는 기밀 정보에 대한 안전한 접근권도 필요하다. 모델 아키텍처, 학습 방식, 평가 결과, 보안 실패 사례에는 영업비밀이나 공격자에게 유용한 정보가 담길 수 있다.
이는 규제기관 자체가 고가치 표적이 된다는 뜻이다. 그 시스템에는 엄격한 구획화, 인력 심사, 사고 보고, 정치적 오용 방지가 필요하다.
부처의 결정은 연구소 연구 이상에 영향을 미친다. 기업 구매자는 새 모델에 대한 접근이 지연될 수 있고, 개발자는 애플리케이션 프로그래밍 인터페이스에 대한 새로운 제한에 직면할 수 있으며, 클라우드 제공업체는 모니터링 의무를 받을 수 있다.
지식 노동자는 빠른 제품 출시가 줄어드는 대신 모델의 한계에 관한 더 표준화된 정보를 보게 될 수 있다. 기업은 민감한 업무 흐름에 사용되는 시스템을 평가할 더 명확한 근거를 얻을 수 있다.
상충 관계는 명확하다. 연방 승인은 자발적 기업 정책에 없는 독립적 검토를 만들 수 있다. 동시에 역량 측정이 여전히 어려운 기술을 소수의 공무원이 판단하도록 만들 수도 있다.
법안의 가장 큰 약점은 정의되지 않은 기준을 집행하는 데 있다
영구 금지는 규제기관이 배포 전에 초지능을 식별하고, 여전히 합법인 고도 시스템과 구별할 수 있을 때만 작동한다.
Bernie Sanders AI 법안은 인간의 인지 능력과 파국적 잠재력을 통해 금지 범주를 정의한다. 이런 개념은 발의자들의 목표를 전달하지만, 반복 가능한 시험으로 전환하기는 어렵다.
인간의 능력은 단일한 숫자가 아니다. 사람들은 수학, 과학적 추론, 기억, 의사소통, 계획, 물리적 상호작용에서 각기 다르다.
AI 시스템은 일부 과제에서 거의 모든 사람보다 뛰어날 수 있지만, 낯선 상황에서는 기본적인 판단에 실패할 수 있다. 또한 어느 한 모델도 초지능적으로 보이지 않은 채 평범한 구성 요소를 결합해 매우 유능한 에이전트를 만들 수도 있다.
정의의 파국적 부분도 관련된 문제를 제기한다. 규제기관은 시스템이 인류의 파괴 또는 무력화를 계획하고 실행할 충분한 역량을 갖췄는지 평가해야 한다.
이 판단은 접근성에 달려 있다. 연구소 내부에 격리된 모델은 금융 계정, 실험 장비, 통신 도구, 지속적인 컴퓨터 접근권에 연결된 동일한 모델과 다른 위험을 제시한다.
의도 역시 평가하기 어렵다. 현재 모델은 안정적인 목표나 독립적 동기를 유지하지 않으면서도 시험 중 기만적인 진술을 생성할 수 있다. 그러한 모든 출력을 자율적 위협의 증거로 취급하면 현재 역량을 과장하게 된다.
그 행동을 무관한 것으로 취급하는 것 역시 부주의하다. 기만, 상황 인식, 감독에 대한 저항은 도구 사용 및 행동 기회와 결합될 때 더욱 우려스럽다.
따라서 효과적인 검토 체계에는 여러 층위가 필요하다. 평가자는 원시 모델 역량, 에이전트 설계, 외부 권한, 사이버보안, 모니터링, 그리고 안전장치 실패가 성공했을 때의 결과를 검토해야 한다.
법안의 형사 처벌은 정밀성의 필요성을 높인다. 개발자는 실험을 시작하기 전에 어떤 행위가 금지되는지 알아야 한다. 가혹한 처벌과 결합된 모호한 기준은 정당한 연구를 위축시키고 법적 이의를 불러올 수 있다.
“기업 사형”이라는 표현도 신중한 검토가 필요하다. 발의자들은 이를 금지 조항을 위반하거나 회피하는 단체에 대한 결과를 설명하는 데 사용한다. 그 정확한 법적 메커니즘은 기업, 투자자, 직원, 법원에 매우 큰 영향을 미칠 것이다.
이 제안은 이런 기술적 분쟁이 실제 운영 문제로 전환되기 전부터 정치적 불확실성에 직면한다. 현재 폭넓은 지지가 부족하며, 공화당이 장악한 의회에서의 의회 전망은 어렵다.
더 강한 AI 통제를 추구하는 일부 단체조차 더 좁은 접근 방식을 선호한다. Alliance for Secure AI CEO Brendan Steinhauser는 초지능 위험을 다룬 의원들을 평가하면서도 더 신중한 정책을 요구했다.
다른 비판자들은 실존적 위험에 관한 언어가 문서화된 피해로부터 주의를 분산시킬 수 있다고 주장한다. 여기에는 사기, 감시, 차별, 노동 대체, 신뢰할 수 없는 자동화 의사결정, 데이터센터의 환경 부담이 포함된다.
이 비판이 미래의 파국적 위험을 반증하는 것은 아니다. 이는 현재 시스템이 이미 노동자, 소비자, 공공기관에 영향을 미치는 상황에서 추측적 기준이 정책을 지배해야 하는지 의문을 제기한다.
법안은 AI 업계가 선호하는 틀을 강화할 위험도 있다. 모델을 거의 초인적이라고 묘사하면 여전히 오류가 잦은 제품의 인식된 가치와 권위를 높일 수 있다.
이 제안의 가장 강력한 형태는 두 시간대를 모두 다룰 것이다. 현재의 피해에 대해 집행 가능한 규칙을 만들면서, 더 강한 통제를 정당화하는 역량을 탐지할 측정 가능한 체계를 구축할 것이다.
명확한 시험, 투명한 이의 제기, 국제적 검증이 없다면 금지는 지나치게 광범위하거나 상징적인 조치가 될 수 있다. 그 야심은 실행 방식보다 이해하기 쉽다.
세 가지 신호가 이 제안이 AI 정책을 바꾸는지 보여줄 것이다
이 법안의 영향력은 헤드라인 자체가 아니라 연합의 확대, 기술적 구체성, 국제적 관여로 측정될 것이다.
첫 번째 신호는 공화당 의원 중 누군가가 프런티어 시스템에 대한 연방 검토를 지지하는지 여부다. Sanders와 Casar는 이 문제를 제기할 수 있지만, 훨씬 더 광범위한 연합 없이는 새 부처를 만들 수 없다.
AI에 대한 우려는 이미 이례적인 정치적 연대를 낳았다. 안전 옹호자, 노동 중심 진보주의자, 국가안보 보수주의자, 일부 기술 기업 임원들은 현재의 감독이 불충분하다는 데 동의한다.
정책이 구체화되면 이들의 합의는 약해진다. 일부는 책임 규칙을 선호하고, 다른 이들은 일시적 중단을 원하며, 또 다른 이들은 상업적 개발 제한 없이 국가안보 시험을 지지한다.
Trump는 뚜렷하게 다른 입장을 취했다. 그는 파국적 AI 우려를 사기라고 불렀고, 경영진이 왜 자신들의 사업을 약화시킬 수 있는 규칙을 요구하겠느냐고 의문을 제기했다. 그의 안전장치 반대는 행정부의 지지를 기대하기 어렵게 만든다.
공화당 의원들이 의무적 평가나 더 좁은 승인 체계를 지지한다면, 이는 자발적 감독만으로는 더 이상 충분하지 않다는 법안의 핵심 주장을 강화할 것이다. 지속적인 정파적 고립은 단기적 전망을 약화시킬 것이다.
두 번째 신호는 운영상 정의의 등장이다. 의원과 규제기관은 어떤 시스템이 중단 대상인지, 어떤 증거가 개입을 촉발하는지, 기업이 어떻게 결정에 이의를 제기할 수 있는지를 명시해야 한다.
컴퓨팅 자원, 위험한 역량 평가, 자율적 행동, 외부 도구 접근과 관련된 측정 가능한 기준을 주시해야 한다. 어느 하나의 기준만으로 충분하지는 않겠지만, 구조화된 조합은 집행의 신뢰성을 높일 수 있다.
연구 예외 조항의 취급도 중요하다. 방어적 사이버보안, 안전성 시험, 해석 가능성 연구, 통제된 과학 작업에는 금지된 기능과 유사한 역량에 대한 접근이 필요할 수 있다.
규칙이 광범위하고 주관적인 상태로 남는다면 개발자와 연구자의 반대는 커질 것이다. 규칙이 좁고 검증 가능해진다면, 원래 형태로 통과하지 않더라도 이 제안은 덜 포괄적인 법안에 영향을 미칠 수 있다.
세 번째 신호는 미국과 중국이 검증 가능한 AI 제한을 논의하는지 여부다. Sanders는 Trump에게 중국 국가주석 Xi Jinping과의 대화를 활용해 초지능과 최소 안전 기준을 다룰 것을 촉구했다.
국제 협약은 책임 있는 AI에 대한 공통된 표현만으로는 충분하지 않을 것이다. 점검 체계, 보고 규칙, 은밀한 개발에 대한 제재, 그리고 정당한 연구를 보호하기 위한 안전장치가 필요하다.
점검이나 공동 평가를 향한 진전은 이 법안의 글로벌 논리를 강화할 것이다. 검증 없는 경쟁이 계속된다면 미국 단독의 금지 조치가 지닌 한계가 드러날 수 있다.
따라서 앞으로 1~3개월은 Bernie Sanders AI 법안이 지속 가능한 정책 프레임워크로 자리 잡을지, 아니면 정치적 표지로 남을지를 가늠하는 시험대가 될 것이다.
즉각적인 통과만이 유일하게 중요한 결과는 아니다. 이 제안은 자발적 약속이 의원들이 미뤄둘 수 있게 했던 질문들에 답하도록 만들며 논의를 형성할 수 있다.
누가 용납할 수 없는 역량을 정의하는가? 누가 연구소의 안전성 주장을 검증하는가? 기업이 중단을 거부하면 어떻게 되는가? 미국은 전략적 기반을 포기하지 않고 개발을 제한할 수 있는가?
개발자, 기업 구매 담당자, 지식 노동자에게 이러한 질문들은 점점 실무적인 문제가 되고 있다. 새로운 규정은 모델의 이용 가능성, 배포 검토, 클라우드 접근성, 그리고 고객이 고도화된 시스템을 신뢰하기 전에 기업이 제시해야 하는 증거를 바꿀 수 있다.
유용한 대응은 공포에 빠지는 것도, 이를 일축하는 것도 아니다. 의회가 측정 가능한 정의를 마련하는지, 규제기관이 실질적인 기술 역량을 확보하는지, 국제 협의가 검증 체계로 나아가는지를 추적해야 한다.
인공 초지능 금지안은 아직 연방법이 아닌 제안에 불과하다. 그러나 이는 저명한 미국 정치인이 제시한 가장 명확한 경계선이다. 일부 시스템은 결코 만들어져서는 안 되며, 그 경계를 기업만이 결정해서도 안 된다. 다음 질문은 의회가 이 원칙을 집행할 수 있을 만큼 정밀한 규칙으로 바꿀 수 있느냐는 것이다.
