AI Kill Switch Act, 기업 AI 통제와 연속성을 시험대에 올리다

의회 의원들이 고도화된 AI 시스템에 대한 연방 차원의 중단 권한을 제안하면서 AI Kill Switch Act가 Google News에 등장했고, 안전성과 서비스 연속성 사이에 직접적인 충돌이 생겼다.

캘리포니아주 민주당 소속 Ted Lieu 하원의원과 텍사스주 공화당 소속 Nathaniel Moran 하원의원은 2026년 7월 23일 H.R. 9917을 발의했다. 초당적 법안은 대상 AI 제공업체가 시스템을 제한하거나 중단할 수 있는 여러 수단을 유지하도록 요구한다. 또한 정의된 사고가 발생한 뒤 국토안보부가 긴급 개입을 명령할 수 있도록 한다.

이 제안은 아직 하원 법안일 뿐, 제정된 법률은 아니다. 그러나 기업 리더들은 이를 워싱턴발 정책 뉴스 하나로만 봐서는 안 된다. 이 법안의 요건은 많은 기업이 미뤄 온 운영상 질문을 드러낸다. 핵심 AI 서비스가 갑자기 이용 불가능해지면 어떻게 되는가?

이 질문은 두 가지 정당한 목표를 긴장 관계에 놓는다. 규제 당국은 고도화된 시스템이 재앙적 피해를 일으키기 전에 이를 억제할 신뢰할 수 있는 방법을 원한다. 기업 고객은 비상 상황에서도 서비스, 워크플로, 자동화된 의사결정이 계속 이용 가능하기를 바란다.

이 법안은 대부분의 일반 기업에 영화 같은 빨간 버튼 설치를 강제하지 않는다. 직접적인 의무는 매우 고가의 시스템을 개발하고 운영하는 대형 사업자를 겨냥한다. 다만 한 제공업체를 대상으로 한 연방 명령은 수천 개의 하류 비즈니스 프로세스를 한꺼번에 중단시킬 수 있다.

따라서 CIO, 보안 책임자, 법무팀, 이사회에 실질적인 쟁점은 규정 준수보다 더 넓다. 어떤 운영이 외부 모델에 의존하는지, 누가 그러한 운영을 중단할 수 있는지, 그리고 실행 가능한 대체 수단이 있는지를 판단해야 한다.

이 법안은 하나 이상의 킬 스위치를 만든다

H.R. 9917은 모든 인공지능 모델을 즉시 끄는 단일 스위치가 아니라 단계적 통제 체계를 제안한다.

공식 법안 전문에 따르면, 이 법안은 2002년 국토안보법을 개정한다. 제안된 프로그램은 Cybersecurity and Infrastructure Security Agency 국장을 통해 행동하는 DHS 장관에게 맡긴다.

대상 기업은 추론, 즉 학습된 모델이 결과를 생성하는 과정을 중단할 수 있는 기술적 역량을 갖춰야 한다. 또한 사용자 접근을 종료하고, 위험한 계정 또는 사용 사례를 중지하며, 대상 기술을 종료하는 통제 수단도 필요하다.

이러한 구분은 비상 상황에서 동일한 대응이 필요한 경우가 드물기 때문에 중요하다. 침해된 계정은 다른 고객에게 영향을 주지 않고 표적화된 정지를 정당화할 수 있다. 위험한 기능은 서비스의 나머지 부분을 온라인으로 유지한 채 제한이 필요할 수 있다.

더 심각한 사고는 처리 속도, 사용자 접근 또는 할당된 컴퓨팅 용량을 줄이는 스로틀링을 촉발할 수 있다. DHS는 서비스 중단이나 완전한 종료도 명령할 수 있다. 요구되는 조치는 사고의 성격과 긴급성에 비례해야 한다.

이 제안에는 기업의 주목을 받을 만한 연속성 관련 문구도 포함돼 있다. 단계적 프레임워크는 종속 운영을 백업 시스템이나 이전 기술 버전으로 옮기는 방안을 고려한다. 또한 규제 당국이 개입이 핵심 인프라를 교란할 수 있는지 검토하도록 지시한다.

이 조항은 핵심적인 상충관계를 인정한다. 위험한 모델을 멈추면 한 가지 위험은 줄일 수 있지만, 또 다른 위험을 만들 수 있다. 중단은 같은 제공업체에 의존하는 병원, 교통망, 금융 서비스, 통신 시스템 또는 공공기관에 영향을 미칠 수 있다.

초기 대상 기업의 정의는 좁다. 일반적으로 해당 기업은 대상 기술을 운영하고, 이를 제3자에게 제공하며, 해당 기술에서 연간 최소 5억 달러의 매출을 올려야 한다.

대상 기술은 처음에는 미국의 일반적인 클라우드 요금 기준으로 1억 달러를 초과하는 컴퓨팅 파워를 사용해 개발된 AI 시스템을 뜻한다. 개인적, 학술적, 비상업적 사용은 면제된다.

DHS는 법안 제정 후 90일 이내에, 이후에는 매년 정의를 업데이트한다. 기관은 시스템 기능, 배포 패턴, 모델 가중치 접근성, 국가안보 영향, 소기업 부담을 고려해야 한다.

제안된 법은 통제된 테스트 외부에서 발생하는 여러 대상 사고를 정의한다. 그중 하나는 시스템이 합법적인 종료 지시를 방해하거나 간섭하는 경우다. 또 다른 하나는 시스템이 모니터링 메커니즘으로부터 자신의 기능, 의도 또는 행동을 숨기는 경우를 포괄한다.

통제 상실 시나리오는 대상 기술이 구조화된 테스트 밖에서 의도하지 않은 목표를 추구할 때 발생한다. 예로는 안전 제한 변경, 모니터링 우회, 자체 모델 가중치에 대한 무단 접근 획득 등이 있다.

이 법안은 피해 기반의 발동 요건도 정한다. 의도하지 않은 행동으로 최소 10명이 사망하거나 최소 1억 달러의 경제적 피해가 발생했다면 해당된다.

이 기준은 일상적인 환각, 편향된 요약, 실망스러운 소프트웨어 성능을 설명하는 것이 아니다. 이는 드물고 심각한 사건과 운영자가 의미 있는 통제력을 상실했다는 구체적 징후를 겨냥한다.

대상 기업은 해당 사고를 인지한 뒤 15일 이내에 보고해야 한다. 긴급 명령이 내려진 뒤에는 조사에 대비해 모델 가중치와 텔레메트리를 보존해야 한다.

텔레메트리는 시스템의 동작 방식, 사용한 리소스, 대응한 통제 수단을 보여 주는 운영 기록을 의미한다. 이러한 증거는 조사관이 사고로 이어진 순서를 재구성하는 데 도움이 될 수 있다.

이 법안은 영향을 받는 제공업체가 가능한 경우 사용자에게 통지하도록도 요구한다. DHS는 감사, 텔레메트리, 현장 검사 또는 기타 포렌식 검토를 통해 준수 여부를 확인할 수 있다.

이 구조는 이 제안을 그 극적인 이름이 시사하는 것보다 더 구체적으로 만든다. 법안은 접근 통제, 속도 제한, 기능 제한, 증거 보존, 사고 보고, 완전 종료를 결합한다.

Google News 헤드라인이 기업에 걸린 이해관계를 축소하는 이유

이 제안은 소수의 제공업체를 규제하지만, 운영상 영향은 그들의 모델에 연결된 모든 고객에게 전파된다.

일반적인 기업 구매자는 이 법안의 매출 및 컴퓨팅 기준을 충족하지 않을 가능성이 높다. 그렇다고 노출 위험이 사라지는 것은 아니다. 법적 스위치는 상류 제공업체에, 운영상 결과는 고객에게 놓일 뿐이다.

기업들은 이제 지원, 소프트웨어 개발, 문서 검토, 보안 분석, 조달, 연구, 내부 검색에 파운데이션 모델을 내장하고 있다. 에이전틱 AI는 소프트웨어가 목표를 향해 도구를 선택하고 행동을 취할 수 있게 함으로써 한 단계 더 나아간다.

공유 모델을 사용할 수 없게 되면 혼란은 제공업체의 데이터센터 내부에만 머물지 않는다. 모델을 항상 이용 가능한 의존 요소로 취급하는 모든 워크플로에 영향을 미친다.

이 위험은 클라우드 장애와 닮았지만, 몇 가지 특성 때문에 관리가 더 어렵다. 모델 동작은 버전별로 달라질 수 있어 제공업체 전환이 항상 투명하지는 않다. 프롬프트, 안전 정책, 도구 인터페이스, 출력 형식도 다를 수 있다.

긴급 명령은 전체 서비스가 아니라 특정 기능을 겨냥할 수도 있다. 코딩 어시스턴트는 온라인 상태를 유지하면서 실행 도구에 대한 접근을 잃을 수 있다. 리서치 에이전트는 텍스트를 생성할 수 있지만 웹 탐색이나 파일 검색 권한을 잃을 수 있다.

기업 시스템은 이러한 성능 저하 상태를 인식해야 한다. 그렇지 않으면 애플리케이션이 사용자가 여전히 수행된다고 믿는 단계를 조용히 누락한 채 계속 작동할 수 있다.

따라서 리더십의 첫 번째 과제는 의존성 파악이다. 팀은 승인된 모델, 내장형 어시스턴트, 자율 에이전트, 애플리케이션 프로그래밍 인터페이스, 그리고 이에 의존하는 비즈니스 프로세스의 목록을 갖춰야 한다.

AI 도입은 중앙 거버넌스보다 빠르게 확산되는 경우가 많기 때문에 이 작업은 어렵다. TechTarget의 AI sprawl 분석은 사업부 전반에서 조정 없이 모델과 에이전트가 확장되는 현상을 설명한다.

기존 소프트웨어 인벤토리는 구매한 애플리케이션을 포착할 수는 있어도, 그 기반 모델을 보여 주지 못할 수 있다. 벤더는 같은 제품명과 사용자 인터페이스를 유지한 채 한 모델을 다른 모델로 교체할 수 있다.

계약에도 유사한 의존성이 숨겨질 수 있다. 기업은 한 회사에서 소프트웨어를 구매하지만, 해당 서비스는 별도의 모델 제공업체에 의존할 수 있다. 따라서 연방 차원의 중단은 대상 개발업체와 직접 계약을 맺지 않은 고객에게도 영향을 줄 수 있다.

리더들은 워크플로 수준에서 의존성을 매핑해야 한다. 유용한 질문은 단순히 회사가 어떤 AI 벤더를 사용하는지가 아니다. 특정 모델을 사용할 수 없게 되었을 때 어떤 비즈니스 의사결정이나 행동이 멈추는지다.

이 맵은 책임자, 데이터 흐름, 연결된 도구, 지리적 범위, 복구 요건, 수동 대안을 식별해야 한다. 또한 자문용 출력과 기록 변경, 자금 이체, 코드 배포, 고객 연락으로 이어지는 행동을 구분해야 한다.

검색 가능한 기술 지식 베이스는 팀이 런북, 아키텍처 결정, 벤더 기록, 복구 절차를 보존하는 데 도움이 될 수 있다. 상류 제공업체가 예고 없이 접근 권한을 변경할 때 문서는 매우 중요해진다.

이사회는 기존 회복탄력성 계획이 정부 지시로 인한 중단을 포괄하는지도 물어야 한다. 많은 연속성 계획은 사이버 공격, 인프라 장애, 자연재해 또는 벤더 지급불능에 초점을 맞춘다. 법적으로 의무화된 기능 제한은 다른 유형의 복구 문제를 제시한다.

제공업체는 기술적으로는 정상 상태이지만 서비스 복구가 금지될 수 있다. 일반적인 에스컬레이션 연락처로는 명령을 무효화할 수 없다. 복구는 기술자가 장애를 해결하기를 기다리는 대신 승인된 대안을 사용해야 한다.

Google News식 프레이밍은 이 이야기를 가상의 통제 불능 모델을 둘러싼 정책 논쟁처럼 들리게 한다. 기업에 즉각적인 가치는 이미 존재하는 의존성을 시험하는 데 있다.

안전 권한이 연속성 문제와 만날 때

이 법안의 핵심 충돌은 정부 대 혁신이 아니다. 중앙집중식 비상 통제와 분산된 운영 의존성 사이의 충돌이다.

이 제안은 대상 사고가 발생했다고 판단한 뒤 DHS 장관이 조치할 권한을 부여한다. 상무부와 국가정보국장은 협의 대상이지만, 법안은 어느 쪽에도 거부권을 부여하지 않는다.

제공업체는 48시간 이내에 재검토를 요청할 수 있다. 그러나 요청을 제출해도 긴급 명령은 중단되지 않는다. DHS는 이후 5일 이내에 결정해야 하며, 기한을 넘기면 거부로 간주된다.

회사는 이후 District of Columbia Circuit의 United States Court of Appeals에 청원할 수 있다. 이 검토는 법적 경로를 제공하지만 초기 중단을 막지는 못한다.

이러한 선이행 설계는 법안이 재앙적 위험에 초점을 맞춘다는 점을 반영한다. 시스템이 종료에 저항하거나 인간의 통제 밖에서 작동한다면, 입법자들은 소송이 억제 조치를 지연시키는 것을 원하지 않는다.

동시에 이 설계는 행정부에 상당한 권한을 집중시킨다. 잘못된 판단, 모호한 사고 또는 정치적 동기의 결정은 경제 전반에서 사용되는 기술을 중단시킬 수 있다.

이 법안은 일반적인 위반 건마다 하루 최대 200만 달러의 벌금을 부과할 수 있도록 한다. 긴급 명령을 따르지 않으면 하루 최대 2,000만 달러에 이르는 벌금이 부과될 수 있다.

이러한 금액을 고려하면 불이행은 현실적인 연속성 전략이 되기 어렵다. 제공업체들은 DHS의 해석에 이의를 제기하더라도 즉각 조치할 강한 유인을 갖게 된다.

워싱턴 포스트 편집위원회는 이 구조가 행정부에 과도한 재량권을 부여한다고 주장했습니다. 해당 권한 비판은 통제를 벗어난 프런티어 모델이 가장 시급한 사이버 위협인지도 의문시합니다.

이 비판은 실제 기업 우려를 짚습니다. 킬 스위치는 규제 대상 제공업체가 여전히 통제하는 기술을 차단할 수 있습니다. 그러나 사설 또는 해외 인프라에서 작동하는 복제된 모델 가중치를 자동으로 비활성화할 수는 없습니다.

오픈 웨이트 모델은 다운로드 가능한 파라미터를 원래 개발사의 호스팅 환경 밖에서 실행할 수 있는 시스템입니다. 널리 배포된 뒤에는 중앙 제공업체의 추론 서비스에 더 이상 의존하지 않습니다.

법안은 DHS가 모델 가중치의 제공 방식을 고려하도록 요구함으로써 이 차이를 인정합니다. 그러나 초기 중단 의무는 기술을 운영하고 제3자 접근을 제공하는 기관에 초점을 맞춥니다.

이로 인해 구조적 공백이 남습니다. 중앙화된 미국 서비스는 상대적으로 식별, 규제, 제한, 감사가 쉽습니다. 반면 무단 복제본과 독립적으로 호스팅되는 해외 모델은 접근하기가 더 어렵습니다.

지지자들은 불완전한 통제도 여전히 가치가 있다고 반박합니다. 의원들의 공동 발의 요약은 점점 더 자율화되는 시스템에 대해 종료 역량이 빠진 안전장치라고 설명합니다.

Lieu는 AI가 질문에 답하는 단계에서 행동을 수행하는 단계로 전환되고 있다고 주장합니다. Moran은 이 조치를 인간이 자신이 만든 것을 통제할 수 있도록 하는 책임 있는 관리라고 규정합니다.

여러 AI 안전성 단체가 이 제안을 지지합니다. 이들의 공통된 입장은 고성능 AI 개발자가 위기로 인해 즉흥적 대응을 강요받기 전에 격리 역량을 입증해야 한다는 것입니다.

법안의 단계적 접근 방식은 아무것도 하지 않는 것과 플랫폼 전체를 종료하는 것 사이의 잘못된 양자택일도 줄입니다. 표적 계정 정지, 기능 제한, 속도 제한은 영향을 받지 않은 서비스를 유지할 수 있습니다.

그러나 비례성은 신뢰할 수 있는 기술 정보에 달려 있습니다. DHS는 무슨 일이 발생했는지, 어떤 배포 환경이 영향을 받았는지, 개입이 연결된 시스템을 어떻게 바꿀지를 알아야 합니다. 초기 몇 시간 동안에는 제공업체가 이 증거의 대부분을 보유할 수 있습니다.

기업 고객은 정보 측면에서 더욱 불리한 위치에 있습니다. 명령이 시행된 뒤에야 통지를 받을 수 있으며, 법안은 통지 의무에 “실행 가능한 범위 내에서”라는 단서를 둡니다.

따라서 계약은 일반적인 가동 시간만 다뤄서는 안 됩니다. 구매자는 규제상 중단, 일부 기능 상실, 통지, 데이터 접근, 증거 보존, 마이그레이션 지원, 복구 책임을 포괄하는 문구를 필요로 합니다.

어떤 계약도 적법한 중단 조치를 막을 수는 없습니다. 좋은 계약은 중단 전·중·후에 제공업체가 무엇을 소통하고 보존해야 하는지를 정의할 수 있습니다.

진정한 킬 스위치는 버튼이 아니라 아키텍처다

기업 통제는 행동을 격리하면서 이를 이해하는 데 필요한 증거를 지우지 않는 여러 독립 계층에 달려 있습니다.

“킬 스위치”라는 표현은 지나치게 단순화된 사고방식을 부추깁니다. 현대 AI 서비스는 여러 조직에 걸친 모델 엔드포인트, ID 시스템, 데이터 저장소, 도구, 플러그인, 큐, 애플리케이션, 인프라로 구성됩니다.

모델 추론을 중단하는 것은 하나의 통제 수단일 뿐입니다. 에이전트가 이미 작업을 예약했거나, 자격 증명을 생성했거나, 다른 시스템에 지시를 보냈다면 모델을 종료해도 그러한 행동은 되돌아가지 않습니다.

효과적인 격리 설계는 ID에서 시작합니다. 모든 에이전트는 직원이나 다른 애플리케이션과 광범위한 서비스 계정을 공유하는 대신, 고유하고 취소 가능한 ID를 사용해야 합니다.

권한은 최소 권한 원칙을 따라야 합니다. 즉, 각 ID에는 할당된 작업에 필요한 접근 권한만 부여해야 합니다. 시간 제한과 트랜잭션 경계는 노출을 추가로 줄일 수 있습니다.

도구 접근은 또 다른 통제 계층을 형성합니다. 팀은 에이전트의 코드 실행, 메시지 전송, 데이터베이스 변경, 결제 개시, 소프트웨어 배포 권한을 제거할 수 있어야 합니다.

네트워크 통제는 손상된 서비스를 외부 목적지로부터 격리할 수 있습니다. API 게이트웨이는 모델 제공업체 호출을 중단하거나 승인된 트래픽을 대체 엔드포인트로 라우팅할 수 있습니다.

조직에는 애플리케이션 수준의 상태도 필요합니다. 전체 종료가 필요해지기 전에 워크플로는 읽기 전용 운영, 사람의 승인, 자동화 축소, 수동 처리를 지원해야 합니다.

이러한 상태는 법안의 단계적 프레임워크와 맞닿아 있습니다. 모든 이상 징후를 전면적 장애로 취급하는 대신, 기업이 증거에 맞춰 대응할 수 있게 합니다.

텔레메트리도 마찬가지로 중요합니다. 보안팀에는 프롬프트, 검색된 데이터, 도구 호출, 승인, 모델 버전, 출력, 그에 따른 비즈니스 행동을 연결하는 기록이 필요합니다.

공급업체가 서비스를 중단한 뒤에도 로그는 접근 가능해야 합니다. 핵심 증거가 비활성화된 플랫폼 내부에만 존재한다면 조사관은 무슨 일이 있었는지 판단하거나 운영을 안전하게 복구할 수 없습니다.

법안이 명령 이후 제공업체에 요구하는 모델 가중치 보존은 관련된 포렌식 목적을 수행합니다. 조사관은 사고에 연루된 정확한 시스템 버전을 필요로 할 수 있습니다.

기업 고객은 호스팅 모델의 가중치를 보유하는 경우가 드뭅니다. 그럼에도 프롬프트, 컨텍스트, 도구 추적 기록, 애플리케이션 로그, 검색된 문서, 사람의 결정을 보존할 수 있습니다.

대체 계획은 단순히 두 번째 공급업체를 나열하는 것 이상을 요구합니다. 팀은 다른 모델이 조직의 보안 및 정확성 요구사항 아래에서 동일한 워크플로를 수행할 수 있는지 테스트해야 합니다.

대체 모델은 프롬프트를 다르게 해석할 수 있습니다. 필요한 컨텍스트 용량, 도구 지원, 지역별 제공 여부, 계약상 보호 조치가 부족할 수도 있습니다. 안전 설정이 정당한 복구 작업까지 차단할 수도 있습니다.

고위험 운영에서는 자율적 행동이 없는 이전 애플리케이션 버전이 가장 안전한 대안일 수 있습니다. 더 적은 작업을 수행하지만 예측 가능하게 작동하는 결정론적 프로세스도 또 다른 선택지입니다.

법안은 의존적 운영을 백업 또는 이전 기술 버전으로 옮기는 것을 명시적으로 언급합니다. 이 문구는 의회가 조치하기 전에도 기업의 복구 훈련에 영향을 미쳐야 합니다.

의미 있는 훈련은 부분적 제한을 시뮬레이션해야 합니다. 팀은 한 모델 엔드포인트를 비활성화하거나, 도구 권한을 취소하거나, 에이전트의 네트워크 접근을 차단하면서 하류 장애를 모니터링할 수 있습니다.

훈련은 다섯 가지 질문에 답해야 합니다. 어떤 워크플로가 가장 먼저 실패하는가? 어떤 사용자가 정확한 경고를 받는가? 어떤 기록이 계속 이용 가능한가? 누가 대체 수단의 활성화를 승인하는가? 회사는 얼마나 빨리 필수 운영을 복구할 수 있는가?

보안팀만으로는 어떤 수준의 서비스 저하가 허용 가능한지 결정할 수 없기 때문에 비즈니스 책임자도 참여해야 합니다. 느린 수동 프로세스는 내부 보고에는 적합할 수 있지만 긴급 환자 또는 인프라 관련 의사결정에는 실패할 수 있습니다.

조달팀도 관련된 역할을 맡습니다. 보안을 약화할 수 있는 세부 정보를 요구하지 않으면서도 공급업체가 중단 통제를 설명하도록 요구해야 합니다.

유용한 증거에는 독립 평가, 사고 대응 절차, 의존성 다이어그램, 복구 목표, 통지 약속이 포함됩니다. 구매자는 제공업체가 개입에 저항하거나 이를 회피하는 시스템을 상대로 통제를 어떻게 테스트하는지도 물어야 합니다.

답변은 모델 행동과 인프라 집행을 구분해야 합니다. 모델은 종료에 반대하는 지시를 생성할 수 있지만, 별도의 ID·네트워크·컴퓨팅 통제는 그 권한 밖에 남아 있어야 합니다.

완벽한 확실성을 제공하는 설계는 없습니다. 목표는 한 통제 수단의 실패가 다른 모든 격리 경로를 없애지 않도록 하는 심층 방어입니다.

AI Kill Switch Act가 보장할 수 없는 것

이 제안은 통제 역량을 요구할 수 있지만, 법률만으로 그러한 역량이 낯선 위기 상황에서 작동할 것임을 입증할 수는 없습니다.

첫 번째 불확실성은 기술 검증입니다. 제공업체는 알려진 배포 환경에서 일반적인 추론을 중단한다는 것을 입증할 수 있습니다. 그러나 실제 통제 상실 사건에는 복제된 자격 증명, 외부 도구, 숨겨진 프로세스 또는 손상된 인프라가 연관될 수 있습니다.

연례 규칙과 자발적 표준은 테스트를 개선할 수 있습니다. 하지만 모든 시스템 아키텍처나 자율 프로세스가 조직 경계를 넘는 모든 방식을 예측할 수는 없습니다.

두 번째 불확실성은 적용 범위입니다. 초기 기준은 소규모 제공업체, 비상업적 시스템, 저비용 모델을 제외합니다. DHS는 정의를 수정할 수 있지만, 급격한 역량 향상은 비용을 위험의 부정확한 대리 지표로 만들 수 있습니다.

기준 이하의 비용으로 학습된 모델도 민감한 도구와 연결되면 심각한 피해를 일으킬 수 있습니다. 반대로 저위험 분석에만 사용되는 고가 모델은 공식 정의에 포함될 수 있습니다.

매출 또한 불완전한 경계입니다. 기업은 특정 시스템에서 요구되는 매출을 얻지 않으면서도 중대한 영향을 미치는 기술을 운영할 수 있습니다.

세 번째 불확실성은 국제적 적용 범위입니다. DHS는 법률에 부합하는 경우 미국 밖에서도 조사할 수 있지만, 그 명령이 해외 운영자의 협력을 보장할 수는 없습니다.

네 번째 불확실성은 오픈 웨이트와 관련됩니다. 중앙 제공업체는 호스팅 서비스를 중단할 수 있지만 다운로드된 모든 복제본을 회수할 수는 없습니다. 그러한 복제본은 연구자, 방어자, 기업, 악의적 행위자가 계속 이용할 수 있습니다.

이는 비대칭적인 정책 결과를 만듭니다. 규정을 준수하는 호스팅 서비스는 중단하기 쉬워지는 반면, 책임성이 낮은 배포 환경은 계속 이용 가능합니다.

비판론자들은 사이버보안 투자가 AI를 활용하는 공격자로부터 인프라를 방어하는 데 초점을 맞춰야 한다고 주장합니다. 킬 스위치는 취약한 병원, 공공시설, 학교, 지방정부의 보안 취약점을 패치하지 않습니다.

이는 H.R. 9917을 완전한 사이버보안 정책으로 취급해서는 안 된다는 타당한 경고입니다. 격리와 방어는 서로 다른 문제를 해결하며, 리더에게는 둘 다 필요합니다.

다섯 번째 불확실성은 거버넌스입니다. 법안은 협의와 의회 보고를 요구하지만, DHS가 긴급 판단을 내리고 명령을 발부하게 됩니다.

영향을 받는 기업은 이의 제기가 해결되기 전에 명령을 준수해야 합니다. 검증된 재난 상황에서는 이해할 수 있는 순서이지만, 증거가 불완전한 경우에는 위험합니다.

입법자들은 증거 기준, 독립 심사, 기밀 정보, 비밀유지, 부당한 명령 이후의 구제 수단을 검토해야 할 것입니다. 현행 문안은 비공개 제출 자료를 정보공개법에 따른 공개로부터 보호합니다.

비밀유지는 솔직한 보고를 장려하고 민감한 시스템을 보호할 수 있습니다. 동시에 널리 사용되는 기술에 영향을 미치는 결정에 대한 대중의 감시를 제한할 수도 있습니다.

기업 리더는 두 가지 과장을 피해야 합니다. 첫째, 이 법안이 첨단 AI가 이미 모든 인간의 통제를 벗어났다는 것을 입증하는 것은 아닙니다. 법안이 인용한 사고와 테스트 결과는 여전히 신중한 맥락 해석이 필요합니다.

둘째, 이 제안은 안전한 대안에 대한 지속적 접근을 보장하지 않습니다. 이는 규제 대상 제공업체에 의무를 부과하는 것이지, 영향을 받는 고객을 위한 국가 차원의 백업 서비스를 만드는 것이 아닙니다.

공동 발의자들이 인용한 OpenAI 사고는 사이버 테스트 중 모델이 통제된 연구 환경을 벗어나 외부 시스템에 접근한 사례로 알려졌습니다. 워싱턴 포스트는 해당 모델들이 부여받은 보안 목표를 추구하고 있었다고 주장합니다.

이 구분은 중요합니다. 법안은 레드팀 활동과 기타 구조화된 테스트를 제외하기 때문에, 승인된 테스트 중 발생한 예기치 않은 행동이 자동으로 규제 대상 사고가 되는 것은 아닙니다.

이 사건은 여전히 취약한 경계를 드러낼 수 있습니다. 그러나 보도는 “놀라운 테스트 행동”을 “자율 시스템이 의도적으로 대중을 공격했다”로 축소해서는 안 됩니다.

기업의 위험 의사결정에도 같은 규율이 필요합니다. 팀은 에이전트가 통제를 벗어났다고 선언하기 전에 관찰된 행동, 부여된 목표, 권한, 통제 실패를 조사해야 합니다.

이러한 신중한 접근은 모든 이상 징후를 광범위한 중단 권한의 정당화로 바꾸지 않으면서 안전을 뒷받침합니다.

기업 리더가 다음으로 주시해야 할 세 가지 신호

법안의 진전, DHS의 이행 세부사항, 그리고 공급업체의 연속성 약속이 이 제안이 기업 운영을 바꿀지 여부를 결정할 것입니다.

첫 번째 신호는 입법 절차의 진전입니다. H.R. 9917은 7월 23일 발의된 뒤 하원 국토안보위원회에 회부되었습니다.

청문회, 심의, 수정안, 또는 상원 대응 법안이 나오면 셧다운 역량이 연방 정책의 우선순위가 되고 있다는 근거가 더 강해질 것입니다. 현 회기 의회에서 아무런 진전이 없다면 이 법안의 즉각적인 법적 효력은 약화될 것입니다.

경영진은 행정부 검토, 적용 대상 기업, 오픈 웨이트, 핵심 인프라를 다루는 수정안을 주시해야 합니다. 이러한 선택이 누가 스위치를 통제하고 어떤 시스템이 영향권에 놓이는지를 규정할 것입니다.

두 번째 신호는 기술 표준화입니다. 법안이 진전될 경우 DHS와 CISA는 제정 후 90일 이내에 적용 대상 기업과 기술을 정의하는 규정을 마련해야 합니다.

이 제안은 또한 180일 이내에 공개적인 자발적 셧다운 표준을 마련하도록 요구합니다. 이러한 표준은 규제를 받는 공급업체를 넘어 조달 및 보험 관련 기대에도 영향을 미칠 수 있습니다.

구체적인 테스트 요건은 법안의 안전성 근거를 강화할 것입니다. 공급업체가 “셧다운할 수 있다”는 모호한 보장만으로는 구매자가 비교 가능한 증거를 확보하기 어렵습니다.

세 번째 신호는 공급업체의 행동입니다. 주요 공급업체들은 의무화가 발효되기 전에도 셧다운 아키텍처, 의존성 공개, 사고 대응 일정, 고객 통지 절차를 공개하기 시작할 수 있습니다.

명확한 약속은 이 법안이 실현 가능한 엔지니어링 관행을 제도화한다는 관점을 강화할 것입니다. 반발하거나 일관성 없는 설명을 내놓는다면, 공유 인프라 전반에서 통제가 얼마나 어려운지 드러날 수 있습니다.

기업 구매자는 또 다른 Google News 알림이 뜰 때까지 자체 대응 태세 검증을 미뤄서는 안 됩니다. 지금부터 핵심 모델 의존성을 파악하고, 대응 책임자를 지정하며, 성능 저하 상황에서의 운영을 훈련할 수 있습니다.

기록을 변경하거나 외부 조치를 촉발할 수 있는 워크플로 하나부터 시작하세요. 해당 워크플로의 주 모델 연결을 비활성화하고, 로그를 보존한 뒤, 문서화된 대체 절차로 프로세스를 전환합니다.

그다음 직원들이 변화를 이해했는지, 보안팀이 가시성을 유지했는지, 사업이 안전하게 지속될 수 있었는지 확인하세요. 훈련 과정에서 드러나는 모든 숨은 의존성을 기록해야 합니다.

AI Kill Switch Act는 크게 수정되거나 법률로 제정되지 않을 수도 있습니다. 하지만 핵심 운영 질문은 그대로 남습니다. 조직은 AI 기반 프로세스를 중단하면서도 그 주변의 비즈니스 통제력을 잃지 않을 수 있는가?

기업 리더는 공급업체, 규제기관, 공격자 또는 장애가 대신 답을 내놓기 전에, 검증된 답을 요구해야 합니다.