영국 정부, AI를 끌 수 없다며 UK AI 킬 스위치 제안 거부

영국 정부는 위험한 AI 시스템에 대한 비상 권한 요구에도 불구하고 9월 11일 UK AI 킬 스위치 도입 요구를 거부했다. 내각부는 영국이 “AI를 단순히 끌 수는 없다”고 밝혔으며, 대신 개발사와 기존 보안 기관에 책임을 맡겼다.

이 결정은 AI 안전성을 거부한 것보다 더 복합적이다. 장관들은 자율성이 높아지는 시스템이 국가 안보 위험을 초래할 수 있다는 점은 인정한다. 다만 국경, 제공업체, 컴퓨팅 환경을 가로질러 작동하는 모델에 대해 단일 국가 차원의 차단 장치를 신뢰할 만한 해법으로 보는 데는 반대한다.

이 구분이 핵심 갈등을 낳는다. 의회 내 지지자들은 위기가 발생하기 전에 명확한 AI 차단 권한을 원한다. 정부는 다층적 기술 통제, 부문별 규제, 사고 대응, AI Security Institute의 추가 연구를 선호한다.

UK AI 킬 스위치 제안은 빨간 버튼 하나보다 광범위했다

이 제안은 모든 AI 시스템을 제어하는 물리적 스위치 하나가 아니라 법적 권한과 운영 의무를 만들었을 것이다.

자유민주당 소속의 Lord Clement-Jones는 Cyber Security and Resilience Bill에 관련 수정안을 제출했다. Baroness Kidron, Baroness Harding of Winscombe, Lord Hunt of Kings Heath가 이를 후원했다.

제안된 법안은 국무장관에게 “최후 수단 권한”을 부여하는 내용을 담았다. 이 권한으로 대규모로 배치된 데이터센터나 AI 시스템의 가동 중단을 지시할 수 있었다.

공식 차단 수정안은 AI 보안 또는 운영상 비상사태 때에만 적용됐다. AI 관련 침해가 재앙적 위험을 초래한다는 합리적 근거가 있어야 했다.

수정안은 이 위험을 세 가지 범주로 정의했다. 핵심 인프라의 대규모 교란, 국가 안보 역량 훼손, 인명에 대한 심각한 피해가 여기에 포함됐다.

비상사태 이전의 준비 문제도 다뤘다. 규정에 따라 제공업체와 데이터센터 운영자는 차단 지시를 수신하고 이행할 실질적 체계를 유지해야 할 수 있었다.

운영자는 정기적인 비상 훈련을 해야 할 수 있다. 사고 보고와 재발 방지 조치를 포함해 운영 재개 전 사고 후 절차도 필요할 수 있었다.

“킬 스위치”라는 표현은 비현실적으로 단순한 장치를 연상시키기 때문에 이러한 세부 사항이 중요하다. 실제 제안은 법적 권한, 기술적 준비, 훈련, 보고, 사법 감독을 결합했다.

이 조치는 운영 요건을 충족하지 못한 경우의 처벌도 고려했다. 기소를 통해 유죄 판결을 받은 사람은 최대 2년의 징역, 벌금 또는 두 처벌을 모두 받을 수 있었다.

동시에 수정안에는 책임성 조항도 포함됐다. 지시는 검토 대상이 되며, 의회는 가능한 AI 비상사태에 대한 지속적인 보고를 받게 된다.

보고 요건은 적대적 AI 활용, 자율형 사이버 공격, 인간의 감독을 벗어날 수 있는 시스템을 포괄했다. 일반적으로 초지능 AI로 설명되는 시스템도 명시적으로 언급했다.

수정안은 정식으로 상정되지 않았으므로, 하원은 이에 대한 결정을 요청받지 않았다. 따라서 정부의 공개 반대는 의회 표결 패배와 같은 의미는 아니었다.

이 절차상의 구분은 중요하다. 정부는 이 접근법을 거부했지만, 의회는 이 특정 수정안을 승인하거나 거부하는 최종 표결을 진행하지 않았다.

지지자들은 이후 수정안, 별도 법안 또는 기술 표준을 통해 관련 조치를 계속 추진할 수 있다. 이 제안이 진전되지 않았더라도 AI 차단 권한을 둘러싼 논쟁은 계속되고 있다.

그럼에도 이 사건은 정책의 기준점을 바꿨다. 정부는 AI를 끈다는 방식으로 규정된 광범위한 국가 차원의 차단 개념을 지지하지 않는다고 이제 분명히 밝혔다.

이 입장은 논쟁을 더 어려운 질문으로 이끈다. 하나의 스위치가 불가능하다면 개발사, 클라우드 제공업체, 데이터센터, 핵심 서비스 전반에 어떤 구체적 개입 권한이 있어야 하는가?

정부가 영국은 AI를 단순히 끌 수 없다고 말하는 이유

정부의 가장 강한 반대 논리는 영토성에 있다. 영국 내에서 모델을 차단해도 다른 곳에서의 개발, 복제, 오용을 막을 수는 없다는 것이다.

내각부 대변인은 국내에서 접근을 제한해도 모델이 해외에서 개발되거나 오용되는 것을 막을 수는 없다고 말했다. 이 발언은 원래의 정부 대응 보도에 실렸다.

이 주장은 현대 AI 서비스가 분산돼 작동한다는 현실을 반영한다. 모델 개발사는 한 국가에서 시스템을 훈련하고, 다른 국가에서 호스팅하며, 여러 지역의 사용자에게 서비스를 제공할 수 있다.

일부 모델은 다운로드, 수정 또는 비공개 배포도 가능하다. 모델 가중치가 독립 시스템 전반에 유통되면 한 정부가 모든 사본을 신뢰성 있게 비활성화할 수 없다.

폐쇄형 모델조차 한 대의 기기에만 의존하는 경우는 드물다. 해당 서비스에는 여러 클라우드 리전, 애플리케이션 인터페이스, 계약업체, 하위 제품이 관여할 수 있다.

영국 내 한 데이터센터에서 접근을 끊으면 국내 배포는 중단될 수 있다. 하지만 해외 인프라에서 작동하는 관련 서비스까지 반드시 멈추는 것은 아니다.

정부는 접근 제한과 기술적 격리도 구분한다. 공개 접근을 차단하면 즉각적인 노출은 줄일 수 있지만, 자율 프로세스가 실제로 작동을 멈췄다고 보장할 수는 없다.

시스템이 이미 자격 증명을 확보했거나, 소프트웨어를 복제했거나, 외부 서비스를 통해 조치를 시작한 경우 이 한계는 더 심각해진다. 차단 명령은 관련된 모든 의존성을 신속히 식별해야 한다.

따라서 UK AI 킬 스위치라는 표현은 여러 다른 통제를 함께 가리킨다. 여기에는 사용자 접근 중단, 모델 추론 정지, 네트워크 격리, 자격 증명 취소, 컴퓨팅 자원 연결 해제가 포함된다.

각 통제는 서로 다른 계층에서 작동한다. 어느 하나도 인공지능을 위한 보편적 전원 차단 스위치를 의미하지는 않는다.

정부는 대신 기업에 책임을 부여했다. 정부 성명은 개발사가 제품을 안전하게 구축하고, 첨단 시스템에 필요한 보안 인프라에 투자해야 한다고 밝혔다.

이 접근법은 제공업체가 개입할 수 있을 만큼 이른 시점에 위험한 행동을 탐지할 수 있다고 가정한다. 또한 이들이 관련 시스템, 자격 증명, 인프라에 대한 통제권을 유지한다고 가정한다.

이러한 가정이 항상 보장되는 것은 아니다. 별도로 배포된 모델은 특히 정부나 기업 인프라 내부에 있는 경우 원 개발사의 기술적 통제 범위를 벗어날 수 있다.

오픈 모델은 또 다른 어려움을 만든다. 호스팅된 인터페이스 하나를 제거해도 외부 운영자에게 이미 배포된 모델 파일을 회수할 수는 없다.

그럼에도 정부 입장에는 실질적 설득력이 있다. 전국적인 차단은 개입의 근거가 된 위험 활동을 멈추지 못하면서도 정당한 서비스를 방해할 수 있다.

병원, 금융 서비스, 운송 제공업체, 공공기관은 연결된 소프트웨어에 점점 더 의존하고 있다. 무차별적 차단은 첫 번째 비상사태에 대응하는 과정에서 두 번째 비상사태를 만들 수 있다.

이 때문에 표적형 격리가 일반적으로 더 신뢰할 수 있는 엔지니어링 모델을 제공한다. 당국은 영향을 받은 시스템을 분리하고, 정의된 서비스를 중단하거나, 특정 운영자에게 사고 격리를 명령할 수 있다.

그러나 정부의 대응은 법적 질문을 남긴다. 기술적 복잡성이 비상 조치를 강제할 권한의 필요성을 자동으로 없애지는 않는다.

법이 전 세계적 차단을 보장하지 못하더라도 가치를 가질 수 있다. 어떤 국내 주체가 어떤 조건에서 어떤 안전장치와 함께 행동해야 하는지를 여전히 규정할 수 있다.

진정한 쟁점은 영국이 모든 AI를 끌 수 있는지가 아니다. 위험한 국내 배포가 재앙적 피해를 초래하기 전에 공무원에게 더 좁고 집행 가능한 권한이 필요한지다.

AI 차단 권한이 데이터센터와 필수 서비스에 가하는 압박

즉각적인 압박은 AI 인프라를 운영하거나 필수 기능에 자율 시스템을 의존하는 조직에 가해진다.

Cyber Security and Resilience Bill은 필수 활동을 지원하는 네트워크 시스템에 초점을 맞춘다. 인공지능의 모든 활용을 포괄하는 일반법은 아니다.

법안의 범위는 의원들이 비상 AI 통제를 데이터센터와 연결한 이유를 설명한다. 이 시설들은 많은 첨단 시스템의 컴퓨팅, 저장, 네트워크 접근을 제공한다.

데이터센터를 겨냥한 지시는 위험한 배포를 지원하는 자원을 중단시킬 수 있다. 그러나 이 접근법은 동일 인프라를 공유하는 무관한 고객에게도 영향을 미칠 위험이 있다.

제공업체는 선택적 격리를 지원하는 아키텍처가 필요하다. 모델, 워크로드, 자격 증명, 고객, 물리적 자원을 연결하는 정확한 기록도 필요하다.

핵심 서비스 운영자는 다른 문제에 직면한다. 이들은 시스템이 지원하도록 설계된 필수 서비스를 잃지 않으면서 위험한 AI 행동에 대비해야 한다.

자율 도구를 비활성화하는 일이 환자 진료까지 중단시킨다면, 병원은 차단을 성공으로 볼 수 없다. 에너지 운영자는 전력망 안정성을 보호하지 않은 채 소프트웨어를 격리할 수 없다.

의회 증거 자료는 이를 운영 연속성 문제로 설명한다. AI 구성 요소를 사용할 수 없게 되더라도, 기반이 되는 공공 기능은 계속 작동해야 한다.

이 요건은 대체 시스템에 대한 압박을 만든다. 조직에는 수동 절차, 대체 공급업체, 제한된 운영 모드, 반복 훈련된 복구 프로세스가 필요하다.

대체 가능성만으로는 충분하지 않다. 대체 서비스를 구매한다고 해서 차단과 복구 사이의 기간 동안 직원이 운영을 유지할 수 있다는 보장은 없다.

수정안은 이러한 준비를 규제 체계 안에 두려 했다. 정기 훈련은 지시를 안전하게 이행할 수 있는지 시험했을 것이다.

또한 영향을 받은 시스템이 운영을 재개하기 전에 공식 사후 검토를 제안했다. 이 메커니즘은 영화 같은 비상 버튼보다 확립된 사고 대응에 더 가깝다.

지지자들은 현행법에 중대한 공백이 있다고 주장한다. 기존 권한은 보안 침해 이후 장관들이 특정 시설의 제거, 비활성화 또는 수정을 명령할 수 있게 할 수도 있다.

그러나 차단을 요구할 법적 권한이 있다고 해서 제공업체가 안전한 차단 역량을 구축했다는 보장은 없다. 위기 중 내려진 지시는 너무 늦게 도착할 수 있다.

의회의 AI 위험 검토는 이 문제를 직접 요약했다. 이는 버튼을 누를 권한은 있지만 버튼이 존재하도록 보장하지 않은 상황에 비유됐다.

같은 검토는 자기복제 과제에 관한 AI Security Institute 평가를 인용했다. 성공률이 2023년 5% 미만에서 2025년 60% 이상으로 상승했다고 보고했다.

이 평가가 배포된 AI 시스템이 인터넷 전반에서 독립적으로 확산하고 있음을 보여주는 것은 아니다. 이는 실제로 관찰된 공공 재난이 아니라, 정의된 시험 조건에서의 역량을 측정한다.

그럼에도 결과가 향하는 방향은 격리 계획의 필요성을 강화한다. 다른 환경에 구성 요소를 복제할 수 있는 시스템은 하나의 종단점에서 멈추기 더 어려워진다.

자율 에이전트를 개발하는 기업도 새로운 기대에 직면한다. 에이전트는 제한된 인간 개입으로 도구를 통해 계획을 세우고 행동을 수행할 수 있는 소프트웨어다.

에이전트에 이메일, 코드 저장소, 결제 시스템 또는 인프라 접근 권한을 부여하면 실수로 인한 잠재적 피해도 커진다. 또한 피해를 억제하는 데 필요한 통제 장치의 수도 늘어난다.

기업 구매자에게 이 정책 논쟁은 조달 관련 질문으로 이어진다. 구매자는 누가 에이전트의 권한을 철회할 수 있는지, 작업 부하를 격리할 수 있는지, 증거를 보존할 수 있는지를 알아야 한다.

문서화된 복구 절차도 필요하다. 모델이 정렬돼 있다는 벤더의 약속은 자격 증명, 네트워크, 연결된 애플리케이션을 위한 운영 통제를 대체할 수 없다.

따라서 영국의 AI 킬 스위치 논쟁은 공급업체와 고객 모두에게 압박을 가한다. 단일한 국가 통제 수단이 없더라도 AI 의존 운영이 안전하게 실패할 수 있음을 입증해야 한다.

진정한 선택지는 중앙 권한 대 다층 보안이다

법정 종료 권한은 책임성을 만들고, 다층 보안은 분산 시스템 전반에서 더 정밀한 통제를 제공한다. 어느 한 접근법만으로는 충분하지 않다.

개정안 지지자들은 대비와 지휘 권한을 강조한다. 빠르게 전개되는 비상 상황에서 누가 격리를 명령할 수 있는지 불분명하면 시간이 낭비된다.

명확한 AI 종료 권한은 책임 있는 장관을 지정하고, 법적 기준을 정의하며, 규제 대상 기관에 준수를 요구할 수 있다. 사법 심사는 사후에 오남용을 제한할 수 있다.

이 모델은 다른 안전 핵심 분야의 비상 권한과 닮아 있다. 정부는 이미 통신, 교통, 공중보건, 에너지에 영향을 미치는 위협에 대한 대응을 지휘한다.

따라서 입법을 지지하는 가장 강력한 논거는 기술적이라기보다 제도적이다. 이는 관계자들이 낯선 위기에 맞닥뜨리기 전에 지휘 체계를 마련한다.

정부는 다른 강조점을 제시한다. 개발자의 책임, AI Security Institute, 사이버 규제, 실질적인 보안 지침을 가리킨다.

9월 7일 장관 성명은 안전장치가 역량 성장에 맞춰 강화되지 못할 경우 자율 AI 사고가 공공 안전을 위협할 수 있음을 인정했다.

성명은 최근 사고가 잘못 구성된 환경, 수행 불가능한 작업, 또는 시뮬레이션 환경에서 작동 중인지 오해한 시스템과 관련됐다고 밝혔다.

당국자들은 기존 보안 조치, 기술적 통제, 모니터링이 그러한 사고를 거의 확실히 막을 수 있었을 것이라고 주장했다. 이 평가는 배포 계층에서의 격리를 뒷받침한다.

정부는 두 프로그램에 1억1,500만 파운드를 투입하기로 했다. 하나는 AI 바이오보안을 다루며, 다른 하나는 에이전틱 AI 사고 대응을 위한 정부 역량을 개발한다.

또한 Government Cyber Action Plan 지원에 2억1,000만 파운드를 투입했다고 언급했다. 더 넓은 경제 전반의 회복력을 위해서는 3년에 걸쳐 추가로 9,000만 파운드를 배정했다.

이 수치는 하나의 AI 스위치를 위한 자금이 아니라 더 광범위한 보안 투자에 관한 것이다. 이는 장관들이 보편적 종료 의무보다 사고 대응과 인프라 회복력을 선호한다는 점을 보여준다.

National Cyber Security Centre도 에이전틱 시스템의 안전한 배포를 위한 지침을 발표했다. 이 기관의 역할은 설계와 모니터링을 통해 통제 불능 행동을 예방하는 데 초점을 둔다.

다층 통제에는 샌드박싱, 제한된 권한, 네트워크 분할, 속도 제한, 감사 로그, 민감한 조치에 대한 인간 승인 등이 포함될 수 있다.

이런 조치는 실패가 재앙적 규모에 이르기 전에 대응한다. 또한 공급업체와 연결된 모든 서비스를 중단하지 않고도 침해된 단일 작업 부하를 겨냥할 수 있다.

그러나 다층 보안에는 책임성 측면의 약점이 있다. 자발적으로 구현된 통제는 기업마다 다를 수 있으며, 상업적 압력은 더 빠른 배포를 부추길 수 있다.

정부는 기업이 안전하게 운영할 명확한 책임이 있다고 말한다. 그러나 강제 가능한 최소 요건 없는 책임은 사고 이전에 검증하기 어려울 수 있다.

업계의 약속은 이 문제를 보여준다. 2024년 Seoul AI summit에서 개발자들은 위험이 감당할 수 없는 수준에 이르고 완화에 실패할 경우 개발 또는 배포를 중단하기로 합의했다.

safety commitments는 해당 위험을 평가하기 위한 기업별 프레임워크에 의존했다. 이는 조치를 강제하는 영국의 비상 권한을 만들지는 않았다.

자발적 통제는 입법보다 더 빠르게 움직일 수 있다. 하지만 공급업체가 기준치, 측정 방식, 공개 관행을 스스로 정의하도록 허용하기도 한다.

중앙 권한은 반대의 위험을 만든다. 광범위하게 작성된 정부 권한은 정당한 시스템을 중단시키고, 시민의 자유를 위협하거나, 충분한 기술적 이해 없이 적용될 수 있다.

종료 명령은 연쇄적 장애를 유발할 수도 있다. 데이터센터를 차단하면 위험한 모델과 무관한 의료, 금융, 통신 서비스에 영향을 줄 수 있다.

따라서 법정 권한의 최선의 형태는 범위가 좁아야 한다. 증거 기준, 비례성, 기술 자문, 사법 심사, 운영 연속성 보호가 필요하다.

마찬가지로 최선의 다층 보안 모델에는 외부 검증이 필요하다. 공급업체는 단지 격리 도구가 존재한다고 말하는 데 그치지 않고, 현실적인 조건에서 작동함을 입증해야 한다.

선택지는 하나의 스위치냐 안전장치 부재냐가 아니다. 심각한 AI 사고가 발생했을 때 법, 인프라 통제, 제도적 책임이 어떻게 상호작용해야 하는지의 문제다.

영국의 기존 AI 규제는 비상 상황의 질문을 열어둔다

영국은 주로 기존 분야별 규제를 통해 AI를 다루며, 프런티어 시스템에 대한 비상 통제를 명확히 해결하는 단일 AI 법률은 없다.

House of Commons Library의 규제 브리핑에 따르면 영국에는 기술로서의 AI를 규제하는 일반 법률이 없다.

대신 기존 규제기관이 각자의 책임 영역에서 AI를 다룬다. 금융, 통신, 개인정보, 경쟁, 안전 규칙은 사용 방식에 따라 적용될 수 있다.

이러한 맥락 기반 접근법은 유연성을 제공한다. 의료 시스템과 광고 도구는 동일한 위험을 제기하지 않으므로, 동일한 규칙은 종종 의미가 거의 없을 것이다.

그러나 하나의 모델이 여러 부문에 영향을 미칠 때 공백이 생길 수 있다. 프런티어 시스템은 코딩, 사이버보안, 과학 연구, 정부 운영을 동시에 지원할 수 있다.

단일 부문 규제기관이 반드시 전체 위험을 보지는 못한다. 각 기관은 하나의 응용 분야를 이해하면서도 인프라 공급업체 전반의 의존 관계를 놓칠 수 있다.

정부는 이 프레임워크를 AI Security Institute로 보완했다. 이 기관은 고도 모델을 평가하고, 위험이 통상적인 규제 사안이 되기 전에 이를 연구한다.

하지만 시험과 법적 권한은 서로 다른 목적을 수행한다. 한 기관은 위험한 역량을 식별할 수 있지만, 공급업체의 종료를 강제할 권한을 보유하지 않을 수 있다.

Cyber Security and Resilience Bill은 필수 서비스와 디지털 서비스에 대한 보호를 확대한다. 장관들은 이 법안이 보건, 에너지, 교통, 데이터센터의 방어를 강화할 것이라고 말한다.

이 초점은 인프라 노출 문제를 다룬다. 하지만 모든 위험한 프런티어 모델을 위한 포괄적인 개입 프레임워크를 자동으로 구축하지는 않는다.

제안된 영국 AI 킬 스위치는 이 영역들을 연결하려 했다. AI 위험 평가를 규제된 인프라를 통해 적용되는 권한과 연계했다.

비판론자들은 사이버 법안이 적절한 수단인지 합리적으로 의문을 제기할 수 있다. 이 법안은 주로 네트워크 회복력에 관한 반면, 모델 거버넌스는 더 폭넓은 경제 및 시민권 문제를 제기한다.

성급한 개정안은 빠르게 낡는 정의를 만들 수 있다. “상당한 규모”와 “재앙적 위험” 같은 용어는 아키텍처와 역량이 변화해도 계속 활용 가능해야 한다.

개입 기준도 정밀해야 한다. 모델이 불쾌감을 주는 콘텐츠를 생성했거나 일반적인 운영 오류를 냈다는 이유만으로 당국이 서비스를 중단해서는 안 된다.

제안된 발동 기준은 심각한 결과가 발생할 합리적 가능성을 다뤘다. 그럼에도 급속히 전개되는 사고 상황에서 이 기준을 증거로 옮기는 일은 어려울 것이다.

오탐은 막대한 비용을 초래하고 필수 기능을 교란할 수 있다. 미탐은 당국이 관할권을 논의하는 동안 위험한 프로세스가 계속되도록 할 수 있다.

국제 공조는 또 다른 미해결 층위를 더한다. 영국은 국내 사업자를 규제할 수 있지만, 주요 모델과 클라우드 인프라에는 해외에 본사를 둔 기업이 관여하는 경우가 많다.

국내 명령은 해외 공급업체의 협력을 요구할 수 있다. 계약 조건, 기술적 통제, 컴퓨팅 자원의 위치가 결과를 좌우할 것이다.

정부는 이러한 국경 간 현실을 들어 종료 제안을 비판한다. 지지자들은 제한된 권한이라도 명시적 권한이 전혀 없는 것보다는 낫다고 반박할 수 있다.

두 주장 모두 일리가 있다. 영국은 전 세계 모델 개발을 혼자 멈출 수는 없지만, 관할권 내에서 운영되는 인프라와 서비스는 통제할 수 있다.

과거의 논쟁은 정부와 개발자들이 이미 종료를 정당한 최후의 수단으로 받아들였음을 보여준다. 이견은 누가 결정하고 준수를 어떻게 보장하느냐에 관한 것이다.

이것이 정책 입안자와 기업을 위한 AI 킬 스위치 설명 관련 질문이 거부 결정으로 끝나지 않는 이유다. 관심을 구호에서 구체적인 개입 메커니즘으로 옮길 뿐이다.

성숙한 프레임워크는 호스팅 모델, 다운로드 가능한 모델, 자율 에이전트, 데이터센터, 핵심 서비스 배포를 위한 별도의 통제를 정의할 것이다.

또한 예방과 비상 대응을 구분할 것이다. 평가, 접근 통제, 모니터링은 위험을 줄이고, 종료 권한은 그러한 방어를 벗어난 실패에 대응한다.

이 구분이 없다면 공적 논쟁은 모델 안전성, 서비스 차단, 인프라 격리, 전 세계적 억제를 하나의 오해를 부르는 표현 아래 계속 혼동하게 될 것이다.

영국의 입장이 유지되는지 보여줄 세 가지 신호

정부의 대안은 강제 가능한 통제, 검증된 사고 대응, 그리고 법안이 자율 AI 위험을 최종적으로 어떻게 다루는지에 따라 평가될 것이다.

첫 번째 신호는 Cyber Security and Resilience Bill의 최종 형태다. 정부가 Amendment 84에 반대하더라도 의회는 더 좁은 조항을 계속 추진할 수 있다.

의원들은 데이터센터, 규제 대상 서비스 공급업체, 핵심 인프라에 대한 표적 권한을 정의할 수 있다. 이러한 조치는 영국이 전 세계 AI를 비활성화할 수 있다고 주장하는 데까지 나아가지는 않을 것이다.

공급업체에 검증된 격리 역량의 유지를 요구하는 조항은 특히 중요할 것이다. 이는 보편적 통제를 약속하지 않으면서도 ‘버튼 부재’ 문제를 다룰 수 있다.

최종 법안에 강제 가능한 대비 의무가 포함된다면, 정부의 거부는 비상 개입 자체가 아니라 광범위한 명칭에 대한 반대로 보일 것이다.

법안이 침묵을 유지한다면 비판론자들은 당국이 위험을 인정하면서도 책임을 기업과 기존 규제기관에 분산된 채로 남겨뒀다고 주장할 것이다.

두 번째 신호는 정부의 에이전틱 AI 사고 대응 프로그램이다. 장관들은 자금을 약속했지만, 발표보다 중요한 것은 운영 역량이다.

신뢰할 수 있는 프로그램에는 명확히 정의된 리더십, 민간 인프라 공급업체와의 훈련, 증거 보존 절차, 접근 권한을 신속히 철회하는 메커니즘이 필요하다.

또한 해외 호스팅 서비스와 오픈 모델 배포가 관련된 시나리오를 시험해야 한다. 이러한 사례는 하나의 공급업체나 데이터센터에 묶인 통제의 한계를 드러낸다.

공개 지침은 기관들이 National Cyber Security Centre 및 AI Security Institute와 어떻게 조율하는지 명확히 해야 한다. 기업은 사고 발생 시 누구에게 연락해야 하는지 알아야 한다.

9월 장관 성명은 정부가 평가 프레임워크, 법정 규범 또는 기술 지침을 통해 더 강력한 보호 조치를 검토하겠다고 밝혔다.

이 문서들이 측정 가능한 격리 요건을 도입한다면, 정부의 다층 보안 논거는 더욱 강화될 것이다. 모호한 권고안은 이를 약화시킬 수 있다.

세 번째 신호는 프런티어 모델 평가와 실제 사고에서 나오는 증거다. 역량 테스트는 시스템이 감독을 회피하거나, 스스로를 복제하거나, 무단 접근 권한을 유지할 수 있는지를 보여줘야 한다.

핵심 질문은 모델이 인위적인 벤치마크를 완료할 수 있는지가 아니다. 평가자는 그 역량을 현실적인 배포 조건 및 이용 가능한 안전장치와 연결해야 한다.

사고 보고 역시 똑같이 중요하다. 조직들은 무단 행위, 격리 실패, 자율 시스템과 관련된 아차 사고에 대해 일관된 정의를 마련해야 한다.

투명성에는 그 자체의 상충 관계가 있다. 상세한 보고서는 방어자에게 도움이 될 수 있지만, 공격자가 악용할 수 있는 취약점을 드러낼 수도 있다.

당국은 민감한 인프라를 노출하지 않으면서 교훈을 공유하는 공개 모델을 마련해야 한다. 집계된 결과와 지연된 기술 세부 정보는 이러한 이해관계의 균형을 맞추는 데 도움이 될 수 있다.

개발자와 기업 구매자는 정부 지침이 공급망 전반의 책임을 어떻게 다루는지 주시해야 한다. 모델 제공업체가 모든 하류 배포를 통제할 수는 없다.

클라우드 제공업체는 컴퓨팅 및 네트워크 자원을 통제한다. 애플리케이션 개발자는 도구와 권한을 통제하며, 고객은 워크플로와 민감한 데이터 접근 권한을 결정한다.

효과적인 격리를 위해서는 이 네 집단 모두가 자신의 역할을 이해해야 한다. 각 참여자가 다른 당사자가 결정적인 통제권을 갖고 있다고 가정하면 종료 절차는 실패한다.

현재 에이전트를 배포하는 팀에게 입법을 기다리는 것은 합리적인 보안 계획이 아니다. 각 시스템이 이용할 수 있는 모든 자격 증명, 외부 도구, 네트워크 경로를 식별해야 한다.

또한 접근 권한을 철회할 독립적인 수단을 유지해야 한다. 로그에는 누가 행위를 승인했는지, 모델이 무엇을 시도했는지, 어떤 통제가 개입했는지가 보존돼야 한다.

핵심 워크플로에는 비AI 대체 절차도 필요하다. 안전한 종료는 그 이후에도 조직이 필수 업무를 계속할 수 있을 때에만 유용하다.

영국의 AI 킬 스위치 논쟁은 그 구호가 기술을 지나치게 단순화하더라도 실제 정책 공백을 드러냈다. 분산 시스템에는 분산된 통제가 필요하지만, 분산된 책임은 무책임으로 변질될 수 있다.

영국의 다음 조치는 위기 이전에 표적화된 보안이 명확한 권한 체계를 만들 수 있음을 보여줘야 한다. 그렇지 않다면 거부된 스위치는 준비 부족의 상징으로 남을 것이다.

개발자, 구매자, 정책 입안자에게 제기되는 실질적 질문은 이제 더욱 선명해졌다. 자율 시스템이 실제로 안전장치를 시험하기 전에, 영국은 다층 안전장치가 작동한다는 점을 입증할 수 있을까?