영국 AI 모델 규제로는 위험한 출시를 막을 수 없다고 의회 패널 경고
영국은 12곳이 넘는 규제기관과 전문 보안 연구소를 운영하고 있음에도, 현재 위험한 인공지능 모델의 출시를 막을 수 없다.
이러한 결론은 책임 있는 혁신을 둘러싼 또 하나의 추상적 논쟁보다 UK AI model regulation에 더 큰 압박을 가한다. 의회 인권합동위원회는 영국에 고도화된 모델에 대한 접근을 요구하거나 배포를 차단할 수 있는 규제기관이 없다고 밝혔다.
위원회는 70건이 넘는 서면 의견서를 받고 10차례의 구두 증거 청문회를 진행한 뒤 9월 14일 보고서를 발표했다. 이 결론은 AI 시스템이 사용 단계에 들어선 뒤에 주로 기존 법률을 적용하는 정부의 부문별 전략에 이의를 제기한다.
직접적인 쟁점은 자발적 협력과 강제 가능한 감독 사이의 충돌이다. AI Security Institute는 개발사가 접근 권한을 제공할 때 모델을 평가할 수 있지만, 기업에 모델 제출을 법적으로 요구할 수는 없다.
위원회는 이 관계를 뒤집어야 한다고 본다. 제안된 AI 법안은 개발사가 강력한 모델을 테스트에 제출하도록 요구하고, 고위험 시스템에 대한 사전 승인을 도입하며, 독립 규제기관에 권한을 부여한다.
이 권고는 기반 모델이 고용, 금융, 교육, 치안, 의료, 공공 서비스 전반의 제품을 점점 더 뒷받침하는 시점에 나왔다. 따라서 상류 단계에서 발생한 취약점은 영향을 받는 사람이 AI가 개입됐음을 알기도 전에 많은 조직으로 확산될 수 있다.
영국 AI 모델 규제의 공백이 이제 명확해졌다
위원회의 핵심 결론은 범위가 좁지만 중대하다. 영국은 고도화된 모델을 테스트할 전문성은 보유했지만, 테스트를 강제하거나 출시를 중단시킬 권한은 없다.
AISI로 알려진 AI Security Institute는 2023년 11월 운영을 시작했다. 이 기관은 최첨단 모델, 즉 개발의 선두에 가까운 고성능 범용 시스템의 역량과 안전장치를 연구한다.
AISI는 배포 전 자발적으로 접근 권한을 제공하는 개발사와 협력한다. 위원회의 AI 규제 보고서에 따르면, AISI는 모델 출시 전이나 후에 그러한 접근을 요구할 수 없다.
또한 출시 조건을 부과하거나 구속력 있는 시정 명령을 내리거나 배포를 막을 수도 없다. 조사 결과는 정부에 정보를 제공할 수 있지만, 규제 승인 결정으로 기능하지는 않는다.
이 차이는 평가자가 실제로 무엇을 검토할 수 있는지를 기술적 접근 권한이 결정하기 때문에 중요하다. 공개 채팅 인터페이스는 모델의 행동, 안전장치, 시스템 지침, 배포 통제 중 제한된 부분만 보여준다.
의미 있는 평가는 통제된 테스트, 기술 문서, 그리고 출시 전 충분한 시간을 필요로 하는 경우가 많다. 규제기관에는 중대한 발견 사항을 처리하고 약속된 수정 조치가 제대로 작동하는지 확인하는 절차도 필요하다.
강제적 접근 권한이 없으면 개발사가 AISI가 어떤 모델을 볼지, 테스트가 언제 시작될지, 어떤 보조 자료가 제공될지를 결정한다. 상업적 일정은 자발적 평가 체계보다 더 빠르게 움직일 수 있다.
위원회의 주장이 AI가 모든 영국 법률의 적용 밖에 있다는 뜻은 아니다. 데이터 보호, 평등, 소비자 보호, 제품 안전, 금융 서비스, 온라인 안전 관련 규칙은 특정 상황에서 이미 적용될 수 있다.
문제는 시점, 적용 범위, 책임이다. 기존 권한 대부분은 많은 하위 이용자에게 도달하기 전의 기반 모델이 아니라 규제 대상 활동 안에서 모델이 사용되는 방식을 다룬다.
House of Commons Library는 영국의 접근 방식을 기존 법적 틀을 통한 맥락 기반 규제로 설명한다. Information Commissioner’s Office와 Ofcom 같은 규제기관은 각자의 확립된 권한 범위에서 특정 법적 의무를 감독한다.
이 구조는 위험이 하나의 규제 부문에 명확히 속할 때 작동할 수 있다. 그러나 범용 모델이 여러 부문에 걸친 의사결정과 서비스를 동시에 지원할 때는 어려움을 겪는다.
고용 심사 시스템, 고객 서비스 챗봇, 의료 보조 도구, 복지 도구는 하나의 기반 모델을 공유할 수 있다. 그러나 이들을 배포하는 주체는 서로 다른 규제기관, 의무, 증거 기준, 집행 체계에 직면할 수 있다.
위원회는 이러한 분절화로 인해 해당 애플리케이션들을 연결하는 모델 수준의 위험을 책임지는 기관이 없다고 주장한다. 또한 기술 자원이 더 부족한 고객에게 개발사가 상당한 책임을 전가할 수 있게 한다.
따라서 보고서는 출시 전 권한의 부재를 구조적 공백으로 본다. 우려는 단지 규제기관에 더 많은 지침이나 또 하나의 자발적 표준이 필요하다는 데 있지 않다.
우려는 기존 어떤 기관도 개발사에 강력한 모델을 평가를 위해 공개하도록 요구할 수 없다는 점이다. 또한 어떤 기관도 위험한 테스트 결과를 출시 금지에 대한 구속력 있는 결정으로 전환할 수 없다.
하류 시스템은 상류 위험을 안정적으로 통제할 수 없다
영국은 시스템이 배포되는 지점에서 많은 AI 피해를 규제하지만, 위원회는 책임을 기반 모델을 설계하는 기업 쪽으로 옮기고자 한다.
기반 모델은 다양한 작업을 수행할 수 있으며 다른 제품 안의 구성 요소로 쓰일 수 있다. OpenAI의 GPT 모델, Anthropic의 Claude, Google의 Gemini, Meta의 Llama는 이러한 범용 계층을 보여주는 사례다.
조직은 이 모델들을 자체 데이터, 인터페이스, 업무 흐름에 연결할 수 있다. 모델을 미세 조정하거나 검색 시스템을 추가하고, 행동 지침을 작성하거나, 외부 도구를 사용하도록 허용할 수도 있다.
이 구조는 AI 공급망을 만든다. 모델 개발사, 클라우드 제공업체, 애플리케이션 개발사, 데이터 공급업체, 통합업체, 고용주, 공공기관, 최종 이용자는 모두 최종 결과에 영향을 미칠 수 있다.
각 참여자가 서로 다른 정보를 통제하기 때문에 이 공급망은 책임 소재를 복잡하게 만든다. 모델을 배포하는 고객은 학습 과정, 숨겨진 한계, 내부 안전성 테스트를 이해하지 못한 채 출력만 볼 수 있다.
개발사는 기반 모델에 대해 더 많은 정보를 알고 있다. 그러나 고객이 그 주변에 구축하는 이후의 모든 애플리케이션, 프롬프트, 데이터세트, 의사결정을 통제하지는 못할 수 있다.
기존 영국 규제는 종종 배포 지점 가까이에 책임을 집중한다. 고용주는 차별적 채용에 계속 책임을 지며, 공공기관은 복지나 치안에 영향을 미치는 결정에 계속 책임을 진다.
이러한 의무는 여전히 중요하다. 위원회의 이의는 하류 단계의 책임만으로는 상류 단계의 결함을 검사하거나 수정할 수 없는 주체에게 과도한 부담을 지운다는 것이다.
모델의 경향은 동시에 많은 고객에게 영향을 미칠 수도 있다. 동일한 기반 모델이 수많은 애플리케이션에 걸쳐 신뢰할 수 없는 조언, 차별적 패턴, 악용 가능한 행동을 초래한다면, 사례별 집행은 늦게 이뤄진다.
규모는 규제 문제를 바꾼다. 전통적인 감독은 피해 증거가 나온 뒤 하나의 고용주, 은행, 플랫폼 또는 공공기관을 조사할 수 있다.
널리 사용되는 기반 모델은 별도의 규제기관이 공통 원인을 감지하기 전에 관련 위험을 이러한 경계 전반에 퍼뜨릴 수 있다. 영향을 받은 조직들은 처음에는 각 사건을 고립된 배포 실패로 볼 수 있다.
위원회의 인권 중심 관점은 이러한 지연을 특히 심각하게 만든다. 사람들은 자동화 시스템이 고용, 치안, 징계 또는 공공 서비스 관련 결정에 영향을 미쳤다는 사실을 알지 못할 수 있다.
공개가 없다면 관련 기록을 요청하거나 모델의 역할에 이의를 제기할 수 없다. AI 사용 사실이 알려진 경우에도 복잡한 모델은 출력에 대한 명확한 설명을 제공하지 못할 수 있다.
보고서는 평등, 프라이버시, 데이터 보호, 효과적인 구제 수단에 대한 접근을 핵심 우려로 지목한다. 이는 가상의 인간 수준 AI 시스템에만 국한되지 않는다.
증인들은 근로자 감시, 안면 인식, 수감자 위험도 프로파일링, 복지 사기 탐지, 중대한 결과를 낳는 자동화된 결정과 관련한 현재의 사용 사례를 설명했다.
위원회는 2025년 1월 1일부터 10월 29일까지 약 300만 명의 얼굴이 경찰의 안면 인식 배치를 통해 스캔됐다고 보고했다. 위원회의 우려는 정확도를 넘어 동의, 비례성, 투명성, 구제 요청 능력까지 확장된다.
또한 보고서는 신호등 앞 정차를 포함한 일상적 행동 이후 직원을 조사 대상으로 표시한 직장 시스템의 사례를 인용했다. 이러한 사례는 평범한 자동화 시스템이 증거와 책임을 둘러싼 즉각적인 분쟁을 어떻게 만들 수 있는지 보여준다.
인간 검토자가 있다고 해서 문제가 자동으로 해결되지는 않는다. 사람들은 알고리즘 권고에 의존하거나, 이를 의심하는 데 필요한 정보를 갖추지 못하거나, 절차적으로 출력만 승인할 수 있다.
위원회는 명목상의 “human in the loop”가 의미 있는 개입에 해당하지 않는다는 점을 UK GDPR 규칙이 명확히 하기를 원한다. 검토자는 충분한 정보를 갖추고 독립적이며 객관적 판단을 내릴 수 있어야 한다.
이 원칙은 UK AI model regulation이 직면한 더 광범위한 문제를 드러낸다. 그 사람이 시스템이 결과에 도달한 방식을 알지 못한다면, 감독은 인간의 존재에 의존할 수 없다.
자발적 모델 테스트에는 집행의 안전망이 없다
현행 체계는 상업적 유인이 기밀 유지, 신속한 출시, 제한된 외부 검토를 선호하는 경우에도 AI 개발사의 협력에 의존한다.
자발적 테스트가 무의미한 것은 아니다. 이는 정부 연구자에게 조기 접근 권한을 제공하고, 공동 평가 방법을 개선하며, 고객이 문제를 겪기 전에 개발사가 문제를 확인하도록 도울 수 있다.
AISI는 많은 기존 규제기관이 보유하지 못한 기술적 역량도 제공한다. 정부는 배포 전 모델에 대한 접근 권한이 국제 기준으로도 이례적으로 광범위하다고 설명해 왔다.
그러나 자발적 협력과 법적 권한은 서로 다른 질문에 답한다. 협력은 개발사가 참여에 동의할 때 도움이 된다. 권한은 개발사가 거부하거나 지연하거나 평가자의 결과에 이의를 제기할 때 무엇이 일어나는지를 결정한다.
위원회에 따르면 AISI는 현재 규제 권한이 없다. 이 기관은 안전하지 않은 제품을 제한할 수 있는 규제기관과 달리 승인 권한이 아닌 연구기관으로 운영된다.
모델 개발사들은 자체 안전 프레임워크와 위험 임계값을 공개해 왔다. 일부는 심각한 위험을 내부적으로 정의한 한계 아래로 낮출 수 없을 경우 시스템을 배포하지 않겠다고 약속한다.
이러한 프레임워크는 유용한 절차를 만들 수 있지만, 기업이 범위, 증거, 임계값, 공개 방식을 선택한다. 또한 모델이 그 조건을 충족하는지에 대해서도 상당한 통제권을 유지한다.
위원회는 재정적 유인이 자발적 약속의 신뢰성을 떨어뜨린다는 우려를 들었다. 경쟁 압박에 직면한 기업은 경쟁사가 더 유능한 모델을 먼저 출시할 경우 실질적 손해를 볼 수 있다.
이것이 개발사들이 안전성 결과를 일상적으로 무시한다는 점을 입증하는 것은 아니다. 이는 기업의 판단과 공공 위험에 대한 판단이 엇갈릴 때 체계에 독립적 안전망이 없다는 뜻이다.
위원회는 상호 연결된 세 가지 변화를 제안한다. 첫째, AISI에 법적 기반을 부여하고 새롭거나 실질적으로 개정된 강력한 모델을 검토할 명확한 의무를 부과한다.
둘째, 개발사는 해당 모델을 평가에 제출해야 한다. 또한 모델 속성, 학습, 의도된 사용처, 테스트, 위험 통제를 다루는 기술 사양을 제공해야 한다.
셋째, AISI는 출시 전 조사 결과를 공개하고 예비 경고를 발령한다. 중대한 인권 위험 때문에 모델의 출시 보류 또는 철회가 필요할 경우, 집행 기관에 이를 권고한다.
이 제안은 기술적 평가와 최종 법적 판단을 분리한다. 다만 위원회는 정부가 AISI와 새 규제기관을 통합하는 방안을 고려해야 한다고 밝혔다.
이 설계는 실질적인 현실을 반영한다. 우려되는 모델 행동을 발견하는 일은 배포가 법적 기준을 위반하는지 판단하는 일과 다르다.
평가자는 문제가 재현 가능한지, 안전장치가 이를 줄이는지, 배포 조건이 위험을 바꾸는지를 확인해야 한다. 이후 규제기관은 공개된 규칙에 따라 증거를 해석해야 한다.
위원회의 가장 강력한 제안은 인권 침해 위험이 높은 AI 시스템에 사전 승인을 요구하는 것이다. 승인은 해당 시스템이 제공되거나 배포되기 전에 이뤄진다.
이는 감독의 초점을 사후 집행에서 예방으로 전환한다. 동시에 어떤 모델과 애플리케이션이 심사 대상에 해당하는지를 두고 어려운 판단을 낳을 것이다.
정의가 지나치게 넓으면 평가기관이 과부하에 빠지고 저위험 제품이 지연될 수 있다. 지나치게 좁으면 배포 후 위험한 용도가 드러나는 범용 모델을 놓칠 수 있다.
개발자는 완전히 새로운 제품을 출시하지 않고도 호스팅 모델을 수정할 수 있다. 규제기관은 어떤 업데이트가 새로운 심사 의무를 발생시키는지 정의하는 규칙이 필요하다.
Open-weight 모델은 복제본이 원래 제공업체의 인프라 밖으로 퍼질 수 있어 또 다른 과제를 제기한다. 한 국내 서비스에 적용된 제한이 접근 가능한 모든 복제본을 없애지는 못할 수 있다.
이러한 이행 문제는 집행 공백을 없애지 않는다. 오히려 기술적 평가를 법으로 전환하려면 AISI에 일반적인 안전 임무를 부여하는 것 이상이 필요하다는 점을 보여준다.
법에는 측정 가능한 제출 기준, 테스트 절차, 기밀성 보호장치, 이의 제기 권리, 시정 절차, 신뢰할 수 있는 제재가 필요하다. 또한 상업적 일정에 맞춰 모델을 검토할 충분한 인력과 컴퓨팅 자원도 필요하다.
하나의 감독기관은 모든 규제기관이 아니라 파편화된 체계를 대체한다
위원회는 중앙 AI 감독기관이 정책을 조율하고 분야를 아우르는 의무를 집행하되, 기존 규제기관은 각자의 전문 책임을 유지하기를 원한다.
제안된 규제기관은 Financial Conduct Authority, Information Commissioner’s Office, Ofcom, Equality and Human Rights Commission 또는 의료제품 규제기관을 대체하지 않는다.
이들 기관은 분야별 지식과 기존 집행 관계를 보유하고 있다. 금융 규제기관은 대출 통제를 이해하고, 데이터 규제기관은 개인정보 보호 및 개인 정보 관련 의무를 해석한다.
새 기관은 이러한 권한 범위 사이에 놓인 문제를 다룰 것이다. 규제 성과를 감시하고, 민원을 접수하며, 실무 규정을 발행하고, 위반을 조사하고, 미준수를 제재하게 된다.
또한 AI 생애주기 전반의 다양한 참여자에게 적용될 투명성 규칙을 수립할 수 있다. 이 규칙은 개발자, 통합업체, 배포자, 공공기관이 무엇을 공개해야 하는지 명시한다.
위원회는 규제기관이 피해를 입은 사람들이 감당하기 어려운 비용을 부담하지 않고도 개별 사건에서 구제책을 제공하기를 원한다. 이 기능은 모델 감독을 인권 구제와 직접 연결한다.
제안된 권한은 해외 제공업체에도 적용된다. 해외 행위자가 영국 내에서 관리할 수 없는 수용 불가능한 위험을 만들 경우, 감독기관은 영국 내 배포를 제한하거나 금지할 수 있다.
많은 주요 파운데이션 모델이 영국 밖에서 개발되기 때문에 이러한 관할권 범위는 중요하다. 국내 배포 규칙이 전 세계의 모든 개발을 통제할 수는 없지만, 영국 시장 접근 조건을 정할 수는 있다.
위원회는 인권과 양립할 수 없다고 보는 몇 가지 활용 사례를 금지할 것도 권고한다. 예시에는 잠재의식 기법, 감정 추론, 부적절한 프로파일링 또는 생체정보 처리가 포함된다.
특히 고성능 시스템에는 더 강력한 조치를 제안한다. 보고서는 시스템이 광범위하고 심각한 피해를 초래할 위험이 있고 효과적인 인간 통제를 회피할 수 있다면, 그 개발과 제공을 금지해야 한다고 말한다.
인공 일반지능과 초지능은 그러한 시스템이 이미 존재한다는 주장이 아니라 예시로 제시된다. 정확한 경계는 공개 협의가 필요하다.
이 구분은 중요하다. 자극적인 헤드라인은 이 권고가 오늘날의 주요 모델을 즉시 금지하자는 제안처럼 보이게 할 수 있다. 그러나 보고서는 세부 사항이 아직 해결되지 않은 미래의 위험 기반 체제를 요구한다.
고위험 시스템은 사전 승인과 더 강한 실사 의무를 받게 된다. 저위험 도구에는 위원회가 밝힌 비례성 목표를 반영해 더 가벼운 요건이 적용된다.
이 구조는 EU AI Act의 논리와 유사하지만, 위원회는 유럽 체계를 그대로 복제하라고 권고하지는 않는다.
EU 체계는 시스템 범주에 따라 서로 다른 의무를 부과하고 범용 모델을 별도로 규제한다. 또한 유럽이 수용할 수 없다고 보는 특정 관행을 금지한다.
영국은 보다 분권적인 접근을 선호해 왔다. 정부 정책은 하나의 포괄적인 AI 법률보다 적용 분야별 감독, 유연한 원칙, 경제 성장을 강조해 왔다.
지지자들은 전문 규제기관이 맥락에 맞춰 대응할 수 있다고 주장한다. 또한 초기의 경직된 규칙은 모델, 제품, 사업 관행이 변하면서 빠르게 낡을 수 있다고 경고한다.
위원회도 규제가 혁신을 보호하고 부당한 부담을 피해야 한다는 점은 인정한다. 견해차는 공급망 전체에 걸친 구속력 있는 의무 없이도 유연성이 신뢰를 유지할 수 있는지에 관한 것이다.
여론 역시 더 강한 규칙을 지지하는 방향으로 움직였다. House of Lords Library가 요약한 2024년 및 2025년 조사에 따르면 AI 법률을 지지한 비율은 이전의 62%에서 72%로 상승했다.
같은 조사에서는 독립적인 AI 규제기관에 대한 지지율이 89%로 나타났다. 이 수치가 정책을 결정하지는 않지만, 더 가벼운 규제가 자동으로 대중적 정당성을 얻는다는 가정은 약화시킨다.
따라서 제안된 감독기관은 단순한 행정 정비 이상의 의미를 갖는다. 파운데이션 모델을 설계하는 기업에 법적 권한을 더 가깝게 두고, 체계적 공백에 책임지는 하나의 기관을 만들게 된다.
위원회의 해법도 뚜렷한 한계에 직면한다
법정 권한은 영국의 감독을 개선하겠지만, 입법만으로 신뢰할 수 있는 모델 평가나 전 세계에 분산된 기술에 대한 완전한 통제를 보장할 수는 없다.
위원회는 분절된 권한에 대해 설득력 있는 진단을 제시한다. 그러나 누가 행동해야 하는가에서 규제기관이 복잡한 모델을 어떻게 신뢰성 있게 판단할 수 있는가로 질문이 바뀌면 처방은 덜 완전해진다.
AI 평가는 정의된 조건에서 위험한 역량을 드러낼 수 있다. 하지만 모든 프롬프트, 통합 방식, 언어, 도구, 업데이트, 적대적 전략에 걸쳐 모델이 안전하다는 사실을 증명할 수는 없다.
개발자는 알려진 위험을 줄이는 동시에 파인튜닝이나 배포 변경을 통해 새로운 행동을 도입할 수 있다. 평가자들은 어떤 테스트가 현실적인 피해를 측정하는지, 아니면 인위적인 실험실 시나리오를 측정하는지를 두고도 의견이 다를 수 있다.
사전 승인 체제는 이러한 불확실성 속에서도 작동해야 한다. 완벽한 증거를 기다릴 수는 없지만, 우려되는 모든 테스트 결과를 불가피한 현실 세계의 피해 증거로 취급해서도 안 된다.
위험 분류 역시 치열한 논쟁 대상이 될 것이다. 하나의 파운데이션 모델은 어떤 제품에서는 저위험 문서 작성에 쓰일 수 있고, 다른 제품에서는 중대한 영향을 미치는 의사결정에 활용될 수 있다.
애플리케이션만 규제하면 상류 단계의 취약점을 놓친다. 모든 범용 모델을 고위험으로 규제하면 용도와 배포 통제 사이의 의미 있는 차이를 무시하게 된다.
위원회는 공급망 전반에 의무를 분산하는 방식으로 대응한다. 개발자, 수정자, 제공업체, 배포자는 각자의 역할과 통제 가능한 위험에 비례하는 의무를 지게 된다.
방향성은 타당하지만, 입법에는 정확한 책임 배분 규칙이 필요하다. 그렇지 않으면 모든 참여자가 피해 방지에 필요한 정보와 통제권을 다른 회사가 갖고 있다고 주장할 수 있다.
해외 개발자에 대한 집행도 또 다른 제약이다. 영국 규제기관은 국내 시장 접근을 제한할 수 있지만, 공개 모델 파일을 없애거나 다른 관할권에서의 개발을 중단시킬 수는 없다.
이 때문에 국제 협력은 외교적 장식 이상의 의미를 가진다. 공동 테스트 방법, 사고 보고, 기본 기준은 기업이 서비스를 이전해 감시를 피할 기회를 줄일 수 있다.
유럽평의회의 AI 협약은 하나의 경로를 제공한다. 위원회는 영국이 이 인권 프레임워크 비준 일정을 공개할 것을 촉구한다.
그러나 국제적 정렬은 느리게 진행될 수 있다. 모델이나 애플리케이션이 즉각적인 국내 위험을 만들 때 국가 규제기관은 여전히 대응할 권한이 필요하다.
업계의 반대 역시 제안을 재편할 수 있다. 기업들은 명확한 기준, 기밀 정보 보호, 예측 가능한 심사 기간, 이의 제기 절차를 요구할 가능성이 높다.
이런 요구가 반드시 감독을 회피하려는 시도는 아니다. 모호한 제출 규칙은 영업비밀을 노출하거나 일상적 업데이트를 지연시키고, 준수 비용을 감당할 수 있는 기업에 시장 지배력을 집중시킬 수 있다.
문서화 및 테스트 요건이 최대 규모의 최첨단 연구소에 부과되는 수준과 비슷해진다면 소규모 개발자는 불균형적인 부담을 질 수 있다. 위원회는 단계별 의무를 요구하지만, 의회가 그 구분을 유지해야 한다.
역량 문제도 있다. 규제기관이 전문가를 채용하고, 컴퓨팅 자원에 접근하며, 평가를 재현하고, 기술이 바뀌기 전에 심사를 마칠 수 없다면 법적 권한은 큰 의미가 없다.
정부는 규제기관이 감독 대상 기업에 의존하지 않도록 기술 업무에 자금을 지원해야 한다. 또한 기존 감독기관과의 중복을 막는 조정 규칙도 마련해야 한다.
위원회의 단일 감독기관 권고는 책임이 명확하지 않으면 또 하나의 층위를 만들 위험이 있다. 기업과 개인은 어느 규제기관에 증거를 제출하고, 누가 조사를 주도하며, 누가 구제 조치를 명령하는지 알아야 한다.
마지막으로 보고서는 즉각적인 피해와 추측적 재앙 위험을 모두 다룬다. 둘 다 주목할 가치가 있지만, 서로 다른 증거, 전문성, 법적 도구가 필요하다.
차별적인 채용 심사는 투명성, 감사, 효과적인 이의 제기 절차를 요구한다. 심각한 사이버 공격을 지원할 수 있는 모델에는 역량 테스트, 접근 통제, 보안 모니터링, 국제 협력이 필요하다.
이를 하나의 법안에 결합하면 생애주기 전반의 일관성을 만들 수 있다. 반면 일관되게 집행하기 더 어려운 방대한 법률이 될 수도 있다.
따라서 개혁의 가장 강력한 근거는 초지능을 예측하는 데 달려 있지 않다. 현재 모델 접근을 강제할 수 없고, 공유된 상류 위험을 식별하지 못하며, 피해가 확산되기 전에 책임을 부여할 수 없다는 현실에 기반한다.
경고가 정책을 바꾸는지 보여줄 세 가지 신호
다음 시험대는 또 하나의 AI 원칙 선언이 아니라, 정부가 위원회의 권고를 집행 가능한 권한으로 전환하는지 여부다.
첫 번째 신호는 정부의 공식 답변이다. 의회는 장관들이 위원회의 조사 결과와 권고에 답변할 기간이 두 달이라고 명시한다.
그 답변은 정부가 핵심 진단을 수용하는지 보여줘야 한다. AISI가 여전히 접근을 강제하거나 출시 결정에 영향을 미칠 수 없다면, 조정 개선 약속만으로는 부족하다.
가장 분명한 약속은 AISI를 법적 기반 위에 두는 입법을 포함하는 것이다. 또한 의무적 제출, 기술 문서, 출시 전 조사 결과, 집행기관으로의 이관도 다뤄야 한다.
두 번째 신호는 장관들이 분야를 아우르는 AI 법안을 도입하는지 여부다. Labour의 2024년 공약은 가장 강력한 모델을 개발하는 소수 기업에 대한 구속력 있는 규제를 약속했다.
2024년 국왕 연설은 그 방향을 되풀이했지만, 위원회가 조사를 마칠 때까지 관련 법안은 제출되지 않았다. 2026년 국왕 연설 역시 포괄적인 AI 법안을 포함하지 않았다.
일부 피해만 다루는 제한적 패키지는 정부의 기존 전략을 유지하는 방식이 될 것이다. 반면 AI의 전 생애주기를 포괄하는 법안은 UK AI model regulation의 실질적인 변화를 의미할 것이다.
명칭보다 세부 내용이 더 중요하다. 명확히 정의된 위험 범주, 개발자의 의무화된 책임, 사전 승인 요건, 투명성 요구사항, 규제기관 예산, 제재 조치를 주시해야 한다.
세 번째 신호는 법안 통과 이전의 개발자 행동이다. 현재 AISI의 접근 권한은 협력에 의존하므로, 제출 누락이나 지연은 자율 시스템의 한계를 조기에 보여주는 척도가 된다.
주요 개발사가 출시 전 일관되게 접근 권한을 제공한다면 협업이 유의미한 감독을 만들어낼 수 있다는 정부의 주장을 뒷받침할 것이다. 선별적인 접근만 허용된다면 강제력 필요성에 대한 위원회의 주장이 강화될 것이다.
AI를 사용하는 기업은 자체적인 노출 위험을 검토하기 전에 의회를 기다려서는 안 된다. 조달 계약에는 기반 모델, 업데이트 절차, 테스트 증빙, 사고 대응 의무, 제공 가능한 설명을 명시해야 한다.
조직은 AI가 중요한 의사결정에 기여한 시점도 기록해야 한다. 검색 가능한 AI knowledge base는 팀이 향후 검토를 위해 정책, 평가, 공급업체 자료, 의사결정 기록을 보존하는 데 도움이 될 수 있다.
이러한 문서화가 법적 준수나 독립적인 테스트를 대체하지는 않는다. 다만 어떤 시스템이 사용됐는지, 어느 버전이 결과물을 생성했는지, 누가 배포를 승인했는지를 더 쉽게 확인할 수 있게 한다.
개인에게 위원회의 가장 실용적인 요구는 투명성이다. 모델이 영향을 미쳤다는 사실을 알지 못한다면 사람들은 자동화된 결정에 이의를 제기할 수 없다.
개발자에게 핵심 질문은 모델 평가가 협력적 연구 활동으로 남을지, 아니면 법적 관문이 될지다. 고객에게는 책임이 계속해서 하류 단계에 누적될지가 관건이다.
정부가 선택할 길은 이제 유난히 분명하다. 출시 전 개입 권한이 없는 유연한 시스템을 유지할 수도 있고, 독립 기관에 개입 권한을 부여할 수도 있다.
위원회는 규제 공백을 정의했다. 앞으로 몇 달은 장관들이 이를 메울지, 축소할지, 혹은 자발적 약속에 계속 법적 효력을 떠맡길지를 보여줄 것이다.
