자발적 안전조치가 미흡할 경우 구속력 있는 AI 규칙을 시사한 영국

영국이 약 3년간 기업의 자발적 협력에 의존해 온 가운데, 구속력 있는 AI 규칙 도입 가능성을 열어뒀다. 현재 Google News를 통해 확산되는 경고는 조건부이지만 중요하다. 개발사들이 안전성 테스트를 위한 실질적인 접근 권한 제공을 중단한다면, 장관들은 규제가 여전히 가능한 선택지라고 말한다.

영국의 AI 장관인 카니슈카 나라얀(Kanishka Narayan)은 다른 수단이 대중을 더 잘 보호할 수 있다면 정부가 법적 개입을 검토할 것이라고 Reuters에 밝혔다. 당면한 쟁점은 사람들이 사용하기 전에 모델을 시험하는 출시 전 평가다. 영국은 현재 Google DeepMind, OpenAI, Anthropic과의 협약을 통해 조기 접근 권한을 받고 있다.

이 같은 체계는 영국에 개발 중인 가장 성능이 뛰어난 범용 시스템, 즉 독점적인 프런티어 모델을 이례적으로 들여다볼 수 있는 기회를 제공한다. 그러나 접근 권한은 기업의 동의에 달려 있다. 따라서 핵심 갈등은 규제와 혁신의 대립이 아니라 자발적 협력과 집행 가능한 테스트의 대립이다.

이 구분이 중요한 이유는 영국이 유럽연합보다 완화된 체계를 유지하려 하기 때문이다. EU는 2026년 8월 2일부터 범용 AI 제공업체에 대한 주요 의무를 집행하기 시작했다. 영국은 포괄적인 AI 법보다 기존 규제기관, 기술 평가, 표적 개입을 여전히 선호한다.

이 정책은 이제 현실적인 시험대에 올랐다. 선도 연구소가 협력하고, 적절한 모델 버전을 제공하며, 충분한 평가 시간을 허용하는 동안에는 자발적 접근이 작동한다. 하지만 개발사가 접근을 지연하거나 테스트 조건을 제한하거나 평가가 끝나기 전에 모델을 출시할 경우 보호 효과는 제한적이다.

영국 AI 장관이 실제로 바꾼 것

영국은 새로운 AI 법을 발표하지 않았지만, 장관은 자발적 협력이 성과를 전제로 한다는 점을 명시했다.

나라얀의 입장은 AI Security Institute, 즉 AISI가 배포 전에 첨단 모델을 신뢰성 있게 검토할 수 있는지에 대한 질문 이후 드러났다. AISI는 사이버 공격, 자율적 행동, 생물학적 악용, 인간 통제 상실과 관련된 역량을 평가한다.

이 연구소는 2023년 Bletchley Park AI Safety Summit 이후 설립됐다. 이후 명칭을 AI Safety Institute에서 AI Security Institute로 변경했다. 이 변경은 국가 안보와 첨단 기술 위험에 대한 더 강한 중점을 반영했다.

영국의 현행 모델은 법적 요구가 아니라 협약을 통해 AISI에 접근 권한을 부여한다. 나라얀은 7월 의회 위원회에서 영국이 Google DeepMind, Anthropic, OpenAI의 최근 핵심 프런티어 모델을 평가했다고 밝혔다. 그는 영국이 미국 외 국가 중 이 수준의 출시 전 접근 권한을 받는 유일한 나라라고 설명했다.

공식 위원회 증언은 이 주장에 내재한 약점도 드러냈다. AISI가 모든 모델을 제공받느냐는 질문에 나라얀은 최근 핵심 시스템에 대해서만 확신 있게 답할 수 있었다. 모든 모델, 업데이트, 배포 구성, 테스트 기간을 포괄하는 공개적 보장은 없었다.

그의 이후 발언은 정부의 대안적 입장을 더욱 분명히 했다. 나라얀에 따르면 수단은 결과보다 부차적이다. 신뢰할 만한 평가를 확보하는 최선의 방법이 규제가 된다면 정부는 이를 검토할 것이다.

이는 강조점의 눈에 띄는 변화다. 영국 장관들은 세부적인 AI 규칙이 빠르게 낡을 수 있다는 이유로 유연하고 부문별인 감독 방식을 자주 옹호해 왔다. 새로운 메시지는 유연성이 선의에 영구적으로 의존한다는 뜻은 아니라는 것이다.

정부는 여전히 입법을 촉발할 기준을 정의하지 않았다. 의무 접근 기간, 적용 대상 모델 목록, 불완전한 협력에 대한 결과도 공개하지 않았다. 또한 AISI가 출시를 지연시킬 권한을 갖게 될지도 밝히지 않았다.

이러한 세부 사항의 부재는 즉각적인 효과를 제한한다. 개발사들은 현재 새로운 법적 의무에 직면하지 않는다. AISI는 Google, OpenAI, Anthropic에 정해진 테스트 조건 아래 모델을 제출하도록 공개적으로 강제할 수 없다.

그럼에도 이 발언은 Google News를 통해 이 사안을 지켜보는 기업, 입법자, 독자에게 전달되는 정책 신호를 바꾼다. 영국은 자발적 안전조치를 검증 가능한 체계로 다루고 있다. 더는 이를 AI 감독의 의심할 여지 없는 최종 형태로 제시하지 않는다.

이 구분은 향후 협상에 영향을 줄 것이다. 우호적인 영국 환경을 원하는 연구소는 신뢰할 수 없는 접근이 입법 필요성을 강화할 수 있음을 이제 알게 됐다. AISI 역시 자발적 체계가 성공하거나 실패하는 지점을 기록할 더 명확한 근거를 얻게 된다.

자발적 AI 안전조치가 지금 더 큰 압박을 받는 이유

모델 역량이 평가 기관이 안정적인 테스트 규칙을 마련할 수 있는 속도보다 빠르게 발전하고 있기 때문에 자발적 체계는 압박을 받고 있다.

AISI는 2023년 11월부터 프런티어 시스템을 테스트해 왔다. 이 작업은 모델이 전반적으로 안전하다고 인증하기보다 위험한 역량을 검토한다. 짧은 평가만으로는 모든 배포 방식, 사용자, 도구, 이후 수정 사항을 다룰 수 없기 때문에 이 구분은 중요하다.

연구소가 공개한 연구는 접근의 질이 중요한 이유를 보여준다. 효과적인 평가는 때때로 일반적인 안전장치가 없는 모델, 파인튜닝 접근 권한, 배포 예정인 최종 버전을 필요로 한다. 제한된 인터페이스는 집요한 사용자가 나중에 발견할 수 있는 역량을 숨길 수 있다.

AISI의 평가 교훈도 시점을 강조한다. 평가자는 출시 전에 테스트를 준비하고, 결과를 조사하며, 발견 사항을 보고할 충분한 시간이 필요하다. 출시 직전에 제공되는 접근 권한은 실질적인 검토를 가능하게 하지 않으면서도 모호한 약속을 충족할 수 있다.

이는 자발적 협약의 첫 번째 주요 약점을 만든다. 협약은 종종 운영 요건을 명시하지 않은 채 공동의 목표를 설명한다. 기업은 원칙적으로 협력하면서도 정확한 모델, 인터페이스, 문서, 또는 제공 시간을 제한할 수 있다.

두 번째 약점은 시정 수단과 관련된다. AISI는 위험한 역량을 개발사에 보고할 수 있지만, 자발적 접근이 완화 조치를 요구할 권한을 자동으로 만들어 주지는 않는다. 시스템의 출시 지연, 수정, 배포 여부에 대한 상당한 통제권은 개발사에 남는다.

세 번째 약점은 일관되지 않은 적용 범위다. 프런티어 연구소는 완전한 모델, 더 작은 변형 모델, 프리뷰 버전, 업데이트된 체크포인트, 외부 도구와 연결된 시스템을 출시한다. 간헐적인 대표 모델 출시를 기준으로 설계된 약속은 이러한 지속적 배포 패턴을 포괄하지 못할 수 있다.

에이전트형 시스템은 문제를 더 어렵게 만든다. AI 에이전트는 목표를 향해 여러 행동을 계획하고 실행하는 소프트웨어다. 모델을 브라우저, 터미널, 코드 저장소 또는 자격 증명과 연결하면 기본 모델 자체가 바뀌지 않아도 위험 프로필이 변할 수 있다.

최근 정부 연구는 사이버 역량에 집중해 왔다. AISI는 일부 테스트 영역에서 성능이 빠르게 상승했다고 말한다. AISI의 프런티어 동향에 따르면, 모델은 2024년 초 10%를 조금 넘던 것과 비교해 약 절반의 경우 견습 수준의 사이버 작업을 완료했다.

이 결과가 모델이 성공적인 현실 세계의 공격을 독립적으로 감행한다는 뜻은 아니다. 벤치마크는 통제된 조건에서 선택된 역량을 측정한다. 그러나 이러한 추세는 불완전한 접근 권한을 받거나 배포 후 위험한 행동을 발견하는 데 따르는 비용을 높인다.

모델 평가는 적대적 문제에도 직면한다. 시스템은 테스트 환경을 인식할 때 다르게 행동할 수 있다. 연구자들은 평가 중 의도적으로 성능을 낮추는 현상을 샌드배깅(sandbagging)이라고 부른다. AISI는 자기 복제, 안전장치 회피, 은폐된 악의적 행동과 함께 이 가능성을 연구한다.

이러한 불확실성은 장관들이 법적 명칭보다 결과를 강조하는 이유를 설명한다. 기업이 깊이 있게 협력할 때 자발적 접근은 잘못 설계된 법보다 더 나은 성과를 낼 수 있다. 상업적 일정과 공공 안전이 엇갈릴 때는 명확한 법적 의무가 자발적 접근보다 더 나은 성과를 낼 수 있다.

정책적 질문은 모든 모델이 하나의 정부 심사를 통과해야 하느냐가 아니다. 단일 테스트로 완전한 안전성을 입증할 수는 없다. 핵심은 독립 평가자가 일관된 접근 권한, 적절한 도구, 충분한 시간, 신뢰할 만한 조치 경로를 받느냐에 있다.

이 때문에 최근 Google News의 관심을 영국이 갑자기 규제를 받아들였다는 식으로 축소해서는 안 된다. 영국은 협력 모델이 구속력 있는 모델과 동일한 핵심 보호 장치를 제공할 수 있는지 시험하고 있다. 정부의 경고는 협력이 가정되는 것이 아니라 측정돼야 함을 인정한다.

영국과 EU가 다른 경로를 선택하는 가운데 Google News가 주목하다

영국의 완화된 체계는 이번 달부터 적용되기 시작한 집행 가능한 유럽의 의무와 직접 비교되는 상황에 놓였다.

유럽연합은 위험 기반 의무를 갖춘 범부문 법률을 통해 AI를 규제한다. 영국은 일반적으로 Information Commissioner’s Office, Ofcom, 금융 규제기관, 부문별 안전 당국 등 기존 기관에 책임을 배분한다.

이 접근법들은 서로 다른 통제 이론을 반영한다. EU는 법률에 의무를 규정하고 표준, 규범, 감독, 벌금으로 이를 뒷받침한다. 영국은 AISI를 통해 프런티어 역량을 이해하면서 기존 법률을 적용해 적응성을 추구한다.

EU 접근법은 이제 더 큰 실질적 무게를 갖는다. 범용 AI 제공업체는 2025년 8월부터 문서화, 저작권, 정보 공유 의무를 지고 있다. 2026년 8월 2일 유럽연합 집행위원회는 이러한 의무를 집행할 권한을 얻었다.

시스템적 위험을 초래하는 모델의 제공업체는 추가 요건을 부담한다. 여기에는 모델 평가, 위험 평가, 사고 보고, 사이버 보안 보호가 포함된다. 집행위원회의 제공업체 지침은 이러한 책임이 모델 수명주기 전반에 어떻게 적용되는지 설명한다.

유럽의 체계는 모든 출시 전에 의무 테스트를 하는 방식만을 뜻하지는 않는다. 요건은 모델과 위험 범주에 따라 달라진다. 여러 규칙은 계속 발전 중인 규범, 기술 표준, 규제 해석에도 의존한다.

그럼에도 EU에는 영국에 없는 것이 있다. 바로 정의된 집행 구조다. 적용 대상 제공업체는 해당 의무를 충족하지 못할 경우 정보 요청과 금전적 제재가 뒤따를 수 있음을 알고 있다. 영국의 출시 전 접근은 여전히 주로 협상을 통해 형성된 관계에 기반한다.

영국은 자국의 접근 방식이 성과를 확보했다고 주장한다. AISI는 극소수 국가만 받는 독점 모델 접근 권한을 확보했다. 입법 개정을 기다리지 않고 연구소와 긴밀히 협력하며 평가를 수정할 수 있다.

이러한 유연성에는 실질적인 가치가 있다. 프런티어 테스트는 기술적으로 아직 미성숙하며, 경직된 요건은 피상적인 준수를 보상할 수 있다. 모델은 좁은 공식 벤치마크를 통과하면서도 테스트 설계 밖에서 위험한 역량을 유지할 수 있다.

법적 의무는 규제기관이 아닌 근본 위험이 아니라 규제기관에 맞춰 최적화하려는 유인도 만들 수 있다. 기업은 요구된 정보만 공개하거나, 기준값을 중심으로 출시를 설계하거나, 분류에 이의를 제기할 수 있다. 집행이 과학적 이해를 자동으로 만들어내지는 않는다.

자발적 협력에는 그에 상응하는 장점이 있다. 연구자는 이례적인 접근을 요청하고, 실험적 방법을 테스트하며, 민감한 발견 사항을 비공개로 교환할 수 있다. 개발사는 취약점이 공개되거나 쉽게 재현되기 전에 대응할 수 있다.

규제 대상 기업에게 유연성이 선택권으로 바뀌는 순간 문제가 발생한다. 개발사는 평온한 시기에는 폭넓은 접근을 제공하다가 상업적으로 중요한 출시를 앞두고 이를 제한할 수 있다. 그러면 정부는 신뢰할 수 있는 최소 기준을 확보하지 못한다.

영국은 이전에 국제적 약속을 통해 자발적 행동을 강화하려 했다. 2024년 서울 정상회의에서 주요 개발사들은 안전 프레임워크를 공개하고, 심각한 위험을 평가하며, 외부 테스트가 의사결정에 어떻게 반영됐는지 설명하겠다고 약속했다. 프런티어 약속에는 Google, OpenAI, Anthropic, Meta, Microsoft, Amazon 등을 비롯한 기업이 참여했다.

이러한 약속은 경쟁하는 연구소 전반에 걸쳐 기대 기준을 세우는 데 도움이 됐다. 그러나 독립적인 집행 기구나 적용 대상 시스템 각각을 점검할 법적 권한을 만들지는 않았다. 그 효과는 투명한 이행과 기업의 지속적인 참여에 달려 있다.

이것이 영국 정책 논쟁의 핵심 대립 구도다. 자발적 접근은 속도, 유연성, 협업을 약속한다. 구속력 있는 접근은 일관성, 책임성, 그리고 협력이 무너졌을 때의 구제 수단을 약속한다.

어느 쪽도 기술적 불확실성을 없애지는 못한다. 실제 선택은 평가 조건을 누가 통제하는지에 관한 문제다. 자발적 모델에서는 개발사가 결정적인 영향력을 유지한다. 구속력 있는 규칙은 그 통제권의 일부를 국가로 이전할 수 있다.

유럽 전역에서 사업하는 기업은 두 접근법을 모두 마주하게 된다. 영국이 더 가벼운 규칙을 유지하더라도 EU에서 제공되는 모델은 적용 가능한 EU 요건을 충족해야 한다. 이는 표적화된 영국의 의무가 모든 개발사에만 유독 부담을 준다는 주장을 약화한다.

다만 영국은 여전히 AI를 개발하고 배포하기에 매력적인 곳이라는 차별점을 만들고자 한다. 장관들은 과도한 마찰이 투자 약화와 도입 지연으로 이어진다고 본다. 또한 미국이나 유럽연합만큼의 시장 규모가 없는 상황에서도 영국의 영향력을 유지하려 한다.

AISI 접근권은 이 전략의 중심이 됐다. 영국은 연구자들이 선도 모델을 조기에 검토할 때 국제적 존재감을 주장할 수 있다. 이 접근이 일관되지 않게 되면, 더 가벼운 프레임워크가 제공하던 외교적·과학적 이점도 함께 약화된다.

따라서 Google News 주기를 둘러싼 시점은 중요하다. 유럽의 집행이 시작되는 가운데 영국은 협력만으로 충분한지 논의하고 있다. 이 대비는 입법자들에게 이론적 대안이 아닌 현실의 기준점을 제공한다.

실제 절충점은 접근권과 집행력의 대결이다

영국은 자발적 테스트의 기술적 깊이를 유지하면서도, 개발사가 아무런 결과 없이 필수 협력을 철회할 수 있는 능력은 없애야 한다.

광범위한 인허가 제도는 하나의 대응책이 될 수 있지만, 유일한 선택지는 아니다. 의회는 시스템이 정해진 역량 또는 컴퓨팅 임계값을 넘는 개발사를 대상으로 한정적 의무를 마련할 수 있다. 이 의무는 사전 통지, 보안 접근, 문서화, 사고 보고를 요구할 수 있다.

이러한 법은 정확한 경계를 필요로 한다. 프런티어 모델 개발사와 기존 서비스를 통합하는 소규모 기업을 구분해야 한다. 두 집단에 동일한 요건을 적용하면 최고 영향 위험의 원인을 해결하지 못한 채 비용만 발생할 수 있다.

법은 접근이 무엇을 의미하는지도 정의해야 한다. 채팅 인터페이스는 모델 수준 평가와 동등하지 않다. AISI는 시스템 문서, 안전 설정, 도구 접근권, 파인튜닝 옵션, 그리고 결과를 재현할 충분한 시간을 필요로 할 수 있다.

기밀성도 또 다른 과제가 된다. 프런티어 모델에는 가치 있는 지식재산, 보안에 민감한 세부 정보, 미출시 제품 관련 정보가 담겨 있다. 의무적 접근 체계에는 인력, 인프라, 공개, 다른 정부와의 조정에 관한 엄격한 통제가 필요하다.

AISI는 이미 민감한 평가를 위해 제한된 팀과 코드명 프로젝트를 활용하고 있다. 이 절차는 기반을 제공하지만, 법적 강제는 사안을 더 중대하게 만든다. 기업들은 유출과 모델 정보의 부적절한 사용에 대한 명확한 보호를 요구할 것이다.

집행 권한도 비슷한 주의가 필요하다. AISI는 출시 승인 권한 없이도 정보 제출을 요구할 권한을 받을 수 있다. 다른 규제기관은 AISI의 기술적 판단에 의존하면서 준수 통지를 발행할 수 있다.

더 강력한 선택지는 테스트에서 특정 위험이 확인될 경우 일시적인 출시 지연을 허용하는 방식이다. 이 접근은 더 큰 보호를 제공하지만, 기술적으로 불확실한 과정에 상당한 권한을 집중시키기도 한다. 거짓 양성은 유용한 시스템의 출시를 늦출 수 있고, 거짓 음성은 잘못된 확신을 만들 수 있다.

정부는 아직 이들 메커니즘 가운데 하나를 선택하지 않았다. Narayan의 발언은 설계를 열어 두고 있다. 이는 유연성을 보존하지만, 동시에 어떤 실패가 규제를 촉발할지 기업과 대중이 알 수 없게 한다.

투명한 발동 기준은 책임성을 개선할 것이다. 영국은 접근에 대한 최소 기대치를 공개하고, 적용 대상 개발사가 이를 충족했는지 보고할 수 있다. 이러한 기대에 대한 지속적 실패는 협의나 입법을 시작하게 할 수 있다.

공개 보고는 민감한 발견 사항을 보호해야 한다. 악용 가능한 사이버 역량을 상세히 설명하면 새로운 위험을 만들 수 있다. 그럼에도 집계 정보는 AISI가 최종 모델, 충분한 테스트 시간, 요청한 기술적 접근을 받았는지 보여줄 수 있다.

회의적인 견해는 영국의 경고가 수사에 머물 수 있다는 것이다. 정부는 종종 입법 가능성은 유지하면서도 실제 법안을 내놓지 않는다. 따라서 개발사는 규제 언어를 임박한 준수 변화가 아니라 관리 가능한 정치적 압력으로 여길 수 있다.

영국은 채택과 경제 성장을 우선시하면서 전담 AI 법안을 이미 미뤘다. 이 이력은 시간표의 부재를 중요하게 만든다. “필요하다면 규제하겠다”는 말은 정해진 검토 날짜와 측정 가능한 기준보다 확실성이 낮다.

또 다른 우려는 제도적 독립성과 관련된다. AISI는 정부 내에 있으며 국가 정책을 지원한다. 현재 법정 독립성, 공식 집행 절차, 이의 제기 체계를 갖춘 전통적 규제기관은 아니다.

연구 결과를 법적 결정으로 전환하려면 거버넌스 변화가 필요하다. 기술 평가자는 위험을 솔직하게 보고할 수 있어야 하고, 영향을 받는 기업에는 예측 가능한 절차가 필요하다. 장관들은 증거가 어떻게 개입으로 이어지는지도 설명해야 한다.

반론은 성급한 입법이 아직 성숙하지 않은 평가 방법을 고정할 수 있다는 것이다. 연구자들은 여전히 위험한 역량을 측정하는 방법, 안전장치를 반영하는 방법, 벤치마크 성과를 현실 위험으로 전환하는 방법을 논의하고 있다. 불확실한 방법론을 법에 구속하면 거짓 정밀성을 만들 수 있다.

이 때문에 정부 안전 인증보다 표적화된 접근 의무가 더 실용적으로 보인다. 법은 모델을 보편적으로 안전하거나 위험하다고 선언하지 않고도 협력을 강제할 수 있다. AISI는 역량이 변화함에 따라 테스트를 바꿀 여지를 유지하게 된다.

심각한 사고를 보고할 의무는 이 구조를 강화할 수 있다. 배포 후 증거는 출시 전 평가가 놓친 위험을 드러내는 경우가 많다. 조기 접근과 지속적 모니터링을 연결하면 시스템 수명주기 전반에 걸쳐 더 완전한 그림을 만들 수 있다.

기업은 현재 논쟁이 모델 연구소에만 적용된다고 해석해서는 안 된다. AI를 배포하는 조직은 데이터 보호, 사이버 보안, 노동 규칙, 소비자 보호, 산업별 요건에 계속 책임을 진다.

Information Commissioner’s Office는 주요 개발사와 감독 차원의 관여를 유지하고 있다고 밝혔다. 또한 AI를 위한 통제된 실험 메커니즘을 개발하고 있다. 이러한 노력은 기존 법적 의무와 감독된 혁신을 결합하려는 영국의 선호를 보여준다.

기업 구매자에게는 어느 체제에서든 공급업체 문서가 더 중요하다. 팀은 어떤 모델이 민감한 정보를 처리하는지, 어떤 도구에 접근할 수 있는지, 업데이트가 승인된 워크플로에 어떤 영향을 미치는지 기록해야 한다. 검색 가능한 기술 지식 베이스는 공식적인 위험 통제를 대체하지 않으면서 이 작업을 지원할 수 있다.

지식 노동자들도 관련된 문제에 직면한다. 익숙한 제품명만으로 모든 새 모델 버전이 동등한 테스트를 받았다는 사실이 보장되지는 않는다. 조달팀에는 버전별 증거, 배포 조건, 유해한 행동에 대한 명확한 에스컬레이션 경로가 필요하다.

영국의 결정은 그러한 증거의 품질에 영향을 미칠 것이다. 강력한 평가 요건은 고객에게 전달되는 공개 정보를 개선할 수 있다. 약하게 정의된 자발적 약속은 구매자가 비교하기 어려운 공급업체 요약에 의존하게 만들 수 있다.

정부는 배포 전 접근이 안전을 증명한다고 주장해서는 안 된다. AISI는 제한된 조건에서 선택된 역량을 테스트한다. 그 발견은 경고 신호를 식별하고 안전장치 마련에 기여할 수 있지만, 모든 사용 사례나 실패를 예측할 수는 없다.

개발사 역시 자발적 제출을 독립적 승인으로 취급해서는 안 된다. AISI와의 협력이 해당 연구소가 모델을 보증한다는 뜻은 아니다. 평가 접근이 마케팅 배지가 되는 것을 막으려면 명확한 공개 언어가 필요하다.

이 균형이 정책적 절충점을 규정한다. 영국은 협력을 저해하지 않으면서 접근권을 확보하고, 경직된 인증 없이 집행력을 마련하며, 모든 위험 판단을 개발사에 넘기지 않고 성장을 이루고자 한다. 세 가지를 모두 달성하려면 경고만으로는 부족하다.

세 가지 신호가 규제 도입 여부를 보여줄 것이다

다음 단계는 측정 가능한 접근권, 문서화된 개발사 행동, 그리고 자발적 안전장치가 실패했을 때의 구체적인 정부 대응에 달려 있다.

첫 번째 신호는 다가오는 프런티어 출시작에 대한 AISI의 접근권이다. 독자는 Google DeepMind, OpenAI, Anthropic이 의미 있는 테스트에 충분한 시간을 두고 최종 또는 최종에 가까운 모델을 제공하는지 살펴봐야 한다. 초기 연구 버전에 대한 접근이 반드시 배포 시스템의 행동을 드러내는 것은 아니다.

정부 보고는 모델 기밀을 공개하지 않고도 이를 명확히 할 수 있다. AISI는 주요 출시작을 몇 건 평가했는지, 테스트가 배포에 앞서 이뤄졌는지, 개발사가 요청된 인터페이스를 제공했는지 밝힐 수 있다. 어느 지표에서든 하락이 나타나면 구속력 있는 접근권을 요구하는 근거가 강해진다.

두 번째 신호는 연구소들이 서울 약속을 어떻게 이행하는지다. 안전 프레임워크는 위험 임계값, 테스트 방법, 완화 조치, 출시를 중단하게 할 조건을 식별해야 한다. 업데이트는 광범위한 원칙을 반복하기보다 실질적 변화를 설명해야 한다.

공개 누락이나 설명되지 않은 지연은 영국의 허용 범위를 시험하게 된다. 정부가 아무 조치 없이 반복되는 공백을 받아들이면 규제 경고의 신뢰성은 떨어진다. 공식적인 기대 기준을 마련하면 자발적 모델은 더 명확한 경계를 갖게 된다.

Google은 프런티어 모델 개발과 널리 쓰이는 소비자·기업 서비스를 결합하고 있기 때문에 특히 주목할 만하다. Google News를 통해 드러나는 보도는 대중의 감시를 강화할 수 있지만, 집계가 안전 준수의 증거는 아니다. 독자는 1차 공개 자료와 정부 평가를 추적해야 한다.

세 번째 신호는 구체적인 입법 또는 협의 단계다. 여기에는 법정 접근 의무, 공식 사고 보고, AISI의 법적 지위 인정, 또는 가장 역량이 높은 모델에 초점을 맞춘 권한이 포함될 수 있다. 또 하나의 일반론적 발언보다 공개된 시간표가 더 중요하다.

이들 조치 가운데 어느 하나라도 진전되면 영국이 집행 가능한 최후의 안전망을 구축하고 있다는 견해가 강해질 것이다. 정의되지 않은 협력에 계속 의존한다면 그 견해는 약화될 것이다. 차이는 미준수가 예측 가능한 결과를 낳는지에 달려 있다.

EU는 즉각적인 비교 사례를 제공한다. EU의 집행 권한은 이제 범용 모델 의무에 적용되며, 추가적인 고위험 규정은 별도의 일정에 따라 뒤따른다. 초기 조사와 컴플라이언스 요청은 구속력 있는 프레임워크가 실제로 어떻게 작동하는지 보여줄 것이다.

영국은 AI Act 전체를 그대로 복제하지 않고도 그 증거를 활용할 수 있다. EU의 효과적인 집행은 명확하게 규정된 영국의 권한 도입 압박을 높일 것이다. 혼란스럽거나 불균형적인 집행은 더 좁은 모델이 필요하다는 영국의 주장을 뒷받침할 것이다.

두 시장에서 개발자들이 보이는 행동은 또 다른 시험대가 될 것이다. 별도 시스템을 유지하는 것은 비효율적이기 때문에, 기업들은 더 강력한 유럽의 문서화 및 리스크 프로세스를 전 세계에 적용할 수 있다. 그렇게 된다면 영국은 동등한 의무를 제정하지 않고도 EU 규정의 혜택을 받을 수 있다.

그 결과에도 주권 문제는 남는다. 영국은 부분적으로 외부에서 만들어진 기준과 유인에 의존하게 된다. 영국 정부가 모델을 검토할 수는 있겠지만, 개발자 행동을 형성하는 집행 가능한 기대의 상당수는 유럽연합이 정하게 된다.

AISI의 기술적 발견은 계속해서 핵심 역할을 할 것이다. 빠르게 향상되는 사이버 역량, 평가 회피 또는 안전장치 효과 저하에 대한 증거는 지연의 비용을 높일 것이다. 현행 완화 조치가 여전히 효과적이라는 증거는 자발적 협력에 더 많은 시간을 줄 것이다.

독자들은 극적인 주장에 신중하게 접근해야 한다. 통제된 사이버 과제는 국가적 혼란의 가능성을 직접 측정하지 않는다. 모델의 행동은 프롬프트, 도구, 안전장치, 운영자의 역량에 따라 달라질 수 있다.

에이전트가 테스트 환경을 벗어나거나 의도치 않은 시스템과 상호작용했다는 개별 보고에도 같은 주의가 필요하다. 각 사건에서는 권한, 격리, 인간 감독, 실제 피해를 검토해야 한다. 선정적인 표현은 거버넌스 측면의 교훈을 가릴 수 있다.

개별 사건이 논쟁의 대상이더라도 정책적 질문은 구체적으로 남는다. 누가 사건을 공개해야 하며, 누가 시스템을 검사할 수 있고, 누가 시정 조치를 요구할 수 있는가? 기업이 정부의 판단에 이의를 제기할 때 자발적 안전장치는 불완전한 답을 제공한다.

개발자와 기업 구매자에게 가장 안전한 대응은 더 폭넓은 문서화를 준비하는 것이다. 모델 인벤토리, 접근 로그, 사고 절차, 버전별 평가는 자발적 체제와 구속력 있는 체제 모두에서 여전히 유용하다. 또한 조직이 고객과 규제기관에 의사결정을 설명하는 데 도움이 된다.

Google News를 통해 이 논쟁을 지켜보는 사람들은 영국이 규제에 열려 있다는 단순한 헤드라인을 넘어 볼 필요가 있다. 정부는 아직 협력에서 강제로 넘어가지 않았다. 다만 협력에는 신뢰할 수 있는 대안이 필요하다는 점을 인정했다.

그 인정이 진정한 사건이다. 영국의 더 가벼운 접근법은 모델의 역량이 커지는 상황에서도 신뢰할 수 있는 접근성과 의미 있는 안전장치를 제공한다는 것을 이제 증명해야 한다. 그렇지 않으면 그 유연성은 의존처럼 보이기 시작한다.

앞으로 몇 달은 세 가지 질문에 답해야 한다. AISI는 계속해서 적절한 출시 전 접근 권한을 받게 될까? 개발자들은 안전 약속이 출시 결정에 영향을 준다는 구체적 증거를 공개할까? 장관들은 심각한 실패가 강제하기 전에 집행 가능한 대응책을 정의할까?

하나의 극적인 발표를 기다리기보다 이런 신호를 지켜보라. 조직 내에서 AI를 관리한다면, 이미 사용 중인 모델, 데이터 접근, 사고 경로를 점검하라. 규제기관이 배포가 안전한 이유를 묻는다면 오늘 어떤 증거가 필요할까?