Apple Google 누드 이미지 차단, 영국의 법적 의무화에 직면

Apple과 Google은 3개월간의 협의가 장관들이 요구한 아동 안전 통제를 마련하지 못하면서 영국의 법적 의무화에 직면했다.

제안된 Apple Google 누드 이미지 차단 규정은 18세 미만 이용자가 누드 이미지를 촬영, 열람 또는 전송하지 못하도록 한다. 보호 조치는 일부 서비스에만 국한되지 않고 카메라, 메시징 서비스, 타사 앱 전반에서 작동하게 된다.

이는 iPhone과 Android 기기에 이미 탑재된 경고 기능보다 훨씬 광범위한 개입이다. 이러한 시스템은 일반적으로 기기에서 누드로 의심되는 이미지를 감지해 흐리게 처리하고, 일부 이용자에게는 계속 진행할 수 있도록 한다. 영국은 검증된 성인만 해제할 수 있는 기본 차단을 원한다.

따라서 쟁점은 기술이 누드를 인식할 수 있는지 여부가 아니다. Apple과 Google은 이미 이 목적을 위해 기기 내 분류 기능을 사용하고 있다. 문제는 운영체제 제공업체가 보호 경고를 기기 전체에 적용되는 의무적 통제로 전환해야 하는지에 있다.

정부는 자발적 제안이 온라인 그루밍, 강압, 성적 갈취의 규모에 부합하지 않았기 때문에 이제 입법이 필요하다고 말한다. 개인정보 보호 옹호자들은 보편적 연령 확인과 콘텐츠 분류가 그 자체로 위험을 만들 수 있다고 반박한다.

영국의 의무화는 앱 수준의 경고를 넘어선다

정부는 아동 보호를 부모나 개별 앱에 맡기지 않고 운영체제가 강제하기를 원한다.

문화부 장관 Lisa Nandy는 9월 8일 의회에서 기기 수준 보호 조치를 포괄하는 기본 입법을 도입하겠다고 밝혔다. 공식 발표는 9월 9일에 이어졌다.

정부는 처음으로 6월 8일 기술 기업들에 3개월의 기한을 제시했다. 이후 문화부와 내무부 관계자들은 Apple 및 Google과 기술 로드맵을 논의했다.

Nandy는 두 기업 모두 상당한 약속을 했다고 인정했다. 또한 일부 이미지를 흐리게 처리하는 방식에서 미성년자 기기에서 이를 차단하는 방식으로 전환하는 운영체제 수준의 변경을 개발했다고 말했다.

그럼에도 장관들은 해당 제안이 목표를 충족하지 못한다고 결론지었다. 정부의 기기 보호 계획은 세 가지 원칙에 기반한다.

첫째, 18세 미만 이용자는 누드 이미지를 촬영, 열람 또는 전송할 수 없어야 한다. 제한은 기기 카메라, 기본 기능 및 타사 앱을 포괄해야 한다.

둘째, 보호 기능은 기본으로 활성화돼야 한다. 부모와 보호자는 설정을 찾아야 하거나, 별도 애플리케이션을 설치하거나, 모든 서비스를 각각 설정할 필요가 없어야 한다.

셋째, 이용자는 제한을 해제하기 전에 정부가 강력한 연령 보증이라고 부르는 절차를 통해 성인임을 입증해야 한다. 이 구분을 보장할 책임은 아동이나 부모가 아니라 제공업체가 지게 된다.

이 원칙들은 익숙한 자녀 보호 기능을 인프라 요건으로 바꾼다. 앱 개발자는 자체 서비스 내 이미지를 관리할 수 있다. 운영체제 제공업체는 카메라가 이미지를 촬영할 때, 소프트웨어가 이를 열 때 또는 다른 앱이 공유를 시도할 때 개입할 수 있다.

정부는 아동이 사용하는 앱에 대한 의무도 검토하고 있다. 이는 Apple과 Google을 넘어 메시징 및 소셜 플랫폼과 같은 서비스로 책임을 확대하게 된다.

다만 정책 발표 당시 최종 법안은 공개되지 않았다. 정부는 시행일, 기술 표준, 집행 모델 또는 금지되는 누드에 대한 완전한 정의를 공개하지 않았다.

정부 발표는 사안의 복잡성을 인정하면서도 가능한 한 빨리 법안을 마련하겠다고 밝혔다. 장관들은 기업들이 독자적으로 충분한 보호 조치를 도입할 경우 법을 재검토할 가능성도 남겨뒀다.

이 단서는 중요하다. 이번 발표는 즉각적인 전국 단위 전환이 아니라 입법 절차의 시작이다. 의회 심사, 기술 협의, 집행 규정, 시행 기간이 정책과 실제 차단 기능 사이에 아직 남아 있다.

그럼에도 핵심 변화는 분명하다. 영국은 일부 앱 내 선택적 경고만으로 이미지 기반 아동 착취에 충분히 대응할 수 있다는 입장을 더는 받아들이지 않는다.

Apple과 Google이 직접 압박을 받는 이유

Apple과 Google은 정부가 보호 조치가 모든 앱에서 아동을 따라갈 수 있다고 보는 계층을 통제한다.

온라인 안전 규제는 전통적으로 콘텐츠를 호스팅, 추천 또는 전송하는 서비스에 초점을 맞췄다. 제안된 정책은 기술 스택의 더 깊은 곳으로 이동한다.

소셜 네트워크는 계정을 차단하거나 게시물을 삭제할 수 있다. 메시징 서비스는 모르는 연락처를 제한할 수 있다. 그러나 어느 조치도 아동이 카메라로 이미지를 만들거나 다른 애플리케이션을 통해 이를 이동시키는 것을 막지는 못한다.

Apple과 Google은 다른 위치에 있다. 이들의 운영체제는 카메라, 화면, 저장 공간, 공유 메뉴, 계정 및 애플리케이션 권한에 대한 접근을 중개한다.

이러한 통제력은 이들을 정부의 주요 압박 대상으로 만든다. 동시에 기술적 실수 하나가 단일 소셜 플랫폼 내부의 오류보다 훨씬 더 광범위한 활동에 영향을 줄 수 있음을 뜻한다.

정부의 논리는 합의된 성인 콘텐츠가 아닌 강압에서 출발한다. Nandy는 아동들이 온라인 서비스 전반에서 친밀한 이미지를 만들도록 그루밍, 조작, 협박을 받고 있다고 말했다.

그녀의 하원 성명은 관련 이미지의 91%가 자기 생성물이라는 Internet Watch Foundation의 추정을 인용했다. 이 용어는 아동이 물리적으로 혼자 있을 때 만들어진 자료를 가리키지만, 강압이나 그루밍이 제작을 유도했을 수 있다.

Nandy는 또 매년 약 9,000건의 아동 성적 학대 범죄에 온라인 요소가 포함된다고 말했다. 그녀가 제시한 수치에 따르면 18세 미만은 온라인 협박 대상자의 거의 4분의 1을 차지한다.

이러한 사실은 정부가 이미지가 플랫폼에 도달하기 전에 개입하려는 이유를 설명한다. 강압적으로 만들어진 이미지가 전송된 뒤에는 가해자가 이를 복사, 재배포하거나 성적 갈취에 사용할 수 있다.

기기 수준 차단은 이 연결 고리를 더 이른 단계에서 끊으려 한다. 자료가 아동의 통제를 벗어나기 전에 촬영, 표시 또는 전송을 중단시킬 수 있다.

정부는 완벽한 부모 설정에 의존하지 않는 규칙도 원한다. 가족 기기 통제 기능은 종종 올바른 계정 유형, 최신 소프트웨어, 활성화된 가족 그룹, 그리고 계속 유지되는 설정을 요구한다.

아동이 잘못 설정된 계정을 사용할 수 있다. 가족이 기기를 공유할 수도 있다. 청소년이 운영체제의 기존 안전 인터페이스를 사용하지 않는 앱을 통해 이미지를 받을 수도 있다.

법적 기본 설정은 이러한 구성 실패의 책임을 기술 제공업체로 옮기게 된다. Apple과 Google은 식별된 아동 이용자에게 보호 기능이 일관되게 작동한다는 점을 보여야 한다.

이 압박은 연령 인식형 서비스로 향하는 영국의 더 광범위한 움직임과 맞닿아 있다. Online Safety Act는 이미 적용 대상 플랫폼에 포르노를 포함한 유해 콘텐츠로부터 아동을 보호하도록 요구한다.

Ofcom은 연령 증명을 요구받았을 때 매우 효과적인 확인 절차를 접한 아동의 비율이 2025년 7월 25%에서 2026년 1월 43%로 증가했다고 보고했다. 해당 기관의 연령 확인 조사 결과는 검색, 데이팅 서비스, 소셜 미디어의 연령 추론 분야에서도 격차를 확인했다.

규제 당국은 운영체제, 앱 스토어 및 기기가 더 큰 역할을 맡을 것으로 기대한다. 앱 스토어 보호 조치에 대해서는 2027년 1월까지 보고할 계획이다.

따라서 Apple과 Google은 단일 기능 요청 이상의 문제에 직면해 있다. 영국은 검증된 연령이 서비스와 기기 기능 전반의 경험에 영향을 미치는 모델을 구축하고 있다.

Apple Google 누드 이미지 차단이 안전 모델을 바꾸는 방식

핵심 상충 관계는 조기에 작동하는 더 강력한 차단과 이용자 선택권 및 시스템 전반의 개입 제한을 유지하는 경고 시스템 사이에 있다.

Apple은 지원되는 기기에서 18세 미만 아동에게 Communication Safety를 이미 기본 활성화하고 있다. 이 기능은 기기 내 머신러닝을 사용해 누드를 포함한 것으로 보이는 사진이나 동영상을 식별한다.

기기 내 처리는 각 이미지를 검사 목적으로 업로드하지 않고 로컬에서 분류가 이뤄진다는 뜻이다. Apple은 이미지나 누드 감지 여부에 대한 표시를 받지 않는다고 말한다.

Apple의 Communication Safety는 Messages, AirDrop, FaceTime 기능, 공유 앨범, Contact Posters 및 일부 타사 공유 흐름을 포괄한다. 적용 범위는 기기에 따라 다르다.

시스템이 누드로 의심되는 콘텐츠를 감지하면 이를 흐리게 처리하고 안내를 표시한다. 아동은 대화를 나가거나, 연락처를 차단하거나, 도움을 구하거나, 신뢰할 수 있는 성인에게 연락할 수 있다.

13세 미만 아동은 감지된 콘텐츠를 보기 전에 Screen Time 암호가 필요하다. 더 나이가 많은 아동은 일반적으로 추가 경고 후 개입을 지나칠 수 있다.

Google은 Google Messages에서 유사한 경고 기반 방식을 따른다. 감독 대상 이용자에게는 민감한 콘텐츠 경고가 기본으로 활성화된다.

시스템은 누드로 의심되는 이미지를 흐리게 처리하고 Google이 스피드 범프라고 부르는 화면을 표시한다. 안전 정보와 차단 옵션을 제공하지만, 감독 대상 이용자가 콘텐츠를 보고, 전송하거나, 전달하도록 허용할 수 있다.

Google은 민감한 콘텐츠 제어 기능이 SafetyCore를 사용해 이미지를 로컬에서 분류한다고 말한다. 식별 가능한 데이터, 콘텐츠 및 분류 결과는 Google 서버로 전송되지 않는다.

SafetyCore는 통합된 앱이 분류를 요청할 때만 이미지를 처리한다. 문서화된 Google Messages 구현에서 이는 모든 Android 앱이 처리하는 모든 이미지를 지속적으로 검사하지 않는다.

영국의 제안은 다른 결과를 요구한다. 경고는 이용자에게 재고할 것을 요청한다. 차단은 아동으로 분류된 모든 이용자의 선택권을 없앤다.

더 넓은 적용 범위도 요구한다. 현재 통제 기능은 정해진 애플리케이션과 공유 경로 안에서 작동한다. 정부는 기기 전반의 카메라와 타사 앱을 포괄하는 보호를 원한다.

이 차이는 어려운 엔지니어링 문제를 만든다. Apple과 Google은 어떤 이용자가 18세 미만인지 식별하고, 누드를 정확히 감지하며, 애플리케이션이 결과를 우회하지 못하게 하고, 사적인 미디어가 중앙 서비스로 전송되지 않도록 해야 한다.

또한 개입이 어디에서 이뤄질지도 결정해야 한다. 시스템은 저장 전에 카메라 출력을 분류하거나, 앱이 접근을 요청할 때 파일을 검사하거나, 화면에 표시된 픽셀을 분석하거나, 여러 점검 지점을 결합할 수 있다.

각 접근 방식에는 한계가 있다. 카메라 수준 통제는 가져온 파일을 놓칠 수 있다. 공유 시트 통제는 자체 전송 시스템을 사용하는 앱을 놓칠 수 있다. 화면 분석은 폭넓은 적용 범위를 제공하지만 개인정보 보호 측면에서도 더 넓은 영향을 남긴다.

암호화된 메시징은 또 다른 층을 더한다. 종단 간 암호화는 참여자 사이를 이동하는 동안 콘텐츠를 보호하지만, 기기는 여전히 수신자에게 복호화된 이미지를 표시해야 한다.

로컬 분류는 전송 중 서비스에 읽을 수 있는 사본을 제공하지 않으면서 암호화 전 또는 복호화 후에 작동할 수 있다. 이러한 설계가 자동으로 암호화를 훼손하는 것은 아니다.

그러나 비판론자들은 암호화와 엔드포인트 개인정보 보호를 구분한다. 메시지는 전송 중 암호화된 상태를 유지할 수 있지만, 휴대전화의 소프트웨어는 그 콘텐츠를 평가할 수 있다.

영국은 어떤 설계를 요구할지 판단할 수 있을 만큼 충분한 기술 세부 사항을 아직 공개하지 않았다. 이 제안이 필연적으로 모든 사진을 정부 서버로 전송한다는 주장은 뒷받침되지 않는다.

반대 주장을 하는 것 역시 시기상조다. 기기 내 처리는 노출을 줄이지만, 어떤 데이터가 보존되는지, 탐지가 보고되는지, 모델이 어떻게 업데이트를 받는지는 구현 세부 사항에 따라 결정된다.

강제 차단에는 엄격한 정확도 기준도 필요하다. 오탐은 가족 사진, 건강 정보, 예술 작품, 교육 자료 또는 누군가 보존해야 할 증거를 가로막을 수 있다.

미탐은 대상 자료가 그대로 통과하도록 만들 수 있다. 가해자는 분류기를 우회하기 위해 이미지를 자르거나, 왜곡하거나, 가리거나, 변형할 수도 있다.

따라서 Apple Google의 아동 안전 통제 기능은 노출된 피부를 인식하는 것보다 더 폭넓은 문제를 해결해야 한다. 연령, 체형, 조명 조건, 의료적 맥락, 문화적 환경, 합성 미디어 전반에서 신뢰할 수 있는 판단을 내려야 한다.

정부가 원하는 결과는 설명하기 쉽다. 과도한 부수적 영향을 일으키지 않고 이를 구현하는 데 필요한 메커니즘은 그렇지 않다.

연령 보증과 개인정보 보호가 가장 어려운 시험대다

기본 차단은 누가 성인인지 판단하지 않고는 작동할 수 없으므로, 나체 감지는 시스템의 절반에 불과하다.

정부 원칙에 따르면 성인은 제한 없는 기기 기능에 접근하기 전에 자신의 연령을 확인해야 한다. 이는 이미지 분류와 별개로 두 번째 기술 시스템을 만든다.

연령 보증은 누군가가 연령 기준을 충족하는지 확인하거나 추정하는 방법을 포괄하는 넓은 범주다. 신분증, 결제 데이터, 얼굴 기반 연령 추정, 신뢰할 수 있는 계정 기록 또는 다른 제공업체의 확인 등이 선택지가 될 수 있다.

최종 선택은 정책의 개인정보 보호 영향을 좌우할 것이다. 신분증을 저장하는 방식은 사용자가 18세 이상이라는 사실만 확인하는 재사용 가능한 증명과 다른 위험을 수반한다.

Apple은 이미 신고된 연령, 아동 계정, 가족 설정을 활용해 보호 기능을 맞춤화하고 있다. Google은 문서화된 Messages 통제 기능에 감독 계정과 Family Link를 사용한다.

이러한 시스템은 많은 아동을 식별할 수 있지만, 모든 기기 사용자의 연령을 증명하지는 못한다. 계정에는 잘못된 생년월일이 입력될 수 있고, 기기는 가족 구성원 간에 옮겨 사용될 수 있다.

정부는 제공업체가 성인 여부 입증의 부담을 져야 한다고 본다. 이는 자녀 보호 기능을 전혀 사용하지 않는 성인을 포함해 더 많은 사용자를 확인하도록 기업을 압박할 수 있다.

Open Rights Group을 비롯한 시민사회 단체들은 연령 관문 확대가 광범위한 신원 확인을 요구할 수 있다고 경고해 왔다. 이들의 개인정보 보호 경고는 이러한 시스템이 민감한 개인정보를 노출하고 일반적인 접근을 제한할 수 있다고 주장한다.

이 우려가 장관들이 해결하려는 피해를 없애는 것은 아니다. 이는 법안이 데이터 최소화, 보존 기한, 보안 요건, 이의 제기 경로, 독립적 테스트를 명시해야 하는 이유를 보여준다.

개인정보를 가장 잘 보호하는 설계는 필요한 사실만 공개하는 방식일 것이다. 서비스는 사용자가 기준을 충족한다는 사실만 알면 되며, 반드시 이름, 주소 또는 생년월일까지 알 필요는 없다.

그 제한된 신호조차 공동 사용 기기 전반에서 정확하게 유지돼야 한다. 인증된 성인이 아동 계정을 영구적으로 제한 없이 남겨둘 수 있어서는 안 되며, 아동도 구제 수단 없이 정당한 자료에 접근하지 못하게 되어서는 안 된다.

분류 오류는 또 다른 책임성 문제를 낳는다. 현행 경고 시스템은 기계가 틀릴 수 있기 때문에 우회 경로를 남겨둔다.

법적 강제 차단에는 그 판단에 이의를 제기할 방법이 필요하다. 그러나 아동이 모든 결과를 즉시 우회할 수 있도록 하는 이의 제기 메커니즘은 정책을 약화시킬 것이다.

법안은 가해자를 위한 손쉬운 우회 수단을 만들지 않으면서 예외나 검토 절차를 정의해야 한다. 또한 부모가 차단을 해제할 수 있는지, 가능하다면 어떤 상황에서 가능한지도 설명해야 한다.

적용 범위는 추가 불확실성을 만든다. “나체 이미지”는 불법 아동 성적 학대물보다 더 넓은 개념이다. 이 표현에는 합법적인 성인 콘텐츠와 성적 맥락이 전혀 없는 무해한 이미지도 포함될 수 있다.

정부의 목표는 이미지를 수신하는 행위뿐 아니라 촬영하는 행위까지 포괄한다. 이는 의료 사진, 보호 증거, 모유 수유, 가족 이미지, 교육 자료에 관한 의문을 제기한다.

입법자는 법안에 머신러닝 모델을 공개할 필요는 없다. 하지만 제공업체, 규제기관, 법원, 사용자가 이해할 수 있도록 기대되는 결과를 충분히 구체적으로 정의해야 한다.

독립적인 성능 테스트가 필수적이다. 정확도 주장은 선별된 테스트 세트뿐 아니라 실제 기기와 콘텐츠 전반의 오탐 및 미탐을 다뤄야 한다.

테스트는 탐지 회피 시도도 검토해야 한다. 일반 사진에서 작동하는 모델은 스크린샷, 콜라주, 그림, 생성 이미지 또는 대폭 편집된 파일에서 다르게 작동할 수 있다.

정부는 연령을 인증한 성인은 영향을 받지 않아야 한다고 밝혔다. 기술적·법적 안전장치가 공개되기 전까지 이 약속은 입증된 결과가 아니라 목표에 머문다.

Apple과 Google은 자사의 로컬 처리가 이미 기반을 제공한다고 주장할 가능성이 크다. 개인정보 보호 옹호자들은 그 기반이 지속적인 엔드포인트 검사로 확대되는지를 주시할 것이다.

두 질문은 같은 평가에 포함돼야 한다. 아동 안전 시스템은 하나의 심각한 피해를 줄일 수 있지만, 과도한 신원 데이터를 수집하거나 검토 없이 정당한 자료를 차단한다면 또 다른 피해를 초래할 수 있다.

세 가지 신호가 법의 실제 의미를 보여줄 것이다

법안, 플랫폼 구현, 독립 테스트 결과가 이것이 집중된 아동 보호가 될지 광범위한 기기 통제의 선례가 될지를 결정할 것이다.

첫 번째 신호는 기본 법률의 문구다. 독자는 적용 대상 기업, 나체의 정의, 집행 권한, 일정표를 살펴봐야 한다.

가장 중요한 세부 사항은 적용 범위다. 식별된 아동 계정의 운영체제에 한정된 의무는 영국 내 모든 기기의 모든 화면, 파일, 애플리케이션에 영향을 미치는 요구와 다르다.

법안은 규제기관과 준수 기준도 지정해야 한다. 이러한 요소가 없으면 기업은 정확도, 개인정보 보호, 우회 저항성이 어떻게 평가될지 알 수 없다.

명확한 안전장치는 정부의 주장을 강화할 것이다. 검사 범주 확대나 신원 데이터 수집을 위한 모호한 권한은 비판론자들의 우려를 강화할 것이다.

두 번째 신호는 Apple과 Google의 구현 로드맵이다. Nandy는 두 기업이 의미 있는 약속을 했다고 말했지만, 정부는 이들의 완전한 제안서를 공개하지 않았다.

Apple이 Communication Safety를 진정한 기기 전반의 차단 기능으로 확장하는지 지켜봐야 한다. 기존 시스템은 이미 여러 퍼스트파티 서비스와 일부 제3자 공유 작업에 적용된다.

Google의 경우, SafetyCore가 Google Messages를 넘어 확장되는지가 관건이다. Android의 애플리케이션 모델은 Google 서비스, 제조사 소프트웨어, 대체 메시징 앱, 다양한 하드웨어에 걸쳐 있다.

따라서 일관된 Android 규칙에는 기기 제조업체의 새로운 운영체제 인터페이스와 준수 작업이 필요할 수 있다. 앱 개발자가 표준 분류 또는 정책 계층을 사용해야 할 수도 있다.

기업의 개인정보 보호 아키텍처는 기능 적용 범위만큼 중요하다. 로컬 분류, 제한된 텔레메트리, 투명한 모델 업데이트, 제한된 범위의 연령 증명은 일부 위험을 줄일 수 있다.

서버 측 검사, 광범위한 이벤트 보고 또는 지속적인 신원 저장은 평가를 바꿀 것이다. 발표 당시 उपलब्ध한 자료에서 어느 기업도 그러한 설계를 공개적으로 약속하지 않았다.

세 번째 신호는 실제 환경 성능에 관한 독립적 증거다. 정부 발표와 기업 시연은 일반적인 가족 사용 환경 전반의 테스트를 대체할 수 없다.

평가자는 통제 기능이 기본 탑재 앱과 제3자 앱 전반에서 촬영, 표시, 공유를 차단하는지 측정해야 한다. 오탐률과 미탐률도 별도로 보고해야 한다.

테스트에는 정당한 맥락의 이미지와 적대적 변형이 포함돼야 한다. 또한 계정 설정이 잘못되거나 기기를 공동 사용하는 경우 어떤 일이 발생하는지도 살펴봐야 한다.

사용자 행동은 이 증거의 또 다른 부분을 제공할 것이다. 아동이 관리되지 않는 기기, 브라우저 기반 도구 또는 대체 전송 수단으로 옮겨간다면 정책은 위험을 제거하기보다 이전할 수 있다.

그렇다고 예방이 무의미해지는 것은 아니다. 이는 기기 통제가 피해자 지원, 플랫폼 중재, 가해자 수사, 더 안전한 기본 연락 설정, 강압에 관한 교육과 함께 이루어져야 한다는 뜻이다.

Ofcom의 6월 규칙은 이미 메시징 및 소셜 서비스에 사이버플래싱과 그루밍 위험을 해결하도록 압박하고 있다. 다이렉트 메시징과 그루밍 노출이 있는 서비스는 기본적으로 아동과 낯선 사람의 접촉을 제한할 것으로 예상된다.

기기 수준의 보호는 그러한 서비스 간의 공백을 메울 수 있다. 가해자가 아동을 찾아 접촉하고 조종하는 플랫폼의 의무를 대체할 수는 없다.

국제적 반응도 중요할 것이다. 영국이 실행 가능한 기준을 만든다면 다른 정부들도 연령 보증과 로컬 콘텐츠 통제의 결합을 모방할 수 있다.

구현이 과도한 차단, 데이터 유출 또는 광범위한 우회를 낳는다면, 이 정책은 절대적 결과를 통해 복잡한 시스템을 규제하는 데 대한 경고가 될 수도 있다.

따라서 Apple Google의 나체 이미지 차단은 또 하나의 자녀 보호 기능 업데이트보다 더 큰 사안이다. 이는 두 운영체제 제공업체에 사람들이 소유한 가장 개인적인 컴퓨터 안에서 법적 구분을 집행하도록 요구한다.

아동 보호의 근거는 직접적이고 시급하다. 강압 아래 생성된 이미지는 반복적인 학대, 협박, 유포의 도구가 될 수 있다.

해결되지 않은 질문은 입법자들이 그 시급성을 정밀한 기술적 의무로 바꿀 수 있는지다. 다가올 법안은 누가 적용 대상인지, 무엇이 차단되는지, 성인 여부를 어떻게 입증하는지, 오류를 어떻게 바로잡는지를 정의해야 한다.

독자는 안전이나 감시에 관한 구호가 아니라 이러한 구체적 세부 사항을 통해 정책을 평가해야 한다. 공개된 기준, 독립 테스트, 신원 데이터에 대한 엄격한 제한을 요구해야 한다.

영국이 분류를 로컬로 유지하고 이의 제기를 실질적으로 가능하게 하면서 효과적인 안전장치를 요구할 수 있다면, 주목할 만한 아동 안전 모델을 확립하게 될 것이다. 그러한 보호 조치가 모호하게 남는다면, 같은 법은 사적 기기에 대한 훨씬 광범위한 통제를 정상화할 수 있다.