영국 경찰의 딥페이크 범죄는 증가하고 있지만, 공식 집계는 피해의 일부만 포착한다

The Telegraph가 보도한 수치에 따르면, 영국 20개 경찰대에서 기록된 딥페이크 범죄는 2026년 7월까지 163건에 달했다. 비교 가능한 수치는 2023년 10건이었다. 이 증가는 합성 미디어가 이론적 위험을 넘어 일상적인 경찰 업무의 영역으로 들어왔음을 시사한다.

하지만 이 수치는 완전한 전국 범죄 총계가 아니다. 경찰 기록에서 “AI-generated”, “deepfake”, “nudify” 등의 용어를 검색해 산출한 결과다. 관련 데이터를 제공한 경찰대는 20곳이었으며, 잉글랜드와 웨일스에는 43개의 지역 경찰대가 있다.

따라서 이 핵심 수치는 양면적인 이야기를 보여준다. 경찰은 특히 성적 이미지 학대와 관련해 식별 가능한 AI 요소가 있는 범죄를 더 많이 마주하고 있다. 동시에 기록 관행이 일관되지 않아 실제 규모를 측정하기는 어렵다.

이러한 긴장은 같은 기간 잉글랜드와 웨일스의 법률이 바뀌었다는 점에서 중요하다. 동의 없이 성인의 추정 친밀 이미지를 제작하거나 제작을 요청하는 행위는 2026년 2월부터 특정 범죄가 됐다. 의회는 이런 이미지를 생성하도록 설계된 서비스도 규제 대상으로 삼았다.

과제는 피해를 인식하는 단계에서 탐지, 기록, 수사, 삭제의 단계로 옮겨갔다. 법률은 범죄를 정의할 수 있다. 그러나 모든 조작 이미지를 자동으로 식별하거나, 해외 증거를 보존하거나, 신고가 도움이 될 것이라고 피해자를 설득할 수는 없다.

부분 데이터셋에서 증가한 영국 경찰의 딥페이크 범죄

기록된 163건의 범죄는 경고 신호이지, 전국 유병률 추정치는 아니다.

보도된 경찰 수치는 합성 미디어와 연관된 키워드를 사용해 20개 경찰대가 반환한 기록을 포괄한다. The Telegraph의 보도에 따르면 총계는 2023년 10건에서 2026년 7월까지 163건으로 늘었다.

이는 보도된 양 끝 시점 사이에 16배 이상 증가한 것이다. 그러나 이 비교를 어느 기간에나 딥페이크가 실제로 얼마나 자주 제작됐는지를 정확히 측정한 결과로 해석해서는 안 된다.

키워드 검색은 접수 담당자, 경찰관, 수사관, 피해자가 입력한 단어에 의존한다. 한 경찰대는 조작 사진을 “AI-generated”로 설명할 수 있다. 다른 경찰대는 유사 행위를 괴롭힘, 협박, 악의적 통신, 친밀 이미지 학대로 기록할 수 있다.

세 번째 기록은 검색된 용어를 쓰지 않고 변조 사실을 설명할 수도 있다. 이 경우 동일한 기술과 유사한 피해가 관련됐더라도 결과에 나타나지 않는다.

데이터셋은 잉글랜드와 웨일스 지역 경찰대의 절반에도 못 미치는 범위를 포함한다. 사용 가능한 정보를 반환하지 않은 경찰대에서 어떤 일이 있었는지는 확인할 수 없다. 또한 응답한 모든 경찰대가 동일한 필드, 철자, 날짜 범위를 검색했는지도 알 수 없다.

“범죄”라는 단어 역시 신중하게 다뤄야 한다. “deepfake”가 포함된 기록이 반드시 딥페이크 제작을 위해 별도로 마련된 범죄를 뜻하는 것은 아니다. 경찰은 성적 범죄, 통신 범죄, 사기, 스토킹, 아동 보호 관련 범죄 등을 포함해 행위에 적용되는 법률에 따라 사건을 분류한다.

일부 기록은 사칭에 사용된 AI 생성 음성을 포함할 수 있다. 다른 기록은 조작된 성적 이미지, 이를 공개하겠다는 위협, 또는 아동 관련 자료에 관한 것일 수 있다. 키워드 방식은 행위와 법적 처리가 크게 다를 수 있는 기술적으로 연관된 사건들을 한데 묶는다.

기록 방식도 2023년과 2026년 사이에 바뀌었다. 대중의 인식은 높아졌고, 경찰관들은 합성 미디어를 설명할 어휘를 갖추게 됐으며, 새로운 범죄 규정은 경찰에 더 명확한 분류 기준을 제공했다. 증가분 일부는 실제 범죄 증가를 반영할 가능성이 높지만, 다른 일부는 인식과 문서화의 개선을 반영한다.

이러한 단서는 증가세의 중요성을 약화시키지 않는다. 잡음이 있는 행정 지표도 의미 있는 운영상의 변화를 드러낼 수 있다. 훨씬 짧은 보고 기간 안에 동일한 용어가 여러 관할 지역의 경찰 기록에서 훨씬 더 자주 등장하고 있다.

결정적으로 답이 없는 질문은 결과에 관한 것이다. 공개 수치는 체포, 기소, 재판, 피해자 연령, 범죄 유형을 표준화된 전국 단위로 세분화해 제공하지 않는다. 이러한 세부 정보가 없다면, 이 수치는 법 집행의 성공보다 기록된 수요를 더 분명하게 측정한다.

따라서 경찰 지휘부에는 AI 기반 범죄를 태그하는 공통 방식이 필요하다. 그렇지 않으면 정책 입안자들은 경찰대, 소프트웨어 시스템, 경찰관의 업무 관행에 따라 달라지는 키워드 검색 결과를 계속 비교하게 될 것이다.

신뢰할 수 있는 전국적 현황은 합성 친밀 이미지와 음성 사칭, 사기, 조작 증거, AI 생성 아동 성착취물을 구분해야 한다. 또한 각 사건이 제작, 배포, 위협, 반복 업로드 중 무엇을 수반했는지도 추적해야 한다.

그런 시스템이 마련되기 전까지 163건은 부분 데이터셋 안의 최저치로 읽는 것이 가장 적절하다. 이는 커지는 문제를 보여주지만, 그 경계를 보여주지는 않는다.

Nudify 도구가 학대의 규모를 바꾼 이유

Nudify 서비스는 기술적으로 어려운 행위를 업로드, 프롬프트, 생성 이미지로 축소한다.

딥페이크는 실제 인물이 하지 않았거나 말하지 않은 일을 한 것처럼 거짓으로 묘사하는 합성 또는 변조 미디어다. nudify 도구는 옷을 입은 사람이 나체이거나 성적으로 노출된 것처럼 보이게 하도록 설계된 서비스다.

초기의 딥페이크 제작에는 흔히 전문 소프트웨어, 적절한 하드웨어, 다수의 원본 이미지, 상당한 시간이 필요했다. 이제 소비자용 서비스는 웹 양식, 메시징 봇, 내장형 이미지 보조 도구 뒤에 그 작업의 상당 부분을 숨긴다.

가해자는 모델 학습을 이해할 필요가 없다. 학교 사진, 소셜 프로필 이미지, 평범한 인물 사진이 원본 자료가 될 수 있다. 이후 배포는 그룹 채팅, 소셜 네트워크, 포럼, 또는 직접 메시지를 통해 이뤄질 수 있다.

이처럼 낮아진 진입 장벽은 누가 어디서 학대를 저지를 수 있는지를 바꾼다. 같은 반 학생이 다른 학생을 표적으로 삼을 수 있다. 결별한 파트너가 굴욕적인 자료를 만들어낼 수 있다. 낯선 사람이 공개 사진을 조작해 특정 이름과 연결할 수 있다.

이미지는 조작됐을 수 있지만, 침해는 실제 신원과 연결된다. 보는 사람은 얼굴, 학교, 직장, 소셜 계정을 알아볼 수 있다. 피해자는 조롱, 성희롱, 갈취 또는 이미지가 거짓임을 반복해서 증명해야 한다는 요구에 직면할 수 있다.

피해는 기술적으로 거짓임을 밝혀도 사라지지 않는다. 피해자는 이미지가 생성된 것임을 입증할 수 있지만, 그 유통에 대한 통제권은 여전히 잃을 수 있다. 원본 업로드가 사라진 뒤에도 사본은 새 계정이나 플랫폼으로 옮겨갈 수 있다.

규모는 이 문제를 더욱 악화시킨다. Wired는 2024년 nudify bots 조사에서 노골적인 이미지나 영상을 생성한다고 주장하는 Telegram 봇을 최소 50개 확인했다. 이 보도는 자동화, 메시징 인프라, 단순한 인터페이스가 개인별 학대를 하나의 서비스로 바꿀 수 있음을 보여줬다.

범용 이미지 생성기는 또 다른 층위를 더한다. 이들은 반드시 학대를 목적으로 판매되지는 않지만, 약한 안전장치는 실제 인물의 성적 변형을 허용할 수 있다. 따라서 전용 nudify 제품과 오용된 주류 보조 도구의 구분은 법률과 집행 모두에서 중요해진다.

맞춤형 도구는 목적이 분명하다. 범용 모델은 다양한 합법적 기능을 제공하면서도 특정 프롬프트나 수정 이후 금지된 결과물을 만들 수 있다. 개발자는 안전장치가 여러 언어, 간접 요청, 이미지 편집, 반복 시도 전반에서 작동하는지 시험해야 한다.

이 기술은 증거 문제도 만들 수 있다. 수사관은 누가 이미지를 제출했는지, 누가 결과물을 생성했는지, 누가 이를 공유했는지, 묘사된 인물이 동의했는지를 밝혀야 한다. 이들 행위에는 서로 다른 사람, 계정, 기기, 국가가 연루될 수 있다.

서비스 제공업체는 업로드 시간, 계정 식별자, 결제 기록, 프롬프트, 생성 결과물 등 핵심 로그를 보유할 수 있다. 제공업체가 정보를 거의 보관하지 않거나 해외에서 운영된다면, 경찰은 삭제 전에 이를 확보하는 데 어려움을 겪을 수 있다.

암호화와 익명 결제 수단은 추가 장벽이 될 수 있다. 경찰관이 계정을 식별하더라도, 이를 합리적 의심의 여지 없이 특정 인물과 연결하는 일은 별개의 과제로 남는다.

이러한 작동 방식은 기록 사건이 법 집행 역량보다 빠르게 늘어날 수 있는 이유를 설명한다. 생성은 즉각적이다. 수사는 여전히 증거 보존, 플랫폼 협조, 디지털 포렌식, 법적 절차에 의존한다.

새 법률은 책임의 범위를 공유에서 제작으로 옮긴다

잉글랜드와 웨일스는 이제 이미지가 배포되기 전 이뤄진 제작과 제작 요청을 포함해 학대의 연쇄를 더 폭넓게 범죄화한다.

동의 없이 친밀 이미지를 공유하거나 공유하겠다고 위협하는 행위는 Online Safety Act 2023을 통해 변경된 이후 Sexual Offences Act 2003의 적용을 이미 받고 있었다. 이 체계에는 변조되거나 완전히 제작된 이미지도 포함된다.

제작자가 이미지를 배포하지 않았을 때 성인의 추정 친밀 이미지를 만드는 행위에는 공백이 남아 있었다. Data (Use and Access) Act 2025는 동의 또는 동의에 대한 합리적인 믿음 없이 제작하거나 제작을 요청하는 행위를 포괄하는 범죄를 도입했다.

이 범죄들은 2026년 2월 6일 발효됐다. 앞서 기록된 행위는 다른 범죄 규정에 따라 수사됐을 수 있으므로, 이 시점은 새로운 경찰 수치를 해석하는 데 핵심적이다.

법률은 실제 인물이 친밀한 상태에 있는 것처럼 보이지만, 해당 인물의 진정한 사진이나 영상만으로 이루어진 것은 아닌 이미지를 포괄하기 위해 “purported intimate image”라는 표현을 사용한다. 이러한 기술 중립적 문구는 범죄를 하나의 모델이나 생성 방식에 묶지 않는다.

이는 피해가 공개 이전부터 시작된다는 점도 인정한다. 경찰이 제작자가 이미지를 배포했다는 사실을 입증하지 못하더라도, 동의 없는 이미지 제작 자체가 개인의 성적 자기결정권을 침해할 수 있다.

제작 요청도 적용 대상이다. 한 사람이 서비스, 봇 운영자 또는 다른 개인에게 이미지 제작을 의뢰하는 경우에 중요하다.

Crime and Policing Act 2026은 생성기를 다루며 한 걸음 더 나아간다. 이 법의 nudification 조항은 추정 친밀 이미지 생성기로 사용할 물건을 제작, 개조, 공급하거나 사용을 위해 제공하는 행위를 겨냥한다.

법률은 “thing”을 프로그램, 전자 정보 또는 서비스를 포함할 만큼 폭넓게 정의한다. 책임은 합리적인 사람이 그것이 추정 친밀 이미지를 생성하기 위해 제작되거나 공급됐다고 볼지에 부분적으로 달려 있다.

생성기 관련 범죄는 기소 재판에서 유죄 판결을 받을 경우 최대 3년의 징역과 무제한 벌금형에 처해질 수 있다. 이 법에는 항변 사유, 중개자 면제, 법인 책임을 다루는 조항도 포함돼 있다.

제공업체는 오용을 막기 위해 모든 합리적인 조치를 취했다는 근거로 항변할 수 있다. 이는 다목적 AI 개발자에게 실질적인 준법 질문을 제기한다. 어떤 테스트, 접근 통제, 모니터링, 대응 절차가 합리적인 것으로 인정될 것인가?

같은 법은 이미지 삭제 명령도 도입한다. 법원은 가해자에게 디지털 사본 삭제 또는 온라인 콘텐츠의 삭제나 영구적 비공개 처리를 포함해, 적용 대상 자료를 사용할 수 없도록 조치하라고 명령할 수 있다.

이러한 변화는 더 완전한 법적 연쇄를 만든다. 법률은 제작, 요청, 배포, 위협, 전용 생성기, 그리고 유죄 판결 후에도 계속되는 보유 또는 통제에 적용될 수 있다.

그러나 법 제정이 곧바로 운영상의 영향을 보장하는 것은 아니다. 조항별로 시행 조치, 지침, 기술 표준 또는 규제 이행이 필요할 수 있다. 경찰 역시 특정 행위의 연속에 어떤 범죄가 해당하는지 식별할 수 있도록 교육을 받아야 한다.

수사관은 서로 다른 법정 체계가 적용되므로 성인과 아동을 구분해야 한다. 성인 관련 사칭 친밀 이미지 범죄는 아동의 음란 이미지나 유사 사진 이미지를 다루는 법률을 대체하지 않는다.

따라서 새 체계는 더 포괄적이지만, 그만큼 더 복잡하다. 경찰관은 피해자, 이미지 유형, 용의자의 행위, 동의 여부, 유포 이력, 사용된 생성기를 식별해야 한다.

전국 단위의 기록 표준이 마련되면 이러한 복잡성이 드러날 것이다. 그런 표준이 없다면, 사법 체계가 새 범죄 조항을 효과적으로 활용하고 있는지 알지 못한 채 대중은 증가하는 총계만 보게 될 수 있다.

이제 경찰과 플랫폼이 집행 부담을 함께 진다

핵심 경쟁은 더 이상 법과 무법 상태의 대결이 아니다. 더 빠른 생성과 더 느린 탐지·삭제의 대결이다.

경찰은 개별 용의자를 수사하고, 기기를 압수하며, 진술을 수집하고, 플랫폼 기록을 요청할 수 있다. 그러나 학대적 이미지가 생성되거나 재게시될 수 있는 모든 서비스를 지속적으로 감시할 수는 없다.

플랫폼은 콘텐츠를 생성, 호스팅, 추천, 복제하는 시스템을 통제한다. 사용자가 다른 사람의 사진을 업로드하고, 성적 변형을 요청하며, 몇 분 안에 결과물을 게시할 수 있는지는 플랫폼의 제품 결정에 달려 있다.

이는 예방이 치안 문제이면서 동시에 설계 문제이기도 하다는 뜻이다. 서비스는 식별 가능한 인물이 포함된 성적 변형을 제한하고, 적대적 프롬프트를 시험하며, 반복 시도를 속도 제한하고, 유효한 신고 이후 증거를 보존할 수 있다.

또한 파일에서 파생된 디지털 지문인 해시를 사용해 알려진 사본을 식별할 수 있다. 매칭 시스템은 피해자가 모든 사례를 직접 찾아야 하는 부담 없이 반복 업로드를 줄일 수 있다.

Crime and Policing Act는 적용 대상인 사용자 간 서비스와 검색 서비스에 유효한 친밀 이미지 신고에 대응할 의무를 부과한다. 합리적으로 실행 가능한 한 신속히 삭제 또는 차단해야 하며, 기한은 늦어도 48시간 이내다.

이 규정은 신고된 콘텐츠와 동일하거나 실질적으로 동일한 사본을 매칭하는 방안을 상정한다. 작은 편집, 자르기, 캡션 추가 또는 압축만으로도 단순한 정확한 파일 매칭을 무력화할 수 있기 때문에 이 기능은 중요하다.

Ofcom은 Illegal Content Codes 내에서 더 강력한 탐지 요건을 별도로 제안했다. 규제기관은 관련 절차를 전제로 code amendments가 2026년 가을에 발효될 것으로 예상된다고 밝혔다.

이 플랫폼 층위는 대응의 압력 구조를 바꾼다. 피해자가 원래 생성자를 식별하고 기소하는 데에만 의존해서는 안 된다. 형사 수사가 계속되는 동안에도 신속한 삭제는 노출을 제한할 수 있다.

다만 자동 탐지에는 상충 관계가 따른다. 시스템은 친밀 이미지 학대와 합법적인 의료, 교육, 저널리즘, 예술, 합의된 콘텐츠를 구별해야 한다. 부정확한 매칭은 변형된 사본을 놓치고, 지나치게 광범위한 필터링은 정당한 자료를 삭제할 수 있다.

합성 미디어는 또 다른 복잡성을 더한다. 탐지 모델이 이미지가 생성된 것인지 항상 식별하는 것은 아니며, 생성 기법도 계속 변한다. 거짓 음성 판정은 유해 콘텐츠를 온라인에 남길 수 있고, 거짓 양성 판정은 합법적 표현을 차단할 수 있다.

동의 여부를 픽셀만으로 항상 추론할 수는 없다. 사실적인 이미지는 진본으로서 합의하에 공유됐을 수도, 진본이지만 도용됐을 수도, 또는 합성됐으나 무단으로 제작됐을 수도 있다. 플랫폼에는 묘사된 인물의 맥락을 반영하는 신고 절차가 필요하다.

피해자에게는 추가 피해를 유발하지 않는 경로도 필요하다. 학대적 이미지를 반복 업로드하도록 요구하거나, 과도한 신원 증명 서류를 요구하거나, 사본마다 별도 신고를 요구하면 통제권 상실을 다시 재현할 수 있다.

경찰과 플랫폼의 증거 수요는 즉각적인 삭제와 충돌할 수 있다. 수사관은 보존된 기록을 필요로 할 수 있는 반면, 피해자는 공중의 접근이 즉시 중단되기를 당연히 원한다. 제공업체에는 접근을 제한하면서도 법적으로 관련된 데이터를 파기하지 않는 절차가 필요하다.

국제 서비스는 추가 마찰을 만든다. 기업이 영국 사무소를 두지 않았거나, 다른 관할권에 데이터를 저장했거나, 법 집행기관의 요청에 느리게 대응할 수 있다. 차단과 금전적 제재는 제공업체에 압력을 가할 수 있지만, 귀속 판단에는 여전히 시간이 걸린다.

정부는 AI 기반 범죄 대응을 조율하기 위해 PoliceAI와 Policing AI Threat Hub를 만들었다. 정부의 policing program은 경찰 조직에 딥페이크 탐지 도구와 교육을 제공할 것으로 예상된다.

탐지 기술은 증거 선별에 도움을 줄 수 있지만, 단독으로 사건을 판단할 수는 없다. 경찰관에게는 여전히 출처 이력, 목격자 진술, 계정 기록, 기기 증거가 필요하다. 탐지기의 신뢰도 점수는 누가 이미지를 만들거나 공유했는지에 대한 증거가 아니다.

가장 강력한 집행 모델은 플랫폼 예방, 신속한 피해자 신고, 증거 보존, 전문 경찰 역량, 기소를 결합한다. 이 중 하나라도 취약하면 가해자에게 다른 요소를 우회할 길을 열어준다.

163건이 여전히 말해주지 않는 것

가장 큰 불확실성은 학대가 증가하고 있는지 여부가 아니라, 얼마나 많은 사례가 신고되지 않거나 일관성 없는 분류 때문에 숨겨져 있는지다.

피해자는 불신, 공개적 노출, 부모의 발견, 직장 내 불이익 또는 추가 유포를 우려해 경찰 신고를 피할 수 있다. 일부는 처음에는 이미지가 진짜인지, 조작된 것인지, 전적으로 합성된 것인지 알지 못한다.

다른 이들은 경찰에 연락하지 않고 플랫폼에 직접 신고할 수 있다. 학교는 사건을 내부적으로 처리할 수 있고, 고용주는 이를 비위 행위로 다룰 수 있다. 각각의 경로는 해당 행위를 범죄 통계 밖에 남길 수 있다.

20개 경찰 조직 데이터셋은 이런 누락 사례를 측정할 수 없다. 또한 기초 경찰 조직이 해당 항목을 일관되게 수집하고 공개하지 않는 한, 얼마나 많은 신고가 여성, 남성, 성인 또는 아동과 관련됐는지도 보여줄 수 없다.

딥페이크의 성적 이용은 널리 성별화된 학대로 이해된다. 전용 누디파이 서비스는 흔히 여성의 신체를 중심으로 설계됐고, 공개된 사례도 반복적으로 여성과 소녀를 표적으로 삼아 왔다.

그러나 신고된 경찰 총계를 데이터셋이 입증하지 않은 피해자 특성을 부여하는 데 사용해서는 안 된다. 더 나은 국가 통계는 피해자를 보호하는 안전장치와 함께 인구통계 정보를 공개해야 한다.

“AI 범죄”라는 표현에도 같은 주의가 적용된다. AI는 사건에서 도구, 증거, 표적 또는 부수적 세부사항일 수 있다. 성적 굴욕을 위해 사용된 딥페이크는 결제 사기에 쓰인 복제 음성과는 다른 수사적 필요를 제기한다.

키워드 결과는 행위의 변화만이 아니라 언어의 변화도 집계할 수 있다. “딥페이크”라는 용어는 세간의 주목을 받은 사건과 입법 논의 이후 더 친숙해졌다. 2023년에 “편집된 이미지”라고 기록했던 경찰관이 2026년에는 “AI 생성 딥페이크”라고 기록할 수 있다.

새 법은 분류를 개선함으로써 외견상 증가를 일으킬 수 있다. 이전에는 보이지 않던 피해자가 더 정확한 대응을 받게 된다면 이는 바람직한 결과다. 그럼에도 연도별 비교는 복잡해진다.

아동을 둘러싼 또 다른 경계도 있다. 현행법은 이미 음란 유사 사진 및 관련 자료를 다루는 규정을 통해 사실적인 AI 생성 아동 성적 학대 자료를 불법으로 취급한다.

Internet Watch Foundation은 2025년 아동 성적 학대를 묘사한 사실적인 AI 생성 이미지와 영상 8,029건을 식별했다. 이 기관의 2026 assessment는 실제 아동의 초상을 이용한 사례와 상업화된 생성 서비스의 징후도 설명했다.

이 수치는 경찰이 기록한 범죄가 아니라 전문 핫라인이 평가한 자료를 측정한 것이다. 따라서 163건에 더해서는 안 된다. 이러한 차이는 영국에 피해자 신고, 플랫폼 삭제, 핫라인 조사 결과, 수사, 법원 결과를 포괄하는 연결된 지표가 필요한 이유를 보여준다.

집행 결과는 특히 중요하다. 신고 건수는 증가하는데 증거 요청, 체포 또는 기소는 거의 없다면 운영상 공백을 시사할 것이다. 새 생성 범죄 조항에 따른 기소가 더 많아진다면 입법이 실제 운영으로 이어지고 있음을 시사할 수 있다.

공개 통계는 삭제까지 걸린 시간도 보여줘야 한다. 용의자가 결국 특정되더라도 이미지가 며칠 동안 널리 접근 가능한 상태로 남아 있으면 지속적인 피해를 초래할 수 있다.

연구자들은 48시간 의무가 주요 서비스 전반에서 노출을 줄이는지 검증해야 한다. 또한 학대적 커뮤니티가 더 작은 사이트, 암호화 채널 또는 영국 밖의 제공업체로 이동하는지도 살펴봐야 한다.

따라서 163이라는 숫자는 조사를 끝내는 것이 아니라 시작한다. 이는 경찰관들이 AI와 연관된 혐의를 더 많이 접하고 있음을 확인하지만, 그 자체로 발생 규모, 피해 경험 또는 억지 효과를 확정할 수는 없다.

대응이 작동하는지 보여줄 세 가지 신호

다음 시험대는 법적 변화가 기록, 삭제, 형사 처리 결과에서 측정 가능한 개선으로 이어지는지 여부다.

첫 번째 신호는 표준화된 전국 경찰 데이터셋이다. Home Office, PoliceAI 또는 National Police Chiefs’ Council은 43개 모든 지역 경찰 조직에서 AI 기반 범죄를 일관되게 표시할 수 있는 기준을 정의해야 한다.

그 체계는 이미지 생성, 요청, 공유, 협박, 생성기 제공, 사기, 아동 성적 학대 자료를 구분해야 한다. 또한 AI가 확인됐는지, 의심되는지, 또는 단지 언급됐는지도 기록해야 한다.

표준화된 데이터셋은 용어가 안정된 뒤에도 현재의 증가세가 이어지는지 보여줄 것이다. 별도의 키워드 검색에 의존하지 않고 경찰 조직 간 비교를 가능하게 할 것이다.

또한 교육 공백을 식별하는 데 도움이 된다. 유사한 인구 규모에서 기록 비율이 현저히 다르다면, 그 차이는 신고 경로, 경찰관의 인식 또는 지역 수사 역량을 반영할 수 있다.

두 번째 신호는 Ofcom의 더 강력한 친밀 이미지 보호 조치 이행이다. 중요한 척도는 서면 규정만이 아니라, 삭제 속도, 재업로드 방지, 민원 처리, 규정을 준수하지 않는 서비스에 대한 집행이다.

의미 있는 결과라면 피해자가 한 번 신고한 뒤 적용 대상 플랫폼 전반에서 매칭되는 사본이 차단되는 모습을 보여야 한다. 반복적으로 다시 나타난다면 규제 체계가 피해자에게 통제권을 돌려준다는 주장은 약화될 것이다.

이 지점에서는 투명성이 중요하다. 집계 보고서는 플랫폼이 받는 통지 건수, 48시간 이내에 조치하는 비율, 이의가 제기되거나 번복되는 결정의 수를 보여줘야 한다.

세 번째 신호는 2026년 범죄 조항에 따른 첫 번째 사건군이다. 기소와 판결은 검사가 생성, 요청, 동의 부재, 생성기 제공 책임을 어떻게 입증하는지 분명히 해줄 것이다.

초기 사건은 일부 제공업체에 적용되는 “합리적 조치” 항변도 시험할 것이다. 법원은 안전장치가 실질적이었는지, 문서화됐는지, 예측 가능한 오용에 맞춰 시험됐는지를 살펴봐야 할 수 있다.

이러한 결과는 신중하게 평가해야 한다. 낮은 기소 건수는 집행 부실을 의미할 수 있지만, 수사 일정이나 성공적인 예방을 반영할 수도 있다. 높은 건수는 근본적인 학대 증가가 아니라 더 나은 탐지를 뜻할 수 있다.

가장 유용한 지표는 여러 결과를 결합할 것이다. 즉, 유해한 업로드 감소, 더 빠른 삭제, 강화된 피해자 지원, 더 명확한 수사, 비례적인 기소다.

AI 개발자에게 주는 교훈은 이미 구체적이다. 안전성 시험에는 일반적인 노골적 콘텐츠 요청뿐 아니라 식별 가능한 인물을 성적으로 대상화하려는 시도도 포함돼야 한다. 제공업체는 사건이 발생하기 전에 신고 및 증거 보존 시스템도 갖춰야 한다.

학교와 고용주에게 합성 이미지는 묘사된 신체가 조작되었다는 이유로 축소해서는 안 되며, 실제 학대로 다뤄져야 합니다. 대응 계획은 표적이 된 사람을 보호하고, 증거를 보존하며, 재유포를 제한해야 합니다.

사용자에게는 조작된 미디어에 대한 회의적 태도가 여전히 필요하지만, 그 부담을 오로지 대중에게만 지울 수는 없습니다. 피해자가 플랫폼의 조치를 받기 전에 공개적인 디지털 포렌식 논쟁에서 이겨야 해서는 안 됩니다.

영국 경찰의 딥페이크 범죄 기록은 이 문제가 일상적인 제도권에 이미 진입했음을 보여줍니다. 다음 질문은 그러한 제도가 피해를 만들어내는 도구만큼 빠르게 움직일 수 있는지입니다.

국가 기록 기준, Ofcom의 이행, 그리고 확대된 법률에 따른 첫 기소를 지켜봐야 합니다. 이러한 신호들을 종합하면 163건의 사건이 실질적인 책임 규명의 시작을 의미하는지, 아니면 훨씬 더 큰 문제를 더 잘 가시화한 것에 불과한지를 보여줄 것입니다.