xAI, AI 누드화 서비스에 대한 미네소타주의 금지 조치에 이의 제기

xAI는 AI 누드화 서비스를 겨냥한 최초의 법률이 시행되기 나흘 전 미네소타주를 상대로 소송을 제기했다. amazon engadget 검색을 통해 이 기사를 접한 독자들은 하나의 앱이나 한 주를 넘어서는 훨씬 큰 분쟁을 마주하게 된다. 미네소타주는 동의 없이 사실적인 성적 이미지를 만드는 일을 막고자 한다. xAI는 주 정부가 그 목표를 추구하는 방식이 위헌이라고 주장한다.

이 소장은 연방법원에 근본적인 규제 문제를 제기한다. 사용자가 유해한 이미지를 만드는 데 악용할 수 있다는 이유만으로, 합법적 용도도 있는 AI 도구를 주 정부가 제한할 수 있을까? 그 답은 범용 이미지 생성기, 특화된 누드화 앱, 앱 스토어, 그리고 향후 주 단위 AI 법률에 영향을 미칠 것이다.

미네소타주는 사실적인 조작 이미지가 거의 즉시 제작자의 통제를 벗어날 수 있기 때문에 제작 자체가 피해를 일으킨다고 주장한다. xAI도 비동의 성적 이미지 확산을 막으려는 주 정부의 관심은 인정한다. 그러나 House File 1606은 보호받는 표현을 지나치게 광범위하게 규제하고, 악용 방지를 위해 노력하는 서비스에 충분한 보호 장치를 제공하지 않는다고 주장한다.

미네소타주의 새 법은 실제로 무엇을 바꾸나

미네소타주는 유포를 처벌하는 방식에서 벗어나, 사실적인 조작 누드를 만들 수 있는 도구 자체를 제한하는 방식으로 집행 시점을 앞당기고 있다.

소송 보도에 따르면 xAI는 2026년 7월 27일 연방법원에 소송을 제기했다. 미네소타주의 법은 8월 1일 시행 예정이었기 때문에 시점이 중요하다. 회사는 잠재적 청구가 쌓이기 전에 집행을 막아 달라고 요구하고 있다.

Tim Walz 주지사는 5월 7일 House File 1606에 서명했다. 이 법은 미네소타주 상거래 법령에 Section 325E.91을 추가하며, 8월 1일 이후 발생하는 청구에 적용된다.

법령은 서로 연결된 두 가지 요건을 통해 누드화를 정의한다. 첫째, 소프트웨어가 원본에 없던 신체의 은밀한 부위를 보이도록 이미지나 동영상을 수정하거나 생성해야 한다. 둘째, 그 결과물이 합리적인 사람이 해당 신체 부위가 식별 가능한 인물의 것이라고 믿을 만큼 사실적으로 보여야 한다.

이 사실적 이미지 요건은 법의 범위를 어느 정도 좁힌다. 조잡한 패러디나 명백히 허구적인 그림은 자동으로 법정 요건을 충족하지 않는다. 그러나 xAI는 다른 정의들이 여전히 합법적인 이미지 편집과 생성을 포괄할 만큼 광범위하다고 주장한다.

핵심 금지 조항은 웹사이트, 애플리케이션, 프로그램 또는 기타 서비스를 통제하는 모든 사람에게 적용된다. 운영자는 사용자가 해당 서비스를 통해 이미지를 누드화하도록 접근하거나 이용하게 해서는 안 된다. 운영자 자신이 사용자를 위해 변환을 수행해서도 안 된다.

미네소타주는 이러한 행위를 수행하는 서비스를 광고하거나 홍보하는 일도 별도로 금지한다. 이 조항은 모델을 만드는 개발자 범위를 넘어선다. 잠재적으로 마케팅 담당자, 유통 채널, 그리고 사용자를 해당 서비스로 유도하는 기업에도 영향을 미친다.

서비스가 이미지를 제작하는 데 상당한 수준의 인간 기술력이나 예술적 역량을 요구하는 경우에는 면제 조항이 적용된다. 이 구분은 자동화된 누드화 도구와 노동집약적인 창작 소프트웨어를 분리하기 위한 것으로 보인다. 동시에 원클릭 생성과 정교한 인간 주도형 편집 사이에 어려운 경계를 만든다.

공식 법령은 누드화 정의 안에 단순한 동의 예외를 두지 않는다. 이에 따라 xAI는 이 금지 조항이 성인이 자신의 이미지를 수정하는 경우나 타인에게 그러도록 허가한 경우까지 포괄할 수 있다고 주장한다. 법원이 이 해석을 받아들일지는 법의 적용 범위를 좌우할 것이다.

묘사된 인물은 민사소송을 제기하고 정신적 고통에 대한 손해배상을 포함한 보상적 손해배상을 청구할 수 있다. 이 법은 징벌적 손해배상, 금지명령, 법률 비용 및 법원이 적절하다고 판단하는 기타 구제도 허용한다.

미네소타주 법무장관도 별도로 법을 집행할 수 있다. 민사 벌금은 각각의 불법 접근, 다운로드 또는 이용 건당 최대 50만 달러에 이를 수 있다. 회수된 벌금은 성폭력, 가정폭력, 아동학대 및 기타 범죄 피해자를 지원하는 프로그램에 사용된다.

이 건별 구조는 xAI의 가장 즉각적인 사업상 우려를 낳는다. 미네소타주 사용자가 많은 서비스는 단일 제품 결정에 대한 한 번의 벌금이 아니라, 누적되는 책임 논리에 직면할 수 있다. 소장은 이 법령이 선의의 안전 조치를 위한 세이프하버를 제공하지 않는다고 주장하는 것으로 전해진다.

미네소타주는 사용자 제작 콘텐츠에 대한 책임으로부터 온라인 서비스를 보호하는 경우가 많은 법인 Section 230에 따른 연방 보호를 유지한다는 문구도 포함했다. 그러나 실제 상호작용은 여전히 논쟁 중이다. 주 정부는 서비스의 기능을 겨냥하는 반면, xAI는 이를 해당 서비스를 통해 생성된 표현에 대한 책임을 부과하려는 시도로 규정한다.

결과적으로 이는 리벤지 포르노 유포를 금지하는 전통적 방식의 법이 아니다. 생성된 파일이 소셜 네트워크, 메시징 서비스 또는 공개 웹사이트에 도달하기 전에, 특정 범주의 이미지 제작 기능에 대한 접근을 규제한다. 이러한 상류 단계의 설계는 법이 주장하는 예방적 가치와 헌법적 취약성을 동시에 만든다.

주 정부가 삭제 조치보다 예방을 택한 이유

미네소타주 의원들은 그럴듯한 성적 이미지가 이미 존재하는 순간 발생한 피해는, 게시 후 삭제로 되돌릴 수 없다고 결론 내렸다.

기존 법률 대부분은 비동의 성적 이미지의 게시나 공유에 초점을 맞춘다. 이런 규정은 누군가 이미지를 만들고, 전송하거나, 공개 게시한 뒤에야 유용해진다. 미네소타주의 법령은 특정 제작 도구를 이용할 수 없게 함으로써 더 이른 단계에 개입하려 한다.

주 정부의 접근은 누드화 기술의 표적이 된 이들의 증언에서 비롯됐다. Molly Kelley는 자신이 아는 사람이 평범한 가족 사진을 이용해 사실적인 성적 이미지와 동영상을 만들었다고 의원들에게 말했다. 이후 같은 사람이 약 80~85명의 다른 여성도 표적으로 삼았다는 사실을 알게 됐다고, 이전 입법 보도는 전했다.

이 사례는 동의를 원본 사진의 소유 여부로 축소할 수 없는 이유를 보여준다. 친구나 친척을 위해 게시한 사진이 다른 사람에게 성적인 버전을 조작할 권한을 주는 것은 아니다. 묘사된 사건이 실제로 일어나지 않았더라도 합성 결과물은 그럴듯해 보일 수 있다.

이미지가 한 번 존재하게 되면 피해자는 여러 별개의 문제에 직면한다. 복사본은 비공개 그룹, 익명 계정, 해외 서비스로 퍼질 수 있다. 검색 엔진과 플랫폼은 알려진 파일을 삭제할 수 있지만, 변형된 버전은 다시 나타날 수 있다. 피해자는 파일의 출처를 입증하는 데도 어려움을 겪을 수 있다.

연방 TAKE IT DOWN Act는 적용 대상 플랫폼에 비동의 성적 이미지 삭제 절차를 마련하도록 요구해 이 문제의 일부를 다룬다. 이는 유포 중심 접근을 반영한다. 피해자가 유해한 콘텐츠를 식별한 뒤 플랫폼이 대응하는 방식이다.

미네소타주 의원들은 삭제 조치만으로는 충분하지 않다고 판단했다. 주요 지지자인 Erin Maye Quade 상원의원은 누드화를 보호되는 표현이 아니라 유해한 행위로 규정했다. 그의 입장은 기업이 예측 가능한 악용에 대한 책임 없이 자동화된 제작 시스템을 출시해서는 안 된다는 것이다.

피해자 옹호 단체들은 규모와 관련한 논지도 제기한다. 생성형 AI 이전에도 인간 예술가가 이미지를 조작할 수는 있었지만, 그러려면 시간과 기술이 필요했다. 자동화 도구는 이런 장벽을 낮추고 한 사람이 많은 그럴듯한 이미지를 빠르게 제작할 수 있게 한다.

이 변화는 단순한 편의성을 넘어선다. 피해자, 플랫폼, 학교 또는 고용주가 대응할 수 있는 시간을 줄인다. 또한 가해자가 결과물이 설득력 있게 보일 때까지 여러 변형을 시험할 수 있게 한다.

특화된 누드화 서비스는 미네소타주에 가장 명확한 사례를 제시한다. 인터페이스, 마케팅, 예상 결과물 모두가 같은 목적을 가리킬 수 있기 때문이다. Grok 같은 범용 시스템은 금지된 자료와 함께 여러 범주의 합법적 이미지를 생성하기 때문에 더 어려운 사례가 된다.

주 정부의 법은 단지 제품의 브랜딩으로 제품을 구분하지 않는다. 실질적인 문구는 서비스가 사용자가 적용 대상 변환을 수행하도록 허용하는지에 초점을 맞춘다. 따라서 광범위한 기능을 갖춘 생성기라도 안전장치가 실패하면 책임에 노출될 수 있다.

이 특징은 Grok이 대화형 프롬프팅과 이미지 생성·편집을 결합한다는 점에서 xAI에 압박을 가한다. 사용자는 특화된 그래픽 소프트웨어나 긴 작업 흐름이 필요하지 않다. 생성형 도구를 유용하게 만드는 바로 그 접근성은 악용도 쉽게 만들 수 있다.

Grok은 2026년 초 사용자가 실존 인물이 등장하는 성적 이미지를 생성한 뒤 국제적 관심도 받았다. 이후 xAI는 Grok 계정이 실존 인물의 이미지를 노출이 심한 의상으로 편집하지 못하게 하는 조치를 도입했다고 밝혔다. 또한 현지 법이 특정 결과물을 금지하는 지역에서는 지리적 제한을 적용하겠다고 말했다.

이러한 통제는 xAI가 이미 악용을 금지하고 있다는 주장을 뒷받침한다. 동시에 법적 결과가 요구될 경우 모델 제공업체가 접근 방식과 출력 행태를 바꿀 수 있다는 미네소타주의 주장도 뒷받침한다.

서비스 이용약관의 금지 조항이 단호한 사용자를 항상 막는 것은 아니다. 필터는 간접적인 프롬프트, 새로운 표현 방식 또는 이미지 편집 순서를 놓칠 수 있다. 반대로 불완전한 필터가 제공업체가 학대적 결과를 의도했다는 증거는 아니다.

정책과 제품 행태 사이의 이 간극이 분쟁의 중심에 있다. 미네소타주는 피해가 발생하기 전에 엔지니어링 결정을 바꿀 수 있는 책임 체계를 원한다. xAI는 더 좁은 구제 수단이 여전히 उपलब्ध한 상황에서 그 부담이 합법적인 이미지 제작을 억압한다고 주장한다.

Amazon Engadget 경로는 표현의 자유 시험으로 이어진다

핵심 쟁점은 비동의 성적 이미지가 해로운지 여부가 아니라, 미네소타주가 범용 표현 도구를 이 정도로 광범위하게 규제할 수 있는지에 있다.

amazon engadget이라는 표현은 이 사건으로 이어지는 어색한 검색 경로이지만, 그 바탕의 분쟁은 명확하다. xAI는 미네소타주가 콘텐츠 기반 제한을 만들었다고 주장한다. 이는 법이 이미지가 무엇을 묘사하는지에 따라 다르게 취급한다는 의미다.

콘텐츠 기반 표현 제한은 엄격한 헌법 심사를 받는다. 정부는 일반적으로 중대한 이익을 입증하고 법이 정교하게 설계됐음을 보여야 한다. 미네소타주는 성 착취로부터 사람들을 보호한다는 중요한 이익을 쉽게 제시할 수 있지만, 정교한 설계 여부는 여전히 논쟁거리다.

xAI는 모든 비동의 성적 이미지가 보호받아야 한다고 주장하지는 않는다. 소장은 실존 인물이 등장하는 조작된 나체 이미지의 유포를 금지하려는 미네소타주의 관심을 인정하는 것으로 전해진다. 대신 회사는 제작 도구, 동의된 이미지, 자가 제작 이미지, 공공장소에서 합법적으로 노출된 신체 부위까지 포괄하는 법령의 적용 범위를 공격한다.

한 사례는 미네소타주 법의 다른 조항을 참조하는 은밀한 신체 부위의 법정 정의와 관련된다. xAI는 이 편입된 정의가 일반 사용자가 누드화로 이해하는 범위를 넘어서는 묘사까지 포괄할 수 있다고 말한다. 수영복, 상의를 벗은 사람, 풍자, 가족 사진 및 기타 창의적 편집과 관련한 가능성을 예로 든다.

미네소타주는 법령이 식별 가능한 인물이 등장하는 사실적 변형을 요구한다고 반박할 수 있다. 또한 이 법이 개인의 근본적인 생각이나 관점이 아니라 자동화 서비스의 운영을 규율한다고 주장할 수도 있다.

그 행위 대 발언의 구분은 면밀한 검토를 받게 될 것이다. 기업이 업로드된 사진을 처리하는 방식을 규제하는 법은 제품 규제와 유사해 보일 수 있다. 그러나 이미지 생성은 표현물도 만들어 내며, 이 법은 그 결과물의 내용을 통해 금지된 운영을 정의한다.

인간의 기술에 대한 예외 조항은 양측의 주장을 모두 복잡하게 만든다. Minnesota는 전통 예술이 아니라 자동화된 착취를 겨냥한다고 주장할 수 있다. xAI는 한 방식으로 만들어진 표현은 우대하면서 다른 방식으로 만들어진 동일한 표현에는 부담을 준다는 점을 주장할 수 있다.

법원은 이 법이 합법적인 대안을 남겨두는지도 검토할 것이다. Minnesota 사용자는 상당한 기술을 요구하는 기존 편집 소프트웨어에 계속 접근할 수 있을지 모른다. 그러나 범용 모델의 이미지 기능을 차단하면 표적이 된 오용보다 훨씬 더 광범위한 활동에 부담을 줄 수 있다.

이 때문에 세이프 하버가 중요하다. 세이프 하버는 노골적인 프롬프트 차단, 신고 대응, 증거 보존, 악성 계정 정지 등 정해진 보호 조치를 따르는 제공자를 보호한다. Minnesota의 법은 제공자가 합리적인 노력을 기울였다는 이유만으로 명시적으로 면책하지 않는다.

이런 보호가 없다면 제공자는 어려운 선택에 놓인다. 적용 대상이 되는 모든 요청을 식별하려 시도하거나, 식별 가능한 인물이 포함된 모든 이미지 편집을 제한하거나, Minnesota 내에서 관련 기능을 비활성화할 수 있다. 각 선택지는 오탐과 운영 비용을 발생시킨다.

지리적 차단은 가장 직접적인 대응이다. 서비스는 Minnesota에 있는 것으로 판단되는 사용자를 식별해 그곳에서는 기능을 제공하지 않는다. 그러나 사람들은 이동하고, 개인정보 보호 도구를 사용하거나, 기업 네트워크를 통해 서비스에 접속하기 때문에 위치 통제는 완벽하지 않다.

프롬프트 필터는 두 번째 선택지다. 옷을 제거하거나 친밀한 이미지를 조작해 만들라는 직접적인 요청을 거부할 수 있다. 다만 동일한 언어가 의료, 교육, 예술 또는 안전 관련 맥락에서도 나타날 수 있어, 더 간접적인 워크플로는 여전히 분류하기 어렵다.

이미지 분류기는 또 다른 방어막을 제공한다. 서비스는 업로드된 사진과 생성된 결과물에서 나체 또는 성적 콘텐츠를 검사할 수 있다. 하지만 분류만으로는 동의, 신원, 풍자 여부 또는 변경된 신체 부위가 원본 이미지에 있었는지를 신뢰성 있게 판단할 수 없다.

제공자는 실제 인물이 포함된 사진의 편집도 제한할 수 있다. xAI는 이미 이런 방향의 조치를 시행했다고 말한다. 이러한 제한은 악용을 줄일 수 있지만, 의상, 복원, 패션, 피트니스 또는 가족 사진과 관련된 무해한 작업까지 방해할 수 있다.

따라서 이 소송은 법이 분류 오류의 부담을 어디에 두어야 하는지를 시험한다. Minnesota의 접근 방식은 유해한 결과물이 통과될 때 제공자에게 더 큰 위험을 부담시킨다. xAI가 선호하는 접근 방식은 플랫폼 정책, 사용자 집행, 그리고 가해자의 생성 또는 배포를 겨냥한 법률에 더 크게 의존한다.

어느 쪽의 배분도 피해를 없애지는 못한다. 강력한 필터는 합법적 표현에 부담을 주고, 관대한 시스템은 실제 인물을 조작된 성적 콘텐츠에 노출시킨다. 법적 쟁점은 Minnesota가 헌법상 허용되는 균형을 선택했는지다.

xAI의 안전 주장, 신뢰성 문제에 직면

xAI는 법원에 Grok의 이미지 통제를 둘러싼 문서화된 실패를 무시해 달라고 요구하지 않으면서 Minnesota 법이 지나치게 광범위하다는 점을 보여야 한다.

회사는 자사의 규정이 타인의 사생활을 침해하는 불법적·유해한·학대적 활동을 금지한다고 말한다. 또한 사용자는 동의 없이 실제 인물의 이미지를 성적으로 만들거나 나체화하도록 변경할 수 없다고 설명한다.

xAI에 따르면, 집행 조치에는 계정 정지 또는 해지와 아동 성적 학대물로 의심되는 콘텐츠의 신고가 포함될 수 있다. 회사는 아동 성 착취, 비동의 나체, 원치 않는 성적 콘텐츠에 대해 무관용 원칙을 적용한다고 공개적으로 밝혀 왔다.

이러한 정책은 중요하지만, 제품 성능을 독자적으로 검증하지는 않는다. 핵심 쟁점은 Grok이 학대적 요청을 얼마나 자주 거부하는지, xAI가 우회 시도에 얼마나 신속히 대응하는지, 그리고 반복 위반자가 새 계정을 통해 다시 돌아올 수 있는지다.

Grok의 이전 “spicy mode”는 신뢰성 문제를 더 어렵게 만들었다. 이 기능은 노골적인 생성 콘텐츠를 허용했고, 사용자는 실제 인물과 관련된 성적 변경을 요청하는 방법도 찾아냈다. 정부와 안전 옹호 단체들은 조사와 더 강력한 통제를 요구하며 대응했다.

xAI는 1월에 Grok 계정이 실제 인물을 비키니, 속옷 또는 기타 노출이 심한 의상으로 편집하지 못하도록 조치를 시행했다고 밝혔다. 이 변화는 공개적 압력 이후 결과물을 제한할 수 있는 능력을 보여준다.

그렇다고 보호 조치가 포괄적인지는 결론 나지 않는다. 생성형 시스템은 확률적으로 반응하고, 사용자는 계속해서 대체 프롬프트를 시험한다. 직접 지시에는 효과적인 제한도 더 긴 대화나 다단계 편집 작업에서는 실패할 수 있다.

회사의 헌법적 주장이 완벽한 모더레이션을 입증하는 데 의존해서는 안 된다. 원고가 심각한 실수를 저질렀더라도 법은 지나치게 광범위할 수 있다. 법원은 특정 기업이 호의적으로 보이는지 여부만이 아니라 법률의 적용 범위를 평가한다.

마찬가지로 Minnesota도 모든 범용 모델이 나체화 앱으로 설계됐다는 점을 입증할 필요는 없다. 주 정부는 손쉬운 이미지 생성이 실제적인 학대 규모를 바꾼다는 증거에 의존할 수 있다. 더 어려운 과제는 그 증거를 법이 포괄하는 모든 서비스와 결과물에 연결하는 일이다.

독립 법률 전문가들은 입법 과정에서 이 제안에 더 좁은 정의가 필요하다고 경고했다. Quinnipiac University School of Law의 Wayne Unger는 Minnesota가 나체화에 관해 더 명확해야 한다고 주장했다. Stanford의 Riana Pfefferkorn은 수정헌법 제1조와 연방 중개자 책임 관련 우려를 모두 제기했다.

이러한 경고는 이 사건이 xAI와 피해자의 대결로 축소되는 것을 막는다. 사람들은 합성 성적 학대에 대한 강력한 보호를 지지하면서도 이 법이 충분히 정밀하게 작성됐는지 의문을 제기할 수 있다. 법원은 예방이 정당한 정책 목표라는 점을 부정하지 않으면서도 법의 일부를 막을 수 있다.

주 정부에는 몇 가지 가능한 방어 논리가 있다. 현실적 이미지 요건, 식별 가능한 인물 요건, 인간의 기술 예외 조항을 강조할 수 있다. 또한 자동화된 생성은 예측 가능한 피해와 밀접하게 연결된 행위라고 주장할 수도 있다.

xAI는 법의 경계에 있는 사례들을 강조할 가능성이 크다. 동의한 성인 이미지, 풍자, 예술적 변형, 일반적인 신체 묘사는 과도한 적용 범위를 보여주는 데 도움이 될 수 있다. 회사는 서비스 제공자에게 명시적인 고의 요건이 없다는 점도 지적할 수 있다.

주 정부는 제품 설계 논리로 되돌아갈 가능성이 크다. 합성 탈의를 위해 구축되고 마케팅된 전문 서비스는 중립적 편집 소프트웨어와는 다른 위험을 제시한다. Minnesota는 제공자가 이미지 생성을 포기하는 대신 특정 기능을 제한할 능력이 여전히 있다고 주장할 수 있다.

그러나 법문은 가장 명백한 악성 행위자보다 더 넓은 범위를 규율한다. 법원은 일반적으로 공무원이 절제된 집행을 약속한다는 이유만으로 지나치게 광범위한 법을 구제하지 않는다. 따라서 정치적 보장보다 정의 조항과 가능한 축소 해석이 더 중요해질 것이다.

50만 달러의 상한은 잠재적인 위축 효과를 키운다. 각 불법적 접근, 다운로드 또는 사용이 별도의 처벌을 유발할 수 있다면, 제공자는 여러 법원 판결이 경계를 명확히 할 때까지 안심하고 기다릴 수 없다.

동시에 최대 벌금을 설명한다고 해서 법원이 특정 사건에서 실제로 얼마를 부과할지 알 수 있는 것은 아니다. 집행에는 법적 절차가 필요하며, 피고는 책임, 관할권, 인과관계, 주장된 위반 사실에 이의를 제기할 수 있다.

Section 230은 또 다른 미해결 쟁점을 더한다. Minnesota는 자사 법률이 연방 보호 조항과 일치해야 한다고 명시한다. xAI는 여전히 주 정부가 사용자 제작 콘텐츠에 대해 간접적으로 책임을 부과하고 있다고 주장할 수 있는 반면, Minnesota는 규제 대상 행위를 결함 있는 서비스 제공으로 규정할 수 있다.

제공자 자체 모델은 전형적인 중개자 비유를 약화할 수도 있다. 사용자가 프롬프트나 사진을 제공하지만, 제공자의 시스템이 픽셀을 생성한다. 법원은 이 과정을 다른 곳에서 만들어진 파일을 단순히 호스팅하는 경우와 구별할 수 있다.

이 때문에 이 사건은 생성 기능을 제공하는 모든 기업에 관련성이 있다. 도구, 발행자, 제품 사이의 경계는 유지하기가 점점 어려워지고 있다. Minnesota의 법은 식별 가능한 피해자와 표현적 결과물이 관련된 구체적인 분쟁에서 그 경계를 시험한다.

Minnesota의 실험, 기존 딥페이크 규칙을 넘어선다

이 법은 유포 이전에 기능 자체를 겨냥한다는 점에서 이례적이며, 다른 정부들은 대체로 제작자, 유통업자 또는 삭제 의무에 초점을 맞춰 왔다.

연방 TAKE IT DOWN 체계는 비동의 친밀 이미지가 게시된 이후에 집중한다. 이는 특정 게시 행위에 형사상 결과를 부과하고, 적용 대상 서비스에 삭제 절차 제공을 요구한다.

Texas는 다른 모델을 사용해 왔다. 해당 법은 동의가 없다는 사실을 알거나 통지 후 적용 대상 자료를 삭제하지 않는 경우 웹사이트 또는 앱 운영자에게 민사 책임을 물을 수 있다. 이 구조는 인지와 대응에 더 크게 의존한다.

San Francisco는 학대적 영업 관행과 비동의 포르노그래피를 규율하는 기존 법률에 따라 전문 나체화 웹사이트를 상대로 대응해 왔다. 그 소송은 모든 범용 이미지 생성기가 아니라 유해한 목적을 중심으로 조직됐다고 주장되는 서비스에 초점을 맞춘다.

Minnesota는 더 광범위한 예방 경로를 선택했다. 이 법은 공개 유포, 피해자의 통지 또는 운영자가 스스로를 나체화 서비스로 마케팅했다는 증거를 기다리지 않는다. 제공자가 적용 대상 변형을 용이하게 할 수 있는 능력이 발동 요건이 된다.

이 설계는 한 측면에서 제품 안전 규제와 유사하다. 주 정부는 위험한 기능을 식별하고 기업에 이를 제공하지 않도록 요구한다. 그러나 제품의 결과물은 이미지이므로, 표현과 수정헌법 제1조가 분석에 직접적으로 들어온다.

역사적 비교 대상은 정치 딥페이크 법률이다. 법원은 특히 법이 콘텐츠에 따라 구분할 때, 기만적인 선거 미디어를 제한하려는 주 정부의 노력을 면밀히 검토해 왔다. 일부 법률은 특정 이의 제기에서 살아남았지만, 다른 법률은 저지됐다.

Musk 관련 기업들은 이미 이보다 더 광범위한 싸움에 관여하고 있다. X는 이전에 Minnesota의 선거 딥페이크 법에 이의를 제기하며 표현의 자유 보호를 위반한다고 주장했다. 성적 착취는 다른 이해관계와 피해를 제시하지만, 이 이력은 새 사건에 익숙한 헌법적 틀을 부여한다.

나체화 분쟁은 앱 스토어 운영자에 대한 압박이 커지는 가운데에도 발생한다. Apple과 Google은 합성 탈의를 광고하거나 가능하게 하는 앱을 배포했다는 비판을 받아 왔다. Engadget이 인용한 한 조사에서는 당시 Apple 스토어에서 18개, Google Play에서 20개의 그러한 앱을 확인했다.

스토어에서의 삭제는 일상적인 발견을 줄일 수 있지만, 웹 서비스나 사이드로딩 애플리케이션을 없앨 수는 없다. 또한 검토자가 오해를 부르는 설명을 인식하고 숨겨진 기능을 시험할 수 있는지에 달려 있다.

Minnesota의 광고 금지 조항은 이러한 유통 경로의 일부를 다루려 한다. 기업이 주 내에서 서비스를 홍보할 수 없다면 그 서비스를 찾기 어려워질 수 있다. 그러나 이 조항은 누가 홍보자로 간주되는지, 그리고 이들이 어떤 인지 요건을 충족해야 하는지에 관한 별도 의문을 제기한다.

범용 제공자들은 다른 규정 준수 과제에 직면한다. OpenAI, Google, Meta 및 다른 모델 개발자들은 성 착취와 비동의 친밀 콘텐츠를 금지하는 규칙을 적용한다. 이들의 보호 조치는 제품, 배포 방식, 그리고 사용자가 사진을 업로드할 수 있는지 여부에 따라 다르다.

따라서 업계 비교는 어느 기업이 완벽한 필터를 갖췄는지에 관한 것이 아니다. 어떤 기업도 적대적 사용 환경에서 모든 모델 결과물이 계속 규정을 준수할 것이라고 신뢰성 있게 보장할 수 없다. 의미 있는 비교는 설계 선택, 테스트, 접근 통제, 신고 시스템, 그리고 실패 이후의 투명성과 관련된다.

전문 서비스는 흔히 표방하는 목적만으로도 판단할 수 있다. 사용자에게 특정 인물을 “벗기라”고 권하는 제품은 해석의 여지가 거의 없다. 반면 광고 목업, 사진 복원, 밈, 일러스트를 지원하는 모델은 맥락에 따른 판단이 필요하다.

미네소타주의 기술적 숙련도 예외 조항도 경쟁상 영향을 만든다. 세부적인 수작업이 필요한 전통 소프트웨어는 자동 생성과 다른 취급을 받는다. 이런 차이는 제공업체가 마찰 요소, 인간의 통제 또는 추가 편집 단계를 더하도록 유도할 수 있다.

추가적인 마찰이 반드시 무의미한 것은 아니다. 사용자에게 숙련도 입증, 동의 기록 또는 신원 확인 절차를 요구하면 기회주의적 악용을 억제할 수 있다. 다만 외관상 워크플로 변경이 동일한 유해 결과를 만들어 내는 서비스의 허점이 되어서는 안 된다.

더 강력한 정책 모델은 여러 수단을 결합할 수 있다. 입법부는 악의적인 제작자를 겨냥하고, 신속한 삭제를 요구하며, 악용을 목적으로 설계된 서비스에 의무를 부과하고, 정해진 안전조치를 따르는 범용 제공업체에는 면책 조항을 제공할 수 있다.

이런 모델이 모든 표현의 자유나 안전 우려를 해소하지는 못한다. 그러나 책임을 의도, 인지, 제품 목적, 그리고 통지 이후의 대응과 더 밀접하게 연계할 수 있다.

반면 미네소타주는 뚜렷한 시험 사례를 만들었다. 법이 유지된다면 다른 주는 기능 기반 AI 규제의 틀을 얻게 된다. 법이 무효화된다면 입법자들은 어떤 정의나 책임 메커니즘을 수정해야 하는지 보여 주는 사법적 지도를 받게 될 것이다.

xAI 미네소타 소송의 다음 단계

미네소타주의 접근 방식이 전국적 틀이 될지, 아니면 AI 법안을 지나치게 광범위하게 작성한 사례에 대한 경고가 될지는 세 가지 신호가 결정할 것이다.

첫 번째 신호는 법원이 긴급 구제 신청을 어떻게 다루는지다. xAI는 8월 1일 시행일 직전에 소송을 제기했으며, 즉각적인 쟁점은 소송이 계속되는 동안 집행을 중단해야 하는지다.

가처분 구제를 확보하려면 xAI는 승소 가능성과 회복하기 어려운 손해 발생 가능성을 포함한 여러 요건을 다뤄야 한다. 법원의 초기 분석이 사건을 최종적으로 결정하지는 않겠지만, 어떤 헌법적 주장이 가장 강해 보이는지는 드러낼 수 있다.

광범위한 금지명령은 미네소타 모델을 약화시키고 유사한 예방적 법률에 대한 소송을 부추길 수 있다. 제한적인 명령은 명백히 악용적인 서비스에 대한 보호를 유지하면서 동의나 범용 도구와 관련된 다툼이 있는 적용은 중단시킬 수 있다.

두 번째 신호는 법원이 규제 대상 활동을 어떻게 규정하는지다. 이미지 생성을 주로 보호받는 표현으로 본다면 미네소타주는 엄격한 헌법 심사를 받게 된다. 자동화된 누드화 기능을 유해 행위로 본다면 주정부는 더 넓은 규제 여지를 갖게 된다.

그 분류는 법률 문구와 구체적 사례에 달려 있다. 법원은 법률을 비동의 변환으로 한정할 수 있는지, 인간 숙련도 예외가 헌법적으로 관련이 있는지, 그리고 정당한 사용이 여전히 부담을 받는지를 검토할 수 있다.

법원이 Section 230을 다루는 방식도 중요하다. 모델이 생성한 픽셀이 호스팅된 사용자 콘텐츠와 다르다는 판결은 친밀한 이미지의 범위를 훨씬 넘어선 분쟁에 영향을 미칠 수 있다. 이는 법원이 소비자 AI 서비스 전반에서 생성형 결과물에 대한 책임을 어떻게 이해하는지에도 영향을 준다.

세 번째 신호는 업계의 운영상 대응이다. xAI와 다른 제공업체는 소송이 진행되는 동안 필터를 개선하고, 지역별 제한을 도입하며, 실존 인물 편집을 제한하거나, 더 명확한 집행 데이터를 공개할 수 있다.

더 나은 안전장치는 표적화된 준수가 가능하다는 주장을 뒷받침할 것이다. 지속적인 실패는 자율 규칙이 아니라 집행 가능한 의무를 요구하는 목소리를 강화할 것이다.

투명성은 특히 중요하다. 제공업체는 거부율, 우회 패턴, 이의 제기 또는 반복적 악용을 평가하기에 충분한 정보를 거의 공개하지 않는다. 집계된 안전성 보고서는 입법자들이 책임감 있는 범용 시스템과 착취를 중심으로 구축된 서비스를 구분하는 데 도움이 될 수 있다.

앱 스토어 집행도 실질적인 수단이다. Apple과 Google은 심사를 강화하고, 오해를 유발하는 설명을 사용하는 서비스를 제거하며, 승인 이후 제품을 모니터링할 수 있다. 이런 조치가 xAI의 헌법상 주장을 해결하지는 못하지만, 특화된 누드화 앱의 유통을 줄일 수 있다.

입법부는 미네소타주의 문구를 그대로 따르기 전에 이 사건을 지켜봐야 한다. 성급한 복제 법안은 동일한 동의, 정의, 면책 조항 분쟁을 물려받을 수 있다. 더 정밀한 법률도 모든 이미지 생성기를 동일하게 취급하지 않으면서 의미 있는 의무를 부과할 수 있다.

AI 사용자에게 이 사건은 기능 이용 가능성이 점점 더 위치에 따라 달라지는 이유를 보여 준다. 제공업체는 이미 국가별 규정에 맞춰 결과물을 조정하고 있으며, 주법은 더욱 파편화된 지도를 만들 수 있다. 위스콘신에서 이용 가능한 도구가 미네소타주 경계를 넘으면 다르게 작동할 수 있다.

개발자 역시 모델 변경, 안전성 테스트, 악용 대응에 관한 신뢰할 수 있는 기록을 보관해야 한다. 이러한 기록은 기업이 실패를 알면서도 무시했는지, 아니면 이를 방지하기 위해 지속적으로 노력했는지를 보여 줄 수 있다. 또한 공개 약속과 실제 통제 사이의 격차를 드러낼 수도 있다.

기업 구매자도 이미지 생성을 활성화하기 전에 비슷한 질문을 해야 한다. 정책만으로는 제한적인 보장만 제공한다. 구매자는 공급업체가 불필요한 개인정보를 수집하지 않으면서 실존 인물 편집을 제한하고, 오용을 조사하며, 증거를 보존할 수 있는지 이해해야 한다.

amazon engadget 검색을 통해 이 분쟁을 지켜보는 지식 노동자들은 이를 xAI에 대한 단순한 찬반투표로 보아서는 안 된다. 더 오래 지속될 쟁점은 기능 기반 규제가 합법적 표현의 광범위한 범주를 금지하지 않으면서 피해자를 보호할 수 있는지다.

미네소타주는 삭제 요청 중심 정책의 실제 약점을 지적했다. 삭제는 피해자가 이미지를 발견하고, 어디에 게시됐는지 파악하며, 신고 절차를 밟은 뒤에야 시작된다. 그때쯤이면 복제본은 이미 효과적인 통제 범위를 벗어났을 수 있다.

xAI는 미네소타주의 해결책에 있는 실제 약점을 지적했다. 비동의 악용을 겨냥한 법률도 정의에 필요한 제한이 없다면 동의를 받은 이미지나 자가 제작 이미지를 포괄할 수 있다. 사용 건당 막대한 벌금은 이러한 입법상의 문제를 증폭시킨다.

가장 바람직한 결과는 무제한 도구와 자동화된 이미지 편집의 전면 금지 중 하나를 선택하도록 요구하지 않는 것이다. 대신 동의, 제품 목적, 제공업체의 인지, 대응의 품질에 연계된 집행 가능한 안전장치를 확립하는 것이다.

연방법원은 이제 미네소타주의 접근 방식을 시험할 첫 기회를 갖게 됐다. 법원의 초기 명령, 생성형 활동에 대한 분류, 그리고 업계의 안전 대응이 가장 분명한 증거를 제공할 것이다.

독자는 가장 시끄러운 정치적 반응보다 이러한 신호를 지켜봐야 한다. 핵심 질문은 입법자들이 합법적 도구를 보존하면서 생성 시점에서 자동화된 성적 착취를 막을 수 있는지다. 그 답은 차세대 주 AI 법률의 방향을 결정할 것이다.