Verge Europe: EU AI 라벨은 이제 법이 됐지만, 탐지는 여전히 취약한 고리

Verge Europe 보도는 새 규제 현실을 살펴볼 시점이 됐다. 8월 2일부터 유럽연합은 특정 챗봇, 딥페이크, AI 생성 공익 관련 콘텐츠에 대한 고지를 의무화했다. 이 규정은 합성 결과물에 기계 판독 가능한 표시를 붙이도록도 요구한다. 그러나 가장 어려운 문제는 여전히 해결되지 않았다. 라벨은 편집, 재게시, 플랫폼 간 유통을 거쳐도 유지될 때에만 도움이 된다.

이 의무는 EU AI Act 제50조에서 비롯된다. 이 조항은 AI 제공자와 전문 배포자, 즉 자신의 권한 아래 AI 시스템을 사용하는 조직 간에 책임을 나눈다. 제공자는 시스템에 투명성을 내장해야 한다. 배포자는 대중을 오도할 수 있는 특정 사용 사례를 공개해야 한다.

이 구분은 핵심 갈등을 낳는다. 유럽은 분절된 정보 환경 전반에서 일관된 신호를 원하지만, 현재의 표시 기술은 일상적인 변형에도 취약하다. 누군가 이미지를 자르거나, 화면을 녹화하거나, 메타데이터를 제거하거나, 생성된 텍스트를 다른 문서에 복사하면 라벨은 사라질 수 있다.

법은 완벽한 기술적 해답을 기다리지 않는다. EU에서 사업하는 기업은 이제 고지 인터페이스, 콘텐츠 표시 시스템, 문서화, 예외 적용에 관한 방어 가능한 판단이 필요하다. 사용자는 더 많은 챗봇 고지와 눈에 보이는 라벨을 보게 되겠지만, 라벨이 없는 모든 항목이 진짜라는 증거로 받아들여서는 안 된다.

Verge Europe, 이제 실시간 AI 투명성 시험대에 서다

8월 2일 시한은 AI 라벨링을 정책 제안에서 유럽연합 전역의 운영 요건으로 바꿨다.

이 규정은 몇 가지 서로 다른 상황에 적용된다. 직접 상호작용을 위해 설계된 챗봇이나 기타 AI 시스템은 사용자가 AI와 대화하고 있음을 알려야 한다. 다만 합리적으로 정보에 밝고 주의 깊은 사람이 그 사실을 명백히 알 수 있는 경우에는 고지가 필요하지 않다.

이 요구 사항은 익숙한 소비자용 챗봇을 넘어선다. 자동화된 고객 지원, 대화형 쇼핑 도구, AI 안내원, 텍스트나 음성으로 자신을 드러내는 기타 인터페이스에 적용될 수 있다. 제품 팀은 명시적 고지 없이도 사용자가 시스템을 합리적으로 식별할 수 있는지 평가해야 한다.

생성형 시스템 제공자에게는 다른 의무가 있다. 합성 텍스트, 오디오, 이미지 또는 비디오가 포함된 결과물에는 인공적 기원을 감지할 수 있는 기계 판독 가능 표시가 있어야 한다. 이 규정은 제품이 적용 대상 콘텐츠를 생성하는 범용 AI 시스템 제공자도 포함한다.

기본이 되는 제50조 원문은 이러한 기술 조치가 효과적이고, 상호운용 가능하며, 신뢰할 수 있고, 기술적으로 실현 가능해야 한다고 명시한다. 또한 규제 당국에 구현 비용, 콘텐츠별 한계, 인정된 최신 기술 수준을 고려하도록 지시한다.

이 문구가 중요한 이유는 법이 단 하나의 보편적 워터마크를 정하지 않기 때문이다. 기계 판독 가능 표시는 내장된 출처 정보, 메타데이터, 워터마크 또는 다른 기술적 신호를 포함할 수 있다. 선택한 방식은 결과물의 유형과 사용자가 이를 유통하는 방식에 맞아야 한다.

전문 배포자에게는 눈에 보이는 고지 의무가 있다. AI로 생성하거나 조작한 딥페이크를 게시하는 사람은 이러한 인공적 개입을 공개해야 한다. 법에 따르면 딥페이크는 실제 사람, 사물, 장소, 단체 또는 사건과 닮아 진짜이거나 사실인 것처럼 거짓으로 보이게 하는 콘텐츠다.

이 규정은 공익 사안에 관해 대중에게 알리기 위해 게시되는 AI 생성 또는 조작 텍스트도 적용 대상에 포함한다. 이 범주는 정치, 사회, 보건, 경제, 시민 관련 정보를 포괄할 수 있다. 모든 AI 보조 작성물보다는 좁지만, 선거 관련 콘텐츠에만 한정되지는 않는다.

텍스트에는 중요한 예외가 적용된다. 게시물이 인간의 검토나 편집 통제를 거치고, 개인 또는 조직이 편집 책임을 지는 경우 고지는 필요하지 않다. 이 예외는 글쓰기 도구의 모든 사용을 자동 게시와 동일하게 취급하기보다 책임 있는 편집을 장려한다.

입력물이나 그 의미를 실질적으로 바꾸지 않는 표준 편집 지원 역시 제공자의 표시 의무 대상에서 제외될 수 있다. 맞춤법 검사와 일상적인 정리는 기사, 합성 녹음물 또는 조작 사진을 생성하는 것과 다르다.

원 보도는 즉각적인 소비자 대상 결과를 포착했다. AI 시스템이 사람에게 말을 걸거나 합성 미디어가 현실을 닮으려 할 때, 사람들은 더 명확한 신호를 받아야 한다. 덜 눈에 띄는 결과는 모델 출력부터 최종 게시 인터페이스까지 이어지는 컴플라이언스 프로젝트다.

이 때문에 시한은 모델 개발자만 압박하지 않는다. 퍼블리셔, 광고팀, 대행사, 정치 조직, 소매업체, 고객 서비스 운영자, 소셜 플랫폼은 자신들의 사용이 언제 배포자에 해당하는지 판단해야 한다. 또한 그 판단을 설명하는 기록도 필요하다.

이 규정은 책임 있는 기업의 본사가 유럽에 있는지와 상관없이 EU 시장에 적용된다. 미국 개발사가 역내에서 생성형 서비스를 제공한다면 제50조를 유럽 공급업체에만 해당하는 문제로 취급할 수 없다.

따라서 유럽은 투명성이 콘텐츠를 따라 이동할 수 있는지에 대한 실시간 시험을 시작했다. 다음 질문은 콘텐츠가 원래 생성기를 벗어난 뒤에도 요구되는 신호가 의미를 유지할 수 있느냐다.

제공자와 퍼블리셔는 서로 다른 부담을 진다

유럽의 프레임워크는 합성 콘텐츠 투명성을 한 기업이 붙이는 단일 라벨이 아니라 책임의 연쇄로 본다.

제공자는 그 연쇄의 시작점에 가깝다. 시스템을 설계하고 원본 출력 과정을 통제하며, 기술적 신호를 부착할 가장 좋은 기회를 갖는다. 의무가 적용되는 경우 제공자는 생성 또는 조작된 결과물을 기계 판독 가능한 형태로 감지할 수 있게 해야 한다.

배포자는 이용자에 더 가깝다. 결과물을 어떻게 사용할지, 어디에 게시할지, 콘텐츠가 실제 인물이나 사건을 나타내는지를 선택한다. 이 배포자는 딥페이크와 적용 대상 공익 관련 텍스트에 대해 명확한 고지를 제공해야 한다.

한 기업이 두 역할을 모두 맡을 수도 있다. 플랫폼이 이미지 생성기를 개발하고, 이를 자체 광고 제작에 사용한 뒤, 그 광고를 유럽 소비자에게 배포할 수 있다. 이 경우 제공자와 배포자로서의 의무는 동일한 워크플로의 서로 다른 단계를 다루게 된다.

이 구조는 모든 부담을 시청자에게 떠넘기지 않는다. 사용자가 고객 지원 에이전트가 자동화됐다는 사실을 알기 위해 전문 포렌식 소프트웨어를 사용할 필요는 없어야 한다. 사실적으로 보이는 정치 영상을 시청하는 사람은 콘텐츠가 표시되는 곳에서 고지를 받아야 한다.

제50조는 감정 인식과 생체 특성 분류도 다룬다. 이런 시스템을 사용하는 배포자는 노출되는 개인에게 시스템이 작동 중임을 알려야 한다. 생체 특성 분류는 생체 데이터를 기준으로 사람을 분류하고, 감정 인식은 음성이나 얼굴 행동 같은 신호에서 감정 상태를 추론한다.

이 의무는 직장, 매장, 교육 현장, 행사 및 기타 감시 환경에서 중요하다. 어떤 사람은 시스템과의 상호작용을 시작하지 않을 수 있으므로, 챗봇식 고지만으로는 투명성 문제를 해결할 수 없다.

고지는 명확하고, 구별 가능하며, 접근 가능해야 한다. 늦어도 첫 상호작용 또는 노출 시점까지 당사자에게 전달돼야 한다. 긴 서비스 약관에 숨겨진 고지는 규정이 의도한 기능을 수행하기 어렵다.

이는 디자인팀과 법무팀에 구체적인 과제를 만든다. 챗봇에는 적절한 시점에 눈에 띄는 정체성 문구가 필요하다. 합성 비디오에는 콘텐츠를 가리지 않으면서도 이해할 수 있는 라벨이 필요하다. 감정 분석 시스템에는 운영 구역에 들어오는 사람을 위한 고지 장치가 필요하다.

유럽연합 집행위원회의 이행 가이드라인은 이러한 경계를 더 일관되게 만들기 위한 것이다. 이 가이드라인은 어떤 행위자, 시스템, 면제 및 고지 방식이 제50조의 범위에 들어가는지 명확히 한다.

집행이 분산돼 있기 때문에 일관성은 여전히 중요하다. 각국 시장감시 당국은 조직이 의무를 어떻게 충족하는지 검토할 수 있다. 여러 회원국에서 운영하는 기업에는 국가별로 양립할 수 없는 인터페이스가 아니라 방어 가능한 EU 전역 접근 방식이 필요하다.

집행위원회는 자발적 컴플라이언스 경로도 지원했다. 행동강령은 법적 요구 사항을 표시, 탐지, 라벨링 및 문서화 조치로 구체화한다. 강령 서명은 선택 사항이지만 제50조 준수는 선택 사항이 아니다.

7월 말까지 집행위원회는 약 190개 기업과 조직이 이 강령에 서명했다고 보고했다. 서명자는 해당 조치를 통해 준수를 입증할 수 있지만, 서명 자체가 모든 구현이 법을 충족한다는 결정적 증거는 아니다.

비서명자는 다른 방식을 선택할 수 있다. 그러나 그 방법이 적절하다는 점을 입증해야 하며, 당국의 더 엄격한 질문을 예상해야 한다. 따라서 실질적인 선택지는 규제와 무규제의 대립이 아니다. 인정된 프레임워크와 별도로 정당화해야 하는 컴플라이언스 시스템 중 하나다.

이 프레임워크는 8월 2일 이전에 이미 생성돼 제공된 적용 대상 콘텐츠에 소급 라벨링을 요구하지도 않는다. 다만 새로운 사용과 새로 제공되는 결과물은 여전히 신중한 검토가 필요하다. 조직은 이 경계를 적용하기 위해 신뢰할 수 있는 생성 및 게시 날짜를 보유해야 한다.

이 기록 관리 문제는 대규모 콘텐츠 라이브러리를 관리하는 기업에 익숙할 것이다. 팀은 어떤 모델이 자산을 만들었는지, 누가 이를 편집했는지, 사람이 검토했는지, 누가 편집 책임을 수락했는지 알아야 한다.

검색 가능한 AI 지식 베이스는 팀이 이런 결정을 보존하는 데 도움이 될 수 있지만, 문서화만으로 컴플라이언스가 만들어지지는 않는다. 기본 워크플로는 정확한 고지를 생성하고 이를 게시된 자산과 연결해 유지해야 한다.

따라서 부담은 전체 제작 과정에 걸쳐 이동한다. 모델 기업은 퍼블리셔가 모든 라벨을 붙일 것이라고 가정할 수 없고, 퍼블리셔 역시 제공자의 숨겨진 표시가 자신들의 가시적 고지 의무를 충족한다고 가정할 수 없다.

진짜 상충 관계는 명확성과 기술적 취약성 사이에 있다

이 규정은 알아볼 수 있는 AI 고지를 약속하지만, 그 기반이 되는 기술 신호는 매우 일상적인 미디어 처리 과정에서도 훼손될 수 있다.

눈에 보이는 라벨과 기계 판독 가능 표시는 서로 다른 문제를 해결한다. 가시적 라벨은 사람이 무엇을 보고 있는지 알려준다. 기계 판독 가능 표시는 소프트웨어가 대규모로 콘텐츠를 검사하고 인공적 기원을 식별하게 한다.

둘 다 필요한 이유는 어느 하나도 모든 곳에서 작동하지 않기 때문이다. 이미지의 가시적 텍스트는 잘려 나가거나 스크린샷에서 제외될 수 있다. 메타데이터는 압축, 변환 또는 업로드 과정에서 사라질 수 있다. 보이지 않는 워터마크는 편집 후 약화되거나 의도적인 공격에 실패할 수 있다.

텍스트는 더 어려운 과제를 제시한다. 이미지 워터마크는 픽셀을 일정한 패턴으로 수정할 수 있지만, 생성된 글은 복사, 의역, 번역 또는 가벼운 재작성의 대상이 될 수 있다. 이러한 작업은 의미를 바꾸지 않고도 통계적 신호를 파괴할 수 있다.

이 약점이 규제를 무의미하게 만드는 것은 아니다. 다만 라벨이 정직하게 약속할 수 있는 범위를 바꾼다. 긍정적 신호는 AI 기원 판단을 뒷받침할 수 있지만, 신호가 없다고 해서 인간 저작을 입증할 수는 없다.

그 구분은 플랫폼의 메시지 전달 방식을 이끌어야 합니다. 서비스는 탐지기가 워터마크를 찾지 못했다는 이유만으로 “검증된 인간”이라고 표시해서는 안 됩니다. 대신 지원되는 AI 표지가 탐지되지 않았다고 알려야 하며, 이는 더 좁고 방어 가능한 결론입니다.

상호운용성은 또 다른 과제를 더합니다. 한 생성기가 삽입한 표지는 후속 도구, 플랫폼, 조사 담당자도 읽을 수 있어야 합니다. 원래 공급업체만 검사할 수 있는 독점 신호는 공공적 가치가 제한적입니다.

위원회의 자율 규약은 효과적이고 상호운용 가능하며 신뢰할 수 있고 기술적으로 실현 가능한 조치를 강조함으로써 이에 대응합니다. 권고사항은 출력물에 표지를 하는 제공자와 공개 콘텐츠에 라벨을 붙이는 배포자 사이에 나뉩니다.

이 규약은 하나의 기술 방식을 법제화에 고정하지 않으면서 공통의 준수 경로를 제공합니다. 이러한 유연성 덕분에 표지 관행은 표준과 공격 방식의 변화에 맞춰 달라질 수 있습니다. 동시에 기업은 현재 이용 가능한 방법 가운데 무엇이 충분한지 판단해야 하므로 불확실성도 발생합니다.

비용도 그 판단에 포함됩니다. 소규모 개발사는 대형 플랫폼과 같은 출처 인프라를 구축할 수 없습니다. 법은 구현 비용과 기술적 실현 가능성을 명시적으로 인정하지만, 이러한 조건이 포괄적인 면제를 뜻하지는 않습니다.

오픈 시스템과 로컬 도구에서는 긴장이 더 커집니다. 사용자가 자신의 기기에서 모델 코드, 출력 파이프라인 또는 파일을 수정할 수 있게 되면 제공자는 최종 산출물에 대한 통제력이 줄어듭니다. 해당 규칙이 적용되는 경우에도 제공자는 적절한 최초 표지 방식을 마련해야 합니다.

악의적 행위자는 공개 표시를 의도적으로 제거할 수도 있습니다. 사기성 유명인 추천을 만드는 사람은 라벨을 잘라내거나, 재생 화면을 녹화하거나, 콘텐츠를 재구성할 유인이 충분합니다. 투명성 규칙은 주로 합법적 행위자를 제약하고 회피에 대한 더 명확한 증거를 만듭니다.

그럼에도 이는 집행 측면에서 가치가 있습니다. 공개 표시를 제거한 게시자는 표준이 없었다고 쉽게 주장할 수 없습니다. 플랫폼은 제거를 더 어렵게 만들고, 내부 처리 과정에서 출처 정보를 보존하며, 반복적으로 라벨을 회피하는 계정에 제재를 가할 수 있습니다.

더 넓은 이점은 절차적입니다. 이 법은 위기가 발생하기 전에 제공자가 출처 증거를 생성하도록 압박합니다. 또한 배포자는 누가 게시물을 소유하고 그 주장에 대한 책임을 질지를 결정하도록 만듭니다.

그러나 기술적 취약성은 소비자에게 제공되는 약속을 제한합니다. 사람들은 라벨이 붙은 AI 콘텐츠와 라벨 없는 AI 콘텐츠, 사람이 만든 작업물, 편집된 미디어, 풍자, 그리고 일상적인 오류를 함께 접하게 됩니다. 여전히 맥락과 출처를 평가해야 합니다.

따라서 미디어 리터러시는 라벨링을 대체하는 것이 아니라 이를 보완합니다. 공개 표시는 누가 또는 무엇이 항목 제작에 관여했는지를 답합니다. 그것이 정확하고, 공정하며, 합법적이거나, 해롭지 않다는 점까지 입증하지는 않습니다.

전적으로 사람이 만든 주장도 거짓일 수 있습니다. AI가 생성한 날씨 요약은 정확할 수 있습니다. 일부 위험 시나리오에서 출처와 진실성은 관련이 있지만, 같은 속성은 아닙니다.

EU 프레임워크는 진실성을 인증하는 척하지 않고 출처를 전달할 때 가장 강력합니다. 사용자가 라벨이 없다는 사실을 녹화물이나 게시물이 진짜라는 증거로 해석할 때 가장 취약합니다.

딥페이크 라벨에는 예외가 있지만, 빠져나갈 구멍은 아니다

제50조는 창의적 표현과 책임 있는 편집을 보호하기 위해 일부 공개 의무를 좁히지만, 그 예외가 기만적 제시를 허용하는 것은 아니다.

예술적, 허구적, 풍자적 또는 유사하게 창의적인 작업물의 딥페이크에는 특별한 취급이 적용됩니다. 공개 표시는 작품 감상을 방해하지 않는 형식을 사용할 수 있습니다. 영화의 경우 모든 장면에서 디지털로 변경된 배우의 얼굴을 가리는 경고가 요구되어서는 안 됩니다.

그럼에도 의무는 적절한 공개를 요구합니다. 제작물은 크레디트, 부가 정보 또는 다른 적절한 위치에서 합성 연기를 식별할 수 있습니다. 정확한 형식은 작품과 그 제시 방식에 따라 달라집니다.

이러한 유연성은 판단이 필요한 지점을 만듭니다. 명백히 허구적인 영화와 원래 맥락에서 분리된 사실적인 클립은 매우 다른 위험을 초래할 수 있습니다. 배포 방식은 관객이 동일한 합성 장면을 이해하는 방식을 바꿀 수 있습니다.

따라서 게시자는 예견 가능한 재사용을 고려해야 합니다. 웹페이지 설명에만 한정된 공개 표시는 클립이 다운로드되어 재게시될 때 사라질 수 있습니다. 법이 덜 침해적인 제시를 허용하더라도, 삽입형 라벨은 더 강한 연속성을 제공할 수 있습니다.

공익 텍스트에는 인간 검토와 편집 책임에 관한 별도의 예외가 있습니다. 두 개념은 함께 작동합니다. 최종 게시물에 대해 누구도 책임을 지지 않는다면, 직원의 짧은 확인만으로 의미 있는 책임성이 자동으로 생기지는 않습니다.

조직은 실제로 검토가 무엇을 의미하는지 정의해야 합니다. 검토자는 출력을 평가할 수 있도록 충분한 권한, 주제 지식, 출처 접근 권한을 갖춰야 합니다. 워크플로는 인간의 존재를 의례적인 체크박스로 취급하지 말고 승인을 기록해야 합니다.

뉴스룸은 이미 이러한 논리에 부합하는 편집 구조를 사용합니다. 편집자는 작업을 의뢰하고, 원고를 검토하며, 중요한 주장을 검증하고, 발행인 명의로 책임을 수용합니다. 실제 감독이 온전하게 유지된다면 AI 지원이 그 연결고리를 반드시 지우는 것은 아닙니다.

자동화된 콘텐츠 팜은 다른 사례를 보여줍니다. 수천 개의 공익 페이지를 생성하고 품질 관리를 위해 그중 일부만 표본 검토하는 것은 각 게시물을 검토하는 것과 다릅니다. 규모 자체가 주장된 예외의 취약성을 드러낼 수 있습니다.

전문 배포자 역시 모델을 언급하는 방식으로 책임을 전가할 수 없습니다. “AI가 작성했다”는 편집 정책이 아닙니다. 조직은 시스템을 선택하고, 워크플로를 구성하며, 결과물을 게시하기로 결정했습니다.

위원회는 완전히 생성된 자료와 부분적으로 수정된 자료를 위한 선택적 EU 라벨 아이콘을 제공합니다. 서로 다른 시각적 배경에 맞는 변형이 उपलब्ध하며, 사용자 테스트에서는 함께 제공되는 텍스트가 이해도를 높였습니다.

아이콘 사용은 선택 사항입니다. 배포자는 제50조를 충족한다면 다른 라벨을 설계할 수 있습니다. 또한 아이콘만으로 준수가 입증되는 것은 아닙니다. 배치, 명확성, 시점, 주변 제시 방식도 여전히 중요하기 때문입니다.

이는 중요한 한계입니다. 긴 페이지의 아래쪽에 놓인 작은 아이콘은 기술적으로 존재하더라도 독자에게 정보를 전달하지 못할 수 있습니다. 모호한 반짝임 기호는 업계 관계자에게는 AI를 뜻할 수 있지만 일반 사용자에게는 아무 의미가 없을 수 있습니다.

좋은 라벨은 직접적인 표현을 사용해야 합니다. “AI 생성”, “AI 수정” 또는 “합성 음성”은 일반적인 기술 기호보다 더 많은 정보를 전달합니다. 공간이 허용된다면, 두 번째 층에서 어떤 부분이 변경되었는지 설명할 수 있습니다.

이 세부 사항은 부분적으로 수정된 미디어에서 중요합니다. 배경을 교체하는 것과 실제 인물의 목소리로 거짓 발언을 만드는 것은 다릅니다. 이분법적 라벨은 그 차이를 숨길 수 있지만, 짧은 설명은 사용자가 위험을 평가하도록 돕습니다.

법 집행 용도에 대한 예외도 정의된 조건 아래 존재합니다. 이는 민간 조사, 기업 보안 또는 정치적 커뮤니케이션에 대한 일반적 면제를 만들지 않습니다. 조직은 좁은 법정 문구를 실제 범위 이상으로 확장하지 않도록 주의해야 합니다.

핵심적인 회의적 질문은 관객이 점점 늘어나는 라벨 용어를 이해할 수 있느냐는 것입니다. 아이콘, 고지문, 출처 패널이 너무 많으면 고지 피로가 발생할 수 있습니다. 모든 저위험 편집에 사칭과 같은 경고가 붙으면 사람들은 주의를 기울이지 않을 수 있습니다.

따라서 비례적인 구현이 필수적입니다. 법은 일반 편집과 상당한 합성 변경을 구분하고 창의적 작업물을 다르게 취급합니다. 기업은 모든 AI 지원 자산에 하나의 경고성 배너를 적용하는 대신 이러한 구분을 보존해야 합니다.

명확한 범주는 신뢰를 높일 수 있습니다. 지나치게 광범위한 라벨은 이를 약화시킬 수 있습니다. 포괄성이 부족한 라벨은 사용자를 오도하고 집행 조치를 불러올 수 있습니다. 구현 과제는 이 두 실패 사이에 놓여 있습니다.

이제 기업에는 단순한 AI 배지가 아니라 증거가 필요하다

신뢰할 수 있는 준수 프로그램은 제품 설계, 콘텐츠 출처, 편집 검토, 게시 기록을 연결해야 한다.

첫 번째 과제는 인벤토리입니다. 기업은 EU에서 제공되는 대화형 AI 시스템, 생성형 도구, 감정 인식 제품, 생체정보 분류 시스템, 전문 게시 워크플로를 식별해야 합니다.

“AI 기능”의 일반적인 목록만으로는 충분하지 않습니다. 팀은 각 시스템을 누가 제공하는지, 누가 배포하는지, 어떤 콘텐츠를 생성하는지, 사람들이 언제 그 출력을 접하는지를 매핑해야 합니다.

두 번째 과제는 분류입니다. 조직은 직접적인 AI 상호작용과 명백한 자동화를, 일상적 편집과 상당한 생성 작업을, 공익 게시와 기타 텍스트를 구분해야 합니다. 또한 법의 딥페이크 정의에 해당하는 콘텐츠를 식별해야 합니다.

이러한 분류에는 책임자가 있어야 합니다. 제품 팀은 인터페이스를 이해하고, 보안 팀은 기술적 통제를 이해하며, 편집 팀은 게시 책임을 이해하고, 법무 팀은 규제를 해석합니다. 어느 한 팀도 혼자서 이 작업을 완수할 수 없습니다.

세 번째 과제는 구현입니다. 대화형 시스템에는 적시에 안내문이 필요합니다. 생성기에는 적절한 기계 판독 가능 표지가 필요합니다. 게시 시스템에는 지원되는 형식과 채널 전반에 계속 부착되는 가시적 라벨이 필요합니다.

개발자는 깨끗한 원본 출력뿐 아니라 일반적인 변환도 테스트해야 합니다. 원래 애플리케이션 안에서는 유지되지만 표준 내보내기 후 사라지는 표지는 보호 효과가 제한적입니다. 테스트에는 크기 조정, 압축, 스크린샷, 트랜스코딩, 플랫폼 업로드가 포함되어야 합니다.

네 번째 과제는 예외 거버넌스입니다. 팀이 인간 검토에 의존한다면 검토 기준을 정의하고 누가 편집 책임을 수용했는지 기록해야 합니다. 기능을 표준 편집으로 취급한다면 출력이 왜 의미를 상당히 변경하지 않는지 문서화해야 합니다.

다섯 번째 과제는 모니터링입니다. 콘텐츠 형식, 모델, 회피 기법은 변합니다. 2026년 8월에 기술적으로 실현 가능한 표지 방식이라도 플랫폼이나 공격자가 이를 안정적으로 제거하는 법을 익힌 뒤에는 부적절해질 수 있습니다.

조직은 사고 대응 절차도 마련해야 합니다. 누락된 라벨은 제품 결함, 지원되지 않는 내보내기, 게시 실수 또는 고의적 제거 때문에 발생할 수 있습니다. 이러한 시나리오에는 서로 다른 대응이 필요합니다.

플랫폼은 특히 중요한 역할을 합니다. 업로드 과정에서 인정되는 출처 데이터를 보존하고, 콘텐츠 가까이에 라벨을 표시하며, 내부 변환 과정에서도 신호를 유지할 수 있습니다. 또한 기만적인 합성 미디어를 신고할 수 있는 채널을 제공할 수 있습니다.

그러나 제50조가 무차별적인 자동 삭제의 구실이 되어서는 안 됩니다. 라벨은 주로 투명성 신호입니다. 기초 콘텐츠가 금지되는지는 다른 법률과 플랫폼 정책이 결정합니다.

조달 팀은 공급업체에 구체적인 질문을 해야 합니다. 시스템은 직접적인 AI 상호작용을 고지하는가? 어떤 출력 형식에 기계 판독 가능 표지가 포함되는가? 어떤 변환이 이를 보존하는가? 공급업체는 표지 기술의 변경 사항을 어떻게 문서화하는가?

또한 공급업체가 규약에 서명했는지와 어떤 섹션에 참여했는지도 물어야 합니다. 서명은 인정되는 구조를 제공하지만, 구매자는 구입한 제품이 관련 약속을 이행한다는 증거도 필요합니다.

계약 문구는 책임을 명확히 할 수 있습니다. 제공자와 고객은 어느 쪽이 가시적 라벨을 추가하고, 메타데이터를 보존하며, 장애를 조사하고, 준수 문서를 제공하는지 정의해야 합니다. 콘텐츠가 여러 공급업체를 거칠 때 모호성은 위험합니다.

소규모 조직은 다른 과제에 직면합니다. 전담 AI 거버넌스 팀이 없을 수 있지만, 고객 봇과 마케팅 워크플로는 여전히 적용 범위에 들어갈 수 있습니다. 제한된 프로그램은 가장 위험도가 높은 인터페이스와 현실적인 합성 미디어를 우선해야 합니다.

가장 유용한 통제 수단은 흔히 공개 전 검토 절차다. 적용 대상 자료가 공개되기 전에 시스템은 라벨 결정, 검토자, 그리고 원본 자산 기록을 요구해야 한다. 이는 정책을 운영상의 점검 단계로 전환한다.

기업은 완벽한 탐지를 약속해서는 안 된다. 현재 도구들은 그러한 주장을 뒷받침하지 못한다. 대신 명확히 정의된 표시 관행, 문서화된 한계, 그리고 신호가 실패했을 때의 대응을 약속해야 한다.

바로 이 지점에서 EU의 접근 방식이 시장을 바꾼다. 투명성은 기업 웹사이트의 포괄적인 윤리 선언이 아니라, 구매자가 검증할 수 있는 제품 요건이 된다.

규칙의 실효성을 보여줄 세 가지 신호

다음 단계는 집행의 일관성, 표시의 내구성, 그리고 이용자가 실제로 공지를 이해하는지에 달려 있다.

첫 번째 신호는 국가별 집행이다. 관할 당국은 불충분한 고지, 취약한 표시, 예외 조항에 대한 의심스러운 의존을 어떻게 해석하는지 보여줘야 한다. 초기 사례는 EU가 회원국 전반에서 제50조를 일관되게 적용하는지 드러낼 것이다.

일관된 조치는 규제의 핵심 약속을 강화할 것이다. 기업은 하나의 지역 단위 준수 방식을 구축할 수 있고, 사용자는 유사한 공지를 접하게 된다. 해석이 엇갈리면 비용이 늘어나고, 기업은 가장 요구 수준이 낮은 당국에 맞춰 최적화하려 할 것이다.

가장 시사적인 집행 사례는 극적인 정치 딥페이크뿐 아니라 일반적인 상업용 시스템과 관련될 것이다. 고객 서비스 봇, 합성 광고, 자동화된 출판물, 직장 분석 도구는 규칙이 일상적인 제품을 얼마나 폭넓게 형성하는지 보여줄 것이다.

두 번째 신호는 기술적 내구성이다. 제공업체와 플랫폼은 지원되는 표시가 일반적인 작업 흐름을 거쳐도 유지된다는 점을 입증해야 한다. 독립적인 테스트는 내보내기, 압축, 소셜 업로드, 스크린샷, 오디오 변환, 중간 수준의 편집을 검토해야 한다.

내구성이 개선되면 기계 판독 가능한 출처 정보의 필요성이 더욱 설득력을 얻을 것이다. 지속적인 실패는 눈에 보이는 라벨, 플랫폼 기록, 계정 수준의 집행에 더 큰 비중을 두게 만들 것이다. 또한 라벨이 없는 콘텐츠를 진짜로 취급할 수 없다는 점도 확인해 줄 것이다.

제공업체의 시연만이 아니라 상호운용성에 주목해야 한다. 관련 없는 서비스도 탐지할 수 있을 때 표시의 공적 가치는 더 커진다. 폐쇄형 시스템은 개별 제공업체에는 도움이 될 수 있지만, 공동의 정보 계층을 만들지는 못한다.

세 번째 신호는 이용자 이해도다. EU는 선택적 아이콘을 도입했지만, 사용자는 이를 빠르고 정확하게 이해해야 한다. 테스트는 사람들이 AI의 개입을 인식하고 완전히 생성된 콘텐츠와 부분적으로 수정된 콘텐츠를 구분하는지 측정해야 한다.

높은 이해도는 공통 기호의 더 폭넓은 채택을 뒷받침할 것이다. 혼란은 플랫폼이 더 명확한 텍스트 라벨과 맥락에 맞는 설명을 제공하도록 만들 것이다. 공지 피로는 위험도에 따라 라벨의 우선순위를 더 강하게 정할 필요가 있음을 시사할 것이다.

이 신호들은 함께 평가해야 한다. 모든 내보내기 과정에서 사라지는 표시를 강력한 집행만으로는 구제할 수 없다. 공지를 보거나 이해하지 못하는 사람에게는 내구성 있는 출처 정보도 도움이 되지 않는다.

마찬가지로, 아이콘을 완벽하게 인식한다고 해서 고의적인 회피 문제가 해결되지는 않는다. 플랫폼과 당국에는 여전히 기만적 유통을 조사하고 제거된 라벨에 관한 증거를 보존할 수 있는 메커니즘이 필요하다.

지식 노동자에게 당장의 교훈은 실용적이다. AI 출처 라벨은 진실성 점수가 아니라 유용한 맥락으로 취급해야 한다. 발행자, 근거가 되는 증거, 게시일, 그리고 책임 있는 사람이 해당 자료를 검토했는지를 확인해야 한다.

개발자에게 중요한 질문은 투명성이 전체 사용자 여정에서 유지되는지다. 생성 인터페이스 안의 공지는 파일이 공개 유통될 때 따라가지 않는다. 준수는 생성과 유통을 모두 포괄해야 한다.

기업 구매자에게는 이제 공급업체 주장이 운영상의 증거를 요구한다. 지원 형식, 보존 테스트, 예외 적용 논리, 사고 대응 절차를 물어야 한다. 장식적인 AI 배지로는 이러한 질문에 답할 수 없다.

따라서 The Verge Europe 보도는 또 다른 입법 표결이 아니라 시행 과정을 통해 전개될 것이다. 규칙은 이미 시행 중이지만, 그 공적 가치는 첫 번째 라벨이 부착된 뒤 어떤 일이 벌어지는지에 달려 있다.

콘텐츠가 이동할 때 플랫폼은 이러한 신호를 보존할 것이며, 당국은 아무도 볼 수 없는 라벨에 의존하는 기업에 이의를 제기할 것인가? 앞으로 3개월 동안 주목할 만한 시험대는 바로 이것이다. 독자는 공지를 하나의 증거 계층으로 활용하되, 누가 콘텐츠를 만들었는지, 누가 검토했는지, 그리고 누가 그 주장을 책임지는지를 계속 물어야 한다.