정치 콘텐츠 제작비가 낮아지는데 South Carolina의 AI 캠페인 규정은 뒤처져

생성형 AI가 2026년 선거 주기에서 중요한 영향력으로 부상했지만 South Carolina의 AI 캠페인 규정은 여전히 정립되지 않았다. 이제 캠페인은 더 적은 인력과 비용으로 메시지를 작성하고, 유권자 데이터를 분석하며, 디지털 미디어를 제작할 수 있다. 이러한 효율성은 전문적인 캠페인 도구에 대한 접근성을 넓히지만, 동시에 합성 정치 콘텐츠를 더 쉽게 만들고 더 어렵게 평가하게 한다.

이제 쟁점은 단순히 AI를 사용하는 캠페인과 사용하지 않는 캠페인 사이의 문제가 아니다. 저렴한 정치적 표현과, 누가 메시지를 만들었는지, 무엇이 변경됐는지, 후보자가 유권자가 보는 내용을 실제로 말했는지를 알 수 있게 하는 신뢰할 만한 신호 사이의 문제다.

South Carolina 주의회는 기만적 딥페이크를 다루는 법안을 통해 제한적인 해법을 검토했다. 그러나 선거 시즌이 본격화되기 전에 이 제안은 진전되지 못했다. 한편 National Conference of State Legislatures에 따르면, 2026년 6월까지 31개 주가 정치적 딥페이크 관련 법을 제정했다.

그 결과 South Carolina의 캠페인, 유권자, 언론사, 플랫폼은 AI 생성 정치 미디어를 위해 설계된 포괄적인 주 차원의 틀 없이 활동하고 있다. 기존 법률은 특정 상황에서 여전히 적용되지만, 합성 캠페인 콘텐츠에 관한 보편적 공개 고지 규칙을 만들지는 않는다.

이 보고서는 제정된 법률과 계류 중인 제안, 자율적 관행을 구분한다. 입법 세부 사항은 상태 이력과 법안 문구를 포함해 South Carolina General Assembly의 H. 3517 공식 기록을 기준으로 확인했다. 연방 관련 주장은 Federal Election Commission, Federal Communications Commission, U.S. Supreme Court에 귀속한다. 개별 캠페인 사례는 모든 캠페인이 AI를 동일한 방식으로 사용한다는 증거가 아니라 보도된 사례로 제시한다.

AI는 캠페인 실험에서 캠페인 인프라로 이동했다

가장 즉각적인 변화는 운영 측면에 있다. AI는 유권자가 보는 정치 광고뿐 아니라 일상적인 캠페인 업무에도 영향을 미친다.

생성형 AI는 지시를 바탕으로 새로운 텍스트, 이미지, 오디오 또는 영상을 만드는 소프트웨어를 뜻하며, 여러 캠페인 업무 흐름을 단축할 수 있다. 직원들은 이를 활용해 보도자료 초안을 작성하고, 소셜 게시물의 여러 버전을 만들고, 조사를 요약하거나, 초기 디자인을 제작할 수 있다.

Coastal Carolina University의 정치학 교수 Gibbs Knotts는 최근 WBTV 캠페인 보도에서 이러한 광범위한 도입을 설명했다. 그는 AI가 캠페인 전략, 분석, 보도자료 작성의 일부가 되고 있다고 말했다. 그의 발언은 South Carolina의 모든 선거구에서 AI 사용을 포괄적으로 측정한 결과가 아니라 관찰된 캠페인 관행을 설명한다.

이는 정치 기술이 좀처럼 하나의 쉽게 규제할 수 있는 형태로 등장하지 않기 때문에 중요하다. 캠페인은 비공개로 언어 모델을 사용해 연설문 개요를 작성할 수 있다. 반면 실제로 일어나지 않은 행사에서 상대 후보를 묘사한 AI 생성 이미지를 공개할 수도 있다.

이러한 활동은 관련 기술을 사용하지만 매우 다른 위험을 만든다. 전자는 일반적인 생산성 소프트웨어와 유사하다. 후자는 유권자가 실제 인물에 대해 믿는 내용을 바꿀 수 있다.

캠페인은 더 많은 채널을 위해 더 많은 자료를 제작해야 한다는 압박도 받는다. 하나의 발표는 이메일, 기부 요청, 영상 대본, 이미지, 전단지, 여러 소셜 게시물로 바뀔 수 있다. AI는 이러한 변형을 만드는 데 필요한 노동을 줄인다.

이 장점은 특히 지역 및 하위 선거 후보에게 의미가 크다. 규모가 작은 캠페인에는 전담 연구원, 디자이너, 영상 편집자, 커뮤니케이션 컨설턴트가 없을 수 있다. AI 시스템은 과거 여러 전문가가 필요했던 업무에 저렴한 출발점을 제공할 수 있다.

Georgia주의 한 주의회 후보는 2024년 선거 주기에서 실질적인 사례를 제시했다. 그의 캠페인은 AI 생성 기사, 가상의 이미지, 그의 목소리를 복제한 버전을 사용했다. 이 후보는 Associated Press에 시간 절약 덕분에 더 많은 유권자를 만날 수 있었다고 말했다.

같은 사례는 대가도 드러냈다. 그의 상대 후보는 AI 생성 커뮤니케이션이 유권자가 후보에게 기대하는 진정성을 약화시켰다고 주장했다. 이견은 해당 기술이 작동했는지에 관한 것이 아니었다. 정치 커뮤니케이션이 무엇을 나타내야 하는지에 관한 것이었다.

유권자에게 그 실질적 차이를 알아보기는 어려울 수 있다. AI 글쓰기 보조 도구로 다듬은 캠페인 이메일은 직원이 편집한 이메일과 다르게 보이지 않을 수 있다. 영상 속 복제된 목소리는 시청자가 후보자가 그 말을 녹음했다고 합리적으로 믿을 수 있으므로 훨씬 더 중대한 문제가 될 수 있다. 공개 고지가 없다면, 수용자는 완성된 자료만으로 이러한 업무 흐름을 신뢰성 있게 구분할 수 없다.

캠페인 실무자는 또 다른 실질적 차이를 보게 된다. AI를 사용해 승인된 정책 문서를 소셜 게시물 초안 세 개로 바꾸는 경우에는 비교할 원본 출처가 여전히 남아 있다. 상대 후보가 결코 하지 않은 말을 하는 것처럼 보이는 사실적인 녹음을 생성하는 경우에는 확인할 진본 녹음이 없다. 따라서 두 번째 업무 흐름에는 일반적인 초안 작성 지원보다 더 엄격한 공개 고지와 승인 통제가 필요하다.

이 때문에 South Carolina의 정치 AI를 딥페이크 문제로만 다룰 수는 없다. 그 사용 상당수는 일상적이고 눈에 띄지 않으며 잠재적으로 유익하다. 캠페인은 기만적 미디어를 공개하지 않고도 내부 과정 전반에서 AI를 사용할 수 있다.

그러나 일상적 도입은 대규모 공개 콘텐츠를 생성할 역량을 구축한다. 동일한 도구가 사실적인 목소리, 얼굴, 사건을 만들어낼 수 있게 되면 지원과 사칭의 경계는 정치적으로 중요해진다.

핵심 구분은 캠페인이 어디선가 AI를 사용했는지가 아니다. 유권자가 결과물인 메시지를 판단하는 데 필요한 맥락을 받는지 여부다.

더 저렴한 제작은 소규모 캠페인과 그 공격자 모두에게 도움이 된다

AI는 정치 참여 비용을 낮추지만, 오해를 부르는 자료로 선거전을 넘쳐나게 하는 비용도 낮춘다.

정치 캠페인은 언제나 불균등한 자원에 의존해 왔다. 자금이 풍부한 후보는 컨설턴트를 고용하고, 여론조사를 의뢰하고, 광고를 시험하며, 공격에 신속히 대응할 수 있다. 지역의 도전자는 종종 자원봉사자와 제한적인 언론 보도에 의존한다.

생성형 AI는 이러한 운영 격차의 일부를 줄인다. 후보는 이를 이용해 메시지를 구상하고, 자료를 번역하고, 오디오를 정리하거나, 그래픽 초안을 만들 수 있다. 사람의 검토는 여전히 필수지만, 초기 제작 부담은 낮아진다.

이는 정치적 경쟁을 개선할 수 있다. 소규모 캠페인은 더 일관되게 소통하거나, 직원 시간을 유권자 만남에 더 투입할 수 있다. 이 기술은 디자인, 글쓰기, 영상 경험이 제한적인 사람도 더 완성도 높은 형식으로 아이디어를 표현하도록 도울 수 있다.

하지만 접근성은 양방향으로 작용한다. 허위 클립을 만드는 사람은 이전의 정교한 조작 방식에 필요했던 것보다 더 적은 기술 역량, 시간, 예산만으로도 이를 만들 수 있다.

딥페이크는 실제로 일어나지 않은 사건이나 발언을 사실적으로 묘사하는 합성 이미지, 녹음, 영상이다. 이는 AI 지원 설득의 한 범주일 뿐이다. 오해를 부르는 콘텐츠는 실제 영상, 생성된 내레이션, 선택적 편집, 허위 자막을 결합할 수도 있다.

조작된 영상은 모든 시청자를 속일 필요가 없다. 결정적인 시점에 소수의 수용자에게 도달하거나, 캠페인이 이를 부인하는 데 시간을 쓰게 하거나, 진본 증거에 대한 불확실성을 심는 것만으로도 성공할 수 있다.

위험은 주목도가 낮은 선거에서 더 커진다. 전국 단위 후보는 기자, 팩트체커, 상대 진영 조사원, 대규모 커뮤니케이션 팀의 관심을 받는다. 카운티나 주의회 후보에게는 이런 방어 수단이 전혀 없을 수 있다.

하위 선거 캠페인에 대한 Associated Press 보도는 저렴한 AI 도구가 후보의 캠페인 운영을 도울 수 있음을 보여줬다. 동시에 소규모 캠페인은 AI 생성 허위 정보에 대응하는 데 어려움을 겪을 수 있다는 점도 확인했다.

2022년 Shreveport 시장 선거는 초기 경고를 제공했다. 한 정치 위원회는 현직 시장 Adrian Perkins를 겨냥한 조작 미디어를 사용했다. Associated Press에 따르면 해당 콘텐츠에는 라벨이 붙어 있었지만, Perkins는 자신의 캠페인에 효과적으로 대응할 자원이 부족했다고 말했다.

따라서 실제로 공개 고지 하나만으로는 피해가 자동으로 사라지지 않는다. 유권자는 원래 라벨이 잘린 화면 캡처를 보거나, 안내 문구가 빠진 짧은 재게시물을 시청하거나, 원래 맥락 없이 비공개 그룹에서 공유된 사본을 접할 수 있다. 명확한 라벨은 책임성을 높일 수 있지만 모든 인상을 되돌릴 수는 없다.

지역 언론사는 이와 관련된 검증 문제에 직면하게 된다. 논쟁이 된 클립을 삽입하기 전, 기자들은 가장 이른 시점에 공개된 업로드를 찾아내고, 묘사된 캠페인 측에 연락하며, 출처 데이터가 있는지 검토하고, 이를 확산시키지 않으면서 어느 정도까지 보여줄 수 있는지 판단해야 한다. 소규모 언론사는 해당 클립이 이미 단체 채팅과 소셜 피드에서 퍼지는 동안 이 업무를 수행해야 할 수 있다.

선거 관리 기관은 훨씬 더 즉각적인 형태의 문제에 직면할 수 있다. 합성 녹음이 투표소가 폐쇄됐다고 유권자에게 거짓으로 알린다면, 관계자들은 웹사이트, 소셜 계정, 지역 언론, 전화선을 통해 그 주장을 바로잡아야 한다. 라벨이 없는 사본이 이미 유통 중이라면 원본 녹음에 붙은 라벨은 거의 도움이 되지 않는다.

속도는 문제를 가중시킨다. 캠페인은 상대나 언론사가 검증을 마치기 전에 여러 메시지 변형을 생성하고 배포할 수 있다. 정정이 나올 때쯤 원래 콘텐츠는 이미 의도한 수용자에게 도달했을 수 있다.

이러한 비대칭성은 South Carolina의 AI 캠페인 규정을 캠페인 창의성을 제한하는 문제 이상으로 만든다. 정책 입안자들은 합성 콘텐츠가 혼란을 일으킬 때 누가 부담을 져야 하는지 결정해야 한다.

규칙은 의무적 라벨을 통해 발화자에게 그 부담을 지울 수 있다. 묘사된 후보에게 신속히 법원에 갈 수 있는 경로를 제공할 수도 있다. 플랫폼에는 미디어가 어디에서 비롯됐고 어떻게 변경됐는지에 관한 기록인 출처 정보를 보존하도록 요구할 수 있다.

각 접근법에는 서로 다른 집행 비용과 표현의 자유 관련 우려가 따른다. 아무 조치도 하지 않는 것 역시 비용을 배분하는 일이다. 의심스러운 자료가 이미 유통된 뒤 유권자, 언론인, 선거 관리 공무원, 표적이 된 캠페인에 더 큰 책임을 지운다.

South Carolina의 AI 캠페인 규정은 공개 고지 단계에서 멈췄다

South Carolina의 주요 제안은 AI 지원 캠페인 발언을 전면 금지하기보다 기만적 미디어에 라벨을 붙이는 방식을 택했다.

House Bill 3517은 2024년 12월 사전 제출됐고, 2025년 1월 발의되어 House Judiciary Committee에 회부됐다. South Carolina General Assembly의 H. 3517 공식 기록은 2025~2026년 회기 중 2025년 1월 14일 회부 이후 입법 조치가 없었다고 기재한다. 이 법안은 법률로 진전되지 않았으므로, 여기서는 그 조항을 현행 법적 요건이 아닌 제안으로 설명한다.

이 법안은 후보자를 기만적으로 재현한 합성 표현에 초점을 맞췄다. 합성 미디어는 조작되거나 생성된 이미지, 오디오 또는 영상으로서 사실적이지만 허위의 묘사를 만들어내는 것으로 정의했다.

선거 90일 이내에 이 제한이 적용됐을 것이다. 누군가 해당 콘텐츠가 투표용지에 오른 후보를 기만적으로 묘사한다는 사실을 알았거나 알았어야 했던 경우, 배포가 금지됐을 것이다.

그러나 이 제안에는 중요한 예외가 있었다. 이미지, 동영상 또는 오디오가 조작됐거나 인공지능으로 생성됐다는 내용을 담은 문구가 포함된 경우에는 배포를 계속할 수 있었다.

필수 고지는 동영상 전체 재생 동안 계속 표시되도록 설계됐다. 오디오 고지는 시작과 끝에 표시되고, 긴 녹음물에서는 2분을 넘지 않는 간격으로 반복 고지가 나왔을 것이다.

H. 3517은 묘사된 후보자에게 가능한 민사 구제수단도 부여했다. 후보자는 게시를 중단시키기 위한 금지명령을 청구하고, 후원자를 상대로 일반손해배상 또는 특별손해배상을 청구할 수 있었다.

형사 처벌도 포함됐다. 법안 문구에 따르면 첫 위반은 최대 90일의 구금, 최대 500달러의 벌금 또는 두 처벌 모두가 가능한 경범죄 혐의로 이어질 수 있었다. 5년 이내의 두 번째 위반은 최대 5년의 징역, 최대 1,000달러의 벌금 또는 두 처벌 모두가 가능한 중범죄로 처리될 수 있었다.

이 조항들은 이 제안이 사우스캐롤라이나주의 일반적인 정치 AI 법보다 범위가 좁았음을 보여준다. 이 법안은 선거 전략, AI 보조 조사, 일반적인 카피라이팅 또는 생성된 모든 이미지를 규제하지 않았다.

제한된 선거 기간 동안 후보자를 기만적으로 묘사하는 행위를 겨냥했다. 그 경우에도 요건을 충족한 고지가 있다면 배포가 허용될 수 있었다.

법안은 풍자 또는 패러디, 그리고 특정 뉴스, 다큐멘터리, 방송 및 정기간행물 용도에 대한 예외도 명시했다. 이 예외들은 보도나 명백한 정치 풍자를 자동으로 불법으로 취급하지 않으면서 기만적인 후보자 묘사를 다루도록 제안이 작성됐다는 점에서 중요하다.

이 구조는 더 광범위한 주 차원의 흐름을 반영한다. 고지 규칙은 유권자에게 메시지가 어떻게 만들어졌는지에 대한 정보를 제공하면서 정치적 표현을 보존하려 한다. 또한 정부가 모든 정치적 주장의 진실 여부를 판단하도록 요구하는 일도 피한다.

법안이 진전을 이루지 못했다는 것은 사우스캐롤라이나주가 이러한 전용 체계 없이 2026년 후반 선거운동 기간에 진입했다는 의미다. 이러한 부재가 사기, 유권자 억압, 명예훼손 또는 모든 형태의 사칭을 합법화하는 것은 아니다.

대신 집행은 다른 행위를 위해 제정된 법률에 의존하게 된다. 그러한 법률은 유해한 행위를 다룰 수 있지만, AI 생성 정치 미디어에 대한 일관된 표기를 확립하지는 못할 수 있다.

이 구분은 유권자에게 중요하다. 기만적인 자동전화는 통신 또는 유권자 보호 규칙을 위반할 수 있다. 허위 광고는 민사 청구의 근거가 될 수 있다. 그러나 합법적인 합성 콘텐츠는 AI 고지 없이도 계속 유통될 수 있다.

따라서 사우스캐롤라이나주 입법자들은 다음 선거 주기 전에 콘텐츠별 규칙이 필요한지 결정해야 한다. 또한 정치 자료가 수년간 온라인에 남을 수 있는 상황에서 90일의 기간이 충분한지도 판단해야 한다.

제안된 정의는 다시 검토할 필요가 있을 수 있다. 이 정의는 합성 미디어를 생성하는 데 사용되는 한 가지 방법인 생성적 적대 신경망을 언급하면서 “기타 디지털 기술”도 포함했다. 더 새로운 많은 시스템은 확산 모델이나 다른 기술적 접근법에 의존한다.

특정 방법에 지나치게 밀접하게 연결된 법안은 빠르게 시대에 뒤처질 위험이 있다. 기술 중립적인 정의는 일상적인 편집까지 포괄하지 않을 만큼 충분히 정밀성을 유지하면서, 결과적으로 발생하는 기만과 실질적 변경에 초점을 맞출 수 있다.

고지는 중간 경로를 제시하지만, 완전한 방어책은 아니다

핵심 정책적 절충점은 투명한 정치적 표현과 풍자, 비판, 정당한 제작 도구를 위축시킬 만큼 광범위하지 않은 규칙 사이에 놓여 있다.

고지는 기만적인 AI 선거 미디어에 대한 가장 일반적인 주 차원의 대응이 됐다. 모든 합성 메시지를 금지하는 대신, 주들은 콘텐츠가 AI를 사용해 생성되거나 변경됐다는 점을 설명하는 고지를 요구한다.

2026년 6월 23일 기준으로, 전국주입법회의는 31개 주가 정치적 딥페이크를 규제하는 법률을 제정했다고 보고했다. 해당 주 정책 추적기는 제한적 금지와 고지 요건이라는 두 가지 광범위한 모델을 식별했다.

NCSL 검토에 따르면 미네소타주와 텍사스주는 특정 기만적 미디어에 대해 기간이 제한된 금지를 적용한다. 메릴랜드주는 연중 금지를 적용하며, 나머지 28개 주는 주로 고지에 의존한다.

이러한 패턴은 헌법적 압력을 반영한다. 정치적 표현은 과장되거나 거칠거나 허위인 일부 표현을 포함해 강력한 수정헌법 제1조 보호를 받는다. *United States v. Alvarez*, 567 U.S. 709 (2012)에서 미국 연방대법원은 허위 진술이 수정헌법 제1조의 보호 범위에서 완전히 벗어난다는 주장을 받아들이지 않았다. 이 판결은 AI나 선거 딥페이크를 다루지 않았으며, 모든 딥페이크 제한이 위헌이라는 점을 확립한 것도 아니다. 다만 허위 정치적 표현에 대해 광범위하게 작성된 제한은 헌법적 심사를 받을 수 있는 이유를 보여준다.

풍자는 명백한 경계 문제를 만든다. 분명히 희극적인 이미지는 정치적 주장을 전달하기 위해 후보자를 가상의 장면에 배치할 수 있다. 이를 기만적 사칭과 동일하게 취급하면 보호받는 논평까지 선거법의 적용 대상으로 끌어들일 수 있다.

다큐멘터리와 뉴스 보도도 다른 복잡성을 야기한다. 언론인은 조작된 콘텐츠가 왜 허위인지 설명하면서 이를 보여줄 필요가 있을 수 있다. 실효성 있는 규칙은 선거 광고주를 위한 허점을 만들지 않으면서 예외를 마련해야 한다.

고지는 주가 게시 전에 정치 메시지를 승인하도록 요구하지 않기 때문에 매력적이다. 이는 기존 선거운동 고지가 광고 비용을 누가 부담했는지 식별하는 것처럼, 발화자에게 합성 자료임을 식별하도록 요청한다.

그러나 표기의 효과는 제각각이다. 작은 글씨, 짧은 고지 또는 모호한 문구는 기술적으로 존재하면서도 실질적으로는 눈에 띄지 않을 수 있다. 오디오와 동영상은 이용자가 소비하는 방식이 다르므로 서로 다른 기준이 필요하다.

재게시도 또 다른 약점이다. 누군가 이미지를 스크린샷으로 찍거나, 동영상을 잘라내거나, 녹음물의 일부만 업로드하면 고지가 사라질 수 있다. 플랫폼이 메타데이터를 제거할 수도 있다.

예를 들어 유권자는 선거운동의 원본 광고가 아니라 세로형 소셜미디어 재게시물로 합성 동영상을 처음 접할 수 있다. 계정이 프레임의 아래쪽 부분을 잘라내면 그곳에 배치된 고지는 사라질 수 있다. 이후 같은 유권자가 비공개 메시지에서 해당 클립의 정지 이미지를 본다면, 원래 표기와 출처 계정 모두 더 이상 보이지 않을 수 있다.

디지털 출처 시스템은 파일의 출처와 편집 이력에 관한 정보를 보존할 수 있다. 이 데이터는 플랫폼과 언론인이 미디어를 평가하는 데 도움이 될 수 있지만, 일반 시청자가 이를 확인한다는 보장은 없다.

따라서 회복력 있는 정책에는 눈에 보이는 고지와 기계 판독 가능한 출처 정보가 모두 필요할 수 있다. 눈에 보이는 고지는 유권자를 위한 것이고, 내장된 정보는 검증과 플랫폼 처리를 지원한다.

그 조합조차 메시지의 근본적인 정치적 주장이 정직한지 판단할 수는 없다. 허위 캡션이 붙은 실제 사진은 생성된 픽셀을 포함하지 않고도 오해를 불러일으킬 수 있다. 합성 재연은 실제 영상인 척하지 않으면서도 기록된 사건을 전달할 수 있다.

따라서 규칙은 실제 인물의 외모, 행동 또는 발언과 관련된 실질적 기만에 초점을 맞춰야 한다. 허위정보 전체를 제거하겠다고 약속해서는 안 된다.

선거운동 조직에도 내부 통제가 필요하다. 생성된 초안은 원본 출처, 사람의 승인 및 게시 기록과 연결된 상태로 유지돼야 한다. 신뢰할 수 있는 정보 수집은 팀이 분리된 AI 출력에 의존하는 대신 이러한 참조 자료를 보존하는 데 도움이 될 수 있다.

실무적으로 이는 원본 녹음물, 프롬프트 또는 편집 지침, 직원의 승인, 최종 내보낸 파일을 보관하는 것을 의미할 수 있다. 나중에 음성이나 장면에 이의가 제기되면 선거운동 조직은 무엇이 생성됐고 누가 게시를 승인했는지 보여주는 추적 가능한 기록을 보유하게 된다.

유용한 기준은 제작팀 외부의 누군가가 메시지를 재구성할 수 있는지 여부다. 합성 동영상의 경우 기록에는 원본 영상, 생성된 요소, 사실 참조 자료, 편집자, 승인 담당자, 고지 문구 및 게시 시간이 식별돼야 한다. 선거운동 조직이 이 연결고리를 제시하지 못하면, 언론사나 규제기관이 오류와 의도적 사칭을 구분할 수 있는 증거도 줄어든다.

이 관행은 법을 대체하지 않는다. 다만 피할 수 있는 오류를 줄이고, 메시지가 어떻게 만들어졌는지에 대한 의문이 제기될 때 선거운동 조직에 증거를 제공한다.

사우스캐롤라이나주에서 고지는 H. 3517에서 검토된 가장 명확한 중간 경로로 남아 있다. 어려운 과제는 어떤 콘텐츠에 표기가 필요한지, 그 표기가 얼마나 눈에 띄어야 하는지, 재배포 후에도 누가 책임을 지는지를 정의하는 데 있다.

연방 규칙은 문제의 일부를 다룬다

기존 연방 권한은 특정 행위를 다루지만, AI 생성 정치 광고 모두에 적용되는 보편적 표기를 제공하지는 않는다.

연방선거위원회는 2024년에 더 광범위한 AI 선거운동 광고 규칙을 만들라는 요청을 검토했다. 위원회는 요청된 규칙 제정을 시작하지 않기로 결정했다.

대신 위원회는 사기적 허위 진술에 대한 기존 연방 제한이 사용된 기술과 무관하게 적용될 수 있다고 설명하는 해석을 발표했다. 이 규칙은 후보자 또는 정당을 대신해 발언하거나 행동한다고 거짓으로 주장하는 특정 상황을 다룬다.

FEC의 2024년 9월 해석은 52 U.S.C. § 30124 및 11 C.F.R. § 110.16이 기술 중립적이며 AI 보조 미디어를 통해 이뤄진 사기적 허위 진술에 적용될 수 있다고 명시한다. 이 기관은 개별 기술에 대해 사안별로 법령을 적용하겠다고 밝혔다. 이 권한은 기만적인 선거운동 미디어를 일반적으로 금지하는 것보다 범위가 좁으며, AI 생성 요소를 포함한 모든 연방 정치 광고에 AI 표기를 요구하지는 않는다.

이 구분은 연방 선거법이 많은 커뮤니케이션에 후원자 고지를 부과하기 때문에 중요하다. 이러한 고지는 유권자에게 메시지 비용을 누가 지불했는지 알려주지만, 음성, 이미지 또는 장면이 생성됐는지를 반드시 설명하지는 않는다.

연방통신위원회는 통화와 관련해 별도의 조치를 취했다. 2024년 2월, FCC는 AI 생성 음성이 전화소비자보호법상 인공 음성 또는 녹음된 음성에 해당한다고 판결했다.

FCC의 선언적 판결, *Implications of Artificial Intelligence Technologies on Protecting Consumers from Unwanted Robocalls and Robotexts*, CG Docket No. 23-362, FCC 24-17은 그러한 음성을 사용하는 통화가 TCPA의 기존 제한 범위에 포함된다고 확립했다. 이 조치는 당시 조 바이든 대통령과 유사한 AI 생성 음성이 사용된 뉴햄프셔 사건 이후 나왔으며, 주 법무장관들에게 특정 불법 자동전화에 대응할 또 다른 법적 경로를 제공했다.

이 판결은 모든 상황에서 모든 AI 생성 정치 전화를 금지하지는 않았다. 자동전화의 적법성은 동의, 목적 및 적용 가능한 법정 예외에도 좌우된다. 그럼에도 기존 법령이 새로운 기술적 수단에 적용될 수 있음을 보여줬다.

수신자 입장에서는 이러한 분절된 보호가 서로 다른 실질적 신호를 낳는다. 통화는 인공 음성을 사용한다는 이유로 규제될 수 있지만, 동일한 복제 음성을 포함한 온라인 동영상은 다른 연방, 주, 플랫폼 및 민사 규칙의 적용을 받을 수 있다. 기반 기술은 유사할 수 있지만, 집행 경로는 전달 채널에 따라 달라진다.

따라서 캠페인 준법팀은 배포 전에 최소 네 가지 별도 질문을 검토해야 한다. 해당 커뮤니케이션 비용을 누가 지불했는지, 다른 후보자나 정당을 대변한다고 허위로 주장하는지, 전달 방식이 통신 규정을 적용받는지, 그리고 주(州)의 합성 미디어 법률이 표기를 요구하는지다. 한 가지 기준을 통과했다고 해서 나머지 기준까지 준수한 것은 아니다.

이러한 분절된 접근 방식은 기관과 관할권 사이에 공백을 남긴다. FEC는 연방 선거자금 규제를 담당하며, 주 및 지방 선거 전반을 관할하지는 않는다. FCC는 통신 시스템을 관할하지만 모든 온라인 영상이나 이미지를 규제하지는 않는다.

따라서 주 선거법은 여전히 핵심적이다. 주 선거법은 주 및 지방 후보자 관련 커뮤니케이션을 다루고, 공시 형식을 명시하며, 신속한 구제를 위한 지역 절차를 제공할 수 있다.

하지만 주별 제도는 일관되지 않은 기준을 낳는다. 한 관할권에서는 표기 없이 합법인 선거 광고가 다른 곳에서는 특정 고지를 요구할 수 있다. 온라인 배포는 좀처럼 주 경계를 따르지 않는다.

플랫폼은 가장 엄격한 주 규칙을 전국적으로 적용할지, 고지를 지역별로 제공할지, 또는 관할권마다 다른 처리 절차를 마련할지 결정해야 한다. 소규모 캠페인도 변호사 수가 더 적을 뿐 동일한 준법 문제에 직면한다.

연방 차원의 기본 입법은 이러한 불일치를 줄일 수 있지만, 정당한 정치적 표현의 여지도 보존해야 한다. 또한 오해를 유발하는 사칭과 일상적인 편집, 무해한 생성형 지원을 구분해야 한다.

그때까지 사우스캐롤라이나는 이 같은 누더기식 체계 안에 놓여 있다. 현행법은 일부 유해 행위를 처벌할 수 있지만, 주는 합성 선거 미디어에 대한 포괄적인 공시 기준을 채택하지 않았다.

이 불확실성은 사건 발생 후의 집행에만 영향을 미치는 것이 아니다. 게시 전 캠페인 계획에도 영향을 준다. 팀들은 주법이 이를 명확히 요구하지 않더라도 무엇을 자발적으로 공개할지 결정해야 한다.

실무적인 캠페인은 표기 없는 합성 묘사가 평판 위험을 만든다고 가정해야 한다. 법적으로 허용된다고 해서 유권자의 수용, 플랫폼 배포, 또는 우호적인 언론 보도가 보장되는 것은 아니다.

자발적 표기는 입법자가 행동하기 전에 규범을 형성할 수 있다. 또한 표기가 제대로 작동하지 않는 지점을 드러내어, 정책 입안자에게 미래 기준을 위한 근거를 제공할 수도 있다.

다음 시험대는 규칙이 캠페인만큼 빠르게 움직일 수 있는지다

논쟁은 관찰 가능한 세 가지 전개, 즉 재개된 주 입법, 캠페인의 공시 관행, 기만적 콘텐츠 관련 집행 조치에 달려 있다.

첫째, 입법자들은 다른 주들의 사례에서 얻은 교훈을 바탕으로 사우스캐롤라이나의 AI 캠페인 규칙을 재검토할 수 있다. 향후 제안은 주로 단일 생성 방식을 기준으로 삼는 대신, 기만적 합성 미디어를 그 영향에 따라 정의할 수 있다.

재발의되는 법안에는 명확한 적용 범위도 필요하다. 입법자들은 규칙이 후보자에게만 적용되는지, 또는 선거 관리 공무원, 투표 안건, 그리고 투표를 억제하려는 목적으로 조작된 사건까지 포함하는지 결정해야 한다.

시기도 비슷한 수준의 검토가 필요하다. 90일의 기간은 피해가 가장 클 수 있는 선거 직전에 집행을 집중시킨다. 동시에 해당 자료가 투표 기간에도 온라인에 남아 있더라도, 더 이른 시점의 합성 콘텐츠는 이 전용 규칙의 적용 밖에 남게 된다.

입법자들이 공시 제안을 다시 도입한다면, 그 진행 상황은 주의회가 이 문제를 재고할 준비가 되어 있는지를 보여줄 것이다. 위원회 청문회는 집행상 우려, 기술적 정의, 헌법상 이의 제기를 공적 기록의 일부로 만들기도 한다.

둘째, 캠페인은 의무 규정이 생기기 전에 자발적 기준을 채택할 수 있다. 이러한 기준은 내부 지원과 공개적 사칭을 구분하고, 합성 미디어가 실제 인물을 사실적으로 묘사할 때 눈에 띄는 표기를 요구해야 한다.

관련된 척도는 얼마나 많은 캠페인이 AI를 책임 있게 사용한다고 말하는지가 아니다. 게시된 광고에 일반적인 공유 과정에서도 유지되는 일관되고 이해하기 쉬운 고지가 포함돼 있는지다.

캠페인은 생성된 장면이나 인용문 뒤에 있는 실제 원본 자료도 보존해야 한다. 특히 콘텐츠가 상대 후보의 발언이나 행동을 나타낼 때는, 게시 전에 사람이 주장을 검토해 확인해야 한다.

셋째, 집행은 현행법이 구체적 사건에서 어떻게 작동하는지를 드러낼 것이다. 선거 막판의 합성 공격은 콘텐츠, 발화자, 배포 방식 및 영향에 따라 명예훼손 규칙, 유권자 억제 법령, 선거자금 요건 또는 연방 통신법과 관련될 수 있다.

현행 절차가 적시의 구제를 제공하는지는 공식 집행 기록과 법원 판결을 통해서만 더 분명해질 것이다. 분쟁이 반복적으로 현행 법령의 적용 밖에 놓이거나 선거 기간의 피해를 해결하기에는 너무 느리게 진행된다면, 입법자들은 전용 규칙을 논의할 때 검토할 더 구체적인 근거를 갖게 될 것이다.

실제 분쟁은 기만과 명백한 패러디의 차이도 분명히 할 것이다. 법원, 선거 관리 공무원, 플랫폼은 서로 다른 결론에 이를 수 있으며, 이는 더 명확한 법정 기준에 대한 압력을 높일 수 있다.

유권자들은 콘텐츠만큼이나 표기를 주의 깊게 살펴봐야 한다. 공시는 읽을 수 있고, 들을 수 있으며, 미디어에 계속 첨부돼 있어야 한다. 캡션에 숨겨졌거나 재게시 과정에서 삭제된 고지는 보호 효과가 거의 없다.

의심스러운 클립을 평가하는 독자는 몇 가지 구체적인 조치를 취할 수 있다. 재게시물보다 최초 업로드를 찾고, 후보자나 선거 관리 기관이 이를 다뤘는지 확인하며, 음성이나 영상을 인증된 녹화물과 비교하고, 미디어 검증 방식을 설명하는 보도를 참고하는 것이다. 이들 단계 중 어느 하나도 단독으로 진위를 증명하지는 않지만, 함께 고려하면 시각적 사실성보다 더 많은 근거를 제공한다.

뉴스룸에도 관련된 책임이 있다. 조작된 클립을 반박하면서 반복 재생하면 그 확산을 키울 수 있다. 보도는 검증을 전면에 내세기고, 필요한 부분만 보여주며, 맥락 없이 합성 미디어를 제시하지 않아야 한다.

플랫폼은 출처 데이터를 보존하고, 눈에 띄는 경고를 제공하며, 선거 관리 공무원과 묘사된 후보자를 위한 더 신속한 채널을 마련함으로써 기여할 수 있다. 그러한 시스템에는 편집 미디어를 사용했다는 이유만으로 정치적 비판이 삭제되지 않도록 투명한 이의 제기 절차가 필요하다.

더 큰 과제는 법률뿐 아니라 문화의 문제이기도 하다. 합성 콘텐츠가 보편화되면서 사람들은 진짜 녹화물도 불신할 수 있다. 연구자와 법학자들은 이를 흔히 “liar’s dividend”라고 부른다. 진정한 증거가 생성되었거나 조작됐다는 주장만으로 기각될 수 있는 가능성을 뜻한다.

공시 규칙은 이 문제의 한쪽 면만 다룬다. 출처 기록, 신뢰할 수 있는 보도, 캠페인의 책임성, 그리고 대중의 회의적 판단이 함께 작동해야 한다.

사우스캐롤라이나가 유권자를 보호하기 위해 생성형 AI의 생산적 활용을 금지할 필요는 없다. 일반적인 지원과 기만적 사칭을 구분하고, 합성 미디어가 유권자의 이해를 형성하기 전에 의미 있는 맥락을 제공할 수 있다.

주의 다음 입법 조치는 공시가 그 대응의 일부가 될지를 보여줄 것이다. 그때까지 모든 캠페인에는 선택지가 있다. AI가 저렴하다는 이유만으로 사용할 것인지, 아니면 유권자가 평가할 수 있는 기록과 표기를 갖추어 사용할 것인지다.

그 선택은 어떤 법률보다 먼저 정치적 신뢰를 형성할 것이다. 유권자, 캠페인, 입법자들은 합성 미디어가 등장할 때마다 같은 사실적 질문을 던져야 한다. 이 메시지는 그 출처와 변경 사항을 명확히 밝히는가, 아니면 사람들이 생성된 콘텐츠를 현실로 오인하는 데 의존하는가?