ChatGPT 검색 포이즈닝, 374개 브랜드 타격…AI 답변의 신뢰 격차 드러내

공격자들이 ChatGPT, Gemini, Google AI Overview가 검색·수집하는 출처 전반에 사기성 연락처 정보를 심은 뒤, ChatGPT 검색 포이즈닝이 최소 374개 기업에 영향을 미친 것으로 전해졌다. Vigilance Security는 Delta, Lufthansa, Bank of America, Airbnb, Chase, Qatar Airways, Tripadvisor 등이 표적에 포함됐다고 밝혔다.

Vigilance가 “Dark Sourcery”라고 부르는 이 작전은 AI 어시스턴트의 유용한 답변을 사기 전달 수단으로 바꾼다. 사용자가 항공사 예약 전화번호나 은행 지원 페이지를 물으면, 시스템은 신뢰할 만한 안내인 것처럼 사기 전화번호, 피싱 링크 또는 가짜 로그인 페이지를 반환할 수 있다.

이 차이는 중요하다. 기존 피싱은 피해자가 원치 않게 받은 메시지를 신뢰하도록 유도한다. 반면 이 캠페인은 사용자가 정당한 질문을 가지고 ChatGPT나 Google에 접근할 때까지 기다린 뒤, 사용자가 답변에 부여하는 권위를 악용하는 것으로 알려졌다.

이번 조사 결과는 사기성 지원 정보가 AI 생성 검색 결과에 침투할 수 있다는 기존 증거를 확장한다. 동시에 검증 문제도 제기한다. Vigilance는 사례를 공개하고 수만 개의 악성 페이지를 설명했지만, 전체 데이터세트와 테스트 방법론은 독립적인 검토를 위해 공개되지 않았다.

따라서 당면한 경쟁 구도는 해커 대 개별 브랜드가 아니다. AI 답변 뒤에서 작동하는 검색·수집 및 검증 시스템을 겨냥한 자동화 콘텐츠 오염의 문제다. 누가 이기느냐에 따라 어시스턴트가 기업의 실제 지원 채널을 제공할지, 고객을 범죄 콜센터로 연결할지가 결정된다.

374개 브랜드를 겨냥한 캠페인은 사기를 답변 안으로 옮겨 놓았다

이 캠페인의 핵심 혁신은 사기 정보를 AI 생성 응답 안에 배치해, 사용자가 종합 결과를 검증 결과로 오인할 수 있게 만든 데 있다.

Vigilance Security는 2026년 9월 23일 조사 결과를 공개했다. 회사의 캠페인 조사에 따르면 공격자들은 정교하게 형식을 갖춘 게시물, PDF, 리뷰, 지원 페이지를 공개 웹 전반에 배포했다.

이 문서들은 잘 알려진 기업 이름을 사기꾼이 통제하는 전화번호, 이메일 주소, 로그인 페이지 또는 소프트웨어 안내와 연결했다. 이후 검색 및 수집 시스템은 고객 서비스 관련 질문에 답할 때 이러한 연관성을 수집할 수 있다.

Vigilance 연구 담당 부사장 Ariel Simon은 연구진이 수만 개의 악성 페이지를 발견했다고 밝혔다. 팀은 이 활동이 항공사, 은행, 여행사, 기술 공급업체 및 기타 대형 조직에 걸친 최소 374개 표적 기업과 연관된다고 판단했다.

이 수치는 완전한 전수조사가 아니라 연구 결과로 받아들여야 한다. Vigilance는 이를 산출하는 데 사용된 모든 페이지, 쿼리, 브랜드, 모델 응답의 기계 판독 가능한 목록을 공개하지 않았다. 따라서 독립 연구자들은 아직 전체 수치를 재현할 수 없다.

후속 보도에서 설명된 증거는 여전히 우려스럽다. Vigilance 연구진은 오염된 정보를 통해 반환된 여러 전화번호로 전화를 건 것으로 전해졌다. 전화를 받은 사람들은 신용카드 정보를 요청하기 전에 항공편 변경이나 은행 계정 잠금 해제를 제안했다.

연구진은 챗봇 답변의 사기 전화번호 때문에 결제 정보를 공개하게 됐다고 말한 사람들의 불만도 확인했다. 이러한 신고는 캠페인의 기본 위협 모델을 뒷받침하지만, 금전 피해를 본 피해자 수를 입증하지는 않는다.

영향을 받은 브랜드가 허위 정보를 제공했다는 비난을 받은 것은 아니다. 이들의 이름은 고객들이 긴급하거나 금융적으로 민감한 상황에서 이미 이들을 검색하기 때문에 미끼로 활용됐다.

결항을 겪는 항공사 고객은 즉각적인 도움을 원한다. 계정이 잠긴 은행 고객은 안심할 수 있는 해결책을 원한다. 두 상황 모두 전화번호나 도메인을 살펴보는 데 쓰는 시간을 줄인다.

전통적인 검색 포이즈닝은 링크 순위를 정하는 랭킹 시스템을 악용한다. AI 답변 포이즈닝은 한 단계 더 나아가 공격자의 주장을 추출해 새롭게 생성된 응답으로 제시한다.

이 과정은 익숙한 경고 신호를 없앨 수 있다. 사용자는 의심스러운 페이지 디자인, 어색한 제목 또는 이상한 검색 결과를 전혀 보지 못할 수 있다. 대신 어시스턴트의 인터페이스와 직접적인 답변처럼 보이는 내용을 보게 된다.

그 결과 이 캠페인은 두 종류의 피해자를 만든다. 소비자는 사기에 노출되고, 사칭당한 기업은 자신이 통제한 적 없는 인프라로 인해 민원, 지원 비용, 평판 훼손, 사고 대응 업무를 떠안는다.

바로 이것이 달라진 점이다. 사기성 연락처 정보는 수년간 온라인에 유통돼 왔지만, 이제 AI 어시스턴트는 피해자가 공격자의 원래 페이지를 방문하지 않아도 이를 개인화된 안내로 포장할 수 있다.

ChatGPT 검색 포이즈닝이 GEO를 사기 채널로 바꾸는 방식

ChatGPT 검색 포이즈닝은 반드시 기반 모델 자체나 직접적인 프롬프트 인젝션 취약점을 악용하는 것이 아니라, 출처 선택을 악용한다.

GEO(Generative Engine Optimization)는 AI 답변 시스템이 온라인 자료를 더 쉽게 검색·수집하고 재활용하도록 구조화하는 방식을 뜻한다. AEO(Answer Engine Optimization)는 간결한 답변, 엔터티 연관성, 기계가 읽기 쉬운 문구에 초점을 둔 밀접한 관련 관행을 말한다.

정상적인 발행자는 이러한 기법을 활용해 답변 엔진이 정확한 정보를 더 쉽게 이해하도록 한다. 공격자도 같은 논리를 가짜 지원 데이터에 적용할 수 있다.

악성 페이지는 브랜드명 옆에 사기 전화번호를 반복해서 배치할 수 있다. 예상되는 고객 문의와 매우 유사한 질의응답 형식을 사용할 수도 있다. 또 그 번호를 “공식”, “무료”, 또는 긴급 예약용이라고 표시할 수 있다.

이 자료가 여러 위치에 나타날수록 공격자는 이득을 본다. 모든 사례가 같은 캠페인에서 나온 것이라도, 반복은 허위 연관성을 여러 출처가 뒷받침하는 것처럼 보이게 할 수 있다.

Aurascape의 이전 연구는 항공사 지원 관련 쿼리를 통해 이 메커니즘을 문서화했다. 해당 포이즈닝 조사는 침해된 웹사이트, 업로드된 PDF, YouTube 설명, Yelp 리뷰, 클라우드 호스팅 파일을 통해 사기 전화번호가 배포된 사실을 발견했다.

일부 오염된 콘텐츠는 정부, 대학, 기존 출판 도메인에 나타났다. 이런 도메인은 새로 등록한 사기 웹사이트보다 더 강한 신뢰 및 가시성 신호를 가질 수 있다.

공격자가 항상 사이트 전체를 침해할 필요는 없다. 노출된 업로드 기능, 방치된 페이지, 댓글 입력란, 리뷰 시스템 또는 관리가 부실한 문서 저장소만으로도 색인 가능한 표면이 될 수 있다.

최신성도 도움이 된다. 특히 여행 차질, 환불 정책, 소프트웨어 업데이트, 계정 복구 절차와 관련해 지원 쿼리는 자주 바뀐다. 최근 게시된 텍스트는 사칭당한 기업과 출처가 무관하더라도 관련성 있어 보일 수 있다.

이 때문에 Gemini AI 포이즈닝과 유사한 공격을 하나의 기술적 결함으로만 축소하기 어렵다. 검색·수집기가 오염된 출처를 선택했거나, 모델이 주장을 잘못 결합했거나, 안전장치가 위험한 연락처 정보를 식별하지 못해 답변이 틀릴 수 있다.

Dark Sourcery 캠페인은 전형적인 프롬프트 인젝션과는 다른 것으로 전해진다. 프롬프트 인젝션 공격에서는 악성 콘텐츠가 AI의 정상 동작을 무력화하기 위한 지시를 제공한다.

여기서 허위 콘텐츠는 지시문이 아니라 사실 진술처럼 보일 수 있다. 특정 전화번호가 은행이나 항공사 소유라고 시스템에 알리는 식이다. 어시스턴트는 설계된 대로 작동하면서도 이 진술을 반복할 수 있다.

OpenAI는 검색·수집된 콘텐츠에 주의가 필요하다고 인정한다. 생성된 링크에 관한 안내에서는 제3자가 ChatGPT에 거짓 정보를 제공하거나 악성 지시를 삽입할 수 있다고 설명하며, 사용자가 신뢰하기 전에 목적지를 점검할 것을 권고한다.

이 경고는 위험의 일부를 다루지만, 전화번호는 더 어려운 인터페이스 문제를 만든다. 번호만으로는 인식 가능한 도메인을 통해 소유권을 드러내지 않는다. 사용자가 전화를 걸기 시작하면 설득력 있는 상담원이 사회공학의 빠진 층위를 제공할 수 있다.

AI 종합은 출처 간 이견도 숨길 수 있다. 전통적인 결과 페이지에서는 사용자가 공식 기업 도메인과 포럼, PDF, 익숙하지 않은 사이트를 비교할 수 있다. 생성된 문단은 이러한 출처를 하나의 자신감 있는 추천으로 압축할 수 있다.

인용 링크가 이 문제를 자동으로 해결하지는 않는다. 인용 10개가 1개보다 강해 보일 수 있지만, 10개 모두 같은 방식으로 심어진 정보를 반복할 수 있다. 효과적인 검증은 인용 수만이 아니라 출처의 독립성, 소유권, 관련성을 측정해야 한다.

Google AI Overview 사기는 검색·수집과 검증의 차이를 드러낸다

AI 시스템은 연락처 정보가 해당 조직 소유인지 검증하지 않은 채, 그럴듯한 답변을 검색·수집하고 이를 뒷받침하는 페이지를 인용할 수 있다.

Google AI Overview 사기는 생성된 요약이 Search에서 가장 눈에 띄는 위치 중 하나를 차지하기 때문에 이러한 격차를 보여준다. 특히 응답이 직접적인 표현을 사용할 때 사용자는 그 배치를 보증으로 받아들일 수 있다.

이전 조사에서는 AI Overviews에 가짜 항공사 지원 전화번호가 나타난 사례가 발견됐다. 금융 및 여행 서비스를 검색하는 소비자가 사기성 연락처 정보를 받았다는 보도도 나왔다.

Google은 WIRED에 자사의 스팸 방지 보호 기능이 매우 효과적이며 가능한 경우 공식 고객 지원 전화번호를 표시한다고 밝혔다. 또한 회사는 사기 방지를 강화하고 있으며, 사용자가 추가 검색을 통해 전화번호를 확인하도록 권장했다고 AI Overview 사기 보도는 전했다.

이 대응은 핵심적인 긴장을 보여준다. Google은 AI Overviews를 유용한 정보로 더 빠르게 가는 경로로 제시하지만, 권장되는 방어책은 사용자가 요약이 단순화했어야 할 비교 작업을 직접 수행하는 것이다.

Google은 검색 악용 방지에서 더 광범위한 진전을 보고한 바 있다. 2025년 사기 방지 보고서는 새로운 시스템이 사기 페이지를 20배 더 많이 탐지했으며, 2024년 동안 공식 사이트를 사칭하는 사기가 70% 이상 감소했다고 밝혔다.

이 수치는 Google Search 보호 전반을 다룬다. Dark Sourcery 캠페인에 대한 독립적인 측정치를 제공하지 않으며, AI Overviews가 생성한 지원 전화번호의 오류율도 보여주지 않는다.

OpenAI는 ChatGPT 검색에 대해 유사한 선택 모델을 설명한다. 자동화 시스템은 의도, 관련성, 최신성을 고려하며, 응답에는 인라인 인용과 추가 출처가 포함될 수 있다.

그러나 관련성은 신원 검증이 아니다. 페이지는 “Bank of America 지원 전화번호”라는 단어와 매우 관련성이 높을 수 있지만, Bank of America가 한 번도 게시한 적 없는 정보를 담고 있을 수 있다.

같은 취약점은 웹에 모든 기업 전화번호, 환불 포털, 소프트웨어 패키지, 계정 복구 페이지를 위한 보편적이고 인증된 등록부가 없기 때문에 여러 제품에서 나타난다. 공식 웹사이트는 강력한 증거를 제공하지만, 조직은 지원 서비스를 지역별 도메인, 앱, 계약업체, 파트너 시스템에 걸쳐 분산하는 경우가 많다.

공격자들은 이러한 모호성을 악용한다. 여러 채널과 빠른 변경이 예상되는 쿼리에 집중한다. 항공사, 온라인 여행 서비스, 은행, 소프트웨어 기업이 이 패턴에 부합한다.

플랫폼은 정확성 문제에도 직면해 있다. 낯선 번호를 모두 차단하면 어시스턴트의 유용성이 떨어진다. 여러 색인 페이지가 같은 번호를 반복한다는 이유로 허용하는 것은 합의를 조작한 공격자에게 보상을 줄 수 있다.

이러한 상충관계는 AI 검색 안전을 일반적인 콘텐츠 모더레이션과 구분한다. 시스템은 텍스트가 악의적인지뿐 아니라, 특정 현실 세계의 관계가 진짜인지도 평가해야 한다.

전화번호는 한 맥락에서는 무해할 수 있지만 다른 맥락에서는 사기일 수 있다. 합법적인 콜센터는 공개된 아웃소싱 계약을 통해 여러 브랜드를 지원할 수 있다. 사기 조직은 하나의 번호를 관련 없는 다수 기업과 연결해 같은 패턴을 모방할 수 있다.

따라서 Google, OpenAI 및 다른 답변 제공업체에는 엔터티 인식 검사가 필요하다. 응답이 고위험 연락처 정보를 제공할 때 시스템은 일반 웹상의 반복을 근거로 정당성을 추론하기보다 자사 기록과 대조해야 한다.

요청된 행동에 따라 검증 부담도 달라져야 한다. 잘못된 식당 추천은 불편한 일이다. 하지만 가짜 은행 로그인 페이지나 계정 복구 번호는 곧바로 금전적 손실로 이어질 수 있다.

374개 기업이라는 수치는 심각하지만, 중요한 질문은 남아 있다

현재 확보된 증거는 신뢰할 만한 공격 패턴을 보여주지만, 캠페인의 규모·성공률·제품별 영향은 아직 확정되지 않았다.

Vigilance는 최소 374개 기업이 영향을 받았고 수만 개의 악성 페이지를 탐지했다고 밝혔다. 후속 보안 보도는 주요 표적을 언급하고 사기 운영자에게 시험 전화를 건 내용을 설명한다.

그러나 공개된 연구는 완전한 분모를 제공하지 않는다. 연구진이 374개 기업을 찾기 전에 몇 개 브랜드를 테스트했는지, 또는 각 AI 제품이 반복 질의에서 오염된 정보를 얼마나 자주 반환했는지도 보여주지 않는다.

생성형 검색 결과는 날짜, 위치, 계정 상태, 질의 표현, 제품 버전에 따라 달라질 수 있다. 사기 번호가 한 번 나타나는 것만으로도 안전 실패이지만, 대부분의 사용자에게 일관되게 나타나는 번호와는 다르다.

“영향을 받은 기업”이라는 표현도 신중히 해석해야 한다. 이는 공격자가 브랜드를 사칭하는 페이지를 게시했다는 뜻일 수도 있고, AI 시스템이 그 페이지를 검색해 가져왔다는 뜻일 수도 있으며, 사용자가 실제로 사기 정보를 받았다는 뜻일 수도 있다.

이 단계들을 하나로 뭉뚱그려서는 안 된다. 첫 번째는 공격자의 의도를 측정하고, 두 번째는 플랫폼 노출을 측정하며, 세 번째는 소비자 피해를 측정한다.

익명화된 질의 로그, 타임스탬프, 스크린샷, 출처 URL, 모델 버전, 지역 설정, 반복 테스트 결과가 공개된다면 더 강력한 공개가 될 수 있다. 그러면 연구자들은 지속적인 오염과 일시적인 출력 결과를 구분할 수 있다.

캠페인 이름 역시 독립적으로 귀속된 범죄 조직이 아니라 Vigilance가 붙인 것이다. 현재 이용 가능한 보도는 모든 악성 페이지의 책임이 단일 운영자에게 있다고 식별하지 않는다.

최적화된 콘텐츠를 게시하는 비용이 낮기 때문에 여러 그룹이 유사한 전술을 적용하고 있을 수 있다. 공유된 번호, 호스팅 인프라, 템플릿 또는 결제 흐름은 조직적 통제에 대한 더 강한 증거가 될 수 있다.

GEO라는 용어를 둘러싼 또 다른 불확실성도 있다. 이는 생성형 검색을 위해 설계된 콘텐츠를 정확히 설명하지만, 그 기반 전술 중 일부는 오래된 SEO 오염, 리뷰 스팸, 도메인 침해, 기술 지원 사기와 닮아 있다.

새로움은 주로 전달 계층에 있다. AI 어시스턴트는 대화형 답변 안에서 심어진 데이터를 선택하고, 재작성하며, 보증할 수 있다.

이는 단순한 리브랜딩 이상의 문제다. 기존 SEO 오염은 여전히 검색 인터페이스와 사기 시도 사이에 의심스러운 목적지를 둔다. 생성된 답변은 그 중간 지연을 없앨 수 있다.

그렇더라도 모든 잘못된 번호가 고의적인 AI 조작을 증명하는 것은 아니다. 모델은 연락처 정보를 환각하거나, 서로 다른 출처의 숫자를 결합하거나, 오래된 정보를 반복할 수 있다. 조사관들은 의도적 오염과 일반적인 사실 오류를 구분해야 한다.

이 차이는 완화 조치에 중요하다. 환각에는 더 강력한 근거 제시와 불확실성 처리가 필요하다. 조직적 오염에는 악용 탐지, 인프라 매핑, 삭제 조치, 출처 평판 제어가 필요하다.

기업 역시 자사 모니터링이 증명할 수 있는 범위를 과장하지 말아야 한다. 몇 개의 프롬프트를 테스트했다고 해서 모든 고객이 같은 답변을 본다는 사실이 입증되지는 않는다. 반대로 오늘 테스트가 깨끗했다고 해서 어제 오염된 콘텐츠가 나타나지 않았다는 뜻도 아니다.

책임 있는 결론은 이야기의 가장 경각심을 자극하는 버전보다 더 제한적이다. Vigilance는 플랫폼과 브랜드의 조사가 필요한 대규모 활성 캠페인을 보고했다. 공개된 증거는 아직 전체 노출이나 손실을 정량화하지 못한다.

은행, 항공사, 소프트웨어 공급업체는 이제 AI 답변 문제에 직면했다

기업은 더 이상 웹사이트, 광고 통제, 기존 검색 모니터링만으로 지원 채널의 정체성을 보호할 수 없다.

표적이 된 기업은 보안 시스템과 정확한 연락처 페이지를 갖추고 있어도 오염된 AI 응답에 등장할 수 있다. 보안팀은 모든 리뷰, 업로드된 PDF, 침해된 대학 페이지 또는 챗봇 검색 결과를 통제하지 못한다.

이는 브랜드 보호를 낯선 환경으로 확장한다. 팀은 어시스턴트가 무엇을 말하는지, 어떤 출처를 인용하는지, 낯선 전화번호나 도메인이 질의 전반에서 반복되는지 모니터링해야 한다.

우선 질의에는 계정 복구, 예약, 환불, 결제, 소프트웨어 다운로드, 기술 지원이 포함돼야 한다. 이러한 주제는 긴급성과 자격 증명 또는 금융 정보 요청을 결합한다.

모니터링에는 지역 및 언어별 범위도 필요하다. 항공사와 은행은 지역별 연락 채널을 운영하는 반면, 공격자는 현지 번호를 기대하는 여행객이나 고객을 표적으로 삼을 수 있다.

유용한 테스트는 하나의 어시스턴트에게 “고객 서비스”만 묻는 데 그치지 않는다. 표현, 제품, 위치, 긴급성, 요청 행동을 다양하게 바꾼다. 그런 다음 팀은 반환된 모든 번호, 이메일 주소, URL, 다운로드 지침을 인증된 회사 기록과 비교할 수 있다.

반복되는 지표는 에스컬레이션할 가치가 있다. 서로 관련 없는 여러 항공사 이름 옆에 하나의 의심스러운 번호가 나타난다면 공유된 범죄 콜센터를 드러낼 수 있다. 여러 가짜 소프트웨어 지원 답변에서 인용되는 도메인은 더 광범위한 피싱 작전을 노출할 수 있다.

고객 불만도 같은 프로세스에 반영돼야 한다. “챗봇이 이 번호를 알려줬다”는 신고는 단순한 지원 이슈가 아니라 위협 인텔리전스다.

기업에는 AI 제공업체와 검색 엔진을 위한 신속한 정정 경로도 필요하다. 기존 악용 신고 시스템은 대개 유해한 웹페이지에 초점을 맞춘다. 이 위협에는 페이지 삭제, 답변 정정, 관련 출처 재평가, 중복 인프라 식별이 필요할 수 있다.

명확한 자사 연락처 페이지는 여전히 중요하다. 조직은 일관되고 기계가 읽을 수 있는 지원 정보를 유지하고, 혼동을 만드는 오래된 지역 페이지를 제거해야 한다.

또한 직원이 원격 제어 소프트웨어, 암호화폐 결제, 기프트카드 또는 전체 자격 증명을 요청하지 않는다는 점을 고객에게 알려야 한다. 이러한 경고는 사기 운영자가 이미 최초 통화를 가로챈 경우에도 도움이 된다.

엔터프라이즈 사용은 또 다른 노출 계층을 만든다. 직원들은 점점 더 어시스턴트에게 패키지 이름, 명령줄 지침, 공급업체 포털, 계정 복구 절차를 묻고 있다.

오염된 소비자용 답변은 결제 카드를 탈취할 수 있다. 오염된 업무용 답변은 직원을 멀웨어, 자격 증명 탈취 페이지 또는 침해된 소프트웨어 종속성으로 유도할 수 있다.

따라서 보안 통제는 실행 가능한 출력을 런타임에 검증해야 한다. 링크, 전화번호, 소프트웨어 패키지, 명령어, 결제 지침은 일반적인 설명 텍스트보다 더 면밀한 검토가 필요하다.

지식 근로자는 중요한 결정의 출처 경로를 보존해 노출을 줄일 수 있다. 검색 가능한 개인 지식 베이스는 공식 절차와 이전 검증을 보관할 수 있지만, 연락처 정보가 바뀔 때는 저장된 자료도 여전히 검토해야 한다.

가장 안전한 사용자 행동은 직접 검증이다. 회사의 공식 앱을 열거나 알려진 도메인을 브라우저에 직접 입력하라. 적절한 경우 결제 카드나 공식 계정 문서에 인쇄된 번호를 사용하라.

두 번째 AI 답변을 독립적인 확인으로 취급하지 마라. ChatGPT, Gemini, Google AI Overview는 겹치는 출처를 검색할 수 있으므로, 일치하는 두 응답은 같은 오염된 페이지를 반영할 수 있다.

AI 답변 제공업체가 위협을 억제할 수 있는지 보여줄 기준

다음 시험대는 플랫폼이 보고된 사기 페이지를 하나씩 제거하는 데 그치지 않고, 고위험 사실을 생성하기 전에 인증할 수 있는지 여부다.

첫 번째 신호는 전화번호, 로그인 페이지, 결제 지침에 대한 제품 수준의 처리 방식이 될 것이다. 의미 있는 대응이라면 이러한 세부 정보에 일반적인 사실 주장보다 더 엄격한 검증을 적용할 것이다.

지원 관련 질의에서 시스템은 기업의 검증된 자사 도메인을 우선하고 출처를 명확히 표시할 수 있다. 인증된 기록이 없다면 제3자 페이지를 바탕으로 번호를 합성하기보다 번호 제공을 거부할 수 있다.

이는 ChatGPT 검색 오염이 답변 계층에서 억제될 수 있다는 근거를 강화할 것이다. 새로 심어진 번호가 공식 연락처로 나타난다는 보고가 계속된다면 그 근거는 약화될 것이다.

두 번째 신호는 투명한 측정이다. Google, OpenAI 및 다른 제공업체는 공격자에게 도움이 될 방어책을 공개할 필요는 없지만, 유용한 집계 데이터를 발표할 수 있다.

관련 지표에는 지원 세부 정보 질의 중 자사 근거를 받는 비율, 확인된 오염 출처가 사라지는 속도, 고위험 답변이 경고나 거부를 유발하는 빈도가 포함된다.

독립적인 재현도 중요하다. 연구자들은 제품, 지역, 날짜를 아우르는 일관된 질의 세트를 테스트해야 한다. 오염된 인용과 실제로 사기 세부 정보를 반복하는 답변을 구분해야 한다.

세 번째 신호는 브랜드, 호스팅 제공업체, 리뷰 플랫폼, AI 기업 전반의 공동 대응이 될 것이다. 악성 문서를 온라인에 남긴 채 하나의 AI 답변만 제거하면 다른 시스템이 그 문서를 다시 가져올 수 있다.

마찬가지로 동일 운영자가 많은 계정과 도메인을 통제한다면 단일 문서를 삭제하는 것은 거의 효과가 없다. 인프라 수준의 차단은 반복되는 번호, 템플릿, 호스팅 패턴, 결제 요청을 연결해야 한다.

Dark Sourcery 공개는 웹 검색을 직접적인 추천으로 바꾸는 인터페이스 때문에 ChatGPT, Gemini, Google AI Overview에 즉각적인 압박을 가한다. 또한 고객이 이 시스템을 비공식 지원 데스크로 사용하는 모든 조직에도 압박을 가한다.

사용자를 위한 실용적인 규칙은 간단하다. 금전, 자격 증명, 다운로드 또는 계정 접근이 관련된 경우 AI가 생성한 연락처 정보를 검증되지 않은 단서로 취급하라.

기업을 위한 조치는 더 광범위하다. AI 시스템이 자사의 지원 채널을 어떻게 표현하는지 테스트하고, 인용된 출처를 수집하며, 고객 불만이 첫 번째 경고가 되기 전에 오염된 답변을 정정하는 프로세스를 구축하라.

마지막 질문은 AI 어시스턴트가 전화번호를 찾을 수 있는지 여부가 아니다. 사용자가 그 번호를 신뢰하도록 요청하기 전에, 어시스턴트가 그 번호를 누가 통제하는지 확인할 수 있는지 여부다.