AI 검색 사기 답변, 사용자 신뢰를 위협하다

Google은 Search를 답변 엔진으로 바꿔 놓았지만, 사기성 연락처 정보가 이 변화의 위험한 약점을 드러내고 있다. Panda Security의 경고를 다룬 Google News 항목은 이 문제를 다시 부각한다. 답변 상자는 근거 정보에 더 면밀한 검토가 필요할 때조차 권위 있어 보일 수 있다.

우려의 핵심은 모든 AI Overview에 사기 정보가 담긴다는 것이 아니다. Google은 자사의 방어 체계가 매일 수억 건의 사기성 결과를 차단한다고 말한다. 문제는 사용자가 출처를 살피기도 전에 화면에 합성된 답변이 먼저 나타날 때 시작된다.

기존 검색은 사람들이 링크 가운데 하나를 선택하도록 요구한다. AI 검색은 그 선택을 대신한 뒤 Google에 익숙한 인터페이스에서 간결한 응답을 제시한다. 답변에 전화번호, 결제 지침, 복구 절차가 포함될 경우 잘못된 세부 정보 하나만으로도 사용자는 곧바로 사기에 휘말릴 수 있다.

이로써 보안의 질문도 바뀐다. 사용자는 더 이상 낯선 웹사이트가 합법적으로 보이는지만 판단하지 않는다. Google 자체의 답변 상자가 신뢰할 수 있는 출처를 충실하게 반영하는지도 결정해야 한다.

사기는 답변 상자 안으로 들어온다

핵심 변화는 간단하다. AI 요약이 사기 정보를 먼저 반복한다면, 그 정보는 더 이상 마지막 클릭을 차지할 필요가 없다.

사기꾼들은 오랫동안 검색 순위를 조작하고, 오해를 부르는 광고를 구매하며, 지원 페이지를 복제하고, 가짜 전화번호를 심어 왔다. 이런 수법은 대개 누군가를 사기성 목적지로 유도하는 데 의존했다. AI 생성 답변은 더 짧은 경로를 제공한다.

공격자는 은행, 항공사, 배송 서비스 또는 기술 기업의 이름 옆에 가짜 고객 서비스 번호를 게시할 수 있다. 이후 비슷한 주장이 포럼, 저품질 디렉터리, 침해된 페이지 또는 일회용 웹사이트에 나타날 수 있다.

AI 검색 시스템은 웹에서 정보를 가져와 관련 있어 보이는 내용을 종합한다. 검색 증강 생성, 즉 RAG는 모델이 답변을 만들 때 최근에 검색한 자료를 활용하도록 한다. 이 과정은 모델에 최신 정보를 제공하지만, 동시에 조작된 콘텐츠가 유입될 경로도 만든다.

그 결과물은 반드시 광고나 의심스러운 검색 결과처럼 보이지 않는다. 익숙한 Google 페이지 상단의 세련된 요약 안에 표시된다. 출처 링크는 주요 응답 옆이나 아래에 있을 수 있지만, 사용자가 요청한 세부 정보는 즉시 눈에 들어온다.

가짜 지원 번호에 관한 보도는 왜 이런 배치가 중요한지 보여 준다. 취소된 항공편, 잠긴 계정, 결제 실패 또는 누락된 배송 문제를 검색하는 사람은 빠른 해결을 원한다. 긴급한 상황에서는 여러 출처를 살필 가능성이 낮아진다.

공격자는 피해자가 전화만 걸면 된다. 전화를 받은 사람은 직원으로 위장해 계정 정보를 요구하거나 송금을 요구하고, 원격 액세스 소프트웨어 설치를 유도할 수 있다. 화면 공유 요청과 결제 요구는 이런 상황을 특히 위험하게 만들 수 있다.

이는 단순히 모델이 근거 없는 정보를 지어내는 AI 환각 문제가 아니다. 시스템은 공격자가 의도적으로 온라인에 배치한 거짓 주장을 정확히 재현할 수 있다. 이 경우 답변은 검색된 자료에 근거하지만, 그 자료 자체가 오염된 것이다.

이 구분은 중요하다. 인용을 더 추가한다고 해서 문제가 자동으로 해결되지는 않기 때문이다. 여러 저품질 페이지가 동일한 조작된 번호를 반복할 수 있다. 출처 간의 외견상 일치는 독립적인 확인이 아니라 조직적인 조작을 반영할 수 있다.

합성된 답변은 경고 신호도 제거할 수 있다. 수상한 도메인 이름, 조악한 페이지 디자인, 공격적인 팝업, 의심스러운 작성자 정보는 신중한 방문자에게 경고가 될 수 있다. 하지만 답변 상자는 신뢰할 수 없는 맥락을 감춘 채 한 줄만 추출할 수 있다.

Google News가 이 공격 패턴을 만든 것은 아니다. 그러나 더 넓은 Google 인터페이스는 이 패턴을 효과적으로 만드는 신뢰를 형성하는 데 기여한다. 사용자는 뉴스 항목이나 일반 검색에서 AI 생성 응답으로 이동하면서 위험한 환경에 들어섰다는 느낌을 받지 못할 수 있다.

따라서 이 변화는 기술적인 만큼 행동과도 관련이 있다. 과거 Search는 사용자가 평가할 증거를 표시했다. 답변 상자는 그 평가가 시작되기 전에 점점 더 결론을 전달하고 있다.

Google News와 Search는 이제 더 큰 신뢰의 부담을 진다

Google이 눈에 보이는 답변을 작성할 때, 사용자는 모든 실행 가능한 세부 정보의 정확성에 대해 자연스럽게 Google에 더 큰 책임을 부여한다.

Google은 AI Overviews를 자사의 순위 및 품질 시스템이 뒷받침하는 Search의 일부라고 설명한다. 또한 사용자가 근거가 되는 웹페이지를 탐색할 수 있도록 생성된 요약 옆에 링크를 배치한다.

이 설계는 복잡한 책임 분담을 만든다. Google은 정보가 독립적인 웹사이트에서 왔다고 주장할 수 있다. 사용자는 Google이 이를 선택하고 요약해 눈에 띄게 표시했다는 점을 합리적으로 지적할 수 있다.

답변에 일반적인 배경이 아니라 행동을 요구하는 내용이 포함되면 긴장은 더 커진다. 역사적 사건의 요약은 한 수준의 위험을 수반한다. 전화번호, 로그인 경로, 의료 지침 또는 결제 절차는 또 다른 수준의 위험을 수반한다.

Google의 자체 보안 조언도 연락처 정보의 민감성을 인정한다. 안내문은 고객 서비스를 찾는 사용자가 해당 기업의 공식 웹사이트를 확인해야 한다고 말한다. 또한 일부 조직은 전화 지원을 전혀 제공하지 않는다고 경고한다.

이 권고는 답변 상자가 무엇을 권장해야 하는지에 조용히 한계를 설정한다. 공식 웹사이트가 여전히 가장 안전한 출처라면, AI가 생성한 전화번호는 그 자체로 신뢰할 수 있는 종착점 역할을 할 수 없다. 검증되지 않은 단서로만 작동해야 한다.

Google은 자사 시스템이 개선되고 있다고 말한다. 회사는 2025년 사기 방어 체계에 관한 설명에서 AI가 사기성 페이지를 20배 더 많이 포착하는 데 도움이 됐다고 밝혔다. 또한 Search가 매일 수억 건의 사기성 결과를 차단한다고 말했다.

이 수치는 Google의 방어 작업 규모를 보여 준다. 모든 생성 답변이 안전하다는 점을 입증하지는 않는다. 시스템은 막대한 양의 악용 사례를 제거하면서도 결과가 중대한 소수의 세부 정보를 놓칠 수 있다.

비율과 영향의 차이는 중요하다. 드물게 잘못된 음식점 설명은 불편할 뿐이다. 드물게 나타나는 사기성 은행 전화번호는 자격 증명, 금전, 신분증 문서 또는 기기를 노출할 수 있다.

Google은 두 방향에서 압박을 받는다. AI 답변이 즉각적이고 완전하게 느껴지기를 원한다. 동시에 사용자가 답변에 외부 검증이 필요한 시점을 이해하도록 해야 한다.

경고를 늘리면 제품의 편의성이 줄어들 수 있다. 경고를 줄이면 부적절한 신뢰를 부추길 수 있다. 이는 검색 엔진이 하나의 정리된 목소리로 말하기 시작할 때 생기는 신뢰의 부담이다.

다른 AI 검색 제공업체도 같은 구조적 압박에 직면한다. Microsoft Copilot, Perplexity, ChatGPT search 및 기타 답변 엔진은 간결한 응답을 생성하기 전에 온라인 자료를 가져온다. 인터페이스는 다르지만, 각 시스템은 여러 출처를 하나의 명백한 결론으로 압축한다.

Google은 Search의 도달 범위와 익숙한 역할 때문에 더 큰 검토를 받는다. 많은 사용자는 수년간 첫 번째 검색 페이지를 가장 안전한 출발점으로 여겨 왔다. AI Overviews는 사용자가 새로운 실패 양식을 익히기도 전에 그 축적된 신뢰를 빌려 온다.

Google News는 또 다른 정당성의 층위를 더한다. 잘 알려진 뉴스 화면을 통해 접한 헤드라인은 독자가 주변 정보 환경이 완전히 검증됐다고 가정하게 만들 수 있다. 그러나 집계, 순위 결정, 답변 생성은 서로 다른 과정이다.

뉴스 결과가 실제 발행사를 정확하게 식별하더라도, 인접한 AI 응답은 특정 주장을 여전히 잘못 처리할 수 있다. 하나의 Google 화면에 대한 신뢰가 다른 화면의 모든 생성 세부 정보로 자동 이전되어서는 안 된다.

검증이 시작되기 전에 편의성이 이기고 있다

답변 상자는 과거 출처 평가가 이뤄지던 멈춤의 순간을 없애기 때문에 사용자 행동을 바꾼다.

Pew 연구진은 2025년 3월 미국 성인의 Google 검색 68,879건을 조사했다. 이들의 클릭 행동 연구에 따르면, 이 검색 가운데 18%에서 AI 요약이 생성됐다.

사용자는 AI 요약이 포함된 방문의 8%에서 일반 검색 결과를 클릭했다. AI 요약이 없는 방문에서는 그 비율이 15%였다. 요약이 포함된 방문 중 그 요약 안의 인용 링크로 이어진 비율은 1%에 불과했다.

이 연구는 사기 노출을 측정하지는 않는다. 하지만 많은 사용자가 근거 자료를 열어 보지 않은 채 검색 페이지를 받아들인다는 점을 보여 준다. 이 행동은 Google이 생성 응답에 넣는 모든 세부 정보의 중요성을 높인다.

Pew는 또한 요약이 포함된 방문의 26%가 브라우징 세션 종료로 이어졌다고 밝혔다. 요약이 없는 페이지의 비교 가능한 비율은 16%였다. 많은 검색에서 요약은 사실상 최종 목적지가 됐다.

이 결과는 출처 링크가 부분적인 방어 수단에 그치는 이유를 설명한다. 거의 아무도 열지 않는다면 인용은 보호 가치가 제한적이다. 생성된 텍스트가 여전히 주요 제품 경험으로 남는다.

가장 큰 위험은 사용자가 좁고 거래적인 질문을 할 때 나타난다. “이 회사는 무엇인가?”는 일반 정보를 요청한다. “어느 번호로 전화해야 하나?”는 시스템에 신뢰할 통신 채널을 선택해 달라고 요청한다.

고객 지원 문의는 종종 긴급성과 제한된 맥락을 결합한다. 사용자는 공항 탑승구에 서 있거나, 사기 경고에 대응하거나, 잠긴 계정을 복구하려 할 수 있다. 압박 속에서는 출처 감사를 수행할 가능성이 낮다.

사기꾼들은 그 감정적 상태에 맞춰 다음 단계를 설계한다. 지원 담당자로 가장한 사람은 즉각적인 조치를 요구하거나, 계정이 침해됐다고 주장하거나, 환불 기한이 곧 끝난다고 말할 수 있다. AI 답변이 연락처를 제공한 뒤에는 사회 공학이 이어진다.

인터페이스 자체도 권위를 더한다. AI Overview는 일관된 글꼴, 깔끔한 여백, Google 브랜딩을 사용한다. 이는 의심스러운 주장이 나온 원본 페이지의 시각적 혼란을 그대로 물려받지 않는다.

이 과정은 진실을 입증하지 않은 채 신뢰성을 세탁할 수 있다. 시스템은 단편적인 웹 텍스트를 자신감 있는 문장으로 바꾼다. 독자는 그 자신감을 보지만, 검색과 출처 선택에 내재한 불확실성은 숨겨진 채 남는다.

문제는 전화번호에만 국한되지 않는다. 공격자는 가짜 소프트웨어 다운로드 지침, 암호화폐 지갑 주소, 복구 단계, 쿠폰 코드 또는 자격 증명을 탈취하는 페이지 링크를 심을 수 있다.

답변이 외부 행동을 유발할 때마다 위험은 커진다. 전화 걸기, 애플리케이션 설치, 화면 공유, 송금 또는 자격 증명 입력에는 더 높은 검증 기준이 적용돼야 한다.

그 기준은 유창한 문구에만 의존할 수 없다. 언어 모델은 일관된 텍스트를 생성하도록 설계됐다. 문장의 일관성은 전화번호가 그 옆에 적힌 조직의 것인지 사용자에게 거의 알려 주지 않는다.

비슷한 문제는 업무 조사에도 영향을 미친다. 직원들은 점점 더 생성된 답변을 티켓, 보고서, 내부 채팅 스레드에 복사한다. 근거가 없는 세부 정보는 원래의 출처 맥락을 잃은 채 조직 전체로 퍼질 수 있다.

팀에는 보안, 재무, 고객 또는 규정 준수와 관련된 의사결정을 위한 가시적인 증거 추적 경로가 필요하다. 검색 가능한 AI 지식 베이스는 승인된 문서와 그 맥락을 보존할 수 있다. 그래도 신뢰할 수 있는 출처 선택은 필요하다.

유용한 사고방식은 “AI의 답변은 거짓이다”가 아니다. “AI의 답변은 근거의 질이 제각각인 요약이다”가 더 적절하다. 이런 관점은 편의성은 유지하되, 자동적인 권위를 부여하지 않는다.

더 많은 출처가 항상 더 안전한 답변을 만드는 것은 아니다

AI 검색은 실제 웹페이지를 인용하더라도 실패할 수 있다. 검색 품질과 출처의 독립성은 별개의 문제이기 때문이다.

기존 검색 엔진은 문서를 순위화한다. AI 기반 검색 엔진은 문서를 순위화한 뒤 이를 해석한다. 단계가 추가될 때마다 관련성, 권위, 일치 여부, 표현 방식에 관한 선택이 개입된다.

모델은 검색어의 표현과 매우 유사하다는 이유로 악성 페이지를 찾아낼 수 있다. 이후 그 페이지를 정확히 인용할 수도 있다. 이 경우 모델이 아무것도 지어내지 않아도 최종 답변은 해로울 수 있다.

연구진은 2025년 USENIX Security Symposium에서 이 문제를 폭넓게 검증한 결과를 발표했다. 이들의 AI 검색 연구는 여러 위협 데이터베이스의 악성 자료를 활용해 실제 서비스 중인 AI 기반 검색 엔진 7개를 평가했다.

연구진은 평가 체계상 시험한 응답의 47%가 위험하다고 보고했다. 또한 34%는 답변에서 유해한 콘텐츠를 직접 인용한 것으로 나타났다.

이 비율을 Google Search의 일상적 실패율로 받아들여서는 안 된다. 실험은 의도적으로 악성 입력을 사용했고 여러 제품을 시험했다. 이는 일반 소비자 트래픽이 아니라 적대적 조건에서의 취약성을 측정한 결과다.

그 작동 방식은 여전히 중요하다. 연구진은 AI 검색 시스템이 피싱 웹사이트를 합법적인 공식 사이트로 인식할 수 있음을 보여줬다. 또한 온라인 문서 위조가 생성된 답변을 오도할 수 있는 방식도 제시했다.

이 연구는 AI 검색과 기존 검색을 비교했으며, AI 기반 시스템이 효용성과 안전성 모두에서 전반적으로 더 나은 성과를 냈다고 밝혔다. 이 결과는 링크 목록이 언제나 더 안전하다는 단순한 결론을 막는다.

실제 상충관계는 더 정교하다. AI 종합 기능은 관련성을 높이고 일부 악성 페이지에 노출될 가능성을 줄일 수 있다. 동시에 검색된 허위를 직접적인 추천으로 바꿀 수도 있다.

기존 검색 결과는 도메인 이름, 스니펫, 경쟁 링크, 순위 차이를 드러낸다. 이런 단서는 주의 깊은 사용자가 불확실성을 감지하는 데 도움이 될 수 있다. AI 종합 기능은 사용자를 대신해 불일치를 해소함으로써 이러한 마찰을 줄인다.

공격자는 반복도 악용할 수 있다. 여러 페이지에 같은 가짜 수치가 실려 있다면, 검색 시스템은 이를 상호 검증의 징후로 해석할 수 있다. 하지만 그 페이지들은 서로 내용을 복사했거나 하나의 캠페인에 속할 수 있다.

따라서 출처의 다양성은 URL 개수를 세는 것 이상을 의미해야 한다. 신뢰할 수 있는 시스템은 공통 소유 관계, 복사된 텍스트, 침해된 사이트, 최근 도메인 변경, 조직의 공식 채널과의 충돌을 식별해야 한다.

최신성은 또 다른 과제를 만든다. 새로 심어진 페이지에는 오래된 공식 지원 페이지보다 긴급한 검색어에 더 잘 맞는 최신 키워드가 담길 수 있다. 검색의 최신성은 출처의 권위와 충돌할 수 있다.

침해된 합법 웹사이트는 특히 까다롭다. 신뢰받는 도메인이 소유자도 모르는 사이 삽입된 콘텐츠를 호스팅할 수 있다. 이때 도메인이 쌓아 온 평판은 공격자의 위장 일부가 된다.

Google은 오랫동안 Safe Browsing, 스팸 분류기, 순위 보호 장치, 수동 신고 채널을 운영해 왔다. 이러한 계층은 대규모 환경에서 Search를 더 안전하게 만든다. 하지만 AI 답변에는 위험한 목적지뿐 아니라 생성된 행동까지 고려한 통제가 필요하다.

URL 분류기는 사용자가 피싱 페이지에 방문하기 전에 경고할 수 있다. 하지만 이미 답변에 복사된 사기 전화번호로 전화를 거는 사람을 완전히 보호할 수는 없다. 위험한 정보는 이미 웹페이지를 벗어났다.

따라서 고위험 정보 항목에는 전문적인 검증이 필요하다. 전화번호는 공식 연락처 페이지와 대조해야 한다. 지갑 주소는 일반 웹 검색 결과를 바탕으로 종합해서는 안 된다. 소프트웨어 다운로드는 검증된 게시자 채널로 연결되어야 한다.

시스템은 불일치도 보존해야 한다. 출처가 충돌한다면 가장 안전한 출력은 검증된 연락처를 찾지 못했다고 밝히는 것일 수 있다. 편리한 세부 정보 하나를 제공하지 않는 편이 가장 많이 반복된 답변을 선택하는 것보다 나을 수 있다.

안전성 주장과 제품 약속은 갈라진다

Google의 방어 체계는 크게 개선될 수 있지만, 답변 우선 인터페이스는 여전히 근거가 뒷받침하는 수준보다 더 큰 신뢰를 유도한다.

Google의 입장은 강력한 사실적 근거를 갖고 있다. 이 회사는 극소수의 조직만 따라갈 수 있는 규모로 악용 방지 시스템을 운영한다. Google은 AI가 방대한 웹 콘텐츠 전반에서 조직적인 사기 캠페인과 새롭게 등장하는 위협을 식별하는 데 도움을 준다고 말한다.

답변 기능에는 출처 링크도 제공된다. Google은 미국에서 AI Overviews를 광범위하게 출시한 이후, 비상식적이거나 풍자적인 응답을 줄이기 위한 변경을 포함해 기능을 조정해 왔다.

이러한 조치는 Google이 문제를 외면하고 있다는 주장에 이의를 제기한다. 검색팀은 적대적 행위자가 순위와 콘텐츠를 조작한다는 사실을 알고 있다. 이 회사는 수십 년간 스팸, 악성코드, 기만적 광고, 해킹된 웹사이트에 대응해 왔다.

그러나 제품의 약속은 더 이상 관련 페이지를 찾는 데 그치지 않는다. 답변 상자는 사용자가 즉시 행동에 옮길 수 있는 종합된 응답을 제공한다. 이는 발견 품질에서 결론 품질로 기준을 높인다.

Google은 대부분의 AI Overviews가 유용하다고 정확히 말할 수 있고, 비판자들은 심각한 극단적 사례를 정확히 지적할 수 있다. 평균적 유용성과 큰 영향을 초래하는 실패는 공존할 수 있다.

Panda Security의 경고는 이 간극에 속한다. 핵심은 Google News나 AI Overviews를 반드시 포기해야 한다는 것이 아니다. 인터페이스가 부여하는 권위가 일부 기저 주장에 대한 확실성을 넘어선다는 점이다.

보안 보도는 AI Overviews에 사기성 고객지원 번호가 나타난 사례를 설명해 왔다. 다만 이런 보도는 개별 사례이지, 발생 빈도를 완전하게 측정한 결과는 아니다.

이 한계는 중요하다. 공개된 일화만으로는 사기성 세부 정보가 얼마나 자주 나타나는지 입증할 수 없다. 스크린샷은 시간이 지나면 구식이 될 수 있고, 결과는 지역에 따라 달라지며, Google은 잘못된 응답을 신속히 제거할 수 있다.

연구진 역시 개인화되었거나 빠르게 바뀌는 검색 결과를 재현하는 데 어려움을 겪는다. 오늘 시험한 검색어가 내일은 다른 개요를 반환할 수 있다. 계정, 표현, 지역, 브라우징 맥락이 페이지에 영향을 미칠 수 있다.

따라서 AI Overviews가 광범위하게 안전하지 않다는 주장은 현재 증거를 넘어선다. 문제가 해결됐다는 주장 역시 지나치다.

방어 가능한 결론은 더 좁다. 생성형 답변은 악성 출처 자료가 침투할 수 있는 그럴듯한 공격 표면을 만든다. 실제 사례 보고는 유해한 연락처 정보가 기존 방어 체계를 빠져나갈 수 있음을 보여준다.

사용자는 위험 기반의 검증 원칙을 적용해야 한다. 일반적인 설명은 출발점으로 활용할 수 있다. 실행 가능한 세부 정보는 권위 있는 출처를 통해 확인해야 한다.

고객지원의 경우 조직의 공식 웹사이트나 애플리케이션을 열어야 한다. 전화번호가 AI 요약, 포럼, 광고 또는 디렉터리에 나타난다는 이유만으로 신뢰해서는 안 된다.

금융 서비스의 경우 카드에 인쇄된 번호나 인증된 애플리케이션 안에 표시된 번호를 사용해야 한다. 걸려 온 전화의 상대방에게 일회용 코드, 비밀번호 또는 전체 결제 자격증명을 절대 공유해서는 안 된다.

소프트웨어는 개발자의 검증된 배포 채널을 이용해야 한다. 답변이 이를 공식이라고 설명하더라도, 익숙하지 않은 도메인을 통해 추천된 설치 프로그램은 피해야 한다.

계정 복구는 서비스에 직접 접속해 진행해야 한다. 합법적인 담당자는 원격 제어, 화면 공유, 기프트 카드, 암호화폐 또는 즉시 이체를 요구하지 않는다.

Google도 유사한 사기 대응 안내를 제공한다. 사용자에게 서두르지 말고 출처를 확인하며 고객서비스 정보는 공식 채널을 이용하라고 조언한다.

이 안내는 부담의 일부를 다시 사용자에게 돌린다. 합리적인 조언이지만, 동시에 모순을 드러낸다. 답변 상자는 검증이 필요해질 때까지만 시간을 절약해 준다.

장기적 해결책은 사용자에게 영구적인 의심을 요구하는 데 머물 수 없다. Google은 검색, 순위, 표시, 경고 설계를 통제한다. 위험한 행동이 발생하기 전에 불확실성을 눈에 띄게 만들 수 있다.

Google News 독자가 다음으로 지켜봐야 할 것

다음 단계는 세 가지 신호로 평가될 것이다. 행동 수준의 검증, 투명한 사고 보고, 독립적인 안전성 테스트다.

첫 번째 신호는 Google이 연락처 정보와 거래 지침을 특별한 위험군으로 취급하는지 여부다. 돈을 움직이거나 계정을 열 수 있는 정보에는 일반적인 관련성 점수만으로 충분하지 않다.

검증된 전화번호라면 조직의 공식 도메인 또는 인증된 비즈니스 프로필과 일치해야 할 수 있다. Google이 더 강력한 검증을 도입한다면, 답변 상자가 거래성 검색어를 안전하게 처리할 수 있다는 주장을 뒷받침하게 된다.

이런 통제가 없다면 현재의 모순은 유지된다. Google은 직접적인 답변을 계속 제공하면서 사용자에게는 그 답변을 다른 곳에서 확인하라고 조언하게 된다.

두 번째 신호는 더 나은 사고 투명성이다. Google은 차단된 사기 페이지에 관한 광범위한 수치를 공개하지만, 사용자는 생성된 답변 안에 나타난 유해한 세부 정보에 관한 정보도 필요하다.

유용한 보고는 악성 링크, 가짜 고객지원 번호, 침해된 도메인, 조작된 지침을 구분해야 한다. 또한 탐지 시간, 제거 시간, 재발 여부도 설명해야 한다.

이러한 측정치는 공격자가 쉽게 우회할 수 있는 방어 방식을 노출해서는 안 된다. 대신 Google이 AI 검색을 확대하는 가운데 답변 수준의 사고가 감소하고 있는지를 보여줘야 한다.

사고율이 하락한다면 Google의 안전성 주장은 더 강해질 것이다. 답변별 증거 없이 광범위한 제거 건수만 제시된다면 핵심 질문은 해결되지 않는다.

세 번째 신호는 반복 가능한 독립 테스트다. 보안 연구자들은 AI 검색 제품 전반에서 출처 품질, 인용 충실도, 고위험 행동을 평가할 수 있는 안정적인 방법이 필요하다.

테스트는 일반적인 사실 오류와 적대적 조작을 구분해야 한다. 또한 유해한 인용과 답변에 직접 포함된 유해한 지침도 구별해야 한다.

연구진은 가능한 경우 검색어 세트, 시점, 지역, 평가 규칙을 공개해야 한다. 생성된 결과는 빠르게 변하기 때문에 고립된 스크린샷보다 투명한 방법론이 더 중요하다.

독립 테스트는 Google을 Microsoft, OpenAI, Perplexity 및 다른 제공업체와 비교할 수도 있다. 이러한 비교는 특정 제품에 고유한 약점이 있는지, 아니면 전체 답변 엔진 모델이 같은 문제를 공유하는지 보여줄 것이다.

사용자에게 적용할 원칙은 이미 분명하다. AI Overview는 검증된 권위가 아니라 빠른 요약으로 다뤄야 한다. 답변에 돈을 움직이거나 계정을 노출시키거나 기기를 바꿀 수 있는 세부 정보가 포함되어 있다면 출처를 열어야 한다.

Google News는 이런 위험에 관한 가치 있는 보도를 보여줄 수 있지만, Google Search는 동시에 논의 중인 위험한 인터페이스를 생성할 수 있다. 이 대조는 AI 검색을 둘러싼 더 큰 긴장을 포착한다.

답변 상자가 유용한 이유는 노력을 줄여주기 때문이다. 검증이 필요한 이유는 그 제거된 노력에 한때 판단이 포함되어 있었기 때문이다. Google이 제품 안에서 그 판단을 안정적으로 복원할 수 있을 때까지, 가장 안전한 대응은 한 번 더 확인하는 것이다.

전화하기 전, 결제하기 전, 설치하기 전, 공유하기 전에 한 가지를 물어야 한다. 조직의 자체 검증 채널이 이 세부 정보를 확인해 주는가? 답이 불분명하다면 멈춰야 한다. Google의 요약은 검색을 시작하게 할 수는 있어도, 결정을 끝내서는 안 된다.