Respostas fraudulentas da busca por IA colocam a confiança dos usuários em risco

O Google transformou a Busca em um mecanismo de respostas, mas dados de contato fraudulentos estão expondo uma falha perigosa nessa transformação. Uma matéria do Google News que destaca o alerta da Panda Security volta a colocar o problema em foco. A caixa de resposta pode parecer confiável mesmo quando as informações que a sustentam exigem maior escrutínio.

A preocupação não é que toda AI Overview contenha informações fraudulentas. O Google afirma que suas defesas bloqueiam centenas de milhões de resultados relacionados a golpes todos os dias. O conflito começa quando uma resposta sintetizada aparece na tela antes que os usuários inspecionem suas fontes.

A busca tradicional pede que as pessoas escolham entre links. A busca por IA faz essa escolha por elas e apresenta uma resposta concisa na interface familiar do Google. Quando a resposta inclui um número de telefone, instrução de pagamento ou procedimento de recuperação, um único detalhe incorreto pode levar o usuário diretamente a um golpe.

Isso muda a questão de segurança. Os usuários não estão mais avaliando apenas se um site desconhecido parece legítimo. Eles também precisam decidir se a própria caixa de resposta do Google representa fielmente fontes confiáveis.

O golpe entra na caixa de resposta

A mudança central é simples: informações fraudulentas não precisam mais conquistar o clique final se um resumo de IA as repetir primeiro.

Há muito tempo, golpistas manipulam rankings de busca, compram anúncios enganosos, clonam páginas de suporte e inserem números de telefone falsos. Essas táticas normalmente dependiam de convencer alguém a visitar um destino fraudulento. As respostas geradas por IA introduzem um caminho mais curto.

Um invasor pode publicar um número falso de atendimento ao cliente ao lado do nome de um banco, companhia aérea, serviço de entrega ou empresa de tecnologia. Alegações semelhantes podem então aparecer em fóruns, diretórios de baixa qualidade, páginas comprometidas ou sites descartáveis.

Um sistema de busca por IA recupera informações da web e sintetiza o que parece relevante. A geração aumentada por recuperação, ou RAG, permite que um modelo use material recuperado recentemente ao produzir uma resposta. Esse processo fornece informações atuais ao modelo, mas também cria um caminho para conteúdo manipulado.

A resposta resultante não parece necessariamente um anúncio ou resultado de busca suspeito. Ela surge dentro de um resumo refinado no topo de uma página familiar do Google. Os links das fontes podem ficar ao lado ou abaixo da resposta principal, enquanto o detalhe solicitado aparece imediatamente.

Relatos sobre números falsos de suporte demonstram por que esse layout importa. Uma pessoa pesquisando durante um voo cancelado, conta bloqueada, pagamento recusado ou entrega atrasada quer uma solução rápida. A urgência reduz a chance de que ela examine várias fontes.

O invasor só precisa que a vítima ligue. A pessoa que atende pode se passar por funcionário, solicitar dados da conta, exigir uma transferência ou incentivar o uso de software de acesso remoto. Pedidos de compartilhamento de tela e solicitações de pagamento podem tornar o encontro especialmente perigoso.

Isso não é apenas uma alucinação de IA, em que um modelo inventa informações sem respaldo. O sistema pode reproduzir com precisão uma alegação falsa que um invasor colocou deliberadamente online. Nesse caso, a resposta se baseia em material recuperado, mas o próprio material está contaminado.

Essa distinção importa porque adicionar mais citações não resolve automaticamente o problema. Várias páginas de baixa qualidade podem repetir o mesmo número inserido maliciosamente. A aparente concordância entre fontes pode refletir manipulação coordenada, em vez de confirmação independente.

Uma resposta sintetizada também pode eliminar sinais de alerta. Um nome de domínio estranho, design ruim da página, pop-ups agressivos e autoria questionável podem alertar um visitante cuidadoso. A caixa de resposta pode extrair uma linha enquanto oculta esse contexto pouco confiável.

O Google News não criou esse padrão de ataque. No entanto, a interface mais ampla do Google ajuda a estabelecer a confiança que torna esse padrão eficaz. Os usuários podem passar de uma matéria ou busca comum para uma resposta gerada por IA sem sentir que entraram em um ambiente arriscado.

A mudança é, portanto, tão comportamental quanto técnica. Antes, a busca exibia evidências para os usuários avaliarem. A caixa de resposta passa cada vez mais a entregar uma conclusão antes que essa avaliação comece.

Google News e Busca agora assumem uma parcela maior do ônus da confiança

Quando o Google redige a resposta visível, os usuários naturalmente atribuem ao Google maior responsabilidade pela precisão de cada detalhe acionável.

O Google descreve as AI Overviews como parte da Busca, apoiadas por seus sistemas de classificação e qualidade. A empresa também coloca links ao lado dos resumos gerados para que os usuários possam explorar as páginas da web que os sustentam.

Esse design cria uma divisão de responsabilidade complicada. O Google pode argumentar que as informações vêm de sites independentes. Os usuários podem razoavelmente responder que o Google as selecionou, resumiu e exibiu com destaque.

A tensão se intensifica quando uma resposta contém uma ação, e não apenas contexto geral. Um resumo de um evento histórico envolve um nível de risco. Um número de telefone, rota de login, instrução médica ou procedimento de pagamento envolve outro.

As próprias orientações de segurança do Google reconhecem a sensibilidade das informações de contato. Suas recomendações dizem que usuários em busca de atendimento ao cliente devem consultar o site oficial da empresa. Também alertam que algumas organizações não oferecem suporte por telefone.

Essa recomendação limita discretamente o que uma caixa de resposta deveria incentivar. Se o site oficial continua sendo a fonte mais segura, um número de telefone gerado por IA não pode funcionar, por si só, como um ponto de contato confiável. Ele deve servir apenas como uma pista não verificada.

O Google afirma que seus sistemas estão melhorando. Em um relato de 2025 sobre suas defesas contra golpes, a empresa disse que a IA ajudou a detectar 20 vezes mais páginas relacionadas a golpes. Também afirmou que a Busca bloqueia centenas de milhões de resultados relacionados a golpes todos os dias.

Esses números mostram a escala da operação defensiva do Google. Eles não comprovam que toda resposta gerada seja segura. Um sistema pode remover enormes quantidades de abuso e ainda assim deixar passar um pequeno número de detalhes com consequências graves.

A distinção entre frequência e impacto é importante. Uma descrição incorreta e rara de um restaurante é irritante. Um número bancário fraudulento, ainda que raro, pode expor credenciais, dinheiro, documentos de identidade ou um dispositivo.

O Google sofre pressão de duas direções. Ele quer que as respostas de IA pareçam imediatas e completas. Também precisa que os usuários entendam quando a resposta exige verificação externa.

Mais avisos podem reduzir a conveniência do produto. Menos avisos podem incentivar uma confiança inadequada. Esse é o ônus da confiança criado quando um mecanismo de busca passa a falar com uma única voz, composta.

Outros provedores de busca por IA enfrentam a mesma pressão estrutural. Microsoft Copilot, Perplexity, busca do ChatGPT e outros mecanismos de respostas recuperam material online antes de gerar respostas concisas. Suas interfaces diferem, mas cada sistema comprime várias fontes em uma conclusão aparentemente única.

O Google enfrenta maior escrutínio devido ao alcance e ao papel familiar de sua Busca. Muitos usuários passaram anos tratando sua primeira página como o ponto de partida mais seguro. As AI Overviews aproveitam essa confiança acumulada antes que os usuários aprendam seus novos modos de falha.

O Google News acrescenta outra camada de legitimidade percebida. Uma manchete encontrada em uma superfície de notícias reconhecida pode levar leitores a supor que o ambiente de informações ao redor foi totalmente verificado. Agregação, classificação e geração de respostas são processos diferentes, no entanto.

Um resultado de notícias pode identificar corretamente uma publicação real, enquanto uma resposta de IA adjacente ainda lida mal com uma alegação específica. A confiança em uma superfície do Google não deve ser transferida automaticamente para cada detalhe gerado em outra.

A conveniência está vencendo antes que a verificação comece

A caixa de resposta muda o comportamento do usuário porque elimina a pausa em que a avaliação das fontes antes ocorria.

Pesquisadores do Pew examinaram 68.879 buscas no Google feitas por adultos dos EUA durante março de 2025. Seu estudo sobre comportamento de cliques constatou que 18 por cento dessas buscas produziram um resumo de IA.

Os usuários clicaram em um resultado tradicional em 8 por cento das visitas que continham um resumo de IA. Eles o fizeram em 15 por cento das visitas sem um resumo. Apenas 1 por cento das visitas com resumo levou a um link citado dentro desse resumo.

O estudo não mede a exposição a golpes. Ele mostra que muitos usuários aceitam a página de busca sem abrir as evidências por trás dela. Esse comportamento aumenta a importância de cada detalhe que o Google coloca na resposta gerada.

O Pew também constatou que 26 por cento das visitas com resumo encerraram a sessão de navegação. A taxa comparável para páginas sem resumo foi de 16 por cento. Para muitas buscas, o resumo se tornou, na prática, o destino final.

Esse resultado explica por que links de fontes oferecem apenas uma defesa parcial. Uma citação tem valor protetivo limitado quando quase ninguém a abre. O texto gerado continua sendo a principal experiência do produto.

O risco mais forte aparece quando os usuários fazem perguntas restritas e transacionais. “O que é esta empresa?” convida a informações gerais. “Para qual número devo ligar?” pede ao sistema que escolha um canal de comunicação confiável.

Uma consulta de suporte ao cliente frequentemente combina urgência com contexto limitado. O usuário pode estar em um portão de embarque, respondendo a um alerta de fraude ou tentando recuperar uma conta bloqueada. Sob pressão, é menos provável que ele realize uma auditoria das fontes.

Os golpistas elaboram seus próximos passos em torno desse estado emocional. Um suposto agente de suporte pode exigir ação imediata, alegar que uma conta foi comprometida ou dizer que um reembolso expira em breve. A resposta de IA entrega o contato; em seguida, a engenharia social assume o controle.

A interface contribui com sua própria autoridade. Uma AI Overview usa tipografia consistente, espaçamento limpo e a marca do Google. Ela não herda a desordem visual das páginas das quais se originou uma alegação questionável.

Esse processo pode conferir credibilidade sem provar a verdade. O sistema transforma texto fragmentado da web em uma declaração confiante. Os leitores veem a confiança, enquanto a incerteza na recuperação e na seleção das fontes permanece oculta.

O problema também vai além de números de telefone. Invasores podem inserir instruções falsas para baixar software, endereços de carteiras de criptomoedas, etapas de recuperação, códigos de cupom ou links para páginas de coleta de credenciais.

O risco aumenta sempre que uma resposta provoca uma ação externa. Ligar para um número, instalar um aplicativo, compartilhar uma tela, enviar dinheiro ou inserir credenciais deve acionar um padrão de verificação mais elevado.

Esse padrão não pode depender apenas de uma redação fluente. Modelos de linguagem são projetados para gerar texto coerente. A coerência pouco diz aos usuários sobre se um número de telefone pertence à organização indicada ao lado dele.

Uma questão semelhante afeta a pesquisa no ambiente de trabalho. Funcionários copiam cada vez mais respostas geradas para tickets, relatórios e conversas internas. Um detalhe sem respaldo pode circular por uma organização depois de perder seu contexto original de fonte.

As equipes precisam de uma trilha de evidências visível para decisões que envolvam segurança, finanças, clientes ou conformidade. Uma base de conhecimento de IA pesquisável pode preservar documentos aprovados e seu contexto. Ainda assim, ela exige uma seleção confiável de fontes.

O modelo mental útil não é “as respostas da IA são falsas”. É “as respostas da IA são resumos com diferentes níveis de qualidade das evidências”. Esse enquadramento preserva a conveniência sem lhes conceder autoridade automática.

Mais Fontes Nem Sempre Produzem uma Resposta Mais Segura

A busca por IA pode falhar mesmo ao citar páginas reais da web, porque a qualidade da recuperação e a independência das fontes continuam sendo problemas distintos.

Um mecanismo de busca convencional classifica documentos. Um mecanismo de busca alimentado por IA classifica documentos e depois os interpreta. Cada etapa adicional introduz escolhas sobre relevância, autoridade, concordância e apresentação.

O modelo pode recuperar uma página maliciosa porque ela corresponde de perto à formulação da consulta. Em seguida, pode citar essa página com precisão. A resposta final se torna prejudicial sem que o modelo precise inventar nada.

Pesquisadores apresentaram um amplo teste desse problema no USENIX Security Symposium de 2025. Seu estudo sobre busca por IA avaliou sete mecanismos de busca por IA em produção usando material malicioso de vários bancos de dados de ameaças.

Os pesquisadores relataram que 47 por cento das respostas testadas apresentavam risco segundo seu modelo de avaliação. Também descobriram que 34 por cento citavam diretamente conteúdo prejudicial na resposta.

Essas porcentagens não devem ser tratadas como a taxa cotidiana de falhas do Google Search. O experimento usou deliberadamente entradas maliciosas e testou vários produtos. Ele mede vulnerabilidade sob condições adversariais, não o tráfego comum de consumidores.

Seu mecanismo continua relevante. Os pesquisadores demonstraram que sistemas de busca por IA podem reconhecer sites de phishing como sites oficiais legítimos. Também mostraram como a falsificação de documentos online pode induzir respostas geradas ao erro.

O estudo comparou a busca por IA com a busca tradicional e constatou que os sistemas alimentados por IA tiveram melhor desempenho geral tanto em utilidade quanto em segurança. Essa conclusão impede uma conclusão simplista de que listas de links são sempre mais seguras.

A verdadeira troca é mais precisa. A síntese por IA pode melhorar a relevância e reduzir a exposição a algumas páginas maliciosas. Ela também pode transformar uma falsidade recuperada em uma recomendação direta.

Os resultados tradicionais expõem nomes de domínio, trechos, links concorrentes e diferenças de classificação. Esses sinais podem ajudar uma pessoa atenta a detectar incerteza. A síntese por IA reduz esse atrito ao resolver a divergência em nome do usuário.

Atacantes também podem explorar a repetição. Se várias páginas exibirem o mesmo número falso, um sistema de recuperação pode interpretar o padrão como corroboração. No entanto, as páginas podem copiar umas às outras ou pertencer a uma única campanha.

A diversidade de fontes, portanto, deve significar mais do que contar URLs. Um sistema confiável deve identificar propriedade comum, texto copiado, sites comprometidos, mudanças recentes de domínio e conflitos com os canais oficiais de uma organização.

A atualidade cria outro desafio. Uma página recém-plantada pode conter palavras-chave atualizadas que correspondem melhor a uma consulta urgente do que uma página oficial de suporte mais antiga. A atualização dos resultados de busca pode atuar contra a autoridade da fonte.

Sites legítimos comprometidos são particularmente difíceis. Um domínio confiável pode hospedar conteúdo injetado sem o conhecimento de seu proprietário. A reputação estabelecida do domínio passa então a fazer parte do disfarce do atacante.

O Google opera há muito tempo o Safe Browsing, classificadores de spam, proteções de classificação e canais de denúncia manual. Essas camadas tornam o Search mais seguro em uma escala enorme. As respostas de IA ainda exigem controles projetados para ações geradas, e não apenas para destinos perigosos.

Um classificador de URL pode alertar antes que um usuário visite uma página de phishing. Ele não consegue proteger totalmente alguém que liga para um número fraudulento já copiado para uma resposta. A carga útil arriscada já deixou a página da web.

Campos de alto risco, portanto, exigem validação especializada. Um número de telefone deve ser comparado com uma página oficial de contato. Um endereço de carteira não deve ser sintetizado a partir de resultados gerais da web. Downloads de software devem apontar para canais verificados do editor.

O sistema também deve preservar a divergência. Se as fontes entrarem em conflito, a saída mais segura pode afirmar que nenhum contato verificado foi encontrado. Recusar-se a fornecer um detalhe conveniente pode ser melhor do que selecionar a resposta mais repetida.

A Alegação de Segurança e a Promessa do Produto se Distanciam

As defesas do Google podem melhorar substancialmente, enquanto a interface que prioriza respostas ainda incentiva mais confiança do que as evidências sustentam.

A posição do Google tem forte respaldo factual. A empresa opera sistemas contra abusos em uma escala que poucas organizações conseguem igualar. Ela afirma que a IA ajuda a identificar campanhas coordenadas de golpes e ameaças emergentes em grandes volumes de conteúdo da web.

Seus recursos de resposta também fornecem links para fontes. O Google ajustou os AI Overviews desde seu amplo lançamento nos EUA, incluindo mudanças destinadas a reduzir respostas sem sentido ou satíricas.

Essas medidas contestam a ideia de que o Google ignora o problema. As equipes de busca sabem que adversários manipulam classificações e conteúdo. A empresa passou décadas respondendo a spam, malware, anúncios enganosos e sites invadidos.

No entanto, a promessa do produto não se limita mais a encontrar páginas relevantes. Uma caixa de resposta oferece uma resposta sintetizada na qual os usuários podem agir imediatamente. Isso eleva o padrão da qualidade de descoberta para a qualidade da conclusão.

O Google pode afirmar corretamente que a maioria dos AI Overviews é útil, enquanto críticos podem identificar corretamente casos extremos graves. Utilidade média e falhas de alto impacto podem coexistir.

O alerta da Panda Security se encaixa nessa lacuna. A conclusão útil não é que Google News ou AI Overviews devam ser abandonados. É que a autoridade da interface excede a certeza de algumas alegações subjacentes.

A cobertura de reportagens de segurança descreveu números de suporte fraudulentos aparecendo em AI Overviews. Esses relatos continuam sendo casos individuais, e não uma medição completa de prevalência.

Essa limitação importa. Anedotas públicas não conseguem estabelecer com que frequência detalhes fraudulentos aparecem. Capturas de tela podem ficar desatualizadas, os resultados variam conforme a localização e o Google pode remover rapidamente uma resposta ruim.

Pesquisadores também têm dificuldade para reproduzir resultados de busca personalizados ou que mudam rapidamente. Uma consulta testada hoje pode retornar uma visão geral diferente amanhã. Contas, formulação, geografia e contexto de navegação podem influenciar a página.

Portanto, alegações de que os AI Overviews são amplamente inseguros excederiam as evidências disponíveis. Alegações de que o problema está resolvido também iriam longe demais.

A conclusão defensável é mais restrita. Respostas geradas criam uma superfície de ataque plausível para material de fonte malicioso. Relatos do mundo real mostram que detalhes de contato prejudiciais podem escapar das defesas existentes.

Os usuários devem aplicar uma regra de verificação baseada em risco. Explicações gerais podem servir como pontos de partida. Detalhes acionáveis exigem confirmação de uma fonte autorizada.

Para atendimento ao cliente, abra o site ou aplicativo oficial da organização. Não confie em um número de telefone apenas porque ele aparece em um resumo de IA, fórum, anúncio ou diretório.

Para serviços financeiros, use o número impresso no cartão ou exibido dentro do aplicativo autenticado. Nunca compartilhe um código de uso único, senha ou credencial completa de pagamento com uma pessoa que liga para você.

Para software, use o canal de distribuição verificado do desenvolvedor. Evite instaladores recomendados por domínios desconhecidos, mesmo quando uma resposta os descreve como oficiais.

Para recuperação de conta, navegue diretamente até o serviço. Um representante legítimo não deve exigir controle remoto, compartilhamento de tela, cartões-presente, criptomoedas ou uma transferência imediata.

O Google oferece orientações semelhantes sobre golpes. A empresa aconselha os usuários a desacelerar, verificar a fonte e usar canais oficiais para informações de atendimento ao cliente.

Essa orientação transfere parte da responsabilidade de volta ao usuário. É um conselho sensato, mas também expõe a contradição. A caixa de resposta economiza tempo apenas até que a verificação se torne necessária.

A solução de longo prazo não pode ser apenas a suspeita permanente do usuário. O Google controla a recuperação, a classificação, a apresentação e o design dos avisos. Ele pode tornar a incerteza visível antes que uma ação perigosa ocorra.

O Que os Leitores do Google News Devem Observar a Seguir

A próxima fase será julgada por três sinais: validação no nível da ação, relatórios transparentes de incidentes e testes independentes de segurança.

O primeiro sinal é se o Google trata detalhes de contato e instruções de transação como uma classe especial de risco. A classificação comum por relevância não é suficiente para informações que movimentam dinheiro ou abrem uma conta.

Um número de telefone verificado poderia exigir concordância com o domínio oficial da organização ou com um perfil empresarial autenticado. Se o Google introduzir uma validação mais forte, isso sustentaria a alegação de que as caixas de resposta podem lidar com segurança com consultas transacionais.

A ausência desses controles preservaria a contradição atual. O Google continuaria oferecendo respostas diretas enquanto aconselha os usuários a verificar essas respostas em outro lugar.

O segundo sinal é uma melhor transparência sobre incidentes. O Google publica números amplos sobre páginas de golpes bloqueadas, mas os usuários também precisam de informações sobre detalhes prejudiciais que apareceram dentro de respostas geradas.

Relatórios úteis distinguiriam links maliciosos, números falsos de suporte, domínios comprometidos e instruções fabricadas. Também explicariam o tempo de detecção, o tempo de remoção e a recorrência.

Essas medições não devem expor métodos de defesa que os atacantes possam contornar facilmente. Devem mostrar se os incidentes no nível das respostas estão diminuindo à medida que o Google expande a busca por IA.

Uma taxa de incidentes em queda fortaleceria o argumento de segurança do Google. Totais amplos de remoção sem evidências específicas de respostas deixariam a questão central sem solução.

O terceiro sinal é a realização de testes independentes e repetíveis. Pesquisadores de segurança precisam de formas estáveis de avaliar a qualidade das fontes, a fidelidade das citações e ações de alto risco em produtos de busca por IA.

Os testes devem separar erros factuais comuns de manipulação adversarial. Também devem distinguir uma citação prejudicial de uma instrução prejudicial fornecida diretamente na resposta.

Os pesquisadores devem publicar conjuntos de consultas, horários, regiões e regras de avaliação sempre que possível. Os resultados gerados mudam rapidamente, portanto métodos transparentes importam mais do que capturas de tela isoladas.

Testes independentes também podem comparar o Google com Microsoft, OpenAI, Perplexity e outros fornecedores. Essa comparação mostrará se um produto tem uma fraqueza distinta ou se todo o modelo de mecanismo de respostas a compartilha.

Para os usuários, a regra operacional já está clara. Trate um AI Overview como um resumo rápido, não como uma autoridade verificada. Abra a fonte sempre que a resposta contiver um detalhe que possa movimentar dinheiro, expor uma conta ou alterar um dispositivo.

O Google News pode destacar reportagens valiosas sobre esses riscos, enquanto o Google Search ainda pode gerar a interface arriscada em discussão. Esse contraste captura a tensão maior em torno da busca por IA.

A caixa de resposta é útil porque elimina esforço. A verificação é necessária porque esse esforço removido antes incluía julgamento. Até que o Google consiga restaurar esse julgamento de forma confiável dentro do produto, a resposta mais segura é uma verificação adicional.

Antes de ligar, pagar, instalar ou compartilhar, faça uma pergunta: o próprio canal verificado da organização confirma esse detalhe? Se a resposta não estiver clara, pare. O resumo do Google pode iniciar a busca, mas não deve encerrar a decisão.