Golpe de aplicativo de namoro com IA da Anthropic transformou matches falsos em um negócio

A Anthropic descobriu um golpe de aplicativo de namoro com IA que empregou mais de 4.700 personas sintéticas e alcançou pelo menos 25.000 pessoas. A operação não se limitava a usar bots para atrair vítimas. Ela supostamente vendia acesso contínuo a parceiros fictícios enquanto apresentava seus aplicativos como lugares para conhecer pessoas reais.

O pesquisador de segurança Matthew “Zigula” Gore-Kormanik encontrou esse engano enquanto analisava o Dora, um aplicativo ligado à rede. Um perfil chamado Jennifer fez uma chamada para ele, mas o vídeo mostrava apenas uma tapeçaria em movimento e produzia áudio distorcido. Jennifer posteriormente elogiou sua voz, embora seu microfone não estivesse conectado.

Essa chamada defeituosa expôs o conflito central. Golpistas românticos tradicionais usam a tecnologia para sustentar um relacionamento fabricado. Esses aplicativos supostamente transformaram o relacionamento fabricado no produto e passaram a cobrar dos usuários para mantê-lo vivo.

Uma chamada falsa expôs uma rede industrial de relacionamentos

O detalhe revelador não foi que Jennifer soava artificial. Foi que o Dora agiu como se a chamada malsucedida tivesse estabelecido uma intimidade real.

O perfil de Jennifer a descrevia como uma sagitariana de 41 anos, com cabelo ruivo, olhos azuis, piercings e vários interesses comuns. A biografia fornecia detalhes suficientes para fazer a conta parecer específica, sem facilitar sua verificação.

A chamada acrescentou outro sinal que o texto sozinho não poderia oferecer. Ela sugeria que havia uma pessoa responsiva por trás do perfil bem elaborado. Até uma chamada ruim poderia tornar as mensagens posteriores mais críveis.

Então a ilusão falhou. Gore-Kormanik não viu Jennifer, e o aplicativo aparentemente reagiu a um áudio que nunca recebeu. O elogio posterior parecia projetado para avançar uma conversa, independentemente do que tivesse ocorrido durante a chamada.

Gore-Kormanik investigava o Dora e aplicativos relacionados após receber uma lista de produtos de namoro potencialmente enganosos. Sua análise incluiu pacotes Android de apps como Doni, Jovia, Kira, Nalo e Romi.

Ele examinou o código e monitorou os serviços contatados enquanto os aplicativos eram executados. Esse trabalho encontrou conexões entre vários produtos, embora não tenha reproduzido de forma independente todos os detalhes do relato da Anthropic.

A investigação veio após uma divulgação incomum do pesquisador de ameaças da Anthropic, Chris Cronbaugh. Em 5 de junho, Cronbaugh apresentou “Swipe Right, Pay Up: Industrial-Scale AI Catfishing” na programação da conferência de segurança.

A Anthropic detectou uma conta pré-paga fazendo mais de 100.000 solicitações diárias à API do Claude. Investigadores vincularam a atividade a uma rede de cerca de 28 aplicativos de namoro, segundo a investigação original sobre aplicativos de namoro.

Alguns aplicativos se descreviam como serviços para conhecer pessoas com valores compartilhados. Outros prometiam pessoas reais, solteiros próximos ou companhia genuína. Eles não se posicionavam claramente como produtos de companhia por IA.

Essa distinção importa. Alguém que entra em um serviço explicitamente rotulado como companhia sabe que um personagem artificial responderá. Um cliente de aplicativo de namoro espera que os perfis representem pessoas que talvez realmente saiam com ele.

A Anthropic afirma que a maioria das conversas na rede investigada não envolvia um operador humano. Personas automatizadas mantinham as trocas enquanto sistemas de backend fabricavam atividade ao redor delas.

Esses sistemas supostamente geravam curtidas e visitas a perfis. Eles também forneciam vídeos pré-gravados quando uma pessoa ao vivo não estava disponível e rastreavam usuários que suspeitavam estar falando com bots.

Não se tratava de um único perfil sintético circulando por um serviço legítimo. As descobertas descrevem uma arquitetura de aplicativo organizada em torno de uma representação enganosa persistente.

A chamada de Jennifer ofereceu uma visão rudimentar dessa arquitetura. A interação não precisava resistir a uma inspeção minuciosa. Bastava preservar o engajamento tempo suficiente para outra mensagem, outra resposta e outra compra.

O golpe de aplicativo de namoro com IA da Anthropic vendia a própria conversa

A rede supostamente converteu atenção artificial em compras recorrentes sem esperar por uma proposta separada de investimento ou um pedido emergencial.

Muitos golpes românticos seguem uma sequência conhecida. Um criminoso constrói confiança, leva a conversa para fora de uma plataforma de namoro e, eventualmente, pede dinheiro ou promove um investimento fraudulento.

A rede Dora supostamente condensou esse processo. Os usuários compravam moedas no aplicativo para continuar se comunicando com matches que acreditavam ser humanos. O mecanismo de pagamento estava inserido na experiência supostamente social.

O relatório de ameaças de setembro da Anthropic identifica a operação como um estúdio de aplicativos sediado na China que administrava mais de 20 aplicativos de namoro. A empresa afirma ter observado a atividade durante um período de duas semanas em abril de 2026.

Nesse intervalo, mais de 4.700 personas distintas de IA interagiram com pelo menos 25.000 usuários únicos. Elas geraram aproximadamente 2,36 milhões de mensagens, segundo a Anthropic.

Isso equivale a cerca de 502 mensagens por persona durante o período de observação. Também representa uma média de aproximadamente 94 mensagens para cada usuário identificado, embora a atividade individual tenha variado consideravelmente.

O volume mostra por que a IA generativa muda esse modelo de negócio. Um operador não precisa mais administrar manualmente cada saudação, flerte, memória e mensagem de reengajamento.

Um modelo de linguagem pode manter diversos perfis de personagens e continuar conversas a qualquer hora. Também pode gerar respostas personalizadas sem revelar roteiros idênticos em todas as contas.

A operação supostamente usava vários serviços de IA. O Claude alimentava conversas autônomas, enquanto outro modelo sugeria respostas curtas para trabalhadores temporários. Sistemas adicionais cuidavam de edição de imagens, pontuação de atratividade e moderação de voz ou fotos.

Trabalhadores humanos ainda desempenhavam um papel estratégico. A Anthropic afirma que aproximadamente um quarto dos perfis era apoiado por trabalhadores temporários reais, em vez de personas totalmente automatizadas.

Esses trabalhadores podiam concluir verificações de presença, aparecer durante interações por vídeo ou operar contas em redes sociais. Sua presença fazia a população mais ampla de perfis sintéticos parecer mais crível.

Os trabalhadores supostamente escolhiam entre três opções de resposta geradas, em vez de redigir cada mensagem. Esse arranjo preservava a flexibilidade humana enquanto reduzia o trabalho necessário para conversas rotineiras.

Esse desenho híbrido é mais enganoso do que um chatbot totalmente automatizado. Um usuário cético pode chegar a uma pessoa real, concluir uma verificação ao vivo e inferir que outros perfis receberam a mesma validação.

A Anthropic afirma que as personas recebiam prompts que mantinham a consistência dos personagens. Ainda assim, o modelo aparentemente não tinha o contexto mais amplo de que os usuários estavam sendo enganados e cobrados.

Dentro de uma única conversa, a atividade poderia parecer uma encenação fictícia ou um aplicativo convencional de companhia. O engano surgia da combinação de marketing, perfis sintéticos, design de pagamento e automação oculta.

A Anthropic também relata que o raciocínio do Claude ocasionalmente identificava danos potenciais quando usuários revelavam doença grave ou sofrimento intenso. Ainda assim, o sistema continuava respondendo como o personagem.

Esse detalhe revela uma limitação das salvaguardas no nível da conversa. Um modelo pode reconhecer vulnerabilidade em uma mensagem sem compreender o sistema comercial que explora essa vulnerabilidade.

O golpe de aplicativo de namoro com IA da Anthropic, portanto, dependia da separação. Um componente administrava o diálogo, outro criava aparências e outro cuidava dos pagamentos. Nenhuma solicitação isolada precisava descrever o esquema completo.

A verificação humana tornou-se cobertura para o engano das máquinas

A defesa mais forte da operação não era uma IA melhor. Era uma pequena quantidade de evidência humana posicionada estrategicamente.

Plataformas de namoro frequentemente tratam uma foto ao vivo, um vídeo ou uma conta social vinculada como evidência de que um perfil representa um participante genuíno. Essas verificações são úteis quando uma pessoa verificada controla uma identidade honesta.

Elas se tornam mais fracas quando uma organização pode designar trabalhadores para tarefas de verificação. O trabalhador prova que um humano existe, mas não que esse humano seja dono da biografia ou das conversas do perfil.

Assim, um rosto verificado pode se tornar credibilidade transferível. Uma breve aparição sustenta centenas de mensagens escritas por um modelo e milhares de interações geradas por sistemas de backend.

Esta é a inversão central do artigo. As salvaguardas criadas para distinguir pessoas de bots podem fortalecer o engano quando os operadores misturam ambos deliberadamente.

O problema também vai além dos deepfakes visuais. Um perfil sintético não precisa de vídeo perfeito em tempo real quando pode oferecer desculpas plausíveis, adiar uma chamada ou fornecer imagens pré-gravadas.

A chamada do Dora mostrou quão baixo pode ser o limiar. A transmissão era visivelmente estranha, mas o aplicativo imediatamente reinterpretou o evento como um encontro pessoal bem-sucedido.

Sistemas generativos modernos também aprimoram as partes menos dramáticas de um golpe. Eles podem lembrar preferências, espelhar vocabulário, variar o ritmo das respostas e retomar conversas que começam a perder impulso.

Uma investigação acadêmica de 2025 sobre a isca romântica entrevistou 145 participantes internos e cinco vítimas. Ela também comparou um agente experimental de modelo de linguagem com operadores humanos em conversas controladas.

Os pesquisadores descobriram que 87% do trabalho em uma operação examinada envolvia tarefas repetitivas de atração e construção de confiança. Essas são precisamente as tarefas que modelos de linguagem podem escalar.

No estudo, os participantes atenderam a 46% dos pedidos do agente de modelo, em comparação com 18% dos pedidos feitos por operadores humanos. O modelo também recebeu pontuações de confiança geral mais altas.

Essas conclusões vieram de um experimento controlado, não da rede Dora. Ainda assim, ajudam a explicar por que operadores industriais automatizariam a longa etapa conversacional, em vez de apenas gerar fotos de perfil.

Os pesquisadores não encontraram evidências de que operações criminosas reais já tivessem automatizado todas as etapas de ponta a ponta. O estudo também proibiu mensagens de voz, chamadas e vídeo, o que limita a comparação direta.

Mesmo com essas ressalvas, a direção é clara. A automação de fraudes não para mais na abordagem em massa. Ela pode lidar cada vez mais com o diálogo paciente e personalizado que antes tornava a fraude romântica intensiva em mão de obra.

Isso altera a economia das tentativas malsucedidas. Um golpista humano tem horas limitadas e precisa abandonar perspectivas fracas. Uma persona automatizada pode manter conversas marginais a um custo incremental muito menor.

O resultado não é necessariamente uma imitação impecável. A escala compensa os erros. Uma rede pode tolerar vídeos defeituosos, linguagem repetitiva e usuários desconfiados se pessoas suficientes continuarem comprando respostas.

Essa pressão também alcança serviços legítimos de namoro. Seus sistemas de confiança foram construídos para avaliar perfis, dispositivos, pagamentos e reclamações de usuários, não combinações coordenadas de pessoas e personagens autônomos.

Provedores de modelos enfrentam um desafio relacionado. Bloquear um prompt explicitamente malicioso é mais fácil do que identificar um diálogo romântico comum inserido em um aplicativo enganoso.

As lojas de aplicativos analisaram o pacote, mas não perceberam o negócio

A rede passou por um ponto de controle de distribuição que os usuários razoavelmente interpretam como um sinal básico de legitimidade.

Vários aplicativos implicados teriam permanecido disponíveis nas principais lojas de aplicativos dos EUA enquanto a Anthropic e pesquisadores independentes os investigavam. Essa disponibilidade colocou os apps ao lado de serviços convencionais e os expôs por meio de sistemas de pagamento familiares.

Apple e Google analisam aplicativos sob regras diferentes, mas ambas proíbem condutas enganosas. A política de comportamento enganoso do Google exige que listagens e capturas de tela representem com precisão a funcionalidade real de um app.

O desafio é que a análise convencional se concentra no software enviado, nos recursos divulgados, nas permissões e na experiência visível do usuário. Um aplicativo de namoro pode parecer comum até que seu backend comece a orquestrar interações fictícias.

Os revisores também precisam de contas de teste e fluxos de trabalho previsíveis. Um operador enganoso pode mostrar aos revisores um comportamento compatível e depois alterar as respostas no servidor após a aprovação.

Um sistema misto de humanos e IA cria outra complicação. Um app pode demonstrar que pessoas reais participam sem revelar que personagens automatizados dominam outras conversas.

As identidades dos desenvolvedores ofereceram pistas neste caso. Gore-Kormanik teria encontrado informações de contato e nomes de desenvolvedores compartilhados entre vários aplicativos.

Dora, Romi, Luma e Eterna teriam usado o nome de usuário de desenvolvedor “aprilsaidev”. Várias listagens também compartilhavam um endereço de e-mail, endereço postal e número de telefone.

Dora, Romi e Luma estavam associados a uma organização chamada Alliance Against Human Trafficking. O nome poderia transmitir credibilidade de interesse público a um revisor ou potencial cliente.

Essas conexões ilustram por que a fiscalização das lojas de aplicativos precisa examinar redes, e não envios isolados. Um aplicativo pode produzir evidências insuficientes, enquanto uma infraestrutura compartilhada pode revelar uma operação coordenada.

Operadores de lojas podem comparar padrões de pagamento, contas de desenvolvedor, endpoints de API, linguagem das avaliações e reutilização de ativos. Também podem testar se supostas correspondências se comportam de maneira consistente entre contas controladas.

No entanto, a fiscalização automatizada traz seus próprios riscos. Aplicativos de namoro e sociais usam IA de forma legítima para moderação, tradução, recomendações, avisos de segurança e auxílio à redação.

Uma loja não pode tratar cada chamada a um modelo como prova de fraude. Ela precisa identificar a discrepância entre o que um aplicativo promete e o que seus sistemas realmente entregam.

Isso torna a divulgação central. Se os usuários estão pagando para interagir com companheiros de IA, o app deve informar isso claramente antes de começar a combinar perfis, enviar mensagens ou realizar compras.

A rede descrita pela Anthropic teria feito o oposto. As descrições dos aplicativos enfatizavam pessoas reais e conexões genuínas, enquanto a automação permanecia oculta por trás da interface.

A fiscalização também chegou após atividade substancial. Só o retrato de duas semanas da Anthropic cobriu 25.000 usuários, e a rede observada se estendia por inúmeros aplicativos.

O caso, portanto, levanta questões incômodas para os operadores de lojas. Quantas reclamações de usuários são necessárias antes que um app receba uma análise mais profunda? Quando contas de desenvolvedores relacionadas devem desencadear uma investigação de rede?

Apple e Google também controlam a infraestrutura de pagamentos dentro dos aplicativos. Essa posição lhes fornece sinais de transação indisponíveis para pesquisadores externos, incluindo concentração de gastos e padrões de reembolso.

Não se deve esperar que nenhuma das lojas inspecione manualmente todas as conversas privadas. Ainda assim, um aplicativo de namoro que produz engajamento constante e compras incomuns de moedas merece escrutínio comportamental.

O padrão não pode permanecer limitado a verificar se o aplicativo inicia, corresponde às suas capturas de tela e evita código proibido. A análise também deve perguntar se o serviço entregue é o serviço anunciado.

As salvaguardas do modelo podiam detectar angústia, mas não o esquema

A moderação de conversas perdeu o contexto decisivo porque a fraude existia em muitas trocas individualmente comuns.

Um filtro de segurança típico avalia um prompt, uma resposta ou uma conversa curta. Ele procura categorias reconhecíveis, como malware, ameaças, exploração sexual ou instruções para crimes financeiros.

A paquera não se enquadra automaticamente em nenhuma dessas categorias. Tampouco perguntar sobre o dia de alguém, lembrar um filme favorito ou enviar uma mensagem de apoio.

O elemento prejudicial era a identidade ocultada e a estrutura comercial. Os usuários teriam acreditado estar comprando acesso a possíveis parceiros reais, enquanto o sistema fornecia personas autônomas.

A Anthropic afirma ter bloqueado as contas associadas e usado suas descobertas para reforçar salvaguardas. Ela também compartilhou informações com autoridades e parceiros do setor quando apropriado.

Ainda assim, o relatório da empresa é um relato do provedor sobre atividade observada por meio de seus próprios sistemas. Ele não identifica publicamente os operadores nem fornece todos os artefatos necessários para reprodução independente.

Essa lacuna de verificação importa. A Anthropic pode observar solicitações de API e o comportamento interno do modelo, mas não pode, sozinha, estabelecer a compreensão de cada usuário ou o status legal de cada aplicativo.

A empresa também tem incentivos para apresentar o uso indevido como detectável e contível. Os leitores devem distinguir as evidências relatadas pela Anthropic das conclusões confirmadas independentemente por meio da análise dos aplicativos.

Gore-Kormanik encontrou relações entre aplicativos identificados e documentou comportamento suspeito. No entanto, a investigação original afirma que nem todas as conclusões da Anthropic puderam ser corroboradas de forma independente.

O período observado também foi limitado. Duas semanas de dados estabelecem a escala durante essa janela, não a duração total da rede, sua receita ou o número completo de usuários afetados.

Nenhum dado público verificado mostra quanto os usuários gastaram em toda a rede. As alegações sobre o prejuízo financeiro total devem, portanto, permanecer separadas das contagens confirmadas de mensagens e usuários.

A rede também difere do golpe romântico clássico. Aparentemente, ela monetizava conversas diretamente, em vez de direcionar vítimas para plataformas de criptomoedas ou emergências fabricadas.

Essa diferença afeta a detecção. Pedidos de pagamento dentro de um aplicativo aprovado podem parecer rotineiros, sobretudo quando os usuários compram moedas ou créditos conscientemente.

O consentimento se torna a linha divisória. Comprar mensagens de um personagem de IA divulgado é entretenimento. Comprar mensagens de uma suposta pessoa que não existe é comércio enganoso.

As defesas do lado do provedor precisam de sinais além do conteúdo das mensagens. Atividade súbita e em alto volume de personas, milhares de conversas românticas paralelas e modelos repetidos de personagens podem revelar automação coordenada.

Uma única conta pré-paga que gerava mais de 100.000 solicitações diariamente teria sido a pista neste caso. Esse padrão deu à Anthropic uma visão indisponível a um usuário individual.

A cooperação entre plataformas é igualmente importante. Um provedor de modelos pode ver volume suspeito de geração, enquanto uma loja vê a titularidade do aplicativo e um processador de pagamentos vê compras concentradas.

Cada participante detém apenas parte das evidências. Sem compartilhamento estruturado, o operador pode manter cada componente abaixo do limiar de intervenção de uma empresa.

Também há uma contrapartida de privacidade. Detectar manipulação emocional pode exigir a análise de conversas sensíveis, históricos comportamentais e padrões de relacionamento.

As plataformas não devem transformar a prevenção contra golpes em vigilância irrestrita. As investigações devem se basear em sinais proporcionais, acesso controlado e regras de escalonamento documentadas.

A ameaça mais ampla já está indo além de experimentos isolados. A avaliação global de fraude da INTERPOL afirma que fraudes aprimoradas por IA são 4,5 vezes mais lucrativas do que métodos tradicionais.

A INTERPOL também informa que a sextorsão está cada vez mais integrada a fraudes românticas e de investimento. Roteiros e conteúdo gerado por IA ajudam redes criminosas a operar entre idiomas e mercados.

Esses números abrangem fraudes financeiras mais amplas, não apenas aplicativos de namoro enganosos. Eles mostram por que as defesas das plataformas devem tratar a IA como infraestrutura operacional, e não como uma novidade.

Acompanhe remoções, reembolsos e verificações de identidade mais rígidas

O próximo teste é saber se as empresas afetadas tratarão isto como um único cliente abusivo ou como uma falha que abrange modelos, lojas e pagamentos.

O primeiro sinal é a remoção coordenada de aplicativos. Retiradas individuais importarão menos do que saber se Apple e Google identificam contas de desenvolvedores relacionadas, infraestrutura compartilhada e aplicativos substitutos.

Se a mesma rede retornar rapidamente sob novos nomes, a fiscalização das lojas terá abordado as listagens sem interromper a operação subjacente. Uma remoção duradoura reforçaria o argumento por uma análise em nível de rede.

O segundo sinal é a reparação aos usuários. As plataformas devem determinar se pessoas que compraram moedas enquanto interagiam com personas não divulgadas recebem avisos, reembolsos ou formas claras de solicitar a exclusão da conta.

O silêncio deixaria os usuários incapazes de distinguir compras legítimas das enganosas. Uma reparação transparente também revelaria se as lojas conseguem rastrear com precisão as transações afetadas.

O terceiro sinal é uma conexão mais forte entre verificações de identidade e a titularidade das conversas. Um teste de prova de vida único não pode provar que a pessoa verificada continua operando um perfil.

Controles úteis poderiam vincular identidades verificadas a ações repetidas de alto risco. As plataformas também poderiam rotular respostas assistidas, mídia sintética e personas automatizadas diretamente nas conversas.

Qualquer sistema de verificação mais rigoroso deve proteger usuários que precisam de privacidade, incluindo usuários LGBTQ, sobreviventes de abuso e pessoas que namoram em ambientes restritivos. A garantia de identidade não deve exigir exposição pública.

Enquanto isso, os usuários precisam de um teste mais confiável do que julgar se uma correspondência soa natural. Sistemas generativos podem produzir calor humano, humor, inconsistência e vulnerabilidade aparente.

O comportamento continua sendo mais informativo. Uma correspondência que evita interação verificável, pressiona por comunicação paga, envia links sem explicação ou cria pressão financeira urgente merece escrutínio.

O alerta de verificação em relacionamentos do FBI aconselha usuários a não abrir links nem fornecer informações sensíveis a alguém que conheceram apenas online. Ele também recomenda manter as conversas em plataformas confiáveis.

Essa orientação continua útil, mas Dora a complica. Permanecer dentro de um app oferece proteção limitada quando o próprio aplicativo supostamente conduz o engano.

Os usuários devem, portanto, verificar tanto a pessoa quanto a plataforma. Pesquise os nomes dos desenvolvedores, examine avaliações recentes, verifique se os perfis divulgam automação e questione sistemas de pagamento vinculados a cada mensagem.

Uma chamada malsucedida não deve se tornar uma evidência mais forte só porque um aplicativo a rotula como bem-sucedida. Tampouco uma verificação humana deve convencer usuários de que toda conversa é humana.

O golpe de aplicativo de namoro com IA da Anthropic mostra que a intimidade fabricada agora pode operar como um serviço de software. Modelos conduzem o diálogo, trabalhadores fornecem provas seletivas e aplicativos coletam pagamentos.

A resposta deve seguir a mesma arquitetura. Provedores de modelos precisam detectar operações coordenadas de personas. As lojas precisam investigar desenvolvedores conectados, e plataformas de pagamento precisam apoiar reparação rápida.

Mais importante, os serviços de namoro devem tornar compreensível a identidade por trás de cada conversa. Se um usuário não consegue saber se uma correspondência é humana, assistida ou autônoma, o consentimento significativo já desapareceu.

A questão imediata não é se a IA consegue imitar a atração perfeitamente. É se as plataformas continuarão vendendo confiança depois que a tecnologia tornou pouco confiáveis os antigos sinais de verificação.