Il reportage di The Verge su Google rivela il problema delle immagini AI in Google Earth

Google ha ritirato nel giro di circa un giorno un generatore di immagini AI integrato in Google Earth, dopo che gli utenti avevano prodotto scene convincenti di violenza, migrazione e distruzione. La storia raccontata da The Verge su Google è importante perché non si trattava dell'ennesimo strumento d'immagine isolato. Google aveva inserito l'editing generativo in un prodotto ampiamente considerato una finestra su luoghi reali.

Un breve prompt poteva alterare immagini satellitari, aeree e tridimensionali associate a un luogo specifico. Tra gli esempi condivisi dal fondatore di Digital Digging, Henk van Ess, figuravano presunti rifugiati vicino al confine messicano e danni nei pressi di un ospedale a Gaza. Le scene generate non sono entrate a far parte della mappa pubblica, ma gli screenshot potevano uscire da Google Earth privi dell'interfaccia originale o degli avvisi.

Google inizialmente ha sottolineato le proprie misure di sicurezza. Ha affermato che le immagini generate includevano il watermark SynthID e potevano essere verificate tramite Gemini o Google Lens. L'azienda ha poi fatto marcia indietro mentre circolavano screenshot fuorvianti. Questa sequenza ha messo in luce il conflitto centrale: Google ha trattato gli strumenti di provenienza come una difesa sufficiente per una funzionalità inserita in un ambiente visivo insolitamente affidabile.

La copertura di The Verge su Google mostra cosa è cambiato in Earth

Google Earth è passato per breve tempo dalla visualizzazione di immagini geografiche alla generazione di eventi fittizi nella stessa cornice visiva.

Google ha introdotto un comando “Create image” che consentiva agli utenti di selezionare un luogo e descrivere una scena modificata. Il sistema utilizzava quindi Nano Banana, la tecnologia di Google per la generazione e l'editing delle immagini, per trasformare immagini collegate a quella posizione.

Il flusso di lavoro eliminava diversi passaggi prima necessari per fabbricare un deepfake geografico. Un utente non doveva più catturare un'immagine della mappa, caricarla altrove, selezionare un modello di editing e riprodurre la prospettiva desiderata. Google riuniva in un'unica interfaccia la posizione, l'immagine di origine, il contesto 3D e il generatore.

Van Ess ha testato questa combinazione su temi nei quali le immagini false hanno conseguenze immediate. Secondo l'indagine di The Verge, i prompt hanno prodotto presunti rifugiati vicino al confine tra Stati Uniti e Messico. Un altro risultato sembrava mostrare un cratere provocato da una bomba vicino a un ospedale di Gaza.

Questi esempi erano particolarmente gravi perché entrambe le località si trovano al centro di dispute politiche e umanitarie attive. Un'immagine aerea fabbricata potrebbe sembrare confermare affermazioni su attraversamenti di confine, attacchi militari, danni alle infrastrutture o vittime civili.

Secondo quanto riportato, le immagini mostravano difetti visivi se esaminate con attenzione. Veicoli, strutture, ombre e caratteristiche del terreno non erano sempre coerenti. Tuttavia, i post sui social raramente offrono agli spettatori il tempo, i file sorgente o una risoluzione sufficiente per svolgere tale esame.

Uno screenshot può inoltre rimuovere il contesto che identificava l'immagine come una creazione personale. Google ha sottolineato che i risultati generati non comparivano nell'esperienza condivisa di Google Earth per gli altri utenti. Questa distinzione riduce il rischio che qualcuno apra Earth e incontri un paesaggio sintetico come se fosse dato cartografico.

Non risolve però l'intero problema della distribuzione. Un utente poteva esportare o catturare il risultato, ritagliare i controlli circostanti e presentare la scena su un'altra piattaforma. Una volta separata da Google Earth, l'immagine conservava l'aspetto riconoscibile di una prova geografica senza recare un avviso altrettanto riconoscibile.

La funzionalità ha quindi modificato più della semplice velocità dell'editing delle immagini. Ha conferito ai contenuti sintetici il linguaggio visivo di un prodotto associato all'osservazione, alla misurazione e ai luoghi.

Google ha ritirato lo strumento mentre sviluppava misure di protezione più solide. La sua dichiarazione ha riconosciuto sia gli usi professionali sia le violazioni delle policy. L'azienda ha affermato di aver visto professionisti geospaziali usare la funzione in modo produttivo, accanto a screenshot che sembravano violare le sue regole.

Il ritiro ha limitato l'accesso immediato, ma non ha risolto la questione progettuale. Se il generatore dovesse tornare, Google dovrà decidere se determinati soggetti, luoghi e richieste di modifica debbano restare indisponibili.

La questione più ampia è se creazione e prova debbano convivere nella stessa interfaccia. Google Earth ha costruito il proprio valore mostrando agli utenti il mondo. Un controllo generativo ha modificato silenziosamente il ruolo del prodotto, da visualizzatore a creatore di scene.

Perché Google Earth ispira più fiducia di un generatore di immagini

Il pericolo derivava dall'autorevolezza del prodotto che lo circondava, non soltanto dal realismo di Nano Banana.

Le persone si avvicinano a un generatore di immagini generico aspettandosi una fabbricazione. Possono richiedere una città immaginaria, un evento impossibile o una versione fittizia di una persona reale. Il semplice atto di aprire il generatore stabilisce che il suo output è sintetico.

Google Earth crea un'aspettativa diversa. La sua interfaccia offre località ricercabili, coordinate geografiche, terreno, fotografie aeree, immagini satellitari e modelli tridimensionali. Questi elementi suggeriscono agli utenti che la scena corrisponda a un luogo reale, anche quando le immagini sottostanti presentano dei limiti.

Le immagini satellitari non sono viste dirette e in tempo reale del pianeta. I fornitori le raccolgono in momenti specifici, le elaborano, combinano dati e le mostrano a risoluzioni variabili. La fotografia aerea e la ricostruzione 3D aggiungono ulteriori livelli di interpretazione.

Queste precisazioni contano, ma non rendono le immagini geografiche autentiche equivalenti ai contenuti generati. Le prime registrano segnali del mondo fisico. I secondi predicono pixel che soddisfano una richiesta.

Gli investigatori usano le immagini remote perché possono stabilire fatti dove l'accesso diretto è pericoloso o impossibile. Gli analisti possono confrontare immagini nel tempo per esaminare costruzioni, aree bruciate, edifici danneggiati, posizioni militari, fosse comuni, deforestazione e condizioni delle colture.

Le zone di conflitto illustrano la posta in gioco. Le prove satellitari hanno aiutato i giornalisti a valutare affermazioni contrastanti su attacchi e danni alle infrastrutture. NPR aveva in precedenza descritto come le immagini satellitari di Gaza siano diventate parte del fact-checking durante un conflitto segnato da informazioni contestate.

Google Earth non è l'unica fonte che i professionisti utilizzano per questo lavoro. Gli investigatori spesso acquisiscono immagini commerciali, esaminano metadati, confrontano fornitori indipendenti e consultano prove locali. Tuttavia, Earth offre a un vasto pubblico accesso a una versione familiare della stessa categoria visiva.

Questa familiarità crea ciò che i designer talvolta chiamano autorevolezza presa in prestito. Il risultato generato appare credibile anche perché è circondato da elementi di interfaccia affidabili. La mappa ha già fornito una posizione reale, un angolo di visuale, la texture del terreno e punti di riferimento riconoscibili.

Il reportage di The Verge su Google dimostra come questa autorevolezza possa sopravvivere al di fuori del prodotto. Uno screenshot ritagliato non deve ingannare un analista satellitare. Deve soltanto convincere abbastanza spettatori nei primi minuti di un evento in rapido sviluppo.

Il vantaggio temporale appartiene all'immagine falsa. La verifica richiede di localizzare il presunto evento, trovare immagini comparabili, controllare ombre e strutture, rintracciare il post originale e cercare copie precedenti. La condivisione richiede un solo tocco.

Precedenti episodi di disinformazione mostrano come le immagini emotive sfruttino questo divario. NPR ha documentato propaganda AI sulle catastrofi costruita attorno a scene politicamente cariche. Alcune sono circolate ampiamente anche quando gli spettatori identificavano evidenti difetti visivi.

Google Earth ha aggiunto un altro segnale persuasivo: la specificità geografica. Invece di mostrare un disastro non precisato, un autore poteva associare la finzione a un ospedale, un valico di confine, un edificio governativo o un quartiere.

Il risultato non si sarebbe limitato ad affermare che qualcosa fosse accaduto. Sarebbe sembrato mostrare dove fosse accaduto.

Questa distinzione esercita su Google una pressione maggiore rispetto a quella esercitata sulle aziende indipendenti di generatori di immagini. Google gestisce il modello di creazione, l'interfaccia geografica, gli strumenti di ricerca usati per distribuire o verificare le immagini e il servizio di rilevamento offerto come salvaguardia.

L'azienda controlla quindi diversi livelli della stessa catena informativa. Un fallimento progettuale in un prodotto può aumentare il carico posto su un altro.

Il compromesso centrale è tra creazione e prova geografica

Un watermark può identificare un'immagine artificiale, ma non può preservare il significato pubblico della prova geografica dopo la scomparsa del contesto.

La difesa iniziale di Google si è concentrata su SynthID. La tecnologia inserisce un segnale nei contenuti generati dall'AI anziché affidarsi soltanto a un'etichetta visibile. Google DeepMind afferma che il suo watermark SynthID è progettato per restare impercettibile, consentendo al contempo ai sistemi compatibili di rilevare contenuti generati o modificati.

Questo approccio ha un valore pratico. Le etichette visibili possono essere ritagliate dagli screenshot. I metadati dei file possono scomparire durante conversioni, modifiche o caricamenti sui social media. Un segnale incorporato può sopravvivere ad alcune trasformazioni che vanificano queste forme di divulgazione più semplici.

Google offre anche percorsi di rilevamento per i consumatori. Una persona che dubita di un'immagine può inviarla a Gemini o usare Lens in Search. Google ha descritto Lens, AI Mode, Circle to Search e Gemini in Chrome come strumenti per indagare l'origine dei media.

L'azienda ha dichiarato nel maggio 2026 che i suoi sistemi avevano applicato watermark a oltre 100 miliardi di immagini e video. Questa scala dimostra un investimento sostanziale nell'infrastruttura di provenienza. Non dimostra che gli spettatori comuni eseguano con costanza controlli di provenienza prima di reagire o condividere.

Il watermarking colloca la responsabilità alla fine della catena informativa. Lo spettatore deve insospettirsi, sapere che esiste uno strumento di verifica, procurarsi una copia utilizzabile e interpretare correttamente il risultato.

Uno screenshot convincente di Google Earth può influenzare lo spettatore prima che si verifichi uno qualsiasi di questi passaggi. Può essere ripubblicato con una didascalia falsa, compresso, modificato o mostrato in un video. Molti destinatari non vedranno mai l'interfaccia di creazione originale.

Il rilevamento può inoltre rispondere soltanto a una domanda limitata. Un risultato positivo suggerisce che strumenti AI compatibili abbiano creato o modificato l'immagine. Non spiega quali parti siano cambiate, come apparisse la località originale o se l'evento raffigurato sia realmente avvenuto.

Un risultato negativo o inconcludente non costituisce una prova di autenticità. L'immagine potrebbe provenire da un altro modello, aver perso il proprio segnale rilevabile o contenere una modifica che esula dalla copertura del rilevatore.

Questa asimmetria rende importanti le misure di protezione. Una misura di protezione impedisce determinati output prima della distribuzione, mentre la provenienza aiuta la valutazione successiva. I due meccanismi affrontano fasi diverse del problema.

Il reportage sulla funzionalità di Earth ha suggerito un'applicazione incoerente delle regole tra i prodotti Google. Prompt che funzionavano tramite l'interfaccia geografica avrebbero potuto non riuscire quando gli utenti tentavano modifiche simili attraverso Nano Banana altrove. Se confermata da test più ampi, questa differenza indicherebbe che l'integrazione del prodotto ha creato una nuova superficie di sicurezza.

Il contesto influenza il comportamento del modello. Una misura di protezione calibrata per un generatore indipendente potrebbe valutare una foto caricata, una richiesta testuale e una trasformazione desiderata. All'interno di Earth, il modello riceve anche una scena geografica selezionata tramite la mappa.

Quel lieu n’est pas une donnée neutre. Un hôpital, une frontière, une installation nucléaire, une école ou un bâtiment gouvernemental peuvent rendre politiquement sensible une requête par ailleurs générique. « Ajouter de la fumée » ne signifie pas la même chose lorsqu’elle est associée à une zone de conflit active.

Les règles de contenu Earth publiées par Google restreignent les contenus dangereux, terroristes, violents et malveillants. Toutefois, un document de politique ne peut empêcher un résultat que si les systèmes d’application comprennent la combinaison de l’invite, du lieu, de l’imagerie et de l’actualité.

Un blocage général de la fumée, des foules, des dégâts, des objets militaires ou des structures temporaires supprimerait aussi des usages légitimes. Les urbanistes pourraient utiliser des scènes synthétiques pour illustrer des bâtiments proposés. Les équipes d’urgence pourraient modéliser les inondations ou les dégâts causés par des feux de forêt. Les enseignants pourraient visualiser des environnements historiques.

C’est pourquoi le problème ne se résume pas à interdire les mots violents. Une simulation de catastrophe légitime et une image d’actualité fabriquée peuvent contenir des pixels presque identiques.

La différence réside dans l’objectif, la présentation, la diffusion et le contexte. Les systèmes automatisés peinent à inférer fiablement ces quatre éléments.

Google doit donc choisir où introduire de la friction. Il peut limiter les invites sensibles, bloquer les lieux à haut risque, restreindre les exportations, placer des avertissements visibles et durables dans l’image, ou réserver la fonctionnalité à des flux de travail professionnels contrôlés.

Chaque mesure affaiblit la créativité sans effort qui rendait l’intégration attrayante. C’est le compromis que le lancement initial a tenté d’éviter.

Des garde-fous plus stricts ne peuvent pas éliminer le problème des captures d’écran

Le retrait peut réduire les abus dans Google Earth, mais aucun filtre d’invites ne peut empêcher chaque usage trompeur d’images géographiques d’apparence légitime.

Le revirement de Google était approprié, car l’entreprise contrôlait directement le flux de travail risqué. Retirer la fonctionnalité a empêché les utilisateurs de produire d’autres exemples via cette interface, tandis que les ingénieurs réévaluaient ses protections.

Ce retrait ne doit pas être considéré comme une solution complète. Les utilisateurs peuvent toujours capturer des images d’un service de cartographie et les modifier avec d’autres logiciels. Les générateurs d’images généralistes, les modèles locaux et les outils graphiques conventionnels peuvent tous créer des falsifications géographiques.

Cet argument est déjà apparu dans les réponses publiques à la controverse : si des tiers peuvent effectuer la même modification, pourquoi blâmer Google Earth ?

La réponse concerne l’échelle, la friction et l’attribution. Un flux de travail trompeur spécialisé exige des connaissances, des outils et une préparation. Un bouton intégré transforme le même processus en action de produit grand public. Il donne aussi immédiatement au résultat une association avec Google.

La conception d’un produit change les comportements même lorsqu’elle ne crée pas une nouvelle capacité technique. Les appareils photo des smartphones n’ont pas inventé la photographie, et les plateformes sociales n’ont pas inventé les rumeurs. Tous deux ont changé la vitesse, le volume et l’audience de l’activité sous-jacente.

Le cas Google Verge montre le même schéma. Intégrer la génération à la navigation géographique facilitait la création rapide de nombreuses scènes spécifiques à un lieu. Un acteur malveillant pouvait tester différentes invites, angles et repères jusqu’à ce qu’un résultat paraisse plausible.

Des filtres d’invites plus stricts détecteraient certaines demandes évidentes. Ils pourraient rejeter les attaques terroristes nommées, les représentations de victimes ou les demandes directes de fabriquer des dégâts sur des sites protégés. Les utilisateurs déterminés contournent souvent les filtres par des euphémismes, des requêtes mises en scène ou des descriptions visuelles ordinaires.

Des contrôles tenant compte du lieu traiteraient une autre couche du problème. Google pourrait signaler les demandes portant sur des zones de conflit actives, des hôpitaux, des installations militaires, des sites électoraux, des frontières ou des zones sinistrées. Pourtant, de telles restrictions exigeraient une évaluation constamment mise à jour des lieux sensibles.

Elles généreraient aussi des décisions de politique difficiles. Un modèle pourrait autoriser la refonte fictive d’un stade dans une ville tout en bloquant une simulation d’urbanisme dans une autre, parce que des manifestations à proximité rendent temporairement le lieu sensible.

Des avertissements visibles constituent une intervention plus claire. Google pourrait afficher une étiquette permanente sur toute la scène générée au lieu de s’appuyer principalement sur un filigrane invisible. L’étiquette devrait survivre à un recadrage ordinaire et rester évidente aux dimensions des réseaux sociaux.

Même cette mesure a des limites. Un utilisateur peut supprimer le texte visible avec un autre outil de retouche. Un faussaire déterminé peut reconstruire la bordure, imiter l’interface ou prétendre faussement qu’une image authentique est synthétique.

Cette dernière possibilité est le dividende du menteur : l’existence de faux convaincants donne aux gens une raison de rejeter des preuves authentiques. Des personnalités publiques peuvent qualifier de générées par IA des photographies gênantes, même lorsque des appareils les ont enregistrées.

NPR a documenté cette dynamique après que de fausses affirmations ont visé une image réelle d’un rassemblement politique. La controverse n’a pas nécessité un deepfake réussi. La simple possibilité d’une modification par IA a suffi à semer le doute.

L’expérience de Google Earth risquait donc de nuire dans deux directions. Les scènes fabriquées pouvaient passer pour authentiques, tandis que les preuves satellites authentiques pouvaient devenir plus faciles à contester.

Les enquêteurs professionnels disposent de méthodes pour gérer cette incertitude. Ils comparent les dates d’acquisition, les fournisseurs d’images, les données spectrales, la météo, les ombres, les repères et les observations indépendantes. Le grand public ne reçoit généralement qu’une capture d’écran compressée et une légende.

Les organisations médiatiques devront appliquer des pratiques de vérification plus strictes, que Google rétablisse ou non la fonctionnalité. Un visuel Google Earth ne devrait plus être traité comme une preuve auto-authentifiante. Les rédacteurs devraient demander le fichier source, identifier la date de l’imagerie, localiser les coordonnées, comparer les vues historiques et rechercher une confirmation indépendante.

Les utilisateurs ordinaires peuvent effectuer une vérification plus simple. Ils peuvent rechercher la publication originale, vérifier si des organisations crédibles rapportent l’événement, comparer le lieu dans Earth et utiliser des outils de provenance. Google Lens peut aider à identifier des versions antérieures ou des images connexes.

Ces étapes réduisent le risque, mais elles ne peuvent pas inverser complètement l’impact émotionnel d’une image choquante. Une fois que les gens voient une destruction apparente dans un lieu familier, les corrections rivalisent avec une première impression saisissante.

C’est pourquoi la prévention reste importante, même lorsqu’elle est incomplète. Google ne peut pas éliminer la désinformation géographique. Il peut éviter de présenter sa production comme une fonctionnalité pratique au sein d’un produit géographique de confiance.

Ce que Google et les utilisateurs d’images IA devraient surveiller ensuite

La prochaine version révélera si Google considère cela comme une erreur de filtrage ou comme un conflit entre catégories de produits.

Le premier signal sera de savoir si le générateur d’images revient dans Google Earth, et sous quelle forme. Un relancement rapide avec des blocages d’invites plus larges suggérerait que Google considère l’incident avant tout comme une lacune de modération.

Une version professionnelle plus restreinte transmettrait un message différent. Google pourrait limiter la génération aux comptes de planification, d’éducation, de modélisation environnementale ou de conception. Il pourrait aussi contraindre ce que les utilisateurs peuvent exporter et la manière dont les scènes générées apparaissent en dehors d’un projet.

La décision de conception la plus importante sera la séparation. Google pourrait créer un espace de travail incontestablement dédié aux simulations plutôt que de placer des scènes synthétiques à côté de la visualisation géographique ordinaire. Un style visuel persistant pourrait indiquer aux utilisateurs qu’ils sont entrés dans une couche fictive.

Si Google rétablit essentiellement la même interface, la préoccupation centrale demeure. Un spectateur peut toujours confondre un événement simulé avec une géographie enregistrée, en particulier après que l’image a quitté le produit.

Le deuxième signal est la forme de l’avertissement. Google s’est initialement appuyé sur SynthID et des outils de vérification externes. Le retrait suggère que ces protections ne répondaient pas à la manière dont les captures d’écran circulent.

Surveillez l’apparition d’une étiquette visible intégrée à l’ensemble de l’image, et non simplement autour d’elle. Vérifiez également si les exportations préservent la provenance via Content Credentials, des métadonnées ou une autre norme interopérable.

Google a déclaré que SynthID fonctionne dans l’ensemble de ses produits de médias génératifs. La question pertinente est de savoir si la détection fonctionne après les transformations courantes sur les plateformes sociales. Le recadrage, la recompression, le redimensionnement, les changements de couleur et l’enregistrement d’écran devraient faire partie de toute évaluation publique.

Des chercheurs indépendants doivent pouvoir tester ces affirmations. Une protection évaluée uniquement par son développeur laisse sans réponse des questions sur les faux négatifs, les faux positifs et les performances après modification.

Le troisième signal sera de savoir si Google publie des règles de sécurité tenant compte du lieu. Ses politiques actuelles décrivent les contenus interdits, mais cette intégration exige des décisions plus précises sur le contexte géographique.

Une fonctionnalité rétablie devrait expliquer comment Google traite les guerres en cours, les catastrophes en développement, les élections, les frontières, les hôpitaux, les écoles et d’autres sites sensibles. Les utilisateurs ont également besoin d’un moyen de signaler une image géographique générée qui se propage de manière trompeuse en dehors d’Earth.

Google devrait préciser si l’application des politiques suit le créateur, le fichier généré ou les deux. L’entreprise devrait aussi expliquer ce qui se passe lorsqu’une personne produit à plusieurs reprises des scènes interdites sans les publier dans Google Earth.

Ces signaux comptent au-delà d’un seul produit. Microsoft, Adobe, OpenAI, Meta et les fournisseurs de modèles indépendants sont tous confrontés à des versions de la même question d’intégration. Les outils génératifs deviennent plus risqués lorsqu’ils sont rattachés à des systèmes qui portent déjà une autorité institutionnelle.

Un éditeur IA dans une application de dessin est clairement un outil créatif. Le même éditeur dans un logiciel de cartographie, médical, juridique, financier ou scientifique peut hériter de la crédibilité du système environnant.

La protection appropriée dépend de cet objectif environnant. Un avertissement ludique qui fonctionne pour un autocollant de réseau social peut être insuffisant pour une image ressemblant à une preuve de champ de bataille.

Google opère également à une échelle susceptible de fixer les attentes pour d’autres entreprises. S’il adopte des étiquettes durables, des contrôles tenant compte du lieu et des tests indépendants, ces mesures peuvent devenir des références. S’il rétablit discrètement l’outil après que l’attention se soit dissipée, les concurrents pourraient interpréter l’épisode comme un problème de communication temporaire.

Pour les lecteurs, la leçon pratique n’est pas de rejeter chaque image aérienne. Il s’agit de cesser de considérer une interface familière comme une preuve d’authenticité.

Lorsqu’une capture d’écran affirme montrer une nouvelle attaque, un mouvement à la frontière, une catastrophe ou un projet de construction, demandez le lieu d’origine et la date de l’imagerie. Vérifiez si des sources indépendantes ont observé le même événement. Utilisez les outils de détection comme un signal parmi d’autres, et non comme un verdict final.

La controverse Google Verge a commencé avec des invites qui ne prenaient que quelques secondes à saisir. Sa conséquence plus profonde durera plus longtemps : l’imagerie géographique nécessite désormais le même examen de provenance que toute autre image numérique.

Google peut bâtir des garde-fous plus robustes, mais les utilisateurs devraient surveiller la limite qu’il trace. Google Earth restera-t-il principalement une archive des lieux, ou deviendra-t-il une toile pour des événements plausibles qui ne se sont jamais produits ?