L'enquête de The Verge sur Google révèle le problème des images IA dans Google Earth

Google a retiré un générateur d'images IA de Google Earth après environ une journée, après que des utilisateurs ont créé des scènes convaincantes de violence, de migration et de destruction. L'article de The Verge sur Google est important, car il ne s'agissait pas d'un outil d'images isolé de plus. Google avait intégré l'édition générative à un produit largement considéré comme une fenêtre sur des lieux réels.

Une courte invite pouvait modifier des images satellites, aériennes et tridimensionnelles associées à un lieu précis. Parmi les exemples partagés par Henk van Ess, fondateur de Digital Digging, figuraient de prétendus réfugiés près de la frontière mexicaine et des dégâts près d'un hôpital de Gaza. Les scènes générées ne devenaient pas partie intégrante de la carte publique, mais des captures d'écran pouvaient quitter Google Earth sans leur interface ni leurs avertissements d'origine.

Google a d'abord mis en avant ses protections. L'entreprise a déclaré que les images générées portaient son filigrane SynthID et pouvaient être vérifiées via Gemini ou Google Lens. Elle a ensuite fait marche arrière lorsque des captures d'écran trompeuses ont circulé. Cette séquence a révélé le conflit central : Google considérait les outils de provenance comme une défense suffisante pour une fonctionnalité intégrée à un environnement visuel bénéficiant d'une confiance inhabituelle.

La couverture de The Verge sur Google montre ce qui a changé dans Earth

Google Earth est brièvement passé de l'affichage d'images géographiques à la génération d'événements fictifs dans le même cadre visuel.

Google a introduit une commande « Create image » permettant aux utilisateurs de sélectionner un lieu et de décrire une scène modifiée. Le système utilisait ensuite Nano Banana, la technologie de génération et d'édition d'images de Google, pour transformer des images liées à ce lieu.

Le flux de travail supprimait plusieurs étapes auparavant nécessaires pour fabriquer un deepfake géographique. Un utilisateur n'avait plus besoin de capturer une image de carte, de la téléverser ailleurs, de sélectionner un modèle d'édition et de reproduire le point de vue souhaité. Google réunissait le lieu, l'image source, le contexte 3D et le générateur dans une même interface.

Van Ess a testé cette combinaison sur des sujets pour lesquels les fausses images ont des conséquences immédiates. Selon l'enquête de The Verge, des invites ont produit de prétendus réfugiés près de la frontière entre les États-Unis et le Mexique. Un autre résultat semblait montrer un cratère de bombe près d'un hôpital à Gaza.

Ces exemples étaient particulièrement graves, car les deux lieux se trouvent au cœur de différends politiques et humanitaires actifs. Une image aérienne fabriquée pouvait sembler étayer des affirmations sur des passages frontaliers, des attaques militaires, des dommages aux infrastructures ou des victimes civiles.

Les images présentaient apparemment des défauts visuels lorsqu'elles étaient examinées avec attention. Les véhicules, les structures, les ombres et les éléments du terrain ne correspondaient pas toujours. Pourtant, les publications sur les réseaux sociaux donnent rarement aux spectateurs le temps, les fichiers sources ou une résolution suffisante pour procéder à cet examen.

Une capture d'écran peut aussi supprimer le contexte indiquant que l'image est une création personnelle. Google a souligné que les résultats générés n'apparaissaient pas dans l'expérience Google Earth partagée par les autres utilisateurs. Cette distinction réduit le risque qu'une personne ouvre Earth et rencontre un paysage synthétique présenté comme des données cartographiques.

Elle ne résout pas l'ensemble du problème de diffusion. Un utilisateur pouvait exporter ou capturer le résultat, rogner les commandes environnantes et présenter la scène sur une autre plateforme. Une fois séparée de Google Earth, l'image conservait l'apparence reconnaissable d'une preuve géographique sans porter un avertissement tout aussi reconnaissable.

La fonctionnalité a donc changé plus que la vitesse d'édition des images. Elle a donné au contenu synthétique le langage visuel d'un produit associé à l'observation, à la mesure et aux lieux.

Google a retiré l'outil pendant qu'il développait des garde-fous plus solides. Sa déclaration reconnaissait à la fois les usages professionnels et les violations de ses règles. L'entreprise a indiqué avoir vu des professionnels de la géospatiale utiliser la fonctionnalité de façon productive, parallèlement à des captures d'écran qui semblaient enfreindre ses règles.

Ce retrait a limité l'accès immédiat, mais n'a pas tranché la question de conception. Si le générateur revient, Google devra décider si certains sujets, lieux et demandes d'édition doivent rester indisponibles.

La question plus large est de savoir si création et preuve doivent coexister dans la même interface. Google Earth a bâti sa valeur sur le fait de montrer le monde aux utilisateurs. Une commande générative a discrètement fait évoluer le produit de visionneuse à créateur de scènes.

Pourquoi Google Earth inspire davantage confiance qu'un générateur d'images

Le danger provenait de l'autorité du produit qui l'entoure, et pas seulement du réalisme de Nano Banana.

Les personnes qui utilisent un générateur d'images généraliste s'attendent à des fabrications. Elles peuvent demander une ville imaginaire, un événement impossible ou une version fictive d'une personne réelle. Le fait d'ouvrir le générateur établit que sa production est synthétique.

Google Earth crée une attente différente. Son interface propose des lieux recherchables, des coordonnées géographiques, du relief, des photographies aériennes, des images satellites et des modèles tridimensionnels. Ces éléments indiquent aux utilisateurs que la scène correspond à un lieu réel, même lorsque l'imagerie sous-jacente présente des limites.

Les images satellites ne sont pas des vues directes et en temps réel de la planète. Les fournisseurs les collectent à des moments précis, les traitent, combinent des données et les affichent dans des résolutions variables. La photographie aérienne et la reconstruction 3D ajoutent d'autres couches d'interprétation.

Ces nuances comptent, mais elles ne rendent pas l'imagerie géographique authentique équivalente au contenu généré. L'une enregistre des signaux du monde physique. L'autre prédit des pixels répondant à une demande.

Les enquêteurs utilisent l'imagerie à distance parce qu'elle peut établir des faits là où l'accès direct est dangereux ou impossible. Les analystes peuvent comparer des images au fil du temps pour examiner des constructions, des zones brûlées, des bâtiments endommagés, des positions militaires, des fosses communes, la déforestation et l'état des cultures.

Les zones de conflit illustrent les enjeux. Les preuves satellitaires ont aidé les journalistes à évaluer des affirmations concurrentes sur des attaques et des dommages aux infrastructures. NPR a précédemment expliqué comment l'imagerie satellite de Gaza est devenue un élément de vérification des faits pendant un conflit façonné par des informations contestées.

Google Earth n'est pas la seule source utilisée par les professionnels pour ce type de travail. Les enquêteurs obtiennent souvent des images commerciales, examinent les métadonnées, comparent des fournisseurs indépendants et consultent des preuves locales. Toutefois, Earth donne à un large public accès à une version familière de cette même catégorie visuelle.

Cette familiarité crée ce que les concepteurs appellent parfois une autorité empruntée. Le résultat généré paraît crédible en partie parce qu'il est entouré d'éléments d'interface fiables. La carte a déjà fourni un lieu réel, un angle de vue, une texture du sol et des repères reconnaissables.

L'enquête de The Verge sur Google montre comment cette autorité peut survivre en dehors du produit. Une capture d'écran recadrée n'a pas besoin de tromper un analyste satellite. Elle doit seulement convaincre suffisamment de personnes durant les premières minutes d'un événement qui évolue rapidement.

L'avantage du timing appartient à la fausse image. La vérification exige de localiser l'événement présumé, de trouver des images comparables, de vérifier les ombres et les structures, de retracer la publication originale et de rechercher des copies antérieures. Le partage ne demande qu'une pression.

De précédents épisodes de désinformation montrent comment des images émotionnelles exploitent cet écart. NPR a documenté de la propagande de catastrophes générée par IA construite autour de scènes politiquement chargées. Certaines ont largement circulé même lorsque les spectateurs identifiaient des défauts visuels évidents.

Google Earth a ajouté un autre signal persuasif : la précision géographique. Au lieu de montrer une catastrophe non précisée, un créateur pouvait rattacher la fiction à un hôpital, un poste-frontière, un bâtiment gouvernemental ou un quartier.

Le résultat ne se contenterait pas d'affirmer que quelque chose s'est produit. Il semblerait montrer où cela s'est produit.

Cette distinction exerce davantage de pression sur Google que sur les entreprises indépendantes de générateurs d'images. Google exploite le modèle de création, l'interface géographique, les outils de recherche utilisés pour diffuser ou vérifier les images, ainsi que le service de détection proposé comme protection.

L'entreprise contrôle donc plusieurs couches de la même chaîne d'information. Une défaillance de conception dans un produit peut accroître la charge imposée à un autre.

Le compromis central oppose création et preuve géographique

Un filigrane peut identifier une image artificielle, mais il ne peut pas préserver la signification publique d'une preuve géographique après la disparition du contexte.

La défense initiale de Google était centrée sur SynthID. Cette technologie place un signal dans le contenu généré par IA plutôt que de s'appuyer uniquement sur une étiquette visible. Google DeepMind indique que son filigrane SynthID est conçu pour rester imperceptible tout en permettant aux systèmes compatibles de détecter les médias générés ou modifiés.

Cette approche présente une valeur pratique. Les étiquettes visibles peuvent être rognées dans les captures d'écran. Les métadonnées de fichier peuvent disparaître lors de conversions, d'éditions ou de téléversements sur les réseaux sociaux. Un signal intégré peut survivre à certaines transformations qui neutralisent ces divulgations plus simples.

Google propose aussi des voies de détection destinées au grand public. Une personne qui doute d'une image peut la soumettre à Gemini ou utiliser Lens dans Search. Google a présenté Lens, AI Mode, Circle to Search et Gemini dans Chrome comme des moyens d'enquêter sur l'origine des médias.

L'entreprise a déclaré en mai 2026 que ses systèmes avaient filigrané plus de 100 milliards d'images et de vidéos. Cette ampleur démontre un investissement substantiel dans l'infrastructure de provenance. Elle ne démontre pas que les spectateurs ordinaires effectuent systématiquement des vérifications de provenance avant de réagir ou de partager.

Le filigranage place la responsabilité à l'extrémité de la chaîne d'information. Le spectateur doit devenir méfiant, savoir qu'un outil de vérification existe, obtenir une copie exploitable et interpréter correctement le résultat.

Une capture d'écran convaincante de Google Earth peut influencer le spectateur avant que l'une de ces étapes ne se produise. Elle peut être repartagée avec une légende mensongère, compressée, modifiée ou affichée dans une vidéo. De nombreux destinataires ne verront jamais l'interface de création originale.

La détection ne peut aussi répondre qu'à une question limitée. Un résultat positif suggère que des outils d'IA compatibles ont créé ou modifié l'image. Il n'explique pas quelles parties ont changé, à quoi ressemblait le lieu d'origine ni si l'événement représenté s'est réellement produit.

Un résultat négatif ou non concluant ne constitue pas une preuve d'authenticité. L'image peut provenir d'un autre modèle, avoir perdu son signal détectable ou contenir une modification au-delà de la couverture du détecteur.

Cette asymétrie rend les garde-fous importants. Un garde-fou empêche certaines sorties avant leur diffusion, tandis que la provenance aide à les évaluer après coup. Les deux mécanismes interviennent à des stades différents du problème.

Les informations sur la fonctionnalité Earth suggéraient une application incohérente des règles entre les produits Google. Des invites qui fonctionnaient via l'interface géographique pouvaient apparemment échouer lorsque les utilisateurs tentaient des modifications similaires avec Nano Banana ailleurs. Si cette différence est confirmée par des tests plus larges, elle indique que l'intégration au produit a créé une nouvelle surface de sécurité.

Le contexte influe sur le comportement du modèle. Une protection réglée pour un générateur autonome peut évaluer une photo téléversée, une demande textuelle et une transformation demandée. Dans Earth, le modèle reçoit aussi une scène géographique sélectionnée sur la carte.

Cet emplacement n’est pas une donnée neutre. Un hôpital, une frontière, une installation nucléaire, une école ou un bâtiment gouvernemental peuvent rendre politiquement sensible une demande autrement générique. « Ajouter de la fumée » ne signifie pas la même chose lorsqu’il s’agit d’une zone de conflit active.

Les règles de contenu Earth publiées par Google limitent les contenus dangereux, terroristes, violents et malveillants. Toutefois, un document de politique ne peut empêcher un résultat que si les systèmes d’application comprennent la combinaison du prompt, du lieu, de l’imagerie et de l’actualité.

Un blocage généralisé de la fumée, des foules, des dégâts, des objets militaires ou des structures temporaires supprimerait aussi des usages légitimes. Des urbanistes pourraient utiliser des scènes synthétiques pour illustrer des bâtiments proposés. Des équipes d’urgence pourraient modéliser des inondations ou les dégâts causés par des incendies de forêt. Des enseignants pourraient visualiser des environnements historiques.

C’est pourquoi le problème ne se résume pas à interdire des mots violents. Une simulation légitime de catastrophe et une image d’actualité fabriquée peuvent contenir des pixels presque identiques.

La différence réside dans l’objectif, la présentation, la diffusion et le contexte. Les systèmes automatisés peinent à inférer ces quatre éléments de manière fiable.

Google doit donc choisir où introduire de la friction. L’entreprise peut limiter les prompts sensibles, bloquer les emplacements à haut risque, restreindre les exportations, placer dans l’image des avertissements visibles et durables, ou rendre la fonctionnalité accessible uniquement dans des flux de travail professionnels contrôlés.

Chaque mesure réduit la créativité sans effort qui rendait l’intégration attrayante. C’est le compromis que le lancement initial a tenté d’éviter.

Des garde-fous plus robustes ne peuvent pas éliminer le problème des captures d’écran

Le retrait peut réduire les abus au sein de Google Earth, mais aucun filtre de prompts ne peut empêcher tous les usages trompeurs d’images géographiques d’apparence légitime.

Le revirement de Google était approprié, car l’entreprise contrôlait directement le flux de travail risqué. Retirer la fonctionnalité a empêché les utilisateurs de produire d’autres exemples via cette interface pendant que les ingénieurs réévaluaient ses protections.

Ce retrait ne doit pas être considéré comme une solution complète. Les utilisateurs peuvent toujours capturer des images depuis un service de cartographie et les modifier avec d’autres logiciels. Les générateurs d’images généralistes, les modèles locaux et les outils graphiques conventionnels peuvent tous créer des fabrications géographiques.

Cet argument est déjà apparu dans les réactions publiques à la controverse : si des tiers peuvent effectuer la même modification, pourquoi blâmer Google Earth ?

La réponse tient à l’échelle, à la friction et à l’attribution. Un flux de travail trompeur spécialisé exige des connaissances, des outils et de la préparation. Un bouton intégré transforme ce même flux de travail en action ordinaire d’un produit grand public. Il associe aussi immédiatement le résultat à Google.

La conception d’un produit modifie les comportements même lorsqu’elle ne crée pas une nouvelle capacité technique. Les appareils photo des smartphones n’ont pas inventé la photographie, et les plateformes sociales n’ont pas inventé les rumeurs. Tous deux ont changé la vitesse, le volume et l’audience de l’activité sous-jacente.

Le cas Google Verge illustre le même schéma. L’intégration de la génération à la navigation géographique a facilité la création rapide de nombreuses scènes propres à un lieu. Un acteur malveillant pouvait tester différents prompts, angles et points de repère jusqu’à obtenir un résultat plausible.

Des filtres de prompts plus robustes intercepteraient certaines demandes manifestes. Ils pourraient rejeter les attaques terroristes nommées, les représentations de victimes ou les demandes directes de fabrication de dégâts sur des sites protégés. Les utilisateurs déterminés contournent souvent les filtres par des euphémismes, des demandes mises en scène ou des descriptions visuelles ordinaires.

Des contrôles tenant compte du lieu traiteraient une autre couche du problème. Google pourrait signaler les demandes concernant des zones de conflit actives, des hôpitaux, des installations militaires, des sites électoraux, des frontières ou des zones sinistrées. Ces restrictions exigeraient toutefois une évaluation constamment actualisée des lieux sensibles.

Elles soulèveraient également des décisions de politique difficiles. Un modèle pourrait autoriser la refonte fictive d’un stade dans une ville tout en bloquant une simulation d’urbanisme dans une autre, parce que des manifestations à proximité ont rendu le lieu temporairement sensible.

Les avertissements visibles offrent une intervention plus claire. Google pourrait afficher une étiquette permanente sur la scène générée au lieu de s’appuyer principalement sur un filigrane invisible. L’étiquette devrait résister à un recadrage ordinaire et rester évidente aux dimensions des réseaux sociaux.

Même cette mesure a ses limites. Un utilisateur peut supprimer le texte visible avec un autre outil de modification. Un fabricant déterminé peut reconstituer la bordure, imiter l’interface ou prétendre à tort qu’une image authentique est synthétique.

Cette dernière possibilité relève du dividende du menteur : l’existence de faux convaincants donne aux gens une raison d’écarter des preuves authentiques. Des personnalités publiques peuvent qualifier de générées par l’IA des photographies embarrassantes, même lorsque des appareils photo les ont prises.

NPR a documenté cette dynamique après que de fausses affirmations ont visé une véritable image d’un rassemblement politique. La controverse n’a pas nécessité de deepfake réussi. La simple possibilité d’une altération par l’IA a suffi à semer le doute.

L’expérience de Google Earth risquait donc de causer des dommages dans les deux sens. Des scènes fabriquées pouvaient passer pour authentiques, tandis que des preuves satellitaires authentiques pouvaient devenir plus faciles à contester.

Les enquêteurs professionnels disposent de méthodes pour gérer cette incertitude. Ils comparent les dates d’acquisition, les fournisseurs d’images, les données spectrales, la météo, les ombres, les points de repère et les observations indépendantes. Le grand public ne reçoit généralement qu’une capture d’écran compressée et une légende.

Les organisations médiatiques devront adopter des pratiques de vérification plus strictes, que Google rétablisse ou non la fonctionnalité. Un visuel Google Earth ne devrait plus être traité comme une preuve intrinsèquement authentique. Les rédacteurs devraient demander le fichier source, identifier la date de l’imagerie, localiser les coordonnées, comparer les vues historiques et rechercher une confirmation indépendante.

Les utilisateurs ordinaires peuvent effectuer une vérification plus simple. Ils peuvent rechercher la publication d’origine, vérifier si des organisations crédibles relatent l’événement, comparer le lieu dans Earth et utiliser des outils de provenance. Google Lens peut aider à identifier des versions antérieures ou des images associées.

Ces étapes réduisent le risque, mais elles ne peuvent pas entièrement inverser l’impact émotionnel d’une image choquante. Une fois que les gens ont vu une destruction apparente dans un lieu familier, les corrections doivent rivaliser avec une première impression saisissante.

C’est pourquoi la prévention reste importante, même lorsqu’elle est incomplète. Google ne peut pas éliminer la désinformation géographique. L’entreprise peut éviter de présenter sa production comme une fonctionnalité pratique au sein d’un produit géographique de confiance.

Ce que Google et les utilisateurs d’images IA devraient surveiller ensuite

La prochaine version révélera si Google considère cela comme une erreur de filtrage ou comme un conflit entre catégories de produits.

Le premier signal sera de savoir si le générateur d’images revient dans Google Earth, et sous quelle forme. Une relance rapide avec des blocages de prompts plus larges suggérerait que Google voit l’incident avant tout comme une lacune de modération.

Une diffusion professionnelle plus restreinte porterait un message différent. Google pourrait limiter la génération aux comptes de planification, d’éducation, de modélisation environnementale ou de conception. L’entreprise pourrait aussi contraindre ce que les utilisateurs peuvent exporter et la manière dont les scènes générées apparaissent hors d’un projet.

La décision de conception la plus importante sera la séparation. Google pourrait créer un espace de travail clairement identifiable pour les simulations au lieu de placer des scènes synthétiques à côté de la visualisation géographique ordinaire. Un style visuel persistant pourrait indiquer aux utilisateurs qu’ils sont entrés dans une couche fictive.

Si Google rétablit essentiellement la même interface, la préoccupation centrale demeure. Un observateur peut encore confondre un événement simulé avec une géographie enregistrée, surtout après que l’image a quitté le produit.

Le deuxième signal concerne la forme de l’avertissement. Google s’est initialement appuyé sur SynthID et sur des outils de vérification externes. Le retrait suggère que ces protections ne répondaient pas à la façon dont les captures d’écran circulent.

Surveillez l’apparition d’une étiquette visible intégrée à l’image, et non simplement placée autour d’elle. Surveillez également si les exportations préservent la provenance via Content Credentials, des métadonnées ou une autre norme interopérable.

Google a déclaré que SynthID fonctionne dans l’ensemble de ses produits de médias génératifs. La question pertinente est de savoir si la détection fonctionne après les transformations courantes sur les plateformes sociales. Le recadrage, la recompression, le redimensionnement, les changements de couleur et l’enregistrement d’écran devraient faire partie de toute évaluation publique.

Des chercheurs indépendants doivent pouvoir tester ces affirmations. Une protection évaluée uniquement par son développeur laisse sans réponse des questions sur les faux négatifs, les faux positifs et les performances après modification.

Le troisième signal est de savoir si Google publie des règles de sécurité tenant compte du lieu. Ses politiques actuelles décrivent les contenus interdits, mais cette intégration exige des décisions plus précises sur le contexte géographique.

Une fonctionnalité rétablie devrait expliquer comment Google traite les guerres en cours, les catastrophes en développement, les élections, les frontières, les hôpitaux, les écoles et d’autres sites sensibles. Les utilisateurs ont également besoin d’un moyen de signaler une image géographique générée qui se propage de manière trompeuse en dehors d’Earth.

Google devrait préciser si l’application de ses politiques concerne le créateur, le fichier généré, ou les deux. L’entreprise devrait aussi expliquer ce qui se passe lorsqu’une personne produit à répétition des scènes interdites sans les publier dans Google Earth.

Ces signaux comptent au-delà d’un seul produit. Microsoft, Adobe, OpenAI, Meta et les fournisseurs de modèles indépendants font tous face à des variantes de la même question d’intégration. Les outils génératifs deviennent plus risqués lorsqu’ils sont associés à des systèmes qui portent déjà une autorité institutionnelle.

Un éditeur IA au sein d’une application de dessin est clairement un outil créatif. Le même éditeur dans un logiciel de cartographie, médical, juridique, financier ou scientifique peut hériter de la crédibilité du système qui l’entoure.

La protection appropriée dépend de cet objectif environnant. Un avertissement ludique qui fonctionne pour un sticker de réseau social peut être insuffisant pour une image ressemblant à une preuve de champ de bataille.

Google opère également à une échelle qui peut définir des attentes pour d’autres entreprises. Si l’entreprise adopte des étiquettes durables, des contrôles tenant compte du lieu et des tests indépendants, ces mesures peuvent devenir des points de référence. Si elle rétablit discrètement l’outil une fois l’attention retombée, les concurrents pourraient interpréter l’épisode comme un problème de communication temporaire.

Pour les lecteurs, la leçon pratique n’est pas de rejeter chaque image aérienne. Il s’agit de cesser de considérer une interface familière comme une preuve d’authenticité.

Lorsqu’une capture d’écran prétend montrer une nouvelle attaque, un déplacement de frontière, une catastrophe ou un projet de construction, demandez le lieu d’origine et la date de l’imagerie. Vérifiez si des sources indépendantes ont observé le même événement. Utilisez les outils de détection comme un signal parmi d’autres, et non comme un verdict final.

La controverse Google Verge a commencé par des prompts saisis en quelques secondes. Sa conséquence plus profonde durera plus longtemps : l’imagerie géographique nécessite désormais le même examen de provenance que toute autre image numérique.

Google peut mettre en place des garde-fous plus robustes, mais les utilisateurs devraient surveiller la frontière qu’il trace. Google Earth restera-t-il avant tout un registre des lieux, ou deviendra-t-il une toile pour des événements plausibles qui n’ont jamais eu lieu ?