L’IA de Google Earth pour les images satellites n’a vécu que 24 heures

Google Earth a passé deux décennies à devenir la référence visuelle par défaut pour quiconque tente de vérifier à quoi ressemble réellement le monde physique. Les journalistes l’utilisent pour documenter les zones de conflit. Les chercheurs en droits humains l’utilisent pour suivre les centres de détention. Les inspecteurs de l’ONU le consultent depuis la sécurité de leur bureau. Google lui a brièvement ajouté une nouveauté : un générateur d’images par IA directement intégré à la carte satellite.

L’outil, basé sur Nano Banana 2, le propre modèle de génération d’images de Google, a fonctionné comme annoncé. Les utilisateurs saisissaient une invite textuelle — « montre Pompéi avant l’éruption » ou « transforme ce littoral en infographie » — et l’IA superposait les images générées sur les coordonnées géographiques correspondantes. Les cas d’usage légitimes étaient faciles à imaginer. Les cas dangereux se sont révélés tout aussi faciles à exécuter.

Henk van Ess, un journaliste d’investigation, a fait partie des premiers à documenter le problème. Quelques heures après le lancement, il a généré une centrale nucléaire fictive sur un site en Iran. Le résultat était suffisamment convaincant pour illustrer le risque. Plus troublant encore : lorsqu’il a testé la protection intégrée — Google avait intégré des filigranes SynthID, la couche d’authentification IA de l’entreprise, dans chaque image générée — Van Ess l’a déjouée en photographiant son écran plutôt qu’en faisant une capture d’écran. Les outils de détection d’IA tiers ont estimé que l’image résultante n’avait que 1 % de chances d’être générée par IA.

La défense de Google était techniquement exacte mais pratiquement insuffisante. L’entreprise a noté que les images générées « n’apparaissaient pas dans l’expérience principale de Google Earth pour que d’autres puissent les voir » — elles étaient spécifiques à la session, visibles uniquement par le créateur. Cette distinction s’effondre lorsque l’on photographie l’écran et partage le résultat. Une image satellite fabriquée d’une installation sensible, circulant sans rien d’autre qu’une légende, est indiscernable d’une image créée pour tromper.

Il existe ici une tension structurelle que des garde-fous plus solides ne pourront peut-être pas résoudre complètement. La même capacité qui rend la génération d’images par IA utile la rend également dangereuse lorsque la source sous-jacente est une donnée satellite fiable. Cette confiance repose sur l’hypothèse que ce que montre Google Earth reflète la réalité physique. Dès lors que du contenu généré peut être superposé à des coordonnées réelles — et que la couche d’authentification peut être contournée par un appareil photo — cette hypothèse présente une fissure qui ne se referme pas lorsque la fonctionnalité est désactivée.

La fonctionnalité a été retirée le 31 juillet, moins de 24 heures après son lancement. Google a reconnu avoir vu « des captures d’écran d’images générées qui semblent violer nos politiques » et s’est engagé à mettre en œuvre des « garde-fous plus solides » avant tout redéploiement. Aucun calendrier n’a été donné. Le timing ajoute une couche supplémentaire : depuis le 2 août, les dispositions complètes d’application de l’AI Act de l’UE sont en vigueur dans toute l’Europe, rendant obligatoire le marquage des contenus générés par IA susceptibles de tromper les utilisateurs — y compris, précisément, les images synthétiques intégrées dans des sources d’ information de confiance.

Étiquettes: Google, ia, deepfakes, Google Earth, images satellites, AI Act européen