Mise à jour, 21 h – Les blagues les meilleures sont les plus courtes. Google a annoncé la suspension de l’outil de génération d’images par IA dans Google Earth, après avoir constaté que « certaines personnes partageaient des captures d’écran d’images générées qui semblaient enfreindre nos règles ». Tiens donc. La fonction pourrait revenir, mais avec des garde-fous « plus solides ».
Article original – Google a eu une drôle d’idée : intégrer Nano Banana 2, son modèle IA de génération d’images, dans Google Earth. Il devient maintenant possible d’« améliorer » des éléments présents dans les images satellites, de générer de nouveaux bâtiments, et même d’intégrer des objets qui n’ont rien à voir avec la réalité.
L’IA générative peut nous aider à vivre une autre vie, plus riche, plus amusante, mais aussi complètement fausse. Google Earth permet désormais de transformer le monde selon ses humeurs : un nouvel outil de génération d’images alimenté par Nano Banana 2 offre enfin la possibilité d’intégrer n’importe quoi sur la planète. Godzilla à côté de la Tour Eiffel ? Et pourquoi pas : il suffit de saisir la requête et bim.
Les petits plaisantins vont bien s’amuser à faire n’importe quoi, mais cette nouvelle fonction pourrait aussi avoir des répercussions autrement plus sérieuses qu’un sourire. L’auteur Henk van Ess a eu l’idée d’insérer une centrale nucléaire en Iran, des réfugiés à la frontière entre le Mexique et les États-Unis, un hôpital à côté d’un cratère provoqué par une bombe dans la bande de Gaza. Des événements et des objets complètement fictifs, crédibilisés par le rendu photoréaliste du modèle IA. À deux doigts de se demander si les États-Unis n’ont pas eu un accés anticipé…
On est loin de l’aspect ludique vanté par Google dans la présentation de la nouveauté (« Parfois, il est amusant de laisser libre cours à son imagination », écrit le groupe). Ces images trafiquées pourraient servir dans des campagnes de désinformation, fabriquer de prétendues « preuves » ou simplement semer le doute sur des événements réels. Google Earth ne montre plus le monde tel qu’il est (ou a été), mais aussi tel qu’un utilisateur voudrait le faire croire.
Google se défend auprès d’Henk van Ess, en affirmant prendre la désinformation « très au sérieux » et rappelle que les images générées par Nano Banana dans Google Earth intègre un filigrane SynthID. Il est possible d’interroger Gemini ou d’utiliser Google Lens pour vérifier si une image a été produite par une IA. Une procédure encore peu connue, qui n’empêchera pas les prophètes de malheur de remodeler le monde selon leurs obsessions.
L’entreprise assure également bloquer les requêtes jugées dangereuses, ce qui n’a pas empêché van Ness de générer un accident de voiture dans une rue d’Amsterdam, ni ses autres prompts.
