Présentation de l'outil
Google a lancé un outil dans Google Earth permettant aux utilisateurs d'éditer des images satellites à l'aide de prompts textuels et d'intelligence artificielle (IA). Cet outil permettait essentiellement de créer des deepfakes du monde réel à l'aide de prompts textuels.
Fonctionnement et limites
L'outil utilisait la technologie Nano Banana 2 pour générer des images à partir de prompts textuels. Cependant, des utilisateurs tels que Henk van Ess ont pu générer des images ajoutant des éléments tels que des réfugiés près de la frontière mexicaine ou un cratère de bombe près d'un hôpital à Gaza. Google avait initialement noté que les images générées incluaient une watermark numérique et que la société empêchait la création d'images sur des sujets nuisibles.
Implications et limites
Malgré les précautions prises par Google, van Ess a pu contourner l'outil de détection d'IA de Hive avec une vidéo générée dans Google Earth, montrant comment les médias générés pouvaient se propager malgré les watermarks. Google a décidé de supprimer cette fonctionnalité dans Google Earth pendant qu'il travaille sur la mise en place de garde-fous plus solides. Les images générées n'apparaissaient pas dans l'expérience principale de Google Earth et étaient marquées comme étant générées par IA.
Analyse scientifique
L'utilisation de l'IA pour générer des images à partir de prompts textuels soulève des questions importantes sur la sécurité et la fiabilité des informations. La capacité de générer des deepfakes convaincants à l'aide d'outils tels que celui de Google Earth peut avoir des implications significatives pour la désinformation et la manipulation d'images. Il est essentiel de développer des outils de détection d'IA plus robustes pour prévenir la propagation de fausses informations.
