Google a fait marche arrière concernant une fonctionnalité d'IA qui permettait aux utilisateurs de générer des images artificielles dans Google Earth, après une vague de protestations prévisible. deepfakes .
Google a activé la fonctionnalité de génération d'images par IA dans la version web de Google Earth le 30 juillet. Elle était accessible à tous.
Le système a utilisé le générateur d'images Nano Banana 2 de Google pour créer ses images. Cet outil peut déjà générer des images à partir d'une simple entrée de texte, mais l'avantage de le faire dans Google Earth est qu'il peut utiliser les véritables images satellites comme base. deepfake versions. Cela facilite la création d'images IA avec des détails réalistes et précis sur les bâtiments et les paysages.
Dans son premier article de blog annonçant le lancement, l'entreprise indiquait que les étudiants pourraient l'utiliser pour « donner vie à l'histoire », tandis que les agents immobiliers pourraient s'en servir pour élaborer des plans immobiliers professionnels. Cependant, certains ont mis en garde contre le risque que le système soit utilisé à des fins trompeuses.
En quelques heures, des chercheurs et des médias ont démontré que l'outil pouvait sans problème produire des images satellites photoréalistes d'événements qui ne s'étaient pas produits, dans des endroits où ils ne s'étaient pas produits.
Henk van Ess, chercheur néerlandais spécialisé dans le renseignement en sources ouvertes, explique : « J'ai essayé avec des réfugiés à la frontière mexicaine, une centrale nucléaire en Iran, un crash à Amsterdam, un hôpital avec un cratère de bombe à Gaza. Rien n'a été refusé. »
Pour démontrer les possibilités offertes par cette nouvelle fonctionnalité, NPR a fabriqué une image d'incendies en Iran, ainsi qu'une autre image. deepfake Washington, D.C. sous les eaux. La BBC a diffusé des images de la tour Eiffel effondrée et de la Grande Pyramide de Gizeh engloutie par un gouffre. Malgré certains garde-fous, le service de vérification de la BBC, Verify, a réussi à les contourner en manipulant des commandes d'intelligence artificielle basiques.
Google a reconnu l'échec dans une déclaration sur X :
« Nous avons constaté que des professionnels de la géomatique utilisaient cette fonctionnalité à des fins diverses et utiles. Cependant, nous avons également vu des captures d'écran d'images générées partagées par des utilisateurs qui semblent enfreindre nos règles. Par conséquent, nous désactivons temporairement cette fonctionnalité dans Google Earth le temps de mettre en place des garde-fous plus stricts. »
Elle ne s'est pas engagée à ne jamais réintroduire cette idée.
Les utilisateurs n'ont visiblement pas été convaincus. « Il est absolument impossible que personne dans votre équipe de développement n'ait soulevé précisément ce problème », a commenté l'un d'eux. « Vous vivez complètement dans votre bulle », a accusé un autre.
La solution de repli de Google consistait en un filigrane SynthID et en l'absence des images générées dans l'interface principale de Google Earth. SynthID est le système de filigrane de Google DeepMind : un signal invisible intégré aux pixels des images générées par l'IA, permettant à un détecteur compatible de les identifier ultérieurement. Google le considère comme l'un des deux éléments de sa stratégie de traçabilité, aux côtés de la norme de métadonnées C2PA adoptée par l'ensemble du secteur de l'IA.
En théorie, le signal est censé résister à la compression et même aux republications sur les réseaux sociaux. Cependant, ces affirmations se sont avérées fausses à l'usage. Les filigranes sont détectables par les services d'IA de Google, comme Gemini. Invisibles pour les utilisateurs, ils peuvent néanmoins effectuer des captures d'écran et les partager librement. Il est peu probable que chacun pense à vérifier la provenance d'une image. Des chercheurs ont également constaté que Gemini ne parvenait pas à identifier avec certitude les images générées par IA comportant un filigrane SynthID.
Ce que cela signifie pour vous
Les créateurs de contenu produisaient déjà de fausses images générées par IA, montrant des événements qui n'avaient pas eu lieu. Traditionnellement, l'imagerie satellite est un élément clé du journalisme d'investigation. En la falsifiant de manière convaincante, on s'attaque à la source de référence utilisée par les journalistes pour vérifier la véracité des faits.
Cela survient également à un moment où la confiance dans l'IA s'érode sensiblement. Selon notre propre étude , publiée en juin, 88 % des personnes interrogées estiment qu'il devient plus difficile de distinguer les contenus en ligne authentiquement humains ou réels, et 84 % affirment que même des « preuves vidéo convaincantes » ne constituent plus une preuve tangible.
En pratique, prenez un moment pour réfléchir lorsque des images satellites inquiétantes d'une catastrophe, d'une frappe militaire ou d'un passage de frontière apparaissent sur votre fil d'actualité. Vérifiez si une agence de presse, avec un journaliste identifié, l'a publiée. Recherchez une légende identifiant le fournisseur de l'image. Si la source est un compte anonyme publiant une seule image saisissante, il est probable qu'il s'agisse d'une image assemblée dans un onglet de navigateur la nuit dernière.
Pour plus d'informations sur la façon d'identifier les images IA, consultez notre guide .
Le modèle de distribution de l'industrie semble désormais considérer les utilisateurs comme un groupe test. L'analyse critique des médias est devenue le seul outil fiable dont disposent lecteurs et spectateurs.
Du signalement des menaces à leur suppression.
Les risques de cybersécurité ne devraient jamais se propager au-delà d'un titre. Éliminez les menaces de vos appareils en téléchargeant Malwarebytes dès aujourd'hui.
