Cette semaine dans le podcast Lock and Code…
En mai de l'année dernière, un avertissement concernant l'IA est venu d'un endroit inattendu : le Musée national d'Auschwitz-Birkenau.
Dans un message publié sur les réseaux sociaux, le musée a mis en garde contre un Facebook utilisant l'IA générative pour créer de fausses images de personnes décédées pendant l'Holocauste. Bien que l'IA ait été utilisée pour générer ces fausses images, les personnes qui y figuraient étaient parfois réelles. Elles avaient de vrais noms, des lieux de naissance et des récits de déportation que le Musée national d'Auschwitz-Birkenau avait lui-même partagés auparavant. Leurs visages, capturés sur de véritables photographies qui ont survécu, ont probablement été détournés pour générer ces images mensongères.
En d'autres termes, une personne, ou une équipe de personnes sur Internet, a créé un deepfake sur l'Holocauste.
Comme l'indique le musée d'Auschwitz sur son site web:
« Ce ne sont pas de vraies photos des victimes. Il s’agit de créations numériques, souvent stylisées ou édulcorées, qui risquent de transformer le souvenir en une mise en scène fictive. L’histoire d’Auschwitz est bien documentée. Modifier ses archives visuelles à l’aide d’images générées par l’IA introduit une distorsion, quelle que soit l’intention. »
Quelques mois plus tard, le public a découvert quelle était cette intention : l'argent.
Une enquête de la BBC a mis au jour un réseau international de Facebook publiant des images générées par l'IA afin de tirer profit de leur potentiel viral. Ce phénomène, parfois qualifié d'« AI slop », s'accompagne d'une incitation financière de taille. En effet, lorsque les comptes qui produisent ce type d'images sont invités à rejoindre le programme de monétisation de contenu Facebook, ils peuvent gagner 1 000 dollars par mois simplement en publiant n'importe quel contenu susceptible de générer des clics.
Et sur Facebook, comme l'a constaté la BBC, cela se traduit par plusieurs comptes publiant des images générées par l'IA sur l'Holocauste. Comme l'a rapporté la BBC :
« Des spammeurs utilisant l'IA ont publié de fausses images censées provenir de l'intérieur d'[Auschwitz], comme celle d'un prisonnier jouant du violon ou d'amoureux se retrouvant près des barbelés, qui ont suscité des dizaines de milliers de « j'aime » et de partages. »
Les enjeux économiques du mensonge sont bien réels aujourd’hui. Il est possible d’utiliser l’IA pour créer de fausses images qui font que les gens se sentent bien face à des événements terribles ou qu’ils ont peur de choses qui n’existent pas, et de gagner de l’argent jusqu’à ce que les plateformes des géants de la tech elles-mêmes mettent fin à ces pratiques – ce qui, dans ce cas précis, n’est arrivé que grâce à l’enquête de la BBC. En réalité, c'est ce type d'inaction de la part des plateformes de réseaux sociaux qui a poussé le gouvernement allemand et plusieurs institutions commémoratives de l'Holocauste à envoyer une lettre ouverte plus tôt cette année, demandant de meilleurs contrôles et des restrictions contre ce type de contenu.
Comme l'ont souligné les signataires dans leur lettre, l'intérêt économique que ces récits tirent de la déformation de l'histoire représente un risque trop important pour être toléré. Vous pouvez lire la lettre dans son intégralité ici.
Aujourd’hui, dans le podcast « Lock and Code » animé par David Ruiz, nous recevons Clara Mansfeld, historienne spécialisée dans les communications numériques au sein de l’une des institutions signataires de la lettre ouverte : la Fondation des mémoriaux et centres d’apprentissage de Hambourg dédiés à la mémoire des victimes des crimes nazis. Au cours de cet entretien, Mme Mansfeld aborde l’accès numérique à l’histoire, la manipulation des archives factuelles par le biais d’images générées par l’IA, ainsi que la menace qui pèse sur la société lorsqu’il devient plus difficile de discerner la vérité.
« Que se passe-t-il lorsque la première pensée qui nous vient à l’esprit devant chaque image historique est : “Est-ce que c’est vraiment réel ou est-ce le fruit de l’IA ?” Je ne pense pas que nous ayons vraiment saisi ce que cela implique pour nous en tant que société. »
Connectez-vous dès aujourd'hui pour écouter l'intégralité de la conversation.
Afficher les notes et les crédits :
Musique d'introduction : « Spellbound » par Kevin MacLeod (incompetech.com)
Sous licence Creative Commons : Attribution 4.0
http://creativecommons.org/licenses/by/4.0/
Musique de fin : « Good God » par Wowa (unminus.com)
Écoutez bien :Malwarebytes parler de cybersécurité, nous la fournissons.
Protégez-vous contre les attaques en ligne qui menacent votre identité, vos fichiers, votre système et votre santé financière grâce à notreoffre exclusive Malwarebytes Premium réservée aux auditeurs de Lock and Code.
