Cette semaine, dans le podcast Lock and Code…
En mai de l'année dernière, un avertissement concernant l'IA est venu d'un endroit inattendu : le musée d'État d'Auschwitz-Birkenau.
Dans un message publié sur les réseaux sociaux, le musée a mis en garde contre un Facebook Ce compte utilise une intelligence artificielle générative pour créer de fausses images de personnes décédées pendant l'Holocauste. Malgré l'utilisation de l'IA pour générer ces images, les personnes qui y figurent étaient parfois réelles. Elles portaient de vrais noms, lieux de naissance et récits de déportation, déjà publiés par le musée d'État d'Auschwitz-Birkenau. Leurs visages étaient réels, immortalisés dans de véritables photographies ayant survécu, qui ont probablement été utilisées à mauvais escient pour créer ces fausses images.
Autrement dit, quelqu'un, ou une équipe de personnes en ligne, simulait l'Holocauste de manière truquée.
Comme l'écrit le musée d'Auschwitz en ligne :
« Ce ne sont pas de véritables photos des victimes. Ce sont des créations numériques, souvent stylisées ou retouchées, qui risquent de transformer le souvenir en une mise en scène. L’histoire d’Auschwitz est bien documentée. Modifier son histoire visuelle avec des images générées par l’IA introduit une distorsion, quelles que soient les intentions. »
Des mois plus tard, le public a découvert le véritable objectif : l'argent.
Une enquête de la BBC a mis au jour un réseau international de Facebook Des comptes publient des images générées par IA pour tirer profit de leur viralité potentielle. Ce problème, parfois qualifié de « production IA de piètre qualité », présente un intérêt majeur. Lorsque les comptes qui créent ce type d'images sont invités à Facebook Grâce au programme de monétisation de contenu de [Nom de l'entreprise], ils peuvent gagner 1 000 $ par mois en publiant n'importe quel contenu qui génère des clics.
Et sur Facebook D'après les constatations de la BBC, cela signifie que plusieurs comptes publient des images générées par intelligence artificielle sur l'Holocauste. Voici ce que rapporte la BBC :
« Des spammeurs utilisant l'IA ont publié de fausses images prétendant provenir de l'intérieur d'Auschwitz, comme un prisonnier jouant du violon ou des amoureux se rencontrant aux abords des clôtures, attirant des dizaines de milliers de « j'aime » et de partages. »
L'économie du mensonge est aujourd'hui bien réelle. L'intelligence artificielle permet de créer de fausses images qui apaisent les consciences face à des atrocités ou suscitent la peur face à des mensonges, et d'en tirer profit jusqu'à ce que les géants du numérique interviennent. Dans ce cas précis, cela n'a été possible que grâce à l'enquête de la BBC. C'est d'ailleurs ce type d'inaction des réseaux sociaux qui a poussé le gouvernement allemand et plusieurs institutions commémoratives de l'Holocauste à publier une lettre ouverte en début d'année, demandant un meilleur contrôle et des restrictions plus strictes concernant ce type de contenu.
Comme les signataires l'ont souligné dans leur lettre, le risque économique que représentent ces récits déformant l'histoire est trop important pour être toléré. Vous pouvez lire la lettre complète ici .
Aujourd'hui, dans le podcast Lock and Code animé par David Ruiz, nous recevons Clara Mansfeld, historienne spécialisée en communication numérique au sein de la Fondation des Mémoriaux et Centres d'apprentissage de Hambourg commémorant les victimes des crimes nazis, l'une des institutions signataires de la lettre ouverte. Au cours de leur conversation, Clara Mansfeld aborde l'accès numérique à l'histoire, la manipulation des documents factuels par le biais d'images générées par l'IA et la menace que représente pour la société la difficulté croissante à discerner la vérité.
« Que se passe-t-il lorsque notre première réaction face à chaque image historique est : "Est-ce réel ou est-ce une création de l'IA ?" Je ne pense pas que nous ayons vraiment saisi ce que cela signifie pour nous en tant que société. »
Écoutez l'intégralité de la conversation dès aujourd'hui.
Notes et crédits de l'émission :
Musique d'introduction : « Spellbound » de Kevin MacLeod ( incompetech.com )
Sous licence Creative Commons : Attribution 4.0
http://creativecommons.org/licenses/by/4.0/
Musique de fin : « Good God » par Wowa (unminus.com)
Écoutez bien — Malwarebytes Nous ne nous contentons pas de parler de cybersécurité, nous la fournissons.
Protégez-vous des attaques en ligne qui menacent votre identité, vos fichiers, votre système et votre bien-être financier grâce à notre offre exclusive pour Malwarebytes Premium Security pour les écouteurs Lock and Code .
