Questa settimana nel podcast Lock and Code...
Nel maggio dello scorso anno, un monito sull'intelligenza artificiale è giunto da una fonte inaspettata: il Museo Statale di Auschwitz-Birkenau.
Pubblicando un messaggio sui social media, il museo ha messo in guardia su un Facebook Un account utilizzava l'intelligenza artificiale generativa per creare immagini false di persone morte durante l'Olocausto. Nonostante l'utilizzo dell'IA per generare immagini false, le persone raffigurate in queste immagini erano a volte reali. Avevano nomi veri, luoghi di nascita e storie di deportazione che lo stesso Museo Statale di Auschwitz-Birkenau aveva precedentemente condiviso. Avevano volti reali, immortalati in fotografie reali sopravvissute, che probabilmente sono state manipolate per generare le immagini false.
In altre parole, qualcuno, o un gruppo di persone online, stava realizzando un deepfake sull'Olocausto.
Come ha scritto online il museo di Auschwitz:
«Queste non sono foto reali delle vittime. Si tratta di creazioni digitali, spesso stilizzate o edulcorate, che rischiano di trasformare la memoria in una rappresentazione romanzata. La storia di Auschwitz è ben documentata. Alterarne la testimonianza visiva con immagini generate dall’intelligenza artificiale introduce una distorsione, indipendentemente dall’intenzione.»
Qualche mese dopo, l'opinione pubblica scoprì quale fosse tale intento: il denaro.
Un'inchiesta della BBC ha scoperto una rete internazionale di Facebook account che pubblicano immagini generate dall'IA per guadagnare denaro dalla potenziale viralità di tali immagini. È un problema a volte definito "scarti dell'IA", ma comporta un grande incentivo. Quando gli account che creano questo tipo di immagini vengono invitati a Facebook Grazie al programma di monetizzazione dei contenuti, possono guadagnare 1.000 dollari al mese pubblicando qualsiasi cosa che generi clic.
E così via Facebook Secondo quanto scoperto dalla BBC, si tratta di diversi account che pubblicano immagini generate dall'intelligenza artificiale sull'Olocausto. Come riportato dalla BBC:
«Gli spammer che utilizzano l'intelligenza artificiale hanno pubblicato immagini false che fingono di provenire dall'interno di [Auschwitz], come quella di un prigioniero che suona il violino o di due amanti che si incontrano ai margini delle recinzioni, ottenendo decine di migliaia di "Mi piace" e condivisioni.»
Oggi l'economia della menzogna è una realtà concreta. È possibile utilizzare l'intelligenza artificiale per creare immagini false che inducono le persone a provare un senso di benessere di fronte a eventi terribili o a provare paura per cose non vere, e si può guadagnare denaro fino a quando non si viene bloccati dalle stesse piattaforme delle Big Tech, cosa che, in questo caso, è avvenuta solo grazie all'inchiesta della BBC. In realtà, è proprio questo tipo di inazione da parte delle piattaforme dei social media che ha spinto il governo tedesco e diverse istituzioni che commemorano l’Olocausto a inviare una lettera aperta all’inizio di quest’anno in cui si chiedevano controlli e restrizioni più efficaci contro questo tipo di contenuti.
Come hanno sottolineato i firmatari nella loro lettera, l'interesse economico che spinge questi account a distorcere la storia rappresenta un rischio troppo elevato per poterlo ignorare. Potete leggere la lettera completa qui.
Oggi, nel podcast "Lock and Code" condotto da David Ruiz, parliamo con Clara Mansfeld, una storica che si occupa di comunicazione digitale presso una delle istituzioni firmatarie della lettera aperta: la Fondazione dei memoriali e dei centri didattici di Amburgo dedicati alla memoria delle vittime dei crimini nazisti. Nel corso della conversazione, Mansfeld affronta temi quali l'accesso digitale alla storia, la manipolazione dei dati storici attraverso immagini generate dall'intelligenza artificiale e la minaccia che grava sulla società quando diventa più difficile distinguere la verità.
«Cosa succede quando il primo pensiero che ci viene in mente di fronte a ogni immagine storica è: “Ma è davvero reale o è frutto dell’intelligenza artificiale?” Non credo che abbiamo ancora compreso appieno cosa questo significhi per noi come società.»
Sintonizzati oggi per ascoltare l'intera conversazione.
Mostra note e crediti:
Musica di introduzione: “Spellbound” di Kevin MacLeod (incompetech.com)
Licenza Creative Commons: Attribuzione 4.0
http://creativecommons.org/licenses/by/4.0/
Musica di chiusura: “Good God” di Wowa (unminus.com)
Ascoltate bene— Malwarebytes Non ci limitiamo a parlare di sicurezza informatica, la offriamo concretamente.
Proteggiti dagli attacchi online che minacciano la tua identità, i tuoi file, il tuo sistema e il tuo benessere finanziario con la nostra offerta esclusiva per Malwarebytes Premium Security, riservata agli ascoltatori di Lock and Code .
