Questa settimana nel podcast Lock and Code...
Nel maggio dello scorso anno, un monito sull'intelligenza artificiale è giunto da una fonte inaspettata: il Museo Statale di Auschwitz-Birkenau.
Con un post pubblicato sui social media, il museo ha messo in guardia da un Facebook che utilizza l'intelligenza artificiale generativa per creare immagini false di persone morte nell'Olocausto. Nonostante l'uso dell'IA per generare immagini false, le persone ritratte in tali immagini erano talvolta reali. Avevano nomi, luoghi di nascita e storie di deportazione reali che lo stesso Museo Statale di Auschwitz-Birkenau aveva condiviso in precedenza. Avevano volti reali immortalati in fotografie autentiche sopravvissute, che sono state probabilmente utilizzate in modo improprio per generare le immagini false.
In altre parole, qualcuno, o un gruppo di persone online, stava realizzando un deepfake sull'Olocausto.
Come ha scritto online il museo di Auschwitz:
«Queste non sono foto reali delle vittime. Si tratta di creazioni digitali, spesso stilizzate o edulcorate, che rischiano di trasformare la memoria in una rappresentazione romanzata. La storia di Auschwitz è ben documentata. Alterarne la testimonianza visiva con immagini generate dall’intelligenza artificiale introduce una distorsione, indipendentemente dall’intenzione.»
Qualche mese dopo, l'opinione pubblica scoprì quale fosse tale intento: il denaro.
Un'inchiesta della BBC ha portato alla luce una rete internazionale di Facebook che pubblicano immagini generate dall'intelligenza artificiale per trarre profitto dalla loro potenziale viralità. Si tratta di un fenomeno talvolta definito "AI slop", ma che presenta un forte incentivo economico. Quando gli account che realizzano questo tipo di immagini vengono ammessi al programma di monetizzazione dei contenuti Facebook, possono guadagnare 1.000 dollari al mese semplicemente pubblicando qualsiasi contenuto che generi clic.
E su Facebook, secondo quanto rilevato dalla BBC, ciò significa che diversi account pubblicano immagini generate dall'intelligenza artificiale sull'Olocausto. Come riportato dalla BBC:
«Gli spammer che utilizzano l'intelligenza artificiale hanno pubblicato immagini false che fingono di provenire dall'interno di [Auschwitz], come quella di un prigioniero che suona il violino o di due amanti che si incontrano ai margini delle recinzioni, ottenendo decine di migliaia di "Mi piace" e condivisioni.»
Oggi l'economia della menzogna è una realtà concreta. È possibile utilizzare l'intelligenza artificiale per creare immagini false che inducono le persone a provare un senso di benessere di fronte a eventi terribili o a provare paura per cose non vere, e si può guadagnare denaro fino a quando non si viene bloccati dalle stesse piattaforme delle Big Tech, cosa che, in questo caso, è avvenuta solo grazie all'inchiesta della BBC. In realtà, è proprio questo tipo di inazione da parte delle piattaforme dei social media che ha spinto il governo tedesco e diverse istituzioni che commemorano l’Olocausto a inviare una lettera aperta all’inizio di quest’anno in cui si chiedevano controlli e restrizioni più efficaci contro questo tipo di contenuti.
Come hanno sottolineato i firmatari nella loro lettera, l'interesse economico che spinge questi account a distorcere la storia rappresenta un rischio troppo elevato per poterlo ignorare. Potete leggere la lettera completa qui.
Oggi, nel podcast "Lock and Code" condotto da David Ruiz, parliamo con Clara Mansfeld, una storica che si occupa di comunicazione digitale presso una delle istituzioni firmatarie della lettera aperta: la Fondazione dei memoriali e dei centri didattici di Amburgo dedicati alla memoria delle vittime dei crimini nazisti. Nel corso della conversazione, Mansfeld affronta temi quali l'accesso digitale alla storia, la manipolazione dei dati storici attraverso immagini generate dall'intelligenza artificiale e la minaccia che grava sulla società quando diventa più difficile distinguere la verità.
«Cosa succede quando il primo pensiero che ci viene in mente di fronte a ogni immagine storica è: “Ma è davvero reale o è frutto dell’intelligenza artificiale?” Non credo che abbiamo ancora compreso appieno cosa questo significhi per noi come società.»
Sintonizzati oggi per ascoltare l'intera conversazione.
Mostra note e crediti:
Musica di introduzione: “Spellbound” di Kevin MacLeod (incompetech.com)
Licenza Creative Commons: Attribuzione 4.0
http://creativecommons.org/licenses/by/4.0/
Musica di chiusura: “Good God” di Wowa (unminus.com)
Ascoltate bene:Malwarebytes a parlare di sicurezza informatica, ma la garantisce.
Proteggiti dagli attacchi online che minacciano la tua identità, i tuoi file, il tuo sistema e il tuo benessere finanziario conla nostraofferta esclusiva per Malwarebytes Premium riservata agli ascoltatori di Lock and Code.
