Deze week in de Lock and Code-podcast...
In mei vorig jaar kwam er een waarschuwing over AI uit onverwachte hoek: het Staatsmuseum Auschwitz-Birkenau.
In een openbare post op sociale media waarschuwde het museum voor een Facebook generatieve AI gebruikte om valse afbeeldingen te maken van mensen die tijdens de Holocaust zijn omgekomen. Hoewel er AI werd gebruikt om valse afbeeldingen te genereren, waren de personen op die afbeeldingen soms echt. Ze hadden echte namen, geboorteplaatsen en verhalen over hun deportatie die het Staatsmuseum Auschwitz-Birkenau zelf eerder had gedeeld. Hun gezichten waren vastgelegd op echte, bewaard gebleven foto’s, die waarschijnlijk zijn misbruikt om de valse afbeeldingen te genereren.
Met andere woorden: iemand, of een groep mensen online, was bezig met het vervalsen van de Holocaust via deepfakes.
Zoals het Auschwitz-museum online schreef:
“Dit zijn geen echte foto’s van de slachtoffers. Het zijn digitale creaties, vaak gestileerd of gezuiverd, die het risico met zich meebrengen dat de herdenking verandert in een geromantiseerde voorstelling. De geschiedenis van Auschwitz is een goed gedocumenteerd verhaal. Het aanpassen van het visuele archief met behulp van AI-beelden leidt tot een vertekend beeld, ongeacht de bedoeling.”
Maanden later kwam het publiek erachter wat die bedoeling was: geld.
Uit onderzoek van de BBC is gebleken dat er een internationaal netwerk bestaat van Facebook die door AI gegenereerde afbeeldingen plaatsen om geld te verdienen aan de potentiële virale verspreiding van die afbeeldingen. Dit probleem wordt ook wel ‘AI-slop’ genoemd, maar er zit een flinke financiële prikkel aan vast. Wanneer accounts die dit soort afbeeldingen maken worden uitgenodigd voor het programma Facebookom inkomsten te genereren uit content, kunnen ze 1.000 dollar per maand verdienen door alles te posten wat maar klikken oplevert.
En op Facebook ontdekte de BBC dat dit betekent dat verschillende accounts door AI gegenereerde afbeeldingen over de Holocaust plaatsen. Zoals de BBC meldde:
“Spammers die gebruikmaken van kunstmatige intelligentie hebben valse afbeeldingen geplaatst die zogenaamd uit [Auschwitz] afkomstig zijn, zoals een gevangene die viool speelt of geliefden die elkaar bij het hek ontmoeten – en daarmee tienduizenden likes en shares hebben gekregen.”
De economische aspecten van leugens zijn tegenwoordig heel concreet. Mensen kunnen AI gebruiken om nepfoto’s te maken die ervoor zorgen dat mensen zich goed voelen over vreselijke dingen of bang worden voor onwaarheden, en ze kunnen hier geld mee verdienen totdat ze door de grote techplatforms zelf worden geblokkeerd – wat in dit geval alleen gebeurde dankzij het onderzoek van de BBC. Het is juist dat soort passiviteit van sociale mediaplatforms dat de Duitse regering en diverse instellingen ter nagedachtenis aan de Holocaust ertoe heeft aangezet om eerder dit jaar een open brief te sturen waarin werd gevraagd om betere controles en beperkingen tegen dit soort inhoud.
Zoals de ondertekenaars in hun brief waarschuwden, is het economische belang dat deze verslagen de geschiedenis verdraaien een te groot risico om te negeren. Je kunt de volledige brief hier lezen.
Vandaag spreken we in de podcast „Lock and Code”, gepresenteerd door David Ruiz, met Clara Mansfeld, een historica die zich bezighoudt met digitale communicatie bij een van de instellingen die de open brief hebben ondertekend: de Stichting van de Hamburgse Gedenkplaatsen en Leercentra ter nagedachtenis aan de slachtoffers van nazimisdaden. In dit gesprek gaat Mansfeld in op digitale toegang tot de geschiedenis, de manipulatie van feitelijke gegevens door middel van door AI gegenereerde beelden, en de bedreiging waarmee de samenleving wordt geconfronteerd wanneer het moeilijker wordt om de waarheid te beoordelen.
“Wat gebeurt er als onze eerste gedachte bij elk historisch beeld is: ‘Is dat wel echt, of is dat AI?’ Ik denk niet dat we ons echt realiseren wat dat voor ons als samenleving betekent.”
Luister vandaag nog naar het volledige gesprek.
Aantekeningen en credits weergeven:
Intro-muziek: "Spellbound" door Kevin MacLeod (incompetech.com)
Gelicentieerd onder Creative Commons: By Attribution 4.0 License
http://creativecommons.org/licenses/by/4.0/
Outro-muziek: "Good God" door Wowa (unminus.com)
Luister goed:Malwarebytes praatMalwarebytes alleen over cyberbeveiliging, wij bieden het ook.
Bescherm uzelf tegen online aanvallen die uw identiteit, uw bestanden, uw systeem en uw financiële welzijn bedreigen met onzeexclusieve aanbieding voor Malwarebytes Premium voor luisteraars van Lock and Code.
