Deze week in de Lock and Code-podcast...
In mei vorig jaar kwam er een waarschuwing over AI uit onverwachte hoek: het Staatsmuseum Auschwitz-Birkenau.
Het museum waarschuwde publiekelijk op sociale media voor een Facebook Een account maakte gebruik van generatieve AI om nepafbeeldingen te creëren van mensen die tijdens de Holocaust omkwamen. Ondanks het gebruik van AI om nepafbeeldingen te genereren, waren de mensen op die afbeeldingen soms echt. Ze hadden echte namen, geboorteplaatsen en deportatieverhalen die het Staatsmuseum Auschwitz-Birkenau zelf eerder had gedeeld. Hun gezichten waren echt, vastgelegd op echte foto's die bewaard zijn gebleven en die waarschijnlijk misbruikt zijn om de valse afbeeldingen te genereren.
Met andere woorden: iemand, of een groep mensen online, was bezig met het vervalsen van de Holocaust via deepfakes.
Zoals het Auschwitz-museum online schreef:
“Dit zijn geen echte foto’s van de slachtoffers. Het zijn digitale creaties, vaak gestileerd of gezuiverd, die het risico met zich meebrengen dat de herdenking verandert in een geromantiseerde voorstelling. De geschiedenis van Auschwitz is een goed gedocumenteerd verhaal. Het aanpassen van het visuele archief met behulp van AI-beelden leidt tot een vertekend beeld, ongeacht de bedoeling.”
Maanden later kwam het publiek erachter wat die bedoeling was: geld.
Een onderzoek van de BBC bracht een internationaal netwerk aan het licht Facebook Accounts die door AI gegenereerde afbeeldingen plaatsen om geld te verdienen aan de potentiële viraliteit van die afbeeldingen. Dit probleem wordt soms "AI-rommel" genoemd, maar het heeft een belangrijke stimulans. Wanneer accounts die dit soort afbeeldingen maken worden uitgenodigd om... Facebook Met het contentmonetisatieprogramma van [naam platform] kunnen ze $1.000 per maand verdienen door berichten te plaatsen die klikken genereren.
En op Facebook De BBC ontdekte dat dit betekent dat verschillende accounts AI-gegenereerde afbeeldingen over de Holocaust plaatsen. Zoals de BBC berichtte:
“Spammers die gebruikmaken van kunstmatige intelligentie hebben valse afbeeldingen geplaatst die zogenaamd uit [Auschwitz] afkomstig zijn, zoals een gevangene die viool speelt of geliefden die elkaar bij het hek ontmoeten – en daarmee tienduizenden likes en shares hebben gekregen.”
De economische aspecten van leugens zijn tegenwoordig heel concreet. Mensen kunnen AI gebruiken om nepfoto’s te maken die ervoor zorgen dat mensen zich goed voelen over vreselijke dingen of bang worden voor onwaarheden, en ze kunnen hier geld mee verdienen totdat ze door de grote techplatforms zelf worden geblokkeerd – wat in dit geval alleen gebeurde dankzij het onderzoek van de BBC. Het is juist dat soort passiviteit van sociale mediaplatforms dat de Duitse regering en diverse instellingen ter nagedachtenis aan de Holocaust ertoe heeft aangezet om eerder dit jaar een open brief te sturen waarin werd gevraagd om betere controles en beperkingen tegen dit soort inhoud.
Zoals de ondertekenaars in hun brief waarschuwden, is het economische belang dat deze verslagen de geschiedenis verdraaien een te groot risico om te negeren. Je kunt de volledige brief hier lezen.
Vandaag spreken we in de podcast „Lock and Code”, gepresenteerd door David Ruiz, met Clara Mansfeld, een historica die zich bezighoudt met digitale communicatie bij een van de instellingen die de open brief hebben ondertekend: de Stichting van de Hamburgse Gedenkplaatsen en Leercentra ter nagedachtenis aan de slachtoffers van nazimisdaden. In dit gesprek gaat Mansfeld in op digitale toegang tot de geschiedenis, de manipulatie van feitelijke gegevens door middel van door AI gegenereerde beelden, en de bedreiging waarmee de samenleving wordt geconfronteerd wanneer het moeilijker wordt om de waarheid te beoordelen.
“Wat gebeurt er als onze eerste gedachte bij elk historisch beeld is: ‘Is dat wel echt, of is dat AI?’ Ik denk niet dat we ons echt realiseren wat dat voor ons als samenleving betekent.”
Luister vandaag nog naar het volledige gesprek.
Aantekeningen en credits weergeven:
Intro-muziek: "Spellbound" door Kevin MacLeod (incompetech.com)
Gelicentieerd onder Creative Commons: By Attribution 4.0 License
http://creativecommons.org/licenses/by/4.0/
Outro-muziek: "Good God" door Wowa (unminus.com)
Luister goed— Malwarebytes Wij praten niet alleen over cyberbeveiliging, wij bieden het ook.
Bescherm uzelf tegen online aanvallen die uw identiteit, bestanden, systeem en financiële welzijn bedreigen met ons exclusieve aanbod voor luisteraars van Lock and Code: Malwarebytes Premium Security .
