Diese Woche im Lock and Code-Podcast…
Im Mai letzten Jahres kam eine Warnung bezüglich KI aus einer unerwarteten Quelle: dem Staatlichen Museum Auschwitz-Birkenau.
In einem öffentlichen Beitrag in den sozialen Medien warnte das Museum vor einem Facebook generative KI nutze, um gefälschte Bilder von Menschen zu erstellen, die im Holocaust ums Leben gekommen sind. Obwohl die gefälschten Bilder mithilfe von KI erzeugt wurden, handelte es sich bei den Personen auf diesen Bildern teilweise um reale Personen. Sie hatten echte Namen, Geburtsorte und Geschichten über ihre Deportation, die das Staatliche Museum Auschwitz-Birkenau selbst zuvor veröffentlicht hatte. Ihre Gesichter waren auf echten, erhaltenen Fotos zu sehen, die wahrscheinlich missbraucht wurden, um die gefälschten Bilder zu erstellen.
Mit anderen Worten: Jemand – oder ein Team von Leuten im Internet – hat den Holocaust mit Deepfake-Technik nachgestellt.
Wie das Museum Auschwitz online schrieb:
„Das sind keine echten Fotos der Opfer. Es handelt sich um digitale Erfindungen, die oft stilisiert oder beschönigt sind und die Gefahr bergen, das Gedenken in eine fiktionalisierte Inszenierung zu verwandeln. Die Geschichte von Auschwitz ist gut dokumentiert. Die Veränderung der visuellen Aufzeichnungen durch KI-Bilder führt zu Verzerrungen, ganz gleich, welche Absicht dahintersteckt.“
Monate später erfuhr die Öffentlichkeit, worum es dabei ging: um Geld.
Eine Untersuchung der BBC deckte ein internationales Netzwerk von Facebook auf, die KI-generierte Bilder posten, um von der potenziellen viralen Verbreitung dieser Bilder zu profitieren. Dieses Problem wird manchmal als „KI-Müll“ bezeichnet, birgt jedoch einen erheblichen Anreiz. Wenn Konten, die solche Bilder erstellen, zur Teilnahme am Monetarisierungsprogramm Facebookeingeladen werden, können sie monatlich 1.000 Dollar verdienen, indem sie alles posten, was Klicks generiert.
Und auf Facebook, so stellte die BBC fest, bedeutet dies, dass mehrere Konten KI-generierte Bilder zum Holocaust veröffentlichen. Wie die BBC berichtete:
„KI-Spammer haben gefälschte Bilder gepostet, die angeblich aus dem Inneren von [Auschwitz] stammen, wie zum Beispiel einen Gefangenen, der Geige spielt, oder Liebende, die sich an der Begrenzung des Zauns treffen – und damit Zehntausende von Likes und Shares erzielt.“
Die wirtschaftlichen Aspekte des Lügens sind heute ganz konkret. Menschen können mithilfe von KI gefälschte Bilder erstellen, die dazu führen, dass Menschen schreckliche Dinge als positiv empfinden oder sich vor unwahren Dingen fürchten, und sie können damit Geld verdienen, bis sie von den Big-Tech-Plattformen selbst gesperrt werden – was in diesem Fall nur aufgrund der Recherchen der BBC geschah. Tatsächlich war es genau diese Untätigkeit der Social-Media-Plattformen, die die deutsche Regierung und mehrere Holocaust-Gedenkstätten dazu veranlasste, Anfang dieses Jahres einen offenen Brief zu verfassen, in dem sie bessere Kontrollen und Einschränkungen gegen diese Art von Inhalten forderten.
Wie die Unterzeichner in ihrem Brief warnten, ist das wirtschaftliche Interesse dieser Darstellungen an einer Verfälschung der Geschichte ein zu großes Risiko, als dass man es zulassen dürfte. Den vollständigen Brief können Sie hier lesen.
Heute sprechen wir im Podcast „Lock and Code“ mit Moderator David Ruiz über Clara Mansfeld, eine Historikerin, die sich mit digitaler Kommunikation bei einer der Unterzeichnerinstitutionen des offenen Briefes befasst – der Stiftung der Gedenkstätten und Lernzentren Hamburg zum Gedenken an die Opfer von Nazi-Verbrechen. Im Gespräch erörtert Mansfeld den digitalen Zugang zur Geschichte, die Manipulation von Fakten durch KI-generierte Bilder sowie die Gefahr für die Gesellschaft, wenn es schwieriger wird, die Wahrheit einzuschätzen.
„Was passiert, wenn unser erster Gedanke bei jedem historischen Bild lautet: ‚Ist das überhaupt echt oder ist das KI?‘ Ich glaube nicht, dass wir wirklich begriffen haben, was das für uns als Gesellschaft bedeutet.“
Schalten Sie heute ein, um das gesamte Gespräch zu hören.
Anmerkungen und Credits anzeigen:
Intro-Musik: „Spellbound“ von Kevin MacLeod (incompetech.com)
Lizenziert unter Creative Commons: By Attribution 4.0 License
http://creativecommons.org/licenses/by/4.0/
Outro-Musik: „Good God“ von Wowa (unminus.com)
Hören Sie zu –Malwarebytes redetMalwarebytes nur über Cybersicherheit, wir bieten sie auch.
Schützen Sie sich vor Online-Angriffen, die Ihre Identität, Ihre Dateien, Ihr System und Ihr finanzielles Wohlergehen gefährden, mit unseremexklusiven Angebot für Malwarebytes Premium für Lock and Code-Hörer.
