Diese Woche im Lock and Code-Podcast…
Im Mai letzten Jahres kam eine Warnung bezüglich KI aus einer unerwarteten Quelle: dem Staatlichen Museum Auschwitz-Birkenau.
Das Museum warnte in einem öffentlichen Beitrag in den sozialen Medien vor einem Facebook Ein Account nutzte generative KI, um gefälschte Bilder von Holocaust-Opfern zu erstellen. Obwohl KI zur Generierung der Fälschungen eingesetzt wurde, handelte es sich bei den abgebildeten Personen teilweise um reale Personen. Sie trugen echte Namen, Geburtsorte und hatten Deportationsgeschichten, die das Staatliche Museum Auschwitz-Birkenau bereits veröffentlicht hatte. Ihre Gesichter stammten von erhaltenen Fotografien, die vermutlich missbraucht wurden, um die gefälschten Bilder zu erstellen.
Mit anderen Worten: Jemand – oder ein Team von Leuten im Internet – hat den Holocaust mit Deepfake-Technik nachgestellt.
Wie das Museum Auschwitz online schrieb:
„Das sind keine echten Fotos der Opfer. Es handelt sich um digitale Erfindungen, die oft stilisiert oder beschönigt sind und die Gefahr bergen, das Gedenken in eine fiktionalisierte Inszenierung zu verwandeln. Die Geschichte von Auschwitz ist gut dokumentiert. Die Veränderung der visuellen Aufzeichnungen durch KI-Bilder führt zu Verzerrungen, ganz gleich, welche Absicht dahintersteckt.“
Monate später erfuhr die Öffentlichkeit, worum es dabei ging: um Geld.
Eine BBC-Recherche deckte ein internationales Netzwerk auf Facebook Accounts, die KI-generierte Bilder veröffentlichen, um mit deren potenzieller viraler Verbreitung Geld zu verdienen. Dieses Problem wird manchmal als „KI-Schrott“ bezeichnet, birgt aber einen großen Anreiz. Wenn Accounts, die solche Bilder erstellen, eingeladen werden, Facebook Mit dem Content-Monetarisierungsprogramm von können sie 1.000 Dollar im Monat verdienen, indem sie einfach irgendetwas posten, das Klicks generiert.
Und weiter Facebook Wie die BBC herausfand, bedeutet dies, dass mehrere Accounts KI-generierte Bilder zum Thema Holocaust veröffentlichen. Wie die BBC berichtete:
„KI-Spammer haben gefälschte Bilder gepostet, die angeblich aus dem Inneren von [Auschwitz] stammen, wie zum Beispiel einen Gefangenen, der Geige spielt, oder Liebende, die sich an der Begrenzung des Zauns treffen – und damit Zehntausende von Likes und Shares erzielt.“
Die wirtschaftlichen Aspekte des Lügens sind heute ganz konkret. Menschen können mithilfe von KI gefälschte Bilder erstellen, die dazu führen, dass Menschen schreckliche Dinge als positiv empfinden oder sich vor unwahren Dingen fürchten, und sie können damit Geld verdienen, bis sie von den Big-Tech-Plattformen selbst gesperrt werden – was in diesem Fall nur aufgrund der Recherchen der BBC geschah. Tatsächlich war es genau diese Untätigkeit der Social-Media-Plattformen, die die deutsche Regierung und mehrere Holocaust-Gedenkstätten dazu veranlasste, Anfang dieses Jahres einen offenen Brief zu verfassen, in dem sie bessere Kontrollen und Einschränkungen gegen diese Art von Inhalten forderten.
Wie die Unterzeichner in ihrem Brief warnten, ist das wirtschaftliche Interesse dieser Darstellungen an einer Verfälschung der Geschichte ein zu großes Risiko, als dass man es zulassen dürfte. Den vollständigen Brief können Sie hier lesen.
Heute sprechen wir im Podcast „Lock and Code“ mit Moderator David Ruiz über Clara Mansfeld, eine Historikerin, die sich mit digitaler Kommunikation bei einer der Unterzeichnerinstitutionen des offenen Briefes befasst – der Stiftung der Gedenkstätten und Lernzentren Hamburg zum Gedenken an die Opfer von Nazi-Verbrechen. Im Gespräch erörtert Mansfeld den digitalen Zugang zur Geschichte, die Manipulation von Fakten durch KI-generierte Bilder sowie die Gefahr für die Gesellschaft, wenn es schwieriger wird, die Wahrheit einzuschätzen.
„Was passiert, wenn unser erster Gedanke bei jedem historischen Bild lautet: ‚Ist das überhaupt echt oder ist das KI?‘ Ich glaube nicht, dass wir wirklich begriffen haben, was das für uns als Gesellschaft bedeutet.“
Schalten Sie heute ein, um das gesamte Gespräch zu hören.
Anmerkungen und Credits anzeigen:
Intro-Musik: „Spellbound“ von Kevin MacLeod (incompetech.com)
Lizenziert unter Creative Commons: By Attribution 4.0 License
http://creativecommons.org/licenses/by/4.0/
Outro-Musik: „Good God“ von Wowa (unminus.com)
Hört gut zu! Malwarebytes Wir reden nicht nur über Cybersicherheit, wir bieten sie.
Schützen Sie sich vor Online-Angriffen, die Ihre Identität, Ihre Dateien, Ihr System und Ihr finanzielles Wohlergehen bedrohen, mit unserem exklusiven Angebot für Malwarebytes Premium Security für Lock- und Code-Listener .
