Dank Uncle Sam werden alle, die deepfakes CFake.com und SOCFake.com nach nicht einvernehmlichen intimen deepfakes suchen, enttäuscht sein. Das US-Justizministerium (DOJ) und das Ministerium für innere Sicherheit haben die beiden Domainnamen im Rahmen des TAKE IT DOWN Act beschlagnahmt.
Der im Mai 2025 unterzeichnete „TAKE IT DOWN Act“ ist das erste US-Bundesgesetz, das die Veröffentlichung nicht einvernehmlicher intimer Bilder, einschließlich KI-generierter Fälschungen, unter Strafe stellt. Es sieht Freiheitsstrafen von bis zu zwei Jahren vor, gibt den betroffenen Plattformen 48 Stunden Zeit, um gemeldete Inhalte zu entfernen, und räumt dem Justizministerium die Befugnisse zur Einziehung ein, von denen dieses gerade Gebrauch gemacht hat.
Den Beschlagnahmungsbefehlen zufolge zeigten die digitalen Fälschungen „Politiker, First Ladies verschiedener Länder, Mitglieder königlicher Familien, Journalisten, Fernsehmoderatoren, Sportler, Entertainer und andere“, und Besucher konnten sie unter Stichwörtern wie „Vergewaltigung“, „Zwang“ und „Erniedrigung“ durchsuchen.
Die Behörden haben jedoch nicht nur die Websites gesperrt. In einer internationalen Aktion konnten sie auch den mutmaßlichen Betreiber von CFake.com festnehmen.
Die USA machten die Pariser Staatsanwaltschaft auf einen französischen Staatsbürger in Nizza aufmerksam, der angeblich die Website CFake.com betrieb. Französische Ermittler zählten auf CFake.com rund 300.000 Bilder und 7.000 Videos, die 14.000 Personen zeigten, und verzeichneten monatlich vier Millionen Aufrufe von 200.000 Nutzerkonten.
Anschließend nahmen sie den IT-Fachmann fest, der bisher nicht vorbestraft war. Außerdem fanden sie in seiner Wohnung etwa 64.000 Dollar in der Kryptowährung Ether, die aus Werbeeinnahmen der Website stammten.
Der Mann wird am 7. Juli in Paris wegen der Durchführung illegaler Online-Transaktionen und der Verbreitung nicht einvernehmlicher sexueller deepfakes vor Gericht stehen. Auf die erstgenannte Straftat stehen bis zu sieben Jahre Freiheitsstrafe und eine Geldstrafe von 500.000 Euro (etwa 580.000 Dollar). Die zweite Straftat könnte mit drei Jahren Freiheitsstrafe und einer Geldstrafe von 75.000 Euro (87.000 Dollar) geahndet werden.
In den USA deepfakes zudem Anbieter und mutmaßliche Anbieter von nicht einvernehmlichen intimen deepfakes festgenommen. Im April bekannte sich James Strahler II aus Ohio schuldig, Cyberstalking betrieben, Material über sexuellen Kindesmissbrauch hergestellt und digitale Fälschungen veröffentlicht zu haben.
Strahler hatte über 700 Bilder und Animationen heruntergeladen, die auf einer Website mit kinderpornografischem Inhalt veröffentlicht worden waren, und hatte deepfake an mindestens sechs erwachsene Frauen verschickt, darunter auch an die Kollegen eines Opfers.
Im vergangenen Monat nahm das US-Justizministerium zudem Cornelius Shannon und Arturo Hernandez auf Grundlage des TAKE IT DOWN Act fest, weil sie Tausende von deepfake prominenter Frauen sowie von Personen aus dem nicht-öffentlichen Leben veröffentlicht hatten.
Auch andere Länder ergreifen Maßnahmen. Anthony Rontondo wurde im Mai letzten Jahres von den australischen Behörden festgenommen, weil er mit Deepfake-Technik manipulierte Bilder prominenter australischer Frauen veröffentlicht hatte. Er wurde schließlich zu einer Geldstrafe von 343.000 AU$ verurteilt.
Wie verbreitet sind deepfakes?
Diese Beschlagnahmungen und Strafverfolgungen sind zwar ermutigend, doch sehen sich die Staatsanwälte, die versuchen, nicht einvernehmliche deepfakes zu entfernen, mit einer wachsenden Flut solcher Inhalte konfrontiert. Die Nachfrage nach und die Weitergabe von nicht einvernehmlichen deepfake haben zugenommen, wobei sich die Aktivitäten auf verschiedene Plattformen verlagern. Deepfake stieg im Jahr 2024 insgesamt um 257 %, und Mädchen machten 94 % der Opfer in gemeldeten Fällen von KI-generiertem sexuellem Kindesmissbrauch aus.
Durch die Beschlagnahmung einer Vertriebsstelle wird lediglich eine Verkaufsstelle beseitigt. Die KI-Modelle, die zur Erstellung des Materials verwendet werden, die anonymen Hosting-Anbieter in der nachgelagerten Kette sowie die Nachfrage, die die Besucher überhaupt erst anzieht, bleiben davon unberührt.
Was Sie tun können
Falls Sie oder jemand, den Sie kennen, in einem deepfake ohne Einwilligung dargestellt wird, bewahren Sie datierte Screenshots, URLs und jegliche Korrespondenz als Beweismaterial auf, bevor Sie einen Antrag auf Entfernung stellen und den Vorfall den Behörden melden.
Vermeiden Sie es, hochauflösende Gesichtsbilder von sich und Ihren Kindern öffentlich zu posten, da Schulfotos und Profilbilder in sozialen Medien das Ausgangsmaterial für diese Tools darstellen.
Nutzen Sie die fachkundige Beratung, um sich vor deepfakes ohne Ihre Zustimmung zu schützen:
- Sicherheitszentrum der „Cyber Civil Rights Safety Initiative“ (USA)
- Hilfetelefon gegen Rachepornos (Großbritannien)
- Cybertip.ca (Kanada)
Seien wir ehrlich: Ein Inkognito-Fenster hat seine Grenzen.
Datenlecks, Handel im Dark Web, Kreditbetrug. Malwarebytes Identity Theft überwacht all das, benachrichtigt Sie umgehend und beinhaltet eine Versicherung gegen Identitätsdiebstahl.
