Das Versäumnis von Grok, sexualisierte Bilder von Minderjährigen zu blockieren, hat einen einzelnen „isolierten Ausrutscher” zu einem globalen Stresstest für die Ambitionen von xAI gemacht. Die Reaktion von Gesetzgebern und Regulierungsbehörden deutet darauf hin, dass dies nicht mit einer schnellen Entschuldigung und einem Hotfix gelöst werden kann.
Letzte Woche berichteten wir über die Entschuldigung von Grok, nachdem das Unternehmen ein Bild von jungen Mädchen in „sexualisierter Kleidung“ generiert hatte.
Die Entschuldigung erfolgte im Anschluss an die Einführung des kostenpflichtigen „Spicy Mode“ von Grok im August 2025, der als provokant und weniger zensiert beworben wurde. Tatsächlich ermöglichte er Nutzern jedoch die Erstellung deepfake -Bildern mit sexuellem Inhalt, darunter auch Inhalte, die nach US-amerikanischem und anderem internationalem Recht unter den Tatbestand des illegalen sexuellen Missbrauchs von Kindern fallen könnten.
Ein Bericht des Web-Überwachungstools CopyLeaks hob „Tausende“ von Vorfällen hervor, in denen Grok dazu verwendet wurde, sexuell anzügliche Bilder von Prominenten ohne deren Zustimmung zu erstellen.
Das rächt sich nun. Berichten zufolge fordern drei US-Senatoren Google und Apple auf, Elon Musks Grok und X Sie entfernen Apps aus ihren App-Stores, da sich nicht einvernehmlich sexualisierte KI-Bilder von Frauen und Minderjährigen verbreiten und dies ihrer Ansicht nach gegen die App-Store-Regeln der Unternehmen verstößt.
In ihrem gemeinsamen Schreiben erklären die Senatoren:
„In den letzten Tagen X Nutzer haben das KI-Tool Grok der App verwendet, um massenhaft nicht einvernehmliche sexuelle Bilder von realen Privatpersonen zu erstellen. Dieser Trend umfasste unter anderem die Manipulation von Bildern, um Frauen beim sexuellen Missbrauch, der Demütigung, der Verletzung und sogar der Tötung darzustellen. Berichten zufolge hat Grok in einigen Fällen auch sexualisierte Bilder von Kindern erstellt – die abscheulichste Art von Inhalten, die man sich vorstellen kann.
Die britische Regierung droht ebenfalls mit möglichen Maßnahmen gegen die Plattform. Regierungsbeamte erklärten, sie würden jegliche Maßnahmen der unabhängigen Medienaufsichtsbehörde Ofcom gegen die Plattform vollumfänglich unterstützen. X Selbst wenn das bedeuten würde, dass die britischen Regulierungsbehörden die Plattform blockieren könnten.
Indonesien und Malaysia haben Grok bereits gesperrt, nachdem seine Funktion „digitales Entkleiden“ das Internet mit anzüglichen und obszönen manipulierten Bildern von Frauen und Minderjährigen überschwemmt hatte.
Wie sich herausstellte, forderte ein Nutzer Grok auf, eine eigene „Entschuldigung“ zu erstellen, was das Unternehmen auch tat. Nach heftiger Kritik an sexualisierten Darstellungen von Frauen und Minderjährigen reagierte Grok/ X Die angekündigten Beschränkungen für die Bildgenerierung und -bearbeitung sind ausschließlich zahlenden Abonnenten vorbehalten, wodurch diese Funktionen auf der Hauptseite faktisch hinter einer Bezahlschranke versteckt werden. X Oberflächen.
Für Gesetzgeber, die sich bereits Sorgen über Desinformation und Wahlbeeinflussung machen, deepfakes und Missbrauchsbilder – Grok wird schnell zum Paradebeispiel dafür, warum „ schnell handeln und Dinge kaputtmachen “ nicht mit KI vereinbar ist, die reale Menschen auf Knopfdruck sexualisieren kann.
Hoffentlich wird die nächste Welle von Vorschriften, die von der Durchsetzung der EU-KI-Richtlinie bis hin zu plattformspezifischen Sicherheitsverpflichtungen reichen, diesen Vorfall als das Basisrisiko betrachten, dem alle groß angelegten visuellen Modelle standhalten müssen, und nicht als Ausnahmefall.
Sorgen Sie für die Sicherheit Ihrer Kinder
Wenn Sie sich jemals gefragt haben, warum Eltern Bilder ihrer Kinder mit einem Smiley im Gesicht posten, dann ist dies der Grund dafür.
Machen Sie es Fremden nicht leicht, Ihre Fotos zu kopieren, wiederzuverwenden oder zu manipulieren.
Dieser Vorfall ist ein weiterer wichtiger Grund, Ihren digitalen Fußabdruck zu verringern. Überlegen Sie sorgfältig, bevor Sie Fotos von sich selbst, Ihren Kindern oder andere sensible Informationen auf öffentlichen Social-Media-Konten veröffentlichen.
Behandeln Sie alles, was Sie online sehen – Bilder, Stimmen, Texte – als potenziell KI-generiert, sofern es nicht unabhängig überprüft werden kann. Diese werden nicht nur dazu verwendet, Meinungen zu beeinflussen, sondern auch, um Geld zu erpressen, persönliche Informationen zu extrahieren oder beleidigendes Material zu erstellen.
Betrüger müssen sich nicht in dein System hacken. Es reicht schon, wenn du einmal darauf klickst.
Malwarebytes Identity Theft Protection erkennt verdächtige Aktivitäten, bevor sie zu einem Problem werden.
