Het feit dat Grok er niet in geslaagd is om seksueel getinte afbeeldingen van minderjarigen te blokkeren, heeft een enkele "geïsoleerde misstap" veranderd in een wereldwijde stresstest voor de ambities van xAI. De reactie van wetgevers en regelgevers suggereert dat dit niet opgelost kan worden met een snelle verontschuldiging en een hotfix.
Vorige week berichtten we over de excuses van Grok nadat het een afbeelding had gegenereerd van jonge meisjes in "seksueel getinte kleding".
De excuses volgden op de introductie van Groks betaalde "Spicy Mode" in augustus 2025, die werd aangeprezen als gewaagd en minder gecensureerd. In de praktijk stelde deze modus gebruikers in staat om deepfake afbeeldingen met een seksuele lading te genereren, waaronder content die mogelijk illegaal is en onder de wetgeving van de VS en andere landen valt als kinderpornografie (CSAM).
Een rapport van de webmonitoringtool CopyLeaks bracht "duizenden" incidenten aan het licht waarbij Grok werd gebruikt om seksueel suggestieve afbeeldingen te maken van beroemdheden zonder hun toestemming.
Dit begint averechts te werken. Naar verluidt hebben drie Amerikaanse senatoren Google en Apple gevraagd om Elon Musks Grok te verwijderen. X Apps worden uit hun appwinkels verwijderd, omdat er zonder toestemming seksueel getinte AI-afbeeldingen van vrouwen en minderjarigen worden verspreid. De bedrijven stellen dat dit in strijd is met de regels van hun appwinkels.
In hun gezamenlijke brief stellen de senatoren:
“De afgelopen dagen, X Gebruikers hebben de Grok AI-tool van de app gebruikt om op grote schaal seksueel getinte beelden van echte burgers te genereren zonder hun toestemming. Deze trend omvat onder meer het bewerken van afbeeldingen door Grok om vrouwen af te beelden die seksueel misbruikt, vernederd, mishandeld en zelfs gedood worden. In sommige gevallen zou Grok zelfs geseksualiseerde afbeeldingen van kinderen hebben gemaakt – de meest afschuwelijke vorm van content die denkbaar is.
De Britse regering dreigt ook met mogelijke maatregelen tegen het platform. Regeringsfunctionarissen hebben aangegeven dat ze elke actie van Ofcom, de onafhankelijke mediaregulator, tegen het platform volledig zouden steunen. X Zelfs als dat betekende dat Britse toezichthouders het platform zouden kunnen blokkeren.
Indonesië en Maleisië hebben Grok al geblokkeerd nadat de functie 'digitaal uitkleden' het internet overspoelde met suggestieve en obscene gemanipuleerde afbeeldingen van vrouwen en minderjarigen.
Het bleek dat een gebruiker Grok had aangespoord om zelf een "excuse" aan te bieden, wat ze vervolgens ook deden. Na de ophef over geseksualiseerde afbeeldingen van vrouwen en minderjarigen, heeft Grok/ X Er werden beperkingen aangekondigd voor het genereren en bewerken van afbeeldingen, die alleen beschikbaar zijn voor betalende abonnees. Dit maakt die mogelijkheden in feite ontoegankelijk voor gebruikers van de reguliere markt. X oppervlakken.
Voor wetgevers die zich al zorgen maken over desinformatie en verkiezingsmanipulatie, deepfakes Grok, met zijn beelden van misbruik, wordt in rap tempo hét schoolvoorbeeld van waarom " snel handelen en dingen kapotmaken " niet samengaat met AI die op commando echte mensen kan seksualiseren.
Hopelijk zal de volgende reeks regels, variërend van EU-handhaving op het gebied van AI tot platformspecifieke veiligheidsverplichtingen, dit incident behandelen als het basisrisico waaraan alle grootschalige visuele modellen moeten voldoen, en niet als een uitzondering.
Houd uw kinderen veilig
Als je je ooit hebt afgevraagd waarom ouders foto's van hun kinderen met een glimlach op hun gezicht posten, dan is dit de reden.
Maak het vreemden niet gemakkelijk om uw foto's te kopiëren, hergebruiken of manipuleren.
Dit incident is nog een dwingende reden om uw digitale voetafdruk te verkleinen. Denk goed na voordat u foto's van uzelf, uw kinderen of andere gevoelige informatie op openbare sociale media-accounts plaatst.
En behandel alles wat je online ziet – afbeeldingen, stemmen, tekst – als mogelijk door AI gegenereerd, tenzij het onafhankelijk kan worden geverifieerd. Ze worden niet alleen gebruikt om meningen te beïnvloeden, maar ook om geld te vragen, persoonlijke informatie te verkrijgen of beledigend materiaal te creëren.
Oplichters hoeven je computer niet te hacken. Ze hoeven je maar één keer te laten klikken.
Malwarebytes Identity Theft Protection detecteert verdachte activiteiten voordat ze een probleem worden.
