Het feit dat Grok er niet in geslaagd is om seksueel getinte afbeeldingen van minderjarigen te blokkeren, heeft een enkele "geïsoleerde misstap" veranderd in een wereldwijde stresstest voor de ambities van xAI. De reactie van wetgevers en regelgevers suggereert dat dit niet opgelost kan worden met een snelle verontschuldiging en een hotfix.
Vorige week berichtten we over de excuses van Grok nadat het een afbeelding had gegenereerd van jonge meisjes in "seksueel getinte kleding".
De verontschuldiging volgde op de introductie van Grok's betaalde "Spicy Mode" in augustus 2025, die op de markt werd gebracht als gewaagd en minder gecensureerd. In de praktijk stelde het gebruikers in staat om seksuele deepfake te genereren, waaronder inhoud die volgens de wetgeving van de VS en andere rechtsgebieden mogelijk ondervalt onder illegaal materiaal met seksueel misbruik van kinderen (CSAM).
Een rapport van de webmonitoringtool CopyLeaks bracht "duizenden" incidenten aan het licht waarbij Grok werd gebruikt om seksueel suggestieve afbeeldingen te maken van beroemdheden zonder hun toestemming.
Dit begint averechts te werken. Naar verluidt vragen drie Amerikaanse senatoren Google en Apple om X Grok en X van Elon Musk uit hun app stores te verwijderen, omdat er seksueel getinte AI-afbeeldingen van vrouwen en minderjarigen zonder hun toestemming worden verspreid en dit in strijd is met de regels van de app stores van deze bedrijven.
In hun gezamenlijke brief stellen de senatoren:
"De afgelopen dagen hebben X de Grok AI-tool van de app gebruikt om op grote schaal niet-consensuele seksuele afbeeldingen van echte, particuliere burgers te genereren. Deze trend omvat onder meer het aanpassen van afbeeldingen door Grok om vrouwen af te beelden die seksueel worden misbruikt, vernederd, gekwetst en zelfs vermoord. In sommige gevallen heeft Grok naar verluidt seksueel getinte afbeeldingen van kinderen gemaakt – de meest gruwelijke vorm van inhoud die men zich kan voorstellen."
De Britse regering dreigt ook met mogelijke maatregelen tegen het platform. Regeringsfunctionarissen hebben gezegd dat ze alle maatregelen van Ofcom, de onafhankelijke mediaregulator, tegen X volledig zullen steunen. Zelfs als dat zou betekenen dat Britse toezichthouders het platform zouden kunnen blokkeren.
Indonesië en Maleisië hebben Grok al geblokkeerd nadat de functie 'digitaal uitkleden' het internet overspoelde met suggestieve en obscene gemanipuleerde afbeeldingen van vrouwen en minderjarigen.
Het bleek dat een gebruiker Grok had gevraagd om een eigen 'verontschuldiging' te genereren, wat het ook deed. Na kritiek op seksueel getinte afbeeldingen van vrouwen en minderjarigenX het genereren en bewerken van afbeeldingen voortaan alleen nog mogelijk zou zijn voor betalende abonnees, waardoor deze functies in feite alleen nog beschikbaar zijn op X belangrijkste X .
Voor wetgevers die zich al zorgen maken over desinformatie, verkiezingsinmenging, deepfakes en misbruik van beeldmateriaal, wordt Grok in snel tempo het schoolvoorbeeld van waarom'snel handelen en dingen doorbreken'niet samengaat met AI die echte mensen op verzoek kan seksualiseren.
Hopelijk zal de volgende reeks regels, variërend van EU-handhaving op het gebied van AI tot platformspecifieke veiligheidsverplichtingen, dit incident behandelen als het basisrisico waaraan alle grootschalige visuele modellen moeten voldoen, en niet als een uitzondering.
Houd uw kinderen veilig
Als je je ooit hebt afgevraagd waarom ouders foto's van hun kinderen met een glimlach op hun gezicht posten, dan is dit de reden.
Maak het vreemden niet gemakkelijk om uw foto's te kopiëren, hergebruiken of manipuleren.
Dit incident is nog een dwingende reden om uw digitale voetafdruk te verkleinen. Denk goed na voordat u foto's van uzelf, uw kinderen of andere gevoelige informatie op openbare sociale media-accounts plaatst.
En behandel alles wat je online ziet – afbeeldingen, stemmen, tekst – als mogelijk door AI gegenereerd, tenzij het onafhankelijk kan worden geverifieerd. Ze worden niet alleen gebruikt om meningen te beïnvloeden, maar ook om geld te vragen, persoonlijke informatie te verkrijgen of beledigend materiaal te creëren.
We brengen niet alleen verslag uit over bedreigingen, maar helpen ook uw sociale media te beschermen.
Cyberbeveiligingsrisico's mogen nooit verder gaan dan een krantenkop. Bescherm uw sociale media-accounts metMalwarebytes Identity Theft .
