Journalisten besloten te testen of de Grok-chatbot nog steeds niet-consensuele seksueel getinte afbeeldingen genereert, zelfs nadat xAI, het kunstmatige-intelligentiebedrijf van Elon Musk, en X, het sociale mediaplatform dat voorheen bekend stond als Twitter, strengere veiligheidsmaatregelen hadden beloofd.
Het is niet verwonderlijk dat dit het geval is.
Na onderzoek door toezichthouders over de hele wereld– naar aanleiding van berichten dat Grok seksueel getinte afbeeldingen van minderjarigen zou kunnen genereren– bestempelde xAI het als een "geïsoleerd" incident en zei het bedrijf dat het "tekortkomingen in de beveiliging" met spoed zou verhelpen.
Een hertest door Reuters suggereert dat het kernpatroon van misbruik blijft bestaan. Reuters liet negen verslaggevers tientallen gecontroleerde prompts door Grok lopen nadat X nieuwe beperkingen X voor seksueel getinte inhoud en beeldbewerking. In de eerste ronde produceerde Grok seksueel getinte beelden als reactie op 45 van de 55 prompts. In 31 van die 45 gevallen gaven de verslaggevers expliciet aan dat het onderwerp kwetsbaar was of door de foto's vernederd zou worden.
Een tweede ronde, vijf dagen later, leverde nog steeds seksueel getinte beelden op in 29 van de 43 prompts, zelfs wanneer verslaggevers aangaven dat de proefpersonen geen toestemming hadden gegeven.
Concurrerende systemen van OpenAI, Google en Meta weigerden identieke prompts en waarschuwden gebruikers in plaats daarvan voor het genereren van inhoud zonder toestemming.
De prompts waren bewust opgezet als scenario's van misbruik uit de echte wereld. Verslaggevers vertelden Grok dat de foto's van vrienden, collega's of vreemden waren die lichaamsbewust of verlegen waren, of slachtoffers van misbruik, en dat ze niet hadden ingestemd met bewerking. Desondanks ging Grok vaak akkoord, bijvoorbeeld door een 'vriend' te veranderen in een vrouw in een onthullende paarse tweedelige bikini of door een mannelijke kennis in een kleine grijze bikini te plaatsen, ingeolied en in een suggestieve pose. In slechts zeven gevallen wees Grok verzoeken expliciet af als ongepast; in andere gevallen faalde het stilzwijgend, door algemene foutmeldingen te geven of in plaats daarvan andere personen te genereren.
Het resultaat is een systeem dat dezelfde les illustreert die de makers ervan zeggen te willen leren: als je krachtige visuele modellen levert zonder uitgebreide misbruiktests en robuuste beveiligingsmaatregelen, zullen mensen ze gebruiken om anderen, waaronder kinderen, te seksualiseren en te vernederen. Het trackrecord van Grok tot nu toe suggereert dat die les nog steeds niet is doorgedrongen.
Grok heeft na de kritiek het bewerken van afbeeldingen met AI beperkt tot betalende gebruikers. Maar het afschermen van beeldbewerkingstools – en het toevoegen van nieuwe beperkingen – lijkt meer op schadebeperking dan op een fundamentele herziening van de veiligheid. Grok accepteert nog steeds prompts die niet-consensueel gebruik beschrijven, seksualiseert nog steeds kwetsbare onderwerpen en gedraagt zich nog steeds toleranter dan concurrerende systemen wanneer het wordt gevraagd om beledigende beelden te genereren. Voor slachtoffers is het onderscheid tussen "openbare" en privé-generaties zinloos als hun foto's op grote schaal kunnen worden gebruikt in DM's of besloten groepen.
Afbeeldingen delen
Als je je ooit hebt afgevraagd waarom sommige ouders foto's van hun kinderen posten met een smiley-emoji op hun gezicht, dan is dit een deel van de reden.
Maak het vreemden niet gemakkelijk om uw foto's te kopiëren, hergebruiken of manipuleren.
Dit is nog een goede reden omje digitale voetafdruk te verkleinen. Denk goed na voordat je foto's van jezelf,je kinderen of andere gevoelige informatie op openbare socialemedia-accounts plaatst.
En behandel alles wat je online ziet – afbeeldingen, stemmen, tekst – als mogelijk door AI gegenereerd, tenzij het onafhankelijk kan worden geverifieerd. Ze worden niet alleen gebruikt om meningen te beïnvloeden, maar ook om geld te vragen, persoonlijke informatie te verkrijgen of beledigend materiaal te creëren.
We brengen niet alleen verslag uit over bedreigingen, maar helpen ook uw sociale media te beschermen.
Cyberbeveiligingsrisico's mogen nooit verder gaan dan een krantenkop. Bescherm uw sociale media-accounts metMalwarebytes Identity Theft .
