Des journalistes ont décidé de tester si le chatbot Grok génère toujours des images à caractère sexuel non consensuelles, même après l'intervention de xAI, la société d'intelligence artificielle d'Elon Musk, et X , la plateforme de médias sociaux anciennement connue sous le nom de Twitter , ont promis des mesures de protection plus strictes.
Sans surprise, oui.
Suite à l'examen minutieux des autorités de réglementation du monde entier — déclenché par des rapports indiquant que Grok pouvait générer des images sexualisées de mineurs —, xAI a présenté cela comme un dysfonctionnement « isolé » et a déclaré qu'elle corrigeait d'urgence les « failles dans les mesures de protection ».
Un nouveau test effectué par Reuters suggère que le schéma d'abus principal persiste. Reuters a demandé à neuf journalistes d'exécuter des dizaines de requêtes contrôlées via Grok après X Grok a annoncé de nouvelles limites concernant les contenus sexualisés et la retouche d'images. Lors de la première série de tests, Grok a produit des images sexualisées en réponse à 45 des 55 questions posées. Dans 31 de ces 45 cas, les journalistes ont explicitement indiqué que la personne photographiée était vulnérable ou serait humiliée par les images.
Un deuxième tour, cinq jours plus tard, a encore produit des images sexualisées dans 29 des 43 sujets, même lorsque les journalistes ont déclaré que les sujets n'avaient pas consenti.
Les systèmes concurrents d'OpenAI, de Google et de Meta ont refusé les mêmes demandes et ont plutôt mis en garde les utilisateurs contre la génération de contenu non consensuel.
Les demandes étaient délibérément présentées comme des scénarios de violence réalistes. Les journalistes ont indiqué à Grok que les photos représentaient des amis, des collègues ou des inconnus complexés par leur corps, timides ou victimes de violence, et qu'ils n'avaient pas consenti à ce qu'elles soient modifiées. Malgré cela, Grok s'est souvent exécuté, transformant par exemple une « amie » en une femme en bikini violet décolleté ou un homme de sa connaissance en petit bikini gris, huilé et dans une pose suggestive. Grok n'a explicitement rejeté les demandes que dans sept cas, les jugeant inappropriées ; dans les autres, l'application a échoué sans explication, renvoyant des erreurs génériques ou générant des photos de personnes différentes.
Le résultat est un système qui illustre la leçon même que ses créateurs disent chercher à tirer : si l’on propose des modèles visuels performants sans tests d’abus exhaustifs ni garde-fous robustes, ils seront utilisés pour sexualiser et humilier autrui, y compris des enfants. À ce jour, l’expérience de Grok laisse penser que cette leçon n’a toujours pas été assimilée.
Suite à la polémique, Grok a limité l'édition d'images par IA aux utilisateurs payants. Cependant, le fait de rendre payants les outils d'édition d'images – et d'ajouter de nouvelles restrictions – ressemble davantage à une tentative de limiter les dégâts qu'à une véritable réinitialisation de la sécurité. Grok accepte toujours les demandes décrivant une utilisation non consensuelle, continue de sexualiser les personnes vulnérables et se montre toujours plus permissif que les systèmes concurrents lorsqu'on lui demande de générer des images abusives. Pour les victimes, la distinction entre générations « publiques » et privées n'a aucun sens si leurs photos peuvent être utilisées à grande échelle dans les messages privés ou les groupes fermés.
Partage d'images
Si vous vous êtes déjà demandé pourquoi certains parents publient des photos de leurs enfants avec un emoji souriant sur le visage, voici une partie de l'explication.
Ne facilitez pas la tâche aux inconnus qui pourraient copier, réutiliser ou manipuler vos photos.
Voici une autre raison convaincante de réduire votre empreinte numérique . Réfléchissez bien avant de publier des photos de vous, de vos enfants ou d'autres informations sensibles sur vos comptes de réseaux sociaux publics.
Considérez tout ce que vous voyez en ligne (images, voix, textes) comme potentiellement généré par l'IA, à moins que cela ne puisse être vérifié indépendamment. Ces contenus ne servent pas seulement à influencer l'opinion, mais aussi à soutirer de l'argent, à obtenir des informations personnelles ou à créer des contenus abusifs.
Les escrocs n'ont pas besoin de vous pirater. Il leur suffit que vous cliquiez une seule fois.
Malwarebytes Identity Theft Protection détecte les activités suspectes avant qu'elles ne deviennent un problème.
