L'incapacité de Grok à bloquer les images à caractère sexuel mettant en scène des mineurs a transformé un simple « incident isolé » en un test de résistance réglementaire mondial pour les ambitions de xAI. La réaction des législateurs et des régulateurs suggère que cette question ne sera pas résolue par de simples excuses et un correctif rapide.
La semaine dernière, nous avons rapporté les excuses présentées par Grok après avoir généré une image de jeunes filles vêtues de « tenues sexualisées ».
Ces excuses font suite au lancement, en août 2025, du « mode épicé » payant de Grok, présenté comme audacieux et moins censuré. Dans la pratique, il permettait aux utilisateurs de générer deepfake à caractère sexuel, y compris des contenus pouvant être considérés comme illégaux au regard des lois américaines et d'autres juridictions en matière de matériel pédopornographique (CSAM).
Un rapport publié par l'outil de surveillance Web CopyLeaks a mis en évidence « des milliers » d'incidents dans lesquels Grok a été utilisé pour créer des images à caractère sexuel de célébrités sans leur consentement.
Cela commence à se retourner contre eux. Selon certaines informations, trois sénateurs américains auraient demandé à Google et Apple de retirer X Grok et X d'Elon Musk de leurs boutiques d'applications, invoquant la diffusion d'images sexualisées non consensuelles de femmes et de mineurs générées par l'IA et arguant que cela enfreint les règles des boutiques d'applications de ces entreprises.
Dans leur lettre commune, les sénateurs déclarent :
« Ces derniers jours, X ont utilisé l'outil Grok AI de l'application pour générer à grande échelle des images sexuelles non consensuelles de citoyens réels et privés. Cette tendance a notamment conduit Grok à modifier des images pour représenter des femmes victimes d'abus sexuels, d'humiliations, de violences et même de meurtres. Dans certains cas, Grok aurait créé des images à caractère sexuel d'enfants, le type de contenu le plus odieux que l'on puisse imaginer. »
Le gouvernement britannique menace également de prendre des mesures contre la plateforme. Des responsables gouvernementaux ont déclaré qu'ils soutiendraient pleinement toute mesure prise par l'Ofcom, l'autorité indépendante de régulation des médias, à l'encontre de X. Même si cela signifiait que les régulateurs britanniques pourraient bloquer la plateforme.
L'Indonésie et la Malaisie ont déjà bloqué Grok après que sa fonction « déshabillage numérique » ait inondé Internet d'images manipulées suggestives et obscènes de femmes et de mineurs.
Il s'avère qu'un utilisateur a demandé à Grok de générer ses propres « excuses », ce qu'il a fait. Après les réactions négatives suscitées par des images sexualisées de femmes et de mineurs,X des restrictions sur la génération et l'édition d'images, réservées aux abonnés payants, rendant ainsi ces fonctionnalités payantes sur X principales X .
Pour les législateurs déjà préoccupés par la désinformation, l'ingérence électorale, deepfakes et les images abusives, Grok est en train de devenir l'exemple type qui illustre pourquoi «aller vite et casser les codes »n'est pas compatible avec une IA capable de sexualiser des personnes réelles à la demande.
Espérons que la prochaine vague de réglementations, allant de l'application de l'IA par l'UE aux obligations de sécurité spécifiques aux plateformes, considérera cet incident comme le risque de base auquel tous les modèles visuels à grande échelle doivent résister, et non comme une exception.
Assurez la sécurité de vos enfants
Si vous vous êtes déjà demandé pourquoi les parents publient des photos de leurs enfants avec un sourire radieux, voici la raison.
Ne facilitez pas la tâche aux inconnus qui souhaitent copier, réutiliser ou manipuler vos photos.
Cet incident est une raison supplémentaire convaincante de réduire votre empreinte numérique. Réfléchissez bien avant de publier des photos de vous-même, de vos enfants ou d'autres informations sensibles sur des comptes publics de réseaux sociaux.
Et considérez tout ce que vous voyez en ligne (images, voix, texte) comme potentiellement généré par l'IA, à moins qu'il ne puisse être vérifié de manière indépendante. Ces contenus ne servent pas seulement à influencer les opinions, mais aussi à solliciter de l'argent, à extraire des informations personnelles ou à créer du contenu abusif.
Nous ne nous contentons pas de signaler les menaces, nous contribuons à protéger vos réseaux sociaux.
Les risques liés à la cybersécurité ne devraient jamais dépasser le stade des gros titres. Protégez vos comptes sur les réseaux sociaux en utilisantMalwarebytes Identity Theft .
