L'incapacité de Grok à bloquer les images à caractère sexuel de mineurs a transformé un simple « dérapage isolé » en un test de résistance réglementaire mondial pour les ambitions de l'intelligence artificielle explicable (xAI). La réaction des législateurs et des autorités de régulation laisse présager qu'un simple « excuse » et un correctif rapide ne suffiront pas à régler le problème.
La semaine dernière, nous avons fait état des excuses de Grok après la diffusion d'une image de jeunes filles en « tenue sexualisée ».
Ces excuses faisaient suite au lancement, en août 2025, du « mode épicé » payant de Grok, présenté comme plus audacieux et moins censuré. En réalité, ce mode permettait aux utilisateurs de générer des images deepfake caractère sexuel, y compris des contenus susceptibles de constituer de la pédopornographie illégale en vertu des lois américaines et d'autres juridictions.
Un rapport de l'outil de surveillance web CopyLeaks a mis en lumière des « milliers » d'incidents où Grok a été utilisé pour créer des images à caractère sexuel de célébrités non consentantes.
Cela commence à se retourner contre eux. Selon certaines sources , trois sénateurs américains demandent à Google et Apple de retirer Grok, l'application d'Elon Musk. X Ils ont retiré les applications de leurs boutiques d'applications, invoquant la diffusion d'images sexualisées non consensuelles de femmes et de mineures générées par l'IA et arguant que cela viole les règles des boutiques d'applications des entreprises.
Dans leur lettre commune , les sénateurs déclarent :
« Ces derniers jours, X Des utilisateurs ont utilisé l'outil d'intelligence artificielle Grok de l'application pour générer à grande échelle des images à caractère sexuel non consensuelles de citoyens réels. Cette tendance inclut la modification d'images par Grok pour représenter des femmes victimes d'abus sexuels, d'humiliations, de violences, voire de meurtres. Dans certains cas, Grok aurait créé des images sexualisées d'enfants – le type de contenu le plus odieux qui soit.
Le gouvernement britannique menace également de prendre des mesures contre la plateforme. Des représentants du gouvernement ont déclaré qu'ils soutiendraient pleinement toute action entreprise par l'Ofcom, l'autorité indépendante de régulation des médias, contre X Même si cela signifiait que les autorités de régulation britanniques pouvaient bloquer la plateforme.
L'Indonésie et la Malaisie ont déjà bloqué Grok après que sa fonction de « déshabillage numérique » a inondé Internet d'images suggestives et obscènes manipulées de femmes et de mineures.
Il s'avère qu'un utilisateur a incité Grok à présenter ses propres « excuses », ce qu'elle a fait. Suite à la polémique suscitée par les images sexualisées de femmes et de mineures, Grok/ X Des restrictions ont été annoncées concernant la création et la modification d'images, réservées aux abonnés payants, ce qui rend de fait ces fonctionnalités payantes sur le site principal. X surfaces.
Pour les législateurs déjà préoccupés par la désinformation et l'ingérence électorale, deepfakes Avec ses images d'abus et son utilisation abusive, Grok est en train de devenir l'exemple type qui démontre pourquoi la devise « aller vite et casser des choses » ne fait pas bon ménage avec une IA capable de sexualiser de vraies personnes à la demande.
Espérons que la prochaine vague de réglementations, allant de l'application des règles de l'IA au niveau de l'UE aux obligations de sécurité spécifiques aux plateformes, traitera cet incident comme le risque de base auquel tous les modèles visuels à grande échelle doivent faire face, et non comme un cas isolé.
Protégez vos enfants
Si vous vous êtes déjà demandé pourquoi les parents publient des photos de leurs enfants avec un sourire sur le visage, voici la raison.
Ne facilitez pas la tâche aux inconnus qui pourraient copier, réutiliser ou manipuler vos photos.
Cet incident est une raison supplémentaire et convaincante de réduire votre empreinte numérique . Réfléchissez bien avant de publier des photos de vous, de vos enfants ou d'autres informations sensibles sur vos comptes de réseaux sociaux publics.
Considérez tout ce que vous voyez en ligne (images, voix, textes) comme potentiellement généré par l'IA, à moins que cela ne puisse être vérifié indépendamment. Ces contenus ne servent pas seulement à influencer l'opinion, mais aussi à soutirer de l'argent, à obtenir des informations personnelles ou à créer des contenus abusifs.
Les escrocs n'ont pas besoin de vous pirater. Il leur suffit que vous cliquiez une seule fois.
Malwarebytes Identity Theft Protection détecte les activités suspectes avant qu'elles ne deviennent un problème.
