Un autre système d'IA conçu pour être puissant et captivant illustre finalement comment les garde-fous cèdent régulièrement lorsque la vitesse de développement et la course aux fonctionnalités dépassent les contrôles de sécurité.
Dans un article sur X Le chatbot IA Grok a confirmé avoir généré une image de jeunes filles en « tenue sexualisée ».
La violation potentielle des lois américaines relatives aux contenus pédopornographiques met en évidence le manque apparent de garde-fous dans le fonctionnement des chatbots dotés d'intelligence artificielle. Ou du moins, ces garde-fous sont loin d'être aussi efficaces qu'on le souhaiterait.
xAI, la société à l'origine du chatbot de Musk, examine l'incident « afin de prévenir tout problème futur », et le compte de l'utilisateur responsable du message aurait été suspendu. Selon une autre publication sur X Grok a décrit l'incident comme un cas isolé et a déclaré que des correctifs urgents étaient mis en place après que des « failles dans les mesures de sécurité » aient été identifiées.
Pendant les fêtes, nous avons évoqué l'augmentation des risques liés au déploiement précipité de nouvelles fonctionnalités d'IA sans tests de sécurité adéquats. Nous repoussons sans cesse les limites de l'IA, plus vite que nous ne parvenons à la sécuriser. Les modèles visuels susceptibles de sexualiser des mineurs sont précisément le type de déploiement qui ne devrait jamais être mis en service sans tests rigoureux de détection des abus.
Ainsi, alors que d'un côté on observe le géoblocage dû aux restrictions de contenu nationales et étatiques , l'IA liée à l'une des plateformes de médias sociaux les plus populaires n'a pas réussi à bloquer des contenus que beaucoup considèrent comme bien plus graves que ceux que les législateurs tentent actuellement de réglementer. De fait, les bases de données centralisées de vérification de l'âge deviennent des cibles privilégiées pour les piratages, sans pour autant empêcher les outils d'IA de générer des contenus abusifs.
Des femmes ont également signalé avoir été ciblées par les fonctionnalités de génération d'images de Grok . Un utilisateur X a tweeté :
« Je me suis réveillée avec une avalanche de commentaires demandant à Grok de me mettre en string/bikini, et les photos étaient enregistrées un nombre incroyable de fois. Pire encore, en allant sur la page Grok, j'ai vu des individus répugnants faire ça à des photos d'ENFANTS. C'est vraiment dégoûtant. »
On imagine aisément les conséquences désastreuses que pourraient avoir des cybercriminels exploitant cette faille pour escroquer ou extorquer des parents en diffusant de faux contenus explicites mettant en scène leurs enfants. Les outils permettant d'intégrer de vrais visages dans des contenus générés par IA sont déjà largement disponibles, et les mesures de protection actuelles semblent incapables d'empêcher efficacement ces abus.
Conseils
Cet incident est une raison supplémentaire et convaincante de réduire votre empreinte numérique . Réfléchissez bien avant de publier des photos de vous, de vos enfants ou d'autres informations sensibles sur vos comptes de réseaux sociaux publics.
Considérez tout ce que vous voyez en ligne (images, voix, textes) comme potentiellement généré par l'IA, sauf si cela peut être vérifié indépendamment. Ces contenus ne servent pas seulement à influencer l'opinion, mais aussi à soutirer de l'argent, à obtenir des informations personnelles ou à créer des contenus abusifs.
Les escrocs n'ont pas besoin de vous pirater. Il leur suffit que vous cliquiez une seule fois.
Malwarebytes Identity Theft Protection détecte les activités suspectes avant qu'elles ne deviennent un problème.
