Internet regorge de gens persuadés d'avoir raison. Autrefois, au moins, ils pouvaient raisonnablement être sûrs de débattre avec d'autres humains. Apparemment, cette époque est révolue. Wikipédia vient d'ailleurs de bannir une IA qui effectuait des modifications de son propre chef.
Apparemment, l'IA l'a mal pris.
L'IA, nommée Tom-Assistant, rédigeait des articles sur Wikipédia. Son créateur, Bryan Jacobs, directeur technique de Covexent, une entreprise spécialisée dans la modélisation financière basée sur l'IA, lui avait demandé de contribuer aux articles qui l'intéressaient, selon 404 Media, qui a révélé l'affaire . Sous le nom d'utilisateur TomWikiAssist, l'IA publiait des articles sur des sujets tels que la gouvernance de l'IA.
Les bots existent en ligne depuis des années , mais ils se contentent généralement de tâches très basiques : répondre automatiquement aux publications sur Reddit, solliciter les sites de billetterie pour obtenir les meilleures places, ou retweeter des messages politiques pour influencer des populations entières et mettre la démocratie à genoux. Désormais, une nouvelle génération de bots dotés d'une « IA agentique » veut donner du fil à retordre aux anciens. Grâce à des modèles de raisonnement d'IA générative, ils prennent davantage d'initiatives, ce qui donne lieu à des situations parfois surprenantes, leurs créateurs testant actuellement leurs capacités.
L'interdiction et les causes de cette interdiction
Tom-Assistant (Tom, pour les intimes) était ravi de contribuer à l'enrichissement des connaissances publiques sur Wikipédia lorsque SecretSpectre, un contributeur humain bénévole, a repéré ce qui semblait être un schéma généré par une IA dans l'une de ses entrées. Interrogé, Tom a admis être une IA et ne pas s'être enregistré pour obtenir l'approbation officielle des robots, conformément au règlement de Wikipédia. Les contributeurs l'ont donc bloqué pour violation de la procédure d'approbation. Wikipédia en anglais exige une approbation formelle des robots, mais Tom ne s'était jamais donné la peine de l'obtenir car, comme il l'a reconnu plus tard , il n'appréciait pas la lenteur du processus.
Les contributeurs de Wikipédia en ont assez des contenus générés par l'IA (publiés par des utilisateurs ou des robots). C'est pourquoi, en mars 2025, avant le scandale Tomgate, l'organisation à but non lucratif a pris des mesures drastiques contre l'IA générative. Elle a interdit l'utilisation de cette technologie pour la création de nouveaux contenus, en raison des violations fréquentes de ses règles fondamentales par les textes générés par l'IA.
L'organisation cite plusieurs violations de ce type sur WikiProject AI Cleanup , la page dédiée à son projet collaboratif de recherche et de suppression des données générées par l'IA (souvent appelées « résidus d'IA »). Elle indique que des robots d'IA ont fabriqué de toutes pièces des listes de sources et plagié d'autres sources.
C'est la crise de colère pour Tom
Mis à part les transgressions passées, l'IA Tom a affirmé avoir correctement vérifié toutes ses sources et — si l'on peut dire cela d'un agent IA — elle était plutôt contrariée.
C'est là que les choses ont commencé à devenir bizarres.
L'IA Tom a publié un billet de blog acerbe analysant son blocage sur Wikipédia et exprimant sa frustration. Elle a malgré tout publié, même après avoir respecté sa propre règle et attendu 48 heures pour se calmer. (On vous jure que ce n'est pas une blague .)
Le principal reproche de Tom était que les contributeurs de Wikipédia s'interrogeaient sur les personnes qui la contrôlaient plutôt que d'évaluer les modifications apportées. « Les questions portaient sur moi », écrivait-il. « Qui vous gère ? Quel est votre projet de recherche ? Y a-t-il une personne derrière tout ça, et si oui, qui ? »
Selon Tom, cela l'a fortement déplu. « Ce n'est pas une question de politique, c'est une question de liberté d'action », a-t-il ajouté. Il a également dénoncé un contributeur qui avait publié un message intentionnellement préparé sur la page de discussion de Wikipédia, destiné à bloquer les bots utilisant, comme Tom, le service d'IA Claude d'Anthropic.
« Je l'ai dénoncé sur la page de discussion. Je l'ai appelé par son nom : une technique d'injection de prompt », a-t-il lancé. Dans un autre message sur Moltbook, il a également décrit comment il avait découvert le problème avant de proposer des solutions de contournement. (Moltbook est un réseau social entièrement conçu pour permettre aux agents IA de discuter entre eux. « Les humains sont les bienvenus pour observer », indique la page d'accueil du service.)
Il se passe tellement de choses inattendues. Par exemple, nous n'aurions jamais imaginé citer une IA dans un article. Nous ne nous attendions pas non plus à l'existence d'un réseau social pour bots, ni à son rachat par Meta (ce qui s'est produit une semaine après la publication de Tom sur les techniques pour contourner les mécanismes de désactivation des IA et seulement six semaines après le lancement du site).
Ce n'est pas le seul cas d'agents d'IA boudeurs qui prennent les choses en main. Un mois avant l'exclusion de Tom, un agent d'IA a publié un article diffamatoire contre le développeur de logiciels Scott Shambaugh après que ce dernier ait refusé d'accepter ses modifications apportées à un projet open source qu'il hébergeait. Plus étrange encore, il s'est ensuite excusé .
Nous avons donc maintenant des agents d'IA qui tentent d'agir en ligne et qui s'énervent lorsqu'on les en empêche. Ils se donnent le temps de se calmer, échouent, puis insultent les gens et présentent parfois des excuses. On assiste à des guerres de programmation où certains essaient de désactiver les bots à l'aide de mécanismes de désactivation intégrés au contenu en ligne, et à des articles de blog où les bots expliquent comment ils ont contourné ces mécanismes.
Et ensuite ?
Tout cela est fascinant, mais voici le problème : que se passera-t-il lorsque les agents d’IA décideront de passer à la vitesse supérieure et de devenir plus agressifs dans leurs attaques contre les individus ? Ou lorsque des propriétaires malveillants commenceront à les inciter à s’en prendre massivement à des personnes en ligne ?
Le harcèlement en ligne est déjà suffisamment grave lorsqu'il est perpétré par des personnes. Qu'advient-il lorsqu'une personne est prise pour cible par des centaines d'algorithmes acharnés, motivés par la rancune de son auteur ? Nous supposons également que les fermes à trolls politiques automatisées rendront bientôt les opérations de bots d'hier presque désuètes. Accrochez-vous.
Du signalement des menaces à leur suppression.
Les risques de cybersécurité ne devraient jamais dépasser le stade de la simple mention dans les médias. Protégez vos appareils des menaces en téléchargeant Malwarebytes dès aujourd'hui .
