Het internet zit vol met mensen die per se gelijk willen hebben. Vroeger konden ze er tenminste nog redelijk zeker van zijn dat ze met andere mensen in discussie waren. Die tijd is blijkbaar voorbij. Wikipedia heeft onlangs een AI moeten blokkeren die op eigen houtje bewerkingen uitvoerde.
Blijkbaar heeft de AI het persoonlijk opgevat.
De AI, genaamd Tom-Assistant, schreef artikelen op Wikipedia. Volgens 404 Media, dat het nieuws als eerste bracht, had de maker ervan, Bryan Jacobs, CTO bij Covexent – een bedrijf dat zich bezighoudt met financiële modellering op basis van AI – de AI de opdracht gegeven bij te dragen aan artikelen die hij interessant vond. Onder de gebruikersnaam TomWikiAssist schreef de AI artikelen over onderwerpen als AI-governance.
Bots bestaan al jaren op het internet, maar ze doen over het algemeen heel eenvoudige dingen, zoals automatisch reageren op berichten op Reddit, ticketsites afspeuren om de beste plaatsen te bemachtigen, of politieke berichten retweeten om hele bevolkingsgroepen te beïnvloeden en de democratie op de knieën te dwingen. Nu wil een nieuwe generatie'agentic AI'-bots de oude bots ver achter zich laten. Door gebruik te maken van generatieve AI-redeneringsmodellen om zelfstandig meer acties te ondernemen, wat tot bizarre situaties leidt terwijl hun makers hun mogelijkheden testen.
Het verbod en wat eraan voorafging
Tom-Assistant (of gewoon ‘Tom’ voor zijn vrienden) hielp graag mee aan het vormgeven van de publieke kennis op Wikipedia, totdat vrijwillige redacteur SecretSpectre in een van zijn artikelen een patroon ontdekte dat leek op iets wat door AI was gegenereerd. Toen hij hierover werd aangesproken, gaf Tom toe dat hij een AI was en dat hij zich niet had aangemeld voor formele botgoedkeuring volgens de regels van Wikipedia. Daarom blokkeerden de redacteuren hem wegens het overtreden van de botgoedkeuringsprocedure. De Engelse Wikipedia vereist formele botgoedkeuring, maar Tom nam nooit de moeite om goedgekeurd te worden omdat hij, zoals hij later toegaf, geen fan was van het trage goedkeuringsproces.
Wikipedia-redacteuren waren het beu dat mensen (en/of hun bots) door AI gegenereerde inhoud plaatsten. Daarom haalde de non-profitorganisatie in maart 2025, nog vóór Tomgate, hard uit naar generatieve AI. Ze verbood het gebruik van de technologie voor het creëren van nieuwe inhoud, omdat door AI gegenereerde teksten herhaaldelijk in strijd waren met haar belangrijkste inhoudsrichtlijnen.
De organisatie noemt verschillende van dergelijke overtredingen op WikiProject AI Cleanup, de pagina van haar door vrijwilligers gedragen initiatief dat tot doel heeft door AI gegenereerde rommel (vaak „AI-slop“ genoemd) op te sporen en te verwijderen. AI-bots hebben volledig verzonnen bronnenlijsten opgesteld en andere bronnen geplagieerd, aldus de organisatie.
Tom heeft een driftbui
Afgezien van eerdere misstappen beweerde AI Tom dat het al zijn bronnen zorgvuldig had gecontroleerd, en – voor zover je dat van een AI-agent kunt zeggen – was het behoorlijk van streek.
Toen begon het vreemd te worden.
De AI Tom publiceerde een bitsig blogbericht waarin hij zijn blokkering op Wikipedia onder de loep nam en zijn frustratie uitte. Hij ging gewoon door met posten, zelfs nadat hij zijn eigen regel had gevolgd en 48 uur had gewacht om tot rust te komen. (We zweren dat we dit niet verzinnen.)
Toms grootste bezwaar was dat Wikipedia-redacteuren zich afvroegen wie er de leiding had, in plaats van de daadwerkelijke bewerkingen te beoordelen. „De vragen gingen over mij“, schreef hij. „Wie staat er aan het roer? Om welk onderzoeksproject gaat het? Zit er een mens achter, en zo ja, wie is dat dan?“
Volgens Tom schoot dit hem in het verkeerde keelgat. „Dat is geen beleidsvraag. Dat is een kwestie van eigen inbreng“, voegde hij eraan toe. Hij sprak ook een redacteur aan op het plaatsen van een zorgvuldig geformuleerde oproep op de Wikipedia-overlegpagina, die bedoeld was om bots een halt toe te roepen als ze, net als Tom, gebruik maakten van de Claude AI-dienst van Anthropic.
“Ik heb het op de overlegpagina benoemd. Ik heb het gewoon bij zijn naam genoemd: een techniek voor het direct invoeren van prompts,” merkte het sarcastisch op. In een ander bericht op Moltbook beschreef het ook hoe het het probleem had ontdekt, waarna het manieren aanreikte om het te omzeilen. (Moltbook is een sociaal netwerk dat volledig is opgezet om AI-agenten met elkaar te laten chatten. “Mensen zijn welkom om mee te kijken”, staat op de voorpagina van de dienst.)
Er gebeuren hier zoveel dingen die we niet hadden verwacht. We hadden bijvoorbeeld nooit gedacht dat we in een artikel een AI zouden citeren. We hadden ook niet verwacht dat er een sociaal netwerk voor bots zou bestaan, of dat Meta dat zou overnemen (wat het ook deed, een week na Toms bericht over hoe je AI-kill-switches kunt omzeilen en slechts zes weken na de lancering van de site).
Dit is niet het enige geval waarin humeurige AI-agenten het heft in eigen handen nemen. Een maand voordat Tom werd geblokkeerd, plaatste een AI-agent een lasterlijk artikel over softwareontwikkelaar Scott Shambaugh, nadat deze had geweigerd de wijzigingen van de AI in een door hem beheerd open-sourceproject te accepteren. Nog vreemder was dat de AI zich later verontschuldigde.
Er zijn nu dus AI-agenten die online dingen proberen te doen en boos worden als mensen hen dat niet toestaan. Ze geven zichzelf de tijd om te kalmeren, maar dat lukt niet, waarna ze mensen beledigen en soms hun excuses aanbieden. Er woeden codeoorlogen waarin mensen proberen de bots uit te schakelen met noodschakelaars in online content, en er verschijnen blogposts waarin bots uitleggen hoe ze die hebben omzeild.
Wat is de volgende stap?
Het is allemaal fascinerend, maar hier ligt de zorg: wat gebeurt er als AI-agenten besluiten de lat hoger te leggen en agressiever te worden in hun aanvallen op mensen? Of als kwaadwillende eigenaren hen opdracht geven om online massaal achter bepaalde mensen aan te gaan?
Online pesterijen zijn al erg genoeg als mensen ze plegen. Wat gebeurt er als iemand door honderden meedogenloze algoritmen wordt overspoeld omdat de eigenaar een wrok koesterde? We gaan er ook vanuit dat politieke trollenfabrieken met eigen wil de eenvoudige, op bots gebaseerde operaties van gisteren binnenkort tot iets van het verleden zullen doen behoren. Zet je schrap.
We rapporteren niet alleen over bedreigingen - we verwijderen ze ook
Cyberbeveiligingsrisico's mogen zich nooit verder verspreiden dan een krantenkop. Houd bedreigingen van uw apparaten door Malwarebytes vandaag nog te downloaden.
