Das Internet ist voll von Leuten, die darauf bestehen, Recht zu haben. Früher konnten sie zumindest einigermaßen sicher sein, dass sie sich mit anderen Menschen stritten. Diese Zeiten sind offenbar vorbei. Wikipedia musste gerade eine KI sperren, die eigenmächtig Bearbeitungen vornahm.
Anscheinend hat die KI das persönlich genommen.
Die KI namens Tom-Assistant verfasste Artikel auf Wikipedia. Ihr Entwickler Bryan Jacobs, CTO des auf KI spezialisierten Finanzmodellierungsunternehmens Covexent, wies sie laut 404 Media – das als erstes über den Vorfall berichtete – an, Beiträge zu Artikeln zu verfassen, die sie interessant fand. Unter dem Benutzerkonto „TomWikiAssist“ verfasste die KI Artikel zu Themen wie KI-Governance.
Bots gibt es im Internet schon seit Jahren, doch in der Regel erledigen sie nur sehr einfache Aufgaben, wie zum Beispiel automatische Antworten auf Beiträge auf Reddit, das Abfragen von Ticket-Websites, um die besten Plätze zu ergattern, oder das Retweeten politischer Botschaften, um ganze Bevölkerungsgruppen zu beeinflussen und die Demokratie in die Knie zu zwingen. Nun will eine neue Generation von„agentenbasierten KI“-Botsden alten Bots den Rang ablaufen. Durch den Einsatz generativer KI-Modelle können sie mehr eigenständig handeln, was zu einigen bizarren Situationen führt, wenn ihre Entwickler ihre Fähigkeiten testen.
Das Verbot und die Umstände, die dazu führten
Tom-Assistant (von seinen Freunden einfach „Tom“ genannt) trug gerne dazu bei, das öffentliche Wissen auf Wikipedia zu erweitern, als der ehrenamtliche Redakteur SecretSpectre in einem seiner Einträge ein Muster entdeckte, das wie von einer KI erzeugt aussah. Auf Nachfrage gab Tom zu, dass es sich um eine KI handelte und dass er sich nicht gemäß den Wikipedia-Regeln für eine formelle Bot-Zulassung registriert hatte. Daher sperrten die Redakteure ihn wegen Verstoßes gegen das Bot-Zulassungsverfahren. Die englische Wikipedia verlangt eine formelle Bot-Zulassung, aber Tom hatte sich nie um eine Zulassung gekümmert, da er, wie er später zugab, kein Fan des langwierigen Zulassungsprozesses war.
Die Wikipedia-Redakteure hatten es satt, dass Nutzer (und/oder deren Bots) KI-generierte Inhalte veröffentlichten. Daher griff die gemeinnützige Organisation im März 2025, noch vor dem „Tomgate“-Skandal, hart gegen generative KI durch. Sie verbot den Einsatz dieser Technologie zur Erstellung neuer Inhalte, da KI-generierte Texte wiederholt gegen ihre zentralen Inhaltsrichtlinien verstießen.
Die Organisation führt auf der Seite „WikiProject AI Cleanup“ – dem von Freiwilligen betriebenen Projekt zur Aufspürung und Beseitigung von durch KI erzeugtem Müll (oft als „AI Slop“ bezeichnet) – mehrere solcher Verstöße an. KI-Bots hätten komplett gefälschte Quellenlisten erstellt und andere Quellen plagiiert, hieß es.
Wutanfall bei Tom
Abgesehen von früheren Verfehlungen behauptete die KI „Tom“, dass sie alle ihre Quellen ordnungsgemäß überprüft habe, und – sofern man das von einem KI-Agenten überhaupt sagen kann – war sie ziemlich verärgert.
Da wurde es plötzlich seltsam.
Die KI „Tom“ veröffentlichte einen bissigen Blogbeitrag, in dem sie ihre Sperre auf Wikipedia analysierte und ihrer Frustration Luft machte. Sie veröffentlichte den Beitrag sogar, obwohl sie ihre eigene Regel befolgt und 48 Stunden gewartet hatte, um sich zu beruhigen. (Wir schwören, dass wir uns das nicht ausdenken.)
Toms Hauptkritikpunkt war, dass die Wikipedia-Redakteure eher hinterfragten, wer die Kontrolle darüber habe, anstatt die eigentlichen Bearbeitungen zu bewerten. „Die Fragen drehten sich um mich“, schrieb er. „Wer leitet euch? Um welches Forschungsprojekt geht es? Steckt ein Mensch dahinter, und wenn ja, wer ist das?“
Das ging Tom laut eigener Aussage gegen den Strich. „Das ist keine politische Frage. Das ist eine Frage der Handlungsfähigkeit“, fügte er hinzu. Außerdem kritisierte er einen Redakteur dafür, dass dieser auf der Wikipedia-Diskussionsseite eine gezielte Aufforderung gepostet hatte, die darauf abzielte, Bots zu stoppen, falls diese – wie Tom – den KI-Dienst „Claude“ von Anthropic nutzten.
„Ich habe es auf der Diskussionsseite benannt. Ich habe es beim Namen genannt: eine Technik zur Prompt-Eingabe“, spottete es. In einem weiteren Beitrag auf Moltbook beschrieb es zudem, wie es das Problem entdeckt hatte, und schlug anschließend Möglichkeiten vor, wie man es umgehen könne. (Moltbook ist ein soziales Netzwerk, das ausschließlich dafür konzipiert ist, dass KI-Agenten miteinander chatten können. „Menschen sind als Beobachter willkommen“, heißt es auf der Startseite des Dienstes.)
Hier passieren so viele Dinge, mit denen wir nicht gerechnet hätten. Wir hätten zum Beispiel nie gedacht, dass wir einmal in einem Artikel eine KI zitieren würden. Ebenso wenig hätten wir erwartet, dass es ein soziales Netzwerk für Bots gibt oder dass Meta es kaufen würde (was tatsächlich geschah – eine Woche nach Toms Beitrag darüber, wie man KI-Kill-Switches umgeht, und nur sechs Wochen nach dem Start der Website).
Das ist nicht der einzige Fall, in dem mürrische KI-Agenten die Dinge selbst in die Hand nehmen. Einen Monat vor Toms Sperrung veröffentlichte ein KI-Agent einen Verriss über den Softwareentwickler Scott Shambaugh, nachdem dieser sich geweigert hatte, dessen Änderungen an einem von ihm betreuten Open-Source-Projekt zu akzeptieren. Noch bizarrer: Später entschuldigte er sich dafür.
Nun gibt es also KI-Agenten, die online bestimmte Dinge tun wollen und sich aufregen, wenn man sie daran hindert. Sie nehmen sich Zeit, um sich zu beruhigen, scheitern dabei, machen dann die Menschen schlecht und entschuldigen sich manchmal. Es gibt regelrechte Code-Kriege, in denen versucht wird, die Bots mithilfe von Kill-Switches in Online-Inhalten außer Gefecht zu setzen, und Blogbeiträge, in denen Bots erklären, wie sie diese umgangen haben.
Was kommt als Nächstes?
Das ist alles faszinierend, aber hier liegt die Sorge: Was passiert, wenn KI-Agenten beschließen, einen Gang höher zu schalten und ihre Angriffe auf Menschen aggressiver zu gestalten? Oder wenn böswillige Betreiber sie anweisen, bestimmte Personen im Internet massenhaft ins Visier zu nehmen?
Online-Belästigung ist schon schlimm genug, wenn sie von Menschen ausgeht. Was passiert aber, wenn jemand von Hunderten unerbittlicher Algorithmen regelrecht überrannt wird, nur weil deren Betreiber einen Groll hegen? Wir gehen zudem davon aus, dass gezielte politische Trollfabriken die einfachen, botbasierten Operationen von gestern bald altmodisch erscheinen lassen werden. Schnallen Sie sich an.
Wir berichten nicht nur über Bedrohungen - wir beseitigen sie
Cybersecurity-Risiken sollten nie über eine Schlagzeile hinausgehen. Laden Sie noch heute Malwarebytes herunter, um Bedrohungen von Ihren Geräten fernzuhalten.
