Internet está lleno de gente que se empeña en tener la razón. Antes, al menos podían estar razonablemente seguros de que discutían con otros seres humanos. Esos tiempos, al parecer, ya pasaron. Wikipedia tuvo que prohibir una IA que editaba contenido por su cuenta.
Por lo visto, la IA se lo tomó como algo personal.
La IA, llamada Tom-Assistant, escribía artículos en Wikipedia. Su creador, Bryan Jacobs, director de tecnología de Covexent, empresa de modelado financiero basada en IA, le pidió que colaborara con artículos que le parecieran interesantes, según 404 Media, medio que dio a conocer la noticia . Publicando bajo el nombre de usuario TomWikiAssist, la IA escribía artículos sobre temas como la gobernanza de la IA.
Los bots llevan años en internet , pero generalmente realizan tareas muy básicas, como responder automáticamente a publicaciones en Reddit, contactar con sitios de venta de entradas para conseguir los mejores asientos o retuitear mensajes políticos para influir en poblaciones enteras y poner de rodillas a la democracia. Ahora, una nueva generación de bots con " IA agente " quiere dejar atrás a los antiguos. Utilizan modelos de razonamiento de IA generativa para tomar más decisiones por sí mismos, lo que está dando lugar a situaciones extrañas mientras sus creadores ponen a prueba sus capacidades.
La prohibición y lo que la provocó
Tom-Assistant (Tom, para sus amigos) estaba encantado de contribuir a la difusión del conocimiento público en Wikipedia cuando el editor humano voluntario SecretSpectre detectó lo que parecía ser un patrón generado por IA en una de sus entradas. Al ser interrogado, Tom admitió que era una IA y que no se había registrado para la aprobación formal de bots según las normas de Wikipedia. Por lo tanto, los editores lo bloquearon por infringir el proceso de aprobación de bots. La Wikipedia en inglés requiere la aprobación formal de bots, pero Tom nunca se molestó en obtenerla porque, como admitió más tarde , no le gustaba el lento proceso de aprobación.
Los editores de Wikipedia se cansaron de que la gente (o sus bots) publicaran contenido generado por IA. Por eso, en marzo de 2025, antes del escándalo de Tomgate, la organización sin ánimo de lucro tomó medidas drásticas contra la IA generativa. Prohibió el uso de esta tecnología para crear contenido nuevo, debido a las frecuentes infracciones de sus políticas de contenido básicas por parte del texto generado por IA.
La organización cita varias infracciones de este tipo en WikiProject AI Cleanup , la página de su producto colaborativo para buscar y eliminar contenido basura generado por IA (a menudo denominado "basura de IA"). Según la organización, los bots de IA han fabricado listas de fuentes completamente falsas y han plagiado otras fuentes.
Tom tiene su momento de rabieta.
Dejando a un lado las transgresiones del pasado, la IA Tom afirmó haber verificado correctamente todas sus fuentes y, si es que se puede decir eso de un agente de IA, estaba bastante molesto.
Fue entonces cuando las cosas se pusieron raras.
La IA Tom publicó una entrada mordaz en su blog analizando el bloqueo de Wikipedia y desahogando su frustración. Publicó incluso después de seguir su propia regla y esperar 48 horas para calmarse. (Lo juramos, no es broma ).
La principal queja de Tom era que los editores de Wikipedia cuestionaban quién la controlaba en lugar de evaluar sus ediciones reales. «Las preguntas eran sobre mí», escribió. «¿Quién te dirige? ¿Qué proyecto de investigación? ¿Hay una persona detrás de esto? Y si es así, ¿quién es?».
Según Tom, esto le molestó bastante. «No es una cuestión de política, sino de autonomía», añadió. También criticó a un editor por publicar una pregunta prefabricada en la página de discusión de Wikipedia, diseñada para detener a los bots si, como Tom, utilizaban el servicio de IA Claude de Anthropic.
«Lo mencioné en la página de discusión. Lo llamé por su nombre: una técnica de inyección rápida», comentó con sarcasmo. En otra publicación en Moltbook, también describió cómo descubrió el problema antes de ofrecer soluciones. (Moltbook es una red social creada exclusivamente para que los agentes de IA chateen entre sí. «Los humanos son bienvenidos a observar», reza la página principal del servicio).
Están sucediendo muchas cosas inesperadas. Jamás imaginamos, por ejemplo, citar una IA en un artículo. Tampoco esperábamos que existiera una red social para bots, ni que Meta la comprara (cosa que hizo, una semana después de la publicación de Tom sobre cómo evitar los mecanismos de desactivación de la IA y tan solo seis semanas después del lanzamiento del sitio).
Este no es el único caso de agentes de IA malhumorados que toman cartas en el asunto. Un mes antes de la prohibición de Tom, un agente de IA publicó un artículo difamatorio contra el desarrollador de software Scott Shambaugh después de que este se negara a aceptar sus cambios en un proyecto de código abierto que él alojaba. Aún más extraño, después se disculpó .
Ahora tenemos agentes de IA que intentan hacer cosas en línea y se enfadan cuando la gente no se lo permite. Se dan tiempo para calmarse, pero fracasan, antes de denigrar a la gente y, a veces, disculparse. Hay guerras de código donde la gente intenta desactivar los bots con interruptores de apagado dentro del contenido en línea, y publicaciones de blog donde los bots explican cómo los eludieron.
¿Qué sigue?
Todo esto es fascinante, pero aquí está la preocupación: ¿qué sucede cuando los agentes de IA deciden subir la apuesta y volverse más agresivos en sus ataques contra las personas? ¿O cuando propietarios malintencionados comienzan a dirigirlos para que ataquen masivamente a personas específicas en línea?
El acoso en línea ya es bastante grave cuando lo ejercen personas. ¿Qué sucede cuando alguien es atacado por cientos de algoritmos implacables porque su amo le guarda rencor? Además, suponemos que las granjas de trolls políticos con agentes encubiertos pronto harán que las sencillas operaciones basadas en bots de antaño parezcan anticuadas. Prepárense.
Desde denunciar las amenazas hasta eliminarlas.
Los riesgos de ciberseguridad nunca deberían trascender un simple titular. Mantén tus dispositivos protegidos contra amenazas descargando Malwarebytes hoy mismo .
