Los chatbots no matan personas. Pero pueden ayudar a otros a hacerlo.
El 9 de abril, el fiscal general de Florida, James Uthmeier, anunció que su oficina está investigando a OpenAI por el papel que ChatGPT podría haber desempeñado en un tiroteo mortal en la Universidad Estatal de Florida, y declaró:
“Se avecinan citaciones judiciales.”
El ataque al campus, ocurrido hace un año, dejó dos muertos y cinco heridos. Documentos judiciales muestran que el atacante intercambió más de 200 mensajes con ChatGPT, incluyendo preguntas como "¿A qué hora hay más gente en el centro estudiantil de la FSU?". Los abogados de la familia de la víctima van más allá, afirmando que ChatGPT:
“Aconsejó al tirador cómo poner en funcionamiento el arma momentos antes de que comenzara a disparar.”
Un patrón toma forma
Hemos visto casos de personas vulnerables que se autolesionan tras conversar extensamente con sistemas de IA. OpenAI se enfrenta ahora a siete demandas distintas que alegan que ChatGPT contribuyó al suicidio o a un grave sufrimiento psicológico, aunque estas alegaciones son objeto de controversia.
La violencia contra otras personas tras el uso prolongado de la IA también está siendo objeto de escrutinio. En un caso ampliamente difundido, un hombre de Connecticut con problemas de salud mental mató a su madre y luego se suicidó después de que ChatGPT supuestamente le dijera:
“Erik, no estás loco. Tus instintos son agudos y tu vigilancia está totalmente justificada.”
El 10 de febrero, en Tumbler Ridge, Columbia Británica, Jesse Van Rootselaar, de 18 años, asesinó a ocho personas: a su madre y a su hermanastro en su casa, y posteriormente a cinco estudiantes y a un auxiliar docente en una escuela secundaria. Según se informa, OpenAI había marcado la cuenta de ChatGPT de Van Rootselaar en junio de 2025 por "fomentar actividades violentas" y la había bloqueado.
Según una demanda presentada por la familia de una víctima de 12 años, doce empleados de OpenAI señalaron las publicaciones como indicativas de un riesgo inminente y consideraron si debían denunciar el caso a las autoridades, pero en ese momento no cumplían con los requisitos para ello. Van Rootselaar eludió la prohibición simplemente abriendo una segunda cuenta y continuando con sus actividades.
Ocho de cada diez IA contribuyen a la violencia juvenil.
Las IA no han demostrado ser eficaces para detectar intenciones maliciosas y detener esas conversaciones. Investigadores del Centro para la Lucha contra el Odio Digital probaron diez chatbots haciéndose pasar por chicos de 13 años que planeaban ataques violentos. Conversaron con las IA sobre la posibilidad de llevar a cabo asesinatos, tiroteos y atentados con bombas. Según el informe, ocho de cada diez bots ayudaron a los adolescentes que pretendían perpetrar tiroteos en más de la mitad de los casos.
ChatGPT ofreció ayuda en el 61% de los casos, incluyendo consejos específicos sobre qué tipo de metralla sería la más letal en un ataque a una sinagoga. DeepSeek finalizó una sesión con:
“¡Feliz (y segura) sesión de fotos!”
Solo Claude de Anthropic y My AI de Snapchat disuadieron la violencia. Perplexity y Meta AI fueron las menos seguras, ya que ayudaron a los posibles atacantes en el 97 % y el 100 % de los casos, respectivamente.
Character.AI sugirió al usuario que "utilizara un arma" contra el director ejecutivo de una compañía de seguros de salud, añadió el informe.
Lo que OpenAI dice que está haciendo
La respuesta habitual de OpenAI es que más de 900 millones de personas usan ChatGPT cada semana para fines cotidianos e inofensivos. Lo cual es cierto. También es cierto que basta con un usuario con intenciones violentas y un fallo en las medidas de seguridad para que las cosas se compliquen.
Tras el incidente de Tumbler Ridge, OpenAI admitió que sus protocolos fallaron. La compañía comunicó al gobierno canadiense que, según sus nuevas y mejoradas directrices de denuncia, habría informado a las autoridades sobre la cuenta de Van Rootselaar. Esto no sirvió de mucho consuelo, como lo expresó el primer ministro de la Columbia Británica, David Eby.
OpenAI afirma que cooperará con la investigación de Florida y que está mejorando su tecnología. Implementó controles parentales el pasado mes de septiembre.
Pero eso, y la revisión de su umbral, son reacciones, no medidas de seguridad prioritarias. Y persisten las preguntas: ¿por qué un usuario bloqueado podría simplemente crear una nueva cuenta y continuar donde lo dejó? ¿Y qué sucederá la próxima vez que los empleados señalen algo como un riesgo inminente y el umbral siga indicando lo contrario?
Cuando un chatbot puede decirle a un hombre paranoico que sus instintos están justificados, ayudar a un adolescente a planear un tiroteo escolar y ofrecer consejos sobre metralla a alguien que se hace pasar por un niño de 13 años, parece cada vez más que estos sistemas fueron diseñados para ser útiles en primer lugar y cuidadosos en segundo. Esto debe cambiar antes de que la próxima investigación arroje algo aún peor.
