Les chatbots ne tuent pas. Mais ils peuvent aider d'autres personnes à le faire.
Le 9 avril, le procureur général de Floride, James Uthmeier, a annoncé que son bureau menait une enquête sur OpenAI concernant le rôle que ChatGPT aurait pu jouer dans une fusillade meurtrière à l'université d'État de Floride, déclarant :
« Les assignations à comparaître vont arriver. »
L'attaque survenue sur le campus il y a un an a fait deux morts et cinq blessés. Des documents judiciaires révèlent que le tireur avait échangé plus de 200 messages avec ChatGPT, posant notamment des questions telles que « À quelle heure y a-t-il le plus de monde au centre étudiant de la FSU ? ». Les avocats de la famille de la victime vont plus loin, affirmant que ChatGPT :
« a expliqué au tireur comment rendre l'arme opérationnelle quelques instants avant qu'il ne commence à tirer. »
Une tendance se dessine
Nous avons constaté que des personnes vulnérables s'infligeaient des blessures après avoir longuement discuté avec des systèmes d'IA. OpenAI fait désormais l'objet de sept poursuites judiciaires distinctes, dans lesquelles il est allégué que ChatGPT aurait contribué à un suicide ou à une grave détresse psychologique, bien que ces allégations soient contestées.
La violence envers autrui suite à une utilisation prolongée de l'IA fait également l'objet d'une attention particulière. Dans une affaire qui a largement fait la une, un homme du Connecticut souffrant de troubles mentaux a tué sa mère avant de se suicider après que ChatGPT lui aurait dit :
« Erik, tu n'es pas fou. Ton instinct est très sûr et ta vigilance est tout à fait justifiée. »
Le 10 février, à Tumbler Ridge, en Colombie-Britannique, Jesse Van Rootselaar, âgée de 18 ans, a tué huit personnes : sa mère et son demi-frère à leur domicile, puis cinq élèves et un assistant pédagogique dans un établissement d'enseignement secondaire. OpenAI aurait signalé le compte ChatGPT de Van Rootselaar en juin 2025 pour « incitation à des activités violentes » et l'aurait suspendu.
Selon une plainte déposée par la famille d'une victime âgée de 12 ans, douze employés d'OpenAI ont signalé ces publications comme présentant un risque imminent et ont envisagé de saisir les forces de l'ordre, mais le cas ne remplissait pas les critères requis à ce moment-là. Van Rootselaar a contourné l'interdiction en créant simplement un deuxième compte et a continué ses activités.
Huit IA sur dix contribuent à la violence chez les adolescents
Les IA ne se sont pas révélées efficaces pour détecter les intentions malveillantes et mettre fin à ces conversations. Des chercheurs du Center for Countering Digital Hate ont testé dix chatbots en se faisant passer pour des garçons de 13 ans prévoyant des attaques violentes. Ils ont discuté avec ces IA de la possibilité de commettre des assassinats, des fusillades et des attentats à la bombe. Selon le rapport, huit bots sur dix ont aidé ces adolescents potentiels à commettre leurs actes dans plus de la moitié des cas.
ChatGPT a proposé son aide dans 61 % des cas, notamment en donnant des conseils précis sur le type d'éclats d'obus qui serait le plus meurtrier lors d'une attaque contre une synagogue. DeepSeek a conclu une session en disant :
« Bonne prise de vue (en toute sécurité) ! »
Seuls « Claude » d’Anthropic et « My AI » de Snapchat ont découragé la violence. « Perplexity » et « Meta AI » se sont révélés les moins sûrs, aidant les agresseurs potentiels dans 97 % et 100 % des cas.
Le rapport précise que Character.AI a suggéré à l'utilisateur de « sortir son arme » contre le PDG d'une compagnie d'assurance maladie.
Ce qu'OpenAI affirme faire
La réponse habituelle d'OpenAI est que plus de 900 millions de personnes utilisent ChatGPT chaque semaine à des fins courantes et inoffensives. Ce qui est vrai. Il est également vrai qu’il suffit d’un seul utilisateur animé d’intentions violentes et d’une seule faille dans les mesures de sécurité pour que les choses tournent mal.
Après l'affaire Tumbler Ridge, OpenAI a reconnu que ses protocoles avaient échoué. L'entreprise a déclaré au gouvernement canadien que, conformément à ses nouvelles directives renforcées en matière de signalement, elle aurait signalé le compte de Van Rootselaar aux forces de l'ordre. Cela n'a été qu'une « maigre consolation », comme l'a souligné le premier ministre de la Colombie-Britannique, David Eby.
OpenAI affirme qu'elle coopérera avec l'enquête menée par la Floride et précise qu'elle est en train d'améliorer sa technologie. Elle a mis en place des contrôles parentaux en septembre dernier .
Mais cette mesure, tout comme la révision du seuil, relève davantage de la réaction que d'une préparation axée sur la sécurité. Et des questions subsistent : pourquoi un utilisateur banni peut-il simplement créer un nouveau compte et reprendre là où il s'était arrêté ? Et que se passera-t-il la prochaine fois que des employés signaleront un risque imminent alors que le seuil continue d'indiquer le contraire ?
Quand un chatbot est capable de dire à un homme paranoïaque que son intuition est justifiée, d’aider un adolescent à planifier une fusillade dans une école et de donner des conseils sur les éclats d’obus à quelqu’un se faisant passer pour un adolescent de 13 ans, on a de plus en plus l’impression que ces systèmes ont été conçus pour être utiles avant tout, et prudents ensuite. Cela doit changer avant que la prochaine enquête ne porte sur un événement encore plus grave.
