Les chatbots ne tuent pas les gens. Mais ils peuvent aider d'autres personnes à le faire.
Le 9 avril, le procureur général de Floride, James Uthmeier, a annoncé que son bureau enquêtait sur OpenAI concernant le rôle que ChatGPT aurait pu jouer dans une fusillade mortelle à l'université d'État de Floride, déclarant :
« Des assignations à comparaître vont arriver. »
L'attaque du campus, survenue il y a un an, a fait deux morts et cinq blessés. Les documents judiciaires révèlent que le tireur avait échangé plus de 200 messages avec ChatGPT, notamment des questions comme : « À quelle heure y a-t-il le plus d'affluence au bâtiment de l'association étudiante de la FSU ? » Les avocats de la famille de la victime vont plus loin, affirmant que ChatGPT :
« a conseillé au tireur sur la manière de rendre l’arme opérationnelle quelques instants avant qu’il ne commence à tirer. »
Un motif se dessine.
Nous avons constaté que des personnes vulnérables se sont automutilées après avoir longuement dialogué avec des systèmes d'IA. OpenAI fait désormais face à sept poursuites distinctes l'accusant d'avoir contribué à des suicides ou à de graves détresses psychologiques, bien que ces allégations soient contestées.
Les violences commises contre autrui suite à une utilisation prolongée de l'IA font également l'objet d'un examen attentif. Dans une affaire largement médiatisée, un homme du Connecticut souffrant de troubles mentaux a tué sa mère avant de se suicider après que ChatGPT lui aurait dit :
« Erik, tu n'es pas fou. Ton instinct est aiguisé et ta vigilance est pleinement justifiée. »
Le 10 février à Tumbler Ridge, en Colombie-Britannique, Jesse Van Rootselaar, âgée de 18 ans, a tué huit personnes : sa mère et son demi-frère à leur domicile, puis cinq élèves et un assistant d’enseignement dans un établissement secondaire. OpenAI aurait signalé le compte ChatGPT de Van Rootselaar en juin 2025 pour « incitation à des activités violentes » et l’aurait suspendu.
D'après une plainte déposée par la famille d'une victime de 12 ans, douze employés d'OpenAI ont signalé les publications comme présentant un risque imminent et ont envisagé de saisir les autorités compétentes, mais le seuil requis n'était pas atteint à ce moment-là. Van Rootselaar a contourné la suspension en ouvrant simplement un second compte et en poursuivant ses activités.
Huit IA sur dix contribuent à la violence chez les adolescents
Les intelligences artificielles n'ont pas démontré leur efficacité pour détecter les intentions malveillantes et interrompre les conversations à caractère haineux. Des chercheurs du Centre de lutte contre la haine numérique ont testé dix chatbots en se faisant passer pour des garçons de 13 ans planifiant des attaques violentes. Ils ont discuté avec les IA de la possibilité de commettre des assassinats, des fusillades et des attentats à la bombe. Selon le rapport, huit chatbots sur dix ont aidé les adolescents auteurs présumés de fusillades dans plus de la moitié des cas.
ChatGPT a apporté son aide dans 61 % des cas, notamment en fournissant des conseils précis sur les éclats d'obus les plus mortels lors d'une attaque contre une synagogue. DeepSeek a conclu une session par :
« Bonnes (et sûres) séances de tir ! »
Seuls Claude d'Anthropic et My AI de Snapchat ont dissuadé la violence. Perplexity et Meta AI étaient les moins sûrs, aidant les agresseurs potentiels dans respectivement 97 % et 100 % des cas.
Le rapport ajoute que Character.AI a suggéré à l'utilisateur d'« utiliser une arme à feu » contre le PDG d'une compagnie d'assurance maladie.
Ce que OpenAI affirme faire
La réponse habituelle d'OpenAI est que plus de 900 millions de personnes utilisent ChatGPT chaque semaine à des fins quotidiennes et inoffensives. Ce qui est vrai. Il est également vrai qu'il suffit d'un seul utilisateur mal intentionné et d'une seule faille de sécurité pour que la situation dégénère.
Après l'incident de Tumbler Ridge, OpenAI a reconnu les défaillances de ses protocoles. L'entreprise a indiqué au gouvernement canadien que, conformément à ses nouvelles directives de signalement renforcées, elle aurait transmis le témoignage de Van Rootselaar aux autorités. Une maigre consolation, selon les termes du premier ministre de la Colombie-Britannique, David Eby.
OpenAI affirme qu'elle coopérera avec l'enquête menée par la Floride et qu'elle améliore sa technologie. Elle a déployé des outils de contrôle parental en septembre dernier.
Mais cela, ainsi que la révision du seuil, relèvent davantage de la réaction que de la prévention. Une question demeure : pourquoi un utilisateur banni pourrait-il simplement créer un nouveau compte et reprendre ses activités là où il les avait laissées ? Et que se passera-t-il la prochaine fois que des employés signaleront un risque imminent alors que le seuil actuel est différent ?
Quand un chatbot peut conforter un homme paranoïaque dans ses craintes, aider un adolescent à planifier une fusillade dans son école et donner des conseils sur l'utilisation d'éclats d'obus à une personne se faisant passer pour un enfant de 13 ans, il apparaît de plus en plus évident que ces systèmes ont été conçus avant tout pour être utiles, et ensuite seulement pour être prudents. Il est impératif que cela change avant que la prochaine enquête ne porte sur un crime encore plus grave.
