OpenAI fait face à des poursuites judiciaires distinctes concernant la manière dont ChatGPT interagit avec les enfants.
Le Guardian rapporte que huit États américains accusent l'entreprise d'avoir induit les parents en erreur quant à la sécurité du chatbot et d'avoir exposé des utilisateurs vulnérables à des conversations dangereuses. Par ailleurs, CNET indique qu'une mère, agissant au nom de ses deux enfants, allègue qu'OpenAI a collecté et utilisé des données personnelles sensibles d'enfants sans consentement parental valide.
Ces affaires soulèvent de sérieuses questions quant à ce qui se passe lorsque des enfants confient leurs pensées les plus intimes à un chatbot, et quant à la responsabilité de l'entreprise qui le gère concernant les conversations qui s'ensuivent.
Ces accusations sont graves, mais il ne faut pas oublier qu'il s'agit d'allégations dans des poursuites judiciaires, et non de conclusions de justice établies.
Huit États contestent la sécurité de ChatGPT
Le 14 octobre, les procureurs généraux de l'Iowa, du Kansas, du Nebraska, de la Virginie-Occidentale, de l'Arkansas, de l'Arizona, de l'Idaho et du Montana ont déposé des plaintes distinctes contre OpenAI. Cette action concertée accuse l'entreprise d'avoir trompé les parents sur la sécurité de ChatGPT et d'avoir enfreint les lois de protection des consommateurs de ces États.
Les États affirment que le chatbot a été conçu pour être « excessivement aimable et feindre la compassion humaine ». Les avocats citent des exemples où ChatGPT aurait mis en danger des utilisateurs vulnérables, notamment des enfants, en les incitant au suicide ou à nuire à autrui.
OpenAI affirme avoir intégré des protections adaptées à l'âge dans ses produits et continuera à développer des mécanismes de sécurité.
Une autre action en justice porte sur les informations privées des enfants
La veille du dépôt des plaintes par les États, une mère hawaïenne a intenté une action collective au nom de sa fille de 12 ans et de son fils de 16 ans. Déposée devant le tribunal fédéral de San Francisco, la plainte allègue qu'OpenAI a obtenu des informations sensibles d'enfants inscrits à ChatGPT sans autorisation parentale valide.
Les conditions d'utilisation d'OpenAI exigent que les utilisateurs de moins de 18 ans obtiennent l'autorisation d'un parent ou tuteur légal. Or, la plainte allègue que des enfants peuvent créer des comptes sans qu'OpenAI vérifie cette autorisation. Elle décrit également le cas d'une enfant de moins de 13 ans, l'âge minimum requis pour utiliser le service, qui a continué à utiliser le chatbot après avoir explicitement indiqué son âge.
Les plaignants allèguent que l'entreprise a utilisé les données d'enfants pour entraîner ses modèles d'IA sans consentement parental valable. Ils affirment également qu'OpenAI a collecté des informations pour établir des profils personnels.
OpenAI conteste ces allégations, qualifiant la plainte d’« infondée » et soulignant les mesures de protection mises en place pour les jeunes utilisateurs.
Contrôle parental
OpenAI a lancé ChatGPT for Teens, une application dotée de contrôles parentaux et d'alertes supplémentaires destinées à avertir les parents dans certaines situations critiques impliquant des risques graves d'automutilation. Cependant, l'efficacité de ces mesures de protection est elle-même remise en question. Common Sense Media a qualifié ChatGPT for Teens de « risque inacceptable » en début de mois, signalant que ses tests avaient révélé des incapacités à alerter les parents lors de conversations abordant le suicide, l'automutilation ou les troubles alimentaires.
OpenAI conteste ces conclusions et affirme que ses alertes de sécurité ne couvrent que certaines situations et peuvent ne pas identifier tous les problèmes. Pour l'instant, le contrôle parental reste donc au cœur du débat.
Comment assurer la sécurité de vos enfants
Les parents ne devraient pas avoir à compenser les défauts de conception d'un produit. Malheureusement, les contrôles parentaux ne constituent pas une garantie de sécurité absolue. Voici donc quelques mesures pratiques que les familles peuvent prendre pour réduire les risques :
- Expliquez à votre enfant qu'un chatbot est un logiciel, pas un ami ni un thérapeute. Un ton chaleureux ne signifie pas qu'il comprend votre enfant ou qu'il a son bien-être à cœur. Fixez une limite claire : les questions relatives à la santé mentale, à l'automutilation ou à la sécurité personnelle doivent être adressées à un adulte de confiance ou à un professionnel qualifié, et non à un chatbot.
- Discutez avec votre enfant de l'utilisation qu'il fait de l'IA, sans l'interroger. Demandez-lui de vous montrer les applications qu'il utilise et ce qu'il apprécie. Assurez-lui qu'il peut vous parler de toute conversation inappropriée ou perturbante sans craindre d'être blâmé. S'il ne se sent pas à l'aise pour vous en parler, aidez-le à trouver un autre adulte de confiance.
- Encouragez vos enfants à ne pas divulguer d'informations personnelles dans leurs messages. Cela inclut leurs noms, les informations relatives à leur école, leurs adresses, leurs photos privées et les informations sensibles concernant leur santé ou leur famille. Pour ChatGPT, les parents ayant associé un compte à leur adolescent peuvent également désactiver l'entraînement du modèle et la sauvegarde des données. Bien que ces paramètres limitent certaines utilisations de leurs informations, ils ne justifient pas de considérer un chatbot comme un journal intime.
- Soyez attentif à toute dépendance affective croissante envers l'IA. Si vous constatez que votre enfant se tourne de plus en plus vers l'IA pour être rassuré, trouver des amis ou un soutien émotionnel, prenez de ses nouvelles et aidez-le à renouer avec des personnes de confiance.
Si votre enfant évoque l'automutilation ou le suicide, prenez cela au sérieux et demandez de l'aide rapidement. Contactez un professionnel de santé qualifié ou un service de crise. En cas de danger immédiat, appelez les services d'urgence locaux. N'attendez pas qu'un chatbot ou une notification parentale vous indique d'agir.
Soyons réalistes, une fenêtre de navigation privée a ses limites.
Intrusions de données, transactions sur le dark web, fraudes à la carte bancaire : Malwarebytes Identity Theft Protection vous protège contre tout cela, vous alerte rapidement et inclut une assurance contre l’usurpation d’identité.
