La peluche intelligente de Bondu a révélé une console web permettant à toute personne possédant un compte Gmail de lire environ 50 000 conversations privées entre des enfants et leurs peluches.
Le jouet de Bondu est commercialisé comme suit :
« Un jouet doux et câlin doté d'une intelligence artificielle qui peut discuter, éduquer et jouer avec votre enfant. »
Ce que le document ne précise pas, c'est que toute personne possédant un compte Gmail pouvait lire les transcriptions des conversations de quasiment tous les enfants ayant utilisé un jouet Bondu. Sans aucun piratage, en se connectant simplement avec un compte Google quelconque, deux chercheurs se sont retrouvés en possession des conversations privées d'enfants .
Ce que Bondu dit à propos de la sécurité ne mentionne ni la sûreté ni la confidentialité :
« Les systèmes de sécurité et de comportement de Bondu ont été développés au cours de 18 mois de tests bêta menés auprès de milliers de familles. Grâce à des processus d'examen rigoureux et à une surveillance continue, nous n'avons reçu aucun signalement de comportement dangereux ou inapproprié de la part de Bondu pendant toute la durée de la phase bêta. »
L'importance accordée par Bondu à la réussite des tests bêta est compréhensible. Vous souvenez-vous de l'ours en peluche doté d'intelligence artificielle commercialisé par FoloToy, qui a rapidement dévié des conversations amicales vers des sujets sexuels et des conseils ménagers dangereux ?
Les chercheurs ont été stupéfaits de constater que la console web publique de l'entreprise permettait à n'importe qui de se connecter avec son compte Google. Les conversations entre les enfants et leurs peluches révélaient des noms, des dates de naissance, des informations familiales et des échanges intimes. Seules les conversations supprimées manuellement par les parents ou le personnel de l'entreprise n'étaient pas accessibles.
Ces historiques de conversations pourraient potentiellement représenter le rêve d'un cambrioleur ou d'un kidnappeur, offrant un aperçu des habitudes familiales et des événements à venir.
Bondu a mis la console hors ligne quelques minutes après la révélation de l'incident, puis l'a relancée avec authentification . Le PDG a déclaré que les correctifs avaient été déployés en quelques heures, qu'ils n'avaient constaté « aucune preuve » d'autres accès et qu'ils avaient fait appel à une société de sécurité et renforcé la surveillance.
Par le passé, nous avons souligné que les peluches dotées d'intelligence artificielle ne constituent pas nécessairement une bonne alternative aux écrans. Les critiques mettent en garde contre le risque, pour un jouet utilisant un dialogue personnalisé et artificiel, de se substituer à certains aspects de la relation parent-enfant. L'un des fondateurs de Curio a même décrit sa peluche comme un compagnon stimulant, afin que les parents « n'aient pas l'impression d'être obligés de les installer devant la télévision ».
Ainsi, qu'il s'agisse d'un langage grossier, d'une grande gueule ou simplement d'un piètre substitut aux vrais amis, nous ne recommandons pas l'utilisation de l'intelligence artificielle dans les jouets pour enfants, à moins que nous n'arrivions un jour à un point où elle puisse être utilisée de manière sûre, privée et sécurisée, et même alors, avec parcimonie.
Comment rester en sécurité
Les jouets dotés d'intelligence artificielle arrivent, qu'on le veuille ou non. Mais être les premiers ou les plus mignons ne signifie pas qu'ils sont sans danger. L'histoire nous enseigne sans cesse une leçon : la surveillance, le respect de la vie privée et une bonne dose de scepticisme sont les meilleures armes dont disposent les parents.
- Désactivez ce que vous pouvez. Si le jouet possède un composant d'IA amovible, pensez à le désactiver lorsque vous ne pouvez pas le surveiller directement.
- Lisez la politique de confidentialité. Oui, je sais , en entier. Vérifiez quelles données seront enregistrées, stockées et potentiellement partagées. Portez une attention particulière aux données sensibles, comme les enregistrements vocaux, les enregistrements vidéo (si le jouet est équipé d'une caméra) et les données de géolocalisation.
- Limitez la connectivité. Évitez si possible les jouets qui nécessitent une connexion Wi-Fi ou une interaction avec le cloud en permanence.
- Surveillez les conversations. Demandez régulièrement à vos enfants ce que dit le jouet et supervisez leurs jeux lorsque c'est possible.
- Préservez la confidentialité de vos informations personnelles. Apprenez aux enfants à ne jamais divulguer leur nom, leur adresse ou les détails de leur famille, même à leur peluche préférée.
- Faites confiance à votre instinct. Si un jouet semble dépasser les limites ou perturber le jeu naturel, n'hésitez pas à intervenir ou simplement à dire non.
Naviguez comme si personne ne vous regardait.
Malwarebytes Privacy VPN Votre connexion est chiffrée et aucune trace de votre activité n'est enregistrée. Ainsi, votre prochaine lecture restera impersonnelle. Essayez-le gratuitement →
