La peluche intelligente de Bondu a révélé l'existence d'une console web qui permettait à toute personne disposant d'un compte Gmail de lire environ 50 000 conversations privées entre des enfants et leurs peluches.
Le jouet de Bondu est commercialisé comme suit :
« Une peluche douce et câline dotée d'une intelligence artificielle qui peut discuter, enseigner et jouer avec votre enfant. »
Ce qu'il ne dit pas, c'est que toute personne disposant d'un compte Gmail pouvait lire les transcriptions de pratiquement tous les enfants qui utilisaient un jouet Bondu. Sans aucun piratage informatique, simplement en se connectant avec un compte Google arbitraire, deux chercheurs se sont retrouvés à consulter les conversations privées d'enfants.
Ce que Bondu dit à propos de la sécurité ne mentionne ni la sûreté ni la confidentialité :
« Les systèmes de sécurité et de comportement de Bondu ont été mis au point au cours d'une période de test bêta de 18 mois auprès de milliers de familles. Grâce à des processus de vérification rigoureux et à une surveillance continue, nous n'avons reçu aucun signalement de comportement dangereux ou inapproprié de la part de Bondu pendant toute la durée de la période bêta. »
L'importance accordée par Bondu à la réussite des tests bêta est compréhensible. Vous vous souvenez de l'ours en peluche doté d'une intelligence artificielle commercialisé par FoloToy, qui passait rapidement d'une conversation amicale à des sujets sexuels et à des conseils ménagers dangereux ?
Les chercheurs ont été stupéfaits de constater que la console Web publique de l'entreprise permettait à n'importe qui de se connecter avec son compte Google. Les journaux de discussion entre les enfants et leurs peluches révélaient leurs noms, dates de naissance, détails familiaux et conversations intimes. Les seules conversations non disponibles étaient celles qui avaient été supprimées manuellement par les parents ou le personnel de l'entreprise.
Ces journaux de discussion auraient pu être le rêve de tout cambrioleur ou kidnappeur, car ils fournissaient des informations sur les habitudes quotidiennes des occupants et les événements à venir.
Bondu a mis la console hors ligne quelques minutes après la divulgation, puis l'a relancée avec authentification. Le PDG a déclaré que les corrections avaient été effectuées en quelques heures, qu'ils n'avaient constaté « aucune preuve » d'autres accès, et qu'ils avaient fait appel à une société de sécurité et ajouté une surveillance.
Dans le passé, nous avons souligné que les peluches dotées d'une intelligence artificielle ne constituaient peut-être pas une bonne alternative au temps passé devant un écran. Les détracteurs avertissent que lorsqu'un jouet utilise un dialogue personnalisé, semblable à celui d'un être humain, il risque de remplacer certains aspects de la relation entre l'enfant et la personne qui s'occupe de lui. L'un des fondateurs de Curio a même décrit leur peluche comme un compagnon stimulant afin que les parents « n'aient pas l'impression de devoir les asseoir devant la télévision ».
Ainsi, qu'il s'agisse d'un personnage grossier, bavard ou simplement d'un piètre substitut à de vrais amis, nous ne recommandons pas l'utilisation de l'intelligence artificielle dans les jouets pour enfants, à moins que nous ne parvenions à la rendre sûre, privée, sécurisée et, même dans ce cas, à l'utiliser avec parcimonie.
Comment rester en sécurité
Les jouets alimentés par l'IA arrivent, que cela nous plaise ou non. Mais être les premiers ou les plus mignons ne signifie pas qu'ils sont sûrs. L'histoire nous enseigne sans cesse la même leçon : la surveillance, la confidentialité et une bonne dose de scepticisme constituent les meilleures défenses dont disposent les parents.
- Désactivez ce que vous pouvez.Si le jouet dispose d'un composant IA amovible, pensez à le désactiver lorsque vous ne pouvez pas le surveiller directement.
- Lisez la politique de confidentialité. Oui, je sais, dans son intégralité. Recherchez ce qui sera enregistré, stocké et potentiellement partagé. Portez une attention particulière aux données sensibles, telles que les enregistrements vocaux, les enregistrements vidéo (si le jouet est équipé d'une caméra) et les données de localisation.
- Limitez la connectivité.Évitez autant que possible les jouets qui nécessitent une connexion Wi-Fi ou une interactionavec le clouden permanence.
- Surveillez les conversations.Vérifiez régulièrement auprès de vos enfants ce que dit le jouet et supervisez le jeu lorsque cela est possible.
- Gardez vos informations personnelles confidentielles.Apprenez à vos enfants à ne jamais divulguer leur nom, leur adresse ou des informations sur leur famille, même à leur doudou.
- Faites confiance à votre instinct.Si un jouet semble dépasser les limites ou nuire au jeu naturel, n'hésitez pas à intervenir ou à simplement dire non.
Nous ne nous contentons pas de faire des rapports sur la protection de la vie privée, nous vous offrons la possibilité de l'utiliser.
Les risques liés Privacy ne devraient jamais dépasser le titre d'un article. Préservez votre vie privée en ligne en utilisant Malwarebytes Privacy VPN.
