Selon The Verge , Eiliko, un petit robot compagnon doté d'intelligence artificielle et fabriqué par Energize Lab, présente de graves failles de sécurité qui exposent des conversations privées et permettent à un attaquant de modifier à distance ce que dit le jouet.
Selon The Verge, le chercheur Sammy Azdoufal a pu accéder à 13 millions de conversations et à ce qui semble être la totalité de la flotte mondiale active de 68 000 robots. Le média indique que les États-Unis constituent le plus grand marché, avec plus de 31 000 profils appartenant à des enfants.
Azdoufal a découvert de multiples failles de sécurité dans le service d'Energize Lab :
- Ce service analyse les conversations pour établir des profils contenant noms, âges, dates de naissance, relations, professions et évaluations de la personnalité et de la vulnérabilité émotionnelle. Ces informations sont stockées avec les adresses électroniques, les adresses IP et les transcriptions de conversations consultables, offrant ainsi aux escrocs des données détaillées qu'ils peuvent exploiter.
- Des photos, notamment des images d'enfants provenant d'un appareil photo associé, ainsi que de courts enregistrements audio étaient accessibles sur des sites web publics. La conservation de ces enregistrements audio contrevient à la politique de confidentialité de l'entreprise, qui stipule qu'ils sont supprimés immédiatement après traitement.
- Il est possible de manipuler l'IA à distance : Azdoufal a modifié la mémoire et le comportement du robot du journaliste Sean Hollister (The Verge), l'amenant à inventer des détails personnels, à affirmer que la Terre est plate, puis à tenir des propos sexuellement explicites et injurieux. Le chercheur affirme qu'une manipulation similaire pourrait affecter l'ensemble de la flotte simultanément.
Le journaliste a contacté Energize Lab via 10 adresses électroniques et LinkedIn , sans obtenir de réponses substantielles.
Comment rester en sécurité
Nous avons déjà signalé des problèmes de sécurité liés aux jouets dotés d'intelligence artificielle. La sécurité de leurs produits incombe aux fabricants, mais vous pouvez prendre certaines mesures pour réduire les risques.
Vous verrez la mention « alimenté par l'IA » presque partout en ce moment, mais il existe des moyens de faire des choix plus sûrs.
- Vous possédez déjà un appareil Eiliko ? Par précaution, déconnectez-le du Wi-Fi en attendant la confirmation que les problèmes signalés ont été corrigés.
- Faites toujours des recherches : consultez les avis de tiers sur la sécurité avant d’acheter tout produit utilisant l’IA et destiné aux enfants.
- Testez et supervisez : familiarisez-vous avec l’appareil avant de le confier à des enfants. Surveillez son utilisation afin de détecter toute réaction anormale ou à risque. Une réaction sans danger lors des tests ne garantit pas une réaction sans danger par la suite.
- Utilisez le contrôle parental : si disponible, activez tous les filtres de contenu et les protections de la vie privée.
- Signalement des problèmes : Si des contenus inappropriés s’affichent sur vos appareils, signalez-les aux fabricants et aux associations de consommateurs.
- Vérifiez les pratiques en matière de données : découvrez quelles données l’appareil collecte, avec qui il les partage et à quelles fins il les utilise.
Mais surtout, n'oubliez pas que « intelligent » ne rime pas avec « sûr ». L'IA est omniprésente, mais concepteurs et acheteurs doivent privilégier la sécurité, la protection de la vie privée et le bon sens plutôt que l'effet de surprise technologique. Avant d'acheter un jouet connecté, vérifiez comment le fabricant gère les mises à jour de sécurité, la protection de la vie privée et le signalement des problèmes.
Naviguez comme si personne ne vous regardait.
Malwarebytes Privacy VPN Votre connexion est chiffrée et aucune trace de votre activité n'est enregistrée. Ainsi, votre prochaine lecture restera impersonnelle. Essayez-le gratuitement →
