Si vous êtes toujours à l'aise avec l'idée de publier des photos de vos enfants sur les réseaux sociaux, prenez un instant pour écouter le témoignage de Kalie Robins, mère de deux enfants. Début septembre, elle a fait ce que des centaines de milliers de parents font chaque jour : elle a publié une vidéo de sa jeune fille sur… Facebook .
Sous la vidéo de Robins et de sa fille chantant dans une voiture, Facebook Le système Meta AI de [nom de l'entreprise] a suggéré la question suivante : « Qui est l'enfant passager ? »
Robins était choqué que Facebook Cette question concernait un mineur, et la curiosité l'a poussée à cliquer. C'est alors qu'a commencé un déferlement de comportements automatisés dignes d'un harceleur.
Dans une publication Instagram , Robins, furieux, a décrit ce qui s'était passé :
« Le système commence à extraire des informations complètement distinctes pour chacun de mes enfants. »
Cela comprenait leurs noms, leurs dates de naissance et des vidéos d'eux.
Le site a également publié une photo de sa fille nouveau-née que la mère de Robins avait postée sur Facebook Il y a des années, ainsi qu'une photo supprimée depuis longtemps que Robins affirmait avoir figuré sur son propre compte.
La situation est devenue encore plus étrange. Le site a ensuite posé une autre question : « Où habite Kalie Robins ? »
De plus en plus indignée, Robins a cliqué sur cette question. Elle a décrit les résultats :
«[ Facebook ] a commencé à fouiller dans des trucs complètement sans rapport avec le sujet, datant de plusieurs années de ma vie.
L'application a exploré d'anciens messages qui laissaient entrevoir ses anciens lieux de résidence et des messages plus récents la reliant à son domicile actuel. Elle a finalement tenté de localiser précisément sa position.
Robins s'est plaint :
« Je n'ai pas demandé » Facebook pour dresser un profil de ma famille.
Elle a exprimé son choc face à cela Facebook Il rassemblait des bribes d'informations personnelles tirées d'anciens messages et les compilait dans un profil détaillé destiné aux autres utilisateurs.
Vous pouvez regarder Kalie Robins Instagram vidéo ici :
Réponse de Meta
Meta a lancé Meta AI en avril 2024 et l'a depuis développée en Facebook , Instagram WhatsApp et Messenger. Il fonctionne sur plusieurs plateformes. Facebook , Instagram et WhatsApp. L'assistant peut répondre aux questions, générer des images et aider les utilisateurs à créer ou à retrouver des informations.
Meta a admis dans une déclaration au Verge :
« Cette fonctionnalité n’aurait jamais dû poser ce genre de questions à l’utilisateur. »
L'entreprise a déclaré que la fonctionnalité avait « raté sa cible » et qu'elle avait corrigé le problème qui amenait Meta AI à suggérer des questions sur des sujets personnels.
Dans une tentative d'excuses ambiguës, un porte-parole de Meta a également souligné que l'IA n'avait fait remonter que des informations issues de publications auxquelles la personne ayant posé la question avait déjà accès. Cela n'explique cependant pas pourquoi elle aurait fait remonter une photo qu'elle avait supprimée il y a des années.
Un schéma d'échecs de la méta-IA
Meta AI n'a pas toujours respecté la vie privée. En juin dernier, nous avons signalé que des utilisateurs partageaient publiquement des conversations, souvent à leur insu. Un autre bug, que nous avons signalé le mois suivant, permettait de consulter les conversations privées d'autres utilisateurs sur Meta AI en devinant simplement leur identifiant. Fin 2018, Meta a également commencé à cibler les utilisateurs avec des publicités en fonction de leurs conversations sur Meta AI.
Que peuvent faire les utilisateurs ?
Les parents sont, à juste titre, furieux lorsqu'ils découvrent à quel point des sites comme Facebook Ils peuvent en apprendre davantage sur leurs enfants. Robins publiait régulièrement des photos et des vidéos de ses enfants, mais elle ignorait que le service pouvait compiler des années de publications pour établir leur profil. Elle n'est pas la seule.
Alors, que peut-on faire ? La question la plus pertinente serait peut-être : que ne faut-il pas faire ? La réponse la plus évidente est de ne pas publier de photos permettant d’identifier ses enfants (ou ceux d’autres personnes) sur les réseaux sociaux. Non seulement pour éviter qu’ils ne soient traqués dans un environnement où la protection de la vie privée est bafouée, mais aussi pour réduire les risques de conséquences encore plus graves .
Robins a décrit ce qu'elle prévoyait de faire ensuite :
« C’est terminé. Je supprime toutes les photos et vidéos permettant d’identifier nos enfants. »
Elle a ajouté qu'elle demanderait à ses amis de faire de même car, s'ils ne le font pas, Facebook elle pourrait toujours récupérer les photos de ses enfants sur leurs comptes et les utiliser dans les profils qu'elle crée.
Du signalement des menaces à leur suppression.
Les risques de cybersécurité ne devraient jamais se propager au-delà d'un titre. Éliminez les menaces de vos appareils en téléchargeant Malwarebytes dès aujourd'hui.
