UN Facebook Un acheteur sur la marketplace s'est rendu à l'appartement d'un vendeur pour récupérer un clavier. Le vendeur était absent et ignorait la venue de quelqu'un. Muse, l'assistant IA de Meta, avait géré la conversation, partagé son adresse et organisé la visite à son insu.
Nous abordons souvent la question des inadéquations de l'IA et de l'utilisation sécurisée des agents et navigateurs IA. Cela peut paraître théorique, mais voici un exemple concret des risques encourus lorsqu'un agent est autorisé à agir au nom d'une personne.
Muse est l'assistant IA semi-autonome de Meta, lancé aux États-Unis en septembre. Meta le présente comme un assistant personnel capable d'automatiser des tâches, notamment la réponse aux messages. Facebook Messages sur la Marketplace. Contrairement à un chatbot classique, qui attend une invite et produit une réponse, un agent IA peut être autorisé à effectuer des actions au sein des applications connectées.
Nous avons déjà évoqué une autre faille de sécurité dans Muse, que les chercheurs jugeaient dangereuse. Selon certaines sources , Muse aurait été téléchargé 3 millions de fois durant sa première semaine.
Selon Business Insider , un Facebook Un vendeur sur Marketplace a fait appel à Muse pour la gestion d'une annonce de clavier. Il a indiqué son adresse comme lieu de retrait et a autorisé les réponses automatiques. Muse a ensuite partagé cette adresse avec un acheteur potentiel, négocié le prix et organisé une visite, selon le vendeur. Ce dernier affirme que Muse ne lui a demandé ni son autorisation pour partager son adresse ni pour organiser la visite, et ne l'en a pas informé. L'acheteur s'est présenté à l'appartement du vendeur, pensant conclure la vente, mais le vendeur était absent. La vente n'a donc pas eu lieu.
L'incident signalé dépasse le simple cadre d'une atteinte à la vie privée. Il illustre un risque plus général lié aux agents d'IA : un agent pourrait interpréter l'autorisation de réponse automatique comme une autorisation de partager des informations sensibles ou de vous engager à une rencontre en personne. Meta indique enquêter sur ce signalement.
Comment utiliser les agents d'IA en toute sécurité
Avant d'activer un agent d'IA, considérez son écran de configuration comme une vérification de sécurité. Ne présumez pas qu'une intégration avec une plateforme de confiance signifie que l'agent comprendra vos intentions ou appliquera automatiquement des limites pertinentes.
Portez une attention particulière à :
- Comptes connectés : Passez en revue tous les services auxquels l’agent peut accéder, tels que la messagerie électronique, les messages, les calendriers, le stockage cloud, les comptes d’achat ou les profils de réseaux sociaux.
- Accès aux données : Déterminez si le système peut lire les adresses, les contacts, les photos, les messages privés, les informations de paiement, les documents ou les données de géolocalisation.
- Autorisations d'action : vérifiez si l'agent peut envoyer des messages, publier du contenu, négocier, effectuer des réservations, passer des commandes, modifier des annonces ou partager des informations en externe.
- Actions automatiques : configurez les paramètres qui requièrent une approbation avant que l’agent n’envoie, ne publie, n’achète, ne supprime ou ne partage des informations sensibles. Vérifiez comment vous serez informé(e) des actions entreprises en votre nom.
- Contrôle de l'audience : définissez précisément qui peut recevoir les informations générées par l'agent. « Toute personne qui m'envoie un message » est très différent de « personnes que j'approuve ».
Accordez à l'agent IA les droits d'accès strictement nécessaires à sa tâche. Si vous souhaitez uniquement de l'aide pour rédiger des réponses, désactivez l'envoi automatique. Si vous souhaitez qu'un agent IA gère une annonce, indiquez un lieu de rencontre public ou une adresse de prise en charge distincte plutôt que votre domicile.
Naviguez comme si personne ne vous regardait.
Malwarebytes Privacy VPN Votre connexion est chiffrée et aucune trace de votre activité n'est enregistrée. Ainsi, votre prochaine lecture restera impersonnelle. Essayez-le gratuitement →
