Les chatbots du service client ont une mission simple : fournir à l’utilisateur ce qu’il demande sans déranger un humain. Le nouvel assistant de support IA de Meta a pris cette mission un peu trop au sérieux. Ces derniers mois, des pirates ont ouvert des conversations de support, prétendant auprès du bot qu’ils étaient bloqués. Instagram des comptes qui ne leur appartenaient pas, et ils sont repartis avec les clés.
Au cours du week-end, Meta a déployé un correctif d'urgence après Instagram Les comptes de la Maison-Blanche d'Obama (désormais inactifs), du détaillant de produits de beauté Sephora et d'un haut responsable de la Force spatiale américaine ont été piratés et brièvement dégradés par des images pro-iraniennes. La chercheuse en sécurité et ancienne employée de Meta, Jane Manchun Wong, a également été touchée.
Comment fonctionnait l'astuce
L'attaque était simple. Les attaquants ont déterminé le lieu de résidence du titulaire du compte (il existe des listes des villes de résidence des titulaires de comptes en ligne, ou ils pouvaient simplement effectuer des recherches sur la cible). Ensuite, ils ont utilisé une VPN pour correspondre à la région géographique du compte cible, ce qui a permis d'éviter d'éveiller les soupçons. Instagram systèmes de sécurité de .
Ils ont alors lancé une procédure de réinitialisation de mot de passe classique et ouvert une conversation avec le service d'assistance. Ils ont demandé au chatbot d'assistance de modifier l'adresse e-mail du compte, ce que celui-ci a fait, envoyant un code à usage unique directement dans la boîte de réception de l'attaquant.
Pour ce faire, le chatbot semble avoir été intégré aux systèmes de gestion de comptes de Meta avec l'autorisation d'effectuer des modifications, mais sans avoir été programmé pour vérifier qu'il communiquait bien avec le véritable propriétaire du compte. Les spécialistes de la sécurité ont un terme pour cela : « agent infiltré ». Ce terme existe depuis les années 1980.
Pour être juste envers le bot désorienté, les attaquants ont réussi même si la sécurité renforcée était activée. Ils créaient apparemment des vidéos deepfakes de leurs cibles à l'aide d'images collectées auprès de — vous l'avez deviné — Instagram .
Meta pris à son propre piège de l'IA
Meta a réduit ses effectifs et investi massivement dans l'IA, et a déployé son assistant de support basé sur l'IA plus tôt cette année pour aider à gérer la récupération des comptes et autres demandes d'assistance.
L'inconvénient est que l'IA semble avoir été dotée de la capacité d'effectuer des actions telles que la modification des adresses électroniques et la réinitialisation des mots de passe sans appliquer suffisamment de mesures de protection pour confirmer au préalable l'identité de l'utilisateur.
Andy Stone, dirigeant de Meta Communications, a déclaré le X L'entreprise a indiqué que le problème était résolu et que les comptes concernés étaient en cours de sécurisation. Elle n'a pas précisé le nombre de comptes affectés.
Ce qui a réellement fonctionné
Pourquoi quelqu'un voudrait-il pirater un Instagram Un compte, vraiment ? La vengeance peut être un moteur, mais le plus souvent, le gain financier est l’objectif. Des pirates informatiques ont fait chanter des entreprises qui dépendent de ces comptes pour leur marketing.
Des attaquants utilisant cette technique ont également été repérés ciblant des comptes « OG » avec des noms d’utilisateur courts ou très recherchés. Si vous avez rejoint Instagram En enregistrant tôt un pseudo mémorable, cela peut valoir des milliers de dollars sur les marchés clandestins.
Que pouvez-vous faire pour vous protéger ?
Un conseil toujours valable : activez l’authentification multifacteurs (AMF). D’après Brian Krebs , journaliste spécialisé en cybersécurité, l’attaque a échoué contre les comptes dont l’AMF était activée, y compris ceux utilisant l’authentification par SMS.
Cela ne rend pas l'authentification multifacteur parfaite, mais elle ajoute une couche de protection importante.
Les conseils pratiques sont donc peu attrayants :
- Ouvrir Instagram Paramètres de
- Accédez à votre Centre de comptes Meta
- Activez l'authentification à deux facteurs . Une application d'authentification est préférable aux SMS, mais les deux valent mieux que rien.
Agissez maintenant, car la situation n'est peut-être pas encore stabilisée. TheCyberSecGuru signale qu'une autre attaque est en cours, utilisant cette fois une Android émulateur appelé BlueStacks exécutant une version modifiée de Instagram Envoyer de nouvelles invites contenant des caractères cachés destinés à manipuler l'IA.
Attendez-vous à d'autres ratés de la part des bots « serviables ».
Ce ne sera pas la dernière attaque contre les chatbots IA. À mesure que les entreprises utilisent davantage l'IA pour réduire les coûts du service client, leur surface d'attaque s'accroît et elles commettront de nombreuses erreurs en tentant de concilier sécurité et fonctionnalité.
La faille Meta a été corrigée, mais le concept d'adjoint confus ne l'est pas. Et rien n'est plus dommageable qu'une IA désorientée détenant les clés de votre vie numérique.
Les escrocs n'ont pas besoin de vous pirater. Il leur suffit que vous cliquiez une seule fois.
Malwarebytes Identity Theft Protection détecte les activités suspectes avant qu'elles ne deviennent un problème.
