Les chatbots du service client ont une seule mission : fournir à l'utilisateur ce qu'il demande sans faire appel à un humain. Le nouvel assistant d'assistance basé sur l'IA de Meta a pris cette consigne un peu trop au pied de la lettre. Au cours des derniers mois, des pirates ont ouvert des sessions de chat d'assistance, ont fait croire au bot qu'ils n'avaient plus accès à Instagram qui ne leur appartenaient pas, et ont ainsi réussi à s'emparer des identifiants.
Ce week-end, Meta a déployé un correctif d'urgence après que Instagram appartenant à la Maison Blanche sous Obama (aujourd'hui inactifs), à la chaîne de cosmétiques Sephora et à un haut responsable de la Force spatiale américaine ont été piratés et brièvement défigurés par des images pro-iraniennes. Jane Manchun Wong, chercheuse en sécurité et ancienne employée de Meta, a également été touchée.
Comment le tour fonctionnait
L'attaque était simple. Les pirates ont déterminé où habitait le titulaire du compte (il existe des listes en ligne répertoriant les villes de résidence des titulaires de compte, ou ils pouvaient simplement faire des recherches sur la cible). Ils ont ensuite utilisé un VPN faire correspondre leur localisation à la région géographique du compte cible, ce qui leur a permis d'éviter de déclencher les alertes des systèmes de sécurité Instagram.
Ils ont ensuite lancé une procédure normale de réinitialisation du mot de passe et ouvert la fenêtre de chat de l'assistance. Ils ont demandé au bot d'IA chargé de l'assistance de modifier l'adresse e-mail associée au compte, ce qu'il a fait sans hésiter, en envoyant un code à usage unique directement dans la boîte de réception de l'attaquant.
Pour ce faire, le chatbot semble avoir été intégré aux systèmes de gestion des comptes de Meta avec l'autorisation d'apporter des modifications aux comptes, mais sans qu'on lui ait appris à vérifier s'il s'adressait bien au véritable titulaire du compte. Les spécialistes de la sécurité ont un nom pour cela : «le mandataire désorienté ». Ce terme existe depuis les années 1980.
Pour être honnête envers ce bot désorienté, les pirates ont réussi leur coup même lorsque les mesures de sécurité renforcées se sont déclenchées. Ils auraient apparemment créé des vidéos deepfakes leurs cibles en utilisant des images récupérées sur — vous l’avez deviné —Instagram.
Meta s'est fait piéger par son propre système d'IA
Meta a procédé à des réductions d'effectifs et investi massivement dans l'IA ; l'entreprise a ainsi lancé, en début d'année, son assistant d'assistance alimenté par l'IA afin de faciliter la récupération des comptes et le traitement d'autres demandes d'assistance.
Le problème, c'est que l'IA semble avoir été programmée pour effectuer des opérations telles que la modification d'adresses e-mail et la réinitialisation de mots de passe sans mettre en place de mesures de sécurité suffisantes pour vérifier au préalable l'identité de l'utilisateur.
Andy Stone, responsable de la communication chez Meta, a déclaré sur X le problème avait été résolu et que les comptes concernés étaient en cours de sécurisation. La société n'a pas précisé combien de comptes avaient été touchés.
Ce qui a vraiment fonctionné
Mais pourquoi quelqu'un voudrait-il pirater un Instagram ? La vengeance peut être une motivation, mais le plus souvent, c'est le profit qui est en jeu. Des pirates ont fait chanter des entreprises qui utilisent ces comptes à des fins de marketing.
On a également repéré des pirates utilisant cette technique pour cibler des comptes « OG » dotés de noms d'utilisateur courts ou très convoités. Si vous vous êtes inscrit Instagram et que vous avez choisi un pseudonyme facile à retenir, celui-ci peut valoir des milliers de dollars sur les marchés parallèles.
Que pouvez-vous faire pour vous protéger ?
Un conseil qui ne perd jamais de son actualité : activez l'authentification multifactorielle (MFA). Selon Brian Krebs, journaliste spécialisé de longue date dans la cybersécurité, l'attaque a échoué sur les comptes où la MFA était activée, y compris ceux utilisant des codes SMS.
Cela ne rend pas l'authentification à plusieurs facteurs (MFA) infaillible, mais cela apporte une protection supplémentaire importante.
Le conseil pratique n'a donc rien de très glamour :
- Ouvrez les paramètres Instagram
- Accédez à votre Centre de comptes Meta
- Activez l'authentification à deux facteurs. Une application d'authentification est préférable aux SMS, mais l'une ou l'autre vaut mieux que rien.
Agissez sans tarder, car cette affaire n'est peut-être pas encore terminée. TheCyberSecGuru signale qu'une nouvelle attaque circule actuellement : elle utilise cette fois-ci un Android appelé BlueStacks, sur lequel tourne une version modifiée Instagram envoyer de nouvelles invites contenant des caractères cachés destinés à manipuler l'IA.
Attendez-vous à d'autres cafouillages de la part de ces bots « serviables »
Ce ne sera pas la dernière attaque contre les chatbots basés sur l'IA. À mesure que de plus en plus d'entreprises recourent à l'IA pour réduire les coûts liés au service client, leur surface d'attaque s'étendra, et elles commettront de nombreuses erreurs en cherchant à trouver le juste équilibre entre sécurité et fonctionnalité.
La faille Meta a été corrigée, mais le concept du « confused deputy » (adjoint désorienté) n'a pas été résolu. Et il n'y a rien de plus dangereux qu'une IA désorientée détenant les clés de votre vie numérique.
Les escrocs n'ont pas besoin de pirater votre ordinateur. Il leur suffit que vous cliquiez une seule fois.
Theft Identity Malwarebytes détecte les activités suspectes avant qu'elles ne posent problème.
