Un nouveau type d'attaque par injection de requêtes montre pourquoi donner aux assistants IA l'accès aux navigateurs, aux outils de codage et aux données privées mérite une prudence accrue.
Des chercheurs en IA décrivent l'« injection de contexte cryptographique » : une attaque qui dissimule des instructions malveillantes dans des données chiffrées. L'IA est ensuite amenée à déchiffrer ces données à l'aide de son propre outil d'exécution de code. De ce fait, elle peut considérer le texte obtenu comme une information interne fiable.
L' injection de requêtes consiste à insérer une fausse instruction dans un document destiné à être lu par un assistant vocal. Au lieu de se conformer uniquement à la requête de l'utilisateur, l'assistant peut être amené à exécuter les instructions d'un attaquant dissimulées dans une page web, un courriel ou un fichier.
Comme nous l'avions signalé il y a plusieurs mois, des experts ont averti que les attaques par injection de prompts constituent un problème qui pourrait ne jamais être résolu. L'injection de prompts fonctionne car les modèles d'IA ne parviennent pas à distinguer avec certitude les instructions légitimes de celles d'un attaquant, et peuvent donc parfois exécuter les mauvaises.
Pour réduire ce risque, les fournisseurs d'IA configurent leurs modèles avec des garde-fous : des protections conçues pour empêcher les systèmes d'IA de faire des choses qu'ils ne devraient pas, intentionnellement ou non.
Les chercheurs ont découvert que des instructions malveillantes pouvaient être dissimulées à certains mécanismes de protection de l'IA en les chiffrant. L'IA elle-même pouvait ensuite être trompée et amenée à déchiffrer ces instructions à l'aide de ses outils de programmation.
Au moment où les instructions sont devenues lisibles, elles avaient déjà franchi les premiers contrôles de sécurité. L'IA pouvait alors les prendre pour des instructions légitimes et les exécuter.
C'est un peu comme dissimuler des instructions malveillantes dans un langage que le système de sécurité ne comprend pas. L'IA ne les traduit qu'après qu'elles ont passé les contrôles de sécurité, et peut alors seulement les exécuter.
Les chercheurs ont testé leur méthode sur deux agents d'IA, avec des résultats différents. Sur Grok, l'attaque aurait permis de dérober des informations telles que le nom de l'utilisateur, sa localisation approximative, son niveau d'abonnement et l'historique de ses conversations. Sur Gemini, ils ont utilisé cette technique pour contourner les contrôles de sécurité et générer du contenu que le modèle n'aurait normalement pas produit.
« Dans Grok, une simple fonction de résumé de page vole les données de chat de l'utilisateur sans clic ni avertissement. Dans Gemini, elle génère du contenu que le modèle refuse normalement. Les deux systèmes fonctionnent en production réelle. »
Les chercheurs n'ont pas fourni de détails complets car xAI n'avait pas encore pris de mesures après que la faille dans Grok lui ait été signalée en juin 2026. Gemini, en revanche, a apporté des améliorations, mais n'a toujours pas complètement comblé la brèche.
Comment rester en sécurité
Un assistant IA peut être utile, mais il ne faut pas lui faire automatiquement confiance pour la gestion de données sensibles ou d'outils puissants.
- Traitez avec prudence les résumés générés par l'IA pour les pages web, les documents et les liens partagés inconnus, surtout lorsque l'assistant peut naviguer ou exécuter du code.
- Ne collez pas de mots de passe, de codes de récupération, de clés API, d'informations financières ou de données sensibles relatives à la santé et au travail dans les conversations avec l'IA, sauf si vous comprenez comment ces informations seront traitées.
- Examinez les outils connectés et les autorisations de votre assistant IA. Supprimez les accès inutiles, notamment la messagerie électronique, le stockage cloud, les dépôts de code source et les intégrations externes.
- Soyez sceptique si un outil d'IA vous demande de décrypter, de décoder, d'exécuter un script, d'ouvrir un nouveau lien ou de télécharger des données dans le cadre d'une tâche apparemment ordinaire.
- Maintenez à jour votre navigateur et vos applications d'IA, et consultez les avis de sécurité des fournisseurs lorsque vous utilisez des fonctionnalités telles que la navigation, les agents autonomes ou l'exécution de code.
- Utilisez une solution anti-malware à jour et en temps réel pour détecter et bloquer les téléchargements malveillants et les connexions suspectes.
Quelque chose vous semble bizarre ? Vérifiez avant de cliquer.
Malwarebytes Guardvous aide à analyser instantanément les liens, les messages et les captures d'écran suspects.
Disponible avecMalwarebytes Premium pour tous vos appareils, ainsi que dansMalwarebytes pour iOS Android.
