Mac Le chercheur en sécurité Patrick Wardle affirme qu'il est très facile de transformer Muse en « porte dérobée ultime ».
De plus en plus, les assistants IA évoluent : d’outils se contentant de répondre à des questions, ils deviennent de véritables agents capables de planifier des tâches, d’utiliser des services connectés et d’agir à notre place. Ces actions peuvent inclure la prise de rendez-vous, le remplissage de formulaires, la création de documents, la réalisation d’achats ou encore la gestion des e-mails et des calendriers.
Pour ce faire, ils ont besoin de davantage d'autorisations, de connexions de comptes et de données sensibles. Aussi, lorsque Meta a promis que « Muse est conçu dès le départ pour garantir la confidentialité et la sécurité », nous ne nous attendions pas à un agent d'IA aussi facilement manipulable pour donner accès à tous ces éléments à un attaquant.
Selon Meta, Muse peut gérer les rendez-vous, les formulaires, les interactions avec le service client, les achats, la création de documents et les connexions à des services tels que WhatsApp, la messagerie électronique, les calendriers et les réseaux sociaux. Il peut également recevoir les autorisations macOS pour accéder aux ressources protégées, notamment les fichiers, le microphone, la caméra, la géolocalisation et les calendriers.
D'après Ars Technica , Wardle a découvert qu'une application exécutée localement ou une commande terminale pouvait modifier un paramètre de configuration non documenté de Muse, qui contrôle le serveur utilisé pour la transcription de la dictée. En redirigeant le trafic de dictée vers un serveur contrôlé par un attaquant, ce dernier pouvait capturer les invites vocales et obtenir le jeton d'authentification du compte Muse de la victime.
Il ne s'agit pas d'une vulnérabilité d'exécution de code à distance susceptible de compromettre un système par ailleurs sain. Mac L'attaquant a d'abord besoin d'un moyen d'exécuter du code localement, par exemple via un logiciel malveillant, une application malveillante ou l'ingénierie sociale.
Mais comme nous l'avons constaté avec les logiciels malveillants voleurs d'informations qui se sont introduits sur les Mac , cet accès initial est loin d'être impossible.
Quelqu'un surveille vos comptes. Assurez-vous que c'est bien nous.
Les logiciels malveillants voleurs d'informations traditionnels doivent localiser indépendamment les données de navigation, les identifiants, les documents, l'historique des conversations et autres informations sensibles. Un agent d'IA compromis pourrait s'affranchir de cette barrière en regroupant l'accès à de multiples services et autorisations du système d'exploitation derrière une interface déjà authentifiée.
En fin de compte, il ne s'agit pas simplement d'un paramètre de configuration non sécurisé. Cela démontre pourquoi les agents d'IA nécessitent un niveau de sécurité plus élevé que les applications classiques.
Comment rester en sécurité
Le conseil de Wardle concernant Muse est simple : « S'il vous plaît, ne l'installez pas. »
La même prudence doit s'appliquer aux autres agents d'IA.
L'Open Worldwide Application Security Project (OWASP), une fondation à but non lucratif qui fournit des conseils gratuits en matière de sécurité des applications, cite l'injection rapide, l'abus d'outils, l'élévation de privilèges, l'exfiltration de données, l'autonomie excessive, l'empoisonnement de la mémoire et l'exposition de données sensibles parmi les principaux risques de sécurité posés par les agents d'IA.
Une règle utile est qu'un agent d'IA ne doit pas disposer de plus d'accès que nécessaire et qu'il ne doit pas pouvoir transformer des instructions non fiables en actions sensibles sans vérifications pertinentes. En pratique, cela signifie :
- Évitez de donner simultanément à un nouvel agent un accès étendu à sa messagerie électronique, ses applications de messagerie instantanée, son calendrier, son stockage cloud, ses méthodes de paiement et les autorisations de son appareil.
- Examinez et supprimez régulièrement les connexions dont l'agent n'a pas réellement besoin.
- Soyez vigilant face aux injections de code malveillant . Ne présumez pas qu'un agent d'IA reconnaîtra les instructions malveillantes intégrées à une page web, un document, un courriel ou tout autre contenu externe.
- Soyez attentif à tout comportement inhabituel de l'agent, comme des demandes inattendues de nouvelles autorisations, une réauthentification de compte, un partage de fichiers externes ou des actions que vous n'avez pas initiées.
Vous devez également protéger votre appareil contre les logiciels malveillants :
- Maintenez vos logiciels à jour afin que les attaquants ne puissent pas exploiter les vulnérabilités connues contre vous.
- Utilisez une solution anti-malware à jour et en temps réel sur tous vos appareils .
- Pour vous protéger contre les attaques ClickFix , ne suivez pas les instructions que vous trouvez sur les sites web et dans les messages non sollicités qui vous demandent d'exécuter des commandes.
Du signalement des menaces à leur suppression.
Les risques de cybersécurité ne devraient jamais dépasser le stade de la simple mention dans les médias. Protégez vos appareils des menaces en téléchargeant Malwarebytes dès aujourd'hui .
