Votre boîtier de streaming n'a peut-être pas l'air d'un ordinateur. Mais connectez-y suffisamment d'appareils peu coûteux, et vous pourrez faire tourner un modèle d'intelligence artificielle.
Des chercheurs d'Anthropic l'ont démontré en exécutant un modèle Google Gemma sur 15 boîtiers TV Android de marques génériques. Ils avertissent que de petits modèles pourraient bientôt se propager à des appareils IoT vulnérables, notamment les fours intelligents et les boîtiers TV connectés, et déclarent :
Nos expériences suggèrent que les petits modèles d'IA pourraient être capables de s'auto-répliquer sur des appareils IoT commerciaux, comme les fours intelligents et les appareils de marques génériques, d'ici plusieurs mois. Android « Décotes TV »
Dans ce scénario, l'IA ne se contente pas d'aider un attaquant à écrire du code malveillant. Elle devient partie intégrante du logiciel qui effectue la réplication.
Anthropic décompose ce processus en quatre étapes :
- Trouvez un autre appareil.
- Acquérir la capacité d'exécuter du code dessus.
- Configurer le logiciel nécessaire à l'exécution d'un modèle d'IA.
- Poursuivre la propagation à partir du nouvel hôte.
Les chercheurs ont testé si des agents d'IA pouvaient mener à bien cette séquence. Ils n'ont pas démontré qu'un petit modèle pouvait se propager et fonctionner indépendamment sur des appareils domestiques compromis.
Les tests utilisés Android Les émulateurs dotés d'un accès de débogage non authentifié facilitent grandement l'accès des agents par rapport aux appareils correctement sécurisés. Les transferts de fichiers volumineux et les communications soutenues entre les appareils pourraient faciliter la détection de la réplication en conditions réelles, tandis qu'une puissance de calcul limitée pourrait la ralentir. Surtout, les expériences n'ont pas permis de démontrer un modèle à la fois suffisamment performant pour mener à bien le processus de réplication et suffisamment compact pour fonctionner sur le matériel grand public ciblé.
Anthropic prévoit que les modèles plus petits pourraient atteindre les capacités nécessaires d'ici fin 2026 si les progrès se poursuivent au rythme historique.
Varun Chandrasekaran, professeur adjoint à l'Université de l'Illinois, a déclaré à l'AFP que ces conclusions concordaient avec des recherches antérieures, tout en précisant que les travaux d'Anthropic n'avaient pas fait l'objet d'une vérification indépendante. Il a identifié l'utilisation de l'IA pour perfectionner les attaques comme la principale menace actuelle, plutôt que les systèmes d'IA incontrôlés.
Les réseaux de robots informatiques utilisant des appareils intelligents constituent déjà un problème.
Le piratage d'appareils connectés par des criminels n'est pas un phénomène nouveau. Mirai et ses dérivés ont intégré des routeurs, des caméras de sécurité et des enregistreurs vidéo numériques à des réseaux de zombies (botnets) utilisés pour lancer des attaques par déni de service distribué (DDoS), saturant ainsi les services en trafic. BADBOX 2.0 illustre une autre forme d'abus : des appareils grand public compromis sont utilisés pour des activités telles que les services de proxy résidentiels, qui acheminent le trafic d'autres personnes via les connexions Internet des victimes.
Aucun des deux ne démontre une réplication autonome de l'IA, mais tous deux montrent que les appareils connectés peuvent devenir une infrastructure pour les criminels.
Que pouvez-vous faire maintenant ?
La solution pratique consiste à réduire les possibilités pour un attaquant d'utiliser abusivement vos appareils connectés :
- Maintenez à jour vos systèmes d'exploitation, logiciels et micrologiciels afin de réduire l'exposition aux vulnérabilités connues.
- Privilégiez les vendeurs réputés qui proposent des mises à jour régulières du micrologiciel et de la sécurité. Un appareil bon marché est moins intéressant si vous ne pouvez pas faire confiance à son logiciel ou obtenir des correctifs de sécurité.
- Évitez les boutiques d'applications non officielles qui proposent du contenu en streaming gratuit. Le FBI les mentionne explicitement dans son guide BADBOX 2.0 .
- Ne désactivez pas les protections pour qu'une application fonctionne. Les demandes de désactivation de Google Play Protect sont un signe d'alerte, tout comme… Android appareils sans certification Play Protect.
- Si vous remarquez quelque chose de suspect, déconnectez l'appareil de votre réseau le temps de mener votre enquête.
- Placez les appareils intelligents incapables d'exécuter un logiciel de sécurité sur un réseau distinct, isolé de vos ordinateurs et téléphones, comme un réseau invité.
Les escrocs en savent plus sur vous que vous ne le pensez.
Malwarebytes Mobile Security Vous protège contre le phishing , les SMS frauduleux, les sites malveillants et bien plus encore. Grâce à sa protection anti-arnaques intégrée, basée sur l'IA et fonctionnant en temps réel.
