Je streamingbox ziet er misschien niet uit als een echte computer. Maar als je genoeg goedkope apparaten met elkaar verbindt, kunnen ze een AI-model draaien.
Onderzoekers van Anthropic hebben dit aangetoond door een Google Gemma-model te draaien op 15 Android -tv-boxen van onbekende merken. Ze waarschuwen dat kleine modellen zich snel kunnen verspreiden over kwetsbare internet-of-things (IoT)-apparaten, waaronder slimme ovens en tv-boxen, en stellen:
"Onze experimenten suggereren dat het nog maanden kan duren voordat kleine AI-modellen in staat zijn zichzelf te repliceren op commerciële internet-of-things (IoT)-apparaten, zoals slimme ovens en apparaten van minder bekende merken." Android "Tv-boxen."
In dit scenario helpt AI een aanvaller niet alleen bij het schrijven van kwaadaardige code. Het wordt onderdeel van de software die de replicatie uitvoert.
Anthropic verdeelt dat proces in vier fasen:
- Zoek een ander apparaat.
- Verkrijg de mogelijkheid om er code op uit te voeren.
- Installeer de software die nodig is om een AI-model uit te voeren.
- Verspreid je verder vanuit de nieuwe gastheer.
De onderzoekers testten of AI-agenten deze reeks konden voltooien. Ze slaagden er niet in om aan te tonen dat een klein model zich kon verspreiden en zelfstandig kon draaien op gehackte huishoudelijke apparaten.
De tests die gebruikt werden Android Emulators met niet-geauthenticeerde debugtoegang maken het voor de agents veel gemakkelijker om toegang te krijgen dan op correct beveiligde apparaten. Grote bestandsoverdrachten en continue communicatie tussen apparaten kunnen replicatie in de praktijk gemakkelijker detecteerbaar maken, terwijl beperkte rekenkracht het proces kan vertragen. Cruciaal is dat de experimenten geen model hebben opgeleverd dat zowel krachtig genoeg is om het replicatieproces te voltooien als klein genoeg om te draaien op de beoogde consumentenhardware.
Volgens Anthropic zouden kleinere modellen tegen eind 2026 het benodigde niveau kunnen bereiken als de verbetering in het huidige tempo doorgaat.
Varun Chandrasekaran, universitair docent aan de Universiteit van Illinois, vertelde AFP dat de bevindingen overeenkwamen met verwant onderzoek, maar waarschuwde dat het werk van Anthropic niet onafhankelijk was geverifieerd. Hij wees mensen die AI gebruiken om aanvallen te verbeteren aan als de grootste bedreiging op dit moment, in plaats van AI-systemen die op hol slaan.
Botnets op slimme apparaten vormen nu al een probleem.
Het kapen van verbonden apparaten door criminelen is niets nieuws. Mirai en zijn opvolgers hebben routers, bewakingscamera's en digitale videorecorders ingezet in botnets om DDoS-aanvallen (distributed denial-of-service) uit te voeren, waarmee diensten worden overspoeld met verkeer. BADBOX 2.0 illustreert een andere vorm van misbruik: gecompromitteerde consumentenapparaten die worden gebruikt voor activiteiten zoals residentiële proxydiensten, waarbij het internetverkeer van anderen via de internetverbindingen van slachtoffers wordt geleid.
Geen van beide toont autonome AI-replicatie aan, maar beide laten zien dat verbonden apparaten infrastructuur voor criminelen kunnen worden.
Wat je nu kunt doen
De praktische oplossing is om de mogelijkheden voor een aanvaller om misbruik te maken van uw verbonden apparaten te beperken:
- Houd besturingssystemen, software en firmware up-to-date om de blootstelling aan bekende beveiligingslekken te verminderen.
- Koop bij gerenommeerde leveranciers die regelmatig firmware- en beveiligingsupdates leveren. Een voordelig apparaat is minder aantrekkelijk als je de software niet kunt vertrouwen of geen beveiligingsupdates kunt krijgen.
- Vermijd onofficiële appwinkels die gratis streamingcontent beloven. De FBI wijst deze marktplaatsen specifiek aan in haar BADBOX 2.0-richtlijnen .
- Schakel geen beveiligingen uit om een app te laten werken. Verzoeken om Google Play Protect uit te schakelen zijn een waarschuwingssignaal, net als Android apparaten zonder Play Protect-certificering.
- Als u iets verdachts opmerkt, koppelt u het apparaat los van uw netwerk terwijl u de zaak onderzoekt.
- Plaats slimme apparaten die geen beveiligingssoftware kunnen uitvoeren op een apart netwerk, geïsoleerd van uw computers en telefoons, bijvoorbeeld een gastnetwerk.
Oplichters weten meer over je dan je denkt.
Malwarebytes Mobile Security je tegen phishing, oplichtings-sms’jes, schadelijke websites en nog veel meer. Met de ingebouwde, door AI aangestuurde Scam Guard die in realtime werkt.
