Ihre Streaming-Box sieht vielleicht nicht wie ein besonders leistungsstarker Computer aus. Verbindet man aber genügend preiswerte Geräte miteinander, können diese ein KI-Modell ausführen.
Forscher von Anthropic demonstrierten dies, indem sie ein Google Gemma-Modell auf 15 Android -TV-Boxen unbekannter Hersteller ausführten. Sie warnen davor, dass sich kleine Modelle bald auf anfällige IoT-Geräte (Internet der Dinge) ausbreiten könnten, darunter intelligente Öfen und TV-Boxen, und erklären:
„Unsere Experimente deuten darauf hin, dass kleine KI-Modelle in wenigen Monaten so weit sein könnten, dass sie sich auf kommerziellen IoT-Geräten (Internet der Dinge) wie intelligenten Öfen und No-Name-Produkten selbst replizieren können.“ Android TV-Boxen.“
In diesem Szenario hilft die KI einem Angreifer nicht einfach nur beim Schreiben von Schadcode. Sie wird vielmehr Teil der Software, die die Replikation durchführt.
Anthropic unterteilt diesen Prozess in vier Phasen:
- Suchen Sie ein anderes Gerät.
- Erhalten Sie die Fähigkeit, Code darauf auszuführen.
- Richten Sie die Software ein, die zum Ausführen eines KI-Modells benötigt wird.
- Die Ausbreitung erfolgt weiterhin vom neuen Wirt aus.
Die Forscher testeten, ob KI-Agenten diese Sequenz abschließen könnten. Sie konnten jedoch kein kleines Modell demonstrieren, das sich selbstständig auf kompromittierten Haushaltsgeräten verbreitet und ausführt.
Die verwendeten Tests Android Emulatoren mit unauthentifiziertem Debugging-Zugriff erleichtern es Angreifern erheblich, Zugriff zu erlangen, im Vergleich zu ordnungsgemäß gesicherten Geräten. Große Dateiübertragungen und die kontinuierliche Kommunikation zwischen Geräten können die Erkennung realer Replikationen erleichtern, während begrenzte Rechenleistung diese verlangsamen kann. Entscheidend ist, dass die Experimente kein Modell demonstrierten, das sowohl leistungsfähig genug war, um den Replikationsprozess abzuschließen, als auch klein genug, um auf der vorgesehenen Endgeräte ausgeführt zu werden.
Anthropic geht davon aus, dass kleinere Modelle bis Ende 2026 die erforderliche Leistungsfähigkeit erreichen könnten, wenn die Verbesserungen im bisherigen Tempo anhalten.
Varun Chandrasekaran, Assistenzprofessor an der Universität von Illinois, erklärte gegenüber AFP , die Ergebnisse stimmten mit verwandten Studien überein, wies aber darauf hin, dass die Arbeit von Anthropic nicht unabhängig verifiziert worden sei. Er nannte Personen, die KI zur Verbesserung von Angriffen nutzen, als die derzeit größere Bedrohung, nicht etwa außer Kontrolle geratene KI-Systeme.
Botnetze auf Smartphones und Tablets sind bereits ein Problem.
Die Übernahme vernetzter Geräte durch Kriminelle ist nichts Neues. Mirai und ähnliche Systeme haben Router, Überwachungskameras und digitale Videorekorder in Botnetze eingebunden, um DDoS-Angriffe (Distributed Denial-of-Service) durchzuführen und Dienste mit Datenverkehr zu überlasten. BADBOX 2.0 veranschaulicht eine andere Missbrauchsform: Kompromittierte Endgeräte werden unter anderem für Residential-Proxy-Dienste genutzt, die den Datenverkehr anderer Nutzer über deren Internetverbindungen leiten.
Keiner der beiden Fälle demonstriert eine autonome KI-Replikation, aber beide zeigen, dass vernetzte Geräte zur Infrastruktur für Kriminelle werden können.
Was Sie jetzt tun können
Die praktische Antwort besteht darin, die Möglichkeiten für Angreifer zu verringern, Ihre verbundenen Geräte zu missbrauchen:
- Um das Risiko bekannter Sicherheitslücken zu verringern, sollten Betriebssysteme, Software und Firmware stets auf dem neuesten Stand gehalten werden.
- Kaufen Sie bei seriösen Anbietern, die regelmäßig Firmware- und Sicherheitsupdates bereitstellen. Ein günstiges Gerät ist weniger attraktiv, wenn Sie der Software nicht vertrauen oder keine Sicherheitsupdates erhalten können.
- Meiden Sie inoffizielle App-Stores, die kostenlose Streaming-Inhalte versprechen. Das FBI warnt in seinen BADBOX 2.0-Richtlinien ausdrücklich vor diesen Marktplätzen.
- Deaktivieren Sie keine Schutzmechanismen, um eine App zum Laufen zu bringen. Anfragen zur Deaktivierung von Google Play Protect sind ein Warnsignal, ebenso wie … Android Geräte ohne Play Protect-Zertifizierung.
- Sollten Sie etwas Verdächtiges bemerken, trennen Sie das Gerät während der Untersuchung vom Netzwerk.
- Platzieren Sie Smart-Geräte, auf denen keine Sicherheitssoftware ausgeführt werden kann, in einem separaten Netzwerk, das von Ihren Computern und Telefonen isoliert ist, z. B. in einem Gastnetzwerk.
Betrüger wissen mehr über dich, als du denkst.
Malwarebytes Mobile Security Schützt Sie vor Phishing , betrügerischen SMS, schädlichen Websites und mehr. Mit integriertem, KI-gestütztem Betrugsschutz in Echtzeit.
