Mac Der Sicherheitsforscher Patrick Wardle sagt, es sei trivial, Muse in „die ultimative Hintertür“ zu verwandeln.
KI-Assistenten entwickeln sich zunehmend von reinen Fragebeantwortern zu Agenten, die Aufgaben planen, vernetzte Dienste nutzen und eigenständig Aktionen ausführen können. Dazu gehören beispielsweise das Buchen von Terminen, das Ausfüllen von Formularen, das Erstellen von Dokumenten, das Tätigen von Einkäufen oder die Interaktion mit E-Mails und Kalendern.
Dafür benötigen sie mehr Berechtigungen, Kontoverbindungen und sensible Daten. Als Meta also versprach, dass „Muse von Grund auf für Datenschutz und Sicherheit entwickelt wurde“, erwarteten wir keinen KI-Agenten, der sich so leicht manipulieren lässt, einem Angreifer all diese Zugriffsrechte zu gewähren.
Laut Meta kann Muse Termine, Formulare, Kundenservice-Interaktionen, Einkäufe, die Erstellung von Dokumenten und Verbindungen zu Diensten wie WhatsApp, E-Mail, Kalendern und sozialen Plattformen verwalten. Es kann außerdem macOS-Berechtigungen erhalten, um auf geschützte Ressourcen wie Dateien, Mikrofon, Kamera, Standort und Kalender zuzugreifen.
Laut Ars Technica entdeckte Wardle, dass eine lokal laufende Anwendung oder ein Terminalbefehl eine undokumentierte Konfigurationseinstellung von Muse verändern kann, die den für die Diktiertranskription verwendeten Server steuert. Durch Umleitung des Diktierdatenverkehrs auf einen vom Angreifer kontrollierten Server kann dieser Sprachansagen abfangen und das Authentifizierungstoken für das Muse-Konto des Opfers erlangen.
Dies ist keine Sicherheitslücke, die die Ausführung von Remote-Code ermöglicht und ein ansonsten sauberes System gefährden könnte. Mac Der Angreifer benötigt zunächst eine Möglichkeit, Code lokal auszuführen, beispielsweise durch Malware, eine bösartige Anwendung oder Social Engineering.
Wie wir jedoch bei Infostealer-Malware gesehen haben, die ihren Weg auf Macs gefunden hat , ist dieser erste Zugriff alles andere als unmöglich.
Jemand behält Ihre Konten im Auge. Stellen Sie sicher, dass wir das sind.
Herkömmliche Infostealer-Malware muss Browserdaten, Anmeldeinformationen, Dokumente, Chatverläufe und andere wertvolle Daten selbstständig aufspüren. Ein kompromittierter KI-Agent könnte diese Hürde senken, indem er den Zugriff auf mehrere Dienste und Betriebssystemberechtigungen hinter einer bereits authentifizierten Schnittstelle bündelt.
Letztendlich geht es hier nicht nur um eine unsichere Konfigurationseinstellung. Es zeigt, warum KI-Agenten einen höheren Sicherheitsstandard benötigen als gewöhnliche Anwendungen.
Wie man sicher bleibt
Wardles Rat bezüglich Muse ist einfach: „Bitte nicht installieren.“
Die gleiche Vorsicht sollte auch für andere KI-Agenten gelten.
Das Open Worldwide Application Security Project (OWASP), eine gemeinnützige Stiftung, die kostenlose Leitlinien zur Anwendungssicherheit bereitstellt, listet unter den größten Sicherheitsrisiken von KI-Agenten Prompt Injection, Tool-Missbrauch, Privilegienausweitung, Datenexfiltration, übermäßige Autonomie, Speichervergiftung und Offenlegung sensibler Daten auf.
Eine sinnvolle Regel besagt, dass ein KI-Agent nicht mehr Zugriffsrechte haben sollte als nötig und dass er nicht vertrauenswürdige Anweisungen nicht ohne aussagekräftige Prüfungen in sensible Aktionen umsetzen können sollte. In der Praxis bedeutet dies:
- Vermeiden Sie es, einem neuen Mitarbeiter gleichzeitig umfassenden Zugriff auf E-Mails, Chat-Apps, Kalender, Cloud-Speicher, Zahlungsmethoden und Geräteberechtigungen zu gewähren.
- Überprüfen und entfernen Sie regelmäßig Verbindungen, die der Agent nicht wirklich benötigt.
- Seien Sie sich der Gefahr von Prompt-Injection bewusst. Gehen Sie nicht davon aus, dass ein KI-Agent schädliche Anweisungen erkennt, die in einer Webseite, einem Dokument, einer E-Mail oder anderen externen Inhalten eingebettet sind.
- Achten Sie auf ungewöhnliches Agentenverhalten, wie z. B. unerwartete Anfragen nach neuen Berechtigungen, erneute Kontoauthentifizierung, externe Dateifreigabe oder Aktionen, die Sie nicht selbst initiiert haben.
Sie sollten Ihr Gerät auch vor Schadsoftware schützen:
- Halten Sie Ihre Software auf dem neuesten Stand, damit Angreifer bekannte Sicherheitslücken nicht gegen Sie ausnutzen können.
- Verwenden Sie auf all Ihren Geräten eine aktuelle Echtzeit-Antimalware-Lösung .
- Um sich vor ClickFix-Angriffen zu schützen, befolgen Sie keine Anweisungen auf Webseiten oder in unerwünschten Nachrichten, die Sie auffordern, Befehle auszuführen.
Von der Meldung von Bedrohungen bis zu deren Beseitigung.
Cybersecurity-Risiken sollten nie über eine Schlagzeile hinausgehen. Laden Sie noch heute Malwarebytes herunter, um Bedrohungen von Ihren Geräten fernzuhalten.
