Kundenservice-Chatbots haben eine Aufgabe: dem Nutzer das zu geben, wonach er fragt, ohne einen Menschen zu belästigen. Der neue KI-Support-Assistent von Meta hat diese Vorgabe etwas zu wörtlich genommen. In den letzten Monaten haben Angreifer Support-Chats eröffnet, dem Bot erzählt, sie hätten keinen Zugriff mehr auf Instagram , die ihnen gar nicht gehörten, und sich anschließend die Zugangsdaten gesichert.
Am Wochenende veröffentlichte Meta einen Notfall-Patch, nachdem Instagram des Obama-Weißen Hauses (mittlerweile inaktiv), des Kosmetikhändlers Sephora und eines hochrangigen Vertreters der US-Raumfahrtstreitkräfte gehackt und kurzzeitig mit pro-iranischen Bildern verunstaltet worden waren. Auch die Sicherheitsforscherin und ehemalige Meta-Mitarbeiterin Jane Manchun Wong war davon betroffen.
Wie der Trick funktionierte
Der Angriff war einfach. Die Angreifer fanden heraus, wo der Kontoinhaber wohnte (im Internet gibt es Listen mit den Wohnorten der Kontoinhaber, oder sie konnten das Ziel einfach recherchieren). Anschließend nutzten sie ein VPN die geografische Region des Zielkontos nachzubilden, wodurch sie vermieden, dass die Sicherheitssysteme InstagramAlarm schlugen.
Dann leiteten sie eine normale Passwortzurücksetzung ein und öffneten den Support-Chat. Sie baten den Support-Bot, die E-Mail-Adresse des Kontos zu ändern, und dieser tat genau das und schickte einen Einmalcode direkt in den Posteingang des Angreifers.
Dazu wurde der Chatbot offenbar in die Kontoverwaltungssysteme von Meta eingebunden und erhielt die Berechtigung, Änderungen am Konto vorzunehmen, ohne jedoch zu lernen, wie er überprüfen kann, ob er tatsächlich mit dem echten Kontoinhaber spricht. Sicherheitsexperten haben dafür einen Begriff:„confused deputy“. Dieser Begriff ist bereits seit den 1980er Jahren gebräuchlich.
Um dem verwirrten Bot gerecht zu werden: Die Angreifer waren selbst dann erfolgreich, wenn die erweiterten Sicherheitsmaßnahmen ausgelöst wurden. Offenbar erstellten sie deepfakes Ziele, wobei sie Bilder verwendeten, die – man ahnt es schon – vonInstagram stammten.
Meta ist auf seine eigene KI-Bombe hereingefallen
Meta hat Personal abgebaut und massiv in KI investiert und Anfang dieses Jahres seinen KI-gestützten Support-Assistenten eingeführt, der bei der Kontowiederherstellung und anderen Supportanfragen helfen soll.
Der Nachteil ist, dass die KI offenbar die Möglichkeit erhalten hat, Aktionen wie E-Mail-Änderungen und Passwortzurücksetzungen durchzuführen, ohne dass ausreichende Sicherheitsvorkehrungen getroffen wurden, um zuvor die Identität des Nutzers zu überprüfen.
Andy Stone, ein leitender Mitarbeiter bei Meta Communications, teilte auf X mit, X das Problem behoben worden sei und die betroffenen Konten gesichert würden. Das Unternehmen hat nicht bekannt gegeben, wie viele Konten betroffen waren.
Was tatsächlich funktioniert hat
Warum sollte jemand überhaupt einen Instagram hacken wollen? Rache kann ein Motiv sein, doch meistens geht es um finanziellen Gewinn. Hacker haben Unternehmen erpresst, die diese Accounts für Marketingzwecke nutzen.
Es wurde beobachtet, dass Angreifer, die diese Technik nutzen, gezielt „OG“-Konten mit kurzen oder besonders begehrten Nutzernamen ins Visier nehmen. Wenn Sie Instagram bei Instagram dabei waren und sich einen einprägsamen Nutzernamen gesichert haben, kann dieser auf Schwarzmärkten Tausende von Dollar wert sein.
Was können Sie tun, um sich zu schützen?
Ein altbewährter Ratschlag gilt nach wie vor: Aktivieren Sie die Multi-Faktor-Authentifizierung (MFA). Laut dem erfahrenen Cybersicherheits-Reporter Brian Krebs schlug der Angriff bei Konten fehl, bei denen die MFA aktiviert war, einschließlich solcher, die SMS-Codes verwendeten.
Das macht MFA zwar nicht perfekt, bietet aber einen wichtigen zusätzlichen Schutz.
Der praktische Ratschlag ist also alles andere als glamourös:
- Öffne die Einstellungen Instagram
- Gehen Sie zu Ihrem Meta-Kontocenter
- Aktivieren Sie die Zwei-Faktor-Authentifizierung. Eine Authentifizierungs-App ist besser als eine SMS, aber beides ist besser als gar nichts.
Handeln Sie jetzt, denn die Sache ist möglicherweise noch nicht vorbei. TheCyberSecGuru berichtet, dass ein weiterer Angriff im Umlauf ist, bei dem diesmal ein Android namens BlueStacks verwendet wird, auf dem eine modifizierte Version von Instagram läuft, Instagram neue Eingabeaufforderungen mit versteckten Zeichen Instagram senden, die darauf abzielen, die KI zu manipulieren.
Rechnet mit weiteren Pannen durch „hilfsbereite“ Bots
Dies wird nicht der letzte Angriff auf KI-Chatbots sein. Da immer mehr Unternehmen KI einsetzen, um die Kosten für den Kundensupport zu senken, wird ihre Angriffsfläche zunehmen, und sie werden zahlreiche Fehler machen, während sie versuchen, ein Gleichgewicht zwischen Sicherheit und Funktionalität zu finden.
Die „Meta“-Sicherheitslücke wurde geschlossen, das „Confused Deputy“-Konzept jedoch nicht. Und nichts ist so gefährlich wie eine verwirrte KI, die die Schlüssel zu Ihrem digitalen Leben in der Hand hält.
Betrüger müssen sich nicht in dein System hacken. Es reicht schon, wenn du einmal darauf klickst.
Malwarebytes Identity Theft erkennt verdächtige Aktivitäten, bevor sie zu einem Problem werden.
