Kundenservice-Chatbots haben eine Aufgabe: dem Nutzer das Gewünschte ohne menschliche Beteiligung zu liefern. Metas neuer KI-Supportassistent nahm diese Vorgabe etwas zu ernst. In den letzten Monaten öffneten Angreifer Support-Chats und teilten dem Bot mit, dass sie ausgesperrt seien. Instagram Konten, die ihnen nicht gehörten, und einfach mit den Schlüsseln davonzukommen.
Am Wochenende veröffentlichte Meta einen Notfall-Patch, nachdem Instagram Die Accounts des Weißen Hauses unter Obama (mittlerweile inaktiv), des Kosmetikkonzerns Sephora und eines hochrangigen Beamten der US-Weltraumstreitkräfte wurden gehackt und kurzzeitig mit pro-iranischen Bildern verunstaltet. Auch der Account der Sicherheitsforscherin und ehemaligen Meta-Mitarbeiterin Jane Manchun Wong war betroffen.
Wie der Trick funktionierte
Der Angriff war simpel. Die Angreifer ermittelten den Wohnort des Kontoinhabers (es gibt online Listen mit den Wohnorten von Kontoinhabern, oder sie konnten das Ziel einfach recherchieren). Dann verwendeten sie … VPN um die geografische Region des Zielkontos abzugleichen, wodurch keine Warnsignale ausgelöst wurden Instagram Sicherheitssysteme von
Dann leiteten sie eine normale Passwortzurücksetzung ein und öffneten den Support-Chat. Sie baten den Support-Bot, die E-Mail-Adresse des Kontos zu ändern, und dieser tat genau das und schickte einen Einmalcode direkt in den Posteingang des Angreifers.
Dazu wurde der Chatbot offenbar in die Kontoverwaltungssysteme von Meta eingebunden und erhielt die Berechtigung, Änderungen am Konto vorzunehmen, ohne jedoch zu lernen, wie er überprüfen kann, ob er tatsächlich mit dem echten Kontoinhaber spricht. Sicherheitsexperten haben dafür einen Begriff:„confused deputy“. Dieser Begriff ist bereits seit den 1980er Jahren gebräuchlich.
Fairerweise muss man sagen, dass die Angreifer auch bei aktivierter erhöhter Sicherheit erfolgreich waren. Offenbar erstellten sie Videos. deepfakes ihre Ziele mithilfe von Bildern zu erreichen, die – Sie ahnen es schon – aus folgenden Quellen stammen: Instagram Die
Meta ist auf seine eigene KI-Bombe hereingefallen
Meta hat Personal abgebaut und massiv in KI investiert und Anfang dieses Jahres seinen KI-gestützten Support-Assistenten eingeführt, der bei der Kontowiederherstellung und anderen Supportanfragen helfen soll.
Der Nachteil ist, dass die KI offenbar die Möglichkeit erhalten hat, Aktionen wie E-Mail-Änderungen und Passwortzurücksetzungen durchzuführen, ohne dass ausreichende Sicherheitsvorkehrungen getroffen wurden, um zuvor die Identität des Nutzers zu überprüfen.
Andy Stone, ein Geschäftsführer von Meta Communications, sagte am X Das Problem sei behoben und die betroffenen Konten würden gesichert, teilte das Unternehmen mit. Wie viele Konten betroffen waren, hat es nicht bekannt gegeben.
Was tatsächlich funktioniert hat
Warum sollte jemand ein System hacken wollen? Instagram Wieso? Rache kann ein Motiv sein, aber meistens geht es um finanziellen Gewinn. Kontoentführer haben Unternehmen erpresst , die auf diese Konten für Marketingzwecke angewiesen sind.
Angreifer, die diese Technik anwenden, wurden auch dabei beobachtet, wie sie es auf „OG“-Konten mit kurzen oder besonders begehrten Benutzernamen abgesehen haben. Wenn Sie beigetreten sind Instagram Frühzeitig registriert und mit einem einprägsamen Namen versehen, kann es auf dem Schwarzmarkt Tausende von Dollar wert sein.
Was können Sie tun, um sich zu schützen?
Ein altbewährter Ratschlag gilt nach wie vor: Aktivieren Sie die Multi-Faktor-Authentifizierung (MFA). Laut dem erfahrenen Cybersicherheits-Reporter Brian Krebs schlug der Angriff bei Konten fehl, bei denen die MFA aktiviert war, einschließlich solcher, die SMS-Codes verwendeten.
Das macht MFA zwar nicht perfekt, bietet aber einen wichtigen zusätzlichen Schutz.
Der praktische Ratschlag ist also alles andere als glamourös:
- Offen Instagram 's Einstellungen
- Gehen Sie zu Ihrem Meta-Kontocenter
- Aktivieren Sie die Zwei-Faktor-Authentifizierung. Eine Authentifizierungs-App ist besser als eine SMS, aber beides ist besser als gar nichts.
Handeln Sie jetzt, denn die Sache ist möglicherweise noch nicht vorbei. TheCyberSecGuru berichtet von einem weiteren Angriff, der diesmal über eine... Android Ein Emulator namens BlueStacks, auf dem eine modifizierte Version von Instagram neue Eingabeaufforderungen mit versteckten Zeichen zu senden, die die KI manipulieren sollen.
Rechnet mit weiteren Pannen durch „hilfsbereite“ Bots
Dies wird nicht der letzte Angriff auf KI-Chatbots sein. Da immer mehr Unternehmen KI einsetzen, um die Kosten für den Kundensupport zu senken, wird ihre Angriffsfläche zunehmen, und sie werden zahlreiche Fehler machen, während sie versuchen, ein Gleichgewicht zwischen Sicherheit und Funktionalität zu finden.
Die „Meta“-Sicherheitslücke wurde geschlossen, das „Confused Deputy“-Konzept jedoch nicht. Und nichts ist so gefährlich wie eine verwirrte KI, die die Schlüssel zu Ihrem digitalen Leben in der Hand hält.
Betrüger müssen sich nicht in dein System hacken. Es reicht schon, wenn du einmal darauf klickst.
Malwarebytes Identity Theft Protection erkennt verdächtige Aktivitäten, bevor sie zu einem Problem werden.
