Chatboty obsługi klienta mają jedno zadanie: zapewnić użytkownikowi to, o co prosi, bez angażowania pracownika. Nowy asystent wsparcia oparty na sztucznej inteligencji firmy Meta potraktował to zadanie nieco zbyt poważnie. W ciągu ostatnich kilku miesięcy cyberprzestępcy otwierali okna czatu pomocy technicznej, informowali bota, że utracili dostęp do Instagram , których nie posiadali, i w ten sposób przejmowali do nich dostęp.
W weekend firma Meta wydała awaryjną poprawkę po tym, jak Instagram należące do administracji Obamy (obecnie nieaktywne), sieci kosmetycznej Sephora oraz wysokiego rangą przedstawiciela Sił Kosmicznych Stanów Zjednoczonych zostały przejęte i na krótko zniszczone poprzez umieszczenie na nich proirańskich treści. Ofiarą ataku padła również badaczka ds. bezpieczeństwa i była pracownica firmy Meta, Jane Manchun Wong.
Jak działała ta sztuczka
Atak był prosty. Atakujący ustalili, gdzie mieszka właściciel konta (w sieci dostępne są listy miast zamieszkania właścicieli kont, a poza tym mogli po prostu przeprowadzić rozeznanie na temat ofiary). Następnie skorzystali z VPN dopasować lokalizację do regionu geograficznego docelowego konta, co pozwoliło uniknąć wzbudzenia podejrzeń systemów bezpieczeństwa Instagram.
Następnie rozpoczęli standardową procedurę resetowania hasła i otworzyli czat pomocy technicznej. Poprosili bota AI obsługującego czat o zmianę adresu e-mail na koncie, a ten wykonał polecenie, wysyłając jednorazowy kod bezpośrednio na skrzynkę odbiorczą atakującego.
W tym celu chatbot został najwyraźniej zintegrowany z systemami zarządzania kontami firmy Meta i otrzymał uprawnienia do wprowadzania zmian na kontach, nie nauczono go jednak, jak sprawdzić, czy rozmawia z prawdziwym właścicielem konta. Specjaliści ds. bezpieczeństwa mają na to określenie:„confused deputy”. Termin ten jest w użyciu od lat 80.
Trzeba jednak przyznać, że atakujący odnosili sukcesy nawet w przypadku uruchomienia ulepszonych zabezpieczeń. Najwyraźniej tworzyli oni deepfakes wideo deepfakes swoje ofiary, wykorzystując zdjęcia zebrane – jak można się domyślić – zInstagram.
Meta padła ofiarą własnej sztuczki z AI
Firma Meta redukuje zatrudnienie i przeznacza znaczne środki na rozwój sztucznej inteligencji; na początku tego roku wprowadziła opartego na sztucznej inteligencji asystenta obsługi klienta, który ma pomagać w odzyskiwaniu kont i obsłudze innych zgłoszeń do działu pomocy technicznej.
Minusem jest to, że sztuczna inteligencja otrzymała najwyraźniej możliwość wykonywania takich czynności, jak zmiana adresu e-mail czy resetowanie hasła, bez zastosowania wystarczających zabezpieczeń pozwalających najpierw potwierdzić tożsamość użytkownika.
Andy Stone, dyrektor ds. komunikacji w Meta, poinformował na X problem został rozwiązany, a konta, których dotyczyła awaria, są obecnie zabezpieczane. Firma nie podała, ile kont zostało dotkniętych awarią.
Co faktycznie zadziałało
Po co w ogóle ktoś miałby chcieć włamać się na Instagram ? Motywem może być chęć zemsty, ale najczęściej celem jest zysk finansowy. Osoby przejmujące konta szantażowały firmy, które wykorzystują je do celów marketingowych.
Zauważono również, że osoby wykorzystujące tę technikę atakują konta „OG” o krótkich lub bardzo atrakcyjnych nazwach użytkownika. Jeśli dołączyłeś Instagram i zarejestrowałeś łatwą do zapamiętania nazwę użytkownika, może ona być warta tysiące dolarów na czarnym rynku.
Co możesz zrobić, aby się chronić?
Niezmienna rada nadal ma zastosowanie: włącz uwierzytelnianie wieloskładnikowe (MFA). Według Briana Krebsa, doświadczonego dziennikarza zajmującego się cyberbezpieczeństwem, atak nie powiódł się w przypadku kont, na których włączono uwierzytelnianie wieloskładnikowe, w tym tych korzystających z kodów SMS.
Nie oznacza to, że MFA jest rozwiązaniem idealnym, ale stanowi ważny dodatkowy poziom zabezpieczenia.
W praktyce rada jest więc mało efektowna:
- Otwórz ustawienia Instagram
- Przejdź do Centrum kont Meta
- Włącz uwierzytelnianie dwuskładnikowe. Aplikacja do uwierzytelniania jest lepsza niż SMS, ale każda z tych metod jest lepsza niż nic.
Zrób to teraz, bo to może jeszcze nie być koniec. Serwis TheCyberSecGuru donosi, że krąży kolejny atak – tym razem wykorzystuje on Android o nazwie BlueStacks, na którym uruchomiono zmodyfikowaną wersję Instagram wysyłać nowe komunikaty zawierające ukryte znaki, mające na celu manipulowanie sztuczną inteligencją.
Spodziewajcie się kolejnych wpadek ze strony „pomocnych” botów
To nie będzie ostatni atak na chatboty oparte na sztucznej inteligencji. W miarę jak coraz więcej firm będzie wykorzystywać sztuczną inteligencję do obniżania kosztów obsługi klienta, powierzchnia ataku będzie się powiększać, a firmy będą popełniać wiele błędów, próbując znaleźć równowagę między bezpieczeństwem a funkcjonalnością.
Luka w zabezpieczeniach Meta została załatana, ale koncepcja „zdezorientowanego zastępcy” pozostała. A nie ma nic bardziej szkodliwego niż zdezorientowana sztuczna inteligencja, która ma dostęp do wszystkich aspektów Twojego cyfrowego życia.
Oszuści nie muszą włamują się do twojego komputera. Wystarczy, że raz klikniesz.
Malwarebytes Identity Theft wykrywa podejrzaną aktywność, zanim stanie się ona problemem.
