Chatboty obsługi klienta mają jedno zadanie: dostarczyć użytkownikowi to, o co prosi, bez angażowania człowieka. Nowy asystent wsparcia oparty na sztucznej inteligencji Meta potraktował to zadanie zbyt poważnie. W ciągu ostatnich kilku miesięcy atakujący otwierali czaty wsparcia, informując bota o zablokowaniu dostępu. Instagram konta, których nie byli właścicielami i zabrali klucze.
W weekend Meta wprowadziła awaryjną łatkę po Instagram Konta należące do Białego Domu Obamy (obecnie uśpione), sieci sklepów kosmetycznych Sephora oraz wysokiego rangą urzędnika Sił Kosmicznych USA zostały przejęte i na krótko zhakowane proirańską grafiką. Zaatakowano również Jane Manchun Wong, badaczkę bezpieczeństwa i byłą pracownicę Meta.
Jak działała ta sztuczka
Atak był prosty. Atakujący ustalili, gdzie mieszka właściciel konta (listy miast właścicieli kont są dostępne online, mogli też po prostu sprawdzić, kto jest celem ataku). Następnie użyli VPN aby dopasować region geograficzny konta docelowego, co pozwoliło uniknąć podnoszenia flag Instagram systemy bezpieczeństwa.
Następnie rozpoczęli standardową procedurę resetowania hasła i otworzyli czat pomocy technicznej. Poprosili bota AI obsługującego czat o zmianę adresu e-mail na koncie, a ten wykonał polecenie, wysyłając jednorazowy kod bezpośrednio na skrzynkę odbiorczą atakującego.
W tym celu chatbot został najwyraźniej zintegrowany z systemami zarządzania kontami firmy Meta i otrzymał uprawnienia do wprowadzania zmian na kontach, nie nauczono go jednak, jak sprawdzić, czy rozmawia z prawdziwym właścicielem konta. Specjaliści ds. bezpieczeństwa mają na to określenie:„confused deputy”. Termin ten jest w użyciu od lat 80.
Uczciwie mówiąc, atakujący odnieśli sukces nawet po uruchomieniu wzmocnionych zabezpieczeń. Najwyraźniej stworzyli nagrania wideo deepfakes swoich celów, wykorzystując obrazy zebrane z — zgadłeś — Instagram .
Meta padła ofiarą własnej sztuczki z AI
Firma Meta redukuje zatrudnienie i przeznacza znaczne środki na rozwój sztucznej inteligencji; na początku tego roku wprowadziła opartego na sztucznej inteligencji asystenta obsługi klienta, który ma pomagać w odzyskiwaniu kont i obsłudze innych zgłoszeń do działu pomocy technicznej.
Minusem jest to, że sztuczna inteligencja otrzymała najwyraźniej możliwość wykonywania takich czynności, jak zmiana adresu e-mail czy resetowanie hasła, bez zastosowania wystarczających zabezpieczeń pozwalających najpierw potwierdzić tożsamość użytkownika.
Dyrektor ds. komunikacji Meta Andy Stone powiedział : X że problem został rozwiązany, a zagrożone konta zostały zabezpieczone. Firma nie ujawniła, ile kont zostało dotkniętych problemem.
Co faktycznie zadziałało
Dlaczego ktoś chciałby włamać się do Instagram Konto mimo wszystko? Zemsta może być motywacją, ale najczęściej celem jest zysk finansowy. Hakerzy szantażują firmy, które wykorzystują te konta do celów marketingowych.
Atakujący używający tej techniki zostali również zauważeni w przypadku kont „OG” z krótkimi lub bardzo pożądanymi nazwami użytkownika. Jeśli dołączyłeś Instagram wcześnie i pod zapamiętanym pseudonimem, może być wart tysiące dolarów na czarnym rynku.
Co możesz zrobić, aby się chronić?
Niezmienna rada nadal ma zastosowanie: włącz uwierzytelnianie wieloskładnikowe (MFA). Według Briana Krebsa, doświadczonego dziennikarza zajmującego się cyberbezpieczeństwem, atak nie powiódł się w przypadku kont, na których włączono uwierzytelnianie wieloskładnikowe, w tym tych korzystających z kodów SMS.
Nie oznacza to, że MFA jest rozwiązaniem idealnym, ale stanowi ważny dodatkowy poziom zabezpieczenia.
W praktyce rada jest więc mało efektowna:
- Otwarte Instagram Ustawienia
- Przejdź do Centrum kont Meta
- Włącz uwierzytelnianie dwuskładnikowe. Aplikacja do uwierzytelniania jest lepsza niż SMS, ale każda z tych metod jest lepsza niż nic.
Zrób to teraz, bo to może jeszcze nie być koniec. TheCyberSecGuru donosi o kolejnym ataku, tym razem z użyciem Android emulator o nazwie BlueStacks, który uruchamia zmodyfikowaną wersję Instagram wysyłania nowych komunikatów zawierających ukryte znaki, mające na celu manipulowanie sztuczną inteligencją.
Spodziewajcie się kolejnych wpadek ze strony „pomocnych” botów
To nie będzie ostatni atak na chatboty oparte na sztucznej inteligencji. W miarę jak coraz więcej firm będzie wykorzystywać sztuczną inteligencję do obniżania kosztów obsługi klienta, powierzchnia ataku będzie się powiększać, a firmy będą popełniać wiele błędów, próbując znaleźć równowagę między bezpieczeństwem a funkcjonalnością.
Luka w zabezpieczeniach Meta została załatana, ale koncepcja „zdezorientowanego zastępcy” pozostała. A nie ma nic bardziej szkodliwego niż zdezorientowana sztuczna inteligencja, która ma dostęp do wszystkich aspektów Twojego cyfrowego życia.
Oszuści nie muszą włamują się do twojego komputera. Wystarczy, że raz klikniesz.
Rozwiązanie Malwarebytes Identity Theft Protection wykrywa podejrzaną aktywność zanim stanie się problemem.
