I chatbot del servizio clienti hanno un solo compito: fornire all'utente ciò che chiede senza disturbare un essere umano. Il nuovo assistente di supporto AI di Meta ha preso questo compito un po' troppo sul serio. Negli ultimi mesi, gli aggressori hanno aperto chat di supporto, dicendo al bot che erano stati bloccati fuori da Instagram conti che non erano di loro proprietà, e portandosi via le chiavi.
Nel fine settimana, Meta ha rilasciato una patch di emergenza dopo Instagram Gli account appartenenti alla Casa Bianca di Obama (ora inattivi), al rivenditore di prodotti di bellezza Sephora e a un alto funzionario della US Space Force sono stati violati e brevemente deturpati con immagini filo-iraniane. Anche la ricercatrice di sicurezza ed ex dipendente di Meta, Jane Manchun Wong, è stata colpita.
Come funzionava il trucco
L'attacco è stato semplice. Gli aggressori hanno scoperto dove viveva il proprietario dell'account (esistono elenchi online delle città di residenza dei proprietari degli account, oppure potevano semplicemente fare ricerche sul bersaglio). Poi hanno usato un VPN per corrispondere alla regione geografica dell'account di destinazione, evitando così di sollevare sospetti. Instagram sistemi di sicurezza.
A quel punto hanno avviato la normale procedura di reimpostazione della password e hanno aperto la chat dell'assistenza. Hanno chiesto al bot di intelligenza artificiale che forniva assistenza di modificare l'indirizzo e-mail associato all'account, e il bot ha eseguito esattamente la richiesta, inviando un codice monouso direttamente nella casella di posta dell'autore dell'attacco.
A tal fine, sembra che il chatbot sia stato integrato nei sistemi di gestione degli account di Meta con l'autorizzazione ad apportare modifiche agli account, ma senza che gli fosse stato insegnato come verificare di trovarsi effettivamente in contatto con il vero titolare dell'account. Gli esperti di sicurezza hanno un nome per questo fenomeno:«confused deputy». Il termine è in uso fin dagli anni '80.
A onor del vero, gli aggressori hanno avuto successo anche se la sicurezza avanzata è stata attivata. Apparentemente avrebbero creato video deepfakes dei loro obiettivi utilizzando immagini che sono state raccolte da, indovinate un po', Instagram .
Meta è caduta nella trappola che lei stessa aveva teso con la propria IA
Meta ha ridotto il proprio organico e investito ingenti somme nell'intelligenza artificiale, lanciando all'inizio di quest'anno un assistente di assistenza basato sull'intelligenza artificiale per aiutare a gestire il recupero degli account e altre richieste di assistenza.
Il lato negativo è che sembra che all'IA sia stata concessa la possibilità di eseguire operazioni quali la modifica dell'indirizzo e-mail e il ripristino della password senza applicare misure di sicurezza sufficienti per verificare preventivamente l'identità dell'utente.
Il dirigente di Meta Communications, Andy Stone, ha dichiarato su X che il problema è stato risolto e che gli account interessati sono in fase di messa in sicurezza. L'azienda non ha reso noto il numero esatto di account coinvolti.
Cosa ha funzionato davvero
Perché qualcuno vorrebbe hackerare un Instagram Comunque, l'account? La vendetta può essere una motivazione, ma il più delle volte l'obiettivo è il guadagno finanziario. I pirati informatici hanno ricattato aziende che si affidano a quegli account per il marketing.
È stato inoltre osservato che gli hacker che utilizzano questa tecnica prendono di mira anche account "OG" con nomi utente brevi o molto desiderabili. Se ti sei unito Instagram Se registrato in anticipo e con un nome memorabile, può valere migliaia di dollari sui mercati clandestini.
Cosa puoi fare per proteggerti?
Un consiglio che non passa mai di moda è ancora valido: attiva l'autenticazione a più fattori (MFA). Secondo Brian Krebs, giornalista esperto di sicurezza informatica, l'attacco non è andato a buon fine sugli account che avevano attivato l'MFA, compresi quelli che utilizzavano codici via SMS.
Questo non rende MFA perfetto, ma aggiunge un importante livello di protezione.
Il consiglio pratico, quindi, è tutt'altro che affascinante:
- Aprire Instagram Impostazioni
- Accedi al tuo Centro account Meta
- Attiva l'autenticazione a due fattori. Un'app di autenticazione è preferibile agli SMS, ma entrambe le soluzioni sono comunque meglio di niente.
Fallo ora, perché potrebbe non essere ancora finita. TheCyberSecGuru segnala che un altro attacco sta circolando, questa volta utilizzando un Android emulatore chiamato BlueStacks che esegue una versione modificata di Instagram inviare nuovi prompt con caratteri nascosti progettati per manipolare l'IA.
Aspettatevi altri pasticci da parte dei bot “utili”
Questo non sarà l'ultimo attacco contro i chatbot basati sull'intelligenza artificiale. Man mano che un numero crescente di aziende ricorrerà all'intelligenza artificiale per ridurre i costi dell'assistenza clienti, la loro superficie di attacco aumenterà e commetteranno numerosi errori nel tentativo di trovare un equilibrio tra sicurezza e funzionalità.
La vulnerabilità Meta è stata corretta, ma il concetto di "confused deputy" no. E non c'è nulla di più dannoso di un'intelligenza artificiale disorientata che detiene le chiavi della tua vita digitale.
I truffatori non hanno bisogno di hackerarti. Basta che tu faccia clic una sola volta.
Malwarebytes Identity Theft Protection individua le attività sospette prima che diventino un problema.
