I chatbot del servizio clienti hanno un unico compito: fornire all'utente ciò che richiede senza coinvolgere un operatore umano. Il nuovo assistente di supporto basato sull'intelligenza artificiale di Meta ha preso questa direttiva un po' troppo alla lettera. Negli ultimi mesi, alcuni malintenzionati hanno avviato chat di assistenza, sostenendo al bot di non riuscire ad accedere ad Instagram che non possedevano, e sono riusciti a impossessarsene.
Nel fine settimana, Meta ha rilasciato una patch di emergenza dopo che Instagram appartenenti alla Casa Bianca dell'era Obama (ora inattivi), al marchio di cosmetici Sephora e a un alto funzionario della Space Force statunitense sono stati violati e temporaneamente deturpati con immagini filo-iraniane. Anche la ricercatrice di sicurezza ed ex dipendente di Meta Jane Manchun Wong è stata colpita.
Come funzionava il trucco
L'attacco era semplice. Gli hacker hanno individuato il luogo di residenza del titolare dell'account (online sono disponibili elenchi delle città di residenza dei titolari di account, oppure è possibile semplicemente fare delle ricerche sul bersaglio). Hanno poi utilizzato una VPN simulare la posizione geografica dell'account bersaglio, evitando così di destare sospetti nei sistemi di sicurezza Instagram.
A quel punto hanno avviato la normale procedura di reimpostazione della password e hanno aperto la chat dell'assistenza. Hanno chiesto al bot di intelligenza artificiale che forniva assistenza di modificare l'indirizzo e-mail associato all'account, e il bot ha eseguito esattamente la richiesta, inviando un codice monouso direttamente nella casella di posta dell'autore dell'attacco.
A tal fine, sembra che il chatbot sia stato integrato nei sistemi di gestione degli account di Meta con l'autorizzazione ad apportare modifiche agli account, ma senza che gli fosse stato insegnato come verificare di trovarsi effettivamente in contatto con il vero titolare dell'account. Gli esperti di sicurezza hanno un nome per questo fenomeno:«confused deputy». Il termine è in uso fin dagli anni '80.
A onor del vero, bisogna dire che gli hacker sono riusciti a portare a termine l'attacco anche quando sono stati attivati i sistemi di sicurezza avanzati. A quanto pare, creavano video deepfakes loro vittime utilizzando immagini raccolte da — avete indovinato —Instagram.
Meta è caduta nella trappola che lei stessa aveva teso con la propria IA
Meta ha ridotto il proprio organico e investito ingenti somme nell'intelligenza artificiale, lanciando all'inizio di quest'anno un assistente di assistenza basato sull'intelligenza artificiale per aiutare a gestire il recupero degli account e altre richieste di assistenza.
Il lato negativo è che sembra che all'IA sia stata concessa la possibilità di eseguire operazioni quali la modifica dell'indirizzo e-mail e il ripristino della password senza applicare misure di sicurezza sufficienti per verificare preventivamente l'identità dell'utente.
Andy Stone, dirigente del settore delle comunicazioni di Meta, ha dichiarato su X il problema è stato risolto e che gli account interessati sono stati messi in sicurezza. L'azienda non ha rivelato quanti account siano stati coinvolti.
Cosa ha funzionato davvero
Ma perché mai qualcuno dovrebbe voler hackerare un Instagram ? La vendetta può essere una motivazione, ma il più delle volte l'obiettivo è il guadagno economico. Gli hacker hanno ricattato aziende che utilizzano questi account per il marketing.
Sono stati inoltre individuati hacker che utilizzano questa tecnica per prendere di mira account "OG" con nomi utente brevi o particolarmente ambiti. Se ti sei iscritto Instagram e hai registrato un nome utente facile da ricordare, questo potrebbe valere migliaia di dollari sui mercati clandestini.
Cosa puoi fare per proteggerti?
Un consiglio che non passa mai di moda è ancora valido: attiva l'autenticazione a più fattori (MFA). Secondo Brian Krebs, giornalista esperto di sicurezza informatica, l'attacco non è andato a buon fine sugli account che avevano attivato l'MFA, compresi quelli che utilizzavano codici via SMS.
Questo non rende MFA perfetto, ma aggiunge un importante livello di protezione.
Il consiglio pratico, quindi, è tutt'altro che affascinante:
- Apri le impostazioni Instagram
- Accedi al tuo Centro account Meta
- Attiva l'autenticazione a due fattori. Un'app di autenticazione è preferibile agli SMS, ma entrambe le soluzioni sono comunque meglio di niente.
Agisci subito, perché la faccenda potrebbe non essere ancora finita. TheCyberSecGuru riferisce che è in circolazione un altro attacco, questa volta tramite un Android chiamato BlueStacks che esegue una versione modificata di Instagram inviare nuovi messaggi contenenti caratteri nascosti, pensati per manipolare l'intelligenza artificiale.
Aspettatevi altri pasticci da parte dei bot “utili”
Questo non sarà l'ultimo attacco contro i chatbot basati sull'intelligenza artificiale. Man mano che un numero crescente di aziende ricorrerà all'intelligenza artificiale per ridurre i costi dell'assistenza clienti, la loro superficie di attacco aumenterà e commetteranno numerosi errori nel tentativo di trovare un equilibrio tra sicurezza e funzionalità.
La vulnerabilità Meta è stata corretta, ma il concetto di "confused deputy" no. E non c'è nulla di più dannoso di un'intelligenza artificiale disorientata che detiene le chiavi della tua vita digitale.
I truffatori non hanno bisogno di hackerarti. Basta che tu faccia clic una sola volta.
Malwarebytes Identity Theft individua le attività sospette prima che diventino un problema.
