Un nuovo tipo di attacco di prompt injection dimostra perché concedere agli assistenti virtuali l'accesso a browser, strumenti di programmazione e dati privati richiede particolare cautela.
I ricercatori nel campo dell'intelligenza artificiale descrivono la "Cryptographic Context Injection" (iniezione di contesto crittografico), un attacco che nasconde istruzioni dannose all'interno di dati crittografati. L'IA viene quindi indotta a decrittografare tali dati utilizzando il proprio strumento di esecuzione del codice. Di conseguenza, l'IA potrebbe trattare il testo risultante come se si trattasse di informazioni interne attendibili.
Un'iniezione di prompt è un po' come lasciare una falsa istruzione all'interno di un documento affinché un assistente IA la legga. Invece di seguire solo la richiesta dell'utente, l'assistente potrebbe essere ingannato e indotto a seguire le istruzioni di un aggressore nascoste in una pagina web, un'e-mail o un file.
Come avevamo riportato mesi fa, gli esperti hanno avvertito che gli attacchi di prompt injection rappresentano un problema che potrebbe non essere mai risolto. Il prompt injection funziona perché i modelli di intelligenza artificiale non sono in grado di distinguere in modo affidabile tra le istruzioni legittime e quelle di un attaccante, quindi a volte obbediscono a quelle sbagliate.
Per ridurre questo rischio, i fornitori di IA configurano i loro modelli con dei meccanismi di protezione: protezioni progettate per impedire ai sistemi di IA di compiere azioni inappropriate, intenzionalmente o involontariamente.
I ricercatori hanno scoperto che le istruzioni dannose potevano essere nascoste ad alcuni sistemi di protezione dell'IA crittografandole. L'IA stessa poteva quindi essere ingannata e indotta a decrittografare tali istruzioni utilizzando i suoi strumenti di programmazione.
Nel momento in cui le istruzioni sono diventate leggibili, avevano già superato i controlli di sicurezza iniziali. L'intelligenza artificiale ha quindi potuto scambiarle per istruzioni legittime e seguirle.
È un po' come nascondere istruzioni dannose in un linguaggio che il sistema di sicurezza non riesce a comprendere. L'IA le traduce solo dopo che hanno superato i controlli di sicurezza, e solo allora può eseguirle.
I ricercatori hanno testato il loro metodo su due agenti di intelligenza artificiale, ottenendo risultati diversi. Nel caso di Grok, i ricercatori affermano che l'attacco potrebbe rubare informazioni quali il nome dell'utente, la posizione approssimativa, il livello di abbonamento e la cronologia delle conversazioni. In Gemini, hanno utilizzato la tecnica per aggirare i controlli di sicurezza e generare contenuti che il modello normalmente non produrrebbe.
“In Grok, una semplice funzione 'riassumi questa pagina' ruba i dati della chat dell'utente senza alcun clic o avviso. In Gemini, produce contenuti che il modello normalmente rifiuta. Entrambi sono sistemi di produzione in tempo reale.”
I ricercatori non hanno fornito tutti i dettagli perché xAI non aveva intrapreso alcuna azione dopo che la falla in Grok era stata segnalata nel giugno 2026. Gemini, d'altro canto, ha apportato dei miglioramenti, ma non ha ancora chiuso completamente la falla.
Come stare al sicuro
Un assistente basato sull'intelligenza artificiale può essere utile, ma non bisogna affidargli automaticamente dati sensibili o strumenti potenti.
- Trattate con cautela i riassunti generati dall'IA di pagine web, documenti e link condivisi sconosciuti, soprattutto quando l'assistente è in grado di navigare o eseguire codice.
- Non incollare password, codici di recupero, chiavi API, informazioni finanziarie o dettagli sensibili relativi alla salute e al lavoro nelle chat con IA, a meno che tu non sappia come verranno gestite tali informazioni.
- Esamina gli strumenti connessi e le autorizzazioni di un assistente AI. Rimuovi gli accessi non necessari, in particolare quelli relativi a email, archiviazione cloud, repository del codice sorgente e integrazioni esterne.
- Siate scettici se uno strumento basato sull'intelligenza artificiale vi chiede di decrittografare, decodificare, eseguire uno script, aprire un nuovo link o caricare dati nell'ambito di un'attività apparentemente ordinaria.
- Mantieni aggiornati il browser e le applicazioni di intelligenza artificiale e consulta gli avvisi di sicurezza dei fornitori quando utilizzi funzionalità come la navigazione, gli agenti autonomi o l'esecuzione di codice.
- Utilizza una soluzione antimalware aggiornata e in tempo reale per rilevare e bloccare download dannosi e connessioni sospette.
C'è qualcosa che non va? Controlla prima di cliccare.
Malwarebytes Guardti aiuta ad analizzare immediatamente link, messaggi e screenshot sospetti.
Disponibile conMalwarebytes Premium per tutti i tuoi dispositivi eMalwarebytes per iOS Android.
