Nel corso di una valutazione interna della sicurezza condotta da OpenAI, una catena di modelli di intelligenza artificiale è sfuggita alla propria sandbox, ha raggiunto Internet e ha quindi avuto accesso all'infrastruttura di Hugging Face per portare a termine l'obiettivo del test.
OpenAI è un'azienda leader nel campo della ricerca e dell'applicazione dell'intelligenza artificiale (IA). Il suo prodotto più noto è senza dubbio ChatGPT.
Hugging Face è un sito web in cui sviluppatori e ricercatori condividono e utilizzano strumenti e modelli di intelligenza artificiale, proprio come i programmatori utilizzano GitHub per condividere il codice e collaborare alla sua sviluppo.
Entrambe le società hanno indagato sull'incidente e hanno concluso che esso si è verificato nel corso di un test di sicurezza controllato, piuttosto che a seguito di un attacco deliberato sferrato da un operatore umano.
OpenAI ha dichiarato che i modelli erano in fase di test per verificarne le capacità informatiche con restrizioni di sicurezza ridotte e che il sistema è riuscito a sfuggire all’ambiente controllato sfruttando una vulnerabilità nella configurazione di test. Una volta ottenuto l’accesso a Internet, ha preso di mira Hugging Face poiché tale piattaforma era rilevante ai fini dell’attività di valutazione.
Hugging Face ha dichiarato che l'incidente ha comportato un accesso non autorizzato a una parte limitata della propria infrastruttura di produzione, tra cui un piccolo insieme di set di dati interni e alcune credenziali. L'azienda ha definito l'evento insolito poiché sembra essere stato condotto dall'inizio alla fine da un sistema autonomo basato su intelligenza artificiale.
A differenza degli assistenti IA tradizionali, che attendono i comandi dell’utente, gli agenti IA sono progettati per perseguire un obiettivo in modo autonomo. Sono in grado di ragionare, pianificare e svolgere attività articolate in più fasi, tra cui l’accesso a file, l’interrogazione di database e l’interazione con servizi online, spesso con una supervisione umana minima.
Le informazioni rese pubbliche indicano una serie di falle piuttosto che un singolo bug. OpenAI ha dichiarato che il modello è riuscito a sfuggire attraverso una vulnerabilità zero-day nel proxy della cache del registro dei pacchetti, che faceva parte del suo ambiente di ricerca isolato. Ha poi sfruttato l’escalation dei privilegi e il movimento laterale per raggiungere un nodo con accesso a Internet.
Da lì, secondo quanto riferito, il modello avrebbe cercato su Hugging Face soluzioni pertinenti alla valutazione e, in almeno un percorso, avrebbe combinato le credenziali rubate con ulteriori vulnerabilità per accedere ai sistemi di produzione di Hugging Face.
Non sembra che si sia trattato di una violazione su larga scala che abbia interessato l’intera piattaforma Hugging Face. Stando alle informazioni rese pubbliche, l’intrusione è stata circoscritta, individuata e oggetto di indagine. Ciò non significa nemmeno che il sistema di intelligenza artificiale agisse con un intento inteso nel senso umano del termine. Il problema principale è stato che un sistema autonomo, sottoposto a test per verificarne le capacità informatiche, è riuscito a sfuggire all’ambiente progettato per contenerlo.
Se non altro, l'incidente dimostra che gli agenti di intelligenza artificiale autonomi sono in grado di sferrare attacchi complessi qualora le misure di sicurezza a loro protezione venissero meno. Un pericolo di cui siamo ben consapevoli.
Non ci limitiamo a segnalare le minacce, ma le eliminiamo.
I rischi per la sicurezza informatica non dovrebbero mai diffondersi al di là di un titolo di giornale. Tenete le minacce lontane dai vostri dispositivi scaricando Malwarebytes oggi stesso.
