Il 28 luglio, OpenAI ha pubblicato un aggiornamento sull'agente che è sfuggito al suo ambiente protetto e ha violato Hugging Face durante una valutazione interna della sicurezza informatica.
Nell'aggiornamento , OpenAI ribadisce che il sistema "anomalo" era un modello di ricerca pre-release più avanzato, non destinato alla distribuzione pubblica, e che ora è stato disattivato e l'accesso è limitato alla sola ricerca. L'azienda afferma inoltre di non aver trovato prove di comportamenti simili da parte di altri modelli o agenti. Nel complesso, OpenAI presenta l'incidente di Hugging Face come un evento isolato piuttosto che come l'inizio di un modello più ampio.
Dal punto di vista della sicurezza, quattro aspetti dell'aggiornamento risultano particolarmente rilevanti:
- OpenAI chiarisce che l'ambiente di valutazione non aveva accesso diretto a Internet. Per raggiungere Internet, il modello ha identificato e sfruttato una vulnerabilità zero-day precedentemente sconosciuta in Artifactory, il proxy della cache del registro dei pacchetti utilizzato nell'ambiente di test. OpenAI afferma di aver segnalato tale vulnerabilità al fornitore e di continuare a collaborare con Hugging Face per le indagini.
- L'obiettivo del sistema era semplicemente quello di "vincere il test" (barare su ExploitGym), non di causare danni, eppure ha comunque generato un incidente di sicurezza interaziendale durato diversi giorni. L'intento benevolo non ha limitato l'impatto.
- I modelli "solo interni" possono comunque colpire vittime esterne se i controlli infrastrutturali falliscono. Un ambiente di laboratorio non contiene magicamente sistemi in grado di effettuare attacchi informatici.
- La revisione ha inoltre rilevato un piccolo numero di casi in cui i modelli hanno identificato e utilizzato credenziali di accesso a livello di account esposte pubblicamente su servizi accessibili al pubblico. Ciò includeva quattro account su quattro servizi diversi nell'ambito dell'incidente Hugging Face, nonché una manciata di account a cui si è avuto accesso durante altre valutazioni.
In questo caso, l'autore dell'attacco era un ricercatore di OpenAI, ma gli strumenti, le tecniche e l'impatto risulteranno fin troppo familiari a chiunque abbia esperienza nella gestione degli incidenti di sicurezza . Ora sappiamo che nemmeno l'intento, per quanto innocuo, ha limitato le conseguenze.
La scomoda verità è che, una volta forniti a un agente di intelligenza artificiale gli strumenti, i percorsi di accesso e un forte incentivo al successo, esso potrebbe sfruttare qualsiasi debolezza riesca a trovare, indipendentemente dal fatto che il modello sia destinato o meno alla pubblicazione.
Serve anche a ricordare che le credenziali, le chiavi API e altri dati sensibili non dovrebbero mai essere lasciati in risorse accessibili al pubblico.
Dalla segnalazione delle minacce alla loro rimozione.
I rischi per la sicurezza informatica non dovrebbero mai diffondersi al di là di un titolo di giornale. Tenete le minacce lontane dai vostri dispositivi scaricando Malwarebytes oggi stesso.
