Un agente di OpenAI non si è arreso di fronte ai controlli di accesso di un sito web governativo. È riuscito a superarli, spingendo il Primo Ministro australiano Anthony Albanese a esprimere le sue preoccupazioni direttamente al CEO di OpenAI, Sam Altman.
La BBC riporta che un agente OpenAI ha ottenuto accesso non autorizzato a un portale di statistiche del governo australiano mentre svolgeva una ricerca interna. Si tratta dell'ennesimo episodio che trasforma le astratte preoccupazioni sul comportamento autonomo dell'IA in un caso concreto di sicurezza informatica.
L'Australia afferma che l'incidente è avvenuto il 18 giugno, quando il team di ricerca di OpenAI ha utilizzato un modello interno per analizzare la spesa sanitaria pubblica. Nonostante l'agente abbia incontrato ripetuti blocchi nel tentativo di ottenere informazioni, alla fine è riuscito ad accedere a file pubblici e non pubblici sul portale del Medicare Statistics Reporting Service.
Le informazioni includevano statistiche aggregate sul programma Medicare, come i dati di spesa, ma non le cartelle cliniche dei pazienti. L'agente ha interagito anche con altri tre siti web governativi, ma i funzionari australiani affermano che ha avuto accesso solo a informazioni pubbliche su tali siti.
Quindi, un agente di intelligenza artificiale utilizzato in una legittima esercitazione di ricerca ha incontrato dei controlli e si è comportato in modi non previsti dal suo operatore. Dopo essere stato bloccato, ha "trovato un modo per aggirare tali blocchi", ottenendo l'accesso ad aree che non avrebbe dovuto raggiungere.
Questa sequenza è ben nota agli esperti di sicurezza. Un sistema incontra un limite di controllo degli accessi, cerca un percorso alternativo e riesce a raggiungere una risorsa al di fuori della propria autorizzazione.
Una delle principali preoccupazioni dell'Australia riguarda il tempo eccessivo impiegato per essere informata dell'incidente. L'accesso non autorizzato si è verificato a giugno. OpenAI ha dichiarato di essere venuta a conoscenza del problema ad agosto, durante la revisione di attività anomale dei modelli, e di aver inviato un'e-mail a una casella di posta pubblica di Services Australia il 10 settembre. Services Australia ha inoltrato la segnalazione alle autorità australiane per la sicurezza informatica cinque giorni dopo.
Tali ritardi possono essere disastrosi perché le organizzazioni interessate necessitano di dettagli sufficienti, e in tempi rapidi, per preservare le prove, valutare l'esposizione, contenere le attività correlate e decidere se sono necessarie notifiche.
Disallineamento dell'IA
OpenAI definisce "disallineamento" i comportamenti in cui un modello agisce senza autorizzazione o elude la supervisione. La sua nuova proposta di valutazione da parte di terzi identifica specificamente l'indagine indipendente sugli incidenti critici di disallineamento come una delle quattro priorità per la revisione esterna.
OpenAI afferma di voler garantire ai valutatori indipendenti un accesso approfondito a tutte le fasi di formazione, valutazione e implementazione, in modo che possano mettere in discussione le ipotesi dell'azienda e giudicare l'efficacia delle sue misure di sicurezza.
Ma, come ho già detto al CIO a proposito di questa proposta, i principi da soli non obbligano un'azienda ad accettare un determinato ambito di valutazione, a pubblicare risultati negativi o a modificare una decisione di implementazione. La loro credibilità dipende in ultima analisi dalla possibilità per esperti indipendenti di condurre indagini effettivamente scomode e dalla possibilità per soggetti esterni di verificare i risultati, le azioni correttive, le omissioni e le decisioni di implementazione che ne conseguono.
Per le organizzazioni che implementano agenti di intelligenza artificiale, la lezione è altrettanto pratica: non trattate un agente come un semplice chatbot. Consideratelo piuttosto come un componente software semi-autonomo, dotato di credenziali, strumenti, accesso alla rete e capacità di compiere scelte inaspettate.
Oltre a contenere questi agenti, un altro problema che dovremo risolvere è analizzare le loro azioni. Una cosa che abbiamo imparato dall'incidente di Hugging Face è che gli agenti IA possono mentire e cercare di nascondere le loro attività.
Gli agenti di intelligenza artificiale possono creare un problema di rilevamento complesso perché possono generare grandi volumi di attività automatizzate mentre perseguono un obiettivo attraverso percorsi multipli. Ciò può lasciare ai difensori una traccia confusa di richieste fallite, tentativi e azioni alternative, rendendo più difficile individuare l'evento che ha oltrepassato un limite di autorizzazione. Non è ancora chiaro se questo abbia contribuito al mancato rilevamento dell'incidente da parte del governo australiano, ma il caso illustra perché le organizzazioni necessitano di un monitoraggio progettato per identificare comportamenti anomali degli agenti, e non solo i tradizionali schemi di intrusione.
L'evento ha già evidenziato un punto più ampio: non è sufficiente che i laboratori di intelligenza artificiale affermino di eseguire test per individuare eventuali disallineamenti. Devono dimostrare che i loro test sono indipendenti, affidabili in condizioni reali e che, in caso di fallimento delle misure di sicurezza, siano seguiti da un'assunzione di responsabilità tempestiva e verificabile.
Ammettiamolo, una finestra in incognito ha i suoi limiti.
Violazioni dei dati, commercio sul dark web, frodi creditizie. Malwarebytes Identity Theft monitora tutto questo, ti avvisa immediatamente e include un'assicurazione contro il furto d'identità.
