Il Wall Street Journal riporta che nei laboratori di intelligenza artificiale crescono le preoccupazioni per il fatto che la competizione stia spingendo le aziende tecnologiche a correre verso modelli di auto-miglioramento che potrebbero sfuggire al controllo umano.
Jacob Coxon, ricercatore nel campo dell'intelligenza artificiale che ha lavorato presso Anthropic e OpenAI, ha dichiarato :
"Le persone che sviluppano l'intelligenza artificiale credono fermamente che potrebbe ucciderci tutti entro la fine del decennio."
Evan Hubinger, responsabile della scienza dell'allineamento presso Anthropic, che ha lavorato anche presso OpenAI, ha risposto in un post su X :
"Crediamo davvero che l'intelligenza artificiale potrebbe sterminare tutta l'umanità! Personalmente, penso che entro il prossimo decennio la percentuale supererà il 10%."
Hubinger ha aggiunto:
"Ciò che mi preoccupa è la superintelligenza derivante dall'auto-miglioramento ricorsivo, che, come abbiamo detto, sta avvenendo più velocemente di quanto pensassimo."
Questa cifra va considerata come una valutazione personale di Hubinger. Non si tratta di una previsione, di un dato di fatto o di una prova che i chatbot odierni stiano per diventare pericolosi di per sé. Né è un argomento di cui ho sufficienti conoscenze per poterlo avallare o smentire.
I ricercatori stanno studiando attivamente se sistemi altamente performanti possano agire in modi imprevisti , sfruttare vulnerabilità o essere utilizzati per automatizzare attacchi informatici.
Un servizio della BBC riporta che Hubinger ha descritto il rischio derivante dai modelli attuali come basso. Le sue preoccupazioni si concentrano su possibili sistemi futuri con maggiore autonomia e capacità.
Mentre aziende e governi valutano il ritmo di sviluppo dell'IA, abbiamo bisogno di garanzie sensate, tra cui test indipendenti, limiti agli usi autonomi ad alto rischio, trasparenza da parte degli sviluppatori e responsabilità quando i sistemi di IA causano danni.
Tali misure dovrebbero anche affrontare i problemi che già incontriamo, poiché i criminali informatici utilizzano l'IA per frodi, violazioni della privacy e altri reati informatici. Come molte tecnologie potenti, l'IA può essere usata come arma, soprattutto quando le misure di sicurezza sono inadeguate rispetto alle sue capacità.
Le previsioni estreme possono essere emotivamente coinvolgenti, soprattutto quando provengono da persone strettamente coinvolte nella tecnologia. Ma l'incertezza è un'arma a doppio taglio: gli avvertimenti seri meritano un esame attento, non una fede cieca.
Il messaggio pratico non è né "ignorare la sicurezza dell'IA" né "prepararsi a un'apocalisse robotica". Aziende, governi e ricercatori devono collaborare per garantire che le misure di sicurezza tengano il passo con il rapido sviluppo.
La cooperazione può integrare la competizione e, in questo caso, potrebbe essere cruciale.
Il tuo nome, indirizzo e numero di telefono potrebbero già essere in vendita.
I broker di dati raccolgono e vendono i tuoi dati personali a chiunque sia disposto a pagare. Malwarebytes Personal Data Remover liPersonal Data Remover e provvede alla rimozione delle tue informazioni, continuando poi a monitorare la situazione affinché rimangano protette.
