Il modello più avanzato di Anthropic fino ad oggi, Claude Mythos Preview (noto anche come Mythos), è stato descritto come una «svolta epocale» nelle prestazioni dell'intelligenza artificiale, in particolare per quanto riguarda le attività di sicurezza informatica.
Anthropic ha cercato di mantenere segreto Mythos fino a poche settimane fa, quando una fuga di dati ha rivelato l'esistenza di quella che l'azienda ha definito la sua intelligenza artificiale più potente mai realizzata. Il modello è considerato sia un potente strumento difensivo sia, potenzialmente, una temibile arma informatica offensiva.
Per questo motivo, l'azienda sta limitando drasticamente l'accesso e sta facendo capire che, per il momento, non intende immetterlo su larga scala sul mercato. La sua presunta capacità di individuare in modo autonomo e persino di concatenare vulnerabilità software su larga scala è al centro sia dell'entusiasmo che del pericolo.
Immaginate uno strumento in grado di individuare autonomamente nuove vulnerabilità in software, sistemi e piattaforme, per poi trasformarle in exploit, anche se ciò richiede di combinarle con altre vulnerabilità.
Se finisse nelle mani sbagliate, ciò potrebbe rappresentare una grave minaccia per la nostra sicurezza informatica. Per questo motivo Anthropic ha limitato l'accesso a un numero ristretto di organizzazioni in tutto il mondo, tra cui grandi aziende tecnologiche e un gruppo selezionato di enti governativi o di sicurezza. Secondo quanto riferito, la NSA starebbe già utilizzando Mythos Preview, apparentemente per sottoporre a stress test e rafforzare i sistemi sensibili, nonostante il Pentagono abbia classificato Anthropic come un rischio per la catena di approvvigionamento.
Mythos è in grado di individuare le vulnerabilità in codici di grandi dimensioni in modo più rapido e affidabile rispetto agli strumenti esistenti, ed è in grado di individuare più falle in un unico sistema e combinarle in catene di exploit a più fasi per portare a termine una compromissione (ad esempio, passando da un semplice web bug al controllo completo di un dominio). Un bug bounty hunter impiegherebbe mesi per trovare un'altra vulnerabilità, figuriamoci una che possa essere concatenata con quella o quelle già scoperte. Riuscirci prima della prima sarebbe altamente improbabile.
In pratica, ciò potrebbe tradursi in attacchi più rapidi, violazioni più complesse e meno tempo a disposizione delle aziende per correggere le vulnerabilità prima che vengano sfruttate.
La stessa Anthropic ha sottolineato che Mythos è in grado di operare con una supervisione minima per lunghi periodi, il che significa che potrebbe condurre campagne di attacchi sistematiche su una scala che nessun team umano sarebbe in grado di raggiungere.
Anthropic ha segnalato questi rischi per la sicurezza in un documento interno:
- L'intelligenza artificiale abbassa la soglia minima di competenza richiesta per le operazioni offensive. Anche gli attori meno esperti potrebbero avere accesso a strumenti molto efficaci, aumentando in modo significativo il numero di attacchi sofisticati.
- Tecniche come il fuzzing, gli attacchi basati su dizionario e altri metodi di forza bruta diventano molto più efficaci quando vengono accelerati dall'automazione. L'iterazione assistita dall'intelligenza artificiale può consentire a un aggressore di effettuare un numero molto maggiore di tentativi prima che l'attacco venga individuato.
Ma la conclusione più preoccupante è stata che, nell'attuale fase di sviluppo dell'IA, il fronte offensivo sta evolvendo più rapidamente, mentre i team di sicurezza adottano gli strumenti di IA in genere con un certo ritardo rispetto ai loro avversari.
Come sappiamo, l'intelligenza artificiale nel campo della sicurezza informatica ha un doppio taglio. Ci aiuta a difenderci dalle nuove minacce, ma può anche essere utilizzata per crearle. Ecco perché, nelle mani sbagliate, Mythos può rivelarsi un avversario temibile.
L'obiettivo rimane lo stesso, ma il percorso per raggiungerlo è facilitato da strumenti come Mythos. Dal punto di vista dell'aggressore, nulla cambia riguardo alla destinazione. La novità è che Mythos ora automatizza la mappa, il veicolo e gran parte della guida.
Non ci limitiamo a segnalare le minacce, ma le eliminiamo.
I rischi per la sicurezza informatica non dovrebbero mai diffondersi al di là di un titolo di giornale. Tenete le minacce lontane dai vostri dispositivi scaricando Malwarebytes oggi stesso.
