Mac Secondo il ricercatore di sicurezza Patrick Wardle, trasformare Muse nella "porta di servizio definitiva" è un gioco da ragazzi.
Gli assistenti virtuali basati sull'intelligenza artificiale si stanno trasformando da semplici strumenti di risposta a veri e propri agenti in grado di pianificare attività, utilizzare servizi connessi e compiere azioni per nostro conto. Queste azioni possono includere la prenotazione di appuntamenti, la compilazione di moduli, la creazione di documenti, l'effettuazione di acquisti o l'interazione con email e calendari.
Per farlo, hanno bisogno di più permessi, connessioni agli account e dati sensibili. Quindi, quando Meta ha promesso che "Muse è stato progettato fin dalle fondamenta per la privacy e la sicurezza", non ci aspettavamo un agente IA che possa essere facilmente manipolato per concedere tutto questo accesso a un malintenzionato.
Secondo Meta, Muse può gestire appuntamenti, moduli, interazioni con il servizio clienti, acquisti, creazione di documenti e connessioni a servizi come WhatsApp, e-mail, calendari e piattaforme social. Può anche ricevere autorizzazioni da macOS per accedere a risorse protette, tra cui file, microfono, fotocamera, posizione e calendari.
Secondo Ars Technica , Wardle ha scoperto che un'applicazione in esecuzione localmente o un comando da terminale potevano modificare un'impostazione di configurazione non documentata di Muse che controlla il server utilizzato per la trascrizione della dettatura. Reindirizzando il traffico di dettatura verso un server controllato da un malintenzionato, quest'ultimo poteva intercettare i messaggi vocali e ottenere il token di autenticazione per l'account Muse della vittima.
Non si tratta di una vulnerabilità di esecuzione di codice remoto che può compromettere un sistema altrimenti pulito Mac L'attaccante ha innanzitutto bisogno di un modo per eseguire il codice localmente, ad esempio tramite malware, un'applicazione dannosa o tecniche di ingegneria sociale.
Ma come abbiamo visto con i malware infostealer che si sono infiltrati nei Mac , l'accesso iniziale è tutt'altro che impossibile.
Qualcuno sta tenendo d'occhio i tuoi conti. Assicurati che siamo noi.
I malware tradizionali per il furto di informazioni devono individuare autonomamente dati del browser, credenziali, documenti, cronologie delle chat e altro materiale di valore. Un agente basato sull'intelligenza artificiale compromesso potrebbe abbassare questa barriera raggruppando l'accesso a più servizi e autorizzazioni del sistema operativo dietro un'unica interfaccia già autenticata.
In definitiva, non si tratta solo di una singola impostazione di configurazione non sicura. Dimostra perché gli agenti basati sull'intelligenza artificiale necessitano di uno standard di sicurezza più elevato rispetto alle normali applicazioni.
Come stare al sicuro
Il consiglio di Wardle riguardo a Muse è semplice: "Per favore, non installatelo".
La stessa cautela dovrebbe valere anche per altri agenti di intelligenza artificiale.
L'Open Worldwide Application Security Project (OWASP), una fondazione senza scopo di lucro che fornisce consulenza gratuita sulla sicurezza delle applicazioni, elenca l'iniezione di prompt, l'abuso di strumenti, l'escalation dei privilegi, l'esfiltrazione di dati, l'eccessiva autonomia, l'avvelenamento della memoria e l'esposizione di dati sensibili tra i principali rischi per la sicurezza posti dagli agenti di intelligenza artificiale.
Una regola utile è che un agente di intelligenza artificiale non dovrebbe avere più accesso di quanto necessario e non dovrebbe essere in grado di trasformare istruzioni non attendibili in azioni sensibili senza controlli significativi. In pratica, questo significa:
- Evitate di concedere a un nuovo agente un accesso esteso a email, app di chat, calendari, archiviazione cloud, metodi di pagamento e autorizzazioni del dispositivo, tutto in una volta.
- Esaminare e rimuovere regolarmente le connessioni di cui l'agente non ha effettivamente bisogno.
- Fai attenzione all'iniezione di prompt . Non dare per scontato che un agente di intelligenza artificiale sia in grado di riconoscere le istruzioni dannose incorporate in una pagina web, un documento, un'e-mail o altri contenuti esterni.
- Presta attenzione a comportamenti insoliti dell'agente, come richieste inaspettate di nuove autorizzazioni, riautenticazione dell'account, condivisione di file esterni o azioni non avviate da te.
È inoltre necessario proteggere il dispositivo dai malware:
- Mantieni il tuo software aggiornato in modo che gli aggressori non possano sfruttare le vulnerabilità note contro di te.
- Utilizza una soluzione antimalware aggiornata e in tempo reale su tutti i tuoi dispositivi .
- Per proteggersi dagli attacchi ClickFix , non seguire le istruzioni che trovi sui siti web o nei messaggi non richiesti che ti invitano a eseguire dei comandi.
Dalla segnalazione delle minacce alla loro rimozione.
I rischi per la sicurezza informatica non dovrebbero mai diffondersi al di là di un titolo di giornale. Tenete le minacce lontane dai vostri dispositivi scaricando Malwarebytes oggi stesso.
