UN Facebook Un acquirente del marketplace si è recato all'appartamento di un venditore per ritirare una tastiera. Il venditore non era in casa e non sapeva dell'arrivo di nessuno. L'assistente virtuale Muse di Meta aveva gestito la conversazione, condiviso il suo indirizzo e organizzato la visita senza avvisarlo.
Spesso scriviamo di disallineamenti nell'IA e di come utilizzare agenti e browser basati sull'IA in modo sicuro. Può sembrare un argomento teorico, ma questo è un esempio concreto del rischio che si corre quando un agente può agire per conto di qualcun altro.
Muse è l'assistente AI semi-autonomo di Meta, rilasciato negli Stati Uniti a settembre. Meta lo promuove come un assistente personale che può aiutare gli utenti ad automatizzare le attività, tra cui rispondere a Facebook Messaggi del marketplace. A differenza di un chatbot convenzionale, che attende un input e produce una risposta, un agente di intelligenza artificiale può essere autorizzato ad agire all'interno delle app connesse.
Abbiamo già parlato di un'altra debolezza di Muse che i ricercatori hanno considerato pericolosa. Secondo quanto riportato , Muse è stato scaricato 3 milioni di volte nella sua prima settimana.
Secondo Business Insider , un Facebook Un venditore del marketplace ha attivato Muse per gestire un'inserzione relativa a una tastiera. Ha inserito il suo indirizzo come luogo di ritiro e ha autorizzato le risposte automatiche. Muse ha poi condiviso quell'indirizzo con un potenziale acquirente, ha negoziato il prezzo dell'oggetto e ha organizzato un incontro, ha affermato il venditore. Quest'ultimo sostiene che Muse non gli abbia chiesto il permesso di condividere il suo indirizzo né di organizzare l'incontro, e non lo abbia informato di nulla. L'acquirente si è presentato all'appartamento del venditore aspettandosi di concludere l'acquisto, ma il venditore non era in casa. La vendita non è andata a buon fine.
L'incidente segnalato va oltre la semplice violazione della privacy. Illustra un rischio più ampio legato agli agenti basati sull'intelligenza artificiale: un agente potrebbe interpretare l'autorizzazione a rispondere automaticamente come un'autorizzazione a condividere informazioni sensibili o a fissare un incontro di persona. Meta ha dichiarato di star esaminando la segnalazione.
Come utilizzare gli agenti di intelligenza artificiale in modo sicuro
Prima di abilitare un agente AI, considera la schermata di configurazione come una verifica di sicurezza. Non dare per scontato che l'integrazione con una piattaforma affidabile implichi che l'agente comprenderà le tue intenzioni o applicherà automaticamente limiti appropriati.
Presta particolare attenzione a:
- Account collegati: Esamina ogni servizio a cui l'agente può accedere, come e-mail, messaggi, calendari, archiviazione cloud, account di acquisto o profili sui social media.
- Accesso ai dati: Valuta se il dispositivo può leggere indirizzi, contatti, foto, messaggi privati, dettagli di pagamento, documenti o dati di geolocalizzazione.
- Autorizzazioni di azione: Verifica se l'agente può inviare messaggi, pubblicare contenuti, negoziare, effettuare prenotazioni, inserire ordini, modificare annunci o condividere informazioni esternamente.
- Azioni automatiche: Applica impostazioni che richiedono l'approvazione prima che l'agente invii, pubblichi, acquisti, elimini o condivida contenuti sensibili. Verifica come ti notificherà i piani che elabora per tuo conto.
- Controllo del pubblico: conferma esattamente chi può ricevere le informazioni generate dall'agente. "Chiunque mi invii un messaggio" è molto diverso da "persone che approvo".
Concedi all'agente IA solo l'accesso minimo necessario per svolgere il compito. Se desideri solo assistenza nella stesura delle risposte, non abilitare l'invio automatico. Se vuoi che un agente IA gestisca un annuncio, utilizza un luogo di incontro pubblico o un indirizzo di ritiro separato anziché il tuo indirizzo di casa.
Naviga come se nessuno ti guardasse.
Malwarebytes Privacy VPN la tua connessione e non registra mai le tue attività, così la prossima notizia che leggerai non ti sembrerà una questione personale.Provalo gratis →
