Secondo quanto riportato da The Verge , Eiliko, un piccolo robot di compagnia dotato di intelligenza artificiale prodotto da Energize Lab, presenta gravi falle di sicurezza che espongono le conversazioni private e consentono a un malintenzionato di modificare a distanza ciò che il giocattolo dice.
Secondo The Verge, il ricercatore Sammy Azdoufal avrebbe potuto accedere a 13 milioni di conversazioni e a quella che sembrava essere l'intera flotta mondiale attiva di 68.000 robot. La pubblicazione riporta che gli Stati Uniti rappresentano il mercato più grande, con oltre 31.000 profili appartenenti a bambini.
Azdoufal ha riscontrato diverse falle di sicurezza nel servizio di Energize Lab:
- Il servizio analizza le conversazioni per creare profili contenenti nomi, età, date di nascita, relazioni, professioni e valutazioni della personalità e della vulnerabilità emotiva. Questi dati vengono memorizzati insieme a indirizzi email, indirizzi IP e trascrizioni delle conversazioni ricercabili, fornendo potenzialmente ai truffatori informazioni dettagliate da sfruttare.
- Alcune foto, tra cui immagini apparentemente di bambini riprese da un dispositivo dotato di fotocamera, e brevi registrazioni audio erano accessibili tramite indirizzi web pubblici. La conservazione delle registrazioni audio è in contrasto con la politica sulla privacy dell'azienda, che prevede la cancellazione immediata dei file audio dopo l'elaborazione.
- È possibile manipolare l'IA a distanza: Azdoufal ha alterato la memoria e il comportamento del robot del giornalista di The Verge Sean Hollister, facendogli inventare dettagli personali, insistere sul fatto che la Terra sia piatta e, in seguito, pronunciare dialoghi sessualmente espliciti e offensivi. Il ricercatore afferma che una manipolazione simile potrebbe colpire simultaneamente l'intera flotta.
Il giornalista ha contattato Energize Lab tramite 10 indirizzi e-mail e LinkedIn , senza ricevere risposte sostanziali.
Come stare al sicuro
Abbiamo già segnalato problemi di sicurezza relativi ai giocattoli dotati di intelligenza artificiale. I produttori sono responsabili della sicurezza dei loro prodotti, ma è possibile adottare alcune misure per ridurre i rischi.
Ormai troverai la dicitura "basato sull'intelligenza artificiale" praticamente ovunque, ma esistono modi per fare scelte più sicure.
- Possiedi già un Eiliko? Per precauzione, disconnettilo dal Wi-Fi mentre attendi la conferma che i difetti segnalati siano stati risolti.
- Informatevi sempre: prima di acquistare qualsiasi prodotto con intelligenza artificiale destinato ai bambini, verificate le recensioni di terze parti sulla sicurezza.
- Testare e supervisionare: interagite voi stessi con il dispositivo prima di darlo ai bambini. Monitorate l'utilizzo per individuare eventuali risposte anomale o rischiose. Una risposta sicura durante la fase di test non garantisce risposte sicure in seguito.
- Utilizza il controllo genitori : se disponibile, abilita tutti i filtri dei contenuti e le protezioni della privacy.
- Segnala i problemi: se i dispositivi mostrano contenuti inappropriati, segnalalo ai produttori e alle associazioni per la tutela dei consumatori.
- Verifica le pratiche relative alla gestione dei dati: scopri quali dati raccoglie il dispositivo, con chi li condivide e per quali scopi li utilizza.
Ma soprattutto, ricordate che "intelligente" non significa sicuro. L'intelligenza artificiale sarà pure ovunque, ma sia i progettisti che gli acquirenti devono anteporre la sicurezza, la privacy e il buon senso all'effetto "wow" tecnologico. Prima di acquistare un giocattolo connesso, verificate come il produttore gestisce gli aggiornamenti di sicurezza, la privacy e le segnalazioni di problemi.
Naviga come se nessuno ti guardasse.
Malwarebytes Privacy VPN Crittografa la tua connessione e non registra mai le tue attività, così la prossima storia che leggerai non ti sembrerà personale. Provalo gratis →
