Il peluche dotato di intelligenza artificiale di Bondu ha rivelato una console web che consentiva a chiunque avesse un account Gmail di leggere circa 50.000 chat private tra bambini e i loro peluche.
Il giocattolo di Bondu è commercializzato come:
"Un peluche morbido e coccoloso dotato di intelligenza artificiale che può chiacchierare, insegnare e giocare con il tuo bambino."
Ciò che non viene detto è che chiunque avesse un account Gmail poteva leggere le trascrizioni di praticamente tutti i bambini che utilizzavano un giocattolo Bondu. Senza alcun hacking vero e proprio, semplicemente accedendo con un account Google arbitrario, due ricercatori si sono ritrovati a guardare le conversazioni private dei bambini.
Ciò che Bondu ha da dire sulla sicurezza non menziona la protezione o la privacy:
"I sistemi di sicurezza e comportamento di Bondu sono stati sviluppati nel corso di 18 mesi di test beta con migliaia di famiglie. Grazie a rigorosi processi di revisione e monitoraggio continuo, non abbiamo ricevuto alcuna segnalazione di comportamenti non sicuri o inappropriati da parte di Bondu durante l'intero periodo beta."
L'enfasi posta da Bondu sul successo dei test beta è comprensibile. Ricordate l'orsacchiotto dotato di intelligenza artificiale commercializzato da FoloToy che passava rapidamente da conversazioni amichevoli ad argomenti sessuali e consigli domestici poco sicuri?
I ricercatori sono rimasti sbalorditi nello scoprire che la console web pubblica dell'azienda consentiva a chiunque di accedere con il proprio account Google. Le chat tra i bambini e i loro peluche rivelavano nomi, date di nascita, dettagli sulla famiglia e conversazioni intime. Le uniche conversazioni non disponibili erano quelle cancellate manualmente dai genitori o dal personale dell'azienda.
Potenzialmente, queste chat potrebbero essere il sogno di qualsiasi ladro o rapitore, poiché offrono informazioni sulle abitudini della famiglia e sui prossimi eventi.
Bondu ha messo offline la console pochi minuti dopo la divulgazione, quindi l'ha riavviata con l'autenticazione. Il CEO ha affermato che le correzioni sono state completate in poche ore, che non sono state riscontrate "prove" di altri accessi e che è stata coinvolta una società di sicurezza per aggiungere un sistema di monitoraggio.
In passato abbiamo sottolineato che i peluche dotati di intelligenza artificiale potrebbero non essere una valida alternativa al tempo trascorso davanti allo schermo. I critici avvertono che quando un giocattolo utilizza dialoghi personalizzati e simili a quelli umani, rischia di sostituire alcuni aspetti del rapporto tra genitore e figlio. Uno dei fondatori di Curio ha persino descritto il proprio peluche come un compagno stimolante, in modo che i genitori "non si sentano obbligati a metterli davanti alla TV".
Quindi, che si tratti di un linguaggio volgare, di una bocca larga o semplicemente di un debole sostituto dei veri amici, non incoraggiamo l'uso dell'intelligenza artificiale nei giocattoli per bambini, a meno che non si arrivi a un punto in cui possano essere utilizzati in modo sicuro, privato e protetto, e anche in quel caso, con moderazione.
Come stare al sicuro
I giocattoli basati sull'intelligenza artificiale stanno arrivando, che ci piaccia o no. Ma essere i primi o i più carini non significa che siano sicuri. La lezione che la storia continua a insegnarci è questa: supervisione, privacy e una sana dose di scetticismo sono le migliori difese a disposizione dei genitori.
- Spegnete tutto ciò che potete.Se il giocattolo ha un componente AI rimovibile, valutate la possibilità di disattivarlo quando non siete in grado di sorvegliarlo direttamente.
- Leggi l'informativa sulla privacy. Sì, lo so, tutta. Cerca cosa verrà registrato, archiviato e potenzialmente condiviso. Presta particolare attenzione ai dati sensibili, come registrazioni vocali, registrazioni video (se il giocattolo ha una fotocamera) e dati sulla posizione.
- Limita la connettività.Se possibile, evita i giocattoli che richiedono una connessione Wi-Fi costante o l'interazionecon il cloud.
- Controlla le conversazioni.Verifica regolarmente con i tuoi figli cosa dice il giocattolo e sorveglia il gioco quando possibile.
- Mantieni riservate le informazioni personali.Insegna ai bambini a non rivelare mai il proprio nome, indirizzo o dettagli sulla famiglia, nemmeno al loro peluche preferito.
- Fidati del tuo istinto.Se un giocattolo sembra oltrepassare i limiti o interferire con il gioco naturale, non aver paura di intervenire o semplicemente dire di no.
Non ci limitiamo a segnalare la privacy, ma vi offriamo la possibilità di utilizzarla.
I rischi per Privacy non dovrebbero mai andare oltre un titolo di giornale. Mantenete la vostra privacy online utilizzando Malwarebytes Privacy VPN.
