O brinquedo de pelúcia com IA da Bondu expôs uma consola web que permitia a qualquer pessoa com uma conta Gmail ler cerca de 50.000 conversas privadas entre crianças e os seus brinquedos de pelúcia.
O brinquedo da Bondu é comercializado como:
«Um brinquedo macio e fofinho com inteligência artificial que pode conversar, ensinar e brincar com o seu filho.»
O que não é mencionado é que qualquer pessoa com uma conta Gmail poderia ler as transcrições de praticamente todas as crianças que usavam um brinquedo Bondu. Sem qualquer tipo de invasão, simplesmente ao fazer login com uma conta Google arbitrária, dois investigadores se viram a observar conversas privadas de crianças.
O que Bondu tem a dizer sobre segurança não menciona proteção ou privacidade:
«Os sistemas de segurança e comportamento do Bondu foram desenvolvidos ao longo de 18 meses de testes beta com milhares de famílias. Graças a rigorosos processos de revisão e monitorização contínua, não recebemos uma única denúncia de comportamento inseguro ou inadequado do Bondu durante todo o período beta.»
A ênfase da Bondu no sucesso dos testes beta é compreensível. Lembra-se do ursinho de pelúcia com IA comercializado pela FoloToy que rapidamente passou de conversas amigáveis para temas sexuais e conselhos domésticos inseguros?
Os investigadores ficaram surpreendidos ao descobrir que a consola web pública da empresa permitia que qualquer pessoa fizesse login com a sua conta Google. Os registos de chat entre as crianças e os seus peluches revelavam nomes, datas de nascimento, detalhes familiares e conversas íntimas. As únicas conversas indisponíveis eram aquelas que tinham sido apagadas manualmente pelos pais ou pela equipa da empresa.
Potencialmente, esses registos de chat poderiam ser o sonho de um ladrão ou sequestrador, oferecendo informações sobre as rotinas domésticas e eventos futuros.
Bondu desligou a consola poucos minutos após a divulgação e, em seguida, reiniciou-a com autenticação. O CEO disse que as correções foram concluídas em poucas horas, que não viram «nenhuma evidência» de outros acessos e que contrataram uma empresa de segurança e adicionaram monitorização.
No passado, apontámos que os animais de pelúcia com inteligência artificial podem não ser uma boa alternativa para o tempo de ecrã. Os críticos alertam que, quando um brinquedo usa diálogos personalizados e semelhantes aos humanos, corre-se o risco de substituir aspetos da relação entre cuidador e criança. Um dos fundadores da Curio chegou a descrever o seu peluche como um companheiro estimulante para que os pais «não sintam que têm de sentá-los em frente à televisão».
Portanto, seja para xingar, tagarelar ou apenas substituir amigos reais, não incentivamos o uso de Inteligência Artificial em brinquedos infantis — a menos que cheguemos a um ponto em que eles possam ser usados com segurança, privacidade e proteção, e mesmo assim, com moderação.
Como se manter seguro
Os brinquedos com inteligência artificial estão a chegar, gostemos ou não. Mas ser o primeiro ou o mais bonito não significa que sejam seguros. A lição que a história continua a ensinar-nos é esta: supervisão, privacidade e uma dose saudável de ceticismo são as melhores defesas que os pais têm.
- Desligue o que puder.Se o brinquedo tiver um componente de IA removível, considere desativá-lo quando não puder supervisionar diretamente.
- Leia a política de privacidade. Sim, eu sei, todaela. Procure o que será gravado, armazenado e potencialmente partilhado. Preste especial atenção aos dados sensíveis, como gravações de voz, gravações de vídeo (se o brinquedo tiver uma câmara) e dados de localização.
- Limite a conectividade.Evite brinquedos que exijam interação constante com Wi-Fi ounuvem, se possível.
- Monitore as conversas.Verifique regularmente com os seus filhos o que o brinquedo diz e supervisione as brincadeiras sempre que possível.
- Mantenha as informações pessoais em sigilo.Ensine as crianças a nunca partilharem os seus nomes, endereços ou detalhes familiares, mesmo com os seus amigos de pelúcia.
- Confie nos seus instintos.Se um brinquedo parecer ultrapassar os limites ou interferir na brincadeira natural, não tenha medo de intervir ou simplesmente dizer não.
Não nos limitamos a informar sobre a privacidade - oferecemos-lhe a opção de a utilizar.
Os riscos para Privacy nunca devem ir além de uma manchete. Mantenha a sua privacidade online utilizando o Malwarebytes Privacy VPN.
