O brinquedo de pelúcia com IA da Bondu expôs um console web que permitia a qualquer pessoa com uma conta Gmail ler cerca de 50.000 conversas privadas entre crianças e seus brinquedos de pelúcia.
O brinquedo da Bondu é comercializado como:
“Um brinquedo macio e fofinho equipado com inteligência artificial que pode conversar, ensinar e brincar com seu filho.”
O que não é mencionado é que qualquer pessoa com uma conta do Gmail poderia ler as transcrições de praticamente todas as crianças que usaram um brinquedo Bondu. Sem qualquer invasão real, simplesmente fazendo login com uma conta arbitrária do Google, dois pesquisadores se viram diante das conversas privadas das crianças.
O que Bondu tem a dizer sobre segurança não menciona proteção ou privacidade:
Os sistemas de segurança e comportamento do Bondu foram desenvolvidos ao longo de 18 meses de testes beta com milhares de famílias. Graças a rigorosos processos de revisão e monitoramento contínuo, não recebemos nenhuma denúncia de comportamento inseguro ou inadequado do Bondu durante todo o período beta.
A ênfase da Bondu no sucesso dos testes beta é compreensível. Lembra-se do ursinho de pelúcia com IA comercializado pela FoloToy que rapidamente passou de conversas amigáveis para temas sexuais e conselhos domésticos inseguros?
Os pesquisadores ficaram surpresos ao descobrir que o console web público da empresa permitia que qualquer pessoa fizesse login com sua conta do Google. Os registros de bate-papo entre as crianças e seus bichinhos de pelúcia revelavam nomes, datas de nascimento, detalhes familiares e conversas íntimas. As únicas conversas não disponíveis eram aquelas excluídas manualmente pelos pais ou pela equipe da empresa.
Potencialmente, esses registros de bate-papo poderiam ser o sonho de um ladrão ou sequestrador, oferecendo informações sobre as rotinas domésticas e os próximos eventos.
A Bondu desativou o console poucos minutos após a divulgação e, em seguida, o reiniciou com autenticação. O CEO afirmou que as correções foram concluídas em poucas horas, que não viram “nenhuma evidência” de outros acessos e que contrataram uma empresa de segurança e adicionaram monitoramento.
No passado, apontamos que bichos de pelúcia com inteligência artificial podem não ser uma boa alternativa para o tempo de tela. Os críticos alertam que, quando um brinquedo usa diálogos personalizados e semelhantes aos humanos, corre-se o risco de substituir aspectos da relação entre cuidador e criança. Um dos fundadores da Curio chegou a descrever seu bicho de pelúcia como um companheiro estimulante para que os pais “não sintam que precisam sentá-los na frente da TV”.
Portanto, seja para xingar, tagarelar ou apenas substituir amigos reais, não incentivamos o uso de Inteligência Artificial em brinquedos infantis — a menos que cheguemos a um ponto em que eles possam ser usados com segurança, privacidade e proteção, e mesmo assim, com moderação.
Como se manter seguro
Os brinquedos com inteligência artificial estão chegando, gostemos ou não. Mas ser o primeiro ou o mais bonito não significa que eles sejam seguros. A lição que a história nos ensina é esta: supervisão, privacidade e uma dose saudável de ceticismo são as melhores defesas que os pais têm.
- Desligue o que puder.Se o brinquedo tiver um componente de IA removível, considere desativá-lo quando não puder supervisionar diretamente.
- Leia a política de privacidade. Sim, eu sei, todaela. Procure o que será gravado, armazenado e potencialmente compartilhado. Preste atenção especial aos dados confidenciais, como gravações de voz, gravações de vídeo (se o brinquedo tiver uma câmera) e dados de localização.
- Limite a conectividade.Evite brinquedos que exijam interação constante com Wi-Fi ounuvem, se possível.
- Monitore as conversas.Verifique regularmente com seus filhos o que o brinquedo diz e supervisione as brincadeiras sempre que possível.
- Mantenha as informações pessoais em sigilo.Ensine as crianças a nunca compartilharem seus nomes, endereços ou detalhes familiares, mesmo com seus amigos de pelúcia.
- Confie nos seus instintos.Se um brinquedo parecer ultrapassar os limites ou interferir na brincadeira natural, não tenha medo de intervir ou simplesmente dizer não.
Não nos limitamos a informar sobre privacidade - oferecemos a você a opção de usá-la.
Os riscos Privacy nunca devem ir além de uma manchete. Mantenha sua privacidade on-line usando o Malwarebytes Privacy VPN.
