O site The Verge relata que Eiliko, um pequeno robô de inteligência artificial criado pela Energize Lab, possui sérias falhas de segurança que expõem conversas privadas e permitem que um invasor altere remotamente o que o brinquedo diz.
Segundo o The Verge, o pesquisador Sammy Azdoufal conseguiu acessar 13 milhões de conversas e o que parecia ser toda a frota mundial ativa de 68 mil robôs. A publicação relata que os EUA são o maior mercado, com mais de 31 mil perfis pertencentes a crianças.
Azdoufal encontrou diversas falhas de segurança no serviço da Energize Lab:
- O serviço analisa conversas para criar perfis contendo nomes, idades, datas de nascimento, relacionamentos, profissões e avaliações de personalidade e vulnerabilidade emocional. Esses dados são armazenados juntamente com endereços de e-mail, endereços IP e transcrições de conversas pesquisáveis, fornecendo potencialmente aos golpistas informações detalhadas para exploração.
- Algumas fotos, incluindo imagens aparentemente de crianças capturadas por um dispositivo com câmera, e breves gravações de áudio estavam acessíveis em endereços web públicos. A retenção do áudio contraria a política de privacidade da empresa, que afirma que as gravações são apagadas imediatamente após o processamento.
- É possível manipular remotamente a IA: Azdoufal alterou a memória e o comportamento do robô do repórter do The Verge, Sean Hollister, fazendo-o inventar detalhes pessoais, insistir que a Terra é plana e, posteriormente, proferir diálogos sexualmente explícitos e abusivos. O pesquisador afirma que uma manipulação semelhante poderia afetar toda a frota simultaneamente.
O repórter contatou a Energize Lab por meio de 10 endereços de e-mail e LinkedIn , sem receber respostas substanciais.
Como se manter seguro
Já relatamos anteriormente problemas de segurança com brinquedos que utilizam inteligência artificial. Os fabricantes são responsáveis pela segurança de seus produtos, mas existem medidas que você pode tomar para reduzir os riscos.
Atualmente, você verá a expressão "com tecnologia de IA" em praticamente tudo, mas existem maneiras de fazer escolhas mais seguras.
- Já possui um Eiliko? Por precaução, desconecte-o do Wi-Fi enquanto aguarda a confirmação de que os problemas relatados foram corrigidos.
- Sempre pesquise: verifique avaliações de segurança de terceiros antes de comprar qualquer produto com inteligência artificial voltado para crianças.
- Teste e supervisione: Interaja com o dispositivo você mesmo antes de entregá-lo às crianças. Monitore o uso para identificar respostas estranhas ou de risco. Uma resposta segura durante o teste não garante respostas seguras posteriormente.
- Utilize o controle parental : se disponível, ative todos os filtros de conteúdo e proteções de privacidade.
- Denuncie problemas: Se os dispositivos exibirem conteúdo inadequado, denuncie aos fabricantes e aos órgãos de defesa do consumidor.
- Verifique as práticas de dados: Descubra o que o dispositivo coleta, com quem compartilha os dados e para que utiliza as informações.
Mas, acima de tudo, lembre-se de que "inteligente" não significa seguro. A IA pode estar em toda parte, mas tanto designers quanto compradores precisam priorizar a segurança, a privacidade e o bom senso em vez do fator "uau" tecnológico. Antes de comprar um brinquedo conectado, verifique como o fabricante lida com atualizações de segurança, privacidade e relatos de problemas.
Navegue como se ninguém estivesse olhando.
Malwarebytes Privacy VPN Criptografa sua conexão e nunca registra o que você faz, então a próxima história que você ler não precisa parecer pessoal. Experimente grátis →
