O site The Verge refere que Eiliko, um pequeno robô de inteligência artificial criado pela Energize Lab, tem falhas de segurança graves que expõem conversas privadas e permitem a um atacante alterar remotamente o que o brinquedo diz.
Segundo o The Verge, o investigador Sammy Azdoufal conseguiu aceder a 13 milhões de conversas e ao que parecia ser toda a frota mundial ativa de 68 mil robôs. A publicação refere que os EUA são o maior mercado, com mais de 31 mil perfis pertencentes a crianças.
Azdoufal encontrou várias falhas de segurança no serviço da Energize Lab:
- O serviço analisa conversas para criar perfis contendo nomes, idades, datas de nascimento, relacionamentos, profissões e avaliações de personalidade e vulnerabilidade emocional. Estes dados são armazenados juntamente com endereços de e-mail, endereços IP e transcrições de conversas pesquisáveis, fornecendo potencialmente aos burlões informações detalhadas para exploração.
- Algumas fotos, incluindo imagens aparentemente de crianças captadas por um dispositivo com câmara, e breves gravações áudio estavam acessíveis em endereços web públicos. A retenção do áudio contraria a política de privacidade da empresa, que afirma que as gravações são apagadas imediatamente após o processamento.
- É possível manipular remotamente a IA: Azdoufal alterou a memória e o comportamento do robô do repórter do The Verge, Sean Hollister, fazendo-o inventar detalhes pessoais, insistir que a Terra é plana e, posteriormente, proferir diálogos sexualmente explícitos e abusivos. O investigador afirma que uma manipulação semelhante poderia afetar toda a frota em simultâneo.
O repórter contactou a Energize Lab através de 10 endereços de e-mail e LinkedIn , sem receber respostas substanciais.
Como se manter seguro
Já reportámos anteriormente problemas de segurança com brinquedos que utilizam inteligência artificial. Os fabricantes são responsáveis pela segurança dos seus produtos, mas existem medidas que pode tomar para reduzir os riscos.
Atualmente, verá a expressão "com tecnologia de IA" em praticamente tudo, mas existem formas de fazer escolhas mais seguras.
- Já possui um Eiliko? Por precaução, desligue-o do Wi-Fi enquanto aguarda a confirmação de que os problemas reportados foram corrigidos.
- Pesquise sempre: verifique as avaliações de segurança de terceiros antes de comprar qualquer produto com inteligência artificial destinado a crianças.
- Teste e supervisione: Interaja você mesmo com o dispositivo antes de o entregar às crianças. Monitorize a utilização para identificar respostas estranhas ou de risco. Uma resposta segura durante o teste não garante respostas seguras posteriormente.
- Utilize o controlo parental : se disponível, ative todos os filtros de conteúdo e proteções de privacidade.
- Denuncie problemas: Se os dispositivos exibirem conteúdos inadequados, denuncie aos fabricantes e às entidades de defesa do consumidor.
- Verifique as práticas de dados: Descubra o que o dispositivo recolhe, com quem partilha os dados e para que utiliza a informação.
Mas, acima de tudo, lembre-se que "inteligente" não significa seguro. A IA pode estar em todo o lado, mas tanto os designers como os compradores precisam de priorizar a segurança, a privacidade e o bom senso em vez do fator "uau" tecnológico. Antes de comprar um brinquedo conectado, verifique como o fabricante lida com as atualizações de segurança, privacidade e relatos de problemas.
Navegue como se ninguém estivesse a ver.
Malwarebytes Privacy VPN Encripta a sua ligação e nunca regista o que faz, por isso a próxima história que ler não precisa de parecer pessoal. Experimente grátis →
