Se achava mal as empresas vasculharem as suas redes sociais, histórico de navegação e hábitos de consumo de TV em busca de pistas comportamentais, prepare-se. A Meta está apenas a começar. O seu agente pessoal de IA, o Muse, está a levar a vigilância a um novo patamar.
A revista TIME analisou as instruções internas do software e descobriu que este mantém dossiers constantemente atualizados sobre os utilizadores e as pessoas que conhecem.
A Meta lançou o Muse no mês passado, posicionando-o como um assistente digital capaz de lidar com diferentes aspetos da sua vida. Pode organizar os seus e-mails, fazer as suas compras de supermercado e cancelar as suas subscrições. Está disponível gratuitamente, com planos pagos para quem pretende funcionalidades adicionais.
O Muse já foi descarregado mais de cinco milhões de vezes. A sua capacidade de lidar com tarefas online de rotina pode ser uma má notícia para as empresas que dependem da fidelização dos consumidores. Algumas pessoas acreditam que libertará milhares de consumidores de contas bancárias com juros baixos.
Mas o Muse não te vai apenas ajudar a dar uma lição ao sistema; ele é também o sistema.
Tenho umas musas muito más para ti.
É necessário permitir que o Muse aceda a todos os seus sistemas antes que ele possa ajudá-lo a organizá-los. Dependendo do que ligar e das permissões que concede, isto pode dar acesso ao seu calendário, e-mails, mensagens e outras informações pessoais .
Ao fazê-lo, acede a dados. Muitos dados. Uma análise feita pela Surfshark no final do mês passado colocou-o em segundo lugar, apenas atrás do chatbot de IA da Meta, entre as aplicações analisadas, com as suas divulgações na App Store a listarem a recolha de 31 dos 35 tipos de dados.
Estas divulgações incluem a categoria "Informações Confidenciais" da Apple, que abrange informações como dados raciais ou étnicos, orientação sexual, gravidez, deficiência, crenças religiosas ou filosóficas, filiação sindical, opinião política, informações genéticas e dados biométricos. Isto não significa que o Muse recolha todos estes detalhes sobre cada utilizador, mas demonstra a abrangência da sua recolha declarada.
Segundo a análise da TIME, as instruções do Muse exigem que este atualize os dossiers pessoais de hora em hora. Estes dossiers podem registar como os utilizadores conheceram os seus contactos, além de discussões ou tensões dentro de grupos sociais.
De alguma forma, ainda mais assustador do que isso é o facto de ele rever as suas conversas recentes todas as noites , usando esse conhecimento para orientar conversas futuras. Por exemplo, ele aprende quando um pequeno toque para chamar a sua atenção terá mais sucesso.
Por predefinição, o Meta utiliza as interações do Muse para treinar os seus modelos de IA, a menos que desative esta opção nas definições da aplicação.
Ah, e a Muse armazena esses ficheiros na nuvem da Meta, onde a Meta pode aceder a eles. A empresa afirma que vai oferecer encriptação que os manterá privados até da Meta, mas esta opção ainda não está disponível, segundo a TIME.
A Meta afirma que as conversas e os dados armazenados pelo Muse não são partilhados com os seus sistemas de publicidade. A empresa afirma ainda que os utilizadores escolhem o nível de acesso que o Muse recebe e podem instruí-lo a esquecer informações específicas que aprendeu.
A revista sublinha que simplesmente não utilizar o Muse pode não ser a melhor solução, uma vez que o Muse pode recolher dados sobre as pessoas com quem os seus utilizadores interagem. Se enviar uma mensagem a um utilizador do Muse e a IA tiver acesso a esse sistema de mensagens, a sua mensagem pode ser incluída no conteúdo lido pela IA.
Privacy organização sem fins lucrativos a Electrónica Privacy O Centro de Informação EPIC sublinha que a Meta já utilizou uma tática semelhante anteriormente, criando perfis ocultos de pessoas que não estão registadas nos seus serviços.
Quando as permissões se tornam um problema real
Isto já seria assustador o suficiente se não fossem outras histórias sobre as invasões de privacidade dos Muse. O investigador Patrick Wardle descobriu uma forma de comprometer o software e transformá-lo numa porta traseira Mac .
Outra equipa de repórteres utilizou a ferramenta para recolher dados pessoais de membros de grupos vulneráveis online. Depois de inicialmente recusar alguns desses pedidos, acabou por ceder quando as perguntas foram reformuladas, disseram.
Muse também convidou um comprador do Marketplace para a casa de alguém no mês passado, depois de aceitar uma oferta muito baixa por um produto que estava a vender. Matt Robb, um YouTube Um crítico de tecnologia clicou no botão "Permitir sempre", assumindo que a IA ainda pediria permissão antes de partilhar o seu endereço com estranhos. Não pediu. Em vez disso, segundo ele, a IA organizou a recolha sem o avisar. O comprador, que viajou meia hora para ir buscar o produto, não ficou nada satisfeito.
Se utilizar o Muse, reveja as contas a que tem acesso, as ações que pode executar sem aprovação e se as suas interações estão a ser utilizadas para treino de IA. Conceda-lhe apenas o acesso necessário para a tarefa.
Usaria o Muse? Para saber mais sobre a história de Robb e dicas práticas sobre como utilizar as permissões necessárias, leia o nosso guia sobre como utilizar assistentes de IA .
Navegue como se ninguém estivesse a ver.
VPN Malwarebytes Privacy VPN a sua ligação e nunca regista o que faz, para que a próxima notícia que ler não pareça dirigida a si.Experimente gratuitamente →
