Neste artigo
- O criador do Muse usou cerca de 50.000 horas de gravações de ondas cerebrais de utilizadores para treinar a IA sem que estes o soubessem explicitamente.
- Remover os nomes pode não ser suficiente para tornar os dados das ondas cerebrais anónimos; investigadores identificaram indivíduos a partir de gravações de EEG.
- Consulte as políticas de privacidade e pergunte sobre as opções de cancelamento e eliminação de dados.
As empresas de tecnologia passaram anos a tentar entrar na sua mente para obter lucro. Agora, estão a fazê-lo literalmente. A fabricante do Muse, uma fita para a cabeça que mede a atividade cerebral durante o sono e a meditação, usou dados de ondas cerebrais dos utilizadores para treinar a inteligência artificial sem o seu conhecimento explícito, revelou uma investigação.
As empresas vendem estas pulseiras para ajudar os consumidores a compreender melhor o que o cérebro faz enquanto dormem e meditam. No entanto, de acordo com uma investigação publicada na revista Science, estão também a adquirir algum conhecimento por conta própria.
A investigação, que durou um ano, descobriu que a empresa canadiana Interaxon, fabricante da fita para dormir e meditar Muse, estava a utilizar os dados recolhidos dos cérebros dos utilizadores para treinar a inteligência artificial. A empresa utilizou cerca de 50 mil horas de registos de eletroencefalografia (EEG), que medem a atividade elétrica do cérebro, para treinar um "modelo básico do cérebro".
Modelos de IA treinados com grandes quantidades de dados de ondas cerebrais de diferentes pessoas podem identificar padrões na atividade cerebral. Por exemplo, um modelo pode aprender a reconhecer padrões associados a convulsões.
Pesquisar estes resultados é louvável, mas apenas se primeiro informar as pessoas cujos dados de EEG estão a ser utilizados para o treino. A Interaxon não fez isso.
Este é o seu cérebro sob uma política de privacidade inadequada.
Quando a revista Science questionou a Interaxon sobre o assunto, a sua diretora de marketing, Nadia Kumentas, reconheceu que os utilizadores devem ser explicitamente informados sobre a formação em IA. A empresa atualizou a sua política de privacidade, que agora afirma que os dados anonimizados são utilizados para treinar modelos de aprendizagem automática .
A recolha de dados através de dispositivos como este é tentadora para as empresas, uma vez que os dados das ondas cerebrais são difíceis de obter de outra forma e, portanto, incrivelmente valiosos.
Não é de admirar, portanto, que esta não seja a única empresa de neurotecnologia a enfrentar questões sobre as suas práticas de dados. A publicação analisou 57 empresas que recolhem dados cerebrais e descobriu que apenas seis afirmaram explicitamente que não venderiam os dados cerebrais dos utilizadores. Mais de dois terços permitem que os dados cerebrais sejam transferidos para um novo proprietário caso sejam adquiridos. Onze delas tinham apenas uma política de privacidade para os visitantes do site e quatro não tinham qualquer política.
A Interaxon merece crédito por remover nomes e endereços de e-mail dos dados de EEG dos utilizadores antes de os utilizar para formação. No entanto, os dados destes utilizadores já ajudaram a moldar um modelo treinado sem que estes fossem explicitamente informados. Remover essa influência posteriormente é extremamente difícil.
Mas será que esta “desidentificação” é suficiente? Um estudo académico realizado pela Universidade do Sudeste da Noruega este ano descobriu que os registos de EEG e as características derivadas podem conter informações sensíveis específicas do paciente. O estudo afirmou que isto pode criar riscos para a privacidade quando estes dados são partilhados em ambientes clínicos e de investigação. Acrescentou ainda:
“Os métodos convencionais de anonimização são frequentemente insuficientes para sinais biomédicos de elevada dimensionalidade, uma vez que a remoção de identificadores diretos não impede necessariamente os riscos de reidentificação, ligação ou inferência.”
Outro estudo realizado por investigadores da Universidade Ben-Gurion, em Israel, descobriu que a análise de registos de EEG em repouso pode revelar traços de personalidade e capacidades cognitivas. O EEG em repouso identificou utilizadores em 88,4% dos casos, de acordo com um estudo de 2018 realizado por investigadores da Universidade da Coreia. E um estudo da Universidade do Sul da Califórnia afirmou que os dados de EEG podem revelar o estado de saúde mental, condições neurológicas e até o histórico de consumo de substâncias.
Estas descobertas não estabelecem o que pode ser inferido especificamente das gravações dos Muse. As bandas de cabeça para uso doméstico têm geralmente menos elétrodos do que os sistemas de EEG clínicos.
Esta não é a primeira análise da indústria da neurotecnologia para o consumidor a revelar algumas tendências preocupantes. Um relatório da Neurorights Foundation de 2024 constatou que 29 das 30 empresas inquiridas pareciam ter acesso aos dados neurais dos consumidores e não tinham imposto “nenhuma limitação significativa a esse acesso”.
A legislação ainda está a adaptar-se a tudo isto. Informações Biométricas de Illinois Privacy A Lei de Privacidade de Informação Biométrica (BIPA) considera as impressões digitais, os registos vocais ou a geometria facial, entre outros, como identificadores biométricos, mas os dados de EEG não são aceites. No entanto, o Colorado e a Califórnia tratam agora os dados neurais como informação sensível.
Estas preocupações vão além dos dados das ondas cerebrais. Num inquérito Malwarebytes a leitores de newsletters , 90% estavam preocupados com a possibilidade de a IA utilizar os seus dados sem consentimento, enquanto 92% estavam preocupados com as empresas que utilizavam os seus dados pessoais de forma inadequada.
O que os proprietários de Muse podem fazer
Usa uma pulseira de acupressão ou outro dispositivo de neurotecnologia? Considere que os seus dados cerebrais podem ser utilizados para muito mais do que imagina. E se a empresa falir e/ou for adquirida, pode passar para outro proprietário. Foi exatamente isso que aconteceu com a empresa de testes genéticos 23andMe.
Com isto em mente, verifique a política de privacidade do fabricante e, caso não a encontre, pergunte-lhe diretamente. Pergunte se os seus dados de EEG são utilizados para treinar a IA, se pode optar por não participar e se pode eliminar as gravações já recolhidas.
Caso estas opções não estejam disponíveis, considere se se sente confortável em continuar a utilizar o dispositivo.
Desde a denúncia de ameaças até à sua remoção.
Os riscos de cibersegurança nunca devem ir além das manchetes. Mantenha as ameaças longe dos seus dispositivos , descarregando hoje mesmo Malwarebytes .
