Neste artigo
- O criador do Muse usou cerca de 50.000 horas de gravações de ondas cerebrais de usuários para treinar a IA sem que eles soubessem disso explicitamente.
- Remover os nomes pode não ser suficiente para tornar os dados de ondas cerebrais anônimos; pesquisadores identificaram indivíduos a partir de gravações de EEG.
- Consulte as políticas de privacidade e pergunte sobre as opções de cancelamento e exclusão de dados.
Empresas de tecnologia passaram anos tentando entrar na sua mente para obter lucro. Agora, elas estão fazendo isso literalmente. A fabricante do Muse, uma faixa de cabeça que mede a atividade cerebral durante o sono e a meditação, usou dados de ondas cerebrais dos usuários para treinar inteligência artificial sem o conhecimento explícito deles, revelou uma investigação.
Empresas vendem essas pulseiras para ajudar os consumidores a entender melhor o que o cérebro faz enquanto dormem e meditam. No entanto, de acordo com uma investigação publicada na revista Science, elas também estão adquirindo algum conhecimento por conta própria.
A investigação, que durou um ano, descobriu que a empresa canadense Interaxon, fabricante da faixa de cabeça para dormir e meditar Muse, estava usando os dados coletados dos cérebros dos usuários para treinar inteligência artificial. A empresa utilizou cerca de 50.000 horas de gravações de eletroencefalografia (EEG), que medem a atividade elétrica do cérebro, para treinar um "modelo básico do cérebro".
Modelos de IA treinados com grandes quantidades de dados de ondas cerebrais de diferentes pessoas podem identificar padrões na atividade cerebral. Por exemplo, um modelo pode aprender a reconhecer padrões associados a convulsões.
Pesquisar esses resultados é louvável, mas somente se você primeiro informar as pessoas cujos dados de EEG estão sendo usados para o treinamento. A Interaxon não fez isso.
Este é o seu cérebro sob uma política de privacidade inadequada.
Quando a revista Science questionou a Interaxon sobre o assunto, sua diretora de marketing, Nadia Kumentas, reconheceu que os usuários devem ser explicitamente informados sobre o treinamento de IA. A empresa atualizou sua política de privacidade, que agora afirma que dados anonimizados são usados para treinar modelos de aprendizado de máquina .
A coleta de dados por meio de dispositivos como esse é tentadora para as empresas, pois os dados de ondas cerebrais são difíceis de obter de outra forma e, portanto, incrivelmente valiosos.
Não é de admirar, portanto, que essa não seja a única empresa de neurotecnologia a enfrentar questionamentos sobre suas práticas de dados. A publicação analisou 57 empresas que coletam dados cerebrais e descobriu que apenas seis afirmaram explicitamente que não venderiam os dados cerebrais dos usuários. Mais de dois terços permitem que os dados cerebrais sejam transferidos para um novo proprietário caso sejam adquiridas. Onze delas tinham apenas uma política de privacidade para visitantes do site e quatro não tinham política alguma.
A Interaxon merece crédito por remover nomes e endereços de e-mail dos dados de EEG dos usuários antes de usá-los para treinamento. No entanto, os dados desses usuários já ajudaram a moldar um modelo treinado sem que eles fossem explicitamente informados. Remover essa influência posteriormente é extremamente difícil.
Mas será que essa “desidentificação” é suficiente? Um estudo acadêmico realizado pela Universidade do Sudeste da Noruega este ano descobriu que gravações de EEG e características derivadas podem conter informações sensíveis específicas do paciente. O estudo afirmou que isso pode criar riscos à privacidade quando esses dados são compartilhados em ambientes clínicos e de pesquisa. Acrescentou ainda:
“Os métodos convencionais de anonimização são frequentemente insuficientes para sinais biomédicos de alta dimensionalidade, uma vez que a remoção de identificadores diretos não impede necessariamente os riscos de reidentificação, vinculação ou inferência.”
Outro estudo realizado por pesquisadores da Universidade Ben-Gurion, em Israel, descobriu que a análise de registros de EEG em repouso pode revelar traços de personalidade e habilidades cognitivas. O EEG em repouso identificou usuários em 88,4% dos casos, de acordo com um estudo de 2018 realizado por pesquisadores da Universidade da Coreia. E um estudo da Universidade do Sul da Califórnia afirmou que os dados de EEG podem revelar o estado de saúde mental, condições neurológicas e até mesmo o histórico de uso de substâncias.
Essas descobertas não estabelecem o que pode ser inferido especificamente das gravações do Muse. As faixas de cabeça para uso doméstico geralmente têm menos eletrodos do que os sistemas de EEG clínicos.
Esta não é a primeira análise da indústria de neurotecnologia para o consumidor a revelar algumas tendências preocupantes. Um relatório da Neurorights Foundation de 2024 constatou que 29 das 30 empresas pesquisadas pareciam ter acesso aos dados neurais dos consumidores e não haviam imposto “nenhuma limitação significativa a esse acesso”.
A legislação ainda está se adaptando a tudo isso. Informações Biométricas de Illinois Privacy A Lei de Privacidade de Informações Biométricas (BIPA) considera impressões digitais, registros vocais ou geometria facial, entre outros, como identificadores biométricos, mas dados de EEG não são aceitos. No entanto, o Colorado e a Califórnia agora tratam dados neurais como informações sensíveis.
Essas preocupações vão além dos dados de ondas cerebrais. Em uma pesquisa Malwarebytes com leitores de newsletters , 90% estavam preocupados com a possibilidade de a IA usar seus dados sem consentimento, enquanto 92% estavam preocupados com empresas usando seus dados pessoais de forma inadequada.
O que os proprietários do Muse podem fazer
Você usa uma pulseira de acupressão ou outro dispositivo de neurotecnologia? Considere que seus dados cerebrais podem ser usados para muito mais do que você imagina. E se a empresa falir e/ou for adquirida, ela pode passar para outro dono. Foi exatamente isso que aconteceu com a empresa de testes genéticos 23andMe.
Com isso em mente, verifique a política de privacidade do fabricante e, caso não a encontre, pergunte diretamente a ele. Pergunte se seus dados de EEG são usados para treinar IA, se você pode optar por não participar e se pode excluir gravações já coletadas.
Caso essas opções não estejam disponíveis, considere se você se sente confortável em continuar usando o dispositivo.
Desde a denúncia de ameaças até a sua remoção.
Os riscos de cibersegurança nunca devem ir além das manchetes. Mantenha as ameaças longe dos seus dispositivos baixando Malwarebytes hoje mesmo .
