En este artículo
- El creador de Muse utilizó aproximadamente 50.000 horas de grabaciones de ondas cerebrales de los usuarios para entrenar la IA sin decírselo explícitamente.
- Eliminar los nombres podría no ser suficiente para anonimizar los datos de las ondas cerebrales; los investigadores han identificado a individuos a partir de registros de EEG.
- Consulta las políticas de privacidad y pregunta sobre la opción de exclusión voluntaria y la eliminación de datos.
Las empresas tecnológicas llevan años intentando manipular nuestra mente para obtener beneficios. Ahora lo hacen literalmente. El fabricante de Muse, una diadema que mide la actividad cerebral durante el sueño y la meditación, utilizó los datos de las ondas cerebrales de los usuarios para entrenar una IA sin avisarles explícitamente, según ha revelado una investigación.
Las empresas venden estas pulseras para dormir a los consumidores con el fin de ayudarles a comprender mejor qué hace su cerebro cuando duermen y meditan. Sin embargo, según una investigación publicada en la revista Science, también están descubriendo algunos secretos por su cuenta.
La investigación, que duró un año, reveló que la empresa canadiense Interaxon, fabricante de la diadema Muse para dormir y meditar, utilizaba los datos recopilados del cerebro de los usuarios para entrenar inteligencia artificial. La compañía empleó aproximadamente 50 000 horas de registros de electroencefalografía (EEG), que miden la actividad eléctrica del cerebro, para entrenar un modelo cerebral básico.
Los modelos de IA entrenados con grandes cantidades de datos de ondas cerebrales de diferentes personas pueden detectar patrones en la actividad cerebral. Por ejemplo, un modelo podría aprender a reconocer patrones asociados con convulsiones.
Investigar este tipo de resultados es loable, pero solo si primero se informa a las personas cuyos datos de EEG se utilizan para el entrenamiento. Interaxon no lo hizo.
Así funciona tu cerebro con una política de privacidad inadecuada.
Cuando la revista Science consultó a Interaxon sobre el tema, su directora de marketing, Nadia Kumentas, reconoció que los usuarios deberían ser informados explícitamente sobre el entrenamiento de la IA. La empresa actualizó su política de privacidad, que ahora establece que se utilizan datos anonimizados para entrenar los modelos de aprendizaje automático .
Recopilar datos mediante dispositivos como este resulta tentador para las empresas porque, de otro modo, los datos de las ondas cerebrales son difíciles de obtener y, por lo tanto, increíblemente valiosos.
No es de extrañar, entonces, que no sea la única empresa de neurotecnología que enfrenta interrogantes sobre sus prácticas de datos. La publicación analizó 57 empresas que recopilan datos cerebrales y descubrió que solo seis afirmaron explícitamente que no venderían los datos cerebrales de los usuarios. Más de dos tercios permiten que los datos cerebrales se transfieran a un nuevo propietario si son adquiridos. Once de ellas solo contaban con una política de privacidad para los visitantes del sitio web, y cuatro no tenían ninguna política.
Cabe destacar que Interaxon eliminó los nombres y las direcciones de correo electrónico de los datos EEG de los usuarios antes de utilizarlos para el entrenamiento. Sin embargo, los datos de esos usuarios ya contribuyeron a dar forma a un modelo entrenado sin que ellos lo supieran explícitamente. Eliminar su influencia a posteriori es extremadamente difícil.
Pero, ¿es suficiente dicha “desidentificación”? Un estudio académico realizado este año por la Universidad del Sudeste de Noruega descubrió que los registros de EEG y las características derivadas pueden contener información sensible específica del paciente. El estudio indicó que esto puede generar riesgos para la privacidad cuando esos datos se comparten entre entornos clínicos y de investigación. Añadió:
“Los métodos de anonimización convencionales suelen ser insuficientes para las señales biomédicas de alta dimensionalidad, ya que la eliminación de identificadores directos no evita necesariamente los riesgos de reidentificación, vinculación o inferencia.”
Otro estudio realizado por investigadores de la Universidad Ben-Gurion, en Israel, reveló que el análisis de registros de EEG en estado de reposo podría arrojar luz sobre rasgos de personalidad y capacidades cognitivas. Según un estudio de 2018 de investigadores de la Universidad de Corea, el EEG en estado de reposo identificó a los usuarios en el 88,4 % de los casos. Asimismo, un estudio de la Universidad del Sur de California afirmó que los datos de EEG podrían revelar el estado de salud mental, afecciones neurológicas e incluso el historial de consumo de sustancias.
Estos hallazgos no permiten determinar qué se puede inferir específicamente de las grabaciones de Muse. Las diademas de uso doméstico generalmente tienen menos electrodos que los sistemas de EEG clínicos.
Este no es el primer análisis del sector de la neurotecnología de consumo que revela algunas tendencias preocupantes. Un informe de la Fundación Neurorights de 2024 reveló que 29 de las 30 empresas encuestadas parecían tener acceso a los datos neuronales de los consumidores y no habían establecido "limitaciones significativas a dicho acceso".
La ley aún se está poniendo al día con todo esto. La información biométrica de Illinois Privacy La Ley de Protección de la Información Biométrica de EEG (BIPA) considera la huella dactilar, la huella de voz o la geometría facial, entre otros datos, como identificadores biométricos, pero no incluye los datos de EEG. Sin embargo, Colorado y California ahora sí consideran los datos neuronales como información sensible.
Estas preocupaciones van más allá de los datos de ondas cerebrales. En una encuesta de Malwarebytes a lectores de boletines informativos , el 90 % se mostró preocupado por que la IA utilizara sus datos sin su consentimiento, mientras que el 92 % estaba preocupado por que las empresas utilizaran sus datos personales de forma inapropiada.
Qué pueden hacer los propietarios de Muse
¿Utilizas una pulsera para dormir u otro dispositivo neurotecnológico? Ten en cuenta que tus datos cerebrales podrían usarse para mucho más de lo que imaginas. Y si la empresa quiebra o es adquirida, podría pasar a manos de otro propietario. Eso es precisamente lo que ocurrió con la empresa de pruebas genéticas 23andMe.
Teniendo esto en cuenta, consulta la política de privacidad del fabricante y, si no la encuentras, pregúntales directamente. Pregunta si tus datos de EEG se utilizan para entrenar inteligencia artificial, si puedes optar por no participar y si puedes eliminar las grabaciones ya recopiladas.
Si esas opciones no están disponibles, considere si se siente cómodo continuando con el uso del dispositivo.
Desde denunciar las amenazas hasta eliminarlas.
Los riesgos de ciberseguridad nunca deberían trascender un simple titular. Mantén tus dispositivos protegidos contra amenazas descargando Malwarebytes hoy mismo .
