In diesem Artikel
- Der Entwickler von Muse nutzte etwa 50.000 Stunden an Gehirnwellenaufzeichnungen von Nutzern, um die KI zu trainieren, ohne ihnen dies explizit mitzuteilen.
- Das Entfernen der Namen reicht möglicherweise nicht aus, um Hirnwellendaten zu anonymisieren; Forscher haben anhand von EEG-Aufzeichnungen Personen identifiziert.
- Prüfen Sie die Datenschutzrichtlinien und fragen Sie nach Möglichkeiten zum Widerspruch und zur Datenlöschung.
Technologieunternehmen versuchen seit Jahren, aus Profitgründen in unsere Köpfe einzudringen. Jetzt tun sie es buchstäblich. Der Hersteller von Muse, einem Stirnband zur Messung der Gehirnaktivität während Schlaf und Meditation, nutzte die Gehirnwellendaten der Nutzer, um eine KI zu trainieren, ohne diese explizit darüber zu informieren, wie eine Untersuchung ergab.
Unternehmen verkaufen diese Schlaftracker, um Nutzern zu helfen, besser zu verstehen, was im Gehirn während des Schlafs und der Meditation passiert. Laut einer Untersuchung im Magazin „Science“ gewinnen die Nutzer dabei aber auch selbst einige Erkenntnisse.
Die einjährige Untersuchung ergab, dass das kanadische Unternehmen Interaxon, Hersteller des Schlaf- und Meditationsstirnbands Muse, die von den Gehirnen der Nutzer gesammelten Daten zur Entwicklung einer künstlichen Intelligenz nutzte. Das Unternehmen verwendete rund 50.000 Stunden an Elektroenzephalografie-Aufzeichnungen (EEG), die die elektrische Aktivität des Gehirns messen, um ein „Gehirn-Grundlagenmodell“ zu trainieren.
KI-Modelle, die mit großen Mengen an Hirnwellendaten verschiedener Personen trainiert wurden, können Muster in der Hirnaktivität erkennen. Beispielsweise könnte ein Modell lernen, Muster zu erkennen, die mit epileptischen Anfällen in Zusammenhang stehen.
Die Erforschung solcher Ergebnisse ist lobenswert, aber nur, wenn man vorher die Personen informiert, deren EEG-Daten für das Training verwendet werden. Interaxon hat dies nicht getan.
So sieht Ihr Gehirn bei einer unzureichenden Datenschutzrichtlinie aus.
Als Science Interaxon zu diesem Thema befragte, räumte Marketingchefin Nadia Kumentas ein, dass Nutzer explizit über das KI-Training informiert werden sollten. Das Unternehmen aktualisierte seine Datenschutzrichtlinie, in der nun steht, dass anonymisierte Daten zum Trainieren von Modellen des maschinellen Lernens verwendet werden.
Die Datenerfassung mithilfe solcher Geräte ist für Unternehmen verlockend, da Hirnwellendaten sonst schwer zu gewinnen und daher unglaublich wertvoll sind.
Kein Wunder also, dass es nicht das einzige Unternehmen im Bereich Neurotechnologie ist, das sich Fragen zu seinen Datenpraktiken stellen muss. Die Publikation untersuchte 57 Unternehmen, die Gehirndaten sammeln, und stellte fest, dass nur sechs explizit angaben, die Gehirndaten ihrer Nutzer nicht zu verkaufen. Mehr als zwei Drittel erlauben, dass Gehirndaten im Falle einer Übernahme an einen neuen Eigentümer weitergegeben werden. Elf von ihnen hatten lediglich eine Datenschutzerklärung für Website-Besucher, und vier hatten überhaupt keine.
Lobenswert ist, dass Interaxon vor der Verwendung der EEG-Daten für das Training Namen und E-Mail-Adressen der Nutzer entfernt hat. Allerdings haben diese Daten bereits zur Entwicklung eines Modells beigetragen, das ohne deren ausdrückliche Einwilligung trainiert wurde. Es ist äußerst schwierig, diesen Einfluss nachträglich zu beseitigen.
Aber reicht eine solche „Anonymisierung“ aus? Eine in diesem Jahr von der Universität Südostnorwegen durchgeführte Studie ergab, dass EEG-Aufzeichnungen und daraus abgeleitete Merkmale sensible patientenspezifische Informationen enthalten können. Laut der Studie können dadurch Datenschutzrisiken entstehen, wenn diese Daten in klinischen und Forschungseinrichtungen ausgetauscht werden. Weiter heißt es:
„Herkömmliche Anonymisierungsmethoden reichen für hochdimensionale biomedizinische Signale oft nicht aus, da die Entfernung direkter Identifikatoren nicht unbedingt das Risiko einer Re-Identifizierung, Verknüpfung oder von Rückschlüssen ausschließt.“
Eine weitere Studie von Forschern der Ben-Gurion-Universität in Israel ergab, dass die Analyse von Ruhe-EEG-Aufzeichnungen Aufschluss über Persönlichkeitsmerkmale und kognitive Fähigkeiten geben kann. Laut einer Studie der Korea University aus dem Jahr 2018 konnten Nutzer mithilfe von Ruhe-EEG-Daten in 88,4 % der Fälle identifiziert werden. Eine Studie der University of Southern California behauptete zudem, dass EEG-Daten den psychischen Gesundheitszustand, neurologische Erkrankungen und sogar die Vorgeschichte des Substanzkonsums offenlegen könnten.
Diese Ergebnisse lassen keine Rückschlüsse darauf zu, was sich konkret aus den Muse-Aufzeichnungen ableiten lässt. Stirnbänder für Endverbraucher verfügen im Allgemeinen über weniger Elektroden als klinische EEG-Systeme.
Dies ist nicht die erste Untersuchung der Verbraucher-Neurotechnologiebranche, die besorgniserregende Trends aufdeckt. Ein Bericht der Neurorights Foundation aus dem Jahr 2024 ergab, dass 29 von 30 befragten Unternehmen offenbar Zugriff auf neuronale Daten von Verbrauchern hatten und „keine sinnvollen Einschränkungen für diesen Zugriff“ vorsahen.
Das Gesetz hinkt hier noch hinterher. Die biometrischen Daten von Illinois Privacy Das Biometric Information Privacy Act (BIPA) zählt unter anderem Fingerabdrücke, Stimmabdrücke und Gesichtszüge zu den biometrischen Merkmalen, EEG-Daten hingegen nicht. In Colorado und Kalifornien werden neuronale Daten jedoch mittlerweile als sensible Daten eingestuft.
Diese Bedenken beschränken sich nicht nur auf Hirnstromdaten. In einer Umfrage von Malwarebytes unter Newsletter-Lesern gaben 90 % an, sich Sorgen darüber zu machen, dass KI ihre Daten ohne Zustimmung verwendet, während 92 % Bedenken hinsichtlich des Missbrauchs ihrer personenbezogenen Daten durch Unternehmen äußerten.
Was Muse-Besitzer tun können
Nutzen Sie ein Schlafarmband oder ein anderes neurotechnologisches Gerät? Bedenken Sie, dass Ihre Gehirndaten für mehr genutzt werden könnten, als Sie denken. Und wenn das Unternehmen Konkurs anmeldet oder übernommen wird, könnte es in andere Hände übergehen. Genau das ist dem Gentest-Unternehmen 23andMe passiert .
Beachten Sie dies und prüfen Sie die Datenschutzerklärung des Herstellers. Sollten Sie keine finden, fragen Sie direkt nach. Erkundigen Sie sich, ob Ihre EEG-Daten zum Trainieren von KI verwendet werden, ob Sie der Verwendung widersprechen können und ob Sie bereits gespeicherte Aufzeichnungen löschen können.
Wenn diese Optionen nicht zur Verfügung stehen, überlegen Sie, ob Sie sich wohl dabei fühlen, das Gerät weiterhin zu benutzen.
Von der Meldung von Bedrohungen bis zu deren Beseitigung.
Cybersicherheitsrisiken sollten niemals über die Schlagzeile hinausgehen. Schützen Sie Ihre Geräte vor Bedrohungen, indem Sie Malwarebytes noch heute herunterladen .
