Użytkownicy opaski do spania Muse nie zostali poinformowani, że ich dane mózgowe służą do trenowania sztucznej inteligencji

Firmy technologiczne od lat próbują włamać się do ludzkiej głowy dla zysku. Teraz robią to dosłownie. Jak wynika z dochodzenia, twórca Muse, opaski mierzącej aktywność mózgu podczas snu i medytacji, wykorzystał dane o falach mózgowych użytkowników do trenowania sztucznej inteligencji bez ich wiedzy.

Firmy sprzedają te konsumenckie opaski do spania, aby pomóc Ci lepiej zrozumieć, co robi Twój mózg podczas snu i medytacji. Jednak, według badania opublikowanego w magazynie „Science”, firmy te zdobywają przy okazji pewną wiedzę na ten temat.

Roczne dochodzenie wykazało, że kanadyjska firma Interaxon, producent opaski do snu i medytacji Muse, wykorzystywała dane zebrane z mózgów użytkowników do trenowania sztucznej inteligencji. Firma wykorzystała około 50 000 godzin nagrań elektroencefalograficznych (EEG), które mierzą aktywność elektryczną mózgu, do wyszkolenia „modelu bazowego mózgu”.

Modele sztucznej inteligencji trenowane na dużych zbiorach danych dotyczących fal mózgowych różnych osób potrafią dostrzegać wzorce w aktywności mózgu. Na przykład, model może nauczyć się rozpoznawać wzorce związane z napadami padaczkowymi.

Badanie takich wyników jest godne pochwały, ale tylko wtedy, gdy najpierw poinformuje się o tym osoby, których dane EEG są wykorzystywane do treningu. Interaxon tego nie zrobił.

To Twój mózg, który nie stosuje odpowiedniej polityki prywatności

Kiedy Science zwróciło się do Interaxon z pytaniem w tej sprawie, dyrektor ds. marketingu, Nadia Kumentas, przyznała, że ​​użytkownicy powinni być wyraźnie poinformowani o szkoleniu sztucznej inteligencji. Firma zaktualizowała swoją politykę prywatności, która obecnie stanowi, że do szkolenia modeli uczenia maszynowego wykorzystywane są zanonimizowane dane.

Gromadzenie danych za pomocą takich urządzeń jest kuszące dla firm, ponieważ dane dotyczące fal mózgowych są trudne do uzyskania w inny sposób, a przez to niezwykle cenne.

Nic więc dziwnego, że nie jest to jedyna firma z branży technologii neuronowych, która spotyka się z pytaniami dotyczącymi swoich praktyk w zakresie danych. Publikacja przeanalizowała 57 firm gromadzących dane dotyczące mózgu i odkryła, że ​​tylko sześć z nich wyraźnie zadeklarowało, że nie sprzeda danych mózgowych użytkowników. Ponad dwie trzecie firm zezwala na przekazanie danych mózgowych nowemu właścicielowi w przypadku przejęcia. Jedenaście z nich posiadało jedynie politykę prywatności dla odwiedzających strony internetowe, a cztery nie miały żadnej polityki.

Na swoją korzyść należy dodać, że Interaxon usunął imiona i nazwiska oraz adresy e-mail z danych EEG użytkowników przed ich wykorzystaniem do treningu. Jednak dane tych użytkowników pomogły już ukształtować model, który został wytrenowany, bez ich wyraźnego poinformowania. Usunięcie ich wpływu po fakcie jest niezwykle trudne.

Ale czy taka „deidentyfikacja” wystarczy? Badanie naukowe przeprowadzone w tym roku przez Uniwersytet Południowo-Wschodniej Norwegii wykazało, że nagrania EEG i uzyskane na ich podstawie dane mogą zawierać poufne informacje dotyczące konkretnego pacjenta. Stwierdzono, że może to stwarzać zagrożenie dla prywatności, gdy dane te są udostępniane w środowiskach klinicznych i badawczych. Dodano:

„Konwencjonalne metody anonimizacji często okazują się niewystarczające w przypadku wielowymiarowych sygnałów biomedycznych, ponieważ usunięcie bezpośrednich identyfikatorów niekoniecznie zapobiega ryzyku ponownej identyfikacji, powiązania lub wnioskowania”.

Inne badanie przeprowadzone przez naukowców z Uniwersytetu Ben-Guriona w Izraelu wykazało, że analiza zapisów EEG w stanie spoczynku może rzucić światło na cechy osobowości i zdolności poznawcze. Według badania przeprowadzonego w 2018 roku przez naukowców z Uniwersytetu Koreańskiego, EEG w stanie spoczynku zidentyfikowało użytkowników w 88,4% przypadków. Z kolei badanie Uniwersytetu Południowej Kalifornii wykazało, że dane EEG mogą ujawnić stan zdrowia psychicznego, schorzenia neurologiczne, a nawet historię używania substancji psychoaktywnych.

Te ustalenia nie dowodzą, co konkretnie można wywnioskować z nagrań Muse. Opaski konsumenckie zazwyczaj mają mniej elektrod niż kliniczne systemy EEG.

To nie pierwszy przegląd branży neurotechnologii konsumenckich, który ujawnia niepokojące trendy. Raport Neurorights Foundation z 2024 roku wykazał, że 29 z 30 przebadanych firm miało dostęp do danych neuronowych konsumentów i „nie wprowadziło żadnych istotnych ograniczeń w tym dostępie”.

Prawo wciąż nadąża za tym wszystkim. Departament Informacji Biometrycznej w Illinois Privacy Ustawa o ochronie danych osobowych (BIPA) uznaje odcisk palca, głos lub geometrię twarzy za identyfikatory biometryczne, ale dane EEG nie są uwzględniane. Jednak Kolorado i Kalifornia traktują obecnie dane neuronowe jako wrażliwe.

Obawy te wykraczają poza dane dotyczące fal mózgowych. W badaniu Malwarebytes wśród czytelników newsletterów , 90% respondentów obawiało się, że sztuczna inteligencja będzie wykorzystywać ich dane bez zgody, a 92% obawiało się, że korporacje będą wykorzystywać ich dane osobowe w niewłaściwy sposób.

Co mogą zrobić właściciele muz

Czy używasz opaski nasennej lub innego urządzenia neurotechnologicznego? Weź pod uwagę, że dane z Twojego mózgu mogą być wykorzystywane do czegoś więcej, niż Ci się wydaje. A jeśli firma zbankrutuje i/lub zostanie przejęta, może przejść w ręce innego właściciela. Dokładnie tak stało się z firmą zajmującą się testami genetycznymi 23andMe.

Mając to na uwadze, sprawdź politykę prywatności producenta, a jeśli jej nie znajdziesz, zapytaj bezpośrednio. Zapytaj, czy Twoje dane EEG są wykorzystywane do trenowania sztucznej inteligencji, czy możesz zrezygnować z ich udostępniania i czy możesz usunąć już zebrane nagrania.

Jeśli te opcje nie są dostępne, zastanów się, czy możesz nadal korzystać z urządzenia.

Od zgłaszania zagrożeń po ich usuwanie.

Zagrożenia cyberbezpieczeństwa nigdy nie powinny wykraczać poza nagłówki. Chroń swoje urządzenia przed zagrożeniami, pobierając Malwarebytes już dziś .