In questo articolo
- Il creatore di Muse ha utilizzato circa 50.000 ore di registrazioni delle onde cerebrali degli utenti per addestrare l'IA senza dirglielo esplicitamente.
- Eliminare i nomi potrebbe non essere sufficiente a rendere anonimi i dati sulle onde cerebrali; i ricercatori hanno identificato individui a partire da registrazioni EEG.
- Consulta le informative sulla privacy e chiedi informazioni su come disattivare il tracciamento e cancellare i dati.
Le aziende tecnologiche hanno passato anni a cercare di entrare nella nostra mente per trarne profitto. Ora lo stanno facendo letteralmente. Un'indagine ha rivelato che il produttore di Muse, una fascia per la testa che misura l'attività cerebrale durante il sonno e la meditazione, ha utilizzato i dati delle onde cerebrali degli utenti per addestrare l'intelligenza artificiale senza informarli esplicitamente.
Le aziende vendono questi braccialetti per il sonno destinati ai consumatori, con la promessa di aiutarvi a comprendere meglio cosa succede al vostro cervello durante il sonno e la meditazione. Tuttavia, secondo un'indagine pubblicata sulla rivista Science, anche loro stanno traendo qualche spunto interessante da questi dispositivi.
L'indagine, durata un anno, ha rivelato che l'azienda canadese Interaxon, produttrice della fascia per il sonno e la meditazione Muse, utilizzava i dati raccolti dall'attività cerebrale degli utenti per addestrare un'intelligenza artificiale. L'azienda ha utilizzato circa 50.000 ore di registrazioni elettroencefalografiche (EEG), che misurano l'attività elettrica del cervello, per addestrare un "modello di base del cervello".
I modelli di intelligenza artificiale addestrati con grandi quantità di dati sulle onde cerebrali di persone diverse possono individuare schemi nell'attività cerebrale. Ad esempio, un modello potrebbe imparare a riconoscere gli schemi associati alle crisi epilettiche.
Studiare tali risultati è lodevole, ma solo se prima si informano le persone i cui dati EEG vengono utilizzati per l'addestramento. Interaxon non lo ha fatto.
Questo è il tuo cervello sotto l'effetto di una politica sulla privacy inadeguata
Quando Science ha chiesto chiarimenti a Interaxon in merito alla questione, la responsabile marketing Nadia Kumentas ha riconosciuto che gli utenti dovrebbero essere esplicitamente informati sull'addestramento dell'IA. L'azienda ha aggiornato la sua informativa sulla privacy, che ora specifica che i dati anonimizzati vengono utilizzati per addestrare i modelli di apprendimento automatico .
La raccolta di dati tramite dispositivi come questo è allettante per le aziende perché i dati sulle onde cerebrali sono altrimenti difficili da ottenere e quindi incredibilmente preziosi.
Non c'è da stupirsi, quindi, che non sia l'unica azienda di neurotecnologie a dover rispondere a domande sulle proprie pratiche di gestione dei dati. La pubblicazione ha esaminato 57 aziende che raccolgono dati cerebrali e ha scoperto che solo sei dichiaravano esplicitamente di non voler vendere i dati cerebrali degli utenti. Oltre due terzi consentono il trasferimento dei dati cerebrali a un nuovo proprietario in caso di acquisizione. Undici di queste aziende avevano una politica sulla privacy solo per i visitatori del sito web, mentre quattro non ne avevano alcuna.
Va riconosciuto a Interaxon il merito di aver rimosso nomi e indirizzi email dai dati EEG degli utenti prima di utilizzarli per l'addestramento. Tuttavia, i dati di questi utenti hanno già contribuito a plasmare un modello addestrato senza che gli utenti ne fossero esplicitamente informati. Eliminare la loro influenza a posteriori è estremamente difficile.
Ma una tale "de-identificazione" è sufficiente? Uno studio accademico condotto quest'anno dall'Università della Norvegia sud-orientale ha rilevato che le registrazioni EEG e le caratteristiche derivate possono contenere informazioni sensibili specifiche del paziente. Lo studio ha affermato che ciò può creare rischi per la privacy quando tali dati vengono condivisi tra ambienti clinici e di ricerca. Ha aggiunto:
"I metodi di anonimizzazione convenzionali sono spesso insufficienti per i segnali biomedici ad alta dimensionalità, poiché la rimozione degli identificatori diretti non impedisce necessariamente i rischi di reidentificazione, collegamento o inferenza."
Un altro studio condotto da ricercatori dell'Università Ben-Gurion in Israele ha scoperto che l'analisi delle registrazioni EEG a riposo potrebbe far luce su tratti della personalità e capacità cognitive. Secondo uno studio del 2018 condotto da ricercatori della Korea University, l'EEG a riposo ha identificato i consumatori nell'88,4% dei casi. Inoltre, uno studio dell'Università della California del Sud ha affermato che i dati EEG potrebbero rivelare lo stato di salute mentale, le condizioni neurologiche e persino la storia di consumo di sostanze.
Questi risultati non stabiliscono cosa si possa dedurre nello specifico dalle registrazioni di Muse. Le fasce per la testa destinate al mercato consumer hanno generalmente un numero inferiore di elettrodi rispetto ai sistemi EEG clinici.
Questa non è la prima analisi del settore delle neurotecnologie di consumo a rivelare tendenze preoccupanti. Un rapporto del 2024 della Neurorights Foundation ha rilevato che 29 delle 30 aziende intervistate sembravano avere accesso ai dati neurali dei consumatori e non avevano previsto "alcuna limitazione significativa a tale accesso".
La legge si sta ancora adeguando a tutto questo. Informazioni biometriche dell'Illinois Privacy La legge ACT (BIPA) considera le impronte digitali, l'impronta vocale e la geometria del viso, tra le altre cose, come identificatori biometrici, ma i dati EEG non sono inclusi. Tuttavia, il Colorado e la California ora considerano i dati neurali come sensibili.
Queste preoccupazioni vanno oltre i dati sulle onde cerebrali. In un sondaggio Malwarebytes tra i lettori della newsletter , il 90% si è dichiarato preoccupato che l'intelligenza artificiale utilizzi i loro dati senza consenso, mentre il 92% si è detto preoccupato che le aziende utilizzino i loro dati personali in modo improprio.
Cosa possono fare i possessori di Muse
Utilizzi un braccialetto per il monitoraggio del sonno o un altro dispositivo neurotecnologico? Considera che i dati relativi alla tua attività cerebrale potrebbero essere utilizzati per scopi ben più ampi di quanto immagini. Inoltre, se l'azienda fallisce e/o viene acquisita, potrebbe passare a un altro proprietario. È esattamente quello che è successo con l'azienda di test genetici 23andMe.
Tenendo presente ciò, controlla l'informativa sulla privacy del produttore e, se non la trovi, chiedi direttamente. Chiedi se i tuoi dati EEG vengono utilizzati per addestrare l'intelligenza artificiale, se puoi rifiutare e se puoi eliminare le registrazioni già raccolte.
Se queste opzioni non sono disponibili, valuta se ti senti a tuo agio nel continuare a utilizzare il dispositivo.
Dalla segnalazione delle minacce alla loro rimozione.
I rischi per la sicurezza informatica non dovrebbero mai andare oltre un titolo di giornale. Proteggi i tuoi dispositivi dalle minacce scaricando Malwarebytes oggi stesso .
