Un gruppo di grandi aziende tecnologiche sta lottando per bloccare circa 3.000 cause legali relative alla sicurezza dei giovani, e ha appena perso una battaglia procedurale cruciale in tribunale.
Le cause legali, intentate da procuratori generali e famiglie, sostengono che Meta, Google, TikTok di ByteDance e Snap sapessero che i loro prodotti creavano dipendenza nei bambini e negli adolescenti e che erano dannosi per la loro salute mentale, ma hanno continuato a commercializzarli ai giovani utenti per profitto.
Le aziende tecnologiche hanno tentato di appellarsi contro una sentenza di un tribunale federale che consentiva alle parti coinvolte di intentare causa. Hanno sostenuto, dinanzi alla Corte d'Appello del Nono Circuito degli Stati Uniti, che una legge fondamentale statunitense impediva loro di essere citate in giudizio.
Quella legge è la Sezione 230 del Communications Decency Act, creata 30 anni fa. Stabilisce che le piattaforme non possono essere ritenute responsabili per i contenuti pubblicati online dai loro utenti. Per anni, le aziende dei social media l'hanno considerata come un giubbotto antiproiettile. Quando gli utenti pubblicavano qualcosa di inappropriato, l'azienda che gestiva la piattaforma poteva affermare di essere stata la fonte del messaggio, non l'autore.
Questa difesa non sembra funzionare in questo caso. Il 10 agosto, la corte ha stabilito che la Sezione 230 "fornisce una difesa dalla responsabilità, non l'immunità dalle cause legali, quindi l'appello era prematuro". Questo caso non ruota tanto attorno a ciò che le persone hanno pubblicato online, quanto piuttosto a come le aziende tecnologiche avrebbero presumibilmente progettato le loro piattaforme per presentare tali contenuti agli utenti.
La Nebraska Law Review illustra diverse tecniche che, secondo le cause legali, rendono queste piattaforme più coinvolgenti e potenzialmente più addictive.
L'articolo spiega come determinate interazioni su queste piattaforme possano innescare il rilascio di dopamina. Queste interazioni possono essere semplici come una risposta a un messaggio o un "mi piace" a una foto. La dopamina svolge un ruolo importante nel sistema di ricompensa del cervello.
L'articolo di NLR descrive tecniche come rendere imprevedibili le ricompense, il che incoraggia le persone a controllare abitualmente i propri account. Anche funzionalità dell'interfaccia come lo scorrimento infinito sono progettate per mantenere alta la produzione di dopamina. L'articolo cita l'inventore di questa particolare idea, che la descrive come:
"Prendere cocaina [comportamentale] e spargerla su tutta la tua interfaccia."
Chiunque abbia passato troppo tempo a letto a scorrere compulsivamente notizie negative può capirmi.
Il rigetto dell'appello da parte della Corte d'Appello del Nono Circuito è proceduralmente limitato, ma strategicamente enorme. La Sezione 230 è una difesa da invocare in tribunale, non un muro che impedisce ai querelanti di accedere al palazzo di giustizia. La Corte d'Appello del Terzo Circuito si è spinta oltre, stabilendo che la Sezione 230 "non garantisce l'immunità alle piattaforme qualora debbano affrontare cause per responsabilità civile derivanti da danni causati dagli algoritmi da esse progettati".
In altre parole, l'algoritmo è il prodotto. Il prodotto può essere difettoso.
Dietro a questi casi si cela una crescente mole di materiale probatorio che, secondo i querelanti, fa luce su come le piattaforme abbiano gestito il coinvolgimento degli utenti, e una sentenza del New Mexico contro Meta, emessa all'inizio di questo mese in un caso che esamina reclami simili. Tale sentenza ammonta ora a 942 milioni di dollari, poiché il giudice ha aggiunto 567 milioni di dollari all'importo originale, constatando che Meta aveva:
"Ha creato un disturbo pubblico attraverso il design della sua piattaforma."
Quale scoperta continua a protrarsi
In questi casi, le indagini si sono già rivelate sfavorevoli per Meta. Un'e -mail del 2016 attribuita a Mark Zuckerberg affermava che avvisare i genitori dei video in diretta degli adolescenti avrebbe "probabilmente rovinato il prodotto fin dall'inizio". Un recente documento depositato in tribunale ha denunciato che i dipendenti dei giganti dei social media hanno paragonato le proprie piattaforme alle droghe, con un dipendente di Meta che ha scritto:
"In pratica siamo degli spacciatori."
Snap non sembra essere messo meglio. Alla fine del 2022, i dipendenti di Snap ricevevano circa 10.000 segnalazioni di estorsione sessuale al mese, secondo un documento depositato nel caso del New Mexico. Un'indagine interna ha concluso che il 70% delle vittime non ha mai denunciato gli abusi perché "sapevano che Snap non avrebbe intrapreso alcuna azione; infatti, del 30% che ha denunciato, nessuna segnalazione è stata presa in considerazione".
Quel dato è emerso dalla denuncia integrale del Nuovo Messico, non da alcuna divulgazione di informazioni relative a Snap.
Dispositivi di sicurezza che non funzionano
Se i dirigenti lo sapevano, avrebbero dovuto apportare le correzioni necessarie. Nella maggior parte dei casi non è successo. I ricercatori della NYU e della Northeastern University hanno testato 86 funzionalità di sicurezza per i giovani e hanno scoperto che 51 non hanno superato i test. Il tasso di fallimento di Snapchat è stato del 73%, Instagram 's 66%, YouTube Il 55% di e il 50% di TikTok. Nove funzionalità non si sono nemmeno attivate quando i ricercatori hanno provato. I ricercatori hanno riferito che ogni misura di sicurezza contro il cyberbullismo che hanno testato ha fallito.
Le deviazioni sono state trovate rapidamente. Digita “disturbo alimentare” in Instagram La funzione di ricerca e completamento automatico suggerisce gentilmente gli errori di ortografia intenzionali che le comunità a favore dei disturbi alimentari usano per eludere la lista nera della piattaforma stessa. In quel caso, la sicurezza stava facendo l'opposto della sicurezza.
Cosa possono fare i genitori adesso
Non dare per scontato che le funzionalità di sicurezza integrate nelle app funzionino esattamente come pubblicizzato. Se tuo figlio utilizza i social media, testa personalmente le impostazioni e verifica che corrispondano alle tue aspettative.
Crea un account di prova e verifica che ogni impostazione blocchi effettivamente ciò che promette di bloccare. Rifletti anche su quanto tempo vuoi concedere ai tuoi figli sui social media, o se vuoi permettere loro di usarli del tutto. In ogni caso, tutto inizia con una conversazione sincera in famiglia .
Se vostro figlio viene molestato online da persone che conosce, incoraggiatelo a parlarvene immediatamente. Conservate le prove, bloccate e segnalate gli account, se necessario, e non esitate a coinvolgere la scuola o le forze dell'ordine se le molestie includono minacce, ricatti o sfruttamento sessuale.
È inoltre possibile segnalare i casi di estorsione sessuale direttamente alla CyberTipline del National Center for Missing and Exploited Children , anziché affidarsi al sistema di segnalazione interno di una piattaforma.
Tornate a consultare questa pagina per ulteriori dettagli sul caso federale. I prossimi mesi saranno decisivi per stabilire se le più grandi piattaforme della storia verranno riscritte dalle giurie o se si risolveranno con un accordo extragiudiziale, un assegno riservato alla volta.
Dalla segnalazione delle minacce alla loro rimozione.
I rischi per la sicurezza informatica non dovrebbero mai diffondersi al di là di un titolo di giornale. Tenete le minacce lontane dai vostri dispositivi scaricando Malwarebytes oggi stesso.
