Een groep grote technologiebedrijven probeert te voorkomen dat zo'n 3.000 rechtszaken over de veiligheid van jongeren doorgaan, maar heeft zojuist een cruciale procedurele strijd in de rechtbank verloren.
De rechtszaken, aangespannen door procureurs-generaal en families, beweren dat Meta, Google, ByteDance's TikTok en Snap wisten dat hun producten verslavend waren voor kinderen en tieners en schadelijk voor hun geestelijke gezondheid, maar desondanks doorgingen met het verkopen ervan aan jonge gebruikers om winst te maken.
De technologiebedrijven probeerden in beroep te gaan tegen een uitspraak van een federale rechtbank die de betrokken partijen toestond hun rechtszaken aan te spannen. Ze betoogden bij het 9e Amerikaanse Hof van Beroep dat een fundamentele Amerikaanse wet betekende dat ze niet voor de rechter konden worden gedaagd.
Die wet is artikel 230 van de Communications Decency Act, die 30 jaar geleden is aangenomen. Daarin staat dat platformen niet verantwoordelijk kunnen worden gehouden voor wat hun gebruikers online plaatsen. Jarenlang beschouwden socialemediabedrijven dit als een soort kogelvrij vest. Wanneer gebruikers iets ongepast plaatsten, kon het bedrijf dat het beheerde beweren dat het de boodschapper was, niet de auteur.
Die verdediging lijkt hier niet te werken. Op 10 augustus oordeelde de rechtbank dat artikel 230 "een verdediging biedt tegen aansprakelijkheid, niet tegen rechtszaken, dus het beroep was prematuur." Deze zaak draait niet zozeer om wat mensen online hebben geplaatst, maar om hoe de technologiebedrijven hun platforms naar verluidt hebben ontworpen om die inhoud aan gebruikers te presenteren.
De Nebraska Law Review legt een aantal technieken uit die volgens de aanklachten deze platforms aantrekkelijker en mogelijk verslavender maken.
Het artikel legt uit hoe bepaalde interacties op deze platforms de afgifte van dopamine kunnen stimuleren. Die interacties kunnen zo simpel zijn als een reactie op je bericht of een like op een van je foto's. Dopamine speelt een belangrijke rol in het beloningssysteem van de hersenen.
Het NLR-artikel beschrijft technieken zoals het onvoorspelbaar maken van die beloningen, wat mensen aanmoedigt om hun accounts regelmatig te controleren. Interfacefuncties zoals oneindig scrollen zijn ook ontworpen om je in de dopamine-trein te houden. Het artikel citeert de bedenker van dat specifieke idee, die het als volgt omschrijft:
“gedragsmatige cocaïne nemen en het gewoon overal op je interface strooien.”
Iedereen die te lang in bed heeft gelegen en op negatieve berichten heeft gescrold, zal dit herkennen.
De afwijzing van het beroep door het 9e Circuit is procedureel beperkt, maar strategisch gezien van enorm belang. Artikel 230 is een verdediging die je tijdens de rechtszaak aanvoert, geen muur die eisers de toegang tot de rechtbank ontzegt. Het Derde Circuit is nog verder gegaan en heeft geoordeeld dat artikel 230 "platforms geen immuniteit biedt als ze worden aangeklaagd voor schade veroorzaakt door de algoritmes die ze ontwerpen."
Het algoritme is met andere woorden het product. Het product kan gebreken vertonen.
Achter die rechtszaken schuilt een groeiende stapel bewijsmateriaal dat volgens de eisers inzicht geeft in de manier waarop de platforms omgingen met gebruikersbetrokkenheid, en een vonnis tegen Meta in New Mexico eerder deze maand in een zaak waarin soortgelijke klachten werden onderzocht. Dat vonnis bedraagt nu in totaal $942 miljoen, omdat de rechter $567 miljoen aan het oorspronkelijke bedrag heeft toegevoegd, omdat Meta volgens hem:
“Het platformontwerp heeft voor overlast gezorgd.”
Welke ontdekking sleept zich maar voort?
In deze rechtszaken is het onderzoek naar Meta al niet gunstig gezind geweest. In een e-mail uit 2016, toegeschreven aan Mark Zuckerberg, stond dat ouders waarschuwen voor livevideo's van tieners "het product waarschijnlijk vanaf het begin zou ruïneren". In een recent gerechtelijk document werd beweerd dat medewerkers van socialemediagiganten hun eigen platforms met drugs vergeleken, waarbij een Meta-medewerker schreef:
“Wij zijn in feite drugsdealers.”
Snap komt er niet veel beter vanaf. Eind 2022 ontvingen Snap-medewerkers volgens een document in de zaak in New Mexico zo'n 10.000 meldingen van sextortion per maand. Een intern onderzoek concludeerde dat 70% van de slachtoffers nooit melding maakte omdat "ze wisten dat Snap geen actie zou ondernemen; van de 30% die wel melding maakte, werd er inderdaad niets aan gedaan."
Dat cijfer kwam aan het licht via de ongecensureerde klacht van New Mexico, niet via een openbaarmaking door Snap.
Veiligheidsvoorzieningen die niet werken
Als de leidinggevenden hiervan op de hoogte waren geweest, hadden de aanpassingen moeten volgen. Dat gebeurde grotendeels niet. Onderzoekers van NYU en Northeastern University testten 86 veiligheidsfuncties voor jongeren en ontdekten dat 51 daarvan niet aan de eisen voldeden. Snapchat had een faalpercentage van 73%. Instagram 's 66%, YouTube 55% van de gebruikers van Apple en 50% van TikTok. Negen functies konden zelfs niet worden geactiveerd toen de onderzoekers het probeerden. De onderzoekers meldden dat elke beveiligingsmaatregel tegen cyberpesten die ze testten, faalde.
De omwegen waren snel gevonden. Typ 'eetstoornis' in het zoekveld. Instagram De zoek- en aanvulfunctie biedt beleefd de opzettelijke spelfouten aan die pro-eetstoornisgemeenschappen gebruiken om de blokkeerlijst van het platform zelf te omzeilen. Veiligheid deed in dat geval juist het tegenovergestelde van veiligheid.
Wat ouders nu kunnen doen
Ga er niet van uit dat de beveiligingsfuncties in apps precies werken zoals beloofd. Als uw kind sociale media gebruikt, test dan zelf de instellingen en controleer of ze doen wat u ervan verwacht.
Maak een testaccount aan en controleer of elke instelling daadwerkelijk blokkeert wat er wordt beloofd. Denk ook na over hoeveel tijd je je kinderen wilt geven op sociale media, of je ze er überhaupt wel gebruik van wilt laten maken. Hoe dan ook, het begint met een eerlijk gesprek met het gezin .
Als uw kind online wordt lastiggevallen door bekenden, moedig hem of haar dan aan om het u direct te vertellen. Bewaar bewijsmateriaal, blokkeer en rapporteer de accounts waar nodig en aarzel niet om de school of de politie in te schakelen als de intimidatie bedreigingen, chantage of seksuele uitbuiting omvat.
Je kunt sextortion ook rechtstreeks melden bij de CyberTipline van het National Center for Missing and Exploited Children , in plaats van te vertrouwen op het meldingssysteem van een platform zelf.
Kom later terug voor meer details over de federale rechtszaak. De komende maanden zullen uitwijzen of de grootste platformen uit de geschiedenis door jury's worden herschreven, of dat ze zich via schikkingen, cheque na cheque, uit de problemen werken.
Van het melden van bedreigingen tot het verwijderen ervan.
Cyberbeveiligingsrisico's mogen zich nooit verder verspreiden dan een krantenkop. Houd bedreigingen van uw apparaten door Malwarebytes vandaag nog te downloaden.
