Eine Gruppe großer Technologieunternehmen kämpft gegen die Weiterverfolgung von rund 3.000 Klagen im Bereich Jugendschutz und hat gerade eine wichtige Verfahrensschlacht vor Gericht verloren.
In den von Generalstaatsanwälten und Familien eingereichten Klagen wird Meta, Google, ByteDance' TikTok und Snap vorgeworfen, gewusst zu haben, dass ihre Produkte für Kinder und Jugendliche süchtig machen und ihrer psychischen Gesundheit schaden, sie aber weiterhin gewinnbringend an junge Nutzer vermarktet hätten.
Die Technologieunternehmen versuchten, gegen ein Urteil eines Bundesgerichts Berufung einzulegen, das es den Beteiligten erlaubte, ihre Klagen vor Gericht einzureichen. Sie argumentierten vor dem 9. US-Berufungsgericht, dass ein zentrales US-Gesetz ihre Klagefähigkeit ausschließe.
Dieses Gesetz ist Abschnitt 230 des Communications Decency Act, der vor 30 Jahren erlassen wurde. Er besagt, dass Plattformen nicht für die Online-Inhalte ihrer Nutzer verantwortlich gemacht werden können. Jahrelang behandelten Social-Media-Unternehmen dies wie eine Art Schutzschild. Wenn Nutzer etwas Anstößiges posteten, konnte das Betreiberunternehmen behaupten, lediglich der Überbringer der Nachricht zu sein, nicht der Urheber.
Diese Verteidigung scheint hier nicht zu greifen. Am 10. August entschied das Gericht, dass Paragraph 230 „einen Schutz vor Haftung, nicht aber vor Klagen bietet, weshalb die Berufung verfrüht war“. In diesem Fall geht es weniger darum, was die Leute online veröffentlichten, als vielmehr darum, wie die Technologieunternehmen ihre Plattformen angeblich so gestaltet haben, dass diese Inhalte den Nutzern präsentiert wurden.
Die Nebraska Law Review erläutert einige der Techniken, die laut den Klagen diese Plattformen ansprechender und potenziell süchtig machender machen.
Der Artikel erklärt, wie bestimmte Interaktionen auf diesen Plattformen die Dopaminausschüttung auslösen können. Diese Interaktionen können so einfach sein wie die Antwort auf eine Nachricht oder das Liken eines Fotos. Dopamin spielt eine wichtige Rolle im Belohnungssystem des Gehirns.
Der NLR-Artikel beschreibt Techniken wie die Unvorhersehbarkeit von Belohnungen, wodurch Nutzer dazu angeregt werden, ihre Konten regelmäßig zu überprüfen. Auch Benutzeroberflächenelemente wie das endlose Scrollen sind darauf ausgelegt, die Dopaminausschüttung aufrechtzuerhalten. Der Artikel zitiert den Erfinder dieser Idee, der sie wie folgt beschreibt:
„[Verhaltens-]Kokain nehmen und es einfach über die gesamte Benutzeroberfläche streuen.“
Wer schon mal zu lange im Bett gelegen und sich durch düstere Nachrichten gescrollt hat, kann das nachvollziehen.
Die Ablehnung der Berufung durch den 9. US-Berufungsgerichtshof ist zwar verfahrenstechnisch eng gefasst, aber strategisch weitreichend. Paragraph 230 ist ein Verteidigungsgrund, der im Prozess geltend gemacht wird, keine unüberwindbare Mauer, die Kläger vom Gerichtsgebäude fernhält. Der 3. US-Berufungsgerichtshof ging noch weiter und urteilte, dass Paragraph 230 „Plattformen keine Immunität gewährt, wenn sie wegen Schäden, die durch die von ihnen entwickelten Algorithmen verursacht wurden, auf Schadensersatz verklagt werden.“
Der Algorithmus ist also das Produkt. Das Produkt kann fehlerhaft sein.
Hinter diesen Fällen verbirgt sich ein wachsender Berg an Beweismaterial, das laut Klägerangaben Aufschluss darüber gibt, wie die Plattformen mit der Nutzerbindung umgegangen sind. Hinzu kommt ein Urteil in New Mexico gegen Meta von Anfang dieses Monats in einem Fall, der ähnliche Vorwürfe untersucht. Das Urteil beläuft sich nun auf insgesamt 942 Millionen US-Dollar, da der Richter 567 Millionen US-Dollar zum ursprünglichen Betrag hinzurechnete und feststellte, dass Meta Folgendes getan hatte:
„hat durch sein Plattformdesign eine öffentliche Belästigung geschaffen.“
Welche Entdeckung zieht sich immer weiter in die Länge?
Die Ermittlungen in diesen Fällen verliefen für Meta bereits ungünstig. In einer 2016 veröffentlichten E-Mail, die Mark Zuckerberg zugeschrieben wird, hieß es, dass die Benachrichtigung von Eltern über Live-Videos von Teenagern „das Produkt wahrscheinlich von Anfang an ruinieren“ würde. In einer kürzlich eingereichten Gerichtsakte wurde behauptet, dass Mitarbeiter von Social-Media-Giganten ihre eigenen Plattformen mit Drogen verglichen hätten. Ein Meta-Mitarbeiter schrieb dazu:
„Wir sind im Grunde genommen Dealer.“
Snap sieht nicht besser aus. Laut einer Akte im Fall New Mexico bearbeiteten Snap-Mitarbeiter Ende 2022 monatlich rund 10.000 Meldungen über Sextortion. Eine interne Untersuchung ergab, dass 70 % der Opfer den Missbrauch nicht meldeten, weil sie wussten, dass Snap keine Maßnahmen ergreifen würde; tatsächlich wurde von den 30 %, die eine Meldung erstatteten, keiner bearbeitet.
Diese Zahl tauchte durch die ungeschwärzte Klage aus New Mexico auf, nicht durch eine Veröffentlichung im Rahmen des Snap-Programms.
Sicherheitsfunktionen, die nicht funktionieren
Wenn die Führungskräfte davon gewusst hätten, wären die entsprechenden Verbesserungen erfolgt. Meistens geschah dies jedoch nicht. Forscher der NYU und der Northeastern University testeten 86 Sicherheitsfunktionen für Jugendliche und stellten fest, dass 51 davon durchfielen. Snapchats Fehlerquote lag bei 73 %. Instagram 66% YouTube 55 % der Nutzer erreichten eine Reaktionsrate von 55 %, die von TikTok 50 %. Neun Funktionen ließen sich bei den Versuchen der Forscher gar nicht erst auslösen. Die Forscher berichteten, dass alle getesteten Schutzmaßnahmen gegen Cybermobbing versagten.
Die Umgehungsmöglichkeiten waren schnell zu finden. Geben Sie „Essstörung“ ein in Instagram Die Such- und Autovervollständigungsfunktion bietet höflich die absichtlichen Rechtschreibfehler an, die von Befürwortern von Essstörungen verwendet werden, um die Sperrliste der Plattform zu umgehen. Sicherheit bedeutete in diesem Fall genau das Gegenteil von Sicherheit.
Was Eltern jetzt tun können
Gehen Sie nicht davon aus, dass die Sicherheitsfunktionen von Apps wie beworben funktionieren. Wenn Ihr Kind soziale Medien nutzt, testen Sie die Einstellungen selbst und vergewissern Sie sich, dass sie Ihren Erwartungen entsprechen.
Richten Sie ein Testkonto ein und prüfen Sie, ob jede Einstellung tatsächlich das blockiert, was sie vorgibt zu blockieren. Überlegen Sie sich außerdem, wie viel Zeit Sie Ihren Kindern in sozialen Medien erlauben möchten oder ob Sie ihnen die Nutzung überhaupt gestatten wollen. In jedem Fall beginnt alles mit einem offenen Familiengespräch .
Wird Ihr Kind online von Bekannten belästigt, ermutigen Sie es, Ihnen sofort davon zu erzählen. Sichern Sie Beweise, blockieren und melden Sie die entsprechenden Konten gegebenenfalls und zögern Sie nicht, die Schule oder die Polizei einzuschalten, wenn die Belästigung Bedrohungen, Erpressung oder sexuelle Ausbeutung beinhaltet.
Sie können Sextortion auch direkt der CyberTipline des National Center for Missing and Exploited Children melden, anstatt sich auf die Meldefunktion einer Plattform zu verlassen.
Schauen Sie bald wieder hier vorbei, um weitere Details zum Bundesverfahren zu erfahren. In den nächsten Monaten wird sich entscheiden, ob die größten Plattformen der Geschichte durch Geschworene neu definiert werden oder ob sie sich mit vertraulichen Schecks aus der Affäre ziehen.
Von der Meldung von Bedrohungen bis zu deren Beseitigung.
Cybersecurity-Risiken sollten nie über eine Schlagzeile hinausgehen. Laden Sie noch heute Malwarebytes herunter, um Bedrohungen von Ihren Geräten fernzuhalten.
