Roblox steht seit langem wegen der Kindersicherheit auf seiner Plattform in der Kritik. Nun hat das Unternehmen begonnen, sich in dieser Angelegenheit mit Staatsanwälten zu einigen, und die Gesamtsumme steigt rapide an.
Am 21. April gab der Generalstaatsanwalt von Alabama, Steve Marshall, einen Vergleich in Höhe von 12,2 Millionen Dollar mit der auf Kinder ausgerichteten Online-Gaming-Plattform bekannt. Der Bundesstaat West Virginia schloss am selben Tag ebenfalls einen Vergleich über 11 Millionen Dollar ab. Dies geschah eine Woche, nachdem der Generalstaatsanwalt von Nevada, Aaron Ford, das Unternehmen dazu gebracht hatte, 12 Millionen Dollar zu zahlen.
Aus den Vergleichsunterlagen geht deutlich hervor, was ihr Problem mit Roblox ist: Sie sind der Ansicht, dass das Unternehmen Kinder auf seiner Plattform nicht ausreichend vor Pädogenen geschützt hat.
Was Roblox ändern muss
Im Rahmen des Vergleichs mit Alabama muss Roblox ab dem 1. Mai bei allen Nutzern eine Altersüberprüfung durchführen, entweder mittels Gesichtserkennung oder anhand eines amtlichen Ausweises. Dies gilt sowohl für neue als auch für bestehende Konten. Das Unternehmen muss nun außerdem das Nutzerverhalten überwachen, um Nutzer aufzuspüren, die bei der Angabe ihres Alters gelogen haben.
Erwachsene und Nutzer unter 16 Jahren können überhaupt nicht miteinander kommunizieren, es sei denn, sie stehen auf einer Liste „vertrauenswürdiger Freunde“, die über einen QR-Code oder den Import von Telefonkontakten hinzugefügt wurde; Nutzer, die keine Altersüberprüfung durchlaufen haben, können mit niemandem chatten.
Kommunikation, an der Minderjährige beteiligt sind, darf nicht verschlüsselt werden, damit die Strafverfolgungsbehörden diese im Rahmen von Ermittlungen einsehen können. Der Vergleich mit West Virginia sieht außerdem vor, dass Roblox Minderjährige beim ersten Betreten eines privaten Chats darauf hinweist, damit Kinder verstehen, wie sie sicher kommunizieren können.
Roblox hat bereits seit Januar dieses Jahres verhindert, dass Nutzer ohne Altersüberprüfung chatten können, doch im Rahmen neuer Maßnahmen wird der Zugang zu Spielen für diejenigen eingeschränkt, die diesen Prozess nicht durchlaufen. Ab Juni wird die Plattform in drei Stufen unterteilt: Roblox Kids für 5- bis 8-Jährige wird jeglichen Chat verbieten und nur den Zugang zu Spielen erlauben, die auf der Altersskala als „minimal“ oder „mild“ eingestuft sind. Diese Einschränkungen gelten auch für diejenigen, die die Altersüberprüfung nicht abschließen. Die beiden anderen Kontostufen sind Roblox Select 9- bis 15-Jährige und Standardkonten für Personen ab 16 Jahren.
Es werden noch viele weitere Klagen folgen
Drei Vergleichszahlungen in acht Tagen in Höhe von insgesamt mehr als 35 Millionen Dollar müssen wehtun, aber das ist erst der Anfang. Texas, Florida, Louisiana, Iowa, Nebraska, Kentucky und Tennessee erheben alle ähnliche Vorwürfe: Roblox habe Kinder Gefahren ausgesetzt und anschließend die Eltern über seine Sicherheitsvorkehrungen getäuscht.
Im Februar reichte der Bezirk Los Angeles Klage gegen Roblox ein und warf der Plattform vor, Profit über Sicherheit zu stellen und Kinder der Gefahr von Grooming und expliziten Inhalten auszusetzen.
Roblox sieht sich zudem mit fast 80 Bundesklagen konfrontiert, die allein von Familien in Kalifornien eingereicht wurden. Auch der australische eSafety Commissioner hat Roblox und anderen Technologieunternehmen rechtlich durchsetzbare Transparenzauflagen erteilt. Diese verpflichten sie, detailliert darzulegen, welche Maßnahmen sie zum Schutz von Kindern ergreifen. Bei Nichteinhaltung drohen Geldstrafen in Höhe von 825.000 AUD pro Tag (das sind etwa 590.783 USD).
Wohin das Geld fließt
Die 12,2 Millionen Dollar aus dem Vergleich mit Alabama fließen über die staatliche „Safe School Initiative“ in die Finanzierung von Schulpolizisten. In Nevada sind die Mittel für den Boys & Girls Club und „nicht-digitale Aktivitäten“ vorgesehen, sowie für einen Verbindungsbeamten zur Strafverfolgung und eine Aufklärungskampagne zur Online-Sicherheit. West Virginia wird 500.000 Dollar in Sicherheitsworkshops für Eltern und Kinder investieren, eine dreijährige Kampagne zur öffentlichen Sicherheit im Umfang von 1,5 Millionen Dollar ins Leben rufen und 2,4 Millionen Dollar für einen speziellen Spezialisten für Internetsicherheit über einen Zeitraum von sechs Jahren ausgeben.
Bleiben Sie wachsam
Es gibt einen vorhersehbaren Ablauf, wie große Tech-Unternehmen gegen die Generalstaatsanwälte vorgehen. Zuerst kommt der Widerstand, dann die Rhetorik über gemeinsame Werte, und schließlich fangen sie an, Geld zu zahlen.
Es ist ein Fortschritt, dass Roblox neuen Sicherheitsvorkehrungen zustimmt, doch es bleiben noch Fragen offen.
In seiner eigenen Klage gegen Roblox, die im vergangenen Monat eingereicht wurde, beanstandete Nebraska, dass die derzeitige Technologie des Unternehmens zur Altersüberprüfung unzureichend sei. Aus der Klageschrift:
„Anstatt Kinder wirksam zu schützen, hat das System wiederholt das Alter der Nutzer falsch eingestuft, wodurch Erwachsene in Kinder-Chatgruppen und Minderjährige in Kategorien für Erwachsene gelandet sind, während altersgeprüfte Konten für kleine Kinder bereits auf Marktplätzen von Drittanbietern gehandelt wurden, was jegliche angeblichen Sicherheitsvorteile zunichte macht.“
Was passiert, wenn die KI zur Altersschätzung bei einem 14-Jährigen, der wie 17 aussieht, falsch liegt, oder wenn ein QR-Code eines „vertrauenswürdigen Freundes“ in einem Gruppenchat weitergegeben wird, wo er nichts zu suchen hat?
Das Altersüberprüfungstool „Persona“ des Unternehmens leistet offenbar mehr als nur die Überprüfung des Alters: Forscher berichten, sie hätten ein offen zugängliches Frontend entdeckt, das darauf hindeutet, dass das System auch Gesichtserkennung anhand von Fahndungslisten durchführt.
Vergleiche gehen zwar auf frühere Bedenken ein, garantieren aber keine Sicherheit für die Zukunft. Eltern müssen sich weiterhin darum bemühen, sicherzustellen, dass sie wissen, wozu sich ihre Kinder verpflichten und mit wem sie möglicherweise spielen.
Weitere Informationen zur Sicherheit von Roblox und anderen Diensten findest du in unserer Studie: Wie sicher ist die Nutzung sozialer Medien für Kinder?
„Eine der besten Cybersicherheits-Suiten weltweit.“
Laut CNET.Lesen Sie den Testbericht →
