Roblox krijgt al geruime tijd kritiek te verduren vanwege de veiligheid van kinderen op zijn platform. Het bedrijf is nu begonnen met het sluiten van schikkingen met openbare aanklagers over deze kwestie, en het totale bedrag loopt snel op.
Op 21 april maakte Steve Marshall, procureur-generaal van Alabama, bekend dat er een schikking van 12,2 miljoen dollar was getroffen met het op kinderen gerichte online gamingplatform. De staat West Virginia sloot diezelfde dag ook een schikking voor 11 miljoen dollar. Dit gebeurde een week nadat Aaron Ford, procureur-generaal van Nevada, het bedrijf ertoe had gebracht 12 miljoen dollar af te staan.
Uit de schikkingsdocumenten blijkt duidelijk wat hun bezwaar tegen Roblox is: zij zijn van mening dat het bedrijf kinderen onvoldoende beschermt tegen misbruikers op zijn platform.
Wat Roblox moet veranderen
Als onderdeel van de schikking met Alabama moet Roblox vanaf 1 mei voor iedereen een leeftijdscontrole uitvoeren aan de hand van gezichtsherkenning of een officieel identiteitsbewijs. Dit geldt zowel voor nieuwe als voor bestaande accounts. Het bedrijf moet voortaan ook het accountgedrag in de gaten houden om gebruikers op te sporen die over hun leeftijd hebben gelogen.
Volwassenen en jongeren onder de 16 jaar kunnen helemaal niet met elkaar praten, tenzij ze op een lijst met ‘vertrouwde vrienden’ staan – die via een QR-code of het importeren van telefooncontacten kan worden samengesteld – en gebruikers die geen leeftijdsverificatie hebben ondergaan, kunnen met niemand chatten.
Communicatie waarbij minderjarigen betrokken zijn, mag niet worden versleuteld, zodat wetshandhavingsinstanties deze tijdens onderzoeken kunnen inzien. In de schikkingsovereenkomst van West Virginia wordt ook bepaald dat Roblox minderjarigen moet waarschuwen wanneer ze voor het eerst een privéchat betreden, zodat kinderen begrijpen hoe ze veilig kunnen communiceren.
Roblox heeft al sinds januari van dit jaar het chatten zonder leeftijdsverificatie geblokkeerd, maar onder de nieuwe maatregelen gaat het de toegang tot games beperken voor gebruikers die dit proces niet doorlopen. Vanaf juni wordt het platform opgesplitst in drie niveaus: Roblox Kids voor kinderen van 5 tot 8 jaar verbiedt alle chatfuncties en geeft alleen toegang tot games die op de leeftijdsclassificatieschaal als 'minimaal' of 'mild' zijn aangemerkt. Wie de leeftijdsverificatie niet voltooit, krijgt ook te maken met deze beperkingen. De andere twee accountniveaus zijn Roblox Select 9- tot 15-jarigen en standaardaccounts voor 16-plussers.
Er staan nog heel wat rechtszaken op stapel
Drie schikkingen in acht dagen, met een totale waarde van meer dan 35 miljoen dollar, moeten wel pijnlijk zijn, maar dit is nog maar het begin. Texas, Florida, Louisiana, Iowa, Nebraska, Kentucky en Tennessee hebben allemaal soortgelijke claims ingediend: dat Roblox kinderen aan risico’s heeft blootgesteld en vervolgens ouders heeft misleid over de veiligheidsmaatregelen.
In februari heeft LA County een rechtszaak aangespannen tegen Roblox, waarbij het platform ervan werd beschuldigd winst boven veiligheid te stellen en kinderen bloot te stellen aan grooming en expliciete inhoud.
Roblox heeft daarnaast nog te maken met bijna 80 federale rechtszaken die alleen al door gezinnen in Californië zijn aangespannen. En de Australische eSafety Commissioner heeft ook juridisch afdwingbare transparantieverzoeken uitgevaardigd aan Roblox en andere technologiebedrijven. Deze verplichten hen om gedetailleerd aan te geven wat ze doen om kinderen te beschermen. Bij niet-naleving van deze verzoeken staan boetes van 825.000 Australische dollar per dag (dat is ongeveer 590.783 Amerikaanse dollar).
Waar het geld naartoe gaat
De 12,2 miljoen dollar uit de schikking met Alabama wordt via het Safe School Initiative van de staat gebruikt voor de financiering van schoolbeveiligers. In Nevada is het geld bestemd voor de Boys & Girls Club en "niet-digitale activiteiten", plus een contactpersoon voor wetshandhaving en een bewustmakingscampagne over onlineveiligheid. West Virginia investeert 500.000 dollar in workshops over veiligheidseducatie voor ouders en kinderen, zet een driejarige campagne voor openbare veiligheid op ter waarde van 1,5 miljoen dollar op, en besteedt 2,4 miljoen dollar aan een gespecialiseerde internetveiligheidsdeskundige voor een periode van zes jaar.
Blijf alert
Er zit een voorspelbaar patroon in de manier waarop grote techbedrijven het opnemen tegen procureurs-generaal van de verschillende staten. Eerst komt er weerstand, dan volgt retoriek over gedeelde waarden, en vervolgens beginnen ze geld over te maken.
Het is een stap in de goede richting dat Roblox instemt met nieuwe waarborgen, maar er blijven nog vragen bestaan.
In de rechtszaak die Nebraska vorige maand tegen Roblox heeft aangespannen, stelde de staat dat de huidige technologie voor leeftijdsverificatie van het bedrijf ontoereikend was. Uit de klacht:
„In plaats van kinderen daadwerkelijk te beschermen, heeft het systeem de leeftijden van gebruikers herhaaldelijk verkeerd ingeschat, waardoor volwassenen in chatgroepen voor kinderen terechtkwamen en minderjarigen in categorieën voor volwassenen, terwijl accounts van jonge kinderen waarvan de leeftijd is geverifieerd, al worden verhandeld op externe marktplaatsen, waardoor de vermeende veiligheidsvoordelen teniet worden gedaan.“
Wat gebeurt er als de AI voor leeftijdsbepaling zich vergist bij een 14-jarige die eruitziet als een 17-jarige, of als een QR-code van een ‘vertrouwde vriend’ in een groepschat wordt doorgestuurd naar mensen die daar geen toegang toe zouden mogen hebben?
De Persona-tool voor leeftijdsverificatie van het bedrijf blijkt meer te doen dan alleen de leeftijd controleren: onderzoekers zeggen dat ze een onbeveiligde frontend hebben ontdekt waaruit bleek dat het systeem ook gezichtsherkenning uitvoerde aan de hand van watchlists.
Schikkingen bieden een oplossing voor problemen uit het verleden, maar bieden geen garantie voor veiligheid in de toekomst. Ouders moeten er nog steeds zelf voor zorgen dat ze weten waar hun kinderen zich voor aanmelden en met wie ze mogelijk gaan spelen.
Voor meer informatie over de veiligheid van Roblox en andere diensten kun je ons onderzoek lezen: Hoe veilig is het voor kinderen om sociale media te gebruiken?
“Een van de beste cyberbeveiligingspakketten ter wereld.”
Volgens CNET.Lees hun recensie →
