Roblox est depuis longtemps critiqué pour la sécurité des enfants sur sa plateforme . L'entreprise a désormais commencé à conclure des accords à l'amiable avec les procureurs des États sur ce sujet, et le montant total des indemnisations augmente rapidement.
Le 21 avril, le procureur général de l'Alabama, Steve Marshall, a annoncé un accord à l'amiable de 12,2 millions de dollars avec la plateforme de jeux en ligne destinée aux enfants. L'État de Virginie-Occidentale a également conclu un accord le même jour, pour un montant de 11 millions de dollars. Ces accords intervenaient une semaine après que le procureur général du Nevada, Aaron Ford, ait obtenu de la même entreprise le versement de 12 millions de dollars .
Leur problème avec Roblox ressort clairement des documents de l'accord : ils estiment que la plateforme n'a pas suffisamment protégé les enfants des prédateurs.
Ce que Roblox doit changer
Dans le cadre de l'accord conclu avec l'Alabama, Roblox est désormais tenu de vérifier l'âge de tous ses utilisateurs à compter du 1er mai, soit par reconnaissance faciale, soit à l'aide d'une pièce d'identité officielle. Cette mesure s'applique aux nouveaux comptes comme aux comptes existants. L'entreprise doit également surveiller l'activité des comptes afin de repérer les utilisateurs ayant menti sur leur âge.
Les adultes et les moins de 16 ans ne pourront pas communiquer entre eux, sauf s'ils figurent sur une liste d'« amis de confiance », ajoutée via un code QR ou par importation de contacts téléphoniques, et les utilisateurs qui ne se soumettent pas à une vérification d'âge ne pourront discuter avec personne.
Les communications impliquant des mineurs ne peuvent être cryptées, ce qui permet aux forces de l'ordre d'y accéder lors d'enquêtes. L'accord conclu en Virginie-Occidentale exige également que Roblox avertisse les mineurs lors de leur première connexion à une conversation privée, afin qu'ils comprennent comment communiquer en toute sécurité.
Roblox a déjà interdit les conversations sans vérification d'âge depuis janvier dernier, mais de nouvelles mesures vont restreindre l'accès aux jeux pour ceux qui ne se soumettent pas à cette vérification. À partir de juin, la plateforme sera divisée en trois niveaux : Roblox Kids, pour les 5-8 ans, interdira toute conversation et n'autorisera l'accès qu'aux jeux classés « minimal » ou « modéré » selon l'échelle de maturité. Ces restrictions s'appliqueront également aux utilisateurs qui ne se soumettent pas à la vérification d'âge. Les deux autres niveaux de compte sont Roblox… Select pour les 9-15 ans, et comptes standards pour les 16 ans et plus.
De nombreuses autres poursuites judiciaires sont à prévoir.
Trois règlements à l'amiable en huit jours, totalisant plus de 35 millions de dollars, sont forcément douloureux, mais ce n'est que le début. Le Texas , la Floride , la Louisiane , l'Iowa , le Nebraska , le Kentucky et le Tennessee poursuivent tous des États pour des faits similaires : Roblox aurait exposé des enfants à des risques et induit les parents en erreur quant à ses mesures de sécurité.
En février, le comté de Los Angeles a intenté un procès à Roblox , accusant la plateforme de privilégier le profit à la sécurité et d'exposer les enfants à des contenus à caractère sexuel et à des tentatives de manipulation.
Roblox fait également face à près de 80 poursuites fédérales intentées par des familles rien qu'en Californie. Par ailleurs, le commissaire australien à la sécurité en ligne a adressé à Roblox et à d'autres entreprises technologiques des mises en demeure de transparence juridiquement contraignantes . Ces mises en demeure les obligent à détailler les mesures prises pour protéger les enfants. Le non-respect de ces mises en demeure est passible d'amendes de 825 000 dollars australiens par jour (environ 590 783 dollars américains).
Où ira l'argent ?
Les 12,2 millions de dollars provenant de l'accord conclu en Alabama financent les agents de sécurité scolaire dans le cadre de l'initiative « Écoles sûres » de l'État. Au Nevada, ces fonds sont destinés au Boys & Girls Club et à des activités non numériques, ainsi qu'à un poste de liaison avec les forces de l'ordre et à une campagne de sensibilisation à la sécurité en ligne. La Virginie-Occidentale investira 500 000 $ dans des ateliers de sensibilisation à la sécurité destinés aux parents et aux enfants, lancera une campagne de sécurité publique de 1,5 million de dollars sur trois ans et consacrera 2,4 millions de dollars au recrutement d'un spécialiste de la sécurité sur Internet pour une durée de six ans.
Restez vigilant
La manière dont les géants de la tech s'en prennent aux procureurs généraux des États suit un schéma prévisible. D'abord, ils résistent, puis ils évoquent des valeurs partagées, et enfin, ils commencent à distribuer de l'argent.
Le fait que Roblox accepte de nouvelles mesures de protection constitue un pas en avant, mais des questions subsistent.
Dans sa propre plainte contre Roblox, déposée le mois dernier, le Nebraska a reproché à l'entreprise son système de vérification d'âge inadéquat. Extrait de la plainte :
« Au lieu de protéger efficacement les enfants, le système a classé à plusieurs reprises l'âge des utilisateurs de manière erronée, plaçant des adultes dans des groupes de discussion pour enfants et des mineurs dans des catégories pour adultes, tandis que des comptes vérifiés pour jeunes enfants ont déjà été échangés sur des plateformes tierces, compromettant ainsi tout avantage supposé en matière de sécurité. »
Que se passe-t-il lorsque l'IA d'estimation d'âge se trompe sur un jeune de 14 ans qui en paraît 17, ou lorsqu'un code QR d'« ami de confiance » circule dans une conversation de groupe là où il ne devrait pas ?
L'outil de vérification d'âge Persona de l'entreprise s'est également révélé faire plus que vérifier l'âge : des chercheurs affirment avoir découvert une interface exposée montrant que le système effectuait également une reconnaissance faciale sur des listes de surveillance.
Les accords permettent de répondre aux préoccupations passées, mais ne garantissent pas la sécurité future. Il incombe toujours aux parents de se renseigner sur les activités auxquelles leurs enfants s'engagent et sur les personnes avec lesquelles ils pourraient jouer.
Pour plus d'informations sur la sécurité de Roblox et d'autres services, consultez notre étude : Les enfants utilisent-ils les réseaux sociaux en toute sécurité ?
« L’une des meilleures suites de cybersécurité au monde. »
Selon CNET. Lire leur article →
