Un groupe de grandes entreprises technologiques se bat pour empêcher l'avancement d'environ 3 000 poursuites judiciaires concernant la sécurité des jeunes, et il vient de perdre une bataille procédurale cruciale devant les tribunaux.
Les poursuites, intentées par des procureurs généraux et des familles, allèguent que Meta, Google, TikTok de ByteDance et Snap savaient que leurs produits créaient une dépendance chez les enfants et les adolescents et nuisaient à leur santé mentale, mais ont continué à les commercialiser auprès des jeunes utilisateurs à des fins lucratives.
Les entreprises technologiques ont tenté de faire appel d'une décision d'un tribunal fédéral autorisant les parties concernées à intenter des poursuites. Elles ont plaidé devant la Cour d'appel du neuvième circuit des États-Unis qu'une loi fondamentale du droit américain les rendait inattaquables.
Cette loi, c'est l'article 230 de la loi sur la décence des communications, promulguée il y a 30 ans. Elle stipule que les plateformes ne peuvent être tenues responsables des contenus publiés en ligne par leurs utilisateurs. Pendant des années, les entreprises de médias sociaux s'en sont servies comme d'une immunité absolue. Lorsqu'un utilisateur publiait un contenu inapproprié, l'entreprise qui le gérait pouvait se retrancher derrière le message, et non à l'origine du message.
Cette défense ne semble pas fonctionner en l'espèce. Le 10 août, la cour a statué que l'article 230 « constitue un moyen de défense contre la responsabilité, et non une immunité de poursuites ; l'appel était donc prématuré ». Cette affaire porte moins sur le contenu publié en ligne que sur la manière dont les entreprises technologiques auraient conçu leurs plateformes pour présenter ce contenu aux utilisateurs.
La revue juridique du Nebraska explique plusieurs des techniques décrites dans les plaintes comme rendant ces plateformes plus attrayantes, et potentiellement plus addictives.
L'article explique comment certaines interactions sur ces plateformes peuvent déclencher la libération de dopamine. Il peut s'agir d'interactions aussi simples qu'une réponse à un message ou un « j'aime » sur une de vos photos. La dopamine joue un rôle important dans le système de récompense du cerveau.
L'article du NLR décrit des techniques comme celle de rendre ces récompenses imprévisibles, ce qui incite les utilisateurs à consulter régulièrement leurs comptes. Des fonctionnalités d'interface telles que le défilement infini sont également conçues pour maintenir un niveau élevé de dopamine. L'article cite l'inventeur de cette idée, qui la décrit ainsi :
« Prendre de la cocaïne [comportementale] et la répandre partout sur son interface. »
Quiconque a passé trop de temps au lit à scroller sans fin sur des sites d'actualités anxiogènes peut comprendre.
Le rejet du pourvoi par la Cour d'appel du neuvième circuit est certes limité sur le plan procédural, mais d'une importance stratégique capitale. L'article 230 constitue un moyen de défense à invoquer au procès, et non un obstacle infranchissable empêchant les plaignants d'accéder à la justice. La Cour d'appel du troisième circuit est allée plus loin, statuant que l'article 230 « n'offre pas d'immunité aux plateformes si elles font l'objet de poursuites en responsabilité civile pour préjudice causé par les algorithmes qu'elles conçoivent ».
L'algorithme, en d'autres termes, est le produit. Le produit peut être défectueux.
Derrière ces affaires se cache une accumulation croissante de pièces à conviction qui, selon les plaignants, éclairent la manière dont les plateformes ont géré l'engagement des utilisateurs. Un jugement a également été rendu au Nouveau-Mexique contre Meta au début du mois, dans une affaire portant sur des griefs similaires. Ce jugement s'élève désormais à 942 millions de dollars, le juge ayant ajouté 567 millions de dollars au montant initial, estimant que Meta avait :
« a créé une nuisance publique par la conception de sa plateforme. »
Quelle découverte n'en finit plus ?
Dans ces affaires, la procédure de découverte de preuves a déjà été défavorable à Meta. Un courriel de 2016 attribué à Mark Zuckerberg indiquait qu'alerter les parents concernant les vidéos en direct des adolescents « ruinerait probablement le produit dès le départ ». Une récente plainte déposée devant un tribunal allègue que des employés de géants des réseaux sociaux ont comparé leurs propres plateformes à des drogues, un employé de Meta écrivant notamment :
« En gros, on est des dealers. »
La situation de Snap ne s'est guère améliorée. Fin 2022, selon un document déposé dans le cadre de l'affaire au Nouveau-Mexique, les employés de Snap recevaient environ 10 000 signalements de sextorsion par mois. Une enquête interne a conclu que 70 % des victimes n'avaient jamais signalé les abus car « elles savaient que Snap ne prendrait aucune mesure ; en effet, parmi les 30 % qui ont signalé les faits, aucun n'a été pris en compte ».
Ce chiffre est apparu dans la plainte non expurgée du Nouveau-Mexique, et non dans une quelconque divulgation de Snap.
Dispositifs de sécurité défaillants
Si les dirigeants étaient au courant, des correctifs auraient dû être apportés. Or, ce ne fut généralement pas le cas. Des chercheurs de l'Université de New York et de l'Université Northeastern ont testé 86 fonctionnalités de sécurité destinées aux jeunes et ont constaté que 51 d'entre elles échouaient aux tests. Le taux d'échec de Snapchat était de 73 %. Instagram 66%, YouTube 55 % pour [nom de l'application] et 50 % pour TikTok. Neuf fonctionnalités n'ont même pas pu être activées lors des tests des chercheurs. Ces derniers ont constaté l'échec de toutes les mesures de protection contre le cyberharcèlement qu'ils ont testées.
Les pontages ont été rapidement trouvés. Tapez « trouble alimentaire » dans Instagram La fonction de recherche et de saisie automatique propose poliment les fautes d'orthographe délibérées utilisées par les communautés pro-troubles alimentaires pour contourner la liste de blocage de la plateforme. Dans ce cas précis, la sécurité faisait tout le contraire de ce qu'elle promettait.
Que peuvent faire les parents maintenant ?
Ne présumez pas que les fonctionnalités de sécurité intégrées aux applications fonctionnent exactement comme annoncé. Si votre enfant utilise les réseaux sociaux, testez vous-même les paramètres et assurez-vous qu'ils fonctionnent comme prévu.
Créez un compte test et vérifiez que chaque paramètre bloque bien ce qu'il est censé bloquer. Réfléchissez aussi au temps que vous souhaitez accorder à vos enfants sur les réseaux sociaux, voire à l'opportunité de les y autoriser tout court. Dans tous les cas, tout commence par une discussion familiale franche .
Si votre enfant est victime de harcèlement en ligne de la part de personnes qu'il connaît, encouragez-le à vous en parler immédiatement. Conservez les preuves, bloquez et signalez les comptes concernés, et n'hésitez pas à contacter l'école ou les forces de l'ordre si le harcèlement inclut des menaces, du chantage ou de l'exploitation sexuelle.
Vous pouvez également signaler les cas d'extorsion sexuelle directement à la CyberTipline du Centre national pour les enfants disparus et exploités , plutôt que de vous fier au système de signalement de la plateforme.
Revenez consulter cette page pour plus de détails sur l'affaire fédérale. Les prochains mois seront déterminants : les plus grandes plateformes de l'histoire seront-elles réécrites par des jurys, ou bien trouveront-elles un accord à l'amiable, un chèque confidentiel à la fois ?
Du signalement des menaces à leur suppression.
Les risques de cybersécurité ne devraient jamais se propager au-delà d'un titre. Éliminez les menaces de vos appareils en téléchargeant Malwarebytes dès aujourd'hui.
