Un grupo de grandes empresas tecnológicas está luchando para impedir que avancen aproximadamente 3.000 demandas relacionadas con la seguridad de los jóvenes, y acaban de perder una batalla procesal crucial en los tribunales.
Las demandas, presentadas por fiscales generales y familias, alegan que Meta, Google, TikTok de ByteDance y Snap sabían que sus productos eran adictivos para niños y adolescentes y perjudiciales para su salud mental, pero continuaron comercializándolos entre usuarios jóvenes con fines de lucro.
Las empresas tecnológicas intentaron apelar una sentencia de un tribunal federal que permitía a los implicados presentar sus demandas ante los tribunales. Argumentaron ante el Tribunal de Apelaciones del Noveno Circuito de Estados Unidos que una ley fundamental estadounidense les impedía ser demandadas.
Esa ley es la Sección 230 de la Ley de Decencia en las Comunicaciones, creada hace 30 años. Establece que las plataformas no pueden ser consideradas responsables del contenido que sus usuarios publican en línea. Durante años, las empresas de redes sociales la trataron como un escudo protector. Cuando los usuarios publicaban algo inapropiado, la empresa que lo gestionaba podía alegar que su responsabilidad era la del mensajero, no la del autor.
Esa defensa no parece funcionar en este caso. El 10 de agosto, el tribunal dictaminó que la Sección 230 “proporciona una defensa contra la responsabilidad, no inmunidad frente a demandas, por lo que la apelación fue prematura”. Este caso no gira tanto en torno a lo que la gente publicó en línea, sino a cómo las empresas tecnológicas supuestamente diseñaron sus plataformas para presentar ese contenido a los usuarios.
La revista Nebraska Law Review explica varias de las técnicas que, según las demandas, hacen que estas plataformas sean más atractivas y, potencialmente, más adictivas.
El artículo explica cómo ciertas interacciones en estas plataformas pueden desencadenar la liberación de dopamina. Estas interacciones pueden ser tan simples como que alguien responda a tu mensaje o le guste una de tus fotos. La dopamina desempeña un papel importante en el sistema de recompensa del cerebro.
El artículo de NLR describe técnicas como hacer que esas recompensas sean impredecibles, lo que anima a las personas a revisar sus cuentas habitualmente. Las funciones de la interfaz, como el desplazamiento infinito, también están diseñadas para mantenerte en el ciclo de la dopamina. El artículo cita al inventor de esa idea en particular, quien la describe como:
“Tomar cocaína [conductual] y esparcirla por toda tu interfaz”.
Cualquiera que haya pasado demasiado tiempo en la cama navegando compulsivamente por noticias negativas puede sentirse identificado.
La denegación de la apelación por parte del Noveno Circuito es procesalmente limitada, pero estratégicamente trascendental. El artículo 230 es una defensa que se argumenta en el juicio, no una barrera que impide a los demandantes acceder a los tribunales. El Tercer Circuito ha ido más allá, dictaminando que el artículo 230 «no otorga inmunidad a las plataformas si se enfrentan a demandas por daños y perjuicios causados por los algoritmos que diseñan».
En otras palabras, el algoritmo es el producto. Y el producto puede ser defectuoso.
Detrás de esos casos se encuentra una creciente cantidad de material probatorio que, según los demandantes, arroja luz sobre cómo las plataformas abordaron la interacción con los usuarios, y una sentencia de Nuevo México contra Meta a principios de este mes en un caso que explora quejas similares. Dicha sentencia ahora asciende a 942 millones de dólares porque el juez añadió 567 millones de dólares a la cantidad original, al determinar que Meta había:
“Creó un problema público a través del diseño de su plataforma.”
¿Qué descubrimiento sigue prolongándose?
El proceso de descubrimiento en estos casos ya ha sido desfavorable para Meta. Un correo electrónico de 2016 atribuido a Mark Zuckerberg decía que alertar a los padres sobre los videos en directo de los adolescentes “probablemente arruinaría el producto desde el principio”. Una reciente demanda judicial alegaba que empleados de gigantes de las redes sociales habían comparado sus propias plataformas con drogas, y un empleado de Meta escribió lo siguiente:
“Básicamente somos traficantes.”
Snap no luce mejor. A finales de 2022, los empleados de Snap recibían aproximadamente 10 000 denuncias de extorsión sexual al mes, según consta en un documento presentado en el caso de Nuevo México. Una investigación interna concluyó que el 70 % de las víctimas nunca denunciaron los abusos porque «sabían que Snap no tomaría ninguna medida; de hecho, del 30 % que sí denunció, ninguna fue atendida».
Esa cifra salió a la luz a través de la denuncia sin censurar de Nuevo México, no a través de ninguna divulgación de Snap.
Funciones de seguridad que no funcionan
Si los ejecutivos lo hubieran sabido, deberían haber implementado las soluciones. En su mayoría no lo hicieron. Investigadores de la Universidad de Nueva York y la Universidad Northeastern probaron 86 funciones de seguridad para jóvenes y descubrieron que 51 fallaron en sus pruebas. La tasa de fallas de Snapchat fue del 73%. Instagram es 66%, YouTube El 55% de las funciones de Google y el 50% de las de TikTok. Nueve funciones ni siquiera se activaron cuando los investigadores lo intentaron. Los investigadores informaron que todas las medidas de seguridad contra el ciberacoso que probaron fallaron.
Los desvíos fueron fáciles de encontrar. Escriba “trastorno alimentario” en Instagram La función de búsqueda y autocompletar ofrece, de forma educada, las faltas de ortografía deliberadas que las comunidades que promueven los trastornos alimentarios utilizan para eludir la lista negra de la propia plataforma. En ese caso, la seguridad estaba haciendo lo contrario de lo que se pretendía.
¿Qué pueden hacer los padres ahora?
No des por sentado que las funciones de seguridad de las aplicaciones funcionan exactamente como se anuncian. Si tu hijo usa redes sociales, prueba tú mismo la configuración y confirma que funciona como esperas.
Crea una cuenta de prueba y comprueba que cada configuración bloquea lo que dice bloquear. Piensa también en cuánto tiempo quieres permitirles a tus hijos usar las redes sociales, o si prefieres que las usen en absoluto. En cualquier caso, todo empieza con una conversación sincera en familia .
Si su hijo/a está siendo acosado/a en línea por personas que conoce, anímelo/a a que se lo cuente de inmediato. Guarde las pruebas, bloquee y denuncie las cuentas cuando corresponda, y no dude en contactar a la escuela o a las autoridades si el acoso incluye amenazas, chantaje o explotación sexual.
También puedes denunciar la extorsión sexual directamente a la línea directa CyberTipline del Centro Nacional para Niños Desaparecidos y Explotados , en lugar de confiar en el sistema de denuncias de la propia plataforma.
Vuelva a consultar esta página para obtener más detalles sobre el caso federal. Los próximos meses decidirán si las plataformas más grandes de la historia serán redefinidas por jurados o si llegarán a un acuerdo extrajudicial, con pagos confidenciales a la vez.
Desde denunciar las amenazas hasta eliminarlas.
Los riesgos de ciberseguridad nunca deben propagarse más allá de un titular. Mantenga las amenazas alejadas de sus dispositivos descargando Malwarebytes hoy mismo.
