Um grupo de grandes empresas tecnológicas está a lutar para impedir que cerca de 3.000 processos judiciais relacionados com a segurança dos jovens prossigam, e acaba de perder uma batalha processual crucial em tribunal.
Os processos, interpostos por procuradores-gerais e famílias, alegam que a Meta, a Google, a TikTok da ByteDance e a Snap sabiam que os seus produtos eram viciantes para crianças e adolescentes e prejudiciais para a sua saúde mental, mas continuaram a comercializá-los para jovens utilizadores com vista ao lucro.
As empresas tecnológicas tentaram recorrer de uma decisão de um tribunal federal que permitiu aos envolvidos apresentar as suas ações judiciais. Argumentaram perante o Tribunal de Apelação do 9º Circuito dos EUA que uma lei fundamental dos EUA impedia que fossem processadas.
Esta lei é a Secção 230 da Lei da Decência nas Comunicações, criada há 30 anos. Afirma que as plataformas não podem ser responsabilizadas pelo conteúdo publicado online pelos seus utilizadores. Durante anos, as empresas de redes sociais trataram-na como um escudo protetor. Quando os utilizadores publicavam algo inadequado, a empresa responsável pela plataforma podia alegar ser a mensageira, e não a autora.
Esta defesa parece não estar a funcionar neste caso. A 10 de agosto, o tribunal decidiu que a Secção 230 “proporciona uma defesa contra a responsabilidade, não imunidade contra processos judiciais, pelo que o recurso foi prematuro”. Este caso gira em torno não tanto do que as pessoas publicaram online, mas sim de como as empresas tecnológicas supostamente conceberam as suas plataformas para apresentar esse conteúdo aos utilizadores.
A Nebraska Law Review explica várias das técnicas que, segundo os processos judiciais, tornam estas plataformas mais envolventes e potencialmente mais viciantes.
O artigo explica como certas interações nestas plataformas podem desencadear a libertação de dopamina. Estas interações podem ser tão simples como alguém responder a uma mensagem sua ou gostar de uma das suas fotografias. A dopamina desempenha um papel importante no sistema de recompensa do cérebro.
O artigo da NLR descreve técnicas como tornar estas recompensas imprevisíveis, o que incentiva as pessoas a verificarem as suas contas habitualmente. As características de interface como a rolagem infinita também são concebidas para manter o utilizador no fluxo de dopamina. O artigo cita o inventor desta ideia específica, que a descreve como:
“É como usar cocaína [comportamental] e espalhá-la por toda a sua interface.”
Quem já passou muito tempo na cama a fazer scroll no ecrã do telemóvel sem parar vai identificar-se.
A decisão do 9º Circuito de negar o recurso é processualmente restrita, mas estrategicamente enorme. A Secção 230 é uma defesa que se argumenta em julgamento, e não uma barreira que impede os demandantes de entrar em tribunal. O Terceiro Circuito foi mais longe, decidindo que a Secção 230 “não concede imunidade às plataformas se estas enfrentarem ações judiciais por danos causados pelos algoritmos que desenvolvem”.
Por outras palavras, o algoritmo é o produto. O produto pode ser defeituoso.
Por detrás destes casos, há um crescente acervo de provas que, segundo os queixosos, esclarecem como as plataformas abordaram o envolvimento dos utilizadores, além de uma sentença do Novo México contra a Meta no início deste mês, num caso que analisava queixas semelhantes. Esta sentença totaliza agora 942 milhões de dólares, uma vez que o juiz acrescentou 567 milhões de dólares ao valor original, considerando que a Meta:
“Criou um incómodo público através do design da sua plataforma.”
Que descoberta continua a arrastar-se?
A investigação nestes casos já se mostrou desfavorável à Meta. Um e-mail de 2016 atribuído a Mark Zuckerberg dizia que alertar os pais sobre vídeos em direto de adolescentes "provavelmente arruinaria o produto desde o início". Uma ação judicial recente alegou que os funcionários de gigantes das redes sociais compararam as suas próprias plataformas a drogas, com um funcionário da Meta a escrever que:
“Nós somos basicamente traficantes.”
A situação da Snap não parece melhor. No final de 2022, os funcionários da Snap recebiam cerca de 10 mil queixas de extorsão sexual por mês, de acordo com um documento apresentado no caso do Novo México. Uma investigação interna concluiu que 70% das vítimas nunca denunciaram o abuso porque “sabiam que nenhuma medida seria tomada pela Snap; aliás, dos 30% que denunciaram, nenhum caso foi atendido”.
Este número veio a público através da denúncia não editada do Novo México, e não através de qualquer divulgação feita pela Snap.
Características de segurança que não funcionam
Se os executivos soubessem, as correções deveriam ter sido feitas. Mas, na maioria dos casos, não foram. Investigadores da NYU e da Northeastern University testaram 86 características de segurança para jovens e descobriram que 51 falharam os testes. A taxa de falhas do Snapchat foi de 73%. Instagram 66%, YouTube 55% e 50% do TikTok. Nove recursos sequer puderam ser ativados quando os investigadores o tentaram. Os investigadores relataram que todas as medidas de segurança contra o cyberbullying testadas falharam.
Os métodos alternativos foram encontrados rapidamente. Introduza “transtorno alimentar” na pesquisa. Instagram A pesquisa e o recurso de auto-completar oferecem, educadamente, os erros ortográficos deliberados que as comunidades pró-perturbações alimentares utilizam para contornar a própria lista de bloqueio da plataforma. A segurança, neste caso, estava a fazer o contrário da segurança.
O que podem os pais fazer agora
Não presuma que as funcionalidades de segurança das aplicações funcionam exatamente como anunciado. Se o seu filho utiliza as redes sociais, teste você mesmo as definições e confirme se estão a funcionar conforme o esperado.
Crie uma conta de teste e verifique se cada configuração bloqueia o que promete bloquear. E pense na quantidade de tempo que quer permitir que os seus filhos utilizem as redes sociais, ou se quer deixá-los usá-las de forma alguma. De qualquer forma, tudo começa com uma conversa franca em família .
Se o seu filho estiver a ser assediado por pessoas que conhece online, incentive-o a contar-lhe imediatamente. Guarde as provas, bloqueie e denuncie as contas quando apropriado e não hesite em envolver a escola ou a polícia se o assédio incluir ameaças, chantagem ou exploração sexual.
Também pode denunciar a extorsão sexual diretamente à CyberTipline do Centro Nacional para Crianças Desaparecidas e Exploradas (National Center for Missing and Exploited Children's CyberTipline) , em vez de confiar na fila de denúncias da própria plataforma.
Volte aqui para mais detalhes sobre o caso federal. Os próximos meses decidirão se as maiores plataformas da história serão reescritas por júris ou se chegarão a um acordo, um cheque confidencial de cada vez.
Desde a denúncia de ameaças até à sua remoção.
Os riscos de cibersegurança nunca se devem propagar para além de uma manchete. Mantenha as ameaças longe dos seus dispositivos descarregando Malwarebytes hoje mesmo.
