Um grupo de grandes empresas de tecnologia está lutando para impedir que cerca de 3.000 processos judiciais relacionados à segurança de jovens prossigam, e acaba de perder uma batalha processual crucial no tribunal.
Os processos, movidos por procuradores-gerais e famílias, alegam que a Meta, o Google, o TikTok da ByteDance e o Snap sabiam que seus produtos eram viciantes para crianças e adolescentes e prejudiciais à sua saúde mental, mas continuaram a comercializá-los para jovens usuários visando o lucro.
As empresas de tecnologia tentaram recorrer de uma decisão de um tribunal federal que permitiu que os envolvidos apresentassem suas ações judiciais. Elas argumentaram perante o Tribunal de Apelações do 9º Circuito dos EUA que uma lei fundamental dos EUA impedia que fossem processadas.
Essa lei é a Seção 230 da Lei de Decência nas Comunicações, criada há 30 anos. Ela afirma que as plataformas não podem ser responsabilizadas pelo conteúdo publicado online por seus usuários. Durante anos, as empresas de mídia social a trataram como um escudo protetor. Quando os usuários publicavam algo inadequado, a empresa responsável pela plataforma podia alegar ser a mensageira, e não a autora.
Essa defesa parece não estar funcionando neste caso. Em 10 de agosto, o tribunal decidiu que a Seção 230 “fornece uma defesa contra responsabilidade, não imunidade contra processos judiciais, portanto, o recurso foi prematuro”. Este caso gira em torno não tanto do que as pessoas postaram online, mas sim de como as empresas de tecnologia supostamente projetaram suas plataformas para apresentar esse conteúdo aos usuários.
A Nebraska Law Review explica várias das técnicas que, segundo os processos judiciais, tornam essas plataformas mais envolventes e potencialmente mais viciantes.
O artigo explica como certas interações nessas plataformas podem desencadear a liberação de dopamina. Essas interações podem ser tão simples quanto alguém responder a uma mensagem sua ou curtir uma de suas fotos. A dopamina desempenha um papel importante no sistema de recompensa do cérebro.
O artigo da NLR descreve técnicas como tornar essas recompensas imprevisíveis, o que incentiva as pessoas a verificarem suas contas habitualmente. Recursos de interface como a rolagem infinita também são projetados para manter o usuário no fluxo de dopamina. O artigo cita o inventor dessa ideia específica, que a descreve como:
“É como usar cocaína [comportamental] e espalhá-la por toda a sua interface.”
Quem já passou muito tempo na cama rolando a tela do celular sem parar vai se identificar.
A decisão do 9º Circuito de negar o recurso é processualmente restrita, mas estrategicamente enorme. A Seção 230 é uma defesa que se argumenta em julgamento, não uma barreira que impede os demandantes de entrarem no tribunal. O Terceiro Circuito foi além, decidindo que a Seção 230 “não concede imunidade às plataformas se elas enfrentarem ações judiciais por danos causados pelos algoritmos que desenvolvem”.
Em outras palavras, o algoritmo é o produto. O produto pode ser defeituoso.
Por trás desses casos, há um crescente acervo de provas que, segundo os demandantes, esclarecem como as plataformas abordaram o engajamento do usuário, além de uma sentença do Novo México contra a Meta no início deste mês, em um caso que analisava queixas semelhantes. Essa sentença agora totaliza US$ 942 milhões, pois o juiz adicionou US$ 567 milhões ao valor original, considerando que a Meta:
“Criou um incômodo público por meio do design de sua plataforma.”
Que descoberta continua se arrastando?
A investigação nesses casos já se mostrou desfavorável à Meta. Um e-mail de 2016 atribuído a Mark Zuckerberg dizia que alertar os pais sobre vídeos ao vivo de adolescentes "provavelmente arruinaria o produto desde o início". Uma ação judicial recente alegou que funcionários de gigantes das mídias sociais compararam suas próprias plataformas a drogas, com um funcionário da Meta escrevendo que:
“Nós somos basicamente traficantes.”
A situação da Snap não parece melhor. No final de 2022, os funcionários da Snap estavam recebendo cerca de 10.000 denúncias de extorsão sexual por mês, de acordo com um documento apresentado no caso do Novo México. Uma investigação interna concluiu que 70% das vítimas nunca denunciaram o abuso porque “sabiam que nenhuma providência seria tomada pela Snap; aliás, dos 30% que denunciaram, nenhum caso foi atendido”.
Esse número veio à tona por meio da denúncia não editada do Novo México, e não por meio de qualquer divulgação feita pelo Snap.
Recursos de segurança que não funcionam
Se os executivos soubessem, as correções deveriam ter sido feitas. Mas, na maioria dos casos, não foram. Pesquisadores da NYU e da Northeastern University testaram 86 recursos de segurança para jovens e descobriram que 51 falharam nos testes. A taxa de falha do Snapchat foi de 73%. Instagram 66%, YouTube 55% e 50% do TikTok. Nove recursos sequer puderam ser ativados quando os pesquisadores tentaram. Os pesquisadores relataram que todas as medidas de segurança contra o cyberbullying testadas falharam.
Os métodos alternativos foram encontrados rapidamente. Digite “transtorno alimentar” na busca. Instagram A busca e o recurso de autocompletar oferecem, educadamente, os erros ortográficos deliberados que as comunidades pró-distúrbios alimentares usam para burlar a própria lista de bloqueio da plataforma. A segurança, nesse caso, estava fazendo o oposto da segurança.
O que os pais podem fazer agora
Não presuma que os recursos de segurança dos aplicativos funcionem exatamente como anunciado. Se seu filho usa redes sociais, teste as configurações você mesmo e confirme se elas estão funcionando como esperado.
Crie uma conta de teste e verifique se cada configuração bloqueia o que promete bloquear. E pense na quantidade de tempo que você quer permitir que seus filhos usem as redes sociais, ou se você quer deixá-los usá-las de forma alguma. De qualquer forma, tudo começa com uma conversa franca em família .
Se seu filho estiver sendo assediado por pessoas que ele conhece online, incentive-o a contar para você imediatamente. Guarde as provas, bloqueie e denuncie as contas quando apropriado e não hesite em envolver a escola ou a polícia se o assédio incluir ameaças, chantagem ou exploração sexual.
Você também pode denunciar a extorsão sexual diretamente à CyberTipline do Centro Nacional para Crianças Desaparecidas e Exploradas (National Center for Missing and Exploited Children's CyberTipline) , em vez de confiar na fila de denúncias da própria plataforma.
Volte aqui para mais detalhes sobre o caso federal. Os próximos meses decidirão se as maiores plataformas da história serão reescritas por júris ou se chegarão a um acordo, um cheque confidencial de cada vez.
Desde a denúncia de ameaças até a sua remoção.
Os riscos de segurança cibernética nunca devem se espalhar além de uma manchete. Mantenha as ameaças longe de seus dispositivos fazendo o download Malwarebytes hoje mesmo.
