Graças ao Tio Sam, quem tentar encontrar deepfakes íntimos não consensuais deepfakes CFake.com e SOCFake.com ficará desapontado. Os Departamentos de Justiça (DOJ) e de Segurança Interna dos EUA apreenderam os dois nomes de domínio ao abrigo da Lei TAKE IT DOWN.
A Lei TAKE IT DOWN, assinada em maio de 2025, é a primeira lei federal dos EUA a criminalizar a publicação de imagens íntimas sem consentimento, incluindo falsificações geradas por IA. A lei prevê penas de prisão até dois anos, concede às plataformas abrangidas um prazo de 48 horas para remover o conteúdo sinalizado e confere os poderes de apreensão que o Departamento de Justiça acaba de utilizar.
De acordo com os mandados de apreensão, as falsificações digitais retratavam «políticos, primeiras-damas de vários países, membros da realeza, jornalistas, apresentadores de televisão, atletas, artistas e outros», e os visitantes podiam pesquisá-las através de etiquetas como «violação», «forçado» e «degradação».
No entanto, as autoridades não se limitaram a apreender os sites. Conseguiram detir o alegado operador do CFake.com, no âmbito de uma operação internacional.
Os EUA alertaram o Ministério Público de Paris sobre um cidadão francês em Nice que estaria alegadamente a gerir o CFake.com. Os investigadores franceses contabilizaram cerca de 300 000 imagens e 7 000 vídeos que retratavam 14 000 pessoas no CFake.com, atraindo quatro milhões de visualizações mensais provenientes de 200 000 contas de utilizador.
Em seguida, detiveram o profissional de TI, que não tinha antecedentes criminais. Também encontraram cerca de 64 000 dólares em criptomoeda Ether na sua casa, provenientes das receitas publicitárias do site.
O homem será julgado a 7 de julho, em Paris, por realizar transações ilícitas online e por divulgar deepfakes de conteúdo sexual sem consentimento. O primeiro crime é punível com uma pena de prisão até sete anos e uma multa de 500 000 euros (cerca de 580 000 dólares). O segundo crime pode ser punido com uma pena de prisão até três anos e uma multa de 75 000 euros (87 000 dólares).
Nos EUA, também deepfakes detidos indivíduos acusados de produzir deepfakes íntimos sem consentimento. Em abril, James Strahler II, de Ohio, declarou-se culpado de cyberstalking, produção de material de abuso sexual infantil e divulgação de falsificações digitais.
Strahler tinha descarregado e produzido mais de 700 imagens e animações publicadas num site de abuso sexual infantil e tinha enviado deepfake a pelo menos seis mulheres adultas, incluindo uma enviada aos colegas de trabalho de uma vítima.
No mês passado, o Departamento de Justiça dos EUA também deteve Cornelius Shannon e Arturo Hernandez ao abrigo da Lei TAKE IT DOWN por terem publicado milhares de deepfake de mulheres famosas e de outras que não são figuras públicas.
Outros países também estão a tomar medidas. Anthony Rontondo foi detido pelas autoridades australianas em maio do ano passado por ter publicado imagens falsificadas de mulheres australianas de destaque. Acabou por ser condenado a pagar uma multa de 343 000 dólares australianos.
Qual é a prevalência deepfakes?
Estas apreensões e processos judiciais são encorajadores, mas os procuradores que tentam retirar deepfakes não consensuais enfrentam uma onda crescente deste tipo de material. Os pedidos e a partilha de deepfake não consensuais aumentaram, com a atividade a migrar entre plataformas. Deepfake registaram, no total, um aumento de 257 % em 2024, e as raparigas representaram 94 % das vítimas nos casos denunciados de abuso sexual infantil gerados por IA.
A apreensão de um ponto de distribuição elimina um ponto de venda. Não elimina os modelos de IA utilizados para produzir o material, os fornecedores de alojamento anónimos a jusante, nem a procura que atrai os visitantes em primeiro lugar.
O que pode fazer
Se você ou alguém que conhece aparecer num deepfake não consentido, guarde capturas de ecrã com data, URLs e quaisquer comunicações como prova antes de apresentar um pedido de remoção e de o denunciar às autoridades.
Limite as imagens faciais de alta resolução que você e os seus filhos publicam, uma vez que as fotografias escolares e as imagens de perfil nas redes sociais são a matéria-prima de que estas ferramentas necessitam.
Aproveite os conselhos de especialistas para se proteger contra deepfakes não consentidos:
- Iniciativa para a Segurança dos Direitos Civis na Internet – Centro de Segurança (EUA)
- Linha de Apoio contra a Pornografia de Vingança (Reino Unido)
- Cybertip.ca (Canadá)
Sejamos realistas, uma janela de navegação anónima tem as suas limitações.
Violações de segurança, comércio na dark web, fraude de cartões de crédito. Malwarebytes Identity Theft monitoriza tudo isto, alerta-o rapidamente e inclui um seguro contra roubo de identidade.
