Graças ao Tio Sam, quem tentar encontrar deepfakes íntimos sem consentimento deepfakes CFake.com e SOCFake.com ficará desapontado. Os Departamentos de Justiça (DOJ) e de Segurança Interna dos EUA apreenderam os dois nomes de domínio com base na Lei TAKE IT DOWN.
A Lei TAKE IT DOWN, sancionada em maio de 2025, é a primeira lei federal dos Estados Unidos a criminalizar a publicação de imagens íntimas sem consentimento, incluindo falsificações geradas por IA. Ela prevê penas de até dois anos de prisão, concede às plataformas abrangidas um prazo de 48 horas para remover o conteúdo sinalizado e confere os poderes de confisco que o Departamento de Justiça acaba de utilizar.
De acordo com os mandados de apreensão, as falsificações digitais retratavam “políticos, primeiras-damas de vários países, membros da realeza, jornalistas, apresentadores de televisão, atletas, artistas e outros”, e os visitantes podiam procurá-las por meio de tags como “estupro”, “forçado” e “degradação”.
No entanto, as autoridades não se limitaram a apreender os sites. Elas prenderam o suposto operador do CFake.com, em uma operação internacional.
Os EUA alertaram o Ministério Público de Paris sobre um cidadão francês em Nice que supostamente administrava o site CFake.com. Investigadores franceses contabilizaram cerca de 300 mil imagens e 7 mil vídeos retratando 14 mil pessoas no CFake.com, que registrava quatro milhões de visualizações mensais provenientes de 200 mil contas de usuários.
Em seguida, prenderam o profissional de TI, que não tinha antecedentes criminais. Também encontraram cerca de US$ 64.000 em criptomoeda Ether em sua casa, provenientes de receitas publicitárias do site.
O homem será julgado em 7 de julho, em Paris, por realizar transações ilícitas na internet e divulgar deepfakes de conteúdo sexual sem o consentimento das vítimas. O primeiro crime pode acarretar pena de até sete anos de prisão e multa de € 500.000 (aproximadamente US$ 580.000). O segundo pode resultar em pena de até três anos de prisão e multa de € 75.000 (US$ 87.000).
Nos Estados Unidos, também deepfakes detidos indivíduos acusados de produzir deepfakes íntimos sem consentimento. Em abril, James Strahler II, de Ohio, confessou culpa por cyberstalking, produção de material de abuso sexual infantil e divulgação de falsificações digitais.
Strahler havia baixado e produzido mais de 700 imagens e animações publicadas em um site de abuso sexual infantil e enviado deepfake a pelo menos seis mulheres adultas, incluindo uma mensagem enviada aos colegas de trabalho de uma vítima.
No mês passado, o Departamento de Justiça dos Estados Unidos também prendeu Cornelius Shannon e Arturo Hernandez com base na Lei TAKE IT DOWN por terem publicado milhares de deepfake de mulheres famosas e de outras que não são figuras públicas.
Outros países também estão tomando medidas. Anthony Rontondo foi preso pelas autoridades australianas em maio do ano passado por publicar imagens falsificadas de mulheres australianas de destaque. Ele acabou recebendo uma multa de 343 mil dólares australianos.
Qual é a prevalência deepfakes?
Essas apreensões e processos judiciais são encorajadores, mas os promotores que tentam retirar deepfakes não consentidos enfrentam uma onda crescente desse tipo de material. Os pedidos e o compartilhamento de deepfake não consentidas aumentaram, com a atividade se espalhando por várias plataformas. Deepfake , em geral, aumentaram 257% em 2024, e as meninas representaram 94% das vítimas nos casos denunciados de abuso sexual infantil gerados por IA.
A apreensão de um ponto de distribuição elimina um ponto de acesso. Isso não elimina os modelos de IA usados para produzir o material, os provedores de hospedagem anônimos a jusante nem a demanda que atrai os visitantes em primeiro lugar.
O que você pode fazer
Se você ou alguém que você conhece aparecer em um deepfake sem consentimento, guarde capturas de tela com data, URLs e quaisquer mensagens como prova antes de enviar um pedido de remoção e denunciar o caso às autoridades.
Limite as fotos de rosto em alta resolução que você e seus filhos publicam, já que fotos escolares e fotos de perfil nas redes sociais são o material de base de que essas ferramentas precisam.
Aproveite as dicas de especialistas para se proteger contra deepfakes não consentidos:
- Iniciativa de Segurança dos Direitos Civis na Internet – Centro de Segurança (EUA)
- Linha de Apoio contra a Pornografia de Vingança (Reino Unido)
- Cybertip.ca (Canadá)
Vamos ser sinceros: uma janela anônima tem suas limitações.
Violações de dados, comércio na dark web, fraudes de crédito. Malwarebytes Identity Theft monitora tudo isso, avisa você rapidamente e inclui um seguro contra roubo de identidade.
