Grâce à l'Oncle Sam, ceux qui chercheraient à trouver deepfakes intimes non consensuels deepfakes CFake.com et SOCFake.com seront déçus. Le ministère américain de la Justice (DOJ) et celui de la Sécurité intérieure ont saisi ces deux noms de domaine en vertu de la loi TAKE IT DOWN.
La loi TAKE IT DOWN, promulguée en mai 2025, est la première loi fédérale américaine qui érige en infraction pénale la publication d’images intimes non consenties, y compris les faux générés par l’IA. Elle prévoit des peines pouvant aller jusqu’à deux ans d’emprisonnement, impose aux plateformes concernées un délai de 48 heures pour retirer les contenus signalés et confère au ministère de la Justice les pouvoirs de confiscation qu’il vient d’exercer.
D'après les mandats de perquisition, les contrefaçons numériques représentaient « des personnalités politiques, des premières dames de plusieurs pays, des membres de familles royales, des journalistes, des présentateurs de télévision, des athlètes, des artistes et d'autres personnes », et les visiteurs pouvaient les consulter sous des tags tels que « viol », « forcé » et « humiliation ».
Mais les autorités ne se sont pas contentées de fermer les sites. Elles ont également arrêté le présumé exploitant de CFake.com, grâce à une opération internationale.
Les États-Unis ont signalé au parquet de Paris un ressortissant français résidant à Nice qui aurait géré le site CFake.com. Les enquêteurs français ont recensé environ 300 000 images et 7 000 vidéos mettant en scène 14 000 personnes sur CFake.com, qui enregistrait quatre millions de visites par mois provenant de 200 000 comptes d'utilisateurs.
Ils ont ensuite arrêté cet informaticien, qui n'avait aucun antécédent judiciaire. Ils ont également découvert chez lui environ 64 000 dollars en cryptomonnaie Ether, provenant des recettes publicitaires du site.
Cet homme sera jugé le 7 juillet à Paris pour avoir effectué des transactions illicites en ligne et diffusé deepfakes à caractère sexuel sans le consentement des personnes concernées. Le premier chef d'accusation est passible d'une peine maximale de sept ans d'emprisonnement et d'une amende de 500 000 euros (environ 580 000 dollars). Le second chef d'accusation est passible d'une peine maximale de trois ans d'emprisonnement et d'une amende de 75 000 euros (environ 87 000 dollars).
Des auteurs et des personnes accusées d'avoir diffusé deepfakes à caractère intime sans consentement deepfakes également été arrêtés aux États-Unis. En avril, James Strahler II, originaire de l'Ohio, a plaidé coupable de cyberharcèlement, de production de matériel pédopornographique et de diffusion de contrefaçons numériques.
Strahler avait téléchargé et produit plus de 700 images et animations publiées sur un site pédopornographique, et avait envoyé deepfake à au moins six femmes adultes, dont une aux collègues de travail d'une victime.
Le mois dernier, le ministère américain de la Justice a également arrêté Cornelius Shannon et Arturo Hernandez en vertu de la loi TAKE IT DOWN pour avoir publié des milliers deepfake représentant des femmes célèbres et d'autres personnes moins connues.
D'autres pays prennent également des mesures. Anthony Rontondo a été arrêté par les autorités australiennes en mai dernier pour avoir publié des images truquées de femmes australiennes de premier plan. Il a finalement été condamné à une amende de 343 000 dollars australiens.
Quelle est l'ampleur du phénomène deepfakes?
Ces saisies et poursuites judiciaires sont encourageantes, mais les procureurs qui tentent de faire deepfakes réalisés sans consentement sont confrontés à une vague croissante de ce type de contenu. Les demandes et le partage deepfake réalisées sans consentement ont augmenté, l'activité se déplaçant d'une plateforme à l'autre. Deepfake ont globalement bondi de 257 % en 2024, et les filles représentaient 94 % des victimes dans les cas signalés d'abus sexuels sur mineurs générés par l'IA.
La saisie d'un point de distribution supprime un point de vente. Elle ne supprime pas les modèles d'IA utilisés pour produire le contenu, les hébergeurs anonymes en aval, ni la demande qui attire les visiteurs au départ.
Ce que vous pouvez faire
Si vous ou une personne de votre entourage figurez dans un deepfake réalisé sans votre consentement, conservez des captures d'écran datées, les URL et toute correspondance comme preuves avant de déposer une demande de retrait et de signaler le cas aux autorités.
Limitez les photos de visage en haute résolution que vous et vos enfants publiez, car les photos d'école et les photos de profil sur les réseaux sociaux constituent la matière première dont ces outils ont besoin.
Profitez des conseils d'experts pour vous protéger contre deepfakes réalisés sans votre consentement :
- Centre de sécurité de l'initiative « Cyber Civil Rights » (États-Unis)
- Ligne d'assistance contre la pornographie vengeresse (Royaume-Uni)
- Cybertip.ca (Canada)
Soyons réalistes, une fenêtre de navigation privée a ses limites.
Fuites de données, commerce sur le dark web, fraude à la carte de crédit. Malwarebytes Identity Theft surveille tous ces risques, vous alerte rapidement et inclut une assurance contre l'usurpation d'identité.
