L'ufficio del procuratore distrettuale di Manhattan ha sequestrato i domini di 12 deepfake siti web in quello che è stato definito il più grande sequestro noto di celebrità deepfake siti storici.
I siti, che si pubblicizzavano come deepfake piattaforme pornografiche ospitavano video generati dall'IA di oltre 1.200 persone, tra cui personaggi pubblici, da politici ad attori, musicisti e attivisti per la giustizia sociale. Almeno una permetteva agli utenti di creare i propri video. deepfakes innestando volti e corpi reali su immagini a sfondo sessuale.
Il termine immagini intime non consensuali (NCII) viene sempre più spesso utilizzato al posto di pornografia quando la persona ritratta non ha dato il proprio consenso. Deepfake NCII è in crescita , in parte grazie alla facilità con cui può essere creato. Basta una sola foto per generarlo, come abbiamo discusso nel podcast Lock and Code a giugno.
MrDeepFakes era in precedenza il sito più grande per questo tipo di contenuti. I suoi gestori lo hanno chiuso nel maggio 2025, citando la perdita di dati. Un uomo australiano che ha pubblicato contenuti espliciti deepfakes Una volta giunto sul posto, è stato arrestato , multato per oltraggio alla corte e accusato di aver pubblicato materiale osceno.
Ma altri deepfake I siti dell'NCII continuano a competere per l'attenzione online.
Deepfake La tecnologia può causare danni reali se usata in modo improprio e i suoi effetti continuano a diffondersi. Il procuratore distrettuale di Manhattan, Alvin Bragg, ha avvertito che i responsabili di violenza domestica stanno minacciando di rilasciare deepfake L'NCII ritrae le sue vittime. L'FBI ha anche avvertito che gli autori di estorsioni sessuali utilizzano l'intelligenza artificiale per trasformare le foto di minori sui social media in immagini sessualmente esplicite.
L'azione legale è in aumento
Le forze dell'ordine hanno lavorato duramente per arginare il flusso di deepfake Siti NCII. A giugno, il Dipartimento di Giustizia e il Dipartimento della Sicurezza Interna hanno sequestrato due domini che ospitavano centinaia di migliaia di immagini e video falsificati. L'ufficio del procuratore della città di San Francisco, David Chiu, ha anche citato in giudizio 16 deepfake siti nell'agosto 2024, riuscendo a farne chiudere o rendere inaccessibili dieci in California. Lo stato di New York ha anche approvato una legge che vieta la distribuzione di contenuti intimi deepfake immagini e video nel 2023.
A livello federale, il TAKE IT DOWN Act , promulgato nel maggio 2025, ha reso illegale la pubblicazione intenzionale di informazioni NCII, comprese quelle a sfondo sessuale. deepfakes , un reato federale.
Afferrando un deepfake il sito interrompe la distribuzione immediata dei suoi contenuti, ma gli operatori possono migrare rapidamente ad altre infrastrutture. Un rapporto dell'Istituto per il Dialogo Strategico (ISD) ha rilevato che il deepfake L'ecosistema è composto da molte parti, dai fornitori di strumenti di intelligenza artificiale alle società di hosting e ai processori di pagamento in criptovalute. Si è resa necessaria una collaborazione multisettoriale per fermare la produzione e la diffusione di questo materiale.
L'ufficio di Bragg ha dichiarato che continuerà a monitorare i siti web sequestrati per impedire che ricompaiano con domini diversi.
Che cosa puoi fare?
Se qualcuno crea o minaccia di condividere contenuti intimi deepfakes Se avete subito un reato, conservate le prove e denunciate l'accaduto alla polizia. Non pagate chi minaccia di pubblicare le immagini, perché il pagamento non garantisce la cessazione delle minacce.
L'ufficio di Bragg ha dichiarato che molte delle vittime contattate non erano consapevoli della possibilità di intraprendere azioni legali. Ha quindi esortato chiunque fosse stato colpito dai siti web sequestrati a contattare il suo Ufficio per i crimini informatici al numero 212-335-9600.
Puoi saperne di più nel Malwarebytes Guida ai deepfakes . UN Women fornisce anche risorse utili per le persone colpite da abusi basati sull'intelligenza artificiale.
I truffatori non hanno bisogno di hackerarti. Basta che tu faccia clic una sola volta.
Malwarebytes Identity Theft individua le attività sospette prima che diventino un problema.
