Grazie allo Zio Sam, chiunque cerchi di trovare deepfakes intimi non consensuali deepfakes CFake.com e SOCFake.com rimarrà deluso. Il Dipartimento di Giustizia (DOJ) e il Dipartimento per la Sicurezza Interna degli Stati Uniti hanno sequestrato i due nomi di dominio in base al TAKE IT DOWN Act.
Il TAKE IT DOWN Act, firmato nel maggio 2025, è la prima legge federale statunitense che criminalizza la pubblicazione di immagini intime non consensuali, comprese le contraffazioni generate dall’intelligenza artificiale. Prevede pene detentive fino a due anni, impone alle piattaforme interessate di rimuovere i contenuti segnalati entro 48 ore e conferisce i poteri di sequestro che il Dipartimento di Giustizia ha appena esercitato.
Secondo i mandati di perquisizione, le immagini digitali contraffatte ritraevano «politici, first lady di diversi paesi, membri di famiglie reali, giornalisti, conduttori televisivi, atleti, personaggi dello spettacolo e altri», e i visitatori potevano sfogliarle utilizzando tag quali «stupro», «coercizione» e «umiliazione».
Le autorità, però, non si sono limitate a chiudere i siti. Grazie a un'operazione internazionale, sono riuscite a catturare il presunto gestore di CFake.com.
Gli Stati Uniti hanno segnalato alla Procura di Parigi un cittadino francese residente a Nizza che sarebbe stato il gestore del sito CFake.com. Gli investigatori francesi hanno contato circa 300.000 immagini e 7.000 video che ritraevano 14.000 persone su CFake.com, con quattro milioni di visualizzazioni mensili provenienti da 200.000 account utente.
Hanno quindi arrestato il tecnico informatico, che non aveva precedenti penali. Nella sua abitazione hanno inoltre rinvenuto circa 64.000 dollari in criptovaluta Ether, provenienti dai ricavi pubblicitari del sito.
L'uomo sarà processato il 7 luglio a Parigi con l'accusa di aver effettuato transazioni illecite online e di aver diffuso deepfakes a sfondo sessuale senza il consenso delle persone coinvolte. Il primo reato è punibile con una pena detentiva fino a sette anni e una multa di 500.000 euro (circa 580.000 dollari). Il secondo potrebbe comportare una pena detentiva fino a tre anni e una multa di 75.000 euro (87.000 dollari).
Negli Stati Uniti deepfakes stati arrestati anche autori e presunti autori di deepfakes a sfondo intimo realizzati senza consenso. Ad aprile, James Strahler II, dell’Ohio, si è dichiarato colpevole di cyberstalking, produzione di materiale pedopornografico e diffusione di falsificazioni digitali.
Strahler aveva scaricato e prodotto oltre 700 immagini e animazioni pubblicate su un sito dedicato agli abusi sessuali sui minori e aveva inviato deepfake ad almeno sei donne adulte, tra cui una inviata ai colleghi di lavoro di una vittima.
Il mese scorso, il Dipartimento di Giustizia ha inoltre arrestato Cornelius Shannon e Arturo Hernandez ai sensi del TAKE IT DOWN Act per aver pubblicato migliaia di deepfake raffiguranti donne famose e altre meno note.
Anche altri paesi stanno intervenendo. Anthony Rontondo è stato arrestato dalle autorità australiane nel maggio dello scorso anno per aver pubblicato immagini manipolate con la tecnica del deepfake raffiguranti donne australiane di spicco. Alla fine gli è stata inflitta una multa di 343.000 dollari australiani.
Quanto sono diffusi deepfakes?
Questi sequestri e procedimenti penali sono incoraggianti, ma i pubblici ministeri che cercano di far deepfakes realizzati senza consenso si trovano ad affrontare un'ondata crescente di questo tipo di materiale. Le richieste e la condivisione di deepfake realizzate senza consenso sono aumentate, con un trasferimento dell'attività da una piattaforma all'altra. Nel 2024 Deepfake sono aumentati complessivamente del 257%, e le ragazze hanno rappresentato il 94% delle vittime nei casi segnalati di abusi sessuali su minori generati dall'intelligenza artificiale.
Il sequestro di un punto di distribuzione comporta la chiusura di un punto vendita. Non comporta però l'eliminazione dei modelli di intelligenza artificiale utilizzati per produrre il materiale, dei provider di hosting anonimi a valle, né della domanda che attira i visitatori in primo luogo.
Cosa puoi fare
Se tu o qualcuno che conosci siete protagonisti di un deepfake realizzato senza il vostro consenso, conservate screenshot con data, URL ed eventuali comunicazioni come prove prima di presentare una richiesta di rimozione e di segnalarlo alle autorità.
Limitate la pubblicazione di foto del viso ad alta risoluzione vostre e dei vostri figli, poiché le foto scolastiche e le immagini di profilo sui social media costituiscono il materiale di base di cui questi strumenti hanno bisogno.
Approfitta dei consigli degli esperti per proteggerti dai deepfakes realizzati senza il tuo consenso:
- Iniziativa per la sicurezza dei diritti civili nel cyberspazio - Centro per la sicurezza (Stati Uniti)
- Linea di assistenza contro il "revenge porn " (Regno Unito)
- Cybertip.ca (Canada)
Ammettiamolo, una finestra in incognito ha i suoi limiti.
Violazioni dei dati, commercio sul dark web, frodi creditizie. Malwarebytes Identity Theft monitora tutto questo, ti avvisa immediatamente e include un'assicurazione contro il furto d'identità.
