I creatori di OnlyFans sono abituati a pubblicare online video per adulti di se stessi, ma cosa succede se qualcuno prende il controllo delle loro immagini e le usa per frode? Questa settimana, USA Today ha rivelato come i criminali si spacciano per i creatori di OnlyFans utilizzando strumenti di intelligenza artificiale. deepfake Contenuti volti ad attirare i fan delle vere modelle con false promesse di chat dal vivo, per poi sparire nel nulla dopo che i follower hanno pagato in anticipo.
Come i pescatori di pesci gatto agganciano l'esca
Si tratta di una forma di catfishing , in cui un malintenzionato si spaccia per qualcun altro online e intrattiene interazioni romantiche o sessuali con secondi fini. In questo caso, i truffatori creano profili falsi su piattaforme come TikTok, utilizzando materiale tratto dalle foto di un vero creator e aggiungendo una voce sintetica. Usano poi questi profili per indurre gli utenti a iniziare una conversazione tramite messaggi privati su servizi come Snapchat.
Una volta sul sito, il "creatore" chiede un pagamento tramite Cash App in cambio di contenuti esclusivi. Cash App è un servizio di pagamenti peer-to-peer pensato per invii informali tra amici, non per il commercio. I trasferimenti vengono elaborati istantaneamente e accreditati sul conto del destinatario in pochi secondi. Una volta inviato, è molto difficile recuperarlo.
È proprio questo design informale a renderlo utile in questo caso. Non appena il fan paga, il criminale lo blocca e scompare.
Perché le leggi non raggiungono i server reali
I legislatori stanno affrontando questo problema con molteplici misure anti-a livello statale deepfake leggi. A livello federale, il Take It Down Act criminalizza i contenuti espliciti non consensuali, comprese le immagini generate dall'IA, e impone la rapida rimozione dei contenuti dalle piattaforme. Nell'UE, l'AI Act impone a chiunque utilizzi l'IA per la generazione di immagini di renderlo pubblico.
Perché tutto questo continua ad accadere?
Il problema è che le leggi nazionali si applicano solo alle piattaforme nazionali. Il materiale rubato si trova in gran parte su server esteri, il che ne rende difficile il controllo.
Anche se le leggi potessero essere applicate universalmente, potrebbe non importare. In tre esperimenti condotti quest'anno, i ricercatori dell'Università di Bristol hanno scoperto che la maggior parte dei partecipanti si affidava a deepfake contenuti anche dopo aver saputo che erano falsi.
Cosa aiuta davvero?
Questo tipo di frode ha due vittime: i fan che perdono denaro a causa delle truffe e i creatori. Questi ultimi perdono i guadagni che avrebbero potuto ottenere dai fan e corrono anche il rischio di ritorsioni da parte di follower scontenti che si sentono raggirati.
Una creatrice di contenuti, Jessieanna Campbell, ha raccontato a USA Today che alcuni fan confusi si sono lamentati con lei dopo aver pensato erroneamente che avesse preso i loro soldi. "Ricevo continuamente messaggi del tipo 'Ehi, perché hai preso i miei 150 dollari e mi hai bloccato?' e io rispondo 'Di cosa stai parlando?'"
USA Today ha anche intervistato una creatrice di contenuti che ha ricevuto la visita a casa di fan inferociti e che ora a volte ha paura di uscire di casa.
Alcuni creatori si stanno rivolgendo a servizi privati di rimozione contenuti per cercare di risolvere il problema autonomamente. Altri stanno pubblicando annunci di pubblica utilità per mettere in guardia contro questi account falsi. Ma sta ai fan decidere se ascoltarli.
Se un “creatore” su una piattaforma di terze parti ti contatta, guarda attentamente il video; deepfakes sono spesso imperfetti. USA Today ha riportato che un video di TikTok che imitava la creator Elaina St. James, realizzato animando una foto statica e clonando la sua voce, mostrava denti distorti e sopracciglia congelate. Ecco la nostra guida per individuare deepfakes di qualsiasi genere.
Il buon senso è fondamentale. Se qualcuno ti indirizza verso una piattaforma di messaggistica diretta e ti chiede denaro in cambio di contenuti esclusivi, pensaci due volte. Verifica con il creatore tramite un account verificato se si tratta di un profilo autentico.
I truffatori non hanno bisogno di hackerarti. Basta che tu faccia clic una sola volta.
Malwarebytes Identity Theft individua le attività sospette prima che diventino un problema.
