I centri di truffa nel Sud-Est asiatico sono già diventati delle vere e proprie "fabbriche di schiavi" moderne, intrappolando le vittime e costringendone molte a diventare a loro volta truffatori. Ora hanno aggiunto un altro tipo di "lavoratore" al gruppo: i cosiddetti modelli di IA.
Questi truffatori professionisti effettuano videochiamate con le loro vittime, conquistandole con le loro lusinghe per convincerle a consegnare loro il denaro. Comeriportatoquesta settimanada WIRED, gli annunci di lavoro descrivono mansioni che prevedono la gestione di circa un centinaio di videochiamate al giorno, finalizzate a promuovere truffe sentimentali e schemi fraudolenti legati alle criptovalute nell’ambito di operazioni di truffa su scala industriale in Cambogia, Myanmar e Laos.
Queste "fabbriche di truffe" si avvalgono già di operatori di chat per adescare le vittime tramite app di messaggistica. Molti di questi operatori sono essi stessi vittime della tratta, costretti a lavorare per lunghi turni sotto minaccia di violenza. Col tempo instaurano rapporti con le vittime, sfruttandone la solitudine o le preoccupazioni finanziarie. Mentre si impegnano a far sentire speciale una vittima, in realtà gestiscono contemporaneamente conversazioni simili con decine di persone. Alla fine, una vittima potrebbe voler fare una videochiamata, sia per incontrare il proprio fidanzato immaginario, sia per confermare che un'opportunità di investimento sia legittima (o entrambe le cose).
Gli operatori delle chat potrebbero non essere in grado di affascinare le vittime durante le videochiamate, soprattutto quando sono a loro volta vittime , costrette a lavorare per lunghi turni e subiscono violenze fisiche. Quindi, quando una vittima richiede una videochiamata, i responsabili della truffa chiamano un "modello di intelligenza artificiale" specializzato, dotato di forti capacità interpersonali, per conquistare la vittima. Nonostante il nome, si tratta di persone reali assunte per partecipare alle videochiamate. L'IA deepfake Il software modifica il loro aspetto per farli corrispondere alla persona fittizia che la vittima spera di vedere.
Le organizzazioni criminali pubblicano annunci di reclutamento per queste modelle, e molte sembrano disposte a candidarsi per questi lavori. Humanity Research Consultancy, un gruppo di ricerca investigativa che monitora le reti di traffico di esseri umani,ha individuatol'annuncio di una ventiquattrenne uzbeka che si fa chiamare Angel. La donna affermava di parlare quattro lingue e di avere un anno di esperienza come modella di IA. Chiedeva 7.000 dollari al mese per i suoi servizi.
L'aumento dei complessi fraudolenti
Ma come è possibile che esistano questi centri di truffa?Secondo l’Australian Strategic Policy Institute, il colpo di Stato militare del 2021 in Myanmar ha contribuito a innescare un vero e proprio boom delle truffe. I centri di truffa lungo il confine con la Thailandia sonopiù che raddoppiaticon l’affermarsi delle organizzazioni criminali in quella regione, così come in Myanmar, Cambogia e Laos.
Questi centri dedicati alle truffe vengono spesso tollerati perché alimentano le casse delle milizie locali. Tuttavia, sono state adottate alcune contromisure. Le retate e le operazioni di contrasto transfrontaliere hanno portato ad arresti e al trasferimento di un gran numero di sospetti da un paese all’altro, comprese operazioni mirate contro complessi come il KK Park a Myawaddy. Anche la Cambogia e il Myanmar hanno segnalato un intensificarsi degli sforzi per contrastare le operazioni di truffa, sebbene le reti rimangano estremamente resistenti.
Questo tipo di attività diventa più facile con il miglioramento della tecnologia. Scambio di volti in tempo reale e deepfake Gli strumenti sono ormai abbastanza buoni da supportare i video in diretta, non solo le clip preregistrate. Abbiamo già visto in tempo reale deepfakes Utilizzato per qualsiasi cosa, dai colloqui di lavoro all'impersonificazione di dirigenti bancari per truffare milioni . La novità sta nella portata: il fatto che decine o addirittura centinaia di chiamate al giorno vengano gestite per truffe sentimentali e frodi sugli investimenti in criptovalute dimostra che si tratta ormai di un fenomeno di massa.
Come proteggersi
Ecco il problema con deepfake video: i comuni "segnali" che ti permettono di individuarlo stanno svanendo. Un tempo un segno sicuro di un'IA deepfake era qualcuno con il numero sbagliato di dita o stranezze nell'attaccatura dei capelli. Puoi alzare la posta in gioco nelle chiamate dal vivo chiedendo a qualcuno di girarsi di lato. Fagli toccare il naso e agitare le dita davanti al viso. È più difficile per deepfake software per gestire quel rumore aggiuntivo.
Ma attenzione: gli algoritmi che producono deepfakes Stanno migliorando costantemente e sono sempre più in grado di superare questi test. Siamo arrivati al punto in cui, secondo questo ricercatore deepfake , quest'anno molti di noi saranno ingannati da questi dispositivi.
Se non riesci a fidarti completamente di ciò che vedi, affidati a ciò che sai. Diffida dei contatti non richiesti, soprattutto quando qualcuno cerca di instaurare rapidamente un legame emotivo o ti propone un'opportunità di investimento. Anche se un profilo sembra ben curato o un sito web appare affidabile, prenditi il tempo necessario per approfondire un po' la questione.
Evita di condividere informazioni personali o finanziarie con persone che hai conosciuto solo online e diffida di chiunque ti spinga a prendere decisioni affrettate o ti chieda di spostare la conversazione fuori dalle piattaforme consolidate. L'FBI offre alcuni consigli utili sul proprio sito web.
La parte più pericolosa di questo deepfake La tendenza dei modelli di intelligenza artificiale è quella di aiutare le truffe a superare l'ultima frontiera. Un essere umano in carne e ossa può sventare una truffa che una semplice interazione in chat non riesce a bloccare. Ecco perché persone come Angel, dall'Uzbekistan, hanno un lavoro e perché è necessario essere più vigili che mai.
C'è qualcosa che non va? Controlla prima di cliccare.
Malwarebytes Scam Guard ti aiuta ad analizzare istantaneamente link, testi e screenshot sospetti.
Disponibile con Malwarebytes Premium Security per tutti i tuoi dispositivi e nell'app Malwarebytes per iOS e Android .
