Un muratore di 49 anni ha venduto tutti i suoi averi prima di percorrere 2.000 km in autobus dalla sua casa in Brasile per incontrare "Jéssica", un'influencer online di cui si era innamorato. Eppure, nonostante avesse un account sui social media con oltre 300.000 follower, lei non è mai esistita.
Edimar Rocha Martins vive a Imperatriz, una città nel nord-est del Brasile. Racconta di aver avviato una conversazione online con Jéssica Fazendeira, che a suo dire viveva vicino alla città sud-orientale di Belo Horizonte.
La persona IA che promette amore
Il nome del suo personaggio online, "Fazendeira", si traduce approssimativamente come "contadina". Si descriveva come una persona che viveva in una fattoria.
Martins ha affermato di aver chattato online con questo personaggio dal 2020. Ha deciso di andarla a trovare dopo che lei si era offerta di pagargli il viaggio e di ospitarlo nella sua fattoria. Il gestore dell'account contesta questa versione, affermando che il personaggio è stato creato nel 2025 e negando di aver scambiato messaggi privati con lui.
In un video pubblicato su uno dei suoi account online ( ripreso dall'agenzia di stampa brasiliana Imirante), la ragazza chiedeva a un uomo di andare a vivere con lei e si offriva di finanziare il viaggio.
Il contadino generato dall'IA dice, tradotto:
Non sto scherzando, le mie intenzioni sono serie. Voglio incontrare qualcuno che desideri costruire qualcosa di vero e bello con me. Se sei un uomo semplice che ama la pace, la tranquillità e una vita serena, allora forse potremmo andare molto d'accordo.
Dopo aver venduto i suoi averi per finanziare il viaggio in autobus, Martins arrivò a Belo Horizonte e iniziò a chiedere informazioni sulla donna. Non riuscendo a trovarla, si rivolse a una stazione radio locale, dove il personale gli spiegò che si trattava di un personaggio generato dall'intelligenza artificiale.
Non avendo abbastanza soldi per tornare, ha ricevuto cibo, sostegno economico e un biglietto dell'autobus per Augustinópolis, nel Tocantins, dal servizio di assistenza ai migranti della città. In seguito è tornato a Imperatriz, dove è stato ospitato da alcuni parenti.
L'operatore dell'account risponde
L'amministratore dell'account ha pubblicato un messaggio tramite l'account TikTok del personaggio IA negando qualsiasi tipo di truffa. Tradotto, diceva:
Questo profilo è praticamente abbandonato, ma sono venuto qui per precisare l'ovvio. Sono un'intelligenza artificiale e non ho mai parlato con nessuno su questo profilo. L'obiettivo era generare interazioni per le vendite. Non ho mai parlato direttamente con nessuno, né tantomeno ho portato qualcuno a Belo Horizonte.
Il gestore ha dichiarato ai giornalisti che il personaggio era stato creato per attirare spettatori e promuovere prodotti tramite vendite affiliate. Ha aggiunto di non sapere se altre persone avessero riutilizzato i contenuti del personaggio su altri account.
Un altro video mostra i messaggi che le persone avrebbero inviato all'account, con il personaggio che spiega che continua a dire agli spettatori di essere un'intelligenza artificiale. Si lamenta:
E quindi è comunque colpa mia, giusto? Queste persone sono perse.
In un altro video, in cui viene intervistato da un personaggio maschile generato dall'intelligenza artificiale, il personaggio spiega di aver disattivato e poi riattivato il proprio account. Ha detto:
Sono stato il primo sistema di intelligenza artificiale a essere "cancellato" senza alcun motivo.
Si tratta di risposte predefinite pubblicate tramite un personaggio di fantasia, anziché di un'intelligenza artificiale che si difende autonomamente.
La polizia ha dichiarato di non essere in grado di stabilire in quella fase se fosse stato commesso un reato.
Secondo quanto riportato da una testata giornalistica, Martins starebbe lottando contro la solitudine in seguito alla morte della madre.
I video pubblicati sull'account TikTok riattivato sono etichettati come generati dall'IA. Si collega anche a un Instagram account con video del personaggio, dove i video hanno etichette simili. Queste etichette attuali non stabiliscono cosa Martins abbia visto prima del suo viaggio.
I social media incoraggiano già di per sé le relazioni parasociali, in cui gli utenti sentono un legame personale con qualcuno che non li conosce. I profili generati dall'intelligenza artificiale aggiungono un'ulteriore complicazione: la persona con cui gli utenti si sentono in sintonia potrebbe essere completamente fittizia.
Nel nostro report Face value , l'88% degli adulti intervistati ha affermato che sta diventando sempre più difficile distinguere quali contenuti online siano autenticamente umani o reali.
La trama dell'intelligenza artificiale si infittisce.
A giugno sono state riportate notizie di un uomo di 72 anni che ha percorso 4.000 km dalla sua casa a Boa Vista fino a Belo Horizonte. È partito dopo aver visto su un social network una contadina che gli offriva un'opportunità di lavoro e forse qualcosa di più. Non potendo tornare a casa, ha chiesto aiuto agli assistenti sociali.
Ad agosto, il settantunenne Alberto da Costa si è recato da Manaus nella stessa città dopo aver visto dei video che ritraevano la stessa donna, secondo quanto riportato da Itatiaia. Ha pagato quasi 3.000 real per un volo, poi ha chiesto aiuto al sito quando non poteva permettersi di tornare a casa.
I video simulavano conversazioni personali, dando agli spettatori l'impressione che la donna si rivolgesse direttamente a loro. Secondo quanto riportato, l'account contava quasi un milione di follower.
Il reportage non chiarisce se questa donna fosse un personaggio generato dall'intelligenza artificiale o se l'account fosse collegato a quello di Jéssica. Non stabilisce nemmeno che gli uomini abbiano inviato denaro ai gestori dell'account. Tuttavia, i costi possono essere reali: vendere i propri beni, pagare viaggi e ritrovarsi bloccati lontano da casa.
Proteggi te stesso e gli altri
Gli stessi consigli validi per le truffe sentimentali valgono anche in questo caso, ma con qualche aggiunta. Non inviate denaro e non viaggiate per incontrare qualcuno che non avete mai visto prima di aver verificato personalmente la sua identità.
Non affidarti solo alle videochiamate. I truffatori ora usano videochiamate deepfake per ingannare le vittime in diretta. E verifica se stai scambiando messaggi privati o guardando video pubblici che chiunque può vedere.
Cerca informazioni che vadano oltre il profilo in sé. Cerca il loro nome e le foto del profilo, e informati su dove dichiarano di lavorare. Sii cauto se la loro storia non ti convince o se evitano domande sulla loro identità.
Quando si è legati da un forte senso di vicinanza, mettere in discussione quel legame può essere difficile. Prima di inviare denaro o prenotare un viaggio, parlane con un amico o un familiare e chiedi il loro parere. E se sei preoccupato per qualcuno che potrebbe trovarsi in una situazione simile, contattalo senza giudicarlo e offriti di esaminare insieme il conto.
Immagini per gentile concessione di Jam Press
C'è qualcosa che non va? Controlla prima di cliccare.
Malwarebytes Scam Guard ti aiuta ad analizzare istantaneamente link, testi e screenshot sospetti.
Disponibile con Malwarebytes Premium Security per tutti i tuoi dispositivi e nell'app Malwarebytes per iOS e Android .
