Een 49-jarige metselaar verkocht al zijn bezittingen voordat hij 2000 kilometer per bus aflegde vanuit zijn woonplaats in Brazilië om "Jéssica" te ontmoeten, een online influencer op wie hij verliefd was geworden. Maar ondanks dat ze een social media-account had met meer dan 300.000 volgers, bestond ze niet.
Edimar Rocha Martins woont in Imperatriz, een stad in het noordoosten van Brazilië. Hij zegt dat hij online in gesprek raakte met Jéssica Fazendeira, die vermoedelijk in de buurt van de zuidoostelijke stad Belo Horizonte woonde.
De AI-persoonlijkheid die liefde belooft
De online persoonlijkheid, "Fazendeira", betekent vrij vertaald "vrouwelijke boerin". Ze beschreef zichzelf als iemand die op een boerderij woont.
Martins zei dat hij sinds 2020 online met het personage had gecommuniceerd. Hij besloot haar te bezoeken nadat ze had aangeboden zijn reis te betalen en hem op haar boerderij te laten wonen, aldus Martins. De beheerder van het account betwist dit en zegt dat het personage in 2025 is gecreëerd en ontkent privéberichten met hem te hebben uitgewisseld.
In een video die ze op een van haar online accounts plaatste (en die hier is vastgelegd door het Braziliaanse persbureau Imirante), vroeg ze een man om bij haar te komen wonen en bood ze aan de reis te bekostigen.
De door AI gegenereerde boer zegt, vertaald:
Ik maak geen grapje, ik meen het serieus. Ik wil iemand ontmoeten die samen met mij iets echts en moois wil opbouwen. Als je een eenvoudige man bent die van rust en stilte en een kalm leven houdt, dan zouden we misschien wel heel goed met elkaar overweg kunnen.
Nadat hij zijn bezittingen had verkocht om de busreis te bekostigen, arriveerde Martins in Belo Horizonte en begon hij naar de vrouw te informeren. Omdat hij haar niet kon vinden, benaderde hij een lokaal radiostation, waar medewerkers uitlegden dat ze een door AI gegenereerd personage was.
Omdat hij niet genoeg geld had om terug te keren, ontving hij voedsel, steun en een buskaartje naar Augustinópolis in Tocantins van de plaatselijke migrantenhulpdienst. Later keerde hij terug naar Imperatriz, waar hij bij familieleden verbleef.
De beheerder van het account slaat terug.
De beheerder van het account plaatste via het TikTok-account van het AI- personage een bericht waarin elke vorm van oplichting werd ontkend. Vertaald luidde het bericht als volgt:
Dit profiel is zo goed als verlaten, maar ik ben hier om het voor de hand liggende te benadrukken. Ik ben gemaakt door kunstmatige intelligentie en ik heb nog nooit met iemand via dit profiel gesproken. Het doel was om interactie te genereren voor de verkoop. Ik heb nooit rechtstreeks met iemand gesproken, laat staan dat ik iemand naar Belo Horizonte heb gebracht.
De beheerder vertelde verslaggevers dat het personage was gecreëerd om kijkers te trekken en producten te promoten via affiliate marketing. Ze gaven aan niet te weten of anderen de content van het personage op andere accounts hadden hergebruikt.
In een andere video zijn berichten te zien die mensen naar verluidt naar het account hebben gestuurd. Het personage legt uit dat het account de kijkers steeds vertelt dat het een AI is. Het klaagt:
En dan is het nog steeds mijn schuld, toch? Deze mensen zijn de weg kwijt.
In een andere video, waarin het wordt geïnterviewd door een door AI gegenereerd mannelijk personage, legt de persona uit dat het zijn account heeft gedeactiveerd en vervolgens weer geactiveerd. Het zei:
Ik was de eerste AI die zonder enige reden werd gecanceld.
Dit zijn voorgeprogrammeerde reacties die worden gepubliceerd door een fictief personage, in plaats van door een AI die zichzelf zelfstandig verdedigt.
De politie gaf aan dat ze in dat stadium nog niet konden vaststellen of er een misdrijf had plaatsgevonden.
Een mediabron meldde dat Martins worstelt met eenzaamheid sinds de dood van zijn moeder.
Video's die op het heractiveerde TikTok-account zijn gepubliceerd, zijn gelabeld als door AI gegenereerd. Er is ook een link naar een Instagram Het account bevat video's van het personage, waarbij de video's vergelijkbare labels hebben. Deze labels geven echter geen uitsluitsel over wat Martins vóór zijn reis heeft gezien.
Sociale media stimuleren al parasociale relaties, waarbij kijkers een persoonlijke band voelen met iemand die ze niet kennen. Door AI gegenereerde persona's voegen daar nog een complicatie aan toe: de persoon met wie kijkers zich verbonden voelen, kan volledig fictief zijn.
In ons rapport 'Face value' gaf 88% van de ondervraagde volwassenen aan dat het steeds moeilijker wordt om te bepalen welke online content echt door een mens is gemaakt of authentiek is.
Het AI-complot wordt steeds ingewikkelder.
In juni kwamen er berichten binnen over een 72-jarige man die 4000 km had afgelegd van zijn huis in Boa Vista naar Belo Horizonte. Hij was daarheen gereisd nadat hij via een sociaal netwerk een boerin had ontmoet die hem een baan aanbood, en misschien wel meer. Omdat hij niet naar huis kon terugkeren, zocht hij hulp bij maatschappelijk werkers.
Volgens Itatiaia reisde de 71-jarige Alberto da Costa in augustus van Manaus naar dezelfde stad nadat hij video's had gezien met dezelfde vrouw. Hij betaalde bijna 3000 reais voor een vlucht en zocht vervolgens hulp bij de betreffende media-organisatie toen hij de terugreis naar huis niet meer kon betalen.
De video's simuleerden persoonlijke gesprekken, waardoor kijkers de indruk kregen dat de vrouw rechtstreeks tegen hen sprak. Het account had naar verluidt bijna een miljoen volgers.
Het rapport geeft geen uitsluitsel over de vraag of deze vrouw door AI is gegenereerd of dat het account aan dat van Jéssica was gekoppeld. Evenmin wordt vastgesteld of de mannen geld hebben overgemaakt naar de beheerders van de accounts. Maar de kosten kunnen wel degelijk reëel zijn: het verkopen van bezittingen, het betalen van reiskosten en het gestrand raken ver van huis.
Bescherm jezelf en anderen.
Hetzelfde advies geldt hier als bij romantische oplichting, maar met een paar extra aandachtspunten. Stuur geen geld en reis niet af naar iemand die je nog nooit hebt ontmoet zonder eerst zelf te controleren wie die persoon is.
Vertrouw niet alleen op videogesprekken. Oplichters gebruiken tegenwoordig deepfake videogesprekken om slachtoffers live te misleiden. Controleer ook of je privéberichten uitwisselt of openbare video's bekijkt die voor iedereen zichtbaar zijn.
Zoek naar meer informatie dan alleen het account zelf. Zoek hun naam en profielfoto's op en onderzoek waar ze zeggen te werken. Wees voorzichtig als hun verhaal niet klopt of als ze vragen over hun identiteit ontwijken.
Als je je verbonden voelt met iemand, kan het lastig zijn om die band in twijfel te trekken. Voordat je geld overmaakt of een reis boekt, praat dan met een vriend of familielid en vraag naar hun perspectief. En als je je zorgen maakt over iemand die in een vergelijkbare situatie zit, neem dan zonder oordeel contact op en bied aan om samen de rekening te bekijken.
Afbeeldingen met dank aan Jam Press
Voelt er iets niet helemaal goed? Controleer het even voordat je klikt.
Malwarebytes Scam Guard helpt je verdachte links, teksten en schermafbeeldingen direct te analyseren.
Beschikbaar met Malwarebytes Premium Security voor al uw apparaten, en in de Malwarebytes -app voor iOS en Android .
