49-letni murarz sprzedał swój dobytek, zanim przejechał 2000 km autobusem z domu w Brazylii, aby spotkać się z „Jéssicą”, influencerką internetową, w której się zakochał. Mimo konta w mediach społecznościowych z ponad 300 000 obserwujących, nigdy nie istniała.
Edimar Rocha Martins mieszka w Imperatriz, mieście w północno-wschodniej Brazylii. Twierdzi, że nawiązał rozmowę online z Jéssicą Fazendeirą, która rzekomo mieszkała w pobliżu miasta Belo Horizonte na południowym wschodzie kraju.
Osobowość AI obiecująca miłość
Pseudonim postaci internetowej „Fazendeira” można w luźnym tłumaczeniu przetłumaczyć jako „rolniczka”. Sama opisała siebie jako mieszkającą na farmie.
Martins powiedział , że rozmawiał z tą postacią online od 2020 roku. Postanowił ją odwiedzić po tym, jak zaproponowała, że opłaci jego podróż i pozwoli mu zamieszkać z nią na farmie. Operator konta zaprzecza tym doniesieniom, twierdząc, że postać została stworzona w 2025 roku i zaprzeczając jakimkolwiek prywatnym wiadomościom z nim.
W nagraniu wideo opublikowanym na jednym z jej kont internetowych ( tutaj zarejestrowanym przez brazylijską agencję informacyjną Imirante) pojawia się prośba o przyjazd mężczyzny, który chciałby z nią zamieszkać, i propozycja sfinansowania podróży.
Rolnik stworzony przez sztuczną inteligencję mówi w tłumaczeniu:
Nie żartuję, moje intencje są poważne. Chcę poznać kogoś, kto chce ze mną zbudować coś prawdziwego i pięknego. Jeśli jesteś zwykłym człowiekiem, który lubi ciszę, spokój i spokojne życie, to może świetnie byśmy się dogadali.
Po sprzedaniu swojego majątku, aby sfinansować podróż autobusem, Martins dotarł do Belo Horizonte i zaczął wypytywać o kobietę. Nie mogąc jej znaleźć, skontaktował się z lokalną stacją radiową, gdzie pracownicy wyjaśnili mu, że jest ona postacią generowaną przez sztuczną inteligencję.
Nie mając wystarczających środków na powrót, otrzymał od miejskiego biura pomocy migrantom jedzenie, wsparcie i bilet autobusowy do Augustinópolis w Tocantins. Później wrócił do Imperatriz, gdzie zatrzymał się u krewnych.
Operator konta odpowiada
Administrator konta opublikował wiadomość na koncie TikTok postaci AI , zaprzeczając wszelkim oszustwom. W tłumaczeniu napisano:
Ten profil jest praktycznie porzucony, ale przyszedłem tu, żeby powiedzieć oczywistość. Jestem stworzony ze sztucznej inteligencji i nigdy nie rozmawiałem z nikim na tym profilu. Celem było pozyskanie zaangażowania w sprzedaż. Nigdy nie rozmawiałem z nikim bezpośrednio, a tym bardziej nie przyprowadziłem nikogo do Belo Horizonte.
Operator powiedział reporterom , że postać została stworzona w celu przyciągnięcia widzów i promowania produktów poprzez sprzedaż afiliacyjną. Dodał, że nie wie, czy inni użytkownicy wykorzystali treści postaci na innych kontach.
Na innym filmie widać wiadomości, które ludzie rzekomo wysłali na konto, a postać wyjaśnia, że ciągle powtarza widzom, że jest sztuczną inteligencją. Skarży się:
A potem to i tak moja wina, prawda? Ci ludzie są zgubieni.
W innym filmie, w którym udziela wywiadu męskiej postaci wygenerowanej przez sztuczną inteligencję, postać wyjaśnia, że dezaktywowała, a następnie ponownie aktywowała swoje konto. Napisał:
Byłem pierwszą sztuczną inteligencją, którą anulowano zupełnie bez powodu.
Są to scenariusze odpowiedzi publikowane przez fikcyjną postać, a nie przez sztuczną inteligencję broniącą się niezależnie.
Policja stwierdziła, że na tym etapie nie można ustalić, czy doszło do przestępstwa.
Jeden z mediów podał , że Martins zmagał się z samotnością po śmierci matki.
Filmy publikowane na reaktywowanym koncie TikTok są oznaczone jako wygenerowane przez sztuczną inteligencję. Zawierają również linki do Instagram konto z filmami przedstawiającymi postać, gdzie filmy mają podobne oznaczenia. Te obecne oznaczenia nie potwierdzają tego, co Martins widział przed podróżą.
Media społecznościowe już teraz promują relacje paraspołeczne, w których widzowie czują osobistą więź z kimś, kto ich nie zna. Persony generowane przez sztuczną inteligencję dodatkowo komplikują sprawę: osoba, z którą widzowie czują się związani, może być całkowicie fikcyjna.
W naszym raporcie „Wartość twarzy ” 88% ankietowanych dorosłych stwierdziło, że coraz trudniej jest odróżnić treści w Internecie od prawdziwych.
Fabuła AI się zagęszcza
W czerwcu pojawiły się doniesienia o 72-letnim mężczyźnie, który przebył 4000 km ze swojego domu w Boa Vista do… Belo Horizonte. Odwiedził to miejsce po tym, jak na portalu społecznościowym zobaczył kobietę z farmy, która oferowała mu pracę, a może i coś więcej. Nie mogąc wrócić do domu, zwrócił się o pomoc do pracowników socjalnych.
Według Itatiaia, w sierpniu 71-letni Alberto da Costa udał się z Manaus do tego samego miasta po obejrzeniu filmów z udziałem tej samej kobiety. Zapłacił prawie 3000 reali za lot, a następnie zwrócił się o pomoc do agencji, gdy nie było go stać na powrót do domu.
Filmy symulowały osobiste rozmowy, dając widzom wrażenie, że kobieta zwraca się bezpośrednio do nich. Konto podobno miało prawie milion obserwujących.
Raport nie ustala, czy kobieta została wygenerowana przez sztuczną inteligencję, ani czy konto było powiązane z kontem Jéssiki. Nie ustala również, że mężczyźni wysłali pieniądze do operatorów konta. Koszty mogą być jednak realne: sprzedaż rzeczy, opłacenie podróży i znalezienie się daleko od domu.
Chroń siebie i innych
Ta sama rada dotyczy oszustw matrymonialnych, ale z pewnymi dodatkowymi klauzulami. Nie wysyłaj pieniędzy ani nie podróżuj, aby spotkać się z kimś, kogo nigdy nie spotkałeś, bez uprzedniego sprawdzenia, kim ta osoba jest.
Nie polegaj wyłącznie na rozmowach wideo. Oszuści wykorzystują teraz deepfake do oszukiwania ofiar na żywo. Sprawdź też, czy wymieniasz prywatne wiadomości lub oglądasz publiczne filmy, które każdy może zobaczyć.
Szukaj informacji wykraczających poza samo konto. Wyszukaj imię i nazwisko oraz zdjęcia profilowe i sprawdź, gdzie według nich pracują. Zachowaj ostrożność, jeśli ich historia nie ma sensu lub jeśli unikają pytań o swoją tożsamość.
Kiedy czujesz bliskość z kimś, kwestionowanie tej więzi może być trudne. Zanim wyślesz pieniądze lub zarezerwujesz podróż, porozmawiaj z przyjacielem lub członkiem rodziny i poznaj jego punkt widzenia. A jeśli martwisz się o kogoś, kto może być w podobnej sytuacji, skontaktuj się z nim bez osądzania i zaproponuj wspólne przejrzenie konta.
Zdjęcia dzięki uprzejmości Jam Press
Coś wydaje się nie tak? Sprawdź to przed kliknięciem.
Malwarebytes Scam Guard pomaga błyskawicznie analizować podejrzane linki, teksty i zrzuty ekranu.
Dostępne w pakiecie Malwarebytes Premium Security dla wszystkich urządzeń oraz w aplikacji Malwarebytes dla iOS i Android .
