Ein 49-jähriger Maurer verkaufte seinen gesamten Besitz, bevor er 2.000 Kilometer mit dem Bus von seinem Zuhause in Brasilien zurücklegte, um „Jéssica“ zu treffen, eine Online-Influencerin, in die er sich verliebt hatte. Doch obwohl sie einen Social-Media-Account mit über 300.000 Followern hatte, existierte sie gar nicht.
Edimar Rocha Martins lebt in Imperatriz, einer Stadt im Nordosten Brasiliens. Er sagt, er habe online Kontakt zu Jéssica Fazendeira aufgenommen, die angeblich in der Nähe der südöstlichen Stadt Belo Horizonte wohnte.
Die KI-Persönlichkeit, die Liebe verspricht
Der Name ihrer Online-Persona, „Fazendeira“, lässt sich frei mit „Bäuerin“ übersetzen. Sie beschrieb sich selbst als auf einem Bauernhof lebend.
Martins gab an , seit 2020 online mit der Persona in Kontakt zu stehen. Er habe sich zu einem Besuch entschlossen, nachdem sie ihm angeboten habe, die Reisekosten zu übernehmen und ihn auf ihrem Bauernhof wohnen zu lassen. Der Betreiber des Accounts bestreitet dies und erklärt, die Figur sei erst 2025 erstellt worden. Er dementiert jeglichen privaten Nachrichtenaustausch mit Martins.
In einem Video, das auf einem ihrer Online-Konten veröffentlicht wurde ( hier vom brasilianischen Nachrichtendienst Imirante festgehalten), bat sie einen Mann, zu ihr zu kommen und mit ihr zusammenzuleben, und bot an, die Reisekosten zu übernehmen.
Der KI-generierte Bauer sagt (übersetzt):
Ich meine es ernst, das ist kein Scherz. Ich möchte jemanden kennenlernen, der mit mir etwas Echtes und Schönes aufbauen will. Wenn du ein bodenständiger Mensch bist, der Ruhe und ein beschauliches Leben schätzt, dann könnten wir uns vielleicht sehr gut verstehen.
Nachdem Martins seinen Besitz verkauft hatte, um die Busreise zu finanzieren, kam er in Belo Horizonte an und fragte nach der Frau. Da er sie nicht finden konnte, wandte er sich an einen lokalen Radiosender, wo ihm die Mitarbeiter erklärten, dass es sich um eine KI-generierte Figur handelte.
Da er nicht genügend Geld für die Rückreise hatte, erhielt er vom städtischen Migrantenhilfsdienst Lebensmittel, Unterstützung und ein Busticket nach Augustinópolis in Tocantins. Später kehrte er nach Imperatriz zurück, wo er bei Verwandten unterkam.
Der Betreiber des Kontos wehrt sich.
Der Administrator des Accounts veröffentlichte über den TikTok-Account der KI- Figur eine Nachricht , in der er jegliche Betrugsvorwürfe zurückwies. Übersetzt lautete sie:
Dieses Profil ist so gut wie inaktiv, aber ich möchte hier nur das Offensichtliche klarstellen: Ich bin eine künstliche Intelligenz und habe über dieses Profil nie mit jemandem gesprochen. Es ging mir lediglich darum, Interaktionen für den Vertrieb zu generieren. Ich habe nie persönlich mit jemandem gesprochen, geschweige denn jemanden nach Belo Horizonte eingeladen.
Der Betreiber erklärte gegenüber Reportern , die Figur sei erstellt worden, um Zuschauer anzulocken und Produkte über Affiliate-Verkäufe zu bewerben. Er gab an, nicht zu wissen, ob andere Personen die Inhalte der Figur auf anderen Konten wiederverwendet hätten.
Ein weiteres Video zeigt Nachrichten, die angeblich an den Account gesendet wurden. Die Person erklärt darin, dass sie den Zuschauern immer wieder mitteilt, eine KI zu sein. Sie beschwert sich:
Und dann ist es immer noch meine Schuld, richtig? Diese Menschen sind verloren.
In einem anderen Video, in dem es von einer KI-generierten männlichen Figur interviewt wird, erklärt die Person, dass sie ihr Konto deaktiviert und dann wieder aktiviert hat. Sie sagte:
Ich war die erste KI, die völlig grundlos abgesetzt wurde.
Hierbei handelt es sich um vorgefertigte Antworten, die von einer fiktiven Figur veröffentlicht werden, und nicht um eine KI, die sich selbstständig verteidigt.
Die Polizei erklärte, sie könne zum jetzigen Zeitpunkt nicht feststellen, ob ein Verbrechen vorliege.
Einem Medium zufolge leidet Martins seit dem Tod seiner Mutter unter Einsamkeit.
Die auf dem reaktivierten TikTok-Konto veröffentlichten Videos sind als KI-generiert gekennzeichnet. Es verlinkt außerdem zu einem Instagram Es gibt ein Konto mit Videos der Figur, die ähnliche Beschriftungen tragen. Diese Beschriftungen geben jedoch nicht Aufschluss darüber, was Martins vor seiner Reise gesehen hat.
Soziale Medien begünstigen bereits parasoziale Beziehungen, in denen Nutzer eine persönliche Verbindung zu jemandem spüren, der sie nicht kennt. KI-generierte Personas bringen eine weitere Komplikation mit sich: Die Person, zu der sich die Nutzer verbunden fühlen, kann völlig fiktiv sein.
In unserem Bericht „Face Value“ gaben 88 % der befragten Erwachsenen an, dass es immer schwieriger werde, zu erkennen, welche Online-Inhalte tatsächlich menschlich oder real sind.
Die KI-Geschichte wird immer verworrener.
Im Juni wurde über einen 72-jährigen Mann berichtet , der 4.000 km von seinem Wohnort Boa Vista nach Belo Horizonte gereist war. Er war dorthin gereist, nachdem er in einem sozialen Netzwerk eine Bäuerin kennengelernt hatte, die ihm eine Arbeitsstelle und möglicherweise mehr anbot. Da er nicht nach Hause zurückkehren konnte, suchte er Hilfe bei Sozialarbeitern.
Im August reiste der 71-jährige Alberto da Costa laut Itatiaia von Manaus in dieselbe Stadt, nachdem er Videos mit derselben Frau gesehen hatte. Er zahlte fast 3.000 Reais für einen Flug und wandte sich anschließend an das Nachrichtenportal, da er sich die Rückreise nicht leisten konnte.
Die Videos simulierten persönliche Gespräche und vermittelten den Zuschauern den Eindruck, die Frau spreche direkt mit ihnen. Der Account hatte Berichten zufolge fast eine Million Follower.
Der Bericht klärt nicht, ob diese Frau KI-generiert war oder ob das Konto mit Jéssicas Konto in Verbindung stand. Auch wird nicht belegt, dass die Männer Geld an die Kontobetreiber überwiesen haben. Die Kosten können aber dennoch real sein: der Verkauf von Besitztümern, Reisekosten und die Situation, fernab der Heimat gestrandet zu sein.
Schützen Sie sich und andere
Die gleichen Ratschläge wie bei Liebesbetrug gelten auch hier, allerdings mit einigen zusätzlichen Hinweisen. Überweisen Sie kein Geld und reisen Sie nicht zu jemandem, den Sie noch nie getroffen haben, ohne sich vorher selbstständig über dessen Identität zu informieren.
Verlassen Sie sich nicht allein auf Videoanrufe. Betrüger nutzen mittlerweile deepfake Videoanrufe , um ihre Opfer live zu täuschen. Achten Sie außerdem darauf, ob Sie private Nachrichten austauschen oder öffentliche Videos ansehen, die jeder sehen kann.
Suchen Sie nach Informationen, die über das Profil selbst hinausgehen. Recherchieren Sie den Namen und die Profilbilder und prüfen Sie, wo die Person laut Angabe arbeitet. Seien Sie vorsichtig, wenn die Geschichte nicht schlüssig ist oder Fragen zur Identität ausweicht.
Wenn man sich jemandem nahe fühlt, kann es schwerfallen, diese Verbindung zu hinterfragen. Bevor Sie Geld überweisen oder eine Reise buchen, sprechen Sie mit einem Freund oder Familienmitglied und holen Sie sich deren Einschätzung ein. Und wenn Sie sich Sorgen um jemanden machen, der sich in einer ähnlichen Situation befinden könnte, fragen Sie unvoreingenommen nach und bieten Sie an, das Konto gemeinsam zu überprüfen.
Bilder mit freundlicher Genehmigung von Jam Press
Stimmt da etwas nicht? Überprüfen Sie es, bevor Sie klicken.
Malwarebytes Scam Guard hilft Ihnen, verdächtige Links, Texte und Screenshots sofort zu analysieren.
Verfügbar mit Malwarebytes Premium Security für alle Ihre Geräte sowie in der Malwarebytes -App für iOS und Android .
