49歳のレンガ職人は、ブラジルの自宅からバスで2000キロの旅に出る前に持ち物をすべて売り払い、オンラインインフルエンサーの「ジェシカ」に会いに行った。しかし、30万人以上のフォロワーを持つソーシャルメディアアカウントを持っていたにもかかわらず、彼女は実在の人物ではなかった。
エディマール・ロシャ・マルティンスはブラジル北東部の都市インペラトリスに住んでいる。彼は、南東部の都市ベロオリゾンテ近郊に住んでいるとされるジェシカ・ファゼンデイラとオンラインで会話を始めたと語っている。
愛を約束するAIペルソナ
オンライン上のペルソナである「Fazendeira」は、おおよそ「女性農家」という意味である。彼女は自身を農場で暮らしていると説明していた。
マーティンス氏は、2020年からオンラインでその人物とやり取りをしていたと述べた。彼女が旅費を負担し、一緒に農場で暮らすことを申し出たため、彼女を訪ねることにしたという。アカウントの運営者はこれを否定し、その人物は2025年に作成されたものであり、マーティンス氏との個人的なメッセージのやり取りは一切なかったと主張している。
彼女のオンラインアカウントの1つに投稿された動画（ブラジルのニュースサービスImiranteが撮影したもの）では、男性に一緒に暮らしてほしいと呼びかけ、渡航費用を負担すると申し出ていた。
AIが生成した農家はこう言います（翻訳）：
冗談じゃないよ、本気で探しているんだ。僕と一緒に何か本物で美しいものを築き上げてくれる人に出会いたい。もし君が、平和で静かな生活を好む、素朴な男性なら、きっと僕たちはすごく気が合うと思う。
バス旅行の費用を捻出するために持ち物を売ったマルティンスは、ベロオリゾンテに到着し、その女性について尋ね始めた。彼女を見つけることができなかった彼は、地元のラジオ局に足を運び、そこでスタッフから彼女はAIが生成したキャラクターだと説明を受けた。
帰国するための資金が不足していた彼は、市の移民支援サービスから食料、支援、そしてトカンティンス州のアウグスティノポリス行きのバスチケットを受け取った。その後、彼はインペラトリスに戻り、親戚の家に身を寄せた。
アカウントの運営者が反撃する
アカウントの管理者は、 AIキャラクターのTikTokアカウントを通じて、いかなる詐欺行為も否定するメッセージを投稿した。そのメッセージは次のように翻訳されている。
このプロフィールはほとんど放置状態ですが、あえてここに書き込んでおきます。私は人工知能でできており、このプロフィール上で誰とも話したことはありません。目的は販売促進のためのエンゲージメントを高めることでした。私は誰とも直接話したことはなく、ましてやベロオリゾンテに誰かを連れてきたことなど一度もありません。
運営者は記者団に対し、そのキャラクターは視聴者を引きつけ、アフィリエイト販売を通じて商品を宣伝するために作られたと述べた。また、他の人がそのキャラクターのコンテンツを他のアカウントで再利用したかどうかは分からないと語った。
別の動画では、人々がそのアカウントに送ったとされるメッセージが映し出されており、そのキャラクターは視聴者に自分がAIだと繰り返し伝えていると説明している。そして、次のように不満を述べている。
それでも結局は私のせいになるんですよね？この人たちは道に迷っているんです。
別の動画では、AIが生成した男性キャラクターによるインタビューを受けているその人物は、アカウントを停止してから再アクティブ化したと説明している。その人物はこう述べている。
私は、全く理由もなくキャンセルされた最初のAIだった。
これらは、AIが独自に弁護するのではなく、架空のキャラクターを通して公開された、あらかじめ用意された回答である。
警察は、現段階では犯罪が発生したかどうかを断定できないと述べた。
あるメディアは、マーティンスが母親の死後、孤独感に苦しんでいると報じた。
再開されたTikTokアカウントに公開された動画には、AI生成のラベルが付けられています。また、 Instagram 当該人物の動画が添付されたアカウントには、同様のラベルが貼られている。しかし、これらのラベルは、マーティンスが旅行前に何を見ていたのかを証明するものではない。
ソーシャルメディアは既に、視聴者が面識のない相手と個人的な繋がりを感じるという、擬似的な人間関係を助長している。AIが生成するペルソナは、さらに複雑な問題を引き起こす。視聴者が繋がりを感じる相手が、実は完全に架空の人物である可能性があるのだ。
当社の「フェイスバリュー」レポートによると、調査対象となった成人の88%が、オンラインコンテンツのうちどれが本当に人間によるものなのか、あるいは本物なのかを見分けるのが難しくなってきていると回答しています。
AIをめぐる陰謀はさらに複雑化する
6月には、ボア・ビスタの自宅からベロ・オリゾンテまで4000キロの旅をした72歳の男性の話が報じられた。彼はソーシャルネットワークで、仕事の機会、そしておそらくそれ以上のものを提供してくれるという農家の女性を見かけ、そこを訪れた。帰宅できなくなった彼は、ソーシャルワーカーに助けを求めた。
イタチアイアによると、8月、71歳のアルベルト・ダ・コスタは、同じ女性が登場する動画を見た後、マナウスから同じ都市へ旅行した。彼は航空券に約3000レアルを支払ったが、帰国費用が払えなくなったため、同メディアに助けを求めた。
その動画は個人的な会話を模倣しており、視聴者は女性が直接自分に話しかけているかのような印象を受ける。このアカウントには100万人近いフォロワーがいたと報じられている。
この報道では、この女性がAIによって生成された人物なのか、あるいはこのアカウントがジェシカのアカウントと関連していたのかは明らかにされていない。また、男性たちがアカウント運営者に送金したかどうかも明らかにされていない。しかし、その代償は現実のものとなり得る。持ち物を売ったり、旅費を支払ったり、故郷から遠く離れた場所で立ち往生したりするのだ。
自分自身と他人を守る
恋愛詐欺の場合と同様の注意が必要ですが、いくつか追加の注意点があります。見知らぬ人に会ったことがないのに、お金を送ったり、会いに行ったりする前に、必ず相手が誰なのかを独自に確認してください。
ビデオ通話だけに頼ってはいけません。詐欺師はdeepfakeビデオ通話を使って、被害者をリアルタイムで騙そうとしています。また、プライベートなメッセージをやり取りしているのか、誰でも見られる公開動画を見ているのかを必ず確認してください。
アカウント情報だけでなく、それ以外の情報も探してみましょう。名前やプロフィール写真を検索したり、勤務先として挙げている場所を調べたりしてください。話の内容に矛盾があったり、身元に関する質問を避けるような場合は、注意が必要です。
親しい間柄の人とは、その関係性を疑うのは難しいものです。送金したり旅行を予約したりする前に、友人や家族に相談して意見を聞いてみましょう。また、同じような状況にある人が心配な場合は、非難せずに声をかけ、一緒に口座を確認することを提案してみましょう。
画像提供：Jam Press
何かおかしいと感じたら？クリックする前に確認してください。
Malwarebytes Scam Guardは、不審なリンク、テキスト、スクリーンショットを即座に分析するのに役立ちます。
すべてのデバイス向けのMalwarebytes Premium Security 、およびiOSとAndroid向けのMalwarebytesアプリで利用可能です。
