道路脇で怪我をした犬の写真。あまりにも完璧すぎるような写真が掲載された出会い系サイトのプロフィール。洪水の後、屋上に取り残された家族を写した寄付の呼びかけ。
詐欺師たちはすでに、AIで生成された画像を利用して、虚偽の話を裏付けたり、信頼を築いたり、人々に金銭を送金させたり個人情報を提供させたりしようとしています。
その画像が本物に見えるかどうかを問うよりも、それが本物であるという証拠があるかどうかを問うほうがよい。
実際に知っておくべきこと
もはや、目視だけでAI生成の画像を確実に判別することはできません。「指の本数を数える」や「文字化けしたテキストを探す」といったアドバイスは、もはや時代遅れになりつつあります。なぜなら、今日のAI画像生成ツールは、こうした細部まで正確に再現できるのが一般的だからです。
もっと注意深く探そうとするのではなく、その画像を確かめ、その画像にまつわる話には懐疑的な態度で臨むべきです。
- 写真そのものだけでなく、その状況自体を疑ってください。こうした詐欺は、緊急性や感情に訴えかけ、あなたが考える暇もないうちに、行動へと駆り立てようとするものです。
- その画像が以前に掲載されたことがあるかどうかを確認してください。画像検索は数秒で完了し、多くの場合、その画像の本当の出所を突き止めることができます。
- 重要な場面では、公式の検証ツールを利用しましょう。Googleの「Gemini」アプリを使えば、AIの透かしや出所データをチェックできます。完璧とは言えませんが、有用な手がかりとなります。
画像を使って金銭や個人情報の提供を求められている場合は、その真偽を確認するまでは、それを証拠として扱わないでください。
よくあるAI画像詐欺
いずれの場合も、その画像は、金銭の要求をより信憑性のあるものにするために使われている。
偽の迷子ペット
詐欺師たちは、地元のコミュニティグループにAIで生成した苦しんでいる動物の写真を投稿し、その後「里親になるための手数料」やその他の支払いを要求してきます。画像は盗用されたものではなく生成されたものであるため、画像検索を行っても元の出典が特定できない場合があります。
「あなたのペットを見つけました」
詐欺師たちは、行方不明のペットを探している人々を標的にし、AIで生成した写真を送りつけ、報酬や保証金を要求した後、姿を消してしまう。
出会い系サイトのプロフィール
実在の人物ではないため、どの角度から見ても完璧で一貫性のある写真。ビデオ通話も参考にはなりますが、決定的な証拠にはなりません。現代のリアルタイムdeepfakes 、カメラの前で指を立てるといった単純なテストさえも通過deepfakes 代わりに、頭を回すや、手近な物を手に取るなど、台本のない行動を求め、そもそも通話に応じようとしない相手には警戒しましょう。
偽のアーティスト
X、Instagram、またはFiverr上で、AI生成のポートフォリオをオリジナル作品として提示し、有料の依頼を獲得しようとする手口です。手付金を受け取った後、詐欺師が姿を消すこともあります。また、買い手が支払った対価に見合うオリジナル作品ではなく、AI生成の「完成品」を納品してくる場合もあります。本物のアーティストであれば、通常、スケッチやレイヤー分けされたファイル、制作途中の画像などを提示できますが、AI生成のポートフォリオを使用している人物にはそれができません。
偽の募金呼びかけ
実際の災害に加え、病気の子供や怪我をした動物、危機に瀕した家族などを描いた捏造された画像が、寄付を促したり、単に注目を集めたりするために広く拡散されています。中には、実在しない人物が描かれているものもあります。画像が感情に訴えるものになればなるほど、人々は立ち止まってその真偽を確認しようとしなくなる傾向があります。
なぜ視覚的な手がかりだけでは不十分なのか
かつて、偽物を見抜くということは、背景の繰り返しや、不自然な位置にある影、貼り付けられたオブジェクトの周囲に現れるアーティファクトといった、加工の痕跡を見つけることを意味していました。これは、加工された画像は通常、実際の写真を基に作られているため、手がかりが残されていたからです。
AI生成画像は事情が異なります。元の画像を基にせず、一から作成されるため、そうした編集ミスはほとんど見られません。
視覚的な手がかりは、やはり一瞥する価値があります。アクセサリーの不自然さ、不自然な照明、歪んだ反射、あるいは動画内の不自然な動きなどに注目してください。しかし、不審な点が見つからないからといって、その画像が本物だと決めつけてはいけません。
画像がAIによって生成されたものかどうかを確認する方法
画像逆検索
Google Lens、TinEye、Bing Visual Searchを使えば、その画像がオンライン上で最初に公開された場所を特定できることがよくあります。
一致する結果が全くないからといって、その画像が必ずしも偽物であるとは限りません。個人の写真や新しく公開された画像は、他の場所には掲載されていないことがよくあります。しかし、ある画像が数日間も出回っている、あるいは広く報道された出来事に関連していると誰かが主張している場合、その画像の履歴が全くないことは疑う余地があります。
来歴追跡ツール
一部の画像には、その出所や、AIを使って作成されたかどうかに関する情報が含まれている場合があります。
出所情報には、主に以下の2つの種類があります：
- コンテンツ・クレデンシャル（C2PA）：画像がどのように作成または編集されたかに関する情報を記録します。Adobe、Google、Microsoft、Sonyなどの企業がこれをサポートしています。
- SynthID：GoogleがサポートするAI生成画像に埋め込まれた目に見えない透かし。2026年に発表された提携により、ChatGPTやDALL·Eで作成された画像にも適用されるようになった。
GeminiアプリやOpenAI Verifyなどの検証ツールは、画像がAIによって生成されたものかどうかを判断するために、この情報を確認します。
AIで生成した画像を作成し、OpenAI Verifyを使って検証しました。
OpenAI Verifyは、これをAI生成のものとして正しく識別しました。
なお、透かしが見つからなかったからといって、その画像が本物であるとは限りません。単に透かしが検出されなかっただけであることをご留意ください。
こうしたチェックの限界
- メッセージングアプリは証拠を消去してしまう。WhatsApp、iMessage、Facebook 、画像がアップロードされる際にFacebook 、埋め込まれた認証情報を削除することが多い。これが、ピクセルベースのSynthID透かしが有用である理由の一つだ。メタデータが削除されるような変更を受けても、この透かしは残ることができるからだ。
- 「見つかりませんでした」という結果は、最も誤解されやすいものです。実際の写真のほとんどには、出所に関する情報が一切含まれていません。「透かしや認証情報が見つかりませんでした」という結果が出ても、その画像が本物であることを意味するわけではありません。単に、何らかの痕跡が検出されなかったというだけのことです。
- 有効な認証情報は、パイプラインを証明するものであり、真実を証明するものではありません。それは、どのデバイスやアプリがいつそのファイルを生成したかを確認するものではありますが、そこに表示されている内容が実際に起きたことであるとは証明しません。例えば、deepfake 再生されている画面を撮影したとします。カメラが実際にその写真を撮影した以上、その認証情報は完全に有効です。ただ、画面に表示されている内容が偽物であるかどうかは、その認証情報からは判断できません。
- 一部の「SynthID検出ツール」を謳うサイトは誤解を招く恐れがあります。実際のSynthID透かしを読み取るには、Googleとその認定パートナーのみがアクセスできる技術が必要です。つまり、Google独自のアプリやOpenAI Verifyといった公式ツールのみが、これを直接検証できるのです。「SynthID」という名称を使用しているサードパーティのウェブサイトは、通常、画像がAIによって生成されたものかどうかを推測しているだけで、実際の透かしを読み取っているわけではありません。
もしAI画像詐欺の被害に遭ったと思われる場合は
- プロフィールや画像、メッセージが消えてしまう前に、スクリーンショットを保存しておきましょう。
- その画像を逆画像検索にかけ、可能であれば公式のAI検証ツールでも確認してください。
- 金融情報を共有してしまった場合は、直ちに銀行に連絡し、他のサービスで再利用していたパスワードをすべて変更してください。
- 送金をやめてください。すでに失ったお金を取り戻そうとして、「あと1回だけ」と支払いを繰り返さないでください。
- そのアカウントをプラットフォームおよび各国の詐欺通報窓口（米国のFTCや英国のReport Fraudなど）に通報してください。
- 必要に応じて、同じコミュニティの他のメンバーに警告してください。こうした詐欺の多くは、信頼できるグループや個人的な紹介を通じて広まっています。
結論として
かつては、画像があれば何かが起こったという合理的な証拠となりました。しかし、もはやそうではありません。今では、説得力のあるオリジナルの画像を、その出所をたどる手がかりが何もない状態で、ほんの数秒で作成することができるようになりました。
朗報なのは、検証ツールがますます使いやすくなっていることです。完璧とは言えませんが、懐疑的な姿勢を持ち、画像検索や公式の検証ツールを活用する習慣を身につけることは、視覚的な間違いを見つけ出そうとするよりもはるかに信頼性が高いのです。
情報源を確認し、焦りに流されず、写真に思考を委ねてはいけません。
どのツールを使えばいい？ クイックリファレンス
| ツール | 小切手 |
|---|---|
| Gemini（ Geminiアプリ、Google検索、Chrome で画像をアップロードしChrome その画像がAIで作成されたものかどうかを尋ねてみてください） | SynthIDの透かしとコンテンツ・クレデンシャル |
| Google SynthID 検出ツール | 画像、動画、音声に含まれるSynthIDの透かし |
| OpenAI Verify | ChatGPT、DALL·E、およびAPIによって生成されたコンテンツにおけるSynthIDとコンテンツ・クレデンシャル |
| Google Lens/TinEye/Bing ビジュアル検索を使った逆画像検索 | その画像をウェブ上の画像と照合し、他にどこに表示されているかを確認します |
結果の解釈方法
- 透かしが検出されました：このファイルは、対応しているAIシステムを使用して生成されました。
- 透かしが見つかりませんでした：信号は検出されませんでした。これは、ほとんどの正規の写真では正常な結果ですが、AIによるものかどうかを断定するものではありません。
- コンテンツ認証情報が検出されました：このファイルには、その作成や編集に関する来歴情報が含まれています。これはファイルの出所を特定するのに役立ちますが、シーンそのものが本物であることを証明するものではありません。
