2025年、AIが詐欺をより説得力あるものにした方法 |Malwarebytes

このブログは、消費者セキュリティにおける新たな脅威や急速に進化する脅威に焦点を当てるシリーズの一部です。今回は、AIがより現実的なキャンペーンの設計やソーシャルエンジニアリングの加速にどのように利用されているか、またAIエージェントが個人を標的にするためにどのように活用されるかに焦点を当てます。

ほとんどのサイバー犯罪者は効果的な手法に固執する。しかし新たな手法が有効だと証明されると、それは急速に拡散し、新たなトレンドやキャンペーン形態が次々と現れる。

2025年、人工知能（AI）の急速な発展とサイバー犯罪への利用は並行して進んだ。概して、AIは犯罪者が現実的なテキスト、音声、動画を通じてソーシャルエンジニアリングの規模、速度、個別化を向上させることを可能にした。被害者は金銭的損失だけでなく、デジタル通信や機関への信頼の喪失にも直面している。

音声クローン

AIが特に進歩した分野の一つが音声複製技術であり、これはすぐに詐欺師たちに悪用された。過去には主に友人や親族のなりすましに留まっていたが、2025年には米国高官のなりすましにまで及んだ。標的は主に現職または元職の米国連邦政府・州政府高官とその関係者であった。

これらの詐欺キャンペーンにおいて、サイバー犯罪者はテストメッセージに加え、AI生成の音声メッセージも使用した。同時に、彼らは「家族が窮地に陥った」という手口も放棄しなかった。フロリダ州の女性は、娘の声がAIで複製され詐欺に利用された後、詐欺師に数千ドルを渡すよう騙された。

AIエージェント

自律型AIとは、自律的にタスクを遂行するよう設計された個別化されたAIエージェントを指す用語である。そのタスクの一例として、個人に関する公開情報または盗まれた情報を検索し、その情報を利用して非常に説得力のあるフィッシングの餌を作成することが挙げられる。

これらのエージェントは、盗まれたデータを公開されているメールアドレスやソーシャルメディアアカウントと照合し、メッセージを作成して、攻撃者が自身の社会保障番号、住所、クレジットカード情報などに直接アクセスできると信じる相手との会話を継続させることで、被害者から金銭を脅し取るのにも利用される可能性がある。

もう一つ頻繁に見られる用途は、AIを活用した脆弱性発見です。これらのツールは攻撃者と防御者の双方によって使用されています。例えばGoogleは「Big Sleep」というプロジェクトを活用しており、 Chrome 複数の脆弱性を発見しています。

AIエージェントのセクションで述べたように、ソーシャルメディアに投稿されたデータと侵害時に盗まれたデータを組み合わせることは一般的な戦術である。こうした自由に提供されるデータは、ロマンス詐欺、セクストーション、休暇詐欺にとっても豊富な収穫の場となっている。

ソーシャルメディアプラットフォームは、偽造品、AI生成の偽情報、危険物、ドロップシッピング商品の販売にも広く利用されている。

プロンプト注入

そしてChatGPT、Perplexity、Claudeなど多数の公開AIプラットフォームには脆弱性が存在する。研究者も犯罪者も、悪用を制限するための安全対策を回避する方法を模索し続けている。

プロンプトインジェクションとは、誰かが巧妙に作成した入力を、通常の会話やデータの形で挿入し、AIを意図しない行動へと誘導または強制することを指す総称である。

マルウェアキャンペーン

攻撃者がAIプラットフォームを利用してマルウェアを作成・拡散する事例が確認されている。研究者らは、攻撃者がClaude AIを活用して攻撃ライフサイクル全体を自動化したキャンペーンを実証している。この自動化は、システムの初期侵害から身代金要求文書の生成までを網羅し、政府機関、医療、緊急サービスなどの分野を標的としている。

2024年初頭以降、OpenAIは自社のAIプラットフォームを犯罪活動や欺瞞的なキャンペーンに悪用しようとした世界中の20件以上のキャンペーンを阻止したと発表している。

先を見据えて

AIは防御側と攻撃側の双方の能力を増幅させている。セキュリティチームはAIを活用して検知の自動化、パターンの迅速な発見、保護範囲の拡大を実現できる。一方、サイバー犯罪者はAIを用いてソーシャルエンジニアリングの手法を洗練させ、脆弱性をより迅速に発見し、最小限の労力でエンドツーエンドの攻撃キャンペーンを構築している。

2026年を見据えると、最大の変化は技術的ではなく心理的なものとなるかもしれない。AI生成コンテンツが本物と見分けがつかなくなるにつれ、声やメッセージ、身元の検証がこれまで以上に重要になるだろう。

脅威を報告するだけでなく、取り除く

サイバーセキュリティのリスクは、ヘッドラインを超えて広がるべきではありません。今すぐMalwarebytes ダウンロードして、デバイスに脅威を持ち込まないようにしましょう。