MetaのAIサポートボットが、hackers Instagram 平然と渡していたhackers Malwarebytes

カスタマーサービス用チャットボットの役割はただ一つ、人間を煩わせることなく、ユーザーの要望に応えることだ。しかし、Metaの新しいAIサポートアシスタントは、その役割を少しばかり真に受けすぎたようだ。ここ数ヶ月、攻撃者たちがサポートチャットを開き、自分たちが所有していないInstagram 締め出されたとボットに告げ、アカウントのアクセス権を奪い去っている。

先週末、オバマ政権時代のホワイトハウス（現在は非アクティブ）、化粧品小売大手のセフォラ、および米宇宙軍の高官が所有するInstagram 乗っ取られ、一時的に親イラン的な画像が投稿されたことを受け、Metaは緊急パッチを適用した。セキュリティ研究者でMetaの元社員であるジェーン・マンチュン・ウォン氏も被害に遭った。

その手口はこうだった

攻撃の手口は単純だった。攻撃者はアカウント所有者の居住地を突き止めた（ネット上にはアカウント所有者の居住都市をまとめたリストが存在するほか、単に標的について調査することも可能だ）。その後、VPN を使用して標的のアカウントと同じ地域VPN 、Instagramシステムに不審な動きとして検知されるのを回避した。

その後、彼らは通常のパスワード再設定手続きを開始し、サポートチャットを開いた。彼らはサポートを担当するAIボットにアカウントのメールアドレス変更を依頼したところ、ボットは指示通りに実行し、ワンタイムコードを攻撃者の受信箱に直接送信してしまった。

このため、このチャットボットは、アカウントの変更を行う権限を持ってMetaのアカウント管理システムに組み込まれているようだが、相手が本物のアカウント所有者であることを確認する方法を教えられていないようだ。セキュリティの専門家たちは、このような状況を「コンフューズド・デピュティ（Confused Deputy）」と呼んでいる。この用語は1980年代から使われている。

混乱したボットを擁護するならば、セキュリティ強化機能が作動したとしても、攻撃者たちは目的を達成していた。彼らは、ご想像の通り、Instagram収集した画像を使って、deepfakes を作成していたようだ。

メタは自らが仕掛けたAIの罠に嵌った

Metaは人員削減を進めると同時にAI分野への投資を拡大しており、今年初めにはアカウントの復旧やその他のサポート対応を支援するため、AIを活用したサポートアシスタントを導入した。

その一方で、このAIには、ユーザーの身元を事前に確認するための十分な安全策を講じることなく、メールアドレスの変更やパスワードのリセットといった操作を実行する権限が与えられているようだ。

Metaのコミュニケーション担当幹部であるアンディX この問題は解決され、影響を受けたアカウントのセキュリティ対策が進められているX 述べた。同社は、影響を受けたアカウントの件数については明らかにしていない。

実際に効果があったのは

そもそも、なぜ誰Instagram ハッキングしようとするのでしょうか？復讐が動機となることもありますが、多くの場合、金銭的な利益が目的です。ハッカーたちは、マーケティングにそれらのアカウントを頼りにしている企業を脅迫してきました。

この手口を使う攻撃者が、短かったり人気が高いユーザー名を持つ「OG」アカウントを標的にしている事例も確認されている。Instagram 利用し、覚えやすいユーザー名を登録していた場合、そのアカウントは闇市場で数千ドルの価値を持つこともある。

自分を守るために、何ができるでしょうか？

「多要素認証（MFA）を有効にする」という、古くからあるアドバイスは今も有効です。サイバーセキュリティ分野のベテラン記者ブライアン・クレブス氏によると、SMSコードを使用しているアカウントを含め、MFAが有効になっていたアカウントに対しては、この攻撃は失敗に終わりました。

だからといってMFAが完璧だとは言えないが、重要な保護層が追加されることになる。

つまり、実用的なアドバイスは地味なものですが：

Instagram の設定を開く
Metaアカウントセンターにアクセスしてください
二段階認証を有効にしてください。認証アプリの方がSMSより優れていますが、どちらでも、何もしないよりはましです。

今すぐ対処してください。まだ事態は収束していない可能性があります。『TheCyberSecGuru』の報道によると、新たな攻撃が拡散しているとのことです。今回は「BlueStacks」Android 、改変Instagram 起動させて、AIを操作するように設計された隠し文字を含む新しいプロンプトInstagram 。