MetaのAIサポートボットは喜んでInstagram アカウントhackers

カスタマーサービスチャットボットには、人間を煩わせることなくユーザーが求めているものを提供するという仕事が1つだけあります。Metaの新しいAIサポートアシスタントは、その指示を少し真剣に受け止めすぎました。ここ数ヶ月、攻撃者はサポートチャットを開き、ボットにロックアウトされたと伝えています。 Instagram 彼らが所有していないアカウントを乗っ取り、鍵を持ち去った。

週末にMetaは緊急パッチをリリースした。 Instagram オバマ政権時代のホワイトハウス（現在は休止状態）、化粧品小売店セフォラ、そして米宇宙軍高官のアカウントが乗っ取られ、一時的に親イラン的な画像で改ざんされた。セキュリティ研究者で元メタ社の従業員であるジェーン・マンチュン・ウォン氏も被害に遭った。

その手口はこうだった

攻撃は単純だった。攻撃者はアカウント所有者の居住地を特定した（アカウント所有者の居住都市のリストはオンラインで入手できるか、あるいは単にターゲットを調査すればよかった）。次に、 VPN ターゲットアカウントの地理的地域に一致させることで、フラグを立てることを避け、 Instagramセキュリティシステム。

その後、彼らは通常のパスワード再設定手続きを開始し、サポートチャットを開いた。彼らはサポートを担当するAIボットにアカウントのメールアドレス変更を依頼したところ、ボットは指示通りに実行し、ワンタイムコードを攻撃者の受信箱に直接送信してしまった。

このため、このチャットボットは、アカウントの変更を行う権限を持ってMetaのアカウント管理システムに組み込まれているようだが、相手が本物のアカウント所有者であることを確認する方法を教えられていないようだ。セキュリティの専門家たちは、このような状況を「コンフューズド・デピュティ（Confused Deputy）」と呼んでいる。この用語は1980年代から使われている。

混乱したボットを擁護するならば、強化されたセキュリティが作動した場合でも攻撃者は成功したと言えるだろう。彼らは明らかにビデオを作成していた。 deepfakes 標的の画像は、ご想像のとおり、 Instagram 。

メタは自らが仕掛けたAIの罠に嵌った

Metaは人員削減を進めると同時にAI分野への投資を拡大しており、今年初めにはアカウントの復旧やその他のサポート対応を支援するため、AIを活用したサポートアシスタントを導入した。

その一方で、このAIには、ユーザーの身元を事前に確認するための十分な安全策を講じることなく、メールアドレスの変更やパスワードのリセットといった操作を実行する権限が与えられているようだ。

Meta Communicationsの幹部であるアンディ・ストーン氏は次のように述べた。 X 問題は解決済みであり、影響を受けたアカウントは保護されているとのことです。同社は影響を受けたアカウント数を明らかにしていません。

実際に効果があったのは

なぜ誰かがハッキングしてInstagram アカウントを乗っ取る場合、復讐心が動機となることもありますが、多くの場合、目的は金銭的な利益です。アカウント乗っ取り犯は、マーケティングにアカウントを利用している企業を脅迫しています。

この手法を使用する攻撃者は、短いユーザー名や非常に魅力的なユーザー名を持つ「OG」アカウントも標的にしていることが確認されています。 Instagram 早い段階で印象的なハンドルネームを登録すれば、闇市場では数千ドルもの価値になる可能性がある。

自分を守るために、何ができるでしょうか？

「多要素認証（MFA）を有効にする」という、古くからあるアドバイスは今も有効です。サイバーセキュリティ分野のベテラン記者ブライアン・クレブス氏によると、SMSコードを使用しているアカウントを含め、MFAが有効になっていたアカウントに対しては、この攻撃は失敗に終わりました。

だからといってMFAが完璧だとは言えないが、重要な保護層が追加されることになる。

つまり、実用的なアドバイスは地味なものですが：

開けるInstagram設定
Metaアカウントセンターにアクセスしてください
二段階認証を有効にしてください。認証アプリの方がSMSより優れていますが、どちらでも、何もしないよりはましです。

今すぐやってください。まだ終わっていないかもしれません。TheCyberSecGuruは、別の攻撃が蔓延していると報告しています。今回は、 Android BlueStacksと呼ばれるエミュレーターで、修正版を実行しています。 Instagram AIを操作するために設計された隠し文字を含む新しいプロンプトを送信する。