どの消費者向けアプリにも、通知やダークモードなどの設定を行うための設定メニューがあります。Metaは、Instagram 公開Instagram を持つユーザーであれば誰でも、プロンプトにInstagram を入力するだけで、そのユーザーをモデルにしたAI生成画像を作成できると決定しました。
7月7日、MetaはAI画像生成モデル「Muse Image」をリリースした。このモデルは、Instagram 連携している。これにより、誰かがプロンプト内であなたのアカウントをタグ付けするだけで、Meta AIを使ってあなたの肖像を基にした画像を生成できるようになった。Metaのポリシーによれば、誰かがこうした操作を行っても通知は届かないため、自分の肖像がいつ、どのように使用されたのかを知ることは困難である。
Metaによると、「Muse Image」は、ユーザーがプロンプト内でInstagram 参照できるようにすることで、AIによる画像生成をよりパーソナルなものにすることを目的としている。自分の画像を作成する際には、それは楽しそうに聞こえるかもしれない。しかし、他の誰かが自分のアカウントを使って同じことをできるとなると、その魅力は薄れてしまう。
Metaではこの機能を無効にできますが、設定を見つけるのは一苦労です。Instagram、「設定とアクティビティ」＞「共有と再利用」の順に進み、他人があなたを題材にしたAI画像を作成できるようにする設定をオフにしてください。アプリのバージョンによっては表示文言が異なる場合があります。また、この機能は現在、米国を皮切りに順次展開されている最中であるため、まだ設定が表示されない可能性があります。
Instagramを開いたときに、Metaが「不要な場合はこれをオフにしてください」という大きく目立つメッセージを最初から表示してくれることを期待したいところだが、残念ながらそうはいかない。また、オプトアウトする前に誰かが撮影した自分の写真を、遡って削除してくれることを期待したいところだが、それも実現していない。
この設定を無効にしても、今後画像が生成されるのを防ぐだけです。設定を無効にする前に誰かが作成したAI生成画像は、引き続き流通し続けます。
包括的な保護に最も近い唯一の方法は、アカウントを非公開に切り替えることです。
どのようなリスクがあるのでしょうか？
ここにはプライバシーとセキュリティ上の問題があります。今では、あなたの知らないうちに、誰でもあなたの公開Instagram AI画像を生成できるようになっており、Metaはそのような事態が発生してもあなたに通知しません。すでに、Instagram 、本人確認deepfakes を作成するために攻撃者によって収集されていました。公開プロフィールに基づいてAI画像を生成する公式な手段を人々に提供することは、なりすまし、詐欺、その他の悪用に利用される可能性のある合成画像を作成するハードルを下げてしまうことになります。
サイバー犯罪者たちはすでに、生成AIと自動化ツールを組み合わせて、フィッシングや詐欺を大規模化させている。Muse Imageを使えば、公開されている個人情報を基に、より説得力のある画像をさらに簡単に生成できるようになる。
MetaのAIは、他にもセキュリティ上の問題を引き起こしている。今年初め、研究者らがMetaのAIサポートチャットボットに「コンフューズド・デピュティ（Confused Deputy）」と呼ばれる脆弱性を発見した。この脆弱性により、チャットボットは対話相手の身元を適切に確認することなく、メールアドレスの変更やパスワードのリセットといったアカウント設定の変更を行ってしまうことが判明した。多要素認証（MFA）を有効にすることで、この問題は軽減されたようだ。
Metaは、欧州のユーザーデータを用いてAIを学習させる際にも、オプトアウト方式を採用している。同社は、AIの目的で欧州ユーザーのデータを処理する法的根拠として、GDPRの「正当な利益」を根拠としているが、この立場に対し、プライバシー保護団体NOYBが異議を唱えている。
身を守りましょう
- Instagram 、[設定] ＞ [アクティビティ] ＞[共有と再利用] を開き、今すぐ「AIによる生成」のトグルを オフにしてください。なお、この設定は今後の画像生成のみを停止するものであることにご注意ください。
- すべてのMetaアカウントで多要素認証（MFA）を有効にしてください。これは、パスワードが漏洩した場合にアカウントを保護するための最も簡単な方法の一つです。
- Metaが現在提供している最も強力な保護措置を講じたい場合は、Instagram 非公開に切り替えてください。これはやや強引な解決策ではありますが、見知らぬ人があなたの公開プロフィールを情報源として利用することを防ぐことができます。
Metaの内部監視委員会はすでに、同社にはより強力な検知ツールと、AI生成コンテンツの適切な表示が必要だと指摘している。Meta自身のガバナンス機関が、現在の対策では不十分だと述べている以上、消費者はこの点に注意を払うべきだ。
詐欺師はあなたの端末をハッキングする必要はありません。あなたが一度クリックするだけでいいのです。
Malwarebytes Identity Theft 、不審な動きが問題となる前に検知します。
