もしあなたがまだソーシャルメディアに子供の写真を投稿することに抵抗がないなら、2児の母であるケイリー・ロビンズさんの話を聞いてみてください。9月の初め、彼女は何十万人もの親が毎日していることをしました。彼女は幼い娘の動画を投稿しました。 Facebook 。
ロビンズと娘が車の中で歌っている動画の下に、 Facebook Meta AIシステムは、「同乗している子供は誰ですか？」という質問を提示した。
ロビンズはショックを受けたFacebook 彼女は未成年者についてこんな質問をするだろうかと疑問に思い、好奇心からクリックしてしまった。すると、自動化されたストーカーまがいの行動が次々と始まった。
Instagram投稿で、激怒したロビンズは、何が起こったのかを説明した。
「それは私の子供たち一人ひとりについて、全く別の情報を取得し始めるんです。」
それには、名前、生年月日、そして彼らの動画が含まれていた。
このサイトには、ロビンズの母親が投稿した彼女の生まれたばかりの娘の写真も表示された。 Facebook 数年前、ロビンズがかつて自分のアカウントに掲載していたという、すでに削除された写真とともに。
事態はさらに奇妙な方向へ進んだ。サイトには「ケイリー・ロビンズはどこに住んでいるのか？」という別の質問が表示された。
ますます憤慨したロビンズは、その質問をクリックした。彼女はその結果を次のように説明した。
「[ Facebook ] 何年も前の自分の人生から、全く関係のないガラクタを掘り起こし始めた。
過去の投稿から彼女の過去の居住地を推測できる手がかりや、現在の住居と彼女を結びつける新しい投稿を丹念に調べ、最終的に彼女の居場所を特定しようと試みた。
ロビンズは次のように不満を述べた。
「私は尋ねなかった」 Facebook 家族のプロフィールを作成するため。
彼女は衝撃を表明したFacebook 過去の投稿から断片的な個人情報を集め、他のユーザー向けに詳細なプロフィールを作成する。
Kalie RobinsのInstagram 動画はこちら：
メタの回答
Metaは2024年4月にMeta AIをリリースし、それ以来それを構築してきました。 Facebook 、 Instagram WhatsApp、Messengerなど、幅広いプラットフォームで動作します。 Facebook 、 Instagramアシスタントは、質問に答えたり、画像を生成したり、ユーザーが情報を作成または取得するのを支援したりすることができます。
MetaはThe Vergeへの声明で次のように認めた。
「この機能は、ユーザーにそのような質問を投げかけるべきではなかった。」
同社は、この機能は「的を外していた」とし、Meta AIが個人的な話題に関する質問を提案する原因となっていた問題を修正したと述べた。
メタ社の広報担当者は、典型的な「はい、でも」という言い訳で、AIは質問者が既にアクセスできる投稿から抽出した情報のみを表示したと指摘した。しかし、数年前に削除した写真が表示されたとされる理由については、この説明では納得できない。
メタAIの失敗パターン
Meta AIはこれまでプライバシーを尊重してこなかった。昨年6月、ユーザーが気づかないうちに会話を公開していたことを報告した。翌月には、IDを推測するだけで他のユーザーのプライベートなMeta AIチャットを閲覧できてしまうバグも報告した。さらに昨年末には、Meta AIでの会話に基づいて広告を配信し始めた。
ユーザーは何ができるのか？
親は、このようなサイトがどれほどFacebook 親は子供について知ることができる。ロビンズは定期的に子供の写真や動画を投稿していたが、サービスが何年にもわたる投稿から情報を収集して子供のプロフィールを作成できるとは全く知らなかった。彼女だけではない。
では、人々はどうすればよいのでしょうか？おそらく、より適切な質問は、「人々は何をしてはいけないのか？」でしょう。最も明確な答えは、自分の子供（または他人の子供）の個人が特定できる写真をソーシャルメディアに投稿しないことです。プライバシーの地獄のような状況で追跡されるのを防ぐだけでなく、さらに深刻な結果を招くリスクを減らすためにも重要です。
ロビンズは次に何をするつもりか説明した。
「もう終わりだ。子供たちの身元が特定できる写真や動画は全て削除する。」
彼女は、友人たちにも同じことをするように頼むつもりだと付け加えた。なぜなら、もし彼らがそうしなければ、 Facebook それでも、彼女の子供たちの写真を彼らのアカウントから収集し、作成するプロフィールに利用することができるだろう。
脅威の報告から、それらを排除することまで。
サイバーセキュリティのリスクは、ヘッドラインを超えて広がるべきではありません。今すぐMalwarebytes ダウンロードして、デバイスに脅威を持ち込まないようにしましょう。
