企業があなたのソーシャルメディア、閲覧履歴、テレビ視聴習慣などを調べて行動パターンを把握しようとするのは悪いことだと思っていたなら、覚悟しておいてください。Metaはまだ始まったばかりです。同社のパーソナルAIエージェント「Muse」は、監視を次のレベルへと引き上げようとしています。
タイム誌は、このソフトウェアの内部手順を分析した結果、ユーザーとその知人に関する最新の情報を常に保持していることを発見した。
Meta社は先月、生活の様々な場面をサポートできるデジタルアシスタント「Muse」をリリースしました。メールの整理、食料品の買い物、定期購読の解約など、様々な機能を提供します。無料版も用意されており、より多くの機能を求めるユーザー向けに有料プランも提供されています。
Museはすでに500万回以上ダウンロードされている。日常的なオンライン作業を処理できるその機能は、消費者がサブスクリプションを解約しないことに依存している企業にとっては悪い知らせとなる可能性がある。一方で、Museによって何千人もの消費者が低金利の銀行口座から解放されると考える人もいる。
しかし、ミューズは権力に反抗する手助けをするだけでなく、それ自体が権力者でもあるのです。
悪いミューズが君にいるよ
Museがあなたのシステムを整理するのを支援するには、まずすべてのシステムへのアクセスを許可する必要があります。接続するシステムや付与する権限によっては、カレンダー、メール、メッセージ、その他の個人情報へのアクセスが許可される場合があります。
そうすることで、このアプリは大量のデータにアクセスする。先月末にSurfsharkが行った分析によると、レビュー対象アプリの中でMetaのAIチャットボットに次いで2番目に多く、App Storeの開示情報には35種類のデータタイプのうち31種類を収集していると記載されている。
これらの開示情報には、Appleの「機密情報」カテゴリが含まれており、人種や民族、性的指向、妊娠、障害、宗教的または哲学的信条、労働組合への加入状況、政治的意見、遺伝情報、生体認証データなどの情報が含まれます。これは、Museがすべてのユーザーについてこれらの詳細情報をすべて収集しているという意味ではありませんが、同社が公表している収集範囲がどれほど広範であるかを示しています。
TIME誌の分析によると、Museの指示では、個人の記録を1時間ごとに更新するように定められている。これには、ユーザーがどのようにして連絡先と知り合ったか、またソーシャルグループ内での口論や緊張関係などが記録される可能性がある。
さらに恐ろしいのは、毎晩あなたの最近の会話をレビューし、それを今後の会話の指針として利用する点です。例えば、あなたの注意を引くためのちょっとした働きかけが最も効果的なタイミングを学習するのです。
Metaは、アプリの設定でオプトアウトしない限り、デフォルトでMuseのインタラクションを利用してAIモデルをトレーニングします。
さらに、MuseはこれらのファイルをMetaのクラウドに保存しており、Metaはそこからファイルにアクセスできる。同社は、Metaからもアクセスできないようにファイルを暗号化する機能を提供すると述べているが、TIME誌によると、そのオプションはまだ利用できないという。
Meta社は、Museの会話内容や保存データは同社の広告システムと共有されないと述べている。また、ユーザーはMuseへのアクセス権限の範囲を選択でき、学習した特定の情報を忘れるように指示することもできるとしている。
同誌は、Museを使わないだけでは安全ではないと指摘している。なぜなら、Museはユーザーが交流する人々のデータを収集できるからだ。Museユーザーにメッセージを送信し、AIがそのメッセージングシステムにアクセスできる場合、あなたのメッセージはAIが読み取るデータの一部となる可能性がある。
Privacy 非営利の電子Privacy 情報センター（EPIC）は、Metaが以前にも同様の手口を使っており、自社のサービスに登録していない人々のシャドウプロファイルを作成していたと指摘している。
許可が現実世界に害を及ぼすとき
これだけでも十分に恐ろしい話だが、他にもMuseのプライバシー侵害に関する話がある。研究者のパトリック・ウォードルは、このソフトウェアを侵害してMacバックドアに変える方法を発見した。
別の記者チームは、このシステムを使って、オンライン上で社会的弱者グループの個人情報を収集した。当初は一部の要求を拒否したものの、質問の文言を変更したところ、システムは要求を受け入れたと彼らは述べている。
ミューズ氏は先月、自身が販売していた商品に対して低価格のオファーを受け入れた後、マーケットプレイスの購入者をある人物の自宅に招待した。マット・ロブ氏はYouTube ある技術評論家は、「常に許可」ボタンをクリックしていたが、AIが自分の住所を他人に共有する前に必ず確認してくれるだろうと考えていた。しかし、実際には確認はなかった。それどころか、AIは彼に知らせることなく集荷の手配をしてしまったという。商品を受け取るために30分かけてやってきた購入者は、この対応に不満を抱いていた。
Museを使用する場合は、アクセスできるアカウント、承認なしで実行できる操作、およびあなたのやり取りがAIのトレーニングに使用されているかどうかを確認してください。タスクに必要なアクセス権限のみを付与するようにしてください。
あなたはMuseを使ってみますか？Robbの体験談や、実際のアクセス許可の確認方法については、 AIアシスタントの利用ガイドをご覧ください。
誰にも見られていないかのように、自由に閲覧してください。
Malwarebytes Privacy VPN 接続をVPN 、ユーザーの行動を一切記録しません。だから、次に読む記事が自分事のように感じられることはありません。無料でお試しください →
