A Facebook マーケットプレイスの購入者がキーボードを受け取るために販売者のアパートを訪れた。販売者は不在で、誰かが来ることを知らなかった。MetaのAIアシスタント「Muse」が、販売者に知らせることなく会話を処理し、住所を共有し、訪問の手配を行ったのだ。
私たちはAIの不整合や、AIエージェントやブラウザを安全に使用する方法についてよく記事を書いています。これは理論的な話に聞こえるかもしれませんが、これはエージェントが他人の代理として行動することを許可した場合に実際に発生するリスクの一例です。
MuseはMetaの半自律型AIアシスタントで、9月に米国でリリースされました。Metaはこれを、ユーザーがタスクを自動化するのに役立つパーソナルアシスタントとして宣伝しています。 Facebook マーケットプレイスメッセージ。プロンプトを待って回答を生成する従来のチャットボットとは異なり、AIエージェントは接続されたアプリ内でアクションを実行する権限を持つ場合があります。
研究者たちが危険だと考えていた、 Museの別の脆弱性については既に記事にしました。報道によると、Museはリリース後最初の1週間で300万回ダウンロードされたとのことです。
Business Insiderによると、 Facebook マーケットプレイスの出品者は、キーボード操作による出品作業を効率化するためにMuseを有効にした。出品者は受け取り場所として自分の住所を入力し、自動返信を承認した。するとMuseはその住所を購入希望者と共有し、商品の価格交渉を行い、訪問日時を調整したと出品者は述べている。出品者によると、Museは住所の共有や訪問日時の調整について許可を求めず、また事前に知らせてもいなかったという。購入者は購入手続きを完了させるつもりで出品者のアパートを訪れたが、出品者は不在だった。結局、取引は成立しなかった。
報告された事案は、単なるプライバシー侵害にとどまらない。これは、AIエージェントが抱えるより広範なリスクを示している。エージェントは、自動返信の許可を、機密情報の共有や対面での会議への参加の許可と誤解する可能性がある。Meta社は、この報告について調査中であると述べている。
AIエージェントを安全に使用する方法
AIエージェントを有効にする前に、その設定画面をセキュリティレビューとして捉えてください。信頼できるプラットフォームとの連携によって、エージェントが意図を理解したり、適切な制限を自動的に適用したりするとは限らないことを覚えておいてください。
特に以下の点に注意してください。
- 接続済みアカウント：エージェントがアクセスできるすべてのサービス（メール、メッセージ、カレンダー、クラウドストレージ、ショッピングアカウント、ソーシャルメディアのプロフィールなど）を確認してください。
- データアクセス：住所、連絡先、写真、プライベートメッセージ、支払い情報、文書、位置情報などを読み取ることができるかどうかを検討してください。
- アクション権限：エージェントがメッセージを送信したり、コンテンツを投稿したり、交渉したり、予約をしたり、注文をしたり、物件情報を変更したり、外部に情報を共有したりできるかどうかを確認します。
- 自動アクション：エージェントが機密情報を送信、公開、購入、削除、共有する前に承認が必要な設定を適用します。エージェントがあなたに代わって行う計画について、どのように通知するかを確認してください。
- 受信者設定：エージェントが生成する情報を受け取れる対象者を正確に確認してください。「私にメッセージを送ってきた人全員」と「私が承認した人」は全く異なります。
AIエージェントには、タスクに必要な最小限のアクセス権限のみを付与してください。返信文の作成のみをサポートしたい場合は、自動送信を有効にしないでください。AIエージェントに物件情報の管理を任せたい場合は、自宅住所ではなく、公共の待ち合わせ場所または別の受け取り場所を指定してください。
誰にも見られていないかのように、自由に閲覧してください。
Malwarebytes Privacy VPN 接続をVPN 、ユーザーの行動を一切記録しません。だから、次に読む記事が自分事のように感じられることはありません。無料でお試しください →
