MetaのMuse AIアシスタントにはゼロデイ脆弱性があり、 Mac バックドア

Mac セキュリティ研究者のパトリック・ウォードル氏は、Museを「究極のバックドア」に変えるのは簡単だと述べている。

AIアシスタントは、単に質問に答えるだけのツールから、タスクを計画したり、接続されたサービスを利用したり、私たちの代わりにアクションを実行したりできるエージェントへと進化しつつあります。こうしたアクションには、予約、フォームへの入力、文書の作成、購入、メールやカレンダーの操作などが含まれます。

そのためには、より多くの権限、アカウント接続、そして機密データが必要になります。ですから、Metaが「Museはプライバシーとセキュリティを最優先にゼロから構築されています」と約束したとき、攻撃者に簡単に操作されて必要なアクセス権をすべて渡してしまうようなAIエージェントを想定するとは思いもしませんでした。

Meta社によると、Museは予約、フォーム、カスタマーサービスとのやり取り、購入、文書作成、WhatsApp、メール、カレンダー、ソーシャルプラットフォームなどのサービスへの接続を処理できるとのことです。また、ファイル、マイク、カメラ、位置情報、カレンダーなどの保護されたリソースにアクセスするためのmacOSの権限を取得する場合もあります。

Ars Technicaによると、Wardle氏は、ローカルで実行されているアプリケーションまたはターミナルコマンドによって、音声認識の文字起こしに使用されるサーバーを制御する、文書化されていないMuseの設定が変更される可能性があることを発見した。攻撃者は、音声認識トラフィックを攻撃者が制御するサーバーにリダイレクトすることで、音声プロンプトをキャプチャし、被害者のMuseアカウントの認証トークンを取得できる可能性がある。

これは、本来クリーンなシステムを侵害する可能性のあるリモートコード実行の脆弱性ではありません。 Mac攻撃者はまず、マルウェア、悪意のあるアプリケーション、ソーシャルエンジニアリングなどを通じて、ローカルでコードを実行する方法を確保する必要があります。

しかし、情報窃盗マルウェアがMacに侵入した事例からもわかるように、最初のアクセスは決して不可能ではない。

誰かがあなたのアカウントを監視しています。それが私たちであることを確認してください。

個人情報を守りましょう

従来の情報窃盗マルウェアは、ブラウザデータ、認証情報、文書、チャット履歴、その他の貴重な情報を独自に特定する必要があります。しかし、侵害されたAIエージェントは、複数のサービスへのアクセスとオペレーティングシステムの権限を、既に認証済みの単一のインターフェースにまとめて付与することで、その障壁を低くすることができます。

結局のところ、これは単に安全でない設定が一つあるというだけの問題ではない。AIエージェントが通常のアプリよりも高いセキュリティ基準を必要とする理由を示しているのだ。

安全に過ごすには

ウォードル氏のMuseに関するアドバイスはシンプルだ。「インストールしないでください。」

他のAIエージェントについても同様の注意が必要である。

アプリケーションセキュリティに関する無料のガイダンスを提供する非営利財団であるオープン・ワールドワイド・アプリケーションセキュリティプロジェクト（OWASP）は、AIエージェントがもたらす主なセキュリティリスクとして、即時インジェクション、ツールの悪用、権限昇格、データ漏洩、過剰な自律性、メモリ汚染、機密データの漏洩などを挙げている。

有用なルールとして、AIエージェントは必要以上のアクセス権限を持つべきではなく、信頼できない指示を意味のあるチェックなしに機密性の高い行動に変換できないようにすべきである。実際には、これは次のことを意味する。

新しいエージェントに、メール、チャットアプリ、カレンダー、クラウドストレージ、支払い方法、デバイスのアクセス許可などへの広範なアクセス権限を一度に与えることは避けてください。
エージェントが本当に必要としていない接続は定期的に見直し、削除してください。
プロンプトインジェクションに注意してください。AIエージェントがウェブページ、ドキュメント、電子メール、その他の外部コンテンツに埋め込まれた悪意のある命令を認識するとは限りません。
エージェントの異常な動作に注意してください。例えば、予期しない権限要求、アカウントの再認証、外部ファイル共有、またはユーザーが開始していない操作などです。

マルウェアからデバイスを保護することも重要です。