独立系セキュリティ研究者が、Google PlayおよびApple App Storeで最も人気のあるAIチャットアプリの一つである「Chat & Ask AI」に影響を及ぼす大規模なデータ侵害を発見した。同アプリの利用者は5000万人以上に上る。
研究者は、公開されたデータベースにより2500万人以上のユーザーから3億件のメッセージにアクセスしたと主張している。これらのメッセージには、違法行為に関する議論や自殺支援の要請などが含まれていたと報じられている。
裏側では、Chat & Ask AIは「ラッパー」アプリであり、OpenAIのChatGPT、AnthropicのClaude、GoogleのGeminiなど、他社提供の様々な大規模言語モデル（LLM）に接続します。ユーザーは対話したいモデルを選択できます。
漏洩したデータには、ユーザーの全チャット履歴を含むユーザーファイル、使用されたモデル、その他の設定が含まれていた。しかし、Chat & Ask AIの開発元であるCodewayが開発した他のアプリのユーザーデータも明らかになった。
このデータ漏洩の背景にある脆弱性は、よく知られ文書化されているFirebaseの設定ミスである。FirebaseはGoogleが提供するクラウドベースのバックエンド・アズ・ア・サービス（BaaS）プラットフォームであり、開発者がモバイルおよびウェブアプリケーションを構築、管理、スケーリングするのを支援する。
セキュリティ研究者は、開発者がGoogle Firebaseサービスを設定する際に発生する一連の回避可能なエラーをしばしば指摘する。これらのエラーにより、認証なしにバックエンドデータ、データベース、ストレージバケットが一般に公開された状態となる。
Firebaseで最もよくある設定ミスの一つは、セキュリティルールをパブリックのままにしておくことです。これにより、プロジェクトURLを知っている誰でも、認証なしでデータの読み取り、変更、削除が可能になります。
この事実を受け、研究者はGoogle PlayとApple App Storeのアプリを自動的にスキャンし、この脆弱性を検出するツールを開発した。その結果は驚くべきものだった。ハリーという名の研究者がスキャンした2iOS のうち103個にこの問題が確認され、合計で数千万もの保存ファイルが危険に晒されていたという。
この問題への関心を高めるため、ハリーは影響を受けるアプリを確認できるウェブサイトを開設した。Codewayのアプリは既にリストから削除されている。開発者が問題修正を確認すると、ハリーは該当項目を削除するためだ。Codewayは責任ある開示から数時間以内に全アプリで問題を解決したと報じられている。
安全に過ごすには
ハリーのファイアハウンド（ ）登録リストに利用中のアプリが掲載されていないか確認する以外に、AIチャットボット利用時のプライバシー保護を強化する方法はいくつかあります。
- モデルを学習させるためにあなたのデータを使用しないプライベートチャットボットを利用してください。
- 人生の重要な決断をチャットボットに委ねてはいけません。彼らには経験も共感もありません。
- 機密事項について議論する際は、実名を使用しないでください。
- 共有する情報は非個人的なものにしましょう。実名を使用せず、個人書類をアップロードしないでください。
- どうしても必要な場合を除き、会話内容を共有しないでください。場合によっては、検索可能になってしまうことがあります。
- ソーシャルメディア企業（Meta AI、Llama、Grok、Bard、Geminiなど）が開発したAIを使用する場合、そのソーシャルメディアプラットフォームにログインしていないことを確認してください。会話内容がソーシャルメディアアカウントに紐付けられる可能性があり、そこには多くの個人情報が含まれている場合があります。
常に心に留めておくべきは、AIの発展があまりにも急速すぎて、セキュリティやプライバシーを技術に組み込む余裕がないということだ。そして、最高のAIでさえも幻覚を起こすのだ。
私たちはプライバシーについて単に報告するだけでなく、それを活用する選択肢を提供します。
Privacy 出し以上の広がりを見せてはならない。オンラインプライバシーを守るには Malwarebytes Privacy VPNで守ってください。
