AppleのApp StoreやGoogleのPlay Storeには、天気予報アプリからホームオートメーションアプリ、ゲームに至るまで、あらゆる種類のアプリが並んでいるのは当然のことでしょう。しかし、普通の写真から本人の同意なしにヌード画像を作成できるアプリが存在するとは、想像もつかないかもしれません。しかし、そうしたアプリは実際に存在しており、サンフランシスコ市はもはや我慢の限界に達しています。
2026年7月17日、サンフランシスコ市のデイヴィッド・チウ市検事は、アップルとグーグルに対し、13の顔入れ替えアプリおよび「ヌディファイ」アプリ（App Storeに8つ、Google Playに5つ）を名指しした差止請求書を送付し、両社に対し、28日以内にこれらのアプリを削除し、開発者との関係を断つよう求めた。
その手紙は、どこからともなく現れるわけではない。
これは決済システムに関する話であり、コンテンツのモデレーションに関する話ではない
チウ氏は、アプリをホストすること自体が、そのプラットフォームにアプリの行為に対する責任を自動的に負わせるという主張をしているわけではない。プラットフォーム運営者はすでに、「通信品位法」第230条をめぐる争いで勝利を収めている。この30年前に制定された法律は、ウェブサイトは一般的にユーザーが投稿したコンテンツに対して責任を負わないと定めており、これによりプラットフォームは、コメント欄で誰かが誰かを誹謗中傷したとしても、そのたびに訴訟を起こされることなく、ユーザー生成コンテンツをホストすることができる。
裁判所は、こうした保護措置をアプリストアにも適用することが多い。AppleやGoogleは、パブリッシャーではなく、サードパーティの開発者がアップロードしたあらゆるコンテンツの流通業者として扱われている。
チウ氏は、AppleとGoogleがアプリ内購入のたびに手数料を徴収している点を指摘し、両社の決済システムに焦点を当てることで、その議論をかわそうとしている。Tech Transparency Project（TTP）によると、これは、同意のない親密な画像を作成することで収益を上げているアプリから、両社が利益を得ていることを意味する。
彼には証拠が山ほどある。1月、TTPはApp Storeで55件、GooglePlayで47件のヌード化アプリを確認した。4月の追跡調査では、研究者たちは意図的に「nudify」や「deepnude」といった検索語句を使用した。 その結果、AppleのApp Storeでは46件、Google Playでは49件のアプリが見つかった。各ストアの検索結果のうち、およそ40％のアプリでユーザーが女性の「服を脱がせる」ことが可能であり、そのうちの3分の1近くが未成年者向けとして評価されていた。
こうしたアプリの多くは女性の画像を使って宣伝されていますが、同意のないまま撮影された性的画像の被害に遭う可能性は誰にでもあります。
この非営利団体は、自団体のデータセットに含まれるアプリのダウンロード回数が4億8300万回に達し、累計収益は1億2200万ドルを超えたと推計した。アップルとグーグルに対する同団体の評価は、きっぱりとしたものだった：
「実在の人物を性的なイメージに変えてしまうAIツールの普及に重要な役割を果たしている者たち。」
チウ氏の書簡にはこうした調査結果が反映されており、両社を
「アプリをホストし、アプリ内課金を処理することで、それらの画像の販売を故意に助長したり、無謀に幇助したりしたこと」。
また、彼はカリフォルニア州法も根拠として挙げることができる。2025年に制定されたカリフォルニア州法は、性的に露骨なdeepfakesの作成や流通を助長する事業体に対する潜在的な法的責任を拡大した。民事罰は違反1件につき最大2万5000ドルに達する可能性がある。これは、年間数百万件もの取引を行う企業にとっては深刻な問題だ。
各プラットフォームは一定の措置を講じているが、まだ不十分だ
チウ氏は、単にアップルやグーグルを試しに探っているだけではない。彼の事務所はすでに2024年と2025年にかけて、アクセス数が最も多いdeepfake サイト16件を摘発し、実際の和解やサイトの閉鎖に結びつけた。今回、同じ事務所が同じ手法を用いて、より大きな標的に対して行動を起こしているのだ。
Appleの対応は不完全なものにとどまっている。広報担当のアダム・デマ氏は『WIRED』に対し、同社は問題視されたアプリのうち3つを削除し、関連する開発者アカウントの停止手続きを開始したと述べた。これにより、13件のうち10件が依然として利用可能な状態となっている。
Googleの広報担当者ダン・ジャクソン氏は、同社がすでに「ヌディフィケーション」機能を備えた数百のアプリを、Playストアのポリシー違反を理由に削除したと述べた。
もしカリフォルニア州の裁判所が「収益分配説」を認めることになれば、同州の他のすべての市弁護士にとって、その判例が参考となる先例となるだろう。アプリストア側が「商業的参加者ではなく中立的な流通業者である」と長年主張してきた立場は、決済インフラに及ぶ消費者保護法を有する州においては、その主張の根拠が弱まっていくことになる。
これが私たちにとって何を意味するのか
消費者にとって、訴訟問題よりも、こうしたアプリの仕組みそのものが重要だ。顔交換アプリや写真加工アプリは、ストアの審査を通過したからといって、自動的に安全であるとは限らない。カメラロールへのアクセスを許可してしまうと、自分や友人、家族の写真を、それらを悪用したり、他者に悪用させたりする可能性のあるサービスに渡してしまうことになるかもしれない。
AI写真アプリをインストールする前に、そのアプリが要求する権限を確認し、開発者を調べ、独立した報道機関による報告で懸念が指摘されていないか確認してください。公式アプリストアで提供されているという理由だけで、そのアプリが信頼できると決めつけないでください。また、ご自身やご自身が世話をしている方の画像を投稿する際には、当サイトの通常のルールが適用されます。
この記事に興味を持たれた方は、先月Malwarebytes で、チウ氏の活動についてさらに詳しくお聞きいただけます。このポッドキャストでは、2024年に当チームが彼に行ったインタビューを再放送しています。
詐欺師たちは、あなたが思っている以上にあなたのことを知っています。
Malwarebytes Mobile Security 、フィッシング、詐欺SMS、悪意のあるサイトなどからユーザーをMobile Security 。AIを活用したリアルタイムの「Scam Guard」機能が標準搭載されています。
