On trouve toutes sortes d'applications sur l'App Store d'Apple et le Play Store de Google, des applications météo aux jeux en passant par la domotique. Ce à quoi on ne s'attend pas, en revanche, ce sont des applications capables de créer des images de nudité non consenties à partir de photos ordinaires. Pourtant, elles existent, et la ville de San Francisco en a assez.
Le 17 juillet 2026, le procureur de la ville de San Francisco, David Chiu, a envoyé des lettres de mise en demeure à Apple et Google, nommant 13 applications d'échange de visages et de « nudification » (huit sur l'App Store et cinq sur Google Play) et donnant aux sociétés 28 jours pour les retirer et rompre les liens avec les développeurs.
Ces lettres ne sortent pas de nulle part.
Il s'agit des systèmes de paiement, pas de la modération de contenu.
Chiu ne prétend pas que l'hébergement d'une application rende automatiquement une plateforme responsable de ses actions. Les opérateurs de plateformes ont déjà obtenu gain de cause sur ce point grâce à l'article 230 du Communications Decency Act. Cette loi, en vigueur depuis 30 ans, stipule que les sites web ne sont généralement pas responsables du contenu publié par les utilisateurs, ce qui permet aux plateformes d'héberger du contenu généré par les utilisateurs sans risquer des poursuites à chaque fois qu'une personne diffame quelqu'un dans une discussion.
Les tribunaux ont souvent étendu ces protections aux plateformes de téléchargement d'applications. Apple et Google sont considérés comme des distributeurs des applications mises en ligne par des développeurs tiers, et non comme des éditeurs.
Chiu tente de contourner cet argument en se concentrant sur les systèmes de paiement des entreprises, soulignant qu'Apple et Google perçoivent une commission sur chaque achat intégré. Selon le Tech Transparency Project (TTP), cela signifie qu'elles tirent profit d'applications qui génèrent des revenus en créant des images intimes non consensuelles.
Les preuves ne lui manquent pas. En janvier, le TTP a recensé 55 applications de nudité sur l'App Store et 47 sur Google Play. En avril, lors d'une étude complémentaire , les chercheurs ont délibérément utilisé des termes de recherche tels que « nudifier » et « nudité profonde ». Ils ont alors trouvé 46 applications sur l'App Store d'Apple et 49 sur Google Play. Environ 40 % des résultats de recherche permettaient aux utilisateurs de déshabiller des femmes, et près d'une application sur trois était jugée adaptée aux mineurs.
Bien que nombre de ces applications soient commercialisées à l'aide d'images de femmes, n'importe qui peut devenir victime d'images intimes non consenties.
L'association à but non lucratif a estimé que les applications de son ensemble de données avaient été téléchargées 483 millions de fois et avaient généré plus de 122 millions de dollars de revenus cumulés. Son verdict sur Apple et Google était sans appel :
« Des acteurs clés dans la diffusion d'outils d'IA capables de transformer de vraies personnes en images sexualisées. »
Les lettres de Chiu reflètent ces conclusions, accusant les deux sociétés de
« en facilitant sciemment ou en aidant par imprudence la vente de ces images en hébergeant les applications et en gérant les achats intégrés ».
Il peut également s'appuyer sur le droit californien. Une loi de l'État de Californie de 2025 a élargi la responsabilité potentielle des entités qui facilitent la création ou la distribution de contenu sexuellement explicite. deepfakes Les amendes civiles peuvent atteindre 25 000 $ par infraction. C'est un montant considérable pour les entreprises qui effectuent des millions de transactions chaque année.
Les plateformes ont pris certaines mesures, mais pas suffisamment.
Chiu ne se contente pas de critiquer Apple et Google. Son bureau a déjà consacré les années 2024 et 2025 à cibler 16 des sites les plus visités. deepfake Des sites web de pornographie ont donné lieu à des règlements à l'amiable et à des fermetures. Il s'agit du même bureau, utilisant les mêmes méthodes, contre des cibles plus importantes.
La réponse d'Apple est partielle. Le porte-parole Adam Dema a déclaré à WIRED que l'entreprise avait retiré trois des applications signalées et commencé à fermer les comptes développeurs associés. Dix des treize applications restent donc disponibles.
Le porte-parole de Google, Dan Jackson, a déclaré que la société avait déjà supprimé des centaines d'applications comportant des fonctionnalités de nudité pour violation du règlement du Play Store.
Si les tribunaux californiens acceptent la théorie du partage des revenus, tous les autres procureurs municipaux de l'État disposeront d'un modèle similaire. La position traditionnelle des plateformes de téléchargement d'applications, selon laquelle elles sont des distributeurs neutres et non des acteurs commerciaux, est mise à mal dès lors qu'un État dispose de lois de protection des consommateurs qui s'appliquent aux infrastructures de paiement.
Qu’est-ce que cela signifie pour le reste d’entre nous ?
Pour les consommateurs, le fonctionnement de ces applications importe plus que les litiges. Les applications de remplacement de visage et d'effets photo ne sont pas automatiquement sûres simplement parce qu'elles ont été approuvées par les plateformes de téléchargement. Autoriser l'accès à votre pellicule, c'est risquer de confier vos propres photos, ou celles de vos proches, à un service susceptible de les utiliser à mauvais escient ou de permettre à des tiers de le faire.
Avant d'installer une application photo basée sur l'IA, vérifiez les autorisations requises, renseignez-vous sur le développeur et assurez-vous qu'aucun article indépendant n'ait soulevé de problèmes à son sujet. Ne présumez pas de la fiabilité d'une application simplement parce qu'elle est disponible sur une boutique d'applications officielle. Enfin, nos règles habituelles concernant la publication de photos de vous-même ou des personnes dont vous avez la charge s'appliquent .
Si cette histoire a suscité votre intérêt, vous pouvez en apprendre davantage sur le travail de Chiu dans notre podcast Malwarebytes du mois dernier, qui rediffuse l'interview que l'équipe avait réalisée avec lui en 2024.
Les escrocs en savent plus sur vous que vous ne le pensez.
Malwarebytes Mobile Security Vous protège contre le phishing, les SMS frauduleux, les sites malveillants et bien plus encore. Grâce à sa protection anti-arnaques intégrée, basée sur l'IA et fonctionnant en temps réel.
