On s'attend à trouver toutes sortes d'applications sur l'App Store d'Apple et le Play Store de Google, des applications météo aux applications de domotique en passant par les jeux. Ce à quoi on ne s'attendrait peut-être pas, ce sont des applications capables de créer des images de nudité non consenties à partir de photos ordinaires. Mais elles existent bel et bien, et la ville de San Francisco en a assez.
Le 17 juillet 2026, le procureur municipal de San Francisco, David Chiu, a adressé des lettres de mise en demeure à Apple et Google, citant 13 applications permettant d’échanger des visages et de « dénuder » des personnes (huit sur l’App Store et cinq sur Google Play) et accordant aux entreprises un délai de 28 jours pour les retirer de leurs boutiques d’applications et rompre tout lien avec leurs développeurs.
Ces lettres ne tombent pas du ciel.
Il s'agit des systèmes de paiement, pas de la modération des contenus
Chiu ne prétend pas que le simple fait d’héberger une application rende automatiquement une plateforme responsable de ce qu’elle fait. Les opérateurs de plateformes ont déjà remporté cette bataille grâce à l’article 230 du Communications Decency Act. Cette loi, vieille de 30 ans, stipule que les sites web ne sont généralement pas responsables des contenus publiés par les utilisateurs, ce qui permet aux plateformes d’héberger des contenus générés par les utilisateurs sans être poursuivies en justice chaque fois qu’une personne diffame quelqu’un dans un fil de commentaires.
Les tribunaux ont souvent étendu ces protections aux boutiques d'applications. Apple et Google sont considérés comme des distributeurs de tout ce que les développeurs tiers mettent en ligne, et non comme des éditeurs.
Chiu tente de contourner cet argument en mettant l'accent sur les systèmes de paiement de ces entreprises, soulignant qu'Apple et Google prélèvent une commission sur chaque achat effectué au sein d'une application. Selon le Tech Transparency Project (TTP), cela signifie qu'elles tirent profit d'applications qui génèrent des revenus en créant des images intimes sans le consentement des personnes concernées.
Les preuves ne manquent pas. En janvier, le TTP a recensé 55 applications de « nudification » sur l’App Store et 47 sur Google Play. Lors d’un suivi réalisé en avril, les chercheurs ont délibérément utilisé des termes de recherche tels que « nudify » et « deepnude ». Ils ont trouvé 46 applications sur l’App Store d’Apple et 49 sur Google Play. Environ 40 % des résultats de recherche proposés par ces boutiques permettaient aux utilisateurs de « déshabiller » des femmes, et près d’une application sur trois était classée comme adaptée aux mineurs.
Même si bon nombre de ces applications sont commercialisées à l'aide d'images de femmes, n'importe qui peut être victime de la diffusion d'images intimes sans son consentement.
L'association à but non lucratif a estimé que les applications figurant dans son ensemble de données avaient été téléchargées 483 millions de fois et généré plus de 122 millions de dollars de chiffre d'affaires cumulé. Son verdict concernant Apple et Google était sans appel :
« les principaux acteurs de la diffusion d’outils d’IA capables de transformer de vraies personnes en images à caractère sexuel. »
Les lettres de Chiu font écho à ces conclusions, accusant les deux entreprises de
« faciliter sciemment ou contribuer par imprudence à la vente de ces images en hébergeant les applications et en gérant les achats intégrés ».
Il peut également s'appuyer sur la législation californienne. Une loi adoptée en 2025 en Californie a élargi la responsabilité potentielle des entités qui facilitent la création ou la diffusion de deepfakes à caractère sexuellement explicite. Les sanctions civiles pourraient atteindre 25 000 dollars par infraction. C'est une affaire sérieuse pour les entreprises qui effectuent des millions de transactions chaque année.
Les plateformes ont pris certaines mesures, mais cela n'est pas suffisant
Chiu ne se contente pas de tester les limites d'Apple et de Google. Son service a déjà consacré les années 2024 et 2025 à poursuivre 16 des sites web deepfake les plus fréquentés, ce qui a abouti à de véritables accords à l'amiable et à des fermetures. C'est ce même service, utilisant la même stratégie, qui s'attaque désormais à des cibles plus importantes.
La réponse d'Apple a été partielle. Le porte-parole Adam Dema a déclaré à WIRED que la société avait supprimé trois des applications signalées et commencé à résilier les comptes des développeurs concernés. Cela signifie que 10 des 13 applications sont toujours disponibles.
Dan Jackson, porte-parole de Google, a déclaré que l'entreprise avait déjà supprimé des centaines d'applications comportant des fonctionnalités de « nudification » pour violation des règles du Play Store.
Si les tribunaux californiens acceptent la théorie du partage des recettes, tous les autres avocats municipaux de l'État disposeront d'un modèle à suivre. La position défendue de longue date par les boutiques d'applications, selon laquelle elles seraient des distributeurs neutres plutôt que des acteurs commerciaux, s'effrite dès lors qu'un État dispose d'une législation en matière de protection des consommateurs s'appliquant aux infrastructures de paiement.
Ce que cela signifie pour nous tous
Pour les consommateurs, le fonctionnement de ces applications revêt davantage d’importance que les litiges. Les applications de remplacement de visages et d’effets photo ne sont pas automatiquement sûres simplement parce qu’elles ont été validées par la boutique d’applications. En autorisant l’une d’entre elles à accéder à votre galerie, vous risquez de confier vos propres photos, ou celles de vos amis et de votre famille, à un service susceptible d’en faire un usage abusif ou de permettre à d’autres de le faire.
Avant d'installer une application de retouche photo basée sur l'IA, vérifiez les autorisations qu'elle demande, renseignez-vous sur son développeur et voyez si des rapports indépendants ont soulevé des inquiétudes à son sujet. Ne partez pas du principe qu'une application est fiable simplement parce qu'elle est disponible dans une boutique d'applications officielle. Et n'oubliez pas que nos règles habituelles s'appliquent concernant la publication d'images de vous-même ou des personnes dont vous avez la charge.
Si cet article a éveillé votre curiosité, vous pouvez en savoir plus sur le travail de Chiu dans notre Malwarebytes du mois dernier, qui rediffuse l'interview qu'il a accordée à notre équipe en 2024.
Les escrocs en savent plus sur vous que vous ne le pensez.
Malwarebytes Mobile Security vousMobile Security contre le phishing, les SMS frauduleux, les sites malveillants et bien plus encore. Il intègre une fonctionnalité Scam Guard en temps réel, optimisée par l'IA.
