In de App Store van Apple en de Play Store van Google vind je allerlei soorten apps, van weer-apps tot apps voor huisautomatisering en games. Wat je misschien niet zou verwachten, zijn apps waarmee zonder toestemming naaktbeelden kunnen worden gemaakt op basis van gewone foto’s. Maar ze bestaan wel, en de stad San Francisco heeft er genoeg van.
Op 17 juli 2026 stuurde David Chiu, de stadsadvocaat van San Francisco, sommatiebrieven naar Apple en Google, waarin hij 13 apps voor het verwisselen van gezichten en het ‘naakt maken’ van personen noemde (acht in de App Store en vijf op Google Play) en de bedrijven 28 dagen de tijd gaf om deze te verwijderen en de banden met de ontwikkelaars te verbreken.
Die brieven komen niet zomaar uit de lucht vallen.
Het gaat om betalingssystemen, niet om inhoudsmoderatie
Chiu beweert niet dat het hosten van een app een platform automatisch aansprakelijk maakt voor wat erin gebeurt. Platformbeheerders hebben die strijd al gewonnen dankzij artikel 230 van de Communications Decency Act. Die 30 jaar oude wet bepaalt dat websites over het algemeen niet verantwoordelijk zijn voor door gebruikers geplaatste inhoud, waardoor platforms door gebruikers gegenereerde inhoud kunnen hosten zonder telkens voor de rechter te worden gedaagd wanneer iemand in een reactiethread een ander belastert.
Rechtbanken hebben die bescherming vaak ook uitgebreid tot app-winkels. Apple en Google worden beschouwd als distributeurs van alles wat een externe ontwikkelaar uploadt, en niet als uitgevers.
Chiu probeert dat argument te omzeilen door de nadruk te leggen op de betalingssystemen van de bedrijven, waarbij hij opmerkt dat Apple en Google een deel van elke in-app-aankoop inhouden. Volgens het Tech Transparency Project (TTP) betekent dit dat zij winst maken op apps die inkomsten genereren door het creëren van intieme beelden zonder toestemming.
Aan bewijs ontbreekt het hem niet. In januari telde het TTP 55 ‘nudification’-apps in de App Store en 47 op Google Play. Bij een vervolgonderzoek in april gebruikten de onderzoekers bewust zoektermen als ‘nudify’ en ‘deepnude’. Ze vonden 46 apps in de Apple App Store en 49 op Google Play. Bij ongeveer 40% van de zoekresultaten in de winkels konden gebruikers vrouwen ‘ontkleden’, en bijna een op de drie was beoordeeld als geschikt voor minderjarigen.
Hoewel veel van deze apps worden gepromoot met afbeeldingen van vrouwen, kan iedereen het slachtoffer worden van het zonder toestemming verspreiden van intieme beelden.
De non-profitorganisatie schatte dat de apps in haar dataset 483 miljoen keer waren gedownload en in totaal meer dan 122 miljoen dollar aan inkomsten hadden gegenereerd. Haar oordeel over Apple en Google was onomwonden:
“belangrijke spelers in de verspreiding van AI-tools waarmee echte mensen kunnen worden omgezet in seksueel getinte afbeeldingen.”
Uit de brieven van Chiu blijkt dit ook; hij beschuldigt beide bedrijven van
“het bewust faciliteren of roekeloos bevorderen van de verkoop van die afbeeldingen door de apps te hosten en in-app-aankopen af te handelen”.
Hij kan ook een beroep doen op de Californische wetgeving. Een staatswet uit 2025 in Californië heeft de mogelijke aansprakelijkheid uitgebreid voor entiteiten die het maken of verspreiden van seksueel expliciete deepfakes faciliteren. De civielrechtelijke boetes kunnen oplopen tot 25.000 dollar per overtreding. Dat is een serieuze zaak voor bedrijven die jaarlijks miljoenen transacties verwerken.
De platforms hebben weliswaar maatregelen genomen, maar die gaan niet ver genoeg
Chiu doet meer dan alleen Apple en Google even op de proef stellen. Zijn bureau heeft in 2024 en 2025 al 16 van de meest bezochte deepfake aangepakt, wat heeft geleid tot daadwerkelijke schikkingen en sluitingen. Dit is hetzelfde bureau, dat volgens hetzelfde draaiboek te werk gaat, maar nu tegen grotere doelwitten.
De reactie van Apple is slechts gedeeltelijk geweest. Woordvoerder Adam Dema vertelde WIRED dat het bedrijf drie van de gemelde apps heeft verwijderd en is begonnen met het opzeggen van de bijbehorende ontwikkelaarsaccounts. Dat betekent dat er nog 10 van de 13 beschikbaar zijn.
Google-woordvoerder Dan Jackson zei dat het bedrijf al honderden apps met ‘nudification’-functies had verwijderd wegens schendingen van het beleid van de Play Store.
Als de rechtbanken in Californië de theorie van de omzetaandeelverdeling aanvaarden, krijgt elke andere stadsadvocaat in de staat een sjabloon in handen. Het al lang bestaande standpunt van de app-winkels dat zij neutrale distributeurs zijn in plaats van commerciële deelnemers, wordt ondermijnd in elke staat waar wetgeving inzake consumentenbescherming van toepassing is op de betalingsinfrastructuur.
Wat dit voor de rest van ons betekent
Voor consumenten is de werking van deze apps belangrijker dan de rechtszaken. Apps voor het verwisselen van gezichten en foto-effecten zijn niet automatisch veilig, alleen maar omdat ze de beoordeling door de app-store hebben doorstaan. Als je een app toegang verleent tot je fotogalerij, loop je het risico dat je je eigen foto’s, of die van vrienden en familie, overhandigt aan een dienst die deze zou kunnen misbruiken of anderen toestaat dit te doen.
Controleer, voordat je een AI-foto-app installeert, welke machtigingen de app vraagt, zoek informatie op over de ontwikkelaar en kijk of er in onafhankelijke rapporten bezorgdheid over is geuit. Ga er niet zomaar vanuit dat een app betrouwbaar is, alleen omdat deze in een officiële app-winkel verkrijgbaar is. En onze gebruikelijke regels gelden ook voor het plaatsen van foto’s van jezelf of van mensen die onder jouw hoede staan.
Als dit verhaal je interesse heeft gewekt, kun je meer te weten komen over het werk van Chiu in onze Malwarebytes van vorige maand, waarin het interview dat het team in 2024 met hem had, opnieuw wordt uitgezonden.
Oplichters weten meer over je dan je denkt.
Malwarebytes Mobile Security je tegen phishing, oplichtings-sms’jes, schadelijke websites en nog veel meer. Met de ingebouwde, door AI aangestuurde Scam Guard die in realtime werkt.
