En la App Store de Apple y en la Play Store de Google te esperas encontrar todo tipo de aplicaciones, desde aplicaciones para consultar el tiempo hasta aplicaciones de domótica y videojuegos. Lo que quizá no te esperas son aplicaciones capaces de crear imágenes de desnudos sin consentimiento a partir de fotos normales. Pero existen, y el Ayuntamiento de San Francisco ya ha dicho basta.
El 17 de julio de 2026, el fiscal municipal de San Francisco, David Chiu, envió cartas de cese y desistimiento a Apple y Google, en las que mencionaba 13 aplicaciones de intercambio de rostros y de «desnudez» (ocho en la App Store y cinco en Google Play) y daba a las empresas un plazo de 28 días para retirarlas y romper sus vínculos con los desarrolladores.
Las cartas no surgen de la nada.
Se trata de los sistemas de pago, no de la moderación de contenidos
Chiu no sostiene que el hecho de alojar una aplicación haga automáticamente que una plataforma sea responsable de lo que esta haga. Los operadores de plataformas ya ganaron esa batalla gracias al artículo 230 de la Ley de Decencia en las Comunicaciones. Esa ley, que tiene ya 30 años, establece que, por lo general, los sitios web no son responsables del contenido publicado por los usuarios, lo que permite a las plataformas alojar contenido generado por los usuarios sin ser demandadas cada vez que alguien difama a otra persona en un hilo de comentarios.
Los tribunales han ampliado a menudo esas protecciones para que abarquen también las tiendas de aplicaciones. Se considera que Apple y Google son distribuidores de todo lo que suben los desarrolladores externos, y no editores.
Chiu está intentando eludir ese argumento centrándose en los sistemas de pago de las empresas, y señala que Apple y Google se quedan con una parte de cada compra realizada dentro de las aplicaciones. Según el Tech Transparency Project (TTP), eso significa que se benefician de las aplicaciones que generan ingresos mediante la creación de imágenes íntimas sin consentimiento.
No le faltan pruebas. En enero, el TTP contabilizó 55 aplicaciones de desnudación en la App Store y 47 en Google Play. En un seguimiento realizado en abril, los investigadores utilizaron deliberadamente términos de búsqueda como «nudify» y «deepnude». Encontraron 46 aplicaciones en la App Store de Apple y 49 en Google Play. Aproximadamente el 40 % de los resultados de búsqueda de las tiendas permitían a los usuarios «desnudar» a mujeres, y casi una de cada tres estaba clasificada como apta para menores.
Aunque muchas de estas aplicaciones se promocionan utilizando imágenes de mujeres, cualquiera puede ser víctima de la difusión de imágenes íntimas sin su consentimiento.
La organización sin ánimo de lucro calculó que las aplicaciones de su base de datos se habían descargado 483 millones de veces y habían generado más de 122 millones de dólares en ingresos totales. Su veredicto sobre Apple y Google fue contundente:
«actores clave en la difusión de herramientas de IA capaces de convertir a personas reales en imágenes sexualizadas».
Las cartas de Chiu reflejan estas conclusiones y acusan a ambas empresas de
«facilitar a sabiendas o contribuir de forma imprudente a la venta de dichas imágenes al alojar las aplicaciones y gestionar las compras dentro de las mismas».
Además, puede ampararse en la legislación de California. Una ley estatal de California de 2025 amplió la posible responsabilidad de las entidades que faciliten la creación o distribución de deepfakes de contenido sexual explícito. Las sanciones civiles podrían ascender a 25 000 dólares por infracción. Esto supone un problema grave para las empresas que realizan millones de transacciones al año.
Las plataformas han tomado algunas medidas, pero no son suficientes
Chiu no se limita a tantear el terreno con Apple y Google. Su oficina ya dedicó los años 2024 y 2025 a perseguir a 16 de las páginas web deepfake más visitadas, lo que dio lugar a acuerdos reales y al cierre de dichas páginas. Se trata de la misma oficina, que utiliza la misma estrategia, pero ahora contra objetivos más importantes.
La respuesta de Apple ha sido parcial. El portavoz Adam Dema declaró a WIRED que la empresa ha eliminado tres de las aplicaciones señaladas y ha comenzado a cancelar las cuentas de los desarrolladores asociados. Esto deja 10 de las 13 aún disponibles.
El portavoz de Google, Dan Jackson, afirmó que la empresa ya había eliminado cientos de aplicaciones con funciones de «nudificación» por infringir las normas de Play Store.
Si los tribunales de California aceptan la teoría del reparto de ingresos, todos los demás fiscales municipales del estado dispondrán de un modelo a seguir. La postura que las tiendas de aplicaciones mantienen desde hace tiempo —según la cual son distribuidores neutrales y no participantes comerciales— se ve socavada siempre que un estado cuente con leyes de protección del consumidor que abarquen la infraestructura de pagos.
Qué significa esto para el resto de nosotros
Para los consumidores, el funcionamiento de estas aplicaciones es más importante que los litigios. Las aplicaciones para intercambiar caras y aplicar efectos a las fotos no son automáticamente seguras solo por el hecho de haber superado la revisión de la tienda de aplicaciones. Si concedes a una de ellas acceso a tu galería de fotos, podrías estar entregando tus propias fotos, o las de tus amigos y familiares, a un servicio que podría hacer un uso indebido de ellas o permitir que otros lo hagan.
Antes de instalar una aplicación de fotografía con IA, comprueba qué permisos solicita, busca información sobre el desarrollador y averigua si algún informe independiente ha planteado dudas al respecto. No des por sentado que una aplicación es de confianza simplemente porque esté disponible en una tienda de aplicaciones oficial. Y se aplican nuestras normas habituales sobre la publicación de imágenes tuyas o de las personas a tu cargo.
Si esta historia te ha despertado el interés, puedes conocer más detalles sobre el trabajo de Chiu en nuestro Malwarebytes del mes pasado, en el que se vuelve a emitir la entrevista que el equipo le realizó en 2024.
Los estafadores saben más de ti de lo que crees.
Malwarebytes Mobile Security teMobile Security contra el phishing, los mensajes de texto fraudulentos, los sitios web maliciosos y mucho más. Con Scam Guard, una función integrada basada en inteligencia artificial que opera en tiempo real.
