En la App Store de Apple y en Google Play Store se encuentran todo tipo de aplicaciones, desde monitores meteorológicos hasta aplicaciones de domótica y juegos. Lo que quizás no se espere son aplicaciones que puedan crear imágenes de desnudos sin consentimiento a partir de fotos comunes. Pero existen, y la ciudad de San Francisco ya está harta.
El 17 de julio de 2026, el fiscal de la ciudad de San Francisco, David Chiu, envió cartas de cese y desistimiento a Apple y Google, nombrando 13 aplicaciones de intercambio de rostros y de "desnudez" (ocho en la App Store y cinco en Google Play) y dando a las empresas 28 días para eliminarlas y cortar lazos con los desarrolladores.
Las cartas no aparecen de la nada.
Se trata de sistemas de pago, no de moderación de contenido.
Chiu no argumenta que alojar una aplicación automáticamente haga responsable a una plataforma por sus acciones. Los operadores de plataformas ya ganaron esa batalla con la Sección 230 de la Ley de Decencia en las Comunicaciones. Esta ley, vigente desde hace 30 años, establece que los sitios web generalmente no son responsables del contenido publicado por los usuarios, lo que permite a las plataformas alojar contenido generado por los usuarios sin ser demandadas cada vez que alguien difama a otra persona en un hilo de comentarios.
Los tribunales a menudo han extendido esas protecciones para que también abarquen las tiendas de aplicaciones. Apple y Google son consideradas distribuidoras de todo lo que un desarrollador externo sube, en lugar de editoras.
Chiu intenta eludir ese argumento centrándose en los sistemas de pago de las empresas, señalando que Apple y Google se llevan una comisión por cada compra dentro de las aplicaciones. Según el Tech Transparency Project (TTP), esto significa que obtienen beneficios de las aplicaciones que generan ingresos mediante la creación de imágenes íntimas no consensuales.
No le faltan pruebas. En enero, el TTP contabilizó 55 aplicaciones de desnudez en la App Store y 47 en Google Play. En un seguimiento realizado en abril , los investigadores utilizaron deliberadamente términos de búsqueda como "desnudarse" y "desnudez profunda". Encontraron 46 aplicaciones en la App Store de Apple y 49 en Google Play. Aproximadamente el 40 % de los resultados de búsqueda en las tiendas permitían a los usuarios "desvestir" a mujeres, y casi una de cada tres estaba clasificada como apta para menores.
Aunque muchas de estas aplicaciones se comercializan utilizando imágenes de mujeres, cualquiera puede ser víctima de imágenes íntimas no consentidas.
La organización sin fines de lucro estimó que las aplicaciones en su conjunto de datos se habían descargado 483 millones de veces y habían generado más de 122 millones de dólares en ingresos a lo largo de su vida útil. Su veredicto sobre Apple y Google fue contundente:
“Participantes clave en la difusión de herramientas de IA que pueden convertir a personas reales en imágenes sexualizadas.”
Las cartas de Chiu reflejan estos hallazgos, acusando a ambas compañías de
“facilitar a sabiendas o ayudar imprudentemente a la venta de esas imágenes al alojar las aplicaciones y gestionar las compras dentro de las mismas”.
También puede ampararse en la legislación de California. Una ley estatal de California de 2025 amplió la responsabilidad potencial de las entidades que facilitan la creación o distribución de contenido sexualmente explícito. deepfakes Las sanciones civiles podrían alcanzar los 25.000 dólares por infracción. Esto es grave para las empresas que realizan millones de transacciones al año.
Las plataformas han tomado algunas medidas, pero no las suficientes.
Chiu está haciendo más que tantear el terreno con Apple y Google. Su oficina ya dedicó 2024 y 2025 a intentar alcanzar 16 de los más visitados. deepfake Sitios web de contenido explícito, que han derivado en acuerdos extrajudiciales y cierres. Se trata de la misma oficina, con la misma estrategia, pero contra objetivos de mayor envergadura.
La respuesta de Apple ha sido parcial. El portavoz Adam Dema declaró a WIRED que la compañía ha eliminado tres de las aplicaciones señaladas y ha comenzado a cancelar las cuentas de desarrollador asociadas. Esto deja 10 de las 13 aplicaciones aún disponibles.
El portavoz de Google, Dan Jackson, afirmó que la compañía ya había eliminado cientos de aplicaciones con funciones de desnudez por infringir las políticas de Play Store.
Si los tribunales de California aceptan la teoría del reparto de ingresos, todos los demás fiscales municipales del estado tendrán un modelo a seguir. La postura tradicional de las tiendas de aplicaciones, que se consideran distribuidores neutrales en lugar de participantes comerciales, se debilita en cualquier estado que cuente con leyes de protección al consumidor que abarquen la infraestructura de pagos.
Lo que esto significa para el resto de nosotros
Para los consumidores, el funcionamiento de estas aplicaciones es más importante que los litigios. Las aplicaciones de intercambio de rostros y efectos fotográficos no son automáticamente seguras solo porque hayan pasado la revisión de la tienda. Si le das acceso a tu galería de fotos, podrías estar entregando tus propias fotos, o las de tus amigos y familiares, a un servicio que podría hacer un mal uso de ellas o permitir que otros lo hagan.
Antes de instalar una aplicación de fotografía con IA, verifica los permisos que solicita, investiga al desarrollador y comprueba si informes independientes han generado inquietudes al respecto. No des por sentado que una aplicación es confiable solo porque esté disponible en una tienda de aplicaciones oficial. Además, se aplican nuestras normas habituales sobre la publicación de imágenes tuyas o de personas a tu cargo.
Si esta historia ha despertado tu interés, puedes escuchar más sobre el trabajo de Chiu en nuestro podcast Malwarebytes del mes pasado, que retransmite la entrevista que el equipo le realizó en 2024.
Los estafadores saben más de ti de lo que crees.
Malwarebytes Mobile Security Te protege del phishing, mensajes de texto fraudulentos, sitios web maliciosos y mucho más. Incluye protección anticams con inteligencia artificial en tiempo real.
