É de se esperar encontrar todos os tipos de aplicativos na App Store da Apple e na Play Store do Google, desde aplicativos de previsão do tempo até aplicativos de automação residencial e jogos. O que talvez você não espere são aplicativos capazes de criar imagens de nudez sem o consentimento das pessoas a partir de fotos comuns. Mas eles existem, e a cidade de São Francisco já está farta disso.
Em 17 de julho de 2026, o procurador municipal de São Francisco, David Chiu, enviou cartas de intimação à Apple e ao Google, citando 13 aplicativos de troca de rostos e de “nudificação” (oito na App Store e cinco no Google Play) e dando às empresas 28 dias para removê-los e cortar laços com os desenvolvedores.
As cartas não surgem do nada.
Trata-se de sistemas de pagamento, não de moderação de conteúdo
Chiu não está argumentando que hospedar um aplicativo automaticamente torna uma plataforma responsável pelo que ele faz. Os operadores de plataformas já venceram essa batalha com a Seção 230 da Lei de Decência nas Comunicações. Essa lei, que já tem 30 anos, estabelece que os sites, em geral, não são responsáveis pelo conteúdo postado pelos usuários, permitindo que as plataformas hospedem conteúdo gerado por usuários sem serem processadas toda vez que alguém difama outra pessoa em uma sequência de comentários.
Os tribunais têm frequentemente estendido essas proteções para abranger também as lojas de aplicativos. A Apple e o Google são tratados como distribuidores de tudo o que um desenvolvedor terceirizado publica, e não como editores.
Chiu está tentando contornar esse argumento, concentrando-se nos sistemas de pagamento das empresas e observando que a Apple e o Google recebem uma comissão sobre cada compra dentro dos aplicativos. De acordo com o Tech Transparency Project (TTP), isso significa que elas lucram com aplicativos que geram receita por meio da criação de imagens íntimas sem o consentimento das pessoas.
Ele não carece de evidências. Em janeiro, o TTP contabilizou 55 aplicativos de “nudificação” na App Store e 47 no Google Play. Em uma análise de acompanhamento realizada em abril, os pesquisadores utilizaram deliberadamente termos de busca como “nudify” e “deepnude”. Eles encontraram 46 aplicativos na App Store da Apple e 49 no Google Play. Aproximadamente 40% dos resultados de busca nas lojas permitiam que os usuários “despissem” mulheres, e quase um em cada três foi classificado como adequado para menores.
Embora muitos desses aplicativos sejam divulgados por meio de imagens de mulheres, qualquer pessoa pode se tornar vítima de imagens íntimas sem consentimento.
A organização sem fins lucrativos estimou que os aplicativos em seu conjunto de dados haviam sido baixados 483 milhões de vezes e gerado mais de US$ 122 milhões em receita acumulada. Seu veredicto sobre a Apple e o Google foi direto:
“principais participantes na disseminação de ferramentas de IA capazes de transformar pessoas reais em imagens sexualizadas.”
As cartas de Chiu refletem essas conclusões, acusando ambas as empresas de
“facilitar conscientemente ou auxiliar de forma imprudente a venda dessas imagens ao hospedar os aplicativos e administrar as compras dentro dos aplicativos”.
Ele também pode se basear na legislação da Califórnia. Uma lei estadual de 2025 na Califórnia ampliou a responsabilidade potencial das entidades que facilitam a criação ou a distribuição de deepfakes de conteúdo sexualmente explícito. As multas civis podem chegar a US$ 25.000 por infração. Isso é grave para empresas que realizam milhões de transações por ano.
As plataformas tomaram algumas medidas, mas não foram suficientes
Chiu está fazendo mais do que apenas testar a Apple e o Google. Seu escritório já dedicou os anos de 2024 e 2025 a investigar 16 dos sites deepfake mais visitados, o que resultou em acordos judiciais e no fechamento desses sites. Trata-se do mesmo escritório, utilizando a mesma estratégia, agora contra alvos maiores.
A resposta da Apple foi parcial. O porta-voz Adam Dema disse à WIRED que a empresa removeu três dos aplicativos sinalizados e começou a encerrar as contas dos desenvolvedores associadas. Com isso, 10 dos 13 aplicativos ainda estão disponíveis.
O porta-voz do Google, Dan Jackson, afirmou que a empresa já havia removido centenas de aplicativos com recursos de “nudificação” por violarem as políticas da Play Store.
Se os tribunais da Califórnia aceitarem a teoria da participação nos lucros, todos os outros procuradores municipais do estado terão um modelo a seguir. A posição de longa data das lojas de aplicativos de que são distribuidoras neutras, e não participantes comerciais, perde força sempre que um estado possui leis de proteção ao consumidor que abrangem a infraestrutura de pagamentos.
O que isso significa para o resto de nós
Para os consumidores, o funcionamento desses aplicativos é mais importante do que os processos judiciais. Aplicativos de troca de rostos e efeitos fotográficos não são automaticamente seguros só porque foram aprovados na avaliação da loja. Ao conceder acesso ao seu rolo da câmera a um deles, você pode estar entregando suas próprias fotos — ou as de amigos e familiares — a um serviço que poderia usá-las indevidamente ou permitir que outros o fizessem.
Antes de instalar um aplicativo de fotos com IA, verifique quais permissões ele solicita, pesquise sobre o desenvolvedor e veja se alguma reportagem independente levantou preocupações a respeito dele. Não presuma que um aplicativo seja confiável simplesmente porque está disponível em uma loja oficial de aplicativos. E nossas regras habituais se aplicam à publicação de imagens suas ou de pessoas sob seus cuidados.
Se essa matéria despertou seu interesse, você pode saber mais sobre o trabalho de Chiu em nosso Malwarebytes do mês passado, que traz uma reprise da entrevista que a equipe fez com ele em 2024.
Os golpistas sabem mais sobre você do que você imagina.
Mobile Security Malwarebytes Mobile Security você contra phishing, mensagens de texto fraudulentas, sites maliciosos e muito mais. Com o Scam Guard integrado, alimentado por IA e em tempo real.
