É normal encontrar todo o tipo de aplicações na App Store da Apple e na Play Store da Google, desde aplicações de previsão meteorológica a aplicações de automação doméstica e jogos. O que talvez não se espere são aplicações capazes de criar imagens de nudez sem consentimento a partir de fotografias comuns. Mas elas existem, e a Câmara Municipal de São Francisco já está farta.
A 17 de julho de 2026, o procurador municipal de São Francisco, David Chiu, enviou cartas de cessação e abstenção à Apple e à Google, indicando 13 aplicações de troca de rostos e de «nudificação» (oito na App Store e cinco no Google Play) e concedendo às empresas um prazo de 28 dias para as removerem e cortarem relações com os programadores.
As cartas não surgem do nada.
Trata-se de sistemas de pagamento, não de moderação de conteúdos
Chiu não está a argumentar que o facto de uma plataforma hospedar uma aplicação a torna automaticamente responsável pelo que esta faz. Os operadores das plataformas já ganharam essa batalha com a Secção 230 da Lei da Decência nas Comunicações. Essa lei, com 30 anos, estabelece que os sítios Web, em geral, não são responsáveis pelo conteúdo publicado pelos utilizadores, permitindo que as plataformas hospedem conteúdo gerado pelos utilizadores sem serem processadas sempre que alguém difame outra pessoa numa sequência de comentários.
Os tribunais têm frequentemente alargado essas proteções de modo a abranger também as lojas de aplicações. A Apple e a Google são consideradas distribuidoras de tudo o que um programador terceiro publica, em vez de editoras.
Chiu está a tentar contornar esse argumento, centrando-se nos sistemas de pagamento das empresas e salientando que a Apple e a Google recebem uma comissão sobre cada compra efetuada dentro das aplicações. De acordo com o Tech Transparency Project (TTP), isso significa que estas empresas lucram com aplicações que geram receitas através da criação de imagens íntimas sem o consentimento dos utilizadores.
Não lhe faltam provas. Em janeiro, o TTP contabilizou 55 aplicações de «nudificação» na App Store e 47 no Google Play. Numa análise de acompanhamento realizada em abril, os investigadores utilizaram deliberadamente termos de pesquisa como «nudify» e «deepnude». Encontraram 46 aplicações na App Store da Apple e 49 no Google Play. Cerca de 40% dos resultados de pesquisa das lojas permitiam aos utilizadores «despir» mulheres, e quase um em cada três estava classificado como adequado para menores.
Embora muitas destas aplicações sejam promovidas com imagens de mulheres, qualquer pessoa pode tornar-se vítima de imagens íntimas não consentidas.
A organização sem fins lucrativos estimou que as aplicações incluídas no seu conjunto de dados tinham sido descarregadas 483 milhões de vezes e gerado mais de 122 milhões de dólares em receitas ao longo da sua vida útil. O seu veredicto sobre a Apple e a Google foi contundente:
«principais intervenientes na disseminação de ferramentas de IA capazes de transformar pessoas reais em imagens sexualizadas.»
As cartas de Chiu refletem estas conclusões, acusando ambas as empresas de
«facilitar conscientemente ou auxiliar de forma imprudente a venda dessas imagens, ao hospedar as aplicações e gerir as compras dentro das aplicações».
Além disso, pode recorrer à legislação da Califórnia. Uma lei estadual da Califórnia de 2025 alargou a responsabilidade potencial das entidades que facilitam a criação ou a distribuição de deepfakes de conteúdo sexualmente explícito. As sanções civis podem atingir 25 000 dólares por infração. Trata-se de uma situação grave para empresas que realizam milhões de transações por ano.
As plataformas tomaram algumas medidas, mas não foram suficientes
Chiu está a fazer mais do que apenas testar as águas com a Apple e a Google. O seu gabinete já dedicou os anos de 2024 e 2025 a investigar 16 dos sites deepfake mais visitados, o que resultou em acordos judiciais e no encerramento desses sites. Trata-se do mesmo gabinete, a utilizar a mesma estratégia, agora contra alvos de maior dimensão.
A resposta da Apple foi parcial. O porta-voz Adam Dema disse à WIRED que a empresa removeu três das aplicações sinalizadas e começou a encerrar as contas dos programadores associadas. Isso significa que 10 das 13 continuam disponíveis.
O porta-voz da Google, Dan Jackson, afirmou que a empresa já tinha eliminado centenas de aplicações com funcionalidades de «nudificação» por violarem as regras da Play Store.
Se os tribunais da Califórnia aceitarem a teoria da partilha de receitas, todos os outros procuradores municipais do estado terão um modelo a seguir. A posição de longa data das lojas de aplicações, segundo a qual são distribuidores neutros e não participantes comerciais, fica comprometida sempre que um estado dispõe de legislação de proteção ao consumidor que abrange a infraestrutura de pagamentos.
O que isto significa para todos nós
Para os consumidores, o funcionamento destas aplicações é mais importante do que os litígios. As aplicações de troca de rostos e de efeitos fotográficos não são automaticamente seguras só porque foram aprovadas na revisão da loja. Se conceder acesso ao seu álbum de fotografias, poderá estar a entregar as suas próprias fotografias, ou as de amigos e familiares, a um serviço que poderá utilizá-las indevidamente ou permitir que outros o façam.
Antes de instalar uma aplicação de fotografia com IA, verifique quais as autorizações que esta solicita, pesquise o programador e veja se alguma reportagem independente levantou preocupações a respeito dela. Não presuma que uma aplicação é de confiança simplesmente por estar disponível numa loja de aplicações oficial. E aplicam-se as nossas regras habituais relativamente à publicação de imagens suas ou de pessoas ao seu cuidado.
Se esta história despertou o seu interesse, pode saber mais sobre o trabalho de Chiu no nosso Malwarebytes do mês passado, que retransmite a entrevista que a equipa fez com ele em 2024.
Os burlões sabem mais sobre si do que pensa.
Mobile Security Malwarebytes Mobile Security contra phishing, mensagens fraudulentas, sites maliciosos e muito mais. Com o Scam Guard integrado, alimentado por IA e em tempo real.
