O fracasso da Grok em bloquear imagens sexualizadas de menores transformou um único «lapso isolado» num teste de resistência regulatório global para as ambições da xAI. A resposta dos legisladores e reguladores sugere que isso não será resolvido com um pedido de desculpas rápido e uma correção imediata.
Na semana passada, noticiámos o pedido de desculpas da Grok depois de ter gerado uma imagem de raparigas jovens com «vestuário sexualizado».
O pedido de desculpas ocorreu após o lançamento do "Spicy Mode" pago pelo Grok em agosto de 2025, que foi comercializado como ousado e menos censurado. Na prática, permitiu aos utilizadores gerar imagens deepfake conteúdo sexual, incluindo conteúdo que pode ser considerado material ilegal de abuso sexual de crianças (CSAM, na sigla em inglês) de acordo com as leis dos EUA e de outras jurisdições.
Um relatório da ferramenta de monitoramento da web CopyLeaks destacou “milhares” de incidentes em que o Grok foi usado para criar imagens sexualmente sugestivas de celebridades sem o seu consentimento.
Isto está a começar a ter um efeito contrário. Segundo consta , três senadores norte-americanos estão a pedir à Google e à Apple que removam o Grok, aplicação criada por Elon Musk. X aplicações das suas lojas de aplicações, citando a disseminação de imagens de IA sexualizadas e não consensuais de mulheres e menores, e argumentando que isso viola as regras das lojas de aplicações das empresas.
Na carta conjunta, os senadores afirmam:
“Nos últimos dias, X Os utilizadores têm utilizado a ferramenta de IA Grok da aplicação para gerar imagens sexuais não consensuais de cidadãos reais em larga escala. Esta tendência inclui a modificação de imagens pelo Grok para retratar mulheres a serem abusadas sexualmente, humilhadas, feridas e até mortas. Em alguns casos, o Grok terá criado imagens sexualizadas de crianças — o tipo de conteúdo mais hediondo imaginável.
O governo do Reino Unido também ameaça tomar medidas contra a plataforma. As autoridades governamentais afirmaram que apoiariam integralmente qualquer ação tomada pela Ofcom, a agência reguladora independente dos meios de comunicação social, contra a empresa. X Mesmo que isso significasse que os reguladores do Reino Unido poderiam bloquear a plataforma.
A Indonésia e a Malásia já bloquearam o Grok depois que a sua função de «despir digitalmente» inundou a internet com imagens manipuladas sugestivas e obscenas de mulheres e menores.
Acontece que um utilizador levou o Grok a gerar o seu próprio "pedido de desculpas", o que foi feito. Após a repercussão negativa sobre as imagens sexualizadas de mulheres e menores, o Grok/ X Anunciaram-se limites na geração e edição de imagens, disponíveis apenas para assinantes pagantes, o que torna, efetivamente, estas funcionalidades exclusivas para assinantes pagos. X superfícies.
Para os legisladores já preocupados com a desinformação e a interferência eleitoral, deepfakes e imagens abusivas, o Grok está rapidamente a tornar-se o exemplo clássico de porque é que " agir rápido e partir coisas " não combina com a IA que pode sexualizar pessoas reais a pedido.
Esperamos que a próxima onda de regras, que vão desde a aplicação da IA da UE até obrigações de segurança específicas para plataformas, trate este incidente como o risco básico que todos os modelos visuais de grande escala devem suportar, e não como um caso isolado.
Mantenha os seus filhos seguros
Se alguma vez se perguntou por que os pais publicam imagens dos seus filhos com um sorriso estampado no rosto, esta é a razão.
Não facilite para que estranhos copiem, reutilizem ou manipulem as suas fotos.
Este incidente é mais um motivo convincente para reduzir a sua pegada digital. Pense cuidadosamente antes de publicar fotos suas, dos seus filhos ou outras informações confidenciais em contas públicas nas redes sociais.
E trate tudo o que vê online — imagens, vozes, texto — como potencialmente gerado por IA, a menos que possa ser verificado de forma independente. Eles não são usados apenas para influenciar opiniões, mas também para solicitar dinheiro, extrair informações pessoais ou criar material abusivo.
Os burlões não precisam de invadir o seu computador. Basta que clique uma vez.
A Proteção Theft Identity Malwarebytes deteta atividades suspeitas antes que se tornem um problema.
