Um lembrete para quem pensa que os seus chats com IA são privados: um humano pode ver o que publicam. Uma reportagem da 404 Media desta semana descreve terceiros a rever fotos de utilizadores do Copilot, pedidos de edição e as imagens produzidas pelo Copilot. Algumas das imagens que veem são perturbadoras.
As empresas externas contratadas para realizar estas revisões apresentam aos seus colaboradores uma foto original e um pedido de edição feito por um utilizador. Também visualizam duas possíveis edições feitas por IA e é-lhes pedido que avaliem cada uma com base nos seus méritos técnicos. Como se trata da internet, isto vai muito além dos pedidos para colocar o seu gato num fato de Halloween. Muitos dos pedidos são de natureza sexual e alguns envolvem crianças, segundo o relatório. Os rostos nas fotos originais não são censurados, o que significa que os revisores podem ver quem são as pessoas retratadas.
Os pedidos de edição e os resultados que os revisores são solicitados a avaliar incluem pedidos para encurtar saias, aumentar partes do corpo e colocar pessoas em posições sexuais. Em muitos casos, as edições parecem não ter sido consensuais. Por exemplo, um contratado referiu ter visto vários conjuntos de fotografias tiradas por baixo da saia. Outro disse que lhe foi pedido para avaliar imagens de fetiche de pés de personagens de desenhos animados infantis. Os utilizadores pediram à Copilot para criar fotos de Ariana Grande a sofrer de anorexia. Imagens que retratam sacrifícios de animais chegaram à secretária de um revisor.
Os inquiridos disseram à 404 Media que os contratados são pagos para avaliar a qualidade da imagem produzida, mas não para sinalizar conteúdo inadequado. Verificam aspetos como se as instruções foram seguidas corretamente, se partes da imagem foram preservadas ou distorcidas e o aspeto geral da imagem. Não fazem julgamentos legais ou de segurança sobre o conteúdo.
A Microsoft utiliza os dados dos clientes de algumas contas para ajudar a melhorar os seus produtos. Mas, quando questionada pela 404 Media, a empresa não informou se os utilizadores podem eliminar os uploads destas tarefas de avaliação.
Nas suas Perguntas Frequentes Privacy para a versão antiga do Copilot, a Microsoft afirma que mantém as conversas durante 18 meses por defeito, embora os utilizadores possam apagá-las a qualquer momento. A empresa afirma ainda que pode utilizar dados, "incluindo as imagens ou ficheiros que carrega", para treino de IA. Os utilizadores elegíveis podem optar por não participar na formação, mas as Perguntas Frequentes indicam que não é possível optar por não participar em determinadas avaliações humanas. Não especifica se isto inclui as tarefas de classificação de imagens descritas pela 404 Media.
A Microsoft afirma que a aplicação Copilot para consumidores, atualizada e disponível desde 18 de agosto, não utiliza avisos, respostas ou conteúdo de ficheiros enviados para treinar modelos básicos. Isto deixa ainda em aberto a questão que a 404 Media colocou à Microsoft: podem os utilizadores impedir que os seus ficheiros enviados sejam analisados por humanos?
Problemas anteriores de imagem da Copilot
Fontes internas da Microsoft já alertaram para a propensão do Copilot para produzir imagens questionáveis no passado.
No início de 2024, o engenheiro de aprendizagem automática Shane Jones tornou públicas as suas preocupações sobre a possibilidade de contornar as medidas de segurança da ferramenta de conversão de texto em imagem do software, o DALL-E 3. Já tinha solicitado à empresa que retirasse o Copilot Designer, que utilizava a ferramenta, do uso público durante três meses, mas afirmou que a Microsoft recusou. Na altura, declarou à CNBC que a equipa de feedback recebia diariamente mais de mil mensagens de feedback sobre o produto e só lidava com as mais graves.
Ao mesmo tempo que isto acontecia, a Microsoft corrigiu uma falha no Copilot Designer que permitia a alguém criar deepfakes íntimos não consensuais de Taylor Swift .
A Microsoft não é a única empresa que contrata terceiros para rever conversas com IA. A OpenAI faz o mesmo no âmbito da sua iniciativa Project Lily . Se quiser mais informações sobre como os assistentes de IA utilizam os seus dados de conversação para se melhorarem e o que pode fazer para os impedir, leia Malwarebytes Guia para formação de IA com base no conteúdo do utilizador.
Desde a denúncia de ameaças até à sua remoção.
Os riscos de cibersegurança nunca se devem propagar para além de uma manchete. Mantenha as ameaças longe dos seus dispositivos descarregando Malwarebytes hoje mesmo.
