Um lembrete para quem pensa que seus chats com IA são privados: um humano pode ver o que eles publicam. Uma reportagem da 404 Media desta semana descreve terceirizados revisando fotos de usuários do Copilot, solicitações de edição e as imagens produzidas pelo Copilot. Algumas das imagens que eles veem são perturbadoras.
As empresas terceirizadas contratadas para realizar essas revisões apresentam aos seus funcionários uma foto original e um pedido de edição feito por um usuário. Eles também visualizam duas possíveis edições feitas por IA e são solicitados a avaliar cada uma com base em seus méritos técnicos. Como se trata da internet, isso vai muito além de pedidos para colocar seu gato em uma fantasia de Halloween. Muitos dos pedidos são de natureza sexual e alguns envolvem crianças, segundo o relatório. Os rostos nas fotos originais não são censurados, o que significa que os revisores podem ver quem são as pessoas retratadas.
Os pedidos de edição e os resultados que os revisores são solicitados a avaliar incluem pedidos para encurtar saias, aumentar partes do corpo e colocar pessoas em posições sexuais. Em muitos casos, as edições parecem não ter sido consensuais. Por exemplo, um contratado mencionou ter visto vários conjuntos de fotos tiradas por baixo da saia. Outro disse que foi solicitado a avaliar imagens de fetiche de pés de personagens de desenhos animados infantis. Usuários pediram à Copilot para criar fotos de Ariana Grande sofrendo de anorexia. Imagens que retratam sacrifícios de animais chegaram à mesa de um revisor.
Os entrevistados disseram à 404 Media que os contratados são pagos para avaliar a qualidade da imagem produzida, mas não para sinalizar conteúdo inadequado. Eles verificam aspectos como se as instruções foram seguidas corretamente, se partes da imagem foram preservadas ou distorcidas e a aparência geral da imagem. Eles não fazem julgamentos legais ou de segurança sobre o conteúdo.
A Microsoft utiliza dados de clientes de algumas contas para ajudar a melhorar seus produtos. Mas, quando questionada pela 404 Media, a empresa não informou se os usuários podem excluir uploads dessas tarefas de avaliação.
Em suas Perguntas Frequentes Privacy para a versão antiga do Copilot, a Microsoft afirma que mantém as conversas por 18 meses por padrão, embora os usuários possam excluí-las a qualquer momento. A empresa também afirma que pode usar dados, "incluindo as imagens ou arquivos que você carrega", para treinamento de IA. Usuários elegíveis podem optar por não participar do treinamento, mas as Perguntas Frequentes indicam que não é possível optar por não participar de certas avaliações humanas. Não especifica se isso inclui as tarefas de classificação de imagens descritas pela 404 Media.
A Microsoft afirma que o aplicativo Copilot para consumidores, atualizado e disponível desde 18 de agosto, não utiliza avisos, respostas ou conteúdo de arquivos enviados para treinar modelos básicos. Isso ainda deixa em aberto a questão que a 404 Media colocou à Microsoft: os usuários podem impedir que seus arquivos enviados sejam analisados por humanos?
Problemas anteriores de imagem da Copilot
Fontes internas da Microsoft já alertaram sobre a propensão do Copilot em produzir imagens questionáveis no passado.
No início de 2024, o engenheiro de aprendizado de máquina Shane Jones tornou públicas suas preocupações sobre a possibilidade de burlar as medidas de segurança da ferramenta de conversão de texto em imagem do software, o DALL-E 3. Ele já havia solicitado à empresa que removesse o Copilot Designer, que utilizava a ferramenta, do uso público por três meses, mas afirmou que a Microsoft se recusou. Na época, ele declarou à CNBC que a equipe de feedback recebia mais de mil mensagens de feedback sobre o produto diariamente e só lidava com as mais graves.
Ao mesmo tempo em que isso acontecia, a Microsoft corrigiu uma falha no Copilot Designer que permitia a alguém criar deepfakes íntimos não consensuais de Taylor Swift .
A Microsoft não é a única empresa que contrata terceirizados para revisar conversas com IA. A OpenAI faz o mesmo como parte de sua iniciativa Project Lily . Se você quiser mais informações sobre como os assistentes de IA usam seus dados de conversa para se aprimorarem e o que você pode fazer para impedi-los, leia Malwarebytes Guia para treinamento de IA com base em conteúdo do usuário.
Desde a denúncia de ameaças até a sua remoção.
Os riscos de segurança cibernética nunca devem se espalhar além de uma manchete. Mantenha as ameaças longe de seus dispositivos fazendo o download Malwarebytes hoje mesmo.
