Esta semana, no podcast Lock and Code...
Em maio do ano passado, um alerta sobre a IA surgiu de um lugar inesperado: o Museu Estadual de Auschwitz-Birkenau.
Em uma publicação nas redes sociais, o museu alertou sobre uma Facebook que utilizava IA generativa para criar imagens falsas de pessoas que morreram no Holocausto. Apesar de usar IA para gerar imagens falsas, as pessoas retratadas nessas imagens eram, em alguns casos, reais. Elas tinham nomes reais, locais de nascimento e histórias de deportação que o próprio Museu Estadual de Auschwitz-Birkenau havia compartilhado anteriormente. Tinham rostos reais capturados em fotografias autênticas que sobreviveram, as quais provavelmente foram utilizadas indevidamente para gerar as imagens falsas.
Em outras palavras, alguém — ou um grupo de pessoas na internet — estava criando um deepfake sobre o Holocausto.
Conforme publicou o museu de Auschwitz na internet:
“Estas não são fotos reais das vítimas. São criações digitais, muitas vezes estilizadas ou suavizadas, que correm o risco de transformar a memória em uma representação ficcional. A história de Auschwitz é um relato bem documentado. Alterar seu registro visual com imagens geradas por IA introduz distorções, independentemente da intenção.”
Meses depois, o público descobriu qual era essa intenção: dinheiro.
Uma investigação da BBC descobriu uma rede internacional de Facebook que publicam imagens geradas por IA para lucrar com a potencial viralidade dessas imagens. Trata-se de um problema às vezes chamado de “AI slop”, mas que traz um grande incentivo. Quando as contas que produzem esse tipo de imagem são convidadas para o programa de monetização de conteúdo Facebook, elas podem ganhar US$ 1.000 por mês apenas por publicar qualquer coisa que gere cliques.
E, no Facebook, segundo a BBC, isso significa que várias contas estão publicando imagens geradas por IA sobre o Holocausto. Conforme relatou a BBC:
“Spammers que utilizam IA publicaram imagens falsas que supostamente foram tiradas dentro de [Auschwitz], como um prisioneiro tocando violino ou um casal se encontrando junto às cercas — atraindo dezenas de milhares de curtidas e compartilhamentos.”
Hoje em dia, a economia da mentira é uma realidade concreta. As pessoas podem usar a IA para criar imagens falsas que fazem com que as pessoas se sintam bem em relação a coisas terríveis ou com medo de coisas que não são verdadeiras, e podem ganhar dinheiro até serem bloqueadas pelas próprias plataformas das grandes empresas de tecnologia, o que, neste caso, só aconteceu graças à investigação da BBC. Na verdade, foi esse tipo de inércia das plataformas de mídia social que levou o governo alemão e várias instituições de memória do Holocausto a enviar uma carta aberta no início deste ano, solicitando melhores controles e restrições contra esse tipo de conteúdo.
Como os signatários alertaram em sua carta, o incentivo econômico para que essas narrativas distorçam a história representa um risco grande demais para ser ignorado. Você pode ler a carta na íntegra aqui.
Hoje, no podcast “Lock and Code”, apresentado por David Ruiz, conversamos com Clara Mansfeld, historiadora que trabalha com comunicações digitais em uma das instituições signatárias da carta aberta: a Fundação dos Memoriais e Centros de Aprendizagem de Hamburgo em Memória das Vítimas dos Crimes Nazistas. Na conversa, Mansfeld aborda o acesso digital à história, a manipulação de registros factuais por meio de imagens geradas por IA e a ameaça que a sociedade enfrenta quando se torna mais difícil avaliar a verdade.
“O que acontece quando o primeiro pensamento que nos vem à cabeça ao ver qualquer imagem histórica é: ‘Isso é real mesmo ou é IA?’ Acho que ainda não compreendemos de verdade o que isso significa para nós como sociedade.”
Sintonize hoje para ouvir a conversa completa.
Mostrar notas e créditos:
Música de introdução: “Spellbound” por Kevin MacLeod (incompetech.com)
Licenciada sob Creative Commons: Por Atribuição 4.0 Licença
http://creativecommons.org/licenses/by/4.0/
Música de encerramento: “Good God” por Wowa (unminus.com)
Preste atenção:Malwarebytes a falar sobre segurança cibernética, nós a fornecemos.
Proteja-se contra ataques online que ameaçam sua identidade, seus arquivos, seu sistema e seu bem-estar financeiro com nossaoferta exclusiva do Malwarebytes Premium para os ouvintes do Lock and Code.
