Esta semana, no podcast Lock and Code...
Em maio do ano passado, surgiu um alerta sobre a IA de uma fonte inesperada: o Museu Estatal de Auschwitz-Birkenau.
Numa publicação nas redes sociais, o museu alertou para a existência de Facebook que utilizava IA generativa para criar imagens falsas de pessoas que morreram no Holocausto. Apesar de se recorrer à IA para gerar imagens falsas, as pessoas retratadas nessas imagens eram, por vezes, reais. Tinham nomes reais, locais de nascimento e histórias de deportação que o próprio Museu Estatal de Auschwitz-Birkenau já tinha partilhado anteriormente. Tinham rostos reais captados em fotografias autênticas que sobreviveram, as quais foram provavelmente utilizadas indevidamente para gerar as imagens falsas.
Por outras palavras, alguém, ou um grupo de pessoas na Internet, estava a criar um deepfake sobre o Holocausto.
Como o museu de Auschwitz escreveu na sua página online:
«Estas não são fotografias reais das vítimas. Trata-se de criações digitais, muitas vezes estilizadas ou suavizadas, que correm o risco de transformar a memória numa representação ficcional. A história de Auschwitz é um relato bem documentado. Alterar o seu registo visual com imagens geradas por IA introduz distorções, independentemente da intenção.»
Meses mais tarde, o público descobriu qual era essa intenção: dinheiro.
Uma investigação da BBC descobriu uma rede internacional de Facebook que publicam imagens geradas por IA para lucrar com a potencial viralidade dessas imagens. Trata-se de um problema por vezes designado por «AI slop», mas que apresenta um grande incentivo. Quando as contas que criam este tipo de imagens são convidadas a aderir ao programa de monetização de conteúdos Facebook, podem ganhar 1 000 dólares por mês apenas por publicarem qualquer conteúdo que gere cliques.
E no Facebook, segundo a BBC, isso significa que várias contas publicam imagens geradas por IA sobre o Holocausto. Como noticiou a BBC:
«Os spammers que utilizam IA publicaram imagens falsas que supostamente foram tiradas no interior de [Auschwitz], como um prisioneiro a tocar violino ou um casal a encontrar-se junto às grades da cerca — atraindo dezenas de milhares de gostos e partilhas.»
Hoje em dia, a economia da mentira é uma realidade concreta. As pessoas podem recorrer à IA para criar imagens falsas que levam as pessoas a sentir-se bem em relação a coisas terríveis ou a sentir medo de coisas que não são verdadeiras, e podem ganhar dinheiro até serem bloqueadas pelas próprias plataformas das grandes empresas tecnológicas, o que, neste caso, só aconteceu devido à investigação da BBC. Na verdade, foi esse tipo de inação por parte das plataformas de redes sociais que levou o governo alemão e várias instituições de memória do Holocausto a enviar uma carta aberta no início deste ano, solicitando melhores controlos e restrições contra este tipo de conteúdo.
Tal como os signatários alertaram na sua carta, o incentivo económico para que estas narrativas distorçam a história representa um risco demasiado elevado para ser permitido. Pode ler a carta na íntegra aqui.
Hoje, no podcast «Lock and Code», apresentado por David Ruiz, conversamos com Clara Mansfeld, uma historiadora que trabalha na área das comunicações digitais numa das instituições signatárias da carta aberta — a Fundação dos Memorials e Centros de Aprendizagem de Hamburgo em Memória das Vítimas dos Crimes Nazis. Na conversa, Mansfeld aborda o acesso digital à história, a manipulação de registos factuais através de imagens geradas por IA e a ameaça que a sociedade enfrenta quando se torna mais difícil avaliar a verdade.
«O que acontece quando o primeiro pensamento que nos ocorre ao ver qualquer imagem histórica é: “Será que isto é mesmo real ou é IA?” Acho que ainda não compreendemos bem o que isso significa para nós, enquanto sociedade.»
Sintonize hoje para ouvir a conversa completa.
Mostrar notas e créditos:
Música de introdução: “Spellbound” por Kevin MacLeod (incompetech.com)
Licenciada sob Creative Commons: Por Atribuição 4.0 Licença
http://creativecommons.org/licenses/by/4.0/
Música de encerramento: “Good God” por Wowa (unminus.com)
Ouça bem:Malwarebytes fala apenas sobre segurança cibernética, nós a fornecemos.
Proteja-se contra ataques online que ameaçam a sua identidade, os seus ficheiros, o seu sistema e o seu bem-estar financeiro coma nossaoferta exclusiva do Malwarebytes Premium para os ouvintes do Lock and Code.
