Esta semana, no podcast Lock and Code...
Em maio do ano passado, surgiu um alerta sobre a IA de uma fonte inesperada: o Museu Estatal de Auschwitz-Birkenau.
Numa publicação nas redes sociais, o museu alertou para um Facebook Uma conta utiliza inteligência artificial generativa para criar imagens falsas de pessoas que morreram no Holocausto. Apesar da utilização da IA para gerar imagens falsas, as pessoas nessas imagens eram, por vezes, reais. Tinham nomes reais, locais de nascimento e histórias de deportação que o próprio Museu Estatal de Auschwitz-Birkenau já tinha partilhado. Os seus rostos eram reais, captados em fotografias reais que sobreviveram ao tempo, as quais foram provavelmente manipuladas para gerar as imagens falsas.
Por outras palavras, alguém, ou um grupo de pessoas na Internet, estava a criar um deepfake sobre o Holocausto.
Como o museu de Auschwitz escreveu na sua página online:
«Estas não são fotografias reais das vítimas. Trata-se de criações digitais, muitas vezes estilizadas ou suavizadas, que correm o risco de transformar a memória numa representação ficcional. A história de Auschwitz é um relato bem documentado. Alterar o seu registo visual com imagens geradas por IA introduz distorções, independentemente da intenção.»
Meses mais tarde, o público descobriu qual era essa intenção: dinheiro.
Uma investigação da BBC descobriu uma rede internacional de Facebook Contas que publicam imagens geradas por IA para ganhar dinheiro com a potencial viralização dessas imagens. É um problema por vezes chamado de "lixo da IA", mas que vem com um grande incentivo. Quando as contas que criam este tipo de imagens são convidadas a Facebook Com o programa de monetização de conteúdos da [nome da empresa], podem ganhar 1.000 dólares por mês por publicar qualquer coisa que receba cliques.
E em Facebook Segundo a BBC, isto significa que várias contas publicaram imagens geradas por inteligência artificial sobre o Holocausto. Conforme noticiado pela BBC:
«Os spammers que utilizam IA publicaram imagens falsas que supostamente foram tiradas no interior de [Auschwitz], como um prisioneiro a tocar violino ou um casal a encontrar-se junto às grades da cerca — atraindo dezenas de milhares de gostos e partilhas.»
Hoje em dia, a economia da mentira é uma realidade concreta. As pessoas podem recorrer à IA para criar imagens falsas que levam as pessoas a sentir-se bem em relação a coisas terríveis ou a sentir medo de coisas que não são verdadeiras, e podem ganhar dinheiro até serem bloqueadas pelas próprias plataformas das grandes empresas tecnológicas, o que, neste caso, só aconteceu devido à investigação da BBC. Na verdade, foi esse tipo de inação por parte das plataformas de redes sociais que levou o governo alemão e várias instituições de memória do Holocausto a enviar uma carta aberta no início deste ano, solicitando melhores controlos e restrições contra este tipo de conteúdo.
Tal como os signatários alertaram na sua carta, o incentivo económico para que estas narrativas distorçam a história representa um risco demasiado elevado para ser permitido. Pode ler a carta na íntegra aqui.
Hoje, no podcast «Lock and Code», apresentado por David Ruiz, conversamos com Clara Mansfeld, uma historiadora que trabalha na área das comunicações digitais numa das instituições signatárias da carta aberta — a Fundação dos Memorials e Centros de Aprendizagem de Hamburgo em Memória das Vítimas dos Crimes Nazis. Na conversa, Mansfeld aborda o acesso digital à história, a manipulação de registos factuais através de imagens geradas por IA e a ameaça que a sociedade enfrenta quando se torna mais difícil avaliar a verdade.
«O que acontece quando o primeiro pensamento que nos ocorre ao ver qualquer imagem histórica é: “Será que isto é mesmo real ou é IA?” Acho que ainda não compreendemos bem o que isso significa para nós, enquanto sociedade.»
Sintonize hoje para ouvir a conversa completa.
Mostrar notas e créditos:
Música de introdução: “Spellbound” por Kevin MacLeod (incompetech.com)
Licenciada sob Creative Commons: Por Atribuição 4.0 Licença
http://creativecommons.org/licenses/by/4.0/
Música de encerramento: “Good God” por Wowa (unminus.com)
Escutem bem— Malwarebytes Não falamos apenas sobre cibersegurança, nós fornecemo-la.
Proteja-se contra ataques online que ameaçam a sua identidade, os seus ficheiros, o seu sistema e o seu bem-estar financeiro com a nossa oferta exclusiva do Malwarebytes Premium Security para utilizadores do Lock and Code .
