Esta semana en el podcast Lock and Code...
En mayo del año pasado, llegó una advertencia sobre la IA desde un lugar inesperado: el Museo Estatal de Auschwitz-Birkenau.
En una publicación en las redes sociales, el museo advirtió sobre una Facebook que utilizaba IA generativa para crear imágenes falsas de personas fallecidas en el Holocausto. A pesar de que se utilizaba IA para generar imágenes falsas, las personas que aparecían en ellas eran, en algunos casos, reales. Tenían nombres, lugares de nacimiento e historias de deportación reales que el propio Museo Estatal de Auschwitz-Birkenau había compartido anteriormente. Sus rostros, captados en fotografías auténticas que se conservan, fueron probablemente objeto de uso indebido para generar las imágenes falsas.
En otras palabras, alguien, o un grupo de personas en Internet, estaba creando un «deepfake» del Holocausto.
Tal y como publicó el museo de Auschwitz en su página web:
«Estas no son fotos reales de las víctimas. Se trata de creaciones digitales, a menudo estilizadas o edulcoradas, que corren el riesgo de convertir el recuerdo en una representación ficticia. La historia de Auschwitz es un relato bien documentado. Alterar su registro visual con imágenes generadas por IA introduce distorsiones, independientemente de la intención».
Meses después, el público descubrió cuál era esa intención: el dinero.
Una investigación de la BBC ha descubierto una red internacional de Facebook que publican imágenes generadas por IA para sacar provecho económico de su potencial viralidad. Se trata de un problema que a veces se conoce como «basura de IA», pero que cuenta con un gran aliciente: cuando las cuentas que crean este tipo de imágenes son invitadas al programa de monetización de contenidos Facebook, pueden ganar 1.000 dólares al mes por publicar cualquier cosa que genere clics.
Y, según descubrió la BBC, en Facebook esto se traduce en varias cuentas que publican imágenes generadas por IA sobre el Holocausto. Tal y como informó la BBC:
«Los spammers que utilizan la IA han publicado imágenes falsas que pretenden mostrar el interior de [Auschwitz], como un prisionero tocando el violín o una pareja de enamorados encontrándose junto a las vallas, lo que ha generado decenas de miles de «me gusta» y compartidos».
Hoy en día, los beneficios económicos de la mentira son muy tangibles. La gente puede utilizar la inteligencia artificial para crear imágenes falsas que hagan que las personas se sientan bien ante situaciones terribles o que les provoquen miedo ante cosas que no son ciertas, y pueden ganar dinero hasta que las propias plataformas tecnológicas las cierren, lo cual, en este caso, solo ocurrió gracias a la investigación de la BBC. De hecho, fue precisamente esa inacción por parte de las plataformas de redes sociales lo que llevó al Gobierno alemán y a múltiples instituciones conmemorativas del Holocausto a enviar una carta abierta a principios de este año en la que se pedían mejores controles y restricciones contra este tipo de contenido.
Tal y como advirtieron los firmantes en su carta, el interés económico que tienen estas cuentas por distorsionar la historia supone un riesgo demasiado grande como para permitirlo. Puedes leer la carta completa aquí.
Hoy, en el podcast «Lock and Code», presentado por David Ruiz, hablamos con Clara Mansfeld, una historiadora que trabaja en el ámbito de las comunicaciones digitales en una de las instituciones firmantes de la carta abierta: la Fundación de los Monumentos y Centros de Aprendizaje de Hamburgo en Memoria de las Víctimas de los Crímenes Nazis. En la conversación, Mansfeld aborda el acceso digital a la historia, la manipulación de los registros históricos mediante imágenes generadas por IA y la amenaza a la que se enfrenta la sociedad cuando resulta cada vez más difícil evaluar la verdad.
«¿Qué ocurre cuando lo primero que pensamos al ver cualquier imagen histórica es: “¿Es eso real o es IA?” No creo que hayamos comprendido realmente lo que eso significa para nosotros como sociedad».
Sintoniza hoy para escuchar la conversación completa.
Mostrar notas y créditos:
Música de introducción: «Spellbound», de Kevin MacLeod (incompetech.com)
Con licencia Creative Commons: Atribución 4.0
http://creativecommons.org/licenses/by/4.0/
Música de cierre: «Good God», de Wowa (unminus.com)
Escucha:Malwarebytes solo habla de ciberseguridad, sino que la proporciona.
Protéjase de los ataques en línea que amenazan su identidad, sus archivos, su sistema y su bienestar financiero con nuestraoferta exclusiva de Malwarebytes Premium para los oyentes de Lock and Code.
