Esta semana en el podcast Lock and Code…
En mayo del año pasado, una advertencia sobre la IA provino de un lugar inesperado: el Museo Estatal de Auschwitz-Birkenau.
El museo, mediante una publicación pública en las redes sociales, advirtió sobre un Facebook Se ha documentado el uso de inteligencia artificial generativa para crear imágenes falsas de personas que murieron en el Holocausto. A pesar de emplear IA para generar dichas imágenes, en ocasiones las personas que aparecían en ellas eran reales. Tenían nombres reales, lugares de nacimiento e historias de deportación que el propio Museo Estatal de Auschwitz-Birkenau había compartido previamente. Sus rostros eran reales, capturados en fotografías reales que sobrevivieron al Holocausto, las cuales probablemente fueron manipuladas para generar las imágenes falsas.
En otras palabras, alguien, o algún equipo de personas en línea, estaba falsificando el Holocausto mediante la técnica de deepfake.
Tal como escribió el museo de Auschwitz en línea :
“Estas no son fotografías reales de las víctimas. Son creaciones digitales, a menudo estilizadas o retocadas, que corren el riesgo de convertir el recuerdo en una representación ficticia. La historia de Auschwitz está bien documentada. Alterar su registro visual con imágenes generadas por IA introduce distorsión, independientemente de la intención.”
Meses después, el público descubrió cuál era la intención: el dinero.
Una investigación de la BBC descubrió una red internacional de Facebook Cuentas que publican imágenes generadas por IA para ganar dinero con la viralidad potencial de esas imágenes. Es un problema al que a veces se le llama "basura de IA", pero viene con un gran incentivo. Cuando las cuentas que crean este tipo de imágenes son invitadas a Facebook Gracias a su programa de monetización de contenido, pueden ganar 1000 dólares al mes por publicar cualquier cosa que genere clics.
Y en Facebook Según descubrió la BBC, esto significa que varias cuentas publican imágenes generadas por IA sobre el Holocausto. Tal como informó la BBC:
“Los spammers que utilizan inteligencia artificial han publicado imágenes falsas que pretenden ser del interior de [Auschwitz], como un prisionero tocando el violín o amantes encontrándose en los límites de las vallas, atrayendo decenas de miles de me gusta y compartidos.”
La economía de la mentira es una realidad hoy en día. Se puede usar la IA para crear imágenes falsas que generen sentimientos positivos sobre cosas terribles o miedo sobre información falsa, y se puede ganar dinero hasta que las grandes plataformas tecnológicas las cierren, lo que, en este caso, solo ocurrió gracias a la investigación de la BBC. De hecho, fue precisamente esa inacción por parte de las redes sociales lo que obligó al gobierno alemán y a varias instituciones conmemorativas del Holocausto a enviar una carta abierta a principios de este año solicitando mejores controles y restricciones contra este tipo de contenido.
Tal y como advirtieron los firmantes en su carta, el atractivo económico de estos relatos para distorsionar la historia representa un riesgo demasiado alto como para permitirlo. Puede leer la carta completa aquí .
Hoy, en el podcast Lock and Code, presentado por David Ruiz, conversamos con Clara Mansfeld, historiadora especializada en comunicación digital en una de las instituciones firmantes de la carta abierta: la Fundación de Memoriales y Centros de Aprendizaje de Hamburgo en Memoria de las Víctimas de los Crímenes Nazis. En su conversación, Mansfeld aborda el acceso digital a la historia, la manipulación de datos históricos mediante imágenes generadas por IA y la amenaza que supone para la sociedad la dificultad de discernir la verdad.
“¿Qué ocurre cuando lo primero que pensamos al ver cada imagen histórica es: '¿Es real o es inteligencia artificial?'? Creo que aún no hemos comprendido del todo lo que eso significa para nosotros como sociedad.”
Sintoniza hoy para escuchar la conversación completa.
Notas y créditos del programa:
Música de introducción: “Spellbound” de Kevin MacLeod ( incompetech.com )
Licenciado bajo Creative Commons: Licencia de Atribución 4.0
http://creativecommons.org/licenses/by/4.0/
Música de cierre: “Good God” de Wowa (unminus.com)
Escuchen... Malwarebytes No solo hablamos de ciberseguridad, sino que la proporcionamos.
Protéjase de los ataques en línea que amenazan su identidad, sus archivos, su sistema y su bienestar financiero con nuestra oferta exclusiva de Malwarebytes Premium Security para oyentes de Lock and Code .
