¿Qué son los deepfakes?

Durante muchas décadas, los cineastas han intentado cambiar o mejorar la biología humana con maquillaje, prótesis y dobles de cuerpo para que sus escenas se sientan más auténticas. Pero hasta la llegada de la moderna tecnología de efectos visuales (VFX), los resultados han sido variados. Desde películas como The Irishman y Captain Marvel hasta Avengers: Endgame, el VFX permite a los actores superar imposibilidades físicas. A veces, los efectos visuales de Hollywood permiten a los cineastas fusionar el rostro de los actores con los cuerpos de otros intérpretes para roles para los que no están preparados o capaces de realizar.  

Pero como te podrás imaginar, la tecnología de VFX moderna en Hollywood es costosa, delicada y un trabajo detallado. Claramente, no todos tienen un presupuesto de unos cientos de millones de USD para contratar un estudio de VFX. Aquí es donde entra la tecnología deepfake.

¿Qué es un deepfake? Una definición

Un “deepfake” se refiere a medios recreados de la apariencia y/o voz de una persona mediante un tipo de inteligencia artificial llamado aprendizaje profundo (de ahí el nombre, deepfake). Un usuario de Reddit que compartió deepfakes en el sitio acuñó el término en 2017.

Los deepfakes son típicamente imágenes, videos o grabaciones de audio falsos. Puede que hayas visto videos populares de celebridades o políticos diciendo algo que es poco probable que digan en la vida real. Estos son ejemplos comunes de deepfakes. La aparición de videos deepfake genera preocupaciones sobre un posible ‘dividendo del mentiroso’, donde la desinformación se prolifera, debilitando la confianza y distorsionando la realidad.

¿Cómo funcionan los deepfakes?

La tecnología deepfake aprovecha la sofisticada inteligencia artificial a través de redes generativas antagónicas (GANs), que comprenden dos algoritmos críticos: el generador y el discriminador. El generador inicia el proceso creando el contenido falso inicial basado en un resultado deseado, utilizando un conjunto de datos de entrenamiento. Mientras tanto, el discriminador evalúa la autenticidad de este contenido, señalando áreas de mejora. Este proceso iterativo permite al generador mejorar su capacidad para producir contenido cada vez más realista, mientras el discriminador se vuelve mejor en identificar discrepancias para corregir.

Las GANs juegan un papel crucial en la creación de deepfakes al analizar patrones en imágenes genuinas para replicar estos patrones en contenido fabricado. Para las fotografías, los sistemas GAN examinan múltiples ángulos de las imágenes del objetivo para capturar detalles completos. Para los videos, analizan no solo ángulos sino también comportamiento, movimiento y patrones de habla. Este análisis multifacético se somete a numerosas iteraciones a través del discriminador para refinar el realismo del producto final.

Los videos deepfake emergen a través de dos métodos principales: manipulando un video original para alterar lo que el objetivo dice o hace (deepfakes de video fuente) o intercambiando el rostro del objetivo con el cuerpo de otra persona (intercambios de rostro). Los deepfakes de video fuente involucran un autocodificador basado en redes neuronales que descompone el video para comprender y luego superponer las expresiones faciales y el lenguaje corporal del objetivo en el metraje original. Para el audio, un proceso similar clona la voz de una persona, permitiéndole replicar cualquier discurso deseado.

Técnicas clave en la creación de deepfakes incluyen:

• Deepfakes de video fuente: Utiliza un autoencoder con un codificador para analizar atributos y un decodificador para aplicarlos en el video objetivo.
• Deepfakes de audio: Emplean GANs para clonar patrones vocales, lo que permite crear réplicas de voz realistas.
• Sincronización de labios: Empareja grabaciones de voz con video, mejorando la ilusión de que el sujeto está diciendo las palabras grabadas, respaldado por redes neuronales recurrentes para mayor realismo.

La creación de deepfakes se facilita con tecnologías avanzadas como redes neuronales convolucionales (CNNs) para reconocimiento facial, autoencoders para mapeo de atributos, procesamiento de lenguaje natural (NLP) para generar audio sintético y el poder de cómputo proporcionado por sistemas de computación de alto rendimiento. Herramientas como Deep Art Effects, Deepswap y FaceApp ejemplifican la accesibilidad de la generación de deepfakes, apuntando a un futuro donde crear deepfakes convincentes está al alcance de muchos.

¿Son legales los deepfakes?

En esencia, los deepfakes no son inherentemente ilegales; la legalidad depende en gran medida de su contenido e intención. Esta tecnología innovadora puede incurrir en ilegalidades si infringe leyes existentes sobre pornografía infantil, difamación, discurso de odio u otras actividades delictivas.

Hasta la fecha, hay pocas leyes que aborden específicamente los deepfakes y varían significativamente de un país a otro. Sin embargo, la proliferación de esta tecnología plantea preocupaciones sobre la propagación de afirmaciones falsas y su impacto en la confianza pública y el discurso. Ya hay excepciones notables en los Estados Unidos, donde algunos estados han tomado medidas para frenar los efectos nocivos de la tecnología deepfake:

• Texas: Este estado ha promulgado leyes que prohíben la creación y distribución de deepfakes con la intención de interferir en las elecciones. Este movimiento busca salvaguardar la integridad del proceso electoral, previniendo la difusión de información engañosa o falsa sobre los candidatos a través de videos o grabaciones de audio hiperrealistas falsos. Además, Texas ha aprobado una ley que se centra específicamente en los deepfakes sexualmente explícitos distribuidos sin el consentimiento del sujeto, buscando proteger a las personas del estrés o la vergüenza causados por dicho contenido. Ambos delitos se tratan como delitos menores de Clase A, con penalizaciones potenciales que incluyen hasta un año en cárcel y multas de hasta $4,000.
• Virginia: Reconociendo el daño personal y social causado por la pornografía deepfake, Virginia ha prohibido específicamente la difusión de dicho contenido. Esta ley se enfoca en los deepfakes que explotan sexualmente a individuos sin su consentimiento, ofreciendo a las víctimas una vía legal para buscar justicia. La diseminación de pornografía vengativa, incluyendo la pornografía deepfake, se clasifica como un delito menor de Clase 1, castigado con hasta 12 meses de cárcel y una multa de hasta $2,500.
• California: Con un enfoque en las ramificaciones tanto políticas como personales de los deepfakes, California ha aprobado leyes contra el uso de deepfakes que buscan engañar a los votantes dentro de los 60 días previos a una elección. Además, el estado ha ilegalizado la creación y distribución de pornografía deepfake sin consentimiento, reflejando una creciente preocupación sobre el uso de esta tecnología para dañar la privacidad y dignidad de las personas.

El mosaico de regulaciones subraya un desafío más amplio: muchas personas siguen sin tener conocimiento de la tecnología deepfake, sus posibles aplicaciones y los riesgos que plantea. Esta brecha de conocimiento contribuye a un entorno legal donde las víctimas de deepfakes, fuera de los escenarios específicos cubiertos por las leyes estatales, a menudo se encuentran sin un recurso legal claro. La evolución de la tecnología deepfake y sus implicaciones requieren un público más informado, así como marcos legales comprensivos para proteger a las personas de su posible uso indebido.

¿Por qué son peligrosos los deepfakes?

La tecnología deepfake, aunque innovadora, introduce riesgos sustanciales. No se trata solo de crear imágenes o videos falsos; las implicaciones se extienden a ámbitos serios como:

• Seguridad personal, con individuos enfrentando amenazas de chantaje.
• La integridad de los procesos democráticos, a través de la fabricación de contenido político engañoso.
• Mercados financieros, susceptibles a manipulaciones mediante informes fabricados.
• Robo de identidad con datos personales en riesgo de ser mal utilizados.

El panorama en evolución requiere una respuesta sólida, que combine vigilancia, soluciones tecnológicas y marcos legales para protegerse contra estas amenazas emergentes.

¿Cómo detectar deepfakes?

Detectar contenido deepfake requiere prestar atención a indicadores visuales y textuales específicos. Aquí hay algunas señales clave a tener en cuenta:

Indicadores visuales:

• Posicionamiento facial inusual o expresiones incómodas.
• Movimientos no naturales de la cara o el cuerpo.
• Coloración inconsistente en el video.
• Apariciones extrañas al hacer zoom o aumentar la imagen.
• Audio desajustado o inconsistente.
• Falta de parpadeo natural en las personas.

Indicadores textuales:

• Errores ortográficos y oraciones gramaticalmente incorrectas.
• Flujo de oraciones que parece antinatural.
• Direcciones de correo electrónico que parecen sospechosas.
• Redacción que no coincide con el estilo esperado del remitente.
• Mensajes que están fuera de contexto o son irrelevantes.

Además, considere anomalías conductuales y contextuales:

• Inconsistencias de comportamiento: Presta atención al comportamiento y las maneras del sujeto. Los deepfakes pueden no replicar con precisión rasgos sutiles de personalidad, movimientos habituales o respuestas emocionales, haciendo que el sujeto parezca ligeramente fuera de lugar.
• Anomalías contextuales: Analice el contexto en el que aparece el video o audio. Discrepancias en el fondo, interacciones inesperadas con el entorno o anomalías en la narrativa pueden indicar manipulación.

Los avances en inteligencia artificial están mejorando la detección de estas señales, pero mantenerse informado sobre estos indicadores es esencial para identificar deepfakes.

¿Cómo defenderte de los deepfakes?

Una estrategia clave en la defensa contra los deepfakes involucra el uso de tecnología avanzada para identificar y bloquear estos medios falsificados.

Agencias gubernamentales como la Agencia de Proyectos de Investigación Avanzada de Defensa del Departamento de Defensa de EE. UU. (DARPA) están a la vanguardia, desarrollando soluciones de vanguardia para distinguir contenido real de manipulado. De manera similar, los gigantes de las redes sociales y las empresas tecnológicas están empleando métodos innovadores para asegurar la autenticidad de los medios compartidos en sus plataformas.

Por ejemplo, algunas plataformas utilizan tecnología blockchain para verificar los orígenes de videos e imágenes, estableciendo fuentes de confianza y previniendo efectivamente la propagación de contenido falso.

Implementación de políticas en redes sociales

Reconociendo el daño potencial causado por los deepfakes malintencionados, plataformas de redes sociales como Facebook y Twitter han adoptado una postura firme prohibiéndolos. Estas políticas son parte de un esfuerzo más amplio para proteger a los usuarios de los impactos negativos de los medios engañosos, subrayando el papel del gobierno de la plataforma en mantener la confiabilidad digital.

Adoptar software de detección de deepfakes

La batalla contra los deepfakes también cuenta con el apoyo de la innovación del sector privado. Varias empresas ofrecen sofisticado software de detección deepfake, proporcionando herramientas esenciales para identificar medios manipulados:

• Iniciativa de autenticidad de contenido de Adobe: Adobe ha introducido un sistema que permite a los creadores adjuntar una firma digital a sus videos y fotos. Esta firma incluye información detallada sobre la creación del medio, ofreciendo un método transparente para verificar la autenticidad.
• Herramienta de detección de Microsoft: Microsoft ha desarrollado una herramienta impulsada por IA que analiza videos y fotos para evaluar su autenticidad. Proporciona una puntuación de confianza que indica la probabilidad de manipulación, ayudando a los usuarios a discernir la fiabilidad de los medios que encuentran.
• Operación Minerva: Esta iniciativa se centra en catalogar deepfakes conocidos y sus huellas digitales. Al comparar nuevos videos con este catálogo, es posible identificar modificaciones de falsificaciones descubiertas previamente, mejorando el proceso de detección.
• Plataforma de detección de Sensity: Sensity ofrece una plataforma que emplea aprendizaje profundo para detectar medios deepfake, de manera análoga a como las herramientas antimalware identifican virus y malware. Avisa a los usuarios por correo electrónico si encuentran contenido deepfake, agregando una capa extra de protección.

¿Cómo puedes protegerte? Pasos prácticos

Más allá de estas soluciones tecnológicas, los individuos pueden tomar medidas prácticas para defenderse contra los deepfakes:

• Mantente informado: Conocer la existencia y la naturaleza de los deepfakes es el primer paso en la defensa. Al entender la tecnología y su posible mal uso, las personas pueden acercarse al contenido digital de manera más crítica.
• Verificar fuentes: Siempre verifica la fuente de la información. Busca evidencia corroborativa de fuentes confiables antes de aceptar cualquier medio como verdadero.
• Usa herramientas de detección confiables: Emplea herramientas de detección de deepfakes donde estén disponibles. Muchas empresas y plataformas proporcionan herramientas o plugins diseñados para identificar contenido manipulado.
• Denuncia contenido sospechoso: Si encuentras lo que parece ser un deepfake, repórtalo a la plataforma que aloja el contenido. Los reportes de los usuarios juegan un papel crucial para ayudar a las plataformas a identificar y tomar medidas contra los medios engañosos.

Defenderse contra los deepfakes requiere un enfoque multifacético, combinando innovación tecnológica, aplicación de políticas y vigilancia informada. Al mantenerse informado y aprovechar las herramientas y estrategias disponibles, los individuos y las organizaciones pueden protegerse mejor de los efectos perniciosos de la tecnología deepfake.

¿Para qué se utilizan los deepfakes?

Los deepfakes, aunque a menudo se discuten en el contexto de su potencial para el daño, tienen una variedad de aplicaciones en diversos campos. Comprender estos usos ayuda a apreciar la complejidad y la dualidad de la tecnología deepfake. Aquí hay algunas aplicaciones clave:

• Entretenimiento y medios: La tecnología deepfake se utiliza cada vez más en películas y videojuegos para mejorar los efectos visuales, como el envejecimiento o rejuvenecimiento de actores, o traer de vuelta a intérpretes fallecidos para apariciones especiales. Esta aplicación también puede extenderse a la creación de avatares virtuales realistas para interacciones en línea.
• Educación y formación: En contextos educativos, los deepfakes pueden crear experiencias de aprendizaje inmersivas, como recreaciones históricas o simulaciones. Por ejemplo, pueden dar vida a figuras históricas, ofreciendo a los estudiantes una manera dinámica de interactuar con la historia.
• Arte y creatividad: Artistas y creativos están explorando los deepfakes como un nuevo medio de expresión. Esto incluye generar nuevas formas de arte digital, sátira o explorar los límites entre lo real y lo artificial.
• Publicidad y marketing: Las marcas pueden utilizar la tecnología deepfake para crear contenido de marketing más atractivo y personalizado. Por ejemplo, los deepfakes permiten el uso de embajadores de marca en varias campañas sin su presencia física, potencialmente en diferentes idiomas para llegar a una audiencia global.
• Campañas políticas y sociales: Aunque controvertidos, los deepfakes se han utilizado para concienciar sobre cuestiones sociales o los peligros potenciales de la desinformación. Los deepfakes cuidadosamente elaborados pueden resaltar la importancia del pensamiento crítico en la era digital.
• Creación de medios sintéticos: Los deepfakes son parte de una categoría más amplia de medios sintéticos, utilizados para generar audio, video o imágenes realistas para la creación de contenido. Esto puede agilizar el proceso de producción en noticias, documentales y otras formas de medios.

Aunque los deepfakes tienen un prometedor potencial en estas aplicaciones, es crucial navegar su uso de manera responsable, asegurando que se mantengan estándares éticos para prevenir su mal uso y proteger los derechos y la privacidad de las personas.

Ejemplos de deepfakes

Ejemplos conocidos de deepfakes incluyen un video de un falso Barack Obama burlándose de Donald Trump, un falso Mark Zuckerberg jactándose de controlar los datos de miles de millones de personas, y una mesa redonda de celebridades deepfake como Tom Cruise, George Lucas, Robert Downey Jr., Jeff Goldblum y Ewan McGregor.

Artículos relacionados

¿Qué es la ingeniería social?

¿Qué es el catfishing?

Riesgos de la IA en la ciberseguridad

¿Qué es el phishing?