La Fiscalía del Distrito de Manhattan ha confiscado los dominios de 12 deepfake sitios web en lo que denominó la mayor incautación conocida de celebridades deepfake sitios en la historia.
Los sitios, que se promocionaban como deepfake Las plataformas pornográficas alojaban videos generados por IA de más de 1200 personas, incluidas figuras públicas, desde políticos hasta actores, músicos y defensores de la justicia social. Al menos una permitía a los usuarios crear sus propios videos. deepfakes mediante la superposición de rostros y cuerpos reales sobre imágenes sexuales.
El término imágenes íntimas no consensuales (NICI, por sus siglas en inglés) se utiliza cada vez más en lugar de pornografía cuando la persona retratada no ha dado su consentimiento. Deepfake NCII está creciendo , en parte gracias a la facilidad con la que se puede crear. Basta con una sola foto para generarlo, como comentamos en el podcast Lock and Code en junio.
MrDeepFakes era anteriormente el sitio más grande para este tipo de contenido. Sus operadores lo cerraron en mayo de 2025, alegando pérdida de datos. Un hombre australiano que publicó contenido explícito deepfakes El individuo que acudió al sitio web fue arrestado , multado por desacato al tribunal y acusado de publicar material obsceno.
Pero otros deepfake Los sitios web de NCII siguen compitiendo por captar la atención en línea.
Deepfake La tecnología puede causar daños reales cuando se usa indebidamente, y sus efectos continúan extendiéndose. El fiscal de distrito de Manhattan, Alvin Bragg, advirtió que los agresores domésticos están amenazando con publicar deepfake NCII representando a sus víctimas. El FBI también ha advertido que los atacantes de extorsión sexual están utilizando IA para convertir fotos de menores en redes sociales en imágenes sexualmente explícitas.
Las acciones legales están en aumento.
Las fuerzas del orden han estado trabajando duro para contener la avalancha de deepfake Sitios de NCII. En junio, el Departamento de Justicia y el Departamento de Seguridad Nacional confiscaron dos dominios que alojaban cientos de miles de imágenes y videos falsificados. La oficina del fiscal de la ciudad de San Francisco, David Chiu, también demandó a 16 deepfake sitios en agosto de 2024, logrando que diez de ellos fueran desconectados o inaccesibles en California. El estado de Nueva York también aprobó legislación que prohíbe la distribución de contenido íntimo. deepfake imágenes y vídeos en 2023.
A nivel federal, la Ley TAKE IT DOWN , promulgada en mayo de 2025, tipificó como delito la publicación intencional de NCII, incluyendo contenido sexual. deepfakes , un delito federal.
Tomar posesión de un deepfake El sitio detiene la distribución inmediata de su contenido, pero los operadores pueden migrar rápidamente a otra infraestructura. Un informe del Instituto para el Diálogo Estratégico (ISD) encontró que el deepfake El ecosistema está compuesto por muchos elementos, desde proveedores de herramientas de IA hasta empresas de alojamiento web y procesadores de pagos con criptomonedas. Se requirió una colaboración multisectorial para detener la producción y la difusión de este material.
La oficina de Bragg indicó que continuará supervisando los sitios web incautados para evitar que reaparezcan bajo diferentes dominios.
¿Qué puedes hacer?
Si alguien crea o amenaza con compartir información íntima deepfakes Si tienes alguna prueba, guárdala y denúnciala a la policía. No pagues a quien te amenace con publicar las imágenes, ya que el pago no garantiza que las amenazas cesen.
La oficina de Bragg indicó que muchas de las víctimas contactadas desconocían que se podían tomar medidas. Instó a cualquier persona afectada por los sitios web incautados a comunicarse con su Oficina de Delitos Cibernéticos al 212-335-9600.
Puedes obtener más información en el Malwarebytes Guía sobre deepfakes . ONU Mujeres también proporciona recursos útiles para las personas afectadas por abusos mediante inteligencia artificial.
Los estafadores no necesitan hackearte. Solo necesitan que hagas clic una vez.
Malwarebytes Identity Theft detecta actividades sospechosas antes de que se conviertan en un problema.
