La Unión Europea (UE) ha comenzado a aplicar partes clave de la Ley de IA, con consecuencias inmediatas y visibles para los chatbots, deepfakes y otros sistemas de inteligencia artificial (IA) orientados al consumidor.
A partir del 2 de agosto, probablemente notará más etiquetas de "esto es IA", reglas más claras para los modelos fundamentales potentes y nuevas formas para que los usuarios e investigadores presenten quejas cuando los sistemas fallen.
La Ley de IA pasó de la teoría a la práctica en tres áreas importantes:
- Modelos de IA de propósito general (GPAI): La nueva Oficina de IA en Bruselas, junto con los reguladores nacionales, ahora puede hacer cumplir las normas a los proveedores de modelos de IA de propósito general (por ejemplo, grandes modelos de lenguaje y otros modelos fundamentales que sustentan muchas herramientas).
- Obligaciones de transparencia: Las normas de transparencia entran en vigor para los sistemas interactivos y el contenido generado por IA: los chatbots deben indicar que son bots, y el audio, las imágenes, los vídeos y el texto sintéticos deben estar marcados como generados o manipulados por IA.
- Usos prohibidos de la IA: Un conjunto de usos de la IA que implican un "riesgo inaceptable" está ahora formalmente prohibido, y la aplicación de la normativa se comparte entre la Oficina de IA, las autoridades nacionales y el Supervisor Europeo de Protección de Datos para las instituciones de la UE.
Tenga en cuenta que el contenido generado y publicado antes del 2 de agosto no necesita ser etiquetado retroactivamente, pero todo lo publicado en o después de esa fecha está sujeto a las reglas, incluso si se generó con anterioridad.
Desde el punto de vista de la seguridad, el impulso a la transparencia de la Ley de IA no se trata tanto de prohibir la IA, sino más bien de quitarle su mejor camuflaje: fingir ser humana.
El incumplimiento de las obligaciones de transparencia puede acarrear multas de hasta 15 millones de euros (17,3 millones de dólares) o el 3 % de la facturación anual mundial, lo que sea mayor, lo que debería ser suficientemente significativo como para llamar la atención de los grandes proveedores.
Para que la aplicación de la normativa sea algo más que una mera formalidad, la Oficina de IA ha lanzado herramientas dirigidas a personas que ven los problemas desde dentro o como usuarios:
- Herramienta de denuncia: Las personas y organizaciones pueden denunciar presuntas infracciones de la Ley de IA por parte de proveedores o implementadores de sistemas de IA supervisados por la Oficina de IA.
- Herramienta para denunciantes: Las personas vinculadas profesionalmente con proveedores o implementadores de IA disponen de un canal anónimo para señalar posibles infracciones que podrían poner en peligro los derechos fundamentales, la salud o la confianza pública.
- Canal de reclamaciones posteriores: Las empresas que desarrollan proyectos sobre la base de los modelos de GPAI pueden denunciar presuntas infracciones cometidas por los proveedores de los modelos subyacentes.
Esto crea un canal formal para informar sobre problemas sistémicos: por ejemplo, comportamientos inseguros de los modelos, hallazgos ignorados por el equipo rojo o despliegues que traspasan silenciosamente los límites legales relacionados con la manipulación o la discriminación.
Prohibición de contenido "nudificador" y contenido abusivo.
La Oficina de IA ha introducido prohibiciones explícitas sobre los sistemas de IA que generan contenido sexualmente explícito o íntimo sin consentimiento (incluidas las aplicaciones " nudifier ") y material de abuso sexual infantil.
Para las víctimas de estos abusos, esto es más que un gesto simbólico. Proporciona a los reguladores y a las fuerzas del orden una base legal clara para perseguir tanto a los proveedores como a los implementadores de dichos sistemas en la UE, en lugar de intentar encasillarlos en leyes más antiguas y menos específicas.
Estas normas entrarán en vigor el 2 de diciembre de 2026, y las empresas tendrán tiempo para adaptar sus sistemas a la normativa o retirarlos del mercado de la UE.
Lamentablemente, esto no acabará por completo con los abusos. Los atacantes seguirán utilizando herramientas e infraestructuras no etiquetadas fuera de la UE. Sin embargo, eleva el listón para los servicios legítimos y dificulta que las plataformas convencionales ignoren los riesgos de las funciones engañosas basadas en IA.
La Ley de IA no garantizará la seguridad de la inteligencia artificial de la noche a la mañana, pero cambia el paradigma de "todo vale" a "debes cumplir con algunas reglas básicas si operas en la UE". Para los usuarios, esto representa un paso hacia sistemas de IA que al menos pueden reconocer y cuestionar, en lugar de que la tecnología invisible moldee silenciosamente nuestra experiencia en línea.
Los estafadores no necesitan hackearte. Solo necesitan que hagas clic una vez.
Malwarebytes Identity Theft detecta actividades sospechosas antes de que se conviertan en un problema.
