Los chatbots de atención al cliente tienen una única función: proporcionar al usuario lo que solicita sin necesidad de recurrir a un agente humano. El nuevo asistente de asistencia basado en IA de Meta se tomó ese objetivo demasiado en serio. En los últimos meses, los atacantes han estado iniciando chats de asistencia, indicándole al bot que no podían acceder a Instagram que no les pertenecían y se han llevado las credenciales.
Durante el fin de semana, Meta lanzó un parche de emergencia después de que Instagram —pertenecientes a la Casa Blanca de Obama (actualmente inactiva), a la cadena de cosméticos Sephora y a un alto cargo de la Fuerza Espacial de EE. UU.— fueran pirateadas y aparecieran brevemente con imágenes a favor de Irán. La investigadora de seguridad y ex empleada de Meta Jane Manchun Wong también se vio afectada.
Cómo funcionaba el truco
El ataque fue sencillo. Los atacantes averiguaron dónde vivía el titular de la cuenta (en Internet hay listas con las ciudades de residencia de los titulares de las cuentas, o simplemente podían investigar al objetivo). A continuación, utilizaron una VPN simular que se encontraban en la misma región geográfica que la cuenta objetivo, lo que evitó que los sistemas de seguridad Instagramdetectaran la actividad sospechosa.
A continuación, iniciaron un proceso normal de restablecimiento de contraseña y abrieron el chat de asistencia. Le pidieron al bot de IA que prestaba asistencia que cambiara la dirección de correo electrónico de la cuenta, y este hizo precisamente eso, enviando un código de uso único directamente a la bandeja de entrada del atacante.
Para ello, al parecer, el chatbot se ha integrado en los sistemas de gestión de cuentas de Meta con permiso para realizar cambios en las cuentas, pero sin que se le haya enseñado a verificar que está hablando con el verdadero titular de la cuenta. Los expertos en seguridad tienen un nombre para eso:«confused deputy». El término se utiliza desde la década de 1980.
Para ser justos con el bot, hay que decir que los atacantes lograban su objetivo incluso cuando se activaban las medidas de seguridad reforzadas. Al parecer, creaban vídeos deepfakes sus víctimas utilizando imágenes obtenidas de —lo has adivinado—Instagram.
Meta ha caído en su propia trampa de IA
Meta ha estado reduciendo plantilla e invirtiendo grandes cantidades de dinero en inteligencia artificial, y a principios de este año lanzó su asistente de atención al cliente basado en IA para ayudar a gestionar la recuperación de cuentas y otras solicitudes de asistencia.
El inconveniente es que parece que se ha dotado a la IA de la capacidad de realizar acciones como modificar direcciones de correo electrónico y restablecer contraseñas sin aplicar las medidas de seguridad suficientes para verificar primero la identidad del usuario.
Andy Stone, ejecutivo de Meta Communications, afirmó en X el problema se había resuelto y que se estaban protegiendo las cuentas afectadas. La empresa no ha revelado cuántas cuentas se vieron afectadas.
Lo que realmente funcionó
¿Por qué querría alguien hackear una Instagram ? La venganza puede ser un motivo, pero, en la mayoría de los casos, el objetivo es obtener beneficios económicos. Los piratas informáticos han chantajeado a empresas que dependen de esas cuentas para su marketing.
También se ha observado que los atacantes que utilizan esta técnica se centran en cuentas «OG» con nombres de usuario cortos o muy codiciados. Si te uniste a Instagram y registraste un nombre de usuario fácil de recordar, este puede valer miles de dólares en los mercados negros.
¿Qué puedes hacer para protegerte?
Hay un consejo que nunca pasa de moda: activa la autenticación multifactorial (MFA). Según el veterano periodista especializado en ciberseguridad Brian Krebs, el ataque no tuvo éxito en las cuentas que tenían activada la MFA, incluidas aquellas que utilizaban códigos SMS.
Eso no significa que la autenticación de dos factores sea perfecta, pero añade una importante capa de protección.
Así que el consejo práctico no tiene nada de glamuroso:
- Abre los ajustes de Instagram
- Accede a tu Centro de cuentas de Meta
- Activa la autenticación de dos factores. Una aplicación de autenticación es mejor que los SMS, pero cualquiera de las dos opciones es mejor que nada.
Hazlo ahora, porque puede que esto aún no haya terminado. TheCyberSecGuru informa de que está circulando otro ataque, esta vez mediante un Android llamado BlueStacks que ejecuta una versión modificada de Instagram enviar nuevas solicitudes con caracteres ocultos diseñados para manipular la IA.
Prepárate para más meteduras de pata de los bots «serviciales»
Este no será el último ataque contra los chatbots con IA. A medida que más empresas utilicen la IA para reducir los costes de atención al cliente, su superficie de ataque aumentará y cometerán muchos errores al intentar encontrar el equilibrio entre seguridad y funcionalidad.
La vulnerabilidad de Meta ya se ha solucionado, pero el concepto del «agente confundido» sigue sin resolverse. Y no hay nada tan perjudicial como una IA confundida que tenga acceso a tu vida digital.
Los estafadores no necesitan hackearte. Solo necesitan que hagas clic una vez.
Malwarebytes Identity Theft detecta actividades sospechosas antes de que se conviertan en un problema.
