Los chatbots de atención al cliente tienen una sola función: conseguirle al usuario lo que pide sin molestar a un humano. El nuevo asistente de soporte de IA de Meta se tomó esa instrucción demasiado en serio. En los últimos meses, los atacantes han estado abriendo chats de soporte, diciéndole al bot que no podían acceder a ellos. Instagram cuentas que no les pertenecían, y marcharse con las llaves.
Durante el fin de semana, Meta lanzó un parche de emergencia después Instagram Las cuentas de la Casa Blanca de Obama (ahora inactiva), la cadena de cosméticos Sephora y un alto funcionario de la Fuerza Espacial de EE. UU. fueron pirateadas y brevemente desfiguradas con imágenes proiraníes. La investigadora de seguridad y exempleada de Meta, Jane Manchun Wong, también fue víctima.
Cómo funcionaba el truco
El ataque fue simple. Los atacantes averiguaron dónde vivía el propietario de la cuenta (hay listas de las ciudades de origen de los propietarios de cuentas en línea, o simplemente podían investigar al objetivo). Luego usaron un VPN para que coincidiera con la región geográfica de la cuenta objetivo, lo que evitó levantar sospechas. Instagram sistemas de seguridad.
Luego, iniciaron un restablecimiento de contraseña normal y abrieron el chat de soporte. Le pidieron al bot de IA que les brindaba soporte que cambiara la dirección de correo electrónico de la cuenta, y este lo hizo, enviando un código de un solo uso directamente a la bandeja de entrada del atacante.
Para ello, el chatbot parece haber sido integrado en los sistemas de gestión de cuentas de Meta con permiso para realizar cambios, pero sin haber recibido instrucciones para verificar que se comunicaba con el verdadero propietario de la cuenta. Los expertos en seguridad tienen un nombre para esto: « agente no autorizado ». El término se utiliza desde la década de 1980.
Para ser justos con el bot confundido, los atacantes tuvieron éxito incluso cuando se activó la seguridad mejorada. Aparentemente crearían un video. deepfakes de sus objetivos utilizando imágenes que fueron extraídas de —lo adivinaste— Instagram .
Meta cayó en su propia trampa de IA
Meta ha estado reduciendo su plantilla e invirtiendo mucho dinero en inteligencia artificial, y a principios de este año lanzó su asistente de soporte impulsado por IA para ayudar a gestionar la recuperación de cuentas y otras solicitudes de soporte.
La desventaja es que, al parecer, se le ha otorgado a la IA la capacidad de realizar acciones como cambios de correo electrónico y restablecimiento de contraseñas sin aplicar las medidas de seguridad suficientes para confirmar primero la identidad del usuario.
El ejecutivo de comunicaciones de Meta, Andy Stone, dijo en X La empresa informó que el problema se resolvió y que las cuentas afectadas estaban siendo protegidas. No ha revelado cuántas cuentas se vieron afectadas.
Lo que realmente funcionó
¿Por qué alguien querría hackear un? Instagram ¿Acaso se trata de una cuenta? La venganza puede ser un factor determinante, pero, en la mayoría de los casos, el objetivo es el beneficio económico. Los ciberdelincuentes han extorsionado a empresas que dependen de esas cuentas para su marketing.
También se ha detectado que los atacantes que utilizan esta técnica atacan cuentas "OG" con nombres de usuario cortos o muy deseables. Si te uniste Instagram Si se consigue de forma temprana y se registra un nombre de usuario memorable, puede valer miles de dólares en los mercados clandestinos.
¿Qué puedes hacer para protegerte?
Un consejo que siempre se aplica sigue vigente: activa la autenticación multifactor (MFA). Según el veterano periodista especializado en ciberseguridad Brian Krebs , el ataque fracasó contra las cuentas que tenían la MFA habilitada, incluidas aquellas que utilizaban códigos SMS.
Eso no hace que el autenticación multifactor sea perfecta, pero añade una importante capa de protección.
Así pues, el consejo práctico no es nada glamuroso:
- Abierto Instagram Configuración
- Navegue hasta su Centro de cuentas de Meta
- Activa la autenticación de dos factores . Una aplicación de autenticación es mejor que un SMS, pero cualquiera de las dos es mejor que nada.
Hazlo ahora, porque esto podría no haber terminado todavía. TheCyberSecGuru informa que otro ataque está circulando, esta vez utilizando un Android emulador llamado BlueStacks que ejecuta una versión modificada de Instagram para enviar nuevas indicaciones con caracteres ocultos diseñados para manipular la IA.
Es de esperar que los bots "útiles" presenten más fallos.
Este no será el último ataque contra los chatbots de IA. A medida que más empresas utilicen la IA para reducir los costos de atención al cliente, su superficie de ataque aumentará y cometerán muchos errores al intentar equilibrar la seguridad y la funcionalidad.
La vulnerabilidad de Meta ya está corregida, pero el concepto de agente secreto confuso persiste. Y no hay nada más dañino que una IA confusa con las claves de tu vida digital.
Los estafadores no necesitan hackearte. Solo necesitan que hagas clic una vez.
Malwarebytes Identity Theft Protection detecta la actividad sospechosa antes de que se convierta en un problema.
