Mac El investigador de seguridad Patrick Wardle afirma que es trivial convertir Muse en "la puerta trasera definitiva".
Cada vez más, los asistentes de IA están pasando de ser simples herramientas para responder preguntas a agentes capaces de planificar tareas, usar servicios conectados y realizar acciones por nosotros. Estas acciones pueden incluir reservar citas, completar formularios, crear documentos, realizar compras o interactuar con el correo electrónico y los calendarios.
Para ello, necesitan más permisos, conexiones de cuentas y datos confidenciales. Por lo tanto, cuando Meta prometió que «Muse está diseñado desde cero para la privacidad y la seguridad», no esperábamos un agente de IA que pudiera ser manipulado fácilmente para otorgar todo ese acceso a un atacante.
Meta afirma que Muse puede gestionar citas, formularios, interacciones con el servicio de atención al cliente, compras, creación de documentos y conexiones con servicios como WhatsApp, correo electrónico, calendarios y redes sociales. También puede recibir permisos de macOS para acceder a recursos protegidos, como archivos, micrófono, cámara, ubicación y calendarios.
Según Ars Technica , Wardle descubrió que una aplicación local o un comando de terminal podía modificar una configuración no documentada de Muse que controla el servidor utilizado para la transcripción de dictados. Al redirigir el tráfico de dictado a un servidor controlado por el atacante, este podía capturar las indicaciones de voz y obtener el token de autenticación de la cuenta de Muse de la víctima.
Esta no es una vulnerabilidad de ejecución remota de código que pueda comprometer un sistema que de otro modo estaría limpio. Mac El atacante primero necesita una forma de ejecutar código localmente, por ejemplo, mediante malware, una aplicación maliciosa o ingeniería social.
Pero como hemos visto con el malware de robo de información que se infiltra en los Mac , ese acceso inicial está lejos de ser imposible.
Alguien está vigilando tus cuentas. Asegúrate de que seamos nosotros.
El malware tradicional de robo de información debe localizar de forma independiente datos del navegador, credenciales, documentos, historiales de chat y otro material valioso. Un agente de IA comprometido podría reducir esa barrera al agrupar el acceso a múltiples servicios y permisos del sistema operativo tras una interfaz ya autenticada.
En definitiva, no se trata solo de una configuración insegura. Esto demuestra por qué los agentes de IA necesitan un estándar de seguridad más elevado que las aplicaciones comunes.
Cómo mantenerse a salvo
El consejo de Wardle sobre Muse es sencillo: "Por favor, no lo instalen".
La misma precaución debería aplicarse a otros agentes de IA.
El Proyecto Abierto Mundial de Seguridad de Aplicaciones (OWASP, por sus siglas en inglés), una fundación sin ánimo de lucro que ofrece orientación gratuita sobre seguridad de aplicaciones, enumera la inyección de mensajes, el abuso de herramientas, la escalada de privilegios, la exfiltración de datos, la autonomía excesiva, el envenenamiento de la memoria y la exposición de datos confidenciales entre los principales riesgos de seguridad que plantean los agentes de IA.
Una regla útil es que un agente de IA no debe tener más acceso del necesario, y no debe poder convertir instrucciones no confiables en acciones sensibles sin verificaciones significativas. En la práctica, esto significa:
- Evite otorgar a un nuevo agente acceso amplio al correo electrónico, las aplicaciones de chat, los calendarios, el almacenamiento en la nube, los métodos de pago y los permisos del dispositivo, todo al mismo tiempo.
- Revise periódicamente y elimine las conexiones que el agente realmente no necesita.
- Tenga cuidado con la inyección de código malicioso . No dé por sentado que un agente de IA reconocerá las instrucciones maliciosas incrustadas en una página web, documento, correo electrónico u otro contenido externo.
- Esté atento a comportamientos inusuales del agente, como solicitudes inesperadas de nuevos permisos, reautenticación de la cuenta, uso compartido de archivos externos o acciones que usted no haya iniciado.
También debes proteger tu dispositivo contra el malware:
- Mantén tu software actualizado para que los atacantes no puedan aprovechar las vulnerabilidades conocidas en tu contra.
- Utilice una solución antimalware actualizada y en tiempo real en todos sus dispositivos .
- Para protegerse contra los ataques de ClickFix , no siga las instrucciones que encuentre en sitios web o en mensajes no solicitados que le indiquen que ejecute comandos.
Desde denunciar las amenazas hasta eliminarlas.
Los riesgos de ciberseguridad nunca deberían trascender un simple titular. Mantén tus dispositivos protegidos contra amenazas descargando Malwarebytes hoy mismo .
