El modelo más potente de Anthropic hasta la fecha, Claude Mythos Preview (también conocido como Mythos), ha sido descrito como un «salto cualitativo» en el rendimiento de la IA, especialmente en tareas de ciberseguridad.
Anthropic intentó mantener Mythos en secreto hasta hace unas semanas, cuando una filtración de datos reveló la existencia de lo que, según la empresa, era su inteligencia artificial más potente hasta la fecha. El modelo se considera tanto una potente herramienta defensiva como, potencialmente, un arma cibernética ofensiva de gran alcance.
Por ese motivo, la empresa está restringiendo drásticamente el acceso y dejando claro que, por el momento, no tiene previsto lanzarlo al mercado de forma generalizada. Su supuesta capacidad para detectar de forma autónoma e incluso encadenar vulnerabilidades de software a gran escala constituye el núcleo tanto del revuelo mediático como del peligro.
Imagina una herramienta capaz de detectar por sí sola nuevas vulnerabilidades en programas, sistemas y plataformas, y luego convertirlas en exploits, incluso si para ello es necesario encadenarlas con otras vulnerabilidades.
En manos equivocadas, esto podría suponer una grave amenaza para nuestra seguridad cibernética. Por ello, Anthropic ha restringido el acceso a un reducido número de organizaciones de todo el mundo, entre las que se incluyen grandes empresas tecnológicas y un selecto grupo de organismos gubernamentales o de seguridad. Según se informa, la NSA ya está utilizando Mythos Preview, al parecer para someter a pruebas de estrés y reforzar sistemas sensibles, a pesar de que el Pentágono haya calificado a Anthropic como un riesgo para la cadena de suministro.
Mythos es capaz de detectar vulnerabilidades en grandes bases de código de forma más rápida y fiable que las herramientas existentes, y puede buscar múltiples fallos en un mismo sistema y combinarlos en cadenas de explotación de varios pasos para llevar a cabo un ataque (por ejemplo, pasando de un simple «web bug» a la toma de control total de un dominio). A un cazador de recompensas por errores le llevaría meses encontrar otra vulnerabilidad, y mucho menos una que se pudiera encadenar con las ya descubiertas. Lograrlo antes de la primera sería muy poco probable.
En la práctica, esto podría traducirse en ataques más rápidos, brechas de seguridad más complejas y menos tiempo para que las empresas subsanen sus vulnerabilidades antes de que sean explotadas.
La propia Anthropic ha destacado que Mythos puede funcionar con una supervisión mínima durante largos periodos de tiempo, lo que significa que podría llevar a cabo campañas de ataques sistemáticos a una escala que ningún equipo humano podría alcanzar.
Anthropic señaló estos riesgos de seguridad en un documento interno:
- La IA reduce el nivel mínimo de competencia necesario para llevar a cabo operaciones ofensivas. Los actores con menos conocimientos podrían acceder a herramientas muy eficaces, lo que aumentaría considerablemente el número de ataques avanzados.
- Técnicas como el fuzzing, los ataques de diccionario y otros métodos de fuerza bruta resultan mucho más eficaces cuando se aceleran mediante la automatización. La iteración asistida por IA puede proporcionar a un atacante muchas más oportunidades antes de que se detecte el ataque.
Pero la conclusión más preocupante fue que, en la fase actual del desarrollo de la IA, el bando ofensivo está avanzando más rápido, y los equipos de seguridad suelen adoptar las herramientas de IA más tarde que sus adversarios.
Como sabemos, la inteligencia artificial en el ámbito de la ciberseguridad tiene dos caras. Nos ayuda a defendernos de nuevas amenazas, pero también puede utilizarse para crearlas. Por eso, en manos equivocadas, Mythos puede convertirse en un adversario formidable.
El objetivo sigue siendo el mismo, pero el camino para alcanzarlo lo allanan herramientas como Mythos. Desde la perspectiva del atacante, nada de lo que le espera es nuevo. La novedad es que Mythos ahora automatiza el mapa, el vehículo y la mayor parte de la conducción.
No nos limitamos a informar de las amenazas: las eliminamos
Los riesgos de ciberseguridad nunca deben propagarse más allá de un titular. Mantenga las amenazas alejadas de sus dispositivos descargando Malwarebytes hoy mismo.
