Puede que tu reproductor multimedia no parezca un ordenador, pero si conectas suficientes dispositivos económicos, pueden ejecutar un modelo de inteligencia artificial.
Investigadores de Anthropic demostraron esto ejecutando un modelo Google Gemma en 15 decodificadores Android TV de marcas genéricas. Advierten que los modelos pequeños pronto podrían extenderse a dispositivos vulnerables del Internet de las cosas (IoT), incluidos hornos inteligentes y decodificadores de TV, y afirman:
“Nuestros experimentos sugieren que los pequeños modelos de IA podrían estar a meses de ser lo suficientemente capaces de autorreplicarse en dispositivos comerciales de Internet de las cosas (IoT), como hornos inteligentes y dispositivos de marca blanca. Android decodificadores de televisión.
En este escenario, la IA no se limita a ayudar a un atacante a escribir código malicioso, sino que se convierte en parte del software que lleva a cabo la replicación.
Anthropic divide ese proceso en cuatro etapas:
- Busca otro dispositivo.
- Obtén la capacidad de ejecutar código en él.
- Configura el software necesario para ejecutar un modelo de IA.
- Continúa propagándose desde el nuevo huésped.
Los investigadores pusieron a prueba si los agentes de IA podían completar esta secuencia. No lograron demostrar que un modelo pequeño se propagara y funcionara de forma independiente en dispositivos domésticos comprometidos.
Las pruebas utilizadas Android Los emuladores con acceso de depuración sin autenticación facilitan considerablemente el acceso de los agentes en comparación con dispositivos debidamente protegidos. Las transferencias de archivos grandes y la comunicación constante entre dispositivos podrían facilitar la detección de la replicación en el mundo real, mientras que la limitada capacidad de procesamiento podría ralentizarla. Fundamentalmente, los experimentos no demostraron un modelo que fuera lo suficientemente capaz de completar el proceso de replicación y, a la vez, lo suficientemente pequeño como para ejecutarse en el hardware de consumo al que iba dirigido.
Anthropics prevé que los modelos más pequeños podrían alcanzar la capacidad necesaria para finales de 2026 si la mejora continúa a su ritmo histórico.
Varun Chandrasekaran, profesor adjunto de la Universidad de Illinois, declaró a la AFP que los hallazgos coincidían con investigaciones relacionadas, pero advirtió que el trabajo de Anthropic no había sido verificado de forma independiente. Identificó a las personas que utilizan la IA para perfeccionar los ataques como la mayor amenaza actual, en lugar de los sistemas de IA que se descontrolan.
Las botnets de dispositivos inteligentes ya son un problema.
El secuestro de dispositivos conectados por parte de delincuentes no es nada nuevo. Mirai y sus derivados han incorporado routers, cámaras de seguridad y grabadoras de vídeo digital a botnets utilizadas para lanzar ataques de denegación de servicio distribuido (DDoS), saturando los servicios con tráfico. BADBOX 2.0 ilustra otra forma de abuso: dispositivos de consumo comprometidos utilizados para actividades como servicios de proxy residenciales, que redirigen el tráfico de otras personas a través de las conexiones a internet de las víctimas.
Ninguno de los dos estudios demuestra la replicación autónoma de la IA, pero ambos muestran que los dispositivos conectados pueden convertirse en infraestructura para los delincuentes.
Qué puedes hacer ahora
La respuesta práctica consiste en reducir las oportunidades para que cualquier atacante haga un mal uso de sus dispositivos conectados:
- Mantenga actualizados los sistemas operativos, el software y el firmware para reducir la exposición a vulnerabilidades conocidas.
- Compra a vendedores de confianza que ofrezcan actualizaciones de firmware y seguridad periódicas. Un dispositivo económico resulta menos atractivo si no puedes confiar en su software ni obtener parches de seguridad.
- Evite las tiendas de aplicaciones no oficiales que prometen contenido en streaming gratuito. El FBI señala específicamente estos mercados en su guía BADBOX 2.0 .
- No desactives las protecciones para que una aplicación funcione. Las solicitudes para desactivar Google Play Protect son una señal de advertencia, al igual que Android dispositivos sin certificación Play Protect.
- Si observa algo sospechoso, desconecte el dispositivo de su red mientras investiga.
- Coloca los dispositivos inteligentes que no puedan ejecutar software de seguridad en una red separada, aislada de tus ordenadores y teléfonos, como por ejemplo una red de invitados.
Los estafadores saben más de ti de lo que crees.
Malwarebytes Mobile Security Te protege del phishing , mensajes de texto fraudulentos, sitios web maliciosos y mucho más. Incluye protección anticams con inteligencia artificial en tiempo real.
