Según informa The Verge , Eiliko, un pequeño robot de inteligencia artificial fabricado por Energize Lab, tiene graves fallos de seguridad que exponen conversaciones privadas y permiten a un atacante modificar de forma remota lo que dice el juguete.
Según The Verge, el investigador Sammy Azdoufal pudo acceder a 13 millones de conversaciones y a lo que parecía ser la totalidad de la flota mundial activa de 68.000 robots. La publicación informa que Estados Unidos es el mercado más grande, con más de 31.000 perfiles pertenecientes a niños.
Azdoufal descubrió múltiples fallos de seguridad en el servicio de Energize Lab:
- El servicio analiza las conversaciones para crear perfiles que incluyen nombres, edades, fechas de nacimiento, relaciones, ocupaciones y evaluaciones de personalidad y vulnerabilidad emocional. Estos perfiles se almacenan junto con direcciones de correo electrónico, direcciones IP y transcripciones de conversaciones que se pueden buscar, lo que podría proporcionar a los estafadores información detallada para explotar.
- Algunas fotos, incluidas imágenes que parecen ser de niños tomadas con un dispositivo con cámara, y breves grabaciones de audio estaban disponibles en direcciones web públicas. Conservar el audio contraviene la política de privacidad de la empresa, que establece que las grabaciones se eliminan inmediatamente después de su procesamiento.
- Es posible manipular la IA de forma remota: Azdoufal alteró la memoria y el comportamiento del robot del reportero de The Verge, Sean Hollister, haciendo que inventara detalles personales, insistiera en que la Tierra es plana y, posteriormente, profiriera diálogos sexualmente explícitos y abusivos. El investigador afirma que una manipulación similar podría afectar a toda la flota simultáneamente.
El reportero contactó a Energize Lab a través de 10 direcciones de correo electrónico y LinkedIn , sin recibir respuestas sustanciales.
Cómo mantenerse a salvo
Ya hemos informado anteriormente sobre problemas de seguridad con juguetes con inteligencia artificial. Los fabricantes son responsables de la seguridad de sus productos, pero existen medidas que puedes tomar para reducir los riesgos.
Actualmente verás la etiqueta "con tecnología de IA" en casi todo, pero existen maneras de tomar decisiones más seguras.
- ¿Ya tienes un Eiliko? Como medida de precaución, desconéctalo del Wi-Fi mientras verificas que se hayan solucionado los fallos reportados.
- Investiga siempre: consulta las reseñas de seguridad de terceros antes de comprar cualquier producto con inteligencia artificial comercializado para niños.
- Prueba y supervisa: Interactúa tú mismo con el dispositivo antes de dárselo a los niños. Observa su uso para detectar respuestas extrañas o riesgosas. Una respuesta segura durante las pruebas no garantiza respuestas seguras posteriormente.
- Utilice el control parental : si están disponibles, active todos los filtros de contenido y las protecciones de privacidad.
- Informar de problemas: Si los dispositivos muestran contenido inapropiado, infórmelo a los fabricantes y a las organizaciones de protección al consumidor.
- Verifica las prácticas de datos: Averigua qué información recopila el dispositivo, con quién la comparte y para qué la utiliza.
Pero, sobre todo, recuerda que «inteligente» no significa seguro. La IA puede estar por todas partes, pero tanto diseñadores como compradores deben priorizar la seguridad, la privacidad y el sentido común por encima del factor sorpresa tecnológico. Antes de comprar un juguete conectado, verifica cómo el fabricante gestiona las actualizaciones de seguridad, la privacidad y los informes de problemas.
Navega como si nadie te estuviera mirando.
Malwarebytes Privacy VPN Encripta tu conexión y nunca registra lo que haces, así que la próxima historia que leas no tiene por qué ser personal. Pruébalo gratis →
