El peluche con IA de Bondu expuso una consola web que permitía a cualquier persona con una cuenta de Gmail leer unos 50 000 chats privados entre niños y sus peluches.
El juguete de Bondu se comercializa como:
«Un peluche suave y adorable con inteligencia artificial que puede charlar, enseñar y jugar con tu hijo».
Lo que no dice es que cualquier persona con una cuenta de Gmail podría leer las transcripciones de prácticamente todos los niños que utilizaban un juguete Bondu. Sin necesidad de piratear nada, simplemente iniciando sesión con una cuenta de Google arbitraria, dos investigadores se encontraron viendo las conversaciones privadas de los niños.
Lo que Bondu tiene que decir sobre la seguridad no menciona la protección ni la privacidad:
«Los sistemas de seguridad y comportamiento de Bondu se desarrollaron a lo largo de 18 meses de pruebas beta con miles de familias. Gracias a rigurosos procesos de revisión y supervisión continua, no recibimos ni una sola denuncia de comportamiento inseguro o inapropiado por parte de Bondu durante todo el periodo beta».
El énfasis de Bondu en el éxito de las pruebas beta es comprensible. ¿Recuerdas el osito de peluche con IA comercializado por FoloToy que rápidamente pasó de una charla amistosa a temas sexuales y consejos domésticos poco seguros?
Los investigadores se quedaron atónitos al descubrir que la consola web pública de la empresa permitía a cualquier persona iniciar sesión con su cuenta de Google. Los registros de chat entre los niños y sus peluches revelaban nombres, fechas de nacimiento, detalles familiares y conversaciones íntimas. Las únicas conversaciones que no estaban disponibles eran aquellas que habían sido eliminadas manualmente por los padres o el personal de la empresa.
Potencialmente, estos registros de chat podrían ser el sueño de cualquier ladrón o secuestrador, ya que ofrecen información sobre las rutinas domésticas y los próximos eventos.
Bondu desconectó la consola pocos minutos después de la revelación y, a continuación, la volvió a poner en marcha con autenticación. El director ejecutivo afirmó que las correcciones se completaron en cuestión de horas, que no vieron «ninguna prueba» de otros accesos y que contrataron a una empresa de seguridad y añadieron medidas de supervisión.
En el pasado, hemos señalado que los peluches con inteligencia artificial pueden no ser una buena alternativa al tiempo que pasan los niños frente a la pantalla. Los críticos advierten que cuando un juguete utiliza un diálogo personalizado y similar al humano, se corre el riesgo de que sustituya aspectos de la relación entre el cuidador y el niño. Uno de los fundadores de Curio incluso describió su peluche como un compañero estimulante para que los padres «no sientan que tienen que sentarlos frente al televisor».
Por lo tanto, ya sea por su lenguaje soez, su verborrea o simplemente por ser un sustituto débil de los amigos reales, no recomendamos el uso de la inteligencia artificial en los juguetes infantiles, a menos que lleguemos a un punto en el que se puedan utilizar de forma segura, privada y protegida, e incluso entonces, con moderación.
Cómo mantenerse seguro
Los juguetes con inteligencia artificial están llegando, nos guste o no. Pero ser los primeros o los más bonitos no significa que sean seguros. La lección que nos enseña la historia es la siguiente: la supervisión, la privacidad y una dosis saludable de escepticismo son las mejores defensas que tienen los padres.
- Apaga lo que puedas.Si el juguete tiene un componente de IA extraíble, considera desactivarlo cuando no puedas supervisarlo directamente.
- Lee la política de privacidad. Sí, lo sé, toda. Busca qué se graba, almacena y, potencialmente, se comparte. Presta especial atención a los datos sensibles, como grabaciones de voz, grabaciones de vídeo (si el juguete tiene cámara) y datos de ubicación.
- Limita la conectividad.Si es posible, evita los juguetes que requieran una conexión Wi-Fi constante o interacción conla nube.
- Supervise las conversaciones.Hable regularmente con sus hijos sobre lo que dice el juguete y supervise el juego cuando sea posible.
- Mantén la privacidad de la información personal.Enseña a los niños a no compartir nunca sus nombres, direcciones o datos familiares, ni siquiera con sus peluches.
- Confía en tu instinto.Si un juguete parece traspasar los límites o interferir en el juego natural, no tengas miedo de intervenir o simplemente decir que no.
No nos limitamos a informar sobre la privacidad: le ofrecemos la opción de utilizarla.
Los riesgos Privacy nunca deben ir más allá de un titular. Mantenga su privacidad en línea utilizando Malwarebytes Privacy VPN.
