El peluche con inteligencia artificial de Bondu dejó al descubierto una consola web que permitía a cualquier persona con una cuenta de Gmail leer unos 50.000 chats privados entre niños y sus peluches.
El juguete de Bondu se comercializa como:
“Un peluche suave y adorable, impulsado por inteligencia artificial, que puede conversar, enseñar y jugar con tu hijo.”
Lo que no dice es que cualquiera con una cuenta de Gmail podría leer las transcripciones de prácticamente todos los niños que usaron un juguete Bondu. Sin necesidad de piratear, simplemente iniciando sesión con una cuenta de Google cualquiera, dos investigadores se encontraron viendo las conversaciones privadas de los niños .
Lo que Bondu tiene que decir sobre seguridad no menciona la protección ni la privacidad:
“Los sistemas de seguridad y comportamiento de Bondu se desarrollaron durante 18 meses de pruebas beta con miles de familias. Gracias a los rigurosos procesos de revisión y al monitoreo continuo, no recibimos ni un solo informe de comportamiento inseguro o inapropiado por parte de Bondu durante todo el período beta.”
El énfasis que Bondu pone en las pruebas beta exitosas es comprensible. ¿Recuerdan el osito de peluche con IA comercializado por FoloToy que rápidamente pasó de una conversación amistosa a temas sexuales y consejos domésticos inseguros?
Los investigadores quedaron atónitos al descubrir que la consola web pública de la empresa permitía que cualquiera iniciara sesión con su cuenta de Google. Los registros de chat entre los niños y sus peluches revelaron nombres, fechas de nacimiento, detalles familiares y conversaciones íntimas. Las únicas conversaciones no disponibles fueron las eliminadas manualmente por los padres o el personal de la empresa.
Potencialmente, estos registros de chat podrían ser el sueño de un ladrón o secuestrador, ya que ofrecen información sobre las rutinas domésticas y los próximos acontecimientos.
Bondu desconectó la consola a los pocos minutos de la revelación y luego la reactivó con autenticación . El director ejecutivo afirmó que las correcciones se completaron en cuestión de horas, que no encontraron "ninguna evidencia" de acceso no autorizado y que contrataron a una empresa de seguridad y reforzaron la monitorización.
En el pasado, hemos señalado que los peluches con inteligencia artificial podrían no ser una buena alternativa al tiempo frente a la pantalla. Los críticos advierten que cuando un juguete utiliza diálogos personalizados y con apariencia humana, corre el riesgo de reemplazar aspectos de la relación entre el cuidador y el niño. El fundador de Curio incluso describió su peluche como un compañero estimulante para que los padres "no sientan la necesidad de sentarlos frente al televisor".
Así pues, ya sea un malhablado, un charlatán o simplemente un pobre sustituto de los amigos de verdad, no recomendamos el uso de la Inteligencia Artificial en los juguetes infantiles, a menos que lleguemos a un punto en el que puedan utilizarse de forma segura, privada y protegida, e incluso entonces, con moderación.
Cómo mantenerse a salvo
Los juguetes con inteligencia artificial están llegando, nos guste o no. Pero ser los primeros o los más bonitos no garantiza su seguridad. La historia nos enseña una y otra vez que la supervisión, la privacidad y una buena dosis de escepticismo son las mejores defensas de los padres.
- Apaga lo que puedas. Si el juguete tiene un componente de IA extraíble, considera desactivarlo cuando no puedas supervisarlo directamente.
- Lee la política de privacidad. Sí, lo sé , toda. Fíjate en qué se grabará, almacenará y, posiblemente, se compartirá. Presta especial atención a los datos confidenciales, como las grabaciones de voz, las grabaciones de vídeo (si el juguete tiene cámara) y los datos de ubicación.
- Limita la conectividad. Evita, en lo posible, los juguetes que requieran conexión Wi-Fi constante o interacción con la nube .
- Supervisa las conversaciones. Habla regularmente con tus hijos sobre lo que dice el juguete y supervisa el juego siempre que sea posible.
- Mantén la información personal en privado. Enséñales a los niños a nunca compartir sus nombres, direcciones o datos familiares, ni siquiera con su peluche.
- Confía en tu instinto. Si un juguete parece sobrepasar los límites o interferir con el juego natural, no dudes en intervenir o simplemente decir que no.
Navega como si nadie te estuviera mirando.
Malwarebytes Privacy VPN Encripta tu conexión y nunca registra lo que haces, así que la próxima historia que leas no tiene por qué ser personal. Pruébalo gratis →
