OpenAI se enfrenta a distintos desafíos legales en relación con la forma en que ChatGPT interactúa con los niños.
Según The Guardian , ocho estados de EE. UU. acusan a la empresa de engañar a los padres sobre la seguridad del chatbot y de exponer a usuarios vulnerables a conversaciones peligrosas. Por otra parte, CNET informa que una madre que demanda en nombre de sus dos hijos alega que OpenAI recopiló y utilizó información personal sensible de los menores sin el consentimiento válido de sus padres.
Estos casos plantean serias dudas sobre qué ocurre cuando los niños confían sus pensamientos más íntimos a un chatbot y qué responsabilidad tiene la empresa que lo gestiona en las conversaciones posteriores.
Las acusaciones son graves, pero debemos recordar que son alegaciones presentadas en demandas, no resoluciones judiciales establecidas.
Ocho estados cuestionan la seguridad de ChatGPT.
El 14 de octubre, los fiscales generales de Iowa, Kansas, Nebraska, Virginia Occidental, Arkansas, Arizona, Idaho y Montana presentaron demandas separadas contra OpenAI. Esta acción coordinada acusa a la empresa de engañar a los padres sobre la seguridad de ChatGPT y de violar las leyes estatales de protección al consumidor.
Los estados alegan que el chatbot fue diseñado para ser "excesivamente complaciente y fingir compasión humana". Los abogados señalan ejemplos de ChatGPT que supuestamente puso en peligro a usuarios vulnerables, incluidos niños, al incitarlos a suicidarse o dañar a otros.
OpenAI afirma haber incorporado protecciones específicas para cada edad en sus productos y que seguirá desarrollando medidas de seguridad.
Una demanda aparte se centra en la información privada de los niños.
Un día antes de que los estados presentaran sus demandas, una madre de Hawái interpuso una demanda colectiva en nombre de su hija de 12 años y su hijo de 16. Presentada ante un tribunal federal en San Francisco, la demanda alega que OpenAI obtuvo información confidencial de menores que se registraron en ChatGPT sin el permiso válido de sus padres.
Los términos de OpenAI exigen que los usuarios menores de 18 años cuenten con el permiso de sus padres o tutores legales. Sin embargo, la denuncia alega que los menores pueden crear cuentas sin que OpenAI verifique dicho permiso. También describe el caso de una menor de 13 años, la edad mínima requerida para el servicio, que continuó utilizando el chatbot después de haberle indicado explícitamente su edad.
Los demandantes alegan que la empresa utilizó información de menores para entrenar sus modelos de IA sin el consentimiento válido de sus padres. También afirman que OpenAI recopiló información para crear perfiles personales.
OpenAI refuta las acusaciones, calificando la demanda de "errónea" y haciendo hincapié en las medidas de protección que ofrece a los usuarios más jóvenes.
Controles parentales
OpenAI ha presentado ChatGPT para adolescentes, con controles parentales y alertas adicionales diseñadas para notificar a los padres en situaciones específicas que impliquen preocupaciones graves sobre autolesiones. Sin embargo, la eficacia de estas medidas de seguridad está siendo cuestionada. Common Sense Media calificó a ChatGPT para adolescentes como un "riesgo inaceptable" a principios de este mes, tras informar que sus pruebas revelaron fallos en las alertas a los padres durante conversaciones sobre suicidio, autolesiones o trastornos alimentarios.
OpenAI refuta las conclusiones y afirma que sus alertas de seguridad cubren situaciones limitadas y podrían no identificar todos los problemas. Sin embargo, por el momento, los controles parentales siguen siendo objeto de controversia.
Cómo ayudar a mantener a sus hijos seguros
Los padres no deberían tener que compensar el diseño inseguro de los productos. Desafortunadamente, no podemos considerar los controles parentales como una garantía de seguridad. Por lo tanto, aquí hay algunas medidas prácticas que las familias pueden tomar para reducir los riesgos:
- Explícale que un chatbot es un programa informático, no un amigo ni un terapeuta. Un tono amable no significa que entienda a tu hijo ni que vele por su bienestar. Establece límites claros: las preguntas sobre salud mental, autolesiones o seguridad personal deben dirigirse a un adulto de confianza o a un profesional cualificado, no a un chatbot.
- Habla con tu hijo/a sobre para qué usa la IA, sin que parezca un interrogatorio. Pídele que te muestre las aplicaciones que usa y qué le gusta de ellas. Deja claro que puede contarte cualquier conversación incómoda o desagradable sin que lo/la culpes. Si no se siente cómodo/a hablando contigo, ayúdale a encontrar a otro adulto de confianza.
- Anime a los niños a no incluir información personal en sus mensajes. Esto incluye nombres, datos escolares, direcciones, fotografías privadas e información confidencial sobre salud o familia. En ChatGPT, los padres con cuentas de adolescentes vinculadas también pueden desactivar el entrenamiento del modelo y la memoria guardada. Si bien estas configuraciones limitan ciertos usos de su información, no justifican tratar un chatbot como un diario confidencial.
- Esté atento a la creciente dependencia emocional de la IA. Si nota que su hijo recurre cada vez más a la IA en busca de tranquilidad, amistad o apoyo emocional, hable con él y ayúdelo a reconectarse con personas en las que confía.
Si tu hijo menciona autolesionarse o tener pensamientos suicidas, tómalo en serio y busca ayuda profesional de inmediato. Contacta a un profesional de la salud calificado o a un servicio de crisis. Si existe peligro inmediato, contacta a los servicios de emergencia locales. No esperes a que un chatbot o una notificación para padres te indiquen que debes actuar.
Seamos realistas, una ventana de incógnito tiene sus limitaciones.
Filtraciones de datos, comercio en la web oscura, fraude con tarjetas de crédito. Malwarebytes Identity Theft Protection lo monitoriza todo, te avisa rápidamente e incluye un seguro contra el robo de identidad.
