Los periodistas especializados en tecnología de 404 Media descubrieron que OpenAI está contratando a cientos de personas para leer y revisar un flujo masivo de mensajes y respuestas de usuarios reales en ChatGPT.
Según se informa, "Project Lily" es un programa que pide a los contratistas que califiquen o critiquen las respuestas de ChatGPT para mejorar la calidad y el comportamiento del chatbot.
El hecho de que las indicaciones a veces sean revisadas por humanos no debería sorprender del todo. Las empresas de IA también supervisan las conversaciones por motivos de seguridad. Anthropic, por ejemplo, afirma haber frustrado intentos de utilizar indebidamente la IA para la investigación de armas biológicas .
Pero debería existir una distinción significativa entre revisar las conversaciones por motivos de seguridad o abuso y revisarlas para la mejora general del modelo.
OpenAI afirma que un número limitado de personal autorizado y proveedores de servicios de confianza pueden acceder a los chats por varios motivos, entre ellos, investigar abusos, brindar soporte, gestionar asuntos legales y mejorar sus modelos.
OpenAI le dijo a 404 Media que utiliza un “ Privacy El modelo de "filtrado" elimina la información personal antes de que las solicitudes lleguen a los revisores, si bien reconoce que los detalles sensibles aún pueden filtrarse.
Las indicaciones se anonimizan, de modo que los revisores no ven el nombre de usuario del usuario de ChatGPT que las introdujo. Sin embargo, pueden ver detalles personales en la conversación, junto con un resumen de los recuerdos del usuario, que ofrece una visión general de cómo ese usuario ha utilizado el chatbot anteriormente. En conjunto, esta información podría revelar mucho sobre ese usuario.
A veces es fácil olvidar que no se trata de una conversación privada al interactuar con un chatbot de IA. Esto no es una advertencia alarmista sobre el uso de la IA, sino un recordatorio para tener cuidado con lo que se comparte, ya que podría ser leído y revisado.
Cómo optar por no participar en el entrenamiento de chatbots de IA
ChatGPT
OpenAI le dijo a 404 Media que los chats de los usuarios no se usarán para mejorar los modelos de la compañía si desactivan la configuración "Mejorar el modelo para todos" . Esto está activado por defecto para Free, Plus y los planes Pro, por lo que los usuarios deben desactivarlo ellos mismos si desean optar por no participar.
Sin embargo, optar por no participar no impide todo acceso humano. OpenAI afirma que el personal autorizado y los proveedores de servicios de confianza aún pueden acceder al contenido cuando sea necesario para investigar abusos o incidentes de seguridad, brindar soporte, solucionar problemas o gestionar asuntos legales.
En ChatGPT, selecciona tu icono de perfil, luego ve a Configuración > Controles de datos y desactiva la opción Mejorar el modelo para todos . En dispositivos móviles, abre la barra lateral, selecciona tu icono de perfil y sigue los mismos pasos.
Perplejidad
En Perplexity, ve a Configuración > Preferencias > Retención de datos de IA y desactiva la opción.
Perplexity afirma que esto impide que los datos recopilados después de que usted decida no participar se utilicen para entrenar modelos de IA. No elimina los datos recopilados previamente, y sus datos aún pueden procesarse para operar y mejorar el servicio o para cumplir con obligaciones legales.
Claude
En Claude, selecciona tu nombre y ve a Configuración > Privacy . En Ayudar a mejorar nuestros modelos de IA , desactiva la configuración.
Anthropic afirma que las nuevas conversaciones y sesiones de codificación ya no se utilizarán para el entrenamiento de modelos futuros. También dejará de usar las conversaciones almacenadas previamente en futuras ejecuciones de entrenamiento, aunque los datos ya incluidos en el entrenamiento no se pueden eliminar.
Anthropic también señala una importante excepción:
Si nuestros clasificadores de seguridad señalan tus conversaciones como problemáticas, aún así podrán utilizarse para mejorar nuestros modelos internos de confianza y seguridad, detectar contenido dañino, hacer cumplir nuestras políticas o avanzar en nuestra investigación sobre seguridad.
Si utiliza otras herramientas de IA, revise sus políticas de privacidad y configuraciones para averiguar si sus conversaciones pueden ser revisadas o utilizadas para mejorar el modelo y si puede optar por no participar.
Navega como si nadie te estuviera mirando.
Malwarebytes Privacy VPN tu conexión y nunca registra lo que haces, así que la próxima noticia que leas no tiene por qué parecerte algo personal.Pruébalo gratis →
