Recordatorio para quienes creen que sus chats con IA son privados: un humano podría ver lo que suben. Un informe de 404 Media de esta semana describe cómo contratistas revisan las fotos de los usuarios de Copilot, las solicitudes de edición y las imágenes que genera Copilot. Algunas de las imágenes que ven son inquietantes.
Las empresas externas contratadas para realizar estas revisiones presentan a sus trabajadores una foto original y la solicitud de edición del usuario. También se les muestran dos posibles ediciones realizadas con IA y se les pide que evalúen cada una según su calidad técnica. Dado que se trata de internet, esto va mucho más allá de las peticiones para disfrazar a un gato de Halloween. Muchas de las solicitudes son de naturaleza sexual y algunas involucran a menores, según el informe. Los rostros en las fotos originales no están censurados, lo que significa que los revisores pueden ver quiénes son las personas retratadas.
Las solicitudes de edición y los resultados que se les pide a los revisores que evalúen incluyen peticiones para acortar faldas, agrandar partes del cuerpo y colocar personas en posiciones sexuales. En muchos casos, las ediciones parecen no consensuales. Por ejemplo, un contratista mencionó que le mostraron varios conjuntos de fotos tomadas por debajo de la falda. Otro dijo que le pidieron que calificara imágenes de fetichismo de pies de personajes de dibujos animados infantiles. Los usuarios le habían pedido a Copilot que creara imágenes de Ariana Grande sufriendo de anorexia. Imágenes que representaban sacrificios de animales llegaron al escritorio de un revisor.
Según informaron a 404 Media, los contratistas cobran por evaluar la calidad de la imagen, pero no por señalar contenido inapropiado. Verifican aspectos como si se siguieron correctamente las instrucciones, si se conservaron o distorsionaron partes de la imagen y su aspecto general. No emiten juicios legales ni de seguridad sobre el contenido.
Microsoft utiliza datos de clientes de algunas cuentas para mejorar sus productos. Sin embargo, cuando 404 Media preguntó al respecto, no respondió si los usuarios pueden excluir las cargas de estas tareas de calificación.
En sus preguntas frecuentes Privacy para la versión anterior de Copilot para consumidores, Microsoft indica que conserva las conversaciones durante 18 meses por defecto, aunque los usuarios pueden eliminarlas en cualquier momento. También señala que puede utilizar datos, «incluidas las imágenes o archivos que subas», para el entrenamiento de la IA. Los usuarios que cumplan los requisitos pueden optar por no participar en el entrenamiento, pero las preguntas frecuentes aclaran que no es posible excluirse de ciertas revisiones humanas. No especifica si esto incluye las tareas de calificación de imágenes descritas por 404 Media.
Microsoft afirma que la aplicación Copilot actualizada para consumidores , disponible desde el 18 de agosto, no utiliza indicaciones, respuestas ni el contenido de los archivos subidos para entrenar los modelos base. Esto deja pendiente la pregunta que 404 Media planteó a Microsoft: ¿Pueden los usuarios evitar que sus archivos subidos sean revisados por personas?
Problemas de imagen anteriores de Copilot
Fuentes internas de Microsoft han advertido en el pasado sobre la tendencia de Copilot a producir imágenes de calidad cuestionable.
A principios de 2024, el ingeniero de aprendizaje automático Shane Jones expresó públicamente su preocupación por la posibilidad de eludir las medidas de seguridad en DALL-E 3, la herramienta de conversión de texto a imagen del software. Anteriormente, había solicitado a la compañía que retirara Copilot Designer, que utilizaba dicha herramienta, del acceso público durante tres meses, pero Microsoft se negó. Según declaró a CNBC en aquel momento, su equipo de retroalimentación recibía más de 1000 mensajes diarios sobre el producto y solo atendía los más graves.
Al mismo tiempo que esto sucedía, Microsoft corrigió una vulnerabilidad en Copilot Designer que permitía a alguien crear deepfakes íntimos no consentidos de Taylor Swift .
Microsoft no es la única empresa que contrata a consultores para revisar chats de IA. OpenAI hace lo mismo como parte de su iniciativa Project Lily . Si desea obtener más información sobre cómo los asistentes de IA utilizan los datos de sus conversaciones para mejorar y qué puede hacer para evitarlo, lea Malwarebytes ' Guía para el entrenamiento de IA en contenido de usuario.
Desde denunciar las amenazas hasta eliminarlas.
Los riesgos de ciberseguridad nunca deberían trascender un simple titular. Mantén tus dispositivos protegidos contra amenazas descargando Malwarebytes hoy mismo .
