Petit rappel à celles et ceux qui pensent que leurs conversations avec l'IA sont privées : un humain peut voir ce que vous téléchargez. Un article de 404 Media paru cette semaine décrit comment des sous-traitants examinent les photos des utilisateurs de Copilot, leurs demandes de modification et les images produites par Copilot. Certaines de ces images sont troublantes.
Les entreprises tierces chargées de ces évaluations présentent à leurs employés une photo originale et la demande de modification formulée par un utilisateur. Deux modifications proposées par l'IA leur sont également présentées, et ils doivent les évaluer sur leurs performances techniques. Sur Internet, les demandes vont bien au-delà de simples déguisements pour Halloween. Nombre d'entre elles sont à caractère sexuel et certaines impliquent des enfants, indique le rapport. Les visages sur les photos originales ne sont pas censurés, ce qui permet aux évaluateurs d'identifier les personnes.
Les demandes de modification et les résultats que les évaluateurs sont invités à examiner incluent des requêtes visant à raccourcir les jupes, à agrandir certaines parties du corps et à placer des personnes dans des positions sexuelles. Dans de nombreux cas, les modifications semblent non consenties. Par exemple, un prestataire a mentionné avoir reçu plusieurs séries de photos prises sous les jupes. Un autre a déclaré qu'on lui avait demandé d'évaluer des images fétichistes des pieds de personnages de dessins animés pour enfants. Des utilisateurs avaient demandé à Copilot de créer des images d'Ariana Grande souffrant d'anorexie. Des images représentant des sacrifices d'animaux sont passées entre les mains d'un évaluateur.
Les personnes interrogées par 404 Media ont indiqué que les sous-traitants sont rémunérés pour évaluer la qualité d'une image, mais non pour signaler un contenu inapproprié. Ils vérifient notamment si les instructions ont été correctement suivies, si certaines parties de l'image ont été préservées ou déformées, et l'aspect général de l'image. Ils ne portent aucun jugement sur la légalité ou la sécurité du contenu.
Microsoft utilise les données clients de certains comptes pour améliorer ses produits. Cependant, interrogée par 404 Media, l'entreprise n'a pas précisé si les utilisateurs peuvent exclure leurs téléchargements de ces évaluations.
Dans sa FAQ Privacy de l'ancienne version grand public de Copilot, Microsoft indique que les conversations sont conservées par défaut pendant 18 mois, même si les utilisateurs peuvent les supprimer à tout moment. L'entreprise précise également que des données, « y compris les images ou les fichiers que vous téléchargez », peuvent être utilisées pour l'entraînement de l'IA. Les utilisateurs éligibles peuvent refuser de participer à cet entraînement, mais la FAQ indique qu'il n'est pas possible de se désinscrire de certaines évaluations humaines. Elle ne précise pas si cela inclut les tâches d'évaluation d'images décrites par 404 Media.
Microsoft affirme que l'application Copilot grand public mise à jour , disponible depuis le 18 août, n'utilise ni les invites, ni les réponses, ni le contenu des fichiers téléchargés pour entraîner les modèles de base. La question posée à Microsoft par 404 Media demeure : les utilisateurs peuvent-ils empêcher que leurs fichiers téléchargés ne soient examinés par des humains ?
Problèmes d'image précédents de Copilot
Des sources internes à Microsoft avaient déjà mis en garde contre la propension de Copilot à produire des images douteuses.
Début 2024, Shane Jones, ingénieur en apprentissage automatique, a publiquement fait part de ses inquiétudes concernant la possibilité de contourner les protections de l'outil de conversion texte-image DALL-E 3 du logiciel. Il avait auparavant demandé à Microsoft de retirer Copilot Designer, qui utilisait cet outil, de l'accès public pendant trois mois, mais Microsoft avait refusé. Son équipe en charge des retours clients recevait plus de 1 000 messages de commentaires par jour et ne traitait que les plus graves, avait-il déclaré à CNBC à l'époque.
Au même moment, Microsoft a corrigé une faille dans Copilot Designer qui permettait de créer deepfakes intimes non consensuels de Taylor Swift .
Microsoft n'est pas la seule entreprise à faire appel à des sous-traitants pour analyser les conversations avec l'IA. OpenAI procède de même dans le cadre de son initiative Project Lily . Pour en savoir plus sur la manière dont les assistants IA utilisent vos données de conversation pour s'améliorer et sur les moyens de les en empêcher, consultez la documentation. Malwarebytes ' Guide de formation de l'IA sur le contenu utilisateur.
Du signalement des menaces à leur suppression.
Les risques de cybersécurité ne devraient jamais dépasser le stade de la simple mention dans les médias. Protégez vos appareils des menaces en téléchargeant Malwarebytes dès aujourd'hui .
